JP7760427B2 - Particle size class determination device, image size determination support device, method and program - Google Patents
Particle size class determination device, image size determination support device, method and programInfo
- Publication number
- JP7760427B2 JP7760427B2 JP2022051891A JP2022051891A JP7760427B2 JP 7760427 B2 JP7760427 B2 JP 7760427B2 JP 2022051891 A JP2022051891 A JP 2022051891A JP 2022051891 A JP2022051891 A JP 2022051891A JP 7760427 B2 JP7760427 B2 JP 7760427B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- particle size
- machine learning
- images
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
Description
本発明は、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、測定対象の粒径クラスを判定する粒径クラス判定装置、ならびに、これらでの粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する画像サイズ決定支援装置、画像サイズ決定支援方法および画像サイズ決定支援プログラムに関する。 The present invention relates to a particle size class determination device that determines the particle size class of an object to be measured when particle sizes are divided into multiple particle size classes in multiple different ranges, and to an image size determination support device, image size determination support method, and image size determination support program that support the determination of the size of an image to be used for particle size class determination.
高炉を用いた鉄鋼の生産では、採掘した鉄鉱石が用いられるだけでなく、焼結鉱も用いられている。この焼結鉱の粒子は、鉄鉱石、石灰石およびコークス等の、核となる粉体と、前記粉体の表面に付いた、前記粉体より小さいこれらの微粉体とを備えて成る疑似粒子である。例えば、最大直径15mm程度の幅広い粒度分布を持つ粉鉱石等を原料とし、1mm以上の粉鉱石等に、1mm以下の微粉鉱石等を付着させ、平均3~5mm程度の焼結鉱の粒子が、いわゆる焼結工程によって生成される。この焼結工程では、大略、原料を層状に積み重ねた積層体に対し、その上部より加熱し、その下部にて空気を吸引することによって、熱が伝達される。このため、積層体中に、空気の流通のための隙間が必要であり、通常、2mmを超えない焼結鉱の粒子は、空気の通気性を劣化させ、焼結鉱の生産性を低下させてしまう。このため、焼結工程での、通気性を劣化させる粒子の発生を回避するために、粒径や粒度分布を測定したい、というニーズがある。 In the production of steel using blast furnaces, not only mined iron ore is used, but also sintered ore. Sintered ore particles are pseudo-particles consisting of core powders, such as iron ore, limestone, and coke, and finer particles of these particles attached to the surface of the core powder. For example, fine ore with a wide particle size distribution, with a maximum diameter of approximately 15 mm, is used as raw material. Fine ore particles of 1 mm or less are attached to fine ore particles of 1 mm or more, resulting in sintered ore particles averaging approximately 3 to 5 mm through the so-called sintering process. In this sintering process, heat is transferred to a stack of raw materials stacked in layers by heating them from above and drawing air below. Therefore, gaps are required within the stack to allow air to circulate. Sintered ore particles smaller than 2 mm typically impair air permeability and reduce sinter productivity. Therefore, there is a need to measure particle size and particle size distribution to avoid the generation of particles that impair air permeability during the sintering process.
この粒度分布を測定する技術は、例えば、特許文献1に開示されている。この特許文献1に開示された土の粒度分布推定方法は、原料土からふるい分けされて複数の粒度にクラス分けされた、各々の単一粒径土の多数の画像を訓練データとして、サーバに組み込まれた人工知能による機械学習により得られた学習済みモデルによって、採取土の粒度分布を推定する土の粒度分布の推定方法であって、訓練データとなる各々の前記単一粒径土の画像は、平面視して空隙が生じない厚さで敷き均された当該単一粒径土の表面を、所定の撮影距離で撮影装置によって撮像されたものとなっていると共に、クラス分けされた各々の粒度の割合と紐図けされており、平面視して空隙が生じない厚さで敷き均された、粒度分布を推定すべき採取土の表面を前記所定の撮影距離で前記撮影装置によって撮像した画像を、前記学習済みモデルに入力して、当該採取土のクラス分けされた各々の粒度の割合を出力させることにより、採取土の粒度分布を推定する。そして、その[0029]段落には、「また、土の性質には、含水比や粒子の組成なども含まれるが、これらの性質は対象外とすることができる。本実施形態では、自然乾燥状態の現地発生土を原料土とし、この原料土をふるい分けして、訓練データとなるクラス分けした各々の粒度の単一粒径土を得ることができると共に、種々の粒度の土が混合されたままの状態の、ふるい分けされていない現地発生土の自然乾燥状態の原料土を、粒度分布を推定すべき採取土(現地発生土)として、粒度分布を推定できるようになっている。」と記載されている。 A technology for measuring this particle size distribution is disclosed, for example, in Patent Document 1. The soil particle size distribution estimation method disclosed in Patent Document 1 estimates the particle size distribution of sampled soil using a trained model obtained through machine learning by artificial intelligence installed on a server, using numerous images of each single-particle size soil, which has been sieved from raw soil and classified into multiple particle sizes, as training data. The images of each single-particle size soil that serve as training data are taken with a camera at a predetermined shooting distance of the surface of the single-particle size soil, which has been spread evenly to a thickness that leaves no voids in a planar view, and are linked to the proportions of each particle size into the classified areas. The particle size distribution of the sampled soil is estimated by inputting images taken with the camera at the predetermined shooting distance of the surface of the sampled soil, which has been spread evenly to a thickness that leaves no voids in a planar view, into the trained model and outputting the proportions of each particle size into which the sampled soil has been classified. Paragraph [0029] of the same document states, "Furthermore, soil properties also include moisture content and particle composition, but these properties can be excluded from the scope of the present invention. In this embodiment, naturally dried soil generated on-site is used as the raw soil, and this raw soil is sieved to obtain single-grain size soils of each classified grain size that serve as training data. In addition, naturally dried raw soil generated on-site that is in a state where soils of various grain sizes remain mixed and is not sieved is used as the collected soil (generated on-site soil) for which the grain size distribution is to be estimated, and the grain size distribution can be estimated."
前記特許文献1に開示された土の粒度分布推定方法は、その[0029]段落に記載されている通り、測定対象が自然乾燥状態である場合に、粒度分布を推定できる。このため、前記特許文献1に開示された土の粒度分布推定方法は、測定対象が自然乾燥状態ではない場合には適していないと考えられる。特に、焼結工程では、原料に水を加えて練り固めたものを焼き固めるので、その粒度分布の測定に、前記特許文献1に開示された土の粒度分布推定方法は、適していないと考えられる。そして、焼結工程で生成される焼結鉱の粒子は、疑似粒子であるため、粉体だけでなく前記粉体に付いた微粉体を含めて粒径を判定する必要があるが、前記特許文献1に開示された土の粒度分布推定方法は、粉体だけ、あるいは、微粉体だけで粒径分布を推定してしまう虞がある。 As described in paragraph [0029] of Patent Document 1, the soil particle size distribution estimation method disclosed in Patent Document 1 can estimate particle size distribution when the measurement object is in a naturally dried state. For this reason, the soil particle size distribution estimation method disclosed in Patent Document 1 is considered unsuitable for measurement objects that are not in a naturally dried state. In particular, in the sintering process, water is added to the raw materials, the mixture is kneaded, and then baked. Therefore, the soil particle size distribution estimation method disclosed in Patent Document 1 is considered unsuitable for measuring the particle size distribution of this mixture. Furthermore, because the sintered ore particles produced in the sintering process are pseudo-particles, it is necessary to determine the particle size of not only the powder but also the fine powder attached to the powder. However, the soil particle size distribution estimation method disclosed in Patent Document 1 may estimate the particle size distribution based only on the powder or the fine powder.
本発明は、上述の事情に鑑みて為された発明であり、その目的は、より広い判定対象の粒径クラスを判定できる粒径クラス判定装置、ならびに、これらでの粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する画像サイズ決定支援装置、画像サイズ決定支援方法および画像サイズ決定支援プログラムを提供することである。 The present invention has been made in consideration of the above-mentioned circumstances, and its purpose is to provide a particle size class determination device that can determine the particle size class of a wider range of objects to be determined, as well as an image size determination support device, image size determination support method, and image size determination support program that support the determination of the size of the image to be used for particle size class determination in these devices.
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる粒径クラス判定装置は、異なる粒径の粒子を含む複数の粒子を撮像した画像を取得する画像取得部と、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの機械学習モデル(第1機械学習モデル)によって、前記画像取得部で取得した画像における前記複数の粒径クラスそれぞれの各確率を求める粒径クラス処理部とを備え、前記複数の範囲における各境界値のいずれかは、判定目標の粒径値であり、前記機械学習モデルに入力される画像のサイズは、前記判定目標の粒径値を所定の定数で定数倍したサイズである。好ましくは、上述の粒径クラス判定において、前記判定目標の粒径値は、最小の粒径の粒径クラスに対応する範囲の上限値に設定されている。好ましくは、上述の粒径クラス判定において、前記粒径クラス処理部は、前記求めた各確率を、そのまま、前記入力された画像に対する各粒径クラスの各確率とする。 After extensive investigation, the inventors have found that the above-mentioned object can be achieved by the present invention. Specifically, a particle size class determination device according to one aspect of the present invention includes an image acquisition unit that acquires images of multiple particles, including particles of different particle sizes, and a particle size class processing unit that receives an input image and classifies the input image into a plurality of particle size classes based on particle sizes in a plurality of different ranges. The particle size class processing unit calculates the probability of each of the multiple particle size classes for the image acquired by the image acquisition unit using a machine learning model (first machine learning model) that has been machine-learned and outputs, for each of the multiple particle size classes, the probability that the input image will be classified into that particle size class. One of the boundary values in the multiple ranges is a target particle size value for determination, and the size of the image input to the machine learning model is a size obtained by multiplying the target particle size value by a predetermined constant. Preferably, in the above-mentioned particle size class determination, the target particle size value is set to the upper limit of the range corresponding to the particle size class with the smallest particle size. Preferably, in the above-mentioned particle size class determination, the particle size class processing unit directly uses the calculated probabilities as the probability of each particle size class for the input image.
発明者の知見によれば、粒径クラスを、大きな粒径の大粒径クラス、小さな粒径の小粒径クラスおよびこれらの間の中粒径クラスの3個に設定した場合、画像のサイズが小さ過ぎると、大きな粒径を写し込んだ画像では、一粒全体が写らずに粒子の輪郭が欠けるため、適切に抽出し難い。特に、粒子が疑似粒子である場合、核の粉体(後述の第1粒子の一例)に付着した微粉体(後述の第2粒子の一例)を抽出してしまう虞があり、本来の疑似粒子を抽出できない虞がある。一方、画像のサイズが大き過ぎると、画像に大きな粒子と小さな粒子とが写り込んだ場合、小さい粒子の輪郭情報が埋もれてしまう虞があり、適切に抽出し難い。このため、判定目標の粒径値に対し、画像のサイズには、最適解が存在すると考えられる。 According to the inventor's findings, when particle size classes are set to three - a large particle size class for large particle sizes, a small particle size class for small particle sizes, and a medium particle size class between these - if the image size is too small, an image capturing large particle sizes will not capture the entire particle, making it difficult to extract them properly. In particular, if the particle is a pseudo-particle, there is a risk that fine powder (an example of a second particle, described below) attached to the core powder (an example of a first particle, described below) will be extracted, making it difficult to extract the actual pseudo-particle. On the other hand, if the image size is too large and both large and small particles are captured in the image, there is a risk that the outline information of the small particle will be hidden, making it difficult to extract them properly. For this reason, it is believed that there is an optimal image size for the target particle size value.
上記粒径クラス判定装置は、複数の粒子を撮像した画像の粒径クラスの判定に、機械学習モデルを用いるので、様々な判定対象の画像で機械学習することで、より広い判定対象の粒径クラスを判定できる。この判定の際に、前記機械学習モデルに入力される画像のサイズが判定目標の粒径値を所定の定数で定数倍したサイズであるので、上記粒径クラス判定装置は、適切に粒径クラスを判定できる。特に、上記粒径クラス判定装置は、判定対象が疑似粒子である場合に、好適である。 The particle size class determination device uses a machine learning model to determine the particle size class of images of multiple particles. By performing machine learning on a variety of images of particles to be determined, it is possible to determine a wider range of particle size classes. During this determination, the size of the image input to the machine learning model is a predetermined constant multiplied by the particle size value of the determination target, allowing the particle size class determination device to appropriately determine the particle size class. The particle size class determination device is particularly suitable when the particle size to be determined is a pseudo particle.
他の一態様では、上述の粒径クラス判定装置において、前記所定の定数は、7より大きく、12より小さい値である。好ましくは、上述の粒径クラス判定装置において、前記所定の定数は、8より大きく、11より小さい値である。好ましくは、上述の粒径クラス判定装置において、前記所定の定数は、10である。 In another aspect, in the particle size class determination device described above, the predetermined constant is greater than 7 and less than 12. Preferably, in the particle size class determination device described above, the predetermined constant is greater than 8 and less than 11. Preferably, in the particle size class determination device described above, the predetermined constant is 10.
これによれば、前記所定の定数を、7より大きく、12より小さい値にした粒径クラス判定装置が提供できる。 This makes it possible to provide a particle size class determination device in which the predetermined constant is greater than 7 and less than 12.
他の一態様では、これら上述の粒径クラス判定装置において、前記粒子は、核となる第1粒子と、前記第1粒子の表面に付いた、前記第1粒子より小さい第2粒子とを備えて成る疑似粒子である。好ましくは、上述の粒径クラス判定において、前記疑似粒子は、高炉に用いられる焼結鉱の粒子である。 In another aspect, in the above-mentioned particle size class determination device, the particles are pseudo-particles comprising a first particle that serves as a nucleus and a second particle that is smaller than the first particle and attached to the surface of the first particle. Preferably, in the above-mentioned particle size class determination, the pseudo-particles are particles of sintered ore used in blast furnaces.
これによれば、疑似粒子を判定対象とした粒径クラス判定装置が提供できる。上記粒径クラス判定装置を、疑似粒子の粒径クラスの判定に用いるので、疑似粒子の粒径クラスが適切に判定できる。 This provides a particle size class determination device for determining pseudo particles. Because the particle size class determination device is used to determine the particle size class of pseudo particles, the particle size class of the pseudo particles can be determined appropriately.
他の一態様では、これら上述の粒径クラス判定装置において、前記複数の粒子を照明する照明部をさらに備え、前記画像取得部は、画像を生成する撮像部である。 In another aspect, the above-mentioned particle size class determination device further includes an illumination unit that illuminates the plurality of particles, and the image acquisition unit is an imaging unit that generates an image.
このような粒径クラス判定装置は、照明部をさらに備え、画像取得部に撮像部を用いるので、例えば工場内の製造ラインで上記粒径クラス判定装置が利用でき、生産中に粒径クラスが判定できる。 This type of particle size class determination device further includes an illumination unit and uses an imaging unit for the image acquisition unit, so the particle size class determination device can be used, for example, on a production line within a factory, allowing particle size classes to be determined during production.
本発明の他の一態様にかかる画像サイズ決定支援装置は、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する装置であって、所定の学習用データセットを取得する第1データ取得部と、所定のサイズ決定用データセットを取得する第2データ取得部と、画像が入力され、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得部で取得した所定の学習用データセットを用いて機械学習する機械学習部と、前記機械学習部で機械学習した第2機械学習モデルに、前記第2データ取得部で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習部で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力部とを備え、前記所定の学習用データセットおよび前記所定のサイズ決定用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を備え、前記複数のデータ群は、画像のサイズが互いに異なり、前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられ、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられ、前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、前記機械学習部は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、前記出力部は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習部で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習部で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する。 An image size determination assistance device according to another aspect of the present invention is a device for assisting in determining the size of an image to be used to determine a particle size class when particle sizes are divided into a plurality of different ranges as particle size classes, the device comprising: a first data acquisition unit that acquires a predetermined training dataset; a second data acquisition unit that acquires a predetermined size determination dataset; a machine learning unit that uses the predetermined training dataset acquired by the first data acquisition unit to train a second machine learning model to which an image is input and that outputs, for each of the plurality of particle size classes, a probability that the input image is classified into that particle size class; and an output unit that inputs the predetermined size determination dataset acquired by the second data acquisition unit into the second machine learning model trained by the machine learning unit and outputs each probability for each of the plurality of particle size classes output from the second machine learning model trained by the machine learning unit, the predetermined training dataset and the predetermined size determination dataset each comprising a plurality of data groups each comprising image data of a plurality of images, the plurality of data groups having different image sizes, and the plurality of images in each of the plurality of data groups in the predetermined training dataset being classified into the plurality of particle sizes. the plurality of images including images of each class, and each of the plurality of images in the data group is linked to the particle size class of the image; in each of the plurality of data groups in the specified size determination dataset, the plurality of images in the data group are multiple images including images with different content rates of particles belonging to the particle size class with the smallest particle size, and each of the plurality of images in the data group is linked to the content rate of the image; the number of the unmachine-learned second machine learning models is the same as the number of the plurality of data groups and is provided corresponding to each of the plurality of data groups; the machine learning unit trains, for each of the plurality of data groups in the specified training dataset, an unmachine-learned second machine learning model corresponding to the data group using the plurality of images in the data group; and the output unit inputs, for each of the plurality of data groups in the specified size determination dataset, the plurality of images in the data group into the second machine learning model trained by the machine learning unit using a data group in the specified training dataset that has the same image size as the image in the data group, and outputs the probability of each of the plurality of particle size classes output from the second machine learning model trained by the machine learning unit.
このような画像サイズ決定支援装置は、機械学習済みの第2学習モデルに、所定のサイズ決定用データセットを入力することによって得られた、前記複数の粒径クラスそれぞれの各確率を出力するので、ユーザは、この出力された複数の粒径クラスそれぞれの各確率と、画像に紐付けられた含有率を参照することで、複数の画像のサイズの中から、最適な画像のサイズを決定できる。したがって、上記画像サイズ決定支援装置は、ユーザによる画像のサイズの決定を好適に支援できる。よって、これによれば、これらでの粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する画像サイズ決定支援装置が提供できる。 This type of image size determination assistance device outputs the probability for each of the multiple particle size classes obtained by inputting a predetermined size determination dataset into a machine-learned second learning model. The user can then determine the optimal image size from among multiple image sizes by referencing the output probability for each of the multiple particle size classes and the content associated with the image. Therefore, the image size determination assistance device can effectively assist the user in determining the image size. This provides an image size determination assistance device that assists in determining the image size to be used to determine the particle size class.
他の一態様では、これら上述の粒径クラス判定装置において、上述の画像サイズ決定支援装置をさらに備え、前記機械学習済みの機械学習モデルには、前記機械学習部で機械学習した第2機械学習モデルが用いられる。 In another aspect, the above-mentioned particle size class determination device further includes the above-mentioned image size determination support device, and the machine-learned machine learning model uses a second machine learning model trained by the machine learning unit.
これによれば、画像のサイズの決定を支援する機能付きの粒径クラス判定装置が提供できる。上記粒径クラス判定装置は、画像サイズ決定支援装置と一体であるので、1個の装置で、画像のサイズの決定と粒径クラスの判定とを行うことができる。 This makes it possible to provide a particle size class determination device with a function to assist in determining image size. Because the particle size class determination device is integrated with the image size determination assistance device, a single device can determine image size and particle size class.
本発明の他の一態様にかかる粒径クラス判定方法は、異なる粒径の粒子を含む複数の粒子を撮像した画像を取得する画像取得工程と、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの機械学習モデルによって、前記画像取得工程で取得した画像における前記複数の粒径クラスそれぞれの各確率を求める粒径クラス処理工程とを備え、前記複数の範囲における各境界値のいずれかは、判定目標の粒径値であり、前記機械学習モデルに入力される画像のサイズは、前記判定目標の粒径値を所定の定数で定数倍したサイズである。 A particle size class determination method according to another aspect of the present invention includes an image acquisition step of acquiring an image of a plurality of particles, including particles of different particle sizes, and a particle size class processing step of inputting an image and dividing the particle sizes into a plurality of different ranges into a plurality of particle size classes, using a machine learning model that has been machine-learned to output, for each of the plurality of particle size classes, the probability that the input image will be classified into that particle size class. One of the boundary values in the plurality of ranges is a particle size value for determination, and the size of the image input to the machine learning model is the size obtained by multiplying the particle size value for determination by a predetermined constant.
本発明の他の一態様にかかる粒径クラス判定プログラムは、異なる粒径の粒子を含む複数の粒子を撮像した画像を取得する画像取得工程と、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの機械学習モデルによって、前記画像取得工程で取得した画像における前記複数の粒径クラスそれぞれの各確率を求める粒径クラス処理工程とを備える、コンピュータによって実行されるプログラムであって、前記複数の範囲における各境界値のいずれかは、判定目標の粒径値であり、前記機械学習モデルに入力される画像のサイズは、前記判定目標の粒径値を所定の定数で定数倍したサイズである。 In another aspect of the present invention, a particle size class determination program is a computer-executable program that includes an image acquisition step for acquiring images of multiple particles, including particles of different particle sizes, and a particle size class processing step for inputting an image and dividing the particle sizes into multiple different ranges into multiple particle size classes, using a machine learning model that has been machine-learned to output, for each of the multiple particle size classes, the probability that the input image will be classified into that particle size class. One of the boundary values in the multiple ranges is a target particle size value for determination, and the size of the image input to the machine learning model is the target particle size value multiplied by a predetermined constant.
このような粒径クラス判定方法および粒径クラス判定プログラムは、複数の粒子を撮像した画像の粒径クラスの判定に、機械学習モデルを用いるので、様々な判定対象の画像で機械学習することで、より広い判定対象の粒径クラスを判定できる。この判定の際に、前記機械学習モデルに入力される画像のサイズが判定目標の粒径値を所定の定数で定数倍したサイズであるので、上記粒径クラス判定方法および粒径クラス判定プログラムは、適切に粒径クラスを判定できる。特に、上記粒径クラス判定方法および粒径クラス判定プログラムは、判定対象が疑似粒子である場合に、好適である。 This particle size class determination method and particle size class determination program uses a machine learning model to determine the particle size class of images of multiple particles, so by performing machine learning on a variety of images of the particle to be determined, it is possible to determine a wider range of particle size classes for the particle to be determined. Because the size of the image input to the machine learning model during this determination is a predetermined constant multiplied by the particle size value of the determination target, the particle size class determination method and particle size class determination program can appropriately determine the particle size class. The particle size class determination method and particle size class determination program are particularly suitable when the particle to be determined is a pseudoparticle.
本発明の他の一態様にかかる画像サイズ決定支援方法は、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する方法であって、所定の学習用データセットを取得する第1データ取得工程と、所定のサイズ決定用データセットを取得する第2データ取得工程と、画像が入力され、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得工程で取得した所定の学習用データセットを用いて機械学習する機械学習工程と、前記機械学習工程で機械学習した第2機械学習モデルに、前記第2データ取得工程で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力工程とを備え、前記所定の学習用データセットおよび前記所定のサイズ決定用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を備え、前記複数のデータ群は、画像のサイズが互いに異なり、前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられ、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられ、前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、前記機械学習工程は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、前記出力工程は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習工程で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する。 An image size determination assistance method according to another aspect of the present invention is a method for assisting in determining the size of an image to be used to determine a particle size class when particle sizes are divided into a plurality of different ranges as particle size classes, the method comprising: a first data acquisition process for acquiring a predetermined training dataset; a second data acquisition process for acquiring a predetermined size determination dataset; a machine learning process for inputting an image and using the predetermined training dataset acquired in the first data acquisition process to train a second machine learning model that is not yet machine-learned and outputs, for each of the plurality of particle size classes, a probability that the input image will be classified into that particle size class; and an output process for inputting the predetermined size determination dataset acquired in the second data acquisition process into the second machine learning model trained in the machine learning process, thereby outputting the probability for each of the plurality of particle size classes output from the second machine learning model trained in the machine learning process.The predetermined training dataset and the predetermined size determination dataset each comprise a plurality of data groups each comprising image data of a plurality of images, the plurality of data groups having different image sizes, and the plurality of images in each of the plurality of data groups in the predetermined training dataset are classified into the plurality of data groups. the plurality of images including images of each particle size class, and the particle size class of each of the plurality of images in the data group is linked; the plurality of images in each of the plurality of data groups in the predetermined size determination dataset are a plurality of images including images with different content rates of particles belonging to the particle size class with the smallest particle size, and the content rate of each of the plurality of images in the data group is linked; the number of the unmachine-learned second machine learning models is the same as the number of the plurality of data groups and is provided corresponding to each of the plurality of data groups; the machine learning process, for each of the plurality of data groups in the predetermined training dataset, machine-learns an unmachine-learned second machine learning model corresponding to the data group using the plurality of images in the data group; and the output process, for each of the plurality of data groups in the predetermined size determination dataset, inputs the plurality of images in the data group into the second machine learning model machine-learned in the machine learning process using a data group in the predetermined training dataset that has the same image size as the image in the data group, thereby outputting the probability of each of the plurality of particle size classes output from the second machine learning model machine-learned in the machine learning process.
本発明の他の一態様にかかる画像サイズ決定支援プログラムは、コンピュータによって実行され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援するプログラムであって、所定の学習用データセットを取得する第1データ取得工程と、所定のサイズ決定用データセットを取得する第2データ取得工程と、画像が入力され、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得工程で取得した所定の学習用データセットを用いて機械学習する機械学習工程と、前記機械学習工程で機械学習した第2機械学習モデルに、前記第2データ取得工程で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力工程とを備え、前記所定の学習用データセットおよび前記所定のサイズ決定用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を備え、前記複数のデータ群は、画像のサイズが互いに異なり、前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられ、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられ、前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、前記機械学習工程は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、前記出力工程は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習工程で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する。 An image size determination assistance program according to another aspect of the present invention is a program that is executed by a computer and that assists in determining the size of an image to be used to determine a particle size class when particle sizes are divided into a plurality of different ranges as particle size classes. The program includes: a first data acquisition process for acquiring a predetermined training dataset; a second data acquisition process for acquiring a predetermined size determination dataset; a machine learning process for inputting an image and using the predetermined training dataset acquired in the first data acquisition process to create a second machine learning model that is not yet machine-learned and outputs, for each of the plurality of particle size classes, the probability that the input image will be classified into that particle size class; and an output process for inputting the predetermined size determination dataset acquired in the second data acquisition process into the second machine learning model that was machine-learned in the machine learning process, and outputting each probability for each of the plurality of particle size classes output from the second machine learning model that was machine-learned in the machine learning process. The predetermined training dataset and the predetermined size determination dataset each include a plurality of data groups each comprising image data for a plurality of images, the plurality of data groups having different image sizes, and each of the plurality of data groups in the predetermined training dataset includes multiple data groups each comprising image data for a plurality of images. the plurality of images are a plurality of images including an image of each of the plurality of particle size classes, and each of the plurality of images in the data group is linked to the particle size class of the image; in each of the plurality of data groups in the predetermined size determination dataset, the plurality of images in the data group are a plurality of images including images with different content rates of particles belonging to the particle size class with the smallest particle size, and each of the plurality of images in the data group is linked to the content rate of the image; the number of the unmachine-learned second machine learning models is the same as the number of the plurality of data groups and is provided corresponding to each of the plurality of data groups; the machine learning process, for each of the plurality of data groups in the predetermined training dataset, machine-learns an unmachine-learned second machine learning model corresponding to the data group using the plurality of images in the data group; and the output process, for each of the plurality of data groups in the predetermined size determination dataset, inputs the plurality of images in the data group into a second machine learning model machine-learned in the machine learning process using a data group in the predetermined training dataset having the same image size as the image in the data group, thereby outputting the probability of each of the plurality of particle size classes output from the second machine learning model machine-learned in the machine learning process.
このような画像サイズ決定支援方法および画像サイズ決定支援プログラムは、機械学習済みの第2学習モデルに、所定のサイズ決定用データセットを入力することによって得られた、前記複数の粒径クラスそれぞれの各確率を出力するので、ユーザは、この出力された複数の粒径クラスそれぞれの各確率と、画像に紐付けられた含有率を参照することで、複数の画像のサイズの中から、最適な画像のサイズを決定できる。したがって、上記画像サイズ決定支援方法および画像サイズ決定支援プログラムは、ユーザによる画像のサイズの決定を好適に支援できる。よって、これらによれば、これらでの粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する画像サイズ決定支援方法および画像サイズ決定支援プログラムが提供できる。 Such image size determination support methods and programs output the probabilities for each of the multiple particle size classes obtained by inputting a predetermined size determination dataset into a machine-learned second learning model. A user can then determine the optimal image size from among multiple image sizes by referencing the output probabilities for each of the multiple particle size classes and the content associated with the image. Therefore, the image size determination support methods and programs described above can effectively assist users in determining image sizes. Therefore, these provide an image size determination support method and program that assists users in determining the size of an image to be used to determine particle size classes.
本発明にかかる粒径クラス判定装置は、より広い判定対象の粒径クラスを判定できる。本発明によれば、これらでの粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する画像サイズ決定支援装置、画像サイズ決定支援方法および画像サイズ決定支援プログラムが提供できる。 The particle size class determination device according to the present invention can determine the particle size class of a wider range of objects to be determined. According to the present invention, an image size determination support device, an image size determination support method, and an image size determination support program can be provided that support the determination of the size of an image used for particle size class determination.
以下、図面を参照して、本発明の1または複数の実施形態が説明される。しかしながら、発明の範囲は、開示された実施形態に限定されない。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。 One or more embodiments of the present invention will be described below with reference to the drawings. However, the scope of the invention is not limited to the disclosed embodiments. Components with the same reference numerals in each drawing are identical components, and their description will be omitted where appropriate. In this specification, generic reference numerals are used without subscripts to refer to components, and subscripted reference numerals are used to refer to individual components.
実施形態における粒径クラス判定装置は、異なる粒径の粒子を含む複数の粒子を撮像した画像を取得する画像取得部と、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの機械学習モデル(第1機械学習モデル)によって、前記画像取得部で取得した画像における前記複数の粒径クラスそれぞれの各確率を求める粒径クラス処理部とを備える。前記複数の範囲における各境界値のいずれかは、判定目標の粒径値であり、前記第1機械学習モデルに入力される画像のサイズは、前記判定目標の粒径値を所定の定数で定数倍したサイズである。そして、実施形態における画像サイズ決定支援装置は、粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援する装置である。この画像サイズ決定支援装置は、所定の学習用データセットを取得する第1データ取得部と、所定のサイズ決定用データセットを取得する第2データ取得部と、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得部で取得した所定の学習用データセットを用いて機械学習する機械学習部と、前記機械学習部で機械学習した第2機械学習モデルに、前記第1データ取得部で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習部で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力部とを備える。前記所定の学習用データセットおよび前記所定の検証用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を備え、前記複数のデータ群は、画像のサイズが互いに異なる。前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられている。前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられている。そして、前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、前記機械学習部は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、前記出力部は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習部で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習部で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する。以下、このような粒径クラス判定装置、これに実装される粒径クラス判定方法およびこれに実装される粒径クラス判定プログラム、ならびに、画像サイズ決定支援装置、これに実装される画像サイズ決定支援方法およびこれに実装される画像サイズ決定支援プログラムについて、これら粒径クラス判定装置と画像サイズ決定支援装置とを一体にした、画像サイズ決定支援機能付きの粒径クラス判定装置によって、より具体的に説明する。 The particle size class determination device in one embodiment includes an image acquisition unit that acquires images of multiple particles, including particles of different particle sizes, and a particle size class processing unit that, when an image is input and particle sizes are divided into multiple different ranges as multiple particle size classes, calculates the probability of each of the multiple particle size classes for the image acquired by the image acquisition unit using a machine learning model (first machine learning model) that has been machine-learned and outputs, for each of the multiple particle size classes, the probability that the input image will be classified into that particle size class. One of the boundary values in the multiple ranges is a target particle size value for determination, and the size of the image input to the first machine learning model is the target particle size value multiplied by a predetermined constant. The image size determination support device in one embodiment is a device that supports the determination of the size of an image to be used for particle size class determination. This image size determination assistance device includes: a first data acquisition unit that acquires a predetermined training dataset; a second data acquisition unit that acquires a predetermined size determination dataset; a machine learning unit that uses the predetermined training dataset acquired by the first data acquisition unit to train a second machine learning model that, when an image is input and particle sizes are divided into a plurality of particle size classes with different particle sizes, outputs, for each of the plurality of particle size classes, a probability that the input image will be classified into that particle size class; and an output unit that inputs the predetermined size determination dataset acquired by the first data acquisition unit to the second machine learning model trained by the machine learning unit, and outputs each probability for each of the plurality of particle size classes output from the second machine learning model trained by the machine learning unit. The predetermined training dataset and the predetermined validation dataset each include a plurality of data groups each containing image data of a plurality of images, and the plurality of data groups have different image sizes. In each of the plurality of data groups in the predetermined training dataset, the plurality of images in the data group include a plurality of images each containing an image of the plurality of particle size classes, and each of the plurality of images in the data group is associated with a particle size class for the image. In each of the plurality of data groups in the predetermined size determination dataset, the plurality of images in the data group are a plurality of images including images with different content rates of particles belonging to a particle size class with a smallest particle size, and the content rate of each of the plurality of images in the data group is linked to the plurality of images in the data group. The number of the unmachine-learned second machine-learning models is the same as the number of the plurality of data groups, and the number is provided corresponding to each of the plurality of data groups. The machine learning unit trains, for each of the plurality of data groups in the predetermined training dataset, an unmachine-learned second machine-learning model corresponding to the data group using the plurality of images in the data group. The output unit inputs, for each of the plurality of data groups in the predetermined size determination dataset, the plurality of images in the data group to the second machine-learning model trained by the machine learning unit using a data group in the predetermined training dataset having the same image size as the image in the data group, and outputs the probability of each of the plurality of particle size classes output from the second machine-learning model trained by the machine learning unit. Below, we will explain in more detail the particle size class determination device, the particle size class determination method implemented therein, and the particle size class determination program implemented therein, as well as the image size determination support device, the image size determination support method implemented therein, and the image size determination support program implemented therein, using a particle size class determination device with image size determination support functions that integrates the particle size class determination device and image size determination support device.
図1は、実施形態にかかる画像サイズ決定支援機能付きの粒径クラス判定装置の構成を示すブロック図である。図2は、前記粒径クラス判定装置における画像取得部および照明部を製造ラインに配置した状況を説明するための模式図である。図3は、学習用データセットおよび検証用データセットを説明するための図である。図3Aは、一例として、粒径が2mm以下である複数の粒子を撮像した画像を示し、図3Bは、一例として、粒径が2mmを超え2.8mm以下である複数の粒子を撮像した画像を示し、図3Cは、一例として、粒径が2.8mmを超え4.75mm以下である複数の粒子を撮像した画像を示す。図3Dは、図3Aに示す画像を複数に分割する様子を示し、図3Eは、図3Bに示す画像を複数に分割する様子を示し、図3Fは、図3Cに示す画像を複数に分割する様子を示す。図3Gは、一例として、第1分割サイズで分割した複数のデータ群の画像群を示し、図3Hは、一例として、第2分割サイズで分割した複数のデータ群の画像群を示し、図3Iは、一例として、第3分割サイズで分割した複数のデータ群の画像群を示し、図3Jは、一例として、第4分割サイズで分割した複数のデータ群の画像群を示す。図4は、前記粒径クラス判定装置における機械学習モデルを説明するための図である。図5は、サイズ決定用データセットを説明するための図である。図5Aは、一例として、粉率20%のデータ群における複数の画像を示し、図5Bは、一例として、粉率30%のデータ群における複数の画像を示し、図5Cは、一例として、粉率40%のデータ群における複数の画像を示し、図5Dは、一例として、粉率50%のデータ群における複数の画像を示す。 Figure 1 is a block diagram showing the configuration of a particle size class determination device with an image size determination support function according to an embodiment. Figure 2 is a schematic diagram illustrating a situation in which the image acquisition unit and illumination unit of the particle size class determination device are arranged on a production line. Figure 3 is a diagram illustrating a training dataset and a validation dataset. Figure 3A shows, as an example, an image of multiple particles with a particle size of 2 mm or less. Figure 3B shows, as an example, an image of multiple particles with a particle size of more than 2 mm but not more than 2.8 mm. Figure 3C shows, as an example, an image of multiple particles with a particle size of more than 2.8 mm but not more than 4.75 mm. Figure 3D shows how the image shown in Figure 3A is divided into multiple parts. Figure 3E shows how the image shown in Figure 3B is divided into multiple parts. Figure 3F shows how the image shown in Figure 3C is divided into multiple parts. FIG. 3G shows, as an example, a group of images of multiple data groups divided by a first division size; FIG. 3H shows, as an example, a group of images of multiple data groups divided by a second division size; FIG. 3I shows, as an example, a group of images of multiple data groups divided by a third division size; and FIG. 3J shows, as an example, a group of images of multiple data groups divided by a fourth division size. FIG. 4 is a diagram illustrating a machine learning model in the particle size class determination device. FIG. 5 is a diagram illustrating a size determination dataset. FIG. 5A shows, as an example, multiple images of a data group with a 20% powder content; FIG. 5B shows, as an example, multiple images of a data group with a 30% powder content; FIG. 5C shows, as an example, multiple images of a data group with a 40% powder content; and FIG. 5D shows, as an example, multiple images of a data group with a 50% powder content.
実施形態における粒径クラス判定装置Dは、例えば、図1に示すように、画像取得部1と、照明部2と、制御処理部3と、入力部4と、出力部5と、インターフェース部(IF部)6と、記憶部7とを備える。 In this embodiment, the particle size class determination device D includes, for example, an image acquisition unit 1, an illumination unit 2, a control processing unit 3, an input unit 4, an output unit 5, an interface unit (IF unit) 6, and a memory unit 7, as shown in FIG. 1.
画像取得部1は、制御処理部3に接続され、制御処理部3の制御に従って、異なる粒径の粒子を含む複数の粒子を撮像した画像を取得するものである。前記粒子は、任意の粒子であってよいが、本実施形態では、前記粒子は、例えば、核となる第1粒子と、前記第1粒子の表面に付いた、前記第1粒子より小さい1または複数の第2粒子とを備えて成る疑似粒子である。より具体的には、前記粒子は、上述した、鉄鉱石、石灰石およびコークス等の、核となる粉体(第1粒子の一例)と、前記粉体の表面に付いた、前記粉体より小さいこれらの微粉体(第2粒子の一例)とを備えて成る焼結鉱の粒子(焼結鉱粒子)である。このような焼結鉱は、好ましくは、高炉で用いられる。画像取得部1は、本実施形態では、焼結工程中に、焼結工程後における複数の焼結鉱粒子の画像を取得するために、画像取得部1は、例えば、画像を生成する撮像部1であり、この撮像部1は、図2に示すように、焼結工程後における各焼結鉱粒子を搬送するベルトコンベアBCの上方に、前記ベルトコンベアBC上の各焼結鉱粒子を俯瞰できるように、配設される。より詳しくは、前記撮像部1は、その光軸を、前記ベルトコンベアBCの搬送面(各焼結鉱粒子が載る面)の法線方向に一致させ、前記ベルトコンベアBCの直上に配設される。前記撮像部1は、前記ベルトコンベアBCにおける幅方向(搬送方向に直交する方向)の全体を撮像できる画角であることが好ましい。焼結工程後の各焼結鉱粒子を撮像し、その粒径クラスを判定することで、その判定結果に応じて焼結工程の焼結条件が調整でき、焼結工程を最適化して効率的に焼結工程が実施できる。このような撮像部1は、例えば、撮像対象における光学像を所定の結像面上に結像する結像光学系、前記結像面に受光面を一致させて配置され、前記撮像対象における光学像を電気的な信号に変換するエリアイメージセンサ、および、エリアイメージセンサの出力を画像処理することで前記撮像対象における画像を表すデータである画像データを生成する画像処理部等を備えるデジタルカメラである。 The image acquisition unit 1 is connected to the control processing unit 3 and, under the control of the control processing unit 3, acquires images of multiple particles, including particles of different particle sizes. The particles may be any type of particle, but in this embodiment, the particles are pseudo-particles, for example, comprising a first particle serving as a nucleus and one or more second particles smaller than the first particle attached to the surface of the first particle. More specifically, the particles are sintered ore particles (sintered ore particles) comprising a nucleus powder (an example of a first particle) such as iron ore, limestone, or coke, and fine particles smaller than the powder (an example of a second particle) attached to the surface of the powder. Such sintered ore is preferably used in blast furnaces. In this embodiment, the image acquisition unit 1 is, for example, an imaging unit 1 that generates images during the sintering process to acquire images of the sintered ore particles after the sintering process. As shown in FIG. 2 , the imaging unit 1 is disposed above the belt conveyor BC that transports the sintered ore particles so as to obtain a bird's-eye view of the sintered ore particles on the belt conveyor BC. More specifically, the imaging unit 1 is disposed directly above the belt conveyor BC, with its optical axis aligned with the normal direction of the conveying surface (the surface on which the sintered ore particles are placed) of the belt conveyor BC. The imaging unit 1 preferably has an angle of view that allows it to capture the entire width direction (direction perpendicular to the conveying direction) of the belt conveyor BC. By capturing images of the sintered ore particles after the sintering process and determining their particle size class, the sintering conditions of the sintering process can be adjusted according to the determination results, optimizing the sintering process and efficiently performing it. Such an imaging unit 1 is, for example, a digital camera equipped with an imaging optical system that forms an optical image of the imaging subject on a predetermined imaging plane, an area image sensor that is positioned so that its light-receiving surface is aligned with the imaging plane and converts the optical image of the imaging subject into an electrical signal, and an image processing unit that processes the output of the area image sensor to generate image data that represents the image of the imaging subject.
なお、画像取得部1は、撮像部1に限らず、他の装置であってもよい。例えば、画像取得部1は、外部の機器との間でデータを入出力するインターフェース回路である。前記外部の機器は、異なる粒径の粒子を含む複数の粒子を撮像した画像を記憶した、例えばUSB(Universal Serial Bus)メモリおよびSDカード(登録商標)等の記憶媒体である。あるいは、前記外部の機器は、前記画像を記録した、例えばCD-ROM(Compact Disc Read Only Memory)、CD-R(Compact Disc Recordable)、DVD-ROM(Digital Versatile Disc Read Only Memory)およびDVD-R(Digital Versatile Disc Recordable)等の記録媒体からデータを読み込むドライブ装置である。この画像取得部1としてのインターフェース回路は、有線または無線によって前記外部の機器に接続されてよい。あるいは、画像取得部1は、例えば、外部の機器と通信信号を送受信する通信インターフェース回路であって、前記外部の機器は、ネットワーク(WAN(Wide Area Network、公衆通信網を含む))あるいはLAN(Local Area Network)を介して前記通信インターフェース回路に接続され、前記画像を管理するサーバ装置である。このような画像取得部1では、製造中ではなくても、画像の粒径クラスが判定でき、過去の焼結工程が検証できる。ここで、画像取得部1がインターフェース回路や通信インターフェース回路である場合では、画像取得部1は、IF部6と兼用されてもよい(すなわち、IF部6が画像取得部1として用いられてもよい)。 Note that the image acquisition unit 1 is not limited to the imaging unit 1 and may be another device. For example, the image acquisition unit 1 is an interface circuit that inputs and outputs data to and from an external device. The external device is a storage medium, such as a USB (Universal Serial Bus) memory or an SD card (registered trademark), that stores images of multiple particles, including particles of different particle sizes. Alternatively, the external device may be a drive device that reads data from a recording medium on which the image is recorded, such as a CD-ROM (Compact Disc Read Only Memory), a CD-R (Compact Disc Recordable), a DVD-ROM (Digital Versatile Disc Read Only Memory), or a DVD-R (Digital Versatile Disc Recordable). The interface circuit serving as the image acquisition unit 1 may be connected to the external device by wire or wirelessly. Alternatively, the image acquisition unit 1 may be, for example, a communication interface circuit that sends and receives communication signals to and from an external device, and the external device may be a server device that manages the images and is connected to the communication interface circuit via a network (WAN (Wide Area Network, including a public communication network)) or LAN (Local Area Network). With this type of image acquisition unit 1, the particle size class of the image can be determined even when production is not in progress, and past sintering processes can be verified. Here, if the image acquisition unit 1 is an interface circuit or a communication interface circuit, the image acquisition unit 1 may also serve as the IF unit 6 (i.e., the IF unit 6 may be used as the image acquisition unit 1).
照明部2は、制御処理部3に接続され、制御処理部3の制御に従って、判定対象である前記複数の粒子を照明する装置である。本実施形態では、照明部2は、図2に示すように、4個の第1ないし第4照明部2-1~2-4を備え、これら第1ないし第4照明部2-1~2-4は、撮像部1を四方から囲み、前記ベルトコンベアBC上の各焼結鉱粒子を照明できるように、配設される。より具体的には、前記ベルトコンベアBCの搬送面に平行な仮想平面上に、正方形を仮想的に設定した場合に、撮像部1は、その光軸が前記正方形の中心(2対角線の交点)を通るように配置され、第1ないし第4照明部2-1~2-4は、前記正方形の四隅(四角)に1つずつ、その光軸が、前記撮像部1の光軸が前記ベルトコンベアBCの搬送面と交わる交点を通るように、配設される。なお、照明部2は、マニュアル操作により、オンオフされてもよい。 The illumination unit 2 is connected to the control processing unit 3 and illuminates the plurality of particles to be evaluated under the control of the control processing unit 3. In this embodiment, as shown in FIG. 2, the illumination unit 2 includes four illumination units, first through fourth, 2-1 through 2-4, which surround the imaging unit 1 on all four sides and are arranged so as to illuminate each sintered ore particle on the belt conveyor BC. More specifically, if a virtual square is defined on a virtual plane parallel to the conveying surface of the belt conveyor BC, the imaging unit 1 is arranged so that its optical axis passes through the center of the square (the intersection of two diagonals), and the first through fourth illumination units 2-1 through 2-4 are arranged, one at each of the four corners of the square, so that their optical axes pass through the intersections where the optical axis of the imaging unit 1 intersects with the conveying surface of the belt conveyor BC. The illumination unit 2 may be turned on and off manually.
入力部4は、制御処理部3に接続され、例えば、支援開始を指示するコマンドや判定開始を指示するコマンド等の各種コマンド、および、支援の結果、求められた画像のサイズ等の、画像サイズ決定支援機能付きの粒径クラス判定装置Dを動作させる上で必要な各種データを粒径クラス判定装置Dに入力する機器であり、例えば、所定の機能を割り付けられた複数の入力スイッチ、キーボードおよびマウス等である。出力部5は、制御処理部3に接続され、制御処理部3の制御に従って、入力部4から入力されたコマンドやデータおよび判定結果の粒径クラス等を出力する機器であり、例えばCRTディスプレイ、LCD(液晶表示装置)および有機ELディスプレイ等の表示装置やプリンタ等の印刷装置等である。 The input unit 4 is connected to the control processing unit 3 and is a device that inputs various commands, such as commands to start assistance and commands to start judgment, as well as various data required to operate the particle size class judgment device D with image size determination assistance function, such as the image size determined as a result of the assistance, to the particle size class judgment device D. This device may be, for example, multiple input switches assigned with specified functions, a keyboard, or a mouse. The output unit 5 is connected to the control processing unit 3 and is a device that outputs the commands and data input from the input unit 4 and the particle size class of the judgment results under the control of the control processing unit 3. This device may be, for example, a display device such as a CRT display, LCD (liquid crystal display), or organic EL display, or a printing device such as a printer.
なお、入力部4および出力部5は、タッチパネルより構成されてもよい。このタッチパネルを構成する場合において、入力部4は、例えば抵抗膜方式や静電容量方式等の操作位置を検出して入力する位置入力装置であり、出力部5は、表示装置である。このタッチパネルでは、表示装置の表示面上に位置入力装置が設けられ、表示装置に入力可能な1または複数の入力内容の候補が表示され、ユーザが、入力したい入力内容を表示した表示位置に触れると、位置入力装置によってその位置が検出され、検出された位置に表示された表示内容がユーザの操作入力内容として粒径クラス判定装置Dに入力される。このようなタッチパネルでは、ユーザは、入力操作を直感的に理解し易いので、ユーザにとって取り扱い易い粒径クラス判定装置Dが提供される。 The input unit 4 and output unit 5 may be configured as a touch panel. In this touch panel configuration, the input unit 4 is a position input device, such as a resistive or capacitive type, that detects and inputs an operation position, and the output unit 5 is a display device. In this touch panel, a position input device is provided on the display surface of the display device, and one or more input content candidates that can be input to the display device are displayed. When a user touches the display position showing the input content they want to input, the position is detected by the position input device, and the display content displayed at the detected position is input to the particle size class determination device D as the user's operation input content. Such a touch panel makes it easy for users to intuitively understand input operations, providing a particle size class determination device D that is easy for users to use.
IF部6は、制御処理部3に接続され、制御処理部3の制御に従って、例えば、外部の機器との間でデータを入出力する回路であり、例えば、シリアル通信方式であるRS-232Cのインターフェース回路、Bluetooth(登録商標)規格を用いたインターフェース回路、および、USB規格を用いたインターフェース回路等である。また、IF部6は、例えば、データ通信カードや、IEEE802.11規格等に従った通信インターフェース回路等の、外部の機器と通信信号を送受信する通信インターフェース回路であってもよい。 The IF unit 6 is connected to the control processing unit 3 and is a circuit that inputs and outputs data to and from external devices under the control of the control processing unit 3. For example, it may be an interface circuit for the RS-232C serial communication method, an interface circuit using the Bluetooth (registered trademark) standard, or an interface circuit using the USB standard. The IF unit 6 may also be a communications interface circuit that transmits and receives communications signals to and from external devices, such as a data communications card or a communications interface circuit conforming to the IEEE 802.11 standard.
入力部4は、後述の所定の学習用データセットの入力や検証用データセットの入力を受け付け、取得し、後述の所定のサイズ決定用データセットの入力を受け付け、取得する。入力部4は、所定の学習用データセットを取得する第1データ取得部の一例に相当し、所定のサイズ決定用データセットを取得する第2データ取得部の一例に相当する。あるいは、IF部6は、所定の学習用データセットを記憶した記憶媒体、所定の学習用データセットを記録した記録媒体、または、所定の学習用データセットを管理するサーバ装置から、前記所定の学習用データセットを取得する。IF部6は、所定のサイズ決定用データセットを記憶した記憶媒体、所定のサイズ決定用データセットを記録した記録媒体、または、所定のサイズ決定用データセットを管理するサーバ装置から、前記所定のサイズ決定用データセットを取得する。IF部6は、前記第1データ取得部の他の一例に相当し、前記第2データ取得部の他の一例に相当する。 The input unit 4 accepts and acquires input of a predetermined training dataset and a validation dataset, which will be described later, and accepts and acquires input of a predetermined sizing dataset, which will be described later. The input unit 4 corresponds to an example of a first data acquisition unit that acquires a predetermined training dataset, and corresponds to an example of a second data acquisition unit that acquires a predetermined sizing dataset. Alternatively, the IF unit 6 acquires the predetermined training dataset from a storage medium that stores the predetermined training dataset, a recording medium that records the predetermined training dataset, or a server device that manages the predetermined training dataset. The IF unit 6 acquires the predetermined sizing dataset from a storage medium that stores the predetermined sizing dataset, a recording medium that records the predetermined sizing dataset, or a server device that manages the predetermined sizing dataset. The IF unit 6 corresponds to another example of the first data acquisition unit and another example of the second data acquisition unit.
記憶部7は、制御処理部3に接続され、制御処理部3の制御に従って、各種の所定のプログラムおよび各種の所定のデータを記憶する回路である。前記各種の所定のプログラムには、例えば、制御処理プログラムが含まれ、前記制御処理プログラムには、例えば、粒径クラス判定装置Dの各部1、2、4~7を当該各部の機能に応じてそれぞれ制御する制御プログラムや、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得部(本実施形態では入力部4やIF部6)で取得した所定の学習用データセットを用いて機械学習する機械学習プログラムや、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの機械学習モデル(第1機械学習モデル)によって、前記画像取得部で取得した画像における前記複数の粒径クラスそれぞれの各確率を求める粒径クラス処理プログラムや、前記画像取得部1で取得した画像を、入力部4で受け付けた画像のサイズに調整する画像サイズ調整プログラム等が含まれる。本実施形態では、機械学習済みの第1機械学習モデルには、前記機械学習プログラムによって機械学習した機械学習済みの第2機械学習モデルが用いられる。前記各種の所定のデータには、例えば、画像取得部1で取得した画像、学習用データセット、後述の検証用データセットおよびサイズ決定用データセット等の、これら各プログラムを実行する上で必要なデータが含まれる。このような記憶部7は、例えば不揮発性の記憶素子であるROM(Read Only Memory)や書き換え可能な不揮発性の記憶素子であるEEPROM(Electrically Erasable Programmable Read Only Memory)等を備える。そして、記憶部7は、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる制御処理部3のワーキングメモリとなるRAM(Random Access Memory)等を含む。また、記憶部7は、比較的記憶容量の大きいハードディスク装置を備えて構成されてもよい。 The memory unit 7 is connected to the control processing unit 3 and is a circuit that stores various specified programs and various specified data in accordance with the control of the control processing unit 3. The various predetermined programs include, for example, a control processing program, which includes, for example, a control program that controls each of the units 1, 2, 4 to 7 of the particle size class determination device D according to the function of each unit; a machine learning program that uses a predetermined learning dataset acquired by the first data acquisition unit (input unit 4 and IF unit 6 in this embodiment) to train a second machine learning model that is not yet machine-learned and that outputs, for each of the plurality of particle size classes, the probability that the input image will be classified into that particle size class when an image is input and particle sizes are divided into a plurality of different ranges; a particle size class processing program that uses a machine-learned machine learning model (first machine learning model) that is input and outputs, for each of the plurality of particle size classes, the probability that the input image will be classified into that particle size class when an image is input and particle sizes are divided into a plurality of different ranges; and an image size adjustment program that adjusts the image acquired by the image acquisition unit 1 to the size of the image accepted by the input unit 4. In this embodiment, the first machine-learned model is a second machine-learned model trained by the machine learning program. The various types of predetermined data include, for example, images acquired by the image acquisition unit 1, a training dataset, a validation dataset and a size determination dataset (described below), and other data required to execute each program. The storage unit 7 includes, for example, a non-volatile storage element such as a ROM (Read Only Memory) or a rewritable non-volatile storage element such as an EEPROM (Electrically Erasable Programmable Read Only Memory). The storage unit 7 also includes a RAM (Random Access Memory), which serves as the working memory of the control processing unit 3 and stores data generated during execution of the predetermined program. The storage unit 7 may also be configured with a hard disk drive with a relatively large storage capacity.
制御処理部3は、粒径クラス判定装置Dの各部1、2、4~7を当該各部の機能に応じてそれぞれ制御し、異なる粒径の粒子を含む複数の粒子を撮像した画像に基づいて前記粒子の粒径クラスを判定し、前記粒径クラスの判定に用いる画像のサイズを決定する際に、前記決定を支援するための回路である。制御処理部3は、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成される。制御処理部3は、制御処理プログラムが実行されることによって、制御部31、機械学習部32、粒径クラス処理部33および画像サイズ調整部34を機能的に備える。 The control processing unit 3 is a circuit that controls each of the units 1, 2, 4-7 of the particle size class determination device D according to the function of each unit, determines the particle size class of a particle based on an image of multiple particles including particles of different particle sizes, and assists in determining the size of the image used to determine the particle size class. The control processing unit 3 is configured, for example, with a CPU (Central Processing Unit) and its peripheral circuits. By executing a control processing program, the control processing unit 3 functionally comprises a control unit 31, a machine learning unit 32, a particle size class processing unit 33, and an image size adjustment unit 34.
制御部11は、粒径クラス判定装置Dの各部1、2、4~7を当該各部の機能に応じてそれぞれ制御し、粒径クラス判定装置Dの全体制御を司るものである。 The control unit 11 controls each of the units 1, 2, 4-7 of the particle size class determination device D according to the function of each unit, and is responsible for the overall control of the particle size class determination device D.
機械学習部32は、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得部(本実施形態では入力部4やIF部6)で取得した所定の学習用データセットを用いて機械学習するものである。 The machine learning unit 32 uses a predetermined learning dataset acquired by the first data acquisition unit (in this embodiment, the input unit 4 or IF unit 6) to train a second machine learning model that, when an image is input and particle sizes are divided into multiple particle size classes with different ranges, outputs the probability that the input image will be classified into each of the multiple particle size classes.
前記所定の学習用データセットは、複数の画像の各画像データを備える複数のデータ群を備える。前記複数のデータ群は、画像のサイズが互いに異なる。前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられている。したがって、機械学習部32は、前記未機械学習の第2機械学習モデルを教師ありで分類問題として機械学習する。 The predetermined training dataset comprises multiple data groups each containing image data of multiple images. The multiple data groups have different image sizes. In each of the multiple data groups in the predetermined training dataset, the multiple images in the data group are multiple images including images of each of the multiple particle size classes, and each of the multiple images in the data group is linked to the particle size class of the image. Therefore, the machine learning unit 32 performs supervised machine learning of the untrained second machine learning model as a classification problem.
そして、前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備える。前記機械学習部32は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習する。 The number of the untrained second machine learning models is the same as the number of the multiple data groups, and is provided for each of the multiple data groups. For each of the multiple data groups in the specified training dataset, the machine learning unit 32 trains an untrained second machine learning model corresponding to that data group using multiple images in that data group.
本実施形態では、粒子は、上述したように、焼結工程後の焼結鉱粒子であり、粒径クラス判定装置Dは、これをベルトコンベアBCで搬送中に撮像した画像に基づいて粒径クラスを判定する。このベルトコンベアBC上における複数の焼結鉱粒子は、発明者の知見によれば、局所的に略同一粒径で存在する。本実施形態では、この略同一粒径で局在する各焼結鉱粒子を、大中小の3個の粒径クラスのいずれかに分類することとする。そして、本実施形態では、効率的に焼結工程を運用するために、2mmを超えない焼結鉱粒子を検出することが目的となる。このため、本実施形態では、前記3個の粒径クラスは、前記複数の焼結鉱粒子に、通常、観察される粒径を勘案することによって、JIS規格(JIS Z8801-1)の篩で分別可能な、粒径が2mm以下の粒子(すなわち、前記2mmを超えない焼結鉱粒子、小粒径粒子)の粒径クラス(小粒径クラス)、粒径が2mmを超え2.8mm以下の粒子(中粒径粒子)の粒径クラス(中粒径クラス)、および、粒径が2.8mmを超え4.75mm以下の粒子(大粒径粒子)の粒径クラス(大粒径クラス)とする。 In this embodiment, as described above, the particles are sintered ore particles after the sintering process, and the particle size class determination device D determines the particle size class based on images taken while the particles are being transported on the belt conveyor BC. According to the inventor's knowledge, multiple sintered ore particles on this belt conveyor BC exist locally with approximately the same particle size. In this embodiment, each sintered ore particle that is locally present with approximately the same particle size is classified into one of three particle size classes: large, medium, and small. In this embodiment, the objective is to detect sintered ore particles that do not exceed 2 mm in size in order to operate the sintering process efficiently. For this reason, in this embodiment, the three particle size classes are determined by taking into account the particle sizes typically observed in the sintered ore particles: a particle size class (small particle size class) of particles with a particle size of 2 mm or less (i.e., sintered ore particles not exceeding 2 mm, small particle size particles) that can be separated using a sieve according to JIS standards (JIS Z8801-1); a particle size class (medium particle size class) of particles with a particle size of more than 2 mm and not more than 2.8 mm (medium particle size class); and a particle size class (large particle size class) of particles with a particle size of more than 2.8 mm and not more than 4.75 mm (large particle size particles).
発明者の知見によれば、粒径クラスを、このような大中小の3個の粒径クラスに設定した場合、画像のサイズが小さ過ぎると、大きな粒径を写し込んだ画像では、一粒全体が写らずに粒子の輪郭が欠けるため、適切に抽出し難い。特に、粒子が疑似粒子の焼結鉱粒子である場合、核の粉体に付着した微粉体を抽出してしまう虞があり、本来の疑似粒子の焼結鉱粒子を抽出できない虞がある。一方、画像のサイズが大き過ぎると、画像に大きな粒子と小さな粒子とが写り込んだ場合、小さい粒子の輪郭情報が埋もれてしまう虞があり、適切に抽出し難い。このため、判定目標の粒径値に対し、画像のサイズ(画像の大きさ)には、最適解が存在すると考えられる。本実施形態では、前記2mmを超えない焼結鉱粒子を検出ことが目的であるから、判定目標の粒径値は、前記2mmとなる。 According to the inventor's findings, when particle size classes are set to three particle size classes (large, medium, and small), if the image size is too small, an image capturing large particle sizes will not capture the entire particle, resulting in a loss of particle outline, making it difficult to properly extract the particles. In particular, if the particles are pseudo-particles of sintered ore, there is a risk that fine powder adhering to the core powder will be extracted, making it difficult to extract the actual pseudo-particles of sintered ore. On the other hand, if the image size is too large, when large and small particles are captured in the image, the outline information of the small particles may be hidden, making proper extraction difficult. For this reason, it is believed that there is an optimal solution for the image size (image size) relative to the target particle size value. In this embodiment, the objective is to detect sintered ore particles that do not exceed 2 mm, so the target particle size value is 2 mm.
このため、前記所定の学習用データセットにおける前記複数のデータ群の画像のサイズ(画像サイズ)は、前記判定目標の粒径値を定数倍したサイズで互いに異なるように設定される。具体的には、前記所定の学習用データセットにおける前記複数のデータ群は、最適解探索の手段として4個の第1ないし第4データ群であり、第1データ群における画像のサイズ(第1画像サイズ)は、判定目標の粒径値の12倍に設定され、第2データ群における画像のサイズ(第2画像サイズ)は、判定目標の粒径値の10倍に設定され、第3データ群における画像のサイズ(第3画像サイズ)は、判定目標の粒径値の7倍に設定され、第4データ群における画像のサイズ(第4画像サイズ)は、判定目標の粒径値の5倍に設定された。 For this reason, the image sizes (image sizes) of the multiple data groups in the predetermined training dataset are set to be different from each other by a constant multiple of the target particle size value. Specifically, the multiple data groups in the predetermined training dataset are four data groups, first to fourth, as a means of optimal solution search, and the image size (first image size) of the first data group is set to 12 times the target particle size value, the image size (second image size) of the second data group is set to 10 times the target particle size value, the image size (third image size) of the third data group is set to 7 times the target particle size value, and the image size (fourth image size) of the fourth data group is set to 5 times the target particle size value.
より具体的には、前記所定の学習用データセットは、次のように作成された。本実施形態では、前記所定の学習用データセットとともに、所定の検証用データセットも作成された。前記所定の検証用データセットは、学習用データセットと同一構成で、機械学習した機械学習モデルが適切に機械学習されたか否か(すなわち、正解できるか否か)を検証するためのデータである。 More specifically, the predetermined training dataset was created as follows. In this embodiment, a predetermined validation dataset was also created along with the predetermined training dataset. The predetermined validation dataset has the same configuration as the training dataset, and is data used to verify whether the machine learning model has been trained appropriately (i.e., whether it can produce correct answers).
まず、焼結鉱をJIS規格の篩にかけることによって、小粒径粒子の焼結鉱粒子の集合体(小粒径焼結鉱集合体)、中粒径粒子の焼結鉱粒子の集合体(中粒径焼結鉱集合体)および大粒径粒子の焼結鉱粒子の集合体(大粒径焼結鉱集合体)が用意された。 First, the sintered ore was sieved through a JIS standard sieve to prepare aggregates of small-sized sintered ore particles (small-sized sintered ore aggregates), aggregates of medium-sized sintered ore particles (medium-sized sintered ore aggregates), and aggregates of large-sized sintered ore particles (large-sized sintered ore aggregates).
次に、この小粒径焼結鉱集合体が平面上に広げられ、直上からデジタルカメラで撮像することによって、例えば、図3Aに示す、2456×2054pixelの画像(小粒径画像)が生成された。同様の作業が複数回繰り返され、複数の小粒径画像が生成された。同様の作業が、中粒径焼結鉱集合体および大粒径焼結鉱集合体それぞれに対し、実施され、中粒径焼結鉱集合体を撮像した画像(中粒径画像)が複数生成され、大粒径焼結鉱集合体を撮像した画像(大粒径画像)が複数生成された。図3Bおよび図3Cには、それぞれ、中粒径画像および大粒径画像が示されている。 Next, the small-particle sinter aggregates were spread out on a flat surface and photographed from directly above with a digital camera, generating a 2456 x 2054 pixel image (small-particle image), as shown in Figure 3A. The same process was repeated multiple times to generate multiple small-particle images. The same process was performed on both the medium-particle sinter aggregates and the large-particle sinter aggregates, generating multiple images of the medium-particle sinter aggregates (medium-particle images) and multiple images of the large-particle sinter aggregates (large-particle images). Figures 3B and 3C show the medium-particle image and the large-particle image, respectively.
次に、小粒径画像が約12倍のサイズとなるように、本実施形態では1pixelが0.06mmであるので、例えば、図3Dに示すように、411×375pixelのサイズに分割され、前記複数の小粒径画像から、2842枚の、小粒径画像を分割した画像(第1画像サイズの小粒径分割画像)が生成された。この2842枚の第1画像サイズの小粒径分割画像のうち、2085枚が学習用データセットにおける第1データ群に属する画像データとされ、これら各画像データそれぞれには、小粒径クラスが紐付けられた。前記2842枚の第1画像サイズの小粒径分割画像のうち、784枚が検証用データセットにおける第1データ群に属する画像データとされ、これら各画像データそれぞれには、小粒径クラスが紐付けられた。例えば、図3Eおよび図3Fそれぞれに示すように、同様の作業が、中粒径画像および大粒径画像それぞれに対し、実施され、複数の中粒径画像から、1813枚の、中粒径画像を分割した画像(第1画像サイズの中粒径分割画像)が生成され、複数の大粒径画像から、1960枚の、大粒径画像を分割した画像(第1画像サイズの大粒径分割画像)が生成された。この1813枚の第1画像サイズの中粒径分割画像のうち、1372枚が学習用データセットにおける第1データ群に属する画像データとされ、残余の441枚が検証用データセットにおける第1データ群に属する画像データとされ、これら各画像データそれぞれには、中粒径クラスが紐付けられた。この1960枚の第1画像サイズの大粒径分割画像のうち、1372枚が学習用データセットにおける第1データ群に属する画像データとされ、残余の588枚が検証用データセットにおける第1データ群に属する画像データとされ、これら各画像データそれぞれには、大粒径クラスが紐付けられた。これによって、例えば、図3Gに示す、学習用データセットにおける第1データ群が生成され、図略の検証用データセットにおける第1データ群が生成された。 Next, to make the small grain size images approximately 12 times larger (in this embodiment, 1 pixel is 0.06 mm, so for example, as shown in Figure 3D, the images were divided into 411 x 375 pixel sizes), and 2,842 images (small grain size divided images of the first image size) were generated from the multiple small grain size images. Of these 2,842 small grain size divided images of the first image size, 2,085 were designated as image data belonging to the first data group in the training dataset, and each of these image data was associated with a small grain size class. Of the 2,842 small grain size divided images of the first image size, 784 were designated as image data belonging to the first data group in the validation dataset, and each of these image data was associated with a small grain size class. For example, as shown in Figures 3E and 3F, similar operations were performed on each of the medium-sized images and the large-sized images, and 1,813 images (medium-sized divided images of the first image size) were generated by dividing the medium-sized images from the plurality of medium-sized images, and 1,960 images (large-sized divided images of the first image size) were generated by dividing the large-sized images from the plurality of large-sized images. Of these 1,813 medium-sized divided images of the first image size, 1,372 were designated as image data belonging to the first data group in the training dataset, and the remaining 441 were designated as image data belonging to the first data group in the verification dataset, and each of these image data was associated with a medium-sized class. Of these 1,960 large-sized divided images of the first image size, 1,372 were designated as image data belonging to the first data group in the training dataset, and the remaining 588 were designated as image data belonging to the first data group in the verification dataset, and each of these image data was associated with a large-sized class. As a result, for example, the first data group in the training dataset shown in Figure 3G was generated, and the first data group in the validation dataset (not shown) was generated.
次に、前記複数の小粒径画像、前記複数の中粒径画像および前記複数の大粒径画像それぞれに対し、同様の作業が、約10倍のサイズになるように、319×290pixelのサイズで実施された。これによって、例えば、図3Hに示す、学習用データセットにおける第2データ群が生成され、図略の検証用データセットにおける第2データ群が生成された。学習用データセットの第2データ群における第2画像サイズの小粒径分割画像(小粒径画像を第2画像サイズで分割した画像)、第2画像サイズの中粒径分割画像(中粒径画像を第2画像サイズで分割した画像)および第2画像サイズの大粒径分割画像(大粒径画像を第2画像サイズで分割した画像)は、それぞれ、2058枚、1127枚および1372枚であり、検証用データセットの第2データ群における第2画像サイズの小粒径分割画像、第2画像サイズの中粒径分割画像および第2画像サイズの大粒径分割画像は、それぞれ、784枚、411枚および588枚であった。 Next, the same process was performed on each of the multiple small-grain images, the multiple medium-grain images, and the multiple large-grain images, but at a size of 319 x 290 pixels, resulting in approximately ten times the size. As a result, for example, the second data group in the training dataset shown in Figure 3H was generated, and the second data group in the validation dataset (not shown) was generated. The number of small-grain divided images of the second image size (images obtained by dividing a small-grain image at the second image size), medium-grain divided images of the second image size (images obtained by dividing a medium-grain image at the second image size), and large-grain divided images of the second image size (images obtained by dividing a large-grain image at the second image size) in the second data group of the training dataset was 2,058, 1,127, and 1,372, respectively. The number of small-grain divided images of the second image size, medium-grain divided images of the second image size, and large-grain divided images of the second image size in the second data group of the validation dataset was 784, 411, and 588, respectively.
次に、前記複数の小粒径画像、前記複数の中粒径画像および前記複数の大粒径画像それぞれに対し、同様の作業が、約7倍のサイズになるように、237×216pixelのサイズで実施された。これによって、例えば、図3Iに示す、学習用データセットにおける第3データ群が生成され、図略の検証用データセットにおける第3データ群が生成された。学習用データセットの第3データ群における第3画像サイズの小粒径分割画像(小粒径画像を第3画像サイズで分割した画像)、第3画像サイズの中粒径分割画像(中粒径画像を第3画像サイズで分割した画像)および第3画像サイズの大粒径分割画像(大粒径画像を第3画像サイズで分割した画像)は、それぞれ、3402枚、1863枚および2268枚であり、検証用データセットの第3データ群における第3画像サイズの小粒径分割画像、第3画像サイズの中粒径分割画像および第3画像サイズの大粒径分割画像は、それぞれ、1296枚、972枚および729枚であった。 Next, the same process was performed on each of the multiple small-grain images, the multiple medium-grain images, and the multiple large-grain images, but at a size of 237 x 216 pixels, resulting in approximately seven times the size. As a result, for example, the third data group in the training dataset shown in Figure 3I was generated, and the third data group in the validation dataset (not shown) was generated. The number of small-grain divided images of the third image size (images obtained by dividing a small-grain image at the third image size), medium-grain divided images of the third image size (images obtained by dividing a medium-grain image at the third image size), and large-grain divided images of the third image size (images obtained by dividing a large-grain image at the third image size) in the third data group of the training dataset was 3,402, 1,863, and 2,268, respectively. The number of small-grain divided images of the third image size, medium-grain divided images of the third image size, and large-grain divided images of the third image size in the third data group of the validation dataset was 1,296, 972, and 729, respectively.
次に、前記複数の小粒径画像、前記複数の中粒径画像および前記複数の大粒径画像それぞれに対し、同様の作業が、約5倍のサイズになるように、184×167ixelのサイズで実施された。これによって、例えば、図3Jに示す、学習用データセットにおける第4データ群が生成され、図略の検証用データセットにおける第4データ群が生成された。学習用データセットの第4データ群における第4画像サイズの小粒径分割画像(小粒径画像を第4画像サイズで分割した画像)、第4画像サイズの中粒径分割画像(中粒径画像を第4画像サイズで分割した画像)および第4画像サイズの大粒径分割画像(大粒径画像を第4画像サイズで分割した画像)は、それぞれ、6048枚、3312枚および4032枚であり、検証用データセットの第4データ群における第4画像サイズの小粒径分割画像、第4画像サイズの中粒径分割画像および第4画像サイズの大粒径分割画像は、それぞれ、2304枚、1296枚および1728枚であった。 Next, the same process was performed on each of the multiple small-grain images, the multiple medium-grain images, and the multiple large-grain images, but at a size of 184 x 167 ixel, approximately five times larger. This resulted in the fourth data group in the training dataset shown in Figure 3J, for example, and the fourth data group in the validation dataset (not shown). The number of small-grain divided images with the fourth image size (images obtained by dividing a small-grain image by the fourth image size), medium-grain divided images with the fourth image size (images obtained by dividing a medium-grain image by the fourth image size), and large-grain divided images with the fourth image size (images obtained by dividing a large-grain image by the fourth image size) in the fourth data group of the training dataset was 6,048, 3,312, and 4,032, respectively. The number of small-grain divided images with the fourth image size, medium-grain divided images with the fourth image size, and large-grain divided images with the fourth image size in the fourth data group of the validation dataset was 2,304, 1,296, and 1,728, respectively.
本実施形態では、前記未機械学習の第2機械学習モデルは、第1データ群に応じた未機械学習の第2機械学習モデル(第1画像サイズ用の未機械学習の第2機械学習モデル)、第2データ群に応じた未機械学習の第2機械学習モデル(第2画像サイズ用の未機械学習の第2機械学習モデル)、第3データ群に応じた未機械学習の第2機械学習モデル(第3画像サイズ用の未機械学習の第2機械学習モデル)および第4データ群に応じた未機械学習の第2機械学習モデル(第4画像サイズ用の未機械学習の第2機械学習モデル)の4個を備える。機械学習部32は、学習用データセットにおける第1データ群の複数の画像(複数の第1画像サイズの小粒径分割画像、複数の第1画像サイズの中粒径分割画像および複数の第1画像サイズの大粒径分割画像)を用いて、第1画像サイズ用の未機械学習の第2機械学習モデルを教師ありで機械学習し、学習用データセットにおける第2データ群(複数の第2画像サイズの小粒径分割画像、複数の第2画像サイズの中粒径分割画像および複数の第2画像サイズの大粒径分割画像)を用いて、第2画像サイズ用の未機械学習の第2機械学習モデルを教師ありで機械学習し、学習用データセットにおける第3データ群(複数の第3画像サイズの小粒径分割画像、複数の第3画像サイズの中粒径分割画像および複数の第3画像サイズの大粒径分割画像)を用いて、第3画像サイズ用の未機械学習の第2機械学習モデルを教師ありで機械学習し、学習用データセットにおける第4データ群(複数の第4画像サイズの小粒径分割画像、複数の第4画像サイズの中粒径分割画像および複数の第4画像サイズの大粒径分割画像)を用いて、第4画像サイズ用の未機械学習の第2機械学習モデルを教師ありで機械学習する。これによって第1データ群(第1画像サイズ)の機械学習済みの第2機械学習モデルが生成され、第2データ群(第2画像サイズ)の機械学習済みの第2機械学習モデルが生成され、第3データ群(第3画像サイズ)の機械学習済みの第2機械学習モデルが生成され、第4データ群(第4画像サイズ)の機械学習済みの第2機械学習モデルが生成される。 In this embodiment, the second unmachined machine learning model comprises four models: an unmachined second machine learning model according to the first data group (an unmachined second machine learning model for the first image size), an unmachined second machine learning model according to the second data group (an unmachined second machine learning model for the second image size), an unmachined second machine learning model according to the third data group (an unmachined second machine learning model for the third image size), and an unmachined second machine learning model according to the fourth data group (an unmachined second machine learning model for the fourth image size). The machine learning unit 32 performs supervised machine learning of an unmachine-learned second machine learning model for the first image size using a plurality of images of a first data group in the training dataset (a plurality of small particle size divided images of the first image size, a plurality of medium particle size divided images of the first image size, and a plurality of large particle size divided images of the first image size); performs supervised machine learning of an unmachine-learned second machine learning model for the second image size using a second data group in the training dataset (a plurality of small particle size divided images of the second image size, a plurality of medium particle size divided images of the second image size, and a plurality of large particle size divided images of the second image size); performs supervised machine learning of an unmachine-learned second machine learning model for the third image size using a third data group in the training dataset (a plurality of small particle size divided images of the third image size, a plurality of medium particle size divided images of the third image size, and a plurality of large particle size divided images of the third image size); and performs supervised machine learning of an unmachine-learned second machine learning model for the fourth image size using a fourth data group in the training dataset (a plurality of small particle size divided images of the fourth image size, a plurality of medium particle size divided images of the fourth image size, and a plurality of large particle size divided images of the fourth image size). This generates a second machine learning model that has been machine-trained for the first data group (first image size), a second machine learning model that has been machine-trained for the second data group (second image size), a second machine learning model that has been machine-trained for the third data group (third image size), and a second machine learning model that has been machine-trained for the fourth data group (fourth image size).
前記機械学習モデルには、本実施形態では、公知の、深層学習(ディープラーニング、Deep Learning)の畳み込みニューラルネットワーク((Convolutional Neural Network、CNN)が用いられる。 In this embodiment, the machine learning model used is a well-known deep learning convolutional neural network (CNN).
このCNN8は、例えば、図4に示すように、過学習を回避する機能を持つCNNであり、複数層の前処理部81(81-1~81-6)と、後処理部82とを備える。 This CNN 8 is a CNN with the function of avoiding overfitting, as shown in Figure 4, and includes multiple layers of pre-processing units 81 (81-1 to 81-6) and a post-processing unit 82.
本実施形態では、CNN8は、6層の第1ないし第6前処理部81~81-6を備える。これら第1ないし第6前処理部81-1~81-6は、入力チャネル数および出力チャネル数が必ずしも互いに同じではないが、その構造が同一であり、畳み込み層811(811-1~811-6)と、プーリング層812(812-1~812-6)と、ドロップアウト層813(813-1~813-6)とを備える。各畳み込み層811(811-1~811-6)は、当該層の入力画像に対し畳み込み演算を実行するものであり、前記入力画像の特徴を抽出する。各プーリング層812(812-1~812-6)は、畳み込み層811(811-1~811-6)に接続され、畳み込み層811(811-1~811-6)の出力(特徴マップ)のサイズを、所定の処理で小さくするものである。前記所定の処理には、通常、マックスプーリングが用いられる。このマックスプーリングは、例えば12×12サイズの特徴マップを3×3サイズに縮小する場合、12×12サイズの特徴マップを4×4サイズの9個の領域に分け、各領域の中で各最大値を抽出し、前記3×3サイズの各値とする。なお、前記最大値の代え、領域の平均値を求めるアベレージプリングが用いられてもよい。各ドロップアウト層813(813-1~813-6)は、プーリング層812(812-1~812-6)に接続され、過学習を回避するものである。ドロップアウト層813は、複数のノードを備え、機械学習の更新ごと、前記複数のノードを一定確率でランダムに選択して非活性化(無効化)するものである。例えば、第1前処理部81-1は、出力チャネル数が16チャネルであり、16チャネルで第2前処理部81-2に接続され、ドロップアウト層813は、16個のノードで構成され、これら16個のノードが機械学習の更新ごとにランダムに非活性化される。なお、図4に示す例では、ドロップアウト層813(813-1~813-6)は、各前処理部81-1~81-6に備えられたが、ドロップアウト層813を備えない前処理部81があってもよい。第1前処理部81-1は、入力チャネル数が1チャネルであり、出力チャネル数が16チャネルである。第2前処理部81-2は、入力チャネル数が16チャネルであり、出力チャネル数が32チャネルである。第3前処理部81-3は、入力チャネル数が32チャネルであり、出力チャネル数が64チャネルである。第4前処理部81-4は、入力チャネル数が64チャネルであり、出力チャネル数が64チャネルである。第5前処理部81-5は、入力チャネル数が64チャネルであり、出力チャネル数が128チャネルである。第6前処理部81-6は、入力チャネル数が128チャネルであり、出力チャネル数が64チャネルである。 In this embodiment, the CNN 8 has six layers of first to sixth preprocessing units 81-1 to 81-6. These first to sixth preprocessing units 81-1 to 81-6 do not necessarily have the same number of input channels and output channels, but they have the same structure and include convolutional layers 811 (811-1 to 811-6), pooling layers 812 (812-1 to 812-6), and dropout layers 813 (813-1 to 813-6). Each convolutional layer 811 (811-1 to 811-6) performs a convolution operation on the input image of that layer and extracts features of the input image. Each pooling layer 812 (812-1 to 812-6) is connected to a convolutional layer 811 (811-1 to 811-6) and reduces the size of the output (feature map) of the convolutional layer 811 (811-1 to 811-6) through a predetermined process. This predetermined process typically uses max pooling. For example, when reducing a 12x12 feature map to a 3x3 size, max pooling divides the 12x12 feature map into nine 4x4 regions, extracts the maximum value in each region, and sets it as each value of the 3x3 size. Note that, instead of the maximum value, average pooling, which calculates the average value of the region, may be used. Each dropout layer 813 (813-1 to 813-6) is connected to a pooling layer 812 (812-1 to 812-6) and prevents overfitting. The dropout layer 813 includes multiple nodes, and each time the machine learning is updated, one of the multiple nodes is randomly selected with a certain probability and deactivated (disabled). For example, the first preprocessing unit 81-1 has 16 output channels and is connected to the second preprocessing unit 81-2 via the 16 channels. The dropout layer 813 includes 16 nodes, and these 16 nodes are randomly deactivated each time the machine learning is updated. In the example shown in FIG. 4, a dropout layer 813 (813-1 to 813-6) is provided in each of the preprocessing units 81-1 to 81-6, but some preprocessing units 81 may not include a dropout layer 813. The first preprocessing unit 81-1 has one input channel and 16 output channels. The second preprocessing unit 81-2 has 16 input channels and 32 output channels. The third preprocessing unit 81-3 has 32 input channels and 64 output channels. The fourth preprocessing unit 81-4 has 64 input channels and 64 output channels. The fifth preprocessing unit 81-5 has 64 input channels and 128 output channels. The sixth preprocessing unit 81-6 has 128 input channels and 64 output channels.
後処理部82は、全結合層821と、出力層822とを備えるニューラルネットワークであり、前記ニューラルネットワークによって、前処理部81の処理結果に基づいて、前処理部81に入力された入力画像を認識するものである。本実施形態では、複数の粒子を撮像した画像が前記入力画像として入力され、前記画像(前記入力画像)に対する小粒径クラスの確率、中粒径クラスの確率および大粒径クラスの確率の各確率が出力される。 The post-processing unit 82 is a neural network comprising a fully connected layer 821 and an output layer 822, and uses the neural network to recognize the input image input to the pre-processing unit 81 based on the processing results of the pre-processing unit 81. In this embodiment, an image of multiple particles is input as the input image, and the probabilities of the small particle size class, medium particle size class, and large particle size class for the image (the input image) are output.
図1に戻って、粒径クラス処理部33は、画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの第1機械学習モデルによって、前記画像取得部1で取得した画像における前記複数の粒径クラスそれぞれの各確率を求めるものである。制御部31は、この粒径クラス処理部33によって求められた、前記画像における前記複数のクラスそれぞれの各確率を出力部5に出力する。そして、本実施形態における粒径クラス判定装置Dは、上述のように画像サイズ決定支援機能付きであり、粒径クラス処理部33は、機械学習部32で機械学習した機械学習済みの第2機械学習モデルに、前記第2データ取得部で取得した所定のサイズ決定用データセットを入力することによって、前記所定のサイズ決定用データセットの各画像における前記複数のクラスそれぞれの各確率を求める。制御部31は、この粒径クラス処理部33によって求められた、前記所定のサイズ決定用データセットの各画像における前記複数のクラスそれぞれの各確率を出力部5に出力する。前記機械学習済みの第1機械学習モデルには、前記機械学習部32で機械学習した第2機械学習モデルが用いられる。 Returning to FIG. 1 , the particle size class processing unit 33 receives an input image and divides particle sizes into multiple particle size classes into multiple different ranges. The particle size class processing unit 33 calculates the probability of each of the multiple particle size classes for the image acquired by the image acquisition unit 1 using a machine-learned first machine learning model that outputs the probability of the input image being classified into that particle size class for each of the multiple particle size classes. The control unit 31 outputs the probability of each of the multiple classes for the image calculated by the particle size class processing unit 33 to the output unit 5. The particle size class determination device D in this embodiment is equipped with an image size determination assistance function as described above, and the particle size class processing unit 33 inputs a predetermined size determination dataset acquired by the second data acquisition unit into a machine-learned second machine learning model trained by the machine learning unit 32, thereby calculating the probability of each of the multiple classes for each image in the predetermined size determination dataset. The control unit 31 outputs the probability of each of the multiple classes for each image in the predetermined size determination dataset calculated by the particle size class processing unit 33 to the output unit 5. The second machine learning model that has been machine-learned by the machine learning unit 32 is used as the first machine learning model.
本実施形態では、上述のように、前記画像に対する小粒径クラスの確率(小粒径確率)、中粒径クラスの確率(中粒径確率)および大粒径クラスの確率(大粒径確率)の各確率が求められ、出力される。 In this embodiment, as described above, the probability of the small particle size class (small particle size probability), the probability of the medium particle size class (medium particle size probability), and the probability of the large particle size class (large particle size probability) for the image are calculated and output.
前記サイズ決定用データセットは、複数の画像の各画像データを備える複数のデータ群を備える。前記複数のデータ群は、画像のサイズが互いに異なる。前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられている。 The size determination dataset includes multiple data groups each containing image data for multiple images. The multiple data groups have different image sizes. In each of the multiple data groups in the specified size determination dataset, the multiple images in the data group include images with different content rates of particles belonging to the smallest particle size class, and the content rate of each image is linked to each of the multiple images in the data group.
そして、粒径クラス処理部33は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習部32で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習部で32機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を求める。制御部31は、この粒径クラス処理部33によって前記複数のデータ群それぞれについて求められた、前記所定のサイズ決定用データセットの各画像における前記複数のクラスそれぞれの各確率を出力部5に出力する。 The particle size class processing unit 33 then inputs, for each of the multiple data groups in the predetermined size determination dataset, multiple images from the data group into a second machine learning model trained by the machine learning unit 32 using a data group in the predetermined training dataset that has the same image size as the image in the data group, and thereby calculates the probability of each of the multiple particle size classes output from the second machine learning model trained by the machine learning unit 32. The control unit 31 outputs to the output unit 5 the probability of each of the multiple classes for each image in the predetermined size determination dataset that has been calculated for each of the multiple data groups by the particle size class processing unit 33.
本実施形態では、粒径クラスは、上述のように、小粒径クラス、中粒径クラスおよび大粒径クラスであり、前記最小の粒径の粒径クラスは、小粒径クラスとなり、前記最小の粒径の粒径クラスに属する粒子は、JIS規格の篩に掛けた場合に粒径が2mm以下の粒子となり、前記最小の粒径の粒径クラスに属する粒子の含有率は、この粒径が2mm以下の粒子の含有率となる。本実施形態では、この粒径が2mm以下の粒子が「粉」と定義され、測定対象における「粉」の含有率(測定対象全体に対する粉の割合)が「粉率」と定義される。 In this embodiment, the particle size classes are the small particle size class, medium particle size class, and large particle size class, as described above, and the particle size class with the smallest particle size is the small particle size class. Particles belonging to the smallest particle size class have a particle size of 2 mm or less when sieved through a JIS standard sieve, and the content of particles belonging to the smallest particle size class is the content of particles with a particle size of 2 mm or less. In this embodiment, particles with a particle size of 2 mm or less are defined as "powder," and the content of "powder" in the measurement object (the ratio of powder to the entire measurement object) is defined as the "powder content."
前記所定のサイズ決定用データセットにおける前記複数のデータ群の画像のサイズは、前記所定の学習用データセットにおける前記複数のデータ群の画像のサイズとされる。上述の例では、前記所定のサイズ決定用データセットにおける前記複数のデータ群は、4個の第1ないし第4データ群であり、第1データ群における画像のサイズ(第1画像サイズ)は、判定目標の粒径値の12倍に設定され、第2データ群における画像のサイズ(第2画像サイズ)は、判定目標の粒径値の10倍に設定され、第3データ群における画像のサイズ(第3画像サイズ)は、判定目標の粒径値の7倍に設定され、第4データ群における画像のサイズ(第4画像サイズ)は、判定目標の粒径値の5倍に設定される。 The image sizes of the multiple data groups in the predetermined size determination dataset are the same as the image sizes of the multiple data groups in the predetermined training dataset. In the above example, the multiple data groups in the predetermined size determination dataset are four data groups, first to fourth, and the image size of the first data group (first image size) is set to 12 times the target particle size value, the image size of the second data group (second image size) is set to 10 times the target particle size value, the image size of the third data group (third image size) is set to 7 times the target particle size value, and the image size of the fourth data group (fourth image size) is set to 5 times the target particle size value.
画像サイズを決定するために、互いに異なる粉率は、20%、30%、40%および50%に設定された。 To determine the image size, different dust ratios were set to 20%, 30%, 40%, and 50%.
より具体的には、前記所定のサイズ決定用データセットは、次のように作成された。 More specifically, the specified size determination dataset was created as follows:
まず、焼結鉱をJIS規格の篩を用いることによって、粉率20%の焼結鉱粒子の集合体(粉率20%焼結鉱集合体)、粉率30%の焼結鉱粒子の集合体(粉率30%焼結鉱集合体)、粉率40%の焼結鉱粒子の集合体(粉率40%焼結鉱集合体)および粉率50%の焼結鉱粒子の集合体(粉率50%焼結鉱集合体)が、それぞれ、2個ずつ用意された。 First, by using a JIS standard sieve to sieve the sintered ore, two aggregates each of sintered ore particle aggregates with a fineness of 20% (20% fineness sintered ore aggregate), sintered ore particle aggregates with a fineness of 30% (30% fineness sintered ore aggregate), sintered ore particle aggregates with a fineness of 40% (40% fineness sintered ore aggregate), and sintered ore particle aggregates with a fineness of 50% (50% fineness sintered ore aggregate) were prepared.
次に、2個の粉率20%焼結鉱集合体それぞれに対し、上述の前記所定の学習用データセットにおける小粒径画像の生成作業と同様に作業され、粉率20%の焼結鉱の画像(粉率20%画像)が生成され、上述の前記所定の学習用データセットにおける小粒径分割画像の生成作業と同様に作業され、粉率20%画像を第1画像サイズで分割した画像(第1画像サイズの粉率20%分割画像)、粉率20%画像を第2画像サイズで分割した画像(第2画像サイズの粉率20%分割画像)、粉率20%画像を第3画像サイズで分割した画像(第3画像サイズの粉率20%分割画像)および粉率20%画像を第4画像サイズで分割した画像(第4画像サイズの粉率20%分割画像)が生成された。前記用意された2個の粉率20%焼結鉱集合体それぞれは、別途、JIS規格の篩試験によって実際の粉率が実測された。1個の粉率20%焼結鉱集合体に対し、これら第1ないし第4画像サイズの各粉率20%分割画像は、それぞれ、50枚、生成された。その一例が図5Aに示されている。 Next, for each of the two 20% fine sinter aggregates, a process similar to the process for generating small particle size images for the specified training dataset described above was performed to generate an image of sintered ore with a 20% fineness (20% fineness image). Then, a process similar to the process for generating small particle size divided images for the specified training dataset described above was performed to generate images obtained by dividing the 20% fineness image into a first image size (first image size 20% fineness divided image), images obtained by dividing the 20% fineness image into a second image size (second image size 20% fineness divided image), images obtained by dividing the 20% fineness image into a third image size (third image size 20% fineness divided image), and images obtained by dividing the 20% fineness image into a fourth image size (fourth image size 20% fineness divided image). The actual fineness of each of the two 20% fineness sinter aggregates prepared above was separately measured using a JIS standard sieve test. For one sintered ore aggregate with a fineness of 20%, 50 divided images of each of the first to fourth image sizes with a fineness of 20% were generated. An example is shown in Figure 5A.
次に、2個の粉率30%焼結鉱集合体それぞれに対し、上述同様に作業され、50枚ずつ、第1画像サイズの粉率30%分割画像、第2画像サイズの粉率30%分割画像、第3画像サイズの粉率30%分割画像および第4画像サイズの粉率30%分割画像が生成され、前記2個の粉率30%焼結鉱集合体における各粉率が実測された。その一例が図5Bに示されている。 Next, the same procedure as above was performed on each of the two 30% fineness sinter aggregates, and 50 images each were generated: a first image size 30% fineness split image, a second image size 30% fineness split image, a third image size 30% fineness split image, and a fourth image size 30% fineness split image. The fineness of each of the two 30% fineness sinter aggregates was then measured. An example is shown in Figure 5B.
次に、2個の粉率40%焼結鉱集合体それぞれに対し、上述同様に作業され、50枚ずつ、第1画像サイズの粉率40%分割画像、第2画像サイズの粉率40%分割画像、第3画像サイズの粉率40%分割画像および第4画像サイズの粉率40%分割画像が生成され、前記2個の粉率40%焼結鉱集合体における各粉率が実測された。その一例が図5Cに示されている。 Next, the same procedure as above was performed on each of the two 40% fineness sinter aggregates, and 50 images each were generated: a first image size 40% fineness split image, a second image size 40% fineness split image, a third image size 40% fineness split image, and a fourth image size 40% fineness split image, and the fineness of each of the two 40% fineness sinter aggregates was measured. An example is shown in Figure 5C.
次に、2個の粉率50%焼結鉱集合体それぞれに対し、上述同様に作業され、50枚ずつ、第1画像サイズの粉率50%分割画像、第2画像サイズの粉率50%分割画像、第3画像サイズの粉率50%分割画像および第4画像サイズの粉率50%分割画像が生成され、前記2個の粉率50%焼結鉱集合体における各粉率が実測された。その一例が図5Dに示されている。 Next, the same procedure as above was performed on each of the two 50% fineness sinter aggregates, and 50 images each were generated: a first image size 50% fineness split image, a second image size 50% fineness split image, a third image size 50% fineness split image, and a fourth image size 50% fineness split image, and the fineness of each of the two 50% fineness sinter aggregates was measured. An example is shown in Figure 5D.
次に、これら第1画像サイズの粉率20%分割画像、第1画像サイズの粉率30%分割画像、第1画像サイズの粉率40%分割画像および第1画像サイズの粉率50%分割画像が、サイズ決定用データセットにおける第1データ群に属する画像データとされ、これら第2画像サイズの粉率20%分割画像、第2画像サイズの粉率30%分割画像、第2画像サイズの粉率40%分割画像および第2画像サイズの粉率50%分割画像が、サイズ決定用データセットにおける第2データ群に属する画像データとされ、これら第3画像サイズの粉率20%分割画像、第3画像サイズの粉率30%分割画像、第3画像サイズの粉率40%分割画像および第3画像サイズの粉率50%分割画像が、サイズ決定用データセットにおける第3データ群に属する画像データとされ、これら第4画像サイズの粉率20%分割画像、第4画像サイズの粉率30%分割画像、第4画像サイズの粉率40%分割画像および第4画像サイズの粉率50%分割画像が、サイズ決定用データセットにおける第4データ群に属する画像データとされた。本実施形態では、粉率20%焼結鉱集合体、粉率30%焼結鉱集合体、粉率40%焼結鉱集合体および粉率50%焼結鉱集合体を、それぞれ、2個ずつ用意したことに応じて、サイズ決定用データセットも、2個、生成された。 Next, the first image size divided image with a 20% powder rate, the first image size divided image with a 30% powder rate, the first image size divided image with a 40% powder rate, and the first image size divided image with a 50% powder rate are considered to be image data belonging to the first data group in the size determination dataset, and the second image size divided image with a 20% powder rate, the second image size divided image with a 30% powder rate, the second image size divided image with a 40% powder rate, and the second image size divided image with a 50% powder rate are considered to be image data belonging to the second data group in the size determination dataset. The third image size 20% fineness split image, the third image size 30% fineness split image, the third image size 40% fineness split image, and the third image size 50% fineness split image were designated as image data belonging to the third data group in the size determination dataset, and the fourth image size 20% fineness split image, the fourth image size 30% fineness split image, the fourth image size 40% fineness split image, and the fourth image size 50% fineness split image were designated as image data belonging to the fourth data group in the size determination dataset. In this embodiment, two each of the 20% fineness sintered ore aggregates, the 30% fineness sintered ore aggregates, the 40% fineness sintered ore aggregates, and the 50% fineness sintered ore aggregates were prepared, and accordingly, two size determination datasets were also generated.
粒径クラス処理部33は、第1画像サイズ用の機械学習済みの第2機械学習モデルに、前記所定のサイズ決定用データセットにおける第1データ群における複数の画像を入力することによって、前記第1画像サイズの機械学習済みの機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を求め、制御部31は、これら各確率を出力部5に出力する。粒径クラス処理部33は、第2画像サイズ用の機械学習済みの第2機械学習モデルに、前記所定のサイズ決定用データセットにおける第2データ群における複数の画像を入力することによって、前記第2画像サイズの機械学習済みの機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を求め、制御部31は、これら各確率を出力部5に出力する。粒径クラス処理部33は、第3画像サイズ用の機械学習済みの第2機械学習モデルに、前記所定のサイズ決定用データセットにおける第3データ群における複数の画像を入力することによって、前記第3画像サイズの機械学習済みの機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を求め、制御部31は、これら各確率を出力部5に出力する。粒径クラス処理部33は、第4画像サイズ用の機械学習済みの第2機械学習モデルに、前記所定のサイズ決定用データセットにおける第4データ群における複数の画像を入力することによって、前記第4画像サイズの機械学習済みの機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を求め、制御部31は、これら各確率を出力部5に出力する。 The particle size class processing unit 33 inputs a plurality of images in the first data group in the predetermined size determination dataset into a machine-learned second machine-learning model for a first image size, thereby determining the probability of each of the plurality of particle size classes output from the machine-learned machine-learning model for the first image size, and the control unit 31 outputs each of these probabilities to the output unit 5. The particle size class processing unit 33 inputs a plurality of images in the second data group in the predetermined size determination dataset into a machine-learned second machine-learning model for a second image size, thereby determining the probability of each of the plurality of particle size classes output from the machine-learned machine-learning model for the second image size, and the control unit 31 outputs each of these probabilities to the output unit 5. The particle size class processing unit 33 inputs a plurality of images in the third data group in the predetermined size determination dataset into a machine-learned second machine-learning model for a third image size, thereby determining the probability of each of the plurality of particle size classes output from the machine-learned machine-learning model for the third image size, and the control unit 31 outputs each of these probabilities to the output unit 5. The particle size class processing unit 33 inputs multiple images in the fourth data group in the predetermined size determination dataset into a second machine-learned machine learning model for the fourth image size, thereby determining the probability of each of the multiple particle size classes output from the machine-learned machine learning model for the fourth image size, and the control unit 31 outputs these probabilities to the output unit 5.
画像サイズ調整部34は、前記画像取得部1で取得した画像を、入力部4で受け付けた画像サイズに調整するものである。画像サイズ調整部34は、例えば、前記画像取得部1で取得した1枚の画像から、入力部4で受け付けた画像サイズの画像領域(例えば画像の中央部分の画像領域等)を切り出すことによって、入力部4で受け付けた画像サイズの画像を1枚、生成してよい。あるいは、例えば、画像サイズ調整部34は、前記画像取得部1で取得した1枚の画像から、入力部4で受け付けた画像サイズの画像領域を不連続で複数、切り出すことによって、入力部4で受け付けた画像サイズの画像を複数枚、生成してよい。本実施形態では、例えば、画像サイズ調整部34は、前記画像取得部1で取得した1枚の画像を、入力部4で受け付けた画像サイズの画像領域で2次元マトリックス状に分割することによって、入力部4で受け付けた画像サイズの画像を複数枚、生成する。そして、粒径クラス処理部33は、画像サイズ調整部34で分割することによって生成された複数枚の各画像それぞれについて、当該画像を、入力部4で受け付けた画像のサイズに対応する機械学習済みの第2機械学習モデルを機械学習済みの第1機械学習モデルとして、これに入力することによって、機械学習済みの第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を求め、制御部31は、これら各確率を出力部5に出力する。 The image size adjustment unit 34 adjusts the image acquired by the image acquisition unit 1 to the image size accepted by the input unit 4. The image size adjustment unit 34 may, for example, generate a single image of the image size accepted by the input unit 4 by cutting out an image area of the image size accepted by the input unit 4 (e.g., an image area in the center of the image) from a single image acquired by the image acquisition unit 1. Alternatively, the image size adjustment unit 34 may, for example, generate multiple images of the image size accepted by the input unit 4 by cutting out multiple discontinuous image areas of the image size accepted by the input unit 4 from a single image acquired by the image acquisition unit 1. In this embodiment, for example, the image size adjustment unit 34 generates multiple images of the image size accepted by the input unit 4 by dividing a single image acquired by the image acquisition unit 1 into a two-dimensional matrix by the image areas of the image size accepted by the input unit 4. Then, for each of the multiple images generated by division in the image size adjustment unit 34, the particle size class processing unit 33 inputs the image into the machine-learned second machine learning model corresponding to the size of the image received by the input unit 4 as the machine-learned first machine learning model, thereby determining the probability of each of the multiple particle size classes output from the machine-learned second machine learning model, and the control unit 31 outputs these probabilities to the output unit 5.
このような制御処理部3、入力部4、出力部5、IF部6および記憶部7は、例えば、デスクトップ型やノート型等のコンピュータによって構成可能である。 The control processing unit 3, input unit 4, output unit 5, IF unit 6, and memory unit 7 can be configured, for example, by a desktop or notebook computer.
次に、本実施形態の動作について説明する。図6は、機械学習に関する前記粒径クラス判定装置の動作を示すフローチャートである。図7は、画像サイズ決定支援に関する前記粒径クラス判定装置の動作を示すフローチャートである。図8は、篩を用いて求めた粉率と前記粒径クラス判定装置を用いて推定した粉率との相関性を示すグラフである。図9は、粒径クラスの判定に関する前記粒径クラス判定装置の動作を示すフローチャートである。図10は、一例として、判定対象の画像中において、判定目標の粒径値に対応する粒径クラスの箇所をマークで指し示した画像である。図10Aないし図10Dは、判定後の画像を示し、図10Eは、図10Aに対応する判定前の画像を示し、図10Fは、図10Bに対応する判定前の画像を示し、図10Gは、図10Cに対応する判定前の画像を示し、図10Hは、図10Dに対応する判定前の画像を示す。 Next, the operation of this embodiment will be described. FIG. 6 is a flowchart showing the operation of the particle size class determination device related to machine learning. FIG. 7 is a flowchart showing the operation of the particle size class determination device related to image size determination support. FIG. 8 is a graph showing the correlation between the powder rate determined using a sieve and the powder rate estimated using the particle size class determination device. FIG. 9 is a flowchart showing the operation of the particle size class determination device related to particle size class determination. FIG. 10 is an example of an image to be determined, in which the particle size class corresponding to the target particle size value is indicated by a mark. FIGS. 10A to 10D show the image after determination, FIG. 10E shows the image before determination corresponding to FIG. 10A, FIG. 10F shows the image before determination corresponding to FIG. 10B, FIG. 10G shows the image before determination corresponding to FIG. 10C, and FIG. 10H shows the image before determination corresponding to FIG. 10D.
このような構成の画像サイズ決定支援機能付きの粒径クラス判定装置Dは、その電源が投入されると、必要な各部の初期化を実行し、その稼働を始める。制御処理部3には、その制御処理プログラムの実行によって、制御部31、機械学習部32、粒径クラス処理部33および画像サイズ調整部34が機能的に構成される。 When the power is turned on, the particle size class determination device D with image size determination support function configured as described above initializes each necessary unit and begins operation. By executing the control processing program, the control processing unit 3 functionally configures a control unit 31, machine learning unit 32, particle size class processing unit 33, and image size adjustment unit 34.
第2機械学習モデルの機械学習では、ユーザ(オペレータ)は、所定の学習用データセットを画像サイズ決定支援機能付きの粒径クラス判定装置Dに入力部4またはIF部6を介して入力する。上述の例では、第1ないし第4画像サイズそれぞれに対応する第1ないし第4データ群を備える所定の学習用データセットが粒径クラス判定装置Dに入力される。 In machine learning using the second machine learning model, the user (operator) inputs a predetermined training dataset to the particle size class determination device D with image size determination support function via the input unit 4 or IF unit 6. In the above example, a predetermined training dataset including first to fourth data groups corresponding to the first to fourth image sizes, respectively, is input to the particle size class determination device D.
図6において、まず、粒径クラス判定装置Dは、制御処理部3の制御部31によって、この入力部4またはIF部6を介して入力された前記所定の学習用データセットを取得し、記憶部7に記憶する(S11)。 In Figure 6, first, the particle size class determination device D acquires the predetermined learning data set input via the input unit 4 or IF unit 6 using the control unit 31 of the control processing unit 3, and stores it in the memory unit 7 (S11).
次に、粒径クラス判定装置Dは、制御処理部3の機械学習部32によって、前記所定の学習用データセットにおける1つのデータ群における複数の画像(画像データ)を用いて、前記データ群用として、未機械学習の第2機械学習モデルを機械学習する(S12)。例えば、第1データ群(第1画像サイズ)における複数の画像を用いて、前記第1データ群用として、未機械学習の第2機械学習モデルが機械学習される。 Next, the particle size class determination device D uses the machine learning unit 32 of the control processing unit 3 to train a second machine learning model (not yet trained) for one data group in the predetermined training dataset, using multiple images (image data) in that data group (S12). For example, a second machine learning model (not yet trained) for the first data group is trained using multiple images in a first data group (first image size).
次に、機械学習が終了すると、粒径クラス判定装置Dは、機械学習部32によって、前記データ群用として機械学習した機械学習済みの第2機械学習モデルを前記データ群と対応付けて(紐付けて)記憶部7に記憶する(S13)。上述の例では、前記第1データ群用として機械学習した機械学習済みの第2機械学習モデルが前記第1データ群(例えば第1データ群を特定し識別するための識別子(データ群ID、画像サイズID))と対応付けて記憶部7に記憶される。なお、機械学習済みの第2機械学習モデルは、検証用データセットによって検証されてもよい。 Next, when the machine learning is completed, the particle size class determination device D causes the machine learning unit 32 to store the machine-learned second machine learning model trained for the data group in the memory unit 7 in association with (linked to) the data group (S13). In the above example, the machine-learned second machine learning model trained for the first data group is stored in the memory unit 7 in association with the first data group (e.g., an identifier for specifying and identifying the first data group (data group ID, image size ID)). The machine-learned second machine learning model may be verified using a verification dataset.
次に、粒径クラス判定装置Dは、機械学習部32によって、前記所定の学習用データセットにおける全てのデータ群(全ての画像サイズ)について処理S12および処理S13の各処理を終了したか否かを判定する(S14)。この判定の結果、前記全てのデータ群について前記各処理を終了していない場合(No)には、粒径クラス判定装置Dは、次のデータ群について前記各処理を実行するために、処理を処理S12に戻す。一方、前記判定の結果、前記全てのデータ群について前記各処理を終了している場合(Yes)には、粒径クラス判定装置Dは、本処理を終了する。なお、必要に応じて、各データ群に対応する機械学習済みの各機械学習モデルは、IF部6から外部の機器へ出力されてもよい。 Next, the particle size class determination device D uses the machine learning unit 32 to determine whether or not each of steps S12 and S13 has been completed for all data groups (all image sizes) in the specified learning dataset (S14). If the result of this determination is that each of the steps has not been completed for all data groups (No), the particle size class determination device D returns to step S12 to execute each of the steps for the next data group. On the other hand, if the result of the determination is that each of the steps has been completed for all data groups (Yes), the particle size class determination device D terminates this process. Note that, if necessary, each machine-learned machine learning model corresponding to each data group may be output from the IF unit 6 to an external device.
これによって上述の例では、第1データ群用(第1画像サイズ用)の機械学習済みの第2機械学習モデルが生成され、第2データ群用(第2画像サイズ用)の機械学習済みの第2機械学習モデルが生成され、第3データ群用(第3画像サイズ用)の機械学習済みの第2機械学習モデルが生成され、第4データ群用(第4画像サイズ用)の機械学習済みの第2機械学習モデルが生成され、これらが記憶部7に記憶される。 As a result, in the above example, a machine-trained second machine learning model is generated for the first data group (for the first image size), a machine-trained second machine learning model is generated for the second data group (for the second image size), a machine-trained second machine learning model is generated for the third data group (for the third image size), and a machine-trained second machine learning model is generated for the fourth data group (for the fourth image size), and these are stored in memory unit 7.
機械学習に関し、粒径クラス判定装置Dは、このように動作する。 In terms of machine learning, the particle size class determination device D operates as follows:
画像サイズの決定の支援では、機械学習済みの第2機械学習モデルを生成した後に、ユーザ(オペレータ)は、所定のサイズ決定用データセットを画像サイズ決定支援機能付きの粒径クラス判定装置Dに入力部4またはIF部6を介して入力する。上述の例では、第1ないし第4画像サイズそれぞれに対応する第1ないし第4データ群を備える所定のサイズ決定用データセットが粒径クラス判定装置Dに入力される。 To assist in determining image size, after generating a second machine learning model that has undergone machine learning, the user (operator) inputs a predetermined size determination dataset to the particle size class determination device D with image size determination assistance function via the input unit 4 or IF unit 6. In the above example, a predetermined size determination dataset comprising first to fourth data groups corresponding to the first to fourth image sizes, respectively, is input to the particle size class determination device D.
図7において、まず、粒径クラス判定装置Dは、制御処理部3の制御部31によって、この入力部4またはIF部6を介して入力された前記所定のサイズ決定用データセットを取得し、記憶部7に記憶する(S21)。 In Figure 7, first, the particle size class determination device D acquires the predetermined size determination data set input via the input unit 4 or IF unit 6 using the control unit 31 of the control processing unit 3, and stores it in the memory unit 7 (S21).
次に、粒径クラス判定装置Dは、制御処理部3の粒径クラス処理部33によって、前記所定のサイズ決定用データセットにおける1つのデータ群における複数の画像(画像データ)を、前記データ群における画像サイズと同じ画像サイズの、前記所定の学習用データセットにおけるデータ群、を用いて上述のように機械学習部32で機械学習した第2機械学習モデルに用いることによって、前記複数の粒径クラスそれぞれの各確率を求め、これら各確率を記憶部7に記憶する(S22)。前記各確率には、前記データ群(データ群ID、画像サイズID)、この各確率を求めるために機械学習済みの第2機械学習モデルに入力した画像(入力画像)(画像を特定し識別するための識別子(画像ID))、この入力画像に紐付けられた含有率が対応付けられる。例えば、第1データ群(第1画像サイズ)における複数の画像(画像データ)それぞれについて、当該画像が第1データ群用の機械学習済みの第2機械学習モデルに入力され、当該画像に対する小粒径確率、中粒径確率および大粒径確率が求められ、これら各確率が、データ群ID、画像IDおよび粉率と対応付けられて記憶部7に記憶される。 Next, the particle size class determination device D, by using the particle size class processing unit 33 of the control processing unit 3, determines the probability of each of the plurality of particle size classes by applying the plurality of images (image data) in one data group in the predetermined size determination dataset to a second machine learning model trained by the machine learning unit 32 as described above using a data group in the predetermined training dataset with the same image size as the image in the data group, and stores these probabilities in the memory unit 7 (S22). Each probability is associated with the data group (data group ID, image size ID), the image (input image) input into the machine-learned second machine learning model to determine this probability (an identifier (image ID) for specifying and identifying the image), and the content rate associated with this input image. For example, for each of the plurality of images (image data) in the first data group (first image size), the image is input into the machine-learned second machine learning model for the first data group, and the small particle size probability, medium particle size probability, and large particle size probability for that image are determined. These probabilities are then stored in the memory unit 7 in association with the data group ID, image ID, and powder content.
次に、粒径クラス判定装置Dは、粒径クラス処理部33によって、前記所定のサイズ決定用データセットにおける全てのデータ群(全ての画像サイズ)について処理S22を終了したか否かを判定する(S23)。この判定の結果、前記全てのデータ群について前記処理S22を終了していない場合(No)には、粒径クラス判定装置Dは、次のデータ群について前記処理S22を実行するために、処理を処理S22に戻す。一方、前記判定の結果、前記全てのデータ群について前記処理S22を終了している場合(Yes)には、粒径クラス判定装置Dは、次に、処理S24を実行する。 Next, the particle size class determination device D uses the particle size class processing unit 33 to determine whether process S22 has been completed for all data groups (all image sizes) in the specified size determination dataset (S23). If the result of this determination is that process S22 has not been completed for all data groups (No), the particle size class determination device D returns to process S22 to execute process S22 for the next data group. On the other hand, if the result of the determination is that process S22 has been completed for all data groups (Yes), the particle size class determination device D then executes process S24.
この処理S24では、粒径クラス判定装置Dは、制御処理部3の制御部31によって、処理S22で求めて記憶部7に記憶された複数の各確率を、これに対応付けられたデータ群(データ群ID、画像サイズID)、入力画像(画像ID)および含有率(上述の例では粉率)とともに、出力部5に出力し、本処理を終了する。なお、必要に応じて、これら複数の各確率は、前記データ群(データ群ID、画像サイズID)等とともに、IF部6から外部の機器へ出力されてもよい。 In process S24, the particle size class determination device D causes the control unit 31 of the control processing unit 3 to output to the output unit 5 each of the multiple probabilities calculated in process S22 and stored in the memory unit 7, along with the associated data group (data group ID, image size ID), input image (image ID), and content rate (powder rate in the above example), and then terminates this process. If necessary, each of these multiple probabilities may be output from the IF unit 6 to an external device together with the data group (data group ID, image size ID), etc.
画像サイズの決定の支援に関し、粒径クラス判定装置Dは、このように動作する。 To assist in determining image size, the particle size class determination device D operates in this manner.
本実施形態では、上述したように、2個のサイズ決定用データセットを用意したので、各サイズ決定用データセットに対し、上述の各処理が実行され、各サイズ決定用データセットに対し、各確率が得られた。その結果が図8に示されている。図8の横軸は、JIS規格の篩を用いて実測した粉率(小粒径粒子の含有率)(質量%)である。図8の縦軸は、サイズ決定用データセットを粒径クラス判定装置Dに用いて推定した粉率(面積%)であり、粒径クラス判定装置Dで上述の処理S21ないし処理S24の各処理によって求めた小粒径確率、中粒径確率および大粒径確率のうち、小粒径確率の平均値である。例えば、第1画像サイズでは、2個のサイズ決定用データセットのうちの一方の生成にかかる粉率20%焼結鉱集合体に対し、JIS規格の篩を用いて実測した粉率が横軸の値となり、この粉率20%焼結鉱集合体から生成された第1データ群における50枚の各画像それぞれについて、前記第1データ群用の機械学習済みの第2機械学習モデルによって、当該画像に対する小粒径確率、中粒径確率および大粒径確率が求められ、前記50枚の各画像に対して求められた各小粒径確率の平均値が縦軸の値となる。また例えば、第3画像サイズでは、2個のサイズ決定用データセットのうちの一方の生成にかかる粉率40%焼結鉱集合体に対し、JIS規格の篩を用いて実測した粉率が横軸の値となり、この粉率40%焼結鉱集合体から生成された第3データ群における50枚の各画像それぞれについて、前記第3データ群用の機械学習済みの第2機械学習モデルによって、当該画像に対する小粒径確率、中粒径確率および大粒径確率が求められ、前記50枚の各画像に対して求められた各小粒径確率の平均値が縦軸の値となる。第1画像サイズ(第1データ群)の結果は、◆で示され、第2画像サイズ(第2データ群)の結果は、●で示され、第3画像サイズ(第3データ群)の結果は、×で示され、第4画像サイズ(第4データ群)の結果は、▲で示されている。 In this embodiment, as described above, two size determination datasets were prepared, and the above-described processes were performed on each size determination dataset, resulting in the respective probabilities for each size determination dataset. The results are shown in Figure 8. The horizontal axis of Figure 8 is the powder fraction (content of small particle diameters) (mass %) measured using a JIS-standard sieve. The vertical axis of Figure 8 is the powder fraction (area %) estimated using the size determination dataset in the particle diameter class determination device D, which is the average value of the small particle diameter probability among the small particle diameter probability, medium particle diameter probability, and large particle diameter probability obtained by the particle diameter class determination device D through the above-described processes S21 to S24. For example, in the first image size, the horizontal axis represents the fineness ratio measured using a JIS sieve for a sintered ore aggregate with a fineness ratio of 20% used to generate one of the two size determination data sets. For each of the 50 images in the first data group generated from this sintered ore aggregate with a fineness ratio of 20%, a small particle size probability, a medium particle size probability, and a large particle size probability for that image are calculated using the second machine learning model for the first data group. The vertical axis represents the average of the small particle size probabilities calculated for each of the 50 images. For example, in the third image size, the horizontal axis represents the fineness ratio measured using a JIS sieve for a sintered ore aggregate with a fineness ratio of 40% used to generate one of the two size determination data sets. For each of the 50 images in the third data group generated from this sintered ore aggregate with a fineness ratio of 40%, a small particle size probability, a medium particle size probability, and a large particle size probability for that image are calculated using the second machine learning model for the third data group. The vertical axis represents the average of the small particle size probabilities calculated for each of the 50 images. Results for the first image size (first data group) are indicated with ◆, results for the second image size (second data group) are indicated with ●, results for the third image size (third data group) are indicated with ×, and results for the fourth image size (fourth data group) are indicated with ▲.
図8に×で示す第3画像サイズの結果および▲で示す第4サイズの結果から分かるように、実測の粉率のいずれに対しても、粒径クラス判定装置Dで求めた小粒径確率の平均値は、約33.3%となっている。したがって、第3および第4画像サイズでは、粒径クラス判定装置Dは、各粒径クラスを均等に判定しており、小粒径粒子、中粒径粒子および大粒径粒子を区別することができず、粒径クラスが判定できていない。よって、粒径クラスの判定には、第3および第4画像サイズは、小過ぎると考察される。 As can be seen from the results for the third image size indicated by an x and the fourth size indicated by a ▲ in Figure 8, the average small particle size probability determined by particle size class determination device D for both measured powder rates was approximately 33.3%. Therefore, with the third and fourth image sizes, particle size class determination device D determines each particle size class equally, and is unable to distinguish between small, medium, and large particles, making it unable to determine the particle size class. Therefore, it is considered that the third and fourth image sizes are too small for particle size class determination.
一方、図8に◆で示す第1画像サイズの結果から分かるように、実測の粉率のいずれに対しても、粒径クラス判定装置Dで求めた小粒径確率の平均値は、約100%となっている。したがって、第1画像サイズでは、粒径クラス判定装置Dは、全て小粒径クラスと判定しており、小粒径粒子、中粒径粒子および大粒径粒子を区別することができず、粒径クラスが判定できていない。よって、粒径クラスの判定には、第1画像サイズは、大き過ぎると考察される。 On the other hand, as can be seen from the results for the first image size indicated by ◆ in Figure 8, the average small particle size probability calculated by particle size class determination device D for all measured powder rates is approximately 100%. Therefore, at the first image size, particle size class determination device D determines all particles as being in the small particle size class, and is unable to distinguish between small, medium, and large particles, making it unable to determine the particle size class. Therefore, it is considered that the first image size is too large for particle size class determination.
このため、粒径クラスの判定には、画像サイズは、第3画像サイズより大きく、第1画像サイズより小さい範囲内である。すなわち、機械学習モデルに入力される画像サイズを、前記判定目標の粒径値を所定の定数で定数倍したサイズとした場合に、上述では、前記判定目標の粒径値は、2mmであり、前記所定の定数は、7より大きく、12より小さい値である。好ましくは、前記所定の定数は、8より大きく、11より小さい値である。好ましくは、前記所定の定数は、10である。 For this reason, when determining particle size classes, the image size must be greater than the third image size and smaller than the first image size. In other words, if the image size input to the machine learning model is a size obtained by multiplying the target particle size value by a predetermined constant, then in the above example, the target particle size value is 2 mm, and the predetermined constant is greater than 7 and less than 12. Preferably, the predetermined constant is greater than 8 and less than 11. Preferably, the predetermined constant is 10.
粒径クラスの判定では、ユーザ(オペレータ)は、画像サイズ(または、前記所定の定数)を粒径クラス判定装置Dに入力部4を介して入力する。例えば、第2画像サイズ(または、前記所定の定数として10)が粒径クラス判定装置Dに入力される。なお、複数の画像サイズ(または、前記所定の定数)それぞれに対応する機械学習済みの第2機械学習モデルが記憶部7に予め記憶されているものとする。 To determine the particle size class, the user (operator) inputs the image size (or the predetermined constant) to the particle size class determination device D via the input unit 4. For example, a second image size (or 10 as the predetermined constant) is input to the particle size class determination device D. Note that it is assumed that a second machine learning model that has been trained and corresponds to each of multiple image sizes (or the predetermined constants) is pre-stored in the memory unit 7.
図9において、まず、粒径クラス判定装置Dは、制御処理部3の制御部31によって、入力部4で画像サイズ(または、前記所定の定数)の入力を受け付け、この入力された画像サイズ(または前記所定の定数)を記憶部7に記憶する(S31)。なお、照明部2が点灯される。 In Figure 9, first, the particle size class determination device D receives input of the image size (or the predetermined constant) at the input unit 4 via the control unit 31 of the control processing unit 3, and stores this input image size (or the predetermined constant) in the memory unit 7 (S31). The illumination unit 2 is also turned on.
次に、粒径クラス判定装置Dは、制御処理部3の制御部31によって、この入力された画像サイズ(または前記所定の定数)に対応する機械学習済みの第2機械学習モデルを、記憶部7に記憶された複数の機械学習済みの第2機械学習モデルの中から選択し、この選択した機械学習済みの第2機械学習モデルを、粒径クラス処理部33で用いる第1機械学習モデルとして設定する(S32)。 Next, the particle size class determination device D uses the control unit 31 of the control processing unit 3 to select a machine-learned second machine learning model that corresponds to the input image size (or the predetermined constant) from among multiple machine-learned second machine learning models stored in the memory unit 7, and sets this selected machine-learned second machine learning model as the first machine learning model to be used in the particle size class processing unit 33 (S32).
次に、粒径クラス判定装置Dは、制御部31によって、画像取得部1で画像を取得し、記憶部7に記憶する(S33)。 Next, the particle size class determination device D controls the control unit 31 to acquire an image using the image acquisition unit 1 and store it in the memory unit 7 (S33).
次に、粒径クラス判定装置Dは、制御処理部3の画像サイズ調整部34によって、処理S33で取得した画像を、処理S31で受け付けた画像サイズに調整する(S34)。 Next, the particle size class determination device D uses the image size adjustment unit 34 of the control processing unit 3 to adjust the image acquired in process S33 to the image size accepted in process S31 (S34).
次に、粒径クラス判定装置Dは、制御処理部3の粒径クラス処理部33によって、処理S34で画像サイズを調整した画像を、処理S32で設定された機械学習済みの機械学習モデルに入力することによって、前記画像に対する各確率を求め、各確率の中から最も高い確率の粒径クラスを、前記画像に対する粒径クラスと判定し、この判定の結果を記憶部7に記憶する(S35)。 Next, the particle size class determination device D, using the particle size class processing unit 33 of the control processing unit 3, inputs the image whose size has been adjusted in step S34 into the machine learning model that has been set up in step S32 to determine each probability for the image, and determines the particle size class with the highest probability from among the probabilities as the particle size class for the image, and stores the result of this determination in the memory unit 7 (S35).
次に、粒径クラス判定装置Dは、制御部31によって、処理S35で判定された判定の結果を出力部5に出力する(S36)。 Next, the particle size class determination device D outputs the determination result determined in process S35 to the output unit 5 via the control unit 31 (S36).
より具体的には、処理S34ないし処理S36の各処理では、処理S31で受け付けた画像サイズの領域が、処理S33で取得した画像から、一方の角(例えば画像の左上の角)から、前記一方の角に対する対角の角(この例では画像の右下の角)へ、いわゆるラスタースキャン方式で走査するように、順次に、抽出され、この領域の抽出ごとに、この抽出した領域の画像が、処理S32で設定された機械学習済みの機械学習モデルに入力され、この抽出した領域の画像に対する各確率が求められ、前記抽出した領域の画像に対する粒径クラスが判定され、この判定の結果が、前記抽出した領域の位置で、前記処理S33で取得した画像に重畳され、表示される。ここでは、前記判定では、前記求めた各確率が、そのまま、前記抽出した領域の画像に対する各粒径クラスの各確率とされる。例えば、図10Aないし図10Dそれぞれに示すように、小粒径確率が50%以上である領域の画像に対し、前記領域の位置で、50%以上の確率で小粒径クラスであると判定されることを表すマーク;□が、前記処理S33で取得した画像に重畳され、表示される。図10Aに示す画像は、図10Eに示す粉率20%の画像に対する粒径クラスの判定結果;□を、前記図10Eに示す粉率20%の画像に重畳した画像である。図10Bに示す画像は、図10Fに示す粉率30%の画像に対する粒径クラスの判定結果;□を、前記図10Fに示す粉率30%の画像に重畳した画像である。図10Cに示す画像は、図10Gに示す粉率40%の画像に対する粒径クラスの判定結果;□を、前記図10Gに示す粉率40%の画像に重畳した画像である。図10Dに示す画像は、図10Hに示す粉率50%の画像に対する粒径クラスの判定結果;□を、前記図10Hに示す粉率50%の画像に重畳した画像である。処理S33で取得した画像は、処理S31で受け付けた画像サイズの領域に二次元マトリックス状に分けられ、この分けられた複数の領域の画像それぞれに対し、粒径クラスが判定され、その判定結果;□が付される。図10に示すように、粉率が高くなるに従って、マーク□の個数が増えている。すなわち、粉率が高くなるに従って、50%以上の確率で小粒径クラスであると判定される領域の個数が増えている。 More specifically, in steps S34 through S36, regions of the image size accepted in step S31 are extracted sequentially from the image acquired in step S33, starting from one corner (e.g., the upper left corner of the image) and moving diagonally to the opposite corner (in this example, the lower right corner of the image) in a manner similar to raster scanning. Each time a region is extracted, the image of the extracted region is input into the machine-learning model established in step S32, probabilities are calculated for the image of the extracted region, and a particle size class is determined for the image of the extracted region. The results of this determination are superimposed and displayed on the image acquired in step S33 at the position of the extracted region. Here, the calculated probabilities are used directly as the probabilities for each particle size class for the image of the extracted region. For example, as shown in Figures 10A to 10D, for an image of a region where the small particle size probability is 50% or more, a mark (□) indicating that the position of the region is determined to be in the small particle size class with a probability of 50% or more is superimposed and displayed on the image acquired in process S33. The image shown in Figure 10A is an image in which the particle size class determination result (□) for the image with a 20% powder rate shown in Figure 10E is superimposed on the image with a 20% powder rate shown in Figure 10E. The image shown in Figure 10B is an image in which the particle size class determination result (□) for the image with a 30% powder rate shown in Figure 10F is superimposed on the image with a 30% powder rate shown in Figure 10F. The image shown in Figure 10C is an image in which the particle size class determination result (□) for the image with a 40% powder rate shown in Figure 10G is superimposed on the image with a 40% powder rate shown in Figure 10G. The image shown in Figure 10D is an image in which the particle size class determination result (□) for the image with a 50% powder content shown in Figure 10H is superimposed on the image with a 50% powder content shown in Figure 10H. The image acquired in process S33 is divided into regions of the image size accepted in process S31 in a two-dimensional matrix, and the particle size class is determined for each of the images in these divided regions, with the determination result (□) being marked. As shown in Figure 10, the number of square marks increases as the powder content increases. In other words, as the powder content increases, the number of regions determined to be in the small particle size class with a probability of 50% or more increases.
図9に戻って、次に、粒径クラス判定装置Dは、制御部31によって、本処理の終了であるか否かを判定する。この判定の結果、本処理の終了である場合(Yes)には、粒径クラス判定装置Dは、本処理を終了し、前記判定の結果、本処理の終了ではない場合(No)には、粒径クラス判定装置Dは、次に、処理S38を実行する。例えば、上述の処理S33ないし処理S36の各処理の実行中に、入力部4で、処理の終了を指示する所定のコマンドの入力を受け付けた場合(所定の入力スイッチ等が入力操作された場合)には、前記本処理の終了と判定され、これを除く場合には、前記本処理の終了ではないと判定される。 Returning to FIG. 9 , the particle size class determination device D then determines, via the control unit 31, whether or not the process has ended. If the result of this determination is that the process has ended (Yes), the particle size class determination device D ends the process. If the result of this determination is that the process has not ended (No), the particle size class determination device D then executes process S38. For example, if, during the execution of each of the above-mentioned processes S33 to S36, the input of a predetermined command instructing the process to end is received via the input unit 4 (if a predetermined input switch, etc., is operated), it is determined that the process has ended; otherwise, it is determined that the process has not ended.
この処理S38では、粒径クラス判定装置Dは、制御部31によって、次の判定タイミングになっているか否かを判定する。この判定の結果、次の判定タイミングになっている場合(Yes)には、粒径クラス判定装置Dは、次の画像の粒径クラスを判定するために、処理を処理S33に戻す。一方、前記判定の結果、次の判定タイミングになっていない場合(No)には、粒径クラス判定装置Dは、処理を処理S38に戻す。したがって、次の判定タイミングになるまで、処理S38が繰り返される。例えば、所定のサンプリング間隔で、画像の粒径クラスを判定する場合、前回の判定タイミングから、前記所定のサンプリング間隔の時間が経過した場合に、次の判定タイミングになっていると判定される。 In process S38, the particle size class determination device D uses the control unit 31 to determine whether it is time for the next determination. If the result of this determination is that it is time for the next determination (Yes), the particle size class determination device D returns to process S33 to determine the particle size class of the next image. On the other hand, if the result of the determination is that it is not time for the next determination (No), the particle size class determination device D returns to process S38. Therefore, process S38 is repeated until it is time for the next determination. For example, when determining the particle size class of an image at a predetermined sampling interval, it is determined that it is time for the next determination when the predetermined sampling interval has elapsed since the previous determination.
なお、上述では、処理S31によって画像サイズの入力を受け付け、この入力された画像サイズに応じた機械学習済みの第2機械学習モデルを粒径クラス処理部33に処理S32によって設定したが、画像サイズは、予め規定され、これに応じた機械学習済みの第2機械学習モデルは、粒径クラス処理部33に予め設定され、これら処理S31および処理S32は、省略されてもよい。 In the above description, the image size is input in step S31, and a machine-learned second machine learning model corresponding to this input image size is set in the particle size class processing unit 33 in step S32. However, the image size may be specified in advance, and a machine-learned second machine learning model corresponding to this may be set in advance in the particle size class processing unit 33, and steps S31 and S32 may be omitted.
粒径クラスの判定に関し、粒径クラス判定装置Dは、このように動作する。 With regard to particle size class determination, the particle size class determination device D operates as follows:
以上説明したように、本実施形態における画像サイズ決定支援機能付きの粒径クラス判定装置D、ならびに、これに実装された粒径クラス判定方法および粒径クラス判定プログラムは、複数の粒子を撮像した画像の粒径クラスの判定に、第1機械学習モデルを用いるので、様々な判定対象の画像で機械学習することで、より広い判定対象の粒径クラスを判定できる。この判定の際に、前記第1機械学習モデルに入力される画像のサイズが判定目標の粒径値を所定の定数で定数倍したサイズであるので、上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムは、適切に粒径クラスを判定できる。特に、上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムは、判定対象が疑似粒子である場合に、好適である。 As described above, the particle size class determination device D with image size determination assistance function in this embodiment, and the particle size class determination method and particle size class determination program implemented therein, use a first machine learning model to determine the particle size class of an image of multiple particles. Therefore, by performing machine learning on images of various particles, it is possible to determine the particle size class of a wider range of particles. During this determination, the size of the image input to the first machine learning model is a predetermined constant multiplied by the particle size value of the determination target. Therefore, the particle size class determination device D, particle size class determination method, and particle size class determination program can appropriately determine the particle size class. In particular, the particle size class determination device D, particle size class determination method, and particle size class determination program are suitable when the particle size to be determined is a pseudoparticle.
上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムは、照明部2(2-1~2-4)をさらに備え、画像取得部1に撮像部1を用いるので、例えば工場内の製造ラインで上記上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムが利用でき、生産中に粒径クラスが判定できる。 The particle size class determination device D, particle size class determination method, and particle size class determination program further include an illumination unit 2 (2-1 to 2-4) and use an imaging unit 1 for the image acquisition unit 1. Therefore, the particle size class determination device D, particle size class determination method, and particle size class determination program can be used, for example, on a production line within a factory, allowing particle size classes to be determined during production.
上述の実施形態によれば、前記所定の定数を、7より大きく、12より小さい値にした上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムが提供できる。 The above-described embodiment provides the particle size class determination device D, particle size class determination method, and particle size class determination program, in which the predetermined constant is set to a value greater than 7 and less than 12.
上述の実施形態によれば、疑似粒子を判定対象とした上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムが提供できる。上記粒径クラス判定装置D、粒径クラス判定方法および粒径クラス判定プログラムを、疑似粒子の粒径クラスの判定に用いるので、疑似粒子の粒径クラスが適切に判定できる。 The above-described embodiment provides the particle size class determination device D, particle size class determination method, and particle size class determination program for determining pseudo particles. Because the particle size class determination device D, particle size class determination method, and particle size class determination program are used to determine the particle size class of pseudo particles, the particle size class of the pseudo particles can be appropriately determined.
本実施形態における画像サイズ決定支援機能付きの粒径クラス判定装置D、ならびに、これに実装された画像サイズ決定支援方法および画像サイズ決定支援プログラムは、機械学習済みの第2学習モデルに、所定のサイズ決定用データセットを入力することによって得られた、前記複数の粒径クラスそれぞれの各確率を出力するので、ユーザは、この出力された複数の粒径クラスそれぞれの各確率と、画像に紐付けられた含有率(実施形態ではその一例の粉率)を参照することで、複数の画像サイズの中から、最適な画像サイズを決定できる。したがって、上記画像サイズ決定支援機能付きの粒径クラス判定装置D、画像サイズ決定支援方法および画像サイズ決定支援プログラムは、ユーザによる画像サイズの決定を好適に支援できる。よって、本実施形態によれば、これらでの粒径クラスの判定に用いる画像サイズを決定する際に、前記決定を支援する上記画像サイズ決定支援機能付きの粒径クラス判定装置D、画像サイズ決定支援方法および画像サイズ決定支援プログラムが提供できる。 In this embodiment, the particle size class determination device D with image size determination support function, and the image size determination support method and image size determination support program implemented therein, output the probability for each of the multiple particle size classes obtained by inputting a predetermined size determination dataset into a machine-learned second learning model. The user can then determine the optimal image size from among multiple image sizes by referencing the output probability for each of the multiple particle size classes and the content rate associated with the image (in this embodiment, the powder content is an example of this). Therefore, the particle size class determination device D with image size determination support function, image size determination support method, and image size determination support program can effectively assist the user in determining the image size. Therefore, this embodiment provides the particle size class determination device D with image size determination support function, image size determination support method, and image size determination support program that assist in determining the image size used for particle size class determination.
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。 In order to express the present invention, the present invention has been appropriately and sufficiently described above through embodiments with reference to the drawings. However, it should be recognized that those skilled in the art could easily modify and/or improve the above-described embodiments. Therefore, unless modifications or improvements made by those skilled in the art deviate from the scope of the claims set forth in the claims, such modifications or improvements are deemed to be encompassed within the scope of the claims.
D 画像サイズ決定支援機能付きの粒径クラス判定装置
1 画像取得部
2(2-1~2-4) 照明部
3 制御処理部
4 入力部
5 出力部
6 インターフェース部(IF部)
7 記憶部
31 制御部
32 機械学習部
33 粒径クラス処理部
34 画像サイズ調整部
D. Particle size class determination device with image size determination support function 1 Image acquisition unit 2 (2-1 to 2-4) Illumination unit 3 Control processing unit 4 Input unit 5 Output unit 6 Interface unit (IF unit)
7 Memory unit 31 Control unit 32 Machine learning unit 33 Particle size class processing unit 34 Image size adjustment unit
Claims (6)
画像が入力され、粒径を互いに異なる複数の範囲に複数の粒径クラスとして分けた場合に、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する機械学習済みの機械学習モデルによって、前記画像取得部で取得した画像における前記複数の粒径クラスそれぞれの各確率を求める粒径クラス処理部とを備え、
前記複数の範囲における各境界値のいずれかは、予め判定目標とした粒径値であり、
前記機械学習モデルに入力される画像のサイズは、前記判定目標の粒径値を所定の定数で定数倍したサイズであり、
前記所定の定数は、7より大きく、12より小さい値であり、
前記粒子は、核となる第1粒子と、前記第1粒子の表面に付いた、前記第1粒子より小さい第2粒子とを備えて成る疑似粒子である、
粒径クラス判定装置。 an image acquisition unit that acquires an image of a plurality of particles including particles of different particle sizes;
a particle size class processing unit that, when an image is input and particle sizes are divided into a plurality of particle size classes into a plurality of different ranges, calculates the probability of each of the plurality of particle size classes in the image acquired by the image acquisition unit using a machine learning model that has undergone machine learning and outputs, for each of the plurality of particle size classes, the probability that the input image will be classified into that particle size class;
Any of the boundary values in the plurality of ranges is a particle size value that is a predetermined target for judgment,
The size of the image input to the machine learning model is a size obtained by multiplying the particle size value of the judgment target by a predetermined constant,
the predetermined constant is greater than 7 and less than 12 ;
The particles are pseudo-particles each comprising a first particle serving as a core and a second particle attached to the surface of the first particle and smaller than the first particle .
Particle size class determination device.
前記画像取得部は、画像を生成する撮像部である、
請求項1に記載の粒径クラス判定装置。 an illumination unit that illuminates the plurality of particles;
The image acquisition unit is an imaging unit that generates an image.
The particle size class determination device according to claim 1 .
所定の学習用データセットを取得する第1データ取得部と、
所定のサイズ決定用データセットを取得する第2データ取得部と、
画像が入力され、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得部で取得した所定の学習用データセットを用いて機械学習する機械学習部と、
前記機械学習部で機械学習した第2機械学習モデルに、前記第2データ取得部で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習部で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力部とを備え、
前記所定の学習用データセットおよび前記所定のサイズ決定用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を同数で備え、
前記複数のデータ群は、画像のサイズが互いに異なり、
前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられ、
前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられ、
前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、
前記機械学習部は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、
前記出力部は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習部で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習部で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確
率を出力する、
画像サイズ決定支援装置。 1. An image size determination support device that supports the determination of an image size to be used for determining a particle size class when particle sizes are divided into a plurality of particle size classes each having a different range, the device comprising:
a first data acquisition unit that acquires a predetermined learning dataset;
a second data acquisition unit that acquires a predetermined size determination data set;
a machine learning unit that uses a predetermined learning dataset acquired by the first data acquisition unit to perform machine learning on a second machine learning model that receives an input image and outputs, for each of the plurality of particle size classes, a probability that the input image is classified into the particle size class;
an output unit that outputs the probabilities of each of the plurality of particle size classes output from the second machine learning model trained by the machine learning unit by inputting the predetermined size determination data set acquired by the second data acquisition unit into the second machine learning model trained by the machine learning unit,
the predetermined learning dataset and the predetermined size determination dataset each include the same number of data groups each including image data of a plurality of images;
The plurality of data groups have different image sizes,
In each of the plurality of data groups in the predetermined learning dataset, the plurality of images in the data group are a plurality of images including images of each of the plurality of particle size classes, and each of the plurality of images in the data group is linked to the particle size class of the image;
In each of the plurality of data groups in the predetermined size determination data set, the plurality of images in the data group are a plurality of images including images with different content rates of particles belonging to a particle size class with a smallest particle size, and the content rate of each of the plurality of images in the data group is linked,
the number of the unmachine-learned second machine learning models is the same as the number of the plurality of data groups, and the unmachine-learned second machine learning models are provided corresponding to each of the plurality of data groups;
the machine learning unit performs machine learning on a second machine learning model corresponding to each of the plurality of data groups in the predetermined training dataset, the second machine learning model being an untrained model corresponding to the data group, using a plurality of images in the data group;
The output unit outputs the probabilities of each of the plurality of particle size classes output from the second machine learning model trained by the machine learning unit by inputting, for each of the plurality of data groups in the predetermined size determination data set, a plurality of images in the data group into the second machine learning model trained by the machine learning unit using a data group in the predetermined training data set having the same image size as the image size in the data group.
Image size determination support device.
前記機械学習済みの機械学習モデルには、前記機械学習部で機械学習した第2機械学習モデルが用いられる、
請求項1または請求項2に記載の粒径クラス判定装置。 The image size determination support device according to claim 3 is further provided,
As the machine-learned machine learning model, a second machine learning model trained by the machine learning unit is used.
The particle size class determination device according to claim 1 or 2 .
所定の学習用データセットを取得する第1データ取得工程と、
所定のサイズ決定用データセットを取得する第2データ取得工程と、
画像が入力され、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得工程で取得した所定の学習用データセットを用いて機械学習する機械学習工程と、
前記機械学習工程で機械学習した第2機械学習モデルに、前記第2データ取得工程で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力工程とを備え、
前記所定の学習用データセットおよび前記所定のサイズ決定用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を備え、
前記複数のデータ群は、画像のサイズが互いに異なり、
前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられ、
前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられ、
前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、
前記機械学習工程は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、
前記出力工程は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習工程で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する、
画像サイズ決定支援方法。 1. An image size determination support method for supporting the determination of an image size to be used for determining a particle size class when particle sizes are divided into a plurality of particle size classes each having a different range, the method comprising:
a first data acquisition step of acquiring a predetermined training data set;
a second data acquisition step of acquiring a predetermined sizing data set;
a machine learning process in which an image is input and a second machine learning model, which is not yet machine-learned, is trained by machine using the predetermined training data set acquired in the first data acquisition process, and which outputs, for each of the plurality of particle size classes, the probability that the input image is classified into that particle size class;
an output step of inputting the predetermined size determination data set acquired in the second data acquisition step into a second machine learning model trained by machine learning in the machine learning step, and outputting the probabilities of each of the plurality of particle size classes output from the second machine learning model trained by machine learning in the machine learning step;
each of the predetermined training dataset and the predetermined size determination dataset includes a plurality of data groups each including image data of a plurality of images;
The plurality of data groups have different image sizes,
In each of the plurality of data groups in the predetermined learning dataset, the plurality of images in the data group are a plurality of images including images of each of the plurality of particle size classes, and each of the plurality of images in the data group is linked to the particle size class of the image;
In each of the plurality of data groups in the predetermined size determination data set, the plurality of images in the data group are a plurality of images including images with different content rates of particles belonging to a particle size class with a smallest particle size, and the content rate of each of the plurality of images in the data group is linked,
the number of the unmachine-learned second machine learning models is the same as the number of the plurality of data groups, and the unmachine-learned second machine learning models are provided corresponding to each of the plurality of data groups;
the machine learning step performs machine learning of an untrained second machine learning model corresponding to each of the plurality of data groups in the predetermined training dataset using a plurality of images in the data group;
The output step outputs the probabilities of each of the plurality of particle size classes output from the second machine learning model trained in the machine learning step by inputting, for each of the plurality of data groups in the predetermined size determination data set, a plurality of images in the data group into the second machine learning model trained in the machine learning step using a data group in the predetermined training data set having the same image size as the image size in the data group.
A method to help determine image size.
所定の学習用データセットを取得する第1データ取得工程と、
所定のサイズ決定用データセットを取得する第2データ取得工程と、
画像が入力され、前記複数の粒径クラスそれぞれについて、前記入力された画像が当該粒径クラスに分類される確率を出力する未機械学習の第2機械学習モデルを、前記第1データ取得工程で取得した所定の学習用データセットを用いて機械学習する機械学習工程と、
前記機械学習工程で機械学習した第2機械学習モデルに、前記第2データ取得工程で取得した所定のサイズ決定用データセットを入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する出力工程とを備え、
前記所定の学習用データセットおよび前記所定のサイズ決定用データセットそれぞれは、複数の画像の各画像データを備える複数のデータ群を備え、
前記複数のデータ群は、画像のサイズが互いに異なり、
前記所定の学習用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、前記複数の粒径クラスそれぞれの画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の粒径クラスが紐付けられ、
前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれにおいて、当該データ群における複数の画像は、最小の粒径の粒径クラスに属する粒子の含有率が異なる画像を含む複数の画像であり、当該データ群における複数の画像それぞれについて、当該画像の含有率が紐付けられ、
前記未機械学習の第2機械学習モデルは、前記複数のデータ群の個数と同数であって前記複数のデータ群それぞれに応じて備え、
前記機械学習工程は、前記所定の学習用データセットにおける前記複数のデータ群それぞれについて、当該データ群に応じた未機械学習の第2機械学習モデルを、当該データ群における複数の画像を用いて機械学習し、
前記出力工程は、前記所定のサイズ決定用データセットにおける前記複数のデータ群それぞれについて、当該データ群における画像のサイズと同じ画像のサイズの、前記所定の学習用データセットにおけるデータ群、を用いて前記機械学習工程で機械学習した第2機械学習モデルに、当該データ群における複数の画像を入力することによって、前記機械学習工程で機械学習した第2機械学習モデルから出力された前記複数の粒径クラスそれぞれの各確率を出力する、
画像サイズ決定支援プログラム。 1. An image size determination support program executed by a computer, which supports the determination of a size of an image to be used for determining a particle size class when particle sizes are divided into a plurality of particle size classes each having a different range, the program comprising:
a first data acquisition step of acquiring a predetermined training data set;
a second data acquisition step of acquiring a predetermined sizing data set;
a machine learning process in which an image is input and a second machine learning model, which is not yet machine-learned, is trained by machine using the predetermined training data set acquired in the first data acquisition process, and which outputs, for each of the plurality of particle size classes, the probability that the input image is classified into that particle size class;
an output step of inputting the predetermined size determination data set acquired in the second data acquisition step into a second machine learning model trained by machine learning in the machine learning step, and outputting the probabilities of each of the plurality of particle size classes output from the second machine learning model trained by machine learning in the machine learning step;
each of the predetermined training dataset and the predetermined size determination dataset includes a plurality of data groups each including image data of a plurality of images;
The plurality of data groups have different image sizes,
In each of the plurality of data groups in the predetermined learning dataset, the plurality of images in the data group are a plurality of images including images of each of the plurality of particle size classes, and each of the plurality of images in the data group is linked to the particle size class of the image;
In each of the plurality of data groups in the predetermined size determination data set, the plurality of images in the data group are a plurality of images including images with different content rates of particles belonging to a particle size class with a smallest particle size, and the content rate of each of the plurality of images in the data group is linked,
the number of the unmachine-learned second machine learning models is the same as the number of the plurality of data groups, and the unmachine-learned second machine learning models are provided corresponding to each of the plurality of data groups;
the machine learning step performs machine learning of an untrained second machine learning model corresponding to each of the plurality of data groups in the predetermined training dataset using a plurality of images in the data group;
The output step outputs the probabilities of each of the plurality of particle size classes output from the second machine learning model trained in the machine learning step by inputting, for each of the plurality of data groups in the predetermined size determination data set, a plurality of images in the data group into the second machine learning model trained in the machine learning step using a data group in the predetermined training data set having the same image size as the image size in the data group.
A program to help determine image size.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2022051891A JP7760427B2 (en) | 2022-03-28 | 2022-03-28 | Particle size class determination device, image size determination support device, method and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2022051891A JP7760427B2 (en) | 2022-03-28 | 2022-03-28 | Particle size class determination device, image size determination support device, method and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023144761A JP2023144761A (en) | 2023-10-11 |
| JP7760427B2 true JP7760427B2 (en) | 2025-10-27 |
Family
ID=88253054
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022051891A Active JP7760427B2 (en) | 2022-03-28 | 2022-03-28 | Particle size class determination device, image size determination support device, method and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7760427B2 (en) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014092494A (en) | 2012-11-05 | 2014-05-19 | Shinko Engineering & Maintenance Co Ltd | Grain size measuring apparatus, and grain size measuring method |
| US20160370274A1 (en) | 2015-02-20 | 2016-12-22 | Halliburton Energy Services, Inc. | Classifying particle size and shape distribution in drilling fluids |
| JP2021067468A (en) | 2019-10-17 | 2021-04-30 | 五洋建設株式会社 | Method, device, program, and system for estimating soil quality |
| JP2021117625A (en) | 2020-01-24 | 2021-08-10 | 株式会社奥村組 | Method for estimating particle size distribution of soil |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS60111138A (en) * | 1983-11-21 | 1985-06-17 | Kawasaki Steel Corp | Method for estimating grain size of powder and lump mixture |
| JP3411112B2 (en) * | 1994-11-04 | 2003-05-26 | シスメックス株式会社 | Particle image analyzer |
-
2022
- 2022-03-28 JP JP2022051891A patent/JP7760427B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014092494A (en) | 2012-11-05 | 2014-05-19 | Shinko Engineering & Maintenance Co Ltd | Grain size measuring apparatus, and grain size measuring method |
| US20160370274A1 (en) | 2015-02-20 | 2016-12-22 | Halliburton Energy Services, Inc. | Classifying particle size and shape distribution in drilling fluids |
| JP2021067468A (en) | 2019-10-17 | 2021-04-30 | 五洋建設株式会社 | Method, device, program, and system for estimating soil quality |
| JP2021117625A (en) | 2020-01-24 | 2021-08-10 | 株式会社奥村組 | Method for estimating particle size distribution of soil |
Non-Patent Citations (2)
| Title |
|---|
| Hitoshi Takechi, Shunsuke Aragaki, and Mitsuteru Irie,Differentiation of River Sediments Fractions in UAV Aerial Images by Convolution Neural Network,Remote Sensing (Web),Remote Sensing,2021年,Vol.13, No.16,3188 |
| L. Kandlbauer et al.,Sensor-based Particle Size Determination of Shredded Mixed Commercial Waste based on two-dimensional Images,Waste Management (Kidlington),Waste Management,2021年,Vol.120,784-794 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023144761A (en) | 2023-10-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7349816B2 (en) | Image inspection device | |
| JP5082676B2 (en) | Optical grain sorter | |
| CN105486687B (en) | Touch panel inspection apparatus and method | |
| KR101888227B1 (en) | Gui, classification device, classification method, and recording medium | |
| US11563903B2 (en) | Optical sensor, learning apparatus, and image processing system for selection and setting light-receving elements | |
| JP2010205007A (en) | Model image acquisition support apparatus, model image acquisition support method, and model image acquisition support program | |
| JP6198486B2 (en) | Image processing apparatus and method | |
| CN115900586B (en) | Real-time monitoring device and real-time monitoring method for morphology of reclaimed sand particles | |
| JP7760427B2 (en) | Particle size class determination device, image size determination support device, method and program | |
| JP7486652B1 (en) | Smoke image generating device, smoke detection system, smoke image generating method, abnormality image generating device, and program | |
| JPWO2020213145A5 (en) | ||
| CN103310222A (en) | Image processor, image processing method, control program, and recording medium | |
| JP2014122827A (en) | Type discrimination device for object | |
| US20230230337A1 (en) | A Method for Testing an Embedded System of a Device, a Method for Identifying a State of the Device and a System for These Methods | |
| JP2013239205A (en) | Image processing method | |
| JP2011109507A (en) | Apparatus and program for processing image | |
| JP7704703B2 (en) | Particle size measuring device, method and program thereof, and granulating device and method thereof | |
| JP2005208024A (en) | Particle size distribution creation method | |
| JP7712235B2 (en) | Particle size measuring device, method and program | |
| CN118318154A (en) | Information processing method, information processing device, information processing system, information processing program, and sintered ore manufacturing method | |
| CN116617670B (en) | Method and device for setting up interactive game equipment in irregular venues | |
| JP2006235699A (en) | Simulation apparatus and simulation method | |
| JP2006260410A (en) | Image processing algorithm evaluation apparatus, generation apparatus, evaluation method, generation method, program for causing a computer to function as the evaluation apparatus, and program for causing a computer to function as the generation apparatus | |
| JP2020187655A (en) | Image inspection device | |
| JP7720322B2 (en) | Display method, control device, display device, and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240902 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250528 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250603 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250723 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20251014 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20251015 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7760427 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |