JP7724688B2 - Particle size distribution measuring system and particle size distribution measuring method - Google Patents
Particle size distribution measuring system and particle size distribution measuring methodInfo
- Publication number
- JP7724688B2 JP7724688B2 JP2021185825A JP2021185825A JP7724688B2 JP 7724688 B2 JP7724688 B2 JP 7724688B2 JP 2021185825 A JP2021185825 A JP 2021185825A JP 2021185825 A JP2021185825 A JP 2021185825A JP 7724688 B2 JP7724688 B2 JP 7724688B2
- Authority
- JP
- Japan
- Prior art keywords
- particle size
- size distribution
- unit
- captured image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
Description
本発明は、粒度分布測定システムおよび粒度分布測定方法に関する。 The present invention relates to a particle size distribution measurement system and a particle size distribution measurement method.
ダム等の建設においてコンクリートやCSG(Cemented Sand and Gravel)を製造する工程では、バッチャープラントやCSG混合プラントなどが用いられている。これらのプラントでは、使用する現地発生材(骨材や土砂など)の粒度が所定の範囲内にあることが、品質管理で求められている(図12参照)。CSGの品質管理上、現地発生材の粒度分布を把握する必要がある。粒度分布は、例えば5分級(0-5mm、5-10mm、10-20mm、20-40mm、40-80mm)で管理される。
従来、人力による品質管理試験を行っており、定められた頻度(施工初期においては1回/時間)で間欠的に試料をサンプリングして粒度の測定が実施される(例えば、JIS A 1102「骨材のふるい分け試験方法」を参照)。人力による品質管理試験は、例えば試料を篩で粒径ごとに篩い分けるとともに乾燥させ、かかる試料の重量を測定して粒度分布を把握するものである。人力による品質管理試験は、試験時間を要するために粒度分布の変動に対してタイムリーに対応することが困難であった。
また、搬送ライン上を移動する材料(例えば、現地発生材)を撮影し、その撮影結果に基づいて材料の粒度分布をリアルタイムに測定する技術が提案されている。画像を用いた粒度分布作成の一般的な流れは、「撮像→画像二値化→輪郭抽出→粒径判定→質量換算→粒度分布算出」である。一連の流れで一番重要なのは画像二値化であり、二値化処理を行った場合に複数の材料粒子が見かけ上一つにならないように撮影の前に材料粒子を分散させる必要がある。そこで、上流側から下流側に向けて材料が流下する整流板と、整流板の下流側に設けられたスクリーンと、スクリーンの表側に設けられた撮影部と、を備えている画像撮影装置がある(例えば、特許文献1参照)。前記した画像撮影装置では、整流板の表面に複数の突起が形成されている。このようにすると、整流板の表面を流下する材料が突起に接触して拡散される。これにより、粒子材料の重なりや接触が解消されるために材料粒子の粒径を正しく判定できるので、粒度分布測定の精度を高めることができる。
Batcher plants and CSG mixing plants are used in the process of producing concrete and CSG (Cemented Sand and Gravel) in the construction of dams and other structures. These plants require quality control to ensure that the particle size of locally generated materials (aggregates, soil, sand, etc.) used falls within a specified range (see Figure 12). For CSG quality control, it is necessary to understand the particle size distribution of locally generated materials. The particle size distribution is controlled, for example, into five classifications (0-5 mm, 5-10 mm, 10-20 mm, 20-40 mm, and 40-80 mm).
Traditionally, quality control tests have been conducted manually, with samples being sampled intermittently at a set frequency (once per hour in the early stages of construction) and particle size measurements being carried out (see, for example, JIS A 1102 "Sieving Test Method for Aggregate"). Manual quality control tests involve, for example, sieving samples into particle sizes, drying them, and then measuring the weight of the samples to determine the particle size distribution. Manual quality control tests require a lot of testing time, making it difficult to respond in a timely manner to fluctuations in particle size distribution.
Additionally, a technology has been proposed that captures images of materials (e.g., locally generated materials) moving along a conveying line and measures the particle size distribution of the material in real time based on the captured images. The general process for creating particle size distributions using images is as follows: image capture → image binarization → contour extraction → particle size determination → mass conversion → particle size distribution calculation. The most important step in this process is image binarization, which requires dispersing the material particles before capturing the image to prevent them from appearing as a single particle when binarized. Therefore, an image capture device has been proposed that includes a flow straightening plate through which the material flows from upstream to downstream, a screen located downstream of the flow straightening plate, and a capture unit located on the front side of the screen (see, for example, Patent Document 1). In this image capture device, multiple protrusions are formed on the surface of the flow straightening plate. This allows the material flowing down the surface of the flow straightening plate to come into contact with the protrusions and be dispersed. This eliminates overlapping and contact between the particles, allowing for accurate determination of the particle size of the material particles and improving the accuracy of particle size distribution measurement.
特許文献1に記載される技術では、材料を整流させるための整流板や撮影用のスクリーンを用けるためにコストが増大するという問題があった。また、人力作業や従来の解析方法では、整流板などの分散機構の設置の他に流下する材料を制限する分取を行う必要があり、実施工に使用する材料に対して試験サンプルの割合が少ないという課題があった。
このような観点から、本発明は、コストを抑えながらもタイムリーに粒度分布の測定を実現できる粒度分布測定システムおよび粒度分布測定方法を提供する。また、本発明は、試験サンプルの割合を容易に増やすことができるものである。
The technology described in Patent Document 1 had the problem of increased costs due to the use of a flow rectifier plate to rectify the flow of material and a screen for photography. Furthermore, manual labor and conventional analysis methods required the installation of a dispersion mechanism such as a flow rectifier plate and the need to separate the material to limit the material flow, resulting in a problem of a small ratio of test samples to the material used in the actual construction.
From this perspective, the present invention provides a particle size distribution measurement system and a particle size distribution measurement method that can measure particle size distribution in a timely manner while keeping costs down. Furthermore, the present invention also makes it possible to easily increase the proportion of test samples.
本発明に係る粒度分布測定システムは、対象物の粒度分布を測定する粒度分布測定システムであって、前記対象物を撮影する撮影部と、撮影された前記対象物の粒度分布を算出する処理部とを備える。
前記処理部は、撮影画像において前記対象物の構成物を検出する構成物検出部と、前記撮影画像における前記構成物の面積を算出する面積算出部と、検出された前記構成物から前記対象物の粒度分布を推定する粒度分布推定部とを備える。
前記構成物検出部は、インスタンスセグメンテーションに対応した学習モデルを用いて前記構成物を学習した学習済みモデルによって、前記撮影画像に写る前記構成物を個別に検出する。
前記粒度分布推定部は、前記撮影画像における粒径区分ごとの合計面積と、前記粒径区分ごとの所定面積あたりの質量である質量換算係数とに基づいて粒度分布を推定する。
前記学習モデルは、例えばMASK R-CNNであり、前記学習済みモデルは、前記撮影画像を入力することで前記構成物を検出するように機械学習されたものであるのがよい。
本発明に係る粒度分布測定システムにおいては、インスタンスセグメンテーションに対応した学習モデルを用いるので、重なり合う構成物や接触する構成物をピクセル単位で別々に検出することが可能である。ここで、セグメンテーションは、画像中のピクセルごとにそのピクセルがどのクラスに属するかを出力するものであり、インスタンスセグメンテーションは、さらに個体ごとに領域を分割する(個体の物体領域を抽出する)ものである。その結果、例えば撮影前に対象物を整流する必要がないので、設備のコストを抑えることが可能である。また、対象物を撮影した撮影画像から得られた質量換算係数を用いて粒度分布を測定するので、粒度分布を高精度で測定することができる。
A particle size distribution measurement system according to the present invention is a particle size distribution measurement system for measuring the particle size distribution of an object, and includes an imaging unit that images the object, and a processing unit that calculates the particle size distribution of the imaged object.
The processing unit includes a component detection unit that detects components of the object in the captured image, an area calculation unit that calculates the area of the components in the captured image, and a particle size distribution estimation unit that estimates the particle size distribution of the object from the detected components.
The component detection unit individually detects the components appearing in the captured image using a trained model that has learned about the components using a learning model that supports instance segmentation.
The particle size distribution estimation unit estimates the particle size distribution based on the total area for each particle size range in the captured image and a mass conversion coefficient that is the mass per predetermined area for each particle size range.
The learning model is, for example, MASK R-CNN, and the trained model is preferably one that has been machine-trained to detect the components by inputting the captured image.
The particle size distribution measurement system according to the present invention uses a learning model that supports instance segmentation, making it possible to separately detect overlapping or contacting components on a pixel-by-pixel basis. Here, segmentation outputs the class to which each pixel in an image belongs, while instance segmentation further divides the region into individual units (extracts the object region of each individual). As a result, for example, there is no need to rectify the object before photographing, which reduces equipment costs. Furthermore, since the particle size distribution is measured using a mass conversion coefficient obtained from a photographed image of the object, the particle size distribution can be measured with high accuracy.
前記対象物は、例えばCSG(Cemented Sand and Gravel)用の現地発生材であり、前記現地発生材を搬送する搬送部を備えてもよい。前記撮影部は、搬送される前記現地発生材を連続して撮影し、前記粒度分布推定部は、各々の撮影画像から当該撮影画像ごとの粒度分布を求め、その結果を統計的に処理することによって前記現地発生材の前記粒度分布を推定するのがよい。
このようにすると、搬送部で搬送される全ての現地発生材を検出することが可能になるので、粒度分布を推定するためのサンプル数を増やすことができる。その為、より精度の高い粒度分布を測定することができる。
The target object may be, for example, a locally generated material for CSG (Cemented Sand and Gravel), and the apparatus may include a transport unit for transporting the locally generated material. The photographing unit may continuously photograph the locally generated material being transported, and the particle size distribution estimating unit may calculate a particle size distribution for each photographed image from each photographed image and statistically process the results to estimate the particle size distribution of the locally generated material.
This makes it possible to detect all locally generated materials transported by the transport section, thereby increasing the number of samples used to estimate particle size distribution, and thus enabling more accurate particle size distribution measurements.
本発明に係る粒度分布測定方法は、対象物の粒度分布を測定する粒度分布測定方法であって、前記対象物を撮影する撮影工程と、撮影された前記対象物の粒度分布を算出する処理工程とを有する。
前記処理工程は、撮影画像において前記対象物の構成物を検出する構成物検出工程と、前記撮影画像における前記構成物の面積を算出する面積算出工程と、検出された前記構成物から前記対象物の粒度分布を推定する粒度分布推定工程とを有する。
前記構成物検出工程では、インスタンスセグメンテーションに対応した学習モデルを用いて前記構成物を学習した学習済みモデルによって、前記撮影画像に写る前記構成物を個別に検出する。
前記粒度分布推定工程では、前記撮影画像における粒径区分ごとの合計面積と、前記粒径区分ごとの所定面積あたりの質量である質量換算係数とに基づいて粒度分布を推定する。
本発明に係る粒度分布測定方法においては、インスタンスセグメンテーションに対応した学習モデルを用いるので、重なり合う構成物や接触する構成物をピクセル単位で別々に検出することが可能である。その結果、例えば撮影前に対象物を整流する必要がないので、設備のコストを抑えることが可能である。また、対象物を撮影した撮影画像から得られた質量換算係数を用いて粒度分布を測定するので、粒度分布を高精度で測定することができる。
A particle size distribution measuring method according to the present invention is a particle size distribution measuring method for measuring the particle size distribution of an object, and includes an imaging step of imaging the object, and a processing step of calculating the particle size distribution of the imaged object.
The processing step includes a component detection step of detecting components of the object in the captured image, an area calculation step of calculating the area of the components in the captured image, and a particle size distribution estimation step of estimating the particle size distribution of the object from the detected components.
In the component detection process, the components appearing in the captured image are individually detected using a trained model that has learned about the components using a learning model that supports instance segmentation.
In the particle size distribution estimation step, the particle size distribution is estimated based on the total area for each particle size range in the captured image and a mass conversion coefficient that is the mass per predetermined area for each particle size range.
The particle size distribution measurement method according to the present invention uses a learning model that supports instance segmentation, making it possible to separately detect overlapping or contacting components on a pixel-by-pixel basis. As a result, for example, there is no need to rectify the object before photographing it, which can reduce equipment costs. Furthermore, since the particle size distribution is measured using a mass conversion factor obtained from a photographed image of the object, the particle size distribution can be measured with high accuracy.
本発明によれば、コストを抑えながらもタイムリーに粒度分布の測定を実現できる。 This invention makes it possible to measure particle size distribution in a timely manner while keeping costs down.
以下、本発明の実施をするための形態を、適宜図面を参照しながら詳細に説明する。各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
[第1実施形態]
<第1実施形態に係る粒度分布測定システムの構成について>
図1および図2を参照して、第1実施形態に係る粒度分布測定システム1の構成について説明する。図1は、第1実施形態に係る粒度分布測定システム1の概略構成図である。図2は、撮影部20が撮影した撮影画像のイメージである。
粒度分布測定システム1は、対象物を撮影して取得した撮影画像に基づいて対象物の粒度分布を測定するシステムである。対象物は、粒状の構成物で構成されており、例えば粗粒材(骨材等)及び細粒材(土砂等)を含有する混合材料である。構成物の大きさは特に限定されず、例えば数ミリメートル~数メートルのものであってよい。
粒度分布測定システム1は、粒度分布の測定を必要とする様々な場面で使用することができ、測定対象となる対象物は、種類、用途など特に限定されるものではない。本実施形態では、CSG(Cemented Sand and Gravel)ダム工事に粒度分布測定システム1を用いることを想定し、CSGダム工事に使用する材料9(CSG用の現地発生材)を粒度分布を測定する対象物(以下、「測定対象物」と称する場合がある)とする。
Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. Each drawing is merely a schematic illustration to allow a sufficient understanding of the present invention. Therefore, the present invention is not limited to the illustrated examples. In each drawing, common or similar components are designated by the same reference numerals, and redundant explanations thereof will be omitted.
[First embodiment]
<Configuration of particle size distribution measuring system according to the first embodiment>
The configuration of a particle size distribution measuring system 1 according to the first embodiment will be described with reference to Figures 1 and 2. Figure 1 is a schematic diagram of the particle size distribution measuring system 1 according to the first embodiment. Figure 2 is an image of an image captured by the image capturing unit 20.
The particle size distribution measurement system 1 is a system that measures the particle size distribution of an object based on an image acquired by photographing the object. The object is composed of granular components, such as a mixed material containing coarse particles (aggregate, etc.) and fine particles (soil, sand, etc.). The size of the components is not particularly limited and may be, for example, from several millimeters to several meters.
The particle size distribution measurement system 1 can be used in various situations requiring measurement of particle size distribution, and the object to be measured is not particularly limited in type, use, etc. In this embodiment, it is assumed that the particle size distribution measurement system 1 is used in CSG (Cemented Sand and Gravel) dam construction, and material 9 (on-site generated material for CSG) used in the CSG dam construction is the object to be measured for particle size distribution (hereinafter, may be referred to as "measurement object").
図1に示すように、粒度分布測定システム1は、搬送部10と、撮影部20と、処理部30(粒度分布測定装置)とで構成される。
搬送部10は、測定対象物を搬送するものである。本実施形態における搬送部10は、ベルト式のベルトコンベアであり、上流側及び下流側のプーリ11と、両プーリ11に掛け回された無端ベルト12と、上流側のプーリ11を回転させるモータ(図示せず)と、モータの回転速度を変更するためのインバータ(図示せず)と、を備えており、CSG用の現地発生材を連続的に搬送可能である。搬送部10の下流側には、例えばホッパが設置されており、搬送部10から流下した材料9がホッパに収容される。
撮影部20は、測定対象物を撮影するものである。撮影部20は、材料9を撮影可能な位置に配置される。例えば、図1に示すように、撮影部20は、搬送部10の下流側に配置され、ベルトコンベアの下流端から鉛直下向きに流下(自由落下)する材料9を水平方向(正面方向)から撮影するように設定されている。撮影部20は、デジタル画像を取得可能なビデオカメラまたは高解像度のデジタルカメラが好適である。撮影部20が撮影した撮影画像8のイメージを図2に示す。図2に示すように、撮影画像8には、搬送部10から流れ落ちる材料9が写っている。撮影部20は、測定対象物を連続して撮影し、撮影画像8を処理部30に出力する。撮影部20は、連続撮影した撮影画像8の一部を処理部30に出力してもよい。
処理部30は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等からなるコンピュータであり、撮影部20の撮影画像8を取得し、この撮影画像8に基づいて材料9の粒度分布を算出する。
As shown in FIG. 1, the particle size distribution measuring system 1 is made up of a transport unit 10, an imaging unit 20, and a processing unit 30 (particle size distribution measuring device).
The conveying unit 10 conveys the object to be measured. In this embodiment, the conveying unit 10 is a belt conveyor, and includes upstream and downstream pulleys 11, an endless belt 12 wound around both pulleys 11, a motor (not shown) for rotating the upstream pulley 11, and an inverter (not shown) for changing the rotation speed of the motor, and is capable of continuously conveying on-site generated materials for CSG. A hopper, for example, is installed downstream of the conveying unit 10, and the material 9 flowing down from the conveying unit 10 is stored in the hopper.
The photographing unit 20 photographs the object to be measured. The photographing unit 20 is positioned so as to photograph the material 9. For example, as shown in FIG. 1, the photographing unit 20 is positioned downstream of the conveying unit 10 and configured to photograph the material 9 flowing vertically downward (free fall) from the downstream end of the belt conveyor from a horizontal direction (front direction). The photographing unit 20 is preferably a video camera or a high-resolution digital camera capable of acquiring digital images. FIG. 2 shows an image 8 photographed by the photographing unit 20. As shown in FIG. 2, the photographed image 8 shows the material 9 flowing down from the conveying unit 10. The photographing unit 20 continuously photographs the object to be measured and outputs the photographed images 8 to the processing unit 30. The photographing unit 20 may output a portion of the continuously photographed photographed images 8 to the processing unit 30.
The processing unit 30 is a computer consisting of a CPU (Central Processing Unit), ROM (Read Only Memory), RAM (Random Access Memory), etc., and acquires the image 8 captured by the photographing unit 20 and calculates the particle size distribution of the material 9 based on this captured image 8.
次に、図3を参照して、処理部30(粒度分布測定装置)の処理について説明する。図3は、処理部30(粒度分布測定装置)の機能構成図である。
処理部30は、機械学習によって測定対象物(材料9)の構成物を学習し、撮影部20が撮影した撮影画像8に写る構成物を検出する。そして、処理部30は、検出結果に基づいて各々の構成物の大きさ(粒径)を算出し、撮影画像8における測定対象物の粒度分布を求める。処理部30は、粒度分布の算出を複数の撮影画像8について繰り返し行い、その結果を統計的に処理(例えば平均化)することによって対象物全体の粒度分布を推定する。
本実施形態では、機械学習手法の一つである深層学習(ディープラーニング)を用いて撮影画像8から構成物を検出することを想定し、インスタンスセグメンテーションに対応したMASK R-CNN(Regions with Convolutional Neural Network)を用いる場合について説明する。
ここで、セグメンテーションは、画像中のピクセルごとにそのピクセルがどのクラスに属するかを出力するものであり、インスタンスセグメンテーションは、さらに個体ごとに領域を分割する(個体の物体領域を抽出する)ものである。その為、インスタンスセグメンテーションによれば、同一クラスの重なり合う物体や接触する物体をピクセル単位で別々に検出することが可能である。
Next, the processing of the processing unit 30 (particle size distribution measuring device) will be described with reference to Fig. 3. Fig. 3 is a functional configuration diagram of the processing unit 30 (particle size distribution measuring device).
The processing unit 30 learns the constituents of the measurement object (material 9) by machine learning and detects the constituents that appear in the captured image 8 captured by the photographing unit 20. The processing unit 30 then calculates the size (particle size) of each constituent based on the detection results and determines the particle size distribution of the measurement object in the captured image 8. The processing unit 30 repeatedly calculates the particle size distribution for multiple captured images 8 and estimates the particle size distribution of the entire object by statistically processing (e.g., averaging) the results.
In this embodiment, it is assumed that components are detected from the captured image 8 using deep learning, which is one of the machine learning techniques, and a case will be described in which a MASK R-CNN (Regions with Convolutional Neural Network) that supports instance segmentation is used.
Here, segmentation outputs the class to which each pixel in an image belongs, while instance segmentation further divides the area into individual objects (extracting the object area of each individual object). Therefore, instance segmentation makes it possible to separately detect overlapping or touching objects of the same class on a pixel-by-pixel basis.
MASK R-CNNは、Faster R-CNNを拡張したものである。Faster R-CNNは、R-CNNにおける処理をシンプルにして高速化したものである。R-CNNでは、選択的検索(Selective Search)と呼ばれる手法を適用して関心領域(ROI:Regions of Interest)を抽出し、関心領域を畳み込みニューラルネットワークの入力サイズに変形して個別に入力する。Faster R-CNNでは、選択的検索に代えてRPN(Region Proposal Network)を用いる。RPNは、畳み込みニューラルネットワークで構成されており、ネットワークの途中の層まで処理を行って特徴マップを求め、その特徴マップの各要素位置に対して物体か物体でないかの判別を行う。MASK R-CNNでは、Faster R-CNNのRPNに対して物体認識だけでなく、セグメンテーションを同時に行う。MASK R-CNNの処理については、公知なので詳細な説明を省略する。MASK R-CNNは、例えば以下の文献において解説されている。
・Kaiming Heほか、「Mask R-CNN」、インターネット<https://arxiv.org/pdf/1703.06870.pdf>
MASK R-CNN is an extension of Faster R-CNN. Faster R-CNN simplifies and speeds up the processing in R-CNN. R-CNN applies a technique called selective search to extract regions of interest (ROIs), which are then transformed to the input size of the convolutional neural network and input individually. Faster R-CNN uses a region proposal network (RPN) instead of selective search. RPN is composed of a convolutional neural network, processes up to the intermediate layers of the network to obtain a feature map, and determines whether each element position in the feature map is an object or not. MASK R-CNN not only performs object recognition but also segmentation simultaneously on the RPN of Faster R-CNN. The processing of MASK R-CNN is publicly known, so a detailed description will be omitted. MASK R-CNN is explained in, for example, the following document:
Kaiming He et al., "Mask R-CNN," Internet <https://arxiv.org/pdf/1703.06870.pdf>
このように、MASK R-CNNは、インスタンスセグメンテーションに対応しているために、ピクセル単位で検出対象の構成物であるか否かを判定可能である。そして、処理部30は、撮影画像中において構成物と判定されたピクセルを数えて各々の構成物の面積および大きさ(粒径)を算出するとともに、粒径区分に対応した面積に基づいて粒度分布を算出する。
MASK R-CNNは、複数種類の物体の検出(複数のクラスの分類)に対応しており、一つの撮影画像に複数種類の物体が写っている場合に各々の物体の種類(クラス)を認識することができる。本実施形態では、粒度分布を測定する対象物として混合材料を想定しており、その中で骨材等の粗粒材を検出する場合について説明する。つまり、検出するクラスが粗粒材に関連する「粗粒材クラス」のみであり、土砂等の細粒材については検出しない。なお、クラスの分類は本実施形態で説明する以外のものであってもよい。
In this way, MASK R-CNN supports instance segmentation, making it possible to determine whether or not a pixel is a target component. The processing unit 30 then counts the pixels in the captured image that are determined to be components, calculates the area and size (particle size) of each component, and calculates the particle size distribution based on the area corresponding to the particle size classification.
MASK R-CNN supports the detection of multiple types of objects (classification into multiple classes), and can recognize the type (class) of each object when multiple types of objects are captured in a single captured image. In this embodiment, a mixed material is assumed as the object for which particle size distribution is to be measured, and a case where coarse particles such as aggregate are detected will be described. In other words, the only class detected is the "coarse particle class" related to coarse particles, and fine particles such as soil and sand are not detected. Note that the class classification may be other than that described in this embodiment.
図3に示すように、処理部30は、「キャリブレーションモード」、「学習モード」、「粒度分布推定モード」の三つのモードで動作し、これらの動作に必要な機能を有する。キャリブレーションモードは、撮影部20が設置された状況に応じた調整を行うためのモードである。学習モードは、撮影画像8に写る物体と検出する対象である材料9の構成物との関係を学習するモードである。処理部30は、撮影部20が撮影した撮影画像8を用いて学習を行う。粒度分布推定モードは、撮影画像8に写る材料9の構成物を検出し、検出結果に基づいて材料9の粒度分布を推定するモードである。処理部30は、撮影部20が撮影した撮影画像8を用いて粒度分布の推定を行う。
キャリブレーションモードでの動作は、学習モードおよび粒度分布推定モードでの動作前に実行される。また、粒度分布推定モードでの動作は、学習モードで動作させた後で実行される。なお、キャリブレーションモードでの調整が完了した後で、撮影部20と搬送部10との位置関係を変更しないものとする(特に、撮影部20と搬送部10との近接方向の位置関係)。
As shown in FIG. 3 , the processing unit 30 operates in three modes: a "calibration mode," a "learning mode," and a "particle size distribution estimation mode," and has the functions necessary for these operations. The calibration mode is a mode for making adjustments according to the situation in which the photographing unit 20 is installed. The learning mode is a mode for learning the relationship between the object shown in the photographed image 8 and the constituents of the material 9 to be detected. The processing unit 30 performs learning using the photographed image 8 taken by the photographing unit 20. The particle size distribution estimation mode is a mode for detecting the constituents of the material 9 shown in the photographed image 8 and estimating the particle size distribution of the material 9 based on the detection results. The processing unit 30 estimates the particle size distribution using the photographed image 8 taken by the photographing unit 20.
Operation in the calibration mode is performed before operation in the learning mode and particle size distribution estimation mode. Operation in the particle size distribution estimation mode is performed after operation in the learning mode. Note that after adjustment in the calibration mode is completed, the positional relationship between the photographing unit 20 and the transport unit 10 is not changed (particularly, the positional relationship between the photographing unit 20 and the transport unit 10 in the approaching direction).
処理部30は、キャリブレーション映像入力部41と、キャリブレーションパラメータ生成部42と、記憶部43と、を備える。これらの機能は、主に「キャリブレーションモード」に関する機能である。
また、処理部30は、学習用映像入力部51と、教師データ生成部52と、深層学習部53と、記憶部54と、を備える。これらの機能は、主に「学習モード」に関する機能である。
また、処理部30は、推定用映像入力部61と、骨材検出部62(構成物検出部)と、面積算出部63と、径判定部64と、質量換算部65と、粒度分布推定部66と、を備える。これらの機能は、主に「粒度分布推定モード」に関する機能である。
The processing unit 30 includes a calibration image input unit 41, a calibration parameter generation unit 42, and a storage unit 43. These functions are mainly related to the "calibration mode."
The processing unit 30 also includes a learning video input unit 51, a teacher data generation unit 52, a deep learning unit 53, and a storage unit 54. These functions are mainly related to the "learning mode."
The processing unit 30 also includes an estimation image input unit 61, an aggregate detection unit 62 (component detection unit), an area calculation unit 63, a diameter determination unit 64, a mass conversion unit 65, and a particle size distribution estimation unit 66. These functions are mainly related to the "particle size distribution estimation mode."
(キャリブレーションモードに関する機能)
キャリブレーション映像入力部41は、キャリブレーションに使用する映像(キャリブレーション映像「画像補正映像」)を撮影部20から入力するための機能を有する。
キャリブレーションパラメータ生成部42は、入力したキャリブレーション映像(画像補正映像)からキャリブレーションパラメータを求めるための機能を有する。キャリブレーションパラメータは、例えば画像の補正に必要な情報や実空間長と撮影画像のピクセルとの関係を示す係数などを含む。キャリブレーションパラメータは、記憶部43に格納され、例えば粒度分布推定時において材料9の径の判定に使用される。
(Calibration mode functions)
The calibration image input unit 41 has a function for inputting an image to be used for calibration (a calibration image, an “image correction image”) from the imaging unit 20 .
The calibration parameter generator 42 has a function for calculating calibration parameters from the input calibration image (image-corrected image). The calibration parameters include, for example, information necessary for image correction and coefficients indicating the relationship between the real space length and the pixels of the captured image. The calibration parameters are stored in the memory 43 and are used, for example, to determine the diameter of the material 9 when estimating the particle size distribution.
(学習モードに関する機能)
学習モードでは、撮影画像8から物体検出(位置特定も含む)および物体認識が可能なように学習する。
学習用映像入力部51は、学習に使用する撮影画像8(学習用映像)を撮影部20から入力するための機能を有する。学習用映像は、粒度分布を推定する場合と同様の条件で撮影したものであるのがよく、例えば搬送部10を稼動させて流下した材料9を撮影した映像である。学習用映像入力部51には、学習用映像の他に撮影部20の撮影レートに関する情報が入力され、例えば学習用映像を構成するフレーム(撮影画像8)の少なくとも一部を教師データ生成部52に出力する。
(Learning mode functions)
In the learning mode, learning is performed so that object detection (including position identification) and object recognition can be performed from the captured image 8.
The learning video input unit 51 has a function for inputting captured images 8 (learning videos) used for learning from the imaging unit 20. The learning videos are preferably captured under the same conditions as those used to estimate the particle size distribution, for example, videos of material 9 flowing down while the conveying unit 10 is operating. In addition to the learning videos, information related to the imaging rate of the imaging unit 20 is input to the learning video input unit 51, and the learning video input unit 51 outputs, for example, at least a portion of the frames (captured images 8) that make up the learning videos to the teacher data generation unit 52.
教師データ生成部52は、教師データを生成するための機能を有する。教師データ生成部52は、学習用映像入力部51から取得した撮影画像8を画面に表示させ、人間(例えば、試験者)によるタグ(例えば、構成物であることを示す情報)の設定を受け付ける。教師データ生成部52では、撮影画像8に対して、例えば次の情報をタグ付けすることで教師データを作成する。
・構成物である骨材を囲む枠(ポリライン)の情報
・構成物である骨材のクラスに関する情報
・構成物である骨材のマスクに関する情報
教師データ生成部52は、撮影画像8とタグに関する情報とを関連付けたものを教師データとして生成し、生成した教師データを深層学習部53に出力する。
深層学習部53は、学習モデル(ネットワーク)を学習させるための機能を有する。本実施形態の深層学習部53は、教師データ生成部52によって作成された教師データを用いて、MASK R-CNNを機械学習させる。深層学習部53は、撮影部20で撮影した材料9の撮影画像8を入力することで材料9に含まれる粗粒材9a(骨材等)を検出するように学習モデルを機械学習させる。学習が完了した学習モデル(学習済みモデル)は、記憶部54に格納される。
The teacher data generation unit 52 has a function for generating teacher data. The teacher data generation unit 52 displays the captured image 8 acquired from the learning video input unit 51 on a screen and accepts tags (e.g., information indicating that it is a composition) set by a person (e.g., an examiner). The teacher data generation unit 52 creates teacher data by tagging the captured image 8 with, for example, the following information:
- Information on the frame (polyline) surrounding the aggregate, which is a component - Information on the class of the aggregate, which is a component - Information on the mask of the aggregate, which is a component The teacher data generation unit 52 generates teacher data that associates the captured image 8 with information on the tag, and outputs the generated teacher data to the deep learning unit 53.
The deep learning unit 53 has a function for training a learning model (network). The deep learning unit 53 of this embodiment trains MASK R-CNN using the training data created by the training data generation unit 52. The deep learning unit 53 trains the learning model by machine learning so that the learning model can detect coarse grain material 9a (aggregate, etc.) contained in the material 9 by inputting the photographed image 8 of the material 9 photographed by the photographing unit 20. The learning model (trained model) that has completed training is stored in the memory unit 54.
(粒度分布推定モードに関する機能)
粒度分布推定モードでは、対象物を撮影した撮影画像8から物体検出(位置特定も含む)および物体認識を行い、その結果から対象物の粒度分布を推定する。
推定用映像入力部61は、粒度分布の推定に使用する撮影画像8(推定用映像)を撮影部20から入力するための機能を有する。推定用映像は、学習で使用した学習用映像と同様の条件で撮影したものであるのがよく、例えば搬送部10を稼動させて流下した材料9を撮影した映像である。推定用映像入力部61には、推定用映像の他に撮影部20の撮影レートに関する情報が入力され、例えば推定用映像を構成するフレーム(撮影画像8)の少なくとも一部を骨材検出部62に出力する。
骨材検出部62は、撮影部20が撮影した撮影画像8から材料9に含まれる粗粒材9a(骨材等)を検出する機能を有する。本実施形態での骨材検出部62は、深層学習部53によって学習された学習済みモデルを用いて粗粒材9a(骨材等)の検出を行う。骨材検出部62は、学習済みモデルに推定用の撮影画像8を入力し、学習済みモデルから出力される検出結果(検出した粗粒材9a(骨材等)の情報)を取得する。
骨材検出部62による検出結果を図4および図5に示す。図4は、撮影画像に検出結果を反映させた検出結果イメージである。図5は、図4における領域Kの拡大図である。図4では、ハッチング等を付すことで、検出された物体(粗粒材9a(骨材等))を強調して表示している。図5に示すように、複数の粗粒材9aが重なり合って写っていたり、接触していたとしても、異なる物体として検出される。骨材検出部62は、検出結果を面積算出部63に出力する。
(Functions related to particle size distribution estimation mode)
In the particle size distribution estimation mode, object detection (including position identification) and object recognition are performed from a captured image 8 of an object, and the particle size distribution of the object is estimated from the results.
The estimation video input unit 61 has a function for inputting captured images 8 (estimation video) used for estimating particle size distribution from the imaging unit 20. The estimation video is preferably captured under the same conditions as the learning video used in learning, for example, video of material 9 flowing down while the conveying unit 10 is operating. In addition to the estimation video, information regarding the imaging rate of the imaging unit 20 is input to the estimation video input unit 61, and at least a portion of the frames (captured images 8) that make up the estimation video is output to the aggregate detection unit 62, for example.
The aggregate detection unit 62 has a function of detecting coarse granular material 9a (aggregate, etc.) contained in the material 9 from the captured image 8 captured by the imaging unit 20. In this embodiment, the aggregate detection unit 62 detects the coarse granular material 9a (aggregate, etc.) using a trained model trained by the deep learning unit 53. The aggregate detection unit 62 inputs the captured image 8 for estimation to the trained model and obtains the detection result (information on the detected coarse granular material 9a (aggregate, etc.)) output from the trained model.
The detection results by the aggregate detection unit 62 are shown in Figures 4 and 5. Figure 4 is an image of the detection result in which the detection results are reflected in the photographed image. Figure 5 is an enlarged view of area K in Figure 4. In Figure 4, the detected objects (coarse granular materials 9a (aggregates, etc.)) are highlighted by hatching or the like. As shown in Figure 5, even if multiple coarse granular materials 9a are photographed overlapping or touching, they are detected as different objects. The aggregate detection unit 62 outputs the detection results to the area calculation unit 63.
面積算出部63は、骨材検出部62によって検出された粗粒材9a(骨材等)の面積を算出する機能を有する。面積算出部63は、撮影画像8における粗粒材9aごとの面積(ピクセル数)を算出し、算出結果を径判定部64や質量換算部65へ出力する。
径判定部64は、骨材検出部62によって検出された粗粒材9a(骨材等)の径を求める機能を有する。径判定部64は、検出された粗粒材9aの情報に径の情報を付与して質量換算部65に出力する。
質量換算部65は、粒径区分ごとの質量換算係数(「重量換算係数」とも呼ばれる)を算出するための機能を有する。質量換算係数は、撮影画像8における粗粒材9a(骨材等)の所定面積あたりの質量である。粒径区分は、例えば5[mm]以下、5[mm]よりも大きく10[mm]以下、10[mm]よりも大きく20[mm]以下、20[mm]よりも大きく40[mm]以下、40[mm]よりも大きく80[mm]以下、の5つの区分として設定される。質量換算部65は、何らかの方法(例えば、試験者による事前登録)によって質量換算係数を算出するための既知の数値を有している。質量換算部65は、粗粒材9a(骨材等)の粒径区分ごとの合計面積と、質量換算係数を算出するための既知の数値とに基づいて粒径区分ごとの質量換算係数を算出する。質量換算部65は、算出した質量換算係数を粒度分布推定部66に出力する。なお、骨材等の含水量(表面水量)に応じて質量換算係数の較正を行ってもよい。水分量が大きい程、骨材の粒径が大きくなる。
粒度分布推定部66は、各々の撮影画像8における粗粒材9a(骨材等)の粒径区分ごとの合計面積と、質量換算係数とに基づいて材料9の粒度分布を算出する。粒度分布推定部66は、各々の撮影画像8から当該撮影画像8ごとの粒度分布を求め、その結果を統計的に処理する(例えば、平均化する)ことによって材料9の粒度分布を推定するのがよい。このようにすると、搬送部10で搬送される全ての材料9を検出することが可能になるので、粒度分布を推定するためのサンプル数を増やすことができる。その為、より精度の高い粒度分布を測定することができる。そして、粒度分布推定部66は、例えば図示しない表示部に算出した粒度分布を表示させる。
The area calculation unit 63 has a function of calculating the area of the coarse granular material 9a (aggregate, etc.) detected by the aggregate detection unit 62. The area calculation unit 63 calculates the area (number of pixels) of each coarse granular material 9a in the photographed image 8, and outputs the calculation result to the diameter determination unit 64 and the mass conversion unit 65.
The diameter determination unit 64 has a function of determining the diameter of the coarse granular material 9a (aggregate, etc.) detected by the aggregate detection unit 62. The diameter determination unit 64 adds diameter information to information on the detected coarse granular material 9a and outputs the information to the mass conversion unit 65.
The mass conversion unit 65 has a function for calculating a mass conversion coefficient (also referred to as a "weight conversion coefficient") for each particle size classification. The mass conversion coefficient is the mass per predetermined area of the coarse granular material 9a (aggregate, etc.) in the captured image 8. The particle size classification is set as five classifications, for example, 5 mm or less, greater than 5 mm and less than 10 mm, greater than 10 mm and less than 20 mm, greater than 20 mm and less than 40 mm, and greater than 40 mm and less than 80 mm. The mass conversion unit 65 has known values for calculating the mass conversion coefficients by some method (e.g., prior registration by the tester). The mass conversion unit 65 calculates the mass conversion coefficient for each particle size classification based on the total area of the coarse granular material 9a (aggregate, etc.) for each particle size classification and the known values for calculating the mass conversion coefficients. The mass conversion unit 65 outputs the calculated mass conversion coefficients to the particle size distribution estimation unit 66. The mass conversion factor may be calibrated according to the moisture content (surface moisture content) of the aggregate, etc. The greater the moisture content, the larger the particle size of the aggregate.
The particle size distribution estimation unit 66 calculates the particle size distribution of the material 9 based on the total area of each particle size division of the coarse granular material 9a (aggregate, etc.) in each captured image 8 and the mass conversion coefficient. The particle size distribution estimation unit 66 preferably calculates the particle size distribution for each captured image 8 and estimates the particle size distribution of the material 9 by statistically processing (e.g., averaging) the results. This makes it possible to detect all of the material 9 transported by the transport unit 10, thereby increasing the number of samples used to estimate the particle size distribution. This allows for more accurate particle size distribution measurements. The particle size distribution estimation unit 66 then displays the calculated particle size distribution on a display unit (not shown), for example.
<第1実施形態に係る粒度分布測定システムの粒度分布推定方法について>
図6ないし図8を参照して(適宜、図1ないし図5を参照)、粒度分布測定システム1の粒度分布推定方法について説明する。図6は、キャリブレーションモードにおける処理を示したフローチャートの例示である。図7は、学習モードにおける処理を示したフローチャートの例示である。図8は、粒度分布推定モードにおける処理を示したフローチャートの例示である。
(キャリブレーションモードに関する動作)
図6を参照して、キャリブレーションモードに関する動作について説明する。最初に、試験者は、撮影部20を稼働させてキャリブレーション映像を撮影させ、キャリブレーション映像入力部41は、撮影したキャリブレーション映像の入力を受け付ける(ステップS11)。次に、キャリブレーションパラメータ生成部42は、入力されたキャリブレーション映像に基づいてキャリブレーションパラメータを作成する(ステップS12)。作成されたキャリブレーションパラメータは、記憶部43に格納され、粒度分布推定モードでの動作時に使用される。なお、キャリブレーションパラメータを作成した後では、撮影部20の撮影に関する環境(撮影部20の位置など)を変更しないようにする。
<Regarding the particle size distribution estimation method of the particle size distribution measurement system according to the first embodiment>
A particle size distribution estimation method of the particle size distribution measurement system 1 will be described with reference to Fig. 6 to Fig. 8 (and Fig. 1 to Fig. 5 as appropriate). Fig. 6 is an example of a flowchart showing processing in a calibration mode. Fig. 7 is an example of a flowchart showing processing in a learning mode. Fig. 8 is an example of a flowchart showing processing in a particle size distribution estimation mode.
(Calibration mode operations)
The operation of the calibration mode will be described with reference to FIG. 6 . First, the tester operates the photographing unit 20 to photograph a calibration image, and the calibration image input unit 41 accepts input of the photographed calibration image (step S11). Next, the calibration parameter generation unit 42 creates calibration parameters based on the input calibration image (step S12). The created calibration parameters are stored in the storage unit 43 and used during operation in the particle size distribution estimation mode. Note that after the calibration parameters are created, the environment related to photographing by the photographing unit 20 (such as the position of the photographing unit 20) should not be changed.
(学習モードに関する動作)
図7を参照して、学習モードに関する動作について説明する。試験者は、キャリブレーションモードに関する動作を完了した後で学習モードでの動作を実行する。最初に、試験者は、撮影部20を稼働させて学習用映像を撮影させ、学習用映像入力部51は、学習用映像の入力を開始する(ステップS21)。次に、教師データ生成部52は、学習用映像入力部51から取得した学習用映像のフレーム(撮影画像8)を画面に表示させ、試験者によるタグ(例えば、粗粒材9aであることを示す情報)の設定を受け付けて教師データを作成する(ステップS22)。教師データ生成部52は、例えば撮影した時刻が異なるフレーム(撮影画像8)を用いて複数の教師データを作成する。次に、深層学習部53は、ステップS22で作成した教師データを用いた深層学習によって学習モデル(例えば、MASK R-CNN)を学習させる(ステップS23)。これにより、学習済みモデルが作成され、作成された学習済みモデルは記憶部54に格納される。学習済みモデルは、撮影部20で撮影した材料9の撮影画像8を入力することで材料9に含まれる粗粒材9a(骨材等)を検出するものである。
(Learning mode operations)
The operation of the learning mode will be described with reference to FIG. 7 . The tester performs the operation in the learning mode after completing the operation in the calibration mode. First, the tester operates the image capture unit 20 to capture learning video, and the learning video input unit 51 begins inputting the learning video (step S21). Next, the teacher data generation unit 52 displays frames of the learning video (captured images 8) acquired from the learning video input unit 51 on the screen and creates teacher data by accepting tags (e.g., information indicating that the material is a coarse-grained material 9a) set by the tester (step S22). The teacher data generation unit 52 creates multiple pieces of teacher data, for example, using frames (captured images 8) captured at different times. Next, the deep learning unit 53 trains a learning model (e.g., MASK R-CNN) through deep learning using the teacher data created in step S22 (step S23). This creates a trained model, which is then stored in the memory unit 54. The trained model detects coarse grain material 9a (aggregate, etc.) contained in the material 9 by inputting a photographed image 8 of the material 9 photographed by the photographing unit 20.
(粒度分布推定モードに関する動作)
図8を参照して、粒度分布推定モードに関する動作について説明する。試験者は、キャリブレーションモードに関する動作および学習モードに関する動作を完了した後で粒度分布推定モードでの動作を実行する。最初に、試験者は、撮影部20を稼働させて推定用映像を撮影させ、推定用映像入力部61は、推定用映像の入力を開始する(ステップS31)。次に、骨材検出部62は、ステップS23で深層学習によって学習した学習済みモデルを用いて、推定用映像から粗粒材9a(骨材)を検出する(ステップS32)。ステップS32による検出では、学習済みモデル(例えば、MASK R-CNN)に推定用映像を構成するフレーム(撮影画像8)を入力し、学習済みモデルから出力される検出結果(検出した粗粒材9a(骨材等)の情報)を取得する。
次に、径判定部64は、ステップS32で検出された粗粒材9a(骨材)に基づいて、撮影画像8における粗粒材9aの径を判定する(ステップS33A)。なお、径判定部64は、例えば検出結果を表示部に表示して粗粒材9aの両端部を試験者に選択させ、選択された両端部の間のピクセル数およびキャリブレーションパラメータに基づいて材料9(骨材)の実際の径を判定してもよい。また、面積算出部63は、ステップS32で検出された各々の粗粒材9a(骨材)の面積を算出する(ステップS33B)。
次に、質量換算部65は、粒径区分ごとの質量換算係数を算出する(ステップS34)。続いて、粒度分布推定部66は、粗粒材9a(骨材)の粒径区分ごとの合計面積と質量換算係数とに基づいて粒度分布を推定する(ステップS35)。そして、粒度分布推定部66は、図示しない表示部に推定した粒度分布を表示させる。
(Operations related to particle size distribution estimation mode)
The operation of the particle size distribution estimation mode will be described with reference to FIG. 8 . The tester performs the operation in the particle size distribution estimation mode after completing the operations in the calibration mode and the learning mode. First, the tester operates the image capture unit 20 to capture an estimation video, and the estimation video input unit 61 begins inputting the estimation video (step S31). Next, the aggregate detection unit 62 detects coarse granular material 9a (aggregates) from the estimation video using the trained model trained by deep learning in step S23 (step S32). In the detection in step S32, frames (captured images 8) constituting the estimation video are input to a trained model (e.g., MASK R-CNN), and the detection result (information on the detected coarse granular material 9a (aggregates, etc.)) output from the trained model is obtained.
Next, the diameter determination unit 64 determines the diameter of the coarse granular material 9a (aggregate) in the photographed image 8 based on the coarse granular material 9a (aggregate) detected in step S32 (step S33A). Note that the diameter determination unit 64 may, for example, display the detection result on a display unit to have the tester select both ends of the coarse granular material 9a, and determine the actual diameter of the material 9 (aggregate) based on the number of pixels between the selected ends and the calibration parameters. Furthermore, the area calculation unit 63 calculates the area of each of the coarse granular material 9a (aggregate) detected in step S32 (step S33B).
Next, the mass conversion unit 65 calculates a mass conversion coefficient for each particle size range (step S34). The particle size distribution estimation unit 66 then estimates the particle size distribution based on the total area and mass conversion coefficient for each particle size range of the coarse granular material 9a (aggregate) (step S35). The particle size distribution estimation unit 66 then displays the estimated particle size distribution on a display unit (not shown).
以上のように、第1実施形態に係る粒度分布測定システム1においては、インスタンスセグメンテーションに対応した学習モデルを用いるので、重なり合う粗粒材9a(骨材)や接触する粗粒材9a(骨材)をピクセル単位で別々に検出することが可能である。ここで、セグメンテーションは、画像中のピクセルごとにそのピクセルがどのクラスに属するかを出力するものであり、インスタンスセグメンテーションは、さらに個体ごとに領域を分割する(個体の物体領域を抽出する)ものである。その結果、例えば撮影前に材料9を整流する必要がないので、設備のコストを抑えることが可能である。 As described above, the particle size distribution measuring system 1 according to the first embodiment uses a learning model that supports instance segmentation, making it possible to separately detect overlapping coarse granular materials 9a (aggregates) and contacting coarse granular materials 9a (aggregates) on a pixel-by-pixel basis. Here, segmentation outputs the class to which each pixel in an image belongs, while instance segmentation further divides the region into individual units (extracts the object region of each individual unit). As a result, for example, there is no need to rectify the material 9 before capturing an image, which can reduce equipment costs.
[第2実施形態]
<第2実施形態に係る粒度分布測定システムの構成について>
図9および図10を参照して、第2実施形態に係る粒度分布測定システム101の構成について説明する。図9は、第2実施形態に係る粒度分布測定システム101の概略構成図である。図10は、撮影部20が撮影した撮影画像のイメージである。
第2実施形態に係る粒度分布測定システム101の構成要素は、第1実施形態に係る粒度分布測定システム1と同様である。図9に示すように、粒度分布測定システム101は、搬送部10と、撮影部20と、処理部30(粒度分布測定装置)とで構成される。第2実施形態では、撮影部20の配置が第1実施形態と異なる。
第2実施形態での撮影部20は、搬送部10の上方に配置され、水平方向に移動する材料9を鉛直下向きに撮影するように設定されている。撮影部20は、デジタル画像を取得可能なビデオカメラまたは高解像度のデジタルカメラが好適である。撮影部20が撮影した撮影画像8のイメージを図10に示す。図10に示すように、撮影画像8には、搬送部10上を搬送される材料9が写っている。撮影部20は、撮影結果を処理部30に出力する。
Second Embodiment
<Configuration of particle size distribution measuring system according to the second embodiment>
The configuration of a particle size distribution measuring system 101 according to the second embodiment will be described with reference to Fig. 9 and Fig. 10. Fig. 9 is a schematic diagram of the particle size distribution measuring system 101 according to the second embodiment. Fig. 10 is an image of an image captured by the image capturing unit 20.
The components of a particle size distribution measuring system 101 according to the second embodiment are the same as those of the particle size distribution measuring system 1 according to the first embodiment. As shown in Fig. 9, the particle size distribution measuring system 101 is composed of a transport unit 10, an imaging unit 20, and a processing unit 30 (particle size distribution measuring device). In the second embodiment, the arrangement of the imaging unit 20 differs from that in the first embodiment.
The photographing unit 20 in the second embodiment is disposed above the conveying unit 10 and is configured to photograph the material 9 moving horizontally facing vertically downward. The photographing unit 20 is preferably a video camera or a high-resolution digital camera capable of acquiring digital images. FIG. 10 shows an image 8 photographed by the photographing unit 20. As shown in FIG. 10, the photographed image 8 shows the material 9 being conveyed on the conveying unit 10. The photographing unit 20 outputs the photographed results to the processing unit 30.
以上説明した第2実施形態に係る粒度分布測定システム101によっても、第1実施形態と略同等の効果を奏することができる。
<変形例>
各実施形態では、インスタンスセグメンテーションに対応した学習モデル(ネットワーク)としてMASK R-CNNを例示して説明した。しかしながら、撮影画像8から推定対象をピクセル単位で個別に検出することが可能であれば、他の学習モデルを用いることが可能である。
また、各実施形態では、粒度分布を推定する対象物がCSGダム工事に使用する材料9(CSG用の現地発生材)であった。しかしながら、粒度分布を推定する対象物は現地発生材に限定されず、様々な物の粒度分布を推定することが可能である。例えば、図11に示すように、石積み109における石109aの検出を行ってその粒度分布を推定することも可能である。図11は、粒度分布を推定する対象物を説明する図であり、(a)は対象物の一例としての石積み109を撮影した撮影画像のイメージであり、(b)は検出結果を示す図である。
The particle size distribution measuring system 101 according to the second embodiment described above can also achieve substantially the same effects as those of the first embodiment.
<Modification>
In each embodiment, MASK R-CNN has been described as an example of a learning model (network) that supports instance segmentation. However, other learning models can be used as long as they can individually detect the estimation target pixel by pixel from the captured image 8.
In each embodiment, the object for which the particle size distribution is to be estimated is material 9 (on-site generated material for CSG) used in CSG dam construction. However, the object for which the particle size distribution is to be estimated is not limited to on-site generated material, and the particle size distribution of various objects can be estimated. For example, as shown in FIG. 11 , it is also possible to detect stones 109a in masonry 109 and estimate its particle size distribution. FIG. 11 is a diagram explaining the object for which the particle size distribution is to be estimated, where (a) is an image of a photographed image of masonry 109 as an example of the object, and (b) is a diagram showing the detection results.
1,101 粒度分布測定システム
8 撮影画像
9 材料(対象物)
9a 粗粒材(構成物)
10 搬送部
20 撮影部
30 処理部
41 キャリブレーション映像入力部
42 キャリブレーションパラメータ生成部
43 記憶部
51 学習用映像入力部
52 教師データ生成部
53 深層学習部
54 記憶部
61 推定用映像入力部
62 骨材検出部(構成物検出部)
63 面積算出部
64 径判定部
65 質量換算部
66 粒度分布推定部
1,101 Particle size distribution measurement system 8 Photographed image 9 Material (object)
9a Coarse grain material (constituent)
10 Transport unit 20 Photography unit 30 Processing unit 41 Calibration video input unit 42 Calibration parameter generation unit 43 Storage unit 51 Learning video input unit 52 Teacher data generation unit 53 Deep learning unit 54 Storage unit 61 Estimation video input unit 62 Aggregate detection unit (component detection unit)
63 Area calculation unit 64 Diameter determination unit 65 Mass conversion unit 66 Particle size distribution estimation unit
Claims (4)
前記対象物を撮影する撮影部と、
撮影された前記対象物の粒度分布を算出する処理部と、を備え、
前記処理部は、
撮影画像において前記対象物の構成物を検出する構成物検出部と、
前記撮影画像における前記構成物の面積を算出する面積算出部と、
検出された前記構成物から前記対象物の粒度分布を推定する粒度分布推定部と、を備え、
前記構成物検出部は、インスタンスセグメンテーションに対応した学習モデルを用いて前記構成物を学習した学習済みモデルによって、前記撮影画像に写る前記構成物を個別に検出し、
前記粒度分布推定部は、前記撮影画像における粒径区分ごとの合計面積と、前記粒径区分ごとの所定面積あたりの質量である質量換算係数とに基づいて粒度分布を推定する、
ことを特徴とする粒度分布測定システム。 A particle size distribution measurement system for measuring the particle size distribution of an object,
an imaging unit that images the object;
a processing unit that calculates the particle size distribution of the photographed object,
The processing unit
a component detection unit that detects components of the object in the captured image;
an area calculation unit that calculates an area of the component in the captured image;
a particle size distribution estimation unit that estimates a particle size distribution of the object from the detected constituents,
the component detection unit individually detects the components appearing in the captured image using a trained model that has learned the components using a learning model corresponding to instance segmentation;
the particle size distribution estimation unit estimates the particle size distribution based on a total area for each particle size range in the captured image and a mass conversion coefficient that is a mass per predetermined area for each particle size range.
A particle size distribution measuring system characterized by:
前記学習済みモデルは、前記撮影画像を入力することで前記構成物を検出するように機械学習されたものである、
ことを特徴とする請求項1に記載の粒度分布測定システム。 The learning model is MASK R-CNN,
The trained model is machine-trained to detect the component by inputting the captured image.
2. The particle size distribution measuring system according to claim 1 .
前記現地発生材を搬送する搬送部を備え、
前記撮影部は、搬送される前記現地発生材を連続して撮影し、
前記粒度分布推定部は、各々の撮影画像から当該撮影画像ごとの粒度分布を求め、その結果を統計的に処理することによって前記現地発生材の前記粒度分布を推定する、
ことを特徴とする請求項1または請求項2に記載の粒度分布測定システム。 The object is a locally generated material for CSG,
a conveying unit for conveying the on-site generated materials;
The photographing unit continuously photographs the on-site generated materials being transported,
the particle size distribution estimation unit obtains a particle size distribution for each photographed image from the photographed image, and estimates the particle size distribution of the on-site generated material by statistically processing the results.
3. The particle size distribution measuring system according to claim 1 or 2 .
前記対象物を撮影する撮影工程と、
撮影された前記対象物の粒度分布を算出する処理工程と、を有し、
前記処理工程は、
撮影画像において前記対象物の構成物を検出する構成物検出工程と、
前記撮影画像における前記構成物の面積を算出する面積算出工程と、
検出された前記構成物から前記対象物の粒度分布を推定する粒度分布推定工程と、を有し、
前記構成物検出工程では、インスタンスセグメンテーションに対応した学習モデルを用いて前記構成物を学習した学習済みモデルによって、前記撮影画像に写る前記構成物を個別に検出し、
前記粒度分布推定工程では、前記撮影画像における粒径区分ごとの合計面積と、前記粒径区分ごとの所定面積あたりの質量である質量換算係数とに基づいて粒度分布を推定する、
ことを特徴とする粒度分布測定方法。 A particle size distribution measurement method for measuring the particle size distribution of an object, comprising:
an imaging step of imaging the object;
and a processing step of calculating the particle size distribution of the photographed object,
The processing step comprises:
a component detection step of detecting components of the object in the captured image;
an area calculation step of calculating an area of the component in the captured image;
a particle size distribution estimation step of estimating a particle size distribution of the object from the detected constituents,
In the component detection step, the components appearing in the captured image are individually detected using a trained model that has learned the components using a learning model corresponding to instance segmentation;
In the particle size distribution estimation step, the particle size distribution is estimated based on a total area for each particle size division in the captured image and a mass conversion coefficient which is a mass per predetermined area for each particle size division.
A particle size distribution measuring method characterized by:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021185825A JP7724688B2 (en) | 2021-11-15 | 2021-11-15 | Particle size distribution measuring system and particle size distribution measuring method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021185825A JP7724688B2 (en) | 2021-11-15 | 2021-11-15 | Particle size distribution measuring system and particle size distribution measuring method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023073028A JP2023073028A (en) | 2023-05-25 |
| JP7724688B2 true JP7724688B2 (en) | 2025-08-18 |
Family
ID=86425404
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021185825A Active JP7724688B2 (en) | 2021-11-15 | 2021-11-15 | Particle size distribution measuring system and particle size distribution measuring method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7724688B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7575900B2 (en) * | 2020-09-16 | 2024-10-30 | 株式会社栗本鐵工所 | Particle size distribution estimation device, particle size distribution estimation method, and learning device |
| CN119249152B (en) * | 2024-10-24 | 2025-10-17 | 天津大学 | Data set construction method for particle size distribution neural network inversion algorithm |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011106923A (en) | 2009-11-16 | 2011-06-02 | Taisei Corp | Particle size specifying method and particle size specifying system for granular material |
| JP2015010952A (en) | 2013-06-28 | 2015-01-19 | 大成建設株式会社 | Grain size distribution measurement system and weight conversion factor calculation system |
| US20160341649A1 (en) | 2013-12-20 | 2016-11-24 | Can Technologies, Inc. | Particle score calibration |
| CN110174334A (en) | 2019-06-28 | 2019-08-27 | 华侨大学 | A kind of coarse aggregate quality morphology detection system and method |
| JP2020530126A (en) | 2018-07-02 | 2020-10-15 | 北京百度網訊科技有限公司 | Display screen peripheral circuit detection method, display screen peripheral circuit detection device, electronic devices and storage media |
| JP2022049168A (en) | 2020-09-16 | 2022-03-29 | 株式会社栗本鐵工所 | Particle size distribution estimation device, learning device, and trained model |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS5492389A (en) * | 1977-12-29 | 1979-07-21 | Sumitomo Metal Ind | Particle distribution measuring method |
-
2021
- 2021-11-15 JP JP2021185825A patent/JP7724688B2/en active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011106923A (en) | 2009-11-16 | 2011-06-02 | Taisei Corp | Particle size specifying method and particle size specifying system for granular material |
| JP2015010952A (en) | 2013-06-28 | 2015-01-19 | 大成建設株式会社 | Grain size distribution measurement system and weight conversion factor calculation system |
| US20160341649A1 (en) | 2013-12-20 | 2016-11-24 | Can Technologies, Inc. | Particle score calibration |
| JP2020530126A (en) | 2018-07-02 | 2020-10-15 | 北京百度網訊科技有限公司 | Display screen peripheral circuit detection method, display screen peripheral circuit detection device, electronic devices and storage media |
| CN110174334A (en) | 2019-06-28 | 2019-08-27 | 华侨大学 | A kind of coarse aggregate quality morphology detection system and method |
| JP2022049168A (en) | 2020-09-16 | 2022-03-29 | 株式会社栗本鐵工所 | Particle size distribution estimation device, learning device, and trained model |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023073028A (en) | 2023-05-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Rill-García et al. | Inline monitoring of 3D concrete printing using computer vision | |
| US11494891B2 (en) | Method of inspecting and evaluating coating state of steel structure and system therefor | |
| Dan et al. | Image-driven prediction system: Automatic extraction of aggregate gradation of pavement core samples integrating deep learning and interactive image processing framework | |
| Mora et al. | Particle size distribution analysis of coarse aggregate using digital image processing | |
| JP7724688B2 (en) | Particle size distribution measuring system and particle size distribution measuring method | |
| US7826642B2 (en) | Electro-optical method and apparatus for evaluating protrusions of fibers from a fabric surface | |
| Wei et al. | Automated bughole detection and quality performance assessment of concrete using image processing and deep convolutional neural networks | |
| CN112740267A (en) | Learning data collection device, learning data collection method, and program | |
| JP5641671B2 (en) | Method and apparatus for analyzing an object | |
| CN110118775A (en) | Plantmix's cement stabilized macadam aggregate forms rapid detection method | |
| CN112033965A (en) | 3D curved surface defect detection method based on differential image analysis | |
| JP2001337028A (en) | Particle size distribution measuring method and apparatus | |
| JP6486643B2 (en) | Method and program for measuring flow rate of granular material | |
| CN115019252B (en) | Concrete quality detection method and device and monitoring equipment | |
| CN109272484A (en) | Rainfall detection method based on video image | |
| Liao et al. | On-line automatic optical inspection system for coarse particle size distribution | |
| JPS61107139A (en) | Apparatus for measuring grade of grain of rice | |
| CN117557548A (en) | A sand gradation detection method based on machine vision | |
| CN118355267A (en) | Teacher data generating device, teacher data generating method, program and defect checking device | |
| JP7575900B2 (en) | Particle size distribution estimation device, particle size distribution estimation method, and learning device | |
| JP2016133478A (en) | Volume measuring system | |
| JP2017129408A (en) | Grain size monitoring method of ground material and three-dimensional image processing facility | |
| Tout | Automatic vision system for surface inspection and monitoring: Application to wheel inspection | |
| KR102209627B1 (en) | Real-time gradation combination system in process of producing aggregate and mixing method using that | |
| US20080226154A1 (en) | Systems and methods for producing carbonaceous pastes used in the production of carbon electrodes |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240625 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250226 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250304 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250424 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250708 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250805 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7724688 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |