JP7624087B2 - 計量システム、支持体制御システム、計量方法、および計量プログラム - Google Patents
計量システム、支持体制御システム、計量方法、および計量プログラム Download PDFInfo
- Publication number
- JP7624087B2 JP7624087B2 JP2023556650A JP2023556650A JP7624087B2 JP 7624087 B2 JP7624087 B2 JP 7624087B2 JP 2023556650 A JP2023556650 A JP 2023556650A JP 2023556650 A JP2023556650 A JP 2023556650A JP 7624087 B2 JP7624087 B2 JP 7624087B2
- Authority
- JP
- Japan
- Prior art keywords
- separation
- voxel
- material pieces
- amount
- density
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/34—Sorting according to other particular properties
- B07C5/342—Sorting according to other particular properties according to optical properties, e.g. colour
- B07C5/3422—Sorting according to other particular properties according to optical properties, e.g. colour using video scanning devices, e.g. TV-cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/16—Sorting according to weight
- B07C5/28—Sorting according to weight using electrical control means
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01G—WEIGHING
- G01G9/00—Methods of, or apparatus for, the determination of weight, not provided for in groups G01G1/00 - G01G7/00
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Program-controlled manipulators
- B25J9/16—Program controls
- B25J9/1679—Program controls characterised by the tasks executed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Program-controlled manipulators
- B25J9/16—Program controls
- B25J9/1694—Program controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Image Analysis (AREA)
Description
本開示の一側面は計量システム、支持体制御システム、計量方法、および計量プログラムに関する。
特許文献1には、商品の寸法、発注個数、および番重の寸法に基づいて商品を仕分ける仕分け装置が記載されている。
所定量の材料片を特定するための仕組みが望まれている。
本開示の一側面に係る計量システムは、質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において集合を分離して得られる材料片の部分集合の推定量を算出する量推定部と、少なくとも一つの推定量に基づいて、集合から所定量の材料片を分離する位置を分離位置として決定する分離位置決定部とを備える。
本開示の一側面に係る計量方法は、少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において集合を分離して得られる材料片の部分集合の推定量を算出するステップと、少なくとも一つの推定量に基づいて、集合から所定量の材料片を分離する位置を分離位置として決定するステップとを含む。
本開示の一側面に係る計量プログラムは、質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において集合を分離して得られる材料片の部分集合の推定量を算出するステップと、少なくとも一つの推定量に基づいて、集合から所定量の材料片を分離する位置を分離位置として決定するステップとをコンピュータに実行させる。
本開示の一側面によれば、所定量の材料片を特定できる。
以下、添付図面を参照しながら本開示での実施形態を詳細に説明する。図面の説明において同一または同等の要素には同一の符号を付し、重複する説明を省略する。
[第1の例]
(システムの構成)
一例に係る計量システム1は、質量によって管理される材料片の集合から所定量の材料片を分離する位置を決定するコンピュータシステムである。材料片とは、相対的に小さく形成された個々の材料をいう。例えば、材料片は所与の製品を製造するために用いられる。「質量によって管理される材料片」とは、個数での管理が非常に困難であるかまたは事実上不可能であるために、質量によって管理される材料片をいう。質量によって管理される材料片の例として、粒状または粉状の材料と、細かく裁断された材料と、練り物として提供される材料とが挙げられるが、これらに限定されない。一例では、その材料片は、質量によって定量的に管理される食品である。本開示において「食品」は食品添加物を含む。材料片の管理の例として、保管、計測、分離、および使用が挙げられるが、これらに限定されない。本開示では、「質量によって管理される材料片」を単に「材料片」ともいう。計量システム1はこのような材料片の集合から所定量の材料片を分離する位置を決定する。本開示ではその位置を「分離位置」ともいう。上述した材料片の性質から、材料片の個数によって所定量の材料片を得ることは非常に困難であるかまたは事実上不可能である。計量システム1はこのような材料片を分離するために、材料片の集合を写した画像である集合画像を解析して分離位置を決定する。
(システムの構成)
一例に係る計量システム1は、質量によって管理される材料片の集合から所定量の材料片を分離する位置を決定するコンピュータシステムである。材料片とは、相対的に小さく形成された個々の材料をいう。例えば、材料片は所与の製品を製造するために用いられる。「質量によって管理される材料片」とは、個数での管理が非常に困難であるかまたは事実上不可能であるために、質量によって管理される材料片をいう。質量によって管理される材料片の例として、粒状または粉状の材料と、細かく裁断された材料と、練り物として提供される材料とが挙げられるが、これらに限定されない。一例では、その材料片は、質量によって定量的に管理される食品である。本開示において「食品」は食品添加物を含む。材料片の管理の例として、保管、計測、分離、および使用が挙げられるが、これらに限定されない。本開示では、「質量によって管理される材料片」を単に「材料片」ともいう。計量システム1はこのような材料片の集合から所定量の材料片を分離する位置を決定する。本開示ではその位置を「分離位置」ともいう。上述した材料片の性質から、材料片の個数によって所定量の材料片を得ることは非常に困難であるかまたは事実上不可能である。計量システム1はこのような材料片を分離するために、材料片の集合を写した画像である集合画像を解析して分離位置を決定する。
図1は計量システム1の機能構成の一例を示す図である。一例では、計量システム1は機能モジュールとして画像処理部11、密度推定部12、量推定部13、補正部14、分離位置決定部15、および学習部16を備える。画像処理部11は、材料片の集合を写した集合画像を、分離位置を決定するために前処理する機能モジュールである。密度推定部12はその集合画像に基づいて材料片の集合の密度を推定する機能モジュールである。一例では、密度推定部12は、集合画像の入力を受け付けて密度を出力する機械学習モデル20を用いてその推定を実行する。量推定部13はその密度に基づいて、材料片の集合を分離して得られる材料片の部分集合の推定量を算出する機能モジュールである。量推定部13は、分離位置の候補である少なくとも一つの分離候補位置(例えば複数の分離候補位置)を設定し、それぞれの分離候補位置についてその推定量を算出する。補正部14は必要に応じてその推定量を補正する機能モジュールである。分離位置決定部15は推定された密度に基づいて分離位置を決定する機能モジュールである。分離位置決定部15は例えば、その密度を用いて算出された少なくとも一つの推定量に基づいて、少なくとも一つの分離候補位置から分離位置を決定する。学習部16は、密度推定部12において用いられる機械学習モデル20を機械学習によって生成する機能モジュールである。したがって、機械学習モデル20は学習済みモデルである。一例では、学習部16は後述する2種類の機械学習モデル20を生成し、以下では必要に応じてその2種類を機械学習モデル21,22と区別する。
図2は分離位置の一例を示す図である。この例では、質量によって定量的に管理される食品210の集合が支持体200上に盛られており、計量システム1は所定量の食品210を所定の食料品に追加するための分離位置220を決定する。食料品は例えば、食事、弁当などのような、顧客に提供される商品である。食品210は食料品の材料であり、例えば裁断食品である。
計量システム1は任意の種類のコンピュータによって実現され得る。そのコンピュータは、パーソナルコンピュータ、業務用サーバなどの汎用コンピュータでもよいし、特定の処理を実行する専用装置に組み込まれてもよい。計量システム1は一つのコンピュータによって実現されてもよいし、複数のコンピュータを有する分散システムによって実現されてもよい。
図3は、計量システム1で用いられるコンピュータ100のハードウェア構成の一例を示す図である。この例では、コンピュータ100は本体110、モニタ120、および入力デバイス130を備える。
本体110はコンピュータの主たる機能を実行する装置である。本体110は回路160を有し、回路160は、少なくとも一つのプロセッサ161と、メモリ162と、ストレージ163と、入出力ポート164と、通信ポート165とを有する。ストレージ163は、本体110の各機能モジュールを構成するためのプログラムを記録する。ストレージ163は、ハードディスク、不揮発性の半導体メモリ、磁気ディスク、光ディスクなどの、コンピュータ読み取り可能な記録媒体である。メモリ162は、ストレージ163からロードされたプログラム、プロセッサ161の演算結果などを一時的に記憶する。プロセッサ161は、メモリ162と協働してプログラムを実行することで、各機能モジュールを構成する。入出力ポート164は、プロセッサ161からの指令に応じて、モニタ120または入力デバイス130との間で電気信号の入出力を行う。入出力ポート164は他の装置との間で電気信号の入出力を行ってもよい。通信ポート165は、プロセッサ161からの指令に従って、通信ネットワークNを介して他の装置との間でデータ通信を行う。
モニタ120は、本体110から出力された情報を表示するための装置である。モニタ120は、グラフィック表示が可能であればいかなるものであってもよく、その具体例としては液晶パネルが挙げられる。
入力デバイス130は、本体110に情報を入力するための装置である。入力デバイス130は、所望の情報を入力可能であればいかなるものであってもよく、その具体例としてはキーパッド、マウス、操作コントローラなどの操作インタフェースが挙げられる。
モニタ120および入力デバイス130はタッチパネルとして一体化されていてもよい。例えばタブレットコンピュータのように、本体110、モニタ120、および入力デバイス130が一体化されていてもよい。
計量システム1の各機能モジュールは、プロセッサ161またはメモリ162の上に計量プログラムを読み込ませてプロセッサ161にそのプログラムを実行させることで実現される。計量プログラムは、計量システム1の各機能モジュールを実現するためのコードを含む。プロセッサ161は計量プログラムに従って入出力ポート164または通信ポート165を動作させ、メモリ162またはストレージ163におけるデータの読み出しおよび書き込みを実行する。
計量プログラムは、CD-ROM、DVD-ROM、半導体メモリなどの非一時的な記録媒体に固定的に記録された上で提供されてもよい。あるいは、計量プログラムは、搬送波に重畳されたデータ信号として通信ネットワークを介して提供されてもよい。
(計量方法)
本開示に係る計量方法の一例として、図4を参照しながら、計量システム1により実行される処理手順の一例を説明する。図4は計量システム1での処理の一例を処理フローS1として示すフローチャートである。すなわち、計量システム1は処理フローS1を実行する。
本開示に係る計量方法の一例として、図4を参照しながら、計量システム1により実行される処理手順の一例を説明する。図4は計量システム1での処理の一例を処理フローS1として示すフローチャートである。すなわち、計量システム1は処理フローS1を実行する。
ステップS11では、画像処理部11が、材料片の集合を写した集合画像を取得する。この集合画像は静止画でもよいし、映像を構成する一つのフレーム画像でもよい。一例では、画像処理部11は材料片の集合を写したデプス画像を取得する。あるいは、画像処理部11は材料片の集合を写したRGB画像とデプス画像とのセットを取得してもよい。画像処理部11はカメラまたは他のコンピュータから送られてきた集合画像を受信してもよい。あるいは、画像処理部11はユーザにより入力された集合画像を受け付けてもよいし、ユーザ入力に基づいて所与の記憶装置から集合画像を読み出してもよい。
ステップS12では、画像処理部11がその集合画像に対して複数のボクセルを設定する。画像処理部11は、集合画像に写された材料片の集合に対して複数のボクセルを設定する。本開示においてボクセルとは、最小単位として処理される仮想の3次元形状である。
図5はボクセルを説明するための図である。一例では、個々のボクセル300は、集合画像の面方向に沿って定義されるX軸およびY軸と、集合画像の奥行き方向に沿って定義されるZ軸とに基づいて設定される直方体である。一例では、画像処理部11は集合画像のそれぞれの画素に対してボクセル300を設定する。それぞれのボクセル300は、X軸方向に沿った長さΔxの辺と、Y軸方向に沿ったΔyの辺と、Z軸方向に沿った長さz(x,y)の辺とによって規定される。z(x,y)は、XY平面上の位置(x,y)に配置されたボクセルのZ軸方向の長さである。長さΔxおよびΔyはすべてのボクセル300で共通である。一方、長さz(x,y)は、Z軸方向に沿った材料片の集合の下面から上面までの距離であり、材料片の集合の形状と該集合が置かれた支持面の形状との少なくとも一つに依存して個々のボクセル300で異なり得る。
一例では、画像処理部11は集合画像を解析して、材料片が存在する可能性がある領域を特定し、その領域に複数のボクセルを設定する。デプス画像を用いる場合には、画像処理部11はこのデプス画像を解析して、個々のボクセルについて奥行き方向の距離を算出し、その距離に基づいて個々のボクセルの長さz(x,y)を設定する。
図4に戻って、ステップS13では、密度推定部12が複数のボクセルのそれぞれについてボクセル密度およびクラス値を算出する。ボクセル密度とはボクセルにおける材料片の密度である。クラス値とはボクセルにおいて材料片が存在するか否かを示す値である。一例では、クラス値は、ボクセル内に材料片が存在しないことを示す「0」と、ボクセル内に材料片が存在することを示す「1」という二値によって表現される。
一例では、密度推定部12は、集合画像の入力を受け付けてボクセル密度を出力する機械学習モデル21を用いて、複数のボクセルのそれぞれについてボクセル密度を算出する。機械学習モデル21は集合画像を処理して、複数のボクセルのそれぞれについてボクセル密度dx,y(I;θ)を算出する。「dx,y(I;θ)」という表記は、パラメータ群θを有する機械学習モデル21によって集合画像Iを処理することで得られる、位置(x、y)に配置されたボクセルのボクセル密度を意味する。
一例では、密度推定部12は、集合画像の入力を受け付けてクラス値を出力する機械学習モデル22を用いて、複数のボクセルのそれぞれについてクラス値を算出する。機械学習モデル22は集合画像を処理して、複数のボクセルのそれぞれについてクラス値cx,y(I;θ)を算出する。「cx,y(I;θ)」という表記は、パラメータ群θを有する機械学習モデル22によって集合画像Iを処理することで得られる、位置(x,y)に配置されたボクセルのクラス値を意味する。
ステップS14では、量推定部13が個々のボクセル量に基づいて、複数の分離候補位置のそれぞれについて、材料片の部分集合の推定量を算出する。ボクセル量とはボクセルにおける材料片の量をいう。量推定部13は複数のボクセルが設定された領域において複数の分離候補位置を設定する。そして、量推定部13はそれぞれの分離候補位置について、該分離候補位置での分離によって得られる材料片の部分集合の推定量を算出する。例えば、量推定部13は材料片の集合の端部から該集合の中央に向かって所与の間隔で複数の分離候補位置を設定し、それぞれの分離候補位置について推定量を算出する。
式(1)は、材料片の集合が存在し得る領域に設定された基準位置から分離候補位置までの間の区間に存在する複数のボクセルに対応する複数のボクセル量の総和を、材料片の部分集合の推定量として算出することを意味する。推定される個々のボクセル量は、ボクセル密度dx,y(I;θ)とボクセル体積z(x、y)ΔxΔyとの積であり、したがって質量を示す。一例では、量推定部13は、デプス画像から得られる奥行き方向の距離に基づいてそのボクセル体積を算出する。クラス値cx,y(I;θ)が上記の二値である場合には、或る一つのボクセルのクラス値が1であれば該ボクセルのボクセル量はそのまま用いられ、そのクラス値が0であればそのボクセル量は0と見なされる。
式(1)に示すように、量推定部13は複数のボクセルのそれぞれについて、ボクセル密度に基づいてボクセル量を算出する。例えば、量推定部13は各ボクセルについて、クラス値およびボクセル密度に基づいてボクセル量を算出する。量推定部13は各ボクセルのボクセル量に基づいて推定量m(I;θ)を算出する。式(1)は、材料片の集合の密度と部分集合の体積とに基づく部分集合の推定質量を推定量として算出する一例を示す。
一例では、量推定部13は、材料片の集合が存在し得る領域の一端に基準位置を設定し、その基準位置から所与の間隔ごとに複数の分離候補位置を設定する。量推定部13はボクセルの辺の長さであるΔxおよびΔyの少なくとも一方に基づいてその間隔を設定してもよく、例えば、Δxの倍数およびΔyの倍数の少なくとも一方をその間隔として設定してもよい。図6は分離候補位置の設定の一例を示す図であり、図2に示した支持体200を、材料片の集合が存在し得る領域として示す。量推定部13は例えば、その支持体200の一端を基準位置230として設定し、Y軸に沿って間隔(n×Δy)ごとに複数の分離候補位置240を設定する(nは正の整数である)。すなわち、量推定部13は、材料片の集合が位置する現実空間を示す座標系の一つの座標軸に沿って複数の分離候補位置を設定してもよい。
一例では、ステップS14において、補正部14が複数の分離候補位置のそれぞれについて推定量を補正する。補正部14は、過去に算出された推定量のサンプル群と、その推定量に対応する分離位置において過去に実際に分離された材料片の実際量のサンプル群との関係に基づいて、推定量を補正する。これらのサンプル群のデータは予め所与のデータベースに記憶されている。補正部14はそのデータベースを参照して推定量と実際量との関係を求める。
図7はその関係の一例を示すグラフである。このグラフの縦軸および横軸はそれぞれ、推定量および実際量を示す。グラフ上の個々のサンプル点400は推定量と実際量との対応を示す。補正部14はこれらのサンプル点400に基づく回帰分析を実行して、推定量mpredと実際量mactとの関係を示す一次式であるmpred=a・mact+bを求める。推定量mpredと実際量mactとの理想の関係を示す一次式はmpred=mactである。図7は、回帰分析によって得られる一次式410と、実際量を真値と見なす理想の一次式420とを示す。補正部14は推定量と実際量との関係を一次式410から一次式420に変換するための補正係数を求め、この補正係数を用いて各分離候補位置についての推定量を補正する。図7の例では、その補正係数は、一次式410の傾きの逆数1/aと、一次式410の切片を打ち消すための-bとである。例えば、量推定部13によって算出された推定量mpred´を最終的に推定量mpred
*に補正する場合、補正部14はmpred
*=mpred´/a-bを計算する。
図4に戻って、ステップS15では、分離位置決定部15が複数の分離候補位置から分離位置を決定する。一例では、分離位置決定部15は推定量と所定量との誤差を最小にする分離候補位置を分離位置として決定する。質量に基づく決定では、分離位置決定部15は推定質量と所定質量との誤差を最小にする分離候補位置を分離位置として決定する。推定量は個々のボクセル量に基づいて算出されるので、分離位置は複数のボクセルのそれぞれのボクセル量に基づいて決定されるといえる。
図6を再度参照しながら、誤差に基づく分離位置の決定について説明する。図6の例において、Y軸方向に沿った範囲を[0,ymax]とする。y=0は基準位置230に対応し、y=ymaxは基準位置230から最も遠い分離候補位置240に対応する。この場合、分離位置決定部15は式(2)で表される分離候補位置y*を分離位置として決定する。
式(2)は、推定量m(I;θ)と所定量mtargetとの誤差が最も小さくなる分離候補位置y*を範囲[0,ymax]から取得することを意味する。
図8は式(2)を用いた分離位置の決定を説明するためのグラフである。グラフ501の縦軸は推定量を示し、横軸はY方向に沿った分離候補位置を示す。グラフ502の縦軸は推定量と所定量との誤差を示し、横軸はY方向に沿った分離候補位置を示す。横軸の0は基準位置230を意味し、y*は目標位置を示す。基準位置230から順に推定量および誤差を求めていく場合には、分離候補位置が変化するにつれて推定量が大きくなっていくので、誤差は小さくなっていく。或る分離候補位置を過ぎると、この度はその誤差が大きくなっていく。最小の誤差は0より大きい値になり得る。
図4に戻って、ステップS16では、分離位置決定部15が決定された分離位置を出力する。例えば、分離位置決定部15はその分離位置を、材料片の集合から所定量の材料片を分離する装置に向けて出力してもよい。あるいは、分離位置決定部15はその分離位置をストレージ163などの記憶部に格納してもよい。あるいは、分離位置決定部15はテキスト、コンピュータグラフィック(CG)による動画または静止画などの形式でその分離位置をモニタ120上に表示してもよい。
[機械学習]
上述したように、密度推定部12は機械学習モデル20を用いてボクセル密度またはクラス値を算出してもよい。一例では、処理フローS1を実行するために学習部16が予め機械学習モデル20を生成し、密度推定部12がその機械学習モデル20を用いてボクセル密度またはクラス値を算出する。学習部16による機械学習モデル20の生成は学習フェーズに相当する。密度推定部12による機械学習モデル20の利用は運用フェーズに相当する。
上述したように、密度推定部12は機械学習モデル20を用いてボクセル密度またはクラス値を算出してもよい。一例では、処理フローS1を実行するために学習部16が予め機械学習モデル20を生成し、密度推定部12がその機械学習モデル20を用いてボクセル密度またはクラス値を算出する。学習部16による機械学習モデル20の生成は学習フェーズに相当する。密度推定部12による機械学習モデル20の利用は運用フェーズに相当する。
上述したように、学習部16は機械学習によって機械学習モデル20を生成する。機械学習とは、与えられた情報に基づいて反復的に学習することで、法則またはルールを自律的に見つけ出す手法をいう。機械学習モデル20はアルゴリズムおよびデータ構造を用いて構築される。一例では、機械学習モデル20は畳み込みニューラルネットワーク(CNN)などのニューラルネットワークによって構築される計算モデルである。
一例では、学習部16は画像に設定された個々の画素(ボクセル)のクラス値の推定結果と、その推定結果に対応する正解との誤差に基づく機械学習を実行して、機械学習モデル22を生成する。この機械学習のために、材料片の集合を写した原画像Iorgの各画素にクラス値の正解cgt_x,y(I)が関連付けられたマスク画像Imaskがトレーニングデータとして用意される。学習部16は例えば、複数のマスク画像Imaskをトレーニングデータとして記憶する所与のデータベースにアクセスして、それぞれのマスク画像Imaskについて以下の処理を実行する。すなわち、学習部16はマスク画像Imaskを所与の機械学習モデルに入力し、その機械学習モデルから出力される個々の画素のクラス値の推定結果を得る。学習部16はその推定結果と各クラス値の正解との誤差に基づくバックプロパゲーション(誤差逆伝播法)を実行して、機械学習モデル内のパラメータ群を更新する。学習部16は所与の終了条件を満たすまでこの学習を繰り返して機械学習モデル22を得る。
一例では、学習部16は部分集合の推定量と、該推定量に対応する正解との誤差に基づく機械学習を実行して、機械学習モデル21を生成する。この機械学習のために、マスク画像Imaskと、分離位置yobsと、該分離位置に対応する材料片の部分集合の量の正解mobsと、各画素における奥行き方向の距離の正解zobs(x、y)とを含むレコードがトレーニングデータとして用意される。学習部16は例えば、複数のそのレコードをトレーニングデータとして記憶する所与のデータベースにアクセスして、それぞれのレコードについて以下の処理を実行する。すなわち、学習部16はマスク画像を所与の機械学習モデルに入力し、その機械学習モデルから出力される個々の画素のボクセル密度の推定結果を得る。学習部16はその推定結果に基づいて、分離位置yobsに対応する部分集合の推定量を算出する。そして、学習部16はその推定量と正解mobsとの誤差に基づくバックプロパゲーション(誤差逆伝播法)を実行して、機械学習モデル内のパラメータ群を更新する。学習部16は所与の終了条件を満たすまでこの学習を繰り返して機械学習モデル21を得る。
生成された機械学習モデル20は、最適であると推定される計算モデルであり、“現実に最適である計算モデル”とは限らないことに留意されたい。
機械学習モデル20はコンピュータシステム間で移植可能である。したがって、密度推定部12は別のコンピュータシステムで生成された機械学習モデル20を用いてもよい。
[第2の例]
(システムの構成)
一例に係る計量システム2は、所与の領域に集積された材料片群から材料片の集合を取り出すための支持体の挿入位置を決定し、その集合から所定量の材料片を分離するための分離位置を決定するコンピュータシステムである。挿入位置とは支持体が材料片群に挿入される位置をいう。一例では、挿入位置は、所定量以上の材料片の集合を材料片群から取り出すために支持体が該材料片群に挿入される位置である。支持体とは材料片の集合を支持するための構造体をいう。例えば、支持体はスコップ、スプーン、シャベルなどのような形状を有するツールであってもよい。
(システムの構成)
一例に係る計量システム2は、所与の領域に集積された材料片群から材料片の集合を取り出すための支持体の挿入位置を決定し、その集合から所定量の材料片を分離するための分離位置を決定するコンピュータシステムである。挿入位置とは支持体が材料片群に挿入される位置をいう。一例では、挿入位置は、所定量以上の材料片の集合を材料片群から取り出すために支持体が該材料片群に挿入される位置である。支持体とは材料片の集合を支持するための構造体をいう。例えば、支持体はスコップ、スプーン、シャベルなどのような形状を有するツールであってもよい。
図9は計量システム2の機能構成および適用の一例を示す図である。一例では、計量システム2は第1ロボット3、第2ロボット4、カメラ5、および計量器6と通信ネットワークを介して接続する。通信ネットワークの少なくとも一部は、有線ネットワークでも無線ネットワークでもよい。通信ネットワークの少なくとも一部はインターネットおよびイントラネットの少なくとも一方を含んで構成されてもよい。あるいは、通信ネットワークの少なくとも一部は単純に1本の通信ケーブルによって実現されてもよい。計量器6の上には、材料片群90を収容する第1容器81が配置される。すなわち、材料片群90は第1容器81という所定の領域に集積される。第1容器81の近くには、計量された材料片、すなわち所定量の材料片を受け入れるための第2容器82が配置される。
第1ロボット3は、材料片の集合を第1容器81内の材料片群90から取り出し、該集合から得られる所定量の材料片を第2容器82に移し替える機械である。第1ロボット3はその作業を行うためのエンドエフェクタとして、シャベルのような形状を有する支持体3aを有する。
第2ロボット4は、支持体3a上の材料片の集合から所定量の材料片を分離する機械である。一例では、第2ロボット4はその仕切りの前に材料片の集合を均す。第2ロボット4はこれらの作業を行うためのエンドエフェクタとして仕切板4aを有する。
一例では、仕切板4aの外縁は支持体3aの内側面の形状に対応するように形成される。例えば、支持体3aが平らな底面を有することに応じて、仕切板4aの下端は水平方向に沿って直線状に延びる。この場合には、その下端は材料片の集合を均すためにも利用され得る。
カメラ5は、材料片群90を写した画像である領域画像と、材料片の集合を写した画像である集合画像とを撮影する撮像装置である。カメラ5は、カラー画像(RGB)および深度(D)の双方を出力するRGB-Dカメラであってもよい。
計量器6は、材料片群90を収容する第1容器81の質量を計測する機器である。計量器6は、支持体3aによって材料片の集合が材料片群90からすくい上げられた際の材料片群90の質量の減少量を計測できる精度を有する。
計量システム2は機能的構成要素として取出機能30、分離機能40、およびロボット制御部50を備える。取出機能30は材料片群90から材料片の集合を取り出すための機能モジュール群である。分離機能40はその集合から所定量の材料片を分離するための機能モジュール群である。ロボット制御部50は第1ロボット3および第2ロボット4を制御する機能モジュールである。
取出機能30は挿入位置決定部31、形状特定部32、経路設定部33、および量算出部34を含む。挿入位置決定部31は、材料片の集合を材料片群90から取り出すための支持体3aの挿入位置を領域画像に基づいて決定する機能モジュールである。形状特定部32は材料片群90の上面の形状を領域画像に基づいて特定する機能モジュールである。経路設定部33は材料片群90の中を通る支持体3aの仮想経路を設定する機能モジュールである。量算出部34はその仮想経路を通る支持体3aによって取り出される材料片の集合の量を取出量として算出する機能モジュールである。挿入位置決定部31は形状特定部32、経路設定部33、および量算出部34のうちの少なくとも一つと連携して挿入位置を決定する。例えば、挿入位置決定部31は、挿入位置の候補である少なくとも一つの挿入候補位置(例えば複数の挿入候補位置)を設定し、それぞれの挿入候補位置の取出量に基づいて挿入位置を決定してもよい。あるいは、挿入位置決定部31は材料片群90の上面の形状に基づいて挿入位置を決定してもよい。図9に示す例では、挿入位置決定部31は形状特定部32、経路設定部33、および量算出部34をサブモジュールとして有する。これら4個の機能モジュール間の階層関係は限定されず、例えば、挿入位置決定部31、形状特定部32、経路設定部33、および量算出部34が互いに独立しつつ連携し合ってもよい。いずれにしても、取出機能30は支持体制御システムの一例である。
分離機能40は密度推定部41、量推定部42、補正部43、および分離位置決定部44を含む。密度推定部41は材料片の集合の密度を推定する機能モジュールである。量推定部42はその密度に基づいて、材料片の集合を分離して得られる材料片の部分集合の推定量を算出する機能モジュールである。量推定部42は、分離位置の候補である少なくとも一つの分離候補位置(例えば複数の分離候補位置)を設定し、それぞれの分離候補位置についてその推定量を算出する。補正部43は必要に応じてその推定量を補正する機能モジュールである。分離位置決定部44は推定された密度に基づいて分離位置を決定する機能モジュールである。分離位置決定部44は例えば、その密度を用いて算出された少なくとも一つの推定量に基づいて、少なくとも一つの分離候補位置から分離位置を決定する。
ロボット制御部50は取出機能30または分離機能40からの出力に基づいて第1ロボット3または第2ロボット4を制御する。ロボット制御部50は挿入位置決定部31により決定された挿入位置に基づいて第1ロボット3を制御し、第1ロボット3は支持体3aで材料片の集合を材料片群90からすくい上げる。ロボット制御部50は第2ロボット4を制御して、材料片の集合の上面を均す処理を第2ロボット4に実行させてもよい。ロボット制御部50は分離位置決定部44により決定された分離位置に基づいて第2ロボット4を制御し、第2ロボット4は仕切板4aで材料片の集合から所定量の材料片を分離する。ロボット制御部50は第1ロボット3を制御して、所定量の材料片を第2容器82内に移す処理を第1ロボット3に実行させる。
計量システム2の各機能モジュールは、プロセッサ161またはメモリ162の上に計量プログラムを読み込ませてプロセッサ161にそのプログラムを実行させることで実現される。計量プログラムは、計量システム2の各機能モジュールを実現するためのコードを含む。プロセッサ161は計量プログラムに従って入出力ポート164または通信ポート165を動作させ、メモリ162またはストレージ163におけるデータの読み出しおよび書き込みを実行する。
計量プログラムは、取出機能30を実現するための第1プログラム(支持体制御プログラム)と、分離機能40を実現するための第2プログラムとに分かれたかたちで提供されてもよい。第1プログラムおよび第2プログラムはいずれも、記録媒体によってまたは通信ネットワークを介して提供され得る。
(支持体制御方法)
本開示に係る支持体制御方法の一例として、図10を参照しながら、材料片群90への支持体の挿入位置の決定について説明する。図10は計量システム2によるその処理の一例を処理フローS2として示すフローチャートである。すなわち、計量システム2は処理フローS2を実行する。
本開示に係る支持体制御方法の一例として、図10を参照しながら、材料片群90への支持体の挿入位置の決定について説明する。図10は計量システム2によるその処理の一例を処理フローS2として示すフローチャートである。すなわち、計量システム2は処理フローS2を実行する。
ステップS21では、挿入位置決定部31が、材料片群90を写した領域画像をカメラ5から取得する。この領域画像は材料片群90の上面(上側の露出面)を少なくとも写す。領域画像は静止画でもよいし、映像を構成する一つのフレーム画像でもよい。一例では、挿入位置決定部31は材料片群90を写したデプス画像を取得する。あるいは、挿入位置決定部31は材料片群90を写したRGB画像とデプス画像とのセットを取得してもよい。カメラ5が領域画像を撮影する際には、ロボット制御部50は、材料片群90が第1ロボット3および第2ロボット4によって遮られないように、第1ロボット3および第2ロボット4のそれぞれの姿勢を制御する。
ステップS22では、挿入位置決定部31がその領域画像に基づいて、複数の挿入候補位置のそれぞれについて取出量を算出する。一例では、経路設定部33が、領域画像で示される材料片群90に対して複数の挿入候補位置を設定し、それぞれの挿入候補位置についてシミュレーションによって仮想経路を設定する。仮想経路の始点は挿入候補位置であり、仮想経路の終点は、支持体3aが材料片群90から抜け出た時点での該支持体3aの位置である。複数の仮想経路のそれぞれについて、量算出部34が、該仮想経路を進む支持体3aによって得られる取出量を算出する。
図11は挿入候補位置の設定の一例を示す図である。例えば、経路設定部33は水平方向における支持体3aの進行方向に対応する座標軸(図11ではY軸)に沿って複数の挿入候補位置600を設定する。あるいは、経路設定部33は水平方向における二つの座標軸(図11ではX軸およびY軸)に沿って複数の挿入候補位置600を設定してもよい。一例では、経路設定部33は材料片群90が用意された領域のうち、支持体3aを挿入して材料片の集合を取り出すことができる範囲内で複数の挿入候補位置600を設定する。例えば、経路設定部33は、第1容器81と干渉することなく支持体3aを材料片群90に挿入して材料片の集合を取り出すことができる範囲内で、複数の挿入候補位置600を設定する。経路設定部33は所定の間隔ごとに挿入候補位置600を設定してもよい。あるいは、形状特定部32が領域画像に基づいて材料片群90の上面91の形状を特定し、経路設定部33がその形状に基づいて複数の挿入候補位置600を設定してもよい。例えば、経路設定部33は上面91のうち盛り上がっている部分の麓の辺りに挿入候補位置600を設定してもよいし、上面91のうち凹んでいる箇所に挿入候補位置600を設定してもよい。すなわち、経路設定部33は上面91の凹凸に基づいて複数の挿入候補位置600を設定してもよい。
図12は仮想経路の一例を示す図である。この図は、挿入候補位置600から材料片群90に挿入され、その後に該材料片群90から取り出される支持体3aの仮想経路を示す。状態S101では、傾けられた支持体3aの底面の先端が挿入候補位置600で材料片群90に接している。状態S102では、その支持体3aが鉛直方向に沿って材料片群90に挿入されている。続いて、状態S103から状態S104にかけて、挿入された支持体3aが、鉛直方向における底面の先端の位置を維持しつつ、底面が水平になるまで回転させられる。状態S105では、水平になった支持体3aが前方に所定の距離だけ移動させられる。状態S106では、移動した支持体3aが材料片群90の上まで引き上げられる。引き上げられた支持体3aには材料片の集合95が載っている。一例では、経路設定部33は状態S101~S106にわたって動く支持体3aの経路を幾何学計算によって算出する。経路設定部33は、支持体3aの寸法と、挿入時の支持体3aの傾斜角度と、第1容器81の寸法と、第1容器81の内周面と支持体3aの外周面との間隔とのうちの少なくとも一つを考慮した幾何学計算を実行し得る。支持体3aの寸法は、長さ、幅、および深さのうちの少なくとも一つを含む。第1容器81の寸法は、長さ、幅、および深さ(高さ)のうちの少なくとも一つを含む。
量算出部34は、複数の仮想経路のそれぞれについて、該仮想経路を進む支持体3aによって得られる取出量を算出する。この取出量は、仮想経路の始点である挿入候補位置に対応する。一例では、量算出部34は、仮想経路上における、支持体3aの底面から材料片群90の上面までの距離の平均(すなわち、支持体3aの底面を基準とする材料片群90の上面の平均高さ)を取出量として算出する。あるいは、量算出部34は仮想経路上において支持体3aの底面よりも上に位置する材料片の総体積を取出量として算出してもよい。あるいは、量算出部34はその総体積と予め設定された材料片群の密度とから得られる質量を取出量として算出してもよい。分離位置が質量に基づいて決定される場合においても、取出量が体積または平均高さによって表されてもよい。例えば、支持体3aの容積との関係で、最終的に所定量の材料片を得ることが期待できる体積または平均高さの範囲が予め設定される。量算出部34はその設定範囲に基づいて総体積または平均高さを取出量として用いることができる。
図10に戻って、ステップS23では、挿入位置決定部31が、算出された複数の取出量に基づいて、複数の挿入候補位置から挿入位置を決定する。一例では、挿入位置決定部31は、最終的に所定量の材料片を分離できる取出量に対応する一つの挿入候補位置を挿入位置として決定する。すなわち、挿入位置決定部31は所定量以上の取出量に対応する一つの挿入候補位置を挿入位置として決定してもよい。例えば、挿入位置決定部31は、算出された複数の取出量のうちの最大値に対応する挿入候補位置を挿入位置として決定してもよい。あるいは、挿入位置決定部31は、算出された複数の取出量と所定量との差に基づいて挿入位置を決定してもよく、例えば、その差が最小である挿入候補位置を挿入位置として決定してもよい。
ステップS24では、挿入位置決定部31が決定された挿入位置を出力する。一例では、挿入位置決定部31はその挿入位置をロボット制御部50に出力する。
(計量方法)
本開示に係る計量方法の一例として、図13を参照しながら、所定量の材料片を得るための分離位置の決定について説明する。図13はその処理の一例を処理フローS3として示すフローチャートである。計量システム2は、処理フローS2によって決定された挿入位置に基づいて第1ロボット3が支持体3aで材料片の集合を第1容器81から取り出した後に、処理フローS3を実行する。
本開示に係る計量方法の一例として、図13を参照しながら、所定量の材料片を得るための分離位置の決定について説明する。図13はその処理の一例を処理フローS3として示すフローチャートである。計量システム2は、処理フローS2によって決定された挿入位置に基づいて第1ロボット3が支持体3aで材料片の集合を第1容器81から取り出した後に、処理フローS3を実行する。
ステップS31では、密度推定部41が材料片群90の質量の減少量を取得する。密度推定部41は材料片の集合が取り出される前の第1容器81の質量と、該集合が取り出された後の第1容器81の質量とを計量器6から取得する。そして、密度推定部41はその二つの質量の差を減少量として得る。
ステップS32では、密度推定部41が、取り出された材料片の集合の体積を推定する。一例では、密度推定部41は、カメラ5により撮影された集合画像を取得し、上記のステップS12と同様に、その集合画像に写された材料片の集合に対して複数のボクセルを設定する。そして、密度推定部41は複数のボクセルのそれぞれについて体積(すなわちボクセル体積)を算出する。第1の例で説明したように、ボクセル体積はz(x、y)ΔxΔyと表される。密度推定部41は複数のボクセル体積の和を材料片の集合の体積として算出する。
ステップS33では、密度推定部41が減少量および体積に基づいて材料片の集合の密度を推定する。
ステップS34では、量推定部42が複数の分離候補位置のそれぞれについて、材料片の部分集合の推定量を算出する。一例では、量推定部42は、上記のステップS14と同様に、各分離候補位置について推定量(例えば推定質量)を算出する。すなわち、量推定部42は複数の分離候補位置を設定し、複数のボクセルに対応する複数のボクセル量に基づいて各分離候補位置について推定量を算出する。量推定部42は、分離候補位置を設定するための基準位置を、支持体3aの先端または後端に設定してもよい。量推定部42は、ステップS33において推定された密度をボクセル密度として用い、したがって、ボクセル密度は複数のボクセルの間で同じである。量推定部42はクラス値を用いることなく、ボクセル密度とボクセル体積との積をボクセル量として算出してもよい。ステップS34において、補正部43が複数の分離候補位置のそれぞれについて推定量を補正してもよい。この補正もステップS14と同様である。
ステップS35では、分離位置決定部44が複数の分離候補位置から分離位置を決定する。この処理は上記のステップS15と同様である。分離位置決定部44は推定量と所定量との誤差を最小にする分離候補位置を分離位置として決定してもよい。質量に基づく決定では、分離位置決定部44は推定質量と所定質量との誤差を最小にする分離候補位置を分離位置として決定してもよい。
ステップS36では、分離位置決定部44が決定された分離位置を出力する。一例では、挿入位置決定部31はその分離位置をロボット制御部50に出力する。
(支持体制御方法を含む計量方法)
図14を参照しながら、材料片群90から材料片の集合を取り出して該集合から所定量の材料片を得るという一連の処理について説明する。図14はその処理の一例を処理フローS4として示すフローチャートである。すなわち、計量システム2は処理フローS4を実行する。
図14を参照しながら、材料片群90から材料片の集合を取り出して該集合から所定量の材料片を得るという一連の処理について説明する。図14はその処理の一例を処理フローS4として示すフローチャートである。すなわち、計量システム2は処理フローS4を実行する。
ステップS41では、計量システム2の取出機能30が材料片群90への支持体3aの挿入位置を決定する。この処理は上記の処理フローS2に対応する。
ステップS42では、ロボット制御部50がその挿入位置に基づいて第1ロボット3を制御して、材料片群90から材料片の集合を取り出す。一例では、ロボット制御部50は、支持体3aを挿入位置から材料片群90に挿入して材料片の集合を取り出すための第1ロボット3の軌道を示すパスを生成する。ロボット制御部50は、決定された挿入位置に対応する仮想経路をそのパスとして採用してもよい。ロボット制御部50はそのパスに基づく指示信号を生成し、その指示信号を第1ロボット3に送信する。第1ロボット3はその指示信号に従って、材料片群90上の挿入位置に支持体3aを挿入し、(例えば図12に示すように)材料片群90の中で支持体3aを進ませ、材料片の集合を材料片群90からすくい上げる。一例では、材料片の集合を取り出した後に、ロボット制御部50は第2ロボット4を制御してその集合の上面を均す。例えば、ロボット制御部50はカメラ5から得られた集合画像に基づいて、材料片の集合の上面を仕切板4aで均すための第2ロボット4の軌道を示すパスを生成する。ロボット制御部50はそのパスに基づく指示信号を生成し、その指示信号を第2ロボット4に送信する。第2ロボット4はその指示信号に従って、材料片の集合の上面を仕切板4aで均す。
ステップS43では、計量システム2の分離機能40が所定量の材料片を得るための分離位置を決定する。この処理は上記の処理フローS3に対応する。
ステップS44では、ロボット制御部50がその分離位置に基づいて第2ロボット4を制御して、材料片の集合から所定量の材料片を分離する。一例では、ロボット制御部50は、分離位置で仕切板4aを材料片の集合に挿入して該集合を所定量の部分(以下ではこれを「指定部分」という)と残存部分とに分離するための第2ロボット4の軌道を示すパスを生成する。ロボット制御部50はそのパスに基づく指示信号を生成し、その指示信号を第2ロボット4に送信する。第2ロボット4はその指示信号に従って、材料片の集合上の分離位置に仕切板4aを挿入し、この仕切板4aを支持体3aの底面まで下げる。ロボット制御部50は更に、所定量の材料片を第2容器82に移すために、第1ロボット3の軌道を示す第1パスと、第2ロボット4の軌道を示す第2パスとを生成する。例えば、ロボット制御部50は、仕切板4aによって残存部分を第1容器81に戻して支持体3a上に指定部分を残し、この指定部分を第2容器82に移すという一連の作業を実現するために、第1パスおよび第2パスを生成してもよい。あるいは、例えば、ロボット制御部50は、仕切板4aによって指定部分を第2容器82に移し、続いて支持体3a上の残存部分を第1容器81に戻すという一連の作業を実現するために、第1パスおよび第2パスを生成してもよい。ロボット制御部50は第1パスに基づく第1指示信号を生成し、その第1指示信号を第1ロボット3に送信する。また、ロボット制御部50は第2パスに基づく第2指示信号を生成し、その第2指示信号を第2ロボット4に送信する。第1ロボット3および第2ロボット4はそれらの指示信号に従って連携して、所定量の材料片を第2容器82に移す。
材料片群90に対して処理フローS4が繰り返し実行されてもよい。この場合には、第1容器81から第2容器82に材料片が所定量ずつ移される。
[変形例]
以上、本開示を様々な例に基づいて詳細に説明した。しかし、本開示は上記の例に限定されるものではない。本開示は、その要旨を逸脱しない範囲で様々な変形が可能である。
以上、本開示を様々な例に基づいて詳細に説明した。しかし、本開示は上記の例に限定されるものではない。本開示は、その要旨を逸脱しない範囲で様々な変形が可能である。
計量システムは集合画像に対してボクセルを設定することなく、材料片の集合の密度を推定し、その密度に基づいて分離位置を決定してもよい。
計量システムは複数のボクセルのそれぞれについて、ボクセル密度を算出することなくボクセル量を直接に求めてもよい。
計量システムは複数の分離候補位置を設定することなく、材料片の集合の密度に基づいて分離位置を決定してもよい。あるいは、計量システムは一つの分離候補位置を設定し、その分離候補位置に対応する材料片の集合の推定量を算出し、その推定量に基づいて分離位置を決定してもよい。
上述したように、計量システムまたは支持体制御システムによって処理される材料片の密度は均一でもよいし、材料片の集合内の場所によって異なってもよい。一般に、密度が均一である材料片の例として、粒体または粉体の食品が挙げられ、密度が異なる材料片の例として裁断食品が挙げられる。材料片の種類に依らず、計量システムは材料片の密度を、上述した第1の例での手法および第2の例での手法のいずれによって推定してもよい。材料片の密度が均一であることを前提とする場合には、計量システムは密度を推定することなく、予め設定された密度に基づいて分離位置を決定してもよい。
挿入位置決定部は一つの挿入候補位置を設定し、その挿入候補位置に対応する取出量を算出し、その取出量に基づいて挿入位置を決定してもよい。あるいは、挿入位置決定部は、挿入候補位置の設定も取出量の推定も行うことなく、材料片群の上面の形状を領域画像に基づいて特定し、その形状に基づいて挿入位置を決定してもよい。例えば、挿入位置決定部は材料片群の上面のうち盛り上がっている部分の麓の辺りの位置を挿入位置として決定してもよいし、該上面のうち凹んでいる箇所を挿入位置として設定してもよい。すなわち、挿入位置決定部は上面の凹凸に基づいて挿入位置を決定してもよい。
第2の例における取出機能30および分離機能40が独立して提供されてもよい。例えば、取出機能30が支持体制御システムとして提供されてもよい。あるいは、取出機能30を備えることなく分離機能40が計量システムとして提供されてもよい。
計量システムは分離位置決定部を備えなくてもよい。この場合には、計量システムは、上記の第1または第2の例のように材料片の部分集合の推定量を推定し、その推定量を出力する。
計量システムのハードウェア構成は、プログラムの実行により各機能モジュールを実現する態様に限定されない。例えば、上述した機能モジュール群の少なくとも一部は、その機能に特化した論理回路により構成されていてもよいし、該論理回路を集積したASIC(Application Specific Integrated Circuit)により構成されてもよい。
少なくとも一つのプロセッサにより実行される方法の処理手順は上記の例に限定されない。例えば、上述したステップまたは処理の一部が省略されてもよいし、別の順序で各ステップが実行されてもよい。また、上述したステップのうちの2以上のステップが組み合わされてもよいし、ステップの一部が修正または削除されてもよい。あるいは、上記の各ステップに加えて他のステップが実行されてもよい。
コンピュータシステムまたはコンピュータ内で二つの数値の大小関係を比較する際には、「以上」および「よりも大きい」という二つの基準のどちらを用いてもよく、「以下」および「未満」という二つの基準のうちのどちらを用いてもよい。
[第1の付記]
上記の様々な例から把握されるとおり、本開示は以下に示す態様を含む。
(付記1)
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部と、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する分離位置決定部と、
を備える計量システム。
(付記2)
所与の領域に集積された材料片群を写した領域画像に基づいて、前記所定量以上の前記集合を該材料片群から取り出すための支持体の挿入位置を決定する挿入位置決定部を更に備え、
前記量推定部は、前記挿入位置から前記材料片群に挿入された前記支持体によって取り出された前記集合を写した前記集合画像に基づいて、前記少なくとも一つの分離候補位置のそれぞれについて前記推定量を算出する、
る付記1に記載の計量システム。
(付記3)
前記挿入位置決定部は、
前記材料片群の中を通る前記支持体の仮想経路を設定し、
前記仮想経路を通る前記支持体によって取り出される前記集合の量を取出量として算出し、
前記取出量に基づいて前記挿入位置を決定する、
付記2に記載の計量システム。
(付記4)
前記挿入位置決定部は、
前記材料片群の上面の形状を前記領域画像に基づいて特定し、
前記上面の形状に基づいて前記挿入位置を決定する、
付記2または3に記載の計量システム。
(付記5)
前記集合画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記量推定部は、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量をボクセル量として推定し、
複数の前記ボクセル量に基づいて、前記推定量を算出する、
付記1~4のいずれか一つに記載の計量システム。
(付記6)
前記少なくとも一つの分離候補位置は、複数の分離候補位置を含み、
前記分離位置決定部は、前記複数の分離候補位置から、前記推定量と前記所定量との誤差を最小にする前記分離候補位置を前記分離位置として決定する、
付記1~5のいずれか一つに記載の計量システム。
(付記7)
前記量推定部は、前記集合が位置する現実空間を示す座標系の一つの座標軸に沿って前記複数の分離候補位置を設定し、
前記分離位置決定部は、前記複数の分離候補位置から前記分離位置を決定する、
付記6に記載の計量システム。
(付記8)
前記集合画像に基づいて前記集合の密度を推定する密度推定部を更に備え、
前記量推定部は、前記密度と前記部分集合の体積とに基づいて前記推定量を算出する、
付記1~7のいずれか一つに記載の計量システム。
(付記9)
前記集合画像はデプス画像であり、
前記量推定部は、前記デプス画像から得られる奥行き方向の距離に基づいて前記体積を算出する、
付記8に記載の計量システム。
(付記10)
前記密度推定部は、所与の領域に集積された材料片群から前記集合が取り出されたときの該材料片群の質量の減少量と、該取り出された集合の体積とに基づいて、前記密度を推定する、
付記8または9に記載の計量システム。
(付記11)
前記集合画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出し、
前記量推定部は、
前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて、該ボクセルにおける前記材料片の量をボクセル量として算出し、
複数の前記ボクセル量に基づいて前記推定量を算出する、
付記8に記載の計量システム。
(付記12)
前記密度推定部は、前記集合画像の入力を受け付けて前記ボクセル密度を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記ボクセル密度を算出する、
付記11に記載の計量システム。
(付記13)
前記部分集合の推定量と、該推定量に対応する正解との誤差に基づく機械学習を実行して、前記機械学習モデルを生成する学習部を更に備える付記12に記載の計量システム。
(付記14)
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおいて前記材料片が存在するか否かを示すクラス値を推定し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記クラス値および前記ボクセル密度に基づいて前記ボクセル量を算出する、
付記11に記載の計量システム。
(付記15)
前記密度推定部は、前記集合画像の入力を受け付けて前記クラス値を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記クラス値を算出する、
付記14に記載の計量システム。
(付記16)
前記量推定部によって過去に算出された前記推定量のサンプル群と、該推定量に対応する前記分離位置において過去に実際に分離された前記材料片の実際量のサンプル群との関係に基づいて、前記推定量を補正する補正部を更に備え、
前記分離位置決定部は、前記補正された複数の推定量に基づいて前記分離位置を決定する、
付記1~15のいずれか一つに記載の計量システム。
(付記17)
所与の領域に集積された、質量によって管理される材料片群を写した領域画像に基づいて、該材料片群の中を通る支持体の仮想経路を設定する経路設定部と、
質量によって管理される材料片の集合を前記材料片群から取り出すための前記支持体の挿入位置を、前記仮想経路に基づいて決定する挿入位置決定部と、
を備える支持体制御システム。
(付記18)
質量によって管理される材料片の集合を写した集合画像に基づいて、該集合に対して複数のボクセルを設定する画像処理部と、
前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出する密度推定部と、
前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて、該ボクセルにおける前記材料片の量をボクセル量として算出するボクセル量算出部と、
複数の前記ボクセル量に基づいて、前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部と、
を備える計量システム。
(付記19)
少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出するステップと、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。
(付記20)
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出するステップと、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
上記の様々な例から把握されるとおり、本開示は以下に示す態様を含む。
(付記1)
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部と、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する分離位置決定部と、
を備える計量システム。
(付記2)
所与の領域に集積された材料片群を写した領域画像に基づいて、前記所定量以上の前記集合を該材料片群から取り出すための支持体の挿入位置を決定する挿入位置決定部を更に備え、
前記量推定部は、前記挿入位置から前記材料片群に挿入された前記支持体によって取り出された前記集合を写した前記集合画像に基づいて、前記少なくとも一つの分離候補位置のそれぞれについて前記推定量を算出する、
る付記1に記載の計量システム。
(付記3)
前記挿入位置決定部は、
前記材料片群の中を通る前記支持体の仮想経路を設定し、
前記仮想経路を通る前記支持体によって取り出される前記集合の量を取出量として算出し、
前記取出量に基づいて前記挿入位置を決定する、
付記2に記載の計量システム。
(付記4)
前記挿入位置決定部は、
前記材料片群の上面の形状を前記領域画像に基づいて特定し、
前記上面の形状に基づいて前記挿入位置を決定する、
付記2または3に記載の計量システム。
(付記5)
前記集合画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記量推定部は、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量をボクセル量として推定し、
複数の前記ボクセル量に基づいて、前記推定量を算出する、
付記1~4のいずれか一つに記載の計量システム。
(付記6)
前記少なくとも一つの分離候補位置は、複数の分離候補位置を含み、
前記分離位置決定部は、前記複数の分離候補位置から、前記推定量と前記所定量との誤差を最小にする前記分離候補位置を前記分離位置として決定する、
付記1~5のいずれか一つに記載の計量システム。
(付記7)
前記量推定部は、前記集合が位置する現実空間を示す座標系の一つの座標軸に沿って前記複数の分離候補位置を設定し、
前記分離位置決定部は、前記複数の分離候補位置から前記分離位置を決定する、
付記6に記載の計量システム。
(付記8)
前記集合画像に基づいて前記集合の密度を推定する密度推定部を更に備え、
前記量推定部は、前記密度と前記部分集合の体積とに基づいて前記推定量を算出する、
付記1~7のいずれか一つに記載の計量システム。
(付記9)
前記集合画像はデプス画像であり、
前記量推定部は、前記デプス画像から得られる奥行き方向の距離に基づいて前記体積を算出する、
付記8に記載の計量システム。
(付記10)
前記密度推定部は、所与の領域に集積された材料片群から前記集合が取り出されたときの該材料片群の質量の減少量と、該取り出された集合の体積とに基づいて、前記密度を推定する、
付記8または9に記載の計量システム。
(付記11)
前記集合画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出し、
前記量推定部は、
前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて、該ボクセルにおける前記材料片の量をボクセル量として算出し、
複数の前記ボクセル量に基づいて前記推定量を算出する、
付記8に記載の計量システム。
(付記12)
前記密度推定部は、前記集合画像の入力を受け付けて前記ボクセル密度を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記ボクセル密度を算出する、
付記11に記載の計量システム。
(付記13)
前記部分集合の推定量と、該推定量に対応する正解との誤差に基づく機械学習を実行して、前記機械学習モデルを生成する学習部を更に備える付記12に記載の計量システム。
(付記14)
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおいて前記材料片が存在するか否かを示すクラス値を推定し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記クラス値および前記ボクセル密度に基づいて前記ボクセル量を算出する、
付記11に記載の計量システム。
(付記15)
前記密度推定部は、前記集合画像の入力を受け付けて前記クラス値を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記クラス値を算出する、
付記14に記載の計量システム。
(付記16)
前記量推定部によって過去に算出された前記推定量のサンプル群と、該推定量に対応する前記分離位置において過去に実際に分離された前記材料片の実際量のサンプル群との関係に基づいて、前記推定量を補正する補正部を更に備え、
前記分離位置決定部は、前記補正された複数の推定量に基づいて前記分離位置を決定する、
付記1~15のいずれか一つに記載の計量システム。
(付記17)
所与の領域に集積された、質量によって管理される材料片群を写した領域画像に基づいて、該材料片群の中を通る支持体の仮想経路を設定する経路設定部と、
質量によって管理される材料片の集合を前記材料片群から取り出すための前記支持体の挿入位置を、前記仮想経路に基づいて決定する挿入位置決定部と、
を備える支持体制御システム。
(付記18)
質量によって管理される材料片の集合を写した集合画像に基づいて、該集合に対して複数のボクセルを設定する画像処理部と、
前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出する密度推定部と、
前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて、該ボクセルにおける前記材料片の量をボクセル量として算出するボクセル量算出部と、
複数の前記ボクセル量に基づいて、前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部と、
を備える計量システム。
(付記19)
少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出するステップと、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。
(付記20)
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出するステップと、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
付記1,19,20によれば、集合画像に基づいてそれぞれの分離候補位置での推定量が算出され、その推定量に基づいて分離位置が決定される。したがって、所定量の材料片を特定できる。
付記2によれば、所定量以上の材料片の集合を材料片群から取り出すための支持体の挿入位置が、該材料片群を写した領域画像に基づいて決定される。この処理により、最終的に所定量の材料片を得られる集合を材料片群から確実に取り出すことが可能になる。
付記3によれば、材料片群の中での支持体の経路と、その経路に対応する取出量とを考慮して挿入位置が決定されるので、所定量以上の材料片の集合をより確実に材料片群から取り出すことが可能になる。
付記4によれば、材料片群の上面の形状に基づいて挿入位置が決定されるので、材料片群の状況に応じて挿入位置を適切に決定できる。
付記5によれば、集合画像に対して複数のボクセルが設定され、個々のボクセルにおける量が推定される。この処理によって、集合内の材料片の分布が不均一な場合でも所定量の材料片を特定できる。
付記6によれば、複数の分離候補位置のそれぞれについて、仕分けようとする材料片の推定量が所定量と比較されて、双方の誤差が最小である分離候補位置が分離位置として決定される。したがって、所定量の材料片をより確実に特定できる。
付記7によれば、一つの座標軸に沿って複数の分離候補位置が設定されるので、分離候補位置の設定が簡単になり、その分、分離位置を簡易に決定できる。
付記8によれば、集合画像に基づいて材料片の集合の密度が推定され、その密度と、部分集合の体積とに基づいて推定量が算出される。したがって、部分集合の推定量をより正確に算出できる。
付記9によれば、デプス画像を用いることで体積を精度良く算出できるので、その分、推定量の計算の精度も向上し得る。
付記10によれば、材料片の集合が取り出された際の材料片群の質量の減少量を、該集合の質量として用いることで、該集合の質量を実際に計測する必要がなくなる。その分、材料片の集合の推定量を簡単に求めることができる。
付記11によれば、集合画像に対して複数のボクセルを設定し、個々のボクセルにおける材料片の密度および量を求めることで、集合内の材料片の密度が不均一な場合でも分離位置を精度良く決定できる。
付記12によれば、機械学習を利用することで、材料片の多様な分布に適応してボクセル密度を精度良く求めることができる。
付記13によれば、ボクセル密度を出力する機械学習モデルを、個々のボクセルについての値ではなく部分集合の推定量に基づいて学習することで、学習の負荷を低減できる。
付記14によれば、個々のボクセルにおける材料片の有無を考慮することで、考慮されるべきでないボクセルを排除して、分離しようとする材料片の推定量を精度良く算出できる。したがって、分離位置の精度をより高めることが可能になる。
付記15によれば、機械学習を利用することで、材料片の多様な分布に対してクラス値を精度良く求めることができる。
付記16によれば、算出された推定量が、過去に得られた推定量および実際量の間の関係に基づいて補正されるので、分離位置の精度をより高めることができる。
付記17によれば、材料片群の中での支持体の経路を考慮して挿入位置が決定されるので、材料片の集合を取り出すための支持体の挿入位置を適切に決定できる。
付記18によれば、集合画像に対して複数のボクセルが設定されて、個々のボクセルにおける材料片の密度および量が算出される。この処理により、材料片の集合内の密度が不均一な場合でも該集合の推定量を正確に算出できる。
[第2の付記]
上記の様々な例から把握されるとおり、本開示は以下に示す態様も含む。
(付記1)
質量によって管理される材料片の集合を写した画像に基づいて、該集合の密度を推定する密度推定部と、
前記密度に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する決定部と、
を備える計量システム。
(付記2)
前記密度に基づいて、前記分離位置の候補である複数の候補位置のそれぞれについて、該候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部を更に備え、
前記決定部は、前記複数の候補位置から、前記推定量と前記所定量との誤差を最小にする前記候補位置を前記分離位置として決定する、
付記1に記載の計量システム。
(付記3)
前記量推定部は、前記集合が位置する現実空間を示す座標系の一つの座標軸に沿って前記複数の候補位置を設定し、
前記決定部は、前記複数の候補位置から前記分離位置を決定する、
付記2に記載の計量システム。
(付記4)
前記量推定部は、前記密度と前記部分集合の体積とに基づく前記部分集合の推定質量を前記推定量として算出し、
前記決定部は、前記推定質量と所定質量との前記誤差を最小にする前記候補位置を前記分離位置として決定する、
付記2または3に記載の計量システム。
(付記5)
前記画像はデプス画像であり、
前記量推定部は、前記デプス画像から得られる奥行き方向の距離に基づいて前記体積を算出する、
付記4に記載の計量システム。
(付記6)
前記画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記量推定部は、
前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の量をボクセル量として算出し、
前記複数のボクセルのそれぞれの前記ボクセル量に基づいて、前記部分集合の前記推定量を算出する、
付記2~5のいずれか一つに記載の計量システム。
(付記7)
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて前記ボクセル量を算出する、
付記6に記載の計量システム。
(付記8)
前記密度推定部は、前記画像の入力を受け付けて前記ボクセル密度を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記ボクセル密度を算出する、
付記7に記載の計量システム。
(付記9)
前記部分集合の推定量と、該推定量に対応する正解との誤差に基づく機械学習を実行して、前記機械学習モデルを生成する学習部を更に備える付記8に記載の計量システム。
(付記10)
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおいて前記材料片が存在するか否かを示すクラス値を推定し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記クラス値および前記ボクセル密度に基づいて前記ボクセル量を算出する、
付記7~9のいずれか一つに記載の計量システム。
(付記11)
前記密度推定部は、前記画像の入力を受け付けて前記クラス値を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記クラス値を算出する、
付記10に記載の計量システム。
(付記12)
前記量推定部によって過去に算出された前記推定量のサンプル群と、該推定量に対応する前記分離位置において過去に実際に分離された前記材料片の実際量のサンプル群との関係に基づいて、前記推定量を補正する補正部を更に備え、
前記決定部は、前記補正された推定量と前記所定量との誤差を最小にする前記候補位置を前記分離位置として決定する、
付記2~11のいずれか一つに記載の計量システム。
(付記13)
質量によって管理される材料片の集合を写した画像に基づいて、該集合に対して複数のボクセルを設定する画像処理部と、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量を推定する量推定部と、
前記複数のボクセルのそれぞれの前記推定された量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する決定部と、
を備える計量システム。
(付記14)
前記材料片は定量的に管理される食品であり、
前記決定部は、前記所定量の前記食品を所定の食料品に追加するための前記分離位置を決定する、
付記1~13のいずれか一つに記載の計量システム。
(付記15)
少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合を写した画像に基づいて、該集合の密度を推定するステップと、
前記密度に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。
(付記16)
質量によって管理される材料片の集合を写した画像に基づいて、該集合の密度を推定するステップと、
前記密度に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
(付記17)
少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合の画像に基づいて、該集合に対して複数のボクセルを設定するステップと、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量を推定するステップと、
前記複数のボクセルのそれぞれの前記推定された量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。
(付記18)
質量によって管理される材料片の集合の画像に基づいて、該集合に対して複数のボクセルを設定するステップと、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量を推定するステップと、
前記複数のボクセルのそれぞれの前記推定された量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
上記の様々な例から把握されるとおり、本開示は以下に示す態様も含む。
(付記1)
質量によって管理される材料片の集合を写した画像に基づいて、該集合の密度を推定する密度推定部と、
前記密度に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する決定部と、
を備える計量システム。
(付記2)
前記密度に基づいて、前記分離位置の候補である複数の候補位置のそれぞれについて、該候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部を更に備え、
前記決定部は、前記複数の候補位置から、前記推定量と前記所定量との誤差を最小にする前記候補位置を前記分離位置として決定する、
付記1に記載の計量システム。
(付記3)
前記量推定部は、前記集合が位置する現実空間を示す座標系の一つの座標軸に沿って前記複数の候補位置を設定し、
前記決定部は、前記複数の候補位置から前記分離位置を決定する、
付記2に記載の計量システム。
(付記4)
前記量推定部は、前記密度と前記部分集合の体積とに基づく前記部分集合の推定質量を前記推定量として算出し、
前記決定部は、前記推定質量と所定質量との前記誤差を最小にする前記候補位置を前記分離位置として決定する、
付記2または3に記載の計量システム。
(付記5)
前記画像はデプス画像であり、
前記量推定部は、前記デプス画像から得られる奥行き方向の距離に基づいて前記体積を算出する、
付記4に記載の計量システム。
(付記6)
前記画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記量推定部は、
前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の量をボクセル量として算出し、
前記複数のボクセルのそれぞれの前記ボクセル量に基づいて、前記部分集合の前記推定量を算出する、
付記2~5のいずれか一つに記載の計量システム。
(付記7)
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて前記ボクセル量を算出する、
付記6に記載の計量システム。
(付記8)
前記密度推定部は、前記画像の入力を受け付けて前記ボクセル密度を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記ボクセル密度を算出する、
付記7に記載の計量システム。
(付記9)
前記部分集合の推定量と、該推定量に対応する正解との誤差に基づく機械学習を実行して、前記機械学習モデルを生成する学習部を更に備える付記8に記載の計量システム。
(付記10)
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおいて前記材料片が存在するか否かを示すクラス値を推定し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記クラス値および前記ボクセル密度に基づいて前記ボクセル量を算出する、
付記7~9のいずれか一つに記載の計量システム。
(付記11)
前記密度推定部は、前記画像の入力を受け付けて前記クラス値を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記クラス値を算出する、
付記10に記載の計量システム。
(付記12)
前記量推定部によって過去に算出された前記推定量のサンプル群と、該推定量に対応する前記分離位置において過去に実際に分離された前記材料片の実際量のサンプル群との関係に基づいて、前記推定量を補正する補正部を更に備え、
前記決定部は、前記補正された推定量と前記所定量との誤差を最小にする前記候補位置を前記分離位置として決定する、
付記2~11のいずれか一つに記載の計量システム。
(付記13)
質量によって管理される材料片の集合を写した画像に基づいて、該集合に対して複数のボクセルを設定する画像処理部と、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量を推定する量推定部と、
前記複数のボクセルのそれぞれの前記推定された量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する決定部と、
を備える計量システム。
(付記14)
前記材料片は定量的に管理される食品であり、
前記決定部は、前記所定量の前記食品を所定の食料品に追加するための前記分離位置を決定する、
付記1~13のいずれか一つに記載の計量システム。
(付記15)
少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合を写した画像に基づいて、該集合の密度を推定するステップと、
前記密度に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。
(付記16)
質量によって管理される材料片の集合を写した画像に基づいて、該集合の密度を推定するステップと、
前記密度に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
(付記17)
少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合の画像に基づいて、該集合に対して複数のボクセルを設定するステップと、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量を推定するステップと、
前記複数のボクセルのそれぞれの前記推定された量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。
(付記18)
質量によって管理される材料片の集合の画像に基づいて、該集合に対して複数のボクセルを設定するステップと、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量を推定するステップと、
前記複数のボクセルのそれぞれの前記推定された量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
付記1,15,16によれば、画像に基づいて材料片の集合の密度が推定され、分離位置がその密度に基づいて決定される。したがって、所定量の材料片を特定できる。
付記2によれば、複数の候補位置のそれぞれについて、分離されようとする材料片の推定量が所定量と比較されて、双方の誤差が最小である候補位置が分離位置として決定される。したがって、所定量の材料片をより確実に特定できる。
付記3によれば、一つの座標軸に沿って複数の候補位置が設定されるので、候補位置の設定が簡単になり、その分、分離位置を簡易に決定できる。
付記4によれば、質量に基づいて分離位置が設定されるので、材料片の性質に合わせて分離位置を精度良く決定できる。
付記5によれば、デプス画像を用いることで体積を精度良く算出できるので、その分、質量の計算の精度も向上し得る。
付記6によれば、画像に対して複数のボクセルを設定し、個々のボクセルにおけるボクセル量を求めることで、集合内の材料片の分布が不均一な場合でも分離位置を精度良く決定できる。
付記7によれば、ボクセル密度を考慮することでボクセル量を精度良く算出でき、その分、分離位置を精度良く決定できる。
付記8によれば、機械学習を利用することで、材料片の多様な分布に適応してボクセル密度を精度良く求めることができる。
付記9によれば、ボクセル密度を出力する機械学習モデルを、個々のボクセルについての値ではなく部分集合の推定量に基づいて学習することで、学習の負荷を低減できる。
付記10によれば、個々のボクセルにおける材料片の有無を考慮することで、考慮されるべきでないボクセルを排除して、分離しようとする材料片の推定量を精度良く算出できる。したがって、分離位置の精度をより高めることが可能になる。
付記11によれば、機械学習を利用することで、材料片の多様な分布に対してクラス値を精度良く求めることができる。
付記12によれば、算出された推定量が、過去に得られた推定量および実際量の間の関係に基づいて補正されるので、分離位置の精度をより高めることができる。
付記13,17,18によれば、画像に対して複数のボクセルが設定され、個々のボクセルにおける量が推定され、これらの量に基づいて分離位置が決定される。この処理によって、集合内の材料片の分布が不均一な場合でも所定量の材料片を特定できる。
付記14によれば、所定量の食品を特定でき、ひいては、食料品をより容易に製造することが可能になる。
1,2…計量システム、3…第1ロボット、3a…支持体、4…第2ロボット、4a…仕切板、5…カメラ、6…計量器、11…画像処理部、12…密度推定部、13…量推定部、14…補正部、15…分離位置決定部、16…学習部、20~22…機械学習モデル、30…取出機能、31…挿入位置決定部、32…形状特定部、33…経路設定部、34…量算出部、40…分離機能、41…密度推定部、42…量推定部、43…補正部、44…分離位置決定部、50…ロボット制御部、81…第1容器、82…第2容器、90…材料片群、210…食品、200…支持体、220…分離位置、230…基準位置、240…分離候補位置、300…ボクセル、600…挿入候補位置。
Claims (20)
- 質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部と、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定する分離位置決定部と、
を備える計量システム。 - 所与の領域に集積された材料片群を写した領域画像に基づいて、前記所定量以上の前記集合を該材料片群から取り出すための支持体の挿入位置を決定する挿入位置決定部を更に備え、
前記量推定部は、前記挿入位置から前記材料片群に挿入された前記支持体によって取り出された前記集合を写した前記集合画像に基づいて、前記少なくとも一つの分離候補位置のそれぞれについて前記推定量を算出する、
る請求項1に記載の計量システム。 - 前記挿入位置決定部は、
前記材料片群の中を通る前記支持体の仮想経路を設定し、
前記仮想経路を通る前記支持体によって取り出される前記集合の量を取出量として算出し、
前記取出量に基づいて前記挿入位置を決定する、
請求項2に記載の計量システム。 - 前記挿入位置決定部は、
前記材料片群の上面の形状を前記領域画像に基づいて特定し、
前記上面の形状に基づいて前記挿入位置を決定する、
請求項2に記載の計量システム。 - 前記集合画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記量推定部は、
前記複数のボクセルのそれぞれについて、該ボクセルに対応する前記材料片の量をボクセル量として推定し、
複数の前記ボクセル量に基づいて、前記推定量を算出する、
請求項1~4のいずれか一項に記載の計量システム。 - 前記少なくとも一つの分離候補位置は、複数の分離候補位置を含み、
前記分離位置決定部は、前記複数の分離候補位置から、前記推定量と前記所定量との誤差を最小にする前記分離候補位置を前記分離位置として決定する、
請求項1~4のいずれか一項に記載の計量システム。 - 前記量推定部は、前記集合が位置する現実空間を示す座標系の一つの座標軸に沿って前記複数の分離候補位置を設定し、
前記分離位置決定部は、前記複数の分離候補位置から前記分離位置を決定する、
請求項6に記載の計量システム。 - 前記集合画像に基づいて前記集合の密度を推定する密度推定部を更に備え、
前記量推定部は、前記密度と前記部分集合の体積とに基づいて前記推定量を算出する、
請求項1~4のいずれか一項に記載の計量システム。 - 前記集合画像はデプス画像であり、
前記量推定部は、前記デプス画像から得られる奥行き方向の距離に基づいて前記体積を算出する、
請求項8に記載の計量システム。 - 前記密度推定部は、所与の領域に集積された材料片群から前記集合が取り出されたときの該材料片群の質量の減少量と、該取り出された集合の体積とに基づいて、前記密度を推定する、
請求項8に記載の計量システム。 - 前記集合画像に写された前記集合に対して複数のボクセルを設定する画像処理部を更に備え、
前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出し、
前記量推定部は、
前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて、該ボクセルにおける前記材料片の量をボクセル量として算出し、
複数の前記ボクセル量に基づいて前記推定量を算出する、
請求項8に記載の計量システム。 - 前記密度推定部は、前記集合画像の入力を受け付けて前記ボクセル密度を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記ボクセル密度を算出する、
請求項11に記載の計量システム。 - 前記部分集合の推定量と、該推定量に対応する正解との誤差に基づく機械学習を実行して、前記機械学習モデルを生成する学習部を更に備える請求項12に記載の計量システム。
- 前記密度推定部は、前記複数のボクセルのそれぞれについて、該ボクセルにおいて前記材料片が存在するか否かを示すクラス値を推定し、
前記量推定部は、前記複数のボクセルのそれぞれについて、前記クラス値および前記ボクセル密度に基づいて前記ボクセル量を算出する、
請求項11に記載の計量システム。 - 前記密度推定部は、前記集合画像の入力を受け付けて前記クラス値を出力する機械学習モデルを用いて、前記複数のボクセルのそれぞれについて前記クラス値を算出する、
請求項14に記載の計量システム。 - 前記量推定部によって過去に算出された前記推定量のサンプル群と、該推定量に対応する前記分離位置において過去に実際に分離された前記材料片の実際量のサンプル群との関係に基づいて、前記推定量を補正する補正部を更に備え、
前記分離位置決定部は、前記補正された複数の推定量に基づいて前記分離位置を決定する、
請求項1~4のいずれか一項に記載の計量システム。 - 所与の領域に集積された、質量によって管理される材料片群を写した領域画像に基づいて、該材料片群の中を通る支持体の仮想経路を設定する経路設定部と、
質量によって管理される材料片の集合を前記材料片群から取り出すための前記支持体の挿入位置を、前記仮想経路に基づいて決定する挿入位置決定部と、
を備える支持体制御システム。 - 質量によって管理される材料片の集合を写した集合画像に基づいて、該集合に対して複数のボクセルを設定する画像処理部と、
前記複数のボクセルのそれぞれについて、該ボクセルにおける前記材料片の密度をボクセル密度として算出する密度推定部と、
前記複数のボクセルのそれぞれについて、前記ボクセル密度に基づいて、該ボクセルにおける前記材料片の量をボクセル量として算出するボクセル量算出部と、
複数の前記ボクセル量に基づいて、前記集合を分離して得られる前記材料片の部分集合の推定量を算出する量推定部と、
を備える計量システム。 - 少なくとも一つのプロセッサを備える計量システムによって実行される計量方法であって、
質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出するステップと、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
を含む計量方法。 - 質量によって管理される材料片の集合を写した集合画像に基づいて、少なくとも一つの分離候補位置のそれぞれについて、該分離候補位置において前記集合を分離して得られる前記材料片の部分集合の推定量を算出するステップと、
少なくとも一つの前記推定量に基づいて、前記集合から所定量の前記材料片を分離する位置を分離位置として決定するステップと、
をコンピュータに実行させる計量プログラム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021175346 | 2021-10-27 | ||
| JP2021175346 | 2021-10-27 | ||
| PCT/JP2022/040228 WO2023074818A1 (ja) | 2021-10-27 | 2022-10-27 | 計量システム、支持体制御システム、計量方法、および計量プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2023074818A1 JPWO2023074818A1 (ja) | 2023-05-04 |
| JP7624087B2 true JP7624087B2 (ja) | 2025-01-29 |
Family
ID=86159484
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023556650A Active JP7624087B2 (ja) | 2021-10-27 | 2022-10-27 | 計量システム、支持体制御システム、計量方法、および計量プログラム |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US12303944B2 (ja) |
| JP (1) | JP7624087B2 (ja) |
| CN (1) | CN118176407A (ja) |
| WO (1) | WO2023074818A1 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3816857A1 (en) * | 2019-11-04 | 2021-05-05 | TOMRA Sorting GmbH | Neural network for bulk sorting |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN203177944U (zh) | 2013-04-08 | 2013-09-04 | 贵州茅台酒股份有限公司 | 一种颗粒物计数装置 |
| JP2019504277A (ja) | 2015-12-22 | 2019-02-14 | アルセロールミタル | コンベヤ上の原料の質量を決定するための方法およびシステム |
| WO2020044510A1 (ja) | 2018-08-30 | 2020-03-05 | 株式会社オプティム | コンピュータシステム、物体検知方法及びプログラム |
| KR102234533B1 (ko) | 2020-05-11 | 2021-03-31 | 주식회사 보고넷 | 전기로 전력 투입제어를 위한 인공지능 장입 고철 분류를 이용한 인공지능 원재료 분석 서비스 제공 방법 |
| WO2021065265A1 (ja) | 2019-09-30 | 2021-04-08 | 日本電気株式会社 | 大きさ推定装置、大きさ推定方法および記憶媒体 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3637960B2 (ja) * | 2000-06-22 | 2005-04-13 | 住友金属鉱山株式会社 | 高温状態にある粒状物集合体の体積若しくは重量測定法 |
| JP5346748B2 (ja) * | 2009-09-01 | 2013-11-20 | 勝三 川西 | 切断位置指示装置及び方法 |
| JP6473638B2 (ja) | 2015-03-05 | 2019-02-20 | スキューズ株式会社 | 仕分け装置、コンピュータプログラム、仕分け方法 |
| US12017255B2 (en) * | 2015-07-16 | 2024-06-25 | Sortera Technologies, Inc. | Sorting based on chemical composition |
| JP7300895B2 (ja) | 2019-05-29 | 2023-06-30 | キヤノン株式会社 | 画像処理装置および画像処理方法、プログラム、並びに記憶媒体 |
| US10906188B1 (en) * | 2019-10-25 | 2021-02-02 | Dexterity, Inc. | Singulation of arbitrary mixed items |
-
2022
- 2022-10-27 JP JP2023556650A patent/JP7624087B2/ja active Active
- 2022-10-27 WO PCT/JP2022/040228 patent/WO2023074818A1/ja not_active Ceased
- 2022-10-27 CN CN202280071282.7A patent/CN118176407A/zh active Pending
-
2024
- 2024-03-25 US US18/614,752 patent/US12303944B2/en active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN203177944U (zh) | 2013-04-08 | 2013-09-04 | 贵州茅台酒股份有限公司 | 一种颗粒物计数装置 |
| JP2019504277A (ja) | 2015-12-22 | 2019-02-14 | アルセロールミタル | コンベヤ上の原料の質量を決定するための方法およびシステム |
| WO2020044510A1 (ja) | 2018-08-30 | 2020-03-05 | 株式会社オプティム | コンピュータシステム、物体検知方法及びプログラム |
| WO2021065265A1 (ja) | 2019-09-30 | 2021-04-08 | 日本電気株式会社 | 大きさ推定装置、大きさ推定方法および記憶媒体 |
| KR102234533B1 (ko) | 2020-05-11 | 2021-03-31 | 주식회사 보고넷 | 전기로 전력 투입제어를 위한 인공지능 장입 고철 분류를 이용한 인공지능 원재료 분석 서비스 제공 방법 |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2023074818A1 (ja) | 2023-05-04 |
| US20240226963A1 (en) | 2024-07-11 |
| CN118176407A (zh) | 2024-06-11 |
| US12303944B2 (en) | 2025-05-20 |
| WO2023074818A1 (ja) | 2023-05-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6771799B1 (ja) | 壁に基づくパッキング機構を有するロボットシステム及びその動作方法 | |
| CN112236271B (zh) | 模拟装置、计算机可读存储介质以及模拟方法 | |
| EP3259908B1 (en) | Image-based tray alignment and tube slot localization in a vision system | |
| JP6573354B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
| KR20180120647A (ko) | 가이드된 어셈블리 환경에서 머신비전 좌표공간과 함께 묶기 위한 시스템 및 방법 | |
| CN112102375B (zh) | 一种点云配准可靠性检测的方法、装置、移动智慧设备 | |
| CN107756422A (zh) | 拾取系统 | |
| CN106461383A (zh) | 机器人臂/传感器/工作区系统的自动现场配准和校准 | |
| JP2011133273A (ja) | 推定装置及びその制御方法、プログラム | |
| JP2020027439A (ja) | 情報処理装置、情報処理方法 | |
| JP7624087B2 (ja) | 計量システム、支持体制御システム、計量方法、および計量プログラム | |
| KR100526817B1 (ko) | 스테레오 영상 구현 시 기본행렬을 구하는 방법 | |
| Sinz et al. | Learning depth from stereo | |
| CN115272410A (zh) | 一种无标定视觉的动态目标追踪方法、装置、设备及介质 | |
| CN120715903A (zh) | 一种基于点云深度学习的物体抓取方法及系统 | |
| Cerveri et al. | Combined evolution strategies for dynamic calibration of video-based measurement systems | |
| CN113345023A (zh) | 箱体的定位方法、装置、介质和电子设备 | |
| JP7600859B2 (ja) | 情報処理システム、情報処理方法、プログラム | |
| CN115103741B (zh) | 学习用数据集生成装置以及学习用数据集生成方法 | |
| CN117532585A (zh) | 手眼标定方法、装置、设备及存储介质 | |
| JP7811524B2 (ja) | 不定形の小型食材の集積場所への挿入深さを変えられるロボットハンドを制御するための制御情報を出力するシステム | |
| CN114897997A (zh) | 相机标定方法、装置、设备及存储介质 | |
| CN115272479A (zh) | 相机标定系统 | |
| JP2013053920A (ja) | 3次元物体位置検出装置、そのプログラム | |
| JP6819810B1 (ja) | 物体検出システム、及び物体検出方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240209 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250107 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250117 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7624087 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |