JP7627619B2 - Item type determination method and item type determination system - Google Patents
Item type determination method and item type determination system Download PDFInfo
- Publication number
- JP7627619B2 JP7627619B2 JP2021092274A JP2021092274A JP7627619B2 JP 7627619 B2 JP7627619 B2 JP 7627619B2 JP 2021092274 A JP2021092274 A JP 2021092274A JP 2021092274 A JP2021092274 A JP 2021092274A JP 7627619 B2 JP7627619 B2 JP 7627619B2
- Authority
- JP
- Japan
- Prior art keywords
- straight line
- line shape
- article
- point cloud
- type
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 61
- 238000001514 detection method Methods 0.000 claims description 60
- 238000000605 extraction Methods 0.000 claims description 35
- 238000003708 edge detection Methods 0.000 claims description 32
- 239000000284 extract Substances 0.000 claims description 9
- 239000000047 product Substances 0.000 description 22
- 238000010586 diagram Methods 0.000 description 9
- 238000009966 trimming Methods 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 4
- 238000010191 image analysis Methods 0.000 description 3
- 230000008602 contraction Effects 0.000 description 2
- 238000005429 filling process Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 210000000078 claw Anatomy 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G1/00—Storing articles, individually or in orderly arrangement, in warehouses or magazines
- B65G1/02—Storage devices
- B65G1/04—Storage devices mechanical
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Warehouses Or Storage Devices (AREA)
- Image Analysis (AREA)
Description
本発明は、略直方体状の物品の種類を判定する、物品種類判定方法、および物品種類判定システムに関する。 The present invention relates to an item type determination method and an item type determination system for determining the type of an approximately rectangular parallelepiped item.
従来、特許文献1に記載されるように、物品の種類を示す識別情報を含むRFIDタグを複数の物品に付しておき、そのRFID(Radio Frequency identifier)タグを読み取ることにより物品の種類を判定する技術が存在している。 As described in Patent Document 1, there is a technology in which RFID tags containing identification information indicating the type of item are attached to multiple items, and the type of item is determined by reading the RFID (Radio Frequency Identifier) tags.
ところが、従来の技術では、予めすべての物品にRFIDタグを貼り付ける必要があり、RFIDタグが貼り付けられていない物品を判定することはできなかった。 However, with conventional technology, it was necessary to attach an RFID tag to every item in advance, and it was not possible to identify items that did not have an RFID tag attached.
本発明は上記課題に鑑みなされたものであり、物品の表面の凹凸を三次元的に検出した点データを用いて物品の種類を判定する物品種類判定方法、および物品種類判定システムの提供を目的とする。 The present invention has been made in consideration of the above problems, and aims to provide an item type determination method and an item type determination system that determine the type of an item using point data obtained by three-dimensionally detecting the unevenness of the surface of an item.
上記目的を達成するために、本発明の1つである物品種類判定方法は、物品との距離を三次元的な複数の点データとして取得する検出器を用い、略直方体状の物品の前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定方法であって、物品の検出面部の複数箇所の点データを点群として取得する点群取得工程と、前記点群取得工程において取得された点群に基づき、前記物品の検出面部の相対向する一対の縁部を検出する縁部検出工程と、前記縁部検出工程により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出工程と、前記直線形状抽出工程により抽出された直線形状に基づき前記物品の種類を判定する種類判定工程と、を含む。 In order to achieve the above object, one of the present inventions is an item type determination method that uses a detector that acquires the distance to the item as multiple three-dimensional point data and determines the type of the item based on the shape characteristics of the detection surface portion of the approximately rectangular parallelepiped item, including the surface facing the detector, and includes a point cloud acquisition process that acquires point data of multiple locations on the detection surface portion of the item as a point cloud, an edge detection process that detects a pair of opposing edges of the detection surface portion of the item based on the point cloud acquired in the point cloud acquisition process, a straight line shape extraction process that extracts a straight line shape having linearity extending in a direction along the edge based on the point cloud existing between the pair of edges detected by the edge detection process, and a type determination process that determines the type of the item based on the straight line shape extracted by the straight line shape extraction process.
上記目的を達成するために、本発明の他の1つである物品種類判定システムは、物品との距離を三次元的な複数の点データとして取得する検出器と、物品の前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定装置とを備え、前記物品種類判定装置は、物品の検出面部の複数箇所の点データを点群として取得する点群取得部と、前記点群取得部において取得された点群に基づき、前記物品の検出面部の相対向する一対の縁部を検出する縁部検出部と、前記縁部検出部により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出部と、前記直線形状抽出部により抽出された直線形状に基づき前記物品の種類を判定する種類判定部と、を備える。 In order to achieve the above object, another aspect of the present invention is an item type determination system that includes a detector that acquires the distance to an item as multiple three-dimensional point data, and an item type determination device that determines the type of item based on the shape characteristics of the detection surface portion of the item, including the surface of the item facing the detector. The item type determination device includes a point cloud acquisition unit that acquires point data of multiple locations on the detection surface portion of the item as a point cloud, an edge detection unit that detects a pair of opposing edges of the detection surface portion of the item based on the point cloud acquired by the point cloud acquisition unit, a straight line shape extraction unit that extracts a straight line shape having linearity extending in a direction along the edge based on the point cloud existing between the pair of edges detected by the edge detection unit, and a type determination unit that determines the type of the item based on the straight line shape extracted by the straight line shape extraction unit.
本発明によれば、表面に直線的な凹凸を有する物品とそれ以外の物品とを判別することができる。 The present invention makes it possible to distinguish between objects that have linear irregularities on their surfaces and other objects.
以下、本発明に係る物品種類判定方法、および物品種類判定システムの実施の形態について、図面を参照しつつ説明する。なお、以下の実施の形態は、本発明を説明するために一例を挙示するものであり、本発明を限定する主旨ではない。例えば、以下の実施の形態において示される形状、構造、材料、構成要素、相対的位置関係、接続状態、数値、数式、方法における各段階の内容、各段階の順序などは、一例であり、以下に記載されていない内容を含む場合がある。また、平行、直交などの幾何学的な表現を用いる場合があるが、これらの表現は、数学的な厳密さを示すものではなく、実質的に許容される誤差、ずれなどが含まれる。また、同時、同一などの表現も、実質的に許容される範囲を含んでいる。 Below, an embodiment of the product type determination method and product type determination system according to the present invention will be described with reference to the drawings. Note that the following embodiment is an example to explain the present invention, and is not intended to limit the present invention. For example, the shapes, structures, materials, components, relative positional relationships, connection states, numerical values, mathematical expressions, the contents of each step in the method, and the order of each step shown in the following embodiment are examples, and may include contents not described below. In addition, geometric expressions such as parallel and orthogonal may be used, but these expressions do not indicate mathematical strictness, and include errors, deviations, etc. that are substantially acceptable. In addition, expressions such as simultaneous and identical also include a substantially acceptable range.
また、図面は、本発明を説明するために適宜強調、省略、または比率の調整を行った模式的な図となっており、実際の形状、位置関係、および比率とは異なる。 The drawings are schematic diagrams in which emphasis, omissions, or proportions have been appropriately adjusted in order to explain the present invention, and may differ from the actual shapes, positional relationships, and proportions.
また、以下では複数の発明を一つの実施の形態として包括的に説明する場合がある。また、以下に記載する内容の一部は、本発明に関する任意の構成要素として説明している。 In addition, multiple inventions may be collectively described below as a single embodiment. Some of the content described below is also described as an optional component of the present invention.
図1は、物品種類判定方法が適用される物品種類判定システムを示す斜視図である。図2は、物品種類判定システムの移載装置130近傍を示す斜視図である。物品種類判定システム100は、ラック110に配置された物品200の種類を判別するシステムであって、検出器140と、物品種類判定装置160(図1、図2において不図示)と、を備えている。本実施の形態の場合、物品種類判定システム100は、搬入された物品200を自動的に搬送して物品200の保管位置へ物品200を自動的に移載し、また保管位置から自動的に移載した物品200を搬送することができる装置であり、搬送装置120と、移載装置130と、を備えたいわゆる自動倉庫に組み込まれている。
Figure 1 is a perspective view showing an item type determination system to which the item type determination method is applied. Figure 2 is a perspective view showing the vicinity of a
物品種類判定システム100の判定対象である物品200は、略直方体状であれば特に限定されるものではない。略直方体状とは、平坦な矩形の六面で形成される形状を含み、またリブ状、フランジ状の突出、持ち手のような窪みや孔などを備える形状も含むものとして記載している。具体的に物品200としては、段ボール箱、紙箱、木箱など表面に直線的な凹凸の形状を有さない平坦な表面性状を有する第一種類の物品と、コンテナ、トレー、折りたたみ可能なコンテナなど表面に直線的な凹凸の形状を有する表面性状の第二種類の物品と、の二種類の物品が存在する。
The object 200 to be determined by the object
ラック110は、搬送装置120が移動する領域に面する物品200の検出面部201が所定の配列方向(図中X軸方向)に沿うように並べて配置された略直方体状の複数の物品200を保管する設備である。本実施の形態の場合、ラック110は、物品200を載置状態で保持する棚板111と、棚板111を支持する支柱112とを備えている。棚板111は、平板状であり物品200を保管する位置は特に限定されない。ラック110は、第一種類の物品200と第二種類の物品200とが混在した状態で保管される。なお、図には搬送装置120の移動方向に視て一方の側方にラック110を記載しているが、両側方にラック110が配置されていてもかまわない。
The
搬送装置120は、物品200を保持して搬送する装置であって、検出器140が取り付けられるものであれば特に限定されるものではない。搬送装置120としては、物品200を保持して床面上を自律的に走行する無軌道の無人搬送車、物品200を保持してレールなどの所定の軌道に沿って走行する有軌道台車などを例示することができる。本実施の形態の場合、搬送装置120は、レール121と、レール121上を走行する台車122と、台車122に起立状に取り付けられ台車122とともに移動するマスト123と、物品200を保持可能でありマスト123に沿って昇降する昇降台124とを備えたいわゆるスタッカクレーンである。
The
移載装置130は、ラック110と搬送装置120の昇降台124との間で物品200を移載する装置であり、水平面内において物品200の配列方向(図中X軸方向)と直交する奥行方向(図中Y軸方向)に物品200を移動させて移載する。移載装置130の種類は、特に限定されるものではなく、例えば物品200の対向する両側面を挟持して移載するもの、物品200の奥側の面、手前側の面などに爪を引っ掛けて物品200を滑らせながら移載するもの、物品200をすくい上げて移載するもの等を例示することができる。
The
本実施の形態の場合、移載装置130は、搬送装置120の昇降台124に取り付けられており、ラック110と昇降台124との間で物品200を移載することができるものとなっている。なお、搬送装置120の両側方にラック110が配置されている場合、移載装置130はいずれの側のラック110のいずれに対しても物品200を移載できるように構成される。
In this embodiment, the
検出器140は、物品200における検出器140と対向する面を含む検出面部201の複数箇所と検出器140との間の距離を三次元的な複数の点データとして取得するセンサである。検出器140の種類は、特に限定されるものではないが、例えばLiDAR(Laser Imaging Detection and Ranging)センサ、TOF(Time of Flight)カメラなどの三次元測距センサを例示することができる。
The
検出器140が取り付けられる場所は、特に限定されないが、例えば物品200が移載される場所に取り付けられると、移載位置と物品200との相対的な位置関係を正確に検出できるため好ましい。本実施の形態の場合、検出器140は、搬送装置120の昇降台124に取り付けられている。物品種類判定システム100が備える検出器140の個数は、特に限定されるものではないが、本実施の形態の場合、物品200の配列方向に並ぶ2台の検出器140を備えている。2台の検出器140の距離は、所定の密度以上の点データを取得でき、配列方向におけるラック110に保管される物品200の想定される最長の幅、およびその両側に設定される隣り合う物品200との隙間をカバーする領域を一度に検出できる距離の範囲を含むように設定される。本実施の形態の場合、検出器140は、昇降台124の幅方向(図中X軸方向)の両側に一台ずつ取り付けられている。つまり、検出器140は、移載装置130によって移載される物品200が通過する領域の両側部にそれぞれ配置されている。これにより、物品200が移載される領域とその近傍のラック110に保管される物品200との位置関係を正確に検出することが可能となる。
The location where the
図3は、物品種類判定システムの機能構成を示すブロック図である。物品種類判定装置160は、物品200の検出面部201の形状的特徴に基づき物品の種類を判定する装置である。物品種類判定装置160は、プログラムをプロセッサーに実行させることにより実現される処理部として、点群取得部151と、縁部検出部155と、直線形状抽出部156と、種類判定部157を備えている。本実施の形態の場合、物品種類判定装置160は、区間検出部152を備えている。
Figure 3 is a block diagram showing the functional configuration of the product type determination system. The product
点群取得部151は、物品200の検出面部201における複数箇所の点データを検出器140から点群として取得する。点データのデータ構造は、特に限定されるものではないが、例えば移載装置130に対する相対的な位置関係を示す三次元のデータを含んでいる。本実施の形態の場合、ラック110の棚板111における物品200の配列方向(図中X軸方向)、検出面部201において配列方向に直交する直交方向(図中Z軸方向)、および配列方向と直交方向のいずれにも直交する奥行方向(図中Y軸方向)のデータを備えた直交座標系のデータを含んでいる。
The point
本実施の形態の場合、物品種類判定システム100は、配列方向に並ぶ複数の検出器140を備えており、点群取得部151は、検出器140のそれぞれから点群を取得している。隣り合う検出器140は、撮像画角の一部が重複しているため、点群取得部151は、重複している領域に含まれる点データを統計処理し、複数の検出器140の点群を一枚の画像となるように合成している。これにより、配列方向において複数の物品200の検出面部201に関する点データを一枚の画像として処理することが可能となる。なお、複数の検出器140の点群を1枚の画像に合成せず、各検出器140の点群に対応する画像を用いて処理結果を出し、その結果を合成するものであってもよい。
In this embodiment, the product
区間検出部152は、点群取得部151において取得された点群から配列方向において物品200が存在しない無物品区間を検出する。図4は、区間検出部の処理の流れを示すフローチャートである。図5は、区間検出部の工程の各段階における処理状態を示す図である。
The
区間検出部152の処理の流れの例を説明する。まず、区間検出部152は、点群取得部151から取得した点群から所定の領域内に含まれる点データを取り出すトリミング処理を実行する(S101、トリミング工程)。所定の領域は、特に限定されるものではないが、例えばラック110に保管される物品200の最小高さ(直交方向の長さ)の中央位置を含み、所定の高さを有する帯状の領域を例示できる。具体的には、第一閾値未満の直交方向(図中Z軸方向)の値を有する点データを除外し、かつ第二閾値(>第一閾値)より大の直交方向(図中Z軸方向)の値を有する点データを除外する。つまり、第一閾値以上、第二閾値以下の範囲にある点データを抽出する。トリミング工程により所定の高さ範囲のデータにより無物品区間の検出を行うため、ラック110の棚板111による反射などの影響、物品200の表面に設けられるリブ、フランジ、孔などの影響を抑制する事ができ、正確に無物品区間を検出することが可能となる。また、点群のデータ量を抑制して次工程の処理の促進を図ることができる。
An example of the process flow of the
次に、区間検出部152は、トリミング工程によってトリミングされた点群を奥行方向(移載方向)に投影して図5の(a)に示す二次元の第一投影画像を生成する(S102、第一投影工程)。具体的には、各点データから奥行方向(図中Y軸方向)のデータを除外することにより二次元の第一投影画像を生成する。ここで、区間検出部152は、トリミング工程によってトリミングされた点群を上下方向に投影して二次元の第一投影画像を生成するものであってもよい。
Next, the
次に、区間検出部152は、第一投影画像に対しモフォロジー処理を実行し、荒い点として存在していた点データの間を補完して図5の(b)に示すように物品200に対応する部分が一塊(図5の画像中における白色部分)となるようにデータを変更する(S103、第一モフォロジー工程)。本実施の形態の場合、区間検出部152は、モフォロジー処理として膨張と収縮とを繰り返すクロージング処理を行う。
Next, the
次に、区間検出部152は、物品200が存在している区間を示す存在区間を探索する(S104、存在区間荒探索工程)。本実施の形態の場合、区間検出部152は、第一モフォロジー工程により白色の一塊とみなした部分(図5の(b)中の白色部分)について、直交方向に対応する画像における上下方向において途切れた部分、欠落した部分を補完して白色の一塊とみなす部分を更新する。存在区間端探索工程を実行すると例えば図5の(c)の画像の様な状態になる。
Next, the
次に、区間検出部152は、隣り合う白色の一塊の部分の間の区間の配列方向に対応する画像における横方向(図面に向かって左右方向)の黒色部分の距離と所定のギャップ閾値とを比較する(S105)。黒色部分の距離がギャップ閾値以下の場合(S105:Yes)、区間検出部152は、図5の(d)に示すように、当該ギャップを埋めるように補完して白色の一塊とみなす部分を更新する(S106、ギャップ充填工程)。なお、図4中に記載される「<=」は小なりイコールを示している。
Next, the
次に、区間検出部152は、ギャップ充填工程において更新された白色の一塊の部分、または存在区間荒探索工程で更新された白色の一塊の部分の配列方向(図5中横方向)における一端部から他端部まで(図5の(d)(e)の逆三角印)を物品200が存在する区間に対応する存在区間として特定する(S107、存在区間特定工程)。また、隣り合う存在区間の間など存在区間以外の区間を無物品区間として特定する。
Next, the
次に、区間検出部152は、無物品区間の配列方向(図5の横方向)における中間の位置を基準位置(図5の(e)の矢印の位置)として決定する(S108、基準位置決定工程)。基準位置の決定基準は特に限定されるものではないが、例えば、隣り合う存在区間の端部の間の中央の位置を基準位置として決定してもよい。また、所定の第一区間閾値以上の長さの無物品区間が存在する場合(図5の(e)の左側)、存在区間の端部から所定の距離離れた位置に仮想の存在区間の端部(図5の(e)の三角印)を設定し、存在区間の端部と仮想的な存在区間の端部との間に基準位置を設定してもかまわない。なお、仮想の存在区間を設ける距離は、第一区間閾値と同等であってもかまわない。また、存在区間の端部に挟まれていない無物品区間であって所定の第二区間閾値以下の無物品区間の場合(図5の(e)の右側)、画像の端部を基準位置として設定してもかまわない。
Next, the
縁部検出部155は、点群取得部151において取得された点群に基づき、物品200の検出面部201の相対向する少なくとも一対の縁部を検出する。本実施の形態の場合、縁部検出部155は、相互に交差(直交)する二対の縁部を輪郭として検出する。図6は、縁部検出部の処理の流れを示すフローチャートである。図7は、縁部検出部の工程の各段階における処理状態を示す図である。なお、図7の左右方向における中央に示される縦線は、二つの検出器140が対応する領域の境界を示している。
The
縁部検出部155の処理の流れの例を説明する。まず、縁部検出部155は、点群取得部151から取得した点群を検出面部201の法線方向に沿う奥行方向(移載方向)に投影し各点データの奥行方向のデータを二次元平面内の各ドットの階調に変換して図7の(a)に示す二次元の第二投影画像である階調付き投影画像を生成する(S201、第二投影工程)。本実施の形態の場合、階調付き投影画像は、グレースケールで表されている。
An example of the processing flow of the
次に、縁部検出部155は、階調付き投影画像に対しモフォロジー処理を実行し、点データが欠落している部分などを補完して図7の(b)に示すような物品200に対応する部分が一塊となるようにデータを変更する(S202、第二モフォロジー工程)。本実施の形態の場合、縁部検出部155は、区間検出部152において検出された存在区間を含む画像全体に、モフォロジー処理として膨張と収縮とを繰り返すクロージング処理を行う。
Next, the
次に、縁部検出部155は、物品200の検出面部201の端縁である対向する一対の縁部を検出する(S203、縁部検出工程)。本実施の形態の場合、縁部検出部155は、存在区間毎に第二モフォロジー工程により一塊とみなした部分(図7の(b)中の左右方向に並ぶ三つの部分)のそれぞれについて図7の(c)に示すように階調を除いた二値の画像とし、この二値の画像に基づいて検出面部201の輪郭(図7の(c)中の矩形で示された部分)をそれぞれ画像解析により検出する。縁部検出部155は、検出された矩形の輪郭の図中の上下方向(直交方向に対応)に延在する一対の線をそれぞれ縁部として検出する。本実施の形態の場合、二つの検出器140から取得した点群のそれぞれについて輪郭を検出しているため、境界を含む存在区間については図7の(c)に示すように、二つの輪郭が検出される。
Next, the
直線形状抽出部156は、直線形状抽出部156により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を画像解析により抽出する。図8は、直線形状抽出部の処理の流れを示すフローチャートである。図9は、直線形状抽出部の工程の各段階における処理状態を示す図である。
The straight line
本実施の形態の場合、画像解析により得られた輪郭を数ピクセル(数ミリメートルに対応)分内側になるように輪郭を更新している。 In this embodiment, the contour obtained by image analysis is updated to be several pixels (corresponding to several millimeters) inward.
本実施の形態の場合、直線形状抽出部156は、第二投影工程(S201)により生成された階調付き投影画像を用いて直線形状を抽出している。また、直線形状抽出部156は、縁部検出部155により決定された輪郭の内側に含まれる点データを用いて直線形状を抽出している。これにより、物品200のエッジ部分を除外して直線形状を探索することができ、エッジ部分に該当する点データによる物品200の種類の誤検出を防止している。
In this embodiment, the straight line
直線形状抽出部156の処理の流れを説明する。直線形状抽出部156は、縁部検出部155から階調付き投影画像を取得し、それぞれの輪郭内の階調付き投影画像に対して所定の直線検出アルゴリズムに基づき図9の(d)に示されるような階調付き投影画像に含まれる直線形状候補を抽出する(S301、直線形状候補抽出工程)。
The process flow of the straight line
次に、直線形状抽出部156は、抽出された直線形状候補に対しノイズを除去して図9の(e)に示すような物品200の検出面部201にリブ状に突出する部分に対応する一塊の線状(図9の(e)の左側の輪郭内における白色部分)となるようにデータを更新する(S302、ノイズ除去工程)。
Next, the straight line
次に、直線形状抽出部156は、ノイズが除去された直線形状候補から直線形状を抽出する(S203、直線形状抽出工程)。本実施の形態の場合、直線形状抽出部156は、図中の上下方向(直交方向に対応)に延在する一対の縁部と平行、または略平行の直線形状候補を直線形状として抽出する。これにより図9の(f)に示すような画像となる。なお、本実施の形態の場合、図中の左右方向(配列方向に対応)に延在する一対の縁部と平行、または略平行の直線形状候補も直線形状として抽出している。
Next, the straight line
種類判定部157は、直線形状抽出部156により抽出された直線形状に基づき物品200の種類を判定する。本実施の形態の場合、図10に示す種類判定工程のフローチャートのように、種類判定部157は、直線形状抽出工程において直線形状が抽出されない場合(S401:No)、物品200の検出面部が平坦な表面性状を有する第一種類の物品であると判定し(S403)、直線形状抽出工程において直線形状が抽出された場合(S401:Yes)、物品200の検出面部が凹凸を有する第二種類の物品であると判定する。最後に種類判定部157は、判定結果を搬送装置120に報知する(S104)。
The
本実施の形態の場合、物品種類判定装置160は、以上の縁部検出工程、直線形状抽出工程、物品種類判定工程を、区間検出部152により分離された各物品存在区間に対して実行し、それぞれの結果を搬送装置120に報知している。
In this embodiment, the product
以上の実施の形態に係る物品種類判定システム100によれば、物品200の縁部は直線性のある形状を有しているため、当該縁部を除外した上で直線形状を抽出し物品の種類を判定することで、検出面部201が平坦な表面性状を有する第一種類の物品200と、表面にリブなどの凹凸を有する第二種類の物品200とがラック110に混在状態で配列される環境においても物品200の種類を高精度で判定することができる。
According to the product
特に、検出面部201の対向する一対のエッジに沿った直線形状を用いて判定することにより、物品200の種類の判定精度を向上させることができる。 In particular, the accuracy of determining the type of item 200 can be improved by making the determination using the linear shape along a pair of opposing edges of the detection surface portion 201.
また、隣り合う物品200の間における物品200が存在しない区間である無物品区間を検出して点群に対し物品200相互の分離を行った後、各存在区間に対して物品200の種類の判定を行うため、一度に取得した点群に基づき複数の物品200の種類を高速に搬送装置120などに報知することができる。
In addition, after detecting object-free sections, which are sections between adjacent objects 200 where no object 200 exists, and separating the objects 200 from each other in the point cloud, the type of object 200 is determined for each presence section, so that the types of multiple objects 200 can be quickly notified to the conveying
また、二値の投影画像に基づき輪郭を決定し、決定された輪郭内の階調付き投影画像に基づき直線形状を抽出することにより、物品200の縁部を効果的に除外することが可能となる。 In addition, by determining the contour based on the binary projection image and extracting straight line shapes based on the gradient projection image within the determined contour, it is possible to effectively exclude the edge of the article 200.
また、抽出した直線形状候補に対しノイズ処理等を実行したのち直線形状を抽出することにより、点群に多くのノイズが含まれている場合でも物品200の種類の判定に有効な直線形状を抽出することが可能となる。 In addition, by performing noise processing, etc. on the extracted straight line shape candidates before extracting the straight line shape, it is possible to extract a straight line shape that is effective for determining the type of item 200 even if the point cloud contains a lot of noise.
なお、本発明は、上記実施の形態に限定されるものではない。例えば、本明細書において記載した構成要素を任意に組み合わせて、また、構成要素のいくつかを除外して実現される別の実施の形態を本発明の実施の形態としてもよい。また、上記実施の形態に対して本発明の主旨、すなわち、請求の範囲に記載される文言が示す意味を逸脱しない範囲で当業者が思いつく各種変形を施して得られる変形例も本発明に含まれる。 The present invention is not limited to the above-described embodiment. For example, the components described in this specification may be combined in any way, or some of the components may be removed to create another embodiment of the present invention. The present invention also includes modifications that are made to the above-described embodiment by those skilled in the art without departing from the spirit of the present invention, i.e., the meaning of the words in the claims.
例えば、上記実施の形態では一対の縁部が平行である場合を説明したが、例えば検出面部201が台形状であって一対の縁部が平行でない場合に物品種類判定方法を適用してもかまわない。この場合、一対の縁部にそう直線形状の傾きは二種類存在する。この場合少なくとも一方の傾きの直線形状に基づき物品200の種類を判定してもかまわない。 For example, in the above embodiment, a case where a pair of edges are parallel has been described, but the article type determination method may also be applied when, for example, the detection surface portion 201 is trapezoidal and the pair of edges are not parallel. In this case, there are two types of inclination of the linear shape along the pair of edges. In this case, the type of article 200 may be determined based on the linear shape of at least one of the inclinations.
また、検出面部201の輪郭を検出する場合を説明したが、輪郭を検出することなく一対の縁部に挟まれる点データを用いて物品200の種類を判定してもかまわない。 In addition, although the case where the contour of the detection surface portion 201 is detected has been described, the type of the item 200 may be determined using point data sandwiched between a pair of edges without detecting the contour.
また、検出器140を複数備える場合を例示したが、ラック110の棚板111に連続して三つ並ぶ物品200の中央に位置する物品200の幅に両側に存在する無物品区間の幅を加えた範囲を一度に検出できる1台の検出器140を備えてもかまわない。
In addition, although the example shows a case where
また、複数の検出器140から得られる点群のそれぞれについて物品200の種類の判定を行ったが、複数の点群を合成して一つの点群とした後、物品200の種類を判定してもかまわない。
In addition, the type of item 200 was determined for each of the point clouds obtained from the
また、水平方向、および鉛直方向に物品200を二次元的に保管できるラック110を例示したが、ラック110は、搬送台車の走行する方向に沿って一次元的に物品200を保管するものでもかまわない。
Although the
また、モフォロジー工程や、ノイズの除去処理工程などは省略することが可能である。 In addition, it is possible to omit the morphology process and the noise removal process.
また、上記実施例では画像全体に対するモフォロジー処理を施す例を示したが、存在区間のそれぞれについてモフォロジー処理をおこなっても同様の効果を奏する。 In addition, in the above embodiment, an example was shown in which morphological processing was performed on the entire image, but the same effect can be achieved by performing morphological processing on each of the existence sections.
本発明は、物品の種類を判別することが要求される自動倉庫、物流拠点、工場設備などに利用可能である。 The present invention can be used in automated warehouses, logistics centers, factory facilities, and other places where it is necessary to distinguish the type of item.
100 物品種類判定システム
110 ラック
111 棚板
112 支柱
120 搬送装置
121 レール
122 台車
123 マスト
124 昇降台
130 移載装置
140 検出器
151 点群取得部
152 区間検出部
155 縁部検出部
156 直線形状抽出部
157 種類判定部
160 物品種類判定装置
200 物品
201 検出面部
Claims (6)
物品の検出面部の複数箇所の点データを点群として取得する点群取得工程と、
前記点群取得工程において取得された点群に基づき、前記物品の検出面部における相対向する一対の縁部を検出する縁部検出工程と、
前記縁部検出工程により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出工程と、
前記直線形状抽出工程により抽出された直線形状に基づき前記物品の種類を判定する種類判定工程と、
を含む物品種類判定方法。 1. An article type determination method for determining the type of an article based on shape characteristics of a detection surface portion of a substantially rectangular parallelepiped article, the detection surface portion including a surface facing the detector, using a detector that acquires a distance to the article as three-dimensional multiple point data, the method comprising:
a point cloud acquisition step of acquiring point data of a plurality of points on a detection surface of the article as a point cloud;
an edge detection step of detecting a pair of opposing edges on a detection surface of the article based on the point cloud acquired in the point cloud acquisition step;
a line shape extraction step of extracting a line shape having linearity extending in a direction along the pair of edges detected in the edge detection step, based on a group of points existing between the pair of edges detected in the edge detection step;
a type determination step of determining a type of the article based on the straight line shape extracted by the straight line shape extraction step;
A method for determining the type of an item, comprising:
前記点群取得工程において取得された点群に基づき、物品の検出面部の輪郭を検出し、
前記直線形状抽出工程において、
前記縁部検出工程により検出された前記輪郭の内側に存在する点群に基づいて、直線形状を抽出する、
請求項1に記載の物品種類判定方法。 In the edge detection step,
Detecting a contour of a detection surface portion of an article based on the point cloud acquired in the point cloud acquisition step;
In the straight line shape extraction step,
extracting a straight line shape based on a group of points present inside the contour detected by the edge detection step;
The method for determining the type of an article according to claim 1 .
前記点群取得工程において取得された前記点群を前記検出面部の法線方向に沿う奥行方向に投影し前記奥行方向のデータを階調に変換して示す階調付き投影画像を生成し、生成された前記階調付き投影画像に基づき物品の縁部を検出し、
前記直線形状抽出工程において、
前記階調付き投影画像に基づいて直線形状を抽出する、
請求項1または2に記載の物品種類判定方法。 In the edge detection step,
projecting the point cloud acquired in the point cloud acquisition step in a depth direction along a normal direction of the detection surface, converting the data in the depth direction into a gradation to generate a gradated projection image; detecting an edge of an article based on the generated gradated projection image;
In the straight line shape extraction step,
Extracting a straight line shape based on the gradation-added projection image;
The method for determining the type of an article according to claim 1 or 2.
前記階調付き投影画像に基づいて直線性を有する形状に対応する部分の候補である直線形状候補を抽出し、前記直線形状候補からノイズを除去した後、直線形状を抽出する、
請求項3に記載の物品種類判定方法。 In the straight line shape extraction step,
extracting straight line shape candidates that are candidates for a portion corresponding to a shape having linearity based on the gradation-added projection image, removing noise from the straight line shape candidates, and then extracting the straight line shape;
The method for determining the type of an article according to claim 3.
請求項1から4のいずれか一項に記載の物品種類判定方法。 An article type determination method described in any one of claims 1 to 4, wherein if a straight line shape is not extracted in the straight line shape extraction process, in the type determination process it is determined that the detection surface of the article is a first type of article having a flat surface texture, and if a straight line shape is extracted in the straight line shape extraction process, it is determined in the type determination process that the detection surface of the article is a second type of article having unevenness.
物品の前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定装置とを備え、
前記物品種類判定装置は、
物品の検出面部の複数箇所の点データを点群として取得する点群取得部と、
前記点群取得部において取得された点群に基づき、前記物品の検出面部の相対向する一対の縁部を検出する縁部検出部と、
前記縁部検出部により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出部と、
前記直線形状抽出部により抽出された直線形状に基づき前記物品の種類を判定する種類判定部と、
を備える物品種類判定システム。 A detector that acquires a distance to an article as three-dimensional multiple point data;
an article type determination device that determines the type of the article based on shape features of a detection surface portion of the article, the detection surface portion including a surface facing the detector;
The product type determination device includes:
a point cloud acquisition unit that acquires point data of a plurality of points on a detection surface of an article as a point cloud;
an edge detection unit that detects a pair of opposing edges of a detection surface of the article based on the point cloud acquired by the point cloud acquisition unit;
a straight line shape extraction unit that extracts a straight line shape having linearity extending in a direction along the pair of edges detected by the edge detection unit based on a group of points existing between the pair of edges detected by the edge detection unit;
a type determination unit that determines a type of the article based on the straight line shape extracted by the straight line shape extraction unit;
An item type determination system comprising:
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021092274A JP7627619B2 (en) | 2021-06-01 | 2021-06-01 | Item type determination method and item type determination system |
| PCT/JP2022/018426 WO2022254991A1 (en) | 2021-06-01 | 2022-04-21 | Method for determining article type and system for determining article type |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021092274A JP7627619B2 (en) | 2021-06-01 | 2021-06-01 | Item type determination method and item type determination system |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022184429A JP2022184429A (en) | 2022-12-13 |
| JP7627619B2 true JP7627619B2 (en) | 2025-02-06 |
Family
ID=84323131
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021092274A Active JP7627619B2 (en) | 2021-06-01 | 2021-06-01 | Item type determination method and item type determination system |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7627619B2 (en) |
| WO (1) | WO2022254991A1 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| AT527163A1 (en) * | 2023-04-20 | 2024-11-15 | Tgw Mechanics Gmbh | Storage system for storing and method for position correction of piece goods |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010247959A (en) | 2009-04-16 | 2010-11-04 | Ihi Corp | Box-shaped work recognizing device and method |
| JP2011209116A (en) | 2010-03-30 | 2011-10-20 | Dainippon Screen Mfg Co Ltd | Three-dimensional position/attitude recognition apparatus and system using the same, method, program |
| JP2012126532A (en) | 2010-12-16 | 2012-07-05 | Japan Tobacco Inc | Article management device, article management method and program |
| JP2012153470A (en) | 2011-01-25 | 2012-08-16 | Murata Machinery Ltd | Automatic warehouse |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5566353B2 (en) * | 2011-09-02 | 2014-08-06 | 株式会社パスコ | Data analysis apparatus, data analysis method, and program |
-
2021
- 2021-06-01 JP JP2021092274A patent/JP7627619B2/en active Active
-
2022
- 2022-04-21 WO PCT/JP2022/018426 patent/WO2022254991A1/en not_active Ceased
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010247959A (en) | 2009-04-16 | 2010-11-04 | Ihi Corp | Box-shaped work recognizing device and method |
| JP2011209116A (en) | 2010-03-30 | 2011-10-20 | Dainippon Screen Mfg Co Ltd | Three-dimensional position/attitude recognition apparatus and system using the same, method, program |
| JP2012126532A (en) | 2010-12-16 | 2012-07-05 | Japan Tobacco Inc | Article management device, article management method and program |
| JP2012153470A (en) | 2011-01-25 | 2012-08-16 | Murata Machinery Ltd | Automatic warehouse |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022184429A (en) | 2022-12-13 |
| WO2022254991A1 (en) | 2022-12-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3961259B1 (en) | Pallet detection device, forklift, pallet detection method, and program | |
| CN111328408B (en) | Shape information generating device, control device, loading and unloading device, logistics system, program and control method | |
| CN108692681B (en) | Recess detection device, conveyance device, and recess detection method | |
| CN109844807B (en) | Methods, systems and devices for segmenting and sizing objects | |
| JP6721998B2 (en) | Object state identification method, object state identification device, and transport vehicle | |
| JP6649796B2 (en) | Object state specifying method, object state specifying apparatus, and carrier | |
| US10290115B2 (en) | Device and method for determining the volume of an object moved by an industrial truck | |
| JP7660029B2 (en) | Edge position detection method, transfer position determination method, and article transfer system | |
| JP6011490B2 (en) | Goods storage facility | |
| WO2016033451A1 (en) | Stationary dimensioning apparatus | |
| CN115516518A (en) | Identifying elements in an environment | |
| US20210207943A1 (en) | Measurement device and measurement method | |
| CN107390679A (en) | Storage device, laser navigation fork truck | |
| CN116342858B (en) | Object detection method, device, electronic equipment and storage medium | |
| JP7627619B2 (en) | Item type determination method and item type determination system | |
| CN119536357A (en) | Docking method of equipment, computer equipment and storage medium | |
| US10731970B2 (en) | Method, system and apparatus for support structure detection | |
| JP7698982B2 (en) | ANGLE DETECTION METHOD AND ANGLE DETECTION SYSTEM | |
| CN117474892A (en) | Shelf identification method, mobile robot and storage medium | |
| CN213301104U (en) | Size detection system | |
| CN111386533A (en) | Method and apparatus for detecting and identifying graphic character representations in image data using symmetrically located blank regions | |
| JP2024002525A (en) | Barcode detection system, barcode detection method, and barcode detection program | |
| CN116342695B (en) | Unmanned forklift truck goods placing detection method and device, unmanned forklift truck and storage medium | |
| JP2017201493A (en) | Columnar object recognition method, columnar object recognition device, and unmanned vehicle | |
| CN118255087A (en) | Shelf positioning method of handling device and handling device capable of positioning shelf |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20210624 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240326 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250114 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250127 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7627619 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |