Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7627619B2 - Item type determination method and item type determination system - Google Patents
[go: Go Back, main page]

JP7627619B2 - Item type determination method and item type determination system - Google Patents

Item type determination method and item type determination system Download PDF

Info

Publication number
JP7627619B2
JP7627619B2 JP2021092274A JP2021092274A JP7627619B2 JP 7627619 B2 JP7627619 B2 JP 7627619B2 JP 2021092274 A JP2021092274 A JP 2021092274A JP 2021092274 A JP2021092274 A JP 2021092274A JP 7627619 B2 JP7627619 B2 JP 7627619B2
Authority
JP
Japan
Prior art keywords
straight line
line shape
article
point cloud
type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021092274A
Other languages
Japanese (ja)
Other versions
JP2022184429A (en
Inventor
学 橋本
大祐 福島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Murata Machinery Ltd
Umemura Educational Institutions
Original Assignee
Murata Machinery Ltd
Umemura Educational Institutions
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Murata Machinery Ltd, Umemura Educational Institutions filed Critical Murata Machinery Ltd
Priority to JP2021092274A priority Critical patent/JP7627619B2/en
Priority to PCT/JP2022/018426 priority patent/WO2022254991A1/en
Publication of JP2022184429A publication Critical patent/JP2022184429A/en
Application granted granted Critical
Publication of JP7627619B2 publication Critical patent/JP7627619B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G1/00Storing articles, individually or in orderly arrangement, in warehouses or magazines
    • B65G1/02Storage devices
    • B65G1/04Storage devices mechanical
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Warehouses Or Storage Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、略直方体状の物品の種類を判定する、物品種類判定方法、および物品種類判定システムに関する。 The present invention relates to an item type determination method and an item type determination system for determining the type of an approximately rectangular parallelepiped item.

従来、特許文献1に記載されるように、物品の種類を示す識別情報を含むRFIDタグを複数の物品に付しておき、そのRFID(Radio Frequency identifier)タグを読み取ることにより物品の種類を判定する技術が存在している。 As described in Patent Document 1, there is a technology in which RFID tags containing identification information indicating the type of item are attached to multiple items, and the type of item is determined by reading the RFID (Radio Frequency Identifier) tags.

特開2019-202841号公報JP 2019-202841 A

ところが、従来の技術では、予めすべての物品にRFIDタグを貼り付ける必要があり、RFIDタグが貼り付けられていない物品を判定することはできなかった。 However, with conventional technology, it was necessary to attach an RFID tag to every item in advance, and it was not possible to identify items that did not have an RFID tag attached.

本発明は上記課題に鑑みなされたものであり、物品の表面の凹凸を三次元的に検出した点データを用いて物品の種類を判定する物品種類判定方法、および物品種類判定システムの提供を目的とする。 The present invention has been made in consideration of the above problems, and aims to provide an item type determination method and an item type determination system that determine the type of an item using point data obtained by three-dimensionally detecting the unevenness of the surface of an item.

上記目的を達成するために、本発明の1つである物品種類判定方法は、物品との距離を三次元的な複数の点データとして取得する検出器を用い、略直方体状の物品の前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定方法であって、物品の検出面部の複数箇所の点データを点群として取得する点群取得工程と、前記点群取得工程において取得された点群に基づき、前記物品の検出面部の相対向する一対の縁部を検出する縁部検出工程と、前記縁部検出工程により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出工程と、前記直線形状抽出工程により抽出された直線形状に基づき前記物品の種類を判定する種類判定工程と、を含む。 In order to achieve the above object, one of the present inventions is an item type determination method that uses a detector that acquires the distance to the item as multiple three-dimensional point data and determines the type of the item based on the shape characteristics of the detection surface portion of the approximately rectangular parallelepiped item, including the surface facing the detector, and includes a point cloud acquisition process that acquires point data of multiple locations on the detection surface portion of the item as a point cloud, an edge detection process that detects a pair of opposing edges of the detection surface portion of the item based on the point cloud acquired in the point cloud acquisition process, a straight line shape extraction process that extracts a straight line shape having linearity extending in a direction along the edge based on the point cloud existing between the pair of edges detected by the edge detection process, and a type determination process that determines the type of the item based on the straight line shape extracted by the straight line shape extraction process.

上記目的を達成するために、本発明の他の1つである物品種類判定システムは、物品との距離を三次元的な複数の点データとして取得する検出器と、物品の前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定装置とを備え、前記物品種類判定装置は、物品の検出面部の複数箇所の点データを点群として取得する点群取得部と、前記点群取得部において取得された点群に基づき、前記物品の検出面部の相対向する一対の縁部を検出する縁部検出部と、前記縁部検出部により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出部と、前記直線形状抽出部により抽出された直線形状に基づき前記物品の種類を判定する種類判定部と、を備える。 In order to achieve the above object, another aspect of the present invention is an item type determination system that includes a detector that acquires the distance to an item as multiple three-dimensional point data, and an item type determination device that determines the type of item based on the shape characteristics of the detection surface portion of the item, including the surface of the item facing the detector. The item type determination device includes a point cloud acquisition unit that acquires point data of multiple locations on the detection surface portion of the item as a point cloud, an edge detection unit that detects a pair of opposing edges of the detection surface portion of the item based on the point cloud acquired by the point cloud acquisition unit, a straight line shape extraction unit that extracts a straight line shape having linearity extending in a direction along the edge based on the point cloud existing between the pair of edges detected by the edge detection unit, and a type determination unit that determines the type of the item based on the straight line shape extracted by the straight line shape extraction unit.

本発明によれば、表面に直線的な凹凸を有する物品とそれ以外の物品とを判別することができる。 The present invention makes it possible to distinguish between objects that have linear irregularities on their surfaces and other objects.

物品種類判定方法が適用される物品種類判定システムを示す斜視図である。1 is a perspective view showing an item type determination system to which an item type determination method is applied; 物品種類判定システムの移載装置近傍を示す斜視図である。1 is a perspective view showing the vicinity of a transfer device of an article type determination system. FIG. 物品種類判定システムの機能構成を示すブロック図である。1 is a block diagram showing a functional configuration of an item type determination system. 区間検出部の処理の流れを示すフローチャートである。13 is a flowchart showing a process flow of a section detection unit. 区間検出部の工程の各段階における処理状態を示す図である。11A to 11C are diagrams illustrating the processing state at each stage of the process of the section detection unit. 縁部検出部の処理の流れを示すフローチャートである。13 is a flowchart showing a process flow of an edge detection unit. 縁部検出部の工程の各段階における処理状態を示す図である。11A to 11C are diagrams showing the processing state of the edge detection unit at each step of the process. 直線形状抽出部の処理の流れを示すフローチャートである。13 is a flowchart showing a process flow of a straight line shape extraction unit. 直線形状抽出部の工程の各段階における処理状態を示す図である。11A to 11C are diagrams illustrating the processing state at each stage of the process of the straight line shape extraction unit. 物品種類判定部の処理の流れを示すフローチャートである。10 is a flowchart showing a process flow of an item type determination unit.

以下、本発明に係る物品種類判定方法、および物品種類判定システムの実施の形態について、図面を参照しつつ説明する。なお、以下の実施の形態は、本発明を説明するために一例を挙示するものであり、本発明を限定する主旨ではない。例えば、以下の実施の形態において示される形状、構造、材料、構成要素、相対的位置関係、接続状態、数値、数式、方法における各段階の内容、各段階の順序などは、一例であり、以下に記載されていない内容を含む場合がある。また、平行、直交などの幾何学的な表現を用いる場合があるが、これらの表現は、数学的な厳密さを示すものではなく、実質的に許容される誤差、ずれなどが含まれる。また、同時、同一などの表現も、実質的に許容される範囲を含んでいる。 Below, an embodiment of the product type determination method and product type determination system according to the present invention will be described with reference to the drawings. Note that the following embodiment is an example to explain the present invention, and is not intended to limit the present invention. For example, the shapes, structures, materials, components, relative positional relationships, connection states, numerical values, mathematical expressions, the contents of each step in the method, and the order of each step shown in the following embodiment are examples, and may include contents not described below. In addition, geometric expressions such as parallel and orthogonal may be used, but these expressions do not indicate mathematical strictness, and include errors, deviations, etc. that are substantially acceptable. In addition, expressions such as simultaneous and identical also include a substantially acceptable range.

また、図面は、本発明を説明するために適宜強調、省略、または比率の調整を行った模式的な図となっており、実際の形状、位置関係、および比率とは異なる。 The drawings are schematic diagrams in which emphasis, omissions, or proportions have been appropriately adjusted in order to explain the present invention, and may differ from the actual shapes, positional relationships, and proportions.

また、以下では複数の発明を一つの実施の形態として包括的に説明する場合がある。また、以下に記載する内容の一部は、本発明に関する任意の構成要素として説明している。 In addition, multiple inventions may be collectively described below as a single embodiment. Some of the content described below is also described as an optional component of the present invention.

図1は、物品種類判定方法が適用される物品種類判定システムを示す斜視図である。図2は、物品種類判定システムの移載装置130近傍を示す斜視図である。物品種類判定システム100は、ラック110に配置された物品200の種類を判別するシステムであって、検出器140と、物品種類判定装置160(図1、図2において不図示)と、を備えている。本実施の形態の場合、物品種類判定システム100は、搬入された物品200を自動的に搬送して物品200の保管位置へ物品200を自動的に移載し、また保管位置から自動的に移載した物品200を搬送することができる装置であり、搬送装置120と、移載装置130と、を備えたいわゆる自動倉庫に組み込まれている。 Figure 1 is a perspective view showing an item type determination system to which the item type determination method is applied. Figure 2 is a perspective view showing the vicinity of a transfer device 130 of the item type determination system. The item type determination system 100 is a system that determines the type of item 200 placed on a rack 110, and includes a detector 140 and an item type determination device 160 (not shown in Figures 1 and 2). In this embodiment, the item type determination system 100 is a device that can automatically transport the item 200 that has been brought in and automatically transfer the item 200 to a storage position for the item 200, and also transport the item 200 that has been automatically transferred from the storage position, and is incorporated in a so-called automated warehouse that includes a transport device 120 and a transfer device 130.

物品種類判定システム100の判定対象である物品200は、略直方体状であれば特に限定されるものではない。略直方体状とは、平坦な矩形の六面で形成される形状を含み、またリブ状、フランジ状の突出、持ち手のような窪みや孔などを備える形状も含むものとして記載している。具体的に物品200としては、段ボール箱、紙箱、木箱など表面に直線的な凹凸の形状を有さない平坦な表面性状を有する第一種類の物品と、コンテナ、トレー、折りたたみ可能なコンテナなど表面に直線的な凹凸の形状を有する表面性状の第二種類の物品と、の二種類の物品が存在する。 The object 200 to be determined by the object type determination system 100 is not particularly limited as long as it is approximately rectangular. Approximately rectangular includes shapes formed by six flat rectangular faces, and is described as including shapes with rib-like or flange-like protrusions, handle-like depressions or holes, etc. Specifically, there are two types of object 200: a first type of object with flat surface characteristics without linear unevenness on the surface, such as cardboard boxes, paper boxes, and wooden boxes, and a second type of object with surface characteristics with linear unevenness on the surface, such as containers, trays, and foldable containers.

ラック110は、搬送装置120が移動する領域に面する物品200の検出面部201が所定の配列方向(図中X軸方向)に沿うように並べて配置された略直方体状の複数の物品200を保管する設備である。本実施の形態の場合、ラック110は、物品200を載置状態で保持する棚板111と、棚板111を支持する支柱112とを備えている。棚板111は、平板状であり物品200を保管する位置は特に限定されない。ラック110は、第一種類の物品200と第二種類の物品200とが混在した状態で保管される。なお、図には搬送装置120の移動方向に視て一方の側方にラック110を記載しているが、両側方にラック110が配置されていてもかまわない。 The rack 110 is a facility for storing a plurality of roughly rectangular parallelepiped objects 200 arranged so that the detection surface 201 of the object 200 facing the area in which the conveying device 120 moves is aligned along a predetermined arrangement direction (X-axis direction in the figure). In the present embodiment, the rack 110 includes a shelf 111 for holding the object 200 in a placed state, and a support 112 for supporting the shelf 111. The shelf 111 is flat, and the position in which the object 200 is stored is not particularly limited. The rack 110 stores a mixture of a first type of object 200 and a second type of object 200. Note that, although the rack 110 is shown on one side as viewed in the direction of movement of the conveying device 120 in the figure, the rack 110 may be arranged on both sides.

搬送装置120は、物品200を保持して搬送する装置であって、検出器140が取り付けられるものであれば特に限定されるものではない。搬送装置120としては、物品200を保持して床面上を自律的に走行する無軌道の無人搬送車、物品200を保持してレールなどの所定の軌道に沿って走行する有軌道台車などを例示することができる。本実施の形態の場合、搬送装置120は、レール121と、レール121上を走行する台車122と、台車122に起立状に取り付けられ台車122とともに移動するマスト123と、物品200を保持可能でありマスト123に沿って昇降する昇降台124とを備えたいわゆるスタッカクレーンである。 The conveying device 120 is a device that holds and conveys the item 200, and is not particularly limited as long as the detector 140 can be attached to it. Examples of the conveying device 120 include an unmanned guided vehicle that holds the item 200 and travels autonomously on a floor surface, and a tracked cart that holds the item 200 and travels along a predetermined track such as a rail. In the case of this embodiment, the conveying device 120 is a so-called stacker crane that includes a rail 121, a cart 122 that travels on the rail 121, a mast 123 that is attached upright to the cart 122 and moves together with the cart 122, and a lifting platform 124 that can hold the item 200 and moves up and down along the mast 123.

移載装置130は、ラック110と搬送装置120の昇降台124との間で物品200を移載する装置であり、水平面内において物品200の配列方向(図中X軸方向)と直交する奥行方向(図中Y軸方向)に物品200を移動させて移載する。移載装置130の種類は、特に限定されるものではなく、例えば物品200の対向する両側面を挟持して移載するもの、物品200の奥側の面、手前側の面などに爪を引っ掛けて物品200を滑らせながら移載するもの、物品200をすくい上げて移載するもの等を例示することができる。 The transfer device 130 is a device that transfers the item 200 between the rack 110 and the lifting platform 124 of the transport device 120, and transfers the item 200 by moving it in the depth direction (Y-axis direction in the figure) perpendicular to the arrangement direction of the items 200 (X-axis direction in the figure) in a horizontal plane. The type of transfer device 130 is not particularly limited, and examples include a device that transfers the item 200 by clamping both opposing sides of the item 200, a device that hooks a claw on the rear side or front side of the item 200 and transfers the item 200 while sliding it, and a device that scoops up the item 200 and transfers it.

本実施の形態の場合、移載装置130は、搬送装置120の昇降台124に取り付けられており、ラック110と昇降台124との間で物品200を移載することができるものとなっている。なお、搬送装置120の両側方にラック110が配置されている場合、移載装置130はいずれの側のラック110のいずれに対しても物品200を移載できるように構成される。 In this embodiment, the transfer device 130 is attached to the lifting platform 124 of the transport device 120, and is capable of transferring the item 200 between the rack 110 and the lifting platform 124. When the racks 110 are disposed on both sides of the transport device 120, the transfer device 130 is configured to be able to transfer the item 200 to either of the racks 110 on either side.

検出器140は、物品200における検出器140と対向する面を含む検出面部201の複数箇所と検出器140との間の距離を三次元的な複数の点データとして取得するセンサである。検出器140の種類は、特に限定されるものではないが、例えばLiDAR(Laser Imaging Detection and Ranging)センサ、TOF(Time of Flight)カメラなどの三次元測距センサを例示することができる。 The detector 140 is a sensor that acquires the distance between the detector 140 and multiple points on the detection surface portion 201 of the article 200, including the surface facing the detector 140, as multiple three-dimensional point data. The type of the detector 140 is not particularly limited, but examples include three-dimensional distance measuring sensors such as a LiDAR (Laser Imaging Detection and Ranging) sensor and a TOF (Time of Flight) camera.

検出器140が取り付けられる場所は、特に限定されないが、例えば物品200が移載される場所に取り付けられると、移載位置と物品200との相対的な位置関係を正確に検出できるため好ましい。本実施の形態の場合、検出器140は、搬送装置120の昇降台124に取り付けられている。物品種類判定システム100が備える検出器140の個数は、特に限定されるものではないが、本実施の形態の場合、物品200の配列方向に並ぶ2台の検出器140を備えている。2台の検出器140の距離は、所定の密度以上の点データを取得でき、配列方向におけるラック110に保管される物品200の想定される最長の幅、およびその両側に設定される隣り合う物品200との隙間をカバーする領域を一度に検出できる距離の範囲を含むように設定される。本実施の形態の場合、検出器140は、昇降台124の幅方向(図中X軸方向)の両側に一台ずつ取り付けられている。つまり、検出器140は、移載装置130によって移載される物品200が通過する領域の両側部にそれぞれ配置されている。これにより、物品200が移載される領域とその近傍のラック110に保管される物品200との位置関係を正確に検出することが可能となる。 The location where the detector 140 is attached is not particularly limited, but it is preferable to attach it to the location where the item 200 is transferred, for example, because the relative positional relationship between the transfer position and the item 200 can be accurately detected. In the present embodiment, the detector 140 is attached to the lifting platform 124 of the conveying device 120. The number of detectors 140 provided in the item type determination system 100 is not particularly limited, but in the present embodiment, two detectors 140 are provided lined up in the arrangement direction of the items 200. The distance between the two detectors 140 is set to include a range of distances that can acquire point data of a predetermined density or more and can detect at once the expected maximum width of the item 200 stored in the rack 110 in the arrangement direction and the area covering the gap between the adjacent items 200 set on both sides. In the present embodiment, the detectors 140 are attached one each on both sides of the width direction (X-axis direction in the figure) of the lifting platform 124. In other words, the detectors 140 are arranged on both sides of the area through which the item 200 transferred by the transfer device 130 passes. This makes it possible to accurately detect the positional relationship between the area where the item 200 is being transferred and the item 200 stored on the nearby rack 110.

図3は、物品種類判定システムの機能構成を示すブロック図である。物品種類判定装置160は、物品200の検出面部201の形状的特徴に基づき物品の種類を判定する装置である。物品種類判定装置160は、プログラムをプロセッサーに実行させることにより実現される処理部として、点群取得部151と、縁部検出部155と、直線形状抽出部156と、種類判定部157を備えている。本実施の形態の場合、物品種類判定装置160は、区間検出部152を備えている。 Figure 3 is a block diagram showing the functional configuration of the product type determination system. The product type determination device 160 is a device that determines the type of product based on the shape characteristics of the detection surface portion 201 of the product 200. The product type determination device 160 includes a point cloud acquisition unit 151, an edge detection unit 155, a straight line shape extraction unit 156, and a type determination unit 157 as processing units that are realized by causing a processor to execute a program. In this embodiment, the product type determination device 160 includes a section detection unit 152.

点群取得部151は、物品200の検出面部201における複数箇所の点データを検出器140から点群として取得する。点データのデータ構造は、特に限定されるものではないが、例えば移載装置130に対する相対的な位置関係を示す三次元のデータを含んでいる。本実施の形態の場合、ラック110の棚板111における物品200の配列方向(図中X軸方向)、検出面部201において配列方向に直交する直交方向(図中Z軸方向)、および配列方向と直交方向のいずれにも直交する奥行方向(図中Y軸方向)のデータを備えた直交座標系のデータを含んでいる。 The point cloud acquisition unit 151 acquires point data of multiple locations on the detection surface 201 of the item 200 from the detector 140 as a point cloud. The data structure of the point data is not particularly limited, but includes, for example, three-dimensional data indicating a relative positional relationship with the transfer device 130. In the case of this embodiment, the data includes data of an orthogonal coordinate system including data on the arrangement direction (X-axis direction in the figure) of the items 200 on the shelf 111 of the rack 110, an orthogonal direction (Z-axis direction in the figure) perpendicular to the arrangement direction on the detection surface 201, and a depth direction (Y-axis direction in the figure) perpendicular to both the arrangement direction and the orthogonal direction.

本実施の形態の場合、物品種類判定システム100は、配列方向に並ぶ複数の検出器140を備えており、点群取得部151は、検出器140のそれぞれから点群を取得している。隣り合う検出器140は、撮像画角の一部が重複しているため、点群取得部151は、重複している領域に含まれる点データを統計処理し、複数の検出器140の点群を一枚の画像となるように合成している。これにより、配列方向において複数の物品200の検出面部201に関する点データを一枚の画像として処理することが可能となる。なお、複数の検出器140の点群を1枚の画像に合成せず、各検出器140の点群に対応する画像を用いて処理結果を出し、その結果を合成するものであってもよい。 In this embodiment, the product type determination system 100 includes multiple detectors 140 arranged in the array direction, and the point cloud acquisition unit 151 acquires a point cloud from each of the detectors 140. Since adjacent detectors 140 have a portion of the imaging angle of view overlapping, the point cloud acquisition unit 151 statistically processes the point data included in the overlapping area and combines the point clouds of the multiple detectors 140 into a single image. This makes it possible to process point data related to the detection surface portions 201 of multiple products 200 in the array direction as a single image. Note that instead of combining the point clouds of the multiple detectors 140 into a single image, it is also possible to obtain processing results using images corresponding to the point clouds of each detector 140 and combine the results.

区間検出部152は、点群取得部151において取得された点群から配列方向において物品200が存在しない無物品区間を検出する。図4は、区間検出部の処理の流れを示すフローチャートである。図5は、区間検出部の工程の各段階における処理状態を示す図である。 The section detection unit 152 detects an object-free section in which no object 200 exists in the arrangement direction from the point cloud acquired by the point cloud acquisition unit 151. FIG. 4 is a flowchart showing the flow of processing by the section detection unit. FIG. 5 is a diagram showing the processing state at each stage of the process of the section detection unit.

区間検出部152の処理の流れの例を説明する。まず、区間検出部152は、点群取得部151から取得した点群から所定の領域内に含まれる点データを取り出すトリミング処理を実行する(S101、トリミング工程)。所定の領域は、特に限定されるものではないが、例えばラック110に保管される物品200の最小高さ(直交方向の長さ)の中央位置を含み、所定の高さを有する帯状の領域を例示できる。具体的には、第一閾値未満の直交方向(図中Z軸方向)の値を有する点データを除外し、かつ第二閾値(>第一閾値)より大の直交方向(図中Z軸方向)の値を有する点データを除外する。つまり、第一閾値以上、第二閾値以下の範囲にある点データを抽出する。トリミング工程により所定の高さ範囲のデータにより無物品区間の検出を行うため、ラック110の棚板111による反射などの影響、物品200の表面に設けられるリブ、フランジ、孔などの影響を抑制する事ができ、正確に無物品区間を検出することが可能となる。また、点群のデータ量を抑制して次工程の処理の促進を図ることができる。 An example of the process flow of the section detection unit 152 will be described. First, the section detection unit 152 executes a trimming process to extract point data contained within a predetermined area from the point cloud acquired from the point cloud acquisition unit 151 (S101, trimming process). The predetermined area is not particularly limited, but can be, for example, a strip-shaped area having a predetermined height that includes the center position of the minimum height (length in the orthogonal direction) of the item 200 stored in the rack 110. Specifically, point data having a value in the orthogonal direction (Z-axis direction in the figure) less than the first threshold value is excluded, and point data having a value in the orthogonal direction (Z-axis direction in the figure) greater than the second threshold value (>first threshold value) is excluded. In other words, point data in the range of the first threshold value or more and the second threshold value or less is extracted. Since the trimming process detects the no-item section using data in a predetermined height range, it is possible to suppress the influence of reflections from the shelf boards 111 of the rack 110 and the influence of ribs, flanges, holes, etc. provided on the surface of the item 200, and it is possible to accurately detect the no-item section. In addition, it is possible to suppress the amount of data of the point cloud and promote the processing of the next process.

次に、区間検出部152は、トリミング工程によってトリミングされた点群を奥行方向(移載方向)に投影して図5の(a)に示す二次元の第一投影画像を生成する(S102、第一投影工程)。具体的には、各点データから奥行方向(図中Y軸方向)のデータを除外することにより二次元の第一投影画像を生成する。ここで、区間検出部152は、トリミング工程によってトリミングされた点群を上下方向に投影して二次元の第一投影画像を生成するものであってもよい。 Next, the section detection unit 152 projects the point cloud trimmed by the trimming process in the depth direction (transfer direction) to generate a two-dimensional first projection image shown in FIG. 5(a) (S102, first projection process). Specifically, the two-dimensional first projection image is generated by excluding data in the depth direction (Y-axis direction in the figure) from each point data. Here, the section detection unit 152 may project the point cloud trimmed by the trimming process in the up-down direction to generate a two-dimensional first projection image.

次に、区間検出部152は、第一投影画像に対しモフォロジー処理を実行し、荒い点として存在していた点データの間を補完して図5の(b)に示すように物品200に対応する部分が一塊(図5の画像中における白色部分)となるようにデータを変更する(S103、第一モフォロジー工程)。本実施の形態の場合、区間検出部152は、モフォロジー処理として膨張と収縮とを繰り返すクロージング処理を行う。 Next, the section detection unit 152 performs morphology processing on the first projection image, complementing the points that existed as rough points, and modifies the data so that the part corresponding to the item 200 becomes a single mass (the white part in the image in FIG. 5) as shown in FIG. 5(b) (S103, first morphology step). In this embodiment, the section detection unit 152 performs a closing process that repeats expansion and contraction as the morphology process.

次に、区間検出部152は、物品200が存在している区間を示す存在区間を探索する(S104、存在区間荒探索工程)。本実施の形態の場合、区間検出部152は、第一モフォロジー工程により白色の一塊とみなした部分(図5の(b)中の白色部分)について、直交方向に対応する画像における上下方向において途切れた部分、欠落した部分を補完して白色の一塊とみなす部分を更新する。存在区間端探索工程を実行すると例えば図5の(c)の画像の様な状態になる。 Next, the section detection unit 152 searches for an existence section that indicates the section in which the item 200 exists (S104, existence section rough search process). In the case of this embodiment, the section detection unit 152 updates the part regarded as a white mass by the first morphology process (the white part in FIG. 5(b)) by complementing the disconnected and missing parts in the vertical direction in the image corresponding to the orthogonal direction. When the existence section end search process is executed, the state becomes, for example, as shown in the image in FIG. 5(c).

次に、区間検出部152は、隣り合う白色の一塊の部分の間の区間の配列方向に対応する画像における横方向(図面に向かって左右方向)の黒色部分の距離と所定のギャップ閾値とを比較する(S105)。黒色部分の距離がギャップ閾値以下の場合(S105:Yes)、区間検出部152は、図5の(d)に示すように、当該ギャップを埋めるように補完して白色の一塊とみなす部分を更新する(S106、ギャップ充填工程)。なお、図4中に記載される「<=」は小なりイコールを示している。 Next, the section detection unit 152 compares the distance between the black parts in the horizontal direction (left and right when looking at the drawing) in the image corresponding to the arrangement direction of the section between adjacent white block parts with a predetermined gap threshold (S105). If the distance between the black parts is less than or equal to the gap threshold (S105: Yes), the section detection unit 152 updates the part considered to be a white block by complementing the gap as shown in FIG. 5(d) (S106, gap filling process). Note that "<=" in FIG. 4 indicates less than or equal to.

次に、区間検出部152は、ギャップ充填工程において更新された白色の一塊の部分、または存在区間荒探索工程で更新された白色の一塊の部分の配列方向(図5中横方向)における一端部から他端部まで(図5の(d)(e)の逆三角印)を物品200が存在する区間に対応する存在区間として特定する(S107、存在区間特定工程)。また、隣り合う存在区間の間など存在区間以外の区間を無物品区間として特定する。 Next, the section detection unit 152 identifies the white block portion updated in the gap filling process or the white block portion updated in the rough search process for the presence section from one end to the other end in the arrangement direction (horizontal direction in FIG. 5) (inverted triangle marks in (d) and (e) in FIG. 5) as the presence section corresponding to the section where the item 200 exists (S107, presence section identification process). In addition, sections other than the presence section, such as between adjacent presence sections, are identified as no-item sections.

次に、区間検出部152は、無物品区間の配列方向(図5の横方向)における中間の位置を基準位置(図5の(e)の矢印の位置)として決定する(S108、基準位置決定工程)。基準位置の決定基準は特に限定されるものではないが、例えば、隣り合う存在区間の端部の間の中央の位置を基準位置として決定してもよい。また、所定の第一区間閾値以上の長さの無物品区間が存在する場合(図5の(e)の左側)、存在区間の端部から所定の距離離れた位置に仮想の存在区間の端部(図5の(e)の三角印)を設定し、存在区間の端部と仮想的な存在区間の端部との間に基準位置を設定してもかまわない。なお、仮想の存在区間を設ける距離は、第一区間閾値と同等であってもかまわない。また、存在区間の端部に挟まれていない無物品区間であって所定の第二区間閾値以下の無物品区間の場合(図5の(e)の右側)、画像の端部を基準位置として設定してもかまわない。 Next, the section detection unit 152 determines the middle position in the arrangement direction (horizontal direction in FIG. 5) of the no-item section as the reference position (the position of the arrow in FIG. 5(e)) (S108, reference position determination step). The criteria for determining the reference position are not particularly limited, but for example, the center position between the ends of adjacent existence sections may be determined as the reference position. In addition, when an object-free section with a length equal to or greater than a predetermined first section threshold exists (left side of FIG. 5(e)), the end of a virtual existence section (triangle mark in FIG. 5(e)) may be set at a position a predetermined distance away from the end of the existence section, and the reference position may be set between the end of the existence section and the end of the virtual existence section. Note that the distance at which the virtual existence section is set may be equal to the first section threshold. In addition, in the case of an object-free section that is not sandwiched between the ends of the existence section and is equal to or less than a predetermined second section threshold (right side of FIG. 5(e)), the end of the image may be set as the reference position.

縁部検出部155は、点群取得部151において取得された点群に基づき、物品200の検出面部201の相対向する少なくとも一対の縁部を検出する。本実施の形態の場合、縁部検出部155は、相互に交差(直交)する二対の縁部を輪郭として検出する。図6は、縁部検出部の処理の流れを示すフローチャートである。図7は、縁部検出部の工程の各段階における処理状態を示す図である。なお、図7の左右方向における中央に示される縦線は、二つの検出器140が対応する領域の境界を示している。 The edge detection unit 155 detects at least a pair of opposing edges of the detection surface 201 of the article 200 based on the point cloud acquired by the point cloud acquisition unit 151. In this embodiment, the edge detection unit 155 detects two pairs of edges that intersect (orthogonal to) each other as contours. Figure 6 is a flowchart showing the flow of processing by the edge detection unit. Figure 7 is a diagram showing the processing state at each stage of the process of the edge detection unit. Note that the vertical line shown in the center in the left-right direction of Figure 7 indicates the boundary of the areas corresponding to the two detectors 140.

縁部検出部155の処理の流れの例を説明する。まず、縁部検出部155は、点群取得部151から取得した点群を検出面部201の法線方向に沿う奥行方向(移載方向)に投影し各点データの奥行方向のデータを二次元平面内の各ドットの階調に変換して図7の(a)に示す二次元の第二投影画像である階調付き投影画像を生成する(S201、第二投影工程)。本実施の形態の場合、階調付き投影画像は、グレースケールで表されている。 An example of the processing flow of the edge detection unit 155 will be described. First, the edge detection unit 155 projects the point cloud acquired from the point cloud acquisition unit 151 in the depth direction (transfer direction) along the normal direction of the detection surface unit 201, and converts the depth direction data of each point data into the gradation of each dot in a two-dimensional plane to generate a gradated projection image, which is a two-dimensional second projection image shown in Figure 7 (a) (S201, second projection step). In this embodiment, the gradated projection image is represented in grayscale.

次に、縁部検出部155は、階調付き投影画像に対しモフォロジー処理を実行し、点データが欠落している部分などを補完して図7の(b)に示すような物品200に対応する部分が一塊となるようにデータを変更する(S202、第二モフォロジー工程)。本実施の形態の場合、縁部検出部155は、区間検出部152において検出された存在区間を含む画像全体に、モフォロジー処理として膨張と収縮とを繰り返すクロージング処理を行う。 Next, the edge detection unit 155 performs morphology processing on the gradated projection image to supplement missing portions of point data and change the data so that the portion corresponding to the item 200 as shown in FIG. 7(b) becomes one block (S202, second morphology step). In this embodiment, the edge detection unit 155 performs a closing process, which repeats expansion and contraction as a morphology process, on the entire image including the existence section detected by the section detection unit 152.

次に、縁部検出部155は、物品200の検出面部201の端縁である対向する一対の縁部を検出する(S203、縁部検出工程)。本実施の形態の場合、縁部検出部155は、存在区間毎に第二モフォロジー工程により一塊とみなした部分(図7の(b)中の左右方向に並ぶ三つの部分)のそれぞれについて図7の(c)に示すように階調を除いた二値の画像とし、この二値の画像に基づいて検出面部201の輪郭(図7の(c)中の矩形で示された部分)をそれぞれ画像解析により検出する。縁部検出部155は、検出された矩形の輪郭の図中の上下方向(直交方向に対応)に延在する一対の線をそれぞれ縁部として検出する。本実施の形態の場合、二つの検出器140から取得した点群のそれぞれについて輪郭を検出しているため、境界を含む存在区間については図7の(c)に示すように、二つの輪郭が検出される。 Next, the edge detection unit 155 detects a pair of opposing edges that are the edges of the detection surface 201 of the article 200 (S203, edge detection process). In this embodiment, the edge detection unit 155 converts each of the parts (three parts aligned in the left-right direction in FIG. 7B) that are regarded as a block by the second morphology process for each existence section into a binary image with gradation removed as shown in FIG. 7C, and detects the contour of the detection surface 201 (parts shown by rectangles in FIG. 7C) by image analysis based on this binary image. The edge detection unit 155 detects a pair of lines extending in the vertical direction (corresponding to the orthogonal direction) in the figure of the detected rectangular contour as the edge. In this embodiment, since the contour is detected for each of the point clouds acquired from the two detectors 140, two contours are detected for the existence section including the boundary as shown in FIG. 7C.

直線形状抽出部156は、直線形状抽出部156により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を画像解析により抽出する。図8は、直線形状抽出部の処理の流れを示すフローチャートである。図9は、直線形状抽出部の工程の各段階における処理状態を示す図である。 The straight line shape extraction unit 156 extracts a straight line shape having linearity extending in a direction along a pair of edges detected by the straight line shape extraction unit 156 through image analysis, based on a group of points existing between the pair of edges detected by the straight line shape extraction unit 156. Figure 8 is a flowchart showing the flow of processing by the straight line shape extraction unit. Figure 9 is a diagram showing the processing state at each stage of the process by the straight line shape extraction unit.

本実施の形態の場合、画像解析により得られた輪郭を数ピクセル(数ミリメートルに対応)分内側になるように輪郭を更新している。 In this embodiment, the contour obtained by image analysis is updated to be several pixels (corresponding to several millimeters) inward.

本実施の形態の場合、直線形状抽出部156は、第二投影工程(S201)により生成された階調付き投影画像を用いて直線形状を抽出している。また、直線形状抽出部156は、縁部検出部155により決定された輪郭の内側に含まれる点データを用いて直線形状を抽出している。これにより、物品200のエッジ部分を除外して直線形状を探索することができ、エッジ部分に該当する点データによる物品200の種類の誤検出を防止している。 In this embodiment, the straight line shape extraction unit 156 extracts the straight line shape using the gradient projection image generated by the second projection step (S201). The straight line shape extraction unit 156 also extracts the straight line shape using point data included inside the contour determined by the edge detection unit 155. This makes it possible to search for the straight line shape while excluding the edge parts of the item 200, and prevents erroneous detection of the type of item 200 due to point data corresponding to the edge parts.

直線形状抽出部156の処理の流れを説明する。直線形状抽出部156は、縁部検出部155から階調付き投影画像を取得し、それぞれの輪郭内の階調付き投影画像に対して所定の直線検出アルゴリズムに基づき図9の(d)に示されるような階調付き投影画像に含まれる直線形状候補を抽出する(S301、直線形状候補抽出工程)。 The process flow of the straight line shape extraction unit 156 will be described. The straight line shape extraction unit 156 acquires a toned projection image from the edge detection unit 155, and extracts straight line shape candidates contained in the toned projection image as shown in FIG. 9(d) based on a predetermined straight line detection algorithm for the toned projection image within each contour (S301, straight line shape candidate extraction process).

次に、直線形状抽出部156は、抽出された直線形状候補に対しノイズを除去して図9の(e)に示すような物品200の検出面部201にリブ状に突出する部分に対応する一塊の線状(図9の(e)の左側の輪郭内における白色部分)となるようにデータを更新する(S302、ノイズ除去工程)。 Next, the straight line shape extraction unit 156 removes noise from the extracted straight line shape candidate and updates the data so that it becomes a single line shape corresponding to the rib-like protruding portion on the detection surface portion 201 of the article 200 as shown in FIG. 9(e) (the white part within the outline on the left side of FIG. 9(e)) (S302, noise removal process).

次に、直線形状抽出部156は、ノイズが除去された直線形状候補から直線形状を抽出する(S203、直線形状抽出工程)。本実施の形態の場合、直線形状抽出部156は、図中の上下方向(直交方向に対応)に延在する一対の縁部と平行、または略平行の直線形状候補を直線形状として抽出する。これにより図9の(f)に示すような画像となる。なお、本実施の形態の場合、図中の左右方向(配列方向に対応)に延在する一対の縁部と平行、または略平行の直線形状候補も直線形状として抽出している。 Next, the straight line shape extraction unit 156 extracts straight line shapes from the straight line shape candidates from which noise has been removed (S203, straight line shape extraction process). In this embodiment, the straight line shape extraction unit 156 extracts straight line shape candidates that are parallel or approximately parallel to a pair of edges extending in the up-down direction (corresponding to the orthogonal direction) in the figure as straight line shapes. This results in an image such as that shown in (f) of Figure 9. Note that in this embodiment, straight line shape candidates that are parallel or approximately parallel to a pair of edges extending in the left-right direction (corresponding to the arrangement direction) in the figure are also extracted as straight line shapes.

種類判定部157は、直線形状抽出部156により抽出された直線形状に基づき物品200の種類を判定する。本実施の形態の場合、図10に示す種類判定工程のフローチャートのように、種類判定部157は、直線形状抽出工程において直線形状が抽出されない場合(S401:No)、物品200の検出面部が平坦な表面性状を有する第一種類の物品であると判定し(S403)、直線形状抽出工程において直線形状が抽出された場合(S401:Yes)、物品200の検出面部が凹凸を有する第二種類の物品であると判定する。最後に種類判定部157は、判定結果を搬送装置120に報知する(S104)。 The type determination unit 157 determines the type of the item 200 based on the linear shape extracted by the linear shape extraction unit 156. In this embodiment, as shown in the flowchart of the type determination process in FIG. 10, if a linear shape is not extracted in the linear shape extraction process (S401: No), the type determination unit 157 determines that the detection surface of the item 200 is a first type of item having a flat surface property (S403), and if a linear shape is extracted in the linear shape extraction process (S401: Yes), the type determination unit 157 determines that the detection surface of the item 200 is a second type of item having irregularities. Finally, the type determination unit 157 notifies the conveying device 120 of the determination result (S104).

本実施の形態の場合、物品種類判定装置160は、以上の縁部検出工程、直線形状抽出工程、物品種類判定工程を、区間検出部152により分離された各物品存在区間に対して実行し、それぞれの結果を搬送装置120に報知している。 In this embodiment, the product type determination device 160 performs the above-mentioned edge detection process, straight line shape extraction process, and product type determination process for each product presence section separated by the section detection unit 152, and notifies the conveying device 120 of each result.

以上の実施の形態に係る物品種類判定システム100によれば、物品200の縁部は直線性のある形状を有しているため、当該縁部を除外した上で直線形状を抽出し物品の種類を判定することで、検出面部201が平坦な表面性状を有する第一種類の物品200と、表面にリブなどの凹凸を有する第二種類の物品200とがラック110に混在状態で配列される環境においても物品200の種類を高精度で判定することができる。 According to the product type determination system 100 of the above embodiment, since the edge of the product 200 has a linear shape, the edge is excluded and the linear shape is extracted to determine the type of the product. This makes it possible to determine the type of the product 200 with high accuracy even in an environment where a first type of product 200 whose detection surface 201 has a flat surface property and a second type of product 200 whose surface has irregularities such as ribs are arranged in a mixed state on the rack 110.

特に、検出面部201の対向する一対のエッジに沿った直線形状を用いて判定することにより、物品200の種類の判定精度を向上させることができる。 In particular, the accuracy of determining the type of item 200 can be improved by making the determination using the linear shape along a pair of opposing edges of the detection surface portion 201.

また、隣り合う物品200の間における物品200が存在しない区間である無物品区間を検出して点群に対し物品200相互の分離を行った後、各存在区間に対して物品200の種類の判定を行うため、一度に取得した点群に基づき複数の物品200の種類を高速に搬送装置120などに報知することができる。 In addition, after detecting object-free sections, which are sections between adjacent objects 200 where no object 200 exists, and separating the objects 200 from each other in the point cloud, the type of object 200 is determined for each presence section, so that the types of multiple objects 200 can be quickly notified to the conveying device 120, etc. based on the point cloud acquired at one time.

また、二値の投影画像に基づき輪郭を決定し、決定された輪郭内の階調付き投影画像に基づき直線形状を抽出することにより、物品200の縁部を効果的に除外することが可能となる。 In addition, by determining the contour based on the binary projection image and extracting straight line shapes based on the gradient projection image within the determined contour, it is possible to effectively exclude the edge of the article 200.

また、抽出した直線形状候補に対しノイズ処理等を実行したのち直線形状を抽出することにより、点群に多くのノイズが含まれている場合でも物品200の種類の判定に有効な直線形状を抽出することが可能となる。 In addition, by performing noise processing, etc. on the extracted straight line shape candidates before extracting the straight line shape, it is possible to extract a straight line shape that is effective for determining the type of item 200 even if the point cloud contains a lot of noise.

なお、本発明は、上記実施の形態に限定されるものではない。例えば、本明細書において記載した構成要素を任意に組み合わせて、また、構成要素のいくつかを除外して実現される別の実施の形態を本発明の実施の形態としてもよい。また、上記実施の形態に対して本発明の主旨、すなわち、請求の範囲に記載される文言が示す意味を逸脱しない範囲で当業者が思いつく各種変形を施して得られる変形例も本発明に含まれる。 The present invention is not limited to the above-described embodiment. For example, the components described in this specification may be combined in any way, or some of the components may be removed to create another embodiment of the present invention. The present invention also includes modifications that are made to the above-described embodiment by those skilled in the art without departing from the spirit of the present invention, i.e., the meaning of the words in the claims.

例えば、上記実施の形態では一対の縁部が平行である場合を説明したが、例えば検出面部201が台形状であって一対の縁部が平行でない場合に物品種類判定方法を適用してもかまわない。この場合、一対の縁部にそう直線形状の傾きは二種類存在する。この場合少なくとも一方の傾きの直線形状に基づき物品200の種類を判定してもかまわない。 For example, in the above embodiment, a case where a pair of edges are parallel has been described, but the article type determination method may also be applied when, for example, the detection surface portion 201 is trapezoidal and the pair of edges are not parallel. In this case, there are two types of inclination of the linear shape along the pair of edges. In this case, the type of article 200 may be determined based on the linear shape of at least one of the inclinations.

また、検出面部201の輪郭を検出する場合を説明したが、輪郭を検出することなく一対の縁部に挟まれる点データを用いて物品200の種類を判定してもかまわない。 In addition, although the case where the contour of the detection surface portion 201 is detected has been described, the type of the item 200 may be determined using point data sandwiched between a pair of edges without detecting the contour.

また、検出器140を複数備える場合を例示したが、ラック110の棚板111に連続して三つ並ぶ物品200の中央に位置する物品200の幅に両側に存在する無物品区間の幅を加えた範囲を一度に検出できる1台の検出器140を備えてもかまわない。 In addition, although the example shows a case where multiple detectors 140 are provided, it is also possible to provide a single detector 140 that can simultaneously detect an area that is the width of the central item 200 among three items 200 lined up consecutively on the shelf 111 of the rack 110, plus the width of the item-free sections on both sides.

また、複数の検出器140から得られる点群のそれぞれについて物品200の種類の判定を行ったが、複数の点群を合成して一つの点群とした後、物品200の種類を判定してもかまわない。 In addition, the type of item 200 was determined for each of the point clouds obtained from the multiple detectors 140, but the type of item 200 may be determined after combining the multiple point clouds into one point cloud.

また、水平方向、および鉛直方向に物品200を二次元的に保管できるラック110を例示したが、ラック110は、搬送台車の走行する方向に沿って一次元的に物品200を保管するものでもかまわない。 Although the rack 110 is exemplified as being capable of storing items 200 two-dimensionally in the horizontal and vertical directions, the rack 110 may be capable of storing items 200 one-dimensionally along the direction in which the transport cart travels.

また、モフォロジー工程や、ノイズの除去処理工程などは省略することが可能である。 In addition, it is possible to omit the morphology process and the noise removal process.

また、上記実施例では画像全体に対するモフォロジー処理を施す例を示したが、存在区間のそれぞれについてモフォロジー処理をおこなっても同様の効果を奏する。 In addition, in the above embodiment, an example was shown in which morphological processing was performed on the entire image, but the same effect can be achieved by performing morphological processing on each of the existence sections.

本発明は、物品の種類を判別することが要求される自動倉庫、物流拠点、工場設備などに利用可能である。 The present invention can be used in automated warehouses, logistics centers, factory facilities, and other places where it is necessary to distinguish the type of item.

100 物品種類判定システム
110 ラック
111 棚板
112 支柱
120 搬送装置
121 レール
122 台車
123 マスト
124 昇降台
130 移載装置
140 検出器
151 点群取得部
152 区間検出部
155 縁部検出部
156 直線形状抽出部
157 種類判定部
160 物品種類判定装置
200 物品
201 検出面部
Reference Signs List 100 Product type determination system 110 Rack 111 Shelf 112 Support 120 Transport device 121 Rail 122 Cart 123 Mast 124 Lifting platform 130 Transfer device 140 Detector 151 Point cloud acquisition unit 152 Section detection unit 155 Edge detection unit 156 Linear shape extraction unit 157 Type determination unit 160 Product type determination device 200 Product 201 Detection surface unit

Claims (6)

物品との距離を三次元的な複数の点データとして取得する検出器を用い、略直方体状の物品における前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定方法であって、
物品の検出面部の複数箇所の点データを点群として取得する点群取得工程と、
前記点群取得工程において取得された点群に基づき、前記物品の検出面部における相対向する一対の縁部を検出する縁部検出工程と、
前記縁部検出工程により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出工程と、
前記直線形状抽出工程により抽出された直線形状に基づき前記物品の種類を判定する種類判定工程と、
を含む物品種類判定方法。
1. An article type determination method for determining the type of an article based on shape characteristics of a detection surface portion of a substantially rectangular parallelepiped article, the detection surface portion including a surface facing the detector, using a detector that acquires a distance to the article as three-dimensional multiple point data, the method comprising:
a point cloud acquisition step of acquiring point data of a plurality of points on a detection surface of the article as a point cloud;
an edge detection step of detecting a pair of opposing edges on a detection surface of the article based on the point cloud acquired in the point cloud acquisition step;
a line shape extraction step of extracting a line shape having linearity extending in a direction along the pair of edges detected in the edge detection step, based on a group of points existing between the pair of edges detected in the edge detection step;
a type determination step of determining a type of the article based on the straight line shape extracted by the straight line shape extraction step;
A method for determining the type of an item, comprising:
前記縁部検出工程において、
前記点群取得工程において取得された点群に基づき、物品の検出面部の輪郭を検出し、
前記直線形状抽出工程において、
前記縁部検出工程により検出された前記輪郭の内側に存在する点群に基づいて、直線形状を抽出する、
請求項1に記載の物品種類判定方法。
In the edge detection step,
Detecting a contour of a detection surface portion of an article based on the point cloud acquired in the point cloud acquisition step;
In the straight line shape extraction step,
extracting a straight line shape based on a group of points present inside the contour detected by the edge detection step;
The method for determining the type of an article according to claim 1 .
前記縁部検出工程において、
前記点群取得工程において取得された前記点群を前記検出面部の法線方向に沿う奥行方向に投影し前記奥行方向のデータを階調に変換して示す階調付き投影画像を生成し、生成された前記階調付き投影画像に基づき物品の縁部を検出し、
前記直線形状抽出工程において、
前記階調付き投影画像に基づいて直線形状を抽出する、
請求項1または2に記載の物品種類判定方法。
In the edge detection step,
projecting the point cloud acquired in the point cloud acquisition step in a depth direction along a normal direction of the detection surface, converting the data in the depth direction into a gradation to generate a gradated projection image; detecting an edge of an article based on the generated gradated projection image;
In the straight line shape extraction step,
Extracting a straight line shape based on the gradation-added projection image;
The method for determining the type of an article according to claim 1 or 2.
前記直線形状抽出工程において、
前記階調付き投影画像に基づいて直線性を有する形状に対応する部分の候補である直線形状候補を抽出し、前記直線形状候補からノイズを除去した後、直線形状を抽出する、
請求項3に記載の物品種類判定方法。
In the straight line shape extraction step,
extracting straight line shape candidates that are candidates for a portion corresponding to a shape having linearity based on the gradation-added projection image, removing noise from the straight line shape candidates, and then extracting the straight line shape;
The method for determining the type of an article according to claim 3.
前記直線形状抽出工程において直線形状が抽出されない場合、前記種類判定工程において、前記物品の検出面部が平坦な表面性状を有する第一種類の物品であると判定し、前記直線形状抽出工程において直線形状が抽出された場合、前記種類判定工程において、前記物品の検出面部が凹凸を有する第二種類の物品であると判定する
請求項1から4のいずれか一項に記載の物品種類判定方法。
An article type determination method described in any one of claims 1 to 4, wherein if a straight line shape is not extracted in the straight line shape extraction process, in the type determination process it is determined that the detection surface of the article is a first type of article having a flat surface texture, and if a straight line shape is extracted in the straight line shape extraction process, it is determined in the type determination process that the detection surface of the article is a second type of article having unevenness.
物品との距離を三次元的な複数の点データとして取得する検出器と、
物品の前記検出器と対向する面を含む検出面部の形状的特徴に基づき物品の種類を判定する物品種類判定装置とを備え、
前記物品種類判定装置は、
物品の検出面部の複数箇所の点データを点群として取得する点群取得部と、
前記点群取得部において取得された点群に基づき、前記物品の検出面部の相対向する一対の縁部を検出する縁部検出部と、
前記縁部検出部により検出された一対の縁部の間に存在する点群に基づいて、当該縁部に沿う方向に延在する直線性を有する直線形状を抽出する直線形状抽出部と、
前記直線形状抽出部により抽出された直線形状に基づき前記物品の種類を判定する種類判定部と、
を備える物品種類判定システム。
A detector that acquires a distance to an article as three-dimensional multiple point data;
an article type determination device that determines the type of the article based on shape features of a detection surface portion of the article, the detection surface portion including a surface facing the detector;
The product type determination device includes:
a point cloud acquisition unit that acquires point data of a plurality of points on a detection surface of an article as a point cloud;
an edge detection unit that detects a pair of opposing edges of a detection surface of the article based on the point cloud acquired by the point cloud acquisition unit;
a straight line shape extraction unit that extracts a straight line shape having linearity extending in a direction along the pair of edges detected by the edge detection unit based on a group of points existing between the pair of edges detected by the edge detection unit;
a type determination unit that determines a type of the article based on the straight line shape extracted by the straight line shape extraction unit;
An item type determination system comprising:
JP2021092274A 2021-06-01 2021-06-01 Item type determination method and item type determination system Active JP7627619B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021092274A JP7627619B2 (en) 2021-06-01 2021-06-01 Item type determination method and item type determination system
PCT/JP2022/018426 WO2022254991A1 (en) 2021-06-01 2022-04-21 Method for determining article type and system for determining article type

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021092274A JP7627619B2 (en) 2021-06-01 2021-06-01 Item type determination method and item type determination system

Publications (2)

Publication Number Publication Date
JP2022184429A JP2022184429A (en) 2022-12-13
JP7627619B2 true JP7627619B2 (en) 2025-02-06

Family

ID=84323131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021092274A Active JP7627619B2 (en) 2021-06-01 2021-06-01 Item type determination method and item type determination system

Country Status (2)

Country Link
JP (1) JP7627619B2 (en)
WO (1) WO2022254991A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AT527163A1 (en) * 2023-04-20 2024-11-15 Tgw Mechanics Gmbh Storage system for storing and method for position correction of piece goods

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010247959A (en) 2009-04-16 2010-11-04 Ihi Corp Box-shaped work recognizing device and method
JP2011209116A (en) 2010-03-30 2011-10-20 Dainippon Screen Mfg Co Ltd Three-dimensional position/attitude recognition apparatus and system using the same, method, program
JP2012126532A (en) 2010-12-16 2012-07-05 Japan Tobacco Inc Article management device, article management method and program
JP2012153470A (en) 2011-01-25 2012-08-16 Murata Machinery Ltd Automatic warehouse

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5566353B2 (en) * 2011-09-02 2014-08-06 株式会社パスコ Data analysis apparatus, data analysis method, and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010247959A (en) 2009-04-16 2010-11-04 Ihi Corp Box-shaped work recognizing device and method
JP2011209116A (en) 2010-03-30 2011-10-20 Dainippon Screen Mfg Co Ltd Three-dimensional position/attitude recognition apparatus and system using the same, method, program
JP2012126532A (en) 2010-12-16 2012-07-05 Japan Tobacco Inc Article management device, article management method and program
JP2012153470A (en) 2011-01-25 2012-08-16 Murata Machinery Ltd Automatic warehouse

Also Published As

Publication number Publication date
JP2022184429A (en) 2022-12-13
WO2022254991A1 (en) 2022-12-08

Similar Documents

Publication Publication Date Title
EP3961259B1 (en) Pallet detection device, forklift, pallet detection method, and program
CN111328408B (en) Shape information generating device, control device, loading and unloading device, logistics system, program and control method
CN108692681B (en) Recess detection device, conveyance device, and recess detection method
CN109844807B (en) Methods, systems and devices for segmenting and sizing objects
JP6721998B2 (en) Object state identification method, object state identification device, and transport vehicle
JP6649796B2 (en) Object state specifying method, object state specifying apparatus, and carrier
US10290115B2 (en) Device and method for determining the volume of an object moved by an industrial truck
JP7660029B2 (en) Edge position detection method, transfer position determination method, and article transfer system
JP6011490B2 (en) Goods storage facility
WO2016033451A1 (en) Stationary dimensioning apparatus
CN115516518A (en) Identifying elements in an environment
US20210207943A1 (en) Measurement device and measurement method
CN107390679A (en) Storage device, laser navigation fork truck
CN116342858B (en) Object detection method, device, electronic equipment and storage medium
JP7627619B2 (en) Item type determination method and item type determination system
CN119536357A (en) Docking method of equipment, computer equipment and storage medium
US10731970B2 (en) Method, system and apparatus for support structure detection
JP7698982B2 (en) ANGLE DETECTION METHOD AND ANGLE DETECTION SYSTEM
CN117474892A (en) Shelf identification method, mobile robot and storage medium
CN213301104U (en) Size detection system
CN111386533A (en) Method and apparatus for detecting and identifying graphic character representations in image data using symmetrically located blank regions
JP2024002525A (en) Barcode detection system, barcode detection method, and barcode detection program
CN116342695B (en) Unmanned forklift truck goods placing detection method and device, unmanned forklift truck and storage medium
JP2017201493A (en) Columnar object recognition method, columnar object recognition device, and unmanned vehicle
CN118255087A (en) Shelf positioning method of handling device and handling device capable of positioning shelf

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20210624

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250127

R150 Certificate of patent or registration of utility model

Ref document number: 7627619

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150