Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4806435B2 - Self-position recognition method and self-position recognition system using 3D model - Google Patents
[go: Go Back, main page]

JP4806435B2 - Self-position recognition method and self-position recognition system using 3D model - Google Patents

Self-position recognition method and self-position recognition system using 3D model Download PDF

Info

Publication number
JP4806435B2
JP4806435B2 JP2008231599A JP2008231599A JP4806435B2 JP 4806435 B2 JP4806435 B2 JP 4806435B2 JP 2008231599 A JP2008231599 A JP 2008231599A JP 2008231599 A JP2008231599 A JP 2008231599A JP 4806435 B2 JP4806435 B2 JP 4806435B2
Authority
JP
Japan
Prior art keywords
self
camera image
model
image
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008231599A
Other languages
Japanese (ja)
Other versions
JP2010066934A (en
Inventor
充 神代
昌宏 亀田
日出樹 長谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Public University Corporation Okayama Prefectural University
Original Assignee
Public University Corporation Okayama Prefectural University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Public University Corporation Okayama Prefectural University filed Critical Public University Corporation Okayama Prefectural University
Priority to JP2008231599A priority Critical patent/JP4806435B2/en
Publication of JP2010066934A publication Critical patent/JP2010066934A/en
Application granted granted Critical
Publication of JP4806435B2 publication Critical patent/JP4806435B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明は、通路を形成する対象物体が設置された移動空間を移動する移動体の自己位置認識手法及びシステムに関する。   The present invention relates to a self-position recognition method and system for a moving body that moves in a moving space in which target objects forming a passage are installed.

物流倉庫等では、効率化及び省力化を向上するために、無人搬送車が荷物を運搬する。一般に、無人搬送車の自動走行として、電磁や磁気を検知して走行する方式(電磁誘導式・磁気誘導式)がある。この方式では、誘導手段となる磁気テープを床面に敷設したり(特許文献1等参照)、磁性体を床面に埋設する(特許文献2等参照)。そして、無人搬送車は、この誘導手段からの電磁や磁気等を検知して自動走行する。従って、磁性体等の誘導手段の位置変更に多大な手間や費用を要するから、倉庫内のレイアウト変更が非常に困難となる。また、この方式では磁性体を埋設等するので、導入コストが大きい。
特開2002−278622号公報 特開2005−122568号公報
In distribution warehouses, automatic guided vehicles carry packages to improve efficiency and labor saving. In general, there are methods (electromagnetic induction type / magnetic induction type) for automatically driving an automated guided vehicle by detecting electromagnetic waves and magnetism. In this method, a magnetic tape serving as guiding means is laid on the floor (see Patent Document 1), or a magnetic material is embedded on the floor (see Patent Document 2, etc.). The automatic guided vehicle automatically travels by detecting electromagnetic waves and magnetism from the guiding means. Therefore, since it takes a lot of labor and expense to change the position of the guiding means such as a magnetic material, it is very difficult to change the layout in the warehouse. Moreover, since this method embeds a magnetic material, the introduction cost is high.
JP 2002-278622 A JP 2005-122568 A

そこで、本発明が解決しようとする課題は、移動空間内のレイアウトを変更しても容易に適用でき、導入コストが小さく、さらに、高速且つ正確に自己位置認識できる移動体の自己位置認識手法及びシステムを提供することである。   Therefore, the problem to be solved by the present invention can be easily applied even if the layout in the movement space is changed, the introduction cost is low, and the self-position recognition method of the mobile body capable of self-position recognition at high speed and accurately, and Is to provide a system.

上記の課題を解決するために、本発明に係る自己位置認識手法は、
予め記憶された目標軌道に沿って移動空間を移動する移動体の自己位置認識手法であって、移動空間の3次元モデルを作成するステップと、所定時間における移動体の位置及び方向からカメラ画像を取得するステップと、所定時間における目標軌道上の目標位置及び方向を算出するステップと、3次元モデルから目標位置及び方向の所定範囲内における複数の位置及び方向のモデル画像を形成するステップと、この複数のモデル画像とカメラ画像との色情報の一致度を算出するステップと、この各一致度に基づいて、移動体の位置及び方向を認識するステップとを含む。
In order to solve the above problem, the self-position recognition method according to the present invention is:
A self-position recognition method for a moving object that moves in a moving space along a pre-stored target trajectory, the step of creating a three-dimensional model of the moving space, and a camera image from the position and direction of the moving object at a predetermined time A step of acquiring, a step of calculating a target position and direction on a target trajectory at a predetermined time, a step of forming model images of a plurality of positions and directions within a predetermined range of the target position and direction from a three-dimensional model, The step of calculating the degree of coincidence of the color information between the plurality of model images and the camera image, and the step of recognizing the position and direction of the moving body based on the degree of coincidence.

好ましくは、移動空間に対象物体を設置するステップと、カメラ画像における対象物体の境界垂直線を基準線に規定するステップと、カメラ画像における基準線の位置を特定するステップと、3次元モデルにおける基準線の位置を特定するステップと、この特定した各基準線の位置に基づいて、3次元モデルから任意の位置及び方向における複数のモデル画像を形成するステップとを含む。   Preferably, the step of installing the target object in the moving space, the step of defining the boundary vertical line of the target object in the camera image as a reference line, the step of specifying the position of the reference line in the camera image, and the reference in the three-dimensional model The step of specifying the position of the line and the step of forming a plurality of model images at arbitrary positions and directions from the three-dimensional model based on the position of each specified reference line are included.

好ましくは、対象物体が通路を形成する通路形成体である。   Preferably, the target object is a passage forming body in which a passage is formed.

好ましくは、カメラ画像及びモデル画像を二値化処理するステップを含む。   Preferably, the method includes a step of binarizing the camera image and the model image.

好ましくは、各一致度から2次又は3次曲線に近似して、曲線の極大値に基づいて移動体の位置及び方向の双方又は一方を認識するステップを含む。   Preferably, the method includes a step of approximating a quadratic or cubic curve from each coincidence and recognizing both or one of the position and direction of the moving object based on the maximum value of the curve.

好ましくは、移動空間の入出庫管理システムからの情報に基づいて、3次元モデルにおける対象物体の形状を変更するステップを含む。   Preferably, the method includes a step of changing the shape of the target object in the three-dimensional model based on information from the storage management system for moving space.

好ましくは、カメラ画像及びモデル画像における対象物体以外からなる検出領域を抽出するステップと、この各検出領域を比較するステップと、この比較値と所定の閾値とに基づいて移動体の方向における障害物を認識するステップとを含む。   Preferably, a step of extracting a detection area other than the target object in the camera image and the model image, a step of comparing the detection areas, and an obstacle in the direction of the moving object based on the comparison value and a predetermined threshold value Recognizing.

また、本発明に係る自己位置認識システムは、
予め記憶された目標軌道に沿って移動空間を移動する移動体の自己位置認識システムであって、移動空間の3次元モデルを作成する手段と、所定時間における移動体の位置及び方向からカメラ画像を取得する手段と、所定時間における目標軌道上の目標位置及び方向を算出する手段と、3次元モデルから目標位置及び方向の所定範囲内における複数の位置及び方向のモデル画像を形成する手段と、この複数のモデル画像とカメラ画像との色情報の一致度を算出する手段と、この各一致度に基づいて、移動体の位置及び方向を認識する手段とを備えた。
The self-position recognition system according to the present invention is
A self-position recognition system for a moving body that moves in a moving space along a pre-stored target trajectory, comprising: means for creating a three-dimensional model of the moving space; and a camera image from the position and direction of the moving body at a predetermined time. Means for acquiring, means for calculating a target position and direction on a target trajectory at a predetermined time, means for forming model images of a plurality of positions and directions within a predetermined range of the target position and direction from a three-dimensional model, Means for calculating the degree of coincidence of the color information between the plurality of model images and the camera image and means for recognizing the position and direction of the moving body based on the degree of coincidence.

好ましくは、移動空間に対象物体を設置する手段と、カメラ画像における対象物体の境界垂直線を基準線に規定する手段と、カメラ画像における基準線の位置を特定する手段と、3次元モデルにおける基準線の位置を特定する手段と、この特定した各基準線の位置に基づいて、3次元モデルから任意の位置及び方向における複数のモデル画像を形成する手段とを備えた。   Preferably, means for installing the target object in the moving space, means for defining the boundary vertical line of the target object in the camera image as a reference line, means for specifying the position of the reference line in the camera image, and reference in the three-dimensional model Means for specifying the position of the line, and means for forming a plurality of model images at arbitrary positions and directions from the three-dimensional model based on the position of each specified reference line.

好ましくは、対象物体が通路を形成する通路形成体である。   Preferably, the target object is a passage forming body in which a passage is formed.

好ましくは、カメラ画像及びモデル画像を二値化処理する手段を備えた。   Preferably, a means for binarizing the camera image and the model image is provided.

好ましくは、各一致度から2次又は3次曲線に近似して、曲線の極大値に基づいて移動体の位置及び方向の双方又は一方を認識する手段を備えた。   Preferably, there is provided means for approximating a quadratic or cubic curve from each degree of coincidence and recognizing both or one of the position and direction of the moving body based on the maximum value of the curve.

好ましくは、移動空間の入出庫管理システムからの情報に基づいて、3次元モデルにおける対象物体の形状を変更する手段を備えた。   Preferably, there is provided means for changing the shape of the target object in the three-dimensional model based on information from the moving-in / out management system.

好ましくは、カメラ画像及びモデル画像における対象物体以外からなる検出領域を抽出する手段と、この各検出領域を比較する手段と、この比較値と所定の閾値とに基づいて移動体の方向における障害物を認識する手段とを備えた。   Preferably, a means for extracting a detection area other than the target object in the camera image and the model image, a means for comparing the detection areas, and an obstacle in the direction of the moving object based on the comparison value and a predetermined threshold value And means for recognizing

本発明に係る3次元モデルを用いた自己位置認識手法及びシステムは、移動体のカメラで取得したカメラ画像と予め作成した移動空間の3次元モデルとに基づいて、移動体の自己位置及び方向の認識を可能とする。そのため、移動空間を変更しても、3次元モデルを移動空間に合わせて変更するだけで対応可能なので、移動空間内のレイアウトを変更しても容易に適用でき、導入コストが小さい。さらに、所定時間における目標軌道上の目標位置及び方向を算出して、3次元モデルから目標位置及び方向の所定範囲内におけるモデル画像を形成してカメラ画像との比較を行うので、比較対象とするモデル画像の枚数を限定でき、高速に処理できる。また、モデル画像とカメラ画像とを、輪郭形状に基づく画素位置情報でなく色情報の一致度に基づいて識別するので、推定される位置及び方向の信頼性が非常に高い。   A self-position recognition method and system using a three-dimensional model according to the present invention is based on a camera image acquired by a camera of a moving object and a three-dimensional model of a moving space created in advance, and the self-position and direction of the moving object. Enable recognition. Therefore, even if the moving space is changed, it can be dealt with by simply changing the three-dimensional model according to the moving space. Therefore, even if the layout in the moving space is changed, it can be easily applied and the introduction cost is low. Furthermore, the target position and direction on the target trajectory at a predetermined time is calculated, and a model image within a predetermined range of the target position and direction is formed from the three-dimensional model and compared with the camera image. The number of model images can be limited and processed at high speed. Further, since the model image and the camera image are identified based on the degree of coincidence of the color information rather than the pixel position information based on the contour shape, the reliability of the estimated position and direction is very high.

また、本発明では、カメラ画像における対象物体の境界垂直線を基準線に規定することができる。そして、カメラ画像及び3次元モデルにおける基準線の位置に基づいて、移動体の自己位置を認識する。従って、自己位置を認識するための特徴量が境界垂直線である基準線の位置となり、位置認識のための基準線が少なくて明確なので、高速且つ正確に自己位置を認識できる。   In the present invention, the boundary vertical line of the target object in the camera image can be defined as the reference line. Then, the self position of the moving body is recognized based on the position of the reference line in the camera image and the three-dimensional model. Accordingly, the feature quantity for recognizing the self position is the position of the reference line that is the boundary vertical line, and since there are few reference lines for recognizing the position, the self position can be recognized at high speed and accurately.

以下、添付図面に基づいて、本発明に係る3次元モデルを用いた自己位置認識手法及びシステムについて説明する。   Hereinafter, a self-position recognition method and system using a three-dimensional model according to the present invention will be described with reference to the accompanying drawings.

[全体構成]
図1は、自己位置認識システムを搭載した移動体を示す図である。本実施形態では、移動体1は無人搬送車からなる。図1の通り、移動体1は、前方に向けてカメラ2を備える。カメラ2は、床面Fから一定のカメラ高さHに設置される。移動体1は、コントローラ3を備える。
[overall structure]
FIG. 1 is a diagram showing a mobile object equipped with a self-position recognition system. In the present embodiment, the moving body 1 is an automatic guided vehicle. As shown in FIG. 1, the moving body 1 includes a camera 2 facing forward. The camera 2 is installed at a certain camera height H from the floor surface F. The moving body 1 includes a controller 3.

移動体1は、操舵輪4及び走行輪5を備える。操舵輪4は、操舵モータ40の駆動に基づいて操舵角を変更する。走行輪5は、走行モータ50の駆動に基づいて前後進及び停止する。コントローラ3は、後で詳説するように、カメラ2からの画像に基づいて自己位置及び方向を認識し、予め記憶された目標軌道ST(走行路)に沿って移動体1が走行するように、操舵モータ40及び走行モータ50の駆動を制御する。   The moving body 1 includes a steering wheel 4 and a traveling wheel 5. The steering wheel 4 changes the steering angle based on the drive of the steering motor 40. The traveling wheel 5 moves forward and backward based on driving of the traveling motor 50. As will be described in detail later, the controller 3 recognizes its own position and direction based on the image from the camera 2 so that the moving body 1 travels along a pre-stored target trajectory ST (traveling path). The driving of the steering motor 40 and the traveling motor 50 is controlled.

[目標軌道]
図2は、目標軌道を説明するための図である。図2の通り、移動体1は、コントローラ3が操舵モータ40及び走行モータ50の駆動を制御して、予め記憶された2次元座標(XY座標)及び方向からなる目標軌道ST(図2の二点鎖線)に沿って操舵、減速、加速、停止及び進行等する。従って、コントローラ3は、所定時間間隔Δtごとの所定時間・・・t−1、t、t+1・・・において、移動体1が目標軌道STに沿って移動するための目標軌道上の目標位置(X,Y)及び方向θを算出可能とする。なお、本実施形態では、所定時間間隔Δtは、例えば約0.3秒である。
[Target trajectory]
FIG. 2 is a diagram for explaining the target trajectory. As shown in FIG. 2, in the moving body 1, the controller 3 controls the driving of the steering motor 40 and the traveling motor 50, and the target trajectory ST (two coordinates in FIG. 2) composed of two-dimensional coordinates (XY coordinates) and directions stored in advance. Steering, decelerating, accelerating, stopping and traveling along the dotted line). Therefore, the controller 3 sets the target position (on the target trajectory) for the moving body 1 to move along the target trajectory ST at predetermined time intervals t−1, t, t + 1. X t , Y t ) and direction θ t can be calculated. In the present embodiment, the predetermined time interval Δt is, for example, about 0.3 seconds.

[第1実施形態]
第1実施形態について説明する。
図3は、第1実施形態の自己位置認識システムを示すブロック図である。図4は、第1実施形態の自己位置認識手法を説明するフローチャート図である。図5は、第1実施形態の比較するモデル画像を説明するための図である。図6は、移動空間内の3次元モデルを示す概念図である。
[First Embodiment]
A first embodiment will be described.
FIG. 3 is a block diagram showing the self-position recognition system of the first embodiment. FIG. 4 is a flowchart for explaining the self-position recognition method according to the first embodiment. FIG. 5 is a diagram for explaining model images to be compared in the first embodiment. FIG. 6 is a conceptual diagram showing a three-dimensional model in the movement space.

自己位置認識システムは、カメラ2及びコントローラ3等からなる(図3)。コントローラ3は、CPU等を搭載したコンピュータからなっており、カメラ2から取得したカメラ画像等を処理して、移動体1の位置及び方向を認識する。   The self-position recognition system includes a camera 2 and a controller 3 (FIG. 3). The controller 3 includes a computer equipped with a CPU and the like, and processes a camera image acquired from the camera 2 to recognize the position and direction of the moving body 1.

本実施形態では、移動体1は、物流倉庫を移動空間6として移動する(図6)。この移動空間6では、荷物等を配列するための複数のラック(棚)60が配置されている。移動体1は、それぞれのラック60の間を通路61として目標軌道STに沿って走行する。   In the present embodiment, the moving body 1 moves as a moving space 6 in a physical distribution warehouse (FIG. 6). In this movement space 6, a plurality of racks (shelves) 60 for arranging luggage and the like are arranged. The moving body 1 travels along the target track ST with the path 61 between the racks 60.

先ず、移動体1が実際に走行する移動空間6(実空間)と同一の3次元モデル(モデル空間)(図6)を3次元モデル作成手段21で作成する(図4のステップS01)。そして、3次元モデル記憶手段11が、この3次元モデルを記憶する。なお、3次元モデルは、実空間と略同一色で作成される。3次元モデル作成手段21は、例えばCADシステムからなる。   First, the same three-dimensional model (model space) (FIG. 6) as the moving space 6 (real space) in which the mobile body 1 actually travels is created by the three-dimensional model creating means 21 (step S01 in FIG. 4). Then, the three-dimensional model storage unit 11 stores the three-dimensional model. Note that the three-dimensional model is created with substantially the same color as the real space. The three-dimensional model creation means 21 is composed of, for example, a CAD system.

3次元モデル作成手段21は、対象物体(ラック)60に配列される荷物を管理する入出庫・在庫管理システム(WMS)22に基づいて、3次元モデルにおける対象物体60に荷物を配置した形状に随時変更する。これにより、常に、実際(実空間)と3次元モデル(モデル空間)との移動空間6における形状や色情報が一致する。色情報は、色相(色度)H、彩度S、明度(輝度)Vからなる。   The three-dimensional model creating means 21 has a shape in which the parcel is arranged on the target object 60 in the three-dimensional model based on a storage / inventory management system (WMS) 22 that manages the parcels arranged on the target object (rack) 60. Change from time to time. As a result, the shape and color information in the moving space 6 between the actual (real space) and the three-dimensional model (model space) always coincide. The color information includes hue (chromaticity) H, saturation S, and lightness (luminance) V.

そして、移動体1が走行する目標軌道STを作成して、目標軌道記憶手段17に目標軌道STを記憶する(図4のステップS02)。   Then, a target trajectory ST on which the mobile body 1 travels is created, and the target trajectory ST is stored in the target trajectory storage means 17 (step S02 in FIG. 4).

図7は、カメラ画像を示す図である。そして、カメラ画像取得手段10は、所定時間tにおいて、カメラ2でカメラ画像Riを取得する(図4のステップS11)。カメラ画像Riは、所定時間tにおける、移動体1の位置(X,Y)及び方向θに対する画像である。 FIG. 7 is a diagram illustrating a camera image. The camera image acquisition unit 10, at predetermined time t, acquiring a camera image Ri t by camera 2 (step S11 in FIG. 4). Camera image Ri t is the predetermined time t, the position of the moving body 1 (X M, Y M) is an image for and the direction theta M.

図8は、二値化したカメラ画像を示す図である。カメラ画像Riの全画素(全ピクセル)をHSV変換して、床面及び壁面の色相Hからなる画素の輝度値Vを「0」に、それ以外の画素の輝度値Vを「1」に変換して二値化処理し、対象物体60を抽出したカメラ画像Riを作成する(図3のステップS3)。なお、床面及び壁面の色相Hが予め設定されているので、対象物体60を抽出した二値化が可能である。 FIG. 8 is a diagram illustrating a binarized camera image. All pixels of the camera image Ri t (total pixels) and HSV conversion, the brightness value V of the pixel composed of the hue H of the floor and the wall to "0", the luminance value V of the other pixels to "1" It converted to binarized to generate a camera image Ri t obtained by extracting the object 60 (step S3 in FIG. 3). Since the hue H of the floor surface and the wall surface is set in advance, binarization by extracting the target object 60 is possible.

そして、所定時間tにおいて、移動体1が目標軌道STに沿って移動するための目標軌道上の目標位置(X,Y)及び方向θを算出する(図4のステップS12)。 Then, at a predetermined time t, the target position (X t , Y t ) and the direction θ t on the target trajectory for the moving body 1 to move along the target trajectory ST are calculated (step S12 in FIG. 4).

そして、所定時間tの目標位置(X,Y)及び方向θの所定範囲内における複数の位置(Xtn,Ytn)及び方向θtnのモデル画像Viを作成する(図4のステップS13)。図5の通り、本実施形態では、所定範囲(W1−W2)は、目標位置(X,Y)を中心とする矩形範囲(円範囲等でもよい)であって、所定間隔Δwごとに、複数の位置(Xtn,Ytn)が設定される(図5の△印)。さらに、それぞれの位置(Xtn,Ytn)ごとに、目標方向θの左右所定角度範囲θwに所定角度間隔Δθごとに、複数のθtnが設定される(図5の×印)。なお、本実施形態では、例えば、W1=W2=200〜600mm、Δw=10〜50mm、θw=1〜10°、Δθ=0.1〜1.0°である。 Then, a model image Vi t having a plurality of positions (X tn , Y tn ) and a direction θ tn within a predetermined range of the target position (X t , Y t ) and the direction θ t for a predetermined time t is created (FIG. 4). Step S13). As shown in FIG. 5, in the present embodiment, the predetermined range (W1-W2) is a rectangular range (may be a circular range or the like) centered on the target position (X t , Y t ), and every predetermined interval Δw. A plurality of positions (X tn , Y tn ) are set (Δ mark in FIG. 5). Further, for each position (X tn , Y tn ), a plurality of θ tn is set in the left and right predetermined angle range θw of the target direction θ t for each predetermined angle interval Δθ (marked with x in FIG. 5). In the present embodiment, for example, W1 = W2 = 200 to 600 mm, Δw = 10 to 50 mm, θw = 1 to 10 °, and Δθ = 0.1 to 1.0 °.

図9は、モデル画像を示す図である。モデル画像作成手段15は、予め記憶した3次元モデルに基づいて、移動体1の任意の位置及び方向におけるカメラ高さHから見た2次元のモデル画像を作成する。従って、モデル画像作成手段15が、上記の複数の位置(Xtn,Ytn)及び方向θtnのモデル画像Viを作成する。 FIG. 9 is a diagram illustrating a model image. The model image creating means 15 creates a two-dimensional model image viewed from the camera height H at an arbitrary position and direction of the moving body 1 based on a previously stored three-dimensional model. Therefore, the model image creating means 15 creates a plurality of positions of the (X tn, Y tn) a and a direction theta tn model image Vi t of.

モデル画像Viにおいても、カメラ画像Riと同様に、全画素(全ピクセル)をHSV変換して、床面及び壁面の色相Hからなる画素の輝度値Vを「0」に、それ以外の画素の輝度値Vを「1」に変換して二値化処理し、対象物体60を抽出したモデル画像Viθiを作成する(図10)。図10は、二値化したモデル画像を示す図である。 Also in the model image Vi t, similar to the camera image Ri t, all the pixels (all pixels) and HSV conversion, the brightness value V of the pixel composed of the hue H of the floor and the wall to "0", otherwise The luminance value V of the pixel is converted to “1” and binarized to create a model image Vi θi from which the target object 60 is extracted (FIG. 10). FIG. 10 is a diagram illustrating a binarized model image.

そして、一致度算出手段16が、カメラ画像Riと各モデル画像Viとの比較を行う(図4のステップS14)。図11は、カメラ画像とモデル画像とを比較する状態を示す図である。そして、カメラ画像Riと各モデル画像Viとの一致度CViを求める(図4のステップS15)。一致度CViは、カメラ画像Riと各モデル画像Viとにおける特徴量(輝度値V「0」)の画素に基づいて、全画素に対する一致する画素の割合を採用する。 Then, the matching degree calculating unit 16, and compares the camera image Ri t and the model image Vi t (step S14 in FIG. 4). FIG. 11 is a diagram illustrating a state in which the camera image and the model image are compared. Then, a matching degree CVi the camera image Ri t and the model image Vi t (step S15 in FIG. 4). Matching degree CVi is feature quantity at the camera image Ri t and the model image Vi t based on the pixel of the (luminance value V "0"), employing a ratio of pixels to match for all the pixels.

そして、最も一致度CViの高い一つのモデル画像Viを採用して、そのモデル画像Viにおける(Xtn,Ytn)及び方向θtnを、所定時間tにおける移動体1の自己位置(X,Y)及び方向θとして決定する(図4のステップS16)。この自己位置(X,Y)及び方向θに基づいて、予め記憶された目標軌道STに沿って移動体1が追従するように、操舵モータ40及び走行モータ50を制御する(図4のステップS17)。即ち、移動体1が、所定時間t+1における、目標軌道上の目標位置(Xt+1,Yt+1)及び方向θt+1に向かって走行するように制御する。 And the most matching degree higher one employs a model image Vi t of the CVi, (X tn, Y tn ) in the model image Vi t and direction theta tn, the self-position of the moving body 1 at a predetermined time t (X R , Y R ) and direction θ R are determined (step S16 in FIG. 4). Based on the self-position (X R , Y R ) and the direction θ R , the steering motor 40 and the traveling motor 50 are controlled so that the moving body 1 follows along the previously stored target trajectory ST (FIG. 4). Step S17). That is, the moving body 1 is controlled to travel toward the target position (X t + 1 , Y t + 1 ) on the target trajectory and the direction θ t + 1 at the predetermined time t + 1.

なお、上記では、完全に一致する色相Hに基づいて識別したが、ある程度の幅をもった色相H±Δhに一致する画素を対象にして算出してもよい。また、上記では、カメラ画像Riとモデル画像Viとを色相Hに基づいて二値化処理して、一致度CViを算出したが、二値化処理せずに、それぞれの画素における色情報の一致度CViで算出してもよい。その場合、色相Hのみで識別するのではなく、例えば、グレー系に関しては明度(輝度)Vで識別する等、色の種類によって、色相H、彩度S、明度Vのいずれか又はそれらを組合わせて識別することもできる。 In the above description, the identification is performed based on the completely matching hue H, but it may be calculated for pixels matching the hue H ± Δh having a certain width. Further, in the above, by binarizing based on a camera image Ri t and the model image Vi t to the hue H, it was calculated matching degree CVi, without binarizing the color information in each pixel The degree of coincidence CVi may be calculated. In that case, one of hue H, saturation S, and brightness V, or a combination of them, depending on the type of color, such as identifying with gray (brightness) V, for example, instead of identifying with hue H alone. They can also be identified.

[第2実施形態]
第2実施形態について説明する。なお、第1実施形態と同じ内容については、詳細な説明を省略する。
図12は、第2実施形態の自己位置認識システムを示すブロック図である。図13及び図14は、第2実施形態の自己位置認識手法を説明するフローチャート図である。
[Second Embodiment]
A second embodiment will be described. Detailed description of the same contents as those in the first embodiment will be omitted.
FIG. 12 is a block diagram illustrating a self-position recognition system according to the second embodiment. 13 and 14 are flowcharts for explaining the self-position recognition method of the second embodiment.

先ず、移動体1が走行する移動空間6と同一の3次元モデル(図6)を3次元モデル作成手段21で作成する(図13のステップS01)。そして、移動体1が走行する目標軌道STを目標軌道記憶手段17に記憶する(図13のステップS02)。   First, the same three-dimensional model (FIG. 6) as the moving space 6 in which the moving body 1 travels is created by the three-dimensional model creating means 21 (step S01 in FIG. 13). Then, the target trajectory ST on which the mobile body 1 travels is stored in the target trajectory storage means 17 (step S02 in FIG. 13).

カメラ画像取得手段10は、所定時間tにおいて、カメラ2でカメラ画像Riを取得する(図13のステップS21)。カメラ画像Riは、所定時間tにおける、移動体1の位置(X,Y)及び方向θの画像である(図7)。 Camera image acquisition unit 10, at predetermined time t, acquiring a camera image Ri t by camera 2 (step S21 in FIG. 13). Camera image Ri t is the predetermined time t, the position of the moving body 1 (X M, Y M) and the direction theta M image (FIG. 7).

[基準線rRL、lRLの位置]
図15は、基準線を規定したカメラ画像を示す図である。基準線規定手段12は、二値化したカメラ画像Ri(図8)における、対象物体(ラック)60と正面壁との境界によって形成される境界垂直線を基準線rRL、lRLと規定する(図13のステップS23)。本実施形態では、対象物体60は、垂直方向及び水平方向に延設する支柱等を組み立てて形成されるラック(棚)なので、境界垂直線が現れる。図15の通り、カメラ画像Ri内での座標系をIX−IY座標とし、基準線rRL、lRLの位置はIX軸方向の座標値とする。
[Position of reference lines rRL t , lRL t ]
FIG. 15 is a diagram illustrating a camera image that defines a reference line. The reference line defining means 12 defines the boundary vertical lines formed by the boundary between the target object (rack) 60 and the front wall in the binarized camera image Ri t (FIG. 8) as the reference lines rRL t and lRL t. (Step S23 in FIG. 13). In the present embodiment, the target object 60 is a rack (shelf) formed by assembling columns and the like extending in the vertical direction and the horizontal direction, so that a boundary vertical line appears. As Figure 15, the coordinate system in the camera image Ri t and IX-IY coordinates, the reference line RRL t, the position of the LRL t is the coordinate value of the IX-axis direction.

なお、境界垂直線は、移動体の位置等によっては1箇所しか現れない場合もある。また、境界垂直線は、対象物体60の形状によって設定が異なり、例えば、対象物体60と正面壁との境界が円弧の場合、その先端部分に接する垂直線としてもよい。   Note that there may be only one boundary vertical line depending on the position of the moving object. Further, the setting of the boundary vertical line differs depending on the shape of the target object 60. For example, when the boundary between the target object 60 and the front wall is an arc, the boundary vertical line may be a vertical line in contact with the tip portion.

カメラ画像Riにおいて、通路中心線Cptー1を設定する。通路中心線Cptー1は、所定時間t−1において決定した移動体1の位置(X,Y)及び方向θに基づいて、時間t−1における通路61の中心位置(IX軸方向における各基準線rRLt−1、lRLt−1の間の中央位置)を採用する。 In the camera image Ri t, it sets the passage center line Cp t-1. The passage center line Cp t-1 is based on the position (X M , Y M ) and the direction θ M of the moving body 1 determined at the predetermined time t−1 and the center position (IX axis) of the passage 61 at the time t−1. The center position between each reference line rRL t-1 and lRL t-1 in the direction is adopted.

カメラ画像における基準線位置特定手段13は、次の手順により基準線rRL、lRLの位置を特定する。カメラ画像Riにおいて、通路中心線Cptー1の左右に対象物体60が存在する探索高さ範囲Raを設定する。探索高さ範囲Ra内において、カメラ画像Riにおける通路中心線Cptー1から、IY軸方向における所定画素間隔ごとに、IX軸方向に向けて探索を行い、対象物体60と識別される(輝度値V「1」と識別される)左右の位置を特定する。 The reference line position specifying means 13 in the camera image specifies the positions of the reference lines rRL t and lRL t by the following procedure. In the camera image Ri t, it sets a search height range Ra present the target object 60 to the left and right of the passage center line Cp t-1. In the search height range Ra, from the passage center line Cp t-1 in the camera image Ri t, for each predetermined pixel interval in the IY direction, carries out the search towards the IX axis direction is identified as the target object 60 ( Identify left and right positions (identified as luminance value V "1").

そして、左右それぞれに対して特定された各位置をソートし、信頼性の低い上位量1/4の位置と下位量1/4の位置とを除き、中位量1/2の位置について平均値を求め、その値を左右の基準線rRL、lRLの位置と特定する。 Then, the respective positions specified for the left and right are sorted, and the average value for the position of the intermediate amount 1/2 is excluded except for the position of the upper amount 1/4 and the position of the lower amount 1/4 with low reliability. And the value is specified as the position of the left and right reference lines rRL t and lRL t .

上記した通路中心線Cptー1からの位置に基づいて、カメラ画像Riにおける画像中心垂直線から左右の基準線rRL、lRLの距離Wpa、Wpbを特定する(図13のステップS24)。 Based on the position of the passage center line Cp t-1 described above, the reference line RRL t of the left and right from the image center vertical line in the camera image Ri t, distance LRL t Wpa, identifies the Wpb (step S24 in FIG. 13) .

そして、所定時間tにおいて、移動体1が目標軌道STに沿って移動するための目標軌道上の目標位置(X,Y)及び方向θを算出する(図13のステップS22)。 Then, at a predetermined time t, the target position (X t , Y t ) and the direction θ t on the target trajectory for the moving body 1 to move along the target trajectory ST are calculated (step S22 in FIG. 13).

図16は、基準線と移動体との位置関係を示す平面図である。3次元モデルにおける基準線位置特定手段14は、モデル空間内における基準線rRL、lRLの位置座標(Xq,Yq)、(Xp,Yp)を特定する(図13のステップS25)。この位置座標(Xq,Yq)、(Xp,Yp)は、所定時間tにおける目標位置(X,Y)及び方向θを算出することにより(図13のステップS22)、対象物体60の位置を推定して特定できる。 FIG. 16 is a plan view showing the positional relationship between the reference line and the moving object. The reference line position specifying means 14 in the three-dimensional model specifies the position coordinates (Xq, Yq), (Xp, Yp) of the reference lines rRL t and lRL t in the model space (step S25 in FIG. 13). The position coordinates (Xq, Yq) and (Xp, Yp) are calculated by calculating the target position (X t , Y t ) and the direction θ t at a predetermined time t (step S22 in FIG. 13). The position can be estimated and specified.

モデル空間内における基準線rRL、lRLと移動体1との位置関係(図16)に基づいて、次の(1)式〜(3)式が導かれる。 Based on the positional relationship between the reference lines rRL t and lRL t in the model space and the moving body 1 (FIG. 16), the following expressions (1) to (3) are derived.

・・・(1) ... (1)

・・・(2) ... (2)

・・・(3) ... (3)

ここで、(X,Y)及びθはモデル空間内での移動体1の位置及び方向である。Fはカメラ2の焦点距離である。 Here, (X M , Y M ) and θ M are the position and direction of the moving body 1 in the model space. F is the focal length of the camera 2.

上記の通り、Wpa、Wpbは、カメラ画像Riに基づいて特定される(図13のステップS24)。また、Fはカメラ2のスペックで特定される。これらを(2)式及び(3)式に入力することによりα、βが特定される。 As described above, Wpa, Wpb is specified based on the camera image Ri t (step S24 in FIG. 13). F is specified by the specifications of the camera 2. By inputting these into the equations (2) and (3), α and β are specified.

さらに、上記の通り、(Xq,Yq)、(Xp,Yp)は、3次元モデルに基づいて特定される(図13のステップS25)。これらより、(1)式に基づいて、移動体1の方向θを任意に決めると、移動体1の位置(X,Y)が一義的に決定される。 Furthermore, as described above, (Xq, Yq) and (Xp, Yp) are specified based on the three-dimensional model (step S25 in FIG. 13). Accordingly, when the direction θ M of the moving body 1 is arbitrarily determined based on the expression (1), the position (X M , Y M ) of the moving body 1 is uniquely determined.

モデル画像作成手段15は、3次元モデルに基づいて、移動体1の任意の位置及び方向におけるカメラ高さHから見たモデル画像を作成する(図9)。   The model image creating means 15 creates a model image viewed from the camera height H at an arbitrary position and direction of the moving body 1 based on the three-dimensional model (FIG. 9).

[モデル空間における移動体1の方向θ
次に、基準線rRL、lRLの拘束を行って、移動体1の方向θを認識する手順について説明する。先ず、所定時間t−1において認識した移動体1の方向θを基準方向とする。基準方向θを中心とする任意の角度Ψを探索角度範囲とする。この探索角度範囲Ψを所定数(本例では7つ)に等分割し、φi(i=1,2,・・・,7)からなる集合Sφを決定する。Sφを(4)式に示す。
[Direction θ M of moving body 1 in model space]
Next, a procedure for recognizing the direction θ M of the moving body 1 by restraining the reference lines rRL t and lRL t will be described. First, the reference direction the direction theta L of the moving body 1 recognized in the predetermined time t-1. Any angle Ψ about the reference direction theta L and search angle range. This search angle range Ψ is equally divided into a predetermined number (seven in this example), and a set S φ composed of φi (i = 1, 2,..., 7) is determined. is shown in equation (4).

・・・(4) ... (4)

このφiをモデル空間内での移動体1の方向として、(1)式からモデル空間内での移動体1の位置(Xφi,Yφi)を決定する。そして、この決定したモデル空間内での移動体1の位置(Xφi,Yφi)及び方向φiに基づいて、モデル画像作成手段15でモデル画像Viφiを作成する(図13のステップS26)。 With this φi as the direction of the moving body 1 in the model space, the position (X φi , Y φi ) of the moving body 1 in the model space is determined from the equation (1). Based on the determined position ( Xφi , Yφi ) and direction φi of the moving body 1 in the model space, the model image creating means 15 creates a model image Viφi (step S26 in FIG. 13).

全画素(全ピクセル)をHSV変換して、床面及び壁面の色相Hからなる画素の輝度値Vを「0」に、それ以外の画素の輝度値Vを「1」に変換して二値化処理し、対象物体60のみを抽出した、特徴量のみのモデル画像Viφiを作成する(図10)。 All pixels (all pixels) are subjected to HSV conversion, and the luminance value V of the pixel composed of the hue H of the floor surface and the wall surface is converted to “0”, and the luminance value V of the other pixels is converted to “1” to be binary. The model image Vi φi having only the feature amount is extracted by extracting the target object 60 (FIG. 10).

そして、一致度算出手段16が、カメラ画像Riとモデル画像Viθiとの比較を行って(図11)、一致度CViを求める(図13のステップS27)。なお、一致度CViは、カメラ画像Riとモデル画像Viφiとにおける特徴量(輝度値V「0」)の画素に基づいて、全画素に対する一致する画素の割合を採用する。 Then, the matching degree calculating unit 16, performs comparison of the camera image Ri t and the model image Vi .theta.i (FIG. 11), determining the degree of matching CVi (step S27 in FIG. 13). Incidentally, the degree of coincidence CVi is feature quantity at the camera image Ri t and the model image Vi .phi.i based on pixels (luminance value V "0"), employing a ratio of pixels to match for all the pixels.

これまでの手順(図13のステップS26及びS27)をそれぞれの方向φ〜φで繰り返し行い、これによって得られるカメラ画像Riとモデル画像Viφ1〜7と比較して、それぞれの一致度CV〜CVを求める。 Repeated previous procedure (steps S26 and S27 in FIG. 13) in each direction phi 1 to [phi] 7, as compared to the camera image Ri t and the model image Vi Fai1~7 obtained thereby, the respective degree of coincidence CV 1 to CV 7 are obtained.

図17は、任意の方向と一致度との関係を示すグラフ図である。一致度算出手段16は、i=1〜7における方向φiの一致度CViに基づいて、最小二乗法によって3次元曲線f(φ)による近似を行う(図13のステップS28)。そして、3次元曲線f(φ)において極大となる方向φmを求める(図13のステップS29)。   FIG. 17 is a graph showing the relationship between an arbitrary direction and the degree of coincidence. The coincidence degree calculation means 16 performs approximation by the three-dimensional curve f (φ) by the least square method based on the coincidence degree CVi of the direction φi in i = 1 to 7 (step S28 in FIG. 13). Then, a direction φm that is maximum in the three-dimensional curve f (φ) is obtained (step S29 in FIG. 13).

方向φmを新たな基準方向θとして、探索角度範囲をΨ/2として、これまでの手順(図13のステップS26〜S29)を行い、これをn回繰り返して、自己位置認識手段18で、モデル空間における移動体1の方向θを認識する(図13のステップS30)。 The direction φm as a new reference direction theta L, as the search angle range [psi / 2, do the previous steps (Step S26~S29 in FIG. 13), which is repeated once n, self-position recognizer 18 Then, the direction θ M of the moving body 1 in the model space is recognized (step S30 in FIG. 13).

上記より、基準線rRL、lRLの拘束によって移動体1の方向θを認識して、これを(1)式に入力して移動体1の位置(XθM,YθM)を求める。そして、移動体1の位置(X,Y)の認識精度を向上するために、次の手順によって、基準線rRL、lRLの拘束を行わずに、カメラ画像Riと各モデル画像Viθ1〜7とを比較する。 From the above, the direction θ M of the moving body 1 is recognized by the constraints of the reference lines rRL t and lRL t , and this is input to the equation (1) to obtain the position (X θM , Y θM ) of the moving body 1. The position of the moving body 1 (X M, Y M) in order to improve the recognition accuracy, by the following procedure, the reference line RRL t, without constraints LRL t, camera image Ri t and the model image Vi θ1 to 7 are compared.

[モデル空間における移動体1の位置(X,Y)]
次に、移動体1の位置(X,Y)を認識する手順について説明する。任意の変化量δとして、上記で求めた位置(XθM,YθM)を中心とする位置集合(Sx,Sy)を作成する。集合Sxを(5)式とし、集合Syを(6)式とする。従って、位置集合(Sx,Sy)は、集合Sxと集合Syとの全ての組合わせである9(=3×3)箇所の位置となり、位置(XθM,YθM)の周囲位置となる。なお、変化量δは、実空間における約5cmとする。
[Position (X M , Y M ) of the moving object 1 in the model space]
Next, a procedure for recognizing the position (X M , Y M ) of the moving body 1 will be described. As an arbitrary change amount δ, a position set (Sx, Sy) centered on the position (X θM , Y θM ) obtained above is created. The set Sx is expressed by equation (5), and the set Sy is expressed by equation (6). Therefore, the position set (Sx, Sy) is 9 (= 3 × 3) positions that are all combinations of the set Sx and the set Sy, and is a peripheral position of the position (X θM , Y θM ). The amount of change δ is about 5 cm in real space.

・・・(5) ... (5)

・・・(6) ... (6)

9箇所の位置集合(Sx,Sy)のそれぞれについて、モデル画像作成手段15でモデル画像ViθMを作成する(図14のステップS31)。そして、それぞれの9つのモデル画像ViθM とカメラ画像Riとの比較を行い(図11)、一致度算出手段16で一致度CViを求める(図14のステップS32)。そして、最大値となる一致度CViを採用して、位置(XθM,YθM)を決定する(図14のステップS33)。 For each of the nine position sets (Sx, Sy), a model image Vi θM is created by the model image creation means 15 (step S31 in FIG. 14). Then, a comparison between each of the nine model image Vi .theta.M the camera image Ri t (FIG. 11), determining the coincidence degree CVi a match degree calculating section 16 (step S32 in FIG. 14). Then, the position (X θM , Y θM ) is determined using the matching degree CVi that is the maximum value (step S33 in FIG. 14).

さらに、位置(XθM,YθM)を中心とし、任意の変化量をδ/2として、これまでの手順(図14のステップS31〜S33)を行い、これをn回繰り返して、自己位置認識手段18が、モデル空間における移動体1の位置(X,Y)を認識する(図14のステップS34)。 Further, with the position (X θM , Y θM ) as the center, an arbitrary amount of change is set to δ / 2, the previous procedure (steps S31 to S33 in FIG. 14) is performed, and this is repeated n 2 times, The recognition means 18 recognizes the position (X M , Y M ) of the moving body 1 in the model space (step S34 in FIG. 14).

上記では、移動体1の方向θを決定する際に、一致度CViから3次曲線f(φ)による近似を行ったが、移動体1の位置(X,Y)を決定する際にも、一致度CViから3次曲線による近似を行うことができる。 In the above description, when the direction θ M of the moving body 1 is determined, the approximation by the cubic curve f (φ) is performed from the degree of coincidence CVi, but when the position (X M , Y M ) of the moving body 1 is determined. In addition, approximation by a cubic curve can be performed from the degree of coincidence CVi.

[実空間における移動体1の位置(X,Y)及び方向θ
上記より認識されたモデル空間内での移動体1の位置(X,Y)及び方向θから、実空間内での移動体1の位置(X,Y)及び方向θ をそれぞれ(7)式及び(8)式により決定する(図14のステップS35)。
[Position (X R , Y R ) and Direction θ R of Moving Body 1 in Real Space]
From the position (X M , Y M ) and direction θ M of the moving body 1 in the model space recognized from the above, the position (X R , Y R ) and direction θ R of the moving body 1 in real space are obtained. Each is determined by the equations (7) and (8) (step S35 in FIG. 14).

・・・(7) ... (7)

・・・(8) ... (8)

ここで、Kは実空間とモデル空間との縮尺、(X,Y)は実空間とモデル空間とのXY軸方向のオフセット量、λは実空間とモデル空間との回転角、を表す。 Here, K is a scale between the real space and the model space, (X S , Y S ) is an offset amount in the XY axis direction between the real space and the model space, and λ is a rotation angle between the real space and the model space. .

[障害物認識]
障害物認識手段19は、自己位置(X,Y)及び方向θ を認識した後、カメラ画像Riとモデル画像Viに基づいて障害物認識を行う(図14のステップS36)。モデル画像Viは、移動体1の位置(X,Y)及び方向θに基づいて作成する。
[Obstacle recognition]
Obstacle recognition means 19 performs the obstacle recognition self-position (X R, Y R) after recognizing and direction theta R, based on the camera image Ri t and the model image Vi M (step S36 in FIG. 14). The model image Vi M is created based on the position (X M , Y M ) and the direction θ M of the moving body 1.

通路61と壁面からなる領域(対象物体60以外の領域)を、障害物を検出するための領域(検出領域)とする。モデル画像Viにおいて検出領域を抽出する。カメラ画像Riについても検出領域を抽出する。 An area composed of the passage 61 and the wall surface (an area other than the target object 60) is an area for detecting an obstacle (detection area). The detection region is extracted in the model image Vi M. Also extracts a detection region for the camera image Ri t.

そして、カメラ画像Riとモデル画像Viとのそれぞれに対して検出領域内の画素をHSV変換し、それぞれの色相(H)、明度(V)、彩度(S)の差が閾値未満となる画素を除去して、カメラ画像Riの検出領域において、モデル画像Viと異なる色の画素のみを抽出した画像を作成する。そして、この画像において、一定値以上の面積を有する領域がある場合には、その領域を障害物として認識する。 Then, the pixels in the detection region with respect to each of the camera images Ri t and the model image Vi M to HSV conversion, each hue (H), lightness (V), and less than the difference between the threshold of the saturation (S) to remove consisting pixel in the detection region of the camera image Ri t, it creates an image obtained by extracting only the pixels of different colors and model image Vi M. In this image, if there is a region having an area of a certain value or more, the region is recognized as an obstacle.

[目標軌道追従]
目標軌道追従手段20は、上記によって認定した移動体1の位置(X,Y)及び方向θに基づいて、予め記憶された目標軌道ST(走行路)に沿って移動体1が追従するように、操舵モータ40及び走行モータ50を制御する(図14のステップS37)。
[Target trajectory tracking]
Based on the position (X R , Y R ) and the direction θ R of the mobile body 1 identified as described above, the target trajectory tracking means 20 follows the target trajectory ST (traveling path) stored in advance. Thus, the steering motor 40 and the traveling motor 50 are controlled (step S37 in FIG. 14).

そして、所定時間間隔Δtごとに自己位置認識を行って、移動体1が目標軌道STを追従するように制御する。なお、上記手法において、所定時間t−1における種々の値を採用するステップがあるので、スタート時における値(初期値)は予め設定する。   Then, self-position recognition is performed every predetermined time interval Δt, and control is performed so that the moving body 1 follows the target trajectory ST. In the above method, since there are steps of adopting various values at the predetermined time t-1, the value at the start (initial value) is set in advance.

そして、上記の障害物認識手法によって障害物を認識した際には、移動体1が停止する等の所定の処置を取るように、目標軌道追従手段20が、操舵モータ40及び走行モータ50を制御する。   When the obstacle is recognized by the obstacle recognition method described above, the target trajectory tracking means 20 controls the steering motor 40 and the traveling motor 50 so as to take a predetermined measure such as the moving body 1 stopping. To do.

[その他]
上記実施形態では、移動体1に前方に向けたカメラ2からのカメラ画像に基づいて自己位置を認識しているが、後方に向けたカメラ2からのカメラ画像を用いたり、前方からのカメラ画像と組合わせて認識してもよい。
[Others]
In the above-described embodiment, the self-position is recognized based on the camera image from the camera 2 facing the front of the moving body 1, but the camera image from the camera 2 facing the rear is used or the camera image from the front is used. And may be recognized in combination.

また、上記では、ラックが配置された物流倉庫内を移動する無人搬送車について説明したが、座席(対象物体60)が配置されたコンサート会場(移動空間6)内を走行又は歩行する警備ロボット(移動体1)等でも適用でき、本発明の趣旨を逸脱しない範囲内であれば様々な移動体及び移動空間等に採用できる。   In the above description, the automatic guided vehicle moving in the distribution warehouse where the rack is arranged has been described. However, a security robot (running or walking in the concert hall (moving space 6) where the seat (target object 60) is arranged ( The present invention can also be applied to the moving body 1) and the like, and can be employed in various moving bodies and moving spaces as long as it does not depart from the spirit of the present invention.

自己位置認識システムを搭載した移動体を示す図である。It is a figure which shows the mobile body carrying a self-position recognition system. 目標軌道を説明するための図である。It is a figure for demonstrating a target track | orbit. 第1実施形態の自己位置認識システムを示すブロック図である。It is a block diagram which shows the self-position recognition system of 1st Embodiment. 第1実施形態の自己位置認識手法を説明するフローチャート図である。It is a flowchart figure explaining the self-position recognition method of 1st Embodiment. 第1実施形態の比較するモデル画像を説明するための図である。It is a figure for demonstrating the model image which 1st Embodiment compares. 移動空間内の3次元モデルを示す概念図である。It is a conceptual diagram which shows the three-dimensional model in movement space. カメラ画像を示す図である。It is a figure which shows a camera image. 二値化したカメラ画像を示す図である。It is a figure which shows the binarized camera image. モデル画像を示す図である。It is a figure which shows a model image. 二値化したモデル画像を示す図である。It is a figure which shows the binarized model image. カメラ画像とモデル画像とを比較する状態を示す図である。It is a figure which shows the state which compares a camera image and a model image. 第2実施形態の自己位置認識システムを示すブロック図である。It is a block diagram which shows the self-position recognition system of 2nd Embodiment. 第2実施形態の自己位置認識手法を説明するフローチャート図である。It is a flowchart figure explaining the self-position recognition method of 2nd Embodiment. 図13に続くフローチャート図である。It is a flowchart figure following FIG. 基準線を規定したカメラ画像を示す図である。It is a figure which shows the camera image which prescribed | regulated the reference line. 基準線と移動体との位置関係を示す平面図である。It is a top view which shows the positional relationship of a reference line and a mobile body. 任意の方向と一致度との関係を示すグラフ図である。It is a graph which shows the relationship between arbitrary directions and a coincidence degree.

符号の説明Explanation of symbols

1 移動体
2 カメラ
3 コントローラ
6 移動空間
60 対象物体
61 通路
Ri カメラ画像
Vi モデル画像
rRL、lRL 基準線
θ モデル空間における移動体の方向
,Y モデル空間における移動体の位置
θ 実空間における移動体の方向
,Y 実空間における移動体の位置
1 moving space 60 the object 61 passages mobile 2 camera 3 controller 6 Ri t camera image Vi t model image RRL t, LRL t baseline theta M direction X M of the moving object in the model space, the moving body in the Y M model space Position θ R Direction of moving object in real space X R , Y R Position of moving object in real space

Claims (12)

予め記憶された目標軌道に沿って移動空間を移動する移動体の自己位置認識手法であって、
前記移動空間の3次元モデルを作成するステップと、
前記移動空間に対象物体を設置するステップと、
所定時間における前記移動体の位置及び方向からカメラ画像を取得するステップと、
前記所定時間における前記目標軌道上の目標位置及び方向を算出するステップと、
前記カメラ画像における前記対象物体の境界垂直線を基準線に規定するステップと、
前記カメラ画像における画像中心垂直線から前記基準線までの距離を特定するステップと、
前記3次元モデルにおける前記基準線の位置座標を特定するステップと、
前記カメラ画像における前記基準線までの距離と前記3次元モデルにおける前記基準線の位置座標とに基づいて、前記移動体の位置座標を決定するステップと、
前記移動体の位置座標を基準として所定角度範囲における複数の方向のモデル画像を前記3次元モデルから形成するステップと、
この複数のモデル画像と前記カメラ画像との色情報の一致度を算出するステップと、
この各一致度に基づいて、前記移動体の位置及び方向を認識するステップと
を含むことを特徴とする自己位置認識手法。
A mobile body self-position recognition method for moving in a moving space along a pre-stored target trajectory,
Creating a three-dimensional model of the moving space;
Installing a target object in the moving space;
Obtaining a camera image from the position and direction of the moving body at a predetermined time;
Calculating a target position and direction on the target trajectory at the predetermined time;
Defining a boundary vertical line of the target object in the camera image as a reference line;
Identifying a distance from an image center vertical line in the camera image to the reference line;
Identifying the position coordinates of the reference line in the three-dimensional model;
Determining a position coordinate of the moving body based on a distance to the reference line in the camera image and a position coordinate of the reference line in the three-dimensional model;
Forming a model image of a plurality of directions in a predetermined angle range from the three-dimensional model with reference to the position coordinates of the moving body;
Calculating a degree of coincidence of color information between the plurality of model images and the camera image;
And a step of recognizing the position and direction of the moving body based on the degree of coincidence.
前記対象物体が通路を形成する通路形成体であることを特徴とする請求項1に記載の自己位置認識手法。 The self-position recognition method according to claim 1, wherein the target object is a passage forming body that forms a passage. 前記カメラ画像及び前記モデル画像を二値化処理するステップを含むことを特徴とする請求項1又は2に記載の自己位置認識手法。 The camera image and the self-position recognition method according to claim 1 or 2, characterized in that it comprises a step of binarizing the model image. 前記各一致度から2次又は3次曲線に近似して、前記曲線の極大値に基づいて前記移動体の位置及び方向の双方又は一方を認識するステップを含むことを特徴とする請求項1〜のいずれかに記載の自己位置認識手法。 The method includes approximating a quadratic or cubic curve from each degree of coincidence, and recognizing both or one of the position and direction of the moving body based on the maximum value of the curve. 4. The self-position recognition method according to any one of 3 . 前記移動空間の入出庫管理システムからの情報に基づいて、前記3次元モデルにおける前記対象物体の形状を変更するステップを含むことを特徴とする請求項1〜のいずれかに記載の自己位置認識手法。 The self-position recognition according to any one of claims 1 to 4 , further comprising a step of changing a shape of the target object in the three-dimensional model based on information from a storage management system for the moving space. Technique. 前記カメラ画像及び前記モデル画像における前記対象物体以外からなる検出領域を抽出するステップと、この各検出領域を比較するステップと、この比較値と所定の閾値とに基づいて前記移動体の方向における障害物を認識するステップとを含むことを特徴とする請求項1〜のいずれかに記載の自己位置認識手法。 Extracting a detection area other than the target object in the camera image and the model image, comparing each detection area, and an obstacle in the direction of the moving object based on the comparison value and a predetermined threshold self location recognition method according to any one of claims 1 to 5, characterized in that it comprises a step of recognizing objects. 予め記憶された目標軌道に沿って移動空間を移動する移動体の自己位置認識システムであって、
前記移動空間の3次元モデルを作成する手段と、
前記移動空間に対象物体を設置する手段と、
所定時間における前記移動体の位置及び方向からカメラ画像を取得する手段と、
前記所定時間における前記目標軌道上の目標位置及び方向を算出する手段と、
前記カメラ画像における前記対象物体の境界垂直線を基準線に規定する手段と、
前記カメラ画像における画像中心垂直線から前記基準線までの距離を特定する手段と、
前記3次元モデルにおける前記基準線の位置座標を特定する手段と、
前記カメラ画像における前記基準線までの距離と前記3次元モデルにおける前記基準線の位置座標とに基づいて、前記移動体の位置座標を決定する手段と、
前記移動体の位置座標を基準として所定角度範囲における複数の方向のモデル画像を前記3次元モデルから形成する手段と、
この複数のモデル画像と前記カメラ画像との色情報の一致度を算出する手段と、
この各一致度に基づいて、前記移動体の位置及び方向を認識する手段と
を備えたことを特徴とする自己位置認識システム。
A mobile body self-position recognition system that moves in a moving space along a pre-stored target trajectory,
Means for creating a three-dimensional model of the moving space;
Means for installing a target object in the moving space;
Means for acquiring a camera image from the position and direction of the moving body at a predetermined time;
Means for calculating a target position and direction on the target trajectory at the predetermined time;
Means for defining a boundary vertical line of the target object in the camera image as a reference line;
Means for specifying a distance from an image center vertical line in the camera image to the reference line;
Means for specifying position coordinates of the reference line in the three-dimensional model;
Means for determining a position coordinate of the moving body based on a distance to the reference line in the camera image and a position coordinate of the reference line in the three-dimensional model;
Means for forming a model image of a plurality of directions in a predetermined angle range from the three-dimensional model with reference to the position coordinates of the moving body;
Means for calculating the degree of coincidence of the color information between the plurality of model images and the camera image;
A self-position recognition system comprising: means for recognizing the position and direction of the moving body based on the degree of coincidence.
前記対象物体が通路を形成する通路形成体であることを特徴とする請求項7に記載の自己位置認識システム。 The self-position recognition system according to claim 7, wherein the target object is a passage forming body that forms a passage. 前記カメラ画像及び前記モデル画像を二値化処理する手段を備えたことを特徴とする請求項7又は8に記載の自己位置認識システム。 The self-position recognition system according to claim 7 or 8, further comprising means for binarizing the camera image and the model image. 前記各一致度から2次又は3次曲線に近似して、前記曲線の極大値に基づいて前記移動体の位置及び方向の双方又は一方を認識する手段を備えたことを特徴とする請求項7〜9のいずれかに記載の自己位置認識システム。 Approximating said from the coincidence degree in the second or third order curve, claim 7, characterized in that it comprises means for recognizing the position and orientation one or both of the moving object based on the maximum value of the curve The self-position recognition system in any one of -9 . 前記移動空間の入出庫管理システムからの情報に基づいて、前記3次元モデルにおける前記対象物体の形状を変更する手段を備えたことを特徴とする請求項7〜10のいずれかに記載の自己位置認識システム。 The self-position according to any one of claims 7 to 10 , further comprising means for changing the shape of the target object in the three-dimensional model based on information from the storage management system for the moving space. Recognition system. 前記カメラ画像及び前記モデル画像における前記対象物体以外からなる検出領域を抽出する手段と、この各検出領域を比較する手段と、この比較値と所定の閾値とに基づいて前記移動体の方向における障害物を認識する手段とを備えたことを特徴とする請求項7〜11のいずれかに記載の自己位置認識システム。 A means for extracting a detection area other than the target object in the camera image and the model image, a means for comparing the detection areas, and an obstacle in the direction of the moving body based on the comparison value and a predetermined threshold value The self-position recognition system according to any one of claims 7 to 11 , further comprising means for recognizing an object.
JP2008231599A 2008-09-10 2008-09-10 Self-position recognition method and self-position recognition system using 3D model Active JP4806435B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008231599A JP4806435B2 (en) 2008-09-10 2008-09-10 Self-position recognition method and self-position recognition system using 3D model

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008231599A JP4806435B2 (en) 2008-09-10 2008-09-10 Self-position recognition method and self-position recognition system using 3D model

Publications (2)

Publication Number Publication Date
JP2010066934A JP2010066934A (en) 2010-03-25
JP4806435B2 true JP4806435B2 (en) 2011-11-02

Family

ID=42192477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008231599A Active JP4806435B2 (en) 2008-09-10 2008-09-10 Self-position recognition method and self-position recognition system using 3D model

Country Status (1)

Country Link
JP (1) JP4806435B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5707238B2 (en) * 2011-06-02 2015-04-22 株式会社日立製作所 Image search apparatus and image search system
JP5837404B2 (en) * 2011-11-22 2015-12-24 株式会社日立製作所 Image processing apparatus and image processing method
JP5837848B2 (en) * 2012-03-02 2015-12-24 株式会社日立製作所 Image processing apparatus, image processing system, and image processing method
JP6295242B2 (en) * 2013-02-15 2018-03-14 村田機械株式会社 Transport cart, transport cart drive control method, and transport cart drive control program
JP6786922B2 (en) * 2016-07-12 2020-11-18 株式会社リコー Information processing equipment, information processing methods and information processing programs
JP2019207618A (en) * 2018-05-30 2019-12-05 日本電気株式会社 Information processing system
JP7246211B2 (en) * 2019-03-13 2023-03-27 三菱電機株式会社 Inspection support system and inspection support method

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10281743A (en) * 1997-04-01 1998-10-23 Komatsu Ltd Confocal optical device and in-focus position calculating method of the device
JP2001072208A (en) * 1999-08-31 2001-03-21 Nippon Seiki Co Ltd Unmanned vehicle guidance system in warehouse
JP2007316966A (en) * 2006-05-26 2007-12-06 Fujitsu Ltd Mobile robot, its control method and program
JP4958497B2 (en) * 2006-08-07 2012-06-20 キヤノン株式会社 Position / orientation measuring apparatus, position / orientation measuring method, mixed reality presentation system, computer program, and storage medium

Also Published As

Publication number Publication date
JP2010066934A (en) 2010-03-25

Similar Documents

Publication Publication Date Title
JP4806435B2 (en) Self-position recognition method and self-position recognition system using 3D model
JP7469494B2 (en) Method for controlling an automated guided vehicle and a control system configured to carry out said method - Patents.com
Kelly et al. Field and service applications-an infrastructure-free automated guided vehicle based on computer vision-an effort to make an industrial robot vehicle that can operate without supporting infrastructure
US12159428B2 (en) Item detection device, item detection method, and industrial vehicle
CN113342004B (en) Multi-AGV (automatic guided vehicle) scheduling method and system based on artificial intelligence and visual perception
JP7482453B2 (en) Positioning device and mobile object
WO2012166970A1 (en) Deep lane navigation system for automatic guided vehicles
CN115494836B (en) Detection system, processing device, moving body, detection method, and storage medium
JP7179102B2 (en) Mobile object control method, mobile object and program
KR20100108776A (en) System and method for positioning palette of unmanned autonomous guided vehicle
Wang et al. Autonomous pallet localization and picking for industrial forklifts based on the line structured light
KR102564663B1 (en) Coordinates recognition apparatus of automatic guided vehicle and method thereof
EP4206847B1 (en) Control method for mobile object, mobile object, and computer-readable storage medium
CN114894192A (en) Feature code-based double-layer visual servo navigation method
JP2024128140A (en) MOBILE BODY CONTROL METHOD, MOBILE BODY, MOBILE CONTROL SYSTEM, AND PROGRAM
JP2023008297A (en) Identification marker and autonomous vehicle for cargo transfer
CN110291034A (en) Mobile lifting apparatus, apparatus and method
JP7482808B2 (en) MOBILE BODY CONTROL METHOD, MOBILE BODY, AND PROGRAM
Kazama et al. Fundamental study on road detection method using multi-layered distance data with HOG and SVM
Venkatesh et al. Vision-Based Automated Guided Vehicle
Garibotto et al. Computer vision control of an intelligent forklift truck
US12466068B1 (en) Filtering object detection based on agreement with environment and related technology
Kita et al. Enhancing robustness of image measurement method for navigating an AGF to a pallet for real site use
EP4443262A1 (en) Mobile unit control system
Köhne et al. Methods for autonomous load handling with forklifts: a state-of-the-art review

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110812

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4806435

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250