Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4640499B2 - Grip control device - Google Patents
[go: Go Back, main page]

JP4640499B2 - Grip control device - Google Patents

Grip control device Download PDF

Info

Publication number
JP4640499B2
JP4640499B2 JP2008317250A JP2008317250A JP4640499B2 JP 4640499 B2 JP4640499 B2 JP 4640499B2 JP 2008317250 A JP2008317250 A JP 2008317250A JP 2008317250 A JP2008317250 A JP 2008317250A JP 4640499 B2 JP4640499 B2 JP 4640499B2
Authority
JP
Japan
Prior art keywords
joint
contact point
finger
target
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008317250A
Other languages
Japanese (ja)
Other versions
JP2009056593A (en
Inventor
豊 平野
栄強 劉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2008317250A priority Critical patent/JP4640499B2/en
Publication of JP2009056593A publication Critical patent/JP2009056593A/en
Application granted granted Critical
Publication of JP4640499B2 publication Critical patent/JP4640499B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Manipulator (AREA)

Description

本発明は、任意形状の物体を把持する複数本の指を有するロボットハンドの把持制御装置に関するものである。 The present invention relates to a gripping control device for a robot hand having a plurality of fingers that grip an object of arbitrary shape.

ロボットにより物体を把持する従来技術としては、例えば特許文献1に記載されているものが知られている。この文献に記載のロボット制御装置は、ロボットをマニュアル動作させ、ロボット先端位置を記憶させることにより、移動経路上の代表的な位置・姿勢を表す参照点と運転時のロボット先端の動作位置の参照点に対する相対位置とを教示し、参照点の列で運転時のロボット先端の動作位置経路を指定し、その動作位置経路に従ってワークを把持するものである。
特開平2−59285号公報
As a conventional technique for gripping an object by a robot, for example, one described in Patent Document 1 is known. The robot controller described in this document manually operates the robot and memorizes the robot tip position, thereby referring to a reference point representing a representative position / posture on the movement path and an operating position of the robot tip during operation. It teaches the relative position with respect to a point, designates the movement position path of the robot tip during operation with a row of reference points, and grips the workpiece according to the movement position path.
JP-A-2-59285

しかしながら、上記従来技術においては、把持すべき物体(ワーク)の種類が変わるたびに、どのような動作位置経路が適当かを教示によって決める必要がある。このため、ワークの種類が多いと、教示作業に手間がかかり、効率が悪くなる。また、任意形状のワークに対応するのは困難である。   However, in the above-described prior art, it is necessary to determine by teaching what kind of operation position path is appropriate every time the type of an object (work) to be grasped changes. For this reason, if there are many types of workpieces, the teaching work takes time and the efficiency becomes poor. Moreover, it is difficult to deal with a workpiece having an arbitrary shape.

本発明の目的は、任意形状の物体を確実に且つ効率良く把持することができるロボットハンドの把持制御装置を提供することである。   An object of the present invention is to provide a grip control device for a robot hand that can reliably and efficiently grip an object having an arbitrary shape.

本発明の把持制御装置は、任意形状の物体を把持する複数本の指と、各指の関節を駆動させる複数のアクチュエータとを備えたロボットハンドの把持制御装置であって、画像認識によって、物体上における各指の指先部と接する目標接触点を決定し、目標接触点における物体の表面の法線を求める接触位置設定手段と、各指について、指先部の面部の曲面上に設定された点における前記曲面の法線の方向を求め、前記面部に設定された点のうち、当該点における前記曲面の法線の方向と前記目標接触点における物体の表面の法線の方向との間の誤差を求め、その誤差が最小値となる点を候補接触点とする候補位置選定手段と、目標接触点と候補接触点が接するように関節の目標角度を求める把持姿勢演算手段と、各指について、関節の目標角度に応じてアクチュエータを制御する駆動制御手段と、を備える。 Gripping control device of the present invention, there is provided a gripping control apparatus for a robot hand having a plurality of fingers for gripping an object having an arbitrary shape, and a plurality of actuators for driving the respective finger joints, by image recognition, the object The contact position setting means for determining the target contact point in contact with the fingertip part of each finger and obtaining the normal of the surface of the object at the target contact point, and the point set on the curved surface of the fingertip part for each finger The direction of the normal of the curved surface is determined, and among the points set on the surface portion, the error between the direction of the normal of the curved surface at the point and the direction of the normal of the surface of the object at the target contact point the calculated, and the candidate position location means that the point at which the error is minimum and the candidate contact point, a gripping attitude calculation means for calculating a target angle of the joint so that the target contact point and the candidate contact point is contact for each finger , Joint target angle And a drive control means for controlling the actuator in accordance with.

本発明のロボットハンドの把持制御装置によれば、互いの法線の方向が最も近い目標接触点と候補接触点とが接するように指関節の目標角度を求めるので、その目標角度になるように指関節を駆動すれば任意形状の物体を把持可能な状態とすることができる。   According to the grip control device for a robot hand of the present invention, the target angle of the finger joint is obtained so that the target contact point with the closest normal direction and the candidate contact point are in contact with each other. If the finger joint is driven, an object having an arbitrary shape can be held.

また本発明の把持制御装置では、把持姿勢演算手段が任意座標系における目標接触点と候補接触点との座標差を減少させるように関節の目標角度を求めることも好ましい。目標接触点と候補接触点との座標差を減少させるように指関節の目標角度を求めるので、簡便な計算で目標角度を算出できる。   In the grip control device of the present invention, it is also preferable that the grip posture calculation means obtains the joint target angle so as to reduce the coordinate difference between the target contact point and the candidate contact point in the arbitrary coordinate system. Since the target angle of the finger joint is obtained so as to reduce the coordinate difference between the target contact point and the candidate contact point, the target angle can be calculated by simple calculation.

本発明によれば、任意形状の物体を確実に且つ効率良く把持することができる。   According to the present invention, an object having an arbitrary shape can be reliably and efficiently gripped.

本発明の知見は、例示のみのために示された添付図面を参照して以下の詳細な記述を考慮することによって容易に理解することができる。引き続いて、添付図面を参照しながら本発明の実施の形態を説明する。可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。   The knowledge of the present invention can be easily understood by considering the following detailed description with reference to the accompanying drawings shown for illustration only. Subsequently, embodiments of the present invention will be described with reference to the accompanying drawings. Where possible, the same parts are denoted by the same reference numerals, and redundant description is omitted.

図1は、本発明に係る把持制御装置の一実施形態が適用されるロボットハンドの主要部の外観を示す斜視図である。同図において、ロボットハンド1は、図示しないロボットアームに取り付けられたものであり、任意形状の物体2を把持する4本の指3(親指3A、人差指3B、中指3C、薬指3D)を有している。これらの指3は、図示しないハンド掌部に連結されている。   FIG. 1 is a perspective view showing an external appearance of a main part of a robot hand to which an embodiment of a grip control device according to the present invention is applied. In the figure, a robot hand 1 is attached to a robot arm (not shown) and has four fingers 3 (thumb 3A, index finger 3B, middle finger 3C, ring finger 3D) for gripping an object 2 having an arbitrary shape. ing. These fingers 3 are connected to a hand palm portion (not shown).

親指3Aは、4自由度のリンク系であり、4つの関節4Aと、各関節4Aを駆動させる4つのモータ5Aとを有している。人差指3Bは、3自由度のリンク系であり、4つの関節4Bと、各関節4Bを駆動させる3つのモータ5Bとを有している。最も先端側の関節4Bは、連動関節構造となっている。中指3Cは、3自由度のリンク系であり、4つの関節4Cと、各関節4Cを駆動させる3つのモータ5Cとを有している。最も先端側の関節4Cは、連動関節構造となっている。薬指3Dは、3自由度のリンク系であり、4つの関節4Dと、各関節4Dを駆動させる3つのモータ5Dとを有している。最も先端側の関節4Dは、連動関節構造となっている。各指3A〜3Dは、弾性体からなる曲面状の指先部6A〜6D(以下、指先部6)を有している。   The thumb 3A is a four-degree-of-freedom link system, and includes four joints 4A and four motors 5A that drive each joint 4A. The index finger 3B is a link system with three degrees of freedom, and includes four joints 4B and three motors 5B that drive each joint 4B. The most distal joint 4B has an interlocking joint structure. The middle finger 3C is a link system with three degrees of freedom, and includes four joints 4C and three motors 5C that drive each joint 4C. The most distal joint 4C has an interlocking joint structure. The ring finger 3D is a link system having three degrees of freedom, and includes four joints 4D and three motors 5D that drive the joints 4D. The most distal joint 4D has an interlocking joint structure. Each finger 3A to 3D has curved fingertip portions 6A to 6D (hereinafter referred to as fingertip portion 6) made of an elastic body.

図2は、上記のロボットハンド1の各指3の把持姿勢を制御する把持制御装置を示す構成図である。同図において、把持制御装置7は、複数の6軸力センサ8と、複数のエンコーダ・ポテンショメータ9と、画像認識ユニット10と、ロボットハンド制御ユニット11と、複数のモータドライバ12とを有している。   FIG. 2 is a configuration diagram showing a grip control device that controls the grip posture of each finger 3 of the robot hand 1. In the figure, the grip control device 7 has a plurality of six-axis force sensors 8, a plurality of encoders / potentiometers 9, an image recognition unit 10, a robot hand control unit 11, and a plurality of motor drivers 12. Yes.

6軸力センサ7は、各指3の根元部に設けられ(図1参照)、把持反力を検出する。エンコーダ・ポテンショメータ9は、各モータ5A〜5D(以下、モータ5)に設けられ、各関節4A〜4D(以下、関節4)の角度(関節角度)θを検出する。関節角度θは、図3に示すように、関節4と連結された2本のリンク13の長手方向に延びる線が交差する角度である。   The 6-axis force sensor 7 is provided at the base of each finger 3 (see FIG. 1) and detects a gripping reaction force. The encoder / potentiometer 9 is provided in each of the motors 5A to 5D (hereinafter referred to as the motor 5), and detects an angle (joint angle) θ of each of the joints 4A to 4D (hereinafter referred to as the joint 4). As shown in FIG. 3, the joint angle θ is an angle at which lines extending in the longitudinal direction of the two links 13 connected to the joint 4 intersect.

画像認識ユニット10は、図示はしないが、光源、撮像部及び画像処理部等を有している。画像認識ユニット10は、図3に示すような物体2上における各指3の指先部6と接する目標接触点Pの座標を決定し、その目標接触点Pにおける物体曲面の法線ベクトルV0を求める。法線ベクトルV0は次式で与えられる。

Figure 0004640499

なお、この法線ベクトルV0は、ロボットハンド1の手首(図示せず)に固定された絶対座標系における座標である。 Although not shown, the image recognition unit 10 includes a light source, an imaging unit, an image processing unit, and the like. The image recognition unit 10 determines the coordinates of the target contact point P in contact with the fingertip portion 6 of each finger 3 on the object 2 as shown in FIG. 3, and determines the normal vector V 0 of the object curved surface at the target contact point P. Ask. The normal vector V 0 is given by the following equation.
Figure 0004640499

The normal vector V 0 is a coordinate in an absolute coordinate system fixed to the wrist (not shown) of the robot hand 1.

ロボットハンド制御ユニット11は、把持姿勢演算部14と、制御演算部15とを有している。把持姿勢演算部14は、画像認識ユニット10で予め設定された物体上の目標接触点Pの座標及び法線ベクトルV0を入力し、所定の演算を行い、物体2を把持するための指3の各関節4の目標角度(目標関節角度)を求める。なお、把持姿勢演算部14による演算処理については、後で詳述する。 The robot hand control unit 11 includes a gripping posture calculation unit 14 and a control calculation unit 15. The gripping posture calculation unit 14 inputs the coordinates of the target contact point P on the object preset by the image recognition unit 10 and the normal vector V 0 , performs a predetermined calculation, and a finger 3 for gripping the object 2 The target angle of each joint 4 (target joint angle) is obtained. The calculation processing by the gripping posture calculation unit 14 will be described in detail later.

制御演算部15は、把持姿勢演算部14で求めた各指3の目標関節角度に応じた時系列の関節角度指令値を作成し、この指令値をモータドライバ12に送出する。このとき、エンコーダ・ポテンショメータ9の検出信号を入力し、関節4の角度(関節角度)をフィードバック制御する。また、6軸力センサ8の検出信号を入力し、各指3による把持力をフィードバック制御してもよい。   The control calculation unit 15 creates a time-series joint angle command value corresponding to the target joint angle of each finger 3 obtained by the gripping posture calculation unit 14, and sends this command value to the motor driver 12. At this time, the detection signal of the encoder / potentiometer 9 is input, and the angle of the joint 4 (joint angle) is feedback-controlled. Alternatively, the detection signal of the six-axis force sensor 8 may be input, and the gripping force by each finger 3 may be feedback controlled.

モータドライバ12は、制御演算部15で作成された関節角度指令値に応じた駆動電流を各モータ5に供給して、各モータ5を回転駆動させる。   The motor driver 12 supplies each motor 5 with a drive current corresponding to the joint angle command value created by the control calculation unit 15 to drive each motor 5 to rotate.

次に、ロボットハンド制御ユニット11の把持姿勢演算部14において、ロボットハンド1の把持姿勢を求める考え方について、以下に説明する。   Next, the concept of obtaining the gripping posture of the robot hand 1 in the gripping posture calculation unit 14 of the robot hand control unit 11 will be described below.

(1)指先部の要素分割
図4に示すように、指先部6の表面を要素分割することにより、数多くの格子点Qを生成する。そして、関節4の回転中心を原点とし、指先リンク16に固定されたリンク座標系(ローカル座標系)における各格子点Qの座標のデータベースを予め作成しておく。
(1) Element division of fingertip portion As shown in FIG. 4, many lattice points Q are generated by dividing the surface of the fingertip portion 6 into elements. Then, a coordinate database of each lattice point Q in the link coordinate system (local coordinate system) fixed to the fingertip link 16 with the rotation center of the joint 4 as the origin is created in advance.

(2)絶対座標系における指先部上の格子点座標の計算リンク座標系と絶対座標系(前述)との間の座標変換を行うことにより、指先部6上の格子点Qの絶対座標系における座標を計算する。   (2) Calculation of lattice point coordinates on the fingertip part in the absolute coordinate system By performing coordinate conversion between the link coordinate system and the absolute coordinate system (described above), the lattice point Q on the fingertip part 6 in the absolute coordinate system Calculate the coordinates.

図5に、人差指3b、中指3c、薬指3dの座標系の取り方を示す。同図において、xsss座標系は、上述したようにロボットハンド1の手首に固定された絶対座標系である。x000座標系は、第1関節4aにおけるモータの静止部分に固定された相対座標系である。xiii(i=1〜4)座標系は、第2関節4b、第3関節4c及び第4関節4dの回転軸に固定されたリンク座標系である。 FIG. 5 shows how to take the coordinate system of the index finger 3b, the middle finger 3c, and the ring finger 3d. In the figure, the x s y s z s coordinate system is an absolute coordinate system fixed to the wrist of the robot hand 1 as described above. The x 0 y 0 z 0 coordinate system is a relative coordinate system fixed to the stationary part of the motor in the first joint 4a. The x i y i z i (i = 1 to 4) coordinate system is a link coordinate system fixed to the rotation axes of the second joint 4b, the third joint 4c, and the fourth joint 4d.

iii座標系の原点は、関節4b〜4dまたはモータの中心点に位置している。xiii座標系のz軸は、関節4b〜4dの回転軸に対応している。xiii座標系のx軸は、関節4b〜4dの回転軸に直交し、且つ指先側のリンク16b〜16dの長手方向に延びた軸である。xiii座標系のy軸は、xiii座標系のx軸及びz軸に直交する軸である。各リンク16a〜16cの長さはL1〜L3であり、各関節4a〜4dの関節角度はθ1〜θ4である。ここで、関節4c,4dは連動関節であるため、関節4cの関節角度θ3と関節4dの関節角度θ4とは等しくなっている。 The origin of the x i y i z i coordinate system is located at the center point of the joints 4b to 4d or the motor. The z axis of the x i y i z i coordinate system corresponds to the rotation axis of the joints 4b to 4d. The x axis of the x i y i z i coordinate system is an axis orthogonal to the rotation axis of the joints 4b to 4d and extending in the longitudinal direction of the links 16b to 16d on the fingertip side. x i y i z i coordinate system y axis is an axis perpendicular to the x i y i z i coordinate system x-axis and z-axis. The length of each link 16a~16c is L 1 ~L 3, the joint angles of the joints 4a~4d is theta 1 through? 4. Here, the joint 4c, 4d is because it is interlocked joints, which is equal to the joint angle theta 4 of the joint angle theta 3 and joint 4d of the joint 4c.

指先部6上の任意の格子点jのx444座標系(指先リンク16dのリンク座標系)における座標(xj (4),yj (4),zj (4))は、関節角θiにより変わらず、前記データベースから事前に決められる既知量である。このとき、xsss座標系における格子点jの座標(xj (s),yj (s),zj (s))は、次式で表される。

Figure 0004640499

ここで、s4は、x444座標系からxsss座標系への座標変換行列であり、次式のように隣り合うリンク座標系の座標変換行列により求められる。
Figure 0004640499

ここで、x000座標系は、xsss座標系の各座標軸の並進移動を施すことによって得られるので、s0は次式で表される。
Figure 0004640499
The coordinates (x j (4) , y j (4) , z j (4) ) in the x 4 y 4 z 4 coordinate system (link coordinate system of the fingertip link 16d) of an arbitrary lattice point j on the fingertip part 6 are This is a known amount that is determined in advance from the database without changing according to the joint angle θ i . At this time, the coordinates (x j (s) , y j (s) , z j (s) ) of the lattice point j in the x s y s z s coordinate system are expressed by the following equations.
Figure 0004640499

Here, s T 4 is a coordinate transformation matrix from the x 4 y 4 z 4 coordinate system to the x s y s z s coordinate system, and is obtained by a coordinate transformation matrix of adjacent link coordinate systems as in the following equation. .
Figure 0004640499

Here, since the x 0 y 0 z 0 coordinate system is obtained by performing translational movement of each coordinate axis of the x s y s z s coordinate system, s T 0 is expressed by the following equation.
Figure 0004640499

また、xiii座標系は、xi-1i-1i-1座標系に次のような変換を施すことによって得られる。
(a)xi-1軸に沿ってai-1だけ並進
(b)xi-1軸回りにαi-1だけ回転
(c)回転後のzi-1軸(即ちzi軸)に沿ってdiだけ並進
(d)回転後のzi-1軸(即ちzi軸)回りにθiだけ回転
The x i y i z i coordinate system is obtained by performing the following transformation on the x i−1 y i−1 z i−1 coordinate system.
(A) Translation by a i-1 along x i-1 axis (b) Rotation by α i-1 around x i-1 axis (c) z i-1 axis after rotation (ie, z i axis) Rotate by θ i around the z i-1 axis (ie, z i axis) after translation (d) rotation by d i along

iii座標系からxi-1i-1i-1座標系への座標変換行列i-1iは、以上の(a)〜(d)の同次変換の積で表せる。

Figure 0004640499
The coordinate transformation matrix i-1 T i from the x i y i z i coordinate system to the x i-1 y i-1 z i-1 coordinate system is the product of the above-mentioned homogeneous transformations (a) to (d). It can be expressed as
Figure 0004640499

上記(4)式のパラメータは、表1に示される。

Figure 0004640499
The parameters of the above equation (4) are shown in Table 1.
Figure 0004640499

表1の各パラメータを(4)式に代入して、座標変換行列01122334を計算する。さらに、(3)式と(4)式を(2)式に代入して、座標変換行列s4を計算する。最後に、(2)式を(1)式に代入して、指先部6上の任意点jのxsss座標系(絶対座標系)における座標を得る。 By substituting each parameter of Table 1 into the equation (4), the coordinate transformation matrices 0 T 1 , 1 T 2 , 2 T 3 , and 3 T 4 are calculated. Further, the coordinate transformation matrix s T 4 is calculated by substituting the equations (3) and (4) into the equation (2). Finally, the equation (2) is substituted into the equation (1) to obtain the coordinates of the arbitrary point j on the fingertip portion 6 in the x s y s z s coordinate system (absolute coordinate system).

(3)指先部上の任意点の法線ベクトルの計算
上記と同様な方法で次のように指先部6上の任意点jの法線ベクトルを計算する。s4は4×4行列、sT'4はその左上方の3×3行列である。

Figure 0004640499
(3) Calculation of normal vector of arbitrary point on fingertip part The normal vector of the arbitrary point j on the fingertip part 6 is calculated as follows by the same method as described above. s T 4 is a 4 × 4 matrix, and s T ′ 4 is an upper left 3 × 3 matrix.
Figure 0004640499

一方、任意点jのリンク4のx444座標系における法線ベクトルVj (4)は指先局面により決められる既知量で、次式で表現される。

Figure 0004640499
On the other hand, the normal vector V j (4) in the x 4 y 4 z 4 coordinate system of the link 4 at the arbitrary point j is a known amount determined by the fingertip phase and is expressed by the following equation.
Figure 0004640499

sss座標系(絶対座標系)における法線ベクトルVj (S)は次式で計算される。

Figure 0004640499
The normal vector V j (S) in the x s y s z s coordinate system (absolute coordinate system) is calculated by the following equation.
Figure 0004640499

各関節角度θが与えられる場合に、指先面上の任意点jの座標と法線ベクトルをそれぞれ(1)式及び(7)式で計算する。 When each joint angle θ i is given, the coordinates of the arbitrary point j on the fingertip surface and the normal vector are calculated by equations (1) and (7), respectively.

(4)指先部上の候補接触点の選出
目標接触点Pにおける物体曲面の法線ベクトルV0と平行な法線方向を持つ点であって、指先部6上の点を候補接触点と定義する。この候補接触点Aを求めるために、指先面上の全ての点に対して、次式によって法線方向誤差eを計算する。

Figure 0004640499

指先面上の全ての点における法線方向誤差eを比較し、eが最小値となる点を候補接触点Aとする。 (4) Selection of candidate contact points on the fingertip part A point having a normal direction parallel to the normal vector V 0 of the object curved surface at the target contact point P and defining a point on the fingertip part 6 as a candidate contact point To do. In order to obtain the candidate contact point A, the normal direction error e is calculated for all the points on the fingertip surface by the following equation.
Figure 0004640499

The normal direction errors e at all points on the fingertip surface are compared, and a point where e becomes the minimum value is set as a candidate contact point A.

(4)目標関節角度の逐次計算
ロボットハンド1の手首に固定された絶対座標系であるxsss座標系における目標接触点Pと候補接触点Aとの座標差を、それぞれΔx、Δy、Δzと仮定する。目標接触点Pで把持すれば、座標差Δx、Δy、Δzは同時にゼロとなる。換言すれば、各関節角度を調整して、座標差Δx、Δy、Δzを同時にゼロとすれば、確実に把持状態となる。
(4) Sequential calculation of target joint angle The coordinate difference between the target contact point P and the candidate contact point A in the x s y s z s coordinate system, which is an absolute coordinate system fixed to the wrist of the robot hand 1, is expressed as Δx, Assume Δy and Δz. If gripping at the target contact point P, the coordinate differences Δx, Δy, Δz are simultaneously zero. In other words, if each joint angle is adjusted and the coordinate differences Δx, Δy, Δz are simultaneously set to zero, the gripping state is surely achieved.

本実施形態では、上述のロボットハンド1の第4関節4dを省略することで形態を更に単純化し、3つの自由度を持つ指を例にとって逐次計算の手法を説明する。この逐次計算の手法は、3つの自由度を持つ指の各関節角度の調整量が、座標差Δx、Δy、Δzへ及ぼす影響の寄与率を機構的に考察することに基づいている。この考察に基づいて、簡単な調整則で座標差Δx、Δy、Δzをゼロに収束させ、候補接触点Aを目標接触点Pに一致させて把持状態とするような調整則を検討する。   In the present embodiment, the configuration is further simplified by omitting the fourth joint 4d of the robot hand 1 described above, and a sequential calculation method will be described using a finger having three degrees of freedom as an example. This sequential calculation method is based on mechanistic consideration of the contribution ratio of the effect of the adjustment amount of each joint angle of a finger having three degrees of freedom on the coordinate differences Δx, Δy, Δz. Based on this consideration, an adjustment rule is considered in which the coordinate differences Δx, Δy, Δz are converged to zero with a simple adjustment rule, and the candidate contact point A is matched with the target contact point P to be in the gripping state.

まず、座標差Δx、Δy、Δzのそれぞれの方向(すなわち、xsss座標系におけるx軸方向、y軸方向、z軸方向)に沿った各関節角度に対する寄与率について、図7及び図8を参照しながら説明する。図7は、目標接触点Pと候補接触点Aとの関係をxz平面に投影した図である。図8は、目標接触点Pと候補接触点Aとの関係をyz平面に投影した図である。 First, FIG. 7 shows the contribution ratio for each joint angle along each direction of the coordinate differences Δx, Δy, Δz (that is, the x-axis direction, the y-axis direction, and the z-axis direction in the x s y s z s coordinate system). A description will be given with reference to FIG. FIG. 7 is a diagram in which the relationship between the target contact point P and the candidate contact point A is projected on the xz plane. FIG. 8 is a diagram in which the relationship between the target contact point P and the candidate contact point A is projected onto the yz plane.

図7において、第1関節4aだけを微小角度Δθ回転すれば、Δx、Δy、Δzの3方向における候補接触点Aの変位量Δxθ1、Δyθ1、Δzθ1は次式で与えられる。

Figure 0004640499

ただし、Sは、第1関節4aの回転中心から候補接触点Aまでの距離がxz平面に投影された長さである。 In FIG. 7, if only the first joint 4a is rotated by a minute angle Δθ 1 , the displacement amounts Δx θ1 , Δy θ1 , Δz θ1 of the candidate contact point A in the three directions Δx, Δy, Δz are given by the following equations.
Figure 0004640499

However, S 1 is the length of the distance from the rotation center to the candidate contact point A of the first joint 4a is projected to the xz plane.

また、図8において、第2関節4bだけを微小角度Δθだけ回転すれば、Δx、Δy、Δzの3方向における候補接触点Aの変位量Δxθ2、Δyθ2、Δzθ2は次式で与えられる。

Figure 0004640499

ただし、Sは、第2関節4bの回転中心から候補接触点Aまでの距離がyz平面に投影された長さである。また、αはy軸からのSの立ち上がり角度と等しい角度である。 Further, in FIG. 8, when rotating only the second joint 4b small angle [Delta] [theta] 2, [Delta] x, [Delta] y, the amount of displacement of the candidate contact point A in the three directions of Δz Δx θ2, Δy θ2, Δz θ2 is given by: It is done.
Figure 0004640499

However, S 2 is the length of the distance from the rotation center to the candidate contact point A of the second joint 4b is projected to the yz plane. Α is an angle equal to the rising angle of S 2 from the y-axis.

また、図8において、第3関節4cだけを微小角度Δθだけ回転すれば、Δx、Δy、Δzの3方向における候補接触点Aの変位量Δxθ3、Δyθ3、Δzθ3は次式で与えられる。

Figure 0004640499

ただし、Sは、第3関節4cの回転中心から候補接触点Aまでの距離がyz平面に投影された長さである。また、βはy軸からのSの立ち上がり角度と等しい角度である。 Further, in FIG. 8, when rotating only the third joint 4c small angle [Delta] [theta] 3, [Delta] x, [Delta] y, displacement [Delta] x .theta.3 candidate contact point A in the three directions of Δz, Δy θ3, Δz θ3 is given by: It is done.
Figure 0004640499

However, S 3 is the length of the distance from the rotation center to the candidate contact point A of the third joint 4c is projected to the yz plane. Β is an angle equal to the rising angle of S 3 from the y-axis.

ここで、Δx方向への任意な関節の回転角度Δθ(i=1〜3)の寄与率を次式で定義する。

Figure 0004640499

尚、y方向変位及びz方向変位についても同様に定義できる。 Here, the contribution ratio of the rotation angle Δθ i (i = 1 to 3) of an arbitrary joint in the Δx direction is defined by the following equation.
Figure 0004640499

The y-direction displacement and the z-direction displacement can be defined similarly.

上記(9)〜(12)式をまとめて、Δx、Δy、Δzの各方向における、第1関節4aの回転角度Δθ、第2関節4bの回転角度Δθ、第3関節4cの回転角度Δθの寄与率をまとめると次の表に示すようになる。

Figure 0004640499
Together above (9) to (12), [Delta] x, [Delta] y, in each direction of Delta] z, rotation angle [Delta] [theta] 1 of the first joint 4a, the rotation angle [Delta] [theta] 2 of the second joint 4b, the rotation angle of the third joint 4c The contribution ratio of Δθ 3 is summarized as shown in the following table.
Figure 0004640499

この寄与率解析によって、Δx、Δy、Δzの各方向における誤差を減少させるためにどの関節を動かせば効率がよいかが分かる。すなわち、Δxの方向においてはΔθの寄与率cosθが最も大きいので、第1関節4aを回転させるのが最も効率的である。同様に、Δyの方向においてはΔθの寄与率sinαが最も大きいので、第2関節4bを回転させるのが最も効率的である。同様に、Δzの方向においてはΔθの寄与率cosβが最も大きいので、第3間接4cを回転させるのが最も効率的である。 This contribution ratio analysis shows which joint is efficient to move in order to reduce the error in each direction of Δx, Δy, and Δz. That is, in the direction of Δx, the contribution ratio cos θ 1 of Δθ 1 is the largest, so it is most efficient to rotate the first joint 4a. Similarly, since the contribution rate sin α of Δθ 2 is the largest in the direction of Δy, it is most efficient to rotate the second joint 4b. Similarly, in the direction of Δz, since the contribution ratio cos β of Δθ 3 is the largest, it is most efficient to rotate the third indirect 4c.

上述の考察から、各関節の角度調整値をΔx、Δy、Δzの各方向における誤差に比例して設定すればよいことが分かった。具体的な調整アルゴリズムを次式に示す。

Figure 0004640499

ここで、k1、k2、k3は定数で、各方向における誤差が減少するように正負が設定される。 From the above consideration, it has been found that the angle adjustment value of each joint may be set in proportion to the error in each direction of Δx, Δy, and Δz. A specific adjustment algorithm is shown in the following equation.
Figure 0004640499

Here, k1, k2, and k3 are constants, and positive and negative are set so that an error in each direction is reduced.

引き続いて、ロボットハンド制御ユニット11の把持姿勢演算部14による演算処理手順について図9を参照しながら説明する。図9は、把持姿勢演算部14の演算処理手順を示すフローチャートである。尚、この説明においても、上述のロボットハンド1の第4関節4dを省略することで形態を更に単純化し、3つの自由度を持つ指を例にとって逐次計算の手法を説明する。   Subsequently, a calculation processing procedure by the gripping posture calculation unit 14 of the robot hand control unit 11 will be described with reference to FIG. FIG. 9 is a flowchart illustrating a calculation processing procedure of the gripping posture calculation unit 14. In this description as well, the fourth joint 4d of the robot hand 1 described above is omitted to further simplify the form, and a sequential calculation method will be described using a finger having three degrees of freedom as an example.

まず、画像認識ユニット10によって、物体2上の目標接触点Pの座標を決定し、その目標接触点Pにおける法線ベクトルV0を検出する(ステップS01)。 First, the coordinates of the target contact point P on the object 2 are determined by the image recognition unit 10, and the normal vector V 0 at the target contact point P is detected (step S01).

すると、把持姿勢演算部14に、その物体2上の目標接触点Pの座標と法線ベクトルV0とが入力される。把持姿勢演算部14は、指の各関節角度θ〜θの初期値を設定する(ステップS02)。 Then, the coordinates of the target contact point P on the object 2 and the normal vector V 0 are input to the gripping posture calculation unit 14. The gripping posture calculation unit 14 sets initial values of the finger joint angles θ 1 to θ 3 (step S02).

続いて、各関節角度θ〜θの初期値を上記(1)式に代入して、指先部6上の各点iの座標を計算する。また、(7)式により指先部6上の各点iにおける法線ベクトルViを計算する(ステップS03)。 Subsequently, the initial values of the joint angles θ 1 to θ 3 are substituted into the above equation (1), and the coordinates of each point i on the fingertip portion 6 are calculated. Further, the normal vector V i at each point i on the fingertip portion 6 is calculated by the equation (7) (step S03).

続いて、(8)式に基づいて法線方向誤差eを計算し、指先面上の全ての点における法線方向誤差eを比較し、eが最小値となる点を候補接触点Aとする(ステップS04)。   Subsequently, the normal direction error e is calculated based on the equation (8), the normal direction errors e at all points on the fingertip surface are compared, and the point where e is the minimum value is set as the candidate contact point A. (Step S04).

続いて、候補接触点Pと候補接触点Aとの座標差Δx、Δy、Δzを算出する(ステップS05)。この座標差Δx、Δy、Δzが次式を満たすか否か判断する(ステップS06)。

Figure 0004640499

ここで、εは閾値である。この(14)式を満たさない場合には、関節角を次式に基づいて調整する(ステップS07)。
Figure 0004640499

その後、更に関節角を調整すべくステップS03に戻る。 Subsequently, coordinate differences Δx, Δy, Δz between the candidate contact point P and the candidate contact point A are calculated (step S05). It is determined whether or not the coordinate differences Δx, Δy, Δz satisfy the following equation (step S06).
Figure 0004640499

Here, ε is a threshold value. If this equation (14) is not satisfied, the joint angle is adjusted based on the following equation (step S07).
Figure 0004640499

Thereafter, the process returns to step S03 to further adjust the joint angle.

一方、ステップS06において、(14)式を満たしている場合には、その時に与えた関節角度θ〜θを各関節4の目標関節角度に設定する(ステップS08)。 On the other hand, if the expression (14) is satisfied in step S06, the joint angles θ 1 to θ 3 given at that time are set as the target joint angles of the respective joints 4 (step S08).

以上のような演算処理を各指3A〜3Dについて実行することにより、指3A〜3Dの各関節4の目標関節角度を求め、ロボットハンド1全体としての把持姿勢角度を得る。   By executing the arithmetic processing as described above for each finger 3A to 3D, the target joint angle of each joint 4 of the fingers 3A to 3D is obtained, and the gripping posture angle of the robot hand 1 as a whole is obtained.

このように把持姿勢演算部14で求められた指3A〜3Dの各関節4の目標関節角度は制御演算部15に送られ、制御演算部15において関節角度指令値が作成される。そして、その関節角度指令値は各モータドライバ12に送られ、各モータドライバ12により各モータ5が駆動制御される。これにより、ロボットハンド1の各指3A〜3Dが把持姿勢となり、各指3A〜3Dにより物体2が把持されることとなる(ステップS09)。また、6軸力センサ8の情報に基づいて把持力が制御される(ステップS10)。   Thus, the target joint angle of each joint 4 of the fingers 3A to 3D obtained by the gripping posture calculation unit 14 is sent to the control calculation unit 15, and a joint angle command value is created in the control calculation unit 15. The joint angle command value is sent to each motor driver 12, and each motor 5 is driven and controlled by each motor driver 12. As a result, the fingers 3A to 3D of the robot hand 1 are in the holding posture, and the object 2 is held by the fingers 3A to 3D (step S09). Further, the gripping force is controlled based on information from the six-axis force sensor 8 (step S10).

以上において、画像認識ユニット10は、物体2上における各指3の指先部6と接する目標接触点を決定し、目標接触点における法線ベクトルV0を求める接触位置設定手段を構成する。ロボットハンド制御ユニット11の把持姿勢演算部14は、各指3の指先部6上に設定された任意点の中から、法線ベクトルV0に沿った線の方向に最も近い方向の法線を有する点を候補接触点とする候補位置選定手段として機能する。 In the above, the image recognition unit 10 constitutes a contact position setting unit that determines a target contact point in contact with the fingertip portion 6 of each finger 3 on the object 2 and obtains a normal vector V 0 at the target contact point. The gripping posture calculation unit 14 of the robot hand control unit 11 selects the normal in the direction closest to the direction of the line along the normal vector V 0 from the arbitrary points set on the fingertip part 6 of each finger 3. It functions as a candidate position selection means using a point it has as a candidate contact point.

ロボットハンド制御ユニット11の把持姿勢演算部14は、前記各指3について、目標接触点と候補接触点とが実質的に接するような関節4の目標角度を求める把持姿勢演算手段を構成する。ロボットハンド制御ユニット11の制御演算部15及びモータドライバ12は、各指3について、関節4の目標角度に応じてアクチュエータとしてのモータ5を制御する駆動制御手段を構成する。   The gripping posture calculation unit 14 of the robot hand control unit 11 constitutes a gripping posture calculation unit that calculates a target angle of the joint 4 such that the target contact point and the candidate contact point substantially contact each other with respect to each finger 3. The control calculation unit 15 and the motor driver 12 of the robot hand control unit 11 constitute drive control means for controlling the motor 5 as an actuator according to the target angle of the joint 4 for each finger 3.

以上のように本実施形態にあっては、任意形状の物体2上に設定された目標接触点における法線の方向と沿う方向の法線を有する指先部6上の候補接触点を定め、更にこの目標接触点と候補接触点とが接するように目標関節角度を求め、この目標関節角度に応じて各指3のモータ5を駆動制御する。従って、各指3の指先部6が曲面状をなしている場合であっても、ロボットハンド1はあらゆる形状の物体2を確実に把持することができる。このとき、各指3の目標関節角度は、計算によって自動的に求められるので、ロボットハンド1の動作に関する教示作業が不要であり、これにより物体2を効率良く把持することが可能となる。   As described above, in the present embodiment, candidate contact points on the fingertip portion 6 having normals in the direction along the normal direction at the target contact points set on the object 2 having an arbitrary shape are determined. A target joint angle is obtained so that the target contact point and the candidate contact point are in contact with each other, and the motor 5 of each finger 3 is driven and controlled according to the target joint angle. Therefore, even if the fingertip portion 6 of each finger 3 has a curved surface shape, the robot hand 1 can reliably hold the object 2 having any shape. At this time, since the target joint angle of each finger 3 is automatically obtained by calculation, teaching work relating to the operation of the robot hand 1 is not necessary, and the object 2 can be gripped efficiently.

また、関節角度の調整量Δθを決定するために、(15)式のような簡便な数式を用いることができるので、例えば、評価関数の導関数を求めるといった手法に比較して簡便な計算で調整量を求めることができる。   In addition, since a simple mathematical expression such as the expression (15) can be used to determine the adjustment amount Δθ of the joint angle, for example, the calculation is simpler than the technique of obtaining the derivative of the evaluation function. An adjustment amount can be obtained.

関節角度の調整量Δθが座標差に比例するので、指先から物体が離れている場合には大きなステップで早く接近させることができる。一方、指先が物体に近づいた場合には小牧ステップで正確に収束することにより、探索の効率が向上する。   Since the adjustment amount Δθ of the joint angle is proportional to the coordinate difference, when the object is away from the fingertip, the joint angle can be quickly approached in a large step. On the other hand, when the fingertip approaches the object, the search efficiency is improved by accurately converging at the Komaki step.

また、上記実施形態のロボットハンドは4本の指を有するものであるが、指の数は複数本であればよく、また各指の関節数及び自由度数も、特に上記のものには限られない。   In addition, the robot hand of the above embodiment has four fingers, but the number of fingers may be plural, and the number of joints and the number of degrees of freedom of each finger are particularly limited to those described above. Absent.

本実施形態のロボットハンドの主要部の外観を示す図である。It is a figure which shows the external appearance of the principal part of the robot hand of this embodiment. 本実施形態の把持制御装置の構成を示す図である。It is a figure which shows the structure of the holding | grip control apparatus of this embodiment. ロボットハンドの指と物体との位置姿勢関係を示す図である。It is a figure which shows the position and orientation relationship between the finger | toe of a robot hand and an object. ロボットハンドの要素分割を示す図である。It is a figure which shows the element division | segmentation of a robot hand. ロボットハンドの人差指、中指、薬指の絶対座標系とリンク座標系を示す図である。It is a figure which shows the absolute coordinate system and link coordinate system of the index finger of a robot hand, a middle finger, and a ring finger. ロボットハンドの親指の絶対座標系とリンク座標系を示す図である。It is a figure which shows the absolute coordinate system and link coordinate system of the thumb of a robot hand. ロボットハンドの候補接触点と目標接触点との誤差を収斂させる方法を説明するための図である。It is a figure for demonstrating the method of converging the error of the candidate contact point of a robot hand, and a target contact point. ロボットハンドの候補接触点と目標接触点との誤差を収斂させる方法を説明するための図である。It is a figure for demonstrating the method of converging the error of the candidate contact point of a robot hand, and a target contact point. 図2に示す把持姿勢演算部の演算処理手順を説明するためのフローチャートである。It is a flowchart for demonstrating the calculation processing procedure of the holding | grip attitude | position calculating part shown in FIG.

符号の説明Explanation of symbols

1…ロボットハンド、2…物体、3…指、3A…親指、3B…人差指、3C…中指、3D…薬指、4…関節、5…モータ、6…指先部、7…把持制御装置、8…6軸力センサ、10…画像認識ユニット、11…ロボットハンド制御ユニット、12…モータドライバ、14…把持姿勢演算部、15…制御演算部。   DESCRIPTION OF SYMBOLS 1 ... Robot hand, 2 ... Object, 3 ... Finger, 3A ... Thumb, 3B ... Index finger, 3C ... Middle finger, 3D ... Ring finger, 4 ... Joint, 5 ... Motor, 6 ... Finger tip part, 7 ... Grip control apparatus, 8 ... 6-axis force sensor, 10 ... image recognition unit, 11 ... robot hand control unit, 12 ... motor driver, 14 ... gripping posture calculation unit, 15 ... control calculation unit.

Claims (2)

任意形状の物体を把持する複数本の指と、前記各指の関節を駆動させる複数のアクチュエータとを備え、前記各指は先端に前記物体を把持するための曲面状の面部を有した非円筒状の指先部を有する、ロボットハンドの把持制御装置であって、
画像認識によって、前記物体上における前記各指の指先部と接する目標接触点を決定し、前記目標接触点における前記物体の表面の法線を求める接触位置設定手段と、
前記各指について、前記指先部の前記面部の曲面上に設定された点における前記曲面の法線の方向を求め、前記面部に設定された点のうち、当該点における前記曲面の法線の方向と前記目標接触点における前記物体の表面の法線の方向との間の誤差を求め、その誤差が最小値となる点を候補接触点とする候補位置選定手段と、
前記目標接触点と前記候補接触点が接するように前記関節の目標角度を求める把持姿勢演算手段と、
前記各指について、前記関節の目標角度に応じて前記アクチュエータを制御する駆動制御手段と、を備える把持制御装置。
A non-cylindrical body comprising a plurality of fingers for gripping an object of arbitrary shape and a plurality of actuators for driving the joints of the fingers, each finger having a curved surface portion for gripping the object at the tip A gripping control device for a robot hand having a fingertip portion ,
A contact position setting means for determining a target contact point in contact with a fingertip portion of each finger on the object by image recognition, and obtaining a normal line of the surface of the object at the target contact point;
For each finger, the direction of the normal of the curved surface at a point set on the curved surface of the surface of the fingertip is obtained, and the direction of the normal of the curved surface at that point among the points set on the surface And a candidate position selecting means for determining a point between which the error is a minimum value as a candidate contact point ,
A gripping posture calculation means for obtaining a target angle of the joint so that the target contact point and the candidate contact point are in contact with each other;
A grip control device comprising: a drive control unit that controls the actuator according to a target angle of the joint for each finger.
前記把持姿勢演算手段は、任意座標系における前記目標接触点と前記候補接触点との座標差を減少させるように前記関節の目標角度を求める、請求項1に記載の把持制御装置。   The grip control apparatus according to claim 1, wherein the grip posture calculation unit obtains a target angle of the joint so as to reduce a coordinate difference between the target contact point and the candidate contact point in an arbitrary coordinate system.
JP2008317250A 2008-12-12 2008-12-12 Grip control device Expired - Fee Related JP4640499B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008317250A JP4640499B2 (en) 2008-12-12 2008-12-12 Grip control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008317250A JP4640499B2 (en) 2008-12-12 2008-12-12 Grip control device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2004156670A Division JP2005335010A (en) 2004-05-26 2004-05-26 Grip control device

Publications (2)

Publication Number Publication Date
JP2009056593A JP2009056593A (en) 2009-03-19
JP4640499B2 true JP4640499B2 (en) 2011-03-02

Family

ID=40552802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008317250A Expired - Fee Related JP4640499B2 (en) 2008-12-12 2008-12-12 Grip control device

Country Status (1)

Country Link
JP (1) JP4640499B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101228279B1 (en) * 2011-03-31 2013-01-30 성균관대학교산학협력단 finger gait planning method of robotic hands and finger gait planning apparatus of robotic hands
JP5829103B2 (en) * 2011-11-04 2015-12-09 本田技研工業株式会社 Robot hand
JP7021620B2 (en) * 2018-09-07 2022-02-17 オムロン株式会社 Manipulators and mobile robots
JP2022033660A (en) * 2020-08-17 2022-03-02 ソニーグループ株式会社 Information processing device, information processing method and computer program
CN114083535B (en) * 2021-11-18 2023-06-13 清华大学 Physical measurement method and device for grasping gesture quality of robot

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61182786A (en) * 1985-02-08 1986-08-15 株式会社日立製作所 Automatic object gripping method using parallel grippers
JPH06104310B2 (en) * 1989-04-19 1994-12-21 工業技術院長 Actuation method in a three-finger hand device
JPH03130392U (en) * 1990-04-12 1991-12-27
JPH05337860A (en) * 1992-06-05 1993-12-21 Toyota Central Res & Dev Lab Inc Robot hand teaching device and robot hand
JP3904036B2 (en) * 1996-05-17 2007-04-11 株式会社安川電機 Multi-finger multi-joint hand control device
JPH11198076A (en) * 1998-01-05 1999-07-27 Kubota Corp Holding position discriminating device and sorting device
JP2002036159A (en) * 2000-07-21 2002-02-05 Kansai Tlo Kk Control method of robot hand
JP2002200588A (en) * 2000-12-28 2002-07-16 Denso Corp Method and apparatus for detecting gripping position of grippable part by robot
JP2003094367A (en) * 2001-09-21 2003-04-03 Ricoh Co Ltd Robot hand with hand vision

Also Published As

Publication number Publication date
JP2009056593A (en) 2009-03-19

Similar Documents

Publication Publication Date Title
US10456917B2 (en) Robot system including a plurality of robots, robot controller and robot control method
CN104589354B (en) Robot controller, robot system and robot
US9073211B2 (en) Control system and teaching method for seven-axis articulated robot
JP5114019B2 (en) Method for controlling the trajectory of an effector
Kofman et al. Teleoperation of a robot manipulator using a vision-based human-robot interface
JP5533727B2 (en) Work picking system
JP5733882B2 (en) Robot and its cooperative work control method
JP2014024162A (en) Robot system, robot control device, robot control method and robot control program
JP4033050B2 (en) Robot hand gripping control device
US20170066137A1 (en) Control device, robot, and robot system
JP4640499B2 (en) Grip control device
JP7144754B2 (en) Articulated robots and articulated robot systems
US11951625B2 (en) Control method for robot and robot system
JPS6358505A (en) Robot controller
JP2005335010A (en) Grip control device
JP3884249B2 (en) Teaching system for humanoid hand robot
JP7396829B2 (en) Device, robot control device, robot system, and method for setting robot coordinate system
JPWO2019065427A1 (en) Robot hand system control method and robot hand system
JP2015085499A (en) Robot, robot system, control apparatus and control method
JPH0693209B2 (en) Robot's circular interpolation attitude control device
US11712803B2 (en) Teaching method
JP4715296B2 (en) Robot hand holding and gripping control method.
JP6381200B2 (en) Robot apparatus and robot control method
JP7259487B2 (en) Control method and robot system
US12330317B2 (en) Calibration method and robot system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101102

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101115

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131210

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees