JP6484402B2 - Image surveillance system - Google Patents
Image surveillance system Download PDFInfo
- Publication number
- JP6484402B2 JP6484402B2 JP2014058279A JP2014058279A JP6484402B2 JP 6484402 B2 JP6484402 B2 JP 6484402B2 JP 2014058279 A JP2014058279 A JP 2014058279A JP 2014058279 A JP2014058279 A JP 2014058279A JP 6484402 B2 JP6484402 B2 JP 6484402B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- person
- image
- face
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
本発明は、画像監視システムに関するものである。 The present invention relates to an image monitoring system.
従来、2台のステレオカメラにより対象物の位置を判別するシステムは存在する。
また、複数台のカメラ映像を手動または自動でシーケンシャルに切り替え表示することで監視空間全体を一定周期で監視していた。
Conventionally, there exists a system that determines the position of an object using two stereo cameras.
Further, the entire monitoring space is monitored at a constant cycle by switching and displaying the images of a plurality of cameras manually or automatically.
また、他の先行技術としては、可視光カメラと遠赤外線カメラで撮像した人物の画像を合成する技術が開示されている。具体的には、遠赤外線カメラから取得した遠赤外線画像と可視光カメラから取得した可視光画像を比較し、比較結果に基づいて映り込み部分の補正を行うことで、入射光量の少ない暗い領域、つまり可視光カメラで直接捉えることが困難である非可視領域であっても被写体となる対象物を逃すことなく検出することができる(例えば、特許文献1参照。)。 As another prior art, a technique for synthesizing a human image captured by a visible light camera and a far-infrared camera is disclosed. Specifically, by comparing the far-infrared image acquired from the far-infrared camera and the visible light image acquired from the visible light camera, and correcting the reflected portion based on the comparison result, a dark region with a small amount of incident light, That is, even in a non-visible region that is difficult to capture directly with a visible light camera, it is possible to detect a target object without missing it (see, for example, Patent Document 1).
本発明の目的は、複数のカメラにより撮影した画像に映った人物の中で同一人物を特定することにある。
また、複数のカメラにより撮影した画像で同一と判断された人物の顔画像をより正面に近い映像として合成表示することも目的である。
An object of the present invention is to specify the same person among persons reflected in images taken by a plurality of cameras.
Another object of the present invention is to synthesize and display a face image of a person determined to be the same among images taken by a plurality of cameras as an image closer to the front.
本発明の画像監視システムは、第1のカメラと、前記第1のカメラと対向に配置された第2のカメラと、画像処理装置を有する画像監視システムであって、画像処理装置は第1のカメラで撮影した画像上の第1の人物の、画像の中心から当該第1の人物の顔の中心までの水平距離情報及び垂直距離情報と、第1のカメラで撮影した画像上の第1の人物の高さ情報と、第2のカメラで撮影した画像上の第2の人物の高さ情報と、に基づいて、第1の人物の、第2のカメラで撮影した画像の中心から当該第2の人物の顔の中心までの水平距離と垂直距離を算出し、第1の人物が第2の人物特定することを特徴とする。 An image monitoring system of the present invention is an image monitoring system having a first camera, a second camera disposed opposite to the first camera, and an image processing device, wherein the image processing device is a first camera. The horizontal distance information and the vertical distance information of the first person on the image photographed by the camera from the center of the image to the center of the face of the first person, and the first person on the image photographed by the first camera the height information of the person, the height information of the second person on the image captured by the second camera, on the basis of, the first person, the from the center of the image captured by the second camera first A horizontal distance and a vertical distance to the center of the face of the second person are calculated, and the first person specifies the second person.
また、本発明の画像監視システムは、上記の画像監視システムであって、画像監視システムはさらにシステム管理サーバを有し、システム管理サーバは第1の人物の顔が正面以外であった場合に、複数のカメラで撮影した人物の顔画像の中で正面に近い顔画像を選択し、該選択した顔画像を顔画像が正面以外の第1の人物の画像と合成することを特徴とする。
The image monitoring system of the present invention is the image monitoring system described above, wherein the image monitoring system further includes a system management server, and the system management server is configured such that when the face of the first person is other than the front, select close face image in front in the face image of a person was taken by multiple cameras, the selected face image is a face image, characterized in that combined with the image of the first person other than the front .
さらに、本発明の画像監視システムは、複数のカメラと、操作端末を有する画像監視システムであって、操作端末はカメラごとに監視空間を割当て、該割当てられた監視空間に障害物による死角があるカメラの映像をモニタに出力する場合、死角の空間を撮影している別のカメラの映像を死角部分に合成することを特徴とする。 Furthermore, the image monitoring system of the present invention is an image monitoring system having a plurality of cameras and an operation terminal. The operation terminal allocates a monitoring space for each camera, and the allocated monitoring space has a blind spot due to an obstacle. When a camera image is output to a monitor, the image of another camera that captures a blind spot space is combined with the blind spot portion.
本発明によれば、複数のカメラにより撮影した画像に映った人物の中で同一人物を特定することができる。
また、複数のカメラにより撮影した画像で同一と判断された人物の顔画像をより正面に近い映像として合成表示することができる。
According to the present invention, it is possible to identify the same person among the persons shown in images taken by a plurality of cameras.
Further, it is possible to synthesize and display a face image of a person determined to be the same among images taken by a plurality of cameras as an image closer to the front.
以下、本発明の一実施例について図を用いて説明する。
図1は、本発明の一実施例である画像監視システムを説明するためのブロック図である。
図1において、画像監視システムは、カメラ101−1〜101−n、画像処理装置102−1〜102−n(代表する場合は画像処理装置102と称する)、IPエンコーダ103−1〜103−n、ネットワーク104、システム管理サーバ105、操作端末106−1〜106−n(代表する場合は操作端末106と称する)である構成されている。
なお、図12に示すように画像処理装置102は、カメラ101とIPエンコーダ103の間に入れずにネットワーク104と直接に接続する構成であってもよい。
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram for explaining an image monitoring system according to an embodiment of the present invention.
1, the image monitoring system includes cameras 101-1 to 101-n, image processing apparatuses 102-1 to 102-n (referred to as
As illustrated in FIG. 12, the
カメラ101−1〜101−nで撮像された映像は、画像処理装置102−1〜102−nで動体検知を行い、検出物の大きさや形状から人物を判別し、映像内の人物位置や人物の大きさを特定する。映像はIPエンコーダ103−1〜103−nでデジタル化されネットワーク104に配信する。
The images captured by the cameras 101-1 to 101-n are subjected to moving object detection by the image processing devices 102-1 to 102-n, and a person is identified based on the size and shape of the detected object. Specify the size of. The video is digitized by the IP encoders 103-1 to 103-n and distributed to the
システム管理サーバ105は、監視空間全体を3次元のグローバル座標で管理し、予めカメラの位置情報や監視空間の中の構造物情報をデータベース上に登録するものとする。システム管理サーバ105は、検知された人物の位置座標情報をリアルタイムに管理し、監視平面図上に人物位置をプロットする。
また、システム管理サーバ105は、複数の画像処理装置から送られる人物の位置情報、大きさ情報を元に、それらが同一人物であるか否かを判別する。同一人物である場合、複数のカメラで撮像された映像の中から当該人物の顔画像を全て切り出し、同一人物の顔画像として管理する。システム管理サーバ105は、操作端末106−1〜106−nへブラウザ上から監視操作を行うための監視画面を提供するWEBサーバ機能を有している。
The
Further, the
操作端末106−1〜106−nは、上述の監視操作画面で人物が表示された映像を閲覧する。監視者からの要求に応じてシステム管理サーバは正面を向いた人物の顔画像を提供したり、人物の位置情報や軌跡がプロットされた平面図を提供する。または、自動的に人物が正面を向いた映像を提供したり、人物が死角に隠れない映像を提供することも可能である。
なお、操作端末106−1〜106−nは、PC(Personal Computer)であってもよい。
The operation terminals 106-1 to 106-n browse the video on which the person is displayed on the above-described monitoring operation screen. In response to a request from the supervisor, the system management server provides a face image of the person facing the front, or provides a plan view on which the position information and locus of the person are plotted. Alternatively, it is possible to automatically provide an image in which the person faces the front, or to provide an image in which the person is not hidden in the blind spot.
The operation terminals 106-1 to 106-n may be PCs (Personal Computers).
図2は、対向に配置されたカメラの設置図と表示画面図である。
以降、対向に設置された2台のカメラにより撮像された映像から同一人物を特定し、位置情報をグローバル座標に展開する方法について説明する。
図2(A)のカメラの設置において、211はカメラA、212はカメラAの垂直画角、213はカメラAの設置高さZA、221はカメラB、222はカメラBの垂直画角、223はカメラBの設置高さZB、231は地面、241は対象物(人物)である。
なお、ここでは、ZA=ZBとする。
図2(B)はカメラAの撮影画像であり、251はカメラAで撮像された撮影画像を表示するモニタA、252はカメラAの画面の中の人物である。
図2(C)はカメラBの撮影画像であり、261はカメラBで撮像された撮影画像を表示するモニタB、262はカメラBの画面の中の人物である。
FIG. 2 is an installation view and a display screen view of the cameras arranged opposite to each other.
Hereinafter, a method of identifying the same person from videos captured by two cameras installed opposite to each other and developing position information in global coordinates will be described.
2A, 211 is the camera A, 212 is the vertical angle of view of the camera A, 213 is the installation height ZA of the camera A, 221 is the camera B, 222 is the vertical angle of view of the camera B, 223 Is the installation height ZB of the camera B, 231 is the ground, and 241 is an object (person).
Here, ZA = ZB.
2B is a photographed image of the camera A, 251 is a monitor A that displays the photographed image captured by the camera A, and 252 is a person on the screen of the camera A.
FIG. 2C is a photographed image of the camera B, 261 is a monitor B that displays the photographed image captured by the camera B, and 262 is a person on the screen of the camera B.
図3は、本発明の一実施例を説明するための図である。
xyz座標軸において、カメラAを原点とし、人物の顔の位置を(x、y、z)とする。
図3(A)はカメラのx−y座標の設置図であり、211はカメラA、θHAはカメラAの水平画角、221はカメラB、θHBはカメラBの水平画角、241は対象物(人物)、xはカメラAから人物までの水平距離、yはカメラAから人物までの垂直距離、xbはカメラBから人物までの水平距離、YAは人物がいる地点でのカメラAの水平撮像範囲、YBは人物がいる地点でのカメラBの水平撮像範囲である。
FIG. 3 is a diagram for explaining an embodiment of the present invention.
On the xyz coordinate axis, camera A is the origin, and the position of the person's face is (x, y, z).
3A is an installation view of the xy coordinates of the camera, 211 is the camera A, θHA is the horizontal angle of view of the camera A, 221 is the camera B, θHB is the horizontal angle of view of the camera B, and 241 is the object. (Person), x is the horizontal distance from the camera A to the person, y is the vertical distance from the camera A to the person, xb is the horizontal distance from the camera B to the person, and YA is the horizontal imaging of the camera A at the point where the person is present. A range YB is a horizontal imaging range of the camera B at a point where a person is present.
図3(B)はカメラのx−z座標の設置図であり、θVAはカメラAの垂直画角、hAはカメラAの高さ、θVBはカメラBの垂直画角、hBはカメラBの高さ、zは人物の高さ、ZAは人物がいる地点でのカメラAの垂直撮像範囲、ZBは人物がいる地点でのカメラBの垂直撮像範囲、231は地面である。 3B is an installation view of the xz coordinate of the camera, θVA is the vertical angle of view of camera A, hA is the height of camera A, θVB is the vertical angle of view of camera B, and hB is the height of camera B. Z is the height of the person, ZA is the vertical imaging range of the camera A at the point where the person is, ZB is the vertical imaging range of the camera B at the point where the person is, and 231 is the ground.
図3(C)はカメラAの撮影画像であり、251はカメラAで撮像された撮影画像を表示するモニタA、252はモニタAの映像の中の人物、HMAはモニタAの画面水平寸法、VMAはモニタAの画面垂直寸法、HACはモニタAの中心から人物252までの水平距離、VACはモニタAの中心から人物の顔中心までの垂直距離、VAはモニタAにおける人物の高さ、VAFはモニタAにおける人物の顔の高さである。
3C is a photographed image of the camera A, 251 is a monitor A that displays the photographed image taken by the camera A, 252 is a person in the video of the monitor A, HMA is a horizontal dimension of the screen of the monitor A, VMA is the screen vertical dimension of the monitor A, HAC is the horizontal distance from the center of the monitor A to the
図3(D)はカメラBの撮影画像であり、261はカメラBで撮像された撮影画像を表示するモニタB、262はモニタBの映像の中の人物、HMBはモニタBの画面水平寸法距離、VMBはモニタBの画面垂直寸法、HBCはモニタBの中心から人物までの水平距離、VBCはモニタBの中心から人物の顔中心までの垂直距離、VBはモニタBにおける人物の高さ、VBFはモニタBにおける人物の顔の高さである。
3D is a photographed image of the camera B, 261 is a monitor B that displays the photographed image captured by the camera B, 262 is a person in the video of the monitor B , and HMB is a screen horizontal dimension distance of the monitor B. , VMB is the screen vertical dimension of the monitor B , HBC is the horizontal distance from the center of the monitor B to the person, VBC is the vertical distance from the center of the monitor B to the person's face center, VB is the height of the person on the monitor B, VBF Is the height of the person's face on the monitor B.
次に、本発明の一実施例である異なるカメラA、Bで撮像された映像から同一人物を特定する方法について図3を用いて説明する。
ここでは、hA=hB、θHA=θHB、θVA=θVBとする。
カメラAとカメラBの水平距離をLとする。
人物までの距離の比と画面内の人物の大きさの比は相似関係であることから、以下の等式が成り立つ。
Next, a method for identifying the same person from videos captured by different cameras A and B according to an embodiment of the present invention will be described with reference to FIG.
Here, hA = hB, θHA = θHB, and θVA = θVB.
Let L be the horizontal distance between camera A and camera B.
Since the ratio of the distance to the person and the ratio of the size of the person in the screen are similar, the following equation holds.
カメラAから人物までの水平距離xは、(式1)の関係から(式2)で求まる。
VA:VB=(L-x):x ・・・・ (式1)
x=LVB/(VA+VB) ・・・・ (式2)
カメラAから人物までの垂直距離yは、(式3)の関係から(式4)で求まる。
y:HAC=YA/2:HMA/2 ・・・・ (式3)
y=xtan(θHA/2)×2HAC/HMA
=(2LHACVBtan(θHA/2))/(HMA(VA+VB))
・・・ (式4)
人物の高さzは、(式5)の関係から(式6)で求まる。
(z−hA):VAC=z:VA ・・・・ (式5)
z=hAVA/(VA−VAC) ・・・・ (式6)
モニタBの中心から人物までの水平距離HBCは(式7)の関係から(式8)で求まる。
HBC:HMB/2=y:(L−x)tan(θHB/2) ・・・・ (式7)
HBC= HACVB/VA ・・・・ (式8)
モニタBの中心から人物の顔中心までの垂直距離VBCは、(式9)の関係から(式10)で求まる。
VBC:VMB/2=(z−hB):ZB/2 ・・・・ (式9)
VBC=(hAVMBVAC(VA+VB))/(4LVA(VA−VAC)
tan(θVA/2)) ・・・・ (式10)
The horizontal distance x from the camera A to the person is obtained by (Expression 2) from the relationship of (Expression 1).
VA: VB = (L−x): x (Equation 1)
x = LVB / (VA + VB) (Equation 2)
The vertical distance y from the camera A to the person is obtained by (Expression 4) from the relationship of (Expression 3).
y: HAC = YA / 2: HM A / 2 (Equation 3)
y = xtan (θHA / 2) × 2HAC / HM A
= (2LHACVBtan (θHA / 2)) / (HM A (VA + VB))
... (Formula 4)
The person's height z is obtained by (Expression 6) from the relationship of (Expression 5).
(Z-hA): VAC = z: VA (Formula 5)
z = hAVA / (VA-VAC) (6)
The horizontal distance HBC from the center of the monitor B to the person is obtained by (Expression 8) from the relationship of (Expression 7).
HBC: HM B / 2 = y: (L−x) tan (θHB / 2) (Expression 7)
HBC = HACVB / VA (Equation 8)
The vertical distance VBC from the center of the monitor B to the center of the person's face is obtained by (Expression 10) from the relationship of (Expression 9).
VBC: VM B / 2 = (z−hB): ZB / 2 (Equation 9)
VBC = (hAVM B VAC (VA + VB)) / (4LVA (VA−VAC)
tan (θVA / 2)) (Equation 10)
上式において、hA、HMA、HMB、VMA、VMB、L、θHA、θVAは定数であり、HAC、VAC、VA、VBは人物の画面内の位置情報であり、画像処理装置102にて算出された値である。
つまり、(式8)、(式10)によりHBC、VBCを上記の値にて求めることができ、カメラA211で撮像された人物の位置情報から、別のカメラ(ここではカメラB221)の映像でどの人物が同一人物であるかを特定することができる。
そして、(式2)、(式4)、(式6)により監視空間における人物の顔の3次元位置座標x、y、zを求めることができる。
なお、上記の説明は、モニタA251とモニタB261に表示した結果から所定人物の位置情報を求めたが、カメラA211およびカメラB221で撮像した撮影画像から所定人物の位置情報を求めてもよい。
In the above equation, hA, HM A , HMB, VM A , VMB, L, θHA, and θVA are constants, and HAC, VAC, VA, and VB are position information in the person's screen. This is a calculated value.
That is, HBC and VBC can be obtained from the above values using (Equation 8) and (Equation 10), and from the position information of the person imaged by the
Then, the three-dimensional position coordinates x, y, and z of the person's face in the monitoring space can be obtained from (Expression 2), (Expression 4) , and (Expression 6).
In the above description, the position information of the predetermined person is obtained from the results displayed on the monitor A 251 and the
次に、複数のカメラにより撮影した画像で同一と判断された人物の顔画像をより正面に近い映像として合成表示する動作について図4〜図7を用いて説明する。
図4はモニタAとモニタBの表示内容について説明するための図である。
図4において、251はモニタA、252はモニタAの映像の中の人物、411は画像処理装置102で検出された人物の顔、261はモニタB、262はモニタBの映像の中の人物、421は画像処理装置102で検出された人物の顔である。
モニタAには人物の顔の正面、モニタBには人物の顔の背面が映っているものとする。
画像処理装置102は顔の特徴点、例えば、目、鼻、口の情報を元に顔の向きを判別する。
モニタBの人物の顔は背面を向いているため、モニタAの人物の顔画像を切り出してモニタBの映像に合成する。この時、モニタAの人物の顔画像をモニタBの顔画像の大きさに変換して合成するものとする。変換する際の拡大・縮小率はVBF/VAFとする。
Next, an operation of combining and displaying a face image of a person determined to be the same among images taken by a plurality of cameras as an image closer to the front will be described with reference to FIGS.
FIG. 4 is a diagram for explaining the display contents of the monitor A and the monitor B.
In FIG. 4, 251 is a monitor A, 252 is a person in the image of the monitor A, 411 is a face of the person detected by the
It is assumed that the front of the person's face is shown on the monitor A and the back of the person's face is shown on the monitor B.
The
Since the face of the person on the monitor B faces the back, the face image of the person on the monitor A is cut out and synthesized with the video on the monitor B. At this time, the face image of the person on the monitor A is converted into the size of the face image on the monitor B and synthesized. The enlargement / reduction ratio at the time of conversion is assumed to be VBF / VAF.
図5は、人物の顔部分の正面を向いた図と斜めを向いた図である。
図5において、501は正面を向いた人物の顔部分の検出エリア、502は正面を向いた人物の顔、503は人物の右目α、504は人物の左目β、505は右目と左目の中心点を含む線分2R、506は直線505を直径とする円であり頭を上方向から見た図、507は人物の右目α、508は人物の左目β、509は半径R、510は右目の中心点と左目の中心点を端とした線分、511は線分510の中心点と円の中心点を含む直線、512は直線511と円の左端までの距離Lα、513は直線511と円の右端までの距離Lβ、14は斜めを向いた人物の顔部分の検出エリア、515は斜めを向いた人物の顔、516は人物の右目α、517は人物の左目β、518は右目と左目の中心点を含む線分2R、519は直線518を直径とする円であり頭を上方向から見た図、520は人物の右目α、521は人物の左目β、522は半径R、523は右目の中心点と左目の中心点を端とした線分、524は線分523の中心点と円の中心点を含む直線、525は顔が正面を向いた図の線分510の中心点と円の中心点を含む直線、526は直線524と直線525を含む扇型の中心角度θ、527は直線524と円の左端までの距離Lα、528は直線524と円の右端までの距離Lβである。
FIGS. 5A and 5B are a front view and a diagonal view of a human face.
In FIG. 5, reference numeral 501 denotes a detection area of the face portion of a person facing the front, 502 a face of the person facing the front, 503 a person's right eye α, 504 a person's left eye β, and 505 a center point of the right eye and the left eye. 2R and 506 are circles having a diameter of the
次に、人物の顔が正面を向いた図のθ、Lα、Lβは下式となる。
θ=0° ・・・・ (式11)
Lα=Lβ ・・・・ (式12)
また、人物の顔が斜めを向いた図のθ(この場合θ´とする)、Lα、Lβは下式となる。
θ=θ´ ・・・・ (式13)
Lα=R−Rsinθ´ ・・・・ (式14)
Lβ=R+Rsinθ´ ・・・・ (式15)
よって、θ´は下式より求めることができる。
Lα:Lβ=(R−Rsinθ´):(R+Rsinθ´) ・・・ (式16)
sinθ´=(Lβ−Lα)/(Lα+Lβ) ・・・ (式17)
θ´=sin−1((Lβ−Lα)/(Lα+Lβ)) ・・・ (式18)
画像処理装置102は、顔の大きさ及び右目、左目の位置を特定すると、距離Lα、距離Lβが得られる。
θ´は、(式18)の距離Lαと距離Lβにより算出可能であり、人物の顔の向きを角度で表現することができる。θ´が0°に近い程、人物は正面方向を向いていると判定できる。
Next, θ, Lα, and Lβ in the figure with the person's face facing the front are as follows.
θ = 0 ° (Equation 11)
Lα = Lβ (Equation 12)
Further, θ (in this case, θ ′), Lα, and Lβ in the figure in which the human face is directed obliquely are represented by the following equations.
θ = θ ′ (Equation 13)
Lα = R−Rsinθ ′ (Equation 14)
Lβ = R + Rsin θ ′ (Equation 15)
Therefore, θ ′ can be obtained from the following equation.
Lα: Lβ = (R−Rsin θ ′): (R + Rsin θ ′) (Expression 16)
sin θ ′ = (Lβ−Lα) / (Lα + Lβ) (Expression 17)
θ ′ = sin−1 ((Lβ−Lα) / (Lα + Lβ)) (Equation 18)
When the
θ ′ can be calculated from the distance Lα and the distance Lβ in (Equation 18), and the orientation of the person's face can be expressed as an angle. As θ ′ is closer to 0 °, it can be determined that the person is facing the front.
次に、カメラ4台を使用した場合、人物の顔を正面方向にカメラで捕えるための方法について説明する。
図6は本発明の一実施例であるカメラ4台を配置した監視空間における人物の顔の向きと対応カメラの図である。
図6はxy座標軸における俯瞰図である。
カメラA602とカメラB603は直線上に対向に設置されるものとする。
図6は、602はカメラA、603はカメラB、604はカメラC、605はカメラD、606は上方から見た人物の頭、607は人物の顔の向き、608はx軸に対する顔の向きの角度θ、609は対向設置されたカメラA602とカメラB603を含む直線、610は直線609のカメラA602とカメラB603間の中心点とカメラC604を含む直線、611は直線609のカメラA602とカメラB603間の中心点とカメラD605を含む直線、612は直線609と直線610の中心線、613は直線609と直線610の中心線、614は直線609と直線611の中心線、615は直線609と直線611の中心線、616は直線612のx軸に対する角度θ1、617は直線610と直線613の角度θ2、618は直線614のx軸に対する角度θ3、619は直線611と直線615の角度θ4である。
Next, a method for capturing a person's face with a camera in the front direction when four cameras are used will be described.
FIG. 6 is a diagram of the orientation of a person's face and the corresponding camera in a monitoring space where four cameras according to an embodiment of the present invention are arranged.
FIG. 6 is an overhead view of the xy coordinate axes.
It is assumed that the
6, 602 is a camera A, 603 is a camera B, 604 is a camera C, 605 is a camera D, 606 is a person's head viewed from above, 607 is a person's face orientation, and 608 is a face orientation relative to the x-axis. 609 is a straight line including the cameras A602 and B603 that are installed opposite to each other, 610 is a straight line including the center point between the cameras A602 and B603 of the
人物の顔の向きθは上述の方法で画像処理装置102により得られる。
人物の顔を正面方向にカメラで捕えるためには、人物の顔の向きθと割り当てカメラの関係は以下となる。
カメラA602を割り当てる場合のθの範囲は(式19)となる。
0≦θ<θ1、2(θ1+θ2+θ3)+θ4≦θ<360 ・・・ (式19)
カメラB603を割り当てる場合のθの範囲は(式20)となる。
θ1≦θ<2θ1+θ2 ・・・ (式20)
カメラC604を割り当てる場合のθの範囲は(式21)となる。
2θ1+θ2≦θ<2(θ1+θ2)+θ3 ・・・ (式21)
カメラD605を割り当てる場合のθの範囲は(式22)となる。
2(θ1+θ2)+θ3≦θ<2(θ1+θ2+θ3)+θ4 ・・・(式22)
The orientation θ of the person's face is obtained by the
In order to capture a person's face in the front direction with the camera, the relationship between the orientation θ of the person's face and the assigned camera is as follows.
The range of θ when the
0 ≦ θ <θ1, 2 (θ1 + θ2 + θ3) + θ4 ≦ θ <360 (Equation 19)
The range of θ when assigning the
θ1 ≦ θ <2θ1 + θ2 (Equation 20)
When assigning the camera C604, the range of θ is (Expression 21).
2θ1 + θ2 ≦ θ <2 (θ1 + θ2) + θ3 (Formula 21)
When assigning the camera D605, the range of θ is (Equation 22).
2 (θ1 + θ2) + θ3 ≦ θ <2 (θ1 + θ2 + θ3) + θ4 (Equation 22)
システム管理サーバ105は、周期的に現在の人物の顔の向きと割り当てカメラを管理する。例えば、カメラA602の映像等、特定の映像の中の顔画像を時間ごとに変化する顔の向きに応じて、図4の一実施例の説明で記載の方法で求められる拡大・縮小率で変換された割り当てカメラの顔画像に合成して置き換えることができる。監視者は同一映像を見ながら、人物の行動に依存せずに正面方向を捕えた顔画像を得ることが可能になる。
The
次に、図7を用いて連続した時間ごとのカメラ4台で撮像された映像について説明する。
システム管理サーバ105は、カメラA602、カメラB603、カメラC604、カメラD605で撮影した特定の映像の中の顔画像を管理している。
図7において、701は時間t=1におけるカメラA602の映像、702は映像701における人物の顔、703は時間t=1におけるカメラB603の映像、704は映像703における人物の顔、705は時間t=1におけるカメラC604の映像、706は映像705における人物の顔、707は時間t=1におけるカメラD605の映像、708は映像707における人物の顔、709は映像5をベースにした合成映像、710は映像709における人物の顔である。
また、711は時間t=2におけるカメラA602の映像、712は映像711における人物の顔、713は時間t=2におけるカメラB603の映像、714は映像713における人物の顔、715は時間t=2におけるカメラC604の映像、716は映像715における人物の顔、717は時間t=2におけるカメラD605の映像、718は映像717における人物の顔、719は映像715をベースにした合成映像、720は映像719における人物の顔である。
さらに、721は時間t=3におけるカメラA602の映像、722は映像721における人物の顔、723は時間t=3におけるカメラB603の映像、724は映像723における人物の顔、725は時間t=3におけるカメラC604の映像、726は映像725における人物の顔、727は時間t=3におけるカメラD605の映像、728は映像727における人物の顔、729は映像725をベースにした合成映像、730は映像729における人物の顔である。
Next, an image captured by four cameras every continuous time will be described with reference to FIG.
The
In FIG. 7, 701 is the image of the camera A602 at time t = 1, 702 is the face of the person in the
Also, 711 is the image of the camera A602 at time t = 2, 712 is the person's face in the
Further, 721 is the image of the camera A602 at time t = 3, 722 is the face of the person in the
監視者は、例えば、カメラC604で撮像した映像705を操作端末106で見ているものとする。
時間t=1の時、正面を向いている映像はカメラA602で撮像した映像701である。この時、監視者が見ている映像705の人物は背面を向いているため、システム管理サーバ105は、映像701の人物の顔画像を切り出して画像サイズを変換して映像705の顔画像に合成して映像709を生成する。
時間t=2の時、正面を向いている映像はカメラD605で撮像した映像717である。この時、監視者が見ている映像715の人物は横を向いているため、システム管理サーバ105は、映像717の人物の顔画像を切り出して画像サイズを変換して映像715の顔画像に合成して映像719を生成する。
時間t=3の時、正面を向いている映像はカメラB603で撮像した映像723である。この時、監視者が見ている映像725の人物は横を向いているため、システム管理サーバ105は、映像723の人物の顔画像を切り出して画像サイズを変換して映像725の顔画像に合成して映像729を生成する。
なお、上述の合成映像は、画像処理装置102または操作端末106で生成してもよい。
このように、本発明では、人物の動きに左右されずに、常に顔の正面画像が表示された映像を監視することが可能になる。
For example, it is assumed that the monitor is watching the
When the time t = 1, the image facing the front is the image 701 captured by the camera A602. At this time, since the person of the
When the time t = 2, the image facing the front is an image 717 captured by the camera D605. At this time, since the person in the
When the time t = 3, the image facing the front is the image 723 captured by the camera B603. At this time, since the person in the
Note that the above-described synthesized video may be generated by the
As described above, according to the present invention, it is possible to monitor a video on which a front image of a face is always displayed without being influenced by the movement of a person.
また、例えば、本発明の画像監視システムと類似顔画像認証システムを融合したシステムを構築する場合、システム管理サーバ105は、検知された人物ごとに固有のIDを付与すると共に、ID情報と正面方向に向いた顔画像に合成した映像を類似顔画像検索サーバへ提供することで、顔認証処理の精度向上、処理負荷軽減が可能となる。
Further, for example, when constructing a system in which the image monitoring system of the present invention and the similar face image authentication system are integrated, the
次に、本発明の一実施例である画像監視システムにおける監視対象物(人物)の現在の位置情報および軌跡情報について説明する。
図8は監視空間を説明するためのxy座標軸における平面図である。
図8において、802は平面図、803から809は監視空間に設置された監視カメラ、810は人物、811は人物の軌跡である。
システム管理サーバ105は、図3の一実施例の説明で記載の人物座標の算出を定周期で実行することで、時間ごとの人物の位置座標を管理可能であり、現在の位置座標を丸マーク810で表現し、時間ごとの人物の位置を直線でつなげて平面図上に軌跡を生成することができる。本発明では人物位置を特定するためのセンサ等を必要とせず、監視カメラのみで位置を特定し、現在の位置情報や軌跡情報を平面図で提供することが可能である。
Next, the current position information and trajectory information of the monitoring target (person) in the image monitoring system that is an embodiment of the present invention will be described.
FIG. 8 is a plan view on the xy coordinate axes for explaining the monitoring space.
In FIG. 8, 802 is a plan view, 803 to 809 are surveillance cameras installed in the surveillance space, 810 is a person, and 811 is a locus of the person.
The
次に、対象人物の軌跡の生成方法について図8を用いて説明する。
例えば、カメラ803は対象の人物810を含む所定の監視領域を撮影し、撮影した画像を画像処理装置102に伝送する。
画像処理装置102は、監視領域画像に映った複数の人物の中で人物810の位置を上述の方法でグローバル座標に変換する。
次に、カメラ806が対象の人物810を含む所定の監視領域撮影し、撮影した画像を画像処理装置102に伝送する。
画像処理装置102は、カメラ806が撮影した画像に映った複数の人物の中で人物810の位置を上述の方法でグローバル座標に変換する。
画像処理装置102は、ある特定の時刻において、カメラ803が撮影した人物810のグローバル座標の位置情報と、カメラ806が撮影した人物810のグローバル座標の位置情報が略同じであれば、人物810が同一人物であると特定することができる。
同様に、画像処理装置102は、カメラ804およびカメラ806が対象の人物810を含む所定の監視領域を撮影した画像の中から人物810の位置を上述の方法でグローバル座標に変換し、変換した位置情報が略同じであれば、人物810が同一人物であると特定する。
そして、画像処理装置102は、人物810のグローバル座標の位置情報をつなげることにより、人物810の軌跡811を生成することができる。
Next, a method for generating the trajectory of the target person will be described with reference to FIG.
For example, the
The
Next, the
The
If the position information of the global coordinates of the
Similarly, the
Then, the
次に、本発明の一実施例であるxy座標軸における平面図上のカメラ割当エリアについて図1および図9を用いて説明する。
図9は平面図上のカメラ割当エリアを説明するための図である。
図9において、802は平面図、803から809は監視空間に設置された監視カメラ、910は障害物、911はカメラ803の割当エリア、912はカメラ804の割当エリア、913はカメラ805の割当エリア、914はカメラ806の割当エリア、915はカメラ807の割当エリア、916はカメラ808の割当エリア、917はカメラ809の割当エリアである。
Next, a camera allocation area on a plan view on the xy coordinate axes according to an embodiment of the present invention will be described with reference to FIGS.
FIG. 9 is a diagram for explaining a camera allocation area on a plan view.
9, 802 is a plan view, 803 to 809 are surveillance cameras installed in the surveillance space, 910 is an obstacle, 911 is an allocation area of the
操作端末106は、xy平面図802上に予めカメラごとの割当エリアを登録する。割当エリアとは監視空間を複数に分割したものであり、各エリアで最も視認可能なカメラを割り当てる。
操作端末106は、監視空間の割当エリアに障害物910が存在すると、この障害物付近はカメラ807が最も近いがカメラ807から見て障害物910の影は視認不可能であるため、図9に示すようにこの部分はカメラ808の割当エリアとして登録する。このように、操作端末106が監視空間の割当エリアを設定してエリアごとにカメラを登録することで、検知された人物座標の位置に応じて対応するカメラを選択することが可能になる。
例えば、操作端末106は、障害物910の左側に人物が存在した場合はカメラ807で撮像された映像を選択し、障害物910の右側に人物が存在した場合はカメラ808で撮像された映像を選択する。
また、操作端末106は、カメラ807の映像を出力中に障害物910の裏側も表示したい場合に、障害物910の裏側を撮影しているカメラ808または809の映像を障害物910に合成することができる。なお、カメラ807の映像とカメラ808または809の映像の合成は、画像処理装置102で行い、合成した映像を操作端末106で表示してもよい。
The
If there is an obstacle 910 in the allocated area of the monitoring space, the
For example, the
In addition, when the
次に、本発明の一実施例である操作端末の監視画面について図10を用いて説明する。
図10において、1001は監視画面、1002は映像表示部、1003は映像の中の人物、1004は平面図、1005は平面図の中の人物位置、1006は映像表示部の映像を撮像しているカメラ、1007は人物の顔画像を提供しているカメラである。
システム管理サーバ105は、操作端末へブラウザ上から監視操作を行うための監視画面を提供するWEBサーバ機能を有しており、図10に示す画面を提供する。
映像表示部の映像を提供するカメラと顔画像を提供するカメラを平面図上のカメラアイコンで色分けして表示することで、どのカメラの映像が表示されているか監視者は視覚的に把握することが可能である。顔画像は正面を撮像可能なカメラの画像に自動的に合成表示したり、映像表示部の顔の部分を指でタッチしたり、スライドしたタイミングで正面を向いた顔画像に切替えてもよい。
また、電動雲台、電動ズームレンズを搭載したカメラの場合は、人物座標に対して割当カメラをPTZ(パン・チルト・ズーム)動作させることで、人物の視認性をより向上させることが可能である。PTZ動作は、自動的に動作させたり、平面図の人物をタッチしたタイミングでPTZ動作させてもよい。
Next, a monitoring screen of the operation terminal according to an embodiment of the present invention will be described with reference to FIG.
In FIG. 10, 1001 is a monitoring screen, 1002 is an image display unit, 1003 is a person in the image, 1004 is a plan view, 1005 is a person position in the plan view, and 1006 is capturing an image of the image display unit. A camera 1007 is a camera that provides a human face image.
The
The camera that provides the video on the video display unit and the camera that provides the face image are color-coded by the camera icon on the floor plan, so that the monitor can visually grasp which video is being displayed. Is possible. The face image may be automatically synthesized and displayed on the image of the camera capable of capturing the front, the face portion of the video display unit may be touched with a finger, or the face image may be switched to the face image facing the front at the timing of sliding.
In addition, in the case of a camera equipped with an electric pan head and an electric zoom lens, it is possible to further improve the human visibility by operating the assigned camera with PTZ (pan / tilt / zoom) with respect to the human coordinates. is there. The PTZ operation may be automatically performed, or may be performed at the timing when a person on the plan view is touched.
次に、本発明の他の一実施例である鏡を利用した左右監視カメラについて図11を
用いて説明する。
図11(A)において、1101はカメラ、1102はカメラハウジング、1103はカメラの水平画角θ、1104は左側の鏡、1105は右側の鏡、1106左右の鏡の設置角度、1107は左右の鏡境界とカメラのレンズまでの距離x、1108は鏡の長さL、1109は直線1108を斜辺とした直角三角形の余弦、1110は直線1108を斜辺とした直角三角形の正弦、1111は左側のガラス面、1112は右側のガラス面、1113は両方の鏡を撮像したカメラ映像である。
図11(B)において、1114は映像1113の左半分の映像、1115は映像1113の右半分の映像、1116は映像1114を切り出した映像、1117は映像1115を切り出した映像である。
Next, a left and right monitoring camera using a mirror according to another embodiment of the present invention will be described with reference to FIG.
In FIG. 11A, 1101 is a camera, 1102 is a camera housing, 1103 is a horizontal angle of view θ of the camera, 1104 is a left mirror, 1105 is a right mirror, 1106 left and right mirror installation angles, and 1107 is a left and right mirror. The distance x between the boundary and the camera lens, 1108 is the mirror length L, 1109 is the cosine of a right triangle with the
In FIG. 11B,
図11(A)において、左側の鏡1104と右側の鏡1105の設置角度は90°とする。カメラの水平画角は左右の鏡の端までを捕えた画角とする。
カメラ1101の設置条件として、カメラ1101と鏡との距離xは以下の方法で求められる。
tan(θ/2)=(L/2^(1/2))/((x+L)/2^(1/2))
・・・(式23)
x=(L/2^(1/2))×(1/(tan(θ/2)−1) ・・・(式24)
In FIG. 11A, the installation angle of the
As an installation condition of the
tan (θ / 2) = (L / 2 ^ (1/2)) / ((x + L) / 2 ^ (1/2))
... (Formula 23)
x = (L / 2 ^ (1/2)) × (1 / (tan (θ / 2) −1) (Equation 24)
カメラ1101は左右の鏡に投影された映像を撮像することで、左右方向の映像を1つの映像1113として得ることができる。画像処理装置102にて、この映像を左右に2分割することで、左方向の映像1116、右方向の映像1117の2つの映像を提供することが可能になる。
本発明の一実施例である位置情報算出は、図2に示すような対向設置カメラにより行うことが可能であるが、図11のような鏡を利用した左右監視カメラを使用することで1台で左右両方の映像を得ることができるため、カメラの設置台数を半分にすることができる。
The
The position information calculation according to the embodiment of the present invention can be performed by a facing camera as shown in FIG. 2, but one camera is used by using a left and right monitoring camera using a mirror as shown in FIG. Since both the left and right images can be obtained, the number of installed cameras can be halved.
以上本発明について詳細に説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々変形して実施することができる。 Although the present invention has been described in detail above, the present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the spirit of the present invention.
101−1〜101−n:カメラ、102−1〜102−n:画像処理装置、103−1〜103−n:IPエンコーダ、104:ネットワーク、105:システム管理サーバ、106−1〜106−n:操作端末、211:カメラA,221:カメラB、251:モニタA、261:モニタB、602:カメラA、603:カメラB、605:カメラC、610:カメラD、802:平面図、803,804,806,808,809:カメラ、1001:モニタ、1101:カメラ、1102:カメラハウジング、1104:左側の鏡、1105:右側の鏡、1111:左側のガラス面、1112:右側のガラス面。 101-1 to 101-n: camera, 102-1 to 102-n: image processing apparatus, 103-1 to 103-n: IP encoder, 104: network, 105: system management server, 106-1 to 106-n : Operation terminal 211: Camera A, 221: Camera B, 251: Monitor A, 261: Monitor B, 602: Camera A, 603: Camera B, 605: Camera C, 610: Camera D, 802: Plan view, 803 , 804, 806, 808, 809: camera, 1001: monitor, 1101: camera, 1102: camera housing, 1104: left mirror, 1105: right mirror, 1111: left glass surface, 1112: right glass surface.
Claims (2)
前記画像処理装置は、前記第1のカメラで撮影した画像上の第1の人物の、画像の中心から当該第1の人物の顔の中心までの水平距離情報及び垂直距離情報と、前記第1のカメラで撮影した画像上の第1の人物の高さ情報と、前記第2のカメラで撮影した画像上の第2の人物の高さ情報と、に基づいて、前記第1の人物の、前記第2のカメラで撮影した画像の中心から当該第2の人物の顔の中心までの水平距離と垂直距離を算出し、前記第1の人物が前記第2の人物と同一人物であるか特定することを特徴とする画像監視システム。 In an image monitoring system having a first camera, a second camera disposed opposite to the first camera, and an image processing device,
The image processing apparatus, the first person on the image captured by the first camera, the horizontal distance information and the vertical distance information from the center of the image to the center of the face of the first person, the first the height information of the first person on the images taken with the camera, and the height information of the second person on the image captured by the second camera, on the basis of, of the first person, wherein the center of the captured image with the second camera calculates the horizontal distance and vertical distance to the center of the face of the second person, the specific or the first person is the same person and the second person An image monitoring system characterized by:
前記画像監視システムは、さらにシステム管理サーバを有し、
前記システム管理サーバは、前記第1の人物の顔が正面以外であった場合に、前記複数のカメラで撮影した人物の顔画像の中で正面に近い顔画像を選択し、該選択した顔画像を前記顔画像が正面以外の前記第1の人物の画像と合成することを特徴とする画像監視システム。
The image monitoring system according to claim 1,
The image monitoring system further includes a system management server,
The system management server, when the face of the first person is other than the front, and select a face image closer to the front in the face image of a person was taken by the plurality of cameras, and the selected An image monitoring system, wherein a face image is synthesized with an image of the first person whose face image is other than a front face.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014058279A JP6484402B2 (en) | 2014-03-20 | 2014-03-20 | Image surveillance system |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014058279A JP6484402B2 (en) | 2014-03-20 | 2014-03-20 | Image surveillance system |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2015185896A JP2015185896A (en) | 2015-10-22 |
| JP2015185896A5 JP2015185896A5 (en) | 2017-04-13 |
| JP6484402B2 true JP6484402B2 (en) | 2019-03-13 |
Family
ID=54352041
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2014058279A Active JP6484402B2 (en) | 2014-03-20 | 2014-03-20 | Image surveillance system |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6484402B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6680990B2 (en) * | 2017-09-25 | 2020-04-15 | キヤノンマーケティングジャパン株式会社 | Information processing terminal, information processing device, system, control method thereof, and program |
| JP7676174B2 (en) | 2021-03-24 | 2025-05-14 | キヤノン株式会社 | CONTROL DEVICE, DISPLAY CONTROL SYSTEM, AND CONTROL METHOD |
| JP7577617B2 (en) * | 2021-06-23 | 2024-11-05 | キヤノン株式会社 | Image Processing System |
| WO2023276128A1 (en) * | 2021-07-01 | 2023-01-05 | 富士通株式会社 | Image-processing device, image-processing method, and image-processing program |
| JP7582405B1 (en) | 2023-08-28 | 2024-11-13 | トヨタ自動車株式会社 | Mobile Authentication System |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004146924A (en) * | 2002-10-22 | 2004-05-20 | Matsushita Electric Ind Co Ltd | Image output device, imaging device, and video monitoring device |
| JP5147761B2 (en) * | 2009-03-02 | 2013-02-20 | セコム株式会社 | Image monitoring device |
| JP5470111B2 (en) * | 2010-03-15 | 2014-04-16 | オムロン株式会社 | Surveillance camera terminal |
| JP5996903B2 (en) * | 2012-03-28 | 2016-09-21 | セコム株式会社 | Moving object tracking device |
| JP6016295B2 (en) * | 2012-08-10 | 2016-10-26 | 株式会社日立国際電気 | Monitoring system |
-
2014
- 2014-03-20 JP JP2014058279A patent/JP6484402B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2015185896A (en) | 2015-10-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101698847B1 (en) | System and method for combining data from multiple depth cameras | |
| JP6484402B2 (en) | Image surveillance system | |
| US9667952B2 (en) | Calibration for directional display device | |
| JP5233926B2 (en) | Fisheye monitoring system | |
| US9442561B2 (en) | Display direction control for directional display device | |
| US9791934B2 (en) | Priority control for directional display device | |
| WO2013179335A1 (en) | Monitoring camera control device and visual monitoring system | |
| KR20170041636A (en) | Display control apparatus, display control method, and program | |
| WO2014162554A1 (en) | Image processing system and image processing program | |
| JP2017163431A (en) | Projection apparatus | |
| US20140168375A1 (en) | Image conversion device, camera, video system, image conversion method and recording medium recording a program | |
| JP6214653B2 (en) | Remote monitoring system and monitoring method | |
| JP6624800B2 (en) | Image processing apparatus, image processing method, and image processing system | |
| KR102176963B1 (en) | System and method for capturing horizontal parallax stereo panorama | |
| TWI445511B (en) | Adjusting system and method for vanity mirron, vanity mirron including the same | |
| US12095964B2 (en) | Information processing apparatus, information processing method, and storage medium | |
| JP2005015094A (en) | Elevator car monitoring device | |
| EP3219097A1 (en) | Image projection | |
| JP2018129025A (en) | Determination device, image processing apparatus, determination method, and determination program | |
| JP6412685B2 (en) | Video projection device | |
| JP2017011598A (en) | Monitoring system | |
| JP7012983B2 (en) | Face image processing device | |
| JP6483326B2 (en) | Monitoring system and terminal device | |
| JP6625654B2 (en) | Projection device, projection method, and program | |
| JP2021197572A (en) | Camera control apparatus and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170307 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170307 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171023 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171115 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180109 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180620 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180801 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190124 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190218 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6484402 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |