Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4827101B2 - Control device, control method, imaging system, imaging method, and program - Google Patents
[go: Go Back, main page]

JP4827101B2 - Control device, control method, imaging system, imaging method, and program - Google Patents

Control device, control method, imaging system, imaging method, and program Download PDF

Info

Publication number
JP4827101B2
JP4827101B2 JP2007108677A JP2007108677A JP4827101B2 JP 4827101 B2 JP4827101 B2 JP 4827101B2 JP 2007108677 A JP2007108677 A JP 2007108677A JP 2007108677 A JP2007108677 A JP 2007108677A JP 4827101 B2 JP4827101 B2 JP 4827101B2
Authority
JP
Japan
Prior art keywords
imaging
unit
image
light
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007108677A
Other languages
Japanese (ja)
Other versions
JP2008270988A (en
Inventor
幸典 野口
誠 與那覇
修司 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007108677A priority Critical patent/JP4827101B2/en
Publication of JP2008270988A publication Critical patent/JP2008270988A/en
Application granted granted Critical
Publication of JP4827101B2 publication Critical patent/JP4827101B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、制御装置、制御方法、撮像システム、撮像方法、及びプログラムに関する。特に本発明は、複数の撮像装置を備える撮像システム及び撮像方法、当該複数の撮像装置を制御する制御装置及び制御方法、並びに当該撮像システム及び制御装置用のプログラムに関する。   The present invention relates to a control device, a control method, an imaging system, an imaging method, and a program. In particular, the present invention relates to an imaging system and an imaging method including a plurality of imaging devices, a control device and a control method for controlling the plurality of imaging devices, and a program for the imaging system and the control device.

監視対象となる三次元空間に向けて所定のパターン光を照射する照射装置と、パターン光の照射により、三次元空間内の侵入物体並びにスクリーンに投影される映像パターンを撮像し、画像データを取得する撮像装置と、撮像装置を介してそのとき取得される監視画像と、三次元空間内に進入物体が存在しないときに取得されるリファレンス画像との比較に基づき、三次元空間における侵入物体についての位置を計測する計測装置とを設けた三次元監視装置が知られている(例えば、特許文献1参照。)。
特開2003−269915号公報
Image data is acquired by irradiating a predetermined pattern light toward the three-dimensional space to be monitored, and capturing the intruding object in the three-dimensional space and the image pattern projected on the screen by irradiating the pattern light. Based on a comparison between an imaging device that performs imaging, a monitoring image that is acquired through the imaging device, and a reference image that is acquired when there is no entering object in the three-dimensional space. A three-dimensional monitoring device provided with a measuring device that measures a position is known (for example, see Patent Document 1).
JP 2003-269915 A

上記特許文献1に記載の三次元監視装置によると、三次元空間内に物体が侵入したことを高精度で検出することができる。しかしながら、侵入物体の背後を撮像することができないので、侵入物体によって死角が生じてしまう。また、上記特許文献1に記載の三次元監視装置によると、侵入物体の位置を計測することができるが、当該位置に侵入物体が存在することによっていずれの領域が死角となっているかを知るためには、三次元空間における計算が必要となり、迅速に死角を算出することができない。   According to the three-dimensional monitoring apparatus described in Patent Document 1, it is possible to detect with high accuracy that an object has entered the three-dimensional space. However, since the back of the intruding object cannot be imaged, a blind spot is generated by the intruding object. Further, according to the three-dimensional monitoring apparatus described in Patent Document 1, the position of the intruding object can be measured, but in order to know which area is a blind spot due to the presence of the intruding object at the position. Requires a calculation in a three-dimensional space, and the blind spot cannot be calculated quickly.

そこで本発明は、上記課題を解決することができる制御装置、制御方法、撮像システム、撮像方法、及びプログラムを提供することを目的とする。この目的は特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。   Accordingly, an object of the present invention is to provide a control device, a control method, an imaging system, an imaging method, and a program that can solve the above-described problems. This object is achieved by a combination of features described in the independent claims. The dependent claims define further advantageous specific examples of the present invention.

上記課題を解決するために、本発明の第1の形態における制御装置は、第1撮像部の撮像方向と略同一の方向に光が照射された、第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、照射された光によって生じた影領域を特定する影領域特定部と、第1撮像部の他の撮像部の撮像条件を制御して、他の撮像部に影領域を含む領域を撮像させる制御部とを備える。   In order to solve the above-described problem, the control device according to the first aspect of the present invention provides at least a part of an imaging region by the first imaging unit that is irradiated with light in a direction substantially the same as the imaging direction of the first imaging unit. Based on the image content of the image of the area including the area, the shadow area specifying unit for specifying the shadow area caused by the irradiated light, and the imaging conditions of the other imaging units of the first imaging unit are controlled. And a control unit that causes the imaging unit to image a region including a shadow region.

影領域特定部は、第1撮像部の近傍から光が照射された、第1撮像部による撮像領域と略同一の領域を含む領域の画像の画像内容に基づいて、照射された光によって生じた影領域を特定してよい。   The shadow region specifying unit is generated by the irradiated light based on the image content of the image of the region including the region substantially the same as the imaging region by the first imaging unit irradiated with light from the vicinity of the first imaging unit. A shadow area may be specified.

制御部は、他の撮像部が撮像する撮像位置、撮像方向、及び画角の少なくとも1つを制御して、他の撮像部に影領域を撮像させてよい。   The control unit may control at least one of an imaging position, an imaging direction, and an angle of view captured by another imaging unit, and cause the other imaging unit to image the shadow region.

本発明の第2の形態における制御方法は、第1撮像部の撮像方向と略同一の方向に光が照射された、第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、照射された光によって生じた影領域を特定する影領域特定段階と、第1撮像部の他の撮像部の撮像条件を制御して、他の撮像部に影領域を含む領域を撮像させる制御段階とを備える。   In the control method according to the second aspect of the present invention, an image of an area including at least a part of an imaging area by the first imaging unit irradiated with light in a direction substantially the same as the imaging direction of the first imaging unit. Based on the image content, the shadow region specifying stage for specifying the shadow region caused by the irradiated light and the imaging condition of the other imaging unit of the first imaging unit are controlled, and the shadow region is included in the other imaging unit A control stage for imaging the region.

本発明の第3の形態によると、制御装置用のプログラムであって、制御装置を、第1撮像部の撮像方向と略同一の方向に光が照射された、第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、照射された光によって生じた影領域を特定する影領域特定部、第1撮像部の他の撮像部の撮像条件を制御して、他の撮像部に影領域を含む領域を撮像させる制御部として機能させる。   According to a third aspect of the present invention, there is provided a program for a control device, wherein the control device is configured to detect an imaging region by the first imaging unit that is irradiated with light in a direction substantially the same as the imaging direction of the first imaging unit. Based on the image content of the image of the area including at least a part of the area, the imaging condition of the shadow area specifying unit that specifies the shadow area caused by the irradiated light and the other imaging unit of the first imaging unit is controlled. The other imaging unit is caused to function as a control unit that images a region including a shadow region.

また、本発明の第4の形態における撮像システムは、画像を撮像する第1撮像部と、第1撮像部が撮像する撮像領域の少なくとも一部の領域に、第1撮像部の撮像方向と略同一の方向に光を照射する光照射部と、光照射部が光を照射した領域を含む領域の画像を撮像する第2撮像部と、第2撮像部が撮像した画像の画像内容に基づいて、光照射部が照射した光によって生じた影領域を特定する影領域特定部と、第1撮像部の他の撮像部の撮像条件を制御して、他の撮像部に影領域を含む領域を撮像させる制御部とを備える。   The imaging system according to the fourth aspect of the present invention is substantially the same as the imaging direction of the first imaging unit in at least a part of the imaging area captured by the first imaging unit and the first imaging unit. Based on the image content of the image captured by the second imaging unit, the second imaging unit that captures an image of a region including the region irradiated with light by the light irradiation unit, and the light irradiation unit that irradiates light in the same direction A shadow region specifying unit that specifies a shadow region caused by light emitted by the light irradiation unit, and an imaging condition of another imaging unit of the first imaging unit, and a region that includes the shadow region in the other imaging unit. And a control unit for imaging.

本発明の第5の形態における撮像方法は、画像を撮像する第1撮像部によって撮像される撮像領域の少なくとも一部の領域に、第1撮像部による撮像方向と略同一の方向に光を照射する光照射段階と、光照射段階において光が照射された領域を含む領域の画像を撮像する第2撮像部が撮像した画像の画像内容に基づいて、光照射段階において照射された光によって生じた影領域を特定する影領域特定段階と、第1撮像部の他の撮像部の撮像条件を制御して、他の撮像部に影領域を含む領域を撮像させる制御段階とを備える。   In the imaging method according to the fifth aspect of the present invention, at least a part of an imaging area captured by the first imaging unit that captures an image is irradiated with light in a direction substantially the same as the imaging direction by the first imaging unit. Generated by the light irradiated in the light irradiation stage, based on the image content of the image captured by the second imaging unit that captures an image of the area including the area irradiated with light in the light irradiation stage A shadow region specifying step of specifying a shadow region; and a control step of controlling the imaging conditions of the other imaging units of the first imaging unit to cause the other imaging units to image the region including the shadow region.

本発明の第6の形態によると、撮像システム用のプログラムであって、撮像システムを、画像を撮像する第1撮像部、第1撮像部が撮像する撮像領域の少なくとも一部の領域に、第1撮像部の撮像方向と略同一の方向に光を照射する光照射部、光照射部が光を照射した領域を含む領域の画像を撮像する第2撮像部、第2撮像部が撮像した画像の画像内容に基づいて、光照射部が照射した光によって生じた影領域を特定する影領域特定部、第1撮像部の他の撮像部の撮像条件を制御して、他の撮像部に影領域を含む領域を撮像させる制御部として機能させる。   According to a sixth aspect of the present invention, there is provided a program for an imaging system, wherein the imaging system includes a first imaging unit that captures an image, and a first imaging unit that captures at least a part of an imaging region captured by the first imaging unit. A light irradiating unit that irradiates light in a direction substantially the same as the imaging direction of one imaging unit, a second imaging unit that captures an image of a region including a region irradiated with light by the light irradiating unit, and an image captured by the second imaging unit Based on the image content of the first imaging unit, the shadow region specifying unit for specifying the shadow region generated by the light irradiated by the light irradiation unit and the imaging conditions of the other imaging units of the first imaging unit are controlled, and It functions as a control unit that images an area including the area.

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションもまた、発明となりうる。   The above summary of the invention does not enumerate all the necessary features of the present invention, and sub-combinations of these feature groups can also be the invention.

本発明によれば、複数の撮像装置を用いて死角領域を削減することができる制御装置を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the control apparatus which can reduce a blind spot area | region using a several imaging device can be provided.

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。   Hereinafter, the present invention will be described through embodiments of the invention. However, the following embodiments do not limit the invention according to the scope of claims, and all combinations of features described in the embodiments are included. It is not necessarily essential for the solution of the invention.

図1は、一実施形態に係る撮像システム130の構成の一例を示す。撮像システム130は、複数の撮像装置100a−d(以後、撮像装置100と総称する。)、光照射部110a−d(以後、光照射部110と総称する。)、通信回線150、及び複数の撮像装置100を制御する制御装置120を備える。撮像装置100は、制御装置120と通信回線150を通じて接続され、制御装置120によって制御される。光照射部110a−dは、それぞれ撮像装置100a−dに設けられ、それぞれ撮像装置100a−dが撮像する方向及び画角と略同一の方向に光を照射する。制御装置120は、光照射部110に光を照射させる。なお、本実施形態では、撮像システム130は監視領域を撮像することによって監視する監視システムとして機能する。   FIG. 1 shows an example of the configuration of an imaging system 130 according to an embodiment. The imaging system 130 includes a plurality of imaging devices 100a-d (hereinafter collectively referred to as imaging devices 100), light irradiation units 110a-d (hereinafter collectively referred to as light irradiation units 110), a communication line 150, and a plurality of imaging devices. A control device 120 that controls the imaging device 100 is provided. The imaging device 100 is connected to the control device 120 through the communication line 150 and is controlled by the control device 120. The light irradiators 110a-d are provided in the imaging devices 100a-d, respectively, and irradiate light in substantially the same direction as the direction and angle of view captured by the imaging devices 100a-d. The control device 120 causes the light irradiation unit 110 to emit light. In the present embodiment, the imaging system 130 functions as a monitoring system that monitors by imaging a monitoring area.

光照射部110が光を照射すると略同時に、撮像装置100cは監視領域全体を見渡すことができる位置から監視領域の画像を撮像する。そして、制御装置120は、撮像装置100cが撮像した画像を取得する。そして、制御装置120は、取得した画像内に影が存在するか否かを判断する。制御装置120は、影が存在する旨を判断した場合、当該影の領域を撮像装置100dに撮像させるべく、撮像装置100dの位置、撮像方向、及び画角を決定して、撮像装置100dに指示する。そして、撮像装置100dは、指示された位置、撮像方向、及び画角で撮像を開始する。   At substantially the same time as the light irradiation unit 110 emits light, the imaging device 100c captures an image of the monitoring area from a position where the entire monitoring area can be looked over. And the control apparatus 120 acquires the image which the imaging device 100c imaged. Then, the control device 120 determines whether or not there is a shadow in the acquired image. When determining that there is a shadow, the control device 120 determines the position, imaging direction, and angle of view of the imaging device 100d and instructs the imaging device 100d to cause the imaging device 100d to capture the shadow area. To do. Then, the imaging device 100d starts imaging at the instructed position, imaging direction, and angle of view.

なお、制御装置120は、複数の撮像装置100a及びbのそれぞれに設けられた複数の光照射部110を同時に照射させるとともに、撮像装置100cに監視領域の画像を撮像させる。そして、制御装置120は、撮像装置100cが撮像した画像から、複数の光照射部110のそれぞれによって生じた影領域170a及び170bを特定するとともに、影領域170a及び影領域170bが重複する重複影領域180を特定する。そして、制御装置120は、特定した重複影領域180を撮像装置100dに撮像させるべく、撮像装置100dの位置、撮像方向、及び画角を決定してよい。   The control device 120 causes the plurality of light irradiation units 110 provided in each of the plurality of imaging devices 100a and 100b to irradiate simultaneously, and causes the imaging device 100c to capture an image of the monitoring region. Then, the control device 120 specifies the shadow regions 170a and 170b generated by each of the plurality of light irradiation units 110 from the image captured by the imaging device 100c, and overlaps the shadow region 170a and the shadow region 170b. 180 is specified. Then, the control device 120 may determine the position, the imaging direction, and the angle of view of the imaging device 100d in order to cause the imaging device 100d to capture the identified overlapping shadow region 180.

撮像システム130によると、影を検出することで撮像装置100の死角となる領域を速やかに特定することができる。このため、撮像装置100のそれぞれが撮像する領域について複雑な空間的な解析をする必要がない。また、監視領域内に物体があったとしても、その物体の3次元構造を解析することなく、死角を特定することができる。   According to the imaging system 130, it is possible to quickly identify a region that becomes a blind spot of the imaging apparatus 100 by detecting a shadow. For this reason, it is not necessary to perform a complicated spatial analysis on the area captured by each of the imaging devices 100. Even if there is an object in the monitoring area, the blind spot can be identified without analyzing the three-dimensional structure of the object.

なお、光照射部110は、可視光を照射してよいし、赤外光を照射してもよい。また、光照射部110は、可視光及び赤外光を照射してよい。光照射部110が可視光を照射する場合には撮像装置100は可視光により被写体を撮像し、光照射部110が赤外光を照射する場合には撮像装置100は赤外光により撮像する。なお、撮像装置100は、この発明における撮像部の一例である。   The light irradiation unit 110 may irradiate visible light or infrared light. Moreover, the light irradiation part 110 may irradiate visible light and infrared light. When the light irradiation unit 110 irradiates visible light, the imaging device 100 images a subject with visible light, and when the light irradiation unit 110 irradiates infrared light, the imaging device 100 images with infrared light. The imaging device 100 is an example of an imaging unit in the present invention.

図2は、制御装置120のブロック構成の一例を示す。制御装置120は、影領域特定部220、制御部210、撮像条件記憶部230、及び輝度算出部240を有する。影領域特定部220は、第1の撮像装置100の撮像方向と略同一の方向に光が照射された、第1の撮像装置100による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、照射された光によって生じた影領域を特定する。そして、制御部210は、第1の撮像装置100の他の撮像装置100の撮像条件を制御して、他の撮像装置100に影領域を含む領域を撮像させる。   FIG. 2 shows an example of a block configuration of the control device 120. The control device 120 includes a shadow area specifying unit 220, a control unit 210, an imaging condition storage unit 230, and a luminance calculation unit 240. The shadow area specifying unit 220 is an image of an image including an area including at least a part of an imaging area of the first imaging device 100 irradiated with light in a direction substantially the same as the imaging direction of the first imaging device 100. Based on the content, a shadow region caused by the irradiated light is specified. Then, the control unit 210 controls the imaging conditions of the other imaging device 100 of the first imaging device 100 to cause the other imaging device 100 to capture an area including a shadow area.

具体的には、光照射部110は、画像を撮像する第1の撮像装置100が撮像する撮像領域の少なくとも一部の領域に、第1の撮像装置100の撮像方向と略同一の方向に光を照射する。そして、第2の撮像装置100は、光照射部110が光を照射した領域を含む領域の画像を撮像する。そして、影領域特定部220は、第2の撮像装置100が撮像した画像の画像内容に基づいて、光照射部110が照射した光によって生じた影領域を特定する。そして、制御部210は、第1の撮像装置100の他の撮像装置100の撮像条件を制御して、他の撮像装置100に影領域を含む領域を撮像させる。   Specifically, the light irradiation unit 110 emits light in a direction substantially the same as the imaging direction of the first imaging device 100 in at least a part of the imaging region captured by the first imaging device 100 that captures an image. Irradiate. Then, the second imaging device 100 captures an image of a region including the region irradiated with light by the light irradiation unit 110. Then, the shadow area specifying unit 220 specifies a shadow area caused by the light irradiated by the light irradiation unit 110 based on the image content of the image captured by the second imaging device 100. Then, the control unit 210 controls the imaging conditions of the other imaging device 100 of the first imaging device 100 to cause the other imaging device 100 to capture an area including a shadow area.

影領域特定部220は、第1の撮像装置100の近傍から光が照射された、第1の撮像装置100による撮像領域と略同一の領域を含む領域の画像の画像内容に基づいて、照射された光によって生じた影領域を特定する。具体的には、光照射部110は、第1の撮像装置100の近傍から、第1の撮像装置100が撮像する撮像領域と略同一の領域に光を照射する。そして、制御部210は、他の撮像装置100が撮像する撮像位置、撮像方向、及び画角の少なくとも1つを制御して、他の撮像装置100に影領域を撮像させる。   The shadow area specifying unit 220 is irradiated based on the image content of the image of the area including the area substantially the same as the imaging area by the first imaging apparatus 100 irradiated with light from the vicinity of the first imaging apparatus 100. Identify shadow areas caused by light. Specifically, the light irradiation unit 110 irradiates light from the vicinity of the first imaging device 100 to a region that is substantially the same as the imaging region captured by the first imaging device 100. Then, the control unit 210 controls at least one of the imaging position, the imaging direction, and the angle of view captured by the other imaging device 100 to cause the other imaging device 100 to capture the shadow region.

撮像条件記憶部230は、制御部210が他の撮像装置100に影領域を撮像させたときの他の撮像装置100の撮像条件を、時刻に対応づけて記憶する。そして、制御部210は、撮像条件記憶部230が格納している時刻を含む期間に、当該時刻に対応付けて撮像条件記憶部230が記憶している撮像条件で他の撮像装置100に画像を撮像させる。   The imaging condition storage unit 230 stores the imaging conditions of the other imaging device 100 when the control unit 210 causes the other imaging device 100 to capture the shadow region in association with the time. Then, the control unit 210 transmits an image to another imaging apparatus 100 in a period including the time stored in the imaging condition storage unit 230 under the imaging conditions stored in the imaging condition storage unit 230 in association with the time. Let's take an image.

なお、影領域特定部220は、第1の撮像装置100が撮像する方向と異なる方向から第1の撮像装置100が撮像する撮像領域の少なくとも一部の領域の画像を撮像する第3の撮像装置100による撮像領域と略同一の領域及び第1の撮像装置100による撮像領域と略同一の領域にそれぞれ第3の撮像装置100の近傍及び第1の撮像装置100の近傍から光が照射されるのと略同時に撮像された光が照射された領域を含む領域の画像の画像内容に基づいて、第1の撮像装置100の近傍から照射された光によって生じた影領域と、第3の撮像装置100の近傍から照射された光によって生じた影領域とが重なる領域である重複影領域180を特定する。そして、制御部210は、第1の撮像装置100及び第3の他の撮像装置100の撮像条件を制御して、当該他の撮像装置100に重複影領域180を含む領域を撮像させる。   The shadow area specifying unit 220 captures an image of at least a part of the imaging area captured by the first imaging apparatus 100 from a direction different from the direction captured by the first imaging apparatus 100. The light is irradiated from the vicinity of the third imaging device 100 and the vicinity of the first imaging device 100 to the region substantially the same as the imaging region by 100 and the region substantially the same as the imaging region by the first imaging device 100, respectively. Based on the image content of the image of the area including the area irradiated with the light imaged substantially simultaneously, the shadow area generated by the light irradiated from the vicinity of the first imaging apparatus 100, and the third imaging apparatus 100 The overlapping shadow region 180 that is a region overlapping with the shadow region generated by the light irradiated from the vicinity of is identified. Then, the control unit 210 controls the imaging conditions of the first imaging device 100 and the third other imaging device 100 to cause the other imaging device 100 to image the region including the overlapping shadow region 180.

具体的には、第3の撮像装置100は、第1の撮像装置100が撮像する撮像領域の少なくとも一部の領域の画像を、第1の撮像装置100が撮像する方向と異なる方向から撮像する。そして、光照射部110は、第1の撮像装置100の近傍から第1の撮像装置100が撮像する撮像領域と略同一の領域に光を照射するのと略同時に、第3の撮像装置100の近傍から第3の撮像装置100が撮像する撮像領域と略同一の領域に光を照射する。そして、第2の撮像装置100は、光照射部110が光を照射するのと略同時に、光照射部110が光を照射した領域を含む領域の画像を撮像する。そして、影領域特定部220は、第2の撮像装置100が撮像した画像の画像内容に基づいて、光照射部110が第1の撮像装置100の近傍から照射した光によって生じた影領域と、光照射部110が第2の撮像装置100の近傍から照射した光によって生じた影領域とが重なる領域である重複影領域180を特定する。そして、制御部210は、第1の撮像装置100及び第3の他の撮像装置100の撮像条件を制御して、当該他の撮像装置100に重複影領域180を含む領域を撮像させる。   Specifically, the third imaging device 100 captures an image of at least a part of the imaging region captured by the first imaging device 100 from a direction different from the direction in which the first imaging device 100 captures. . The light irradiation unit 110 irradiates light from the vicinity of the first imaging device 100 to a region that is substantially the same as the imaging region captured by the first imaging device 100 at the same time as the third imaging device 100. Light is irradiated from the vicinity to an area that is substantially the same as the imaging area captured by the third imaging apparatus 100. The second imaging device 100 captures an image of a region including the region irradiated with light by the light irradiation unit 110 substantially simultaneously with the light irradiation unit 110 irradiating light. Then, the shadow region specifying unit 220 is based on the image content of the image captured by the second imaging device 100, and the shadow region generated by the light irradiated from the vicinity of the first imaging device 100 by the light irradiation unit 110; The overlapping shadow region 180 that is a region where the light irradiation unit 110 overlaps with a shadow region generated by light irradiated from the vicinity of the second imaging device 100 is specified. Then, the control unit 210 controls the imaging conditions of the first imaging device 100 and the third other imaging device 100 to cause the other imaging device 100 to image the region including the overlapping shadow region 180.

なお、影領域特定部220は、第2の撮像装置100が撮像した画像において予め定められた輝度値以下の領域を影領域として特定する。他にも、影領域特定部220は、光が照射されているときに撮像された照射画像と光が照射されていないときに撮像された非照射画像との間で輝度の差が予め定められた値より小さい領域を、影領域として特定する。具体的には、第2の撮像装置100は、光照射部110が光を照射しているときに撮像した照射画像及び光照射部110が光を照射していないときに撮像した非照射画像を撮像する。そして、輝度算出部240は、照射画像及び非照射画像のそれぞれの輝度を領域毎に算出する。例えば、輝度算出部240は、照射画像及び非照射画像のそれぞれの輝度を画素毎に算出する。そして、影領域特定部220は、照射画像と非照射画像との間で輝度の差が予め定められた値より小さい領域を影領域として特定する。具体的には、影領域特定部220は、照射画像と非照射画像との間で、輝度算出部240が算出した輝度の差が予め定められた値より小さい領域を影領域として特定する。   Note that the shadow area specifying unit 220 specifies an area having a luminance value equal to or lower than a predetermined luminance value in the image captured by the second imaging apparatus 100 as a shadow area. In addition, the shadow area specifying unit 220 determines in advance a luminance difference between an irradiated image captured when light is irradiated and a non-irradiated image captured when light is not irradiated. An area smaller than the specified value is specified as a shadow area. Specifically, the second imaging device 100 displays an irradiation image captured when the light irradiation unit 110 is irradiating light and a non-irradiation image captured when the light irradiation unit 110 is not irradiating light. Take an image. And the brightness | luminance calculation part 240 calculates each brightness | luminance of an irradiation image and a non-irradiation image for every area | region. For example, the luminance calculation unit 240 calculates the luminance of each of the irradiated image and the non-irradiated image for each pixel. Then, the shadow area specifying unit 220 specifies an area where the difference in luminance between the irradiated image and the non-irradiated image is smaller than a predetermined value as the shadow area. Specifically, the shadow area specifying unit 220 specifies an area where the difference in luminance calculated by the luminance calculating unit 240 is smaller than a predetermined value between the irradiated image and the non-irradiated image as a shadow area.

なお、影領域特定部220は、第1の撮像装置100の撮像方向と略同一の方向に赤外光が照射された、第1の撮像装置100による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、照射された赤外光によって生じた影領域を特定する。具体的には、光照射部110は、第1の撮像装置100が撮像する撮像領域の少なくとも一部の領域に、第1の撮像装置100の撮像方向と略同一の方向に赤外線を照射する。そして、第2の撮像装置100は、光照射部110が赤外線を照射した領域を含む領域の画像を、赤外線を受光することによって撮像する。   Note that the shadow area specifying unit 220 includes an area including at least a part of an imaging area of the first imaging apparatus 100 irradiated with infrared light in a direction substantially the same as the imaging direction of the first imaging apparatus 100. Based on the image content of the image, a shadow region caused by the irradiated infrared light is specified. Specifically, the light irradiation unit 110 irradiates at least a part of an imaging region captured by the first imaging device 100 with infrared rays in a direction substantially the same as the imaging direction of the first imaging device 100. And the 2nd imaging device 100 images the image of the area | region containing the area | region which the light irradiation part 110 irradiated infrared rays by receiving infrared rays.

図3は、撮像システム130によって駐車場を監視する場合の撮像装置100の配置の一例を示す。撮像装置100は、予め定められた位置・画角、撮像方向で駐車場を撮像している。そして、制御装置120は、定期的に光照射部110に光を照射させると略同時に、それぞれの撮像装置100に撮像を指示する。そして、影領域特定部220は、撮像装置100が撮像した画像のそれぞれから影領域を特定する。影領域は、光照射部110が光を照射している場合と光を照射していない場合とで、明るさの差が予め定められた値より小さい領域を、影領域としてよい。   FIG. 3 shows an example of the arrangement of the imaging device 100 when the parking lot is monitored by the imaging system 130. The imaging device 100 images a parking lot at a predetermined position / angle of view and imaging direction. Then, the control device 120 instructs each imaging device 100 to perform imaging substantially simultaneously with irradiating the light irradiation unit 110 with light periodically. Then, the shadow area specifying unit 220 specifies a shadow area from each of the images captured by the imaging device 100. The shadow region may be a shadow region in which the difference in brightness is smaller than a predetermined value depending on whether the light irradiation unit 110 emits light or not.

例えば、影領域特定部220は、光照射部110aからの光により車輌310及び320によって生じた影、及び光照射部110bからの光により車輌340、330、及び350によって生じた影を特定する。そして制御部210は、特定した影の全領域を撮像装置100c及びdの少なくともいずれかが撮像することができるよう、撮像装置100c及びdの位置、撮像方向、及び画角を決定する。   For example, the shadow region specifying unit 220 specifies shadows generated by the vehicles 310 and 320 by the light from the light irradiation unit 110a and shadows generated by the vehicles 340, 330, and 350 by the light from the light irradiation unit 110b. Then, the control unit 210 determines the position, the imaging direction, and the angle of view of the imaging devices 100c and 100d so that at least one of the imaging devices 100c and 100d can capture the entire area of the specified shadow.

なお、制御部210は、光照射部110が光を照射している場合に撮像された監視領域の画像の明るさに基づいて、撮像装置100の撮像条件を決定してよい。具体的には、制御部210は、撮像装置100が撮像することができる撮像範囲と略同一の範囲に光照射部110が光を照射している場合に撮像された監視領域の画像の明るさに基づいて、撮像装置100の撮像条件を決定してよい。例えば、制御装置120は、撮像装置100のそれぞれの撮像範囲と略同一の範囲に、撮像装置100にそれぞれ設けられた光照射部110にそれぞれ光を照射させる。そして、制御装置120は、光照射部110が光を照射している状態で、監視領域全体を撮像装置100に撮像させる。そして、輝度算出部240は、撮像装置100が撮像した画像の輝度を算出する。また、制御装置120は、光照射部110に光を照射させていない状態でも、監視領域全体を撮像装置100に撮像させる。そして、制御部210は、光照射部110が光を照射している場合に撮像された画像と、光照射部110が光を照射していない状態で撮像された画像の間の輝度差を算出する。そして、制御部210は、少なくとも監視領域が撮像された画像領域において、当該輝度差の合計値が増加する方向に、撮像装置100のそれぞれの撮像条件、例えば位置、撮像方向、及び画角を変化させる。そして、制御装置120は、上記の光照射部110による光照射と撮像装置100の監視領域全体の撮像動作を繰返して、輝度差の合計値が予め定められた値より大きくなった場合、又は輝度差の合計値が極大値になった場合の撮像装置100のそれぞれの撮像条件を特定する。そして、制御部210は、特定した撮像条件で撮像装置100に監視領域を撮像させる。なお、上記の輝度差の合計値とは、光照射部110が光を照射していない場合に得られた監視領域の画像において予め定められた輝度値より小さい領域における、輝度差の合計値であってよい。   Note that the control unit 210 may determine the imaging condition of the imaging device 100 based on the brightness of the image of the monitoring area captured when the light irradiation unit 110 is irradiating light. Specifically, the control unit 210 determines the brightness of the image of the monitoring area captured when the light irradiation unit 110 irradiates light in a range that is substantially the same as the imaging range that the imaging device 100 can capture. Based on the above, the imaging condition of the imaging device 100 may be determined. For example, the control device 120 causes each of the light irradiation units 110 provided in the imaging device 100 to irradiate light within the same range as each imaging range of the imaging device 100. And the control apparatus 120 makes the imaging device 100 image the whole monitoring area | region in the state which the light irradiation part 110 is irradiating light. Then, the luminance calculation unit 240 calculates the luminance of the image captured by the imaging device 100. In addition, the control device 120 causes the imaging device 100 to capture the entire monitoring region even when the light irradiation unit 110 is not irradiated with light. Then, the control unit 210 calculates a luminance difference between an image captured when the light irradiation unit 110 is irradiating light and an image captured when the light irradiation unit 110 is not irradiating light. To do. Then, the control unit 210 changes each imaging condition, for example, the position, the imaging direction, and the angle of view of the imaging device 100 in a direction in which the total value of the luminance differences increases in at least the image area where the monitoring area is captured. Let And the control apparatus 120 repeats the light irradiation by said light irradiation part 110, and the imaging operation of the whole monitoring area | region of the imaging device 100, and when the total value of a brightness | luminance difference becomes larger than a predetermined value, or brightness | luminance Each imaging condition of the imaging device 100 when the total value of the differences becomes a maximum value is specified. Then, the control unit 210 causes the imaging device 100 to image the monitoring area under the specified imaging condition. The total luminance difference is the total luminance difference in a region smaller than a predetermined luminance value in the monitoring region image obtained when the light irradiation unit 110 is not irradiating light. It may be.

他にも、制御部210は、少なくとも監視領域が撮像された画像領域において、所定値以上の輝度差が得られた画像領域の面積が増加する方向に、撮像装置100の撮像条件を変化させる。そして、制御装置120は、所定値以上の輝度差が得られた画像領域の面積が予め定められた面積値より大きくなった場合、又は所定値以上の輝度差が得られた画像領域の面積が極大値になった場合の撮像条件で、撮像装置100に監視領域を撮像させてもよい。なお、所定値以上の輝度差が得られた画像領域の面積とは、光照射部110が光を照射していない場合に得られた監視領域の画像において予め定められた輝度値より小さい領域における、所定値以上の輝度差が得られた画像領域の面積であってよい。なお、ここでいう面請とは、画像上における面積であってよいし、実空間上における面積であってもよい。他にも、面積とは、画像における画素数であってよい。   In addition, the control unit 210 changes the imaging condition of the imaging apparatus 100 in a direction in which the area of the image area where a luminance difference of a predetermined value or more is obtained increases in at least the image area where the monitoring area is captured. Then, the control device 120 determines that the area of the image region in which the luminance difference equal to or greater than the predetermined value is greater than a predetermined area value, or the area of the image region in which the luminance difference equal to or greater than the predetermined value is obtained. The monitoring area may be imaged by the imaging apparatus 100 under the imaging condition when the maximum value is reached. Note that the area of the image area where a luminance difference equal to or greater than a predetermined value is obtained is an area smaller than a predetermined luminance value in the image of the monitoring area obtained when the light irradiation unit 110 is not irradiating light. It may be the area of the image area where a luminance difference equal to or greater than a predetermined value is obtained. In addition, the area request | requirement here may be the area on an image, and may be the area on real space. In addition, the area may be the number of pixels in the image.

また、上記の説明において、監視領域の全体を撮像する撮像装置100は、全ての撮像装置100であってよいし、少なくとも一の撮像装置100であってもよい。他にも、監視領域の全体を撮像する撮像装置100は、撮像方向の差が予め定められた角度差より大きい複数の撮像装置100であってよい。他にも、撮像装置100以外の撮像装置が監視領域の全体を撮像してもよい。   In the above description, the imaging device 100 that captures the entire monitoring area may be all the imaging devices 100 or at least one imaging device 100. In addition, the imaging device 100 that captures the entire monitoring area may be a plurality of imaging devices 100 in which the difference in imaging direction is larger than a predetermined angle difference. In addition, an imaging device other than the imaging device 100 may image the entire monitoring area.

上記のような制御によると、光照射部110からの光が届きにくい領域を撮像装置100が撮像することによって、撮像装置100が撮像する画像の監視画像としての有用性を高めることができる。例えば、光照射部110aが撮像装置100aの画角と略同一の画角で光を照射している場合、光照射部110aからの光が届かない影の領域は、当然ながら撮像装置100aによって撮像されない。したがって、その領域については、撮像装置100aが撮像した画像の監視画像としての情報量は0であるといえる。また、撮像装置100aによって撮像される場所についても、光照射部110aが光を照射した場合の明るさの増加量は、撮像装置100aから遠いほど小さくなる。一方で、多くの場合、撮像装置100aから遠いほど撮像装置100aによって撮像される画像の鮮明さは失われてしまう。このように、光照射部110aが光を照射した場合と光を照射していない場合との間の明るさの差は、撮像装置100aによって得られた画像の監視画像としての情報量と相関があるといえる。撮像システム130によると、光照射部110aが光を照射した場合に明るさの増加量が大きくなる撮像条件を制御装置120が特定するので、複数の撮像装置100の間で解像力の弱い領域をカバーし合うことができ、得られた画像の監視画像としての情報量を全体として増大させることができる。   According to the control as described above, the imaging device 100 captures an area in which light from the light irradiation unit 110 is difficult to reach, thereby increasing the usefulness of the image captured by the imaging device 100 as a monitoring image. For example, when the light irradiation unit 110a is irradiating light with an angle of view substantially the same as the angle of view of the imaging device 100a, the shadow region where the light from the light irradiation unit 110a does not reach is naturally captured by the imaging device 100a. Not. Therefore, it can be said that the amount of information as the monitoring image of the image captured by the imaging device 100a is 0 for the area. In addition, the increase in brightness when the light irradiation unit 110a emits light also becomes smaller as the distance from the image capturing apparatus 100a increases. On the other hand, in many cases, the clearer the image picked up by the image pickup apparatus 100a is, the farther from the image pickup apparatus 100a. As described above, the difference in brightness between the case where the light irradiation unit 110a emits light and the case where the light irradiation unit 110a does not emit light has a correlation with the amount of information as a monitoring image of the image obtained by the imaging device 100a. It can be said that there is. According to the imaging system 130, since the control device 120 specifies an imaging condition in which the amount of increase in brightness increases when the light irradiation unit 110a emits light, an area where the resolution is weak among the plurality of imaging devices 100 is covered. The amount of information of the obtained image as a monitoring image can be increased as a whole.

なお、制御装置120は、光照射部110のそれぞれを互いに異なるタイミングで光を照射させ、照射させたタイミングを含む期間の画像を撮像装置100に撮像させてよい。そして、影領域特定部220は、撮像装置100が撮像した画像の画像内容及び撮像装置100が撮像したタイミングに基づいて、光照射部110のそれぞれによって生じた影領域のそれぞれを特定してよい。他にも、光照射部110は、互いに異なる波長の光を照射してもよい。そして、影領域特定部220は、撮像装置100が撮像した画像の画像内容に基づいて、光照射部110のそれぞれによって生じた影領域のそれぞれを特定してよい。例えば、光照射部110a、b、c、及びdは、それぞれC、M、Y、及びGの波長領域の光を照射してよい。そして、輝度算出部240は、撮像装置100によって撮像された画像が示すC、M、Y、及びGのそれぞれの波長領域の光量に基づいて、光照射部110のそれぞれによって生じた影領域のそれぞれを特定してよい。他にも、光照射部110が照射する光としては、RGB等の可視光における複数の波長領域の光、可視光、赤外光、及び紫外光の組合せ等を使用することができる。光照射部110が互いに異なる波長の光を照射することで、光照射部110から同時に光が照射された場合であっても影領域特定部220は影領域を特定することができる。なお、互いに異なる波長の光を照射する光照射部110の複数の組のそれぞれに、互いに異なるタイミングで光を照射させてもよい。なお、影領域特定部220が影領域を特定するための画像を撮像する撮像装置は、撮像装置100とは別に設けられてもよい。   Note that the control device 120 may cause each of the light irradiation units 110 to emit light at different timings and cause the imaging device 100 to capture an image of a period including the irradiation timing. Then, the shadow region specifying unit 220 may specify each of the shadow regions generated by each of the light irradiation units 110 based on the image content of the image captured by the imaging device 100 and the timing when the imaging device 100 images. In addition, the light irradiation unit 110 may irradiate light having different wavelengths. Then, the shadow area specifying unit 220 may specify each of the shadow areas generated by each of the light irradiation units 110 based on the image content of the image captured by the imaging device 100. For example, the light irradiation units 110a, b, c, and d may irradiate light in the wavelength regions of C, M, Y, and G, respectively. And the brightness | luminance calculation part 240 each of the shadow area produced by each of the light irradiation part 110 based on the light quantity of each wavelength area of C, M, Y, and G which the image imaged with the imaging device 100 shows May be specified. In addition, as the light irradiated by the light irradiation unit 110, light in a plurality of wavelength regions in visible light such as RGB, a combination of visible light, infrared light, and ultraviolet light can be used. When the light irradiation unit 110 irradiates light having different wavelengths, the shadow region specifying unit 220 can specify the shadow region even when light is simultaneously irradiated from the light irradiation unit 110. In addition, you may irradiate light at a mutually different timing to each of the several group of the light irradiation part 110 which irradiates the light of a mutually different wavelength. Note that an imaging apparatus that captures an image for the shadow area specifying unit 220 to specify a shadow area may be provided separately from the imaging apparatus 100.

なお、制御装置120は、全ての撮像装置100の光照射部110に略同時に光を照射させてもよい。そして、制御装置120は、影領域特定部220が特定した重複影領域の全領域を少なくとも1つの撮像装置100が撮像しているか否かを判断し、重複影領域の全領域を少なくとも1つの撮像装置100が撮像している旨を判断した場合に、撮像装置100の制御を終了する。そして、撮像条件記憶部230は、全ての撮像装置100の撮像条件を、現在の時刻に対応づけて格納する。   Note that the control device 120 may cause the light irradiation units 110 of all the imaging devices 100 to emit light substantially simultaneously. Then, the control device 120 determines whether or not at least one imaging device 100 has captured the entire area of the overlapping shadow area specified by the shadow area specifying unit 220, and has captured at least one of the entire area of the overlapping shadow area. When it is determined that the device 100 is imaging, the control of the imaging device 100 is terminated. The imaging condition storage unit 230 stores the imaging conditions of all the imaging devices 100 in association with the current time.

なお、撮像条件記憶部230は、撮像装置100の撮像条件を、撮像領域に含まれる移動オブジェクトの位置を特定する情報に対応づけて格納してもよい。移動オブジェクトとは、光を通過させない、移動することができる物体であってよい。制御装置120は、撮像装置100が撮像した画像の画像内容の経時的変化に基づいて、撮像装置100が撮像した画像に含まれるオブジェクトが移動オブジェクトであるか否かを判断することができる。   Note that the imaging condition storage unit 230 may store the imaging conditions of the imaging apparatus 100 in association with information that specifies the position of the moving object included in the imaging area. The moving object may be a movable object that does not pass light. The control device 120 can determine whether or not the object included in the image captured by the imaging device 100 is a moving object, based on the temporal change in the image content of the image captured by the imaging device 100.

図4は、撮像条件記憶部230が格納しているデータの一例をテーブル形式で示す。撮像条件記憶部230は、時刻に対応づけて、複数の撮像装置100のそれぞれの撮像パラメータを格納している。なお、撮像パラメータとは、一以上の撮像条件を特定する情報であってよい。なお、カメラID#1、カメラID#2、及びカメラID#3は、撮像装置100を識別する情報である。そして、制御部210は、撮像条件記憶部230が格納している時刻と現在との間の時間長さが予め定められた時間長さより短くなった場合に、当該時刻に対応づけて撮像条件記憶部230が格納している撮像パラメータを読み出して、読み出した撮像パラメータが示す撮像条件に撮像装置100の撮像条件を設定して、設定した撮像条件で撮像装置100に画像を撮像させる。   FIG. 4 shows an example of data stored in the imaging condition storage unit 230 in a table format. The imaging condition storage unit 230 stores the imaging parameters of the plurality of imaging devices 100 in association with the time. The imaging parameter may be information that specifies one or more imaging conditions. The camera ID # 1, the camera ID # 2, and the camera ID # 3 are information for identifying the imaging device 100. When the time length between the time stored in the imaging condition storage unit 230 and the current time becomes shorter than a predetermined time length, the control unit 210 associates the time with the imaging condition storage. The imaging parameter stored in the unit 230 is read out, the imaging condition of the imaging device 100 is set to the imaging condition indicated by the readout imaging parameter, and the imaging device 100 is caused to capture an image under the set imaging condition.

図5は、撮像条件記憶部230が格納しているデータの他の一例をテーブル形式で示す。撮像条件記憶部230は、駐車パターンに対応づけて、当該駐車パターンである場合に制御装置120が決定した撮像装置100のそれぞれの撮像パラメータを格納している。なお、駐車パターンとは、車が駐車されている駐車枠の組合せを識別する情報であり、移動オブジェクトの位置を特定する情報の一例である。そして、制御部210は、現在の駐車パターンと撮像条件記憶部230が格納している駐車パターンとの間の差が予め定められた差より小さい場合に、当該駐車パターンに対応づけて撮像条件記憶部230が格納している撮像パラメータを読み出して、読み出した撮像パラメータが示す撮像条件に撮像装置100の撮像条件を設定して、設定した撮像条件で撮像装置100に画像を撮像させる。   FIG. 5 shows another example of data stored in the imaging condition storage unit 230 in a table format. The imaging condition storage unit 230 stores each imaging parameter of the imaging device 100 determined by the control device 120 when the parking pattern is associated with the parking pattern. In addition, a parking pattern is information which identifies the combination of the parking frame where the vehicle is parked, and is an example of the information which specifies the position of a moving object. When the difference between the current parking pattern and the parking pattern stored in the imaging condition storage unit 230 is smaller than a predetermined difference, the control unit 210 stores the imaging condition in association with the parking pattern. The imaging parameter stored in the unit 230 is read out, the imaging condition of the imaging device 100 is set to the imaging condition indicated by the readout imaging parameter, and the imaging device 100 is caused to capture an image under the set imaging condition.

このように、撮像条件記憶部230が、過去に決定した撮像装置100のそれぞれの撮像パラメータを時刻や駐車パターンに対応づけて格納しているので、制御装置120は、時刻や駐車パターンに応じて撮像装置100の撮像条件を速やかに決定することができる。なお、制御装置120は、撮像条件記憶部230が格納している撮像パラメータが示す撮像条件に撮像装置100の撮像条件を設定した後に、光照射部110に光を照射させるとともに撮像装置100に撮像させることで、新たな設定が適切であるか否かを判断してもよい。そして、制御装置120は、適切でない旨を判断した場合には、現在の設定から、光照射部110を用いた撮像装置100の撮像条件の設定を開始してもよい。   Thus, since the imaging condition storage unit 230 stores each imaging parameter of the imaging device 100 determined in the past in association with the time and the parking pattern, the control device 120 can correspond to the time and the parking pattern. The imaging conditions of the imaging device 100 can be determined quickly. Note that the control device 120 sets the imaging condition of the imaging device 100 to the imaging condition indicated by the imaging parameter stored in the imaging condition storage unit 230, and then causes the light irradiation unit 110 to emit light and capture the image on the imaging device 100. By doing so, it may be determined whether or not the new setting is appropriate. When determining that it is not appropriate, the control device 120 may start setting the imaging conditions of the imaging device 100 using the light irradiation unit 110 from the current setting.

なお、上記においては、撮像装置100と別個に設けられた制御装置120が複数の撮像装置100の撮像条件等を制御する形態について説明した。他の形態では、複数の撮像装置100のそれぞれが、上記において説明した制御装置120の少なくとも一部の機能を有してもよい。具体的には、撮像装置100のそれぞれが、当該撮像装置100が撮像した画像に基づいて輝度の差を算出する輝度算出部240の機能、当該撮像装置100が撮像した画像内容に基づいて影領域を特定する影領域特定部220の機能、及び当該撮像装置100の撮像条件を記憶する撮像条件記憶部230の機能、及び当該撮像装置100の撮像条件を制御する制御部210の機能を有してもよい。   In the above description, the control device 120 provided separately from the imaging device 100 controls the imaging conditions and the like of the plurality of imaging devices 100. In another form, each of the plurality of imaging devices 100 may have at least a part of the functions of the control device 120 described above. Specifically, each of the imaging devices 100 has a function of a luminance calculation unit 240 that calculates a difference in luminance based on an image captured by the imaging device 100, and a shadow area based on the image content captured by the imaging device 100. A shadow area specifying unit 220 that specifies the image capturing condition, a function of the imaging condition storage unit 230 that stores the imaging conditions of the imaging apparatus 100, and a function of the control unit 210 that controls the imaging conditions of the imaging apparatus 100. Also good.

図6は、撮像システム130のハードウェア構成の一例を示す。撮像システム130は、ホスト・コントローラ1582により相互に接続されるCPU1505、RAM1520、グラフィック・コントローラ1575、及び表示装置1580を有するCPU周辺部と、入出力コントローラ1584によりホスト・コントローラ1582に接続される通信インターフェイス1530、ハードディスクドライブ1540、及びCD−ROMドライブ1560を有する入出力部と、入出力コントローラ1584に接続されるROM1510、フレキシブルディスク・ドライブ1550、及び入出力チップ1570を有するレガシー入出力部とを備える。   FIG. 6 shows an example of the hardware configuration of the imaging system 130. The imaging system 130 includes a CPU peripheral unit having a CPU 1505, a RAM 1520, a graphic controller 1575, and a display device 1580 connected to each other by a host controller 1582, and a communication interface connected to the host controller 1582 by an input / output controller 1584. 1530, an input / output unit including a hard disk drive 1540 and a CD-ROM drive 1560, and a legacy input / output unit including a ROM 1510 connected to an input / output controller 1584, a flexible disk drive 1550, and an input / output chip 1570.

ホスト・コントローラ1582は、RAM1520と、高い転送レートでRAM1520をアクセスするCPU1505、及びグラフィック・コントローラ1575とを接続する。CPU1505は、ROM1510、及びRAM1520に格納されたプログラムに基づいて動作し、各部の制御を行う。グラフィック・コントローラ1575は、CPU1505等がRAM1520内に設けたフレーム・バッファ上に生成する画像データを取得し、表示装置1580上に表示させる。これに代えて、グラフィック・コントローラ1575は、CPU1505等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。   The host controller 1582 connects the RAM 1520, the CPU 1505 that accesses the RAM 1520 at a high transfer rate, and the graphic controller 1575. The CPU 1505 operates based on programs stored in the ROM 1510 and the RAM 1520 and controls each unit. The graphic controller 1575 acquires image data generated by the CPU 1505 and the like on a frame buffer provided in the RAM 1520 and displays the image data on the display device 1580. Alternatively, the graphic controller 1575 may include a frame buffer that stores image data generated by the CPU 1505 or the like.

入出力コントローラ1584は、ホスト・コントローラ1582と、比較的高速な入出力装置であるハードディスクドライブ1540、通信インターフェイス1530、CD−ROMドライブ1560を接続する。ハードディスクドライブ1540は、CPU1505が使用するプログラム、及びデータを格納する。通信インターフェイス1530は、ネットワーク通信装置1598に接続してプログラムまたはデータを送受信する。CD−ROMドライブ1560は、CD−ROM1595からプログラムまたはデータを読み取り、RAM1520を介してハードディスクドライブ1540、及び通信インターフェイス1530に提供する。   The input / output controller 1584 connects the host controller 1582 to the hard disk drive 1540, the communication interface 1530, and the CD-ROM drive 1560, which are relatively high-speed input / output devices. The hard disk drive 1540 stores programs and data used by the CPU 1505. The communication interface 1530 is connected to the network communication device 1598 to transmit / receive programs or data. The CD-ROM drive 1560 reads a program or data from the CD-ROM 1595 and provides it to the hard disk drive 1540 and the communication interface 1530 via the RAM 1520.

また、入出力コントローラ1584には、ROM1510と、フレキシブルディスク・ドライブ1550、及び入出力チップ1570の比較的低速な入出力装置とが接続される。ROM1510は、撮像システム130が起動時に実行するブート・プログラムや、撮像システム130のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ1550は、フレキシブルディスク1590からプログラムまたはデータを読み取り、RAM1520を介してハードディスクドライブ1540、及び通信インターフェイス1530に提供する。入出力チップ1570は、フレキシブルディスク・ドライブ1550や、例えばパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。   The input / output controller 1584 is connected to the ROM 1510, the flexible disk drive 1550, and the relatively low-speed input / output device of the input / output chip 1570. The ROM 1510 stores a boot program executed when the imaging system 130 is started, a program depending on the hardware of the imaging system 130, and the like. The flexible disk drive 1550 reads a program or data from the flexible disk 1590 and provides it to the hard disk drive 1540 and the communication interface 1530 via the RAM 1520. The input / output chip 1570 connects various input / output devices via a flexible disk drive 1550 and, for example, a parallel port, a serial port, a keyboard port, a mouse port, and the like.

CPU1505が実行するプログラムは、フレキシブルディスク1590、CD−ROM1595、またはICカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ1540にインストールされ、RAM1520に読み出されてCPU1505により実行される。   A program executed by the CPU 1505 is stored in a recording medium such as the flexible disk 1590, the CD-ROM 1595, or an IC card and provided by the user. The program stored in the recording medium may be compressed or uncompressed. The program is installed in the hard disk drive 1540 from the recording medium, read into the RAM 1520, and executed by the CPU 1505.

CPU1505により実行されるプログラムは、撮像システム130を、図1から図5に関連して説明した、撮像装置100、光照射部110、影領域特定部220、制御部210、及び撮像条件記憶部230として機能させる。   The program executed by the CPU 1505 sets the imaging system 130 to the imaging apparatus 100, the light irradiation unit 110, the shadow area specifying unit 220, the control unit 210, and the imaging condition storage unit 230 described with reference to FIGS. To function as.

以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク1590、CD−ROM1595の他に、DVDやPD等の光学記録媒体、MD等の光磁気記録媒体、テープ媒体、ICカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークやインターネットに接続されたサーバシステムに設けたハードディスクまたはRAM等の記憶装置を記録媒体として使用し、ネットワークを介してプログラムを撮像システム130に提供してもよい。   The program shown above may be stored in an external storage medium. As the storage medium, in addition to the flexible disk 1590 and the CD-ROM 1595, an optical recording medium such as a DVD or PD, a magneto-optical recording medium such as an MD, a tape medium, a semiconductor memory such as an IC card, or the like can be used. Further, a storage device such as a hard disk or a RAM provided in a server system connected to a dedicated communication network or the Internet may be used as a recording medium, and the program may be provided to the imaging system 130 via the network.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加え得ることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。   As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment. It will be apparent to those skilled in the art that various modifications or improvements can be added to the above-described embodiment. It is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加え得ることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。   As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment. It will be apparent to those skilled in the art that various modifications or improvements can be added to the above-described embodiment. It is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.

撮像システム130の利用環境の一例を示す図である。2 is a diagram illustrating an example of a usage environment of an imaging system 130. FIG. 制御装置120のブロック構成の一例を示す図である。3 is a diagram illustrating an example of a block configuration of a control device 120. FIG. 撮像装置100の配置の一例を示す図である。2 is a diagram illustrating an example of an arrangement of the imaging device 100. FIG. 撮像条件記憶部230が格納しているデータの一例をテーブル形式で示す図である。It is a figure which shows an example of the data which the imaging condition memory | storage part 230 has stored in the table format. 撮像条件記憶部230が格納しているデータの他の一例をテーブル形式で示す図である。It is a figure which shows another example of the data which the imaging condition memory | storage part 230 has stored in the table format. 撮像システム130のハードウェア構成の一例を示す。2 shows an example of a hardware configuration of an imaging system 130.

符号の説明Explanation of symbols

100 撮像装置
110 光照射部
120 制御装置
130 撮像システム
150 通信回線
160 車輌
170 影領域
180 重複影領域
210 制御部
220 影領域特定部
230 撮像条件記憶部
240 輝度算出部
DESCRIPTION OF SYMBOLS 100 Imaging device 110 Light irradiation part 120 Control apparatus 130 Imaging system 150 Communication line 160 Vehicle 170 Shadow area 180 Overlapping shadow area 210 Control part 220 Shadow area specific | specification part 230 Imaging condition memory | storage part 240 Luminance calculation part

Claims (13)

第1撮像部の撮像方向と略同一の方向に光が照射された、前記第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、前記照射された光によって生じた影領域を特定する影領域特定部と、
前記第1撮像部の他の撮像部の撮像条件を制御して、前記他の撮像部に前記影領域を含む領域を撮像させる制御部と
を備える制御装置。
The irradiated light based on the image content of an image of an area including at least a part of the imaging area by the first imaging unit, which is irradiated in a direction substantially the same as the imaging direction of the first imaging unit. A shadow area specifying unit for specifying a shadow area generated by
A control apparatus comprising: a control unit that controls an imaging condition of another imaging unit of the first imaging unit and causes the other imaging unit to image an area including the shadow area.
前記影領域特定部は、前記第1撮像部の近傍から光が照射された、前記第1撮像部による撮像領域と略同一の領域を含む領域の画像の画像内容に基づいて、前記照射された光によって生じた影領域を特定する
請求項1に記載の制御装置。
The shadow region specifying unit is irradiated with light based on the image content of an image of a region that is irradiated with light from the vicinity of the first imaging unit and includes a region that is substantially the same as the imaging region by the first imaging unit. The control device according to claim 1, wherein a shadow region caused by light is specified.
前記制御部は、前記他の撮像部が撮像する撮像位置、撮像方向、及び画角の少なくとも1つを制御して、前記他の撮像部に前記影領域を含む領域を撮像させる
請求項1に記載の制御装置。
2. The control unit according to claim 1, wherein the control unit controls at least one of an imaging position, an imaging direction, and an angle of view captured by the other imaging unit, and causes the other imaging unit to capture an area including the shadow area. The control device described.
前記制御部が前記他の撮像部に前記影領域を撮像させたときの前記他の撮像部の撮像条件を、時刻に対応づけて記憶する撮像条件記憶部
をさらに備え、
前記制御部は、前記撮像条件記憶部が格納している時刻を含む期間に、当該時刻に対応付けて前記撮像条件記憶部が記憶している撮像条件で前記他の撮像部に画像を撮像させる
請求項3に記載の制御装置。
An imaging condition storage unit that stores the imaging condition of the other imaging unit when the control unit causes the other imaging unit to image the shadow region, in association with time;
The control unit causes the other imaging unit to capture an image under the imaging condition stored in the imaging condition storage unit in association with the time during a period including the time stored in the imaging condition storage unit. The control device according to claim 3.
前記影領域特定部は、前記第1撮像部が撮像する方向と異なる方向から前記第1撮像部が撮像する撮像領域の少なくとも一部の領域の画像を撮像する第2撮像部による撮像領域と略同一の領域及び前記第1撮像部による撮像領域と略同一の領域にそれぞれ前記第2撮像部の近傍及び前記第1撮像部の近傍から光が照射されるのと略同時に撮像された光が照射された領域を含む領域の画像の画像内容に基づいて、前記第1撮像部の近傍から照射された光によって生じた影領域と、前記第2撮像部の近傍から照射された光によって生じた影領域とが重なる領域である重複影領域を特定し、
前記制御部は、前記第1撮像部及び前記第2撮像部の他の撮像部の撮像条件を制御して、当該他の撮像部に前記重複影領域を含む領域を撮像させる
請求項2に記載の制御装置。
The shadow region specifying unit is substantially the same as an imaging region by a second imaging unit that captures an image of at least a part of an imaging region captured by the first imaging unit from a direction different from a direction captured by the first imaging unit. The same region and the region that is substantially the same as the image capturing region by the first image capturing unit are irradiated with light that is captured at substantially the same time as light is irradiated from the vicinity of the second image capturing unit and the vicinity of the first image capturing unit, respectively. Based on the image content of the image of the region including the region that has been set, the shadow region caused by the light emitted from the vicinity of the first imaging unit and the shadow caused by the light emitted from the vicinity of the second imaging unit Identify the overlapping shadow area that overlaps the area,
The said control part controls the imaging conditions of the other imaging part of the said 1st imaging part and the said 2nd imaging part, and makes the said other imaging part image the area | region containing the said overlapping shadow area. Control device.
前記影領域特定部は、前記第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像において予め定められた輝度値以下の領域を影領域として特定する
請求項1に記載の制御装置。
2. The control device according to claim 1, wherein the shadow area specifying unit specifies, as a shadow area, an area having a luminance value equal to or lower than a predetermined luminance value in an image including an area including at least a part of an imaging area obtained by the first imaging unit. .
前記影領域特定部は、前記光が照射されているときに撮像された照射画像と前記光が照射されていないときに撮像された非照射画像との間で輝度の差が予め定められた値より小さい領域を、影領域として特定する
請求項1に記載の制御装置。
The shadow area specifying unit is a value in which a difference in luminance is predetermined between an irradiation image captured when the light is irradiated and a non-irradiation image captured when the light is not irradiated. The control device according to claim 1, wherein a smaller area is specified as a shadow area.
前記影領域特定部は、前記第1撮像部の撮像方向と略同一の方向に赤外光が照射された、前記第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、前記照射された赤外光によって生じた影領域を特定する
請求項1に記載の制御装置。
The shadow area specifying unit is an image of an area including at least a part of an imaging area obtained by the first imaging unit, which is irradiated with infrared light in a direction substantially the same as the imaging direction of the first imaging unit. The control device according to claim 1, wherein a shadow region generated by the irradiated infrared light is specified based on content.
第1撮像部の撮像方向と略同一の方向に光が照射された、前記第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、前記照射された光によって生じた影領域を特定する影領域特定段階と、
前記第1撮像部の他の撮像部の撮像条件を制御して、前記他の撮像部に前記影領域を含む領域を撮像させる制御段階と
を備える制御方法。
The irradiated light based on the image content of an image of an area including at least a part of the imaging area by the first imaging unit, which is irradiated in a direction substantially the same as the imaging direction of the first imaging unit. A shadow region identification step for identifying a shadow region caused by
A control method comprising: a control step of controlling an imaging condition of another imaging unit of the first imaging unit to cause the other imaging unit to image an area including the shadow area.
制御装置用のプログラムであって、前記制御装置を、
第1撮像部の撮像方向と略同一の方向に光が照射された、前記第1撮像部による撮像領域の少なくとも一部の領域を含む領域の画像の画像内容に基づいて、前記照射された光によって生じた影領域を特定する影領域特定部、
前記第1撮像部の他の撮像部の撮像条件を制御して、前記他の撮像部に前記影領域を含む領域を撮像させる制御部
として機能させるプログラム。
A program for a control device, wherein the control device is
The irradiated light based on the image content of an image of an area including at least a part of the imaging area by the first imaging unit, which is irradiated in a direction substantially the same as the imaging direction of the first imaging unit. A shadow area specifying unit for specifying a shadow area generated by
A program for controlling an imaging condition of another imaging unit of the first imaging unit to cause the other imaging unit to function as a control unit that images an area including the shadow area.
画像を撮像する第1撮像部と、
前記第1撮像部が撮像する撮像領域の少なくとも一部の領域に、前記第1撮像部の撮像方向と略同一の方向に光を照射する光照射部と、
前記光照射部が光を照射した領域を含む領域の画像を撮像する第2撮像部と、
前記第2撮像部が撮像した画像の画像内容に基づいて、前記光照射部が照射した光によって生じた影領域を特定する影領域特定部と、
前記第1撮像部の他の撮像部の撮像条件を制御して、前記他の撮像部に前記影領域を含む領域を撮像させる制御部と
を備える撮像システム。
A first imaging unit that captures an image;
A light irradiating unit that irradiates at least a part of an imaging region captured by the first imaging unit in a direction substantially the same as the imaging direction of the first imaging unit;
A second imaging unit that captures an image of a region including a region irradiated with light by the light irradiation unit;
A shadow region specifying unit that specifies a shadow region caused by the light irradiated by the light irradiation unit based on the image content of the image captured by the second imaging unit;
An imaging system comprising: a control unit that controls an imaging condition of another imaging unit of the first imaging unit and causes the other imaging unit to image an area including the shadow area.
画像を撮像する第1撮像部によって撮像される撮像領域の少なくとも一部の領域に、前記第1撮像部による撮像方向と略同一の方向に光を照射する光照射段階と、
前記光照射段階において光が照射された領域を含む領域の画像を撮像する第2撮像部が撮像した画像の画像内容に基づいて、前記光照射段階において照射された光によって生じた影領域を特定する影領域特定段階と、
前記第1撮像部の他の撮像部の撮像条件を制御して、前記他の撮像部に前記影領域を含む領域を撮像させる制御段階と
を備える撮像方法。
A light irradiation step of irradiating at least a part of an imaging region captured by the first imaging unit capturing an image with light in a direction substantially the same as an imaging direction by the first imaging unit;
Based on the image content of the image captured by the second imaging unit that captures an image of the region including the region irradiated with light in the light irradiation step, the shadow region caused by the light irradiated in the light irradiation step is identified Shadow region identification stage to be performed,
An imaging method comprising: a control step of controlling an imaging condition of another imaging unit of the first imaging unit and causing the other imaging unit to image an area including the shadow area.
撮像システム用のプログラムであって、前記撮像システムを、
画像を撮像する第1撮像部、
前記第1撮像部が撮像する撮像領域の少なくとも一部の領域に、前記第1撮像部の撮像方向と略同一の方向に光を照射する光照射部、
前記光照射部が光を照射した領域を含む領域の画像を撮像する第2撮像部、
前記第2撮像部が撮像した画像の画像内容に基づいて、前記光照射部が照射した光によって生じた影領域を特定する影領域特定部、
前記第1撮像部の他の撮像部の撮像条件を制御して、前記他の撮像部に前記影領域を含む領域を撮像させる制御部
として機能させるプログラム。
A program for an imaging system, wherein the imaging system is
A first imaging unit that captures an image;
A light irradiating unit that irradiates at least a part of an imaging region captured by the first imaging unit with light in a direction substantially the same as the imaging direction of the first imaging unit;
A second imaging unit that captures an image of a region including a region irradiated with light by the light irradiation unit;
A shadow region specifying unit that specifies a shadow region caused by the light irradiated by the light irradiation unit based on the image content of the image captured by the second imaging unit;
A program for controlling an imaging condition of another imaging unit of the first imaging unit to cause the other imaging unit to function as a control unit that images an area including the shadow area.
JP2007108677A 2007-04-17 2007-04-17 Control device, control method, imaging system, imaging method, and program Expired - Fee Related JP4827101B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007108677A JP4827101B2 (en) 2007-04-17 2007-04-17 Control device, control method, imaging system, imaging method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007108677A JP4827101B2 (en) 2007-04-17 2007-04-17 Control device, control method, imaging system, imaging method, and program

Publications (2)

Publication Number Publication Date
JP2008270988A JP2008270988A (en) 2008-11-06
JP4827101B2 true JP4827101B2 (en) 2011-11-30

Family

ID=40049947

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007108677A Expired - Fee Related JP4827101B2 (en) 2007-04-17 2007-04-17 Control device, control method, imaging system, imaging method, and program

Country Status (1)

Country Link
JP (1) JP4827101B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5418072B2 (en) * 2009-08-28 2014-02-19 富士通株式会社 Monitoring control device and monitoring system
JP7770759B2 (en) * 2020-05-25 2025-11-17 キヤノン株式会社 Image capture device, image capture device control method, computer program, and storage medium

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4005442B2 (en) * 2002-08-07 2007-11-07 富士通株式会社 Object detection method and object detection apparatus
JP2005142683A (en) * 2003-11-04 2005-06-02 Matsushita Electric Ind Co Ltd Camera control apparatus and camera control method
JP4301051B2 (en) * 2004-03-24 2009-07-22 三菱電機株式会社 Harbor monitoring system
JP4506501B2 (en) * 2005-02-21 2010-07-21 株式会社日立製作所 Image composition device and imaging system

Also Published As

Publication number Publication date
JP2008270988A (en) 2008-11-06

Similar Documents

Publication Publication Date Title
US8212877B2 (en) Image capturing system, image capturing method, and computer program product at which an image is captured at a predetermined time
CN109991166B (en) Equipment for detecting product appearance defects and combined light source device and method thereof
JP5769875B2 (en) Wire rope inspection device
JP5680976B2 (en) Electronic blackboard system and program
JP5930135B2 (en) Two-dimensional code reader
WO2011062102A1 (en) Information processing device, information processing method, program, and electronic apparatus
JP7436509B2 (en) Information processing device, imaging device, information processing method, and program
WO2019124824A1 (en) Electronic device including plurality of cameras, and operation method therefor
JP5300694B2 (en) Detection device
CN102332085A (en) Image processing apparatus, image processing method, program, and electronic apparatus
WO2020079807A1 (en) Object tracking device, object tracking method, and program
JP4827101B2 (en) Control device, control method, imaging system, imaging method, and program
US20160372157A1 (en) Display control apparatus, display control method, and storage medium
JP2009250658A (en) Signal processor, signal processing method and program
JP2008252863A (en) Imaging system, imaging method, and program
JP2010025597A (en) Flaw detector, flaw detecting method, and program
JP6898150B2 (en) Pore detection method and pore detection device
JP2008180579A (en) Optical fiber counting device
US20180374211A1 (en) Information processing apparatus, and program, method and system thereof
JP2014224686A (en) Fine particle detection device and fine particle detection method
JP2007298376A (en) Boundary position determination apparatus, method for determining boundary position, program for causing computer to function as the apparatus, and recording medium
KR20210053676A (en) Elevator rope diagnosis device and method using ir reflector
WO2016145872A1 (en) Distance measurement and focusing method and device
JP7416231B2 (en) Installation support device, installation support method, and program
JPWO2019088259A1 (en) Electronic endoscope processor and electronic endoscope system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110816

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110907

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140922

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees