JP7745453B2 - Information processing device, control method and program for information processing device - Google Patents
Information processing device, control method and program for information processing deviceInfo
- Publication number
- JP7745453B2 JP7745453B2 JP2021206262A JP2021206262A JP7745453B2 JP 7745453 B2 JP7745453 B2 JP 7745453B2 JP 2021206262 A JP2021206262 A JP 2021206262A JP 2021206262 A JP2021206262 A JP 2021206262A JP 7745453 B2 JP7745453 B2 JP 7745453B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- change
- subject
- subjects
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Studio Devices (AREA)
Description
本発明は、情報処理装置、情報処理装置の制御方法及びプログラムに関する。 The present invention relates to an information processing device, a control method for an information processing device, and a program.
近年、オンラインイベント等の増加に伴いライブ配信や映像制作の需要が高まっている。例えば、音楽イベントや演劇などのエンターテイメント映像撮影、講義などのeラーニングシステム、オンラインプレゼンテーションやオンライン会議などのビジネス用途が挙げられる。また、配信・撮影設備がない既存の教室にカメラを設置することで講義を収録・ライブ配信することが多く、できるだけ少数のカメラで撮影を行う。上述のように様々な場所で撮影を行うために、機材やカメラマン、オペレータを配置するスペースが限られていることも多く、少人数で撮影を行うことがある。 In recent years, the demand for live streaming and video production has grown with the increase in online events and other events. Examples include filming entertainment events such as music events and plays, e-learning systems for lectures, and business applications such as online presentations and online meetings. Furthermore, lectures are often recorded and live streamed by installing cameras in existing classrooms that do not have streaming or filming equipment, and filming is done with as few cameras as possible. As mentioned above, filming takes place in a variety of locations, and space for equipment, cameramen, and operators is often limited, so filming is often done with a small number of people.
こういった状況で映像を撮影する際には複数の画角を一台のカメラで撮影することが可能なPTZ(パン・チルト・ズーム)カメラのプリセット機能が用いられる。パン・チルトは、それぞれレンズもしくはカメラ全体をカメラの設置面に対して水平方向、垂直方向に回転させる機能である。ズームは、カメラの撮像センサが出力する画像の拡大もしくは縮小を行う機能である。カメラのプリセット機能は、カメラを操作するオペレータが事前にPTZ値を指定して撮影領域を定めるものであり、自動で複数の撮影領域を巡回するプリセット巡回や、オペレータが特定のプリセットを指定して撮影領域を変更するプリセット移動などの機能がある。 When capturing video in these situations, the preset function of a PTZ (pan-tilt-zoom) camera is used, which allows a single camera to capture multiple angles of view. Pan and tilt are functions that rotate the lens or the entire camera horizontally and vertically, respectively, relative to the surface on which the camera is installed. Zoom is a function that enlarges or reduces the image output by the camera's image sensor. The camera's preset function allows the operator operating the camera to specify PTZ values in advance to determine the capture area, and includes functions such as preset patrol, which automatically patrols through multiple capture areas, and preset movement, which allows the operator to specify a specific preset to change the capture area.
特許文献1では、PTZカメラのプリセット巡回中などにおいて、撮像センサから入力された画像データに対して構図のスコア付けを行うことで、品質の高い画像を自動で撮影する技術が開示されている。写真・映像の撮影における構図とは、画像を構成する被写体、画面上の被写体の位置や、画面に占める被写体の大きさのことを指す。 Patent Document 1 discloses a technology that automatically captures high-quality images by assigning a composition score to image data input from an imaging sensor during preset rotation of a PTZ camera. Composition in photographs and videos refers to the subjects that make up the image, the position of the subjects on the screen, and the size of the subjects that occupy the screen.
しかしながら、従来の技術では、プリセットの指定によって撮影領域を移動した際に、移動先の撮影領域で被写体が移動してしまうと、オペレータが意図した構図で撮影を継続することができない。意図した構図が成立しない場合に、オペレータはプリセットの移動後に、手動でカメラを操作して画角を補正する必要があり、手動のPTZによる映像のブレが発生するため、連続したスムーズな映像を取得することが難しい。このように、被写体の位置が変化した場合に適切な映像を取得することが難しいという課題がある。 However, with conventional technology, when the shooting area is moved by specifying a preset, if the subject moves in the new shooting area, the operator is unable to continue shooting with the intended composition. If the intended composition is not achieved, the operator must manually operate the camera to correct the angle of view after moving the preset, and manual PTZ causes image blurring, making it difficult to capture continuous, smooth images. As such, there is an issue of it being difficult to capture appropriate images when the subject's position changes.
本発明は、上記の課題に鑑みてなされたものであり、被写体の位置が変化した場合でも適切な映像を取得するための技術を提供することを目的とする。 The present invention was made in consideration of the above-mentioned problems, and aims to provide technology for capturing appropriate images even when the subject's position changes.
上記の目的を達成する本発明の一態様による情報処理装置は、
第1の撮影手段が撮影する領域を第1の撮影領域から第2の撮影領域へ変更する指示を受信する受信手段と、
前記受信手段により前記指示が受信された場合、前記第2の撮影領域と予め関連付けられた被写体の位置情報を、前記第1の撮影手段よりも広角の第2の撮影手段により取得された画像に基づいて取得する取得手段と、
前記位置情報に基づいて、前記第2の撮影領域における所定位置と前記被写体の位置との差分を取得する差分取得手段と、
前記差分に基づいて前記第1の撮影手段の画角を変更することにより前記第2の撮影領域を変更する変更手段と、
を備え、
前記変更手段は、前記第2の撮影領域と予め関連付けられた被写体が複数存在しており、且つ、前記複数の被写体の移動により前記複数の被写体の領域サイズが変化した場合、変化前の前記複数の被写体の領域サイズに応じて変化後における前記画角を変更することを特徴とする。
To achieve the above object, an information processing device according to one aspect of the present invention comprises:
a receiving means for receiving an instruction to change an area photographed by the first photographing means from the first photographing area to the second photographing area;
an acquisition means for acquiring, when the instruction is received by the receiving means , position information of a subject associated in advance with the second photographing area based on an image acquired by a second photographing means having a wider angle than the first photographing means;
a difference acquiring means for acquiring a difference between a predetermined position in the second photographing area and a position of the subject based on the position information;
a change unit that changes the angle of view of the first image capturing unit based on the difference to change the second image capturing area;
Equipped with
The change means is characterized in that, when there are multiple subjects that are pre-associated with the second shooting area and the area size of the multiple subjects changes due to movement of the multiple subjects, it changes the angle of view after the change in accordance with the area size of the multiple subjects before the change .
本発明によれば、被写体の位置が変化した場合でも適切な映像を取得することが可能となる。 This invention makes it possible to capture appropriate images even when the subject's position changes.
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。 The following describes the embodiments in detail with reference to the attached drawings. Note that the following embodiments do not limit the scope of the claimed invention. Although the embodiments describe multiple features, not all of these features are necessarily essential to the invention, and multiple features may be combined in any desired manner. Furthermore, in the attached drawings, the same reference numbers are used to designate identical or similar components, and redundant explanations will be omitted.
<システム構成>
図1を用いて、本実施形態に係る、複数のカメラを含む情報処理システムの構成例について説明する。
<System Configuration>
An example of the configuration of an information processing system including multiple cameras according to this embodiment will be described with reference to FIG.
本実施形態に係るシステムは、情報処理装置101と、PTZカメラ103と、俯瞰カメラ104とを含み、それらがネットワーク102を介して接続されている。PTZカメラ103には複数のプリセットを登録することができる。プリセットは、PTZカメラ103を操作するオペレータが事前にPTZ値を指定して撮影領域を定めた情報である。プリセットの登録の際には、撮影領域に含まれる被写体を当該撮影領域と関連付ける。例えば、撮影領域の所定位置に被写体がいる状況でプリセット登録する場合に、撮影領域と、撮影領域内の被写体の位置(初期位置)とを関連付けて登録を行う。 The system according to this embodiment includes an information processing device 101, a PTZ camera 103, and an overhead camera 104, which are connected via a network 102. Multiple presets can be registered in the PTZ camera 103. A preset is information in which an operator operating the PTZ camera 103 specifies a PTZ value in advance to define a shooting area. When registering a preset, the subject included in the shooting area is associated with the shooting area. For example, when registering a preset in a situation where a subject is located at a specific position in the shooting area, the shooting area is registered by associating it with the position (initial position) of the subject within the shooting area.
オペレータは情報処理装置101を介してプリセットを指定することで、撮影領域の変更指示をPTZカメラ103に対して出力する。上述の撮影領域とプリセットとは一対一の関係になっている。本構成例では、PTZカメラ103は被写体を様々な構図で撮影するカメラであり、パン、チルト、及びズームの少なくとも1つを制御可能なカメラである。俯瞰カメラ104は、PTZカメラ103に設定された複数のプリセットによって設定される各撮影領域の全てを撮影することができる広角カメラである。すなわち、俯瞰カメラ104は、PTZカメラ103による撮影領域を俯瞰する画像を撮影するカメラである。この俯瞰カメラ104によって撮影された画像に基づいて、被写体位置情報の取得を行う。PTZカメラ103や俯瞰カメラ104で撮影された映像は、各カメラやネットワーク102を介して接続された記憶装置に記録してもよい。 By specifying a preset via the information processing device 101, the operator outputs an instruction to change the shooting area to the PTZ camera 103. There is a one-to-one relationship between the above-mentioned shooting areas and presets. In this configuration example, the PTZ camera 103 is a camera that captures images of a subject in various compositions and is a camera that can control at least one of pan, tilt, and zoom. The overhead camera 104 is a wide-angle camera that can capture all of the shooting areas set by the multiple presets set in the PTZ camera 103. In other words, the overhead camera 104 is a camera that captures an image overlooking the shooting area captured by the PTZ camera 103. Subject position information is obtained based on the image captured by this overhead camera 104. The images captured by the PTZ camera 103 and overhead camera 104 may be recorded on each camera or on a storage device connected via the network 102.
また、情報処理装置101は、上記のような動作を行うコンピュータ装置であり、パーソナルコンピュータ、スマートフォン、タブレット端末装置などで構成することができる。また、プリセットの切り替えは、オペレータが手動で実施するのではなく、情報処理装置101、もしくはPTZカメラ103にプリセット巡回をプログラムすることで自動的に実施してもよい。なお、図1は、本実施形態のシステムにおいて、以下の説明で参照する主要な構成を示したものであり、図示した構成に加えて、さらなる装置を含んでも構わない。例えば、PTZカメラや俯瞰カメラは複数あってもよい。また、カメラを操作したり、画像送信を制御したりするサーバ装置や、データ通信を中継する装置などの他の装置を含んでもよい。 The information processing device 101 is a computer device that performs the above-described operations, and can be configured as a personal computer, smartphone, tablet terminal device, or the like. Furthermore, the preset switching may be performed automatically by programming a preset tour in the information processing device 101 or the PTZ camera 103, rather than manually by an operator. Note that Figure 1 shows the main components of the system of this embodiment that will be referenced in the following description, and further devices may be included in addition to the components shown. For example, there may be multiple PTZ cameras and overhead cameras. Furthermore, other devices such as a server device that operates the cameras and controls image transmission, and a device that relays data communications may also be included.
<撮影条件と撮影領域>
図2を用いて、本実施形態に係る撮影条件と撮影領域(プリセット)の移動について説明する。図2には時間経過によって変化する状況を、状況21に示す時間t1、状況22に示す時間t2、状況23に示す時間t3、状況24に示す時間t4で表している。本実施形態では、PTZカメラ103に、被写体201を撮影する撮影領域205が設定されたプリセットAと、被写体202を撮影する撮影領域203が設定されたプリセットBとが登録されている。
<Photography conditions and photographic area>
The movement of the shooting conditions and shooting area (preset) according to this embodiment will be described with reference to Fig. 2. In Fig. 2, situations that change over time are represented by time t1 shown in situation 21, time t2 shown in situation 22, time t3 shown in situation 23, and time t4 shown in situation 24. In this embodiment, preset A, in which a shooting area 205 for shooting a subject 201 is set, and preset B, in which a shooting area 203 for shooting a subject 202 is set, are registered in the PTZ camera 103.
まず、時間t1でPTZカメラ103は、プリセットBをオペレータに指定され、撮影領域203において、被写体202を撮影している。時間t2において、プリセットAの撮影をオペレータによって指定される。プリセットAの指定を受けたPTZカメラ103は、撮影領域205において、被写体201の撮影を行う。時間t3において、プリセットBの撮影対象である被写体202が移動する。この際、情報処理装置101は、俯瞰カメラ104から取得した撮影領域204内で捉えている被写体202が移動したことを俯瞰カメラ104の画像から検知し、被写体202の位置情報を取得することができる。 First, at time t1, preset B is specified by the operator for the PTZ camera 103, and the PTZ camera 103 is capturing an image of subject 202 in the capture area 203. At time t2, the operator specifies capturing an image of preset A. The PTZ camera 103, having specified preset A, captures an image of subject 201 in the capture area 205. At time t3, subject 202, the subject being captured by preset B, moves. At this time, the information processing device 101 detects from the image of the overhead camera 104 that the subject 202 captured within the capture area 204 acquired from the overhead camera 104 has moved, and is able to acquire position information for the subject 202.
時間t4において、オペレータが再度プリセットBを指定すると、情報処理装置101は、俯瞰カメラ104の画像から取得した被写体202の位置情報に基づいて、移動前の被写体202を撮影するプリセットBに設定された撮影領域203ではなく、移動後の被写体202を撮影する撮影領域207に変更するようにPTZカメラ103にPTZ指示を出す。 At time t4, when the operator again specifies preset B, the information processing device 101 issues a PTZ instruction to the PTZ camera 103 to change the shooting area 203 set in preset B, which captures the subject 202 before movement, to the shooting area 207, which captures the subject 202 after movement, based on the position information of the subject 202 acquired from the image of the overhead camera 104.
<ハードウェア構成>
図3は、本実施形態に係る情報処理装置101のハードウェア構成例を示す図である。図3を用いて本実施形態に係る情報処理装置101について説明する。情報処理装置101は、CPU301、RAM302、ROM303、操作部304、出力制御部305、および通信I/F306を有する。なお、図3の例では、情報処理装置101、PTZカメラ103、俯瞰カメラ104は何れもLANなどのネットワーク102に接続されているものとしているが、それぞれの装置間をつなぐネットワークの形態には様々な形態があり、特定の形態に限らない。
<Hardware configuration>
Fig. 3 is a diagram showing an example of the hardware configuration of an information processing device 101 according to this embodiment. The information processing device 101 according to this embodiment will be described using Fig. 3. The information processing device 101 has a CPU 301, a RAM 302, a ROM 303, an operation unit 304, an output control unit 305, and a communication I/F 306. Note that in the example of Fig. 3, the information processing device 101, the PTZ camera 103, and the overhead camera 104 are all connected to a network 102 such as a LAN, but the form of the network connecting each device can take various forms and is not limited to a specific form.
CPU301は、ROM303に格納されたプログラムに基づいて動作し、情報処理装置101全体の制御を行う1以上のCPUである。ROM303は、情報処理装置101の起動時にCPU301により実行されるブートプログラムや、情報処理装置101の処理を実行するための命令プログラム、および、これらのプログラムによって使用されるデータ等を格納する。 CPU 301 is one or more CPUs that operate based on programs stored in ROM 303 and control the entire information processing device 101. ROM 303 stores a boot program executed by CPU 301 when the information processing device 101 starts up, an instruction program for executing the processing of the information processing device 101, and data used by these programs.
CPU301は、操作部304と出力制御部305を介して、ディスプレイ等の出力装置、および、キーボードやマウス、カメラコントローラ、カメラスイッチャー等の入力装置を制御する。CPU301は、操作部304を介してデータを取得する。また、CPU301は、生成したデータを、出力制御部305を介して出力装置へ出力する。例えば、図3のハードウェア構成が実施形態に係る情報処理装置101として機能する場合、情報処理装置101のCPU301は、RAM302上にロードされたプログラムを実行することにより、情報処理装置101の機能を実現する。 The CPU 301 controls output devices such as displays and input devices such as keyboards, mice, camera controllers, and camera switchers via the operation unit 304 and output control unit 305. The CPU 301 acquires data via the operation unit 304. The CPU 301 also outputs generated data to output devices via the output control unit 305. For example, when the hardware configuration in FIG. 3 functions as the information processing device 101 according to the embodiment, the CPU 301 of the information processing device 101 realizes the functions of the information processing device 101 by executing a program loaded on the RAM 302.
通信I/F306は、ネットワーク102を介して他の機器からデータを受信してCPU301へ送り、CPU301が生成したデータを、ネットワーク102を介してPTZカメラ103、俯瞰カメラ104などの他の機器へ送信する。さらに、それらのネットワークに接続された機器は、通信I/F306を介して情報処理装置101と通信する。また、ROM303には、ネットワーク102から通信I/F306を介して、PTZカメラ103や俯瞰カメラ104によって取得される画像データなどが格納される。情報処理装置101のCPU301は、これらのプログラムをROM303からRAM302に読み込んで実行するが、他の例として、他の装置から通信I/F306を介してこれらのプログラムを取得してもよい。 The communication I/F 306 receives data from other devices via the network 102 and sends it to the CPU 301, and transmits data generated by the CPU 301 to other devices such as the PTZ camera 103 and the overhead camera 104 via the network 102. Furthermore, devices connected to these networks communicate with the information processing device 101 via the communication I/F 306. The ROM 303 also stores image data acquired by the PTZ camera 103 and the overhead camera 104 from the network 102 via the communication I/F 306. The CPU 301 of the information processing device 101 loads these programs from the ROM 303 into the RAM 302 and executes them, but as another example, these programs may be acquired from other devices via the communication I/F 306.
<ソフトウェア構成(機能構成)>
図4は、本実施形態に係る情報処理装置101のソフトウェア論理構成(機能構成)例を示す図である。情報処理装置101は、画像取得部401、被写体抽出部402、位置情報取得部403、位置変化量取得部404、補正部405、撮影制御部406、プリセット指示受信部413、プリセット登録部414を含む。また、図4において、410は画像データ、411は被写体情報データ、412は位置情報データ、415はプリセット情報である。
<Software configuration (functional configuration)>
4 is a diagram showing an example of the software logical configuration (functional configuration) of the information processing device 101 according to this embodiment. The information processing device 101 includes an image acquisition unit 401, a subject extraction unit 402, a position information acquisition unit 403, a position change amount acquisition unit 404, a correction unit 405, an imaging control unit 406, a preset instruction receiving unit 413, and a preset registration unit 414. In FIG. 4, reference numeral 410 denotes image data, 411 denotes subject information data, 412 denotes position information data, and 415 denotes preset information.
画像取得部401は、PTZカメラ103及び/又は俯瞰カメラ104から画像データ410を取得する。被写体抽出部402は、画像取得部401により取得された画像から被写体を抽出して被写体情報データ411を取得する。位置情報取得部403は、俯瞰カメラ104の画像から抽出された被写体の位置情報データ412を取得する。 The image acquisition unit 401 acquires image data 410 from the PTZ camera 103 and/or the overhead camera 104. The subject extraction unit 402 extracts subjects from the images acquired by the image acquisition unit 401 and acquires subject information data 411. The position information acquisition unit 403 acquires position information data 412 of the subjects extracted from the images from the overhead camera 104.
位置変化量取得部404は、抽出された被写体の位置情報と、プリセット情報における撮影領域内の当該被写体の初期位置との差分に基づいて、被写体の位置変化量を取得する(差分取得)。補正部405は、位置変化量が閾値以上である場合に、当該位置変化量に基づいて、プリセット指示受信部413により受信されたプリセット指示に対応する撮影領域を補正する。撮影制御部406は、補正部405により補正された撮影領域を撮影するように、又は、補正部405による補正が行われない場合にはプリセット指示に対応する撮影領域を撮影するように、PTZカメラ103を制御する。 The position change amount acquisition unit 404 acquires the position change amount of the subject based on the difference between the extracted position information of the subject and the initial position of the subject within the shooting area in the preset information (difference acquisition). If the position change amount is equal to or greater than a threshold, the correction unit 405 corrects the shooting area corresponding to the preset instruction received by the preset instruction receiving unit 413 based on the position change amount. The shooting control unit 406 controls the PTZ camera 103 to capture the shooting area corrected by the correction unit 405, or to capture the shooting area corresponding to the preset instruction if no correction is made by the correction unit 405.
プリセット指示受信部413は、PTZカメラ103の撮影構図を、複数のプリセットのうちの1つを指定して変更する指示を受信する。プリセット登録部414は、被写体情報データ411と位置情報データ412とに基づいて、プリセット登録時に存在した被写体と、被写体の位置情報とを特定可能なプリセット情報を生成して登録する。 The preset instruction receiving unit 413 receives an instruction to change the shooting composition of the PTZ camera 103 by specifying one of multiple presets. The preset registration unit 414 generates and registers preset information that can identify the subject that existed at the time of preset registration and the subject's position information, based on the subject information data 411 and position information data 412.
以降では、図4に示した論理構成を有する情報処理装置101によって行われる処理について、図5と図7のフローチャートに従って説明する。なお、以下では図4に示した各部、もしくは部を構成する各機能部を処理の主体として説明する。しかし、実際には、情報処理装置101の機能部の機能をCPU301に実現させるためのコンピュータプログラムをCPU301が実行することで、情報処理装置101の機能部の機能を実現させている。なお、図4に示した機能部はハードウェアで実装しても構わない。 The following describes the processing performed by the information processing device 101 having the logical configuration shown in Figure 4, with reference to the flowcharts in Figures 5 and 7. Note that the following description focuses on the components shown in Figure 4, or the functional components that make up the components, as the main actors in the processing. However, in reality, the functions of the functional components of the information processing device 101 are realized by the CPU 301 executing a computer program that causes the CPU 301 to realize the functions of the functional components of the information processing device 101. Note that the functional components shown in Figure 4 may also be implemented in hardware.
<プリセット登録時の処理>
図5は、本実施形態に係る情報処理装置が実施するプリセット登録時の処理の手順を示すフローチャートである。以下のプリセット登録処理は、撮影構図のプリセットを1つ登録する際に行われる処理であり、複数のプリセットを登録する場合は、図5に示すステップS501からステップS504までの処理を繰り返す。
<Processing when registering presets>
5 is a flowchart showing the procedure of a process performed by the information processing apparatus according to this embodiment when registering a preset. The following preset registration process is performed when registering one preset for a photographing composition. When registering multiple presets, the processes from step S501 to step S504 shown in FIG. 5 are repeated.
ステップS501では、画像取得部401は、オペレータによってプリセット登録が指示されると、PTZカメラ103及び俯瞰カメラ104から画像データ410を取得し、RAM302に格納する。画像データは、静止画、もしくは動画の連続したフレームの内の1フレームであってもよい。 In step S501, when the operator instructs preset registration, the image acquisition unit 401 acquires image data 410 from the PTZ camera 103 and the overhead camera 104 and stores it in RAM 302. The image data may be a still image or one frame of a series of frames from a video.
ステップS502では、被写体抽出部402は、取得された画像データから図2に示したような被写体201や被写体202等の被写体を抽出する。抽出した被写体情報データ411は位置情報取得部403に対して出力される。画像を用いた物体認識として、一般物体認識が広く知られているが、本実施形態でも同様に抽出する被写体は人物に限らず、画像から認識できる被写体であれば抽出を行ってもよい。ただし、事前に抽出する対象を定められるようにしたり、構図の再現に不要な被写体を抽出対象から除くようにしたりしてもよい。 In step S502, the subject extraction unit 402 extracts subjects such as subject 201 and subject 202 as shown in Figure 2 from the acquired image data. The extracted subject information data 411 is output to the position information acquisition unit 403. General object recognition is a widely known method of object recognition using images, but in this embodiment, the subjects to be extracted are not limited to people; any subject that can be recognized from an image may be extracted. However, it is also possible to determine the subjects to be extracted in advance, or to exclude subjects that are unnecessary for reproducing the composition from the subjects to be extracted.
ステップS503では、位置情報取得部403は、被写体情報データ411に従って、俯瞰カメラ104の画像データから抽出された被写体の位置情報(プリセット登録時の位置)を取得し、位置情報データ412を出力する。この際、位置情報取得部403は、PTZカメラ103から取得した画像と、俯瞰カメラ104から取得した画像に含まれる被写体との対応付けを行い、PTZカメラ103の画像に含まれる被写体の位置情報のみを取得する。異なる画像に写る同一被写体の対応付けの手法としては、特徴量マッチングなどが広く知られている。また、画像から位置を取得する方法として、事前に基準マーカを設置することで被写体の実座標を取得する方法や、画像のボケ形状などから演算する方法が知られており、位置情報の取得方法は特に限定されない。 In step S503, the position information acquisition unit 403 acquires position information of the subject (position at the time of preset registration) extracted from the image data of the overhead camera 104 in accordance with the subject information data 411, and outputs position information data 412. At this time, the position information acquisition unit 403 associates the image acquired from the PTZ camera 103 with the subject included in the image acquired from the overhead camera 104, and acquires only the position information of the subject included in the image from the PTZ camera 103. Feature matching is a widely known method for associating the same subject appearing in different images. Other known methods for acquiring a position from an image include acquiring the actual coordinates of the subject by placing a reference marker in advance, and performing calculations based on the blurred shape of the image, and the method for acquiring position information is not particularly limited.
なお、被写体位置は、画像から認識される人物等の被写体領域の中心位置(例えば重心位置)の座標としてもよいし、被写体の特定の部位がプリセットによって撮影される場合は、部位領域の中心座標(例えば重心座標)を被写体位置としてもよい。 The subject position may be the coordinates of the center position (e.g., center of gravity) of the subject area of a person or other object recognized from the image, or, if a specific part of the subject is photographed using a preset, the center coordinates of the part area (e.g., center of gravity coordinates) may be used as the subject position.
ステップS504では、プリセット登録部414は、被写体情報データ411と、位置情報データ412とに基づいて、被写体と、被写体の位置情報とを特定可能なプリセット情報415を出力する。ここで登録される被写体の位置は初期位置となる。 In step S504, the preset registration unit 414 outputs preset information 415 that can identify the subject and the subject's position information based on the subject information data 411 and the position information data 412. The subject's position registered here becomes the initial position.
<プリセット情報の例>
ここで、図6を参照して、本実施形態に係るプリセット情報415の例を説明する。保存されるプリセット情報は、PTZカメラ103の撮影領域を特定するPTZ値と関連付けられる情報であり、プリセットID、被写体ID、被写体識別情報、及び初期位置の情報を含み、さらに現在位置の情報を格納可能である。
<Example of preset information>
An example of the preset information 415 according to this embodiment will now be described with reference to Fig. 6. The saved preset information is information associated with a PTZ value that specifies the shooting area of the PTZ camera 103, and includes a preset ID, a subject ID, subject identification information, and information on the initial position, and can also store information on the current position.
プリセット及び被写体には、それぞれ一意に識別することが可能なプリセットID及び被写体IDを付与する。被写体識別情報とは、画像から被写体を抽出する際、もしくは画像から位置情報を取得する際に用いた被写体の特徴量の情報である。被写体識別情報は、被写体を高精度に識別できる情報であればいずれの情報であってもよい。 Presets and subjects are assigned a preset ID and subject ID that allow them to be uniquely identified, respectively. Subject identification information is information about the subject's features used when extracting the subject from an image or when obtaining location information from an image. Subject identification information can be any information that can identify the subject with high accuracy.
また、被写体の現在の位置情報として現在位置をさらに格納することができる。現在位置は、初期位置と同様の値を設定し、図7を参照して後述する処理によって更新される。そのため、最初に処理を開始した時には、現在位置の情報は存在せず、初期位置の情報だけが含まれることになる。 The current position can also be stored as information about the subject's current location. The current position is set to a value similar to the initial position, and is updated by the process described below with reference to Figure 7. Therefore, when processing is first started, there will be no current position information, and only information about the initial position will be included.
プリセットID、被写体ID、被写体識別情報、被写体の初期位置を関連付けて保存することで、プリセット指定を受け付けた時に、指定されたプリセットに含まれる被写体の情報と、その被写体のプリセット登録時の初期位置とを取得することができる。 By storing the preset ID, subject ID, subject identification information, and initial position of the subject in association with each other, when a preset is specified, information about the subject included in the specified preset and the initial position of that subject at the time the preset was registered can be obtained.
また、同一プリセット内に複数の被写体が存在する場合には、複数の被写体の位置情報を取得して、それぞれ保存してもよい。その場合、1つのプリセットIDについて、複数の被写体ID、複数の被写体識別情報、複数の初期位置、複数の現在位置が関連付けられることになる。 Furthermore, if there are multiple subjects within the same preset, the position information for each of the subjects may be obtained and saved separately. In this case, multiple subject IDs, multiple subject identification information, multiple initial positions, and multiple current positions will be associated with one preset ID.
<撮影時の処理>
続いて、図7は、本実施形態に係る映像の撮影中の処理の手順を示すフローチャートである。この処理は映像の記録開始を起点に開始してもよい。また、情報処理システムの起動を起点に処理を開始してもよいし、プリセットが1つ以上登録されてから処理を開始してもよい。
<Processing during shooting>
7 is a flowchart showing the procedure of processing during video capture according to this embodiment. This processing may start when video recording begins. Alternatively, the processing may start when the information processing system is started, or after one or more presets have been registered.
ステップS701では、画像取得部401は、俯瞰カメラ104から画像を取得し、被写体抽出部402に対して画像データ410を出力する。ステップS702では、被写体抽出部402は、予め登録されているプリセット情報415を取得する。そして、被写体抽出部402は、プリセット情報415に従って、画像データ410から被写体を抽出し、被写体情報データ411を位置情報取得部403に出力する。 In step S701, the image acquisition unit 401 acquires an image from the overhead camera 104 and outputs image data 410 to the subject extraction unit 402. In step S702, the subject extraction unit 402 acquires pre-registered preset information 415. The subject extraction unit 402 then extracts a subject from the image data 410 in accordance with the preset information 415 and outputs subject information data 411 to the position information acquisition unit 403.
ステップS703では、位置情報取得部403は、被写体情報データ411に従って、俯瞰カメラ104の画像データから抽出された被写体の現在位置を取得し、プリセット情報415に含まれる被写体の現在位置を更新する。更新の対象となるのは、プリセット情報415に含まれ、かつ俯瞰カメラ104から取得された画像から検出できる全ての被写体の現在位置である。 In step S703, the position information acquisition unit 403 acquires the current position of the subject extracted from the image data of the overhead camera 104 in accordance with the subject information data 411, and updates the current position of the subject included in the preset information 415. The current positions of all subjects that are included in the preset information 415 and that can be detected from images acquired from the overhead camera 104 are subject to updating.
ステップS704では、プリセット指定受信部413は、オペレータから撮影領域の変更指示を行うためのプリセット指定を受信したか否かを判定する。プリセット指定が受信された場合、指定されたプリセットのプリセットIDを位置変化量取得部404に対して出力し、ステップS705へ進む。一方、プリセット指定が受信されていない場合、ステップS701に戻る。 In step S704, the preset designation receiving unit 413 determines whether a preset designation for instructing a change in the shooting area has been received from the operator. If a preset designation has been received, the preset ID of the designated preset is output to the position change amount acquisition unit 404, and the process proceeds to step S705. On the other hand, if a preset designation has not been received, the process returns to step S701.
なお、ステップS701からステップS704までの処理は、俯瞰カメラ104のフレームレートに依存して、映像の1フレームが取得される度に実行してもよいし、特定時間内に繰り返す回数を任意に設定できるようにしてもよい。 Note that the processing from step S701 to step S704 may be performed each time a frame of video is captured, depending on the frame rate of the overhead camera 104, or the number of times the processing is repeated within a specific time period may be set arbitrarily.
ステップS705では、位置変化量取得部404は、プリセット情報415から、入力されたプリセットIDに関連付けられている置情報等を取得し、被写体のプリセット登録時の初期位置と現在位置とを比較することで、位置変化量を計算して取得する。 In step S705, the position change amount acquisition unit 404 acquires position information, etc. associated with the input preset ID from the preset information 415, and calculates and acquires the position change amount by comparing the initial position of the subject at the time of preset registration with the current position.
ステップS706では、補正部405は、被写体の位置変化量が閾値以上であるか否かを判定する。被写体の位置変化量が閾値以上である場合、構図に影響を及ぼすためPTZ画角補正が必要であると判定できることから、ステップS707へ進む。一方、被写体の位置変化量が閾値未満である場合、ステップS709へ進む。閾値は任意に変更できるようにしてもよい。 In step S706, the correction unit 405 determines whether the amount of change in subject position is equal to or greater than a threshold. If the amount of change in subject position is equal to or greater than the threshold, it can be determined that PTZ angle of view correction is necessary because it will affect the composition, and the process proceeds to step S707. On the other hand, if the amount of change in subject position is less than the threshold, the process proceeds to step S709. The threshold may be set to any value.
ステップS707では、補正部405は、被写体の位置変化に合わせて計算したPTZカメラ103のPTZ値を決定する。補正後(変更後)のPTZ値は、補正値計算部406が出力する位置変化量の計算結果をPTZカメラ103が用いる座標系に変換することで、決定される。例えば、PTZ値は、被写体の現在位置に基づいて撮影領域内がプリセット登録時と同様の構図となるように撮像方向とズーム倍率を制御することにより決定される。このPTZ値の補正例については後述する。 In step S707, the correction unit 405 determines the PTZ value of the PTZ camera 103 calculated in accordance with the change in position of the subject. The corrected (changed) PTZ value is determined by converting the calculation result of the amount of position change output by the correction value calculation unit 406 into the coordinate system used by the PTZ camera 103. For example, the PTZ value is determined by controlling the imaging direction and zoom magnification based on the current position of the subject so that the imaging area has the same composition as when the preset was registered. An example of correcting this PTZ value will be described later.
ステップS708では、撮影制御部409は、補正されたPTZ値をPTZカメラ103に対して出力することで、PTZカメラ103のPTZ移動を実行する。ステップS709では、撮影制御部409は、プリセット登録されたPTZ値をPTZカメラ103に対して出力することで、PTZカメラ103のPTZ移動を実行する。以上で図7の一連の処理が終了する。 In step S708, the imaging control unit 409 outputs the corrected PTZ value to the PTZ camera 103, thereby performing PTZ movement of the PTZ camera 103. In step S709, the imaging control unit 409 outputs the preset PTZ value to the PTZ camera 103, thereby performing PTZ movement of the PTZ camera 103. This completes the series of processes in Figure 7.
<PTZ値の補正>
次に、図8(a)乃至図8(d)から図10(a)乃至図10(c)を用いて、本実施形態に係るPTZ値の補正例を説明する。
<PTZ value correction>
Next, an example of PTZ value correction according to this embodiment will be described with reference to FIGS. 8(a) to 8(d) and 10(a) to 10(c).
図8(a)乃至図8(d)は、被写体の移動によって、被写体を画面中心とする構図が成立しない場合の補正例を示す図である。まず、図8(a)は、プリセット登録時に設定されたPTZ値で、PTZカメラ103が取得する映像の例を示す。図8(a)に示すプリセットは人物を被写体として、頭部全体を撮影領域に入れるような撮影を行う撮影領域が設定されている。 Figures 8(a) to 8(d) show examples of corrections made when a composition with the subject at the center of the screen cannot be achieved due to subject movement. First, Figure 8(a) shows an example of an image captured by the PTZ camera 103 using the PTZ value set when registering a preset. The preset shown in Figure 8(a) sets a shooting area for capturing a person as the subject, with the entire head included in the shooting area.
図8(b)は、被写体の頭部がプリセット登録時の撮影領域の中心位置から移動した後に、プリセット登録時に設定されたPTZ値において、PTZカメラ103が取得した場合の映像の例を示す。移動後の被写体の頭部の中心を点Pとして示す。 Figure 8 (b) shows an example of an image captured by the PTZ camera 103 at the PTZ value set during preset registration after the subject's head has moved from the center position of the shooting area at the time of preset registration. The center of the subject's head after the movement is indicated as point P.
図8(c)は、画角補正を行う場合の補正値の例について示す。例えば、図8(c)に示すように、画面中心を基準として、点Pとのパン方向の距離、チルト方向の距離を算出することで、PTZカメラ103の補正値を計算することができる。図8(c)の場合では、PTZカメラ103からの距離の変化が無いため、点Pに対するパン、チルト方向の距離がそれぞれ補正値xとyとなる。従って、図8(c)に示すように補正値x、補正値yだけ撮影領域をシフトさせる補正を行うことで、図8(d)に表すように被写体の頭部が撮影領域の中心で撮影できる構図を再現することができる。このように、補正後の撮影領域の中心に被写体が位置するように画角を補正する。 Figure 8(c) shows an example of correction values when performing angle of view correction. For example, as shown in Figure 8(c), the correction value for the PTZ camera 103 can be calculated by calculating the pan and tilt distances from point P using the center of the screen as a reference. In the case of Figure 8(c), since the distance from the PTZ camera 103 does not change, the pan and tilt distances from point P are correction values x and y, respectively. Therefore, by performing correction to shift the shooting area by correction values x and y as shown in Figure 8(c), it is possible to recreate a composition in which the subject's head can be photographed at the center of the shooting area, as shown in Figure 8(d). In this way, the angle of view is corrected so that the subject is positioned at the center of the shooting area after correction.
続いて、図9(a)乃至図9(d)は、被写体の移動によって、被写体数に変化が発生する場合の補正例を示す図である。まず、図9(a)は、プリセット登録時に設定されたPTZ値で、PTZカメラ103が取得する映像の例を示す。図9(a)に示すプリセットでは、二人の人物を被写体としており、二人の人物の頭部全体を撮影領域に含めるような撮影を行う撮影領域が設定されている。 Next, Figures 9(a) to 9(d) show examples of correction when the number of subjects changes due to subject movement. First, Figure 9(a) shows an example of an image captured by the PTZ camera 103 using the PTZ value set when the preset was registered. The preset shown in Figure 9(a) has two people as subjects, and the shooting area is set to capture images that include the entire heads of both people.
図9(b)は、被写体の移動前の状態と移動後の状態とを頭上から俯瞰して比較した例を示す。図9(b)に示す移動後の例において、被写体の人物の内、一名が図9(a)に示したPTZカメラ103で取得できる撮影領域の外に出るように移動を行っている。 Figure 9(b) shows an example of comparing the state of the subject before and after movement, viewed from above. In the example after movement shown in Figure 9(b), one of the subjects has moved outside the shooting area captured by the PTZ camera 103 shown in Figure 9(a).
図9(c)は、被写体がプリセット登録時の撮影領域外へ移動した後に、プリセット登録時に設定されたPTZ値で、PTZカメラ103が取得した場合の映像の例を示す。 Figure 9 (c) shows an example of an image captured by the PTZ camera 103 using the PTZ value set at the time of preset registration after the subject has moved outside the shooting area at the time of preset registration.
図9(d)は、画角補正を行った場合にPTZカメラ103から取得される映像の例を示す。例えば、補正の方法として、PTZカメラ103のズーム値をワイド側に補正することで、二人の被写体の両方が撮影領域に入るように補正を行ってもよい。また、複数被写体の重心位置を画面中心とするために、二人の人物の頭部の中心である点P、点Qの中点である点Cの位置が画面中心となるように補正PTZ値を計算してもよい。このように、これから変更されるプリセットの撮影領域と予め関連付けられた被写体の数に対する、補正後の撮影領域に含まれる被写体の数の変化が少なくなるように画角を補正する。 Figure 9 (d) shows an example of an image acquired from the PTZ camera 103 when angle of view correction has been performed. For example, one correction method may be to correct the zoom value of the PTZ camera 103 to the wide side so that both subjects are included in the shooting area. Furthermore, to position the center of gravity of multiple subjects at the center of the screen, the corrected PTZ value may be calculated so that point C, which is the midpoint between points P and Q, which are the centers of the heads of the two people, is positioned at the center of the screen. In this way, the angle of view is corrected so that there is little change in the number of subjects included in the corrected shooting area compared to the number of subjects previously associated with the preset shooting area to be changed.
そして、図10(a)乃至図10(c)は、被写体の移動によって、撮影される被写体の大きさが変化した場合の補正例を示す図である。 Figures 10(a) to 10(c) show examples of correction when the size of the subject being photographed changes due to the subject's movement.
まず、図10(a)は、プリセット登録時に設定されたPTZ値で、PTZカメラ103が取得する映像の例を示す。図10(a)に示すプリセットは、三人の人物を被写体として、三人の人物の頭部全体を撮影領域に含めるような撮影を行う撮影領域が設定されている。また、この際の頭部領域をそれぞれ点線で示し、頭部領域の高さをA、C、Eとし、頭部領域の幅をB、D、Fとする。 First, Figure 10(a) shows an example of an image captured by the PTZ camera 103 using the PTZ value set when the preset was registered. The preset shown in Figure 10(a) sets a shooting area for capturing images of three people as subjects, with the entire heads of all three people included in the shooting area. The head areas are indicated by dotted lines, with the heights of the head areas being A, C, and E, and the widths of the head areas being B, D, and F.
図10(b)は、被写体の内の一人がPTZカメラ103に対して接近するように移動した場合に、プリセット登録時に設定されたPTZ値で、PTZカメラ103が取得した場合の映像の例を示す。この例では、移動後の被写体の領域のサイズは図に示すようにプリセット登録時よりも大きな高さG、幅Hとなる。 Figure 10(b) shows an example of an image captured by the PTZ camera 103 using the PTZ value set at the time of preset registration when one of the subjects moves closer to the PTZ camera 103. In this example, the size of the subject's area after movement is larger, with height G and width H, than at the time of preset registration, as shown in the figure.
図10(c)は、画角補正を行った場合にPTZカメラ103から取得される映像の例を示す。例えば、補正の方法として、PTZカメラ103のズーム値をワイド側に補正することで、被写体の領域サイズGとHが、プリセット登録を行った時点のサイズCとDに近傍となるようにしても良い。ただし、三人の被写体の内、一人だけがPTZカメラ103に近づいているため、その人物を基準にズーム値の補正を行うと、残りの二人の頭部領域のサイズが、プリセット登録を行った時点と比較して小さくなってしまう。 Figure 10(c) shows an example of an image acquired from the PTZ camera 103 when angle of view correction has been performed. For example, one method of correction may be to correct the zoom value of the PTZ camera 103 to the wide side so that the subject area sizes G and H are close to the sizes C and D at the time of preset registration. However, because only one of the three subjects is closer to the PTZ camera 103, if the zoom value is corrected based on that person, the size of the head areas of the remaining two subjects will be smaller than at the time of preset registration.
このような場合、例えば、I×J、K×L、M×Nで示す領域サイズの平均値が、A×B、C×D、E×Fの平均値になるようにPTZ値を調整してもよい。すなわち、これから変更されるプリセットの撮影領域と予め関連付けられた被写体の大きさに対する、補正後の撮影領域に含まれる被写体の大きさの変化が小さくなるように画角を補正する。また、領域サイズの最大、もしくは最小のサイズを事前に定め、定められたサイズに収まるようにPTZ値を補正してもよい。 In such cases, the PTZ value may be adjusted so that the average area size indicated by IxJ, KxL, and MxN becomes the average area size of AxB, CxD, and ExF, for example. In other words, the angle of view is corrected so that the change in the size of the subject included in the corrected shooting area is small relative to the size of the subject previously associated with the preset shooting area to be changed. Alternatively, the maximum or minimum area size may be determined in advance, and the PTZ value may be corrected so that the area falls within the determined size.
図8(a)乃至図8(d)から図10(a)乃至図10(c)、もしくは他の補正方法による補正結果が相反する場合、オペレータが事前に優先する補正内容を定めてもよい。すなわち、複数の補正方法を用いてPTZカメラの画角を補正する際に複数の補正方法が相反して同時に実行できない場合には、予め定められた補正方法を優先してもよい。すなわち、複数の補正方法(変更方法)のうち、所定の優先度に応じた補正方法(変更方法)を実行してもよい。また、プリセットごとに優先する補正内容を決定してもよい。これにより、より構図の再現性を高めることができる。 If the correction results from Figures 8(a) to 8(d) to 10(a) to 10(c) or other correction methods conflict, the operator may determine in advance which correction content to prioritize. In other words, when using multiple correction methods to correct the angle of view of a PTZ camera, if the multiple correction methods conflict and cannot be executed simultaneously, a predetermined correction method may be prioritized. In other words, of the multiple correction methods (change methods), a correction method (change method) according to a predetermined priority may be executed. In addition, the correction content to prioritize may be determined for each preset. This can further improve the reproducibility of the composition.
なお、補正方法は、図8(a)乃至図8(d)から図10(a)乃至図10(c)に示す補正例に限定されない。例えば、被写体の移動に合わせてPTZ値の補正を行ってもよい。また、上述のように被写体は人物に限定されず、オペレータが意図した構図に含まれ、画像から認識できる物体であれば、何れの物体であってもよい。 The correction method is not limited to the correction examples shown in Figures 8(a) to 8(d) and 10(a) to 10(c). For example, the PTZ value may be corrected in accordance with the movement of the subject. Also, as mentioned above, the subject is not limited to a person, and can be any object that is included in the composition intended by the operator and can be recognized from the image.
変更先の撮影領域と予め関連付けられた被写体の数に対して当該撮影領域に含まれる被写体の数が増加した場合、撮影領域と予め関連付けられた被写体が補正後の撮影領域内に収まるように且つ大きさが最大となるように画角を補正するように構成してもよい。例えば被写体数が当初の構図では撮影領域内に被写体A、B、Cの3人が存在していたものの、被写体が移動した結果、今回のプリセット移動によって撮影領域内に被写体A、B、C、Dの4人に増加する場合、被写体A、B、Cが撮影領域内に収まるように且つ被写体A、B、Cの大きさが撮影領域内で最大となるように画角を補正してもよい。この際、結果として被写体Dの一部又は全部が撮影領域内に含まれてもよいし、含まれなくてもよい。あるいは、最大となるように補正するのではなく、被写体A、B、Cの重心位置が撮影領域の中心(例えば画面中心)となるように補正してもよい。また、これらを組み合わせて実行してもよい。 If the number of subjects included in the new shooting area increases compared to the number of subjects previously associated with the new shooting area, the angle of view may be corrected so that the subjects previously associated with the shooting area fit within the corrected shooting area and are maximized in size. For example, if the original composition had three subjects A, B, and C in the shooting area, but the subjects moved, increasing the number of subjects A, B, C, and D in the shooting area as a result of this preset movement, the angle of view may be corrected so that subjects A, B, and C fit within the shooting area and so that the size of subjects A, B, and C is maximized within the shooting area. In this case, part or all of subject D may or may not be included within the shooting area as a result. Alternatively, rather than correcting to maximize the center of gravity, the center of gravity of subjects A, B, and C may be corrected to be at the center of the shooting area (e.g., the center of the screen). A combination of these methods may also be used.
以上説明したように、本実施形態では、PTZカメラ103が撮影する領域をプリセットの領域に変更する指示を受信した場合に、プリセットにおいて関連付けられている被写体を撮影する俯瞰カメラ104から当該被写体の現在位置の情報を取得する。そして、現在位置の情報に基づいて、プリセットの領域における所定位置(例えば画面中心位置)からの被写体の位置変化量を取得し、位置変化量に基づいてPTZカメラ103の画角を補正することによりプリセットの領域を補正する。 As described above, in this embodiment, when the PTZ camera 103 receives an instruction to change the area it captures to a preset area, it acquires information about the current position of the subject associated with the preset from the overhead camera 104 that captures the subject. Then, based on the current position information, it acquires the amount of change in position of the subject from a specified position in the preset area (e.g., the center of the screen), and corrects the preset area by correcting the angle of view of the PTZ camera 103 based on the amount of change in position.
これにより、プリセット移動を行った際に所望の被写体を適切な位置、大きさ等で自動追従することができ、プリセット移動後の調整の手間を削減することが可能となる。従って、被写体の位置が変化した場合でも連続したスムーズな映像を取得することが可能となる。 This allows the desired subject to be automatically tracked at the appropriate position, size, etc. when a preset movement is performed, reducing the effort required for adjustments after the preset movement. Therefore, it is possible to capture continuous, smooth video even if the subject's position changes.
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other embodiments)
The present invention can also be realized by supplying a program that realizes one or more of the functions of the above-described embodiments to a system or device via a network or a storage medium, and having one or more processors in the computer of the system or device read and execute the program.The present invention can also be realized by a circuit (e.g., an ASIC) that realizes one or more of the functions.
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。 The invention is not limited to the above-described embodiments, and various modifications and variations are possible without departing from the spirit and scope of the invention. Therefore, the following claims are appended to clarify the scope of the invention.
101:情報処理装置、103:PTZカメラ、104:俯瞰カメラ、401:画像取得部、402:被写体抽出部、403:位置情報取得部、404:位置変化量取得部、405:補正部、406:撮影制御部、411:プリセット登録部、413:プリセット指示受信部 101: Information processing device, 103: PTZ camera, 104: Bird's-eye view camera, 401: Image acquisition unit, 402: Subject extraction unit, 403: Position information acquisition unit, 404: Position change amount acquisition unit, 405: Correction unit, 406: Photography control unit, 411: Preset registration unit, 413: Preset instruction reception unit
Claims (12)
前記受信手段により前記指示が受信された場合、前記第2の撮影領域と予め関連付けられた被写体の位置情報を、前記第1の撮影手段よりも広角の第2の撮影手段により取得された画像に基づいて取得する取得手段と、
前記位置情報に基づいて、前記第2の撮影領域における所定位置と前記被写体の位置との差分を取得する差分取得手段と、
前記差分に基づいて前記第1の撮影手段の画角を変更することにより前記第2の撮影領域を変更する変更手段と、
を備え、
前記変更手段は、前記第2の撮影領域と予め関連付けられた被写体が複数存在しており、且つ、前記複数の被写体の移動により前記複数の被写体の領域サイズが変化した場合、変化前の前記複数の被写体の領域サイズに応じて変化後における前記画角を変更することを特徴とする情報処理装置。 a receiving means for receiving an instruction to change an area photographed by the first photographing means from the first photographing area to the second photographing area;
an acquisition means for acquiring, when the instruction is received by the receiving means , position information of a subject associated in advance with the second photographing area based on an image acquired by a second photographing means having a wider angle than the first photographing means;
a difference acquiring means for acquiring a difference between a predetermined position in the second photographing area and a position of the subject based on the position information;
a change unit that changes the angle of view of the first image capturing unit based on the difference to change the second image capturing area;
Equipped with
The information processing device is characterized in that, when there are multiple subjects that are pre-associated with the second shooting area and the area size of the multiple subjects changes due to movement of the multiple subjects, the change means changes the angle of view after the change in accordance with the area size of the multiple subjects before the change .
前記第2の撮影手段は、前記第1の撮影手段による撮影領域を俯瞰する画像を撮影する俯瞰カメラであることを特徴とする請求項1に記載の情報処理装置。 the first photographing means is a PTZ camera capable of controlling at least one of pan, tilt, and zoom;
2. The information processing apparatus according to claim 1 , wherein the second image capturing means is an overhead camera that captures an image overlooking the area captured by the first image capturing means.
前記受信工程において前記指示が受信された場合、前記第2の撮影領域と予め関連付けられた被写体の位置情報を、前記第1の撮影手段よりも広角の第2の撮影手段により取得された画像に基づいて取得する取得工程と、
前記位置情報に基づいて、前記第2の撮影領域における所定位置と前記被写体の位置との差分を取得する差分取得工程と、
前記差分に基づいて前記第1の撮影手段の画角を変更することにより前記第2の撮影領域を変更する変更工程と、
を有し、
前記変更工程では、前記第2の撮影領域と予め関連付けられた被写体が複数存在しており、且つ、前記複数の被写体の移動により前記複数の被写体の領域サイズが変化した場合、変化前の前記複数の被写体の領域サイズに応じて変化後における前記画角を変更することを特徴とする情報処理方法。 a receiving step of receiving an instruction to change an area photographed by the first photographing means from the first photographing area to the second photographing area;
an acquisition step of acquiring, when the instruction is received in the receiving step , position information of the subject associated in advance with the second photographing area based on an image acquired by a second photographing means having a wider angle than the first photographing means;
a difference obtaining step of obtaining a difference between a predetermined position in the second photographing area and a position of the subject based on the position information;
a changing step of changing the second photographing area by changing the angle of view of the first photographing means based on the difference;
and
In the change process, when there are a plurality of subjects that are pre-associated with the second shooting area, and the area size of the plurality of subjects changes due to movement of the plurality of subjects, the angle of view after the change is changed according to the area size of the plurality of subjects before the change .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021206262A JP7745453B2 (en) | 2021-12-20 | 2021-12-20 | Information processing device, control method and program for information processing device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021206262A JP7745453B2 (en) | 2021-12-20 | 2021-12-20 | Information processing device, control method and program for information processing device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023091490A JP2023091490A (en) | 2023-06-30 |
| JP7745453B2 true JP7745453B2 (en) | 2025-09-29 |
Family
ID=86941037
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021206262A Active JP7745453B2 (en) | 2021-12-20 | 2021-12-20 | Information processing device, control method and program for information processing device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7745453B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2025019630A (en) * | 2023-07-28 | 2025-02-07 | ヤマハ株式会社 | SPEAKER POSITION DETECTION METHOD, SPEAKER POSITION DETECTION DEVICE, AND PROGRAM |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005159558A (en) | 2003-11-21 | 2005-06-16 | Fuji Photo Film Co Ltd | Identification information recording apparatus and method, and imaging system |
| JP2011188258A (en) | 2010-03-09 | 2011-09-22 | Canon Inc | Camera system |
| JP2011188163A (en) | 2010-03-08 | 2011-09-22 | Sony Corp | Imaging control apparatus and method |
| JP2019087974A (en) | 2017-11-10 | 2019-06-06 | キヤノン株式会社 | Image pickup apparatus, image pickup method, display apparatus and display method |
| JP2021057660A (en) | 2019-09-27 | 2021-04-08 | キヤノン株式会社 | Image control device, imaging apparatus, and image control method |
| WO2021152960A1 (en) | 2020-01-30 | 2021-08-05 | 富士フイルム株式会社 | Display method |
-
2021
- 2021-12-20 JP JP2021206262A patent/JP7745453B2/en active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005159558A (en) | 2003-11-21 | 2005-06-16 | Fuji Photo Film Co Ltd | Identification information recording apparatus and method, and imaging system |
| JP2011188163A (en) | 2010-03-08 | 2011-09-22 | Sony Corp | Imaging control apparatus and method |
| JP2011188258A (en) | 2010-03-09 | 2011-09-22 | Canon Inc | Camera system |
| JP2019087974A (en) | 2017-11-10 | 2019-06-06 | キヤノン株式会社 | Image pickup apparatus, image pickup method, display apparatus and display method |
| JP2021057660A (en) | 2019-09-27 | 2021-04-08 | キヤノン株式会社 | Image control device, imaging apparatus, and image control method |
| WO2021152960A1 (en) | 2020-01-30 | 2021-08-05 | 富士フイルム株式会社 | Display method |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023091490A (en) | 2023-06-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110800282B (en) | PTZ adjustment method, PTZ adjustment device, mobile platform and medium | |
| CN107438173B (en) | Video processing apparatus, video processing method, and storage medium | |
| CN100455014C (en) | Photographing device and method, monitoring system | |
| JP4140591B2 (en) | Imaging system and imaging method | |
| CN110611767B (en) | Image processing method and device and electronic equipment | |
| CN111787232A (en) | Image processing method, device and storage medium based on pan-tilt-zoom camera | |
| WO2019244685A1 (en) | Image processing device, image processing method, program, and recording medium | |
| JP2014241505A (en) | Photographing apparatus, photographing method, template generation apparatus, template generation method, and program | |
| WO2023189079A1 (en) | Image processing device, image processing method, and program | |
| JP7745453B2 (en) | Information processing device, control method and program for information processing device | |
| CN108540720B (en) | System and method for automatically selecting optimal image for bullet time | |
| KR102155154B1 (en) | Method for taking artistic photograph using drone and drone having function thereof | |
| CN108347577B (en) | An imaging system and method | |
| CN113391644A (en) | Unmanned aerial vehicle shooting distance semi-automatic optimization method based on image information entropy | |
| KR102138333B1 (en) | Apparatus and method for generating panorama image | |
| JP2001036898A (en) | Camera system for panoramic video generation | |
| JP7616211B2 (en) | Information processing device, information processing method, and program | |
| KR101793702B1 (en) | Video storage apparatus and method for searching thereof | |
| JP2006157432A (en) | Three-dimensional photographic apparatus and photographic method of three-dimensional image | |
| KR20190110369A (en) | Intelligent camera system for automatic tracking of specified subject and image capturing method using the same | |
| US11800230B2 (en) | Image processing apparatus of reducing whole operation time of arrival inspection, image processing method, and storage medium | |
| CN114612360B (en) | Video fusion method and system based on motion model | |
| WO2019244667A1 (en) | Information processing device, information processing method, and program | |
| JP2006238326A (en) | Camera device system and shooting moving image reproduction method | |
| KR102806984B1 (en) | Apparatus and method for providing guidance information for visual space shooting |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20241017 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250618 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250620 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250804 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250818 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250916 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7745453 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |