Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7613085B2 - Image capture device and image capture processing method - Google Patents
[go: Go Back, main page]

JP7613085B2 - Image capture device and image capture processing method - Google Patents

Image capture device and image capture processing method Download PDF

Info

Publication number
JP7613085B2
JP7613085B2 JP2020210364A JP2020210364A JP7613085B2 JP 7613085 B2 JP7613085 B2 JP 7613085B2 JP 2020210364 A JP2020210364 A JP 2020210364A JP 2020210364 A JP2020210364 A JP 2020210364A JP 7613085 B2 JP7613085 B2 JP 7613085B2
Authority
JP
Japan
Prior art keywords
range
information
cut
magnification
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020210364A
Other languages
Japanese (ja)
Other versions
JP2022097021A (en
Inventor
恵児 西巻
義弘 松永
康生 藤原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2020210364A priority Critical patent/JP7613085B2/en
Publication of JP2022097021A publication Critical patent/JP2022097021A/en
Application granted granted Critical
Publication of JP7613085B2 publication Critical patent/JP7613085B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、撮像装置および撮像処理方法に関する。 The present invention relates to an imaging device and an imaging processing method.

従来、広く普及しているハイビジョン対応の撮像装置は、処理対象の撮像情報の画面のアスペクト比(横方向サイズ:縦方向サイズ)が16:9のものが主流となっている。この撮像装置は、アスペクト比が16:9の横長の画面を有する装置、例えばパーソナルコンピュータや家庭用TV装置などと親和性が高く、当該撮像装置で撮影された撮像情報をこれらの装置の画面に効率良く表示させることができる。 Conventionally, the mainstream high-definition imaging devices that are widely used have a screen aspect ratio (horizontal size: vertical size) of 16:9 for the imaging information to be processed. This imaging device is highly compatible with devices that have wide screens with an aspect ratio of 16:9, such as personal computers and home TV devices, and the imaging information captured by this imaging device can be efficiently displayed on the screen of these devices.

一方で、近年急速に普及したスマートフォンにおいても、SNS(social networking service)などを用いてストリーム配信された撮像情報を視認する機会が増えている。スマートフォンは、表示画面が縦長の状態、つまり横方向サイズ:縦方向サイズが9:16の状態で使用されることが多い。そのため、上述したような撮像装置で撮影された撮像情報をスマートフォンで視認しようとすると、縦長の表示画面の一部、例えば中央部に横長の撮像情報が表示され、画面上部や下部に余白や黒帯部分が生じる。画面内に余白や黒帯部分が生じると、その分撮像情報の表示サイズが小さくなり、スマートフォンのユーザにとって視認しづらくなるという問題があった。 On the other hand, even with smartphones, which have rapidly spread in recent years, there are increasing opportunities to view imaging information streamed using SNS (social networking services) and the like. Smartphones are often used with their display screens in a portrait state, that is, with a horizontal:vertical ratio of 9:16. Therefore, when attempting to view imaging information captured by the imaging device described above on a smartphone, the imaging information is displayed in a landscape format in a portion of the portrait display screen, for example in the center, and blank spaces or black bars are generated at the top and bottom of the screen. When blank spaces or black bars are generated on the screen, the display size of the imaging information is correspondingly reduced, making it difficult for smartphone users to view the information.

このような技術的課題に対して、特許文献1には、撮影された撮像情報のズーム映像をストリーミング配信する映像配信装置において、撮像情報のフレームから抽出した重要領域を配信アスペクト比の最小サイズまで拡張するようにズーム条件を決定し、決定したズーム条件に基づいて切り出されたズーム映像を配信する技術が開示されている。 In response to these technical issues, Patent Document 1 discloses a technology in which a video distribution device that streams zoomed video of captured imaging information determines zoom conditions so that an important area extracted from a frame of the imaging information is expanded to the minimum size of the distribution aspect ratio, and distributes the zoomed video cut out based on the determined zoom conditions.

特許第5594842号公報Patent No. 5594842

しかしながら、撮像装置で撮影された動画情報を配信している際に、撮影装置の光学ズームをWIDE側へ変更すると、配信されている配信用画像情報の画角が広がるため、配信用画像情報における被写体のサイズが相対的に小さくなってしまう。つまり、撮影者の意図しない映像位置で被写体の画像が配信されてしまう不都合があった。 However, when video information captured by an imaging device is being distributed, if the optical zoom of the imaging device is changed to the WIDE side, the angle of view of the image information being distributed becomes wider, causing the size of the subject in the image information to be distributed to become relatively smaller. In other words, there is an inconvenience in that the image of the subject is distributed from a position not intended by the photographer.

本発明は、こうした状況に鑑みてなされたものであり、その目的は、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することが可能な撮像装置および撮像処理方法を提供することを目的とする。 The present invention was made in consideration of these circumstances, and its purpose is to provide an imaging device and imaging processing method that can generate display image information for continuing distribution with the original distribution angle of view that was set, even if the angle of view for shooting is changed by optical zoom.

上記目的を達成するための本発明の撮像装置は、
撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行うことによって画像信号を出力する撮像部と、前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部とを備え、前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。
In order to achieve the above object, an imaging device according to the present invention comprises:
The present invention comprises an imaging unit which is capable of changing a shooting magnification and outputs an image signal by performing video shooting processing at a set shooting magnification; and a distribution information generation unit which sequentially acquires frames from the image signal, generates partial imaging information of a predetermined cut-out range from each of the acquired frames, and enlarges the generated partial imaging information at a predetermined magnification ratio to generate image information for distribution, wherein when the shooting magnification is changed to a second shooting magnification lower than the first shooting magnification while the distribution information generation unit is generating partial imaging information of a second cut-out range having a size smaller than the size of the first cut-out range from each of the acquired frames, and enlarging the partial imaging information of the second cut-out range at a second magnification ratio higher than the first magnification ratio to generate the image information for distribution.

また、本発明の撮像処理方法は、撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行う撮像部を備えた撮像装置が、前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。 The imaging processing method of the present invention is characterized in that, when an imaging device having an imaging unit capable of changing the imaging magnification and performing video imaging processing at a set imaging magnification sequentially acquires frames captured and generated by the imaging unit at a first imaging magnification, extracts partial imaging information of a first cut-out range set in advance from each of the frames, and enlarges the partial imaging information at a first magnification ratio to generate image information for distribution, if the imaging magnification is changed to a second imaging magnification ratio lower than the first imaging magnification, the range to be cut out from each of the acquired frames is changed to a second cut-out range smaller than the size of the first cut-out range, and the partial imaging information of the second cut-out range is enlarged at a second magnification ratio higher than the first magnification ratio to generate the image information for distribution.

本発明の撮像装置および撮像処理方法によれば、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することができる。 The imaging device and imaging processing method of the present invention can generate display image information that allows distribution to continue with the original distribution angle of view that was set, even if the angle of view for shooting is changed by optical zoom.

本発明の第1実施形態による撮像装置全体の構成を示すブロック図である。1 is a block diagram showing the overall configuration of an imaging apparatus according to a first embodiment of the present invention. 本発明の第1実施形態による撮像装置内の配信用情報生成部の構成を示すブロック図である。3 is a block diagram showing a configuration of a distribution information generating unit in the imaging device according to the first embodiment of the present invention. FIG. 本発明の第1実施形態による撮像装置の動作を示すフローチャートである。5 is a flowchart showing the operation of the imaging apparatus according to the first embodiment of the present invention. (a)は、本発明の第1実施形態による撮像装置で撮影された撮像情報に、切り出し位置を指定するためのGUI情報が重畳されて表示された状態の一例を示す図であり、(b)は、GUI情報で指定された範囲が切り出されて生成された配信用画像情報の一例を示す図である。FIG. 1A is a diagram showing an example of a state in which GUI information for specifying a cut-out position is superimposed on imaging information captured by an imaging device according to a first embodiment of the present invention, and FIG. 1B is a diagram showing an example of image information for distribution generated by cutting out a range specified by the GUI information. (a)は、本発明の第1実施形態に撮像装置で、撮影倍率を高く変更した後に撮影された撮像情報の一例を示す図であり、(b)は、撮影倍率変更後の撮像情報から切り出されて生成された配信用画像情報の一例である。1A is a diagram showing an example of imaging information captured after the shooting magnification has been changed to a higher value using an imaging device according to a first embodiment of the present invention, and FIG. 1B is an example of image information for distribution that has been extracted and generated from the imaging information after the shooting magnification has been changed. (a)は、本発明の第1実施形態による撮像装置で、撮影倍率を低く変更した後に撮影された撮像情報の一例を示す図であり、(b)は、撮影倍率変更後の撮像情報から切り出されて生成された配信用画像情報の一例である。1A is a diagram showing an example of imaging information captured after the shooting magnification has been changed to a lower value using an imaging device according to a first embodiment of the present invention, and FIG. 1B is an example of image information for distribution that has been extracted and generated from the imaging information after the shooting magnification has been changed. (a)は、本発明の第1実施形態による撮像装置で、撮影倍率を低く変更した後に撮影された撮像情報の一例を示す図であり、(b)は、撮影倍率変更後の撮像情報から切り出されて生成された配信用画像情報の一例である。1A is a diagram showing an example of imaging information captured after the shooting magnification has been changed to a lower value using an imaging device according to a first embodiment of the present invention, and FIG. 1B is an example of image information for distribution that has been extracted and generated from the imaging information after the shooting magnification has been changed. 本発明の第2実施形態による撮像装置内の配信用情報生成部の構成を示すブロック図である。FIG. 11 is a block diagram showing a configuration of a distribution information generating unit in an imaging device according to a second embodiment of the present invention.

以下に、本発明の実施形態として、撮影した横長(アスペクト比16:9)の撮像情報をSNSで配信する際に、スマートフォンの縦長(アスペクト比9:16)の表示画面に好適に表示させることが可能な画像情報を生成する撮像装置について説明する。 The following describes an embodiment of the present invention, which is an imaging device that generates image information that can be suitably displayed on a portrait (aspect ratio 9:16) display screen of a smartphone when distributing captured landscape (aspect ratio 16:9) image information on SNS.

《第1実施形態》
〈第1実施形態による撮像装置の構成〉
本発明の第1実施形態による撮像装置1Aの構成について、図1を参照して説明する。本実施形態による撮像装置1Aは、動画撮影を行う装置であり、撮像部としてのズームレンズ2およびCMOS(Complementary MOS)センサ3と、入力部4と、映像記憶部5と、ネットワークIF部6と、外部モニタIF部7と、表示部8と、記憶部9と、画像処理部10と、コーデック部20と、CPU(Central Processing Unit)30とを備える。
First Embodiment
Configuration of the imaging device according to the first embodiment
The configuration of an image capture device 1A according to a first embodiment of the present invention will be described with reference to Fig. 1. The image capture device 1A according to this embodiment is a device for capturing moving images, and includes a zoom lens 2 and a CMOS (Complementary MOS) sensor 3 as an image capture unit, an input unit 4, a video storage unit 5, a network IF unit 6, an external monitor IF unit 7, a display unit 8, a storage unit 9, an image processing unit 10, a codec unit 20, and a CPU (Central Processing Unit) 30.

ズームレンズ2は、撮影倍率を変更可能に構成されたレンズであり、ズームレバー(図示せず)等を用いてユーザにより設定された倍率で被写体光を入射する。CMOSセンサ3は、ズームレンズ2から入射された被写体光を電気信号に変換する撮像素子である。CMOSセンサ3は、変換された電気信号をMIPI(Mobile Industry Processor Interface)、sLVDS(sub Low Voltage Differential Signaling)、HiSPi(High-Speed Pixel Interface)等の画像信号として出力する。 The zoom lens 2 is a lens configured to change the shooting magnification, and allows subject light to enter at a magnification set by the user using a zoom lever (not shown) or the like. The CMOS sensor 3 is an imaging element that converts the subject light entering through the zoom lens 2 into an electrical signal. The CMOS sensor 3 outputs the converted electrical signal as an image signal such as MIPI (Mobile Industry Processor Interface), sLVDS (sub Low Voltage Differential Signaling), or HiSPi (High-Speed Pixel Interface).

入力部4は、キーボタンまたはタッチパネルで構成され、ユーザの操作情報、例えば撮影倍率を指定する情報、SNS配信用の動画生成を指示する情報、または、後述する画像切り出し範囲の指定情報等を入力する。本実施形態ではタッチパネルを表示部8に設ける。映像記憶部5は、後述する画像処理部10で生成された情報およびコーデック部20で生成された情報を記憶する記憶媒体であり、例えばSDメモリや、SSD(Solid State Drive)などで構成される。ネットワークIF部6は、所定のLAN(Local Area Network)に接続するためのインタフェースである。 The input unit 4 is composed of key buttons or a touch panel, and inputs user operation information, such as information specifying the shooting magnification, information instructing the generation of a video for SNS distribution, or information specifying the image cropping range described below. In this embodiment, a touch panel is provided on the display unit 8. The video storage unit 5 is a storage medium that stores information generated by the image processing unit 10 and information generated by the codec unit 20 described below, and is composed of, for example, an SD memory or an SSD (Solid State Drive). The network IF unit 6 is an interface for connecting to a specified LAN (Local Area Network).

外部モニタIF部7は、外部のテレビ装置や表示装置(図示せず)に接続するためのインタフェースであり、例えばHDMI(High-Definition Multimedia Interface)やSDI(Serial Digital Interface)規格などが使用される。表示部8は、撮影した動画情報の確認用の小型モニタであり、例えばタッチパネル付きのLCD(liquid crystal display)やELディスプレイなどである。記憶部9は、画像処理部10およびコーデック部20で処理を実行する際に用いる記憶媒体であり、例えばDDR4(Double-Data-Rate4)メモリやハードディスクなどで構成される。 The external monitor IF unit 7 is an interface for connecting to an external television device or display device (not shown), and uses, for example, the HDMI (High-Definition Multimedia Interface) or SDI (Serial Digital Interface) standard. The display unit 8 is a small monitor for checking the captured video information, and is, for example, a touch panel LCD (liquid crystal display) or an EL display. The storage unit 9 is a storage medium used when the image processing unit 10 and the codec unit 20 execute processing, and is composed of, for example, a DDR4 (Double-Data-Rate4) memory or a hard disk.

画像処理部10は、センサIF部11と、傷補正/NR(Noise reduction)処理部12と、ディベイヤ処理部13と、色再現部14と、動き検出部15と、撮影倍率情報取得部16と、表示用情報生成部17とを有する。 The image processing unit 10 has a sensor IF unit 11, a scratch correction/NR (Noise reduction) processing unit 12, a debayer processing unit 13, a color reproduction unit 14, a motion detection unit 15, a shooting magnification information acquisition unit 16, and a display information generation unit 17.

センサIF部11は、CMOSセンサ3から出力される画像信号を受信し、シリアルデータをパラレルデータに変換し、フレームとして順次生成する。またセンサIF部11は、受信した信号から、水平同期信号および垂直同期信号を抽出し、撮像装置1A内部の同期信号に置き換える。この処理を実行する際、記憶部9を使用してもよい。 The sensor IF unit 11 receives the image signal output from the CMOS sensor 3, converts the serial data into parallel data, and generates the data sequentially as frames. The sensor IF unit 11 also extracts the horizontal and vertical synchronization signals from the received signal and replaces them with synchronization signals within the imaging device 1A. The memory unit 9 may be used when performing this process.

傷補正/NR処理部12は、センサIF部11で変換されたデータをフレームごとに処理対象の情報として取得し、該当するフレーム内に含まれるいわゆる傷データの補間処理や、ノイズリダクション処理を実行する。ノイズリダクション処理は、フレームごとに処理実行する2DNR(2- dimensional noise reduction)、または連続するフレームを分析して処理を実行する3DNR(3- dimensional noise reduction)のいずれを採用してもよい。この処理を実行する際、記憶部9を使用してもよい。 The blemish correction/NR processing unit 12 acquires the data converted by the sensor IF unit 11 for each frame as information to be processed, and performs interpolation processing of so-called blemish data contained in the corresponding frame and noise reduction processing. The noise reduction processing may employ either 2DNR (2-dimensional noise reduction), which performs processing for each frame, or 3DNR (3-dimensional noise reduction), which performs processing by analyzing consecutive frames. The memory unit 9 may be used when performing this processing.

ディベイヤ処理部13は、CMOSセンサ3がR,Gr,Gb,Bのベイヤー構造に対応している場合、CMOSセンサ3から取得したフレームをディベイヤ処理によりR,G,B構造に変換する。CMOSセンサ3がモノクロ対応もしくは3CMOS構造に対応している場合には、取得したフレームに対してディベイヤ処理を行わない。色再現部14は、取得したフレームに対し、ガンマ補正処理や、予め設定されたホワイトバランスに沿ったカラーマネージメント処理を行う。 If the CMOS sensor 3 supports the Bayer structure of R, Gr, Gb, B, the debayer processing unit 13 converts the frame acquired from the CMOS sensor 3 into an R, G, B structure by debayer processing. If the CMOS sensor 3 supports monochrome or a 3-CMOS structure, debayer processing is not performed on the acquired frame. The color reproduction unit 14 performs gamma correction processing and color management processing according to a preset white balance on the acquired frame.

動き検出部15は、後述する表示用情報生成部17の配信用情報生成部19Aで生成される配信用動画情報から被写体の動き情報を検出する。撮影倍率情報取得部16は、ズームレンズ2に設定された撮影倍率の情報を、CPU30を介して取得する。 The motion detection unit 15 detects subject motion information from video information for distribution generated by a distribution information generation unit 19A of the display information generation unit 17 described below. The shooting magnification information acquisition unit 16 acquires information on the shooting magnification set in the zoom lens 2 via the CPU 30.

表示用情報生成部17は、メイン情報生成部18と配信用情報生成部19Aとを有する。メイン情報生成部18は、取得したフレームから、ハイビジョン等に対応したアスペクト比16:9の表示用画像情報を生成する。生成された表示用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、メイン動画情報として記録される。 The display information generating unit 17 has a main information generating unit 18 and a distribution information generating unit 19A. The main information generating unit 18 generates display image information with an aspect ratio of 16:9 compatible with high definition and the like from the acquired frames. The generated display image information is sequentially sent by the CPU 30 from the storage unit 9 to the video storage unit 5 and recorded as main video information.

配信用情報生成部19Aは、取得したフレームから、SNS等の配信によりスマートフォン(図示せず)のような縦型の表示画面に表示させるアスペクト比9:16の表示用情報として、配信用画像情報を生成する。生成された配信用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、配信用動画情報として記録される。 The distribution information generating unit 19A generates distribution image information from the acquired frames as display information with an aspect ratio of 9:16 to be displayed on a portrait display screen such as a smartphone (not shown) via distribution on SNS or the like. The generated distribution image information is sequentially sent by the CPU 30 from the storage unit 9 to the video storage unit 5 and recorded as distribution video information.

配信用情報生成部19Aの詳細な構成について、図2を参照して説明する。配信用情報生成部19Aは、GUI(Graphical User Interface)表示制御部191と、切り出し範囲設定部192と、切り出し部193と、リサイズ処理部194と、設定変更部195とを有する。 The detailed configuration of the distribution information generating unit 19A will be described with reference to FIG. 2. The distribution information generating unit 19A has a GUI (Graphical User Interface) display control unit 191, a cropping range setting unit 192, a cropping unit 193, a resizing processing unit 194, and a setting change unit 195.

GUI表示制御部191は、入力部4から、SNS配信用のGUI情報生成指示が入力されると、撮影した動画情報から、アスペクト比9:16で所定サイズの矩形の切り出し範囲を指定するためのGUI情報を表示部8に表示させる。 When an instruction to generate GUI information for SNS distribution is input from the input unit 4, the GUI display control unit 191 causes the display unit 8 to display GUI information for specifying a rectangular cut-out range of a specified size with an aspect ratio of 9:16 from the captured video information.

切り出し範囲設定部192は、GUI表示制御部191の制御により表示されたGUI情報を用いてユーザにより指定されたフレーム内の切り出し範囲を、第1切り出し範囲として設定する。また切り出し範囲設定部192は、後述する設定変更部195からの指示に基づいて切り出し範囲を変更する。 The cut-out range setting unit 192 sets the cut-out range within the frame specified by the user using the GUI information displayed under the control of the GUI display control unit 191 as the first cut-out range. The cut-out range setting unit 192 also changes the cut-out range based on an instruction from the setting change unit 195, which will be described later.

切り出し部193は、所定の第1撮影倍率で撮影されたフレームから、切り出し範囲設定部192で設定された第1切り出し範囲の撮像情報を部分撮像情報として切り出す。リサイズ処理部194は、切り出し部193で切り出された部分撮像情報をSNS配信用にリサイズして、配信用画像情報を生成する。 The cropping unit 193 crops out the imaging information of the first cropping range set by the cropping range setting unit 192 as partial imaging information from a frame captured at a predetermined first imaging magnification. The resizing processing unit 194 resizes the partial imaging information cropped by the cropping unit 193 for SNS distribution to generate image information for distribution.

設定変更部195は、撮影倍率情報取得部16で取得されたズームレンズ2の撮影倍率の情報に基づいて、撮影中に撮影倍率が第1撮影倍率よりも低い第2撮影倍率に変更されたことを検知すると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更する。 When the setting change unit 195 detects that the shooting magnification has been changed to a second shooting magnification lower than the first shooting magnification during shooting based on the information on the shooting magnification of the zoom lens 2 acquired by the shooting magnification information acquisition unit 16, it changes the cut-out range in the frame to a second cut-out range smaller than the size of the first cut-out range for the cut-out range setting unit 192.

また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後、ズームレンズ2の撮影倍率が第1撮影倍率に戻されたことを検知すると、切り出し範囲設定部192に対して切り出し範囲を第1切り出し範囲に戻すように設定する。また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後に生成された配信用画像情報内で、所定値以上の被写体の動きが検出されると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第2切り出し範囲よりも大きく第1切り出し範囲よりも小さい第3切り出し範囲に変更する。 Furthermore, when the setting change unit 195 detects that the shooting magnification of the zoom lens 2 has been returned to the first shooting magnification after changing the cut-out range to the second cut-out range, it sets the cut-out range setting unit 192 to return the cut-out range to the first cut-out range. Furthermore, when the setting change unit 195 detects subject movement of a predetermined value or more in the image information for distribution generated after changing the cut-out range to the second cut-out range, it instructs the cut-out range setting unit 192 to change the cut-out range in the frame to a third cut-out range that is larger than the second cut-out range and smaller than the first cut-out range.

図1に戻り、コーデック部20は、メインコーデック部21と、配信用コーデック部22とを有する。メインコーデック部21は、メイン情報生成部18で生成され記憶されたメイン動画情報を映像記憶部5に保管するためにエンコードし、記憶部9に一時的に記憶させる。その後、CPU30は記憶部9に一時的に記憶されたデータをファイルフォーマット形式で映像記憶部5に保管する。また、ネットワークIF部6を介して外部のサーバ装置などに送信する場合にもエンコードする。さらにメインコーデック部21は、エンコードされたメイン動画情報を外部モニタIF部7から表示装置等に再生させる際や表示部8に再生させる際にデコードする。 Returning to FIG. 1, the codec unit 20 has a main codec unit 21 and a distribution codec unit 22. The main codec unit 21 encodes the main video information generated and stored by the main information generation unit 18 for storage in the video storage unit 5, and temporarily stores it in the storage unit 9. The CPU 30 then stores the data temporarily stored in the storage unit 9 in file format in the video storage unit 5. The codec unit 21 also encodes the main video information when transmitting it to an external server device or the like via the network IF unit 6. Furthermore, the main codec unit 21 decodes the encoded main video information when it is played on a display device or the like from the external monitor IF unit 7, or when it is played on the display unit 8.

配信用コーデック部22は、配信用情報生成部19Bで生成された配信用動画情報を、外部の表示装置に送信するためにエンコードし、記憶部9に記憶させる。また配信用コーデック部22は、エンコードされた配信用動画情報を再生させる際にデコードする。 The distribution codec unit 22 encodes the distribution video information generated by the distribution information generation unit 19B for transmission to an external display device and stores it in the storage unit 9. The distribution codec unit 22 also decodes the encoded distribution video information when playing it.

CPU30は、上述したズームレンズ2、CMOSセンサ3、入力部4、映像記憶部5、ネットワークIF部6、外部モニタIF部7、表示部8、記憶部9、画像処理部10、およびコーデック部20の動作を制御する。 The CPU 30 controls the operation of the zoom lens 2, CMOS sensor 3, input unit 4, video memory unit 5, network IF unit 6, external monitor IF unit 7, display unit 8, memory unit 9, image processing unit 10, and codec unit 20 described above.

〈第1実施形態による撮像装置の動作〉
次に、本実施形態による撮像装置1Aの動作について、図3のフローチャートを参照して説明する。まず、ユーザが入力部4から動画撮影の開始を指示する操作を行うと、第1撮影倍率Z1に設定されたズームレンズ2、CMOSセンサ3、および画像処理部10で動画撮影処理が開始される。撮影された動画情報は、CPU30により表示部8に表示される。
<Operation of the imaging device according to the first embodiment>
Next, the operation of the imaging device 1A according to this embodiment will be described with reference to the flowchart in Fig. 3. First, when the user performs an operation to instruct the start of moving image shooting from the input unit 4, moving image shooting processing is started by the zoom lens 2 set to the first shooting magnification Z1, the CMOS sensor 3, and the image processing unit 10. Information on the shot moving image is displayed on the display unit 8 by the CPU 30.

次に、ユーザが入力部4からSNS配信用の動画作成を指示する操作を行うと(S1の「YES」)、画像処理部10内のGUI表示制御部191により、撮影された動画情報のフレームから、アスペクト比9:16で第1のサイズの矩形の切り出し範囲(第1切り出し範囲)を指定するためのGUI情報が動画情報に重畳されて表示部8に表示される(S2)。 Next, when the user performs an operation on the input unit 4 to instruct the creation of a video for distribution on SNS ("YES" in S1), the GUI display control unit 191 in the image processing unit 10 causes GUI information for specifying a rectangular cut-out range (first cut-out range) of a first size with an aspect ratio of 9:16 from a frame of the captured video information to be superimposed on the video information and displayed on the display unit 8 (S2).

表示部8に表示された動画情報上に重畳して表示されたGUI情報の一例を、図4(a)に示す。図4(a)では、猿の親子の動画情報上にGUI情報が表示されている。GUI情報は、アスペクト比が9:16の枠情報G1と、表示部8の水平方向の画面中央線G2と、垂直方向の画面中央線G3と、枠情報G1を左側へ水平移動させるための左矢印ボタンG4と、枠情報G1を右側へ水平移動させるための右矢印ボタンG5と、枠情報G1の水平位置を決定させるための位置決定ボタンG7と、枠情報G1をスライドして位置決定操作を行うことを促すメッセージ情報G8とを有する。 Figure 4(a) shows an example of GUI information superimposed on video information displayed on the display unit 8. In Figure 4(a), GUI information is displayed on video information of a mother and child monkey. The GUI information has frame information G1 with an aspect ratio of 9:16, a horizontal screen center line G2 of the display unit 8, a vertical screen center line G3, a left arrow button G4 for horizontally moving the frame information G1 to the left, a right arrow button G5 for horizontally moving the frame information G1 to the right, a position determination button G7 for determining the horizontal position of the frame information G1, and message information G8 encouraging the user to perform a position determination operation by sliding the frame information G1.

ユーザは、入力部4から左矢印ボタンG4または右矢印ボタンG5を操作して、枠情報G1を所望の位置、つまり配信したい被写体の位置に移動させて位置決定ボタンG7を操作する。位置決定ボタンG7が操作されて枠情報G1の水平位置が決定すると(S3の「YES」)、切り出し範囲設定部192がフレーム内の切り出し範囲として、枠情報G1で示される第1切り出し範囲A1を設定する(S4)。 The user operates the left arrow button G4 or the right arrow button G5 on the input unit 4 to move the frame information G1 to the desired position, i.e., the position of the subject to be distributed, and then operates the position determination button G7. When the position determination button G7 is operated to determine the horizontal position of the frame information G1 ("YES" in S3), the cut-out range setting unit 192 sets the first cut-out range A1 indicated by the frame information G1 as the cut-out range within the frame (S4).

撮影した動画情報を処理対象として第1切り出し範囲A1を設定する際、切り出し範囲設定部192はまず、枠情報G1の所定位置(例えば左端位置)を水平方向の切り出しスタート位置H1として特定する。また、切り出し範囲の垂直方向の切り出しスタート位置V1として、処理対象の動画情報がHD画質の場合にはフレームの上端または下端から垂直に1080ピクセルの位置、4K画質の場合には垂直に2160ピクセルの位置、つまりフレームの下端または上端を特定する。 When setting the first cut-out range A1 for processing the captured video information, the cut-out range setting unit 192 first specifies a predetermined position (e.g., the left edge position) of the frame information G1 as the horizontal cut-out start position H1. In addition, as the vertical cut-out start position V1 of the cut-out range, a position 1080 pixels vertically from the top or bottom edge of the frame is specified if the video information to be processed is of HD quality, and a position 2160 pixels vertically if the video information is of 4K quality, i.e., the top or bottom edge of the frame.

次に、切り出し部193が、処理対象の動画情報のフレームF1から、切り出し範囲設定部192で設定された第1切り出し範囲A1の部分撮像情報を切り出す。そして、リサイズ処理部194が、切り出し部193で切り出された部分撮像情報をSNS配信用に所定の第1拡大率で拡大(リサイズ)して、図4(b)に示すように所定サイズの配信用画像情報D1を生成する。以降、ステップS4で設定された第1切り出し範囲A1に基づいて、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S5)。 Next, the cropping unit 193 crops out partial image information of the first cropping range A1 set by the cropping range setting unit 192 from frame F1 of the video information to be processed. Then, the resizing processing unit 194 enlarges (resizes) the partial image information cropped by the cropping unit 193 at a predetermined first enlargement ratio for SNS distribution to generate distribution image information D1 of a predetermined size as shown in FIG. 4(b). Thereafter, based on the first cropping range A1 set in step S4, distribution image information is generated for each frame acquired sequentially by shooting (S5).

撮影中に、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1から第2撮影倍率Z2に変更する操作を行うと(S6の「YES」、S7の「YES」)、撮影倍率情報取得部16が当該変更前の第1撮影倍率Z1の情報および変更後の撮影倍率Z2の情報を取得する。表示部8に、撮影倍率が変更された後に取得されたフレームF2を、図5(a)に示す。 When the user changes the magnification of the zoom lens 2 from the first magnification Z1 to the second magnification Z2 through the input unit 4 during shooting ("YES" in S6, "YES" in S7), the magnification information acquisition unit 16 acquires information on the first magnification Z1 before the change and information on the magnification Z2 after the change. The frame F2 acquired on the display unit 8 after the magnification was changed is shown in FIG. 5(a).

設定変更部195は、撮影倍率情報取得部16で取得された情報からズーム倍率比率Z1 / Z2 > 1 を算出することで、当該撮影倍率の変更がWide方向の変更であることを認識する。設定変更部195は、切り出し範囲設定部192で設定された切り出し範囲を、図5(a)に示すように、第1切り出し範囲A1のサイズよりも小さい、Z2 / Z1で算出されるサイズの第2切り出し範囲A2に変更する。 The setting change unit 195 calculates the zoom magnification ratio Z1/Z2>1 from the information acquired by the shooting magnification information acquisition unit 16, and thereby recognizes that the change in the shooting magnification is a change in the Wide direction. The setting change unit 195 changes the cut-out range set by the cut-out range setting unit 192 to a second cut-out range A2 whose size is calculated by Z2/Z1 and is smaller than the size of the first cut-out range A1, as shown in FIG. 5(a).

ここで、第2切り出し範囲A2は、第1切り出し範囲A1とズーム倍率比率に連動して変更する。 Here, the second cropping range A2 changes in conjunction with the first cropping range A1 and the zoom magnification ratio.

処理対象の動画情報の水平ピクセル数をHpixelとし、第1切り出し範囲A1内の切り出しスタート位置を画面左上から数えてH1とすると、第2切り出し範囲A2の水平方向における切り出しスタート位置H2は、以下の式(1)で示される。 If the number of horizontal pixels of the video information to be processed is Hpixel, and the cut-out start position within the first cut-out range A1 is H1, counting from the top left of the screen, the cut-out start position H2 in the horizontal direction of the second cut-out range A2 is given by the following formula (1).

H2 = Hpixel /2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
Hpixel は、例えばHD画質の場合は1,920、4K画質の場合は3,840である。
H2 = Hpixel /2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
For example, Hpixel is 1,920 for HD quality and 3,840 for 4K quality.

処理対象の動画情報の垂直ピクセル数をVpixelとすると、第2切り出し範囲A2の垂直方向における切り出しスタート位置V2は、以下の式(2)で示される。 If the number of vertical pixels of the video information to be processed is Vpixel, the vertical cut-out start position V2 of the second cut-out range A2 is given by the following formula (2).

V2 = Vpixel /2 × (1 - Z2 / Z1) (2)
Vpixel は、例えばHD画質の場合は1,080、4K画質の場合は2,160である。
V2 = Vpixel /2 × (1 - Z2 / Z1) (2)
For example, Vpixel is 1,080 for HD quality and 2,160 for 4K quality.

無論、HpixelやVpixelは、HD画質や4K画質などの画面サイズに限らず、処理対象の動画情報の水平ピクセル数や垂直ピクセル数を参照することで式(1)と式(2)を用い計算できる。なお、撮影倍率が変更された際は、ユーザが第1切り出し範囲A1を設定した時点の第1撮影倍率Z1を固定し、変更された撮影倍率である第2撮影倍率Z2を変更して再計算する。 Of course, Hpixel and Vpixel can be calculated using formulas (1) and (2) by referencing the number of horizontal pixels and the number of vertical pixels of the video information to be processed, regardless of the screen size, such as HD quality or 4K quality. When the shooting magnification is changed, the first shooting magnification Z1 at the time when the user set the first cropping range A1 is fixed, and the second shooting magnification Z2, which is the changed shooting magnification, is changed and recalculated.

そして、切り出し部193が、以降に取得するフレームF2から切り出す範囲を第2切り出し範囲A2に切り替える。リサイズ処理部194は、第2切り出し範囲A2で切り出された部分撮像情報を、第1拡大率よりも高い、Z1 / Z2で算出される第2拡大率で拡大する。そしてリサイズ処理部194は、図5(b)に示すように、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報を生成する。以降、変更された第2切り出し範囲A2に基づいて、撮影により順次取得するフレーム毎に配信用画像情報D2を生成する(S8)。 Then, the cropping unit 193 switches the cropping range from the subsequently acquired frame F2 to the second cropping range A2. The resizing processing unit 194 enlarges the partial image information cropped in the second cropping range A2 at a second magnification ratio calculated as Z1/Z2, which is higher than the first magnification ratio. The resizing processing unit 194 then generates image information for distribution of the same size as the image information for distribution generated in step S5, as shown in FIG. 5(b). Thereafter, based on the changed second cropping range A2, image information for distribution D2 is generated for each frame acquired sequentially by shooting (S8).

その後、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1に戻す、つまりTele方向に変更する操作を行うと(S9の「YES」、S10の「YES」)、撮影倍率情報取得部16が当該変更の情報を取得する。そして、当該変更の情報に基づいて、設定変更部195が、切り出し範囲の設定を第1切り出し範囲A1に戻す(S11)。 After that, when the user operates the input unit 4 to return the shooting magnification of the zoom lens 2 to the first shooting magnification Z1, that is, to change it to the Tele direction ("YES" in S9, "YES" in S10), the shooting magnification information acquisition unit 16 acquires information on the change. Then, based on the information on the change, the setting change unit 195 returns the setting of the cut-out range to the first cut-out range A1 (S11).

そして、切り出し部193が、以降に取得するフレームF3から切り出す範囲を第1切り出し範囲A1に切り替える。リサイズ処理部194は、第1切り出し範囲A1で切り出された部分撮像情報を第1拡大率で拡大して、ステップS5の処理と同様の範囲の配信用画像情報D3を生成する。以降、変更された第1切り出し範囲A1で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S11)。 Then, the cropping unit 193 switches the cropping range from the subsequently acquired frame F3 to the first cropping range A1. The resizing processing unit 194 enlarges the partial image information cropped in the first cropping range A1 at the first magnification ratio to generate distribution image information D3 of the same range as the processing in step S5. Thereafter, distribution image information is generated for each frame acquired sequentially by shooting in the changed first cropping range A1 (S11).

また、切り出し範囲が第2切り出し範囲A2に変更された後、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、動き検出部15が、生成された配信用画像情報内の被写体の動きを検出する。被写体の動きの検出には、既存技術、例えば前後フレームとの輝度変化量や、被写体の動きベクトル情報が用いられる。 Furthermore, after the cut-out range is changed to the second cut-out range A2, when the shooting magnification of the zoom lens 2 is not returned to the first shooting magnification Z1 ("NO" in S9), the motion detection unit 15 detects the motion of the subject in the generated image information for distribution. To detect the motion of the subject, existing technology, for example, the amount of change in luminance between previous and next frames, or motion vector information of the subject is used.

ここで、動き検出部15が配信用画像情報から所定値以上の動きを検出すると(S12の「YES」)、設定変更部195は設定された切り出し範囲を、図6(a)に示すように、第2切り出し範囲A2よりも大きく第1切り出し範囲A1よりも小さい第3切り出し範囲A3に変更する。 Here, when the motion detection unit 15 detects a motion equal to or greater than a predetermined value from the image information for distribution ("YES" in S12), the setting change unit 195 changes the set cut-out range to a third cut-out range A3 that is larger than the second cut-out range A2 and smaller than the first cut-out range A1, as shown in FIG. 6(a).

そして、切り出し部193が、以降に取得するフレームF4から切り出す範囲を第3切り出し範囲A3に切り替える。リサイズ処理部194は、第3切り出し範囲A3で切り出された部分撮像情報を、第2拡大率よりも低い第3拡大率で拡大して、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報D4を生成する。以降、変更された切り出し範囲で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S13)。 Then, the cropping unit 193 switches the cropping range from the subsequently acquired frame F4 to a third cropping range A3. The resizing processing unit 194 enlarges the partial image information cropped in the third cropping range A3 at a third magnification rate lower than the second magnification rate to generate distribution image information D4 of the same size as the distribution image information generated in step S5. Thereafter, distribution image information is generated for each frame acquired sequentially by shooting using the changed cropping range (S13).

その後ステップS9に戻り、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、変更後の配信用画像情報からさらに所定値以上の動きが検出されたときには(S12の「YES」)、設定変更部195は設定された切り出し範囲を第3切り出し範囲A3よりも大きく第1切り出し範囲A1よりも小さい第4切り出し範囲A4に変更する。以降、上述した処理と同様にステップS13の処理が実行される。 Then, returning to step S9, if the shooting magnification of the zoom lens 2 has not been returned to the first shooting magnification Z1 ("NO" in S9) and further movement of a predetermined value or more is detected from the changed image information for distribution ("YES" in S12), the setting change unit 195 changes the set cut-out range to a fourth cut-out range A4 that is larger than the third cut-out range A3 and smaller than the first cut-out range A1. Thereafter, the processing of step S13 is executed in the same manner as described above.

上述した処理のステップS7において、撮影中にユーザがズームレンズ2の撮影倍率をTele方向に変更して図7(a)のような撮影画角に変更した場合には(S7の「NO」)、以降に取得するフレームF5から切り出す範囲は第1切り出し範囲A1のまま変更しない。これにより、切り出された部分撮像情報から、図6(b)に示すように被写体が配信用画像情報D1よりも拡大された配信用画像情報D5が生成される。 In step S7 of the above process, if the user changes the shooting magnification of the zoom lens 2 in the Tele direction during shooting to change the shooting angle of view as shown in FIG. 7(a) ("NO" in S7), the range to be cut out from the subsequently acquired frame F5 remains the first cut-out range A1. As a result, distribution image information D5 is generated from the cut-out partial imaging information in which the subject is enlarged more than in the distribution image information D1, as shown in FIG. 6(b).

また、ステップS10においてさらに撮影倍率がwide方向に変更されたときには(S10の「NO」)、ステップS8に戻り、設定変更部195が切り出し範囲をさらに小さいサイズに変更する。 Also, if the shooting magnification is further changed in the wide direction in step S10 ("NO" in S10), the process returns to step S8, where the setting change unit 195 changes the cropping range to an even smaller size.

以上の第1実施形態によれば、一般的な撮像装置で撮影されたアスペクト比16:9の横長の撮像情報を、スマートフォンのアスペクト比9:16の縦長の表示装置用に動画配信している際に撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させることができ、被写体が動いた場合においても被写体を配信用画像から逃すことなく配信と撮影を継続できる。 According to the first embodiment described above, when video distribution of image information with a horizontal aspect ratio of 16:9 captured by a general imaging device is displayed on a vertical display device with an aspect ratio of 9:16 on a smartphone, even if the angle of view for shooting is changed by optical zoom, distribution can be continued with the original angle of view for distribution that was set, and even if the subject moves, distribution and shooting can be continued without missing the subject from the image for distribution.

《第2実施形態》
〈第2実施形態による撮像装置の構成〉
本発明の第2実施形態による撮像装置1Bの構成は、画像処理部10の表示用情報生成部17内に配信用情報生成部19Aに替えて配信用情報生成部19Bを有する他は、第1実施形態で説明した撮像装置1Aの構成と同様であるため、同一機能を有する部分の詳細な説明は省略する。
Second Embodiment
Configuration of the imaging device according to the second embodiment
The configuration of the imaging device 1B according to the second embodiment of the present invention is similar to the configuration of the imaging device 1A described in the first embodiment, except that the display information generating unit 17 of the image processing unit 10 has a distribution information generating unit 19B instead of the distribution information generating unit 19A. Therefore, detailed descriptions of parts having the same functions will be omitted.

本実施形態において配信用情報生成部19Bは、図8に示すように、第1実施形態で説明した配信用情報生成部19Aの構成に加えて、MTF情報記憶部196および画像補正部197を有している。 In this embodiment, as shown in FIG. 8, the distribution information generating unit 19B has an MTF information storage unit 196 and an image correction unit 197 in addition to the configuration of the distribution information generating unit 19A described in the first embodiment.

MTF情報記憶部196は、ズームレンズ2に設定される撮影倍率ごとのMTF(Modulation Transfer Function;変調伝達関数)情報を予め記憶する。画像補正部197は、ズームレンズ2に設定された撮影倍率が変更されたことを検知すると、変更前の撮影倍率のMTF情報と変更後の撮影倍率のMTF情報との差分に基づいて、生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。 The MTF information storage unit 196 pre-stores MTF (Modulation Transfer Function) information for each shooting magnification set in the zoom lens 2. When the image correction unit 197 detects that the shooting magnification set in the zoom lens 2 has been changed, it performs correction so as to emphasize the edge portions of the subject in the generated image information for distribution based on the difference between the MTF information of the shooting magnification before the change and the MTF information of the shooting magnification after the change.

〈第2実施形態による撮像装置の動作〉
本実施形態による撮像装置1Bでは、第1実施形態で説明した撮像装置1Aと同様の処理により、撮影した動画情報に関する配信用画像情報が生成される。その際、ズームレンズ2に設定された撮影倍率が第1撮影倍率Z1から第2撮影倍率Z2に変更されると、画像補正部197がこれを検知する。
<Operation of the imaging device according to the second embodiment>
In the imaging device 1B according to this embodiment, image information for distribution related to captured video information is generated by the same process as in the imaging device 1A described in the first embodiment. At that time, when the imaging magnification set in the zoom lens 2 is changed from the first imaging magnification Z1 to the second imaging magnification Z2, the image correction unit 197 detects this.

画像補正部197は、撮影倍率が変更されたことを検知すると、MTF情報記憶部に記憶された第1撮影倍率Z1のMTF情報と第2撮影倍率Z2のMTF情報との差分に基づいて、ステップS8で生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。具体的には、第2撮影倍率Z2のMTF情報と第1撮影倍率Z1のMTF情報との差分が大きい場合は良好な画質が得られるため、エッジ部分を強調する度合いを弱めるように補正する。逆に、差分が小さいもしくはマイナス方向の場合、画質的には劣化しているためエッジ部分を強調する度合いを強めるように補正する。加えて、第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、第2拡大率Z1/Z2が大きくなるほど、エッジ部分の強調を更に強めてもよい。 When the image correction unit 197 detects that the shooting magnification has been changed, it performs correction so as to emphasize the edge portions of the subject in the image information for distribution generated in step S8 based on the difference between the MTF information of the first shooting magnification Z1 and the MTF information of the second shooting magnification Z2 stored in the MTF information storage unit. Specifically, when the difference between the MTF information of the second shooting magnification Z2 and the MTF information of the first shooting magnification Z1 is large, good image quality is obtained, so correction is performed so as to weaken the degree of emphasis on the edge portions. Conversely, when the difference is small or in the negative direction, image quality is degraded, so correction is performed so as to strengthen the degree of emphasis on the edge portions. In addition, in conjunction with the ratio between the second shooting magnification Z2 and the first shooting magnification Z1, the emphasis on the edge portions may be further strengthened as the second magnification Z1/Z2 increases.

また、コストを抑制するためにMTF情報記憶部196のメモリ容量を極力小さくしたり省略したりする場合がある。この場合、一般にレンズのMTF性能は画面周辺部になるほど劣化するので、第2切り出し範囲A2の水平方向における切り出しスタート位置H2の位置に応じてエッジ強調の度合いを制御してもよい。例えば、H2が画面中央付近ならばエッジ強調を弱め、H2が画面の左右端に近くなるほどエッジ強調を強めるようにしてもよい。第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、拡大率Z2/Z1が大きくなるほど、エッジ強調を強めるようにしてもよい。 In addition, in order to keep costs down, the memory capacity of the MTF information storage unit 196 may be minimized or omitted. In this case, since the MTF performance of a lens generally deteriorates toward the periphery of the screen, the degree of edge enhancement may be controlled according to the position of the horizontal cut-out start position H2 of the second cut-out range A2. For example, if H2 is near the center of the screen, edge enhancement may be weakened, and the closer H2 is to the left or right edge of the screen, the stronger the edge enhancement. The edge enhancement may be strengthened in conjunction with the ratio between the second shooting magnification Z2 and the first shooting magnification Z1, and the greater the magnification Z2/Z1.

以上の第2実施形態によれば、切り出した画像情報を拡大させた場合にも、配信用画像情報を鮮明に生成することができる。 According to the second embodiment described above, it is possible to generate clear image information for distribution even when the cut-out image information is enlarged.

1A、1B 撮像装置
2 ズームレンズ
3 CMOSセンサ
4 入力部
5 映像記憶部
6 ネットワークIF部
9 記憶部
10 画像処理部
11 センサIF部
12 傷補正/NR処理部
13 ディベイヤ処理部
14 色再現部
15 動き検出部
16 撮影倍率情報取得部
17 表示用情報生成部
18 メイン情報生成部
19A、19B 配信用情報生成部
20 コーデック部
21 メインコーデック部
22 配信用コーデック部
191 GUI表示制御部
192 切り出し範囲設定部
193 切り出し部
194 リサイズ処理部
195 設定変更部
196 MTF情報記憶部
197 画像補正部
DESCRIPTION OF SYMBOLS 1A, 1B Imaging device 2 Zoom lens 3 CMOS sensor 4 Input section 5 Video storage section 6 Network IF section 9 Storage section 10 Image processing section 11 Sensor IF section 12 Scratch correction/NR processing section 13 Debayer processing section 14 Color reproduction section 15 Motion detection section 16 Shooting magnification information acquisition section 17 Display information generation section 18 Main information generation section 19A, 19B Distribution information generation section 20 Codec section 21 Main codec section 22 Distribution codec section 191 GUI display control section 192 Crop range setting section 193 Crop section 194 Resize processing section 195 Setting change section 196 MTF information storage section 197 Image correction section

Claims (3)

撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行うことによって画像信号を出力する撮像部と、
前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部と、
を備え、
前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替え、
取得したフレームから切り出す範囲を前記第1切り出し範囲から前記第2切り出し範囲に変更した後に生成した前記配信用画像情報内で、所定値以上の被写体の動きが検出されると、取得したフレームから切り出す範囲を、前記第2切り出し範囲よりも大きく前記第1切り出し範囲よりも小さい第3切り出し範囲に変更して表示用画像情報を生成するように切り替える
ことを特徴とする撮像装置。
an imaging unit that is capable of changing a shooting magnification and outputs an image signal by performing moving image shooting processing at a set shooting magnification;
a distribution information generating unit that sequentially acquires frames from the image signal, generates partial image information of a predetermined cutout range from each of the acquired frames, and enlarges the generated partial image information at a predetermined enlargement rate to generate distribution image information;
Equipped with
when the imaging magnification is changed to a second imaging magnification lower than the first imaging magnification while the information-for-distribution generation unit is generating the image information for distribution by enlarging, at a first magnification ratio, partial imaging information cut out in a preset first cropping range from each of the frames photographed and acquired by the imaging unit at a first imaging magnification, the information-for-distribution generation unit switches to generate partial imaging information of a second cropping range having a size smaller than the size of the first cropping range from each of the acquired frames and enlarging the partial imaging information of the second cropping range at a second magnification ratio higher than the first magnification ratio;
an imaging device which, when movement of a subject equal to or greater than a predetermined value is detected in the image information for distribution generated after changing the range to be cut out from the acquired frame from the first cut-out range to the second cut-out range, switches to generate image information for display by changing the range to be cut out from the acquired frame to a third cut-out range that is larger than the second cut-out range and smaller than the first cut-out range.
前記第2切り出し範囲は、前記第1撮影倍率と前記第2撮影倍率との比率に基づいて設定されることを特徴とする請求項1に記載の撮像装置。 The imaging device according to claim 1, characterized in that the second cropping range is set based on the ratio between the first imaging magnification and the second imaging magnification. 撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行う撮像部を備えた撮像装置が、
前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替え、
取得したフレームから切り出す範囲を前記第1切り出し範囲から前記第2切り出し範囲に変更した後に生成した前記配信用画像情報内で、所定値以上の被写体の動きが検出されると、取得したフレームから切り出す範囲を、前記第2切り出し範囲よりも大きく前記第1切り出し範囲よりも小さい第3切り出し範囲に変更して表示用画像情報を生成するように切り替える
ことを特徴とする撮像処理方法。
An imaging device having an imaging unit capable of changing a shooting magnification and performing a moving image shooting process at a set shooting magnification,
while sequentially acquiring frames photographed and generated by the imaging unit at a first photographing magnification, cutting out partial image information of a preset first cropping range from each of the frames, and enlarging the partial image information at a first magnification ratio to generate image information for distribution, if the photographing magnification ratio changes to a second photographing magnification ratio lower than the first photographing magnification ratio, the range to be cropped from each of the acquired frames is changed to a second cropping range having a size smaller than the size of the first cropping range, and the partial image information of the second cropping range is enlarged at a second magnification ratio higher than the first magnification ratio to generate the image information for distribution;
An imaging processing method characterized in that, when subject movement of a predetermined value or more is detected in the image information for distribution generated after the range to be cut out from the acquired frame is changed from the first cut-out range to the second cut-out range, the method switches so as to change the range to be cut out from the acquired frame to a third cut-out range larger than the second cut-out range and smaller than the first cut-out range and generate image information for display.
JP2020210364A 2020-12-18 2020-12-18 Image capture device and image capture processing method Active JP7613085B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020210364A JP7613085B2 (en) 2020-12-18 2020-12-18 Image capture device and image capture processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020210364A JP7613085B2 (en) 2020-12-18 2020-12-18 Image capture device and image capture processing method

Publications (2)

Publication Number Publication Date
JP2022097021A JP2022097021A (en) 2022-06-30
JP7613085B2 true JP7613085B2 (en) 2025-01-15

Family

ID=82164933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020210364A Active JP7613085B2 (en) 2020-12-18 2020-12-18 Image capture device and image capture processing method

Country Status (1)

Country Link
JP (1) JP7613085B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009171320A (en) 2008-01-17 2009-07-30 Olympus Imaging Corp Imaging device
JP2019212968A (en) 2018-05-31 2019-12-12 キヤノン株式会社 Imaging apparatus and control method of the same

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009171320A (en) 2008-01-17 2009-07-30 Olympus Imaging Corp Imaging device
JP2019212968A (en) 2018-05-31 2019-12-12 キヤノン株式会社 Imaging apparatus and control method of the same

Also Published As

Publication number Publication date
JP2022097021A (en) 2022-06-30

Similar Documents

Publication Publication Date Title
US20230353869A1 (en) Imaging apparatus and setting screen thereof
CN104159021B (en) Imaging device, imaging method and computer-readable medium
US11750934B2 (en) Imaging apparatus, image processing apparatus, control method of these, and storage medium
CN101616258B (en) Image processing apparatus and image processing method
US10127455B2 (en) Apparatus and method of providing thumbnail image of moving picture
US10110821B2 (en) Image processing apparatus, method for controlling the same, and storage medium
CN101150669A (en) Apparatus and method for capturing panoramic images
CN104038685A (en) Imaging Device And Image Processing Method
US20120105577A1 (en) Panoramic image generation device and panoramic image generation method
JP6721084B2 (en) Zoom control device, zoom control method, and program
US20160105632A1 (en) Image processing apparatus, method for controlling image processing apparatus, and non-transitory computer readable storage medium
US10397587B2 (en) Image processing apparatus and control method thereof
JP5950755B2 (en) Image processing apparatus, control method, program, and storage medium
US11716441B2 (en) Electronic apparatus allowing display control when displaying de-squeezed image, and control method of electronic apparatus
JP7613085B2 (en) Image capture device and image capture processing method
US20100054693A1 (en) Apparatuses for and methods of previewing a moving picture file in digital image processor
JP7468391B2 (en) Image capture device and image capture processing method
JP6708495B2 (en) Video processing device, imaging device, and video processing program
JP7463114B2 (en) IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, PROGRAM, AND STORAGE MEDIUM
US11310442B2 (en) Display control apparatus for displaying image with/without a frame and control method thereof
JP2010028720A (en) Image capturing apparatus
JP2024058183A (en) IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, IMAGE PROCESSING METHOD, PROGRAM, AND STORAGE MEDIUM
JP2021124546A (en) Display control device, control method, program and storage medium
JP2019009527A (en) Image processing apparatus, control method therefor, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241209

R150 Certificate of patent or registration of utility model

Ref document number: 7613085

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150