JP7613085B2 - Image capture device and image capture processing method - Google Patents
Image capture device and image capture processing method Download PDFInfo
- Publication number
- JP7613085B2 JP7613085B2 JP2020210364A JP2020210364A JP7613085B2 JP 7613085 B2 JP7613085 B2 JP 7613085B2 JP 2020210364 A JP2020210364 A JP 2020210364A JP 2020210364 A JP2020210364 A JP 2020210364A JP 7613085 B2 JP7613085 B2 JP 7613085B2
- Authority
- JP
- Japan
- Prior art keywords
- range
- information
- cut
- magnification
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明は、撮像装置および撮像処理方法に関する。 The present invention relates to an imaging device and an imaging processing method.
従来、広く普及しているハイビジョン対応の撮像装置は、処理対象の撮像情報の画面のアスペクト比(横方向サイズ:縦方向サイズ)が16:9のものが主流となっている。この撮像装置は、アスペクト比が16:9の横長の画面を有する装置、例えばパーソナルコンピュータや家庭用TV装置などと親和性が高く、当該撮像装置で撮影された撮像情報をこれらの装置の画面に効率良く表示させることができる。 Conventionally, the mainstream high-definition imaging devices that are widely used have a screen aspect ratio (horizontal size: vertical size) of 16:9 for the imaging information to be processed. This imaging device is highly compatible with devices that have wide screens with an aspect ratio of 16:9, such as personal computers and home TV devices, and the imaging information captured by this imaging device can be efficiently displayed on the screen of these devices.
一方で、近年急速に普及したスマートフォンにおいても、SNS(social networking service)などを用いてストリーム配信された撮像情報を視認する機会が増えている。スマートフォンは、表示画面が縦長の状態、つまり横方向サイズ:縦方向サイズが9:16の状態で使用されることが多い。そのため、上述したような撮像装置で撮影された撮像情報をスマートフォンで視認しようとすると、縦長の表示画面の一部、例えば中央部に横長の撮像情報が表示され、画面上部や下部に余白や黒帯部分が生じる。画面内に余白や黒帯部分が生じると、その分撮像情報の表示サイズが小さくなり、スマートフォンのユーザにとって視認しづらくなるという問題があった。 On the other hand, even with smartphones, which have rapidly spread in recent years, there are increasing opportunities to view imaging information streamed using SNS (social networking services) and the like. Smartphones are often used with their display screens in a portrait state, that is, with a horizontal:vertical ratio of 9:16. Therefore, when attempting to view imaging information captured by the imaging device described above on a smartphone, the imaging information is displayed in a landscape format in a portion of the portrait display screen, for example in the center, and blank spaces or black bars are generated at the top and bottom of the screen. When blank spaces or black bars are generated on the screen, the display size of the imaging information is correspondingly reduced, making it difficult for smartphone users to view the information.
このような技術的課題に対して、特許文献1には、撮影された撮像情報のズーム映像をストリーミング配信する映像配信装置において、撮像情報のフレームから抽出した重要領域を配信アスペクト比の最小サイズまで拡張するようにズーム条件を決定し、決定したズーム条件に基づいて切り出されたズーム映像を配信する技術が開示されている。 In response to these technical issues, Patent Document 1 discloses a technology in which a video distribution device that streams zoomed video of captured imaging information determines zoom conditions so that an important area extracted from a frame of the imaging information is expanded to the minimum size of the distribution aspect ratio, and distributes the zoomed video cut out based on the determined zoom conditions.
しかしながら、撮像装置で撮影された動画情報を配信している際に、撮影装置の光学ズームをWIDE側へ変更すると、配信されている配信用画像情報の画角が広がるため、配信用画像情報における被写体のサイズが相対的に小さくなってしまう。つまり、撮影者の意図しない映像位置で被写体の画像が配信されてしまう不都合があった。 However, when video information captured by an imaging device is being distributed, if the optical zoom of the imaging device is changed to the WIDE side, the angle of view of the image information being distributed becomes wider, causing the size of the subject in the image information to be distributed to become relatively smaller. In other words, there is an inconvenience in that the image of the subject is distributed from a position not intended by the photographer.
本発明は、こうした状況に鑑みてなされたものであり、その目的は、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することが可能な撮像装置および撮像処理方法を提供することを目的とする。 The present invention was made in consideration of these circumstances, and its purpose is to provide an imaging device and imaging processing method that can generate display image information for continuing distribution with the original distribution angle of view that was set, even if the angle of view for shooting is changed by optical zoom.
上記目的を達成するための本発明の撮像装置は、
撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行うことによって画像信号を出力する撮像部と、前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部とを備え、前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。
In order to achieve the above object, an imaging device according to the present invention comprises:
The present invention comprises an imaging unit which is capable of changing a shooting magnification and outputs an image signal by performing video shooting processing at a set shooting magnification; and a distribution information generation unit which sequentially acquires frames from the image signal, generates partial imaging information of a predetermined cut-out range from each of the acquired frames, and enlarges the generated partial imaging information at a predetermined magnification ratio to generate image information for distribution, wherein when the shooting magnification is changed to a second shooting magnification lower than the first shooting magnification while the distribution information generation unit is generating partial imaging information of a second cut-out range having a size smaller than the size of the first cut-out range from each of the acquired frames, and enlarging the partial imaging information of the second cut-out range at a second magnification ratio higher than the first magnification ratio to generate the image information for distribution.
また、本発明の撮像処理方法は、撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行う撮像部を備えた撮像装置が、前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。 The imaging processing method of the present invention is characterized in that, when an imaging device having an imaging unit capable of changing the imaging magnification and performing video imaging processing at a set imaging magnification sequentially acquires frames captured and generated by the imaging unit at a first imaging magnification, extracts partial imaging information of a first cut-out range set in advance from each of the frames, and enlarges the partial imaging information at a first magnification ratio to generate image information for distribution, if the imaging magnification is changed to a second imaging magnification ratio lower than the first imaging magnification, the range to be cut out from each of the acquired frames is changed to a second cut-out range smaller than the size of the first cut-out range, and the partial imaging information of the second cut-out range is enlarged at a second magnification ratio higher than the first magnification ratio to generate the image information for distribution.
本発明の撮像装置および撮像処理方法によれば、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することができる。 The imaging device and imaging processing method of the present invention can generate display image information that allows distribution to continue with the original distribution angle of view that was set, even if the angle of view for shooting is changed by optical zoom.
以下に、本発明の実施形態として、撮影した横長(アスペクト比16:9)の撮像情報をSNSで配信する際に、スマートフォンの縦長(アスペクト比9:16)の表示画面に好適に表示させることが可能な画像情報を生成する撮像装置について説明する。 The following describes an embodiment of the present invention, which is an imaging device that generates image information that can be suitably displayed on a portrait (aspect ratio 9:16) display screen of a smartphone when distributing captured landscape (aspect ratio 16:9) image information on SNS.
《第1実施形態》
〈第1実施形態による撮像装置の構成〉
本発明の第1実施形態による撮像装置1Aの構成について、図1を参照して説明する。本実施形態による撮像装置1Aは、動画撮影を行う装置であり、撮像部としてのズームレンズ2およびCMOS(Complementary MOS)センサ3と、入力部4と、映像記憶部5と、ネットワークIF部6と、外部モニタIF部7と、表示部8と、記憶部9と、画像処理部10と、コーデック部20と、CPU(Central Processing Unit)30とを備える。
First Embodiment
Configuration of the imaging device according to the first embodiment
The configuration of an image capture device 1A according to a first embodiment of the present invention will be described with reference to Fig. 1. The image capture device 1A according to this embodiment is a device for capturing moving images, and includes a
ズームレンズ2は、撮影倍率を変更可能に構成されたレンズであり、ズームレバー(図示せず)等を用いてユーザにより設定された倍率で被写体光を入射する。CMOSセンサ3は、ズームレンズ2から入射された被写体光を電気信号に変換する撮像素子である。CMOSセンサ3は、変換された電気信号をMIPI(Mobile Industry Processor Interface)、sLVDS(sub Low Voltage Differential Signaling)、HiSPi(High-Speed Pixel Interface)等の画像信号として出力する。
The
入力部4は、キーボタンまたはタッチパネルで構成され、ユーザの操作情報、例えば撮影倍率を指定する情報、SNS配信用の動画生成を指示する情報、または、後述する画像切り出し範囲の指定情報等を入力する。本実施形態ではタッチパネルを表示部8に設ける。映像記憶部5は、後述する画像処理部10で生成された情報およびコーデック部20で生成された情報を記憶する記憶媒体であり、例えばSDメモリや、SSD(Solid State Drive)などで構成される。ネットワークIF部6は、所定のLAN(Local Area Network)に接続するためのインタフェースである。
The
外部モニタIF部7は、外部のテレビ装置や表示装置(図示せず)に接続するためのインタフェースであり、例えばHDMI(High-Definition Multimedia Interface)やSDI(Serial Digital Interface)規格などが使用される。表示部8は、撮影した動画情報の確認用の小型モニタであり、例えばタッチパネル付きのLCD(liquid crystal display)やELディスプレイなどである。記憶部9は、画像処理部10およびコーデック部20で処理を実行する際に用いる記憶媒体であり、例えばDDR4(Double-Data-Rate4)メモリやハードディスクなどで構成される。
The external monitor IF unit 7 is an interface for connecting to an external television device or display device (not shown), and uses, for example, the HDMI (High-Definition Multimedia Interface) or SDI (Serial Digital Interface) standard. The
画像処理部10は、センサIF部11と、傷補正/NR(Noise reduction)処理部12と、ディベイヤ処理部13と、色再現部14と、動き検出部15と、撮影倍率情報取得部16と、表示用情報生成部17とを有する。
The
センサIF部11は、CMOSセンサ3から出力される画像信号を受信し、シリアルデータをパラレルデータに変換し、フレームとして順次生成する。またセンサIF部11は、受信した信号から、水平同期信号および垂直同期信号を抽出し、撮像装置1A内部の同期信号に置き換える。この処理を実行する際、記憶部9を使用してもよい。
The
傷補正/NR処理部12は、センサIF部11で変換されたデータをフレームごとに処理対象の情報として取得し、該当するフレーム内に含まれるいわゆる傷データの補間処理や、ノイズリダクション処理を実行する。ノイズリダクション処理は、フレームごとに処理実行する2DNR(2- dimensional noise reduction)、または連続するフレームを分析して処理を実行する3DNR(3- dimensional noise reduction)のいずれを採用してもよい。この処理を実行する際、記憶部9を使用してもよい。
The blemish correction/
ディベイヤ処理部13は、CMOSセンサ3がR,Gr,Gb,Bのベイヤー構造に対応している場合、CMOSセンサ3から取得したフレームをディベイヤ処理によりR,G,B構造に変換する。CMOSセンサ3がモノクロ対応もしくは3CMOS構造に対応している場合には、取得したフレームに対してディベイヤ処理を行わない。色再現部14は、取得したフレームに対し、ガンマ補正処理や、予め設定されたホワイトバランスに沿ったカラーマネージメント処理を行う。
If the CMOS sensor 3 supports the Bayer structure of R, Gr, Gb, B, the
動き検出部15は、後述する表示用情報生成部17の配信用情報生成部19Aで生成される配信用動画情報から被写体の動き情報を検出する。撮影倍率情報取得部16は、ズームレンズ2に設定された撮影倍率の情報を、CPU30を介して取得する。
The
表示用情報生成部17は、メイン情報生成部18と配信用情報生成部19Aとを有する。メイン情報生成部18は、取得したフレームから、ハイビジョン等に対応したアスペクト比16:9の表示用画像情報を生成する。生成された表示用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、メイン動画情報として記録される。
The display
配信用情報生成部19Aは、取得したフレームから、SNS等の配信によりスマートフォン(図示せず)のような縦型の表示画面に表示させるアスペクト比9:16の表示用情報として、配信用画像情報を生成する。生成された配信用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、配信用動画情報として記録される。
The distribution
配信用情報生成部19Aの詳細な構成について、図2を参照して説明する。配信用情報生成部19Aは、GUI(Graphical User Interface)表示制御部191と、切り出し範囲設定部192と、切り出し部193と、リサイズ処理部194と、設定変更部195とを有する。
The detailed configuration of the distribution
GUI表示制御部191は、入力部4から、SNS配信用のGUI情報生成指示が入力されると、撮影した動画情報から、アスペクト比9:16で所定サイズの矩形の切り出し範囲を指定するためのGUI情報を表示部8に表示させる。
When an instruction to generate GUI information for SNS distribution is input from the
切り出し範囲設定部192は、GUI表示制御部191の制御により表示されたGUI情報を用いてユーザにより指定されたフレーム内の切り出し範囲を、第1切り出し範囲として設定する。また切り出し範囲設定部192は、後述する設定変更部195からの指示に基づいて切り出し範囲を変更する。
The cut-out
切り出し部193は、所定の第1撮影倍率で撮影されたフレームから、切り出し範囲設定部192で設定された第1切り出し範囲の撮像情報を部分撮像情報として切り出す。リサイズ処理部194は、切り出し部193で切り出された部分撮像情報をSNS配信用にリサイズして、配信用画像情報を生成する。
The
設定変更部195は、撮影倍率情報取得部16で取得されたズームレンズ2の撮影倍率の情報に基づいて、撮影中に撮影倍率が第1撮影倍率よりも低い第2撮影倍率に変更されたことを検知すると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更する。
When the setting
また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後、ズームレンズ2の撮影倍率が第1撮影倍率に戻されたことを検知すると、切り出し範囲設定部192に対して切り出し範囲を第1切り出し範囲に戻すように設定する。また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後に生成された配信用画像情報内で、所定値以上の被写体の動きが検出されると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第2切り出し範囲よりも大きく第1切り出し範囲よりも小さい第3切り出し範囲に変更する。
Furthermore, when the setting
図1に戻り、コーデック部20は、メインコーデック部21と、配信用コーデック部22とを有する。メインコーデック部21は、メイン情報生成部18で生成され記憶されたメイン動画情報を映像記憶部5に保管するためにエンコードし、記憶部9に一時的に記憶させる。その後、CPU30は記憶部9に一時的に記憶されたデータをファイルフォーマット形式で映像記憶部5に保管する。また、ネットワークIF部6を介して外部のサーバ装置などに送信する場合にもエンコードする。さらにメインコーデック部21は、エンコードされたメイン動画情報を外部モニタIF部7から表示装置等に再生させる際や表示部8に再生させる際にデコードする。
Returning to FIG. 1, the
配信用コーデック部22は、配信用情報生成部19Bで生成された配信用動画情報を、外部の表示装置に送信するためにエンコードし、記憶部9に記憶させる。また配信用コーデック部22は、エンコードされた配信用動画情報を再生させる際にデコードする。
The
CPU30は、上述したズームレンズ2、CMOSセンサ3、入力部4、映像記憶部5、ネットワークIF部6、外部モニタIF部7、表示部8、記憶部9、画像処理部10、およびコーデック部20の動作を制御する。
The
〈第1実施形態による撮像装置の動作〉
次に、本実施形態による撮像装置1Aの動作について、図3のフローチャートを参照して説明する。まず、ユーザが入力部4から動画撮影の開始を指示する操作を行うと、第1撮影倍率Z1に設定されたズームレンズ2、CMOSセンサ3、および画像処理部10で動画撮影処理が開始される。撮影された動画情報は、CPU30により表示部8に表示される。
<Operation of the imaging device according to the first embodiment>
Next, the operation of the imaging device 1A according to this embodiment will be described with reference to the flowchart in Fig. 3. First, when the user performs an operation to instruct the start of moving image shooting from the
次に、ユーザが入力部4からSNS配信用の動画作成を指示する操作を行うと(S1の「YES」)、画像処理部10内のGUI表示制御部191により、撮影された動画情報のフレームから、アスペクト比9:16で第1のサイズの矩形の切り出し範囲(第1切り出し範囲)を指定するためのGUI情報が動画情報に重畳されて表示部8に表示される(S2)。
Next, when the user performs an operation on the
表示部8に表示された動画情報上に重畳して表示されたGUI情報の一例を、図4(a)に示す。図4(a)では、猿の親子の動画情報上にGUI情報が表示されている。GUI情報は、アスペクト比が9:16の枠情報G1と、表示部8の水平方向の画面中央線G2と、垂直方向の画面中央線G3と、枠情報G1を左側へ水平移動させるための左矢印ボタンG4と、枠情報G1を右側へ水平移動させるための右矢印ボタンG5と、枠情報G1の水平位置を決定させるための位置決定ボタンG7と、枠情報G1をスライドして位置決定操作を行うことを促すメッセージ情報G8とを有する。
Figure 4(a) shows an example of GUI information superimposed on video information displayed on the
ユーザは、入力部4から左矢印ボタンG4または右矢印ボタンG5を操作して、枠情報G1を所望の位置、つまり配信したい被写体の位置に移動させて位置決定ボタンG7を操作する。位置決定ボタンG7が操作されて枠情報G1の水平位置が決定すると(S3の「YES」)、切り出し範囲設定部192がフレーム内の切り出し範囲として、枠情報G1で示される第1切り出し範囲A1を設定する(S4)。
The user operates the left arrow button G4 or the right arrow button G5 on the
撮影した動画情報を処理対象として第1切り出し範囲A1を設定する際、切り出し範囲設定部192はまず、枠情報G1の所定位置(例えば左端位置)を水平方向の切り出しスタート位置H1として特定する。また、切り出し範囲の垂直方向の切り出しスタート位置V1として、処理対象の動画情報がHD画質の場合にはフレームの上端または下端から垂直に1080ピクセルの位置、4K画質の場合には垂直に2160ピクセルの位置、つまりフレームの下端または上端を特定する。
When setting the first cut-out range A1 for processing the captured video information, the cut-out
次に、切り出し部193が、処理対象の動画情報のフレームF1から、切り出し範囲設定部192で設定された第1切り出し範囲A1の部分撮像情報を切り出す。そして、リサイズ処理部194が、切り出し部193で切り出された部分撮像情報をSNS配信用に所定の第1拡大率で拡大(リサイズ)して、図4(b)に示すように所定サイズの配信用画像情報D1を生成する。以降、ステップS4で設定された第1切り出し範囲A1に基づいて、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S5)。
Next, the
撮影中に、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1から第2撮影倍率Z2に変更する操作を行うと(S6の「YES」、S7の「YES」)、撮影倍率情報取得部16が当該変更前の第1撮影倍率Z1の情報および変更後の撮影倍率Z2の情報を取得する。表示部8に、撮影倍率が変更された後に取得されたフレームF2を、図5(a)に示す。
When the user changes the magnification of the
設定変更部195は、撮影倍率情報取得部16で取得された情報からズーム倍率比率Z1 / Z2 > 1 を算出することで、当該撮影倍率の変更がWide方向の変更であることを認識する。設定変更部195は、切り出し範囲設定部192で設定された切り出し範囲を、図5(a)に示すように、第1切り出し範囲A1のサイズよりも小さい、Z2 / Z1で算出されるサイズの第2切り出し範囲A2に変更する。
The setting
ここで、第2切り出し範囲A2は、第1切り出し範囲A1とズーム倍率比率に連動して変更する。 Here, the second cropping range A2 changes in conjunction with the first cropping range A1 and the zoom magnification ratio.
処理対象の動画情報の水平ピクセル数をHpixelとし、第1切り出し範囲A1内の切り出しスタート位置を画面左上から数えてH1とすると、第2切り出し範囲A2の水平方向における切り出しスタート位置H2は、以下の式(1)で示される。 If the number of horizontal pixels of the video information to be processed is Hpixel, and the cut-out start position within the first cut-out range A1 is H1, counting from the top left of the screen, the cut-out start position H2 in the horizontal direction of the second cut-out range A2 is given by the following formula (1).
H2 = Hpixel /2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
Hpixel は、例えばHD画質の場合は1,920、4K画質の場合は3,840である。
H2 = Hpixel /2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
For example, Hpixel is 1,920 for HD quality and 3,840 for 4K quality.
処理対象の動画情報の垂直ピクセル数をVpixelとすると、第2切り出し範囲A2の垂直方向における切り出しスタート位置V2は、以下の式(2)で示される。 If the number of vertical pixels of the video information to be processed is Vpixel, the vertical cut-out start position V2 of the second cut-out range A2 is given by the following formula (2).
V2 = Vpixel /2 × (1 - Z2 / Z1) (2)
Vpixel は、例えばHD画質の場合は1,080、4K画質の場合は2,160である。
V2 = Vpixel /2 × (1 - Z2 / Z1) (2)
For example, Vpixel is 1,080 for HD quality and 2,160 for 4K quality.
無論、HpixelやVpixelは、HD画質や4K画質などの画面サイズに限らず、処理対象の動画情報の水平ピクセル数や垂直ピクセル数を参照することで式(1)と式(2)を用い計算できる。なお、撮影倍率が変更された際は、ユーザが第1切り出し範囲A1を設定した時点の第1撮影倍率Z1を固定し、変更された撮影倍率である第2撮影倍率Z2を変更して再計算する。 Of course, Hpixel and Vpixel can be calculated using formulas (1) and (2) by referencing the number of horizontal pixels and the number of vertical pixels of the video information to be processed, regardless of the screen size, such as HD quality or 4K quality. When the shooting magnification is changed, the first shooting magnification Z1 at the time when the user set the first cropping range A1 is fixed, and the second shooting magnification Z2, which is the changed shooting magnification, is changed and recalculated.
そして、切り出し部193が、以降に取得するフレームF2から切り出す範囲を第2切り出し範囲A2に切り替える。リサイズ処理部194は、第2切り出し範囲A2で切り出された部分撮像情報を、第1拡大率よりも高い、Z1 / Z2で算出される第2拡大率で拡大する。そしてリサイズ処理部194は、図5(b)に示すように、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報を生成する。以降、変更された第2切り出し範囲A2に基づいて、撮影により順次取得するフレーム毎に配信用画像情報D2を生成する(S8)。
Then, the
その後、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1に戻す、つまりTele方向に変更する操作を行うと(S9の「YES」、S10の「YES」)、撮影倍率情報取得部16が当該変更の情報を取得する。そして、当該変更の情報に基づいて、設定変更部195が、切り出し範囲の設定を第1切り出し範囲A1に戻す(S11)。
After that, when the user operates the
そして、切り出し部193が、以降に取得するフレームF3から切り出す範囲を第1切り出し範囲A1に切り替える。リサイズ処理部194は、第1切り出し範囲A1で切り出された部分撮像情報を第1拡大率で拡大して、ステップS5の処理と同様の範囲の配信用画像情報D3を生成する。以降、変更された第1切り出し範囲A1で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S11)。
Then, the
また、切り出し範囲が第2切り出し範囲A2に変更された後、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、動き検出部15が、生成された配信用画像情報内の被写体の動きを検出する。被写体の動きの検出には、既存技術、例えば前後フレームとの輝度変化量や、被写体の動きベクトル情報が用いられる。
Furthermore, after the cut-out range is changed to the second cut-out range A2, when the shooting magnification of the
ここで、動き検出部15が配信用画像情報から所定値以上の動きを検出すると(S12の「YES」)、設定変更部195は設定された切り出し範囲を、図6(a)に示すように、第2切り出し範囲A2よりも大きく第1切り出し範囲A1よりも小さい第3切り出し範囲A3に変更する。
Here, when the
そして、切り出し部193が、以降に取得するフレームF4から切り出す範囲を第3切り出し範囲A3に切り替える。リサイズ処理部194は、第3切り出し範囲A3で切り出された部分撮像情報を、第2拡大率よりも低い第3拡大率で拡大して、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報D4を生成する。以降、変更された切り出し範囲で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S13)。
Then, the
その後ステップS9に戻り、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、変更後の配信用画像情報からさらに所定値以上の動きが検出されたときには(S12の「YES」)、設定変更部195は設定された切り出し範囲を第3切り出し範囲A3よりも大きく第1切り出し範囲A1よりも小さい第4切り出し範囲A4に変更する。以降、上述した処理と同様にステップS13の処理が実行される。
Then, returning to step S9, if the shooting magnification of the
上述した処理のステップS7において、撮影中にユーザがズームレンズ2の撮影倍率をTele方向に変更して図7(a)のような撮影画角に変更した場合には(S7の「NO」)、以降に取得するフレームF5から切り出す範囲は第1切り出し範囲A1のまま変更しない。これにより、切り出された部分撮像情報から、図6(b)に示すように被写体が配信用画像情報D1よりも拡大された配信用画像情報D5が生成される。
In step S7 of the above process, if the user changes the shooting magnification of the
また、ステップS10においてさらに撮影倍率がwide方向に変更されたときには(S10の「NO」)、ステップS8に戻り、設定変更部195が切り出し範囲をさらに小さいサイズに変更する。
Also, if the shooting magnification is further changed in the wide direction in step S10 ("NO" in S10), the process returns to step S8, where the setting
以上の第1実施形態によれば、一般的な撮像装置で撮影されたアスペクト比16:9の横長の撮像情報を、スマートフォンのアスペクト比9:16の縦長の表示装置用に動画配信している際に撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させることができ、被写体が動いた場合においても被写体を配信用画像から逃すことなく配信と撮影を継続できる。 According to the first embodiment described above, when video distribution of image information with a horizontal aspect ratio of 16:9 captured by a general imaging device is displayed on a vertical display device with an aspect ratio of 9:16 on a smartphone, even if the angle of view for shooting is changed by optical zoom, distribution can be continued with the original angle of view for distribution that was set, and even if the subject moves, distribution and shooting can be continued without missing the subject from the image for distribution.
《第2実施形態》
〈第2実施形態による撮像装置の構成〉
本発明の第2実施形態による撮像装置1Bの構成は、画像処理部10の表示用情報生成部17内に配信用情報生成部19Aに替えて配信用情報生成部19Bを有する他は、第1実施形態で説明した撮像装置1Aの構成と同様であるため、同一機能を有する部分の詳細な説明は省略する。
Second Embodiment
Configuration of the imaging device according to the second embodiment
The configuration of the imaging device 1B according to the second embodiment of the present invention is similar to the configuration of the imaging device 1A described in the first embodiment, except that the display
本実施形態において配信用情報生成部19Bは、図8に示すように、第1実施形態で説明した配信用情報生成部19Aの構成に加えて、MTF情報記憶部196および画像補正部197を有している。
In this embodiment, as shown in FIG. 8, the distribution
MTF情報記憶部196は、ズームレンズ2に設定される撮影倍率ごとのMTF(Modulation Transfer Function;変調伝達関数)情報を予め記憶する。画像補正部197は、ズームレンズ2に設定された撮影倍率が変更されたことを検知すると、変更前の撮影倍率のMTF情報と変更後の撮影倍率のMTF情報との差分に基づいて、生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。
The MTF
〈第2実施形態による撮像装置の動作〉
本実施形態による撮像装置1Bでは、第1実施形態で説明した撮像装置1Aと同様の処理により、撮影した動画情報に関する配信用画像情報が生成される。その際、ズームレンズ2に設定された撮影倍率が第1撮影倍率Z1から第2撮影倍率Z2に変更されると、画像補正部197がこれを検知する。
<Operation of the imaging device according to the second embodiment>
In the imaging device 1B according to this embodiment, image information for distribution related to captured video information is generated by the same process as in the imaging device 1A described in the first embodiment. At that time, when the imaging magnification set in the
画像補正部197は、撮影倍率が変更されたことを検知すると、MTF情報記憶部に記憶された第1撮影倍率Z1のMTF情報と第2撮影倍率Z2のMTF情報との差分に基づいて、ステップS8で生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。具体的には、第2撮影倍率Z2のMTF情報と第1撮影倍率Z1のMTF情報との差分が大きい場合は良好な画質が得られるため、エッジ部分を強調する度合いを弱めるように補正する。逆に、差分が小さいもしくはマイナス方向の場合、画質的には劣化しているためエッジ部分を強調する度合いを強めるように補正する。加えて、第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、第2拡大率Z1/Z2が大きくなるほど、エッジ部分の強調を更に強めてもよい。
When the
また、コストを抑制するためにMTF情報記憶部196のメモリ容量を極力小さくしたり省略したりする場合がある。この場合、一般にレンズのMTF性能は画面周辺部になるほど劣化するので、第2切り出し範囲A2の水平方向における切り出しスタート位置H2の位置に応じてエッジ強調の度合いを制御してもよい。例えば、H2が画面中央付近ならばエッジ強調を弱め、H2が画面の左右端に近くなるほどエッジ強調を強めるようにしてもよい。第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、拡大率Z2/Z1が大きくなるほど、エッジ強調を強めるようにしてもよい。
In addition, in order to keep costs down, the memory capacity of the MTF
以上の第2実施形態によれば、切り出した画像情報を拡大させた場合にも、配信用画像情報を鮮明に生成することができる。 According to the second embodiment described above, it is possible to generate clear image information for distribution even when the cut-out image information is enlarged.
1A、1B 撮像装置
2 ズームレンズ
3 CMOSセンサ
4 入力部
5 映像記憶部
6 ネットワークIF部
9 記憶部
10 画像処理部
11 センサIF部
12 傷補正/NR処理部
13 ディベイヤ処理部
14 色再現部
15 動き検出部
16 撮影倍率情報取得部
17 表示用情報生成部
18 メイン情報生成部
19A、19B 配信用情報生成部
20 コーデック部
21 メインコーデック部
22 配信用コーデック部
191 GUI表示制御部
192 切り出し範囲設定部
193 切り出し部
194 リサイズ処理部
195 設定変更部
196 MTF情報記憶部
197 画像補正部
DESCRIPTION OF SYMBOLS 1A,
Claims (3)
前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部と、
を備え、
前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替え、
取得したフレームから切り出す範囲を前記第1切り出し範囲から前記第2切り出し範囲に変更した後に生成した前記配信用画像情報内で、所定値以上の被写体の動きが検出されると、取得したフレームから切り出す範囲を、前記第2切り出し範囲よりも大きく前記第1切り出し範囲よりも小さい第3切り出し範囲に変更して表示用画像情報を生成するように切り替える
ことを特徴とする撮像装置。 an imaging unit that is capable of changing a shooting magnification and outputs an image signal by performing moving image shooting processing at a set shooting magnification;
a distribution information generating unit that sequentially acquires frames from the image signal, generates partial image information of a predetermined cutout range from each of the acquired frames, and enlarges the generated partial image information at a predetermined enlargement rate to generate distribution image information;
Equipped with
when the imaging magnification is changed to a second imaging magnification lower than the first imaging magnification while the information-for-distribution generation unit is generating the image information for distribution by enlarging, at a first magnification ratio, partial imaging information cut out in a preset first cropping range from each of the frames photographed and acquired by the imaging unit at a first imaging magnification, the information-for-distribution generation unit switches to generate partial imaging information of a second cropping range having a size smaller than the size of the first cropping range from each of the acquired frames and enlarging the partial imaging information of the second cropping range at a second magnification ratio higher than the first magnification ratio;
an imaging device which, when movement of a subject equal to or greater than a predetermined value is detected in the image information for distribution generated after changing the range to be cut out from the acquired frame from the first cut-out range to the second cut-out range, switches to generate image information for display by changing the range to be cut out from the acquired frame to a third cut-out range that is larger than the second cut-out range and smaller than the first cut-out range.
前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替え、
取得したフレームから切り出す範囲を前記第1切り出し範囲から前記第2切り出し範囲に変更した後に生成した前記配信用画像情報内で、所定値以上の被写体の動きが検出されると、取得したフレームから切り出す範囲を、前記第2切り出し範囲よりも大きく前記第1切り出し範囲よりも小さい第3切り出し範囲に変更して表示用画像情報を生成するように切り替える
ことを特徴とする撮像処理方法。 An imaging device having an imaging unit capable of changing a shooting magnification and performing a moving image shooting process at a set shooting magnification,
while sequentially acquiring frames photographed and generated by the imaging unit at a first photographing magnification, cutting out partial image information of a preset first cropping range from each of the frames, and enlarging the partial image information at a first magnification ratio to generate image information for distribution, if the photographing magnification ratio changes to a second photographing magnification ratio lower than the first photographing magnification ratio, the range to be cropped from each of the acquired frames is changed to a second cropping range having a size smaller than the size of the first cropping range, and the partial image information of the second cropping range is enlarged at a second magnification ratio higher than the first magnification ratio to generate the image information for distribution;
An imaging processing method characterized in that, when subject movement of a predetermined value or more is detected in the image information for distribution generated after the range to be cut out from the acquired frame is changed from the first cut-out range to the second cut-out range, the method switches so as to change the range to be cut out from the acquired frame to a third cut-out range larger than the second cut-out range and smaller than the first cut-out range and generate image information for display.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020210364A JP7613085B2 (en) | 2020-12-18 | 2020-12-18 | Image capture device and image capture processing method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020210364A JP7613085B2 (en) | 2020-12-18 | 2020-12-18 | Image capture device and image capture processing method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022097021A JP2022097021A (en) | 2022-06-30 |
| JP7613085B2 true JP7613085B2 (en) | 2025-01-15 |
Family
ID=82164933
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020210364A Active JP7613085B2 (en) | 2020-12-18 | 2020-12-18 | Image capture device and image capture processing method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7613085B2 (en) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009171320A (en) | 2008-01-17 | 2009-07-30 | Olympus Imaging Corp | Imaging device |
| JP2019212968A (en) | 2018-05-31 | 2019-12-12 | キヤノン株式会社 | Imaging apparatus and control method of the same |
-
2020
- 2020-12-18 JP JP2020210364A patent/JP7613085B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009171320A (en) | 2008-01-17 | 2009-07-30 | Olympus Imaging Corp | Imaging device |
| JP2019212968A (en) | 2018-05-31 | 2019-12-12 | キヤノン株式会社 | Imaging apparatus and control method of the same |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022097021A (en) | 2022-06-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20230353869A1 (en) | Imaging apparatus and setting screen thereof | |
| CN104159021B (en) | Imaging device, imaging method and computer-readable medium | |
| US11750934B2 (en) | Imaging apparatus, image processing apparatus, control method of these, and storage medium | |
| CN101616258B (en) | Image processing apparatus and image processing method | |
| US10127455B2 (en) | Apparatus and method of providing thumbnail image of moving picture | |
| US10110821B2 (en) | Image processing apparatus, method for controlling the same, and storage medium | |
| CN101150669A (en) | Apparatus and method for capturing panoramic images | |
| CN104038685A (en) | Imaging Device And Image Processing Method | |
| US20120105577A1 (en) | Panoramic image generation device and panoramic image generation method | |
| JP6721084B2 (en) | Zoom control device, zoom control method, and program | |
| US20160105632A1 (en) | Image processing apparatus, method for controlling image processing apparatus, and non-transitory computer readable storage medium | |
| US10397587B2 (en) | Image processing apparatus and control method thereof | |
| JP5950755B2 (en) | Image processing apparatus, control method, program, and storage medium | |
| US11716441B2 (en) | Electronic apparatus allowing display control when displaying de-squeezed image, and control method of electronic apparatus | |
| JP7613085B2 (en) | Image capture device and image capture processing method | |
| US20100054693A1 (en) | Apparatuses for and methods of previewing a moving picture file in digital image processor | |
| JP7468391B2 (en) | Image capture device and image capture processing method | |
| JP6708495B2 (en) | Video processing device, imaging device, and video processing program | |
| JP7463114B2 (en) | IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, PROGRAM, AND STORAGE MEDIUM | |
| US11310442B2 (en) | Display control apparatus for displaying image with/without a frame and control method thereof | |
| JP2010028720A (en) | Image capturing apparatus | |
| JP2024058183A (en) | IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, IMAGE PROCESSING METHOD, PROGRAM, AND STORAGE MEDIUM | |
| JP2021124546A (en) | Display control device, control method, program and storage medium | |
| JP2019009527A (en) | Image processing apparatus, control method therefor, and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230929 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240716 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240730 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240924 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241015 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241111 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20241126 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20241209 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7613085 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |