JP7324866B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP7324866B2 JP7324866B2 JP2021565369A JP2021565369A JP7324866B2 JP 7324866 B2 JP7324866 B2 JP 7324866B2 JP 2021565369 A JP2021565369 A JP 2021565369A JP 2021565369 A JP2021565369 A JP 2021565369A JP 7324866 B2 JP7324866 B2 JP 7324866B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- area
- control unit
- recording
- angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/58—Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/44—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
- H04N25/443—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected two-dimensional [2D] regions of the array, e.g. for windowing or digital zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/44—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
- H04N25/445—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
制御部の第2間引き率の変化によって、撮像素子は、制御部に入力させる記録領域の記録映像の入力解像度を変化させ、制御部は、入力解像度が動画データの出力解像度よりも高い場合、入力解像度を低減させて出力解像度に合わせ、入力解像度が出力解像度よりも低い場合、入力解像度を補完して出力解像度に合わせることが好ましい。
制御部は、第2モードにおいて、第2画角の複数の映像領域を基準映像内に設定する設定処理と、記録領域を複数の映像領域から選択する選択処理と、を実行し、第2記録処理は、選択処理における選択前の記録映像と選択後の記録映像とを結合して動画データを記録することが好ましい。
制御部は、複数の映像領域のそれぞれの第2画角のうち、最も小さい第2画角に基づいて第2間引き率を決定することが好ましい。
動画データは、検出映像を表すデータを含まないことが好ましい。
撮像素子の画素領域の画素解像度は7000万以上であることが好ましい。
制御部は、読出し処理において、第2画角の変化によって記録領域の、複数の画素の読み出しの一部を間引く間引き駆動の間引き率を変化させることが好ましい。
撮像素子の画素領域の画素解像度は7000万以上であることが好ましい。
なお、以下に説明する図は、本発明の一実施形態を説明するための例示的なものであり、以下に示す図に本発明の一実施形態が限定されるものではない。
なお、以下において数値範囲を示す「~」とは両側に記載された数値を含む。例えば、εが数値α~数値βとは、εの範囲は数値αと数値βを含む範囲であり、数学記号で示せばα≦ε≦βである。
「垂直」および「直交」等の角度は、特に記載がなければ、該当する技術分野で一般的に許容される誤差範囲を含む。また、「全面」等は、該当する技術分野で一般的に許容される誤差範囲を含む。
図1は本発明の実施形態の撮像装置の第1の例を示す斜視図であり、図2は本発明の実施形態の撮像装置の第1の例の背面側を示す背面図であり、図3は本発明の実施形態の撮像装置の第1の例の構成を示すブロック図である。
撮像装置10は、デジタルカメラであり、映像撮影に用いられる。撮像装置10は、静止画像および動画像を撮影する機能を有する。また、撮像装置10は、撮影した画像(映像)を表示し、かつ映像を記録する機能を有する。また、撮像装置10は、動画像である映像をリアルタイムに、画像処理等の各種の信号処理を実行する機能を有する。
なお、以降の説明において、「映像」とは、特に断る場合を除き、ライブ映像(ライブビュー画像)、すなわち、リアルタイムで撮影される映像を意味する。
撮影レンズ14は、図3に示すように、光学部品ユニット18、絞り20、電子減光フィルタ21、フォーカス用駆動部22、絞り駆動部23、および電圧印加部24を含む。
光学部品ユニット18は、複数のレンズを有し、その中にはフォーカス用光学部品19(フォーカスレンズ)が含まれる。フォーカス用光学部品19が光軸L1(図1参照)の方向に移動すると、撮影レンズ14のフォーカス(ピント)が変わる。
なお、撮像装置10は、互いに画角が異なる複数の光学部品ユニット18を備えてもよい。
なお、本実施形態において、絞り20は、開口の大きさを変化させるための部材を機械的に駆動することにより開口形状が変えられるものである。ただし、これに限定されるものではなく、液晶またはエレクトロクロミック素子を駆動して開口形状が変えられる絞り(物性絞り)であってもよい。絞り20の開口形状、すなわち、絞り量は、絞り駆動部23によって調整される。
撮影装置本体12は、図1および図2に示すように、ユーザによって操作される操作部を備える。例えば、撮影装置本体12の上面には、レリーズボタン26が配置されている。例えば、ユーザがレリーズボタン26を全押しすると、撮像装置10が撮影する映像または撮影映像に基づく映像の記録が開始される。撮影映像に基づく映像としては、例えば、後述する記録領域の記録映像等が挙げられる。なお、ユーザのレリーズ指示は、後述するディスプレイ28が有するタッチ検出機能を介して、制御部46に入力されてもよい。
また、ディスプレイ28の表示画面には、撮影条件等に関する選択メニュー、警告等を含むユーザへの通知情報、および過去に取得した映像の再生映像等も表示される。
複数の単位画素42は、それぞれ図4に示すように,基準映像A1を構成する単位領域Adの一つと対応している。単位領域Adは、基準映像A1における最小単位をなす領域であり、複数の画素で構成される。
なお、以下の説明において「露光」とは、特に断る場合を除き、光学シャッタ38を開放状態に維持したまま、撮像素子40にてシャッタによる露光を行うことを意味することとする。また、「露光時間」とは、シャッタによる露光時間のことであり、厳密には電荷蓄積時間である。
上述のプロセッサは、SoC(System on Chip)等に代表されるように、コントローラ47および映像処理部48を含む制御部46全体の機能を一つのIC(Integrated Circuit)チップで構成してもよい。
なお、以上に挙げた各プロセッサのハードウェア構成は、半導体素子等の回路素子を組み合わせた電気回路(Circuitry)で実現してもよい。
さらに、コントローラ47は、撮影された映像、または撮影映像に基づく映像が記録媒体に記録されるように映像処理部48を制御する。
さらに、映像処理部48は、処理後の映像を記録媒体に記録し、その映像ファイルを作成する。このように映像処理部48が映像ファイルの作成機能を備えていることから、映像処理部48を有する撮像装置10は、本実施形態では映像作成装置として利用されることになる。
なお、内部メモリ50およびメモリカード54は、撮影装置本体12の外にあってもよく、その場合、制御部46は、有線または無線によって外部の記録媒体に対して映像の記録を行ってもよい。バッファ56は、制御部46のワークメモリとして機能する。次に、撮像素子40について具体的に説明する。
図5に、撮像素子40の構成例を示す。図5に示した撮像素子40は、例えば、X-Yアドレス方式撮像装置の一種であるCMOSイメージセンサの構成の概略を示す図である。ここで、CMOSイメージセンサとは、CMOSプロセスを応用して、または、CMOSプロセスを部分的に使用して作成されたイメージセンサである。
図5に示す撮像素子40は、画素領域43の全ての画素42の画素信号を、例えば、ラスタスキャン順等の所定の順序で読み出す全画素読み出しによる撮像が可能であり、また、間引き読み出しが可能である。全画素読み出しは、画素領域43の全ての画素42を利用して、高解像度な撮像を可能とする。
また、1/2間引きでは、図7に示すように、撮像素子40の画素領域43において、最初に読み出す画素42の列76bが読み出された次には、画素42から1画素だけ水平方向H、すなわち、列方向に進んだ画素42の列76bが読み出してもよい。この場合、1/2間引きの解像度は、全画素読み出しの1/2となる。特定の列方向の画素を読み出す場合には、例えば、全画素を読み出し、アナログ信号処理回路44によりデジタル信号とする。その後、制御部46で、列方向に最初に読み出した画素42の列76bに対応する画素データから1画素、水平方向Hに進んだ画素42の列76bの画素データを読み出す信号処理を実施する。この信号処理を繰り返して、列方向に間引いた画素データを得る。この場合、1/2間引きの解像度は、全画素読み出しの1/2となる。
次に、制御部46による処理について説明する。制御部46による処理には、表示処理、第1記録処理、第2記録処理、設定処理、選択処理、切替え処理、記録処理、露光量調整処理、フォーカス調整処理、およびホワイトバランス調整処理が挙げられる。
以下、上述した各処理について個別に説明する。
表示処理は、各種の映像をディスプレイ28の表示画面に表示する処理である。例えば、撮像装置10の起動後に制御部46が表示処理を開始すると、その時点では、撮像装置10が第1画角にて撮影する基準映像、つまり、図4に示す基準映像A1に映る映像が表示される。
また、設定処理が実行された場合、制御部46は、表示処理において、後述する記録領域の記録映像を表示画面に表示する。さらに、映像領域が切替えられた場合(つまり、後述の切替え工程が実施された場合)、制御部46は、表示画面に表示する映像を、切替え工程後の記録領域の記録映像に切替える。
撮像装置10は、制御部46が、動画撮像モードとして第1モードと第2モードとを備える。第1記録処理は、第1モードにおいて、撮像素子40を用いて、第1画角の基準映像の動画データを記録する処理である。
第2記録処理は、第2モードにおいて、第1画角よりも小さい第2画角である記録領域の記録映像の動画データを記録する処理である。
なお、第1記録処理および第2記録処理における動画データを記録する処理は、後述する記録処理にて説明する。
設定処理は、第2モードにおいて、第1画角よりも小さい第2画角である記録領域を基準映像内に設定する処理である。
設定処理に際して、ユーザは、記録領域を基準映像内に設定するための操作を行う。この設定操作について図8を参照しながら具体的に説明する。図8は本発明の実施形態の撮像装置による基準映像内に記録領域を設定する手順を示す。
なお、基準映像A1内に複数の映像領域が設定される場合、各映像領域A2、A3、A4の第2画角、すなわち、サイズは、映像領域A2、A3、A4間で同じでもよく、あるいは映像領域A2、A3.A4間で異なってもよい。
また、設定される映像領域の数は、特に限定されないが、複数でもよく、本実施形態では3つにしている。
なお、基準映像において、設定した記録領域を、基準映像から抽出する処理を抽出処理という。抽出された映像は、クロップ映像または切り出し映像とも呼ばれ、第2記録処理における記録対象である。また、基準映像から記録領域を抽出することを、切り出すともいう。
選択処理は、撮像領域A0の基準映像A1内に設定された複数の映像領域A2、A3、A4の中から、記録される映像が映る映像領域を選択する処理である。
切替え処理は、選択処理の後に、映像領域を複数の映像領域A2、A3、A4の中から再選択して映像領域を切替える処理である。
また、記録される映像が映る映像領域A2を、ユーザの操作に応じて時系列に切替えること、すなわち、スイッチングすることができ、かつ、切替え前後の映像が映った映像ファイルを容易に取得することができる。
さらに、切替え工程の実施に連動し、ディスプレイ28の表示画面に表示される映像が、切替え工程前の記録領域の記録映像から、切替え工程後の記録領域の記録映像に切り替わる。これにより、ユーザは、映像領域の切替えを表示画面にて確認することができる。
記録処理は、制御部46が、第1画角の基準映像の光学像、および撮像記録領域の記録映像を記録媒体に記録し、その映像の映像ファイル(詳しくは、動画データ)を作成する処理である。記録処理の対象は、第1モードの第1記録処理、および第2モードの第2記録処理における動画データである。動画データの形式は、特に限定されるものではなく、例えば、MP4、AVCHD(Advanced Video Codec High Definition)、AVI(Audio Video Interleave)およびMOV等の公知の形式のものを用いることができる。
記録処理において制御部46が記録領域の記録映像を記録する動作は、記録工程に該当する。また、記録処理において制御部46が映像ファイルを作成する動作は、作成工程に該当する。なお、本実施形態では、映像の記録と映像ファイルの作成、すなわち、動画データの作成とは同義であり、作成工程が記録工程に相当することとする。
なお、本実施形態では、露光時間および絞り量の両方の値を決めるが、これに限定されるものではなく、露光時間または絞り量のいずれか一方の値のみを決めてもよい。
なお、ゲインは、例えば、アナログ信号処理回路44等におけるアナログ信号に対するアナログゲインでもよく、映像処理部48等におけるデジタル変換後のデジタル信号に対するデジタルゲインであってもよい。
さらに、露光時間および絞り量の変化に連動し、記録領域と対応する画素42の感度が経時的に変化する。この結果、記録領域の露光量が経時的に調整されることになる。
なお、本実施形態において、「経時的に調整する」とは、調整対象のパラメータについて1フレーム毎に調整量を決め、1フレーム毎に各パラメータを当該調整量だけ増減させることを意味する。なお、制御部に対する負荷低減のため、露出量調整処理は、切り替え工程に連動して実施してもよい。
フォーカス調整処理は、オートフォーカスモードにおいて制御部46がフォーカス用駆動部22を制御して撮影レンズ14のフォーカスを自動的に調整する処理である。オートフォーカスモードによるフォーカス調整には、公知のオートフォーカス技術が利用可能である。その具体例としては、コントラストオートフォーカス、像面位相差オートフォーカス、指向性光オートフォーカス、および、Depth-from-Defocus方式のオートフォーカス等が挙げられる。これらのオートフォーカス方式のうち、いずれか一つを採用してもよく、あるいは、複数の方式を組み合わせて採用してもよい。
ここで、記録領域F2の縦横比は、第1画角の基準映像A1の縦横比であり、厳密には、縦横それぞれの画素数の比率である。記録領域F2の面積率は、第1画角の基準映像A1に対する記録領域F2の面積率である。記録領域F2の移動速度は、画角を画素単位で区画したときに、移動中の記録領域F2が単位時間において通過する画素数である。
次に、上述の機能を有する撮像装置10を用いた撮像について説明する。
図15は本発明の実施形態の撮像装置の第1モードを示すフローチャートであり、図16は本発明の実施形態の撮像装置の第2モードを示すフローチャートである。
上述のように、撮像装置10の制御部46は、第1モードと第2モードとを動画撮像モードとして備え、第1画角の基準映像の光学像に基づく映像の動画データを記録する。
図15において、制御部46は、第1モードにおいて、撮像素子40を用いて第1画角の基準映像の光学像を撮像し(ステップS10)、基準映像の動画データを記録する第1記録処理(ステップS12)を実行する。制御部46は、第1モードの第1記録処理において、光学像のうち、複数の画素の読み出しの一部を間引く間引き駆動を実行する(ステップS14)。第1記録処理および間引き駆動は、上述の通りである。
(第2モード)
また、図16において、制御部46は、第2モードにおいて、第1画角よりも小さい第2画角である記録領域を基準映像内に設定する設定処理(ステップS16)と、記録領域の記録映像の動画データを記録する第2記録処理(ステップS18)とを実行する。制御部46は、第2モードの第2記録処理において、光学像のうち、複数の画素の読み出しの一部を間引く間引き駆動を実行する(ステップS20)。第2記録処理および間引き駆動は、上述の通りである。
図17において、制御部46は、第2モードにおいて、第2画角によって記録領域の第2間引き率を変化させることが好ましい。第2画角は、第1画角よりも小さい記録領域であるが、ユーザの設定によって大きさは変化する。第2画角の大きさが変われば、第2画角に対応する総画素数も変わる。つまり、記録領域が大きくなれば対応する画像数が多くなり、記録領域が小さくなれば対応する画素数が少なくなる。記録領域の大きさによらず、第2画角における間引き率が同じにして記録領域を小さくした場合、間引き後に、十分な解像度を得ることができない可能性がある。このため、第2画角によって記録領域の第2間引き率を変化させることが好ましい。この場合、図17に示すように、記録領域の大きさを特定する(ステップS30)。記録領域の大きさは、全画素数により特定することができる。予め記録領域の大きさに対して閾値を設定しておき、閾値と比較して(ステップS32)、閾値を超える場合には第2間引き率を大きくし(ステップS34)、閾値未満の場合には、第2間引き率を小さくする(ステップS36)。なお、ステップS32において、記録領域の大きさが閾値と同じである場合、第2間引き率を変えない(ステップS38)。
また、上述のように、第2間引き率は、記録領域(第2画角)の大きさにより変化することが好ましい。制御部46の第2間引き率の変化によって、撮像素子40は、制御部46に入力させる記録領域の記録映像の入力解像度を変化させる。制御部46は、撮像素子40からの入力解像度が動画データの記録フォーマットである出力解像度よりも高い場合、入力解像度を低減させて出力解像度に合わせることが好ましい。記録領域の記録映像の入力解像度が出力解像度よりも低い場合、公知の補完技術を用いて入力解像度を補完して出力解像度に合わせることが好ましい。そして、制御部46は、出力解像度を有する動画ファイルをメモリカード54(図3参照)に出力して、動画ファイルをメモリカード54に記録する。
基準映像の入力解像度が予め定められた設定解像度よりも低い場合、基準映像の総画素数が少なくなる。よって、十分な解像度のクロップ動画を得ることができず、クロップ動画の画質が低下する。このため、制御部46は、入力解像度と、設定解像度とを比較して、入力解像度が小さい場合、撮像レンズのズーム機能により、基準映像の撮像倍率を高くして、基準映像の総画素数を多くすることが好ましい。これにより、十分な解像度のクロップ動画を得ることができる。撮像レンズのズーム機能により撮像倍率を高くして基準映像の撮像することを、光学ズーム処理という。
間引きを実行する場合、撮像素子40(図5参照)に対して、制御部46は、図18および図19に示すように第1方向D1において、画素領域43を、第1配線を通じてスイッチ部に駆動信号が供給される画素からなる駆動領域43aと、駆動領域43a以外の非駆動領域43bとに分割する間引き駆動を実行する。制御部46は、第2記録処理において、駆動領域43aを用いて映像領域A2を記録し、映像領域A2以外の映像領域A3、A4に対応する部分領域E3、E4に非駆動領域43bを対応させることが好ましい。すなわち、第2記録処理において、映像領域A2に対応する画素領域43の駆動領域43aの部分領域E2を記録映像として記録し、画素領域43の駆動領域43a以外の非駆動領域43bは画素が読み出されず、映像領域A3、A4は記録されない。なお、駆動領域43aは、第2間引き率で間引き処理される。間引き処理は、撮像素子40から読み出す画素数を減らすことによって、制御部46の処理速度を向上させている。
ここで、図20は間引き対象の基準映像A1を示す模式図であり、例えば、3つの映像領域A2~A4が設定されている。なお、図18に示す部分領域E2は、図20に示す映像領域A2に対応する領域であり、図18に示す部分領域E3は、図20に示す映像領域A3に対応する領域であり、図18に示す部分領域E4は、図20に示す映像領域A4に対応する領域である。
複数の映像領域のうち、1つを記録領域として特定した場合、被写体が動くと、記録領域の位置および記録領域が大きさのうち、少なくとも一方が変わる。すなわち、第2画角および第2画角の位置のうち、少なくとも一方が変わる。例えば、図18と図19とでは、映像領域A2が移動し、かつ映像領域A2の大きさが異なっている。図18の映像領域A2よりも図19の映像領域E2の方が大きく、かつ図19の駆動領域43aの第1方向D1の幅d2が、図18の駆動領域43aの第1方向D1の幅d1よりも広い。
なお、駆動領域43aの第1方向D1の幅は、被写体が動く場合、被写体の動きに基づき、特定された駆動領域43aの第1方向D1の幅d2よりも広くしてもよい。また、被写体の移動速度、および被写体の移動方向等に基づき、駆動領域43aの第1方向D1における設定位置、および駆動領域43aの幅を設定することもできる。これにより、映像領域A2よりも大きな画角で映像を読み出しているため、映像領域A2の被写体の突発的な動きがあっても、制御部46は安定して被写体を検出できる。
なお、映像領域A2の被写体の移動を例にしたが、これに限定されるものではない。例えば、3つの映像領域A2、A3、A4のそれぞれの被写体について、上述の追尾モードで自動的に追尾して、被写体の移動位置および大きさを特定して、映像領域A2、A3、A4に対応する、画素領域43の駆動領域43aの位置および幅と、間引き率とをリアルタイムで特定することもできる。
被写体の動きが伴わない場合でも、制御部46は、間引き処理による解像度の不足を抑制するために、駆動領域43aの位置または幅を変化させる場合、出力解像度が設定解像度以上になるように、駆動領域43aの幅を決定することが好ましい。出力解像度は一定の範囲にあることがより好ましい。
なお、駆動領域43aが記録領域を含む複数の映像領域と対応している場合、複数の映像領域のそれぞれの第2画角のうち、最も小さい第2画角に基づいて第2間引き率を決定することが好ましい。最も小さい第2画角において十分な解像度が得られれば、どの映像領域が記録領域として選択されても、十分な解像度が得られたためである。最も小さい第2画角における第2間引き率は、入力解像度を、出力解像度よりも大きく設定することが好ましい。これにより、入力解像度を補完して、動画ファイルの記録フォーマットである出力解像度に合わせる必要がなく、記録される動画ファイルの画質を良好にできる。
以下、被写体の動きの検出について説明する。被写体の動きは、被写体の動き検出処理を実施することにより検出される。被写体の動き検出には、公知の検出処理方法を用いることができる。
制御部46は、第2モードにおいて、第2画角の複数の映像領域を基準映像内に設定する設定処理と、記録領域を複数の映像領域から選択する選択処理と、を実行し、第2記録処理は、選択処理における選択前の記録映像と選択後の記録映像とを結合して動画データを記録することが好ましい。
設定処理において、基準映像内に複数の映像領域、例えば、図20に示すように3つの映像領域A2、A3、A4を設定する。次に、選択処理において、複数の映像領域A2、A3、A4から、記録領域を選択する。例えば、映像領域A2を記録領域として選択する。第2記録処理では、映像領域A2を選択する前の映像領域A3と、映像領域A2とを結合して、動画データを記録する。この場合、例えば、図11に示すような形態の動画データが得られる。つまり、映像領域A2~A4は、ユーザによって選択された場合は、記録領域となる。
例えば、図21に示すように、映像領域A4に対応する部分領域E4のみを駆動領域43aとした2回の第2記録処理の間に、広い領域を駆動領域43aとした検出映像K(図23参照)の検出処理を実施する。
検出処理において、動きが検出されない場合には、1回目の第2記録処理で得られた映像S1と2回目の第2記録処理で得られた映像S2とを比較すると、図示はしないが記録領域ではなかった映像領域A2(人間)の位置が同じである。この場合も、検出映像K(図23参照)の全体の映像によって、制御部46が、記録されていない映像領域の被写体を検出できたからである。
なお、検出映像Kを表示する場合、全体動画のフレームは、一般的な動画よりもフレームレートを高くすることが好ましい。例えば、検出映像Kのフレームレートは、15~30fps(frames per second)であることが好ましいため、全体の動画のフレームレートは30~60fpsが好ましい。この場合、動画データは、検出映像Kを表すデータを含まないことが好ましい。検出映像Kは、撮像範囲の全体を表し、各被写体の位置を検出するためのものであるため、記録媒体に記録する必要がないためである。
なお、検出映像K(図23参照)とは、例えば、基準映像A1または間引き率が高い基準映像A1であるが、これに限定されるものではなく、基準映像A1よりも画角が広い画像でもよい。例えば、各映像領域A2、A3、A4を含む第1画角よりも広い画角の画像でもよい。
図24および図25は本発明の実施形態の撮像装置の第2の例を示す斜視図である。図26は本発明の実施形態の基準映像に対応する対応映像を示す模式図であり、図27は本発明の実施形態の基準映像の他の例を示す模式図である。
図24および図25に示す撮像装置200は、ディスプレイ211が設けられている面に設けられるフロントカメラ212と、ディスプレイ211が設けられている面の裏側の面に設けられる2つのメインカメラ213、214とを有する。メインカメラ213、214は、例えば、光学ズームにより所望の撮像倍率の画像を得るための撮像ユニットである。ディスプレイ211は、図3に示す撮像装置10に示すディスプレイ28と同じ構成とすることができる。
一方、メインカメラ214では、メインカメラ213よりも広い画角で撮像し、例えば、上述の検出映像K(図23参照)を得る。制御部46は、メインカメラ214で得られた、複数の映像領域のうち、選択されていない複数の映像領域を含む検出映像Kから、複数の映像領域のうち、選択されていない複数の映像領域の位置、映像領域の大きさ、フォーカス情報、および露光情報等を得る。これにより、複数の映像領域において、記録領域の切替えがあった場合、切替え後の記録領域について、切替えた記録領域に応じて、画素領域43の駆動領域43aの位置および幅と、間引き率とをリアルタイムで特定することもできる。これにより、切替え後の記録領域の被写体の動画を短時間で取得できる。
制御部46は、複数の対応領域内における被写体の動きを検出する検出処理を実行する。検出処理において、制御部46は、メインカメラ214に複数の対応領域を含む画角の検出映像を取得させ、被写体の動きに伴って複数の映像領域の少なくとも1つを移動させ、または画角を変化させる。この場合、動画データは検出映像を表すデータを含まないことが好ましい。メインカメラ214により撮像範囲の全体の各被写体の位置を検出することにより、記録領域を切り替えた場合、記録領域の切り替え後、短時間で記録できる。
なお、メインカメラ214では、基準映像A1よりも画角が広い画像を撮像してもよい。この画角が広い画像を用いることにより、被写体の移動範囲が第1画角の基準映像A1の範囲を超えても追尾できる。
撮像装置の第3の例の装置構成は、制御部46の処理内容が、図3に示す撮像装置10と異なる以外は、上述の図3に示す撮像装置10と同じ構成である。このため、上述の撮像装置10と同じ符号を付して説明する。図28は本発明の実施形態の撮像装置の第3の例の制御部の処理を示すフローチャートである。
なお、制御部46は、読出し処理において、第2画角の変化によって記録領域の、複数の画素の読み出しの一部を間引く間引き駆動の間引き率を変化させてもよい。これにより、間引き後に、記録領域について十分な解像度を得ることができる。また、部分領域と記録領域の大きさは完全に一致している必要はなく、部分領域の大きさは記録領域よりもわずかに大きいサイズでもよい。
12 撮影装置本体
13 マウント
14 撮影レンズ
18 光学部品ユニット
19 フォーカス用光学部品
20 絞り
21 電子減光フィルタ
22 フォーカス用駆動部
23 絞り駆動部
24 電圧印加部
26 レリーズボタン
28 ディスプレイ
30 第1操作ボタン
32 第2操作ボタン
34 第3操作ボタン
36 タッチパネル
38 光学シャッタ
40 撮像素子
42 単位画素(画素)
43 画素領域
43a 駆動領域
43b 非駆動領域
44 アナログ信号処理回路
46 制御部
47 コントローラ
48 映像処理部
50 内部メモリ
52 カードスロット
54 メモリカード
56 バッファ
111 画素アレイ部
112 垂直駆動部
113 カラム処理部
114 水平駆動部
116 画素駆動線
117 垂直信号線
118 信号処理部
119 データ格納部
200 撮像装置
211 ディスプレイ
212 フロントカメラ
213、214 メインカメラ
A0 撮像領域
A1 基準映像
A2、A3、A4 映像領域
B1 対応映像
B2、B3、B4 対応領域
Ad 単位領域
D1 第1方向
D2 第2方向
E2、E3、E4 部分領域
F2、F4 記録領域
FR 領域設定枠
H 水平方向
J2、J4 記録映像
K 検出映像
L1 光軸
Mc タイミング
S1、S2 映像
V 垂直方向
Claims (11)
- 第1画角の基準映像の光学像を撮像し、第1方向および前記第1方向に交差する第2方向に複数の画素が配列した画素領域を有する撮像素子と、
第1モードと第2モードとを動画撮像モードとして備え、前記光学像に基づく映像の動画データを記録する制御部と、を有し、
前記制御部は、前記第1モードにおいて、前記撮像素子を用いて前記基準映像の動画データを記録する第1記録処理を実行し、
前記制御部は、前記第2モードにおいて、前記第1画角よりも小さい第2画角である記録領域を前記基準映像内に設定する設定処理と、前記記録領域の記録映像の動画データを記録する第2記録処理と、を実行するものであり、
前記制御部は、前記第1記録処理および前記第2記録処理において、前記複数の画素の読み出しの一部を間引く間引き駆動を実行し、
前記制御部は、前記第2記録処理の前記間引き駆動における第2間引き率を、前記第1記録処理の前記間引き駆動における第1間引き率よりも低く設定する、
前記制御部は、前記第2記録処理において、前記記録領域内における被写体の動きに伴って、前記記録領域の前記第2画角を変化させ、前記第2画角の変化によって前記記録領域の前記第2間引き率を変化させる、撮像装置。 - 前記制御部の前記第2間引き率の変化によって、前記撮像素子は、前記制御部に入力させる前記記録領域の記録映像の入力解像度を変化させ、
前記制御部は、前記入力解像度が前記動画データの出力解像度よりも高い場合、前記入力解像度を低減させて前記出力解像度に合わせ、前記入力解像度が前記出力解像度よりも低い場合、前記入力解像度を補完して前記出力解像度に合わせる、請求項1に記載の撮像装置。 - ズーム機能を有する撮像レンズを備え、
前記撮像素子は、前記撮像レンズを透過した光を受光して前記第1画角の前記基準映像の前記光学像を撮像し、
前記制御部は、前記入力解像度が設定解像度よりも低い場合、前記ズーム機能に関する通知をユーザに行う、請求項2に記載の撮像装置。 - 前記制御部は、前記第2モードにおいて、前記第2画角の複数の映像領域を前記基準映像内に設定する設定処理と、前記記録領域を前記複数の映像領域から選択する選択処理と、を実行し、
前記第2記録処理は、前記選択処理における選択前の前記記録映像と選択後の前記記録映像とを結合して動画データを記録する、請求項1~3のいずれか1項に記載の撮像装置。 - 前記画素は、光電変換素子とスイッチ部とを備え、
前記第1方向に延びている複数の第1配線と、前記第2方向に延びている複数の第2配線とを含む画素回路が設けられており、
前記第1配線および前記第2配線は、前記スイッチ部に電気的に接続されており、
前記制御部が前記第1配線を通じて前記スイッチ部に駆動信号を供給することにより、前記駆動信号にしたがって、前記光電変換素子に基づく映像信号が前記第2配線に出力され、
前記制御部は、前記第1方向において、前記画素領域を、前記第1配線を通じて前記スイッチ部に前記駆動信号が供給される前記画素からなる駆動領域と、前記駆動領域以外の非駆動領域とに分割する前記間引き駆動を実行し、
前記制御部は、前記第2記録処理において、前記駆動領域を用いて前記記録映像を記録し、前記記録領域以外の前記映像領域に前記非駆動領域を対応させる、請求項4に記載の撮像装置。 - 前記制御部は、前記記録領域の位置の移動、または前記第2画角の変化に伴って、前記画素領域内における前記駆動領域の位置または幅を変える、請求項5に記載の撮像装置。
- 前記制御部は、前記複数の映像領域のそれぞれの前記第2画角のうち、最も小さい前記第2画角に基づいて前記第2間引き率を決定する、請求項6に記載の撮像装置。
- 前記制御部は、前記記録領域を含む前記複数の映像領域内における被写体の動きを検出する検出処理を実行し、
前記制御部は、前記第2記録処理を複数回実行し、前記複数の第2記録処理の間に前記検出処理を実行し、
前記検出処理において、前記制御部は、前記記録領域および少なくとも1つの前記映像領域を含む画角の検出映像を取得し、前記被写体の動きに伴って前記複数の映像領域の少なくとも1つを移動させ、または前記第2画角を変化させる、請求項4に記載の撮像装置。 - 前記第1記録処理および前記第2記録処理での記録映像の前記光学像を撮像する前記撮像素子である第1撮像素子と、
前記第1撮像素子とは異なり、前記記録領域を含む前記複数の映像領域に対応する複数の対応領域の映像を取得する第2撮像素子と、を備え、
前記制御部は、前記複数の対応領域内における被写体の動きを検出する検出処理を実行し、
前記検出処理において、前記制御部は、前記第2撮像素子に前記複数の対応領域を含む画角の検出映像を取得し、前記被写体の動きに伴って前記複数の映像領域の少なくとも1つを移動させ、または画角を変化させる、請求項4に記載の撮像装置。 - 前記動画データは、前記検出映像を表すデータを含まない、請求項8または9に記載の撮像装置。
- 前記撮像素子の前記画素領域の画素解像度は7000万以上である、請求項1~10のいずれか1項に記載の撮像装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023123483A JP7700181B2 (ja) | 2019-12-19 | 2023-07-28 | 撮像装置 |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019229114 | 2019-12-19 | ||
| JP2019229114 | 2019-12-19 | ||
| PCT/JP2020/042103 WO2021124736A1 (ja) | 2019-12-19 | 2020-11-11 | 撮像装置 |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023123483A Division JP7700181B2 (ja) | 2019-12-19 | 2023-07-28 | 撮像装置 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JPWO2021124736A1 JPWO2021124736A1 (ja) | 2021-06-24 |
| JPWO2021124736A5 JPWO2021124736A5 (ja) | 2022-09-06 |
| JP7324866B2 true JP7324866B2 (ja) | 2023-08-10 |
Family
ID=76478612
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021565369A Active JP7324866B2 (ja) | 2019-12-19 | 2020-11-11 | 撮像装置 |
| JP2023123483A Active JP7700181B2 (ja) | 2019-12-19 | 2023-07-28 | 撮像装置 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023123483A Active JP7700181B2 (ja) | 2019-12-19 | 2023-07-28 | 撮像装置 |
Country Status (3)
| Country | Link |
|---|---|
| US (2) | US11991449B2 (ja) |
| JP (2) | JP7324866B2 (ja) |
| WO (1) | WO2021124736A1 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021124736A1 (ja) * | 2019-12-19 | 2021-06-24 | 富士フイルム株式会社 | 撮像装置 |
| JP2025033111A (ja) * | 2023-08-29 | 2025-03-13 | 京楽産業.株式会社 | 遊技機 |
| JP2025033110A (ja) * | 2023-08-29 | 2025-03-13 | 京楽産業.株式会社 | 遊技機 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004180240A (ja) | 2002-11-29 | 2004-06-24 | Fujitsu Ltd | 映像入力装置 |
| JP2015103945A (ja) | 2013-11-25 | 2015-06-04 | キヤノン株式会社 | 撮像装置及び画像信号処理方法 |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH08116485A (ja) * | 1994-10-14 | 1996-05-07 | Sony Corp | ビデオカメラの被写体追尾装置及び追尾方法 |
| US6304277B1 (en) * | 1999-01-15 | 2001-10-16 | Colorcentric.Com, Inc. | Remote modification of digital images using scripts |
| JP5284013B2 (ja) * | 2008-09-01 | 2013-09-11 | キヤノン株式会社 | 撮像装置およびその制御方法、プログラム |
| JP5442891B2 (ja) | 2008-09-12 | 2014-03-12 | 三洋電機株式会社 | 撮像システムおよび撮像方法 |
| JP2010093579A (ja) * | 2008-10-08 | 2010-04-22 | Canon Inc | 撮像装置及びその制御方法及びプログラム |
| JP4868021B2 (ja) | 2009-01-07 | 2012-02-01 | ソニー株式会社 | 固体撮像素子および駆動制御方法 |
| US10321083B2 (en) * | 2013-08-12 | 2019-06-11 | Nikon Corporation | Electronic apparatus, method for controlling electronic apparatus, and control program |
| JP6351231B2 (ja) * | 2013-10-18 | 2018-07-04 | キヤノン株式会社 | 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体 |
| DE102014020074B3 (de) * | 2013-11-25 | 2022-09-01 | Canon Kabushiki Kaisha | Bildaufnahmevorrichtung und Bildsignalsteuerverfahren |
| JP6819403B2 (ja) | 2017-03-27 | 2021-01-27 | サクサ株式会社 | 情報出力装置、プログラム及び情報出力方法 |
| WO2021124736A1 (ja) * | 2019-12-19 | 2021-06-24 | 富士フイルム株式会社 | 撮像装置 |
-
2020
- 2020-11-11 WO PCT/JP2020/042103 patent/WO2021124736A1/ja not_active Ceased
- 2020-11-11 JP JP2021565369A patent/JP7324866B2/ja active Active
-
2022
- 2022-06-12 US US17/838,250 patent/US11991449B2/en active Active
-
2023
- 2023-07-28 JP JP2023123483A patent/JP7700181B2/ja active Active
-
2024
- 2024-04-16 US US18/636,285 patent/US12363436B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004180240A (ja) | 2002-11-29 | 2004-06-24 | Fujitsu Ltd | 映像入力装置 |
| JP2015103945A (ja) | 2013-11-25 | 2015-06-04 | キヤノン株式会社 | 撮像装置及び画像信号処理方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US12363436B2 (en) | 2025-07-15 |
| WO2021124736A1 (ja) | 2021-06-24 |
| US20220303471A1 (en) | 2022-09-22 |
| JP2023138601A (ja) | 2023-10-02 |
| JP7700181B2 (ja) | 2025-06-30 |
| JPWO2021124736A1 (ja) | 2021-06-24 |
| US20240259686A1 (en) | 2024-08-01 |
| US11991449B2 (en) | 2024-05-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3328055B1 (en) | Control method, control device and electronic device | |
| JP7700181B2 (ja) | 撮像装置 | |
| US7679657B2 (en) | Image sensing apparatus having electronic zoom function, and control method therefor | |
| US8619120B2 (en) | Imaging apparatus, imaging method and recording medium with program recorded therein | |
| US20110254972A1 (en) | Imaging device | |
| US9538085B2 (en) | Method of providing panoramic image and imaging device thereof | |
| US9185294B2 (en) | Image apparatus, image display apparatus and image display method | |
| JP5655291B2 (ja) | 電子カメラ | |
| JP2007150643A (ja) | 固体撮像素子、固体撮像素子の駆動方法および撮像装置 | |
| JP2006324834A (ja) | 撮像装置及び撮像方法 | |
| JP4894708B2 (ja) | 撮像装置 | |
| JP2003179798A (ja) | デジタルカメラ | |
| JP5387341B2 (ja) | 撮像装置 | |
| US10277801B2 (en) | Image capture device | |
| JP6671323B2 (ja) | 撮像装置 | |
| US11206344B2 (en) | Image pickup apparatus and storage medium | |
| JP2011188225A (ja) | 電子カメラ | |
| US20100182460A1 (en) | Image processing apparatus | |
| CN102209199A (zh) | 图像拍摄装置 | |
| JP2021097350A (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
| US12542958B2 (en) | Video creation method | |
| JP5915720B2 (ja) | 撮像装置 | |
| JP2009038627A (ja) | 撮像装置 | |
| JP7760629B2 (ja) | 画像処理装置および画像処理方法、ならびに撮像装置 | |
| JP2003158684A (ja) | デジタルカメラ |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220613 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220613 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230704 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230731 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7324866 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |