以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
図1から図24は本発明の実施形態1を示したものであり、図1は撮像装置の構成を示すブロック図である。
図1に示すように、撮像装置1は、撮像レンズ2と、シャッタ3と、撮像素子4と、データバス5と、メモリ6と、焦点検出用減算部7と、焦点検出用信号処理部8と、画像信号処理部9と、温度センサ10と、ブレ検出部11と、被写体移動速度検出部12と、表示部13と、記録部14と、入力インタフェース(入力IF)15と、システム制御部16と、を備え、いわゆるカメラとしての機能を備えている。
撮像レンズ2は、被写体の光学像を撮像素子4上に結像するための撮影光学系である。この撮像レンズ2は、フォーカス位置を調節するためのフォーカスレンズと、撮像レンズ2を通過する光束の範囲を制御する光学絞りとを備え、例えば焦点距離を可変なズームレンズとして構成されている。撮像レンズ2の光学状態、例えば、フォーカス位置、光学絞りの開口径(F値)、および焦点距離は、システム制御部16の駆動制御により変更される。撮像レンズ2は固定式でも交換式でもよく、交換式である場合には、システム制御部16が撮像レンズ2と通信を行うことにより撮像レンズ2の光学状態の情報を取得することになる。
シャッタ3は、撮像レンズ2からの光束が撮像素子4へ到達する時間を制御するものであり、例えばフォーカルプレーンシャッタなどの、シャッタ幕を走行させる構成のメカニカルシャッタとなっている。このシャッタ3の開閉動作は、システム制御部16により駆動制御される。
撮像素子4は、撮像部に含まれ、複数の画像用画素が2次元状(行列状)に配列された画素部22(図2、図3参照)を有する。画像用画素は、マイクロレンズL(図4参照)に対応し、複数の焦点検出用画素に分割された構成となっている。ここに、焦点検出用画素は、撮影光学系である撮像レンズ2の射出瞳を複数に瞳分割した領域を通過する光束をそれぞれ光電変換して光電変換信号を生成するものである。こうして、画素部22には、複数の焦点検出用画素が2次元状(行列状)に配列されているともいえる。
そして、撮像素子4は、システム制御部16の制御に基づき、シャッタ3を通して撮像レンズ2により結像された被写体の光学像を、上述したように光電変換して複数の光電変換信号を生成する。
こうした撮像素子4は、例えば、原色ベイヤ配列のカラーフィルタを備える単板式CMOS撮像素子として構成されているが、もちろんこの構成に限定されるものではない。
そして、本実施形態の撮像素子4は、システム制御部16の制御に基づき、後述する素子制御部29(図2参照)が、1つの画像用画素内で生成された全ての光電変換信号を加算することで画像用画素信号を生成し、生成した画像用画素信号のみを読み出す第1読出を行う第1の行と、光電変換信号に基づいて瞳分割方向における一対の焦点検出用画素信号の両方を生成して読み出す第2読出、または、一対の焦点検出用画素信号の一方と画像用画素信号とを生成して読み出す第3読出を行う第2の行と、の1つのフレーム内における列方向の周期を制御するようになっている。
1つの画像用画素が、例えば、一対の焦点検出用画素信号α,βを生成する2つの焦点検出用画素に分割されている場合を例に挙げると、第1読出では、一対の焦点検出用画素信号α,βを加算した画像用画素信号(α+β)のみが出力され、焦点検出用画素信号α,βは何れも出力されない。また、第2読出では、撮像素子4から一対の焦点検出用画素信号α,βがそれぞれ出力される。さらに、第3読出では、撮像素子4から、一対の焦点検出用画素信号α,βの何れか一方(ここでは例えば焦点検出用画素信号αであるものとする)と、一対の焦点検出用画素信号α,βを加算した画像用画素信号(α+β)とが出力される。
さらに、この撮像素子4は、同一色である複数の画像用画素をミックス処理(画素加算と画素間引きとの少なくとも一方を行って撮像素子4から出力する画素数を少なくする処理)して読み出すミックス(MIX)読み出しを行うことができるようになっている。このミックス処理は、撮像素子4から出力する画像が、ライブビュー(LV)用の画像であるか、動画用の画像であるか、静止画用の画像であるか、等に応じて、異なるミックス数が設定されるようになっている。
データバス5は、各種のデータや制御信号を、撮像装置1内のある場所から他の場所へ転送するための転送路である。本実施形態におけるデータバス5は、撮像素子4と、メモリ6と、焦点検出用減算部7と、焦点検出用信号処理部8と、画像信号処理部9と、温度センサ10と、ブレ検出部11と、被写体移動速度検出部12と、表示部13と、記録部14と、入力IF15と、システム制御部16と、に接続されている。
メモリ6は、撮像素子4により生成された画素信号を一時的に記憶する記憶部であり、例えばDRAM(ダイナミック・ランダム・アクセス・メモリ)等により構成されている。このメモリ6は、撮像装置1内の各部が例えば画像処理や焦点検出等の各種の処理を行う際の、ワークメモリや画像のバッファメモリとしても用いられる。
焦点検出用減算部7は、上述した第3読出が行われたときに、画像用画素信号から一対の焦点検出用画素信号の一方を減算することで、一対の焦点検出用画素信号の他方を生成する(あるいは、「他方を復元する」ともいえる)ものである。上述した第2読出では、撮像素子4から出力される焦点検出用画素信号α,βをそのまま位相差検出に用いることができるのに対して、第3読出では、位相差検出を行うために必要な焦点検出用画素信号(上述した例における焦点検出用画素信号β)が不足している。そこで、焦点検出用減算部7は、例えば{(α+β)−α}の減算を行うことで、焦点検出用画素信号βを復元する。従って、第3読出の方式を減算読み出し方式、第2読出の方式を単純読み出し方式と呼ぶことにする。また、第1読出では焦点検出用画素信号が出力されないために、第1読出の方式を位相差情報なし読み出し方式と呼ぶことにする。
焦点検出用信号処理部8は、単純読み出し方式で撮像素子4から出力された一対の焦点検出用画素信号の両方、または減算読み出し方式で撮像素子4から出力された一対の焦点検出用画素信号の一方および焦点検出用減算部7により復元された一対の焦点検出用画素信号の他方に基づいて、像面位相差検出を行うものである。
また、本実施形態における焦点検出用信号処理部8は、焦点検出用画素信号に基づく位相差検出方式の焦点検出(位相差AF)に加えて、さらに、画像用画素信号のコントラストに基づく焦点検出(コントラストAF)を行うことができるようになっている。
そして、焦点検出用信号処理部8は、焦点検出の結果に基づいて、撮像レンズ2のフォーカス位置を合焦位置へ移動するためのレンズ制御パラメータを算出する。加えて、焦点検出用信号処理部8は、焦点検出用画素信号に対する演算を行って、例えば、3D情報、デプスマップ、あるいは深度補正情報などを算出することも可能であり、これらを算出した場合にはその結果を画像信号処理部9へ送信する。
画像信号処理部9は、撮像素子4から出力された画像用画素信号に画像処理を行って表示用および/または記録用の画像(例えば、表示部13に表示するための画像、記録部14に記録するための画像など)を生成するものである。
ここに、第2の行が第3読出された場合には画像用画素信号(α+β)が出力されるが、第2の行が第2読出された場合には一対の焦点検出用画素信号α,βが出力され、画像用画素信号(α+β)は出力されない。そこで、画像信号処理部9は、第2の行が第2読出された場合には一対の焦点検出用画素信号α,βを加算することで、画像用画素信号(α+β)を生成する処理も行う。
この画像信号処理部9は、画像用画素信号に対して、例えば、OB減算、ホワイトバランス(WB)ゲイン、デモザイク、ノイズ低減、色変換、ガンマ変換、拡大縮小などの画像処理(いわゆる現像処理を含む)を行う。また、画像信号処理部9は、被写体の輝度値の算出も行う。なお、静止画や動画を記録部14に記録する際あるいは記録部14から読み出す際のデータ圧縮/データ伸張は、この画像信号処理部9により行っても構わないし、専用の圧縮伸張部を設けて行うようにしてもよい。
温度センサ10は、例えば撮像素子4の近傍に設けられていて、撮像装置1内の温度を測定するものである。システム制御部16は、温度センサ10により測定された温度を取得して、温度に応じた制御を後述するように行う。
ブレ検出部11は、撮像装置1の移動に伴う加速度や角速度などを検出して、ひいては撮像装置1の移動速度も検出するものである。システム制御部16は、ブレ検出部11により検出された撮像装置1の移動速度を取得して、撮像装置1の移動速度に応じた制御を後述するように行う。
被写体移動速度検出部12は、撮像素子4から取得された画像に基づいて、被写体の移動速度を検出するものである。例えば、被写体移動速度検出部12は、撮影時刻が連続する複数の画像を被写体認識して動きベクトルを求めることにより、撮像レンズ2の光軸に交差する方向の被写体の移動速度を検出する。さらに、被写体移動速度検出部12は、撮影時刻が連続する複数の画像を被写体認識して被写体部分のデフォーカス量の変化量を求めることにより、撮像レンズ2の光軸方向の被写体の移動速度を検出する。さらに、被写体移動速度検出部12は、必要に応じてブレ検出部11により検出された撮像装置1の移動速度に基づいて、検出した被写体の移動速度の補正を行う。
システム制御部16は、被写体移動速度検出部12により検出された被写体の移動速度を取得して、被写体の移動速度に応じた制御を後述するように行う。
表示部13は、画像を表示すると共に、撮像装置1に係る各種の情報を表示する表示装置である。この表示部13は、例えば、LCDパネルあるいは有機エレクトロルミネッセンス(有機EL)ディスプレイ等のデバイスを有している。表示部13の具体的な配置や構成としては、電子ビューファインダ(EVF)、撮像装置1の背面パネル、撮像装置1と無線接続されている携帯デバイスの表示装置などが挙げられる。従って、表示部13は、撮像装置1に固有の構成であることに限定されない。
記録部14は、複数の画素信号で構成される画像データ(静止画像データ、動画像データなど)を不揮発に記憶する記録媒体であり、例えば、撮像装置1本体に内蔵されているフラッシュメモリ、あるいは撮像装置1本体に着脱可能なメモリカード等により構成されている。従って、記録部14は、撮像装置1に固有の構成であることに限定されない。
入力IF15は、この撮像装置1に対する各種の操作入力を行うためのものである。入力IF15は、例えば、撮像装置1の電源をオン/オフするための電源ボタン、静止画像等の撮影開始を指示するための例えば2段式のスイッチ(ファーストレリーズ(1R)スイッチおよびセカンドレリーズ(2R)スイッチ)を有するレリーズボタン、動画像の撮影を指示するための動画ボタン、記録画像の再生を行うための再生ボタン、撮像装置1の設定等を行うためのメニューボタン、項目の選択操作に用いられる十字キーや選択項目の確定操作に用いられるOKボタン等の操作ボタンなどを含んでいる。
ここに、メニューボタンや十字キー、OKボタン等を用いて設定できる項目には、例えば、撮影モード(静止画モード、動画モード等)、静止画モードにおける連写モード/単写モード、記録モード(JPEG記録、RAW+JPEG記録など)、再生モード、フォーカスモード(マニュアルフォーカス(MF)モード、シングルオートフォーカス(SAF)モード、コンティニュアスオートフォーカス(CAF)モード)などが含まれている。
入力IF15に対して操作が行われると、操作内容に応じた信号がシステム制御部16へ出力される。
なお、入力IF15の具体的な配置や構成としては、カメラ本体の外装に配設されたボタンやスイッチ類、あるいは表示部13における背面パネルの表示面に設けられたタッチパネル、遠隔操作するためのリモートレリーズ装置や携帯デバイスなどが挙げられる。従って、入力IF15も、撮像装置1に固有の構成であることに限定されない。
システム制御部16は、例えばCPUを含んで構成され、撮像装置1内の各部を統括的に制御する制御部である。
システム制御部16は、所定の処理プログラム(撮像プログラムを含む)に従って、入力IF15からの操作入力に応じた各種のシーケンスを実行する。ここに、処理プログラムは、システム制御部16内に不揮発に記憶されていてもよいし、メモリ6に不揮発に記憶されていてシステム制御部16により読み込まれる構成であっても構わない。
例えば、システム制御部16は、焦点検出用信号処理部8により算出されたレンズ制御パラメータに基づいて、撮像レンズ2のフォーカスレンズを制御し、システム制御部16内で行った露出演算の結果に基づいて撮像レンズ2の絞りおよびシャッタ3の制御を行い、撮像素子4を制御して撮像を行わせ画素信号を出力させる。また、システム制御部16は、表示部13に各種情報を表示する制御、および記録部14へデータを記録しまたは記録部14からデータを読み出す制御なども行う。
さらに、システム制御部16は、撮像装置1の消費電力を把握し、処理プログラムに従って撮像素子4の読み出しフレームレートを制御し、画像信号処理部9から被写体の輝度値を取得する。
この撮像装置1は、撮影モードとして、静止画モードと動画モードとを選択することができる。撮像装置1は、静止画モードでは、セカンドレリーズ(2R)スイッチがオンになってから静止画像が取得されるまで(つまり、実際の静止画撮影中)は静止画撮影中モードに設定されて動作し、それ以外ではライブビュー(LV)モードに設定されて動作する。また、撮像装置1は、動画モードでは、動画ボタンがオンになってからオフになるまで(つまり、実際の動画撮影中(動画記録中))は動画撮影中モードに設定されて動作し、それ以外ではライブビュー(LV)モードに設定されて動作する。従って、撮像装置1は、静止画撮影中モード、動画撮影中モード、ライブビュー(LV)モードの何れかにモードを設定可能となっている。
さらに、撮像装置1は、マニュアルフォーカス(MF)モード、シングルオートフォーカス(SAF)モード、コンティニュアスオートフォーカス(CAF)モードの何れかにフォーカスモードを設定可能となっている。
そして、システム制御部16は、入力IF15からの操作入力に応じて、撮像装置1のモードを、静止画モード(静止画撮影中モードまたはLVモード)、動画モード(動画撮影中モードまたはLVモード)の何れかに設定し、フォーカスモードを、MFモード、SAFモード、CAFモードの何れかに設定する。
加えて、システム制御部16は、入力IF15の入力などに基づいて撮像装置1のモード(例えば、静止画撮影中モード、動画撮影中モード、フォーカスモードなど)を決定し、決定したモードに応じて第1の行と第2の行との1つのフレーム内における列方向の周期を制御するための周期設定値を、撮像素子4内の素子制御部29(図2参照)へ送信するようになっている。
次に、図2は、撮像素子4の構成を示すブロック図である。
撮像部は、複数の焦点検出用画素に分割された画像用画素を有し、焦点検出用画素により光束を光電変換して生成された光電変換信号に基づいて画像用画素信号と焦点検出用画素信号とを生成するものであり、上述したように撮像素子4を含んでいる。
撮像素子4は、図2に示す例においては、垂直走査部21と、画素部22と、アナログ処理部23と、ADC処理部24と、メモリ部25と、水平走査部26と、出力部27と、入力部28と、素子制御部29と、を備えている。
画像用画素(ひいては焦点検出用画素)は画素部22に配列されていて、光電変換信号に基づく画像用画素信号と焦点検出用画素信号との生成と、同一色である複数の画像用画素のミックス(MIX)読み出しとは、垂直走査部21〜出力部27までの少なくとも一部、および素子制御部29などが行う。
なお、図2では、撮像素子4が垂直走査部21および画素部22を備えるだけでなく、さらに、アナログ処理部23〜素子制御部29を備える構成例を示しているが、これに限るものではなく、例えばアナログ処理部23〜素子制御部29の1つ以上を撮像素子4の外部に配置しても構わない。
画素部22は、上述したように、画像用画素(ひいては焦点検出用画素)が行列状(垂直方向(列方向)および水平方向(行方向))に配列された画素アレイ部である。
ここで、図3は、撮像素子4の画素部22におけるエリア構成の例を示す図である。
画素部22は、撮像レンズ2からの光束が到達する有効画素領域である有効エリア22eと、有効エリア22eとは異なる行に設けられ、撮像レンズ2からの光束が遮光された垂直光学黒領域であるVOBエリア22vと、有効エリア22eとは異なる列に設けられ、撮像レンズ2からの光束が遮光された水平光学黒領域であるHOBエリア22hと、を含んでいる。
さらに、図4は、1つのマイクロレンズLに2つまたは4つのフォトダイオードPDが配置される画素構造の例を示す図表である。
画像用画素の構造として、この図4には、1つのマイクロレンズLに対して2つのフォトダイオードPDが配置される2PD画素構造と、1つのマイクロレンズLに対して4つのフォトダイオードPDが配置される4PD画素構造と、を例示している。
画素は、物体側から像側へ向かう積層方向の順に、マイクロレンズLとカラーフィルタFとフォトダイオードPDとが配設された構成となっている。ここに、マイクロレンズLは、光を集めることにより画像用画素に到達する光量を増加させ、画像用画素の開口率を実質的に大きくするものである。また、カラーフィルタFは、例えば原色ベイヤ配列のカラーフィルタの場合には、Rフィルタ、Gフィルタ、またはBフィルタの何れかが、その画素位置に応じて配設されている。
ここで、図4に示す2PD画素構造の場合には、1つのマイクロレンズLの結像範囲に2つのフォトダイオードPDが配設されている。2つのフォトダイオードPDは、水平方向の位相差を検出するためのものである場合には左右に2分割されており、垂直方向の位相差を検出するためのものである場合には上下に2分割されている。これにより2つの焦点検出用画素a,bが構成されている。
一方、図4に示す4PD画素構造の場合には、1つのマイクロレンズLの結像範囲に4つのフォトダイオードPDが配設されている。4つのフォトダイオードPDは、水平方向および垂直方向の位相差を検出することができるように、上下左右に4分割されている(すなわち、4つのフォトダイオードPDが、左上、左下、右上、右下の位置にそれぞれ配置される)。これにより4つの焦点検出用画素a,b,c,dが構成されている。
また、以下では、画素部22の全画素が4PD画素構造である場合を例に挙げて説明を行うこととする(ただし、画素部22の一部の画素が、4PD画素構造、または2PD画素構造となることを妨げるものではない)。ここに、画素部22の全画素が4PD画素構造である場合には、各フォトダイオードPDから出力される画素信号は焦点検出用画素信号である。
さらに、フォトダイオードPDの出力を例えば後述する図5の回路構成によって垂直2画素加算する場合、つまり、図4における(a+b)と(c+d)とを算出する場合には、水平方向の位相差を検出(縦線検知)するための焦点検出用画素信号となる。
そして、フォトダイオードPDの出力を同様に水平2画素加算する場合、つまり、図4における(a+c)と(b+d)とを算出する場合には、垂直方向の位相差を検出(横線検知)するための焦点検出用画素信号となる。
図4に示す4PD画素構造の場合には、縦線検知用の焦点検出用画素信号と、横線検知用の焦点検出用画素信号と、の内の、一方が第1の瞳分割方向における一対の焦点検出用画素信号、他方が第2の瞳分割方向における一対の焦点検出用画素信号となる。
加えて、フォトダイオードPDの出力を同様に4画素加算する場合、つまり、図4における(a+b+c+d)を算出する場合には、画像用画素信号となる。
垂直走査部21は、画素部22の画素の水平方向の並び(行)を選択することを順次行うことで、走査を垂直方向に行う回路である。この垂直走査部21が、特定の行を選択して、選択された行にある各画素のリセットや転送を行うことで、画素の電荷蓄積時間(露光時間)が制御されるようになっている。
アナログ処理部23は、画素部22から読み出されたアナログの画素信号をアナログ信号処理する回路である。このアナログ処理部23は、例えば、画素信号を増幅するプリアンプ、有効エリア22eで得られた画素信号を、VOBエリア22vまたはHOBエリア22hで得られた画素信号に基づき補正することで、黒レベルを調整し、固定パターンノイズ等も除去するOBクランプ回路、画素信号からリセットノイズを低減する相関二重サンプリング(CDS)回路などを含んでいる。
アナログデジタル変換処理部(ADC処理部)24は、アナログ処理部23から出力されたアナログの画素信号をデジタルの画素信号に変換する。このADC処理部24は、例えば、カラムADCに代表されるような、画素部22から読み出された画素信号を列毎のアナログ・デジタル・コンバータ(ADC)でAD変換する構成が採用されている。
メモリ部25は、ADC処理部24で変換された画素信号を一時的に保持する揮発性メモリ回路等で構成されている。
水平走査部26は、メモリ部25から、画素信号(画像用画素信号と焦点検出用画素信号)を列順に読み出す。
出力部27は、水平走査部26により読み出された画素信号を配列して画素信号列を生成し、シリアル信号や差動信号などの出力信号形式に変換して出力する。
入力部28は、システム制御部16から、撮像素子4の制御に係る同期信号、基準クロック、動作設定の情報(例えば、静止画撮影中、動画撮影中、ライブビュー、AF等のカメラモード、および上述した周期設定値)などを受信する。
素子制御部29は、入力部28を介して受信した同期信号および基準クロックに合わせて、動作設定の情報に基づき撮像素子4内の各ブロックを制御するものであり、行カウンタ演算部30を備えている。
行カウンタ演算部30は、入力部28を介して受信した周期設定値に基づいて、どの行を第1読出を行う第1の行とし、それ以外の行を第2の行とするかを設定する。そして、行カウンタ演算部30は、読み出し行をカウントして、カウントした行が第1の行に該当する場合には第1読出を行うように制御し、第1の行に該当しない場合には例えば第3読出(なお、第2読出でもよいが、以下では第3読出を行う例について説明する)を行うように制御する。
こうして、行カウンタ演算部30を含む素子制御部29および図1に示したシステム制御部16等により、撮像部(図2に示す構成例では撮像素子4が該当する)の読み出しを制御する制御部が構成されている。
次に、図5は、4PD画素構造の画素の構成例を示す回路図である。
4PD画素構造の画素においては、1つのマイクロレンズLに対応する位置に4つのフォトダイオードPD1〜PD4が配置され、具体的には、マイクロレンズLの光学像が結像される範囲内の左上、左下、右上、右下位置に4つのフォトダイオードPD1〜PD4がそれぞれ配置されている。
4つのフォトダイオードPD1〜PD4には、スイッチとして機能するトランジスタTr1〜Tr4がそれぞれ接続されており、垂直走査部21から制御信号TX1〜TX4をそれぞれ印加することにより、トランジスタTr1〜Tr4のオン/オフがそれぞれ制御されるようになっている。
各トランジスタTr1〜Tr4は、フローティングディフュージョンFDに接続されていて、オンされたトランジスタTrに対応するフォトダイオードPDの信号電荷が、フローティングディフュージョンFDに転送されるようになっている。
また、フローティングディフュージョンFDには、スイッチとして機能するトランジスタTr5の一端が接続されており、トランジスタTr5の他端は電源電圧VDDに接続されている。そして、トランジスタTr5にリセット信号RESを印加することにより、電源電圧VDD側とフローティングディフュージョンFD側とのオン/オフが制御されるようになっている。このような構成により、トランジスタTr5をオンにすることで、フローティングディフュージョンFDのリセットが行われる。また、トランジスタTr1〜Tr4をオンにした状態で、さらにトランジスタTr5をオンにすることで、フォトダイオードPD1〜PD4のリセットが行われる。
フローティングディフュージョンFDは、スイッチとして機能するトランジスタTr6と、電源電圧VDDに接続され増幅部として機能するトランジスタTr7と、を介して出力端子OUTに接続されている。
トランジスタTr6に選択信号SELを印加することで、フローティングディフュージョンFDの電圧値がトランジスタTr7により増幅されて、出力端子OUTから読み出されるようになっている。
図6および図7を参照して、第1読出に係るタイミングチャートを説明する。
図6は、第1読出における電子シャッタ動作を行うときの撮像素子4の駆動例を示すタイミングチャートである。なお、図6(および後述する図7)におけるタイミングt1〜t5(ならびに後述する図8〜図10におけるタイミングt1〜t10)は、1つのタイミングチャート内におけるタイミングの前後関係を表すものであり、異なるタイミングチャートにタイミングを示す同一の記号(例えばt1)が記載されていても、同一の時刻を表すものではない。
タイミングt2において、リセット信号RESをオンにする(スイッチとして機能するトランジスタTr1〜Tr6の内、オンであることを明示したもの以外はオフであるものとする。以下同様。)と、フローティングディフュージョンFDがリセットされる。このリセット信号RESのオンは、タイミングt4においてリセット信号RESがオフにされるまで行われる。
タイミングt3において、制御信号TX1〜TX4をオンにすると、この時点ではリセット信号RESがオンであるために、フォトダイオードPD1〜PD4の信号電荷がさらにリセットされる。
その後、タイミングt4においてリセット信号RESがオフにされる。
なお、この図6に示す流れでは、フォトダイオードPD1〜PD4からフローティングディフュージョンFDへの電荷転送はないために、フローティングディフュージョンFDは、タイミングt2以降、リセット電荷(タイミングチャート中において、RESと記載)を保持する。
図7は、第1読出における画素信号読出を行うときの撮像素子4の駆動例を示すタイミングチャートである。図6に示したような電子シャッタの動作から露光時間(いわゆるシャッタ速度に対応)が経過した後に行われる画素信号の読み出し動作を示すのが、この図7である。従って、電子シャッタの動作は露光を開始する先幕動作、読み出し動作は露光を終了する後幕動作ということができる(以下、同様)。
タイミングt1において、リセット信号RESをオンにすると、フローティングディフュージョンFDがリセットされる。そして、フローティングディフュージョンFDは、リセット電荷(RES)を保持する。
タイミングt2において、選択信号SELをオンにすると、フローティングディフュージョンFDに蓄積されたリセット電荷(RES)の電圧(リセット電圧)が、トランジスタTr7により増幅されて、出力端子OUTから読み出される。
タイミングt3において、制御信号TX1〜TX4をオンにすると、フォトダイオードPD1〜PD4の信号電荷(これらの信号電荷をPD1〜PD4とする)が、フローティングディフュージョンFDへ転送される。これにより、フローティングディフュージョンFDは、電荷(PD1234+RES(なお、PD1234=PD1+PD2+PD3+PD4である))を保持する。
タイミングt4において、選択信号SELをオンにすると、フローティングディフュージョンFDに蓄積された電荷(PD1234+RES)の電圧が上述のように出力端子OUTから読み出される。このタイミングt4で読み出された電圧に含まれるリセット電圧(リセットノイズ)は、アナログ処理部23のCDS回路により、タイミングt2で読み出されたリセット電圧を用いて除去されるようになっている(以後、説明は省略するが、同様にしてリセットノイズが除去される)。
続いて、(図8または図9)および図10を参照して、第3読出に係るタイミングチャートを説明する。なお、第2読出については簡略化のために説明を省略するが、図5に示したような回路を制御することにより、同様に行うことができる。
図8は、第3読出における電子シャッタ動作を行うときの撮像素子4の駆動の第1例を示すタイミングチャートである。図8〜図10において、図6または図7と同様である点については適宜省略し、以下ではより簡潔に説明する。
タイミングt7においてリセット信号RESをオンにし、オンにしたリセット信号RESを、タイミングt9においてオフにする。そして、リセット信号RESがオンになっているタイミングt8において、制御信号TX1〜TX4をオンにして、フォトダイオードPD1〜PD4の信号電荷をリセットする。
図9は、第3読出における電子シャッタ動作を行うときの撮像素子4の駆動の第2例を示すタイミングチャートである。後で図10を参照して説明するように、第3読出における画素信号読出においては、タイミングt3におけるフォトダイオードPD1,PD2の信号電荷の読み出しと、タイミングt8におけるフォトダイオードPD1〜PD4の信号電荷の読み出しと、が行われる。そこで、電子シャッタ動作におけるフォトダイオードPD1〜PD4のリセットをタイミングt3およびタイミングt8の2度行うことで、電源電圧VDDの変動が一定(定常的)となるようにしたのが、この図9の電子シャッタ動作である。
すなわち、タイミングt2においてリセット信号RESをオンにし、オンにしたリセット信号RESを、タイミングt4においてオフにする。そして、リセット信号RESがオンになっているタイミングt3において、制御信号TX1〜TX4をオンにして、フォトダイオードPD1〜PD4の信号電荷をリセットする。
さらに、タイミングt7においてリセット信号RESをオンにし、オンにしたリセット信号RESを、タイミングt9においてオフにする。そして、リセット信号RESがオンになっているタイミングt8において、制御信号TX1〜TX4をオンにして、フォトダイオードPD1〜PD4の信号電荷をリセットする。
図10は、第3読出における画素信号読出を行うときの撮像素子4の駆動例を示すタイミングチャートである。
タイミングt1において、リセット信号RESをオンにしてフローティングディフュージョンFDをリセットし、タイミングt2において、リセット電荷(RES)の電圧を読み出す。
タイミングt3において、フォトダイオードPD1,PD2の信号電荷をフローティングディフュージョンFDへ転送してタイミングt4において電荷(PD12+RES(なお、PD12=PD1+PD2である))の電圧を読み出す。
その後、タイミングt8において、フォトダイオードPD1〜PD4の信号電荷をフローティングディフュージョンFDへ転送してタイミングt9において電荷(PD1234+RES)の電圧を読み出す。
なお、図10に示す動作を行う場合には、タイミングt3で読み出される電荷と、タイミングt8で読み出される電荷とは、露光時間が異なることになる。しかし、この露光時間の差は、実際の露光時間(例えば、1/30秒〜1/1000秒など)に比べてごく小さいために、実体的な影響はほぼないと考えてよい。
図7と図10とを比較すれば分かるように、第1読出では画像用画素のみを1回で読み出せばよいが、第3読出では、一対の焦点検出用画素信号の一方の読み出しと、画像用画素信号の読み出しと、の2回の読み出しが必要となる。従って、ローリングシャッタの幕速は、第1読出の方が第3読出よりも速くなっている。また、図示はしていないが、第2読出でも同様に、一対の焦点検出用画素信号の一方の読み出しと他方の読み出しとの2回の読み出しが必要となるために、ローリングシャッタの幕速は、第1読出の方が第2読出よりも速くなっている。
図11は、撮像装置1の作用を示すフローチャートである。この図11および後述する図12〜図14の各動作は、システム制御部16の制御に基づいて撮像装置1により行われるようになっている。
入力IF15の電源ボタンがオンされる等によりこの処理を開始すると、撮像装置1の各部に電源を供給してチェックを行うと共に、初期設定パラメータ(あるいは、ユーザにより前回設定されたパラメータ)等を読み込んで各部に設定するなどの、撮像装置1の初期設定を行う(ステップS1)。
そして、撮像装置1のモードが変更されたか否かを判定する(ステップS2)。ここに、変更判定の対象とする撮像装置1のモードには、撮影モード(静止画モード/動画モード等)、連写モード/単写モード、フォーカスモード(SAFモード/CAFモード/MFモード等)などがある。
ここで、モードが変更されたと判定された場合には、入力内容に従って撮像装置1のモードを設定する(ステップS3)。
このステップS3を行うか、またはステップS2においてモードが変更されていないと判定された場合には、撮像装置1に関連する状態の変化があるか否かを判定する(ステップS4)。ここに、変化判定の対象とする撮像装置1に関連する状態には、撮像レンズ2の光学状態(例えば、F値など)、画像から取得される被写体輝度値、ブレ検出部11から取得される撮像装置1の移動(手ブレによる移動、パン操作による移動など)、被写体移動速度検出部12により検出される被写体の移動速度に基づく被写体移動、温度センサ10から取得される撮像装置1内の温度、などが幾つかの例として挙げられる(ただし、これらに限定されるものではない)。
そして、撮像装置1に関連する状態の変化があると判定された場合には、変化した状態を例えばメモリ6に記憶しておく(ステップS5)。
このステップS5を行うか、またはステップS4において状態の変化がないと判定された場合には、撮像モードが静止画モードと動画モードとの何れであるかを判定する(ステップS6)。ただしここでは、撮像装置1が撮像モードに設定されている場合を想定しており、再生モード等に設定されている場合の処理は省略している。
このステップS6で、静止画モードであると判定された場合には後で図12を参照して説明する静止画処理を行い(ステップS7)、動画モードであると判定された場合には後で図13を参照して説明する動画処理を行う(ステップS8)。
ステップS7またはステップS8の処理を行ったら、入力IF15の電源ボタンがオフされたか否かを判定し(ステップS9)、まだオフされていないと判定した場合にはステップS2へ戻って上述したような処理を行う。
一方、ステップS9において電源ボタンがオフされたと判定された場合には、この処理を終了する。
図12は、図11におけるステップS7の静止画処理の内容を示すフローチャートである。
この処理に入ると、後で図14を参照して説明する撮像動作を行う(ステップS11)。
そして、ステップS11で撮影された画像に、画像信号処理部9がライブビュー用の画像処理を行い、表示部13に表示するライブビューを行う(ステップS12)。
次に、レリーズボタンのファーストレリーズ(1R)スイッチがオンされたか否かを判定する(ステップS13)。
ここで、1Rスイッチがオンされたと判定された場合には、ライブビュー用にステップS11で取得された画像に基づいて、焦点検出用信号処理部8が像面位相差AFまたはコントラストAFを行う(ステップS14)。ただし、マニュアルフォーカス(MF)モードに設定されている場合には、この処理はスキップされる。
なお、焦点検出用信号処理部8が像面位相差AFを行う場合であって、第2の行が第3読出された場合には、読み出される画素信号は、上述したように、例えばPD12およびPD1234であるために、焦点検出用減算部7により、PD34=PD1234−PD12(なお、PD34=PD3+PD4である)の焦点検出用減算処理が行われ、PD12とPD34の組み合わせが復元される。
続いて、レリーズボタンのセカンドレリーズ(2R)スイッチがオンされたか否かを判定する(ステップS15)。
ここで、2Rスイッチがオンされていないと判定された場合には、ステップS11へ戻って上述したような処理を行う。なお、1Rスイッチがオンされ続けているときのステップS11からステップS15のループにおいて、シングルオートフォーカス(SAF)モードに設定されている場合には、2回目以降のステップS14の処理はスキップされ、1Rスイッチがオンされた直後に設定された焦点位置が維持される。
また、ステップS15において、2Rスイッチがオンされたと判定された場合には、後で図14を参照して説明する撮像動作を行う(ステップS16)。
そして、ステップS16で撮影された画像に、画像信号処理部9が静止画用の画像処理を行い、記録部14に静止画像として記録する(ステップS17)。
その後、静止画モードが複数枚の静止画像を連続して撮影する連写モードであるか否かを判定する(ステップS18)。
ここで、連写モードであると判定された場合には、ステップS11へ戻って上述したような処理を行い、次の連写画像を取得する。この連写モード時には、ステップS14において、動体予測AFを行う。
ステップS18において連写モードでない(つまり、1枚の静止画像のみを撮影する単写モードである)と判定された場合、またはステップS13において1Rスイッチがオンされていないと判定された場合には、この処理から図11に示した処理にリターンする。
図13は、図11におけるステップS8の動画処理の内容を示すフローチャートである。
この処理に入ると、後で図14を参照して説明する撮像動作を行う(ステップS21)。
そして、ステップS21で撮影された画像に、画像信号処理部9がライブビュー用の画像処理を行い、表示部13に表示するライブビューを行う(ステップS22)。
次に、入力IF15の動画ボタンがオンされたか否か、つまり、動画記録が開始されたか否かを判定する(ステップS23)。
ここで、動画記録が開始されていないと判定された場合には、ステップS21へ戻って上述したような処理を行う。
また、ステップS23において動画記録が開始されたと判定された場合には、後で図14を参照して説明する撮像動作を行う(ステップS24)。
そして、ステップS24で撮影された画像に、画像信号処理部9が動画用の画像処理を行い、記録部14に動画の1フレームとして記録する(ステップS25)。
さらに、ステップS24で取得された画像に基づいて、焦点検出用信号処理部8が像面位相差AFまたはコントラストAFを行う(ステップS26)と共に、画像信号処理部9がライブビュー用の画像処理を行い、表示部13に表示するライブビューを行う(ステップS27)。
その後、動画ボタンがオフされたか否か、つまり、動画記録を終了するか否かを判定する(ステップS28)。
ここで、動画記録を終了しないと判定された場合には、ステップS24へ戻って上述したように動画撮影を継続して行う。
一方、ステップS28において、動画記録を終了すると判定された場合には、この処理から図11に示した処理にリターンする。
図14は、図12におけるステップS11,S16、および図13におけるステップS21,S24の撮像動作の内容を示すフローチャートである。
この処理に入ると、撮像素子4は、システム制御部16の制御に基づいて、MIXモードにおける、水平方向および垂直方向におけるミックス処理の画素加算数や画素間引き割合などを設定する(ステップS31)。
次に、撮像装置1のモードと状態との少なくとも一方に変更があったか否かを判定する(ステップS32)。この判定は、例えば、図11のステップS3で設定された撮像装置1のモード、あるいはステップS5でメモリ6に記憶された撮像装置1に関連する状態の変化に基づいて行う。
ここで、少なくとも一方に変更があったと判定された場合には、撮像対象のフレームに対して、周期読出を行うか否かを判定する(ステップS33)。
例えば、静止画撮影時あるいはマニュアルフォーカス(MF)モードにおいて、3D情報、デプスマップ、深度補正情報などが不要であるとき、つまり焦点検出用信号が不要であるときには、全ての画像用画素信号を上述した第1読出により読み出せばよく、周期読出(つまり、第2読出と第3読出の何れも)が不要となる。そこで、このステップS33の判定を行っている。
ここに、周期読出は、第1読出を行う第1の行と、第2読出または第3読出を行う第2の行と、を1つのフレーム内において列方向に周期に行う制御方法である。
例えば図3において、有効エリア22eに対して、行範囲Xが1周期を示し、行範囲Yが第2の行群、行範囲Zが第1の行群である。以下では、行範囲X,Y,Zの行数をそれぞれnx(1周期内における行の数),ny(1周期内における第2の行の数),nz(1周期内における第1の行の数)により表すものとする。
そして、周期読出を行うと判定された場合には、制御部が、撮像装置1のモードおよび状態に応じて、有効エリア22eに適用する読み出しの周期の行数nxを設定すると共に(ステップS34)、1つの周期内における焦点検出用信号を読み出す行数nyを設定する(ステップS35)。
ここに、nx=ny+nzが成り立つために、nxおよびnyを設定すれば、nzは自動的に定まることになる。ただし、nxおよびnyを設定するのに代えて、nxおよびnzを設定してもよいし、nyおよびnzを設定しても構わない。このときさらに、好ましくはny<nz(あるいはny≦nz)が満たされるように、行カウンタ演算部30を含む素子制御部29(制御部)が制御するようになっている。
なお、上述では、例えばnxとnyの両方を設定する例を説明したが、これに限定されるものではなく、一方のみを設定するようにしても構わない(例えば、制御部は、ny<nzの範囲内において、nxのみを変更するように制御してもよい)。
例えば、必要に応じて位相差AFの精度を調整するためには、焦点検出用信号を取得することができる行数の割合、つまり、1周期内の第2の行の割合ny/nxを変化させればよい。こうして、制御部は、撮像装置1に係るパラメータに応じてny/nxが変化するように、nx、または、nxおよびny(ただし、上述したように、nxおよびnzでも同義である)を変更すればよい(同様に、少なくともnx=ny+nzが変更されるように、nyおよびnzを変更しても構わない)。
また、有効エリア22eに適用する周期は、有効エリア22e全体に適用される周期(固定周期)であるが、有効エリア22e内の一部分と他の部分とで周期を異ならせることを禁止するものではない。一例を挙げれば、有効エリア22eの中央部分の行に対しては行数のセット(nx1,ny1,nz1)で表される第1の周期を適用し、有効エリア22eのその他の行に対しては行数のセット(nx2,ny2,nz2)で表される第2の周期を適用することも可能である。
さらに、VOBエリア22vでは周期性は不要であるために、素子制御部29は、このようなnx,ny,nzで定まる周期を、有効エリア22eには適用するが、VOBエリア22vには適用しないように制御する。
すなわち、素子制御部29は、VOBエリア22vにおける第1の行群の行範囲Aの行数naを設定すると共に(ステップS36)、第2の行群の行範囲Bの行数nbを設定する(ステップS37)。
ここで設定する行数na,nbは、撮像装置1のモードおよび状態に依存することのない一定値として構わない(ただし、行数na,nbを、撮像装置1のモードおよび状態に応じて変化させることを妨げるものではない)。
また、OBレベルの精度を上げるためにはある程度以上の行数が必要となるために、仮に有効エリア22eにおいてny<<nzであったとしても、nb<<naとはせずに、行数naと行数nbとを比較的近い値とすることが好ましい。
このステップS37を行った後、ステップS32において撮像装置1のモードと状態との何れにも変更がないと判定された場合、または、ステップS33において周期読出を行わないと判定された場合には、例えば画像のアスペクト比や電子ズーム等に応じた画像切り出しの設定を行う(ステップS38)。
そして、システム制御部16および素子制御部29を含む制御部の制御に基づき、撮像素子4により電荷の蓄積を行って、露光時間が経過した電荷を読み出す処理を行い(ステップS39)、この処理を呼び出した元の処理へリターンする。
ところで、撮像装置1に対して相対的に高速に移動する被写体をローリングシャッタで撮影したときの歪み(いわゆるローリングシャッタ歪み)の量は、ローリングシャッタの幕速によって異なる。このために、幕速が速い第1読出を行う行範囲Zと、幕速が遅い第3読出(または第2読出)を行う行範囲Yとは、歪み量が異なり、斜め線にギザギザ(あるいはジグザグ)が生じることになる。
ここで、図15は、撮像素子4を駆動するための垂直同期信号VDおよび水平同期信号HDにおける、電子シャッタ動作が行われる部分Sおよび読出動作が行われる部分Rの例を示すタイミングチャート、図16は、図15における電子シャッタ動作の様子を拡大して示すタイミングチャート、図17は、図15における読出動作の様子を拡大して示すタイミングチャートである。図15〜図17においては右方向を時間Tが進む方向としている。
図15に示す電子シャッタ動作が行われる部分Sを拡大して示すのが図16、図15に示す読出動作が行われる部分Rを拡大して示すのが図17である。
図16に示す電子シャッタ動作は、図17に示す読出動作から露光時間だけ遡った時点で行われるように制御されるために、図16に示す先幕の動作と、図17に示す後幕の動作とは、基本的に幕速の変化による傾きが同一である。
そして、行範囲Zは幕速が速い第1読出を行い、行範囲Yは幕速が遅い第3読出(または第2読出)を行うために、行範囲Zにおける電子シャッタ幕の動きM1SおよびM1Rは、行範囲Yにおける電子シャッタ幕の動きM2SおよびM2Rよりも傾きが急である。
従って、隣り合う行の露光開始タイミングおよび露光終了タイミングのずれは、行範囲Zよりも行範囲Yの方が大きくなり、つまり、ある行の露光期間と次の行の露光期間との間に被写体が撮像装置1に対して相対的に移動する量は、行範囲Zよりも行範囲Yの方が大きくなる。このために、相対的に移動する被写体の斜め線の傾きが行範囲Zと行範囲Yとで異なりギザギザが生じることになる。
こうしたギザギザをなるべく目立ち難くするためには、行数nyをなるべく小さくすることが好ましく、例えば、ADC処理部24が備えるカラムADCの本数で決まる最小値に設定するとよい。具体的に、1行分の画素データを並列的にAD変換するカラムADCが4本設けられている場合には、ny=4に設定する等である。
一方、AFの精度を上げるためには、上述したように、1周期内の第2の行の割合ny/nxを制御して、(ny/nx)<<(1/2)である状態から、(ny/nx)<(1/2)を満たす範囲で(ny/nx)≒(1/2)に近付けるとよい。
従って、変化させる行数の種類を減らして効果的な制御を行うという実用上の観点からは、行数nyをなるべく小さい値(例えば上述したようなハードウェア的に定まる最小値)に固定した上で、(ny/nx)<(1/2)を満たす範囲(つまり、ny<nzを満たす範囲)内で周期の行数nxのみを変化させることにより、割合ny/nxを制御するという運用が考えられる。
以下では、撮像装置1のモードや状態をパラメータとして、制御部が割合ny/nxをどのように制御するかの例を幾つか説明する。
図18は、撮像装置1または被写体の移動速度に対する、1周期内の第2の行の割合ny/nxの制御の例を示す線図である。なお、図18〜図24においては、割合ny/nxの制御の傾向を大まかに示しているために、図面上は直線的に変化しているとしても、曲線的(あるいは折れ線状)に変化させてもよいし、階段状に変化させても構わないし、図示の例に限定されるものではない。
この図18に示す例では、ブレ検出部11の検出結果に基づき得られる撮像装置1の移動速度(パラメータ)、または被写体移動速度検出部12により検出される被写体の移動速度(パラメータ)が速くなる(速度値が増加する)に従って、割合ny/nxが増加するように制御部が制御している。
これは、撮像装置1または被写体の移動速度が速い場合に、AF精度を確保して被写体に追従させるためである。
なお、撮像装置1の移動速度と被写体の移動速度との両方を用いて、撮像装置1に対する被写体の相対的な移動速度をパラメータとして算出し、相対的な移動速度が速くなる(速度値が増加する)に従って、割合ny/nxが増加するように制御部が制御しても構わない。
図19は、撮像装置1の温度または消費電力に対する、1周期内の第2の行の割合ny/nxの制御の例を示す線図である。
この図19に示す例では、温度センサ10から取得される撮像装置1の温度(パラメータ)またはシステム制御部16による電源制御に基づき得られる撮像装置1の消費電力(パラメータ)が大きくなる(電力値が増加する)に従って、割合ny/nxが減少するように制御部が制御している。
2回の読み出しを行う第2の行は、1回の読み出しを行う第1の行よりも消費電力が大きく、つまり多くの熱が発生して撮像装置1の温度が高くなるから、第2の行の割合ny/nxを減らすことで温度、消費電力の上昇を抑制するためである。
なお、動画撮影中や連写撮影中には、消費電力が大きく撮像装置1の温度が上昇することがあるために、この図19の制御を行うと好適である。
図20は、撮像素子4からの読出フレームレートに対する、1周期内の第2の行の割合ny/nxの制御の例を示す線図である。
この図20に示す例では、システム制御部16の制御に基づき撮像素子4に設定される読出フレームレート(パラメータ)が速くなる(読出フレームレートの値が増加する)に従って、割合ny/nxが増加するように制御部が制御している。
読出フレームレートを速くする場合には、ミックス処理のミックス数(画素加算数や画素間引き割合)を上げる処理が行われる。このとき、ミックス数が大きい程、画面内における焦点検出用画素の間隔が広くなって位相差検出精度が低下してしまう。そこで、読出フレームレートが速くなるに従って割合ny/nxが増加させることで、位相差検出精度の低下を抑制するようにしているためである。
図21は、被写体の輝度値に対する、1周期内の第2の行の割合ny/nxの制御の例を示す線図である。
この図21に示す例では、システム制御部16が画像信号処理部9から取得する被写体の輝度値(パラメータ)が大きくなる(増加する)に従って、割合ny/nxが減少するように制御部が制御している。
これは、被写体の輝度値が大きいとローリングシャッタ歪みが目立つために、割合ny/nxを減少させることでローリングシャッタ歪みを抑制するようにしたためである。一方、被写体の輝度値が小さいと焦点検出用画素信号のS/Nが低下して、ひいてはAF精度が低下するために、被写体の輝度値が小さい場合に第2の行の割合ny/nxを増加してより多くのデータに基づきAFを行うことで、AF精度の低下を抑制するようにしたためである。
図22は、撮像レンズ2のF値に対する、1周期内の第2の行の割合ny/nxの制御の例を示す線図である。
この図22に示す例では、システム制御部16の制御に基づき撮像レンズ2に設定されるF値(パラメータ)が大きくなる(増加する)(つまり、撮像素子4に入射する単位時間当たりの光量が減少する)に従って、割合ny/nxが増加するように制御部が制御している。
F値が小さいほど被写界深度が浅くなるが、位相差検出を行って得られる2像間隔値をデフォーカス量に変換する係数が原理的にさらに高い比率で小さくなる。係数が小さいと、位相差検出に誤差があったとしても、誤差の影響が小さくなるために、位相差検出の精度を特に高める必要はない。これに対して、F値が大きくなると係数が大きいために、位相差検出の誤差が精度に影響する。そこで、F値が大きくなるに従って割合ny/nxを増加してより多くのデータに基づき位相差検出を行うことで、検出精度の低下を抑制するようにしたためである。
図23は、撮像装置1のモードに対する、1周期内の第2の行の割合ny/nxの制御の例を示す図表である。
この図23に示す例では、システム制御部16により設定される撮像装置1のモード(パラメータ)が、静止画撮影中モードである場合には割合ny/nxを小さくし、動画撮影中モードである場合およびライブビュー(LV)モードである場合には静止画撮影中モードである場合よりも割合ny/nxを大きくするように制御部が制御している。
ここに、動画撮影中モードおよびLVモードではAFを追従させていく必要があるために割合ny/nxを確保しているのに対して、静止画撮影中モードでは画質を優先して割合ny/nxを小さくしている。なお、動画撮影中モードとLVモードとで割合ny/nxを異ならせても構わない。
図24は、フォーカスモードに対する、1周期内の第2の行の割合ny/nxの制御の例を示す図表である。
この図24に示す例では、システム制御部16により設定される撮像装置1のフォーカスモード(パラメータ)が、マニュアルフォーカス(MF)モードである場合には割合ny/nxを小さくし、シングルオートフォーカス(SAF)モードである場合およびコンティニュアスオートフォーカス(CAF)モードである場合にはMFモードである場合よりも割合ny/nxを大きくするように制御部が制御している。
これは、SAFモードおよびCAFモードではAF精度を保つ必要があるために割合ny/nxを大きくしているが、MFモードではAFを行わないために割合ny/nxを小さくして画質を優先している。なお、SAFモードとCAFモードとで割合ny/nxを異ならせても構わない。
また、図23に示した撮像装置1のモード(あるいはさらに図24に示したフォーカスモード)に応じて定まる割合ny/nxを基本として、その基本の割合ny/nxを各パラメータに応じてどのように変化させるかを示すのが図18〜図22である。さらに、図18〜図22におけるグラフの傾きは、撮像モードやフォーカスモードに応じて異なるように設定される。
例えば、図18〜図22に示したような制御は、静止画撮影用の位相差検出を行う際に好適に適用される。ただし、静止画撮影をメカニカルシャッタでなく電子シャッタにより行う場合には、ローリングシャッタ歪みによる画質の低下を抑制するために、パラメータに基づく割合ny/nxの制御を行わないか、あるいは割合ny/nxの変化を静止画撮影用の位相差検出時よりも小さくするとよい。例えば、静止画連写撮影を電子シャッタにより行う場合は、AF用の撮像動作(図12のステップS11)ではパラメータに基づく割合ny/nxの制御を行い、静止画用の撮像動作(図12のステップS16)では割合ny/nxの制御を行わないようにする。これにより移動する被写体へのAF精度を確保するとともに、静止画のローリングシャッタ歪みによる画質の低下を抑制する。同様に、動画撮影中は、割合ny/nxの変化を静止画撮影用の位相差検出時よりも小さくするとよい。
そして、割合ny/nxを決定するのに、1つのパラメータを用いるに限るものではなく、複数のパラメータを組み合わせても勿論構わない。このような、パラメータが複数あって複数のパラメータに応じて複数のny/nxが定まる場合には、制御部は、複数のny/nxの内の最も値が小さいny/nxを選択して設定するとよい。これにより、ローリングシャッタ歪みにおける斜め線のギザギザをなるべく目立たなくすることができる。
このような実施形態1によれば、第1の行と第2の行との1つのフレーム内における列方向の周期を制御して、焦点検出用画素信号を読み出す行を1フレーム内に周期的に分散させたために、読出時間を短縮しながら、ローリングシャッタ歪みにおける斜め線のギザギザを目立ち難くすることができる。そして、消費電力を低減しながら位相差AFを行うことが可能となる。加えて、制御を工夫することにより処理を行っているために、複雑な回路を追加する等が不要であり、コストの増加を抑制することができる。
また、ny<nzの範囲内においてnxを変更するようにしたために、焦点検出用画素信号を読み出す行を制限して、読出時間を有効に短縮し、ひいてはフレームレートの向上等も図ることができる。
さらに、パラメータに応じてnx、または、nxおよびnyを変更して、ny/nxが変化するようにしたために、ローリングシャッタ歪みにおける斜め線のギザギザの目立たなさを、有効にコントロールすることが可能となる。
そして、複数のパラメータに応じて複数のny/nxが定まる場合には、複数のny/nxの内の最も値が小さいny/nxを選択して設定するようにしたために、ギザギザを最も目立ち難くする選択を行うことができる。
例えば、撮像装置1の移動速度または被写体の移動速度が速くなる(速度値が増加する)に従ってny/nxを増加させる場合には、AF精度を確保して被写体に追従させることができる。
また、撮像部である撮像素子4からの読出フレームレートが速くなる(読出フレームレートの値が増加する)に従ってny/nxを増加させる場合には、ミックス処理による位相差検出精度の低下を抑制することができる。
撮像レンズ2のF値が大きくなる(増加する)に従ってny/nxを増加させる場合には、F値が大きくなったときの位相差検出精度の低下を抑制することができる。
一方、撮像装置1の温度が高くなる、または消費電力が大きくなる(電力値が増加する)に従ってny/nxを減少させる場合には、2回の読み出しを行う第2の行数が減るために、温度および消費電力の増加を抑制することができる。
被写体の輝度値が大きくなる(増加する)に従ってny/nxを減少させる場合には、被写体の輝度値が大きいときに目立つローリングシャッタ歪みを抑制することができると共に、被写体の輝度値が小さくつまり被写体が暗い場合のAF精度の低下を抑制することができる。
動画撮影中モードである場合およびライブビュー(LV)モードである場合に、静止画撮影中モードである場合よりもny/nxを大きくするようにしたために、静止画撮影中モードでは画像の画質を優先することができ、動画撮影中モードおよびLVモードではAF精度を優先してAFの追従精度を維持することができる。
SAFモードである場合およびCAFモードである場合には、MFモードである場合よりもny/nxを大きくするようにしたために、AFを行わないMFモードでは画質を優先することができ、SAFモードおよびCAFモードではAF精度を優先して高い精度の位相差AFを確保することができる。
そして、第1の行と第2の行との1つのフレーム内における列方向の周期を、VOBエリア22vには適用しないようにしたために、第1の行に対するOBデータと第2の行に対するOBデータとを、何れも精度良く取得することが可能となる。
なお、上述した各部の処理は、ハードウェアとして構成されたプロセッサが行うようにしてもよい。
また、上述では主として撮像装置について説明したが、撮像装置を上述したように制御する制御方法であってもよいし、コンピュータに撮像装置と同様の処理を行わせるための処理プログラム、該処理プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。
さらに、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。