一実施の形態の撮像装置として、レンズ交換式デジタルスチルカメラシステムを例に上げて説明する。図1は一実施形態のカメラシステム(デジタルスチルカメラ)201の概要を示す図であり、カメラ本体(カメラボディ)203の前部には交換レンズ202が装着される。カメラボディ203の背部には撮像素子ユニット400を装着するための装着部221が設けられている。装着部221には撮像素子ユニット400が装着部221に装着された時に撮像素子ユニット400と通信するための電気接点222が設けられている。撮像素子ユニット400はカメラボディ202の装着部221に対して着脱可能であり、撮像素子ユニット400が装着部221に装着された時にカメラボディ203と通信するための電気接点222と接触する電気接点422が設けられている。
図2は一実施形態のカメラシステム201の構成を示すブロック図である。カメラシステム201は交換レンズ202とカメラボディ203と撮像素子ユニット400から構成され、交換レンズ202がマウント部204を介してカメラボディ203に装着される。カメラボディ203にはマウント部204を介して種々の撮影光学系を有する交換レンズ202が装着可能である。また撮像素子ユニット400が装着部221を介してカメラボディ203に装着される。カメラボディ203には装着部221を介して種々の撮像素子を有する撮像素子ユニット400が装着可能である。
交換レンズ202はレンズ209、ズーミング用レンズ208、フォーカシング用レンズ210、絞り211、レンズ制御装置206などを備えている。レンズ制御装置206は不図示のマイクロコンピューター、メモリ、駆動制御回路などから構成され、フォーカシング用レンズ210の焦点調節と絞り211の開口径調節のための駆動制御や、ズーミング用レンズ208、フォーカシング用レンズ210および絞り211の状態検出などを行う他、後述するボディ制御装置214との通信によりレンズ情報の送信とカメラ情報の受信を行う。絞り211は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。
撮像素子ユニット400は撮像素子412、ユニット制御装置401、メモリ402、撮像素子駆動回路404などを備えている。焦点検出画素を含む撮像素子を備えた撮像素子ユニットにおいては、焦点検出画素の位置における仮想的な撮像画素のデータを焦点検出画素の周囲の撮像画素のデータから補間するための画素補間回路403も備えている。
ユニット制御装置401は撮像素子駆動回路404を介して撮像素子412を駆動制御し、撮像画素データ(撮像信号)および焦点検出画素データ(焦点検出信号)の読み出しを繰り返し行うとともに、電気接点422を介してボディ制御装置214と通信を行うことにより、上記撮像画素データおよび焦点検出画素データレンズ情報をカメラボディ203に送信するとともに、カメラボディ203からカメラボディ情報を受信する。メモリ402には撮像素子の特性情報や焦点検出に関連する情報が記憶されており、該情報はユニット制御装置401により読み出されてカメラボディ203に送信される。
撮像素子412には、撮像画素が二次元状に配置されるとともに、焦点検出画素を含む撮像素子においては焦点検出位置に対応した部分に焦点検出画素が組み込まれている。この撮像素子412については詳細を後述する。
カメラボディ203はボディ制御装置214、液晶表示素子駆動回路215、液晶表示素子216、接眼レンズ217、メモリカード219、操作手段220などを備えている。ボディ制御装置214はマイクロコンピューター、メモリ、駆動制御回路などから構成され、画像生成を行って該画像の画像データを記録するとともに、焦点情報の生成を行って該焦点情報に基づいて交換レンズ202の焦点調節を繰り返し行う。またその他カメラシステム全体の動作制御などを行う。また、ボディ制御装置214は電気接点213を介してレンズ制御装置206と通信を行い、レンズ情報の受信とカメラ情報(デフォーカス量や絞り値など)の送信を行うとともに、電気接点222を介して撮像素子ユニット422と通信を行い、撮像素子の特性情報や焦点検出に関連する情報の受信とカメラボディ情報の送信を行う。
液晶表示素子216は電気的なビューファインダー(EVF:Electronic View Finder)として機能する。液晶表示素子駆動回路215は画像を液晶表示素子216に表示し、撮影者は接眼レンズ217を介して画像を観察することができる。メモリカード219は、画像データ記憶する画像ストレージである。操作手段220はカメラボディ203に対しユーザーの意志を伝達するための手段であって、これにより焦点検出位置の選択やシャッターレリーズの指示が行われる。
撮像素子412には、撮像画素が二次元状に配置されるとともに、焦点検出位置に対応した部分に焦点検出画素が組み込まれている。この撮像素子412については詳細を後述する。
以上のような構成により、以下のような動作が行われる。交換レンズ202を通過した光束により、撮像素子412の受光面上に被写体像が形成される。この被写体像は撮像素子412により光電変換され、撮像画素データと焦点検出画素データが生成される。焦点検出画素データの位置における仮想的な撮像画素データは画素補間回路403により画素補間される。画素補間されたデータを含む撮像画素データと焦点検出画素データと撮像素子の特性情報と焦点検出に関連した情報がユニット制御装置401に取り込まれ、通信によりボディ制御装置214に送信される。
ボディ制御装置214は、焦点検出画素データと焦点検出に関連する情報に基づいてデフォーカス量を算出し、このデフォーカス量をレンズ制御装置206へ送る。また、ボディ制御装置214は、撮像画素データを撮像素子の特性情報に応じて処理することにより画像データを生成し、該画像データをメモリカード219に格納するとともに、該画像データを液晶表示素子駆動回路215へ送り、画像を液晶表示素子216に表示させる。さらに、ボディ制御装置214は、レンズ制御装置206へ絞り制御情報を送って絞り211の開口制御を行う。
レンズ制御装置206は、フォーカシング状態、ズーミング状態、絞り設定状態、絞り開放F値などに応じてレンズ情報を更新する。具体的には、ズーミング用レンズ208の位置とフォーカシング用レンズ210の位置と絞り211の絞り値(開口径)を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択し、該情報をボディ制御装置203に送信する。
レンズ制御装置206は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ210を合焦位置へ駆動する。また、レンズ制御装置206は受信した絞り値に応じて絞り211を駆動する。
なお電源についてはカメラボディ203に内蔵し、マウント部204、装着部221を介して交換レンズ202、撮像素子ユニット400に供給してもよいし、カメラボディ203,交換レンズ202、撮像素子ユニット400のおのおのに内蔵してもよい。
図3は、1つの種類の撮像素子ユニットAにおける撮影画面上の焦点検出位置を示す図であり、後述する撮像素子412上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、AFエリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央および左右の3箇所に焦点検出エリア101〜103が配置される。長方形で示す焦点検出エリアの長手方向に、焦点検出画素が垂直方向に直線的に配列される。
撮像素子412の詳細な構成について説明する前に、公知技術である瞳分割型位相差検出方式の原理について、図4を用いて説明する。撮像面110上に焦点検出画素111が複数配列される。焦点検出画素111はマイクロレンズ112と一対の光電変換部113,114から構成される。一対の光電変換部113,114はマイクロレンズ112により撮像面110から前方の距離d(測距瞳距離)にある測距瞳面120に投影され、測距瞳123,124が形成される。換言すると、撮像面110から前方の距離dにある測距瞳面120上を通過する光束のうち測距瞳123の光束が、焦点検出画素111の光電変換部113により受光され、測距瞳面120上を通過する光束のうち測距瞳124の光束が、焦点検出画素111の光電変換部114により受光される。焦点検出画素111の配列の光電変換部113の系列の像信号と、光電変換部114の系列の像信号との相対的なズレ量(位相差、像ズレ量)は、撮像面上に像を形成する光学系の焦点調節状態に応じて変化するので、このズレ量を焦点検出画素が生成する一対の像信号を演算処理することによって求めれば、光学系の焦点調節状態を検出することができる。
ところで上記一対の測距瞳123,124は一対の光電変換部113,114を単純に投影した分布とはならず、マイクロレンズ111の開口径(画素サイズと略一致)に応じた光の回折効果により、ボケを生じて裾野を引いた分布となる。図3において一対の測距瞳123,124の並び方向と垂直な方向のスリットを用いて一対の測距瞳123,124を並び方向に走査すると、一対の測距瞳分布133,134が得られる。上記回折効果により一対の測距瞳分布133,134は隣接した部分で互いに重畳部135を有する。
上述したように瞳分割型位相差検出方式においては、一対の測距瞳を通過する光束が形成する一対の像の撮像面上での像ズレ量を検出し、該像ズレ量に所定の変換係数を乗じて光軸方向のデフォーカス量(焦点調節状態)に変換する。
図5は撮像素子412の詳細な構成を示す正面図であり、図3における焦点検出エリア101の近傍を拡大して画素配列の詳細を示す。撮像素子412には撮像画素310が二次元正方格子状に稠密に配列される。撮像画素310は赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。焦点検出用には撮像画素と同一の画素サイズを有する垂直方向焦点検出用の焦点検出画素313、314が交互に、本来緑画素と青画素が連続的に配置されるべき垂直方向の直線上に連続して配列される。
図6は撮像画素と焦点検出画素のマイクロレンズの形状を示す図であって、元々画素サイズより大きな円形のマイクロレンズ9から画素サイズに対応した正方形の形状で切り出した形状をしており、マイクロレンズ10の光軸を通る対角線の方向の断面とマイクロレンズ10の光軸を通る水平線の方向の断面とはそれぞれ図に示す形状になっている。
撮像画素310は、図7に示すように矩形のマイクロレンズ10、後述の遮光マスクで受光領域を制限された光電変換部11、および色フィルター(不図示)から構成される。色フィルターは赤(R)、緑(G)、青(B)の3種類からなり、それぞれの分光感度は図9に示す特性になっている。撮像素子412には、各色フィルターを備えた撮像画素310がベイヤー配列されている。
焦点検出画素313は、図8(a)に示すように矩形のマイクロレンズ10と後述の遮光マスクで受光領域を制限された光電変換部13、および不図示のNDフィルター(ニュートラルデンシティフィルター)とから構成され、遮光マスクで受光領域を制限された光電変換部13の形状は矩形である。また、焦点検出画素314は、図8(b)に示すように矩形のマイクロレンズ10と後述の遮光マスクで受光領域を制限された光電変換部14、およびNDフィルター(不図示)とから構成され、遮光マスクで受光領域を制限された光電変換部14の形状は矩形である。焦点検出画素313と焦点検出画素314とをマイクロレンズ10を重ね合わせて表示すると、遮光マスクで受光領域を制限された光電変換部13と14が垂直方向に並んでいる。
焦点検出画素313、314には全ての色に対して焦点検出を行うために特定の色フィルターが設けられておらずその代わりに入射光量を減ずるNDフィルターが設けられており、その分光特性は図10に示す特性となる。つまり、図9に示す緑画素、赤画素および青画素の分光特性を加算したような分光特性となり、その感度の光波長領域は緑画素、赤画素および青画素の感度の光波長領域を包括している。NDフィルターの濃度は、白色光に撮像素子を露光した場合に、例えば焦点検出画素の出力レベルが緑画素の出力レベルに対し3/4以下となるように定められる。これは画面上の像高が高い領域(焦点検出エリア102,103)において焦点検出光束のケラレが発生し、一対の焦点検出画素の出力バランスが崩れ、一方の焦点検出画素の出力が増加した場合においても撮像画素(緑画素)の出力レベルを超えないように余裕を見ているためである。
焦点検出画素313、314は、撮像画素310のBとGが配置されるべき列に配置されている。焦点検出画素313、314が、撮像画素310のBとGが配置されるべき列に配置されているのは、焦点検出画素の位置における撮像用の画像信号を求めるための補間処理において補間誤差が生じた場合に、人間の視覚特性上、赤画素の補間誤差に比較して青画素の補間誤差が目立たないためである。
撮像画素310は、マイクロレンズ10によって最も明るい交換レンズ(例えばF1.0)の射出瞳を通過する光束をすべて受光するような形状に設計される。また、焦点検出画素313a、314aは、マイクロレンズ10によって交換レンズの射出瞳の一対の所定の領域を通過する光束をそれぞれ受光するような形状に設計される。
図11は撮像画素310の断面図である。撮像画素310では撮像用の光電変換部11の上に近接して遮光マスク30が形成され、遮光マスク30の開口部30aを通過した光を光線変換部11は受光する。遮光マスク30の上には平坦化層31が形成され、その上に色フィルター38が形成される。色フィルター38の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30aの形状が前方に投影される。光電変換部11は半導体回路基板29上に形成される。
図12は焦点検出画素313、314の断面図である。焦点検出画素313、314では焦点検出用の光電変換部13,14の上に近接して遮光マスク30が形成され、遮光マスク30の開口部30b、30cを通過した光を光線変換部13,14は受光する。遮光マスク30の上には平坦化層31が形成され、その上にNDフィルター34が形成される。NDフィルター34の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30b、30cの形状が前方に投影される。光電変換部13,14は半導体回路基板29上に形成される。
図13は、マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す。なお、焦点検出画素の部分は拡大して示す。図において、90は、交換レンズ202(図1参照)の予定結像面に配置されたマイクロレンズから前方dの距離に設定された射出瞳である。この距離dは、マイクロレンズの曲率、屈折率、マイクロレンズと光電変換部との間の距離などに応じて決まる距離であって、この明細書では測距瞳距離と呼ぶ。91は交換レンズの光軸、10はマイクロレンズ、13、14は光電変換部、313、314は焦点検出画素、71は撮影光束、73、74は焦点検出光束である。
93はマイクロレンズ10により投影された開口部30bの領域であり、この明細書では測距瞳と呼ぶ。同様に、94はマイクロレンズ10により投影された開口部30cの領域である。図13では、説明を解りやすくするために93,94の領域で示しているが、実際には開口部30bの形状が拡大投影されるとともに回折によりぼやけた形状になる。
図13では、撮影光軸に隣接する5つの焦点検出画素を模式的に例示しているが、画面周辺部の焦点検出画素配列においても、各光電変換部はそれぞれ対応した測距瞳93、94から各マイクロレンズに到来する光束を受光するように構成されている。焦点検出画素の配列方向は一対の測距瞳の並び方向、すなわち一対の光電変換部の並び方向と一致させる。
マイクロレンズ10は交換レンズ202(図2参照)の予定結像面近傍に配置されており、マイクロレンズ10により光電変換部13、14に近接して配置された開口部30b、30cの形状がマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上に投影され、その投影形状は測距瞳93,94を形成する。
光電変換部13は測距瞳93を通過し、焦点検出画素313のマイクロレンズ10に向う光束73によりマイクロレンズ10上に形成される像の強度に対応した信号を出力する。また、光電変換部14は測距瞳94を通過し、焦点検出画素314のマイクロレンズ10に向う光束74によりマイクロレンズ10上に形成される像の強度に対応した信号を出力する。
上述した2種類の焦点検出画素を直線状に多数配置し、各画素の光電変換部の出力を測距瞳93および測距瞳94に対応した出力グループにまとめることによって、測距瞳93と測距瞳94をそれぞれ通過する焦点検出用光束が画素列上に形成する一対の像の強度分布に関する情報が得られる。この情報に対して後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を施すことによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に一対の測距瞳の重心間隔と測距瞳距離の比例関係に応じた変換演算を行うことによって、予定結像面(マイクロレンズアレイの位置)に対する現在の結像面(撮影画面100上で定められる焦点検出位置における実際の結像面)の偏差(デフォーカス量)が算出される。
図14は、図7に示す撮像素子412の撮像画素310が受光する撮影光束の様子を図11と比較して説明するための図であって、図13と重複する部分の説明は省略する。撮像画素はマイクロレンズ10とその背後に配置された光電変換部11等から構成され、光電変換部51に近接して配置された開口部30aの形状がマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上に投影され、その投影形状は測距瞳93、94に略外接する領域95を形成する。
光電変換部11は、領域95を通過してマイクロレンズ10へ向う撮影光束71によってマイクロレンズ11上に形成される像の強度に対応した信号を出力する。
撮像素子ユニットには異なる撮像素子を備えた複数のバリエーションが存在する。図15は、1つの種類の撮像素子ユニットBにおける撮影画面上の焦点検出位置を示す図であり、撮像素子412上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面140上の中央および左右の3箇所に焦点検出エリア141〜143が配置される。長方形で示す焦点検出エリアの長手方向に、焦点検出画素が垂直方向に直線的に配列される。撮影画面110の大きさは撮像素子ユニットAの撮像素子の撮像画面100(図3)より縮小されている。
図16は撮像素子412の詳細な構成を示す正面図であり、図15における焦点検出エリア141の近傍を拡大して画素配列の詳細を示す。撮像素子412には撮像画素320が二次元正方格子状に稠密に配列される。撮像画素320は赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。焦点検出用には撮像画素320と同一の画素サイズを有する垂直方向焦点検出用の焦点検出画素313、314が交互に、本来緑画素と青画素が連続的に配置されるべき垂直方向の直線上に連続して配列される。撮像画素320の画素サイズは撮像素子ユニットAの撮像素子の撮像画素310(図5)より縮小されている。
図17は、1つの種類の撮像素子ユニットCにおける撮影画面上の焦点検出位置を示す図であり、撮像素子412上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央および対角方向の5箇所に焦点検出エリア151〜155が配置される。中央の焦点検出エリア151においては長方形で示す焦点検出エリアの長手方向に、焦点検出画素が垂直方向に直線的に配列される。画面の対角領域に配置された焦点検出エリア152〜155においては長方形で示す焦点検出エリアの長手方向に、焦点検出画素が45度斜め方向に直線的に配列される。撮影画面100の大きさは撮像素子ユニットAの撮像素子の撮像画面100(図3)と同一である。
図18は撮像素子412の詳細な構成を示す正面図であり、図17における焦点検出エリア153の近傍を拡大して画素配列の詳細を示す。撮像素子412には撮像画素320が二次元正方格子状に稠密に配列される。撮像画素310は赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。焦点検出用には撮像画素310と同一の画素サイズを有する垂直方向焦点検出用の焦点検出画素333、334が交互に、本来緑画素が連続的に配置されるべき斜め右上がり45度方向の直線上に連続して配列される。撮像画素310の画素サイズは撮像素子ユニットAの撮像素子の撮像画素310(図5)と同一である。
図19は、1つの種類の撮像素子ユニットDにおける撮影画面上の焦点検出位置を示す図であり、撮像素子412上のには焦点検出画素列が存在していない。撮影画面100の大きさは撮像素子ユニットAの撮像素子の撮像画面100(図3)と同一である。
図20は撮像素子412の詳細な構成を示す正面図であり、図19における中央の近傍を拡大して画素配列の詳細を示す。撮像素子412には撮像画素320が二次元正方格子状に稠密に配列される。撮像画素320は赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。撮像画素320の画素サイズは撮像素子ユニットAの撮像素子の撮像画素310(図5)と同一である。
図21、図22、図23は、一実施の形態のカメラシステム201(デジタルスチルカメラ、撮像装置)のボディ制御装置214、ユニット制御装置401、レンズ制御装置206の動作を示すフローチャートである。図21においてボディ制御装置214は、ステップS100でカメラの電源がオンされると、ステップS110以降の撮像動作を開始する。
ステップS105において交換レンズ202がカメラボディ203に装着されているか否かをチェックし、装着されていない場合は交換レンズ202の装着を待機し、装着されている場合にはレンズ制御装置206と通信してレンズ情報(絞り開口F値など)を読み出す。
ステップS110において撮像素子ユニット400がカメラボディ203に装着されているか否かをチェックし、装着されていない場合は撮像素子ユニット400の装着を待機し、装着されている場合にはユニット制御装置401と通信してメモリ402に記憶されている撮像素子ユニット情報を読み出す。
ここで撮像素子ユニット情報の詳細について説明する。表1、表2は撮像素子ユニット情報をリスト化した表であり、表1が焦点検出に関連した情報、表2が撮像素子の特性情報である。表1、表2においては図3、図5、図15〜図20で説明した撮像素子を搭載した撮像素子ユニットA、B、C、Dのデータを示している。
表1において「AF画素有無」は撮像素子に焦点検出画素が含まれているか否かを示す情報であり、撮像素子ユニットA、B、C、は「あり」であり、撮像素子ユニットDは「なし」である。撮像素子ユニットDはこれ以降の焦点検出に関連した情報はない。「AFエリア数」は撮像素子上のAFエリア(焦点検出エリア)の数を示す情報であり、撮像素子ユニットA、Bは「3」であり、撮像素子ユニットCは「5」である。
撮像素子上のAFエリアは番号付けされており、例えば図3において101がエリア1、102がエリア2、103がエリア3となる。「エリア1位置(行)」、「エリア1位置(列)」は撮像素子上のエリア1の位置を画素配列の行数および列数で示す情報であり、撮像素子ユニットA、B、Cは表1の通りになっている。ここでエリア1の位置とは焦点検出画素配列の中央の画素の位置あるいは焦点検出画素配列の先頭画素の位置に適宜定められている。
「エリア1AF画素数」は撮像素子上のエリア1の焦点検出画素の画素数を示す情報であり、撮像素子ユニットA、B、Cは表1の通りになっている。「エリア1AF画素PD(フォトダイオード)数」は撮像素子上のエリア1の1つの焦点検出画素に備えられた光電変換部の数を示す情報であり、撮像素子ユニットA、B、Cは「1」になっている。後述するような変形例においては焦点検出画素の構造によって「2」になる場合がある。
「エリア1AF画素配列方向」は撮像素子上のエリア1の焦点検出画素の配列方向を示す情報であり、撮像素子ユニットA、B、Cは「垂直」になっている。AFエリアの配列方向に応じて、「水平」、「斜め右上がり45度」、「斜め左上がり45度」にもなる。「エリア1AF画素検出ピッチ」は撮像素子上のエリア1の焦点検出画素の像検出ピッチをμm単位で示す情報であり、撮像素子ユニットAでは「8」、撮像素子ユニットBでは「6」、撮像素子ユニットCでは「8」になっている。撮像素子ユニットA、B、Cのエリア1では一対の焦点検出画素が交互に垂直方向に並んでおり、検出ピッチとは、その一対の焦点検出画素の間隔であり、その値は画素ピッチの2倍の値になる。撮像素子ユニットCの焦点検出画素の配列方向が斜め方向の場合には、この値は更に√2倍となる。
「エリア1AF画素色フィルター」は撮像素子上のエリア1の焦点検出画素が色フィルターを備えているか否かおよび何色の色フィルターを備えているかを示す情報であり、撮像素子ユニットA、B、Cは「なし」になっている。焦点検出画素が緑色の色フィルターを備えている場合には「緑」となる。「エリア1測距瞳距離」は撮像素子上のエリア1の焦点検出画素の測距瞳距離(図13参照)を示す情報であり、撮像素子ユニットA、B、Cは表1の通りになっている。
「エリア1F1.0変換係数」、「エリア1F1.4変換係数」、「エリア1F2.0変換係数」〜「エリア1F8.0変換係数」は撮像素子上のエリア1の焦点検出画素配列のデータに基づき後述する焦点検出演算を行う際に各F値で像ズレ量をデフォーカス量に変換する際の変換係数を示す情報であり、撮像素子ユニットA、B、Cは表1の通りになっている。以下、エリア2以降についても、エリア1と同様な情報が存在する。
表2において「画素配置」は撮像素子の画素配置を示す情報であり、撮像素子ユニットA、B、C、Dは「正方格子」である。撮像素子の画素配置によっては「六方格子」にもなりうる。「画素数(水平)」、「画素数(垂直)」は撮像素子上の画素数を水平方向と垂直方向で示す情報であり、撮像素子ユニットA、B、C、Dは表1の通りになっている。「画素サイズ」は撮像画素の画素サイズをμm単位で示す情報であり、撮像素子ユニットA、C、Dでは「4」、撮像素子ユニットBでは「3」になっている。「色フィルター」は撮像画素の色フィルターの構成を示す情報であり、撮像素子ユニットA、B、C、Dでは「RGB」になっている。撮像素子の色フィルターの構成によっては「補色YCM」、「モノクロ」、「赤外」にもなりうる。「フィルター配置」は撮像画素の色フィルターの構成を示す情報であり、撮像素子ユニットA、B、C、Dでは「ベイヤー」になっている。
「読み出しモード」は撮像素子の画素出力の読み出しモードを示す情報であり、撮像素子ユニットA、B、C、Dでは「通常/高速」になっている。これは撮像素子から通常速度で画素出力を読み出すモードと高速で画素出力を読み出すモードがあることを示している。「水平間引き」、「垂直間引き」、「水平加算」、「垂直加算」は撮像素子から画素出力を間引いて読み出す際の水平方向、垂直方向の間引き数および画素加算して読み出す際の水平方向、垂直方向の画素加算数を示す情報であり、撮像素子ユニットA、B、C、Dは表1の通りになっている。
「ダイナミックレンジ」、「感度」は撮像画素のダイナミックレンジ、感度を数値で表した情報であり、撮像素子ユニットA、B、C、Dは表1の通りになっている。「欠陥画素位置情報」は欠陥画素数/欠陥画素位置(行、列)の位置を全欠陥画素について示す情報である。「PRNU情報」は全画素(撮像画素、焦点検出画素)の感度不均一性(Phot-Response-Non-Uniformity)を全画素について示す情報である。「DSNU情報」は全画素(撮像画素、焦点検出画素)の暗電流不均一性(Dark-Signal-Non-Uniformity)を全画素について示す情報である。
図21に戻って説明を続ける。ステップS120において撮像素子ユニット400から撮像画素データを読み出し、ステップS110で得た撮像素子の特性情報に基づいて該撮像画素データを画像処理して画像データを生成する。画像処理としては例えばディベイヤー処理(撮像画素データのRAWデータをRGBデータに変換する処理)、JPEG画像生成などの圧縮・フォーマット変換処理、γ変換処理、ホワイトバランス処理などがある。
ステップS130において画像データに基づいて画像を電子ビューファインダーに表示させる。ステップS140においてステップS110で得た焦点検出に関する情報に基づいて、撮像素子が焦点検出画素を備えているか(焦点検出機能を有しているか)を判定し、焦点検出画素がない場合には、ステップS150〜ステップS180の焦点検出演算処理をスキップしてステップS190に進む。
焦点検出画素を備えている場合にはステップS150においてステップS110で得た焦点検出に関連した情報に基づき、画像に重畳して焦点検出エリア(焦点検出位置)を電子ビューファインダーに表示させる。ステップS160において撮像素子ユニット400から焦点検出画素データを読み出し、該焦点検出画素データに基づき後述の像ズレ検出演算を行い、デフォーカス量を算出する。なお撮影者は焦点検出エリア選択のために操作部材を用いて撮像面上における所望の焦点検出エリアを予め選択しているものとする。
ステップS170で合焦近傍か否か、すなわち算出されたデフォーカス量の絶対値が所定値以内であるか否かを調べる。合焦近傍でないと判定された場合はステップS180へ進み、デフォーカス量をレンズ制御装置206へ送信し、交換レンズ202のフォーカシングレンズ210を合焦位置に駆動させる。その後、ステップS105へ戻って上述した動作を繰り返す。なお、焦点検出不能な場合もこのステップに分岐し、レンズ制御装置206へスキャン駆動命令を送信し、交換レンズ202のフォーカシングレンズ210を無限から至近までの間でスキャン駆動を開始させる。その後、ステップS105へ戻って上述した動作を繰り返す。
ステップS170で合焦近傍であると判定された場合はステップS190へ進み、シャッターボタン(操作部材)の操作によりシャッターレリーズがなされたか否かを判別する。シャッターレリーズがなされていないと判定された場合はステップS105へ戻り、上述した動作を繰り返す。一方、シャッターレリーズがなされたと判定された場合はステップS200へ進み、レンズ制御装置206へ絞り調整命令を送信し、交換レンズ202の絞り値を制御F値(撮影者または自動により設定されたF値)にする。絞り制御が終了した後に、撮像素子ユニット400から撮像画素データを読み出し、ステップS110で得た撮像素子の特性情報に基づいて該撮像画素データを処理して画像データを生成する。続くステップS210では、画像データをメモリカード219に記憶し、ステップS105へ戻って上述した動作を繰り返す。
図22においてユニット制御装置401は、ステップS400で電源がオンされると、ステップS410以降の動作を開始する。ステップS410においてボディ制御装置214から情報読み出し要求が来たかチェックし、情報要求があった場合にはステップS420において指定された情報をボディ制御装置214に送信する。以上の動作を繰り返す。
図23においてレンズ制御装置206は、ステップS600で電源がオンされると、ステップS610以降の動作を開始する。ステップS610においてボディ制御装置214から情報読み出し要求が来たかチェックし、情報要求があった場合にはステップS620において指定された情報をボディ制御装置214に送信する。
ステップS630においてボディ制御装置214から制御情報(絞り値、デフォーカス量)を受信したかチェックし、制御情報を受信した場合にはステップS640において制御量に応じた制御を行う。制御情報が絞り値であった場合には絞り開口形を該絞り値となるように制御する。制御情報がデフォーカス量であった場合には該デフォーカス量に応じたレンズ駆動量を演算し、該駆動量に応じてフォーカシングの駆動を行う。以上の動作を繰り返す。
図21のステップS160における像ズレ検出演算処理(相関演算処理)の詳細について以下説明する。焦点検出画素が検出する一対の像は、測距瞳がレンズの絞り開口によりけられて光量バランスが崩れている可能性があるので、光量バランスに対して像ズレ検出精度を維持できるタイプの相関演算を施す。撮像素子ユニット400から読み出された焦点検出画素データ即ち一対のデータ列(A11〜A1M、A21〜A2M:Mはデータ数)に対し本出願人の出願(特開2007−333720)に開示された相関演算(式(1))を行い、相関量C(k)を演算する。
C(k)=Σ|A1n・A2n+1+k−A2n+k・A1n+1| (1)
式(1)において、Σ演算はn=1,...,Mについて累積される。nのとる範囲は、像シフト量kに応じてA1n、A1n+1、A2n+k、A2n+1+kのデータが存在する範囲に限定される。像シフト量kは整数であり、データ列のデータ間隔を単位とした相対的シフト量である。
式(1)の演算結果は、図24(a)に示すように、一対のデータの相関が高い像シフト量(図24(a)ではk=kj=2)において相関量C(k)が極小(小さいほど相関度が高い)になる。式(2)〜(5)による3点内挿の手法を用いて連続的な相関量に対する極小値C(x)を与えるシフト量xを求める。
x=kj+D/SLOP (2)
C(x)= C(kj)−|D| (3)
D={C(kj−1)−C(kj+1)}/2 (4)
SLOP=MAX{C(kj+1)−C(kj),C(kj−1)−C(kj)}
(5)
式(2)で算出されたシフト量xの信頼性があるかどうかは、以下のようにして判定される。図24(b)に示すように、一対のデータの相関度が低い場合は、内挿された相関量の極小値C(x)の値が大きくなる。したがって、C(x)が所定の閾値以上の場合は算出されたシフト量の信頼性が低いと判定し、算出されたシフト量xをキャンセルする。
あるいは、C(x)をデータのコントラストで規格化するために、コントラストに比例した値となるSLOPでC(x)を除した値が所定値以上の場合は、算出されたシフト量の信頼性が低いと判定し、算出されたシフト量xをキャンセルする。あるいはまた、コントラストに比例した値となるSLOPが所定値以下の場合は、被写体が低コントラストであり、算出されたシフト量の信頼性が低いと判定し、算出されたシフト量xをキャンセルする。
図24(c)に示すように、一対のデータの相関度が低く、シフト範囲kmin〜kmaxの間で相関量C(k)の落ち込みがない場合は、極小値C(x)を求めることができず、このような場合は焦点検出不能と判定する。算出されたシフト量xの信頼性があると判定された場合は、式(6)により像ズレ量shftに換算される。
shft=PY・x (6)
式(6)において、PYは撮像素子ユニット400から読み出した焦点検出に関連した情報のひとつであるAF画素検出ピッチである。式(6)で算出された像ズレ量に変換係数Kdを乗じてデフォーカス量defへ変換する。
def=Kd・shft (7)
ここで変換係数Kdは撮像素子ユニット400から読み出した焦点検出に関連した情報に含まれるF値に応じた変換係数のうち、レンズ情報に含まれる絞り開口のF値に対応した変換係数である。
以上のように本発明の実施形態においては、撮像素子ユニットをカメラボディ本体に対して交換して脱着可能に設けるとともに、撮像素子ユニットからカメラボディ本体に撮像素子ユニットの焦点検出に関連する情報と焦点検出画素データを伝達しているので、カメラボディ本体側において複雑な焦点検出演算を含む焦点調節動作の制御を行うことが可能となり、撮像素子ユニット側の処理負担を軽減することができる。
また焦点検出画素位置における仮想的な撮像画素のデータを焦点検出画素の周囲の撮像画素のデータに基づいて画素補間する処理は撮像素子ユニット側にある専用の画素補間回路403で行うことにより、AFエリアのレイアウトのようにバリエーションが多くかつカメラボディより後に世に出る撮像素子のAFエリアのレイアウトの予測が困難なパラメータに基づく必要がありかつソフト的な処理では処理速度が不足するような画素補間を高速に行うことができるとともに、撮像素子ユニットからカメラボディ本体に撮像素子の特性情報と撮像画素データを伝達し、カメラボディ本体側において汎用的な画像処理を行っているので、撮像素子ユニット側の処理負担を軽減することができる。
ユーザーにとっては種々の焦点検出機能が異なる撮像素子を搭載した撮像素子ユニットをひとつのカメラボディに交換して装着するだけ、所望の焦点検出機能を活用することができ、複数のカメラボディを用意するような負担がなくなる。
《発明の他の実施の形態》
図25、図26は、本発明の他の実施の形態によるカメラシステム(デジタルスチルカメラ、撮像装置)のボディ制御装置214、ユニット制御装置401の動作を示すフローチャートである。この実施形態においてはカメラボディから撮像素子ユニットに焦点検出関連の情報を伝達し、撮像素子ユニット側でデフォーカス量を演算し、算出したデフォーカス量を撮像素子ユニットからカメラボディに伝達し、該デフォーカス量に基づいてカメラボディが焦点調節動作を行う。
図25は図21とステップS150〜ステップS170の間が異なるので、その部分だけを説明する。ステップS161においてボディ制御装置214はユニット制御装置401に焦点検出に関連した情報を伝達する。
表3は該焦点検出に関連した情報をリスト化した表である。表3において「絞り開口F値」は交換レンズの絞り開口径をF値で表した情報であり、「AFエリア指定番号」はカメラボディ側で撮影者によって選択されたAFエリアの位置を指定する情報であり、具体的には「AFエリア1」、「AFエリア2」・・となる。
ステップS162においてボディ制御装置214はユニット制御装置401から指定したAFエリアのデフォーカス量を受信する。
図26においてユニット制御装置401は、ステップS400で電源がオンされると、ステップS410以降の動作を開始する。ステップS410においてボディ制御装置214から情報読み出し要求が来たかチェックし、情報要求があった場合にはステップS420において指定された情報をボディ制御装置214に送信する。
ステップS430においてボディ制御装置214から焦点検出に関連した情報(絞り値、AFエリア)を受信したかチェックし、該情報を受信した場合にはステップS640において指定されたAFエリアに対応する焦点検出画素データに基づいて像ズレ量を算出し、該像ズレを受信した絞り値に応じた変換係数によってデフォーカス量に変換する。ステップS450においては算出したデフォーカス量をボディ制御装置214に送信する。以上の動作を繰り返す。
以上のように本発明の実施形態においては、撮像素子ユニットをカメラボディ本体に対して交換して脱着可能に設けるとともに、カメラボディから撮像素子ユニットに焦点検出に関連する情報を伝達し、撮像素子ユニット側で該情報と焦点検出画素データに基づいてデフォーカス量を伝達し、該デフォーカス量を撮像素子ユニットからカメラボディに伝達し、該デフォーカス量に基づいてカメラボディ側で焦点調節動作を制御しているので、焦点検出画素の仕様(AFエリアのレイアウト、AF画素の構成)のようにバリエーションが多くかつカメラボディより後に世に出る撮像素子の焦点検出画素の仕様の予測が困難なパラメータに基づいて行うことが必要な焦点検出演算処理を個々の撮像素子ユニット側で行うことができるとともに、撮像素子ユニットからカメラボディ本体に多数の焦点検出画素データを伝達する必要がなくなるので、全体の処理時間を短縮でき焦点調節の高速化を図ることができる。
撮像素子ユニットに搭載される撮像素子における焦点検出エリアのレイアウトは図3、図15、図17に限定されるものではなく、様々な変形例がある。例えば図27に示すように画面100上に多数の焦点検出エリア104を図に示すように高密度に配置してもよい。
図5に示す撮像素子412の部分拡大図では、各画素に1つの光電変換部を有する一対の焦点検出画素313,314を備える例を示したが、ひとつの焦点検出画素内に一対の光電変換部を備えるようにしてもよい。図28は、このような撮像素子412の部分拡大図であり、焦点検出画素311は一対の光電変換部を備える。図29に示す焦点検出画素311は、図8(a)、(b)に示す焦点検出画素313と焦点検出画素314のペアに相当した機能を果たす。焦点検出画素311は、図28に示すようにマイクロレンズ10と一対の光電変換部13,14から構成される。焦点検出画素311には光量をかせぐために色フィルターは配置されておらず、その分光特性は光電変換を行うフォトダイオードの分光感度と、赤外カットフィルター(不図示)の分光特性とを総合した分光特性(図10参照)となる。つまり、図9に示す緑画素、赤画素および青画素の分光特性を加算したような分光特性となり、その感度の光波長領域は緑画素、赤画素および青画素の感度の光波長領域を包括している。
図30は図29に示した焦点検出画素311の断面図であって、光電変換部13,14の上に近接して遮光マスク30が形成され、遮光マスク30の開口部30dを通過した光を光線変換部13,14は受光する。遮光マスク30の上には平坦化層31が形成され、その上にNDフィルター34が形成される。NDフィルター34の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30dに制限された光電変換部13,14の形状が前方に投影されて、一対の測距瞳を形成する。光電変換部13,14は半導体回路基板29上に形成される。
上述した実施形態における撮像素子では撮像画素がベイヤー配列の色フィルターを備えた例を示したが、色フィルターの構成や配列はこれに限定されることはなく、補色フィルター(緑:G、イエロー:Ye、マゼンタ:Mg,シアン:Cy)の配列やベイヤー配列以外の配列にも本発明を適用することができる。
上述した実施形態における焦点検出画素では、遮光マスクの開口形状を矩形にした例を示したが、遮光マスクの開口形状はこれらに限定されず、他の形状であってもよく、例えば半円形や楕円や多角形にすることも可能である。
上述した実施形態におけるカメラボディ203に撮像素子ユニット400が装着されると、図21におけるステップS110にて、撮像素子ユニット情報読み出し処理が実行されるが、予め撮像素子ユニット種別(ID)を識別可能な識別子に対応付けて撮像素子ユニット情報を記憶しておき、装着された撮像素子ユニット400からIDを受信することによって、詳細の撮像素子ユニット情報読み出し処理をカメラボディ203内部で実行しても良い。
上述した実施形態におけるカメラボディ203に装着される撮像素子ユニット400が撮像素子ユニットDである場合、焦点検出演算をスキップすることとしたが、図21において、ステップS140否定判定の後、コントラスト検出方式により、撮像画素データに基づいて焦点検出演算を行うこととしてもよい。ステップS140否定判定を契機として焦点検出演算を中止し、使用者のマニュアル操作による焦点調節を促す報知画面を液晶表示素子216に表示するようにしてもよい。
なお、撮像装置としては、上述したようなカメラボディに交換レンズが装着される構成のデジタルスチルカメラやフィルムスチルカメラに限定されない。例えばレンズ一体型のデジタルスチルカメラ、フィルムスチルカメラ、あるいはビデオカメラにも本発明を適用することができる。さらには、携帯電話などに内蔵される小型カメラモジュール、監視カメラやロボット用の視覚認識装置、車載カメラなどにも適用できる。