Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4689687B2 - 撮像方法および撮像装置 - Google Patents
[go: Go Back, main page]

JP4689687B2 - 撮像方法および撮像装置 - Google Patents

撮像方法および撮像装置 Download PDF

Info

Publication number
JP4689687B2
JP4689687B2 JP2008018376A JP2008018376A JP4689687B2 JP 4689687 B2 JP4689687 B2 JP 4689687B2 JP 2008018376 A JP2008018376 A JP 2008018376A JP 2008018376 A JP2008018376 A JP 2008018376A JP 4689687 B2 JP4689687 B2 JP 4689687B2
Authority
JP
Japan
Prior art keywords
image
comparison
distortion
motion data
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008018376A
Other languages
English (en)
Other versions
JP2009182527A (ja
Inventor
督基 平賀
兼介 羽深
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Morpho Inc
Original Assignee
Morpho Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Morpho Inc filed Critical Morpho Inc
Priority to JP2008018376A priority Critical patent/JP4689687B2/ja
Priority to US12/321,937 priority patent/US7978221B2/en
Priority to EP09290062A priority patent/EP2086223A3/en
Publication of JP2009182527A publication Critical patent/JP2009182527A/ja
Application granted granted Critical
Publication of JP4689687B2 publication Critical patent/JP4689687B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、CMOS型の撮像素子が搭載された撮像装置の撮影時の手ブレ等によって生じる歪みを補正して、良質の手ブレ補正画像を作成することのできる撮像方法および撮像装置に関する。
近年、CCD(Charge Coupled Device)に比べて消費電力が小さく、コストも安価なCMOS(Complementary Metal Oxide Semiconductor)センサを用いた撮像素子が携帯電話やデジタルカメラ等の撮像装置に用いられている。
しかしながら、CMOSセンサの撮像素子は、CCDのように電子シャッタが起動されると全画面の画素に蓄積される電荷が一度に転送される全画面同時撮影方式(いわゆるグローバル電子シャッタ方式)ではなく、画素ごとに露光制御が行われ、画素ごとに走査(スキャン)することで画素に蓄積される電荷が順に出力される方式(いわゆるフォーカルプレーン電子シャッタ方式)が多く採用されている。
このため、CMOSセンサでは、出力される電荷に基づいて出力する信号の出力タイミングに時間差が生じることになり、走査の途中で、手ブレが発生した場合、走査方向に画像がずれてしまうという問題がある。
この手ブレによる歪みを補正する技術として、従来、特許文献1,2にはジャイロセンサを用いて手ブレを検出して撮像画像を補正するという手法が開示されている。また、特許文献3には、CMOSセンサにおいて全画面同時撮影可能な回路構成が提案されている。しかしながら、これらの技術は回路を付加しなければならず、コストアップになる。
また、特許文献4〜6には、フォーカルプレーン電子シャッタ方式による撮像時の歪みをソフトウェア処理によって補正する技術として、前のフレームあるいは隣接する水平グループとの相関を演算したり、前後のフレームをもとに補間するという手法が記載されている。しかしながら、これらの手法はCPUに負荷がかかり、また撮像時の初めからブレ状態にあるときの補正精度に限界がある。
特開2007−235819号公報 特開2006−074678号公報 特開2007−142587号公報 特開2007−208580号公報 特開2006−148496号公報 特開2004−363869号公報
本発明は、上述のかかる事情に鑑みてなされたものであり、フォーカルプレーン電子シャッタ方式による撮像時の手ブレによる歪みをソフトウェア的に補正する際のCPUの負荷を軽減し、低コストで良質な画像を生成することのできる撮像方法および撮像装置を提供することを目的とする。
上記の目的を達成するため、本発明に係わる撮像方法は、行列状に2次元配置された複数の画素を有し、該画素の所定単位を一グループとして、グループ毎に一定の時間間隔で露光タイミングを順次ずらして走査することによって撮像を行うフォーカルプレーン電子シャッタ機能を備える撮像素子で撮像する方法であって、シャッタ操作を検知して、一または二以上のグループを間引きながら前記時間間隔で露光タイミングを順次ずらして走査することによって基準画像を取得すると共に、取り込むべき画素の各グループを間引かずに順次走査することによって比較画像を取得する画像データ入力処理と、前記基準画像をもとに前記比較画像の動きデータを算出する動きデータ検出処理と、該動きデータをもとに前記比較画像の歪みを補正する歪み補正処理と、を含むことを特徴とする。
本発明では、シャッタ操作により画素グループを間引いて撮像する間引きモードと、間引かずに撮像する通常モードのそれぞれで画像を連続して撮像する。このとき、間引きモードは単に画素グループを間引くのみでなく、各画素グループの露光タイミングの差を保った状態で画素グループを間引くようにする。連写時の各モードの撮像順序は問わない。なお、間引きによって画素信号の読み出し時間が短くなれば、間引きモードの露光タイミングのずれを小さくするようにしても良い。露光タイミングの時間差を通常モードよりも大きくならないように制御しながら間引きモードで撮像することによって歪みの少ない画像データを取得でき、この画像データをもとに通常モードで撮像した画像との動きデータを演算して、これをもとに通常モードの撮像画像を修正することによって、CPUに負荷をかけずに歪み補正をすることができる。
さらに、前記比較画像を複数取得し、各比較画像に対して、前記動きデータ検出処理と前記歪み補正処理とを実行して、夫々の比較画像の歪みを補正した画像を生成し、これらの歪みを補正した画像を重ね合わせて合成画像を生成する合成画像生成処理を実行することによって、手ブレによる画像のボケとフォーカルプレーン電子シャッタ方式による画像の歪みとを補正でき、鮮明な画像を生成することができる。特に、CMOSセンサは、ランダムノイズや固定パターンノイズが存在するため、複数枚の比較画像の重ね合わせ処理によって画質の均一化が可能となる。
なお、動きデータ検出処理において、「基準画像をもとに」とは、その直接,間接を問わない趣旨である。たとえば、比較画像のそれぞれを基準画像と比較する場合のほか、基準画像と比較して歪み補正した比較画像を新たな基準画像とし、この基準画像と他の比較画像のそれぞれを比較して歪み補正をするような場合も含む。なお、後者の場合は、前者に比べて高解像度レベルでのマッチング処理も可能になるため、高精度で動きデータを演算することができる。また、基準画像と比較画像は相対的なものであるが、補正される側を比較画像としている。
また、本発明に係わる撮像装置は、行列状に2次元配置された複数の画素を有し、該複数の画素の所定単位を一グループとして、グループ毎に一定の時間間隔で露光タイミングを順次ずらして走査することによって撮像を行うフォーカルプレーン電子シャッタ機能を備え、一回のシャッタ操作で複数枚の画像データを取り込む撮像装置であって、シャッタ操作を検知して、一または二以上のグループを間引きながら前記時間間隔で露光タイミングを順次ずらして走査する間引きモードと、取り込むべき画素の各グループを間引かずに順次走査する通常モードとを有し、撮像素子に対して夫々のモードの操作信号を出力するタイミング発生手段と、間引きモードで撮像した画像データを取得すると共に通常モードで撮像した複数の画像データを取得する画像データ入力手段と、間引きモードで撮像した画像データを基準画像、通常モードで撮像した画像データを比較画像として保存する入力画像データ保存手段と、前記基準画像と前記比較画像のサイズを合わせるサイズ調整手段と、前記サイズ調整手段によるサイズ合わせ後の基準画像と比較画像を用いて、該基準画像に対する複数の比較画像のそれぞれの動きデータを、ブロックマッチング処理を用いて算出する動きデータ検出手段と、該動きデータ検出手段によって検出された動きデータをもとに前記入力データ保存手段に保存されている比較画像の夫々の歪みを補正する歪み補正手段と、前記歪み補正手段によって歪みを補正した画像を重ね合わせて合成画像を生成する画像合成手段と、を備えたことを特徴とする。
本発明では、比較画像の基準画像に対する動きを検出するために、一旦基準画像と比較画像とを同じサイズに変換してブロックマッチング処理を実行する。サイズの変換は、比較画像の各画素のうち、基準画像撮像時に間引いた位置に相当する画素を除外したり、あるいは単純縮小によって比較画像のサイズを基準画像に合わせる方式のほか、bilinearやbicubic等の手法によって基準画像を拡大して比較画像のサイズに合わせるという方式がある。そして、比較画像のサイズを縮小して基準画像のサイズに合わせた場合は、算出した動きデータを元のサイズの比較画像(サイズ調整する前の比較画像)の動きデータに変換して、この動きデータを用いて、元のサイズの各比較画像の歪みを補正し、補正後の画像を重ね合わせることによってブレ補正画像を作成する。
なお、各比較画像の動きデータを算出する際、基準画像と最初の比較画像との間の動きデータを求め、これをもとに当該比較画像の元のサイズの画像の歪みを補正し、以降はこの補正画像を新たな基準画像として他の比較画像の動きデータを演算することによって、より良質の合成画像を生成することができる。
本発明によれば、一回のシャッタ操作で間引きモードと通常モードの両方で撮像し、歪みの少ない間引きモードによって撮像した画像を基準にして動きデータを演算し、この動きデータを用いて通常モードで撮像した画像を補正するので、撮影時のブレによるフォーカルプレーンシャッタ方式に起因する歪みを補正することができる。また、通常モードの画像を複数枚撮像し、この夫々に対して歪み補正画像を作成し、これらを重ね合わせて合成画像を作成することによって、手ブレによるボケも改善して鮮明な画像を生成することができる。
以下、本発明の実施の形態を説明する。図1は、本実施の形態による撮像装置の機能ブロック図である。ここで、撮像装置1は、2次元マトリクス状に配列された複数の画素を有するCMOS型の撮像素子21、水平方向の走査信号を出力する水平走査手段22、垂直方向の走査信号を出力する垂直走査手段23、水平走査手段22および垂直走査手段23に走査のタイミング信号を出力するタイミング発生手段24、および、撮像素子21を介して取得した画像データを処理する画像処理部10から構成されている。
画像処理部10は、撮像素子21で撮像された画像データを入力する画像データ入力手段11、入力した画像データを保存する入力画像データ保存手段51、入力した画像データのサイズを調整するサイズ調整手段12、サイズ調整された画像データをもとにアフィンパラメータあるいは動きベクトルなどの動きデータを演算する動きデータ検出手段13、この動きデータを用いて入力した画像データの歪みを補正する歪み補正手段14、歪み補正された画像を重ね合わせて合成画像を生成する画像合成手段15、合成した画像を保存する合成画像データ保存手段52、および合成画像を出力する合成画像出力手段16から構成されている。各手段11〜16は、CPUの機能としてプログラムとして実現可能である。
(画像データ入力処理)
次に図2〜図4を用いて、上記の構成における撮像装置1の連写時の動作を説明する。
図2は、タイミング発生回路24のタイミングチャートである。タイミング発生回路24は、シャッタ操作を検知することによって水平ラインの画素を一グループとして垂直方向に順にスキャンしていくものであるが、本実施の形態によるタイミング発生回路24は、最初の1枚目は、この水平ラインを一つおきに間引く間引きモードで走査信号を出力し、2枚目以降は間引かずに走査する通常モードで走査信号を出力する。そして、予め定められたN枚の撮像画像を取得後、動作を終了する。ここまでが、1シャッタ操作による一連の撮像動作であり、間引きモードによる画像1枚と、通常モードによる画像N−1枚を取得する。
走査タイミングをより具体的に説明すると、図2において間引きモードは、1ライン目,3ライン目、5ライン目,・・・と1ラインおきに走査信号を出力する。走査対象の各ラインでは、所定時間(A)の露光タイミングをずらしてリセット信号が順に発せられ、蓄積(露光)を開始する。各ラインの蓄積時間経過後は読み出し信号が出力され、当該ラインの画素信号が読み出される。そして、走査対象の最終ラインの画素信号が読み出されると、1枚分の画像データの取得が完了する。これら各ラインの画素信号は、画像データ入力手段11によって撮像処理部に読み込まれ、入力画像データ保存手段51に保存される。
スキャン動作の2周期目以降は、通常モードとして動作する。通常動作では、1ライン目,2ライン目,3ライン目,・・・と、各ラインを間引かずに走査し、これら各ラインの信号から画像データ入力手段11によって読み込まれ、入力画像データ保存手段51に保存される。
間引きモードでも、露光タイミングの時間差(A)は、通常モードと同じであるため、1画像分のデータを取得する時間は、通常モードに比べて短くなっている。
この間引きモードの画像と通常画像をそれぞれ図5のa,bに示す。間引き画像は、走査される水平ラインが間引かれているので、通常モードの画像に比べて、垂直(縦)方向のサイズが小さくなっている。
次に、図2のタイミングチャートを実現するための一実施例によるアルゴリズムを図3,図4を用いて説明する。本実施の形態によるタイミング発生手段24は、蓄積開始ルーチンと画像信号読み出しルーチンで構成されており、図3は蓄積開始ルーチンの処理手順、図4は画像信号読み出しルーチンの処理手順を示す。
まず、図3において蓄積開始ルーチンは、シャッタ操作を検知することによって起動すると、画像信号読み出しルーチンを起動する(S101)。そして、間引きモードか通常モードかを判定し(S102)、間引きモードの場合は間引き数αを予め定められた所定の値に設定し(S103)、通常モードの場合は間引き数αを0に設定する(S104)。図3では、図2のタイミングチャートに合わせて、シャッタ操作された直後の1枚目を間引きモードとし、間引き数を「1」、すなわち1ラインおきにスキャンすることにしている。
そして、蓄積する画素グループに相当するライン変数Iを初期値の「1」に設定して(S105)、Iライン目が蓄積中であることを示すIライン蓄積中フラグをセットする(S106)。すなわち、夫々のラインに対応したフラグがセットされる。
次に、Iラインにリセット信号を出力して、その時点からの蓄積(露光)を開始する(S107)。その後、ライン変数Iを(1+α)加算する(S108)。
そして、ライン変数Iが最終ラインを超えたか否かを判定し(S109)、「NO」の場合は、所定時間(図2のタイミングチャートの「A」)後にステップS106に戻って、以降の手順を繰り返す(S110で「Yes」)。
ステップS109で最終ラインを超えている場合は、連写枚数(N)の撮像を完了したか否かを判定し(S111)、完了していない場合は(S111で「No」)、連写周期到来後に(S112で「Yes」)、ステップS102に戻って以降の手順を繰り返す。
一方、ステップS111で連写枚数の蓄積開始処理を完了した場合は(S111で「Yes」)終了する。
次に図4を用いて、画像信号読み出しルーチンの処理手順を説明する。画像信号読み出しルーチンは、蓄積開始ルーチンのステップS101の処理によって起動されると、まず、読み出し画素グループのライン変数(J)を初期値「1」に設定する(S201)。次に、Jライン目が蓄積中であるか否かをそのラインに対応する蓄積中フラグによって判定し(S202)、蓄積中の場合は、そのラインの蓄積(露光)時間経過後に画像信号を読み込み(S203,S204)、そのラインの蓄積中フラグをリセットする(S205)。
そして、ライン変数を「1」加算して(S206)、最終ラインを超えたか否かを判定し、超えていない場合はステップS202に戻って以降の手順を繰り返す(S207)。
一方、ステップS202で「No」、すなわち、そのラインの蓄積中フラグがセットされていない場合は、そのままステップS206にジャンプして、次のラインの読み出し処理に移行する。
ステップS207で最終ラインの画素信号の読み出しを完了した場合は、予め定められた連写枚数(N)分の画像信号の読み出しを完了したか否かを判定し(S208)、未了の場合は、ステップS201へ戻って、次の周期の撮像画像についての読み出し処理を実行する。ステップS208で、連写枚数(N)分の読み出しを終えた場合は終了する。
以上の処理手順によって、タイミング発生手段24による蓄積、読み出し動作のタイミング信号が出力される。
なお、図3,図4は、マイクロコントローラ等によってソフトウェア的にタイミングを発生する際のアルゴリズムであるが、図2のタイミングチャートは、これに限らず種々の実現方法がある。たとえば、間引きモード、通常モードごとに、走査対象のラインごとに所定時間ずらして、蓄積、読み出しタイミングを発生させるようにしても良い。また、次サイクルの蓄積開始のタイミングは各ラインの読出し処理が重ならない範囲で前にシフトすることも可能である。画像データは、全ラインの画像信号の読出し完了後に画像データ入力手段11を介して読み込む。
また、CMOS型センサは、原理的に各素子のランダムアクセスが可能であるが、本実施形態では、同一ライン(行)の素子を一括して動作させることを前提として説明した。列についての間引き処理を実行して読み出し時間を短くして間引きモードでのスキャン時間をさらに短くするようにしても良い。
以上の処理によって、1回のシャッタ操作によりN枚の画像を取得する。この内訳は、間引きモードによる基準画像1枚と通常モードによる比較画像(N―1)枚となっている。なお、Nは2以上の整数である。
(画像サイズ調整処理)
間引きモードによって、取得した画像と通常モードによって取得した画像例を図5に示す。間引きモードの画像は、水平ラインを間引いているために、図5aのように横に長い画像となっている。画像サイズ調整手段12は、通常モードの画像(図5b)の間引きモードで間引かれた水平ラインに相当する画素を除去して、間引きモードと通常モードの画像サイズを一致させる(図5c)。このとき両画像は、図5aと図5cに示すように、サイズ調整された通常モード画像(図5c)の方が歪みが大きくなっている。これは対応する各ラインの露光タイミングの差によるものである。
(動きデータ検出処理)
次に、動きデータ検出手段13は、間引きモードによる画像(図5a)を基準画像とし、サイズ調整された通常モードによる画像(図5c)を比較画像として、基準画像に対する各比較画像の動きデータを計算する。動きデータとしては、基準画像と比較画像の相対的なずれであって平行移動量を表す動きベクトルであってもよいし、画像の回転など動き検出の自由度が高いアフィンパラメータであってもよい。例えば、特開2007-226643号公報には、入力画像の多重解像度処理を行った後、解像度の低い画像から高い画像へと段階的にブロックマッチング処理を実行して、精度の高いアフィンパラメータを求める技術が開示されており、この技術を用いて基準画像と比較画像間の動きデータを演算することができる。
動きデータは、基準画像のサイズに変換した比較画像の動きデータとして算出されるが、最終的にこの動きデータを元の比較画像のサイズにしたときの動きデータに変換する。
たとえば、行を間引いて、y方向に1/nのサイズになっている場合は、算出した動きデータのy方向成分をn倍することによって、元のサイズの比較画像の動きデータを算出する。
歪み補正手段14は、この動きデータを用いて、入力画像データ保存手段61に保存されている通常モードの画像(高解像度画像)1〜(N−1)の歪み(すなわち基準画像に対する動き)を順次補正して、この歪み補正画像(図5d)を画像合成手段15に渡す。
(画像合成処理)
次に、画像合成手段15は、歪み補正手段14から渡された歪み補正画像を加算平均化して重ね合せ処理を行う。図8に補正前後の画像の例を示す。図8(a)は補正前の入力画像であり、図8(b)は、画像合成手段15から出力された補正後の画像である。
この処理によって生成された画像データは、合成画像データ保存手段52に保存される。そして、合成画像出力手段16によって、外部の記憶媒体やプリンタ等に出力される。
以上、本実施の形態によれば、フォーカルプレーン方式の電子シャッタを搭載した撮像装置において、間引きモードで撮像した画像を基準画像とし、通常モードで撮像した画像を比較画像として、ブロックマッチング処理によって算出した動きデータをもとに各比較画像の歪みを補正し、さらに補正した比較画像同士を重ね合せていくので、撮影時の手ブレによる画像のボケとフォーカルプレーン方式による画像の歪とを補正して、良質の画像を得ることができる。
なお、上記実施の形態では、連写時の最初に間引きモードで撮影することとしたが、連写の最後あるいは中間に撮影するようにしても良い。好ましくは、連写における手ブレの影響の少ない位置を間引きモードに設定するのがよい。
また、本実施の形態では、撮像画像の歪の発生を防ぐために撮像素子に画像信号の同期取り込み回路あるいはジャイロセンサ等の付加回路を設ける必要が無いため、撮像装置のコストを抑えて歪みの少ない良質の画像を得ることができる。
次に本実施の形態の他の実施例を説明する。
(動きデータ検出処理の他の実施例1)
上記では、間引きモード画像を基準画像とし、各通常モード画像を比較画像として、それぞれ動きデータを演算したが、図6に示すように、まず、間引きモード画像(図6a)と最初の1枚目の通常モード画像(図6b)との間で動きデータを検出し、この動きデータをもとに当該通常モード画像の歪み補正を行う。その後は、この歪み補正画像(図6d)を新たな基準画像とし、他の通常モード画像(図6e)の夫々を比較画像として、両画像間の動きデータをブロックマッチング処理によってそれぞれ演算して、その動きデータを用いて対応する通常モード画像の歪みを補正して重ね合わせ処理をするようにしても良い。
(動きデータ検出処理の他の実施例2)
動きデータの演算は、図7に示すように、まず、間引きモード画像(図7a)をbilinear法やbicubic法などを用いて補間して、通常モードの画像と同じサイズにし(図7c)、この画像を基準画像として、通常モードでの撮像画像(図7b)との間の動きデータを計算して、歪み補正画像(図7d)を得ることもできる。この場合、高解像度画像の動きデータが直接算出されるため、上述の元の画像サイズへの動きデータ変換処理は不要となる。
本発明は上述の各実施形態に限定されること無く、その要旨を逸脱しない範囲で種々変形して実施することが出来る。たとえば、画像合成処理を省略して、1枚の通常モード画像の歪み補正を実行するのみでも歪み補正効果を得ることができる。
本発明は、携帯電話やデジタルカメラ等の静止画の撮像装置に適用できるのみならず、動画の基本フレームの歪み補正に適用して良質の動画像を得ることができる。
本発明の実施の形態による撮像装置のブロック図である。 図1のタイミング発生手段24の走査信号のタイミングチャートである。 図2のタイミングを発生させるための一実施例による蓄積開始ルーチンの処理手順を示すフローチャートである。 図2のタイミングを発生させるための一実施例による画像信号読出しルーチンの処理手順を示すフローチャートである。 本発明の実施の形態による処理概要の説明図である。 本発明の他の実施例による処理概要の説明図である。 本発明のさらに他の実施例による処理概要の説明図である。 補正前後の画像例である。
符号の説明
1 撮像装置
10 画像処理部
11 画像データ入力手段
12 サイズ調整手段
13 動きデータ検出手段
14 歪み補正手段
15 画像合成手段
16 合成画像出力手段
21 撮像素子(モジュール)
22 水平走査手段
23 垂直走査手段
24 タイミング発生手段
51 入力画像データ保存手段
52 合成画像データ保存手段

Claims (4)

  1. 行列状に2次元配置された複数の画素を有し、該画素の所定単位を一グループとして、グループ毎に一定の時間間隔で露光タイミングを順次ずらして走査することによって撮像を行うフォーカルプレーン電子シャッタ機能を備える撮像素子で撮像された画像の手ブレによる歪みを補正する撮像方法であって、
    シャッタ操作を検知して、一または二以上のグループを間引きながら前記時間間隔で露光タイミングを順次ずらして走査することによって基準画像を取得すると共に、取り込むべき画素の各グループを間引かずに順次走査することによって複数の比較画像を取得する画像データ入力処理と、
    前記基準画像をもとに前記比較画像の夫々の動きデータを算出する動きデータ検出処理と、
    該動きデータをもとに前記比較画像の夫々の歪みを補正する歪み補正処理と、
    歪みを補正した複数の画像を重ね合わせて合成画像を生成する合成画像生成処理と、
    を含むことを特徴とする撮像方法。
  2. 前記動きデータ検出処理は、前記基準画像と前記複数の比較画像の最初の1枚目の比較画像との間で動きデータを検出し、この動きデータをもとに当該比較画像の歪み補正を行い、その後は、この歪み補正画像を新たな基準画像として、当該新たな基準画像と他の夫々の比較画像との間の動きデータをブロックマッチング処理によって算出することを特徴とする請求項1に記載の撮像方法。
  3. 前記撮像素子は、CMOSセンサであることを特徴とする請求項1または2に記載の撮像方法。
  4. 行列状に2次元配置された複数の画素を有し、該複数の画素の所定単位を一グループとして、グループ毎に一定の時間間隔で露光タイミングを順次ずらして走査することによって撮像を行うフォーカルプレーン電子シャッタ機能を備え、一回のシャッタ操作で複数枚の画像データを取り込み、取り込まれた画像データの手ブレによる歪みを補正する撮像装置であって、
    シャッタ操作を検知して、一または二以上のグループを間引きながら前記時間間隔で露光タイミングを順次ずらして走査する間引きモードと、取り込むべき画素の各グループを間引かずに順次走査する通常モードとを有し、撮像素子に対して夫々のモードの操作信号を出力するタイミング発生手段と、
    前記撮像素子から間引きモードで撮像した画像データを取得すると共に通常モードで撮像した複数の画像データを取得する画像データ入力手段と、
    間引きモードで撮像した画像データを基準画像、通常モードで撮像した画像データを比較画像として保存する入力画像データ保存手段と、
    前記基準画像と前記比較画像のサイズを合わせるサイズ調整手段と、
    前記サイズ調整手段によるサイズ合わせ後の基準画像と比較画像を用いて、該基準画像に対する複数の比較画像の夫々の動きデータを、ブロックマッチング処理を用いて算出する動きデータ検出手段と、
    該動きデータ検出手段によって検出された動きデータをもとに前記入力データ保存手段に保存されている比較画像の夫々の歪みを補正する歪み補正手段と、
    前記歪み補正手段によって歪みを補正した複数の画像を重ね合わせて合成画像を生成する画像合成手段と、
    を備えたことを特徴とする撮像装置。
JP2008018376A 2008-01-29 2008-01-29 撮像方法および撮像装置 Expired - Fee Related JP4689687B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008018376A JP4689687B2 (ja) 2008-01-29 2008-01-29 撮像方法および撮像装置
US12/321,937 US7978221B2 (en) 2008-01-29 2009-01-27 Method and apparatus for capturing an image
EP09290062A EP2086223A3 (en) 2008-01-29 2009-01-28 Method and apparatus for capturing an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008018376A JP4689687B2 (ja) 2008-01-29 2008-01-29 撮像方法および撮像装置

Publications (2)

Publication Number Publication Date
JP2009182527A JP2009182527A (ja) 2009-08-13
JP4689687B2 true JP4689687B2 (ja) 2011-05-25

Family

ID=40638148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008018376A Expired - Fee Related JP4689687B2 (ja) 2008-01-29 2008-01-29 撮像方法および撮像装置

Country Status (3)

Country Link
US (1) US7978221B2 (ja)
EP (1) EP2086223A3 (ja)
JP (1) JP4689687B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2903200B1 (fr) * 2006-06-29 2008-12-19 Thales Sa Stabilisation hybride d'images pour camera video
JP2010166512A (ja) 2009-01-19 2010-07-29 Sanyo Electric Co Ltd 撮像装置
US8804601B2 (en) 2009-08-05 2014-08-12 Panasonic Intellectual Property Corporation Of America Wireless communication device, signal relay method, and signal allocation method
JP2011087203A (ja) * 2009-10-19 2011-04-28 Sanyo Electric Co Ltd 撮像装置
JP2011114407A (ja) * 2009-11-24 2011-06-09 Sony Corp 画像処理装置、画像処理方法、プログラム及び記録媒体
US8994837B2 (en) * 2010-11-26 2015-03-31 Intel Mobile Communications GmbH Image processing devices and image processing methods of moving objects
JP2012253531A (ja) * 2011-06-02 2012-12-20 Sony Corp 撮像装置、撮像方法および画像処理装置
US8976280B2 (en) 2011-07-06 2015-03-10 Morpho, Inc. Distortion estimating image processing device, method, and non-transitory storage medium
JP6170395B2 (ja) * 2013-09-26 2017-07-26 キヤノン株式会社 撮像装置およびその制御方法
WO2015115067A1 (en) 2014-01-28 2015-08-06 Canon Kabushiki Kaisha Solid-state image sensor, motion information acquisition apparatus, and imaging apparatus
JP2015164284A (ja) 2014-01-28 2015-09-10 キヤノン株式会社 固体撮像素子、動き情報取得装置、および撮像装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4270947B2 (ja) 2003-06-04 2009-06-03 Hoya株式会社 画像歪み補正機能付き撮像装置
JP4268891B2 (ja) * 2004-02-27 2009-05-27 京セラ株式会社 撮像装置およびその画像生成方法
JP2006074678A (ja) 2004-09-06 2006-03-16 Mitsubishi Electric Corp カメラ付き携帯機器
JP2006148861A (ja) * 2004-10-21 2006-06-08 Matsushita Electric Ind Co Ltd 撮像信号処理装置及び方法
JP2006148496A (ja) 2004-11-18 2006-06-08 Sony Corp フォーカルプレーン歪みの補正回路および補正方法、並びに電子機器、プログラム、記録媒体
JP2006148550A (ja) * 2004-11-19 2006-06-08 Konica Minolta Opto Inc 画像処理装置及び撮像装置
US8019000B2 (en) * 2005-02-24 2011-09-13 Sanyo Electric Co., Ltd. Motion vector detecting device
JP4655898B2 (ja) 2005-11-15 2011-03-23 日本ビクター株式会社 固体撮像装置
JP4509917B2 (ja) * 2005-11-21 2010-07-21 株式会社メガチップス 画像処理装置及びカメラシステム
JP5079284B2 (ja) * 2005-12-26 2012-11-21 京セラ株式会社 手ぶれ量検出装置、手ぶれ補正装置、撮像装置及び手ぶれ量検出方法
JP4340915B2 (ja) 2006-02-01 2009-10-07 ソニー株式会社 撮像画像信号の歪み補正方法、撮像画像信号の歪み補正装置、撮像方法および撮像装置
JP4620607B2 (ja) 2006-02-24 2011-01-26 株式会社モルフォ 画像処理装置
JP4846394B2 (ja) 2006-03-03 2011-12-28 京セラ株式会社 撮像装置及び撮像方法
JP4858908B2 (ja) * 2006-06-30 2012-01-18 株式会社モルフォ 画像処理方法および撮像装置
US8068140B2 (en) * 2006-08-07 2011-11-29 Avago Technologies General Ip (Singapore) Pte. Ltd. Still image stabilization suitable for compact camera environments
JP4977569B2 (ja) * 2007-09-28 2012-07-18 富士フイルム株式会社 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置

Also Published As

Publication number Publication date
US20090190013A1 (en) 2009-07-30
US7978221B2 (en) 2011-07-12
JP2009182527A (ja) 2009-08-13
EP2086223A3 (en) 2011-09-14
EP2086223A2 (en) 2009-08-05

Similar Documents

Publication Publication Date Title
JP4689687B2 (ja) 撮像方法および撮像装置
JP4879261B2 (ja) 撮像装置、高解像度化処理方法、高解像度化処理プログラム、及び記録媒体
US7844134B2 (en) Image processor and camera system for correcting image distortion
JP5062861B2 (ja) ローリングバンドシャッタを用いた画像捕捉装置
JP4446193B2 (ja) 画像処理装置および方法、並びにプログラム
JP6711612B2 (ja) 画像処理装置、画像処理方法、および撮像装置
JP5729237B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2015211351A5 (ja)
JP4821626B2 (ja) 画像処理装置、電子カメラ、および画像処理プログラム
JP2010193058A (ja) 撮像装置、撮像方法及び撮像プログラム
JP2003319240A (ja) 撮像装置
US8223227B2 (en) Read out method for a CMOS imager with reduced dark current
JP4250583B2 (ja) 画像撮像装置及び画像復元方法
JP5696419B2 (ja) 画像処理装置及び方法、並びにプログラム
JP4419675B2 (ja) 固体撮像装置および固体撮像装置の駆動方法
JP2016066848A (ja) 撮像装置およびその制御方法
JP2006319912A (ja) 画像処理装置および方法、並びにプログラム
JP2010015241A (ja) 超解像撮像装置及び画像処理方法
JP5195973B2 (ja) 画像処理装置、電子カメラ、および画像処理プログラム
JP3405404B2 (ja) 固体撮像装置の手ぶれ補正方法および固体撮像装置
JP2012134826A (ja) 撮像装置
JP2008235958A (ja) 撮像装置
JP2011082614A (ja) 画像処理装置及び撮像装置
JP6728005B2 (ja) 撮像装置、撮像方法およびプログラム
JP2013074573A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110216

R150 Certificate of patent or registration of utility model

Ref document number: 4689687

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140225

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140225

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140225

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees