JP4689687B2 - 撮像方法および撮像装置 - Google Patents
撮像方法および撮像装置 Download PDFInfo
- Publication number
- JP4689687B2 JP4689687B2 JP2008018376A JP2008018376A JP4689687B2 JP 4689687 B2 JP4689687 B2 JP 4689687B2 JP 2008018376 A JP2008018376 A JP 2008018376A JP 2008018376 A JP2008018376 A JP 2008018376A JP 4689687 B2 JP4689687 B2 JP 4689687B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- comparison
- distortion
- motion data
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
次に図2〜図4を用いて、上記の構成における撮像装置1の連写時の動作を説明する。
図2は、タイミング発生回路24のタイミングチャートである。タイミング発生回路24は、シャッタ操作を検知することによって水平ラインの画素を一グループとして垂直方向に順にスキャンしていくものであるが、本実施の形態によるタイミング発生回路24は、最初の1枚目は、この水平ラインを一つおきに間引く間引きモードで走査信号を出力し、2枚目以降は間引かずに走査する通常モードで走査信号を出力する。そして、予め定められたN枚の撮像画像を取得後、動作を終了する。ここまでが、1シャッタ操作による一連の撮像動作であり、間引きモードによる画像1枚と、通常モードによる画像N−1枚を取得する。
間引きモードによって、取得した画像と通常モードによって取得した画像例を図5に示す。間引きモードの画像は、水平ラインを間引いているために、図5aのように横に長い画像となっている。画像サイズ調整手段12は、通常モードの画像(図5b)の間引きモードで間引かれた水平ラインに相当する画素を除去して、間引きモードと通常モードの画像サイズを一致させる(図5c)。このとき両画像は、図5aと図5cに示すように、サイズ調整された通常モード画像(図5c)の方が歪みが大きくなっている。これは対応する各ラインの露光タイミングの差によるものである。
次に、動きデータ検出手段13は、間引きモードによる画像(図5a)を基準画像とし、サイズ調整された通常モードによる画像(図5c)を比較画像として、基準画像に対する各比較画像の動きデータを計算する。動きデータとしては、基準画像と比較画像の相対的なずれであって平行移動量を表す動きベクトルであってもよいし、画像の回転など動き検出の自由度が高いアフィンパラメータであってもよい。例えば、特開2007-226643号公報には、入力画像の多重解像度処理を行った後、解像度の低い画像から高い画像へと段階的にブロックマッチング処理を実行して、精度の高いアフィンパラメータを求める技術が開示されており、この技術を用いて基準画像と比較画像間の動きデータを演算することができる。
たとえば、行を間引いて、y方向に1/nのサイズになっている場合は、算出した動きデータのy方向成分をn倍することによって、元のサイズの比較画像の動きデータを算出する。
次に、画像合成手段15は、歪み補正手段14から渡された歪み補正画像を加算平均化して重ね合せ処理を行う。図8に補正前後の画像の例を示す。図8(a)は補正前の入力画像であり、図8(b)は、画像合成手段15から出力された補正後の画像である。
(動きデータ検出処理の他の実施例1)
上記では、間引きモード画像を基準画像とし、各通常モード画像を比較画像として、それぞれ動きデータを演算したが、図6に示すように、まず、間引きモード画像(図6a)と最初の1枚目の通常モード画像(図6b)との間で動きデータを検出し、この動きデータをもとに当該通常モード画像の歪み補正を行う。その後は、この歪み補正画像(図6d)を新たな基準画像とし、他の通常モード画像(図6e)の夫々を比較画像として、両画像間の動きデータをブロックマッチング処理によってそれぞれ演算して、その動きデータを用いて対応する通常モード画像の歪みを補正して重ね合わせ処理をするようにしても良い。
動きデータの演算は、図7に示すように、まず、間引きモード画像(図7a)をbilinear法やbicubic法などを用いて補間して、通常モードの画像と同じサイズにし(図7c)、この画像を基準画像として、通常モードでの撮像画像(図7b)との間の動きデータを計算して、歪み補正画像(図7d)を得ることもできる。この場合、高解像度画像の動きデータが直接算出されるため、上述の元の画像サイズへの動きデータ変換処理は不要となる。
10 画像処理部
11 画像データ入力手段
12 サイズ調整手段
13 動きデータ検出手段
14 歪み補正手段
15 画像合成手段
16 合成画像出力手段
21 撮像素子(モジュール)
22 水平走査手段
23 垂直走査手段
24 タイミング発生手段
51 入力画像データ保存手段
52 合成画像データ保存手段
Claims (4)
- 行列状に2次元配置された複数の画素を有し、該画素の所定単位を一グループとして、グループ毎に一定の時間間隔で露光タイミングを順次ずらして走査することによって撮像を行うフォーカルプレーン電子シャッタ機能を備える撮像素子で撮像された画像の手ブレによる歪みを補正する撮像方法であって、
シャッタ操作を検知して、一または二以上のグループを間引きながら前記時間間隔で露光タイミングを順次ずらして走査することによって基準画像を取得すると共に、取り込むべき画素の各グループを間引かずに順次走査することによって複数の比較画像を取得する画像データ入力処理と、
前記基準画像をもとに前記比較画像の夫々の動きデータを算出する動きデータ検出処理と、
該動きデータをもとに前記比較画像の夫々の歪みを補正する歪み補正処理と、
歪みを補正した複数の画像を重ね合わせて合成画像を生成する合成画像生成処理と、
を含むことを特徴とする撮像方法。 - 前記動きデータ検出処理は、前記基準画像と前記複数の比較画像の最初の1枚目の比較画像との間で動きデータを検出し、この動きデータをもとに当該比較画像の歪み補正を行い、その後は、この歪み補正画像を新たな基準画像として、当該新たな基準画像と他の夫々の比較画像との間の動きデータをブロックマッチング処理によって算出することを特徴とする請求項1に記載の撮像方法。
- 前記撮像素子は、CMOSセンサであることを特徴とする請求項1または2に記載の撮像方法。
- 行列状に2次元配置された複数の画素を有し、該複数の画素の所定単位を一グループとして、グループ毎に一定の時間間隔で露光タイミングを順次ずらして走査することによって撮像を行うフォーカルプレーン電子シャッタ機能を備え、一回のシャッタ操作で複数枚の画像データを取り込み、取り込まれた画像データの手ブレによる歪みを補正する撮像装置であって、
シャッタ操作を検知して、一または二以上のグループを間引きながら前記時間間隔で露光タイミングを順次ずらして走査する間引きモードと、取り込むべき画素の各グループを間引かずに順次走査する通常モードとを有し、撮像素子に対して夫々のモードの操作信号を出力するタイミング発生手段と、
前記撮像素子から間引きモードで撮像した画像データを取得すると共に通常モードで撮像した複数の画像データを取得する画像データ入力手段と、
間引きモードで撮像した画像データを基準画像、通常モードで撮像した画像データを比較画像として保存する入力画像データ保存手段と、
前記基準画像と前記比較画像のサイズを合わせるサイズ調整手段と、
前記サイズ調整手段によるサイズ合わせ後の基準画像と比較画像を用いて、該基準画像に対する複数の比較画像の夫々の動きデータを、ブロックマッチング処理を用いて算出する動きデータ検出手段と、
該動きデータ検出手段によって検出された動きデータをもとに前記入力データ保存手段に保存されている比較画像の夫々の歪みを補正する歪み補正手段と、
前記歪み補正手段によって歪みを補正した複数の画像を重ね合わせて合成画像を生成する画像合成手段と、
を備えたことを特徴とする撮像装置。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008018376A JP4689687B2 (ja) | 2008-01-29 | 2008-01-29 | 撮像方法および撮像装置 |
| US12/321,937 US7978221B2 (en) | 2008-01-29 | 2009-01-27 | Method and apparatus for capturing an image |
| EP09290062A EP2086223A3 (en) | 2008-01-29 | 2009-01-28 | Method and apparatus for capturing an image |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008018376A JP4689687B2 (ja) | 2008-01-29 | 2008-01-29 | 撮像方法および撮像装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2009182527A JP2009182527A (ja) | 2009-08-13 |
| JP4689687B2 true JP4689687B2 (ja) | 2011-05-25 |
Family
ID=40638148
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2008018376A Expired - Fee Related JP4689687B2 (ja) | 2008-01-29 | 2008-01-29 | 撮像方法および撮像装置 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US7978221B2 (ja) |
| EP (1) | EP2086223A3 (ja) |
| JP (1) | JP4689687B2 (ja) |
Families Citing this family (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| FR2903200B1 (fr) * | 2006-06-29 | 2008-12-19 | Thales Sa | Stabilisation hybride d'images pour camera video |
| JP2010166512A (ja) | 2009-01-19 | 2010-07-29 | Sanyo Electric Co Ltd | 撮像装置 |
| US8804601B2 (en) | 2009-08-05 | 2014-08-12 | Panasonic Intellectual Property Corporation Of America | Wireless communication device, signal relay method, and signal allocation method |
| JP2011087203A (ja) * | 2009-10-19 | 2011-04-28 | Sanyo Electric Co Ltd | 撮像装置 |
| JP2011114407A (ja) * | 2009-11-24 | 2011-06-09 | Sony Corp | 画像処理装置、画像処理方法、プログラム及び記録媒体 |
| US8994837B2 (en) * | 2010-11-26 | 2015-03-31 | Intel Mobile Communications GmbH | Image processing devices and image processing methods of moving objects |
| JP2012253531A (ja) * | 2011-06-02 | 2012-12-20 | Sony Corp | 撮像装置、撮像方法および画像処理装置 |
| US8976280B2 (en) | 2011-07-06 | 2015-03-10 | Morpho, Inc. | Distortion estimating image processing device, method, and non-transitory storage medium |
| JP6170395B2 (ja) * | 2013-09-26 | 2017-07-26 | キヤノン株式会社 | 撮像装置およびその制御方法 |
| WO2015115067A1 (en) | 2014-01-28 | 2015-08-06 | Canon Kabushiki Kaisha | Solid-state image sensor, motion information acquisition apparatus, and imaging apparatus |
| JP2015164284A (ja) | 2014-01-28 | 2015-09-10 | キヤノン株式会社 | 固体撮像素子、動き情報取得装置、および撮像装置 |
Family Cites Families (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4270947B2 (ja) | 2003-06-04 | 2009-06-03 | Hoya株式会社 | 画像歪み補正機能付き撮像装置 |
| JP4268891B2 (ja) * | 2004-02-27 | 2009-05-27 | 京セラ株式会社 | 撮像装置およびその画像生成方法 |
| JP2006074678A (ja) | 2004-09-06 | 2006-03-16 | Mitsubishi Electric Corp | カメラ付き携帯機器 |
| JP2006148861A (ja) * | 2004-10-21 | 2006-06-08 | Matsushita Electric Ind Co Ltd | 撮像信号処理装置及び方法 |
| JP2006148496A (ja) | 2004-11-18 | 2006-06-08 | Sony Corp | フォーカルプレーン歪みの補正回路および補正方法、並びに電子機器、プログラム、記録媒体 |
| JP2006148550A (ja) * | 2004-11-19 | 2006-06-08 | Konica Minolta Opto Inc | 画像処理装置及び撮像装置 |
| US8019000B2 (en) * | 2005-02-24 | 2011-09-13 | Sanyo Electric Co., Ltd. | Motion vector detecting device |
| JP4655898B2 (ja) | 2005-11-15 | 2011-03-23 | 日本ビクター株式会社 | 固体撮像装置 |
| JP4509917B2 (ja) * | 2005-11-21 | 2010-07-21 | 株式会社メガチップス | 画像処理装置及びカメラシステム |
| JP5079284B2 (ja) * | 2005-12-26 | 2012-11-21 | 京セラ株式会社 | 手ぶれ量検出装置、手ぶれ補正装置、撮像装置及び手ぶれ量検出方法 |
| JP4340915B2 (ja) | 2006-02-01 | 2009-10-07 | ソニー株式会社 | 撮像画像信号の歪み補正方法、撮像画像信号の歪み補正装置、撮像方法および撮像装置 |
| JP4620607B2 (ja) | 2006-02-24 | 2011-01-26 | 株式会社モルフォ | 画像処理装置 |
| JP4846394B2 (ja) | 2006-03-03 | 2011-12-28 | 京セラ株式会社 | 撮像装置及び撮像方法 |
| JP4858908B2 (ja) * | 2006-06-30 | 2012-01-18 | 株式会社モルフォ | 画像処理方法および撮像装置 |
| US8068140B2 (en) * | 2006-08-07 | 2011-11-29 | Avago Technologies General Ip (Singapore) Pte. Ltd. | Still image stabilization suitable for compact camera environments |
| JP4977569B2 (ja) * | 2007-09-28 | 2012-07-18 | 富士フイルム株式会社 | 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置 |
-
2008
- 2008-01-29 JP JP2008018376A patent/JP4689687B2/ja not_active Expired - Fee Related
-
2009
- 2009-01-27 US US12/321,937 patent/US7978221B2/en not_active Expired - Fee Related
- 2009-01-28 EP EP09290062A patent/EP2086223A3/en not_active Withdrawn
Also Published As
| Publication number | Publication date |
|---|---|
| US20090190013A1 (en) | 2009-07-30 |
| US7978221B2 (en) | 2011-07-12 |
| JP2009182527A (ja) | 2009-08-13 |
| EP2086223A3 (en) | 2011-09-14 |
| EP2086223A2 (en) | 2009-08-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4689687B2 (ja) | 撮像方法および撮像装置 | |
| JP4879261B2 (ja) | 撮像装置、高解像度化処理方法、高解像度化処理プログラム、及び記録媒体 | |
| US7844134B2 (en) | Image processor and camera system for correcting image distortion | |
| JP5062861B2 (ja) | ローリングバンドシャッタを用いた画像捕捉装置 | |
| JP4446193B2 (ja) | 画像処理装置および方法、並びにプログラム | |
| JP6711612B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
| JP5729237B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
| JP2015211351A5 (ja) | ||
| JP4821626B2 (ja) | 画像処理装置、電子カメラ、および画像処理プログラム | |
| JP2010193058A (ja) | 撮像装置、撮像方法及び撮像プログラム | |
| JP2003319240A (ja) | 撮像装置 | |
| US8223227B2 (en) | Read out method for a CMOS imager with reduced dark current | |
| JP4250583B2 (ja) | 画像撮像装置及び画像復元方法 | |
| JP5696419B2 (ja) | 画像処理装置及び方法、並びにプログラム | |
| JP4419675B2 (ja) | 固体撮像装置および固体撮像装置の駆動方法 | |
| JP2016066848A (ja) | 撮像装置およびその制御方法 | |
| JP2006319912A (ja) | 画像処理装置および方法、並びにプログラム | |
| JP2010015241A (ja) | 超解像撮像装置及び画像処理方法 | |
| JP5195973B2 (ja) | 画像処理装置、電子カメラ、および画像処理プログラム | |
| JP3405404B2 (ja) | 固体撮像装置の手ぶれ補正方法および固体撮像装置 | |
| JP2012134826A (ja) | 撮像装置 | |
| JP2008235958A (ja) | 撮像装置 | |
| JP2011082614A (ja) | 画像処理装置及び撮像装置 | |
| JP6728005B2 (ja) | 撮像装置、撮像方法およびプログラム | |
| JP2013074573A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091126 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091208 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100205 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110118 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110216 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 4689687 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140225 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140225 Year of fee payment: 3 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140225 Year of fee payment: 3 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| LAPS | Cancellation because of no payment of annual fees |