Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3754803B2 - Imaging device - Google Patents
[go: Go Back, main page]

JP3754803B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP3754803B2
JP3754803B2 JP20609997A JP20609997A JP3754803B2 JP 3754803 B2 JP3754803 B2 JP 3754803B2 JP 20609997 A JP20609997 A JP 20609997A JP 20609997 A JP20609997 A JP 20609997A JP 3754803 B2 JP3754803 B2 JP 3754803B2
Authority
JP
Japan
Prior art keywords
horizontal
signal
interpolation
output
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP20609997A
Other languages
Japanese (ja)
Other versions
JPH1153531A (en
Inventor
輝夫 稗田
見 寺澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP20609997A priority Critical patent/JP3754803B2/en
Priority to US09/124,225 priority patent/US6631216B2/en
Priority to EP98306086A priority patent/EP0895412B1/en
Priority to DE69836453T priority patent/DE69836453T2/en
Publication of JPH1153531A publication Critical patent/JPH1153531A/en
Application granted granted Critical
Publication of JP3754803B2 publication Critical patent/JP3754803B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮像装置であって、撮像された画像を電子的に高画質に拡大縮小処理を行う撮像装置に関する。
【0002】
【従来の技術】
近年のディジタル信号処理技術の進歩は、映像分野に大きな発展をもたらしている。ディジタルビデオカメラや、ディジタルスチルカメラなど、ディジタル記録媒体の出現で、パソコンなどに画像データを記録し、編集、加工することが容易かつ高画質にできるような環境となってきた。
【0003】
従来、ディジタルビデオカメラでは、光学系によるズーミング以上にズーミングするために、撮像した画像を補間して拡大、縮小する電子ズームという処理が多く提案されている。これらは、以下のようなアルゴリズムを用いていた。
【0004】
ある周波数でサンプリングされた連続的な画像データがあり、その画像データを他のある周波数サンプリング間隔で線形補間していく時には、補間画素の前後にある原サンプリング画素データと、補間画素との時間的な相対位置データkが必要となる。
【0005】
これを連続的に求めていく方法としては、U.S.Pat.4,774,581に示されるような累算器を用いたメモリ読み出し手段を用いるとよい。これを、ビデオカメラに応用した例として、特開平5−328184号公報等がある。これは、線形補間のアルゴリズムを用いている。
【0006】
図10は、この線形補間のアルゴリズムの説明図で、メモリ上に蓄積された画像の一部を示したものである。Sn 、Sn-1 は、蓄積されている画素データ、S′は補間される画素データを示している。
【0007】
この時、Sn 、Sn-1 、S′の関係は、S′=Sn ・k+Sn-1 ・(1−k)で表される。これをディジタル回路で実現するためには、この式をそのまま加算器、減算器、乗算器に当てはめるか、あるいは乗算器の削減のためにこの式を変形して、S′=(Sn −Sn-1 )・k+Sn-1 としてあてはめていた。
【0008】
図11は、これら従来の線形補間方式の撮像装置の補間部分の例である。補間画素S′の直前にある原サンプリング画素データSn 、補間画素の直後に有る原サンプリング画素データSn-1、補間画素S′との相対位置データkに基づいて上述の線形補間式に基づいて、S′=(Sn −Sn-1 )・k+Sn-1 の計算を減算器61、乗算器62、加算器63によって行い、補間画素データS′を出力する。
【0009】
【発明が解決しようとする課題】
しかしながら、これらの従来の方式には以下のような欠点があった。上記従来例の線形補間では、回路構成は簡単になるものの、周波数特性が図12のように高周波成分が大きく減衰してしまう特性のため、解像感のない画像として拡大・縮小されてしまうという欠点があった。
【0010】
これを解決するために、特開平5−83612号公報では垂直アパーチャ信号に係数をかけた後補正する方式を提案しているが、この方式は、垂直方向には効果が有るものの、もともと図12に有るように高周波成分の減衰が大きいため、大きな改善効果は得られない。また、水平方向の劣化については補正が行われないため、水平解像度の劣化は著しい。
【0011】
また、ソフトウエア処理により、高画質な画像の拡大、縮小を行う方式も提案されているが、処理に時間がかかり、また、ソフトウエアを実行するために高性能なCPUや大容量のメモリなどが必要になる欠点が有った。
【0012】
本発明の目的は、これら従来例の欠点を除き、簡単な回路構成で、解像度の高い高画質な画像の拡大・縮小が可能な撮像装置を提供することにある。
【0013】
【課題を解決するための手段】
上記の問題を解決するために本発明では、撮像素子と、撮像素子の出力信号の画像を水平あるいは垂直の少なくとも1方向に拡大、あるいは縮小する事が可能な画像処理部とを有する撮像装置であって、水平方向または垂直方向に隣接する4つの画素のデータをS 、S n−1 、S n−2 、S n−3 とし、S n−1 とS n−2 の間に補間するべき位置が有り、その位置とS n−1 との距離をS n−1 、S n−2 の距離で割った値をKとした時に行う補間処理のための前記画像処理部は、P =KS +(1−K)S n−3 で表される平均値P を演算する第1演算回路と、P n−1 =KS n−1 +(1−K)S n−2 で表される平均値P n−1 を演算する第2演算回路と、Kの値に基づき新たな係数K’を演算する係数演算回路と、P 、P n−1 、及びK’の値に基づき前記補完するべき位置における画像データ値S’を演算する第3演算回路と、を含むことを特徴とする。
【0014】
【発明の実施の形態】
図1は本発明の第1の実施例である。
【0015】
1はカラー撮像素子であるCCD、2は入力された垂直転送制御信号STVに応じてCCD1の駆動タイミングパルスを発生するタイミングパルス発生、3はCCD1の出力信号をサンプルアンドホールドして連続信号とするサンプルアンドホールド、4は入力信号をディジタル信号に変換するADコンバータ、5、6は与えられた書き込み制御信号WCに応じて入力信号を1水平期間遅延させるかあるいは、現在のデータを保持する1H遅延、7は入力信号から色信号R、G、Bを分離する色分離、8はローパスフィルタ、9は入力されたRGB信号に対し、クランプ、ホワイトバランス、ガンマ補正、ホワイト、ダーククリップ、色差マトリクスを行い色信号Cを形成する色信号処理、10は入力された信号に対し、クランプガンマ補正、ホワイト、ダーククリップ、輪郭強調を行って輝度信号Yを形成する輝度信号処理、11、12は与えられた読みだし制御信号RCに応じて入力信号を1水平期間遅延させた出力をそのまま出力するか、読み出しを停止するかの動作を行う1H遅延、13、14は与えられた補間係数SCHに応じて入力信号を水平4点補間する水平補間、15、16は入力信号を1水平期間、2水平期間、3水平期間それぞれ遅延させた出力を得る3H遅延、17、18は与えられた補間係数SCVに応じて入力信号の垂直補間を行う垂直補間、19は色信号Cの出力、20は輝度信号20の出力、21は、ズーム比率ZOOMの入力端子、22は入力されたズーム比率ZOOMに応じて垂直転送制御信号STV、1H遅延5、6の書き込み制御信号WCおよび垂直補間17、18の補間係数SCVを発生する垂直係数発生器、23は入力されたズーム比率ZOOMに応じて1H遅延11、12の読み出し制御信号RC、水平補間13、14の補間係数SCHを発生する水平係数発生器である。
【0016】
不図示の被写体像は、不図示の撮像光学系により、CCD1上の撮像面に結像され、光電変換される。この光電変換された電荷は、タイミングパルス2により発生される駆動タイミングパルスに応じて垂直および水平方向に転送される。この際、垂直転送制御STVが発生されると、CCD1内の垂直方向の転送を行うパルスがタイミングパルス発生2から発生されず、CCD1内の垂直方向の転送が行われない。例えば2倍の倍率で拡大を行う時は1水平期間光電変換された電荷を読み出した後、次の水平期間では垂直転送が行われず、電荷は読み出されない。この動作を繰り返し行う。CCD1では上述のように転送された電荷が出力部で電荷電圧変換され、撮像信号として出力される。
【0017】
この撮像信号はサンプルアンドホールド3で連続化され、ADコンバータ4でディジタル信号に変換された後、1H遅延5に入力される。
【0018】
1H遅延5で1水平期間遅延された出力は色分離7、ローパスフィルタ8に入力されると同時に1H遅延6に入力され、さらに1水平期間の遅延が行われる。
【0019】
また、1H遅延5、および6では前述のようにCCD1の垂直転送が停止された時は、垂直係数発生器22から書き込み制御信号WCが発生され、書き込みが行われず、同じ信号が次の水平期間においても読み出される。
【0020】
色分離7には、前述の1H遅延5および6の出力が入力される。色分離7の構成はCCD1の撮像面上のモザイク色フィルタの構成によって異なってくるが、例えば、多く用いられている黄、シアン、緑、マゼンタの繰り返しにより構成されるフィルタでインターレース読み出しの場合、2水平期間の信号を演算する事により、R、G、Bの信号が得られる。このR、G、Bの信号は、色信号処理9において上述のプロセス処理を行い、色信号Cが形成される。この色信号は、後段のディジタル処理に適した形式たとえば、Cr、Cbの時分割多重形式などで出力される。
【0021】
また、ローパスフィルタ8は、CCD1の上述のモザイク色フィルタによって生ずる色キャリアを取り除き輝度信号を取り出す特性に設定される。このローパスフィルタの出力は輝度信号処理10において前述のプロセス処理が行われ、輝度信号Yが形成される。
【0022】
上述のように形成されたC及びYは、まず1H遅延11、12に入力される。この1H遅延11、12では書き込まれた入力信号が、1水平期間遅延されると同時に、水平係数発生器23により発生される読み出し制御信号RCに応じて読み出しが行われる。この1H遅延11、12の出力は、水平補間13、14にそれぞれ入力される。水平補間13、14では、水平係数発生器23により発生された補間係数SCHに応じて水平方向の4点補間が行われる。
【0023】
水平補間13、14の出力は、3H遅延15、16にそれぞれ入力される。3H遅延15、16ではそれぞれ入力信号を1H、2H、3H遅延した出力を生成し、遅延されていない信号と共に垂直補間17、18にそれぞれ入力される。
【0024】
垂直補間17、18では垂直係数発生器22より発生された補間係数SCVに応じて入力された4つの信号から、4点補間を行い、補間された信号をそれぞれ出力し、色信号出力端子19、輝度信号出力端子20から不図示のVTRあるいはテレビモニタなどの外部の機器に出力される。
【0025】
ズームボリュームや、ズームスイッチなどの設定手段により設定されたズーム比率ZOOMは入力端子21から入力され、垂直係数発生器22および水平係数発生器23に入力される。垂直係数発生器22では、入力されたZOOM信号に応じて、タイミングパルス発生2の垂直転送制御信号STV、1H遅延5、6の書き込み制御信号WC、垂直補間17、18の補間係数SCVを発生し、垂直方向に所定の倍率で拡大あるいは縮小された画像信号を形成するように動作する。
【0026】
また、水平係数発生器23では、入力されたZOOM信号に応じて、1H遅延11、12の読み出し制御信号、水平補間13、14の補間係数SCHを発生して、水平方向に所定の倍率で拡大あるいは縮小された画像信号を形成するように動作する。
【0027】
図2は本発明の実施例中、垂直補間18の詳細例を示す。101、102、103、104、105は入力端子、106、109、112、115は減算器、107、110、113、116は乗算器、108、111、114は加算器、117は出力端子である。入力端子101は図1中水平補間14の出力信号Snを入力する。入力端子102は3H遅延16の出力のうち1H遅延された信号Sn-1を入力する。入力端子103は3H遅延16の出力のうち2H遅延された信号Sn-2を入力する。入力端子104は3H遅延16の出力のうち3H遅延された信号Sn-3を入力する。入力端子105は垂直係数発生器22の出力のうち補間係数SCVを入力する。
【0028】
nとSn-3はまず減算器106で減算された後乗算器107でSCVと乗算される。その出力は加算器108でSn-3と加算され、信号Pnとなる。
【0029】
SCVの値をKとすると、この信号Pnは、SnとSn-3をK及び(1−K)を重みとして加算平均した平均値になる。
【0030】
また、Sn-1とSn-2はまず減算器109で減算された後、乗算器110でSCVと乗算され、加算器111でSn-2と加算され、信号Pn-1となる。
【0031】
この信号Pn-1は、Sn-1とSn-2をK及び(1−K)を重みとして加算平均した平均値になる。PnとPn-1は減算器112で減算された後、乗算器113で後述するSCV2と乗算され、加算器114でPn-1と加算され、垂直補間された輝度信号Svとなり前述の輝度信号出力端子117より出力される。
【0032】
入力されたSCVはまた、乗算器116でSCV自身と乗算された後、SCV自身と減算され、SCV2となる。このSCV2は前述のように乗算器113に入力される。
【0033】
なお、垂直補間17も、図2と同一の構成で実現可能である。
【0034】
図3は本発明の実施例中の水平係数発生器23の詳細例である。
【0035】
121はズーム係数入力端子21から入力されたズーム係数の入力端子、122は加算器、123はレジスタ、124は読み出し制御RCの出力端子、125は補間係数SCHの出力端子である。
【0036】
入力端子121から入力されたズーム係数は、加算器122において、レジスタ123の出力のうち最上位ビットを除いた信号と加算され、その出力はレジスタ123に保持される。レジスタ123は1クロック毎にデータが更新される。レジスタ123の出力は、前述のように最上位ビットを除いた信号を加算器122に入力すると共に、最上位ビットを読み出し制御RCとして出力端子124から出力し、最上位ビットを除いた値を補間係数SCHとして出力端子125から出力する。この動作としては、例えばSCHが8ビット、RCが1ビットとすると、レジスタ123は9ビットになる。ズーム係数は9ビットで、1倍である時は、256であるとする。この時、加算器122では常に256が加算されるため、下位の8ビットは常に0になる。また、最上位のビットは常に1になる。レジスタ123にはこの値が保持され、RCは常に1、SCHは常に0となり、前述の1H遅延からは常にデータが読み出され、水平補間においては補間が行われず、全体として水平方向には拡大されず、拡大率は1倍になる。
【0037】
またズーム比約2倍の時は、ZOOMの値は128になり、レジスタ123の値は0 128 256 128 256と変化する。この時最上位ビットは00 1 0 1となり、はじめを除いては、2画素期間に1画素ずつ読み出しが行われ、係数は0 0.5 0 0.5 0と変化する事がわかる。
【0038】
垂直係数発生器22の動作も、垂直方向に1画素は1水平期間のずれになることを考慮すれば、上述と同等の構成で実現できる。
【0039】
図4は、図2の垂直補間18の特性図である。
【0040】
前述の構成によって与えられた特性を周波数変換して、周波数レスポンスを得て、これを正規化周波数に対応して表した図である。従来の線形補間の図12と比較して高周波域の減衰量が大幅に少なくなっている。
【0041】
図5は本発明の実施例中14の水平補間の詳細例を示す。
【0042】
201、202は入力端子、203、204、205は1画素分の遅延を行う1クロック遅延、206、209、212、215は減算器、207、210、213、216は乗算器、208、211、214は加算器、201は出力端子である。
【0043】
入力端子201から図1中1H遅延12からの出力がSnとして入力される。また、入力端子202から、水平係数発生器23からの補間係数出力がSchとして入力される。入力されたSnはまず、1クロック遅延203、204、205によりそれぞれ1画素分ずつ遅延される。それぞれの出力をSn-1、Sn-2、Sn-3とする。
【0044】
nとSn-3はまず減算器206で減算された後乗算器207でSchと乗算される。その出力は加算器208でSn-3と加算され、信号Pnとなる。
【0045】
また、Sn-1とSn-2はまず減算器209で減算された後、乗算器210でSCVと乗算され、加算器211でSn-2と加算され、信号Pn-1となる。
【0046】
nとPn-1は減算器212で減算された後、乗算器213で後述するSch2と乗算され、加算器114でPn-1と加算され、水平補間された輝度信号Shとなり前述の輝度信号出力端子207より出力される。
【0047】
入力されたSchはまた、乗算器216でSch自身と乗算された後、Sch自身と減算され、Sch2となる。このSch2は前述のように乗算器213に入力される。
【0048】
水平補間13の構成は概ね図5と同一になるが、色信号がCr、Cbの点順次であるため、1クロック遅延が2クロック遅延になる点と、画素間の距離が2倍になるため係数が1/2になる点が図4と異なる。
【0049】
図6は本発明の実施例の説明図である。
【0050】
図6Aは水平補間14による水平方向の補間の動作を表している。原画素Sn、Sn-1、Sn-2、Sn-3に対してSn-1とSn-2の間の補間画素S′の値を求める。
【0051】
まず、Sn-1、Sn-2からの距離の比率を(1−k):kとして求める(0<=K<1)。
【0052】
次に、このkに応じて、水平方向の周囲の画素Sn、Sn−1、Sn−2、Sn−3の値に重み付けを行い、加算する事により、補間画素S′の値を求める。この時用いる係数を得るための構成が前述の図5の構成である。この構成は、補間の際の周波数レスポンスにおける高周波域の減衰量を大幅に少なくする。
【0053】
図6Bは垂直補間18による垂直方向の補間の動作を表している。図6Aと同様に、原画素Sn、Sn-1、Sn-2、Sn-3に対してSn-1とSn-2の間の補間画素S′の値を求める。
【0054】
この時用いる係数を得るための構成が前述の図2の構成である。
【0055】
図7は本発明の第2の実施例である。
【0056】
前出の図と同一もしくは同等部は同一符号を付している。
【0057】
301、302はフィールドメモリ、303は読み出しアドレス発生である。
【0058】
不図示の被写体像は、不図示の撮像光学系により、CCD1上の撮像面に結像され、光電変換される。この光電変換された電荷は、タイミングパルス2により発生される駆動タイミングパルスに応じて垂直および水平方向に転送される。CCD1では転送された電荷が出力部で電荷電圧変換され、撮像信号として出力される。
【0059】
この撮像信号はサンプルアンドホールド3で連続化され、ADコンバータ4でディジタル信号に変換された後、1H遅延5に入力される。
【0060】
1H遅延5で1水平期間遅延された出力は色分離7、ローパスフィルタ8に入力されると同時に1H遅延6に入力され、さらに1水平期間の遅延が行われる。
【0061】
色分離7には、前述の1H遅延5および6の出力が入力される。色分離7の構成はCCD1の撮像面上のモザイク色フィルタの構成によって異なってくるが、例えば、多く用いられている黄、シアン、緑、マゼンタの繰り返しにより構成されるフィルタでインターレス読み出しの場合、2水平期間の信号を演算する事により、R、G、Bの信号が得られる。このR、G、Bの信号は、色信号処理9において上述のプロセス処理を行い、色信号Cが形成される。この色信号は、後段のディジタル処理に適した形式たとえば、Cr、Cbの時分割多重形式などで出力される。
【0062】
また、ローパスフィルタ8は、CCD1の上述のモザイク色フィルタによって生ずる色キャリアを取り除き輝度信号を取り出す特性に設定される。このローパスフィルタ8の出力は輝度信号処理10において前述のプロセス処理が行われ、輝度信号Yが形成される。
【0063】
上述のように形成されたC及びYは、フィールドメモリ301、302に入力される。このフィールドメモリ301、302では書き込まれた入力信号が、1フィールド期間遅延され、読み出しアドレス発生303により発生される読み出しアドレスRAC、RAYにそれぞれ応じて読み出しが行われる。この読み出しアドレスRAC、RAYは、垂直係数発生器22により発生される垂直読み出し制御RCVおよび水平係数発生器により発生される水平読み出し制御RCHによりそれぞれ制御され、ズーム係数入力端子21から入力された値に応じて読み出しアドレスを発生する。たとえば、ズーム係数が2倍の拡大を表す値である時は、水平方向、垂直方向ともに2画素分の期間に1画素が読み出されるように制御される。
【0064】
このフィールドメモリ301、302の出力は、水平期間13、14にそれぞれ入力される。水平補間13、14では、水平係数発生器23により発生された補間係数SCHに応じて水平方向の4点補間が行われる。
【0065】
水平補間13、14の出力は、3H遅延15、16にそれぞれ入力される。3H遅延15、16ではそれぞれ入力信号を1H、2H、3H遅延した出力を生成し、遅延されていない信号と共に垂直補間17、18にそれぞれ入力される。
【0066】
垂直補間17、18では垂直係数発生器22より発生された補間係数SCVに応じて入力された4つの信号から、4点補間を行い、補間された信号をそれぞれ出力し、色信号出力端子19、輝度信号出力端子20から不図示のVTRあるいはテレビモニタなどの外部機器に出力される。
【0067】
ズームボリュームや、ズームスイッチなどの設定手段により設定されたズーム比率ZOOMは入力端子21から入力され、垂直係数発生器22および水平係数発生器23に入力される。
【0068】
垂直係数発生器22では、前述のように、入力されたZOOM信号に応じて、読み出しアドレス発生303および3H遅延15を制御するの垂直読み出し制御信号RCV、垂直補間17、18の補間係数SCVを発生し、垂直方向に所定の倍率で拡大あるいは縮小された画像信号を形成するように動作する。
【0069】
また、水平係数発生器23では、入力されたZOOM信号に応じて読み出しアドレス発生303の水平読み出し制御信号RCH、水平補間13、14の補間係数SCHを発生して、水平方向に所定の倍率で拡大あるいは縮小された画像信号を形成するように動作する。
【0070】
図8は本発明の第3の実施例を示す図である。
【0071】
310はタイミングパルス発生と異なる周波数のクロックを発生するクロック発生、311、312は入力信号は書き込みクロックに同期して連続で書き込み、出力信号は読み出しクロックと読み出しアドレスに応じて読み出す方式のデュアルポートタイプなどと呼ばれる1水平期間分の1Hメモリである。
【0072】
CCD1から色信号処理9、輝度信号処理10の出力までの信号の流れは前出の実施例と同一である。
【0073】
色信号処理9の出力Cおよび輝度信号処理10の出力Yは1Hメモリ311、312に入力される。
【0074】
1Hメモリ311、312では書き込みはタイミングパルス発生2より発生されるCCD1の水平転送クロックと同期したクロックCK1に同期して連続で行われる。
【0075】
読み出しは、クロック発生310から発生された前述のようにCK1とは異なる周波数のCK2と、水平係数発生器23から発生される水平読み出し制御RCHに応じて読み出しアドレス発生で発生された読み出しアドレスRACおよびRAYに応じて行われる。
【0076】
この動作は、以下のように行われる。なお、説明の簡略化のため輝度信号のみについて説明する。
【0077】
CK1の周波数FCK1とCK2の周波数FCK2の比率FCK2/FCK1がKである時、1Hメモリ312の出力は、読み出しクロックの周波数はFCK2であって、読み出しのデータレートはFCK1と同じになるように読み出しアドレスRAYが発生される。水平補間14では1Hメモリ312から読み出された、上述のようにCK2に同期し、データレートがFCK1である信号を入力して、これを水平方向にK倍に補間し、その補間された信号を出力する。これにより出力端子20から出力される輝度信号のデータレートはFCK2になる。
【0078】
例えばKが5/4であるとすると、1Hメモリ312からの出力はFCK2の周波数に同期して出力されるが、その出力は5クロック毎に4個のデータが出力される。つまり、5クロックに1度は同じデータが2度出力される。水平補間14ではこのデータをもとに前述のような4点補間を行い、5つの補間されたデータを生成して出力する。したがって、水平補間14の出力においては、クロック周波数、データレートともにFCK2になる。
【0079】
図9は本発明の第4の実施例を示す図である。
【0080】
320、321は書き込みは書き込みアドレスに応じて行い、読み出しは順次走査により行う方式のフィールドメモリ、322はフィールドメモリの書き込みアドレスを発生する書き込みアドレス発生である。
【0081】
CCD1から色信号処理9、輝度信号処理10の出力までの信号の流れは前出の実施例と同一である。
【0082】
色信号処理9の出力Cおよび輝度信号処理10の出力Yは3H遅延15、16に入力される。
【0083】
3H遅延15、16では1水平期間、2水平期間、3水平期間遅延した信号をそれぞれ出力し、その入力信号と共に垂直補間17、18にそれぞれ入力させる。
【0084】
垂直補間17、18では水平係数発生器22から発生された補間係数SCVに応じて、前述の4点補間の方式により垂直方向に画素を補間する。それらの出力は、それぞれ水平補間13、14に入力される。水平補間13、14では、入力された信号を、水平係数発生器23から発生される補間係数SCHに応じて前述の4点補間の方式により水平方向に画素を補間する。それらの出力は、フィールドメモリ320、321に入力される。
【0085】
フィールドメモリ321では、入力信号が書き込みアドレス発生322により発生される書き込みアドレスWAYに応じて書き込まれる。この時、ズーム比入力端子21に入力されたズーム比率に応じて、フィールドメモリ上に、縮小された画像が書き込まれるようにアドレスWAYが発生される。
【0086】
例えば、ズーム比率が1/2の縮小を表す場合、アドレスは、水平方向2画素期間に1ずつ、垂直方向にも2ライン期間同じアドレスが発生され、フィールドメモリ上の画像が1/2に縮小された画像になるように動作する。
【0087】
またズーム比率が1と1/2の間である時は、垂直補間18、水平補間14により、垂直、水平方向に補間された後、ズーム比率に応じてアドレスの増加を制御して書き込み、フィールドメモリ上の画像がズーム比率の値に縮小された画像となるように動作する。
【0088】
フィールドメモリ、320の動作も上述とほぼ同じであるが、色信号は時分割多重されているため、2画素分のデータを1つのまとまりとして扱う。
【0089】
フィールドメモリ320、321では、上述の動作により書き込まれた画像を順次読み出す事により、縮小された画像の色信号及び輝度信号が読み出され、出力端子19、20からそれぞれ出力される。
【0090】
【発明の効果】
以上説明したように、本発明によれば、撮像素子の出力信号の画像を水平あるいは垂直の少なくとも1方向に拡大、あるいは縮小する際に、水平、あるいは垂直方向に隣接する、4点の画像データをもとにそれらの画素の間のある位置の補間された画像データを得る事により、周波数特性の優れた画像劣化の非常に少ない拡大、縮小画像を得る事が可能になる。
【0091】
また、さらに、本発明の4点の画像データをもとに補間データを生成する際、隣接する4つの画素のデータをD0、D1、D2、D3とし、D1とD2の間に補間するべき位置が有り、その位置とD1との距離をD1、D2の距離で割った値をKとした時に、まず、D0とD3、D1とD2の2つの組み合わせにおいて、それぞれの組のデータを前者に対してK、後者に対して(1−K)を重みとして加算平均した平均値を求め、それら2つの平均値をもとに前述の補完するべき位置における画像データを得る事により、整数演算のみで画像データの演算が出来るため、ハードウエアによる実現が非常に容易に行なえる。
【図面の簡単な説明】
【図1】本発明の第1実施例図。
【図2】垂直補間回路の例を示す図。
【図3】水平係数発生器の例を示す図。
【図4】図2の垂直補間の特性図。
【図5】水平補間の詳細例を示す図。
【図6】Aは水平補間動作の説明図。Bは垂直補間動作の説明図。
【図7】本発明の第2実施例図。
【図8】本発明の第3実施例図。
【図9】本発明の第4実施例図。
【図10】従来の線形補間の説明図。
【図11】従来の補間回路例を示す図。
【図12】従来の周波数特性図。
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an imaging apparatus, which relates to an imaging apparatus that electronically enlarges / reduces a captured image with high image quality.
[0002]
[Prior art]
Recent advances in digital signal processing technology have brought about significant development in the video field. With the advent of digital recording media such as digital video cameras and digital still cameras, it has become an environment where image data can be recorded, edited, and processed on a personal computer, etc., easily and with high image quality.
[0003]
Conventionally, in digital video cameras, in order to perform zooming more than zooming by an optical system, many processes called electronic zoom for interpolating and enlarging and reducing captured images have been proposed. These used the following algorithm.
[0004]
When there is continuous image data sampled at a certain frequency and the image data is linearly interpolated at some other frequency sampling interval, the time between the original sampling pixel data before and after the interpolation pixel and the interpolation pixel Relative position data k is required.
[0005]
As a method for obtaining this continuously, U.S. Pat. S. Pat. Memory reading means using an accumulator as shown in 4,774,581 may be used. As an example in which this is applied to a video camera, there is JP-A-5-328184. This uses a linear interpolation algorithm.
[0006]
FIG. 10 is an explanatory diagram of this linear interpolation algorithm, and shows a part of an image stored in a memory. Sn , Sn-1 Indicates accumulated pixel data, and S ′ indicates pixel data to be interpolated.
[0007]
At this time, Sn , Sn-1 , S ′ is given by S ′ = Sn ・ K + Sn-1 -It is represented by (1-k). In order to realize this with a digital circuit, this equation is applied to an adder, a subtracter, or a multiplier as it is, or modified to reduce the number of multipliers, and S ′ = (Sn -Sn-1 ) ・ K + Sn-1 It was applied as.
[0008]
FIG. 11 shows an example of an interpolation portion of these conventional linear interpolation type imaging devices. Original sampling pixel data S immediately before the interpolation pixel S ′n The original sampling pixel data S immediately after the interpolation pixeln-1Based on the above-mentioned linear interpolation formula based on the relative position data k with the interpolation pixel S ′, S ′ = (Sn -Sn-1 ) ・ K + Sn-1 Is calculated by the subtractor 61, the multiplier 62, and the adder 63, and the interpolated pixel data S 'is output.
[0009]
[Problems to be solved by the invention]
However, these conventional methods have the following drawbacks. In the above-described conventional linear interpolation, although the circuit configuration is simplified, the frequency characteristics are such that the high frequency components are greatly attenuated as shown in FIG. There were drawbacks.
[0010]
In order to solve this, Japanese Patent Laid-Open No. 5-83612 proposes a method of correcting after applying a coefficient to the vertical aperture signal. Although this method is effective in the vertical direction, it is originally shown in FIG. Since the attenuation of the high frequency component is large as shown in FIG. In addition, since the correction in the horizontal direction is not performed, the deterioration in the horizontal resolution is remarkable.
[0011]
A method of enlarging and reducing high-quality images by software processing has also been proposed, but it takes time to process, and a high-performance CPU, large-capacity memory, etc. are required to execute the software. There was a drawback that would be necessary.
[0012]
SUMMARY OF THE INVENTION An object of the present invention is to provide an imaging apparatus capable of enlarging / reducing a high-resolution image with a high resolution with a simple circuit configuration, except for the disadvantages of these conventional examples.
[0013]
[Means for Solving the Problems]
  In order to solve the above problems, the present inventionAn image pickup apparatus having an image pickup device and an image processing unit capable of enlarging or reducing an image of an output signal of the image pickup device in at least one horizontal or vertical direction, 4 adjacent to the horizontal or vertical direction. S data of two pixels n , S n-1 , S n-2 , S n-3 And S n-1 And S n-2 There is a position to be interpolated between n-1 And the distance to S n-1 , S n-2 The image processing unit for the interpolation processing performed when the value divided by the distance is K is P n = KS n + (1-K) S n-3 The average value P represented by n A first arithmetic circuit for calculating n-1 = KS n-1 + (1-K) S n-2 The average value P represented by n-1 A second arithmetic circuit that calculates a new coefficient K ′ based on the value of K, and a P n , P n-1 And a third arithmetic circuit for calculating the image data value S ′ at the position to be complemented based on the value of K ′.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 shows a first embodiment of the present invention.
[0015]
1 is a CCD which is a color imaging device, 2 is a timing pulse generation which generates a driving timing pulse of the CCD 1 in accordance with the inputted vertical transfer control signal STV, and 3 is a sample and hold of the output signal of the CCD 1 to make a continuous signal Sample and hold, 4 is an AD converter that converts an input signal into a digital signal, 5 and 6 are 1H delays that delay the input signal by one horizontal period or hold the current data in accordance with the given write control signal WC , 7 is a color separation that separates the color signals R, G, and B from the input signal, 8 is a low-pass filter, 9 is a clamp, white balance, gamma correction, white, dark clip, and color difference matrix for the input RGB signal. Color signal processing for forming a color signal C and 10 is a clamp gamma correction for the input signal Luminance signal processing for forming a luminance signal Y by performing white, dark clip, and edge enhancement. 11 and 12 are to output an output obtained by delaying an input signal by one horizontal period according to a given readout control signal RC. 1H delay for the operation of stopping reading, 13 and 14 horizontal interpolation for horizontally interpolating the input signal according to the given interpolation coefficient SCH, 15 and 16 for the input signal for 1 horizontal period, 2 horizontal 3H delay for obtaining an output delayed for a period and 3 horizontal periods, 17 and 18 for vertical interpolation for performing vertical interpolation of the input signal according to the given interpolation coefficient SCV, 19 for output of the color signal C, and 20 for luminance signal 20 is an input terminal for a zoom ratio ZOOM, 22 is a write control signal WC for a vertical transfer control signal STV, 1H delay 5 and 6 in accordance with the input zoom ratio ZOOM. And a vertical coefficient generator 23 for generating the interpolation coefficient SCV of the vertical interpolations 17 and 18, the read control signal RC of 1H delays 11 and 12, and the interpolation coefficient SCH of the horizontal interpolations 13 and 14 according to the input zoom ratio ZOOM. This is a horizontal coefficient generator.
[0016]
A subject image (not shown) is imaged on the imaging surface on the CCD 1 by an imaging optical system (not shown) and subjected to photoelectric conversion. The photoelectrically converted charges are transferred in the vertical and horizontal directions in accordance with the drive timing pulse generated by the timing pulse 2. At this time, when the vertical transfer control STV is generated, a pulse for performing the vertical transfer in the CCD 1 is not generated from the timing pulse generation 2 and the vertical transfer in the CCD 1 is not performed. For example, when enlarging at a magnification of 2 times, after the charge photoelectrically converted in one horizontal period is read out, vertical transfer is not performed in the next horizontal period, and no charge is read out. This operation is repeated. In the CCD 1, the charge transferred as described above is subjected to charge-voltage conversion at the output unit and output as an imaging signal.
[0017]
This imaging signal is made continuous by the sample and hold 3, converted into a digital signal by the AD converter 4, and then input to the 1H delay 5.
[0018]
The output delayed by one horizontal period by the 1H delay 5 is input to the color separation 7 and low-pass filter 8 and simultaneously input to the 1H delay 6, and further delayed by one horizontal period.
[0019]
Further, in the 1H delays 5 and 6, when the vertical transfer of the CCD 1 is stopped as described above, the write control signal WC is generated from the vertical coefficient generator 22 and no write is performed, and the same signal is transmitted in the next horizontal period. Is also read out.
[0020]
The color separation 7 receives the outputs of the 1H delays 5 and 6 described above. The configuration of the color separation 7 differs depending on the configuration of the mosaic color filter on the imaging surface of the CCD 1, but for example, in the case of interlaced readout with a filter configured by repetition of yellow, cyan, green, and magenta, which are often used. R, G, and B signals can be obtained by calculating signals in two horizontal periods. The R, G, and B signals undergo the above-described process processing in the color signal processing 9 to form a color signal C. This color signal is output in a format suitable for subsequent digital processing, for example, a time division multiplexing format of Cr and Cb.
[0021]
The low-pass filter 8 is set to a characteristic that removes the color carrier generated by the above-described mosaic color filter of the CCD 1 and extracts a luminance signal. The output of the low-pass filter is subjected to the above-described process processing in the luminance signal processing 10, and the luminance signal Y is formed.
[0022]
C and Y formed as described above are first input to 1H delays 11 and 12. In the 1H delays 11 and 12, the written input signal is delayed by one horizontal period, and at the same time, reading is performed according to the read control signal RC generated by the horizontal coefficient generator 23. The outputs of the 1H delays 11 and 12 are input to horizontal interpolations 13 and 14, respectively. In the horizontal interpolations 13 and 14, horizontal four-point interpolation is performed according to the interpolation coefficient SCH generated by the horizontal coefficient generator 23.
[0023]
The outputs of the horizontal interpolations 13 and 14 are input to 3H delays 15 and 16, respectively. The 3H delays 15 and 16 generate outputs obtained by delaying the input signals by 1H, 2H, and 3H, respectively, and are input to the vertical interpolations 17 and 18 together with the undelayed signals.
[0024]
In the vertical interpolations 17 and 18, four-point interpolation is performed from the four signals input according to the interpolation coefficient SCV generated from the vertical coefficient generator 22, and the interpolated signals are output, respectively, and the color signal output terminals 19, The signal is output from the luminance signal output terminal 20 to an external device such as a VTR (not shown) or a television monitor.
[0025]
The zoom ratio ZOOM set by the setting means such as the zoom volume and the zoom switch is input from the input terminal 21 and input to the vertical coefficient generator 22 and the horizontal coefficient generator 23. The vertical coefficient generator 22 generates the vertical transfer control signal STV for the timing pulse generation 2, the write control signal WC for the 1H delays 5 and 6, and the interpolation coefficient SCV for the vertical interpolations 17 and 18 according to the input ZOOM signal. Then, it operates so as to form an image signal enlarged or reduced in the vertical direction at a predetermined magnification.
[0026]
Further, the horizontal coefficient generator 23 generates a 1H delay 11, 12 readout control signal and horizontal interpolation 13, 14 interpolation coefficient SCH in accordance with the input ZOOM signal, and expands it at a predetermined magnification in the horizontal direction. Alternatively, it operates to form a reduced image signal.
[0027]
FIG. 2 shows a detailed example of the vertical interpolation 18 in the embodiment of the present invention. 101, 102, 103, 104, and 105 are input terminals, 106, 109, 112, and 115 are subtracters, 107, 110, 113, and 116 are multipliers, 108, 111, and 114 are adders, and 117 is an output terminal. . The input terminal 101 is the output signal S of the horizontal interpolation 14 in FIG.nEnter. The input terminal 102 receives the signal S delayed by 1H out of the output of the 3H delay 16.n-1Enter. The input terminal 103 receives the signal S delayed by 2H out of the output of the 3H delay 16.n-2Enter. The input terminal 104 receives the signal S delayed by 3H out of the output of the 3H delay 16.n-3Enter. The input terminal 105 inputs the interpolation coefficient SCV among the outputs of the vertical coefficient generator 22.
[0028]
SnAnd Sn-3Is first subtracted by a subtracter 106 and then multiplied by SCV by a multiplier 107. The output is output by the adder 108 to Sn-3And the signal PnIt becomes.
[0029]
If the value of SCV is K, this signal PnSnAnd Sn-3Is an average value obtained by adding and averaging with K and (1-K) as weights.
[0030]
Sn-1And Sn-2Is first subtracted by a subtractor 109, then multiplied by SCV by a multiplier 110, and S by an adder 111.n-2To be a signal Pn-1.
[0031]
This signal Pn-1 is Sn-1And Sn-2Is an average value obtained by adding and averaging with K and (1-K) as weights. PnAnd Pn-1Is subtracted by the subtractor 112 and then SCV described later by the multiplier 113.2And the adder 114 adds P.n-1And the luminance signal Sv vertically interpolated is output from the luminance signal output terminal 117 described above.
[0032]
The input SCV is also multiplied with the SCV itself by the multiplier 116 and then subtracted from the SCV itself.2It becomes. This SCV2Is input to the multiplier 113 as described above.
[0033]
The vertical interpolation 17 can also be realized with the same configuration as in FIG.
[0034]
FIG. 3 is a detailed example of the horizontal coefficient generator 23 in the embodiment of the present invention.
[0035]
121 is an input terminal for a zoom coefficient input from the zoom coefficient input terminal 21, 122 is an adder, 123 is a register, 124 is an output terminal for read control RC, and 125 is an output terminal for an interpolation coefficient SCH.
[0036]
The zoom coefficient input from the input terminal 121 is added to the signal obtained by removing the most significant bit from the output of the register 123 in the adder 122, and the output is held in the register 123. Data is updated in the register 123 every clock. As described above, the register 123 outputs the signal excluding the most significant bit as input to the adder 122, outputs the most significant bit as the read control RC from the output terminal 124, and interpolates the value excluding the most significant bit. The coefficient SCH is output from the output terminal 125. For example, if the SCH is 8 bits and the RC is 1 bit, the register 123 is 9 bits. The zoom coefficient is 9 bits, and when it is 1 time, it is assumed to be 256. At this time, since 256 is always added in the adder 122, the lower 8 bits are always 0. The most significant bit is always 1. This value is held in the register 123, RC is always 1, SCH is always 0, data is always read from the above-mentioned 1H delay, no interpolation is performed in the horizontal interpolation, and the whole is expanded in the horizontal direction. The enlargement rate is 1x.
[0037]
When the zoom ratio is about twice, the value of ZOOM becomes 128, and the value of the register 123 changes to 0 128 256 128 256. At this time, the most significant bit is 00 1 0 1, and except for the beginning, one pixel is read out every two pixel periods, and it can be seen that the coefficient changes to 0 0.5 0 0.5 0.
[0038]
The operation of the vertical coefficient generator 22 can also be realized with the same configuration as described above, considering that one pixel is shifted by one horizontal period in the vertical direction.
[0039]
FIG. 4 is a characteristic diagram of the vertical interpolation 18 of FIG.
[0040]
It is the figure which frequency-converted the characteristic provided by the above-mentioned structure, obtained the frequency response, and represented this corresponding to the normalized frequency. Compared with the conventional linear interpolation of FIG. 12, the amount of attenuation in the high frequency region is greatly reduced.
[0041]
FIG. 5 shows a detailed example of horizontal interpolation 14 in the embodiment of the present invention.
[0042]
201, 202 are input terminals, 203, 204, 205 are one-clock delays for delaying one pixel, 206, 209, 212, 215 are subtractors, 207, 210, 213, 216 are multipliers, 208, 211, Reference numeral 214 denotes an adder, and 201 denotes an output terminal.
[0043]
The output from the 1H delay 12 in FIG.nIs entered as Also, the interpolation coefficient output from the horizontal coefficient generator 23 is S from the input terminal 202.chIs entered as S enterednAre delayed by one pixel by one clock delay 203, 204, 205, respectively. Each output is Sn-1, Sn-2, Sn-3And
[0044]
SnAnd Sn-3Is first subtracted by the subtracter 206 and then multiplied by the multiplier 207.chAnd multiplied. The output is output by the adder 208 ton-3And the signal PnIt becomes.
[0045]
Sn-1And Sn-2Is first subtracted by a subtracter 209, then multiplied by SCV by a multiplier 210, and S by an adder 211.n-2To be a signal Pn-1.
[0046]
PnAnd Pn-1Is subtracted by the subtractor 212, and then S is described later by the multiplier 213.ch2And the adder 114 adds P.n-1And the horizontally interpolated luminance signal ShAnd is output from the luminance signal output terminal 207 described above.
[0047]
S enteredchAlso, SchAfter multiplying with itself, SchSubtracted from itself, Sch2It becomes. This Sch2Is input to the multiplier 213 as described above.
[0048]
The configuration of the horizontal interpolation 13 is substantially the same as in FIG. 5, but since the color signal is dot sequential of Cr and Cb, the point of 1 clock delay becomes 2 clocks and the distance between pixels is doubled. 4 is different from FIG. 4 in that the coefficient is halved.
[0049]
FIG. 6 is an explanatory diagram of an embodiment of the present invention.
[0050]
FIG. 6A shows an operation of horizontal interpolation by the horizontal interpolation 14. Original pixel Sn, Sn-1, Sn-2, Sn-3Against Sn-1And Sn-2The value of the interpolated pixel S ′ is obtained.
[0051]
First, Sn-1, Sn-2The ratio of the distance from is determined as (1-k): k (0 <= K <1).
[0052]
  Next, according to this k, the values of the surrounding pixels Sn, Sn-1, Sn-2, Sn-3 in the horizontal direction are weighted and added to obtain the value of the interpolated pixel S '. The configuration for obtaining the coefficients used at this time is the configuration shown in FIG. This configuration has a frequency response during interpolation.The amount of attenuation in the high frequency region is greatly reduced.
[0053]
FIG. 6B shows the operation of vertical interpolation by the vertical interpolation 18. Similar to FIG. 6A, the original pixel Sn, Sn-1, Sn-2, Sn-3Against Sn-1And Sn-2The value of the interpolated pixel S ′ is obtained.
[0054]
The structure for obtaining the coefficient used at this time is the structure shown in FIG.
[0055]
FIG. 7 shows a second embodiment of the present invention.
[0056]
The same or equivalent parts as those in the previous figure are given the same reference numerals.
[0057]
301 and 302 are field memories, and 303 is a read address generation.
[0058]
A subject image (not shown) is imaged on the imaging surface on the CCD 1 by an imaging optical system (not shown) and subjected to photoelectric conversion. The photoelectrically converted charges are transferred in the vertical and horizontal directions in accordance with the drive timing pulse generated by the timing pulse 2. In the CCD 1, the transferred charge is subjected to charge-voltage conversion at the output unit and output as an imaging signal.
[0059]
This imaging signal is made continuous by the sample and hold 3, converted into a digital signal by the AD converter 4, and then input to the 1H delay 5.
[0060]
The output delayed by one horizontal period by the 1H delay 5 is input to the color separation 7 and low-pass filter 8 and simultaneously input to the 1H delay 6, and further delayed by one horizontal period.
[0061]
The color separation 7 receives the outputs of the 1H delays 5 and 6 described above. The configuration of the color separation 7 differs depending on the configuration of the mosaic color filter on the image pickup surface of the CCD 1. For example, in the case of interlaced readout with a filter composed of repeated yellow, cyan, green, and magenta R, G, and B signals are obtained by calculating signals for two horizontal periods. The R, G, and B signals undergo the above-described process processing in the color signal processing 9 to form a color signal C. This color signal is output in a format suitable for subsequent digital processing, for example, a time division multiplexing format of Cr and Cb.
[0062]
The low-pass filter 8 is set to a characteristic that removes the color carrier generated by the above-described mosaic color filter of the CCD 1 and extracts a luminance signal. The output of the low-pass filter 8 is subjected to the above-described process processing in the luminance signal processing 10 to form the luminance signal Y.
[0063]
C and Y formed as described above are input to the field memories 301 and 302. In the field memories 301 and 302, the written input signal is delayed by one field period, and reading is performed in accordance with the read addresses RAC and RAY generated by the read address generation 303, respectively. The read addresses RAC and RAY are controlled by the vertical read control RCV generated by the vertical coefficient generator 22 and the horizontal read control RCH generated by the horizontal coefficient generator, respectively, and are set to values input from the zoom coefficient input terminal 21. In response, a read address is generated. For example, when the zoom coefficient is a value representing double magnification, control is performed so that one pixel is read out in a period of two pixels in both the horizontal direction and the vertical direction.
[0064]
The outputs of the field memories 301 and 302 are input in the horizontal periods 13 and 14, respectively. In the horizontal interpolations 13 and 14, horizontal four-point interpolation is performed according to the interpolation coefficient SCH generated by the horizontal coefficient generator 23.
[0065]
The outputs of the horizontal interpolations 13 and 14 are input to 3H delays 15 and 16, respectively. The 3H delays 15 and 16 generate outputs obtained by delaying the input signals by 1H, 2H, and 3H, respectively, and are input to the vertical interpolations 17 and 18 together with the undelayed signals.
[0066]
In the vertical interpolations 17 and 18, four-point interpolation is performed from the four signals input according to the interpolation coefficient SCV generated from the vertical coefficient generator 22, and the interpolated signals are output, respectively, and the color signal output terminals 19, It is output from the luminance signal output terminal 20 to an external device such as a VTR (not shown) or a television monitor.
[0067]
The zoom ratio ZOOM set by the setting means such as the zoom volume and the zoom switch is input from the input terminal 21 and input to the vertical coefficient generator 22 and the horizontal coefficient generator 23.
[0068]
As described above, the vertical coefficient generator 22 generates the vertical read control signal RCV for controlling the read address generation 303 and the 3H delay 15 and the interpolation coefficient SCV for the vertical interpolations 17 and 18 in accordance with the input ZOOM signal. Then, it operates to form an image signal enlarged or reduced in the vertical direction at a predetermined magnification.
[0069]
Further, the horizontal coefficient generator 23 generates a horizontal read control signal RCH for the read address generation 303 and an interpolation coefficient SCH for the horizontal interpolations 13 and 14 in accordance with the inputted ZOOM signal, and expands it at a predetermined magnification in the horizontal direction. Alternatively, it operates to form a reduced image signal.
[0070]
FIG. 8 is a diagram showing a third embodiment of the present invention.
[0071]
310 is a clock generation that generates a clock having a frequency different from the timing pulse generation, and 311 and 312 are dual port types in which an input signal is continuously written in synchronization with a write clock, and an output signal is read according to a read clock and a read address. 1H memory for one horizontal period called.
[0072]
The signal flow from the CCD 1 to the output of the color signal processing 9 and the luminance signal processing 10 is the same as in the previous embodiment.
[0073]
The output C of the color signal processing 9 and the output Y of the luminance signal processing 10 are input to the 1H memories 311 and 312.
[0074]
In the 1H memories 311 and 312, writing is continuously performed in synchronization with the clock CK 1 synchronized with the horizontal transfer clock of the CCD 1 generated by the timing pulse generation 2.
[0075]
As described above, the read is performed by the read address RAC generated by the read address generation in accordance with the CK2 generated from the clock generator 310 and the frequency CK2 different from CK1 and the horizontal read control RCH generated from the horizontal coefficient generator 23. It is performed according to RAY.
[0076]
This operation is performed as follows. For simplification of description, only the luminance signal will be described.
[0077]
When the ratio FCK2 / FCK1 of the frequency FCK1 of CK1 and the frequency FCK2 of CK2 is F, the output of the 1H memory 312 is read so that the frequency of the read clock is FCK2 and the read data rate is the same as FCK1. Address RAY is generated. In the horizontal interpolation 14, the signal read from the 1H memory 312 and synchronized with CK2 as described above and having a data rate of FCK1 is input, and this signal is interpolated K times in the horizontal direction. Is output. As a result, the data rate of the luminance signal output from the output terminal 20 becomes FCK2.
[0078]
For example, if K is 5/4, the output from the 1H memory 312 is output in synchronization with the frequency of the FCK2, but the output outputs four data every five clocks. That is, the same data is output twice every five clocks. In the horizontal interpolation 14, the above-described four-point interpolation is performed based on this data, and five interpolated data are generated and output. Therefore, in the output of the horizontal interpolation 14, both the clock frequency and the data rate are FCK2.
[0079]
FIG. 9 is a diagram showing a fourth embodiment of the present invention.
[0080]
320 and 321 are field memories in which writing is performed in accordance with a write address, and reading is performed by sequential scanning, and 322 is a write address generation for generating a write address of the field memory.
[0081]
The signal flow from the CCD 1 to the output of the color signal processing 9 and the luminance signal processing 10 is the same as in the previous embodiment.
[0082]
The output C of the color signal processing 9 and the output Y of the luminance signal processing 10 are input to 3H delays 15 and 16.
[0083]
In the 3H delays 15 and 16, signals delayed by one horizontal period, two horizontal periods, and three horizontal periods are output and input to the vertical interpolations 17 and 18 together with the input signals.
[0084]
In the vertical interpolations 17 and 18, the pixels are interpolated in the vertical direction by the above-described four-point interpolation method according to the interpolation coefficient SCV generated from the horizontal coefficient generator 22. These outputs are input to horizontal interpolations 13 and 14, respectively. In the horizontal interpolations 13 and 14, the input signals are interpolated in the horizontal direction by the above-described four-point interpolation method according to the interpolation coefficient SCH generated from the horizontal coefficient generator 23. Those outputs are input to the field memories 320 and 321.
[0085]
In the field memory 321, the input signal is written according to the write address WAY generated by the write address generation 322. At this time, an address WAY is generated so that a reduced image is written in the field memory in accordance with the zoom ratio input to the zoom ratio input terminal 21.
[0086]
For example, when the zoom ratio represents a reduction of 1/2, the same address is generated every two pixel periods in the horizontal direction and in the vertical direction for two line periods, and the image on the field memory is reduced to 1/2. Operate to become a rendered image.
[0087]
When the zoom ratio is between 1 and 1/2, the vertical interpolation 18 and horizontal interpolation 14 are used to interpolate in the vertical and horizontal directions, and then the address is controlled to increase according to the zoom ratio and written. It operates so that the image on the memory becomes an image reduced to the value of the zoom ratio.
[0088]
The operation of the field memory 320 is almost the same as that described above, but the color signals are time-division multiplexed, so that the data for two pixels is handled as one unit.
[0089]
In the field memories 320 and 321, the color signal and the luminance signal of the reduced image are read out by sequentially reading out the images written by the above-described operation, and are output from the output terminals 19 and 20, respectively.
[0090]
【The invention's effect】
As described above, according to the present invention, when the image of the output signal of the image sensor is enlarged or reduced in at least one horizontal or vertical direction, four points of image data adjacent in the horizontal or vertical direction are used. By obtaining the interpolated image data at a certain position between the pixels based on the above, it is possible to obtain an enlarged / reduced image with excellent frequency characteristics and very little image deterioration.
[0091]
Furthermore, when generating interpolation data based on the four points of image data according to the present invention, data of four adjacent pixels are D0, D1, D2, and D3, and positions to be interpolated between D1 and D2. When the value obtained by dividing the distance between the position and D1 by the distance of D1 and D2 is K, first, in the two combinations of D0 and D3 and D1 and D2, the data of each set is given to the former The average value obtained by adding and averaging (1-K) as a weight for K and the latter is obtained, and the image data at the position to be complemented is obtained based on the two average values, so that only the integer calculation is performed. Since image data can be calculated, it can be easily realized by hardware.
[Brief description of the drawings]
FIG. 1 is a first embodiment of the present invention.
FIG. 2 is a diagram illustrating an example of a vertical interpolation circuit.
FIG. 3 is a diagram showing an example of a horizontal coefficient generator.
FIG. 4 is a characteristic diagram of the vertical interpolation of FIG.
FIG. 5 is a diagram showing a detailed example of horizontal interpolation.
FIG. 6A is an explanatory diagram of a horizontal interpolation operation. B is an explanatory diagram of the vertical interpolation operation.
FIG. 7 is a diagram showing a second embodiment of the present invention.
FIG. 8 is a diagram showing a third embodiment of the present invention.
FIG. 9 is a diagram showing a fourth embodiment of the present invention.
FIG. 10 is an explanatory diagram of conventional linear interpolation.
FIG. 11 is a diagram illustrating an example of a conventional interpolation circuit.
FIG. 12 is a conventional frequency characteristic diagram.

Claims (2)

撮像素子と、撮像素子の出力信号の画像を水平あるいは垂直の少なくとも1方向に拡大、あるいは縮小する事が可能な画像処理部とを有する撮像装置であって、
水平方向または垂直方向に隣接する4つの画素のデータを 、S n−1 、S n−2 、S n−3 とし、 n−1 n−2 の間に補間するべき位置が有り、その位置と n−1 との距離を n−1 n−2 の距離で割った値をKとした時に行う補間処理のための前記画像処理部は、
=KS +(1−K)S n−3 で表される平均値P を演算する第1演算回路と、
n−1 =KS n−1 +(1−K)S n−2 で表される平均値P n−1 を演算する第2演算回路と、
Kの値に基づき新たな係数K’を演算する係数演算回路と、
、P n−1 、及びK’の値に基づき前記補完するべき位置における画像データ値S’を演算する第3演算回路と、を含むことを特徴とする撮像装置。
An image pickup apparatus having an image pickup device and an image processing unit capable of expanding or reducing an image of an output signal of the image pickup device in at least one horizontal or vertical direction,
S n , S n−1 , S n−2 , and S n−3 are the data of four pixels adjacent in the horizontal direction or the vertical direction, and there are positions to be interpolated between S n−1 and S n−2. Yes, the image processing unit for the interpolation processing performed when the value obtained by dividing the distance between the position and S n-1 by the distance of S n-1 and S n-2 is K ,
A first arithmetic circuit that calculates an average value P n represented by P n = KS n + (1−K) S n−3 ;
A second arithmetic circuit that calculates an average value P n−1 represented by P n−1 = KS n−1 + (1−K) S n−2 ;
A coefficient calculation circuit for calculating a new coefficient K ′ based on the value of K;
And a third arithmetic circuit that calculates the image data value S ′ at the position to be complemented based on the values of P n , P n−1 , and K ′ .
前記係数演算回路は、K’=K−KThe coefficient arithmetic circuit has K ′ = K−K. 2 で表される係数K’を演算し、前記第3演算回路は、S’=−K’PThe third arithmetic circuit calculates S ′ = − K′P. n +(K’+1)P+ (K ′ + 1) P n−1n-1 で表される前記補完するべき位置における画像データ値S’を演算することを特徴とする請求項1に記載の撮像装置。The image pickup apparatus according to claim 1, wherein the image data value S ′ at the position to be complemented expressed by:
JP20609997A 1997-07-31 1997-07-31 Imaging device Expired - Fee Related JP3754803B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP20609997A JP3754803B2 (en) 1997-07-31 1997-07-31 Imaging device
US09/124,225 US6631216B2 (en) 1997-07-31 1998-07-29 Image interpolation apparatus
EP98306086A EP0895412B1 (en) 1997-07-31 1998-07-30 Apparatus and method for enlarging or reducing of pictures
DE69836453T DE69836453T2 (en) 1997-07-31 1998-07-30 Apparatus and method for enlarging or reducing images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20609997A JP3754803B2 (en) 1997-07-31 1997-07-31 Imaging device

Publications (2)

Publication Number Publication Date
JPH1153531A JPH1153531A (en) 1999-02-26
JP3754803B2 true JP3754803B2 (en) 2006-03-15

Family

ID=16517796

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20609997A Expired - Fee Related JP3754803B2 (en) 1997-07-31 1997-07-31 Imaging device

Country Status (1)

Country Link
JP (1) JP3754803B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4774736B2 (en) 2004-12-27 2011-09-14 カシオ計算機株式会社 Image enlargement apparatus and imaging apparatus
JP5430379B2 (en) 2009-02-03 2014-02-26 キヤノン株式会社 Imaging apparatus, control method thereof, and program
KR101199986B1 (en) * 2012-03-21 2012-11-12 (주)한국원자력 엔지니어링 Camera Shooting Method

Also Published As

Publication number Publication date
JPH1153531A (en) 1999-02-26

Similar Documents

Publication Publication Date Title
US5459520A (en) Electronic camera with over-sampling filter and method for over-sampling and interpolating electronic camera image data
JP4378804B2 (en) Imaging device
KR0125108B1 (en) Still image recording digital camera
JP4253881B2 (en) Imaging device
EP0895412B1 (en) Apparatus and method for enlarging or reducing of pictures
JP3754803B2 (en) Imaging device
JP3415215B2 (en) Digital zooming system
JP2552060B2 (en) Method and apparatus for motion aperture correction
JPH08317295A (en) Digital image recording device and digital image reproducing device
US5481304A (en) Apparatus for zooming a digital video signal of a predetermined color order which is derived from a charge-coupled device
JP3288776B2 (en) Imaging device
JPH1153530A (en) Image interpolation device
JP3761971B2 (en) Imaging device
JP3018297B2 (en) Color imaging device
JPH07177531A (en) Imaging device
JP4035542B2 (en) Imaging device
JP3374431B2 (en) Imaging device with interpolation function
JP3281454B2 (en) Imaging recording device
JP2728135B2 (en) Imaging device
JPH09116912A (en) Video signal processing device
JP3463695B2 (en) Imaging equipment
JPH11191859A (en) Imaging device
JP3191586B2 (en) Image motion compensation device
KR0137232B1 (en) Still image recording digital camera
JP3352116B2 (en) Image processing device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050610

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20050726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050913

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20050930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051219

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101222

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111222

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121222

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131222

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees