Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7714640B2 - 撮像装置及び固定撮像素子 - Google Patents
[go: Go Back, main page]

JP7714640B2 - 撮像装置及び固定撮像素子 - Google Patents

撮像装置及び固定撮像素子

Info

Publication number
JP7714640B2
JP7714640B2 JP2023515842A JP2023515842A JP7714640B2 JP 7714640 B2 JP7714640 B2 JP 7714640B2 JP 2023515842 A JP2023515842 A JP 2023515842A JP 2023515842 A JP2023515842 A JP 2023515842A JP 7714640 B2 JP7714640 B2 JP 7714640B2
Authority
JP
Japan
Prior art keywords
light receiving
receiving element
signal
pixel
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023515842A
Other languages
English (en)
Other versions
JP2025506578A (ja
Inventor
祐介 小黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Mobile Software Co Ltd
Original Assignee
Beijing Xiaomi Mobile Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Mobile Software Co Ltd filed Critical Beijing Xiaomi Mobile Software Co Ltd
Publication of JP2025506578A publication Critical patent/JP2025506578A/ja
Application granted granted Critical
Publication of JP7714640B2 publication Critical patent/JP7714640B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、受光素子アレイを備える撮像装置及び固体撮像素子に関するものである。
従来から、デジタルカメラ等の撮像装置に用いられるCMOS等の固体撮像素子として、特許文献1(日本国特開2022-164387号公報)に記載の固体撮像素子が知られている。
この固体撮像素子500は、図11に示すように、光電変換素子を含む受光素子502がアレイ状に2次元配列され、画素駆動配線503及び垂直信号線504と接続している受光素子アレイ501を有すると共に、周辺回路として、列並列信号処理回路505、出力回路506、タイミング制御回路507、水平走査回路508、垂直走査回路509等を有する。
この固体撮像素子500では、該固体撮像素子500を備えた撮像装置(デジタルカメラ等)での撮像時において受光素子アレイ501が露光したときに、該受光素子アレイ501を構成する複数の受光素子502のそれぞれから出力された信号が垂直信号線504、列並列信号処理回路505、出力回路506等を通じて外部に出力される。
近年、固体撮像素子500や固体撮像素子500を備えた撮像装置の省電力化が求められているが、この固体撮像素子500や前記撮像装置では、受光素子アレイ501に含まれる複数の受光素子502のそれぞれから出力される信号が全て外部に出力される構成(いわゆる全量読み出しの構成)であるため固体撮像素子500内や外部に出力される信号量が多く、固体撮像素子500では前記信号量に応じた消費電力が必要になるため、上記の固体撮像素子500や、この固体撮像素子500を備えた撮像装置において省電力化が十分ではなかった。
日本国特開2022-164387号公報
そこで、本発明は、消費電力を抑えることができる撮像装置及び固体撮像素子を提供することを課題とする。
本発明に係る撮像装置は、
複数の受光素子をそれぞれ有する複数の受光素子グループを備える受光素子アレイと、
前記受光素子グループの複数の受光素子から出力される信号を圧縮した圧縮信号を受光素子グループ毎にそれぞれ生成する圧縮部と、を備える。
また、前記撮像装置は、
前記受光素子アレイと前記圧縮部とを有する固体撮像素子を備えてもよい。
また、前記撮像装置において、
前記受光素子グループでは、前記受光素子アレイが露光したときに該受光素子グループの少なくとも一つの受光素子の露光量が該受光素子グループの他の受光素子の露光量と異なってもよい。
また、前記撮像装置では、
前記受光素子グループにおいて、前記露光量の違いは、各受光素子の露光時間の違いによって生じてもよい。
また、前記撮像装置では、
前記圧縮信号は、前記受光素子グループの各受光素子から出力される信号に含まれる信号値の重み平均値又は平均値を含んでもよい。
また、前記撮像装置は、
前記圧縮部により生成された前記圧縮信号を、出力画像における該圧縮信号と対応する画素の画素信号に再構築する再構築処理部を備えてもよい。
また、前記撮像装置では、
前記再構築処理部は、前記圧縮信号に含まれている圧縮前の情報に基づいて該圧縮信号を前記画素信号に再構築してもよい。
また、前記撮像装置では、
前記受光素子グループの各受光素子は、光電変換素子をそれぞれ有し、
前記再構築処理部は、前記受光素子アレイが露光したときに前記受光素子グループにおいて前記光電変換素子がオーバーフローした受光素子とオーバーフローしなかった受光素子とがあったときに、前記各受光素子の光電変換素子が前記露光によってオーバーフローしない容量であった場合に取得できる信号値の予想値を演算によって求めることで前記圧縮信号を前記画素信号に再構築してもよい。
また、前記撮像装置では、
前記受光素子グループに含まれる複数の受光素子は、基準となる受光素子である基準受光素子と、前記基準受光素子以外の非基準受光素子と、を有し、
前記圧縮部は、前記基準受光素子から出力される信号に含まれる信号値である基準信号値と、前記非基準受光素子から出力される信号に含まれる信号値である非基準信号値と、の差に基づいて前記圧縮信号を生成してもよい。
また、前記撮像装置において、
前記圧縮部は、前記受光素子グループの前記非基準受光素子から出力される信号に含まれる前記非基準信号値において、
前記基準信号値との差が所定の閾値未満になる非基準信号値しかないときは、該受光素子グループの各受光素子から出力される信号値の重み平均値又は平均値を含む前記圧縮信号を生成し、
前記基準信号値との差が前記所定の閾値未満になる非基準信号値である第一信号値と、前記基準信号値との差が前記所定の閾値以上になる非基準信号値である第二信号値と、があるときは、前記各受光素子から出力される信号のうち前記第二信号値と対応する信号を削除すると共に、前記第一信号値又は前記第二信号値を出力した非基準受光素子の前記基準受光素子に対する位置情報を該基準受光素子が出力する信号に付加することで前記圧縮信号を生成してもよい。
また、前記撮像装置において、
前記圧縮部は、前記受光素子グループの前記非基準受光素子から出力される信号に含まれる前記非基準信号値において、
前記基準信号値との差が所定の閾値未満になる非基準信号値しかないときは、該受光素子グループの各受光素子から出力される信号値の重み平均値又は平均値を含む前記圧縮信号を生成し、
前記基準信号値との差が前記所定の閾値未満になる非基準信号値である第一信号値と、前記基準信号値との差が前記所定の閾値以上になる非基準信号値である第二信号値と、があるときは、前記基準信号値と前記第一信号値との重み平均値又は平均値と、前記第一信号値又は前記第二信号値を出力した非基準受光素子の前記基準受光素子に対する位置情報と、を含む前記圧縮信号を生成してもよい。
また、本発明に係る固体撮像素子は、
複数の受光素子をそれぞれ有する複数の受光素子グループを備える受光素子アレイと、
前記受光素子グループの複数の受光素子から出力される信号を圧縮した圧縮信号を受光素子グループ毎にそれぞれ生成する圧縮部と、を備える。
図1は、第一実施形態に係る撮像装置の機能ブロック図である。 図2は、前記撮像装置が備える固体撮像素子の構成を示す図である。 図3は、前記固体撮像素子が有する受光素子グループの構成を示す図である。 図4は、前記受光素子グループのタイミングチャートである。 図5は、受光素子グループにおいて光電変換素子がオーバーフローした受光素子がないときの圧縮部での処理及び再構築処理部での処理を説明するための図である。 図6は、受光素子グループにおいて光電変換素子がオーバーフローした受光素子があるときの圧縮部での処理及び再構築処理部での処理を説明するための図である。 図7は、第二実施形態に係る固体撮像素子の構成を示す図である。 図8は、受光素子グループにおいて基準受光素子の画素値との差が所定の閾値未満となる画素値の非基準受光素子しかないときの圧縮部での処理及び再構築処理部での処理を説明するための図である。 図9は、受光素子グループにおいて基準受光素子の画素値との差が所定の閾値以上となる画素値の非基準受光素子があるときの圧縮部での処理及び再構築処理部での処理を説明するための図である。 図10は、複数の受光素子グループを有する受光素子アレイに結像したときの圧縮部での処理及び再構築処理部での処理を示す図である。 図11は、従来の固体撮像素子の構成を示す図である。
本実施形態に係る撮像装置は、
複数の受光素子をそれぞれ有する複数の受光素子グループを備える受光素子アレイと、
前記受光素子グループの複数の受光素子から出力される信号を圧縮した圧縮信号を受光素子グループ毎にそれぞれ生成する圧縮部と、を備える。
このように、圧縮部が受光素子グループ毎に圧縮信号を生成し、これら圧縮された各圧縮信号(即ち、信号量が抑えられた状態の信号)を出力することで、該圧縮部より下流側の構成において消費電力を抑えることができる。尚、本発明に係る圧縮部での信号の圧縮とは、各受光素子から出力された信号の単純な加算(画素加算等)により生成された信号より信号量がより小さな信号となるような処理である。
前記撮像装置は、
前記受光素子アレイと前記圧縮部とを有する固体撮像素子を備えてもよい。
また、前記撮像装置では、
前記受光素子グループでは、前記受光素子アレイが露光したときに該受光素子グループの少なくとも一つの受光素子の露光量が該受光素子グループの他の受光素子の露光量と異なってもよい。
かかる構成によれば、露光量の異なる受光素子から出力される各信号の情報を含めつつ信号量を抑えることができる。
この場合、
前記受光素子グループにおいて、前記露光量の違いは、各受光素子の露光時間の違いによって生じてもよい。
このように受光素子の露光時間を調整して受光素子グループ内における受光素子の露光量の違いを生じさせる構成とすることで、受光素子の露光量を制御によって変更することが可能となる。
また、前記撮像装置では、
前記圧縮信号は、前記受光素子グループの各受光素子から出力される信号に含まれる信号値の重み平均値又は平均値を含んでもよい。
また、前記撮像装置は、
前記圧縮部により生成された前記圧縮信号を、出力画像における該圧縮信号と対応する画素の画素信号に再構築する再構築処理部を備えてもよい。
かかる構成によれば、圧縮部の下流側において画素信号が再構築され、この画素信号が出力されることで、得られる画像の画質が向上する。
また、前記撮像装置では、
前記再構築処理部は、前記圧縮信号に含まれている圧縮前の情報に基づいて該圧縮信号を前記画素信号に再構築してもよい。
また、前記撮像装置では、
前記受光素子グループの各受光素子は、光電変換素子をそれぞれ有し、
前記再構築処理部は、前記受光素子アレイが露光したときに前記受光素子グループにおいて前記光電変換素子がオーバーフローした受光素子とオーバーフローしなかった受光素子とがあったときに、前記各受光素子の光電変換素子が前記露光によってオーバーフローしない容量であった場合に取得できる信号値の予想値を演算によって求めることで前記圧縮信号を前記画素信号に再構築してもよい。
かかる構成によれば、各受光素子によって規定されるダイナミックレンジより大きなダイナミックレンジの画像を得ることができる、即ち、ハイダイナミックレンジでの撮像が可能となる。
また、前記撮像装置では、
前記受光素子グループに含まれる複数の受光素子は、基準となる受光素子である基準受光素子と、前記基準受光素子以外の非基準受光素子と、を有し、
前記圧縮部は、前記基準受光素子から出力される信号に含まれる信号値である基準信号値と、前記非基準受光素子から出力される信号に含まれる信号値である非基準信号値と、の差に基づいて前記圧縮信号を生成してもよい。
このように、受光素子の位置毎の基準信号値と非基準信号値との差に基づいて信号を圧縮することで、再構築処理部において前記位置毎の信号量の差を再構築することができ、これにより、出力画像において解像度を確保することができる。
具体的には、
前記圧縮部は、前記受光素子グループの前記非基準受光素子から出力される信号に含まれる前記非基準信号値において、
前記基準信号値との差が所定の閾値未満になる非基準信号値しかないときは、該受光素子グループの各受光素子から出力される信号値の重み平均値又は平均値を含む前記圧縮信号を生成し、
前記基準信号値との差が前記所定の閾値未満になる非基準信号値である第一信号値と、前記基準信号値との差が前記所定の閾値以上になる非基準信号値である第二信号値と、があるときは、前記各受光素子から出力される信号のうち前記第二信号値と対応する信号を削除すると共に、前記第一信号値又は前記第二信号値を出力した非基準受光素子の前記基準受光素子に対する位置情報を該基準受光素子が出力する信号に付加することで前記圧縮信号を生成してもよい。
このように、基準受光素子から出力される信号と、これに付加される位置情報とによって圧縮信号を構成することで、受光素子グループの各受光素子から出力される信号を全て下流側の構成に出力する場合に比べて信号量を好適に抑えることができる。
また、前記圧縮部は、前記受光素子グループの前記非基準受光素子から出力される信号に含まれる前記非基準信号値において、
前記基準信号値との差が所定の閾値未満になる非基準信号値しかないときは、該受光素子グループの各受光素子から出力される信号値の重み平均値又は平均値を含む前記圧縮信号を生成し、
前記基準信号値との差が前記所定の閾値未満になる非基準信号値である第一信号値と、前記基準信号値との差が前記所定の閾値以上になる非基準信号値である第二信号値と、があるときは、前記基準信号値と前記第一信号値との重み平均値又は平均値と、前記第一信号値又は前記第二信号値を出力した非基準受光素子の前記基準受光素子に対する位置情報と、を含む前記圧縮信号を生成してもよい。
また、本実施形態に係る固体撮像素子は、
複数の受光素子をそれぞれ有する複数の受光素子グループを備える受光素子アレイと、
前記受光素子グループの複数の受光素子から出力される信号を圧縮した圧縮信号を受光素子グループ毎にそれぞれ生成する圧縮部と、を備える。
このように、圧縮部が受光素子グループ毎に圧縮信号を生成し、これら圧縮された各圧縮信号(即ち、信号量が抑えられた状態の信号)を出力することで、該圧縮部より下流側の構成において消費電力を抑えることができる。
以下、本発明の第一実施形態について、添付図面を参照しつつ説明する。
第一実施形態に係る撮像装置100は、図1及び図2に示すように、複数の受光素子21をそれぞれ有する複数の受光素子グループ20を備える受光素子アレイ2と、受光素子グループ20が有する複数の受光素子21から出力される信号S1を圧縮した圧縮信号S2を受光素子グループ20毎にそれぞれ生成する少なくとも一つの圧縮部10と、を備える。本実施形態の撮像装置100は、受光素子グループ20の数と対応する数の圧縮部10を備え、各圧縮部10は、対応する受光素子グループ20が有する複数の受光素子21から出力される信号S1を圧縮した圧縮信号S2を受光素子グループ20毎に生成する。この撮像装置100は、デジタルカメラ、スマートフォン、タブレットデバイス等の対象物を撮像可能なものであり、本実施形態の撮像装置100は、例えば、スマートフォンである。
具体的に、撮像装置100は、図1に示すように、撮像部101と、制御部102と、を備える。本実施形態の撮像装置100は、不揮発性メモリ103と、作業用メモリ104と、操作部105と、表示部106と、記録媒体107と、接続部108と、近距離無線通信部109と、公衆網接続部110と、マイク111と、スピーカ112と、も備える。
撮像部101は、制御部102の制御下において、撮像部101が有する光学系によって結像された対象物の像を電気信号に変換した後、ノイズ低減処理等を行い、デジタルデータを出力画像の画像データとして出力する。具体的に、撮像部101は、レンズ等の少なくとも一つの光学素子によって構成される光学系と、該光学系を通じて結像した対象物(撮像対象物)の像を電気信号に変換する(即ち、撮像する)固体撮像素子1と、を有する。
固体撮像素子1は、例えば、スマートフォン、デジタルカメラ等に組み込まれ、対象物を撮像するための素子であり、本実施形態の固体撮像素子1は、例えば、CMOSイメージセンサーである。
具体的に、この固体撮像素子1は、図2に示すように、受光素子アレイ2と、受光素子アレイ2に接続される第一回路部3及び第二回路部4と、第二回路部4が接続される信号処理部5と、を有する。これら受光素子アレイ2、第一回路部3及び第二回路部4、信号処理部5は、同一の半導体基板上又は電気的に接続された複数の半導体基板上に配置されている。
受光素子アレイ2は、行列状に2次元配置される複数の受光素子グループ20を有する。また、受光素子アレイ2は、行列状に配置された複数の受光素子グループ20に対して、行毎に配置され且つそれぞれが行方向(図2における左右方向)に延びる複数の行信号線25と、列毎に配置され且つそれぞれが列方向(図2における上下方向)に延びる複数の列信号線26と、を有する。これら複数の行信号線25のそれぞれは、第一回路部3に接続され、複数の列信号線26のそれぞれは、第二回路部4に接続されている。
複数の受光素子グループ20のそれぞれは、図3にも示すように、複数の受光素子(画素)21を有する。本実施形態の受光素子グループ20では、複数の受光素子21は互いに隣接している。具体的に、受光素子グループ20に含まれる複数の受光素子21は、行列方向にそれぞれ隣接した状態で配置されている。本実施形態の各受光素子グループ20は、二行二列に配置された(即ち、2×2配列の)四つの受光素子21(第一受光素子21a、第二受光素子21b、第三受光素子21c、第四受光素子21d)を有する。また、各受光素子グループ20は、各受光素子21a、21b、21c、21dが接続されるアンプ22も有する。
尚、図2において、受光素子アレイ2の構成を理解し易いように、行方向に隣り合う受光素子グループ20同士の間と、列方向に隣り合う受光素子グループ20同士の間とに、それぞれ間隔を設けた状態で複数の受光素子グループ20を記載しているが、実際には、受光素子アレイ2において、行方向に隣り合う受光素子グループ20同士が隣接し且つ列方向に隣り合う受光素子グループ20同士が隣接した状態で複数の受光素子グループ20が行列状に配置されている。
また、図3において、受光素子グループ20の構成を理解し易いように、行方向に隣り合う受光素子21同士の間と、列方向に隣り合う受光素子21同士の間とに、それぞれ間隔を設けた状態で各受光素子21a、21b、21c、21dを記載しているが、実際には、受光素子グループ20において、行方向に隣り合う受光素子21同士が隣接し且つ列方向に隣り合う受光素子21同士が隣接した状態で複数の受光素子21が行列状に配置されている。
複数の受光素子21のそれぞれは、入力した光(入射光)を光電変換して入力光量に応じた量の電荷を内部に蓄積し、この蓄積した電荷を電気信号として出力する。本実施形態の各受光素子21から出力可能な信号(画素値)S1の範囲(シグナル・レンジ)は、0~500である。また、各受光素子21は、光電変換素子(本実施形態の例では、フォトダイオード)211をそれぞれ有している。
複数の行信号線25のそれぞれは、接続された各受光素子グループ20に対して、第一回路部3から出力されたリセット信号RES、第一~第四電荷転送信号TX1~TX4、及びセレクト信号SELをそれぞれ送信する。
ここで、リセット信号RESは、各受光素子21a、21b、22c、21dの電荷をリセットするための信号であり、第一電荷転送信号TX1は、第一受光素子21aをON・OFFするための信号であり、第二電荷転送信号TX2は、第二受光素子21bをON・OFFするための信号であり、第三電荷転送信号TX3は、第三受光素子21cをON・OFFするための信号であり、第四電荷転送信号TX4は、第四受光素子21dをON・OFFするための信号である。
複数の列信号線26のそれぞれは、対応する列の各受光素子グループ20にそれぞれ接続され、前記各受光素子グループ20から出力された圧縮信号S2を第二回路部4に送信する。
第一回路部3は、各受光素子グループ20に対してリセット信号RES、第一~第四電荷転送信号TX1~TX4、及びセレクト信号SEL等を出力することにより、受光素子アレイ2の制御、及び各受光素子21から出力される信号S1a、S1b、S1c、S1dを受光素子グループ20毎に圧縮するための制御等を行う。尚、以下では、受光素子グループ20の各受光素子21a、21b、22c、21dから出力される信号S1a、S1b、S1c、S1dを単に信号S1と称することもある。
第二回路部4は、各受光素子グループ20から圧縮信号S2の読み出しやノイズ除去、読み出された各圧縮信号S2のA/D(Analog/Digital)変換等の信号処理を行う。
信号処理部5は、第二回路部4から出力された各圧縮信号S2に対して各種の処理を行う部位であり、本実施形態の信号処理部5は、センサ内ISP(Image Signal Processor)である。
以上のように構成される固体撮像素子1では、第一回路部3から各受光素子グループ20に図4に示すような信号がそれぞれ送信されることにより、受光素子グループ20の各受光素子21a、21b、21c、21dからそれぞれ出力される信号S1a、S1b、S1c、S1dを圧縮して圧縮信号S2を生成する。
具体的には、各受光素子グループ20において、時刻t1のときに、リセット信号がONになると共にセレクト信号がOFFになる。このとき、第一~第四電荷転送信号TX1~TX4がONになり、各受光素子21a、21b、21c、21dの電荷がリセットされる。
続いて、時刻t2において、第一電荷転送信号がOFFとなり、所定間隔をあけて時刻t3に第二電荷転送信号がOFFとなり、時刻t4に第三電荷転送信号がOFFとなり、時刻t5に第三電荷転送信号がOFFになる。
このOFFになる時間(露光時間)の違いにより、撮像装置100における撮影時等において受光素子アレイ2が露光したときに、受光素子グループ20の少なくとも一つの受光素子21の露光量が該受光素子グループ20の他の受光素子21の露光量と異なった状態となる。本実施形態の撮像装置100では、受光素子グループ20における各受光素子21a、21b、21c、21dの露光量がそれぞれ異なる。
続いて、時刻t6においてリセット信号がONになると共にセレクト信号がOFFになった後、時刻t9においてリセット信号がOFFになると共にセレクト信号がONになる。
そして、時刻t6から時刻t9の間の時刻t7、時刻t8において、第一~第四電荷転送信号TX1~TX4が同時にON・OFFする。これにより、各受光素子21a、21b、21c、21dがOFFになっている間(詳しくは、第一受光素子21aが第一蓄積時間T1(時刻t2~時刻t7)の間、第二受光素子21bが第二蓄積時間T2(時刻t3~時刻t7)の間、第三受光素子21cが第三蓄積時間T3(時刻t4~時刻t7)の間、第四受光素子21dが第四蓄積時間T4(時刻t5~時刻t7)の間)に蓄積された電荷がこれら各受光素子21a、21b、21c、21dを含む受光素子グループ20に接続されている列信号線26に電気信号としてそれぞれ同時に出力され、これにより、各受光素子21a、21b、21c、21dからそれぞれ出力された信号S1a、S1b、S1c、S1dが圧縮されて圧縮信号S2となる。尚、本実施形態の撮像装置100における各蓄積時間T1~T4の関係は、T2=(3/4)T1、T3=(2/4)T1、T4=(1/4)T1である。
この受光素子グループ20毎にそれぞれ生成される圧縮信号S2は、受光素子グループ20の各受光素子21a、21b、21c、21dから出力される信号S1に含まれる画素値(信号値)の平均値を含む。
例えば、一つの受光素子グループ20Aに着目したときに、該受光素子グループ20Aの各受光素子21a、21b、21c、21dの露光量がシグナル・レンジ内の場合は、図5に示すように、第一受光素子21aから出力される信号S1aに含まれる画素値が400で、第二受光素子21bから出力される信号S1bに含まれる画素値が300で、第三受光素子21cから出力される信号S1cに含まれる画素値が200で、第四受光素子21dから出力される信号S1dに含まれる画素値が100のときに、当該受光素子グループ20Aから出力される圧縮信号S2に含まれる画素値(平均値)は、
(400+300+200+100)/4=250
となる。尚、本実施形態において、「信号の平均値」とは、信号の重みなし加算値のことである。
また、受光素子グループ20Aの一部の受光素子21a、21b、21c、21dの露光量がシグナル・レンジを超えた場合は、例えば図6に示すように、第一受光素子21aから出力される信号S1aに含まれる画素値が500で、第二受光素子21bから出力される信号S1bに含まれる画素値が500で、第三受光素子21cから出力される信号S1cに含まれる画素値が500で、第四受光素子21dから出力される信号S1dに含まれる画素値が300のときに、当該受光素子グループ20Aから出力される圧縮信号S2に含まれる画素値(平均値)は、
(500+500+500+300)/4=450
となる。
以上のように、本実施形態の固体撮像素子1においては、受光素子グループ20が有する複数の受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dを圧縮した圧縮信号S2を受光素子グループ20毎にそれぞれ生成する上述の圧縮部10は、受光素子グループ20と該受光素子グループ20を制御する第一回路部3とによって構成されている。即ち、本実施形態の固体撮像素子1は、複数(受光素子グループ20の数と対応する数)の圧縮部10を備えている。
制御部102は、入力された信号やプログラムに従って撮像装置100の各部を制御する。この制御部102は、固体撮像素子1から出力された圧縮信号S2を画素信号S3に再構築する再構築処理部102Aを有する。尚、制御部102が撮像装置100の全体を制御する構成に限定されない。複数のハードウェアが処理を分担することにより撮像装置100の全体を制御する構成でもよい。
再構築処理部102Aは、固体撮像素子1から出力される圧縮信号(各受光素子グループ20に対応する圧縮信号)S2を、該圧縮信号S2に含まれている圧縮前の情報に基づいて出力画像における該圧縮信号S2と対応する画素の画素信号S3に再構築する。
この再構築処理部102Aを有する制御部102では、固体撮像素子1から出力される各圧縮信号S2が再構築されてそれぞれ画素信号S3が生成され、これにより、出力画像(画像データ)が生成される。制御部102は、この出力画像を表示部106を通じて外部に出力(表示等)する。
具体的に、再構築処理部102Aは、受光素子アレイ2が露光したときに受光素子グループ20の各光電変換素子211がオーバーフローしなかったときには、圧縮信号S2に含まれる画素値と各受光素子21a、21b、21c、21dの蓄積時間T1、T2、T3、T4とに基づいて圧縮信号S2を画素信号S3に再構築する。また、再構築処理部102Aは、受光素子アレイ2が露光したときに受光素子グループ20において光電変換素子211がオーバーフローした受光素子21と光電変換素子211がオーバーフローしなかった受光素子21とがあったときには、各受光素子21の光電変換素子211が露光によってオーバーフローしない容量であった場合に取得できる画素値(信号値)の予想値を含むように圧縮信号S2を画素信号S3に再構築する。
より具体的に、再構築処理部102Aは、例えば、図5に示すように、受光素子グループ20Aから出力された圧縮信号S2に含まれる画素値が250のときには、画素信号S3に含まれる画素値をxとして、T4=(1/4)T1、T3=(2/4)T1、T2=(3/4)T1より、下記の演算を行う。
{x+(3/4)x+(2/4)x+(1/4)x}/4=250
x=400
そして、再構築処理部102Aは、画素信号S3に含まれる画素値xが400となるように、圧縮信号S2から画素信号S3を再構築する。
また、再構築処理部102Aは、例えば、図6に示すように、受光素子グループ20Aから出力された圧縮信号S2に含まれる画素値が450のとき(即ち、受光素子グループ20において光電変換素子211がオーバーフローした受光素子21と光電変換素子211がオーバーフローしなかった受光素子21とがあったとき)には、第四蓄積時間T4のときに受光素子21dから得られる信号S1に含まれる画素値をx1として、下記の演算を行う。
(500+500+500+x1)/4=450
x1=300
そして、第四蓄積時間T4のときに受光素子21dから出力される信号S1dに含まれる画素値x1が300であることから、再構築処理部102Aは、信号S1d(画素値300)を第一蓄積時間T1のときに受光素子21aから出力される信号S1a相当に換算する。具体的には、第一蓄積時間T1が第四蓄積時間T4の四倍であるため、300×4=1200となり、これにより、画素信号S3に含まれる画素値(予想値)x2が1200となるように再構築処理部102Aは画素信号S3を再構築する。
このように、本実施形態の撮像装置100の再構築処理部102Aによれば、受光素子グループ20の各受光素子21a、21b、21c、21dがシグナル・レンジより大きな値(画素値)となるような光量の光が入射しても(即ち、受光素子グループ20において光電変換素子211がオーバーフローする受光素子21が有っても)、白飛びすることなく出力画像が生成される。即ち、本実施形態の撮像装置100では、シグナル・レンジが0~2000のHigh Dynamic Range(HDR)撮像が可能である。
不揮発性メモリ103は、電気的に消去・記録可能な不揮発性のメモリである。本実施形態の不揮発性メモリ103は、制御部102が実行する基本的なソフトウェアであるOS(オペレーティングシステム)、及びこのOSと協働して応用的な機能を実現するアプリケーションを記録している。また、作業用メモリ104は、表示部106の画像表示用メモリ、及び制御部102の作業領域等として使用される。
操作部105は、撮像装置100に対する指示をユーザ等が入力するために用いられる。本実施形態の操作部105は、撮像装置100の電源のON/OFFを指示するための電源ボタン、及び表示部106に形成されるタッチパネル等を有する。
表示部106は、出力画像(画像データ)の表示、及び操作のための文字表示等を行う。
記録媒体107は、撮像部101から出力された画像データを記録する。
接続部108は、外部機器と接続するためのインターフェイスである。この接続部108を介して、撮像装置100が外部機器とデータのやりとりを行う。
近距離無線通信部109は、近距離無線通信を行うための通信ユニットである。近距離無線通信部109は、無線通信のためのアンテナと無線信号を処理するための変復調回路や通信コントローラによって構成されている。
公衆網接続部110は、公衆無線通信を行うためのインターフェイスである。この公衆網接続部110を介して、撮像装置100は、他の機器と通話のための通信を行う。このとき、制御部102は、マイク111及びスピーカ112を介して音声信号の入出力を行うことで前記通話を実現する。本実施形態の公衆網接続部110は、アンテナであり、このアンテナを介して制御部102が公衆網に接続する。
以上の撮像装置100は、複数の受光素子21をそれぞれ有する複数の受光素子グループ20を備える受光素子アレイ2と、受光素子グループ20の複数の受光素子21から出力される信号S1を圧縮した圧縮信号S2を受光素子グループ20毎にそれぞれ生成する圧縮部10と、を備えている。このように、圧縮部10が受光素子グループ20毎に圧縮信号S2を生成し、これら圧縮された各圧縮信号(即ち、信号量が抑えられた状態の信号)S2を出力することで、該圧縮部10より下流側の構成(本実施形態の例では、制御部102等)において消費電力が抑えられる。
また、本実施形態の撮像装置100は、受光素子アレイ2と圧縮部10とを有する固体撮像素子1を備えている。かかる構成によれば、固体撮像素子1において圧縮部10が受光素子グループ20毎に圧縮信号S2を生成し、これら圧縮された各圧縮信号(即ち、信号量が抑えられた状態の信号)S2を出力することで、固体撮像素子1(詳しくは、圧縮部10)より下流側の構成において消費電力を抑えることができる。
また、本実施形態の撮像装置100は、圧縮部10により生成された圧縮信号S2を、該圧縮信号S2に含まれている圧縮前の情報に基づいて出力画像における該圧縮信号S2と対応する画素の画素信号S3に再構築する再構築処理部102Aを備えている。このため、圧縮部10の下流側において画素信号S3が再構築され、この画素信号S3が表示部106等に出力されることで該表示部106等に表示される画像(即ち、表示部106から得られる画像)の画質が向上する。
また、本実施形態の撮像装置100において、受光素子グループ20では、受光素子アレイ2が露光したときに該受光素子グループ20の少なくとも一つの受光素子21の露光量が該受光素子グループ20の他の受光素子21の露光量と異なる。かかる構成によれば、各圧縮信号S2において、露光量の異なる受光素子21a、21b、21c、21dから出力される各信号S1a、S1b、S1c、S1dの情報を含めつつ信号量を抑えることができる。
また、本実施形態の撮像装置100では、受光素子グループ20において、受光素子21a、21b、21c、21d毎の露光量の違いは、各受光素子21a、21b、21c、21dの露光時間(電荷の蓄積時間)の違いによって生じている。このように受光素子21a、21b、21c、21d毎の露光時間を調整して受光素子グループ20内における受光素子21a、21b、21c、21dの露光量の違いを生じさせる構成とすることで、受光素子21a、21b、21c、21dの露光量を制御(本実施形態の例では、第一回路部3による制御)によって変更することが可能となる。
また、本実施形態の撮像装置100では、各圧縮部10は、受光素子グループ20の各受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dに含まれる画素値(信号値)の平均値を含む圧縮信号S2を対応する受光素子グループ20毎にそれぞれ生成する。前記平均値の代わりに重み平均値が用いられてもよい。
また、本実施形態の撮像装置100では、受光素子グループ20の各受光素子21は、光電変換素子211をそれぞれ有する。そして、再構築処理部102Aは、受光素子アレイ2が露光したときに受光素子グループ20において光電変換素子211がオーバーフローした受光素子21とオーバーフローしなかった受光素子21とがあったときに、各受光素子21の光電変換素子211が露光によってオーバーフローしない容量であった場合に取得できる信号値の予想値を演算によって求めることで圧縮信号S2を画素信号S3に再構築する。これにより、各受光素子21によって規定されるダイナミックレンジより大きなダイナミックレンジの出力画像(画像データ)を得ることができる、即ち、ハイダイナミックレンジでの撮像が可能となる。
また、本実施形態の撮像装置100では、受光素子アレイ2がN個の受光素子21を有していても、受光素子グループ20がm個あるため、受光素子アレイ2から読み出される信号S2の数(又は回数)がN/mに抑えられる。尚、N>mである。
これにより、受光素子アレイから各受光素子の信号がそれぞれ読み出される構成に比べ、受光素子アレイ2から読み出されるデータ量が抑えられる。その結果、固体撮像素子1から制御部102等へ転送されるデータ量が抑えられ、撮像装置100において高い画質と低パワー、高フレームレートの両立が可能となる。
また、本実施形態の撮像装置100では、デュアルコンバージョンゲイン(DCG)のような複数回画素を読む動作を省略できるため、高い画質と低パワー、高フレームレートの両立が可能となる。
以上のような本実施形態の撮像装置100では、受光素子グループ20内の複数の受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dが圧縮されて圧縮信号S2となり、この複数の受光素子21a、21b、21c、21dの信号S1a、S1b、S1c、S1dの情報を含む圧縮信号S2を、再構築処理部102Aが撮像画像における一つの画素に対応する画素信号S3に再構築することで、撮像画像が生成される。即ち、本実施形態の撮像装置100は、受光素子グループ20の数に対応する画素数の出力画像を生成する。
次に、本発明の第二実施形態について、図7~図10も参照しつつ説明するが、上記第一実施形態と同様の構成には同一符号を用い、第一実施形態と異なる構成について詳細に説明する。
第二実施形態に係る撮像装置100は、図7に示すように、複数の受光素子21をそれぞれ有する複数の受光素子グループ20を備える受光素子アレイ2Aと、受光素子グループ20が有する複数の受光素子21から出力される信号S1を圧縮した圧縮信号S2を受光素子グループ20毎にそれぞれ生成する少なくとも一つの圧縮部10Aと、を備える。本実施形態の撮像装置100は、一つの圧縮部10Aを備え、この一つの圧縮部10Aが、受光素子グループ20が有する複数の受光素子21から出力される信号S1を圧縮した圧縮信号S2を受光素子グループ20毎に生成する。
具体的に、撮像装置100は、撮像部101と、制御部102と、を備える。本実施形態の撮像装置100も、第一実施形態と同様に、不揮発性メモリ103と、作業用メモリ104と、操作部105と、表示部106と、記録媒体107と、接続部108と、近距離無線通信部109と、公衆網接続部110と、マイク111と、スピーカ112と、を備える。
撮像部101は、少なくとも一つの光学素子によって構成される光学系と、該光学系を通じて結像した対象物(撮像対象物)の像を電気信号に変換する(即ち、撮像する)固体撮像素子1Aと、を備える。
固体撮像素子1Aは、複数の受光素子21が行列状に配置される受光素子アレイ2Aと、受光素子アレイ2Aに接続される第一回路部3A及び第二回路部4Aと、第二回路部4Aが接続される信号処理部5Aと、を有する。
本実施形態の受光素子アレイ2Aでは、複数の行信号線25Aが、行列状に配置された受光素子21に対して行毎に配置され、複数の列信号線26Aが、行列状に配置された受光素子21に対して列毎に配置されている。
第一回路部3Aは、受光素子アレイ2の制御等を行い、第二回路部4Aは、各受光素子21からの信号S1の読み出しやノイズ除去、読み出された各信号S1のA/D変換等の信号処理を行う。
信号処理部5Aは、第二回路部4から出力された圧縮信号S2に対して各種の処理が行われる部位であり、各受光素子21から出力される信号S1を受光素子グループ20毎に圧縮する信号処理(圧縮処理)等も行う。即ち、本実施形態の撮像装置100では、信号処理部5Aの少なくとも一部が圧縮部10Aを構成する。
この信号処理部5Aは、受光素子グループ20が有する複数の受光素子(本実施形態の例では、第一受光素子21a、第二受光素子21b、第三受光素子21c、及び第四受光素子21d)において第一受光素子21aを基準となる基準受光素子とし、第二~第四受光素子21b~21dを非基準受光素子としたときに(図10参照)、基準受光素子21aから出力される信号S1aに含まれる画素値(信号値)である基準信号値Sv1aと、非基準受光素子21b、21c、21dから出力される信号S1b、S1c、S1dに含まれる画素値(信号値)である非基準信号値Sv1b、Sv1c、Sv1dと、の差に基づいて圧縮信号S2を生成する。
本実施形態の固体撮像素子1Aでは、一つの信号処理部5A(圧縮部10A)が、受光素子アレイ2の有する各受光素子21からの信号S1を処理する際に、隣接する複数の受光素子(本実施形態の例では、2×2の行列状に配置された受光素子)21a、21b、21c、21dを受光素子グループ20として受光素子グループ20毎に信号S1を処理して圧縮信号S2を生成し、この受光素子グループ20毎に生成された圧縮信号S2を下流側の構成(制御部102等)に出力する。
詳しくは、信号処理部5A(圧縮部10A)は、図8にも示すように、受光素子グループ20の非基準受光素子21b、21c、21dから出力される信号S1b、S1c、S1dに含まれる非基準信号値(画素値)Sv1b、Sv1c、Sv1dにおいて、基準受光素子21aから出力される信号S1aに含まれる基準信号値(画素値)Sv1aとの差が所定の閾値(本実施形態の例では、各受光素子21のシグナル・レンジが0~500の場合、画素値の差が25~75)未満になる非基準信号値(第一信号値)Sv1b、Sv1c、Sv1dしかないときは、該受光素子グループ20の各受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dに含まれる画素値Sv1a、Sv1b、Sv1c、Sv1dの平均値を含む圧縮信号S2を生成する(第一の圧縮処理)。尚、所定の閾値は、受光素子21のシグナル・レンジのマックスの値の10%程度を目安に設定される。また、本実施形態の信号処理部5Aにおける第一の圧縮処理は、いわゆるビニング(binning)である。また、本実施形態の圧縮信号S2は、画素値Sv1a、Sv1b、Sv1c、Sv1dの平均値と、位置情報3b111と、を有する。尚、本実施形態の信号処理部5A(圧縮部10)での第一の圧縮処理によって生成された圧縮信号S2の位置情報は、固定値(3b111)である。
また、信号処理部5A(圧縮部10A)は、図9にも示すように、基準信号値Sv1aとの差が所定の閾値未満になる非基準信号値(第一信号値)Sv1cと、基準信号値Sv1aとの差が所定の閾値以上になる非基準信号値(第二信号値)Sv1b、Sv1dと、があるときは、各受光素子21a、21b、21c、21dから出力される信号のうち第二信号値Sv1b、Sv1dと対応する信号S1b、S1dを削除すると共に、該基準受光素子21aが出力する信号S1aに含まれる画素値Sv1aを該画素値Sv1aと第一信号値Sv1cとの平均値(図9に示す例では、100)とした上で、第一信号値Sv1cを含む信号S1cを出力した非基準受光素子21cの基準受光素子21aに対する位置情報(図9に示す例では、圧縮信号S2の符号3b010)を付加することにより、圧縮信号S2を生成する(第二の圧縮処理)。
尚、第二の圧縮処理の位置情報(図9における圧縮信号S2の符号3b010)において、実際の位置情報は、3bitのデータであり、図9に示す例では「010」である。この三桁の数字において一つ目の数字(最も左の数字)が基準受光素子(第一受光素子)21aに対する第二受光素子21bの位置を示し、二つ目の数字が基準受光素子21aに対する第三受光素子21cの位置を示し、三つ目の数字が基準受光素子21aに対する第四受光素子21dの位置を示す。そして、各位置に対応する受光素子21b、21c、21dからの信号S1b、S1c、S1dに含まれる画素値が第一信号値のときに1となり、第二信号値のときに0となる。
制御部102は、再構築処理部102Bを有し、この再構築処理部102Bは、固体撮像素子1Aから出力される圧縮信号S2から、該圧縮信号S2と対応する受光素子グループ20の各受光素子21a、21b、21c、21dに対応する画素の画素信号S3a、S3b、S3c、S3dをそれぞれ再構築する。
具体的に、再構築処理部102Bは、第一の圧縮処理によって生成された圧縮信号S2(画素値4、位置情報3b111:図8参照)を、例えば、以下のようにして再構築する。
図10の受光素子アレイ2Aにおける右上の受光素子グループ20から出力された圧縮信号S2に対し、再構築処理部102Bは、図8にも示すように、基準受光素子21aと対応する画素の画素信号S3aの画素値を、圧縮信号S2の画素値4と同じとし、各非基準受光素子21b、21c、21dと対応する画素の画素信号S3b、S3c、S3dの画素値を、それぞれ基準受光素子21aと対応する画素の画素信号S3aの画素値4と同じとすることで、圧縮信号S2を各画素信号S3a、S3b、S3c、S3dに再構築する。
また、再構築処理部102Bは、第二の圧縮処理によって生成された圧縮信号S2(画素値100、位置情報3b010:図9参照)を、例えば、以下のようにして再構築する。
図10の受光素子アレイ2における左上の受光素子グループ20から出力された圧縮信号S2に対し、再構築処理部102Bは、図9にも示すように、基準受光素子21aと対応する画素の画素信号S3aの画素値を、圧縮信号S2の画素値100と同じとし、非基準受光素子21b、21c、21dと対応する各画素のうち、位置情報(3b010)において1となっている画素の画素信号S3cの画素値を、基準受光素子21aと対応する画素の画素値100と同じとし、位置情報(3b010)において0となっている画素の画素信号S3b、S3dの画素値を、行方向に隣り合う画素(図10に示す例では、右隣りの画素)の画素値4と同じとすることで、圧縮信号S2を各画素信号S3a、S3b、S3c、S3dに再構築する。尚、再構築処理部102Bは、位置情報(3b010)において0となっている画素の画素信号S3b、S3dの各画素値を、当該圧縮信号S2の画素値100と、行方向に隣り合う受光素子グループ20から出力された圧縮信号S2の画素値4と、の重み平均値又は平均値としてもよい。
以上の撮像装置100では、図10に示すように、露光時において受光素子アレイ2の左端部において縦線状の像(図10において他の領域に対して白くなっている領域)が結像した場合、信号処理部5A(圧縮部10A)は、受光素子アレイ2の右側において上下に並ぶ受光素子グループ20に対して第一の圧縮処理をそれぞれ行い、受光素子アレイ2の左側において上下に並ぶ受光素子グループ20に対して第二の圧縮処理を行それぞれ行う。このようにして受光素子グループ20毎に生成された圧縮信号S2が固体撮像素子1Aからそれぞれ出力される。
続いて、制御部102の再構築処理部102Bが、第一の圧縮処理によって生成された圧縮信号S2と、第二の圧縮処理によって生成された圧縮信号S2とを、それぞれ異なる方法によって再構築し(図8及び図9参照)、これにより、画像データとしてボケの少ない高解像画像が生成される。
本実施形態に係る撮像装置100は、複数の受光素子21をそれぞれ有する複数の受光素子グループ20を備える受光素子アレイ2Aと、受光素子グループ20の複数の受光素子21から出力される信号S1を圧縮した圧縮信号S2を受光素子グループ20毎にそれぞれ生成する信号処理部5A(圧縮部10A)と、を備える。このように、信号処理部5Aが受光素子グループ20毎に圧縮信号S2を生成し、これら圧縮された各圧縮信号(即ち、信号量が抑えられた状態の信号)S2を出力することで、該信号処理部5Aより下流側の構成において消費電力が抑えられる。
また、本実施形態の撮像装置100では、受光素子グループ20に含まれる複数の受光素子21は、基準となる受光素子21である基準受光素子21aと、基準受光素子21a以外の非基準受光素子21b、21c、21dと、を有する。そして、信号処理部5A(圧縮部10A)は、基準受光素子21aから出力される信号S1aに含まれる画素値(信号値)である基準信号値Sv1aと、非基準受光素子21b、21c、21dから出力される信号S1b、S1c、S1dに含まれる画素値(信号値)である非基準信号値Sv1b、Sv1c、Sv1dと、の差に基づいて圧縮信号S2を生成する。
このように、基準受光素子21aに対する非基準受光素子21b、21c、21dの位置毎の基準信号値(画素値)Sv1aと非基準信号値(画素値)Sv1b、Sv1c、Sv1dとの差に基づいて各受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dを圧縮することで、再構築処理部102Bにおいて前記位置毎の信号量の差を再構築することができ、これにより、出力画像において解像度を確保することができる。即ち、ボケの少ない高解像画像が得られる。
また、本実施形態の撮像装置100では、信号処理部5A(圧縮部10A)は、受光素子グループ20の非基準受光素子21b、21c、21dから出力される信号S1b、S1c、S1dに含まれる非基準信号値Sv1b、Sv1c、Sv1dにおいて、基準信号値Sv1aとの差が所定の閾値未満になる非基準信号値Sv1b、Sv1c、Sv1dしかないときは、該受光素子グループ20の各受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dに含まれる画素値(信号値)Sv1a、Sv1b、Sv1c、Sv1dの平均値を含む圧縮信号S2を生成する。尚、前記平均値の代わりに重み平均値が用いられてもよい。
また、信号処理部5A(圧縮部10A)は、基準信号値Sv1aとの差が所定の閾値未満になる非基準信号値である第一信号値Sv1cと、基準信号値Sv1aとの差が所定の閾値以上になる非基準信号値である第二信号値Sv1b、Sv1dと、があるときは、各受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dのうち第二信号値Sv1b、Sv1dと対応する信号S1b、S1dを削除すると共に、第一信号値Sv1cを出力した非基準受光素子21cの基準受光素子21aに対する位置情報(本実施形態の例では、3b010)を該基準受光素子21aが出力する信号S1aに付加することで圧縮信号S2を生成する。
このように、基準受光素子21aから出力される信号S1a(詳しくは、信号S1aに基づく信号)と、これに付加される位置情報(3b010等)とによって圧縮信号S2を構成することで、受光素子グループ20の各受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dを全て下流側の構成に出力する場合に比べて信号量が好適に抑えられる。
また、本実施形態の撮像装置100では、受光素子アレイ2がN個の受光素子21を有していても、受光素子グループ20がm個あるため、固体撮像素子1Aから出力される信号S2の数(又は回数)がN/mに抑えられる。尚、N>mである。
これにより、受光素子アレイの各受光素子から読み出された信号が固体撮像素子からそれぞれ出力される構成に比べ、固体撮像素子1Aから出力される信号S2の信号量(データ量)が抑えられる。また、固体撮像素子1Aより下流側の構成(再構築処理部102B等)においてm画素+αの情報からN画素を再構築することで、撮像装置100において高い画質と低パワー、高フレームレートの両立が可能となる。
以上のような本実施形態の撮像装置100では、受光素子グループ20内の複数の受光素子21a、21b、21c、21dから出力される信号S1a、S1b、S1c、S1dが圧縮されて圧縮信号S2となり、この圧縮信号S2を、再構築処理部102Aが撮像画像における各受光素子21a、21b、21c、21dと対応する画素の画素信号S3a、S3b、S3c、S3dにそれぞれ再構築することで、撮像画像が生成される。即ち、本実施形態の撮像装置100は、受光素子21の数に対応する画素数の出力画像を生成する。
尚、本発明の撮像装置100及び固体撮像素子1、1Aは、上記第一及び第二実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。例えば、ある実施形態の構成に他の実施形態の構成を追加することができ、また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることができる。さらに、ある実施形態の構成の一部を削除することができる。
上記第一実施形態及び第二実施形態の受光素子グループ20は、2×2配置の四つの受光素子21a、21b、21c、21dを有するが、この構成に限定されない。受光素子グループ20は、複数(二つ以上)の受光素子21を有していればよい。尚、受光素子グループ20において、複数の受光素子21は、2×2配置、3×3配置、4×4配置等のように行方向に並ぶ受光素子21と列方向に並ぶ受光素子21とが同じ数となるように(即ち、正方形の行列状に)配置されることが好ましい。
また、上記第二実施形態の受光素子グループ20では、基準受光素子は、図8及び図9に示す行列状の配置(2×2配置)において1行1列目の位置(図8及び図9の例では左上の位置)に配置されているが、他の位置に配置されていてもよい。
また、上記第一及び第二実施形態の撮像装置100では、固体撮像素子1、1Aが圧縮部10を有し、再構築処理部102A、102Bが、固体撮像素子1、1Aと異なる位置(制御部102)に配置されているが、この構成に限定されない。固体撮像素子1、1Aが、圧縮部10と再構築処理部102A、102Bとの両構成を有していてもよい。
また、上記第一及び第二実施形態の各撮像装置100では、圧縮信号S2に含まれる画素値(平均値)は、いわゆる単純平均によって導出された値であるが、この構成に限定されない。前記平均値(binning)は、重み平均によって導出された値であってもよい。
また、上記第二実施形態では、圧縮信号S2を生成する第二の圧縮処理での位置情報は、第一信号値を出力する受光素子21b、21c、21dの基準受光素子21aに対する位置を示す信号であるが、この構成に限定されない。第二の圧縮処理での位置情報を、第二信号値を出力する受光素子21b、21c、21dの基準受光素子21aに対する位置を示す信号とし、この位置情報から第一信号値を出力する受光素子の21b、21c、21dの基準受光素子21aに対する位置を特定する構成でもよい。
また、上記第二実施形態では、信号処理部(圧縮部)5Aは、受光素子グループ20の非基準受光素子21b、21c、21dから出力される信号に含まれる非基準信号値において、第一信号値と第二信号値とがあるときは、各受光素子21a、21b、21c、21dから出力される信号のうち第二信号値と対応する信号を削除すると共に、第一信号値又は第二信号値を出力した非基準受光素子21b、21c、21dの基準受光素子21aに対する位置情報を該基準受光素子21aが出力する信号に付加することで圧縮信号S2を生成するが、この構成に限定されない。例えば、信号処理部(圧縮部)5Aは、受光素子グループ20の非基準受光素子21b、21c、21dから出力される信号に含まれる非基準信号値において、第一信号値と第二信号値とがあるときは、基準信号値と第一信号値との重み平均値又は平均値と、第一信号値又は第二信号値を出力した非基準受光素子21b、21c、21dの基準受光素子21aに対する位置情報と、を含む圧縮信号S2を生成する構成等でもよい。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更及び/又は改良することは容易に成し得ることであると認識すべきである。従って、当業者が実施する変更形態又は改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態又は当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
1、1A…固体撮像素子、2、2A…受光素子アレイ、20…受光素子グループ、21…受光素子、21a…第一受光素子、基準受光素子、21b…第二受光素子、非基準受光素子、21c …第三受光素子、非基準受光素子、21d…第四受光素子、非基準受光素子、211…光電変換素子、22…アンプ、25、25A…行信号線、26、26A…列信号線、3、3A…第一回路部、4、4A…第二回路部、5…信号処理部、5A…信号処理部(圧縮部)、10、10A…圧縮部、100…撮像装置、101…撮像部、102…制御部、102A、102B…再構築処理部、103…不揮発性メモリ、104…作業用メモリ、105…操作部、106…表示部、107…記録媒体、108…接続部、109…近距離無線通信部、110…公衆網接続部、111…マイク、112…スピーカ、500…固体撮像素子、501…受光素子アレイ、502…受光素子、503…画素駆動配線、504…垂直信号線、505…列並列信号処理回路、506…出力回路、507…タイミング制御回路、508…水平走査回路、509…垂直走査回路、RES…リセット信号、S1、S1a、S1b、S1c、S1d…信号、S2…圧縮信号、S3、S3a、S3b、S3c、S3d…画素信号、SEL…セレクト信号、Sv1a…基準信号値、Sv1b、Sv1d…非基準信号値、第二信号値、Sv1c…非基準信号値、第一信号値、t1~t9…時刻、T1…第一蓄積時間、T2…第二蓄積時間、T3…第三蓄積時間、T4…第四蓄積時間、TX1…第一電荷転送信号、TX2…第二電荷転送信号、TX3…第三電荷転送信号、TX4…第四電荷転送信号

Claims (12)

  1. 複数の受光素子をそれぞれ有する複数の受光素子グループを備える受光素子アレイと、
    前記受光素子グループの複数の受光素子から出力される信号を圧縮した圧縮信号を受光素子グループ毎にそれぞれ生成する圧縮部と、
    前記圧縮部により生成された前記圧縮信号を、出力画像における該圧縮信号と対応する画素の画素信号に再構築する再構築処理部と、を備え
    前記受光素子グループでは、前記受光素子アレイが露光したときに該受光素子グループの少なくとも一つの受光素子の露光量が該受光素子グループの他の受光素子の露光量と異なり、
    前記圧縮信号は、前記受光素子グループの各受光素子から出力される信号に含まれる信号値の重み平均値又は平均値を含み、
    前記受光素子グループの各受光素子は、光電変換素子をそれぞれ有し、
    前記再構築処理部は、前記受光素子アレイが露光したときに前記受光素子グループにおいて前記光電変換素子がオーバーフローした受光素子とオーバーフローしなかった受光素子とがあったときに、前記各受光素子の光電変換素子が前記露光によってオーバーフローしない容量であった場合に取得できる信号値の予想値を演算によって求めることで前記圧縮信号を前記画素信号に再構築する、撮像装置。
  2. 前記受光素子アレイと前記圧縮部とを有する固体撮像素子を備える、請求項1に記載の撮像装置。
  3. 前記受光素子グループにおいて、前記露光量の違いは、各受光素子の露光時間の違いによって生じる、請求項1又は2に記載の撮像装置。
  4. 前記再構築処理部は、前記圧縮信号に含まれている圧縮前の情報に基づいて該圧縮信号を前記画素信号に再構築する請求項1又は2に記載の撮像装置。
  5. 前記受光素子グループに含まれる複数の受光素子は、基準となる受光素子である基準受光素子と、前記基準受光素子以外の非基準受光素子と、を有し、
    前記圧縮部は、前記基準受光素子から出力される信号に含まれる信号値である基準信号値と、前記非基準受光素子から出力される信号に含まれる信号値である非基準信号値と、の差に基づいて前記圧縮信号を生成し、
    前記圧縮部は、前記受光素子グループの前記非基準受光素子から出力される信号に含まれる前記非基準信号値において、
    前記基準信号値との差が所定の閾値未満になる非基準信号値しかないときは、該受光素子グループの各受光素子から出力される信号値の重み平均値又は平均値を含む前記圧縮信号を生成する第一の圧縮処理と
    前記基準信号値との差が前記所定の閾値未満になる非基準信号値である第一信号値と、前記基準信号値との差が前記所定の閾値以上になる非基準信号値である第二信号値と、があるときは、前記各受光素子から出力される信号のうち前記第二信号値と対応する信号を削除すると共に、前記第一信号値又は前記第二信号値を出力した非基準受光素子の前記基準受光素子に対する位置情報を該基準受光素子が出力する信号に付加することで前記圧縮信号を生成する第二の圧縮処理と、を行う、請求項に記載の撮像装置。
  6. 前記受光素子グループに含まれる複数の受光素子は、基準となる受光素子である基準受光素子と、前記基準受光素子以外の非基準受光素子と、を有し、
    前記圧縮部は、前記基準受光素子から出力される信号に含まれる信号値である基準信号値と、前記非基準受光素子から出力される信号に含まれる信号値である非基準信号値と、の差に基づいて前記圧縮信号を生成し、
    前記圧縮部は、前記受光素子グループの前記非基準受光素子から出力される信号に含まれる前記非基準信号値において、
    前記基準信号値との差が所定の閾値未満になる非基準信号値しかないときは、該受光素子グループの各受光素子から出力される信号値の重み平均値又は平均値を含む前記圧縮信号を生成する第一の圧縮処理と
    前記基準信号値との差が前記所定の閾値未満になる非基準信号値である第一信号値と、前記基準信号値との差が前記所定の閾値以上になる非基準信号値である第二信号値と、があるときは、前記基準信号値と前記第一信号値との重み平均値又は平均値と、前記第一信号値又は前記第二信号値を出力した非基準受光素子の前記基準受光素子に対する位置情報と、を含む前記圧縮信号を生成する第二の圧縮処理と、を行う、請求項に記載の撮像装置。
  7. 前記所定の閾値は、前記受光素子グループに含まれる受光素子のシグナル・レンジのマックスの値の10%を目安に設定される、請求項5又は6に記載の撮像装置。
  8. 前記第一の圧縮処理によって生成された前記圧縮信号は、固定値である位置情報をさらに有する、請求項5又は6に記載の撮像装置。
  9. 前記再構築処理部は、前記第一の圧縮処理によって生成された前記圧縮信号に対し、
    前記基準受光素子と対応する画素の画素信号の画素値を、前記圧縮信号の画素値と同じとし、各前記非基準受光素子と対応する画素の画素信号の画素値を、それぞれ前記基準受光素子と対応する画素の画素信号の画素値と同じとすることで、前記圧縮信号を前記画素信号に再構築する、請求項5又は6に記載の撮像装置。
  10. 前記再構築処理部は、前記第二の圧縮処理によって生成された前記圧縮信号に対し、
    前記基準受光素子と対応する画素の画素信号の画素値を、前記圧縮信号の画素値と同じとし、前記非基準受光素子と対応する各画素のうち、位置情報において1となっている画素の画素信号の画素値を、前記基準受光素子と対応する画素の画素値と同じとし、位置情報において0となっている画素の画素信号の画素値を、該画素と行方向に隣り合う画素の画素値と同じとすることで、前記圧縮信号を前記画素信号に再構築する、請求項5又は6に記載の撮像装置。
  11. 前記再構築処理部は、前記第二の圧縮処理によって生成された前記圧縮信号に対し、
    前記基準受光素子と対応する画素の画素信号の画素値を、前記圧縮信号の画素値と同じとし、前記非基準受光素子と対応する各画素のうち、位置情報において1となっている画素の画素信号の画素値を、前記基準受光素子と対応する画素の画素値と同じとし、位置情報において0となっている画素の画素信号の各画素値を、前記圧縮信号の画素値と、該画素と行方向に隣り合う受光素子グループから出力された圧縮信号の画素値と、の重み平均値又は平均値とすることで、前記圧縮信号を前記画素信号に再構築する、請求項5又は6に記載の撮像装置。
  12. 複数の受光素子をそれぞれ有する複数の受光素子グループを備える受光素子アレイと、
    前記受光素子グループの複数の受光素子から出力される信号を圧縮した圧縮信号を受光素子グループ毎にそれぞれ生成する圧縮部と、
    前記圧縮部により生成された前記圧縮信号を、出力画像における該圧縮信号と対応する画素の画素信号に再構築する再構築処理部と、を備え
    前記受光素子グループでは、前記受光素子アレイが露光したときに該受光素子グループの少なくとも一つの受光素子の露光量が該受光素子グループの他の受光素子の露光量と異なり、
    前記圧縮信号は、前記受光素子グループの各受光素子から出力される信号に含まれる信号値の重み平均値又は平均値を含み、
    前記受光素子グループの各受光素子は、光電変換素子をそれぞれ有し、
    前記再構築処理部は、前記受光素子アレイが露光したときに前記受光素子グループにおいて前記光電変換素子がオーバーフローした受光素子とオーバーフローしなかった受光素子とがあったときに、前記各受光素子の光電変換素子が前記露光によってオーバーフローしない容量であった場合に取得できる信号値の予想値を演算によって求めることで前記圧縮信号を前記画素信号に再構築する、固体撮像素子。
JP2023515842A 2023-02-13 2023-02-13 撮像装置及び固定撮像素子 Active JP7714640B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2023/075770 WO2024168495A1 (zh) 2023-02-13 2023-02-13 拍摄装置以及固体拍摄元件

Publications (2)

Publication Number Publication Date
JP2025506578A JP2025506578A (ja) 2025-03-13
JP7714640B2 true JP7714640B2 (ja) 2025-07-29

Family

ID=92421625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023515842A Active JP7714640B2 (ja) 2023-02-13 2023-02-13 撮像装置及び固定撮像素子

Country Status (3)

Country Link
JP (1) JP7714640B2 (ja)
CN (1) CN118805379A (ja)
WO (1) WO2024168495A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012026122A1 (ja) 2010-08-26 2012-03-01 パナソニック株式会社 撮像装置
JP2013070180A (ja) 2011-09-21 2013-04-18 Panasonic Corp 固体撮像素子および固体撮像装置
US20150062377A1 (en) 2013-08-29 2015-03-05 Pixim, Inc. Cmos image sensor implementing correlated double sampling with compression
WO2017169216A1 (ja) 2016-03-31 2017-10-05 ソニー株式会社 固体撮像素子、固体撮像素子の駆動方法、及び、電子機器
WO2021060120A1 (ja) 2019-09-24 2021-04-01 ソニーセミコンダクタソリューションズ株式会社 撮像装置
CN114845061A (zh) 2022-04-02 2022-08-02 维沃移动通信有限公司 图像传感器的控制方法、装置、图像传感器及电子设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11228705B2 (en) * 2018-08-08 2022-01-18 Maxell, Ltd. Imaging device, imaging system, and imaging method which manage a moving image captured by a lensless imaging device in a state in which the capacity of the moving image is reduced

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012026122A1 (ja) 2010-08-26 2012-03-01 パナソニック株式会社 撮像装置
JP2013070180A (ja) 2011-09-21 2013-04-18 Panasonic Corp 固体撮像素子および固体撮像装置
US20150062377A1 (en) 2013-08-29 2015-03-05 Pixim, Inc. Cmos image sensor implementing correlated double sampling with compression
WO2017169216A1 (ja) 2016-03-31 2017-10-05 ソニー株式会社 固体撮像素子、固体撮像素子の駆動方法、及び、電子機器
WO2021060120A1 (ja) 2019-09-24 2021-04-01 ソニーセミコンダクタソリューションズ株式会社 撮像装置
CN114845061A (zh) 2022-04-02 2022-08-02 维沃移动通信有限公司 图像传感器的控制方法、装置、图像传感器及电子设备

Also Published As

Publication number Publication date
JP2025506578A (ja) 2025-03-13
CN118805379A (zh) 2024-10-18
WO2024168495A1 (zh) 2024-08-22

Similar Documents

Publication Publication Date Title
US7978240B2 (en) Enhancing image quality imaging unit and image sensor
TWI672952B (zh) 影像擷取器件、控制方法及影像擷取裝置
USRE41664E1 (en) Solid-state imaging device, driving method therefor, and imaging apparatus
US9438839B2 (en) Solid state imaging apparatus and imaging system using the same
JP5820627B2 (ja) 固体撮像装置、撮像装置、および信号読み出し方法
JP5627244B2 (ja) 固体撮像素子及びその駆動方法及び撮像装置
US10313588B2 (en) Image capturing system and control method of image capturing system
US10425605B2 (en) Image sensor and image capturing apparatus
CN115396611A (zh) 固态摄像装置、固态摄像装置的驱动方法、以及电子设备
EP2334057B1 (en) Solid-state imaging device and camera system
CN117678233A (zh) 摄像元件以及摄像装置
KR102046635B1 (ko) 이미지 센서, 제어 방법 및 전자 장치
KR20140107212A (ko) 고체 촬상 소자 및 그 구동 방법, 카메라 시스템
CN117296311B (zh) 拍摄装置及其控制方法
JP7714640B2 (ja) 撮像装置及び固定撮像素子
KR20210148054A (ko) 촬상 소자 및 촬상 장치
CN104349146A (zh) 固态成像装置、其驱动方法以及电子设备
JP6128776B2 (ja) 固体撮像装置、撮像装置、および信号読み出し方法
EP3952293B1 (en) Imaging element and imaging device
JP6053321B2 (ja) 固体撮像装置
JP7834101B2 (ja) 固体撮像素子、及び固体撮像素子を備えた撮像装置
JP2013121058A (ja) 固体撮像装置、撮像装置、および信号読み出し方法
JP2010178168A (ja) 固体撮像素子による取得画像の補正方法および電子カメラ
JP2012015911A (ja) 読出し制御装置、読出し制御方法、プログラム、固体撮像装置、および撮像装置
JP2025533688A (ja) 撮像装置及び撮像ユニット

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250711

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250716

R150 Certificate of patent or registration of utility model

Ref document number: 7714640

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150