Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6735582B2 - 撮像素子およびその駆動方法、および撮像装置 - Google Patents
[go: Go Back, main page]

JP6735582B2 - 撮像素子およびその駆動方法、および撮像装置 - Google Patents

撮像素子およびその駆動方法、および撮像装置 Download PDF

Info

Publication number
JP6735582B2
JP6735582B2 JP2016054462A JP2016054462A JP6735582B2 JP 6735582 B2 JP6735582 B2 JP 6735582B2 JP 2016054462 A JP2016054462 A JP 2016054462A JP 2016054462 A JP2016054462 A JP 2016054462A JP 6735582 B2 JP6735582 B2 JP 6735582B2
Authority
JP
Japan
Prior art keywords
signal
photoelectric conversion
unit
floating diffusion
analog
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016054462A
Other languages
English (en)
Other versions
JP2017169143A (ja
JP2017169143A5 (ja
Inventor
小林 寛和
寛和 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016054462A priority Critical patent/JP6735582B2/ja
Priority to US15/459,821 priority patent/US10205904B2/en
Publication of JP2017169143A publication Critical patent/JP2017169143A/ja
Publication of JP2017169143A5 publication Critical patent/JP2017169143A5/ja
Application granted granted Critical
Publication of JP6735582B2 publication Critical patent/JP6735582B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Analogue/Digital Conversion (AREA)

Description

本発明は、撮像素子およびその駆動方法、および撮像装置に関し、特に共通の読み出し回路を介して複数のフォトダイオード(PD)の信号を読み出す撮像素子およびその駆動方法、および撮像装置に関する。
撮像素子の分野では、高解像度化かつ高感度化への要望から、1画素を縮小しつつ、フォトダイオード(PD)などの光電変換素子への光入射効率を向上するべく、種々の技術が提案されている。CMOS型撮像素子においては、1画素につき1つの読み出し回路が対応する構成に代わり、複数の画素で1つの読み出し回路を共有し、当該読み出し回路を順次使用する構成を採用することが多くなっている(特許文献1参照)。ここで言う読み出し回路とは、例えば、転送した各画素の電荷を一時蓄積するフローティングディフュージョン(FD)部やその電位をゲートに入力して所定の負荷電流でソースフォロワ回路として動作する増幅用トランジスタなどの構成要素が含まれる。N画素で1つの読み出し回路を共有すれば、こうした構成要素に必要な面積が1/Nに減少し、その分をPDに充てることができるので、光入射効率を向上することができる。
また、近年では高機能化に向けての進歩も著しく、像面位相差方式のオートフォーカス(AF)で用いる情報を取得するために、1画素に複数のPDを設けた撮像素子も提案されている。1つのマイクロレンズに対応する1画素を水平方向について2分割したPDで構成すれば、各PDで、撮影光学系の異なる瞳領域を通過した光を受光することができる。このように撮像画像の画素数の2倍のPDの信号を読み出すにあたっても、共通の読み出し回路構成が好適である。
特許文献2には、位相差検出に用いる2つのフォトダイオードPD1とPD2に蓄積された電荷を、共通の読み出し回路に、光信号S1と光信号S2として順次読み出す撮像素子が開示されている。ここで光信号S1はPD1の信号に対応し、光信号S2はPD1とPD2の信号の和に対応する。すなわち光信号S2は、撮影光学系の全瞳領域を通過した光に対応する撮像用画像信号である。そのため、必要に応じて、位相差検出可能な画素構成でありながら、光信号S2により、回路を付加すること無く、容易に撮像画像を生成することが可能となっている。また、PD1とPD2の信号電荷を独立に読み出してこれらを合成することにより撮像画像を生成する場合はランダムノイズの増加が考えられるが、このような懸念も生じない。
特開2000−078474号公報 特開2014−030148号公報
しかしながら、光信号S2は、FD部をリセットした後、リセットレベル読み出し期間と光信号S1の読み出し期間を挟んで、読み出される。そのため、光信号S2の読み出し期間と、相関二重サンプリング(CDS)の対象となるリセットレベル読み出し期間との時間差が大きくなり、時間相関性が低下する。また、FD部はPDと異なり深い埋め込み構造となっていないため、リセット解除からの時間に比例して暗電荷が多く発生する。この暗電荷発生量にFD部毎のばらつきがあると、撮像画像上に白点となって現れる。
本発明は上記問題点を鑑みてなされたものであり、共通の読み出し回路を介して複数の光電変換素子の信号を読み出す撮像素子において、フローティングディフュージョン部の暗電荷に起因するノイズを適切に補正することを目的とする。
上記目的を達成するために、本発明の撮像素子は、複数の光電変換部と、前記複数の光電変換部により共有されるフローティングディフュージョン部とを各々が備えた複数の単位画素が行列状に配列された画素部と、予め決められた傾きで時間に対して変化する参照信号と、アナログ信号とを比較し、比較開始から比較の結果の変換点までを、第1の方向にまたは前記第1の方向と異なる第2の方向にカウントしてデジタル信号に変換するアナログデジタル変換手段と、前記アナログデジタル変換手段を制御する制御手段と、を有し、前記制御手段は、前記フローティングディフュージョン部のリセットレベルを前記第1の方向または前記第2の方向にカウントすることにより変換して、第1のノイズ信号を取得し、前記複数の光電変換部のうち、少なくとも第1の光電変換部を含む一部の光電変換部で蓄積された第1の光電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより第1の光信号を取得し、前記第1の光信号を取得した後の前記フローティングディフュージョン部の電位を前記第2の方向にカウントすることにより第2のノイズ信号を取得し、前記複数の光電変換部のうち、少なくとも、前記一部の光電変換部に含まれない第2の光電変換部で蓄積された第2の光電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより第2の光信号を取得する、第1のモードで前記アナログデジタル変換手段を制御する。
本発明によれば、共通の読み出し回路を介して複数の光電変換素子の信号を読み出す撮像素子において、フローティングディフュージョン部の暗電荷に起因するノイズを適切に補正することができる。
本発明の第1の実施形態に係る撮像素子の構成例を示すブロック図。 第1の実施形態に係る撮像素子の駆動方法を示すタイミングチャート。 第2および第3の実施形態に係る処理回路の構成例を示すブロック図。 第2の実施形態に係るノイズレベルの補正処理を表すフローチャート。 第3の実施形態に係る撮像素子のノイズ処理を表すフローチャート。 第4の実施形態に係る撮像素子の構成を表すブロック図。 第4の実施形態に係る撮像素子の駆動方法を表すタイミングチャート。 第5の実施形態における第1の読み出しモードと第2の読み出しモードとで読み出しする撮像素子の領域の一例を示す図。 第5の実施形態に係る第2の読み出しモードよる撮像素子の駆動方法を示すタイミングチャート。 第5の実施形態に係る第1の読み出しモードよる撮像素子の駆動方法を示すタイミングチャート。
以下、添付図面を参照して本発明を実施するための形態を詳細に説明する。
<第1の実施形態>
まず、本発明の第1の実施形態に係る撮像素子の構成について説明する。図1は、第1の実施形態に係る固体撮像素子の構成例を示すブロック図である。
図1において、MLはマイクロレンズの外径を表す。このマイクロレンズに対応する2つのフォトダイオードPD1およびPD2が位相差検出のために分割された光電変換部であり、これらにより得られる電荷(光電荷)の和によって、撮像信号の1単位画素が構成される。図1では、体撮像素子の画素部を構成する単位画素のうち、単位画素を行列状に2行2列に配列した4つの単位画素分を示しているが、実用上は数千万画素に及ぶものが多くなっている。また、制御信号に関しては、水平方向に共通の信号として与えられ、1行単位で信号を読み出して行く。したがって、後述する比較器やカウンタ等の構成要素は列数分だけ配列され、読み出す行を垂直方向にシフトすることで、1行分の画素信号が入力される。このような読み出し行のシフトは、一般的に、不図示の垂直シフトレジスタ等と呼ばれる走査回路によって実現される。
2つのフォトダイオードPD1およびPD2に蓄積された光電荷は、転送信号TX1およびTX2がHighの時に、それぞれ転送トランジスタ11および12により共通のフローティングディフュージョン部(FD)に転送される。また、FDがゲートに接続された増幅トランジスタ14は、選択信号PSELがHighの時に、選択トランジスタ15を介して垂直信号線VLに接続された電流源Iと共にソースフォロワ回路を構成し、FDの電位を垂直信号線VLに伝達することができる。一方、リセット信号PRSがHighの時に、FDはリセットトランジスタ13を介して電源電位VDDにリセットされる。
比較器COMPは、アナログ信号である垂直信号線VLの電位(以下、「VL電位」と呼ぶ。)と、時間に対して一定の傾きを伴って電位が変化するRAMP信号(参照信号)とを比較する。そして、その大小関係に応じてRAMP信号>VL電位の時にHigh、RAMP信号≦VL電位の時にLowを出力する。カウンタCNTは、比較器COMPの出力をEnable信号として動作する。カウンタCNTはカウンタリセット信号CRSによって初期化することができる。したがって、例えばカウンタEnable信号がHighのときにカウンタCNTをリセットした上で、RAMP信号の発生と同時にカウンタリセットを解除すれば、その時からカウントが開始される(比較開始)。そして、比較の結果、RAMP信号がVL電位を上回った時にEnable信号がLowに変わるので(変換点)、カウントが停止する。すなわちカウントが停止したカウンタCNTの値はVL電位に比例するので、デジタル信号にアナログデジタル変換(AD変換)することができる。なお、このカウンタリセット信号CRSは、その反転信号がRAMP信号のEnable信号としても用いられる。また、このカウンタCNTはUp/Downカウント制御信号により必要に応じてアップカウントとダウンカウントを切り換えることができる。
STRS、STRN、STRXはそれぞれ停止したカウンタCNTの値を一時記憶するためのラッチ回路である。STRSは光信号用、STRNはリセットレベル用、STRXはキズもしくはノイズ信号用である。それぞれのラッチ回路STRS、STRN、STRXへの転送は、制御信号LATS、LATN、LATXによって制御する。比較器COMP、カウンタCNT、ラッチ回路STRS、STRN、STRXは、列毎にそれぞれ構成される。
そして、水平走査信号HSRによってラッチ回路STRS、STRNおよびSTRXを列順次に選択する。これにより、S−N−Xの撮像信号、もしくはS−Nに基づく位相差検出用信号をLow Voltage Differential Signal(LVDS)などの高速シリアル信号フォーマットで出力する。
第1の実施形態では、図1に示す構成を有する撮像素子の具体的な駆動方法について説明すると共に、本発明の目的であるFDに起因する白点の検出および補正の方法に関して詳細に説明する。
図2は、図1に記載した撮像素子の駆動方法の一例を示すタイミングチャートである。図2において、横軸は時刻t0を1水平同期期間の開始点、時刻t16までを1水平同期期間の周期とした時刻を表す。
まず、時刻t0において、選択トランジスタ15への選択信号PSELと、リセットトランジスタ13へのリセット信号PRSが立ち上がり、行の選択とFDのリセットを開始する。時刻t1においてリセット信号PRSを立ち下げ、FDのリセットを解除する。FDのリセットを解除すると垂直信号線VLの電位が下がるので、例えばRAMP信号の原点の設定によってはRAMP信号>VL電位の関係が成立し、比較器COMPからの出力(以下、「COMP出力」と呼ぶ。)は時刻t1からHighとなる。
時刻t2において、カウンタリセット信号CRSが立ち下がり、RAMP信号をEnable状態にすると共に、カウンタCNTがカウントを開始する。時刻t3においてRAMP信号≦VL電位となり、COMP出力がLowに反転する。これを以ってカウンタCNTはカウントEnable状態が終わるので反転時のカウント値Nが記憶される。これはFDのリセットレベル(リセット後の電位)に基づく第1のノイズ信号のAD変換が行われたことに相当する。なお、時刻t4から時刻t5において制御信号LATNをHighとして、カウント値Nをラッチ回路STRNに転送しておき、光信号S1のAD変換に備える。
時刻t4において、カウンタリセット信号CRSを立ち上げ、再びカウンタCNTのリセットを開始する。また並行して、PD1の信号電荷(光電荷)をFDに転送すべく、転送トランジスタ11の転送信号PTX1を立ち上げる。時刻t5において転送信号PTX1を立ち下げてPD1の信号電荷の転送を終了する。続いて時刻t6においてカウンタリセット信号CRSを立ち下げることにより、第1の光信号S1のAD変換を開始する。時刻t7においてRAMP信号≦VL電位となり、COMP出力が反転して、第1の光信号S1のAD変換を終了する。なお、時刻t8から時刻t9において制御信号LATSをHighとして、カウント値S1をラッチ回路STRSに転送しておき、光信号S2のAD変換に備える。
次に、時刻t8において、不図示のRAMPリセット制御線によりRAMP信号をリセットすると、COMP出力が再びHighに戻る。更に、カウンタリセット信号CRSをLowのままとしてカウンタCNTをリセットせず、Up/Downカウント制御信号を立ち下げる。続いて時刻t9においてRAMP信号のリセットを解除し、ダウンカウントを行う。これにより、初期値をS1としてRAMP信号が光信号S1以下となるまでカウントダウンするので、FDに生じる白点が全くなければ、時刻t10においてCOMP出力が反転し差し引き0に戻される。一方、FDに白点が生じていれば、ダウンカウント期間がその分長くなるので、0を超えてマイナスのカウント値X(第2のノイズ信号)を得ることとなる。なお時刻t11から時刻t12において制御信号LATXをHighとして、カウント値Xをラッチ回路STRXに転送しておく。
時刻t11において、Up/Downカウント制御信号を戻すと共にRAMP信号をリセットし、カウンタリセット信号CRSを立ち上げてカウンタCNTのリセットを開始する。また転送トランジスタ11および12の転送信号PTX1およびPTX2を立ち上げて、PD1およびPD2から共通のFDに信号電荷(光電荷)の転送を開始する。既にPD1の大部分の信号電荷が転送されている共通のFDをリセットせずに転送を行うことで、PD1とPD2の信号電荷が加算されるため、これを撮像画像生成用の第2の光信号S2として取り扱うことができる。時刻t12において転送信号PTX1およびPTX2を立ち下げて信号電荷の転送を終了する。
次に、時刻t13において、カウンタリセット信号CRSを立ち下げてカウンタCNTのリセットを解除すると、第2の光信号S2のAD変換が開始される。時刻t14においてRAMP信号≦VL電位となり、COMP出力がLowに反転する。これを以ってカウンタCNTはカウントEnable状態が終わるので、反転時のカウント値S2が得られる。なお時刻t15から時刻t16において制御信号LATSをHighとしてカウント値S2をラッチ回路STRSに転送しておき、次の選択行のAD変換に備える。またこのとき、選択信号PSELをLowとして時刻t16に行われる次の行選択に備える。
一方、水平走査信号HSRを時刻t12から時刻t15の間に発生し、ラッチ回路STRSとラッチ回路STRNを列順次に選択する。出力部OUTにおいてその差分信号をLVDSなどのフォーマットで出力すると、S1−Nの位相差検出用信号を得ることができる。
時刻t16より再び水平走査信号HSRを発生し、ラッチ回路STRSとラッチ回路STRNおよびラッチ回路STRXを列順次に選択することで、出力部OUTにおいて差分信号S2−N−Xをノイズ補正済み撮像画像として得ることができる。なお、時刻t0からt7においても水平走査信号HSRを発生し、差分信号S2−N−Xを出力しているが、これは前行の撮像画像である。
このようにして得られた撮像画像S2−N−Xと、先に得られた位相差検出用信号S1−Nとの差分像を演算するとPD2の信号電荷に応答する像も得られるので、これらを用いてAFに必要な位相差検出を行うことができる。
なお、PD1とPD2とが画素をおおよそ2分割していれば、PD1で発生する信号電荷はPD1とPD2の信号電荷のおよそ半分となる。したがって、本実施形態では、時刻t5から時刻t8で設定した光信号S1のAD変換期間を、光信号S2のAD変換期間(時刻t12から時刻t15)の半分の長さとした。そして残る半分の期間(時刻t8から時刻t11)を利用して、ノイズレベルXの検出に充てることとした。このように、光信号S1が光信号S2の半分を超える可能性が低いことを利用することで、従来と比較して1水平同期期間の長さを変えることなく、ノイズレベルXの検出を可能としている。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。第2の実施形態では、ノイズレベルXの値に応じて、検出したノイズレベルXに処理を加えた値を、S2−Nから差し引くか否かを制御する。図3(a)は、この制御を行うための構成を示す一例であり、各ラッチ回路STRXに対応して演算器CALCが備えられている。演算器CALCはラッチ回路STRXにラッチされたノイズレベルXを読み出して、後述する閾値型処理(第1の処理)または係数型処理(第2の処理)を選択的に行った後、ラッチ回路STRXに演算済のデータを改めてノイズレベルXとして置き換える。演算器CALCは、必要な処理回路のみ備えていてもよいし、処理制御信号によって必要な処理回路のみ動作させるように構成しても構わない。
上記以外の第2の実施形態の撮像素子は、図1に示す構成と同様であるため、ここでは説明を省略する。また、撮像素子の信号読み出しタイミングも第1の実施形態で図2を参照して説明したものと同様であるので、説明を省略する。
次に、第2の実施形態における検出したノイズレベルXの補正処理の一例について説明する。図4は、ノイズレベルXの補正処理を示すフローチャートである。なお、図4に示す処理は、図2のt12でノイズレベルXをラッチ回路STRXに転送した後、時刻t12からt15の間に行われる。
処理を開始すると、S11において、処理制御信号が、以下に説明する演算処理を実施することを示しているか否かを判断する。実施しない場合にはそのまま処理を終了し、実施する場合には、S12に進んで、演算器CALCをONにする。
次に、S13において処理制御信号が示す処理モードが、閾値型か否かを判定する。閾値型の場合、S14において閾値設定の読み込みを行い、S15において、カウント値Xの絶対値と、予め設定された閾値とを比較する。カウント値Xの絶対値が閾値よりも低い場合(S15でYES)はXを0に置き換え(S16)、カウント値Xの絶対値が閾値以上の場合(S15でNO)は置き換え処理を行わない(S17)。上記閾値型の処理により、あまりに低いレベルの白点を無視する一方、画質に影響の大きいレベルの高い白点を補正することができる。
一方、S13において閾値型ではないと判定された場合、S18に進み、処理モードが係数型か否かを判断する。係数型でも無い場合、処理モードが不明であるので、そのまま処理を終了する。
係数型の場合、S19において係数を設定し、S20において、ノイズレベルXを、Xに係数をかけた値に置き換える。ここで、FDの白点はリセット解除からの時間に比例することを考慮する。すると、ノイズレベルXの検出時間(=S1のAD変換期間)=t11−t8と、リセットレベルNのAD変換終了からS2のAD変換開始までの時間=t13−t4との比率を係数として、正確なノイズ補正を行うことができる。すなわち係数として、
(t13−t4)/(t11−t8) …(1)
とする。
あるいはリセットレベルNのAD変換終了後、光信号S2のAD変換期間開始が光信号S1のAD変換期間分だけ長いことを考慮する。すると、t11−t8と、リセットレベルNのAD変換期間終了からノイズレベルXのAD変換期間終了までの時間=t11−t4との比率を係数として、光信号S1と同等のノイズ補正ができる。すなわち係数として
(t11−t4)/(t11−t8) …(2)
としても良い。
以上により、式(1)と式(2)のいずれであっても、検出したノイズレベルXに係数を施して、撮像画像からより適切に白点を補正することができる。
S16、S17、S20のいずれかの処理が終了すると、ノイズレベルXの置き換え処理を終了する。
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。第3の実施形態では、光信号S1の値に応じて、検出したノイズレベルXに処理を加えた値を、S2−Nから差し引くか否かを制御する。図3(b)は、この制御を行うための構成を示す一例であり、各ラッチ回路STRXに対応して演算器CALCが備えられると共に、光信号S1を参照するために、ラッチ回路STRSに接続されている。演算器CALCはラッチ回路STRXにラッチされたノイズレベルXを読み出して、後述するS1参照型処理を行った後、ラッチ回路STRXに演算済のデータを改めてノイズレベルXとして置き換えて書き戻す。なお、演算器CALCは、必要な処理回路のみ備えていてもよいし、処理制御信号によって必要な処理回路のみ動作させるように構成しても構わない。
なお、上記以外の第3の実施形態の撮像素子は、図1に示す構成と同様であるため、ここでは説明を省略する。また、撮像素子の信号読み出しタイミングも第1の実施形態で図2を参照して説明したものと同様であるので、説明を省略する。
次に、第3の実施形態における検出したノイズレベルXの補正処理の一例について説明する。図5は、ノイズレベルXの補正処理を示すフローチャートである。なお、図5に示す処理は、図2のt12でノイズレベルXをラッチ回路STRXに転送した後、時刻t12からt15の間に行われる。
処理を開始すると、S31において、処理制御信号が、以下に説明する演算処理を実施することを示しているか否かを判断する。実施しない場合にはそのまま処理を終了し、実施する場合には、S32に進んで、演算器CALCをONにする。第3の実施形態ではS1参照型の処理を行う。
S33では、第1〜第3の3つの係数とそれらを光信号S1のレベルに応じて設定するための参照値S1_1およびS1_2の読み込みを行う。S34においてラッチ回路STRSに保持されている光信号S1を読み込み、参照値S1_1と比較する。光信号S1が参照値S1_1よりも小さい場合は、ノイズレベルXに第1の係数をかけて置き換える(S35)。光信号S1が参照値S1_1以上の場合(S34でNO)は、さらに参照値S1_2と比較し(S36)、小さい場合は、ノイズレベルXに第2の係数をかけて置き換える(S37)。光信号S1が参照値S1_2以上の場合は、ノイズレベルXに第3の係数をかけて置き換える(S38)。S35、S37、S38のいずれかの処理を終えると、ノイズレベルXの補正処理を終了する。
本発明で行うノイズ補正は、検出した白点の大きさに応じた減算補正なので、過補正してしまうと黒点になってしまう。黒点は高輝度で大変目立つので、これを回避する必要がある。一方、ノイズレベルXの検出期間が補正したい撮像画像を生成する光信号S2のAD変換開始までの期間よりも短いため、1以上の係数を施さないと補正不足が生じる。他方、補正不足が生じて白点が残った場合に目立つのは中低輝度である。これらの解決策を両立するためには、中低輝度に施す第1の係数および第2の係数を第2の実施形態で示した式(1)か式(2)近い値としつつ、高輝度に施す第3の係数を1に近付けるように設定すればよい。
このように、検出したノイズレベルXを輝度値に応じて異なる係数をかけた値で置き換えることにより、輝度値に適したノイズ補正が可能となる。
なお、第2または第3の実施形態で説明したフローチャートに基づく処理は、撮像素子に積層して一体化した信号処理チップで行ってもよい。また、図3(b)に示す構成を用いて、第2の実施形態の処理と組み合わせて制御してもよい。
<第4の実施形態>
次に、本発明の第4の実施形態について説明する。第4の実施形態では、より簡易な構成で第1の実施形態と同等の効果が得られる撮像素子を示す。
図6は、第4の実施形態における撮像素子の構成を表すブロック図、図7は、第4の実施形態における撮像素子の駆動方法を表すタイミングチャートである。
図6に示す撮像素子と図1に示す撮像素子との違いは、検出したノイズレベルXの一時記憶用のラッチ回路STRXを省いた点、およびそれに伴ってラッチ転送制御線LATXを省いた点である。
また、図7に示すタイミングチャートと図2に示すタイミングチャートとの違いは、ラッチ転送制御線LATXを省いたことに加えて、時刻t11から時刻t13に行っていたカウンタリセット制御線CRSのHigh期間を全てLow固定とした点である。後者により、光信号S2のAD変換開始前に行っていたカウンタCNTのリセットを行わないものとした。
従って、ノイズレベルXのAD変換終了時t9でのカウント値Xを保持したまま、光信号S2のAD変換を開始する。すなわち、初期値をXとしてS2のカウントを行うので、時刻t15からt16において、S2−Xがラッチ回路STRSに一時記憶される。水平走査信号HSR発生期間においてリセットレベルNとの差分信号を出力すれば、ノイズ補正済みの撮像画像S2−N−Xを得ることができる。
このように本第4の実施形態によれば、ほぼ駆動方法の工夫のみで上述した第1の実施形態と同等の効果を得ることができ、ラッチ回路の増設も必要なく、簡易に撮像素子を構成することができる。
<第5の実施形態>
次に、本発明の第5の実施形態について説明する。上述した第1〜第4の実施形態では、全ての行において位相差検出信号と撮像画像とを出力する場合について説明した。一方、従来より、位相差検出信号と撮像画像とを両方出力する行(第1の行)と、撮像画像のみを出力する行(第2の行)とを混在した状態で駆動することが提案されている。一例として、選択したオートフォーカス領域に合わせて第1の行を密に割り当て、第2の行はそれ以外の領域に割り当てる撮像素子の駆動方法が考えられている。これにより、撮像画像のみを出力する行の高速性と、位相差検出を両立することができる。この技術では、第1の行のノイズ補正を適正に行うことで、第2の行とのノイズ差を減らすことが課題となるが、本発明はこのような撮像素子の駆動方法においても好適に用いることができる。
第5の実施形態では、位相差検出信号と撮像画像とを両方出力する第1の行の読み出すときのモードを第1の読み出しモード、撮像画像のみを出力する行を読み出すときのモードを第2の読み出しモードと呼ぶ。図8は、第1の読み出しモードと第2の読み出しモードとで読み出しする撮像素子の領域の一例を示す図である。以下に、本第5の実施形態における駆動方法について説明する。
図9は、時刻t90からt99までを1水平同期期間とする第2の読み出しモードを表すタイミングチャートの一例である。時刻t90から時刻t98は選択信号PSELがHighとなった行の選択期間である。時刻t90から時刻t94までに行われるFDリセットレベルのAD変換動作は図2の時刻t0から時刻t4までに行われる動作と同様であるため、説明を省略する。
時刻t94から時刻t95において、転送トランジスタ11および12の制御信号PTX1およびPTX2を同時にHighとして、PD1とPD2の信号電荷をFDに転送する。時刻t96においてカウンタリセット制御線CRSをLowに極性変化し、光信号S2のAD変換を開始する。時刻t97においてRAMP信号≦VLとなり、このときのカウント値S2を、時刻t98から時刻t99でHighとなったラッチ転送制御信号LATSに従って、ラッチ回路STRSに転送する。時刻t99より水平走査信号HSRを発生し、光信号S2とリセットレベルNの差分信号をLVDSフォーマットで出力する。なお、時刻t90から時刻t96付近に発生している水平走査信号HSRとLVDS出力S2−Nは前行の信号である。
以上説明したように、第2の読み出しモードでは位相差検出用の光信号S1の転送やAD変換が必要無いので、1水平同期期間が短縮される。また、そのためにFDリセット解除から光信号S2のAD変換までの時間も短く、FDに生じる白点も平均して少ない状況となっている。すなわち撮像画像として高S/Nである。
次に、第5の実施形態における第1の読み出しモードについて説明する。図10は、時刻t50から時刻t66までを2水平同期期間とする第の読み出しモードを表すタイミングチャートの一例である。この2水平同期期間のうち、時刻t59までが第2の読み出しモードにおける1水平同期期間の長さと等しい。そして、この時刻t59から時刻t61で立ち上がる転送信号PTX1およびPTX2までの期間と、時刻t50から時刻t54で立ち上がる転送信号PTX1までの期間とを等しくする。これにより、簡易な回路構成で第1の読み出しモードと第2の読み出しモードとを混在させた状態で駆動することが可能となる。
そのため、第1〜第4の実施形態で説明に使用したタイミングチャートよりも1行の読み出し時間は長くなる。これにより、時間にほぼ比例するFDの白点についての課題が大きくなるが、そうしたノイズレベル検出のための期間を十分に取ることができる。
時刻t50から時刻t66における駆動信号の極性変化点は、図7に示すものと同様であるため、詳細説明は省略する。ただし、このように設定された場合の第2の読み出しモードにおけるノイズレベルXの検出期間は、できるだけ光信号S2のAD変換期間に近く、且つ、PD2の信号電荷転送前に設けるとよい。このことにより、FDのリセット解除から光信号S2のAD変換開始までの時間が長期化しても、正確にノイズレベルXの検出が行えると共に、検出までの時間と光信号S2のAD変換開始までの時間が異なることにより生じる差を小さくすることができる。
この思想に基づけば、第2の実施形態等で説明したノイズレベルXの処理および置き換え等の構成がなくとも、図6に示すような簡易な撮像素子の構成で、撮像画像に対するノイズ補正を行うことができる。なお、それでも第3の実施形態のような係数によるノイズレベルXの処理および置き換えを行う際は、第2の読み出しモードにおける撮像画像の程度までノイズ補正することが目的であるから、式(2)に準じた係数を設定するとよい。
なお、上述した実施形態では、撮影光学系の瞳を2分割して受光するPDを備えた撮像素子を例にとって説明してきたが、3分割以上にN分割して受光するN個のPDを備えた撮像素子についても同様に適用することができる。
また、本発明を、各画素が1つの光電変換素子を有する複数の画素で1つのFDを共有する構成を有する撮像素子に適用することも可能である。その場合、複数の画素の内、一部の画素の電荷をFDに転送してAD変換した後、それ以外の画素を含む少なくとも一部の画素の電荷をFDに転送してAD変換するように制御する。
また、上述した撮像素子は、例えば、デジタルスチルカメラ、デジタルカメラのような撮像装置はもとより、カメラ機能付き携帯電話、カメラ付きコンピュータなど、カメラ機能を備える任意の電子機器に搭載して用いることが可能である。
PD1,PD2:フォトダイオード、FD:フローティングディフュージョン部、COMP:比較器、CNT:カウンタ、STR:ラッチ回路、OUT:出力部、CALC:演算器

Claims (14)

  1. 複数の光電変換部と、前記複数の光電変換部により共有されるフローティングディフュージョン部とを各々が備えた複数の単位画素が行列状に配列された画素部と、
    予め決められた傾きで時間に対して変化する参照信号と、アナログ信号とを比較し、比較開始から比較の結果の変換点までを、第1の方向または前記第1の方向と異なる第2の方向にカウントしてデジタル信号に変換するアナログデジタル変換手段と、
    前記アナログデジタル変換手段を制御する制御手段と、を有し、
    前記制御手段は、
    前記フローティングディフュージョン部のリセットレベルを前記第1の方向または前記第2の方向にカウントすることにより変換して、第1のノイズ信号を取得し、
    前記複数の光電変換部のうち、少なくとも第1の光電変換部を含む一部の光電変換部で蓄積された第1の光電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより第1の光信号を取得し、
    前記第1の光信号を取得した後の前記フローティングディフュージョン部の電位を前記第2の方向にカウントすることにより第2のノイズ信号を取得し、
    前記複数の光電変換部のうち、少なくとも、前記一部の光電変換部に含まれない第2の光電変換部で蓄積された第2の光電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより第2の光信号を取得する、
    第1のモードで前記アナログデジタル変換手段を制御することを特徴とする撮像素子。
  2. 前記アナログデジタル変換手段により変換されたデジタル信号を保持する保持手段と、
    前記第2のノイズ信号が予め決められた閾値よりも小さい場合に前記保持手段に保持された前記第2のノイズ信号を予め決められた値に置き換える第1の処理と、前記保持手段に保持された前記第2のノイズ信号に予め決められた係数を乗じて置き換える第2の処理とを選択的に行う処理手段と、
    を更に有することを特徴とする請求項1に記載の撮像素子。
  3. 前記予め決められた値は0であることを特徴とする請求項2に記載の撮像素子。
  4. 前記係数は、前記第2のノイズ信号の取得にかかる時間と、前記第1のノイズ信号に変換した後から、前記第2の光信号の変換を開始するまでの時間、または、前記第2の光電変換部で蓄積された前記第2の光電荷を前記フローティングディフュージョン部に転送するまでの時間との比率であることを特徴とする請求項2に記載の撮像素子。
  5. 前記アナログデジタル変換手段により変換されたデジタル信号を保持する保持手段と、
    前記保持手段に保持された前記第2のノイズ信号に、前記第1の光信号の大きさに応じて設定された係数を乗じて置き換える処理を行う処理手段と、
    を更に有することを特徴とする請求項1に記載の撮像素子。
  6. 前記アナログデジタル変換手段により変換されたデジタル信号を出力する出力手段を更に有し、
    前記出力手段は、前記第1の光信号から前記第1のノイズ信号を差分した信号と、前記第2の光信号から、前記第1のノイズ信号および前記第2のノイズ信号を差分した信号と、を出力することを特徴とする請求項1乃至5のいずれか1項に記載の撮像素子。
  7. 前記アナログデジタル変換手段により変換されたデジタル信号を出力する出力手段を更に有し、
    前記制御手段は、前記第2の方向にカウントして得られた前記第2のノイズ信号のカウントを初期値として、前記第1の方向にカウントすることにより前記第2の光信号を取得するように制御し、
    前記出力手段は、前記第1の光信号から前記第1のノイズ信号を差分した信号と、前記第2の光信号から、前記第1のノイズ信号を差分した信号とを出力することを特徴とする請求項1に記載の撮像素子。
  8. 複数のマイクロレンズを更に有し、
    前記複数の光電変換部は、各マイクロレンズに対応していることを特徴とする請求項1乃至7のいずれか1項に記載の撮像素子。
  9. 前記制御手段は、更に、
    前記フローティングディフュージョン部のリセットレベルを前記第1の方向にカウントすることにより変換して、前記第1のノイズ信号を取得し、
    前記複数の光電変換部で蓄積された電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより変換して、第3の信号を取得する、
    第2のモードで前記アナログデジタル変換手段を制御し、
    前記行列状に配列された単位画素の予め決められた領域の読み出しを前記第1のモードで制御し、それ以外の領域を前記第2のモードで制御することを特徴とする請求項1乃至8のいずれか1項に記載の撮像素子。
  10. 前記第1のモードにおける1行分の前記単位画素の読み出し周期は、前記第2のモードにおける1行分の前記単位画素の読み出し周期の2倍であることを特徴とする請求項9に記載の撮像素子。
  11. 請求項1乃至10のいずれか1項に記載の撮像素子を搭載したことを特徴とする撮像装置。
  12. 複数の光電変換部と、前記複数の光電変換部により共有されるフローティングディフュージョン部とを各々が備えた複数の単位画素が行列状に配列された画素部と、
    前記画素部を制御する制御手段と、を有し、
    前記制御手段は、
    前記フローティングディフュージョン部をリセットし、リセット後の電位に基づいて第1のノイズ信号を取得し、
    前記複数の光電変換部のうち、少なくとも第1の光電変換部を含む一部の光電変換部で蓄積された第1の光電荷を前記フローティングディフュージョン部に転送し、前記第1の光電荷が転送された前記フローティングディフュージョン部の電位に基づいて第1の光信号を取得し、
    前記第1の光信号を取得した後の前記フローティングディフュージョン部の電位に基づく信号と前記第1の光信号との差をとることにより第2のノイズ信号を取得し、
    前記複数の光電変換部のうち、少なくとも、前記一部の光電変換部に含まれない第2の光電変換部で蓄積された第2の光電荷を前記フローティングディフュージョン部に転送し、前記第2の光電荷が転送された前記フローティングディフュージョン部の電位に基づいて第2の光信号を取得するように制御することを特徴とする撮像素子。
  13. 複数の光電変換部と、前記複数の光電変換部により共有されるフローティングディフュージョン部とを各々が備えた複数の単位画素が行列状に配列された画素部と、予め決められた傾きで時間に対して変化する参照信号と、アナログ信号とを比較し、比較開始から比較の結果の変換点までを、第1の方向または第2の方向にカウントしてデジタル信号に変換するアナログデジタル変換手段とを有する撮像素子の制御方法であって、
    前記アナログデジタル変換手段が、前記フローティングディフュージョン部のリセットレベルを前記第1の方向にカウントすることにより変換して、第1のノイズ信号を取得する工程と、
    前記アナログデジタル変換手段が、前記複数の光電変換部のうち、少なくとも第1の光電変換部を含む一部の光電変換部で蓄積された第1の光電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより第1の光信号を取得する工程と、
    前記アナログデジタル変換手段が、前記第1の光信号を取得した後の前記フローティングディフュージョン部の電位を前記第2の方向にカウントすることにより第2のノイズ信号を取得する工程と、
    前記アナログデジタル変換手段が、前記複数の光電変換部のうち、少なくとも、前記一部の光電変換部に含まれない第2の光電変換部で蓄積された第2の光電荷を前記フローティングディフュージョン部に転送して得られたアナログ信号を前記第1の方向にカウントすることにより第2の光信号を取得する工程と、
    を有することを特徴とする撮像素子の制御方法。
  14. 複数の光電変換部と、前記複数の光電変換部により共有されるフローティングディフュージョン部とを各々が備えた複数の単位画素が行列状に配列された画素部とを有する撮像素子の制御方法であって、
    制御手段が、前記フローティングディフュージョン部をリセットし、リセット後の電位に基づいて第1のノイズ信号を取得する工程と、
    前記制御手段が、前記複数の光電変換部のうち、少なくとも第1の光電変換部を含む一部の光電変換部で蓄積された第1の光電荷を前記フローティングディフュージョン部に転送し、前記第1の光電荷が転送された前記フローティングディフュージョン部の電位に基づいて第1の光信号を取得する工程と、
    前記制御手段が、前記第1の光信号を取得した後の前記フローティングディフュージョン部の電位に基づく信号と前記第1の光信号との差をとることにより第2のノイズ信号を取得する工程と、
    前記制御手段が、前記複数の光電変換部のうち、少なくとも、前記一部の光電変換部に含まれない第2の光電変換部で蓄積された第2の光電荷を前記フローティングディフュージョン部に転送し、前記第2の光電荷が転送された前記フローティングディフュージョン部の電位に基づいて第2の光信号を取得する工程と、
    を有することを特徴とする撮像素子の制御方法。
JP2016054462A 2016-03-17 2016-03-17 撮像素子およびその駆動方法、および撮像装置 Expired - Fee Related JP6735582B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016054462A JP6735582B2 (ja) 2016-03-17 2016-03-17 撮像素子およびその駆動方法、および撮像装置
US15/459,821 US10205904B2 (en) 2016-03-17 2017-03-15 Image sensor capable of correcting noise caused by dark charge of a floating diffusion portion, control method therefor, and image capturing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016054462A JP6735582B2 (ja) 2016-03-17 2016-03-17 撮像素子およびその駆動方法、および撮像装置

Publications (3)

Publication Number Publication Date
JP2017169143A JP2017169143A (ja) 2017-09-21
JP2017169143A5 JP2017169143A5 (ja) 2019-04-25
JP6735582B2 true JP6735582B2 (ja) 2020-08-05

Family

ID=59856224

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016054462A Expired - Fee Related JP6735582B2 (ja) 2016-03-17 2016-03-17 撮像素子およびその駆動方法、および撮像装置

Country Status (2)

Country Link
US (1) US10205904B2 (ja)
JP (1) JP6735582B2 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9276031B2 (en) 2013-03-04 2016-03-01 Apple Inc. Photodiode with different electric potential regions for image sensors
US9741754B2 (en) 2013-03-06 2017-08-22 Apple Inc. Charge transfer circuit with storage nodes in image sensors
US10285626B1 (en) 2014-02-14 2019-05-14 Apple Inc. Activity identification using an optical heart rate monitor
US9686485B2 (en) 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor
US9912883B1 (en) * 2016-05-10 2018-03-06 Apple Inc. Image sensor with calibrated column analog-to-digital converters
CN111682039B (zh) 2016-09-23 2021-08-03 苹果公司 堆叠式背面照明spad阵列
JP6799690B2 (ja) 2017-01-25 2020-12-16 アップル インコーポレイテッドApple Inc. 変調感度を有するspad検出器
US10656251B1 (en) 2017-01-25 2020-05-19 Apple Inc. Signal acquisition in a SPAD detector
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
US10622538B2 (en) 2017-07-18 2020-04-14 Apple Inc. Techniques for providing a haptic output and sensing a haptic input using a piezoelectric body
US10440301B2 (en) 2017-09-08 2019-10-08 Apple Inc. Image capture device, pixel, and method providing improved phase detection auto-focus performance
US10848693B2 (en) 2018-07-18 2020-11-24 Apple Inc. Image flare detection using asymmetric pixels
US11019294B2 (en) 2018-07-18 2021-05-25 Apple Inc. Seamless readout mode transitions in image sensors
US10958857B2 (en) * 2018-10-25 2021-03-23 Panasonic Intellectual Property Management Co., Ltd. Imaging device and imaging system
KR102519712B1 (ko) * 2019-01-18 2023-04-06 삼성전자주식회사 이미지 센서
JP7263080B2 (ja) * 2019-03-29 2023-04-24 キヤノン株式会社 撮像装置及び信号処理装置
US11381768B2 (en) 2019-05-07 2022-07-05 Samsung Electronics Co., Ltd. Image sensor with pixels including photodiodes sharing floating diffusion region
JP7504625B2 (ja) * 2020-02-28 2024-06-24 キヤノン株式会社 光電変換装置
US11563910B2 (en) 2020-08-04 2023-01-24 Apple Inc. Image capture devices having phase detection auto-focus pixels
US11546532B1 (en) 2021-03-16 2023-01-03 Apple Inc. Dynamic correlated double sampling for noise rejection in image sensors
US12192644B2 (en) 2021-07-29 2025-01-07 Apple Inc. Pulse-width modulation pixel sensor
US12069384B2 (en) 2021-09-23 2024-08-20 Apple Inc. Image capture devices having phase detection auto-focus pixels
CN119729247B (zh) * 2024-12-03 2026-02-13 武汉北极芯微电子有限公司 图像传感器、图像传感电路以及图像处理方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3559714B2 (ja) 1998-09-02 2004-09-02 キヤノン株式会社 撮像装置およびそれを用いた撮像システム
JP4661912B2 (ja) * 2008-07-18 2011-03-30 ソニー株式会社 固体撮像素子およびカメラシステム
KR101869371B1 (ko) * 2011-07-21 2018-06-21 삼성전자주식회사 거리 측정 방법 및 이를 수행하는 3차원 이미지 센서
JP5893572B2 (ja) * 2012-03-01 2016-03-23 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法
JP5968146B2 (ja) 2012-07-31 2016-08-10 キヤノン株式会社 固体撮像装置およびカメラ
JP2014099693A (ja) * 2012-11-13 2014-05-29 Sony Corp 撮像素子、撮像装置、半導体素子、および読み出し方法
JP6173058B2 (ja) * 2013-06-17 2017-08-02 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法、撮像システムの駆動方法
JP6300471B2 (ja) * 2013-08-28 2018-03-28 キヤノン株式会社 撮像装置の駆動方法、撮像システムの駆動方法
JP6177060B2 (ja) * 2013-09-05 2017-08-09 キヤノン株式会社 光電変換装置、撮像システム、および光電変換装置の駆動方法
KR102105409B1 (ko) * 2013-12-09 2020-05-29 삼성전자주식회사 이종의 아날로그-디지털 컨버터를 포함하는 이미지 센서
JP6561315B2 (ja) * 2014-01-21 2019-08-21 パナソニックIpマネジメント株式会社 固体撮像装置

Also Published As

Publication number Publication date
US20170272675A1 (en) 2017-09-21
JP2017169143A (ja) 2017-09-21
US10205904B2 (en) 2019-02-12

Similar Documents

Publication Publication Date Title
JP6735582B2 (ja) 撮像素子およびその駆動方法、および撮像装置
US10038868B2 (en) Solid-state image sensing device and electronic device
JP4379504B2 (ja) 固体撮像素子、およびカメラシステム
JP4821921B2 (ja) 固体撮像装置および電子機器
JP7339779B2 (ja) 撮像装置
JP5066996B2 (ja) 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
JP2017169143A5 (ja)
JP2011211535A (ja) 固体撮像素子およびカメラシステム
US9253427B2 (en) Solid-state image pickup apparatus capable of realizing image pickup with wide dynamic range and at high frame rate, control method therefor, and storage medium
JP6362511B2 (ja) 撮像装置及びその制御方法
CN102843526A (zh) 摄像设备及其控制方法
JP2017060155A (ja) 撮像素子及び撮像装置
WO2017141847A1 (ja) 固体撮像装置および撮像装置
WO2011083541A1 (ja) 固体撮像装置および撮像装置
CN103634538A (zh) 图像感测装置
TWI401950B (zh) Solid-state imaging elements and camera systems
JP5966357B2 (ja) 撮像素子および撮像装置
US10560653B2 (en) Image sensing apparatus and control method for performing analog-to-digital conversion
JP6362328B2 (ja) 固体撮像装置及びその駆動方法
JP2017060000A (ja) 撮像素子及び撮像装置
JP2020061758A (ja) 撮像素子及び撮像装置
JP2024052207A (ja) 撮像素子及びその制御方法、及び電子機器
JP6257348B2 (ja) 固体撮像装置、撮像システム及び複写機
US9906750B2 (en) Image pickup device driving method, image pickup device, and image pickup system using reset cancellation
JP7735071B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190315

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200615

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200714

R151 Written notification of patent or utility model registration

Ref document number: 6735582

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees