Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7600076B2 - 画像処理装置、移動装置、画像処理方法およびプログラム - Google Patents
[go: Go Back, main page]

JP7600076B2 - 画像処理装置、移動装置、画像処理方法およびプログラム - Google Patents

画像処理装置、移動装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP7600076B2
JP7600076B2 JP2021177410A JP2021177410A JP7600076B2 JP 7600076 B2 JP7600076 B2 JP 7600076B2 JP 2021177410 A JP2021177410 A JP 2021177410A JP 2021177410 A JP2021177410 A JP 2021177410A JP 7600076 B2 JP7600076 B2 JP 7600076B2
Authority
JP
Japan
Prior art keywords
image data
image
angle
display
view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021177410A
Other languages
English (en)
Other versions
JP2023066680A (ja
Inventor
壮也 藤森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021177410A priority Critical patent/JP7600076B2/ja
Priority to US17/970,646 priority patent/US12256178B2/en
Publication of JP2023066680A publication Critical patent/JP2023066680A/ja
Priority to JP2024211175A priority patent/JP2025037994A/ja
Application granted granted Critical
Publication of JP7600076B2 publication Critical patent/JP7600076B2/ja
Priority to US19/053,552 priority patent/US20250193349A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Description

本発明は、移動装置の後方を撮影可能な画像処理装置、移動装置、画像処理方法およびプログラムに関するものである。
特許文献1には、通常走行時は画像の中心部を表示部に表示し、後続車との距離が閾値以下である場合には、圧迫感を減らすために広角の画像を表示部に表示する方法が記載されている。
特開2018-74558号公報
しかしながら、特許技術1では、表示部内に表示されている後続車との距離に基づいて広角の画像への切替を判定しているため、表示部外の領域から危険な車が接近して来たときに危険に気づくことが困難であるという課題がある。
そこで、本発明では、後方の状況を視認できるようにすることを目的とする。
上記の課題を解決するために、本発明に係る画像処理装置は低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有すると共に第1の移動装置の後方を撮影する撮像手段と、
前記撮像手段で生成された撮像データを歪曲補正して画像データを生成する画像処理手段と、
前記画像データから前記低歪曲領域の光学像に対応する領域が切り出された第1の画像データを表示部に表示させる表示制御手段と、
記画像データから所定の条件を満たす第2の移動装置を検知する検知手段と
を有し、
前記表示制御手段は、前記検知手段により前記第2の移動装置が検知された場合に、前記第2の移動装置を含むように、前記画像データから前記高歪曲領域および前記低歪曲領域の光学像に対応する領域が切り出された第2の画像データを前記表示部に表示させ
前記第2の画像データは、前記画像データから前記第1の画像データより広い領域が切り出されて生成される
本発明によれば、後方の状況を視認することができる。
図1(A)は実施形態1における移動装置および撮像装置システムの側面図である。図1(B)は実施形態1の光学系201による撮像素子の受光面上での各半画角における像高yを等高線状に示した図、図1(C)は実施形態1の光学系201の像高yと半画角θとの関係を表す射影特性を表した図である。 実施形態1における画像処理装置200の構成例を説明するためのブロック図である。 処理部220が実行する画角切り替え処理プログラムの1例を示すフローチャートである。 実施形態2における画像処理装置400の構成例を説明するためのブロック図である。 実施形態2において、後方車両のウィンカー動作をもとに表示画角を変更する制御を行う例を示すフローチャートである。 実施形態3における画像処理装置600の構成例を説明するためのブロック図である。 実施形態4において、後方車両の蛇行運転を検知して表示画角を変更する制御を行う例を示すフローチャートである。 実施形態4における画像処理装置800の構成例を説明するためのブロック図である。 実施形態4において、後方車両とのパッシング動作を検知して表示画角を変更する制御を行う例を示すフローチャートである。
以下、図面を参照して本発明の実施形態を説明する。ただし、本発明は以下の実施形態に限定されるものではない。なお、各図において、同一の部材または要素については同一の参照番号を付し、重複する説明は省略または簡略化する。
[実施形態1]
図1(A)は、実施形態1における移動装置および撮像装置システムの側面図である。図1(A)に示すように、移動装置10(第1の移動装置)には、撮像手段としての撮像装置20が搭載されている。ここで述べる移動装置10とは、例えば自動車のような公道を走る車両であり、運転者40が搭乗し、任意の場所へ移動可能なものである。
移動装置10には、移動装置10を移動させるためのエンジンやモータ等の駆動源、駆動源を制御する駆動制御部、撮像装置20で撮影された画像データを表示するための表示部を含む画像処理装置200が設けられている。また、それらを含めて移動装置が構成されている。
撮像装置20の光学系201は、複数枚のレンズを組み合わせ、2つの異なる画角を撮像部210の受光面上に結像させる。1つ目の画角は、通常視野範囲30を撮像範囲とする、高解像度で低歪曲の狭画角である。この画角は、移動装置10の通常走行時に高解像度で移動装置10の後方を観測する場合などに用いられる。もう1つの画角は、広角視野範囲31を撮像範囲とする、通常視野範囲30を含んだより広い範囲を写す広画角である。この画角は移動装置10の例えばバック走行時などに自車後方を広角に撮像するために用いられる。
図1(B)および図1(C)を参照して、光学系201の光学特性を説明する。図1(B)は、撮像部210に含まれる撮像素子の受光面上での各半画角における像高yを等高線状に示した図である。図1(C)は、実施形態1の光学系201の像高yと半画角θとの関係を表す射影特性を表した図である。図1(C)では、半画角(光軸と入射光線とがなす角度)θを横軸とし、撮像部210に含まれる撮像素子の受光面上(像面上)での結像高さ(像高)yを縦軸として示している。
光学系201は、図1(C)に示すように、所定の半画角θa未満の領域と半画角θa以上の領域でその射影特性y(θ)が異なるように構成されている。従って、単位あたりの半画角θに対する像高yの増加量を解像度というとき解像度が領域によって異なる。この局所的な解像度は、射影特性y(θ)の半画角θでの微分値dy(θ)/dθで表されるともいえる。例えば、図1(C)の射影特性y(θ)の傾きが大きいほど解像度が高いといえる。また、図1(B)の等高線状の各半画角における像高yの間隔が大きいほど解像度が高いともいえる。
実施形態1においては、半画角θが所定の半画角θa未満のときに撮像素子の受光面上に生成される中心寄りの領域を高解像度領域201a、半画角θが所定の半画角θa以上の外寄りの領域を低解像度領域201bと呼ぶ。なお、高解像度領域201aの画角は前述の通常視野範囲30に対応しており、高解像度領域201aの画角と低解像度領域201bの画角を合わせた画角は広角視野範囲31に対応している。また、実施形態1において、高解像度領域201aは歪曲が相対的に少ない低歪曲領域であり、低解像度領域201bは歪曲が相対的に多い高歪曲領域となっている。従って、実施形態1においては、高解像度領域、低解像度領域をそれぞれ低歪曲領域、高歪曲領域と呼ぶことがある。
光学系201は、高解像度領域(低歪曲領域)201aにおいてその射影特性y(θ)がf×θよりも大きくなるように構成されている(fは光学系201の焦点距離)。また、高解像度領域(低歪曲領域)における射影特性y(θ)は低解像度領域(高歪曲領域)における射影特性とは異なるように設定されている。
θmaxを光学系201が有する最大の半画角とする場合は、θaとθmaxの比θa/θmaxは所定の下限値以上であることが望ましく、例えば所定の下限値として0.15~0.16が望ましい。また、θaとθmaxの比θa/θmaxは所定の上限値以下であることが望ましく、例えば0.25~0.35とすることが望ましい。例えば、θaを90°とし、所定の下限値を0.15、所定の上限値0.35とする場合、θaは13.5~31.5°の範囲で決定することが望ましい。
さらに、光学系201は、その射影特性y(θ)が、以下の数1も満足するように構成されている。
ここで、fは前述のように光学系201の焦点距離であり、Aは所定の定数である。下限値を1とすることで、同じ最大結像高さを有する正射影方式(y=f×sinθ)の魚眼レンズよりも中心解像度を高くすることができ、上限値をAとすることで、魚眼レンズ同等の画角を得つつ良好な光学性能を維持することができる。所定の定数Aは、高解像度領域と、低解像度領域の解像度のバランスを考慮して決めればよく、1.4~1.9となるようにするのが望ましい。
以上のように光学系201を構成することで、高解像度領域201aにおいては、高解像度が得られる一方、低解像度領域201bでは、単位あたりの半画角θに対する像高yの増加量を小さくし、より広い画角を撮像することが可能になる。従って、魚眼レンズと同等の広画角を撮像範囲としつつ、高解像度領域201aにおいては、高い解像度を得ることができる。
実施形態1では、高解像度領域(低歪曲領域)においては、通常の撮像用の光学系の射影特性である中心射影方式(y=f×tanθ)や等距離射影方式(y=f×θ)に近似した射影特性としている。従って、光学歪曲が小さく、精細に表示することが可能となる。従って、後方車両などを目視する際における自然な遠近感が得られると共に、画質の劣化を抑えて良好な視認性を得ることができる。
なお、上述の数式1の条件を満たす射影特性y(θ)であれば、同様の効果を得ることができるため、実施形態1は図2に示した射影特性に限定されない。なお、実施形態1では、上述の数式1の条件を満たす射影特性y(θ)を有する光学系201を異画角レンズと呼ぶ場合がある。
図2は、実施形態1における画像処理装置200の構成例を説明するためのブロック図である。なお、図2に示す1つ以上の構成要素は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよい。後述の図4、図6,図8に示すブロック図についても同様である。
画像処理装置200は、車両後方に設置された撮像装置20にて撮像した画像を、車内の表示装置に表示するシステムである。画像処理装置200は、撮像装置20、処理部220、表示部230を有している。撮像装置20は、図1(B)、図1(C)で説明した構成の光学系201と撮像部210により構成されている。ここで、撮像装置20は、低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系201を有すると共に第1の移動装置の後方を撮影する撮像ステップを実行する撮像部として機能している。
処理部220は、画像処理部221、表示画角判定部224、ユーザー設定変更部226、後方車両距離検知部223、バックギア検知部225、表示画角変更部222により構成されている。なお、処理部220に含まれるコンピュータ(CPU(Central Processing Unit)、マイクロコンピュータなど)は、記憶媒体に記憶されたコンピュータプログラムに基づき、画像処理装置200の各構成要素の動作を制御する制御部として機能している。
撮像部210は、撮像素子(CCDイメージセンサ、CMOSイメージセンサ等)を含み、光学系201により結像された光学的な被写体像を撮像データに変換し、画像処理部221に供給する。
画像処理部221は、画像処理手段として機能し、撮像部210から取得した撮像データに対してWDR(Wide Dynamic Range)補正、ガンマ補正、LUT(Look Up Table)処理、歪曲補正等の処理を行い画像データを生成する。
なお、歪曲補正は少なくとも高歪曲領域(低解像度領域201b)の撮像データに対して行われる。これにより、表示部230に表示した際に視認しやすく、また後方車両距離検知部223における認識率が向上する。なお、低歪曲領域(高解像度領域201a)の撮像データに対しては歪曲補正をしなくてもよい。画像処理部221は上記のような画像処理ステップを実行し、それにより生成された画像データは表示画角変更部222と後方車両距離検知部223に供給される。
表示画角判定部224は後述する後方車両距離検知部223にて取得した距離情報、後述するバックギア検知部225の検知結果をもとに表示部230に表示する画像を広角視野範囲31にするか、通常視野範囲30にするかを判定する。そして、判定結果に応じて表示画角変更部222に通知する。例えば、後方車両距離検知部223にて取得した距離情報がある閾値以下(例えば、3m)となった場合は、表示画角を広角視野範囲31と判定し、閾値より大きくなった場合は通常視野範囲30と判定する。
また、バックギア検知部225よりトランスミッションがバックギアに入っているという通知があった場合は、表示画角を広角視野範囲31とし、バックギアに入っていない場合は、表示画角を通常範囲とする。さらに、バックギアが検知されている状態では、後方車両距離検知部223の結果にかかわらず表示画角を広角視野範囲31とする。バックギアに入っていない場合は、後方車両距離検知部223の結果に応じて表示画角を決定する。また、後述する後方車両距離検知部223より、車種情報を受け取ることで、車種に応じて画角変更の判定基準を変えてもよい。例えば、トラックなどの大型車両の場合は制動距離が普通車と比較して長くなるため、普通車と比較して前記閾値を例えば10mなどと長くする。
ユーザー設定変更部226は、表示画角判定部224にて広角画角に変更するかどうかの判定基準をユーザー自身で変更するためのものである。変更した内容は表示画角判定部224に入力される。
後方車両距離検知部223は、検知手段として機能しており、画像処理部221が処理した画像を用いて、広角視野範囲31のうち通常視野範囲30を含まない領域内の画像データに存在する後方車両の距離を取得する。例えば、後方車両距離検知部223は、高歪曲領域を含む領域の画像データのうち、後述の第1の画像データ以外の画像データに基づき車両を検出し、検出した車両の位置およびに大きさの変化などから、自車と検出した車両の距離を計算する。後方車両距離検知部223が計算した距離情報を表示画角判定部224へ通知する。
さらに、後方車両距離検知部223は、予め収集された多数の車両の画像から深層学習などの機械学習の結果として抽出さえた車種ごとの形状や色彩などの画像的特徴に関するデータに基づいて、車種の判定をしてもよい。そして、車種情報も併せて表示画角判定部224へ通知してもよい。
バックギア検知部225は、自車がバックギアに入っているかどうかを検知する。検知結果は表示画角判定部224に通知する。
表示画角変更部222は、表示部230で表示する画像の生成を行う。表示画角判定部224にて、通常視野範囲30での表示をすることが通知された場合は、画像処理部221で処理された画像データ内の通常視野範囲30(低歪曲領域)の中から矩形の挟角画像(第1の画像データ)の切り出しを行い表示部230に供給する。それによって表示部230に第1の画像データを表示させる。
また、高歪曲領域を含む領域の画像データから所定の条件を満たす第2の移動装置を検知した場合には、高歪曲領域の第2の移動装置を含む第2の画像データを表示させる。なお、第2の画像データは低歪曲領域の画像を含んでもよい。ここで、表示画角変更部222は、表示制御部として、画像データ内の低歪曲領域から切り出した第1の画像データを表示させる第1の表示制御ステップと、所定の条件において上記の第2の画像データを表示させる第2の表示制御ステップとを有する。
画像の切り出しは、画像処理部221にて処理された画像のデータをRAMなどのメモリに格納し、切り出したい画像の読み出しを行うことで行われる。第1の画像データの切り出しを行う位置は、光学系201にて結像された画像のうち、高解像度領域201aに対応した通常視野範囲30内の矩形領域である。また、前記第2の移動装置が検知されて表示画角判定部224にて、広角視野範囲31での表示をすることが通知された場合は、広角視野範囲31であって、第2の移動装置を含む矩形の広角画像(第2の画像データ)を表示部230に供給する。従って、高歪曲領域の第2の移動装置を含む第2の画像データが表示される。
表示画角変更部222が表示部230に供給する画像は、表示部230の大きさに最適なサイズになるように画像の拡大、縮小処理を施して表示部230に供給する。表示領域を第1の画像データから第2の画像データへ切り替える際には遷移時間t1をかけて徐々に広がっていくように遷移する。また、第2の画像データから第1の画像データに戻すときには、遷移時間t2をかけて徐々に狭まっていくように遷移する。例えば、表示制御部は、第1の画像データと第2の画像データの表示の切替をする際に所定の遷移時間を持たせる。ここで遷移時間t1と遷移時間t2は異なり、例えば0<t1<t2とする。
また、遷移時間t1は緊急度に応じて時間を変更してもよい。例えば、急速に移動装置10に近づく後方からの第2の移動装置が検出されたときには、遷移時間t1を、より短い時間になるようにする。なお、短時間で第2の画像データに切替える条件を満たす/満たさないを繰り返してしまうと表示部230の画像を視認しにくくなるので、第2の画像データから第1の画像データに切替える際には所定の待機時間t3を設ける。待機時間t3の設定範囲は0secより長い時間を設定する。なお、第2の画像データから第1の画像データに表示を切替える際の条件(閾値)と、第1の画像データから第2の画像データに表示を切替える際の条件(閾値)は異ならせることが望ましい。
表示部230は、液晶ディスプレイや有機ELなどの表示部で、表示制御手段としての表示画角変更部222から供給されてきた画像データの表示を行う表示手段として機能している。また、表示部230は例えば移動装置10のウインドシールドの上側に配置され、電子ルームミラーとして使われる。
図3は、処理部220が実行する画角切り替え処理プログラムの1例を示すフローチャートである。図3におけるフローは移動装置10の動力源が始動状態になることで開始され、動力源が駆動中は継続的に実行される。また、図3に示す各ステップは、処理部220に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
ステップS301では、バックギア検知部225が自車がバックギアに入っているか否かを判定し、判定結果を表示画角判定部224に通知する。自車がバックギアに入っていると判定された場合は、ステップS302の処理に移行する。バックギアに入っていないと判定された場合は、ステップS303の処理に移行する。
ステップS302では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、画像処理部221で処理された広角視野範囲31を含む矩形の広角画像(第3の画像データ)を表示部230に供給する。例えば、ステップS302において、表示画角変更部222は、第1の移動装置の後退時に、第1の移動装置の後方の高歪曲領域を含む第3の画像データを表示させている。なお、第3の画像データの広角画像は第2の画像データの広角画像とは異なる範囲でよい。表示部230は、表示画角変更部222から供給された広角画像(第3の画像データ)を表示し、ステップS304に移行する。
ステップS304では、バックギア検知部225が自車が継続してバックギアに入っているか否かを判定し、判定結果を表示画角判定部224に通知する。バックギアに入っている状態が継続している間は、ステップS304の処理が繰り返される。バックギアが検出されなくなった場合は、ステップS305の処理に移行する。
ステップS305では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、画像処理部221が処理した画像から通常画角範囲から切り取った矩形の挟角画像(第1の画像データ)を表示部230に供給する。表示部230は表示画角変更部222から供給された挟角画像(第1の画像データ)を表示し、一連の処理を終了する。
ステップS303では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、画像処理部221が処理した画像から通常画角範囲の切り取りを行った挟角画像(第1の画像データ)を表示部230に供給する。表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)に切り替わったら、ステップS306に移行する。
ステップS306では、後方車両距離検知部223において、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データに基づき、自車と後方車両の距離の計測を行い、距離が閾値(例えば3m)未満となっているか否かを判定する。自車との距離が閾値未満の後方車両がある場合は、ステップS307に移行する。この場合、ステップS306は、高歪曲領域を含む領域の画像データから所定の条件を満たす第2の移動装置を検知する検知ステップとして機能している。
実施形態1においては、上記の所定の条件を満たす第2の移動装置とは、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、自車との距離が所定距離未満(例えば3m未満)に存在する(斜め)後方の車両を指す。高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、自車との距離が閾値以下である後方車両が存在しない場合は、斜め後方に車両がいないと判定される。そして、表示部230における挟角画像の表示を変更せずに、そのまま一連の処理を終了する。上記の距離の閾値は、ユーザー設定変更部226にてユーザーが変更可能とする。
ステップS307では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、高歪曲領域の前記第2の移動装置を含む広角画像(第2の画像データ)を表示部230に供給する。表示部230が表示画角変更部22から供給された広角画像(第2の画像データ)に切り替わったら、ステップS308に移行する。
ステップS308では、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、自車と後方車両の距離の計測を行う。そして、距離が閾値より以上(例えば、3m)となっているかどうかの判定を表示画角判定部224にて行う。例えば、斜め後方車両との距離が所定の閾値以上となっているか否か判定する。自車との距離が閾値未満である斜め後方車両等がある場合は、ステップS308の処理が繰り返される。
自車と斜め後方車両との距離が閾値以上となった場合はステップS309に移行する。ステップS308における距離の閾値もユーザー設定変更部226にてユーザーが変更可能とする。さらに、ステップS306で設定した閾値とステップS308で設定した閾値は別の値とすることも可能である。
ステップS309では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取った後、所定の待機時間t3の間は広角画像(第2の画像データ)の表示状態のままとする。待機時間t3経過後、挟角画像(第1の画像データ)を表示部230に供給し、表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)に切り替わえた後、一連の処理を終了する。
なお、前述のように、後方車両距離検知部223により第2の移動装置の種類を検知可能としてもよい。そして、当該種類に応じて、第2の画像データを表示させる条件(例えば第2の移動装置として検知する際の、後方の車両までの距離の閾値等)を異ならせるようにしてもよい。
[実施形態2]
図4は、実施形態2における画像処理装置400の構成例を説明するためのブロック図である。画像処理装置400と実施形態1の画像処理装置200との違いは、処理部220が、後方車両距離検知部223の代わりに後方車両ウィンカー検知部424を有している点である。また、画像処理部221が処理した画像が表示画角変更部222と後方車両ウィンカー検知部424に供給される点である。
表示画角判定部224は、後方車両ウィンカー検知部424からの検知情報、バックギア検知部225の検知結果をもとに表示部230に表示する画像を広角視野範囲31にするか、通常視野範囲30にするかを判定する。そして、判定結果を表示画角変更部222に通知する。後方車両ウィンカー検知部424にて後方よりウィンカーを出す車が検知されたと通知された場合は、表示画角を広角視野範囲31(第2の画像データ)とし、検知されない場合は通常視野範囲30(第1の画像データ)とする。
また、バックギア検知部225よりバックギアに入っているという通知があった場合は、表示画角を広角視野範囲31(第3の画像データ)とし、バックギアに入っていない場合は、表示画角を通常視野範囲30(第1の画像データ)とする。さらに、バックギアが検知されている状態では、後方車両ウィンカー検知部424の結果にかかわらず表示画角を広角視野範囲31(第3の画像データ)とする。バックギアに入っていない場合は、後方車両ウィンカー検知部424の結果に応じて第1の画像データまたは第2の画像データを表示する。
後方車両ウィンカー検知部424は、画像処理部221が処理した画像に対して、後方車両のウィンカー動作を検知し、検知した情報を表示画角判定部224へ通知する。ここで、後方車両ウィンカー検知部424は、所定の条件(例えば連続して3回以上)でウィンカーを点滅させている移動装置を第2の移動装置として検知する。
図5は、実施形態2において、後方車両のウィンカー動作をもとに表示画角を変更する制御を行う例を示すフローチャートである。図5におけるフローは移動装置10の動力源が始動状態になることで開始され、動力源が駆動中は継続的に実行される。また、図5に示す各ステップは、処理部220に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
ステップS501では、バックギア検知部225は自車がバックギアに入っているか否かを判定し、表示画角判定部224に通知する。自車がバックギアに入っていると判定された場合は、ステップS502の処理に移行する。バックギアに入っていないと判定された場合は、ステップS503の処理に移行する。
ステップS502では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、矩形の広角画像(第3の画像データ)を表示部230に供給する。表示部230において表示画角変更部22から供給された広角画像(第3の画像データ)の表示に切り替わったら、ステップS504に移行する。
ステップS504では、バックギア検知部225が自車が継続してバックギアに入っているか否かを判定し、表示画角判定部224に通知する。バックギアに入っている状態が継続している間は、ステップS504の処理が繰り返される。バックギアが検出されなくなった場合は、ステップS505の処理に移行する。
ステップS505では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、画像処理部221が処理した画像から通常画角範囲から切り取った矩形の挟角画像(第1の画像データ)を表示部230に供給する。表示部230は表示画角変更部222から供給された挟角画像(第1の画像データ)を表示し、一連の処理を終了する。
ステップS503では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、挟角画像(第1の画像データ)を表示部230に供給する。表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)の表示を行ったら、ステップS506に移行する
ステップS506では、後方車両ウィンカー検知部424において、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、ウィンカーを出している車両を検知し、検知した情報を表示画角判定部224に通知する。自車の後方にウィンカーを出す車を検知した場合は、ステップS507に移行する。自車の後方にウィンカーを出す車を検知しない場合は、表示部230における挟角画像(第1の画像データ)の表示は変更させずに、そのまま一連の処理を終了する。
ステップS507では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、高歪曲領域の前記第2の移動装置を含む矩形の広角画像(第2の画像データ)を表示部230に供給する。表示部230が表示画角変更部22から供給された広角画像(第2の画像データ)に切り替わったら、ステップS508に移行する。
ステップS508では、後方車両ウィンカー検知部424において、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、ウィンカーを出している車両を検知する。自車の後方にウィンカーを出す車を検知した場合は、ステップS508の処理が繰り返される。自車の後方にウィンカーを出す車を検知しなくなった場合はステップS509に移行する。
ステップS509では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取った後、待機時間t3の間は第2の画像データを表示し続ける。待機時間t3経過後、挟角画像(第1の画像データ)を表示部230に供給し、表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)に切り替えた後、一連の処理を終了する。
なお、実施形態2において、ステップS506やステップS508では、後方車両ウィンカー検知部424は、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、ウィンカーを出している車両を検知している。しかし、ステップS506やステップS508において、後方車両ウィンカー検知部424は、広角視野範囲31において、ウィンカーを出している車両を検知してもよい。
[実施形態3]
図6は、実施形態3における画像処理装置600の構成例を説明するためのブロック図である。画像処理装置600と実施形態1の画像処理装置200とは、処理部220が、後方車両距離検知部223の代わりに蛇行運転検知部624を有し、画像処理部221が処理した画像が表示画角変更部222と蛇行運転検知部624に供給される点が異なる。
表示画角判定部224は蛇行運転検知部624からの検知情報、バックギア検知部225の検知結果をもとに表示部230に表示する画像を広角視野範囲31にするか、通常視野範囲30にするかを判定し、判定結果を表示画角変更部222に通知する。蛇行運転検知部624にて検知された後方車両が白線を境に左右に交互に移動を繰り返した往復回数が、閾値以上の場合は、第2の画像データを表示し、閾値未満の場合は、第1の画像データを表示する。また、バックギア検知部225よりバックギアに入っているという通知があった場合は、第3の画像データを表示し、バックギアに入っていない場合は、第1の画像データを表示する。
さらに、バックギアが検知されている状態では、蛇行運転検知部624の結果にかかわらず第3の画像データを表示する。バックギアに入っていない場合は、蛇行運転検知部624の結果に応じて第1の画像データまたは第2の画像データを表示する。また、後述する蛇行運転検知部624より、車種情報を受け取ることで、車種に応じて画角変更の判定基準を変えてもよい。
例えば、トラックなどの大型車両の場合、衝突時の危険度が大きいので、普通車の蛇行運転より早く認知できるように往復回数の閾値を少なくする。例えば、蛇行運転検知部624により第2の移動装置の種類を検知可能とし、前記種類に応じて、第2の画像データを表示させる条件(例えば蛇行運転車として検知する際の、通行区分の境界を横切った回数の閾値等)を異ならせるようにしてもよい。
蛇行運転検知部624は、様々な物体を検出するための画像認識パターンを予め記憶するとともに、その画像認識パターンに基づいて所定の画像認識アルゴリズムを用いて画像に写るパターンを検出する。画像のパターンは深層学習などの機械学習によって定義されてもよいし、撮像装置によって撮影し得る物体である、四輪車、二輪車、歩行者、道路設置物、車線、白線などの道路およびに周辺に存在し得る物へ特化した画像認識パターンであってもよい。
蛇行運転検知部624では、画像処理部221が処理した画像に対して、車両を検出し、その検出位置が白線を境に左右に交互に移動を繰り返す動きの回数の検知を行う。白線を境に左右に交互に移動を繰り返す動きを検知した際には、その往復回数を表示画角判定部224へ通知する。
蛇行運転検知部624では、予め収集された多数の車両の画像から深層学習などの機械学習の結果として抽出さえた車種ごとの形状や色彩などの画像的特徴に関するデータを保持し、車種の判定をし、車種情報も併せて表示画角判定部224へ通知する。ここで、蛇行運転検知部624は、通行区分の境界を横切る動作を繰り返す移動装置を第2の移動装置として検知する検知部として機能している。
図7は、実施形態4において、後方車両の蛇行運転を検知して表示画角を変更する制御を行う例を示すフローチャートである。図7におけるフローは移動装置10の動力源が始動状態になることで開始され、動力源が駆動中は継続的に実行される。また、図7に示す各ステップは、処理部220に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
ステップS701では、バックギア検知部225は自車がバックギアに入っているか否かを判定し、表示画角判定部224に通知する。自車がバックギアに入っていると判定された場合は、ステップS702の処理に移行する。バックギアに入っていないと判定された場合は、ステップS703の処理に移行する。
ステップS702では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、広角画像(第3の画像データ)を表示部230に供給する。表示部230において表示画角変更部22から供給された広角画像(第3の画像データ)の表示に切り替わったら、ステップS704に移行する。
ステップS704では、バックギア検知部225が自車が継続してバックギアに入っているか否かを判定し、表示画角判定部224に通知する。バックギアに入っている状態が継続している間は、ステップS704の処理が繰り返される。バックギアが検出されなくなった場合は、ステップS705の処理に移行する。
ステップS705では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、画像処理部221が処理した画像から通常画角範囲から切り取った矩形の挟角画像(第1の画像データ)を表示部230に供給する。表示部230は表示画角変更部222から供給された挟角画像(第1の画像データ)を表示し、一連の処理を終了する。
ステップS703では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、挟角画像(第1の画像データ)を表示部230に供給する。表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)の表示に切り替わったら、ステップS706に移行する。
ステップS706では、蛇行運転検知部624が、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、検出した車両が車線の境界線としての例えば白線(や黄線等)を境に左右に移動を繰り返した往復回数を検知する。そして、検知した情報を表示画角判定部224に通知する。検出した車両が白線を境に左右に交互に移動を繰り返した往復回数が閾値(例えば、往復回数が2回)を超えた場合は、蛇行運転車とし、ステップS707に移行する。検出した車両が白線を境に左右に交互に移動を繰り返した往復回数が閾値を超えない場合は、表示部230における挟角画像(第1の画像データ)の表示は変更させずに、そのまま一連の処理を終了する。
ステップS707では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、広角画像(第2の画像データ)を表示部230に供給する。例えば、高歪曲領域の第2の移動装置を含む広角画像である第2の画像データを表示部230に供給する。表示部230が表示画角変更部22から供給された広角画像(第2の画像データ)に切り替わったら、ステップS708に移行する。
ステップS708では、蛇行運転検知部624において、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、検出した車両が例えば白線を境に左右に交互に移動を繰り返した往復回数を検知する。そして、検知した情報を表示画角判定部224に通知する。検出した車両が例えば白線を境に左右に交互に移動を繰り返した往復回数が閾値(例えば、往復回数が2回)を超えた場合は、蛇行運転車とし、ステップS708の処理が繰り返される。検出した車両が例えば白線を境に左右に交互に移動を繰り返した往復回数が閾値を超えない場合は、ステップS709に移行する。
ステップS709では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取った後、待機時間t3の間は第2の画像データを表示し続ける。待機時間t3経過後、挟角画像(第1の画像データ)を表示部230に供給し、表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)に切り替わったら、一連の処理を終了する。
なお、実施形態3のステップS706やステップS708では、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、検出した車両が車線の境界線を境に交互に移動を繰り返した往復回数を検知し蛇行運転車を検知している。しかし、ステップS506やステップS508で、広角視野範囲31において、検出した車両が車線の境界線を境に左右に交互に移動を繰り返した往復回数を検知し、それによって蛇行運転車を検知してもよい。
[実施形態4]
図8は、実施形態4における画像処理装置800の構成例を説明するためのブロック図である。画像処理装置800と実施形態1の画像処理装置200との違いは、処理部220が、後方車両距離検知部223の代わりに後方車両パッシング検知部824を有している点である。また、画像処理部221が処理した画像が表示画角変更部222と後方車両パッシング検知部824に供給される点である。
表示画角判定部224は後方車両パッシング検知部824からの検知情報、バックギア検知部225の検知結果をもとに表示部230に表示する画像を広角視野範囲31にするか、通常視野範囲30にするかを判定する。そして、判定結果を表示画角変更部222に通知する。後方車両パッシング検知部824により、後方にパッシングをする車両が検知された場合は、第2の画像データを表示し、検知されない場合は第1の画像データを表示する。
また、バックギア検知部225よりバックギアに入っているという通知があった場合は、第3の画像データを表示し、バックギアに入っていない場合は、第1の画像データを表示する。さらに、バックギアが検知されている状態では、後方車両パッシング検知部824の結果にかかわらず第3の画像データを表示する。バックギアに入っていない場合は、後方車両パッシング検知部824の結果に応じて第1の画像データまたは第2の画像データを表示する。
後方車両パッシング検知部824では、画像処理部221が処理した画像に対して、後方車両のパッシング動作を検知し、検知した情報を表示画角判定部224へ通知する。ここで、後方車両パッシング検知部824はパッシング動作をしている移動装置を第2の移動装置として検知する検知部として機能している。
図9は、実施形態4において、後方車両とのパッシング動作を検知して表示画角を変更する制御を行う例を示すフローチャートである。図9におけるフローは移動装置10の動力源が始動状態になることで開始され、動力源が駆動中は継続的に実行される。また、図9に示す各ステップは、処理部220に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
ステップS901では、バックギア検知部225は自車がバックギアに入っているか否かを判定し、表示画角判定部224に通知する。自車がバックギアに入っていると判定された場合は、ステップS902の処理に移行する。バックギアに入っていないと判定された場合は、ステップS903の処理に移行する。
ステップS902では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、広角画像(第3の画像データ)を表示部230に供給する。表示部230において表示画角変更部222から供給された広角画像(第3の画像データ)の表示に切り替わったら、ステップS904に移行する。
ステップS904では、バックギア検知部225が自車が継続してバックギアに入っているか否かを判定し、表示画角判定部224に通知する。バックギアに入っている状態が継続している間は、ステップS904の処理が繰り返される。バックギアが検出されなくなった場合は、ステップS905の処理に移行する。
ステップS905では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、画像処理部221が処理した画像から通常画角範囲の切り取りを行った矩形の挟角画像(第1の画像データ)を表示部230に供給する。表示部230は表示画角変更部222から供給された挟角画像(第1の画像データ)を表示し、一連の処理を終了する。
ステップS903では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取り、挟角画像(第1の画像データ)を表示部230に供給する。表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)の表示に切り替わったら、ステップS906に移行する
ステップS906では、後方車両パッシング検知部824において、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、パッシングをしている車両を検知し、検知した情報を表示画角判定部224に通知する。自車の後方にパッシングをしている車を検知した場合は、ステップS907に移行する。自車の後方にパッシングをしている車を検知しない場合は、表示部230における挟角画像(第1の画像データ)の表示は変更させずに、そのまま一連の処理を終了する。
ステップS907では、表示画角変更部222が表示画角判定部224より広角画像への切替え通知を受け取り、広角画像(第2の画像データ)を表示部230に供給する。例えば、高歪曲領域の第2の移動装置を含む広角画像である第2の画像データを表示部230に供給する。表示部230が表示画角変更部22から供給された広角画像(第2の画像データ)に切り替わったら、ステップS908に移行する。
ステップS908では、後方車両パッシング検知部824が、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、パッシングをしている車両を検知し、検知した情報を表示画角判定部224に通知する。自車の後方にパッシングをしている車を検知した場合は、ステップS908の処理が繰り返される。自車の後方にパッシングをしている車を検知しなくなった場合はステップS909に移行する。
ステップS909では、表示画角変更部222が表示画角判定部224より通常画角画像への切替え通知を受け取った後、待機時間t3の間は第2の画像データを表示し続ける。待機時間t3経過後、挟角画像(第1の画像データ)を表示部230に供給する。表示部230が表示画角変更部222から供給された挟角画像(第1の画像データ)に切り替わったら、一連の処理を終了する。
なお、実施形態4のステップS906やステップS908では、高歪曲領域を含む領域の画像データのうち、第1の画像データ以外の画像データにおいて、パッシングをしている車両を検知している。しかし、ステップS506やステップS508で、広角視野範囲31において、パッシングをしている車両を検知し、それによってパッシング車を検知してもよい。
[実施形態5]
上述した実施形態において説明された様々な機能、処理および方法の少なくとも一つは、プログラムを用いて実現することができる。以下、実施形態5では、上述した実施形態において説明された様々な機能、処理および方法の少なくとも一つを実現するためのプログラムを「プログラムX」と呼ぶ。さらに、実施形態5では、プログラムXを実行するためのコンピュータを「コンピュータY」と呼ぶ。パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)などは、コンピュータYの一例である。上述した実施形態における画像処理装置等のコンピュータも、コンピュータYの一例である。
上述した実施形態において説明された様々な機能、処理および方法の少なくとも一つは、コンピュータYがプログラムXを実行することによって実現することができる。この場合において、プログラムXは、コンピュータ読み取り可能な記憶媒体を介してコンピュータYに供給される。実施形態5におけるコンピュータ読み取り可能な記憶媒体は、ハードディスク装置、磁気記憶装置、光記憶装置、光磁気記憶装置、メモリカード、ROM、RAMなどの少なくとも一つを含む。さらに、実施形態5におけるコンピュータ読み取り可能な記憶媒体は、non-transitoryな記憶媒体である。
[実施形態6]
上述の実施形態における移動装置10は、自動車に限るものではなく、自動二輪車、自転車、車椅子、船舶、飛行機、ロボット、ドローンなどの移動が可能な装置であれば、どのようなものであってもよい。
10:移動装置
20:撮像装置
30:通常視野範囲
31:広角視野範囲
40:運転者
200:画像処理装置
201:光学系
201a:高解像度領域
201b:低解像度領域
210:撮像部
220:処理部
221:画像処理部
222:表示画角変更部
223:後方車両距離検知部
224:表示画角判定部
225:バックギア検知部
226:ユーザー設定変更部
230:表示部
400:画像処理装置
424:後方車両ウィンカー検知部
600:画像処理装置
624:蛇行運転検知部
800:画像処理装置
824:後方車両パッシング検知部

Claims (14)

  1. 低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有すると共に第1の移動装置の後方を撮影する撮像手段と、
    前記撮像手段で生成された撮像データを歪曲補正して画像データを生成する画像処理手段と、
    前記画像データから前記低歪曲領域の光学像に対応する領域が切り出された第1の画像データを表示部に表示させる表示制御手段と、
    記画像データから所定の条件を満たす第2の移動装置を検知する検知手段と
    を有し、
    前記表示制御手段は、前記検知手段により前記第2の移動装置が検知された場合に、前記第2の移動装置を含むように、前記画像データから前記高歪曲領域および前記低歪曲領域の光学像に対応する領域が切り出された第2の画像データを前記表示部に表示させ、
    前記第2の画像データは、前記画像データから前記第1の画像データより広い領域が切り出されて生成される
    ことを特徴とする画像処理装置。
  2. 前記光学系の焦点距離をf、半画角をθ、像面での像高をy、像高yと半画角θとの関係を表す射影特性をy(θ)とする場合に、
    前記低歪曲領域におけるy(θ)はf×θより大きく、前記高歪曲領域における前記射影特性とは異なることを特徴とする請求項1に記載の画像処理装置。
  3. θmaxを前記光学系が有する最大の半画角とする場合に、
    1<f×sin(θmax)/y(θmax)≦1.9
    を満足するように構成されていることを特徴とする請求項2に記載の画像処理装置。
  4. 前記表示制御手段は、前記第1の移動装置の後退時に、前記第1の移動装置の後方の前記高歪曲領域を含む第3の画像データを表示させることを特徴とする請求項1~のいずれか1項に記載の画像処理装置。
  5. 前記検知手段は、前記高歪曲領域を含む領域の前記画像データであって、前記第1の画像データ以外の前記画像データにおいて、前記第1の移動装置から所定距離未満に存在する移動装置を前記第2の移動装置として検知することを特徴とする請求項1~のいずれか1項に記載の画像処理装置。
  6. 前記検知手段は、所定の条件でウィンカーを点滅させている移動装置を前記第2の移動装置として検知することを特徴とする請求項1~のいずれか1項に記載の画像処理装置。
  7. 前記検知手段は、通行区分の境界を横切る動作を繰り返す移動装置を前記第2の移動装置として検知することを特徴とする請求項1~のいずれか1項に記載の画像処理装置。
  8. 前記検知手段は、パッシング動作をしている移動装置を前記第2の移動装置として検知することを特徴とする請求項1~のいずれか1項に記載の画像処理装置。
  9. 前記表示制御手段は、前記第1の画像データと前記第2の画像データの表示の切替をする際に所定の遷移時間を持たせることを特徴とする請求項1~のいずれか1項に記載の画像処理装置。
  10. 前記第1の画像データから前記第2の画像データへ表示を切替える際の前記遷移時間と、前記第2の画像データから前記第1の画像データへ表示を切替える際の前記遷移時間が異なることを特徴とする請求項に記載の画像処理装置。
  11. 前記検知手段は、前記第2の移動装置の種類を検知可能であって、前記表示制御手段は、前記種類に応じて、前記第2の画像データを表示させる条件を異ならせることを特徴とする請求項1~10のいずれか1項に記載の画像処理装置。
  12. 移動装置であって
    低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有する撮像手段と、
    前記撮像手段で生成された撮像データを歪曲補正して画像データを生成する画像処理手段と、
    前記画像データから前記低歪曲領域の光学像に対応する領域が切り出された第1の画像データを表示させる表示制御手段と、
    前記画像データから所定の条件を満たす第2の移動装置を検知する検知手段と、
    を有し、
    前記撮像手段は前記移動装置の後方を撮影し、
    前記表示制御手段は、前記検知手段により前記第2の移動装置が検知された場合に、前記第2の移動装置の全体を含むように、前記画像データから前記高歪曲領域および前記低歪曲領域の光学像に対応する領域が切り出された第2の画像データを表示させ、
    前記第2の画像データは、前記画像データから前記第1の画像データより広い領域が切り出されて生成される
    ことを特徴とする移動装置。
  13. 低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有する撮像手段を用いて第1の移動装置の後方を撮影する撮像ステップと、
    前記撮像ステップにより取得した撮像データを歪曲補正して画像データを生成する画像処理ステップと、
    前記画像データから前記低歪曲領域の光学像に対応する領域が切り出された第1の画像データを表示させる第1の表示制御ステップと、
    記画像データから所定の条件を満たす第2の移動装置を検知する検知ステップと、
    前記検知ステップにより前記第2の移動装置が検知された場合に、前記第2の移動装置を含むように、前記画像データから前記高歪曲領域および前記低歪曲領域の光学像に対応する領域が切り出された第2の画像データを表示させる第2の表示制御ステップと、を有し、
    前記第2の画像データは、前記画像データから前記第1の画像データより広い領域が切り出されて生成される
    ことを特徴とする画像処理方法。
  14. 画像処理装置のコンピュータに、
    低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有する撮像手段を用いて第1の移動装置の後方を撮影する撮像ステップと、
    前記撮像ステップにより取得した撮像データを歪曲補正して画像データを生成する画像処理ステップと、
    前記画像データから前記低歪曲領域の光学像に対応する領域が切り出した第1の画像データを表示させる第1の表示制御ステップと、
    記画像データから所定の条件を満たす第2の移動装置を検知する検知ステップと、
    前記検知ステップにより前記第2の移動装置が検知された場合に、前記第2の移動装置を含むように、前記画像データから前記高歪曲領域および前記低歪曲領域の光学像に対応する領域が切り出された第2の画像データを表示させる第2の表示制御ステップと
    を実行させるためのプログラムであって、
    前記第2の画像データは、前記画像データから前記第1の画像データより広い領域が切り出されて生成される
    ことを特徴とするプログラム
JP2021177410A 2021-10-29 2021-10-29 画像処理装置、移動装置、画像処理方法およびプログラム Active JP7600076B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021177410A JP7600076B2 (ja) 2021-10-29 2021-10-29 画像処理装置、移動装置、画像処理方法およびプログラム
US17/970,646 US12256178B2 (en) 2021-10-29 2022-10-21 Image processing device, moving device, image processing method, and storage medium
JP2024211175A JP2025037994A (ja) 2021-10-29 2024-12-04 画像処理装置、移動装置、画像処理方法およびプログラム
US19/053,552 US20250193349A1 (en) 2021-10-29 2025-02-14 Image processing device, moving device, image processing method, and storage medium that selectively display narrow angle image data and wide angle image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021177410A JP7600076B2 (ja) 2021-10-29 2021-10-29 画像処理装置、移動装置、画像処理方法およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024211175A Division JP2025037994A (ja) 2021-10-29 2024-12-04 画像処理装置、移動装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2023066680A JP2023066680A (ja) 2023-05-16
JP7600076B2 true JP7600076B2 (ja) 2024-12-16

Family

ID=86146219

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021177410A Active JP7600076B2 (ja) 2021-10-29 2021-10-29 画像処理装置、移動装置、画像処理方法およびプログラム
JP2024211175A Pending JP2025037994A (ja) 2021-10-29 2024-12-04 画像処理装置、移動装置、画像処理方法およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024211175A Pending JP2025037994A (ja) 2021-10-29 2024-12-04 画像処理装置、移動装置、画像処理方法およびプログラム

Country Status (2)

Country Link
US (2) US12256178B2 (ja)
JP (2) JP7600076B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7476151B2 (ja) * 2021-09-24 2024-04-30 キヤノン株式会社 画像処理システム、画像処理方法、およびコンピュータプログラム
KR20240071763A (ko) * 2022-11-16 2024-05-23 현대모비스 주식회사 혼합형 커뮤니케이션 램프
USD1094224S1 (en) * 2023-12-28 2025-09-23 Sony Honda Mobility Inc. Automobile rear display

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014235639A (ja) 2013-06-04 2014-12-15 日産自動車株式会社 車両表示装置
WO2017068692A1 (ja) 2015-10-22 2017-04-27 日産自動車株式会社 表示制御方法および表示制御装置
WO2019123840A1 (ja) 2017-12-19 2019-06-27 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、および表示システム
JP2019178871A (ja) 2018-03-30 2019-10-17 株式会社リコー ステレオカメラ装置
WO2020110611A1 (ja) 2018-11-28 2020-06-04 京セラ株式会社 画像処理装置、撮像装置、移動体及び画像処理方法
US20210029056A1 (en) 2014-10-31 2021-01-28 The Nielsen Company (Us), Llc Methods and apparatus to throttle media access by web crawlers
WO2021145367A1 (ja) 2020-01-17 2021-07-22 アズミー株式会社 あおり運転検知システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004272578A (ja) * 2003-03-07 2004-09-30 Minolta Co Ltd 撮像装置及び歪み補正方法
US9445011B2 (en) * 2012-10-22 2016-09-13 GM Global Technology Operations LLC Dynamic rearview mirror adaptive dimming overlay through scene brightness estimation
JP6555240B2 (ja) 2016-10-25 2019-08-07 トヨタ自動車株式会社 車両用撮影表示装置及び車両用撮影表示プログラム
KR102351542B1 (ko) * 2017-06-23 2022-01-17 삼성전자주식회사 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치
CN117022255A (zh) * 2018-03-20 2023-11-10 御眼视觉技术有限公司 用于主车辆的自动驾驶系统、机器可读存储介质和装置
JP7313811B2 (ja) * 2018-10-26 2023-07-25 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7053437B2 (ja) * 2018-11-26 2022-04-12 本田技研工業株式会社 運転支援装置および車両
JP7345114B2 (ja) * 2020-03-25 2023-09-15 パナソニックIpマネジメント株式会社 車両用表示制御装置、表示制御方法、およびプログラム
JP2023047495A (ja) * 2021-09-27 2023-04-06 キヤノン株式会社 移動体、画像処理方法、およびコンピュータプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014235639A (ja) 2013-06-04 2014-12-15 日産自動車株式会社 車両表示装置
US20210029056A1 (en) 2014-10-31 2021-01-28 The Nielsen Company (Us), Llc Methods and apparatus to throttle media access by web crawlers
WO2017068692A1 (ja) 2015-10-22 2017-04-27 日産自動車株式会社 表示制御方法および表示制御装置
WO2019123840A1 (ja) 2017-12-19 2019-06-27 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、および表示システム
JP2019178871A (ja) 2018-03-30 2019-10-17 株式会社リコー ステレオカメラ装置
WO2020110611A1 (ja) 2018-11-28 2020-06-04 京セラ株式会社 画像処理装置、撮像装置、移動体及び画像処理方法
WO2021145367A1 (ja) 2020-01-17 2021-07-22 アズミー株式会社 あおり運転検知システム

Also Published As

Publication number Publication date
US20250193349A1 (en) 2025-06-12
JP2025037994A (ja) 2025-03-18
US12256178B2 (en) 2025-03-18
JP2023066680A (ja) 2023-05-16
US20230134184A1 (en) 2023-05-04

Similar Documents

Publication Publication Date Title
JP2025037994A (ja) 画像処理装置、移動装置、画像処理方法およびプログラム
JP6232759B2 (ja) 情報処理装置、接近対象物通知方法及びプログラム
CN111699680B (zh) 行车记录仪、显示控制方法以及存储介质
JP5953824B2 (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
KR101986734B1 (ko) 차량 운전 보조 장치 및 이의 안전 운전 유도 방법
JP6805716B2 (ja) 表示装置、表示方法、プログラム
KR20260009956A (ko) 자동차 또는 감시 애플리케이션을 위한 스캐닝 광학 경로 폴딩 요소들을 구비하는 카메라
JP2023066813A (ja) 画像処理装置、画像処理方法およびプログラム
JP6583385B2 (ja) 情報処理装置、接近対象物通知方法及びプログラム
JP2010250503A (ja) 車両制御装置、及び車載用撮像装置
US20220301185A1 (en) Information processing apparatus, information processing method, and storage medium for estimating movement amount of moving object
RU2694877C2 (ru) Устройство формирования изображений и отображения для транспортного средства и носитель записи
JP2006178652A (ja) 車両周辺認識システム及び画像処理装置
JP6773189B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2020201824A (ja) 情報表示装置
JP2022184109A (ja) 撮像システム、移動装置、制御方法およびプログラム
JP2025019179A (ja) 画像処理装置、移動体、画像処理方法、及びコンピュータプログラム
JP7585285B2 (ja) 表示制御装置、撮像装置、及び移動装置
JP2024057204A (ja) 表示システム、車両、制御方法、及びコンピュータプログラム
JP2005217482A (ja) 車両周辺監視方法および装置
JP4598011B2 (ja) 車両用表示装置
JP7636113B2 (ja) 映像表示システム
CN107972583B (zh) 车辆用成像显示装置以及记录介质
CN121989684A (zh) 用于车辆的侧视镜系统
JP2010016571A (ja) 運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241204

R150 Certificate of patent or registration of utility model

Ref document number: 7600076

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150