Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5457976B2 - 3次元形状取得装置および3次元形状取得プログラム - Google Patents
[go: Go Back, main page]

JP5457976B2 - 3次元形状取得装置および3次元形状取得プログラム - Google Patents

3次元形状取得装置および3次元形状取得プログラム Download PDF

Info

Publication number
JP5457976B2
JP5457976B2 JP2010174574A JP2010174574A JP5457976B2 JP 5457976 B2 JP5457976 B2 JP 5457976B2 JP 2010174574 A JP2010174574 A JP 2010174574A JP 2010174574 A JP2010174574 A JP 2010174574A JP 5457976 B2 JP5457976 B2 JP 5457976B2
Authority
JP
Japan
Prior art keywords
image
block image
parallax
color
target area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010174574A
Other languages
English (en)
Other versions
JP2012037929A (ja
Inventor
健介 久富
健佑 池谷
美和 片山
祐一 岩舘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2010174574A priority Critical patent/JP5457976B2/ja
Publication of JP2012037929A publication Critical patent/JP2012037929A/ja
Application granted granted Critical
Publication of JP5457976B2 publication Critical patent/JP5457976B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)

Description

本発明は、複数の画像から高い精度で奥行き情報を生成する3次元形状取得装置および3次元形状取得プログラムの技術に関する。
従来、異なる2点の位置からある被写体を撮影し、一方の画像の各画素に対応するもう一方の画素との位置の差を求めることで、奥行き情報を取得する技術が提案されており、その一つとして、位相限定相関法を用いた奥行き推定法がある。
ここで、位相限定相関法を用いた奥行き推定法について図10〜図12を参照して説明する。
図10に示すように、位相限定相関法は、2つの画像をそれぞれフーリエ変換(FFT)して位相成分を取り出し、これらを合成したものに逆フーリエ変換(IFFT)を施すことにより、位相相関関数を求める。そして、この位相相関関数のピークの中心からのずれ量が2つの画像の平行移動量を示している。
位相限定相関法を用いた奥行き推定法では、2つの画像の一部分をブロック(以下、「ブロック画像」という。)として切り出し、ブロック画像内の位相情報を抽出して、2つのブロック画像の平行移動量を求めるために、ブロック処理をするのが一般的である。
図11に示すように、ブロック処理は、2つの画像からそれぞれ所定の大きさのブロック画像を切り出し、2つのブロック画像を入力として位相限定相関法を行うことにより、2つのブロック画像の平行移動量を求めるものである。
図12に示すように、最終的に得られる位相相関関数のピークの中心からのずれ量が2つの画像の平行移動量となる。なお、この位相相関関数の表示は、入力される両画像の一致点の多さとその平行移動量を示すものであり、一致点が少なすぎるとピークがあいまいとなる。
また、2次元のブロック画像の代わりに1次元のブロックを用いて高速に奥行き情報を取得する技術も提案されている(例えば、非特許文献1参照)。
柴原琢磨、沼徳仁、長嶋聖、青木孝文、中島寛、小林孝次著、「一次元位相限定相関法に基づくステレオ画像の高精度サブピクセル対応付け手法」 電子情報通信学会論文誌D,Vol. J91-D, No. 9, pp. 2343-2356, September 2008
しかし、2つの画像から切り出したブロック画像において奥行きに不連続な部分が存在したり、奥行きが連続であっても奥行きが大きく異なる部分が存在したりする場合に、これらのブロック画像を用いて位相限定相関法を行うと、手前の位相成分と奥の位相成分とがブロック画像内で混合してしまうため、奥行き計測の精度が低下するという問題がある。
すなわち、異なる位置から被写体を撮影し、それら2つの画像から切り出した2つのブロック画像内に被写体と背景が映っている場合を例にとると、近いところは大きくずれ遠いところは小さくずれるため、例えば、被写体が5ピクセルずれており、背景が2ピクセルずれているということとなる。そして、これらのブロック画像をそのまま用いて位相限定相関法を行うと、図12に示す位相相関関数のピークがあいまいとなり、平均移動量を精度良く求めることができない。結果として奥行き計測の精度が低下してしまうという問題がある。
本発明は、以上のような問題点に鑑みてなされたものであり、複数の画像から高い精度で奥行き情報を生成する3次元形状取得装置および3次元形状取得プログラムを提供することを課題とする。
本発明は、前記課題を解決するために創案されたものであり、まず、請求項1に記載の3次元形状取得装置は、異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置であって、ブロック画像切出手段と、対象領域抽出手段と、色置換手段と、視差計測手段と、3次元座標位置生成手段と、を備える構成とした。
かかる構成において、3次元形状取得装置は、ブロック画像切出手段によって、入力される前記基準画像および前記参照画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像および参照ブロック画像として予め定めたピクセル数ごとに順次ずらして切り出す。これによって、入力される画像から視差を計測するためのブロック画像が切り出される。
そして、3次元形状取得装置は、対象領域抽出手段によって、視差計測のための対象領域を抽出するために前記基準ブロック画像における所定の位置の色を基準色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する。
そして、3次元形状取得装置は、色置換手段によって、前記基準ブロック画像における前記基準色を、前記対象領域の背景をマスクする色である置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える。これによって、背景がマスクされて視差計測手段における位相成分の混合を抑制できる。
また、3次元形状取得装置は、視差計測手段によって、前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測する。
そして、3次元形状取得装置は、3次元座標位置生成手段によって、前記視差計測手段が計測した前記視差から3次元座標位置を生成する。
また、請求項2に記載の3次元形状取得装置は、請求項1に記載の3次元形状取得装置において、対象領域抽出手段が、前記基準ブロック画像の中央画素の色を基準色とする構成とした。これによって、基準ブロック画像の中央画素の色を基準として対象領域が抽出される。
そして、請求項3に記載の3次元形状取得装置は、請求項1または請求項2に記載の3次元形状取得装置において、ブロック画像切出手段が、動画像における連続する複数のフレームの画像から視差計測に用いる所定の大きさの画像であるブロック画像を切り出す構成とした。これによって、連続するそれぞれのフレームに対応する奥行き情報を生成することで動的な奥行き情報を生成することができる。
また、請求項4に記載の3次元形状取得装置は、異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置であって、視差推定手段と、ブロック画像切出手段と、対象領域抽出手段と、色置換手段と、視差計測手段と、3次元座標位置生成手段と、を備える構成とした。
かかる構成において、3次元形状取得装置は、視差推定手段によって、入力される前記基準画像と前記参照画像とから、一方の画像の各画素に対応するもう一方の画像の画素の平行移動量を表した視差画像である基準視差画像および参照視差画像を生成する。これによって、基準画像および参照画像に対応する奥行き情報を予め取得できる。
そして、3次元形状取得装置は、ブロック画像切出手段によって、前記基準画像、前記参照画像、前記基準視差画像および前記参照視差画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像、参照ブロック画像、基準視差ブロック画像および参照視差ブロック画像として切り出す。これによって、入力される画像から視差を計測するためのブロック画像が切り出される。
そして、3次元形状取得装置は、対象領域抽出手段によって、視差計測のための対象領域を抽出するために前記基準視差ブロック画像における所定の色を基準色として特定し、前記基準視差ブロック画像および前記参照視差ブロック画像において前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出し、前記基準視差ブロック画像および前記参照視差ブロック画像において抽出される前記対象領域に基づいて、それぞれ前記基準ブロック画像および前記参照ブロック画像において対象領域を抽出する。これによって、ブロック画像内に類似した色の画素の塊が大きくまとまっていないことで対象領域が十分確保できず、正確な奥行き情報を得るための位相情報を十分取得することができない場合にも、奥行きが類似する画素が十分まとまっていれば、それらの画素を対象領域とすることができる。
また、3次元形状取得装置は、色置換手段によって、前記基準ブロック画像における所定の色を置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える。これによって、背景がマスクされて視差計測手段における位相成分の混合を抑制できる。
そして、3次元形状取得装置は、視差計測手段によって、前記色置換手段から出力される、前記基準ブロック画像と前記参照ブロック画像とから位相限定相関法により視差を計測する。
そして、3次元形状取得装置は、3次元座標位置生成手段によって、前記視差計測手段が計測した前記視差から3次元座標位置を生成する。
また、請求項5に記載の3次元形状取得装置は、請求項4に記載の3次元形状取得装置において、ブロック画像切出手段が、切出位置算出手段によって、基準ブロック画像の位置に前記基準視差ブロック画像の中央画素の値を加算して、前記参照ブロック画像および前記参照視差ブロック画像の切出位置を算出する構成とした。これによって、基準ブロック画像における対象領域と参照ブロック画像における対象領域とが大きくずれている場合にも、互いの対象領域がある程度重なるように参照ブロック画像が切り出される。
そして、3次元形状取得装置は、視差計測手段によって、前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測し、計測した視差と、前記基準視差ブロック画像の中央画素の値とを加算する。これによって、被写体の3次元形状を取得するために必要な視差を求める。
また、請求項6に記載の3次元形状取得装置は、請求項4または請求項5に記載の3次元形状取得装置において、対象領域抽出手段が、前記基準視差ブロック画像の中央画素の色を基準色とする構成とした。これによって、基準視差ブロック画像の中央画素の色を基準として対象領域が抽出される。
そして、請求項7に記載の3次元形状取得装置は、請求項4から請求項6のいずれか一項に記載の3次元形状取得装置において、視差推定手段が、動画像における連続する複数のフレームの画像から前記基準視差画像および前記参照視差画像を生成する構成とした。
また、ブロック画像切出手段が、動画像における連続する複数のフレームの画像から視差計測に用いる所定の大きさの画像であるブロック画像を切り出す構成とした。これによって、連続するそれぞれのフレームに対応する奥行き情報を生成することで動的な奥行き情報を生成することができる。
また、請求項8に記載の3次元形状取得プログラムは、異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置を制御するために、前記3次元形状取得装置のコンピュータを、ブロック画像切出手段、対象領域抽出手段、色置換手段、視差計測手段、3次元座標位置生成手段、として機能させる構成とした。
かかる構成において、3次元形状取得プログラムは、ブロック画像切出手段によって、入力される前記基準画像および前記参照画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像および参照ブロック画像として予め定めたピクセル数ごとに順次ずらして切り出す。これによって、入力される画像から視差を計測するためのブロック画像が切り出される。
そして、3次元形状取得プログラムは、対象領域抽出手段によって、視差計測のための対象領域を抽出するために前記基準ブロック画像における所定の位置の色を基準色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する。
そして、3次元形状取得プログラムは、色置換手段によって、前記基準ブロック画像における前記基準色を、前記対象領域の背景をマスクする色である置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える。これによって、背景がマスクされて視差計測手段における位相成分の混合を抑制できる。
また、3次元形状取得プログラムは、視差計測手段によって、前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測する。
そして、3次元形状取得プログラムは、3次元座標位置生成手段によって、前記視差計測手段が計測した前記視差から3次元座標位置を生成する。
また、請求項9に記載の3次元形状取得プログラムは、異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置を制御するために、前記3次元形状取得装置のコンピュータを、視差推定手段、ブロック画像切出手段、対象領域抽出手段、色置換手段、視差計測手段、3次元座標位置生成手段、として機能させる構成とした。
かかる構成において、3次元形状取得プログラムは、視差推定手段によって、入力される前記基準画像と前記参照画像とから、一方の画像の各画素に対応するもう一方の画像の画素の平行移動量を表した視差画像である基準視差画像および参照視差画像を生成する。これによって、基準画像および参照画像に対応する奥行き情報を予め取得できる。
そして、3次元形状取得プログラムは、ブロック画像切出手段によって、前記基準画像、前記参照画像、前記基準視差画像および前記参照視差画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像、参照ブロック画像、基準視差ブロック画像および参照視差ブロック画像として切り出す。これによって、入力される画像から視差を計測するためのブロック画像が切り出される。
そして、3次元形状取得プログラムは、対象領域抽出手段によって、視差計測のための対象領域を抽出するために前記基準視差ブロック画像における所定の色を基準色として特定し、前記基準視差ブロック画像および前記参照視差ブロック画像において前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出し、前記基準視差ブロック画像および前記参照視差ブロック画像において抽出される前記対象領域に基づいて、それぞれ前記基準ブロック画像および前記参照ブロック画像において対象領域を抽出する。これによって、ブロック画像内に類似した色の画素の塊が大きくまとまっていないことで対象領域が十分確保できず、正確な奥行き情報を得るための位相情報を十分取得することができない場合にも、奥行きが類似する画素が十分まとまっていれば、それらの画素を対象領域とすることができる。
また、3次元形状取得プログラムは、色置換手段によって、前記基準ブロック画像における所定の色を置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える。これによって、背景がマスクされて視差計測手段における位相成分の混合を抑制できる。
そして、3次元形状取得プログラムは、視差計測手段によって、前記色置換手段から出力される、前記基準ブロック画像と前記参照ブロック画像とから位相限定相関法により視差を計測する。
そして、3次元形状取得プログラムは、3次元座標位置生成手段によって、前記視差計測手段が計測した前記視差から3次元座標位置を生成する。
本発明は、以下に示す優れた効果を奏するものである。
請求項1,2,8に記載の発明によれば、ブロック画像内の奥行きが不連続である部分や奥行きが大きく異なる部分が置換色で置き換えられているため、平均移動量を精度良く求めることができ、高い精度で3次元座標位置を生成できる。
請求項3,7に記載の発明によれば、これによって、連続するそれぞれのフレームに対応する奥行き情報を生成することで動的な奥行き情報を生成することができる。
請求項4,6,9に記載の発明によれば、ブロック画像内に類似した色の画素の塊が大きくまとまっていないことで正確な奥行き情報を得るために位相情報を十分取得することができない場合にも、奥行きが類似する画素が十分まとまっていれば、平均移動量を精度良く求めることができ、高い精度で3次元座標位置を生成できる。
請求項5に記載の発明によれば、基準ブロック画像における対象領域と参照ブロック画像における対象領域とが大きくずれている場合にも、互いの対象領域がある程度重なるように参照ブロック画像が切り出されるため、視差計測手段において、十分な位相情報を取得することができる。
本発明の第1実施形態に係る3次元形状取得装置の構成を示すブロック構成図である。 本発明の実施形態に係る3次元形状取得装置において、基準画像と参照画像を説明するための平面図である。 本発明の第1実施形態に係る3次元形状取得装置のブロック画像切出手段、対象領域抽出手段および色置換手段における処理の一例を模式的に示した図である。 本発明の第1実施形態に係る3次元形状取得装置の動作を示すフローチャートである。 本発明の第2実施形態に係る3次元形状取得装置の構成を示すブロック構成図である。 本発明の第2実施形態に係る3次元形状取得装置のブロック画像切出手段、対象領域抽出手段および色置換手段における処理の一例を模式的に示した図である。 本発明の第2実施形態に係る3次元形状取得装置の切出位置算出手段による作用効果を説明するための図であり、(a)は、切出位置算出手段を用いない場合を説明する図である。(b)は、切出位置算出手段を用いる場合を説明する図である。(c)は、基準ブロック画像と参照ブロック画像を重ね合わせたときの対象領域の位置を示す図である。 本発明の第2実施形態に係る3次元形状取得装置の動作を示すフローチャートである。 本発明の第2実施形態に係る3次元形状取得装置の動作におけるブロック画像切出処理のフローチャートである。 従来技術の位相限定相関法の概念を示した図である。 従来技術の位相限定相関法のブロック処理を説明する図である。 従来技術の位相限定相関法による処理の結果の一例を示す図である。
<第1実施形態>
以下、本発明の第1実施形態について、図1〜図4を参照して説明する。
図1に示すように、3次元形状取得装置1は、基準画像30と参照画像31とを入力として、それらについて正確な位相成分を取得するための前処理を行い、その後、位相限定相関法を用いて3次元座標位置60を得るものである。
基準画像30とは、位相限定相関法によって視差を求める際、基準となる画像である。この画像から切り出したブロック画像である基準ブロック画像を基準として、参照画像31から切り出したブロック画像である参照ブロック画像との平行移動量を求めることになる。
ここで、基準画像30と参照画像31は、図2に示すように、異なる位置からカメラ(カメラ32、カメラ33)により撮影された画像である。カメラ32およびカメラ33は、被写体34が写るように設置する。このとき、カメラ32およびカメラ33は、カメラの光軸が平行になるように設置する。高さも同じである方が好ましい。なお、ここでは、カメラ32で撮影された画像が基準画像30であり、カメラ33で撮影された画像が参照画像31であるが、逆でもよい。
ところで、カメラ32およびカメラ33は、設置しただけで完全な平行になることは困難である。そのため、以下の従来技術により、平行化画像を取得する。被写体付近に既知の模様が描画されたパターンを置き、両カメラで撮影してカメラの位置や姿勢、焦点距離、レンズ歪曲率等をカメラキャリブレーション手法により取得する。例えば、TsaiやZhangのキャリブレーション法がある。
取得した内部パラメータ行列Aが、例えば、式(1)であるとする。
ここで、Fは、式(2)で表される。aは、式(3)で表される。なお、fは焦点距離、C,Cはそれぞれ画像座標によるx方向,y方向の中心画素の位置、Δ,Δはそれぞれx方向,y方向の撮像素子の間隔である。
Rを世界座標からカメラ座標への3×3回転行列とすると、画像中の点Pは、式(4)で平行画像化することが可能である。
ただし、Pcrectは平行画像化後の点の位置、Arectは平行化した後の内部パラメータ行列、Rrectは平行化した後の回転行列である。なお、R-1,A-1はそれぞれ行列R,Aの逆行列である。Arectは、カメラ32の内部パラメータ行列とカメラ33の内部パラメータ行列の平均値とすることが一般的である。詳細は、参考文献(http://www.cs.cmu.edu/~rgw/TsaiCode.html,http://research.micosoft.com/en−us/um/people/zhang/calib/)に譲る。
2台のカメラ32,33で撮影された画像それぞれについて、すべての画素について、上記の変換を行うことで、平行化画像を取得することができる。
図1に戻って、3次元形状取得装置1の構成の説明をする。
[3次元形状取得装置1の構成]
3次元形状取得装置1は、ブロック画像切出手段11(基準ブロック画像切出部11a,参照ブロック画像切出部11b)と、対象領域抽出手段12(基準ブロック画像対象領域抽出部12a,参照ブロック画像対象領域抽出部12b)と、色置換手段13(基準ブロック画像色置換部13a,参照ブロック画像色置換部13b)と、視差計測手段14と、3次元座標位置生成手段15とを備えている。
ブロック画像切出手段11は、入力された画像からブロック画像を切り出し、それらのブロック画像を対象領域抽出手段12へ出力するものである。なお、基準ブロック画像切出部11aは、基準画像30から基準ブロック画像を切り出すものであり、参照ブロック画像切出部11bは、参照画像31から参照ブロック画像を切り出すものである。
このブロック画像切出手段11は、例えば、図3に示すように、基準画像30と参照画像31の左上座標から一定の大きさの画像を切り出す。そして、後記する一連の処理が行われた後、ブロック画像切出手段11は、前回切り出したブロック画像から1ピクセル分横にずらして、次のブロック画像を切り出す。例えば、ブロック画像のサイズが64×64ピクセルの場合、次のブロック画像のうち、64×63ピクセルは重ねて切り出すことになる。ただし、これはピクセル単位の奥行き情報を取得する場合であり、切り出す間隔をあけることで、荒い奥行き情報を速く取得することができる。4ピクセルごとに切り出す処理を行う場合には、次のブロック画像は、64×60ピクセルが重なる計算になる。
図3に示すように、基準ブロック画像切出部11aは、入力された基準画像30から基準ブロック画像35aを切り出す。参照ブロック画像切出部11bは、入力された参照画像31から参照ブロック画像35bを切り出す。基準画像30および参照画像31のそれぞれから切り出された基準ブロック画像35aおよび参照ブロック画像35bの大きさと基準画像30および参照画像31に対する位置は同じものとする。
ブロック画像の大きさは、2つのブロック画像の重なる部分がある程度確保できる所定の大きさとする。例えば、64ピクセル×64ピクセルとする。この大きさでは、ずれが大きすぎて平行移動量を求めることができないときは、例えば、128ピクセル×128ピクセル、256ピクセル×256ピクセルとしてもよい。
なお、図3に示すものは、画像の左上からブロック画像を切り出しているが、この処理は、画像の左上の画素から走査状に右下の画素まで繰り返し行うことになる。
対象領域抽出手段12は、視差計測のための対象領域を抽出するものである。この対象領域抽出手段12は、基準ブロック画像対象領域抽出部12aと、参照ブロック画像対象領域抽出部12bとを備える。
基準ブロック画像対象領域抽出部12aは、基準ブロック画像切出部11aが切り出した基準ブロック画像から視差計測のための対象領域を抽出するために所定の位置の色を基準色として特定し、基準ブロック画像において、基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出するものである。また、基準ブロック画像対象領域抽出部12aは、特定した基準色を参照ブロック画像対象領域抽出部12bへ出力する。基準色は、例えば、基準ブロック画像の中央画素の色とする。基準色に所定の範囲内で類似とは、視差計測の際に十分な位相情報を得られるような対象領域になるよう予め設定する。例えば、RGB値がそれぞれ256階調のとき基準色とのRGB値の差がそれぞれ±16の範囲内とする。
参照ブロック画像対象領域抽出部12bは、参照ブロック画像切出部11bが切り出した参照ブロック画像と、基準ブロック画像対象領域抽出部12aが特定した基準色とから、参照ブロック画像において、基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出するものである。ここでの所定の範囲内で類似する色は、基準ブロック画像と同じとする。
例えば図3に示すように、基準ブロック画像対象領域抽出部12aは、基準ブロック画像36aの中央画素38の色を基準色として特定し、基準ブロック画像36aにおいて、基準色に所定の範囲内で類似する色を持つ画素を対象領域39aとして抽出する。
また、参照ブロック画像対象領域抽出部12bは、基準ブロック画像36aの中央画素38の色である基準色から、参照ブロック画像36bにおいて、基準色に所定の範囲内で類似する色を持つ画素を対象領域39bとして抽出する。
色置換手段13は、対象領域の背景をマスクするものである。この色置換手段13は、基準ブロック画像色置換部13aと、参照ブロック画像色置換部13bとを備える。
基準ブロック画像色置換部13aは、基準ブロック画像対象領域抽出部12aが出力した基準ブロック画像における所定の色を置換色として特定し、基準ブロック画像において、対象領域に含まれない画素の色を置換色で置き換えるものである。また、基準ブロック画像色置換部13aは、置換色を参照ブロック画像色置換部13bへ出力する。置換色は、例えば、基準ブロック画像対象領域抽出部12aが特定した基準色、あるいは、その基準色に所定の範囲内で類似する色の平均色とする。
参照ブロック画像色置換部13bは、参照ブロック画像において、対象領域に含まれない画素の色を基準ブロック画像色置換部13aが特定した置換色で置き換えるものである。
例えば図3に示すように、基準ブロック画像色置換部13aは、基準ブロック画像37aにおける中央画素38の色を置換色として特定し、基準ブロック画像37aにおいて、対象領域39aに含まれない画素(網掛部)の色を置換色で置き換える。また、参照ブロック画像色置換部13bは、参照ブロック画像37bにおいて、対象領域39bに含まれない画素(網掛部)の色を置換色で置き換える。
これにより、ブロック画像内の奥行きが不連続である部分や奥行きが対象領域と大きく異なる部分の画素の色が置換色に置き換えられ(背景がマスクされ)、視差計測手段14における位相情報の混合を抑制できる。
視差計測手段14は、色置換手段13による処理が施された基準ブロック画像および参照ブロック画像を入力として、それらの画像の輝度情報または色情報を用いて、位相限定相関法によりブロック処理を行い、2つのブロック画像の平行移動量を出力するものである。色置換手段13によってブロック画像内の奥行きが不連続である部分や奥行きが大きく異なる部分が置換色で置き換えられることで、位相相関関数のピークが明確に現れるため、視差計測手段14によって平均移動量を精度良く求めることができる。
3次元座標位置生成手段15は、視差計測手段14から入力される2つのブロック画像の平行移動量と、撮影固有値記憶手段21に記憶された撮影固有値とを入力として、三角測量の原理より、次式(5)を用いて3次元座標位置を生成するものである。ここで、zは3次元座標位置、Bはカメラ32とカメラ33の光学主点間の距離、fは焦点距離、dは2つのブロック画像の平行移動量、pは撮影面における画素ピッチの距離である。Bやfは、カメラを設置する際のキャリブレーションから得ることができる。pはカメラの仕様であるため、既知である。
記憶部20の撮影固有値記憶手段21は、カメラの光学主点間の距離B、焦点距離fおよび撮影面における画素ピッチの距離pを記憶するものである。これらは、3次元座標位置生成手段15によって参照される。なお、記憶部20は、3次元形状取得装置1の外部に設けられていてもよい。
[3次元形状取得装置1の動作]
次に、3次元形状取得装置1の動作について、図4を参照して説明する。ここでは、基準画像および参照画像が連続する動画として入力されたこととして説明する。
図4に示すように、ステップS10において、ブロック画像切出手段11は、基準画像30および参照画像31を取得する。
ステップS11において、基準ブロック画像切出部11aは、基準画像30から基準ブロック画像を順次切り出す。参照ブロック画像切出部11bは、参照画像31から参照ブロック画像を順次切り出す。
ステップS12において、基準ブロック画像対象領域抽出部12aは、基準ブロック画像切出部11aが切り出した基準ブロック画像から所定の位置の色を基準色として特定し、基準ブロック画像において、基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出し、特定した基準色を参照ブロック画像対象領域抽出部12bへ出力する。また、参照ブロック画像対象領域抽出部12bは、参照ブロック画像において、基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する。
ステップS13において、基準ブロック画像色置換部13aは、基準ブロック画像対象領域抽出部12aが出力した基準ブロック画像における所定の色を置換色として特定し、基準ブロック画像において、対象領域に含まれない画素の色を置換色で置き換え、特定した置換色を参照ブロック画像色置換部13bへ出力する。参照ブロック画像色置換部13bは、参照ブロック画像において、対象領域に含まれない画素の色を置換色で置き換える。
ステップS14において、視差計測手段14は、色置換手段13による処理が施された基準ブロック画像および参照ブロック画像の視差を求める。
ステップS15において、3次元座標位置生成手段15は、視差計測手段14から入力される値と撮影固有値記憶手段21に記憶された撮影固有値とを入力として、3次元座標位置60を生成する。
ステップS16において、ブロック画像切出手段11は、ステップS10において取得した基準画像30および参照画像31の全画素について処理が終了したか否かを判定する。全画素について処理が終了していないと判定した場合は(ステップS16・No)、ブロック画像切出手段11(基準ブロック画像切出部11a,参照ブロック画像切出部11b)は、次のブロック画像を切り出す(ステップS11)。
全画素について処理が終了したと判定した場合は(ステップS16・Yes)、ステップS17において、ブロック画像切出手段11は、動画像におけるすべてのフレームについて処理が終了したか否かを判定する。すべてのフレームについて処理が終了していないと判定した場合は(ステップS17・No)、ブロック画像切出手段11は、次の画像を取得する(ステップS10)。
すべてのフレームについて処理が終了したと判定した場合は(ステップS17・Yes)、処理部10は、3次元形状取得処理を終了する。
以上の動作によって、3次元形状取得装置1は、ブロック画像内の奥行きが不連続である部分や奥行きが大きく異なる部分が置換色で置き換えられているため、平均移動量を精度良く求めることができ、高い精度で3次元座標位置を生成できる。
<第2実施形態>
次に、本発明の第2実施形態について、図5〜図9を参照して説明する。
第1実施形態では、対象領域を、基準ブロック画像の中央画素の色に類似する範囲に基づいて抽出したが、第2実施形態では、対象領域を、奥行き(視差)に基づいて抽出する。また、付加的な機能として、参照ブロック画像の切り出し方法を工夫することで、視差計測の精度を上げている。
[3次元形状取得装置1Aの構成]
図5に示すように、3次元形状取得装置1Aは、ブロック画像切出手段11Aと、対象領域抽出手段12Aと、視差計測手段14Aと、視差推定手段16とを備えている。なお、第1実施形態の構成と同一の構成には同一の符号を付して、重複した説明は省略する。
まず、視差推定手段16について、説明する。
視差推定手段16は、従来の手法により、おおよその平行移動量(視差)を推定するものである。ここでは、例えば、視差推定手段16は、入力される基準画像30と参照画像31から、既存の対応点探索手法(例えば、ブロックマッチング法やBelief Propagation法)を用いて、基準画像30の画素に対応する参照画像31の画素との平行移動量を輝度または色で表示した基準視差画像40を生成する。また、視差推定手段16は、入力される基準画像30と参照画像31から、既存の対応点探索手法を用いて、参照画像31の画素に対応する基準画像30の画素との平行移動量を輝度または色で表示した参照視差画像41を生成する。なお、基準視差画像40および参照視差画像41は、例えば、明るい部分は平行移動量が多く、暗い部分は平行移動量が少ないことを示す。
ブロック画像切出手段11Aは、基準画像、参照画像、基準視差画像および参照視差画像からそれぞれ基準ブロック画像、参照ブロック画像、基準視差ブロック画像および参照視差ブロック画像として切り出すものである。このブロック画像切出手段11Aは、基準ブロック画像切出部11Aaと、参照ブロック画像切出部11Abと、基準視差ブロック画像切出部11Acと、参照視差ブロック画像切出部11Adと、切出位置算出手段17とを備える。
基準ブロック画像切出部11Aaは、基準画像30から基準ブロック画像を切り出すものである。また、基準ブロック画像切出部11Aaは、切出位置算出手段17に、基準ブロック画像の切出位置情報を出力するものである。
参照ブロック画像切出部11Abは、参照画像31と、後記する切出位置算出手段17が算出した切出位置情報とから参照ブロック画像を切り出すものである。
基準視差ブロック画像切出部11Acは、基準視差画像40から、基準ブロック画像と同じ位置、大きさのブロック画像である基準視差ブロック画像を切り出すものである。また、基準視差ブロック画像切出部11Acは、切出位置算出手段17および視差計測手段14Aに、基準視差ブロック画像の中央画素の値を出力するものである。
参照視差ブロック画像切出部11Adは、参照視差画像41と、後記する切出位置算出手段17が算出した切出位置情報とから、参照ブロック画像と同じ位置、大きさのブロック画像である参照視差ブロック画像を切り出すものである。
切出位置算出手段17は、基準ブロック画像の切出位置のx座標に、基準視差ブロック画像の中央画素の値を加算して、参照ブロック画像および参照視差ブロック画像の切出位置を算出するものである。また、切出位置算出手段17は、参照ブロック画像切出部11Abおよび参照視差ブロック画像切出部11Adに、算出した切出位置情報を出力する。
すなわち、ブロック画像切出手段11Aにおいて、基準ブロック画像と基準視差ブロック画像は、同じ位置、大きさで切り出される。基準視差ブロック画像の中央画素の値は、基準ブロック画像の中央画素と、その画素に対応する参照ブロック画像における画素との間の平行移動量を示すものである。基準ブロック画像の中央画素の位置のx座標に、この平行移動量を加算し、算出された値を参照ブロック画像の中央画素の位置とする。
例えば図6に示すように、基準画像30から基準ブロック画像35aが切り出される。また、基準視差画像40から基準視差ブロック画像45cが切り出される。そして、基準ブロック画像35aの中央画素の位置のx座標に、基準視差ブロック画像45cの中央画素の値を加算し、これを参照ブロック画像35bおよび参照視差ブロック画像45dの中央画素の位置とする。
このような切り出し方法を用いる理由を、図7を参照して説明する。
図7(a)に示すように、基準視差ブロック画像の中央画素の値を用いずに、基準ブロック画像50aおよび参照ブロック画像50bを、それぞれ基準画像および参照画像に対して同じ位置から切り出すと、対象領域52bが参照ブロック画像50bから外れてしまうことがある。この場合、視差計測手段14A(図5参照)において対象領域の十分な位相情報を取得できず、視差計測の精度が落ちることとなる。
一方、図7(b)に示すように、基準ブロック画像51aの中央画素の位置のx座標に、基準視差ブロック画像の中央画素の値を加算して、参照ブロック画像51bの中央画素の位置として参照ブロック画像51bを切り出すと、対象領域53bは、参照ブロック画像51bから外れずに切り出される。d2は、前記した基準視差ブロック画像の中央画素の値となる。このような切り出し方法により、基準ブロック画像51aと参照ブロック画像51bとにおいて、対象領域52a,53bの全体が現れるため、後記する視差計測手段14A(図5参照)において対象領域の十分な位相情報を取得することができ、視差計測の精度を上げることができる。
なお、基準視差画像および参照視差画像は、従来手法により、おおよその視差を推定したものであるため、このような切り出し方法によると、図7(c)に示すように、対象領域53a,53bのそれぞれ基準ブロック画像51a,参照ブロック画像51bに対する位置が僅かにずれて切り出されることがある。このずれをd1とする。視差計測手段14Aは、このずれであるd1を計測し、d2を加算することにより、被写体の3次元形状を取得するために必要な元の視差Dを求めることになる。
図5に戻って説明を続ける。
対象領域抽出手段12Aは、視差計測のための対象領域を抽出するものである。この対象領域抽出手段12Aは、基準ブロック画像対象領域抽出部12Aaと、参照ブロック画像対象領域抽出部12Abと、基準視差ブロック画像対象領域抽出部12Acと、参照視差ブロック画像対象領域抽出部12Adとを備える。
基準視差ブロック画像対象領域抽出部12Acは、基準視差ブロック画像切出部11Acが切り出した基準視差ブロック画像から所定の位置の色または輝度を基準色として特定し、基準視差ブロック画像において、基準色に所定の範囲内で類似する色または輝度を持つ画素を対象領域として抽出するものである。また、基準視差ブロック画像対象領域抽出部12Acは、特定した基準色を参照視差ブロック画像対象領域抽出部12Adへ出力する。基準色は、例えば、基準視差ブロック画像の中央画素の視差量を表した色または輝度とする。
参照視差ブロック画像対象領域抽出部12Adは、参照視差ブロック画像切出部11Adが切り出した参照視差ブロック画像と、基準視差ブロック画像対象領域抽出部12Acが特定した基準色とから、参照視差ブロック画像において、基準色に所定の範囲内で類似する色または輝度を持つ画素を対象領域として抽出するものである。ここでの所定の範囲内で類似する色または輝度は、基準視差ブロック画像と同じとする。
基準ブロック画像対象領域抽出部12Aaは、基準視差ブロック画像に対する対象領域の位置と同じ位置に、基準ブロック画像切出部11Aaが切り出した基準ブロック画像において、対象領域を抽出する。
参照ブロック画像対象領域抽出部12Abは、参照視差ブロック画像に対する対象領域の位置と同じ位置に、参照ブロック画像切出部11Abが切り出した参照ブロック画像において、対象領域を抽出する。
例えば図6に示すように、基準視差ブロック画像対象領域抽出部12Acは、基準視差ブロック画像46cの中央画素48の色を基準色として特定し、基準視差ブロック画像46cにおいて、基準色に所定の範囲内で類似する色を持つ画素を対象領域49cとして抽出する。
また、基準ブロック画像対象領域抽出部12Aaは、基準視差ブロック画像46cに対する対象領域49cの位置と同じ位置に、基準ブロック画像36aにおいて、対象領域39aを抽出する。
参照視差ブロック画像対象領域抽出部12Adは、参照視差ブロック画像46dと、基準視差ブロック画像対象領域抽出部12Acが特定した基準色とから、参照視差ブロック画像46dにおいて、基準色に所定の範囲内で類似する色を持つ画素を対象領域49dとして抽出する。
また、参照ブロック画像対象領域抽出部12Abは、参照視差ブロック画像46dに対する対象領域49dの位置と同じ位置に、参照ブロック画像36bにおいて、対象領域39bを抽出する。
このように、視差画像から対象領域を決定することにより、ブロック画像内に類似した色の画素の塊が大きくまとまっていないために正確な奥行き情報を得るために位相情報を十分取得することができない場合にも、奥行きが類似する画素が十分まとまっていれば、平均移動量を精度良く求めることができ、高い精度で3次元座標位置を生成できる。
その後、第1実施形態と同様に、基準ブロック画像色置換部13aは、基準ブロック画像37aにおける中央画素38の色、あるいは、基準色に所定の範囲内で類似する色の平均色を置換色として特定し、基準ブロック画像37aにおいて、対象領域39aに含まれない画素(網掛部)の色を置換色で置き換える。
また、参照ブロック画像色置換部13bは、参照ブロック画像37bにおいて、対象領域39bに含まれない画素(網掛部)の色を基準ブロック画像色置換部13aが特定した置換色で置き換える。
視差計測手段14Aは、色置換手段13から入力される基準ブロック画像と参照ブロック画像とから位相限定相関法により視差を計測し、計測した視差に、参照ブロック画像の切出位置を算出する際に用いた基準視差ブロック画像の中央画素の値を加算するものである。これにより、被写体の3次元形状を取得するために必要な視差を求めることができる。
[3次元形状取得装置1Aの動作]
次に、3次元形状取得装置1Aの3次元形状取得処理について、図8を参照して説明する。ここでは、第1実施形態と同様に、基準画像および参照画像が連続する動画が入力されたこととして説明する。
図8に示すように、ステップS20において、ブロック画像切出手段11Aは、基準画像30および参照画像31を取得する。
ステップS21において、視差推定手段16は、基準画像30と参照画像31とから、基準視差画像40および参照視差画像41を生成する。
ステップS22において、ブロック画像切出手段11Aは、ブロック画像の切出処理を行う。なお、このステップにおける処理は後に詳述する。
ステップS23において、基準視差ブロック画像対象領域抽出部12Acは、基準視差ブロック画像から基準色として特定し、基準視差ブロック画像において、基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する。また、基準視差ブロック画像対象領域抽出部12Acは、特定した基準色を参照視差ブロック画像対象領域抽出部12Adへ出力する。さらに、基準ブロック画像対象領域抽出部12Aaは、基準視差ブロック画像に対する対象領域の位置と同じ位置に、基準ブロック画像において、対象領域を抽出する。
また、参照視差ブロック画像対象領域抽出部12Adは、参照視差ブロック画像と、基準視差ブロック画像対象領域抽出部12Acが特定した基準色とから、参照視差ブロック画像において、基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する。さらに、参照ブロック画像対象領域抽出部12Abは、参照視差ブロック画像に対する対象領域の位置と同じ位置に、参照ブロック画像において、対象領域を抽出する。
ステップS24において、基準ブロック画像色置換部13aは、基準ブロック画像対象領域抽出部12Aaが出力した基準ブロック画像における所定の色を置換色として特定し、基準ブロック画像において、対象領域に含まれない画素の色を置換色で置き換え、特定した置換色を参照ブロック画像色置換部13bへ出力する。参照ブロック画像色置換部13bは、参照ブロック画像対象領域抽出部12Abが出力した参照ブロック画像において、対象領域に含まれない画素の色を置換色で置き換える。
ステップS25において、視差計測手段14Aは、色置換手段13から入力される基準ブロック画像と参照ブロック画像とから位相限定相関法により視差を計測し、計測した視差に、参照ブロック画像の切出位置を算出する際に用いた基準視差ブロック画像の中央画素の値を加算する。
ステップS26からステップS28は、図4のステップS15からステップS17と同様であるため、説明を省略する。
[ブロック画像切出手段11Aにおけるブロック画像切出処理]
次に、ブロック画像切出手段11Aにおけるブロック画像切出処理について、図9を参照して説明する。
図9に示すように、ステップS221において、基準ブロック画像切出部11Aaは、基準画像30から基準ブロック画像を切り出す。また、基準ブロック画像切出部11Aaは、切出位置算出手段17に、基準ブロック画像の切出位置情報を出力する。
ステップS222において、基準視差ブロック画像切出部11Acは、基準視差画像40から、基準ブロック画像と同じ位置、大きさのブロック画像である基準視差ブロック画像を切り出す。
ステップS223において、基準視差ブロック画像切出部11Acは、基準視差ブロック画像の中央画素の値を取得する。また、基準視差ブロック画像切出部11Acは、切出位置算出手段17に、基準視差ブロック画像の中央画素の値を出力する。
ステップS224において、切出位置算出手段17は、基準視差ブロック画像の中央画素の値と、基準ブロック画像の切出位置情報とを加算して、参照ブロック画像および参照視差ブロック画像の切出位置を算出する。また、切出位置算出手段17は、参照ブロック画像切出部11Abおよび参照視差ブロック画像切出部11Adに、算出した切出位置情報を出力する。
ステップS225において、参照ブロック画像切出部11Abは、参照画像31と、切出位置算出手段17が算出した切出位置情報とから参照ブロック画像を切り出す。
ステップS226において、参照視差ブロック画像切出部11Adは、参照視差画像41と、切出位置算出手段17が算出した切出位置情報とから、参照ブロック画像と同じ位置、大きさのブロック画像である参照視差ブロック画像を切り出す。
以上で、ブロック画像切出手段11Aは、ブロック画像切出処理を終了する。
なお、趣旨が同じであれば、必ずしもこの順序で動作させる必要はない。
以上の3次元形状取得処理によって、3次元形状取得装置1Aは、ブロック画像内に類似した色の画素の塊が大きくまとまっていないために位相情報が十分取得することができない場合にも、奥行きが類似する画素が十分まとまっていれば、平均移動量を精度良く求めることができ、高い精度で3次元座標位置を生成できる。
また、参照ブロック画像を切り出す際に視差画像を用いることで、視差計測の精度を上げることができる。
<変形例>
以上、本発明の実施形態に係る3次元形状取得装置の構成および動作について説明したが、本発明はこれらの実施形態に限定されるものではない。
例えば、第2実施形態において、ブロック画像切出手段11Aにおいて、切出位置算出手段17により、参照ブロック画像の切出位置を算出しているが、必ずしもこの切り出し方による必要はなく、第1実施形態のように、参照ブロック画像も、基準ブロック画像と同じ位置から切り出してもよい。この場合は、視差計測手段14Aは、色置換手段13から入力される基準ブロック画像と参照ブロック画像とから位相限定相関法により視差を計測するが、計測した視差に、参照ブロック画像の切出位置を算出する際に用いた基準視差ブロック画像の中央画素の値を加算する必要はない。
また、本実施形態では、光軸が平行に設置されたカメラからの画像を入力とすることを前提としたが、平行化画像に変換された画像を入力として用いれば、カメラの設置方向は平行でなくてもよい。
また、ブロック画像切出手段において、ブロック画像を切り出すサイズを可変とするようにしたが、ブロック画像を切り出すサイズは固定にしておき、入力された画像の解像度は一定にして画像のサイズを変更した画像の組をいくつか用意し、その画像のサイズの組ごとに階層的に平行移動量を求めてもよい。
また、第1実施形態において、RGB値がそれぞれ256階調のとき基準色とのRGB値の差がそれぞれ±16の範囲内を、基準色に所定の範囲内で類似する色としたが、他にも、RGB空間の色ベクトルの内積値が所定の範囲内であるものでもよい。HSV空間など各種色空間において、所定の範囲内としてもよい。さらに、Mean Shift法などの統計処理を用いて所定の範囲内としてもよい。
また、本実施形態では、画像の全画素についてブロック画像を切り出すようにしているが、必ずしもすべての画素について行う必要はなく、所定の間隔ごとに行うことで解像度の低い3次元形状を速く生成することができる。さらに、動画についても、必ずしもすべてのフレームについて行う必要はない。
また、3台以上のカメラを用いる場合は、2台のペアを複数組み、各ペアの取得結果を統合することにより、より精度の高い奥行き情報を生成することができる。
例えば、複数の視差推定結果が出た場合に、それらのメディアン値(小さい値から順番に並べて、中央に位置する値をとる手法)を最終結果とする手段や位相相関関数のピークが高い推定結果を最終的な視差値とすることなどが考えられる。
さらに、ブロック画像切出手段において、2次元のブロック画像を切り出したが、1次元のブロックを用いることも可能である。これにより、処理時間を短縮することができる。
1 3次元形状取得装置
1A 3次元形状取得装置
11 ブロック画像切出手段
11A ブロック画像切出手段
12 対象領域抽出手段
12A 対象領域抽出手段
13 色置換手段
14 視差計測手段
14A 視差計測手段
15 3次元座標位置生成手段
16 視差推定手段
17 切出位置算出手段
30 基準画像
31 参照画像
35a,36a,37a 基準ブロック画像
35b,36b,37b 参照ブロック画像
40 基準視差画像
41 参照視差画像
45c,46c 基準視差ブロック画像
45d,46d 参照視差ブロック画像
60 3次元座標位置

Claims (9)

  1. 異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置であって、
    入力される前記基準画像および前記参照画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像および参照ブロック画像として予め定めたピクセル数ごとに順次ずらして切り出すブロック画像切出手段と、
    視差計測のための対象領域を抽出するために前記基準ブロック画像における所定の位置の色を基準色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する対象領域抽出手段と、
    前記基準ブロック画像における前記基準色を、前記対象領域の背景をマスクする色である置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える色置換手段と、
    前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測する視差計測手段と、
    前記視差計測手段が計測した前記視差から3次元座標位置を生成する3次元座標位置生成手段と、
    を備えることを特徴とする3次元形状取得装置。
  2. 前記対象領域抽出手段は、前記基準ブロック画像の中央画素の色を基準色とする
    ことを特徴とする請求項1に記載の3次元形状取得装置。
  3. 前記ブロック画像切出手段は、動画像における連続する複数のフレームの画像から視差計測に用いる所定の大きさの画像であるブロック画像を切り出す
    ことを特徴とする請求項1または請求項2に記載の3次元形状取得装置。
  4. 異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置であって、
    入力される前記基準画像と前記参照画像とから、一方の画像の各画素に対応するもう一方の画像の画素の平行移動量を表した視差画像である基準視差画像および参照視差画像を生成する視差推定手段と、
    前記基準画像、前記参照画像、前記基準視差画像および前記参照視差画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像、参照ブロック画像、基準視差ブロック画像および参照視差ブロック画像として切り出すブロック画像切出手段と、
    視差計測のための対象領域を抽出するために前記基準視差ブロック画像における所定の色を基準色として特定し、前記基準視差ブロック画像および前記参照視差ブロック画像において前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出し、前記基準視差ブロック画像および前記参照視差ブロック画像において抽出される前記対象領域に基づいて、それぞれ前記基準ブロック画像および前記参照ブロック画像において対象領域を抽出する対象領域抽出手段と、
    前記基準ブロック画像における所定の色を、前記対象領域の背景をマスクする色である置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える色置換手段と、
    前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測する視差計測手段と、
    前記視差計測手段が計測した前記視差から3次元座標位置を生成する3次元座標位置生成手段と、
    を備えることを特徴とする3次元形状取得装置。
  5. 前記ブロック画像切出手段は、基準ブロック画像の位置に前記基準視差ブロック画像の中央画素の値を加算して、前記参照ブロック画像および前記参照視差ブロック画像の切出位置を算出する切出位置算出手段を備え、
    前記視差計測手段は、前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから位相限定相関法により視差を計測し、計測した視差に、前記参照ブロック画像および前記参照視差ブロック画像の切出位置を算出する際に用いた前記基準視差ブロック画像の中央画素の値を加算する
    ことを特徴とする請求項4に記載の3次元形状取得装置。
  6. 前記対象領域抽出手段は、前記基準視差ブロック画像の中央画素の色を基準色とする
    ことを特徴とする請求項4または請求項5に記載の3次元形状取得装置。
  7. 前記視差推定手段は、動画像における連続する複数のフレームの画像から前記基準視差画像および前記参照視差画像を生成し、
    前記ブロック画像切出手段は、動画像における連続する複数のフレームの画像から視差計測に用いる所定の大きさの画像であるブロック画像を切り出す
    ことを特徴とする請求項4から請求項6のいずれか一項に記載の3次元形状取得装置。
  8. 異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置を制御するために、前記3次元形状取得装置のコンピュータを、
    入力される前記基準画像および前記参照画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像および参照ブロック画像として予め定めたピクセル数ごとに順次ずらして切り出すブロック画像切出手段、
    視差計測のための対象領域を抽出するために前記基準ブロック画像における所定の位置の色を基準色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出する対象領域抽出手段、
    前記基準ブロック画像における前記基準色を、前記対象領域の背景をマスクする色である置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える色置換手段、
    前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測する視差計測手段、
    前記視差計測手段が計測した前記視差から3次元座標位置を生成する3次元座標位置生成手段、
    として機能させるための3次元形状取得プログラム。
  9. 異なる位置から撮影した被写体の画像である基準画像と参照画像とを入力として前記被写体の奥行き情報を生成する3次元形状取得装置を制御するために、前記3次元形状取得装置のコンピュータを、
    入力される前記基準画像と前記参照画像とから、一方の画像の各画素に対応するもう一方の画像の画素の平行移動量を表した視差画像である基準視差画像および参照視差画像を生成する視差推定手段、
    前記基準画像、前記参照画像、前記基準視差画像および前記参照視差画像から視差計測に用いる所定の大きさの画像であるブロック画像を、それぞれ基準ブロック画像、参照ブロック画像、基準視差ブロック画像および参照視差ブロック画像として切り出すブロック画像切出手段、
    視差計測のための対象領域を抽出するために前記基準視差ブロック画像における所定の色を基準色として特定し、前記基準視差ブロック画像および前記参照視差ブロック画像において前記基準色に所定の範囲内で類似する色を持つ画素を対象領域として抽出し、前記基準視差ブロック画像および前記参照視差ブロック画像において抽出される前記対象領域に基づいて、それぞれ前記基準ブロック画像および前記参照ブロック画像において対象領域を抽出する対象領域抽出手段、
    前記基準ブロック画像における所定の色を、前記対象領域の背景をマスクする色である置換色として特定し、前記基準ブロック画像および前記参照ブロック画像において、前記対象領域に含まれない画素の色を前記置換色で置き換える色置換手段、
    前記色置換手段から入力される前記基準ブロック画像と前記参照ブロック画像とから、位相限定相関法により視差を計測する視差計測手段、
    前記視差計測手段が計測した前記視差から3次元座標位置を生成する3次元座標位置生成手段、
    として機能させるための3次元形状取得プログラム。
JP2010174574A 2010-08-03 2010-08-03 3次元形状取得装置および3次元形状取得プログラム Expired - Fee Related JP5457976B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010174574A JP5457976B2 (ja) 2010-08-03 2010-08-03 3次元形状取得装置および3次元形状取得プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010174574A JP5457976B2 (ja) 2010-08-03 2010-08-03 3次元形状取得装置および3次元形状取得プログラム

Publications (2)

Publication Number Publication Date
JP2012037929A JP2012037929A (ja) 2012-02-23
JP5457976B2 true JP5457976B2 (ja) 2014-04-02

Family

ID=45849907

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010174574A Expired - Fee Related JP5457976B2 (ja) 2010-08-03 2010-08-03 3次元形状取得装置および3次元形状取得プログラム

Country Status (1)

Country Link
JP (1) JP5457976B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6503221B2 (ja) * 2015-05-13 2019-04-17 オリンパス株式会社 3次元情報取得装置、及び、3次元情報取得方法
JPWO2019188198A1 (ja) * 2018-03-30 2021-03-25 倉敷紡績株式会社 線状物の3次元計測装置、および、線状物の3次元計測方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003058885A (ja) * 2001-08-20 2003-02-28 Minolta Co Ltd 対応点探索方法および装置並びにコンピュータプログラム
JP5056861B2 (ja) * 2008-02-14 2012-10-24 コニカミノルタホールディングス株式会社 測距装置

Also Published As

Publication number Publication date
JP2012037929A (ja) 2012-02-23

Similar Documents

Publication Publication Date Title
JP5404773B2 (ja) ステレオ画像処理装置およびステレオ画像処理方法
JP4883223B2 (ja) 動きベクトル生成装置および動きベクトル生成方法
CN101593349B (zh) 将二维影像转换为三维影像的方法
JP5574852B2 (ja) 情報処理装置、情報処理方法、システム及びプログラム
CN111066065A (zh) 用于混合深度正则化的系统和方法
WO2017023210A1 (en) Generating a merged, fused three-dimensional point cloud based on captured images of a scene
JP4941565B2 (ja) 対応点探索装置および対応点探索方法
US9183634B2 (en) Image processing apparatus and image processing method
WO2012117706A1 (ja) 映像処理装置、映像処理方法、プログラム
EP2372652A1 (en) Method for estimating a plane in a range image and range image camera
JP4631973B2 (ja) 画像処理装置、画像処理装置の制御方法、および画像処理装置の制御プログラム
JP5713350B2 (ja) 画像処理装置、方法、及びプログラム
JP6615486B2 (ja) カメラキャリブレーション装置、方法及びプログラム
JP5457976B2 (ja) 3次元形状取得装置および3次元形状取得プログラム
JPWO2018229812A1 (ja) 三次元計測装置、および方法
JP3862402B2 (ja) 3次元モデル生成装置および3次元モデル生成プログラムを記録したコンピュータ読取可能な記録媒体
JP4963492B2 (ja) 画像セグメンテーション方法、プログラムおよび装置
JP5736285B2 (ja) 被写体の3次元形状を復元する装置、方法およびプログラム
KR101777696B1 (ko) 면적 대칭성을 이용한 에지 위치 결정 방법
JP2005141655A (ja) 3次元モデリング装置及び3次元モデリング方法
KR20130019080A (ko) 플래놉틱 카메라와 깊이 카메라를 결합한 영상 장치 및 영상 처리 방법
JP5728399B2 (ja) 計測装置、方法及びプログラム
KR102637913B1 (ko) 영상 합성 방법 및 장치
JP2018041169A (ja) 情報処理装置およびその制御方法、プログラム
JP5891751B2 (ja) 画像間差分装置および画像間差分方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140110

R150 Certificate of patent or registration of utility model

Ref document number: 5457976

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees