JP4200718B2

JP4200718B2 - Image processing apparatus and method, recording medium, and program

Info

Publication number: JP4200718B2
Application number: JP2002261541A
Authority: JP
Inventors: 晶司佐藤; 英彦關沢
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 2002-09-06
Filing date: 2002-09-06
Publication date: 2008-12-24
Anticipated expiration: 2022-09-06
Also published as: JP2004102513A

Description

【０００１】
【発明の属する技術分野】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、例えば、左眼用の画像と右眼用の画像を元にして立体視画像を生成する場合に用いて好適な画像処理装置および方法、記録媒体、並びにプログラムに関する。
【０００２】
【従来の技術】
従来、人の左右の眼がそれぞれ取得する網膜像の空間的ずれ（両眼視差）を利用して、２次元の画像を立体的に視認させる方法（以下、立体視の方法と記述する）が数多く知られている。
【０００３】
立体視の方法としては、特殊なメガネを利用するアナグリフ方式、カラーアナグリフ方式、偏光フィルタ方式、時分割立体テレビジョン方式等と、特殊なメガネを利用しないレンチキュラ方式等が知られている（いずれについても、例えば、非特許文献１参照）。
【０００４】
アナグリフ方式は、例えば、左眼用の画像（以下、Ｌ画像と記述する）を赤色モノトーン画像に変換し、右眼用の画像（以下、Ｒ画像と記述する）を青色モノトーン画像に変換して、赤色モノトーン画像と青色モノトーン画像を重ね合わせる。そして、その画像を、左側に赤色フィルタ、右側に青色フィルタが配置されたメガネ（以下、赤青メガネと記述する）を用いて見る方法である。アナグリフ方式は、比較的容易で安価に実施できることが、画像全体がモノトーンとなってしまう。
【０００５】
カラーアナグリフ方式は、アナグリフ方式の短所を補うものであり、Ｌ画像とＲ画像を重ね合わせたとき、それぞれの画像において対応する箇所がずれる部分（すなわち、視差が大きい部分）については、アナグリフ方式と同様に、例えば、Ｌ画像を赤色モノトーン画像に変換し、Ｒ画像を青色モノトーン画像に変換して重ね合わせる。それぞれの画像の対応する箇所がずれない部分（すなわち、視差が小さい部分）については、本来の色の状態で重ね合わせる。そして、その画像を、赤青メガネを用いて見る方法である。
【０００６】
カラーアナグリフ方式では、画像全体のうち、視差が少ない部分については、本来の色を再現することができる。なお、カラーアナグリフ方式には、視差が少ない部分に用いる色の違いにより、複数のバリエーションが存在する。以下、視差が小さい部分に本来の色を用いる方式を、第１のカラーアナグリフ方式と記述する。また、視差が小さい部分に本来の色を用いない方式を、第２のカラーアナグリフ方式と記述する。
【０００７】
偏光フィルタ方式は、例えば、垂直方向の直線偏光によって投影されたＬ画像と、水平方向の直線偏光によって投影されたＲ画像を重ね合わせる。そして、その画像を、左側に垂直方向の直線偏光フィルタ、右側に水平方向の直線偏光フィルタが配置された偏光フィルタメガネを用いて見る方法である。偏光フィルタ方式は、色の再現性がよく、解像度が高いことが長所であるが、偏光フィルタを利用することにより画像が暗くなってしまう短所がある。
【０００８】
時分割立体テレビジョン方式は、テレビジョン受像機に、Ｌ画像とＲ画像を、フィールド周期毎に交互に表示するようにし、その映像を、テレビジョン受像機のフィールド周期に同期して左眼側と右眼側を交互に開閉する液晶シャッタメガネを用いて見る方法である。時分割立体テレビジョン方式は、液晶シャッタメガネの開閉動作を高い精度で制御することが重要となる。
【０００９】
レンチキュラ方式は、画面を縦方向のストライプ状の領域に区分し、各ストライプ上の領域に交互に、Ｌ画像とＲ画像を表示し、その映像を、レンチキュラスクリーンと称されるレンズで覆う方法である。
【００１０】
ところで、上述したさまざまな立体視の方法を実現するためには、Ｌ画像とＲ画像を取得する必要がある。Ｌ画像とＲ画像を取得するためには、同一の被写体を、カメラの位置を人の両眼の間隔だけ移動して２回撮影する方法が最も容易である。
【００１１】
また、１回の撮影でＬ画像とＲ画像を取得する方法として、例えば、図１に示すように、ミラーなどから構成される光学アダプタ１１を、カメラ１の撮影レンズ３の外側に取り付ける方法が知られている（例えば、特許文献１参照）。
【００１２】
図２は、光学アダプタ１１の構造を模式的に表している。単一の採光窓から入射される右眼用の光学像は、ミラー２１によってミラー２２に向けて反射され、ミラー２２によって撮影レンズ３に向けて反射された後、撮影レンズ３によって集光される。単一の採光窓から入射される左眼用の光学像は、ミラー２１，２２によって反射されることなく、撮影レンズ３によって集光される。
【００１３】
光学アダプタ１１を介して入射された光学像は、図３に示すように、左眼用の領域および右眼用の領域からなる画像（以下、視差画像と記述する）として撮影される。この左眼用の領域がＬ画像として利用され、右眼用の領域がＲ画像として利用される。
【００１４】
【非特許文献１】
泉武博監修、NHK放送技術研究所編「３次元映像の基礎」オーム出版、平成７年６月５日発行
【特許文献１】
特開平１１−４６３７３号公報
【００１５】
【発明が解決しようとする課題】
ところで、光学アダプタ１１を用いて視差画像を撮影し、その左眼用の領域をＬ画像として、右眼用の領域をＲ画像として利用する場合、Ｌ画像とＲ画像のうち、一方の画像が他方の画像よりもミラーによって反射される分だけ、輝度、彩度、解像度等が低下するような画質の劣化が生じてしまう課題があった。
【００１６】
輝度については、例えば、ミラーの反射率が０．９であるとすれば、ミラーに２回反射されるミラー画像の輝度は、スルー画像の輝度を１とした場合、０．８１（＝０．９×０．９）に低下していることになる。
【００１７】
したがって、このような一方の画像が他方の画像よりも劣化しているＬ画像およびＲ画像を元にして立体視を実現した場合、立体的に視覚できる画像も画質が劣化したものとなってしまう課題があった。
【００１８】
本発明はこのような状況に鑑みてなされたものであり、光学アダプタを用いて得られるＬ画像とＲ画像の画質を統一できるようにすることを目的とする。
【００１９】
【課題を解決するための手段】
本発明の画像処理装置は、ミラー画像の中心部の画素の輝度信号と一致するように、ミラー画像の周辺部の輝度信号を、予め実施した実験結果に基づいて生成されている対応表または関数に基づいて補正する輝度補正手段と、スルー画像の輝度信号と一致するように、輝度補正手段により補正されたミラー画像の輝度信号を調整する処理、または、スルー画像の色差信号と一致するように、輝度補正手段により補正されたミラー画像の色差信号を調整する処理のうちの少なくとも一方の処理を、スルー画像に基づいて実行する調整手段と、立体視画像の奇数ラインについてはミラー画像およびスルー画像のうちの一方の画像データを用い、立体視画像の偶数ラインについてはミラー画像およびスルー画像のうちの他方の画像データを用いて、立体視画像を表示するための画像データを生成する生成手段とを含む。
【００２０】
前記生成手段は、さらに、ユーザの置換操作に対応して、立体視画像の奇数ラインについては他方の画像データを用い、立体視画像の偶数ラインについては一方の画像データを用いて、立体視画像を表示するための画像データを生成することができる。
【００２１】
本発明の画像処理装置は、ミラー画像中のエッジを強調するエッジ強調手段をさらに含むことができる。
【００２２】
本発明の画像処理装置は、ミラー画像およびスルー画像をそれぞれトリミングして、左眼用の画像および右眼用の画像を生成するトリミング手段をさらに含むことができる。
【００２３】
前記生成手段は、立体視画像の奇数ラインについては左眼用の画像および右眼用の画像のうちの一方の画像データを用い、立体視画像の偶数ラインについては左眼用の画像および右眼用の画像のうちの他方の画像データを用いて、立体視画像の画像データを生成することができる。
【００２４】
ユーザの移動操作に対応して、左眼用の画像と右眼用の画像の上下方向の位置を移動する移動手段をさらに含み、前記生成手段は、立体視画像の奇数ラインについては、移動手段により移動された左眼用の画像および右眼用の画像のうちの一方の画像データを用い、立体視画像の偶数ラインについては、移動手段により移動された左眼用の画像および右眼用の画像のうちの他方の画像データを用いて、立体視画像の画像データを生成することができる。
【００２５】
本発明の画像処理方法は、輝度補正手段が、ミラー画像の中心部の画素の輝度信号と一致するように、ミラー画像の周辺部の輝度信号を、予め実施した実験結果に基づいて生成されている対応表または関数に基づいて補正し、調整手段が、スルー画像の輝度信号と一致するように、輝度補正手段により補正されたミラー画像の輝度信号を調整する処理、または、スルー画像の色差信号と一致するように、輝度補正手段により補正されたミラー画像の色差信号を調整する処理のうちの少なくとも一方の処理を、スルー画像に基づいて実行し、生成手段が、立体視画像の奇数ラインについてはミラー画像およびスルー画像のうちの一方の画像データを用い、立体視画像の偶数ラインについてはミラー画像およびスルー画像のうちの他方の画像データを用いて、立体視画像を表示するための画像データを生成するステップを含む。
【００２６】
本発明の記録媒体は、輝度補正手段が、ミラー画像の中心部の画素の輝度信号と一致するように、ミラー画像の周辺部の輝度信号を、予め実施した実験結果に基づいて生成されている対応表または関数に基づいて補正し、調整手段が、スルー画像の輝度信号と一致するように、輝度補正手段により補正されたミラー画像の輝度信号を調整する処理、または、スルー画像の色差信号と一致するように、輝度補正手段により補正されたミラー画像の色差信号を調整する処理のうちの少なくとも一方の処理を、スルー画像に基づいて実行し、生成手段が、立体視画像の奇数ラインについてはミラー画像およびスルー画像のうちの一方の画像データを用い、立体視画像の偶数ラインについてはミラー画像およびスルー画像のうちの他方の画像データを用いて、立体視画像を表示するための画像データを生成するステップを含む処理を実行させるためのプログラムを記録する。
【００２７】
本発明のプログラムは、輝度補正手段が、ミラー画像の中心部の画素の輝度信号と一致するように、ミラー画像の周辺部の輝度信号を、予め実施した実験結果に基づいて生成されている対応表または関数に基づいて補正し、調整手段が、スルー画像の輝度信号と一致するように、輝度補正手段により補正されたミラー画像の輝度信号を調整する処理、または、スルー画像の色差信号と一致するように、輝度補正手段により補正されたミラー画像の色差信号を調整する処理のうちの少なくとも一方の処理を、スルー画像に基づいて実行し、生成手段が、立体視画像の奇数ラインについてはミラー画像およびスルー画像のうちの一方の画像データを用い、立体視画像の偶数ラインについてはミラー画像およびスルー画像のうちの他方の画像データを用いて、立体視画像を表示するための画像データを生成するステップを含む処理をコンピュータに実行させる。
【００２８】
本発明の画像処理装置および方法、並びにプログラムにおいては、ミラー画像の中心部の画素の輝度信号と一致するように、ミラー画像の周辺部の輝度信号が、予め実施した実験結果に基づいて生成されている対応表または関数に基づいて補正され、スルー画像の輝度信号と一致するように、補正されたミラー画像の輝度信号を調整する処理、または、スルー画像の色差信号と一致するように、補正されたミラー画像の色差信号を調整する処理のうちの少なくとも一方の処理が、スルー画像に基づいて実行される。そして、立体視画像の奇数ラインについてはミラー画像およびスルー画像のうちの一方の画像データが用いられ、立体視画像の偶数ラインについてはミラー画像およびスルー画像のうちの他方の画像データが用いられ、立体視画像を表示するための画像データが生成される。
【００２９】
【発明の実施の形態】
図４は、本発明を適用した立体視システムの構成例を示している。この立体視システムは、主に、立体視画像を生成するパーソナルコンピュータ（ＰＣ）３１、表示された立体視画像を見るときにユーザが使用するフィルタメガネ４１、およびパーソナルコンピュータ３１の表示部５７の表示面外側に配置するライン偏光４３から構成される。
【００３０】
パーソナルコンピュータ３１は、図１に示されたように、光学アダプタ１１が装着された状態のカメラ（ディジタルスチルカメラ）１によって撮影された視差画像、光学アダプタ１１が装着されていない状態で撮影された画像などを取り込み、視差画像または連続的に撮影された２枚の画像からなる画像対を元にして立体視画像を生成して表示する。なお、ディジタルスチルカメラ１からパーソナルコンピュータ３１に取り込まれる視差画像等の画像データには、撮影された日時、撮影された順序を示すシリアルなファイル番号、連写モードで撮影されたか否かを示す連写モードフラグなどの属性情報が付与されている。
【００３１】
フィルタメガネ４１は、パーソナルコンピュータ３１に接続された支持棒４２により、パーソナルコンピュータ３１のキーボード付近の上方空間に位置するように支持されている。フィルタメガネ４１の左側の枠には、垂直方向の直線偏光フィルタが配置されている。また、右側の枠には、水平方向の直線偏光フィルタが配置されている。
【００３２】
パーソナルコンピュータ３１の表示部５７の表示面外側に配置するライン偏光板４３は、水平方向の偶数ラインに垂直方向の直線偏光フィルタが、水平方向の奇数ラインに水平方向の直線偏光フィルタが配置されている。
【００３３】
フィルタメガネ４１、支持棒４２、およびライン偏光板４３は、例えば、図１の光学アダプタ１１、並びに画像処理プログラム６５（図１０を参照して後述する）などとセットにされて販売される。
【００３４】
次に、パーソナルコンピュータ３１によって立体視画像が生成される過程の概要について、図５乃至図８を参照して説明する。
【００３５】
図５は、光学アダプタ１１が装着されたディジタルスチルカメラ１によって撮影された視差画像を示している。同図において、視差画像の右眼用の領域は、ミラーによって反射されているものであり、左眼用の領域は、ミラーによって反射されていないものであるとする。そこで、以下においては、視差画像の右眼用の領域をミラー画像、左眼用の領域をスルー画像と記述する。
【００３６】
上述したように、ミラー画像は、スルー画像に比較して、画質（輝度、彩度、解像度等）が劣化している。特に、ミラー画像の周辺部（上辺部、下辺部、および左辺部）は、中心部に比較して輝度が低下している。また、ミラー画像は、本来、矩形である画像が台形に歪んだものとなる。そこで、始めにミラー画像の画質が補正され（詳細については、図１４を参照して後述する）、画像の形状の歪みが補正される。次に、図６に示すように、ミラー画像およびスルー画像がそれぞれトリミングされて、Ｒ画像およびＬ画像が生成される。
【００３７】
次に、図７に示すように、次式（１）に従って、Ｌ画像とＲ画像が合成されて、図８に示すような立体視画像が生成される。
偶数ライン
１×（Ｌ画像の画素）＋０×（Ｒ画像の画素）＝（立体視画像の画素）
奇数ライン
０×（Ｌ画像の画素）＋１×（Ｒ画像の画素）＝（立体視画像の画素）・・・（１）
【００３８】
以上で、立体視画像が生成される過程の概要についての説明を終了する。生成された立体視画像は、表示部５７に表示される。図９に示すように、ユーザは、表示部５７に表示された立体視画像を、フィルタメガネ４１およびライン偏光板４３を介して見ることになる。したがって、ユーザの左眼は、立体視画像の偶数ライン、すなわち、１ライン置きのＬ画像を見ることになり、ユーザの右眼は、立体視画像の奇数ライン、すなわち、１ライン置きのＲ画像を見ることになる。よって、ユーザは、立体視画像を立体的に視認することが可能となる。
【００３９】
次に、図１０は、画像処理プログラム６５を実行することにより、立体視画像を生成する処理等を実行するパーソナルコンピュータ３１の構成例を示している。
【００４０】
パーソナルコンピュータ３１は、CPU(Central Processing Unit)５１を内蔵している。CPU５１には、バス５４を介して、入出力インタフェース５５が接続されている。バス５４には、ROM(Read Only Memory)５２およびRAM(Random Access Memory)５３が接続されている。
【００４１】
入出力インタフェース５５には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる操作入力部５６、GUI(Graphical User Interface)や生成される立体視画像等を表示するLCD(Liquid Crystal Display)等よりなる表示部５７、各種のプログラムやデータを格納するハードディスクドライブなどよりなる記憶部５８、およびインタネット等のネットワークを介してデータを通信する通信部５９が接続されている。また、入出力インタフェース５５には、磁気ディスク６１、光ディスク６２、光磁気ディスク６３、および半導体メモリ６４などの記録媒体に対してデータを読み書きするドライブ６０が接続されている。
【００４２】
CPU５１は、ROM５２に記憶されているプログラム、または磁気ディスク６１乃至半導体メモリ６４から読み出されて記憶部６５に記憶され、記憶部６５からRAM５３にロードされたプログラムに従って各種の処理を実行する。RAM５３にはまた、CPU５１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【００４３】
このパーソナルコンピュータに立体視画像を生成する処理等を実行させる画像処理プログラム６５は、磁気ディスク６１（フレキシブルディスクを含む）、光ディスク６２（CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む）、光磁気ディスク６３（ＭＤ(Mini Disc)を含む）、もしくは半導体メモリ６４に格納された状態でパーソナルコンピュータ３１に供給され、ドライブ６０によって読み出されて記憶部５８に内蔵されるハードディスクドライブにインストールされている。記憶部５８にインストールされている画像処理プログラム６５は、操作入力部５６に入力されるユーザからのコマンドに対応するCPU５１の指令によって、記憶部５８からRAM５３にロードされて実行される。
【００４４】
図１１は、CPU５１が画像処理プログラムを実行することによって実現される機能ブロックの構成例示している。
【００４５】
GUIブロック７１は、GUIに対するユーザの操作に対応して、画像管理部７２乃至表示制御部７６を制御する。画像管理ブロック７２は、GUIブロック７１からの制御に従い、ディジタルカメラ１から取り込まれて記憶部５８等に記憶されている視差画像などの画像データを、画像処理プログラム６５が取り扱うデータとして管理する。また、画像管理ブロック７２は、視差画像に付加されている属性情報に、サムネイル画像（縮小画像）の画像データ、トリミングされる領域の位置を示す情報、画質が補正されるときの設定値を示す情報、上下方向の位置が調整されるときの調整値を示す情報等を追加する。
【００４６】
画像取得ブロック７３は、GUIブロック７１からの制御に従い、画像管理ブロック７２によって管理されている視差画像などの画像データを取得し、ベース画像選択ブロック７４に出力する。ベース画像選択ブロック７４は、ユーザの操作に対応するGUIブロック７１からの制御に従い、画像処理ブロック７３から入力される画像のうち、ユーザによって選択された視差画像または画像対を立体視画像生成ブロック７５に出力する。また、ベース画像選択ブロック７４は、ユーザの操作に対応するGUIブロック７１からの制御に従い、画像処理ブロック７３から入力される画像のうち、立体視画像の元とすることができる画像対を選択して、立体視画像生成ブロック７５に出力する。
【００４７】
立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、ベース画像選択ブロック７４から入力される視差画像または画像対を元に、立体視画像を生成して表示制御ブロック７６に出力する。表示制御ブロック７６は、GUIブロック７１からの制御に従い、GUIおよび生成される立体視画像の表示を制御する。
【００４８】
次に、視差画像を元にして立体視画像を生成する立体視画像生成処理について説明するが、その前に、画像処理プログラム６５に対応するウィンドウと当該ウィンドウ上のGUIについて、図１２および図１３を参照して説明する。
【００４９】
図１２は、画像処理プログラム６５が起動されたときに表示されるウィンドウ１０１の表示例を示している。ウィンドウ１０１には、処理の対象とする画像のサムネイルなどが表示されるメインエリア１０２、および「立体視」ボタン１０４乃至「エンド」ボタン１０７が設けられている。
【００５０】
「画像取得」ボタン１０３は、立体視画像の元とする視差画像および画像対を選択するためのサムネイルをメインエリア１０２に表示させるときに押下される。「立体視画像」ボタン１０４は、選択された立体視画像（または画像対）を元にして立体視画像の生成を開始させるときに押下される。「ＬＲ置換」ボタン１０５は、立体視画像の元となるＬ画像とＲ画像を置換させるときに押下される。「印刷」ボタン１０６は、生成された立体視画像などをプリントアウトするときに押下される。「エンド」ボタン１０７は、画像処理プログラムを終了させるときに押下される。
【００５１】
図１３は、「画像取得」ボタン１０３が押下されたときのウィンドウ１０１の表示例を示している。メインエリア１０２には、ディジタルカメラ１から取り込まれた視差画像、通常の画像（連続的に撮影された画像対含む）などのサムネイル画像が表示される。メインエリア１０２の上側には、「視差画像選択」ボタン１１１、「画像対選択」ボタン１１２、および「画像対自動選択」ボタン１１３が設けられる。
【００５２】
「視差画像選択」ボタン１１１は、メインエリア１０２に表示されているサムネイル画像のうち、視差画像に対応するものを選択するときに押下される。すなわち、ユーザは、「視差画像選択」ボタン１１１を押下した後、視差画像に対応するサムネイルを１つだけ選択することができる。
【００５３】
「画像対選択」ボタン１１２は、メインエリア１０２に表示されているサムネイル画像のうち、立体視画像の元とする画像対に対応するものを選択するときに押下される。すなわち、ユーザは、「画像対選択」ボタン１１２を押下した後、画像対に対応するサムネイルを２つ選択することができる。
【００５４】
「画像対自動選択」ボタン１１３は、メインエリア１０２に表示されているサムネイル画像のうち、立体視画像の元とする画像対を自動的に選択させるときに押下される。
【００５５】
次に、視差画像を元にして立体視画像を生成する立体視画像生成処理について、図１４のフローチャートを参照して説明する。この立体視画像生成処理は、図１３に示されたメインエリア１０２のサムネイルのうち、視差画像に対応するものがユーザによって選択された後、「立体視画像」ボタン１０４が押下されたときに開始される。
【００５６】
ステップＳ１において、ベース画像選択ブロック７４は、画像処理ブロック７３から入力される画像データのうち、GUIブロック７１からの制御に従い、ユーザが選択する視差画像の画像データを立体視画像生成ブロック７５に出力する。
【００５７】
ステップＳ２において、立体視画像生成ブロック７５は、ミラー画像の周辺部の輝度を、実験結果に基づくルックアップテーブル（または関数）を用いて補正する。この補正に関する情報は、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００５８】
ここで、実験とは、画像処理プログラム６５の開発者側によって実施されたものである。具体的には、光学アダプタ１１を装着した状態のディジタルカメラ１で画角の全体を占める白壁等を撮影し、得られた視差画像のうちのミラー画像について、中心部と周辺部の画素の輝度を比較する。そして、その比較結果に基づき、周辺部の画素の輝度が、中心部の画素の輝度と一致するように、例えば、周辺部の座標を入力とし、当該座標に対する補正値を出力するようなルックアップテーブル（関数でもよい）を生成する。または、周辺部の輝度を入力とし、当該輝度に対する補正値を出力するようなルックアップテーブルを生成する。そして、生成したルックアップテーブルを画像処理プログラム６５に組み込むようにすればよい。画像処理プログラム６５には、ディジタルカメラ１の機種に対応して複数のルックアップテーブルを組み込むようにしてもよい。
【００５９】
なお、ステップＳ２において、スルー画像の輝度も修正するようにしてもよい。
【００６０】
また、ステップＳ２において、立体視画像生成ブロック７５は、台形に歪んでいるミラー画像の形状を補正する。なお、このミラー画像の形状の補正については、本出願人が特開２００２−３４０５４号として既に提案済であるので、その説明は省略する。
【００６１】
ステップＳ３において、立体視画像生成ブロック７５は、補正済のミラー画像とスルー画像との全体的な輝度を比較して、その比較結果に基づいて、ミラー画像の輝度を補正する。具体的には、ミラー画像とスルー画像のそれぞれにおいて、所定の複数（例えば、４点）のサンプリング点の輝度を加算し、ミラー画像における輝度の加算値と、スルー画像の輝度の加算値を比較して、その差がなくなるように、ミラー画像を補正する。この補正に関する情報も、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００６２】
例えば、ミラー画像における４サンプリング点の輝度の加算値が３５０であり、スルー画像の４サンプリング点の輝度の加算値が５００である場合、その差１５０をサンプリング点の数で除算した値（１５０／４）を、ミラー画像の全ての画素の輝度に加算する。
【００６３】
また、ステップＳ３において、立体視画像生成ブロック７５は、ミラー画像とスルー画像の全体的な彩度が一致するように、ミラー画像の色差を補正する。この補正に関する情報も、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００６４】
ステップＳ４において、立体視画像生成ブロック７５は、ミラー画像に対し、所定のエッジ強調処理を施して、画像の全体的なぼけを補正する。ステップＳ５において、立体視画像生成ブロック７５は、ユーザの操作に対応するGUIブロック７１からの制御に従い、ミラー画像とスルー画像をそれぞれトリミングして、それぞれを、Ｌ画像とＲ画像に設定する。このトリミング位置に関する情報は、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００６５】
ステップＳ６において、立体視画像生成ブロック７５は、ユーザの操作に対応するGUIブロック７１からの制御に従い、Ｌ画像とＲ画像の上下方向の位置を調整する。なお、Ｌ画像とＲ画像の上下方向の位置を調整する過程の情報は、表示制御ブロック７６に出力されて、その調整の様子がメインエリア１０２に表示される（詳細は図１６のフローチャートを参照して後述する）。
【００６６】
ステップＳ７において、立体視画像生成ブロック７５は、ステップＳ６の処理で上下方向の位置が調整されたＬ画像およびＲ画像を、式（１）に従って合成し、立体視画像を生成する。生成された立体視画像は、メインエリア１０２に表示される。また、生成された立体視画像の画像データは、画像管理ブロック７２により、元となった視差画像に対応付けて記憶される。
【００６７】
なお、ユーザからの所定の操作により、生成された立体視画像を表示部５７の全体を占めるように表示させることも可能である。以上で、立体視画像生成処理の説明を終了する。
【００６８】
ところで、画像処理プログラム６５によれば、２枚の画像からなる画像対を元にしても、立体視画像を生成することができる。この画像対は、図１３に示された「画像対選択」ボタン１１２を押下して、メインエリア１０２に表示されているサムネイル画像のうちの２つを選択することにより、ユーザが任意に選択することができる。
【００６９】
画像対が選択された後、「立体視画像」ボタン１０４が押下された場合、画像対の一方がＬ画像とされ、他方がＲ画像とされて、上述したステップＳ６以降の処理が開始されて、立体視画像が生成される。生成された立体視画像の画像データは、画像管理ブロック７２により、元となった画像対に対応付けて記憶される。
【００７０】
なお、立体視画像の元とする画像対を自動的に選択させることもできる。画像対を自動的に選択する処理について、図１５のフローチャートを参照して説明する。この画像対自動選択処理は、図１３に示された「画像対自動選択」１１３が押下されたときに開始される。また、この画像対自動選択処理は、画像処理ブロック７３からベース画像選択ブロック７４に入力される画像が１つずつ処理対象とされて実行される。
【００７１】
ステップＳ１１において、ベース画像選択ブロック７４は、処理対象の画像が連写モードで撮影されたものであるか否かを、属性情報に含まれる連写フラグを参照して判定する。処理対象の画像が連写モードで撮影されたものではないと判定された場合、処理はステップＳ１２に進む。
【００７２】
ステップＳ１２において、ベース画像選択ブロック７４は、処理対象の画像と、１枚後に撮影された画像との撮影日時の差が所定の閾値（例えば、数秒）以内であるか否かを判定する。撮影日時の差が所定の閾値以内であると判定された場合、処理はステップＳ１３に進む。
【００７３】
ステップＳ１３において、ベース画像選択ブロック７４は、処理対象の画像と、１枚後に撮影された画像との類似度を算出し、類似度が所定の閾値以内であるか否かを判定する。ここで、２枚の画像の類似度としては、例えば、それぞれから所定の１ライン分の画素を抽出し、対応する画素同士の差分の総和を算出するようにする。
【００７４】
処理対象の画像と１枚後に撮影された画像との類似度が所定の閾値以内であると判定された場合、処理対象の画像と１枚後に撮影された画像とは、同一の被写体を連続して撮影したものであると判断できるので、処理対象の画像と１枚後に撮影された画像とを画像対に設定する。
【００７５】
画像対に設定された２枚の画像のサムネイルは、画像対に設定されたことをユーザに通知するために、メインエリア１０２において、例えば、単一の太枠で囲まれる。また、画像対の情報は、画像管理ブロック７２に出力され、画像対のそれぞれの画像データの付加情報に、画像対の相手を示す情報（シリアル番号等）が追加される。あるいは、画像対をなす２つの画像データとそれぞれの属性情報を新たなフォルダを生成して記憶するようにしてもよい。
【００７６】
なお、ステップＳ１１において、処理対象の画像が連写モードで撮影されたものであると判定された場合、ステップＳ１２はスキップされ、処理はステップＳ１３に進む。
【００７７】
ステップＳ１２において、処理対象の画像と、１枚後に撮影された画像との撮影日時の差が所定の閾値以内ではないと判定された場合、この２枚の画像は、立体視画像の元とする画像対に適していないので、画像対自動選択処理は終了される。
【００７８】
ステップＳ１３において、処理対象の画像と、１枚後に撮影された画像との類似度が所定の閾値以内ではないと判定された場合にも、この２枚の画像は、立体視画像の元とする画像対に適していないので、画像対自動選択処理は終了される。以上で、画像対自動選択処理の説明を終了する。
【００７９】
この画像対自動選択処理が、画像処理ブロック７３からベース画像選択ブロック７４に入力される全ての画像を処理対象として実行された後に、複数の画像対が設定されている場合、ユーザは設定された複数の画像対のうち、１つの画像対を選択することができる。画像対がユーザによって選択された後、「立体視画像」ボタン１０４が押下された場合、上述したステップＳ６以降の処理が開始されて、立体視画像が生成される。生成された立体視画像の画像データは、画像管理ブロック７２により、元となった画像対に対応付けて記憶される。
【００８０】
ただし、画像対を元にして立体視画像を生成した場合、画像対の一方をＬ画像とし、他方をＲ画像とする設定が適切ではなかった場合（逆であった場合）、立体的に視認することはできない。このとき、ユーザが「ＬＲ置換」ボタン１０５を押下すれば、Ｌ画像とＲ画像が置換されて、立体的に視認できる立体視画像が再生成される。
【００８１】
また、「ＬＲ置換」ボタン１０５を押下して立体視画像を再生成させることは、表示された立体視画像に対して、ライン偏光板４３が１ライン分だけ上下方向にずれて設置されている場合にも有効に作用する。
【００８２】
次に、図１４のステップＳ６の処理、すなわち、Ｌ画像とＲ画像の上下方向の位置を調整する処理の詳細について、図１６のフローチャートおよび図１７を参照して説明する。
【００８３】
ステップＳ２１において、立体視画像生成ブロック７５は、ステップＳ６の処理で設定したＬ画像およびＲ画像のサムネイル画像を、画像管理ブロック７２から取得する。ステップＳ２２において、立体視画像生成ブロック７５は、Ｌ画像のサムネイル画像とＲ画像のサムネイル画像の同じ座標の画素を５０％ずつ加算して合成画像を生成する。
【００８４】
このとき、ウィンドウ１０１の表示は、例えば、図１７に示すようなものとなる。すなわち、メインエリア１０２には、Ｌ画像が表示されたＬ画像表示エリア１２１、Ｒ画像が表示されたＲ画像表示エリア１２２、および合成画像が表示された合成画像表示エリア１２３が設けられる。
【００８５】
メインエリア１０２の上方には、Ｌ画像に対するＲ画像の相対的な位置を上方に移動させて合成画像を再生成させるときに操作させる「Ｒ画像上方移動」ボタン１２４、Ｌ画像に対するＲ画像の相対的な位置を下方に移動させ合成画像を再生成させるときに操作される「Ｒ画像下方移動」ボタン１２５、およびＬ画像に対するＲ画像の相対的な位置の調整が終了したとき操作される「位置調整終了」ボタン１２６が設けられる。
【００８６】
図１４に戻る。ステップＳ２３において、GUIブロック７１は、「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５が押下されたか否かを判定する。「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５が押下されたと判定された場合、処理はステップＳ２４に進む。ステップＳ２４において、立体視画像生成ブロック７５は、ユーザの操作に従うGUIブロック７１からの制御に基づき、Ｌ画像に対するＲ画像の相対的な位置を上方または下方に移動させて、合成画像を再生成する。
【００８７】
このとき、合成画像表示エリア１２３の表示は、再生成された合成画像に更新される。なお、ステップＳ２３において、「Ｒ画像上方移動」ボタン１２４および「Ｒ画像下方移動」ボタン１２５が押下されていない判定された場合、ステップＳ２４はスキップされ、処理はステップＳ２５に進む。
【００８８】
ステップＳ２５において、GUIブロック７１は、「位置調整終了」ボタン１２６が押下されたか否かを判定する。「位置調整終了」ボタン１２６が押下されていないと判定された場合、ステップＳ２３に戻り、それ以降の処理が繰り返される。
【００８９】
従って、ユーザは、合成画像表示エリア１２３に表示される合成画像を見ながら、「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５を押下することにより、Ｌ画像とＲ画像の上下方向の位置を調整することができる。なお、再生成されて表示される合成画像は、データ量の少ない縮小された画像であるので、この再生成の処理は速やかに実行される。
【００９０】
ステップＳ２５において、「位置調整終了」ボタン１２６が押下されたと判定された場合、処理はステップＳ２６に進む。ステップＳ２６において、立体視画像生成ブロック７５は、Ｌ画像とＲ画像の上下方向の位置の調整値を画像管理ブロック７２に出力する。画像管理ブロック７２は、この上下方向の位置の調整値を、視差画像の属性情報に追加する。なお、画像対がＬ画像とＲ画像とされている場合、この上下方向の位置の調整値は、画像対の両方の属性情報に追加される。この後、処理は、上述した図１４のステップＳ７に戻ることとなる。
【００９１】
以上で、Ｌ画像とＲ画像の上下方向の位置を調整する処理の説明を終了する。
【００９２】
なお、上述した説明においては、「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５を押下することにより、Ｌ画像に対するＲ画像の相対的な位置を上方または下方に移動させるようにしたが、例えば、合成画像表示エリア１２３に表示されている合成画像を、マウス（操作入力部５６）を用いて、上方または下方にドラッグアンドドロップすることにより、Ｌ画像に対するＲ画像の相対的な位置を上方または下方に移動させるようにしてもよい。
【００９３】
次に、図１８は、立体視画像が生成されたときのウィンドウ１０１の表示例を示している。メインエリア１０２には、生成された立体視画像が表示される。メインエリア１０２の上側には、メインエリア１０２の表示を、立体視画像から、立体視画像の元となったＬ画像およびＲ画像を用いて従来の立体視の方法によって立体的に視認することができる画像に変換させるときに押下される「アナグリフ」ボタン１３１乃至「液晶シャッタメガネ」１３５が設けられている。また、メインエリア１０２の左側には、生成された立体視画像に任意の文字、記号などを書き込むときに押下される「テキスト入力」ボタン１３６が追加して設けられている。
【００９４】
「アナグリフ」ボタン１３１は、立体視画像の元となったＬ画像およびＲ画像を用いてアナグリフ方式の画像（以下、アナグリフ画像と記述する）を生成させるときに押下される。「カラーアナグリフ１」ボタン１３２は、立体視画像の元となったＬ画像およびＲ画像を用いて第１のカラーアナグリフ方式の画像（以下、第１のカラーアナグリフ画像と記述する）を生成させるときに押下される。「カラーアナグリフ２」ボタン１３３は、立体視画像の元となったＬ画像およびＲ画像を用いて第２のカラーアナグリフ方式の画像（以下、第２のカラーアナグリフ画像と記述する）を生成させるときに押下される。これらの場合、ユーザは、赤青メガネを用いて画像を見る必要がある。
【００９５】
「レンチキュラ」ボタン１３４は、立体視画像の元となったＬ画像およびＲ画像を用いてレンチキュラ方式の画像（以下、第１のレンチキュラ画像と記述する）を生成させるときに押下される。この場合、ユーザは、レンチキュラスクリーンを介して画像を見る必要がある。
【００９６】
「液晶シャッタメガネ」ボタン１３５は、立体視画像の元となったＬ画像およびＲ画像を時分割立体テレビジョン方式で表示させるときに押下される。この場合、ユーザは、表示部５７のフィールド周期に同期して左眼側と右眼側を交互に開閉する液晶シャッタメガネを用いて画像を見る必要がある。
【００９７】
次に、メインエリア１０２に表示されている立体視画像を、ユーザの操作に対応して変換する処理について、図１９のフローチャートを参照して説明する。
【００９８】
この立体視画像変換処理は、立体視画像が生成され、図１８に示されたようなウィンドウ１０１が表示されたときに開始される。
【００９９】
ステップＳ３１において、GUIブロック７１は、「ＬＲ置換」ボタン１０５が押下されたか否かを判定する。「ＬＲ置換」ボタン１０５が押下されたと判定された場合、処理はステップＳ３２に進む。ステップＳ３２において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を置換して、立体視画像を再生成する。表示制御ブロック７６は、再生成された立体視画像を、メインエリア１０２に表示させる。この後、処理はステップＳ４３に進む。
【０１００】
ステップＳ３１において、「ＬＲ置換」ボタン１０５が押下されていないと判定された場合、処理はステップＳ３３に進む。ステップＳ３３において、GUIブロック７１は、「アナグリフ」ボタン１３１が押下されたか否かを判定する。「アナグリフ」ボタン１３１が押下されたと判定された場合、処理はステップＳ３４に進む。ステップＳ３４において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、アナグリフ画像を生成する。表示制御ブロック７６は、生成されたアナグリフ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１０１】
ステップＳ３３において、「アナグリフ」ボタン１３１が押下されていないと判定された場合、処理はステップＳ３５に進む。ステップＳ３５において、GUIブロック７１は、「カラーアナグリフ１」ボタン１３２が押下されたか否かを判定する。「カラーアナグリフ１」ボタン１３２が押下されたと判定された場合、処理はステップＳ３６に進む。ステップＳ３６において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、第１のカラーアナグリフ画像を生成する。表示制御ブロック７６は、生成された第１のカラーアナグリフ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１０２】
ステップＳ３５において、「カラーアナグリフ１」ボタン１３２が押下されていないと判定された場合、処理はステップＳ３７に進む。ステップＳ３７において、GUIブロック７１は、「カラーアナグリフ２」ボタン１３３が押下されたか否かを判定する。「カラーアナグリフ２」ボタン１３３が押下されたと判定された場合、処理はステップＳ３８に進む。ステップＳ３８において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、第２のカラーアナグリフ画像を生成する。表示制御ブロック７６は、生成された第２のカラーアナグリフ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１０３】
ステップＳ３７において、「カラーアナグリフ２」ボタン１３３が押下されていないと判定された場合、処理はステップＳ３９に進む。ステップＳ３９において、GUIブロック７１は、「レンチキュラ」ボタン１３４が押下されたか否かを判定する。「レンチキュラ」ボタン１３４が押下されたと判定された場合、処理はステップＳ４０に進む。ステップＳ４０において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、レンチキュラ画像を生成する。表示制御ブロック７６は、生成されたレンチキュラ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１０４】
ステップＳ３９において、「レンチキュラ」ボタン１３４が押下されていないと判定された場合、処理はステップＳ４１に進む。ステップＳ４１において、GUIブロック７１は、「液晶シャッタメガネ」ボタン１３５が押下されたか否かを判定する。「液晶シャッタメガネ」ボタン１３５が押下されたと判定された場合、処理はステップＳ４２に進む。ステップＳ４２において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を表示制御ブロック７６に供給する。表示制御ブロック７６は、GUIブロック７１からの制御に従い、Ｌ画像とＲ画像を、表示部５７のフィールド周期に同期して交互にメインエリア１０２に表示させる。この後、処理はステップＳ４３に進む。
【０１０５】
ステップＳ４３において、GUIブロック７１は、何らかのボタンが押下されるまで待機する。何らかのボタンが押下されたと判定された場合、処理はステップＳ４４に進む。ステップＳ４４において、GUIブロック７１は、「エンド」ボタン１０７が押下されたか否かを判定する。「エンド」ボタン１０７が押下されたと判定された場合、立体視画像変換処理は終了され、さらに、実行されている画像処理プログラム６５も終了される。
【０１０６】
ステップＳ４４において、「エンド」ボタン１０７が押下されてないと判定された場合、ステップＳ３１に戻り、それ以降の処理が繰り返される。
【０１０７】
ステップＳ３４，Ｓ３６，Ｓ３８、またはＳ４０の処理の後に実行されるステップＳ４５において、GUIブロック７１は、何らかのボタンが押下されるまで待機する。何らかのボタンが押下されたと判定された場合、処理はステップＳ４６に進む。ステップＳ４６において、GUIブロック７１は、「印刷」ボタン１０６が押下されたか否かを判定する。「印刷」ボタン１０６が押下されたと判定された場合、処理はステップＳ４７に進む。ステップＳ４７において、表示制御ブロック７６は、GUIブロック７１からの制御に従い、メインエリア１０２に表示されているアナグリフ画像、第１のカラーアナグリフ画像、第２のアナグリフ画像、またはレンチキュラ画像の画像データをプリンタ（不図示）に出力して印刷させる。
【０１０８】
印刷されたアナグリフ画像、第１のカラーアナグリフ画像、または第２のアナグリフ画像は、赤青メガネを用いることにより、立体的に視認することができる。印刷されたレンチキュラ画像は、レンチキュラパネルを介することにより、立体的に視認することができる。以上で、立体視画像変換処理の説明を終了する。
【０１０９】
次に、図２０は、「テキスト入力」ボタン１３６が押下されたときのウィンドウ１０１の表示例を示している。メインエリア１０２の上側には、メインエリア１０２に表示されている立体視画像に重畳して、任意の文字、記号等を表示させるためのテキスト入力エリア１４１が設けられている。テキスト入力エリア１４１に入力される文字等は、立体的に視認されるように立体視画像に重畳される。ユーザは、マウス（操作入力部５６）を用いてドラッグアンドドロップすることにより、テキスト入力エリア１４１を任意の位置に移動することができる。
【０１１０】
メインエリア１０２の上側には、テキスト入力エリア１４１に入力された文字等の立体視したときの遠近感を近づけるときに押下される「近く」ボタン１４２、およびテキスト入力エリア１４１に入力される文字等の立体視したときの遠近感を遠ざけるときに押下される「遠く」ボタン１４３が設けられている。
【０１１１】
ここで、テキスト入力処理について、図２１のフローチャートを参照して説明する。このテキスト入力処理は、「テキスト入力」ボタン１３６が押下されたときに開始される。
【０１１２】
ステップＳ５１において、表示制御ブロック７６は、メインエリア１０２に表示されている立体視画像に重畳して、テキスト入力エリア１４１を表示する。ユーザがテキスト入力エリア１４１に任意の文字等を入力すると、立体視画像生成ブロック７５は、入力された文字等が所定の遠近感で立体的に視認されるように、立体視画像に文字等を重畳する。
【０１１３】
ステップＳ５２において、GUIブロック７１は、「近く」ボタン１４２が押下されたか否かを判定する。「近く」ボタン１４２が押下されたと判定された場合、処理はステップＳ５３に進む。ステップＳ５３において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、入力された文字等の遠近感がより近くで立体的に視認されるように、立体視画像に文字等を重畳する。なお、ステップＳ５２において、「近く」ボタン１４２が押下されていないと判定された場合、ステップＳ５３の処理はスキップされる。
【０１１４】
ステップＳ５４において、GUIブロック７１は、「遠く」ボタン１４３が押下されたか否かを判定する。「遠く」ボタン１４３が押下されたと判定された場合、処理はステップＳ５５に進む。ステップＳ５５において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、入力された文字等の遠近感がより遠くで立体的に視認されるように、立体視画像等に文字等を重畳する。なお、ステップＳ５４において、「遠く」ボタン１４３が押下されていないと判定された場合、ステップＳ５５の処理はスキップされる。
【０１１５】
ステップＳ５６において、GUIブロック７１は、「テキスト入力」ボタン１３６４２が再び押下されたか否かを判定する。「テキスト入力」ボタン１３６が再び押下されていないと判定された場合、ステップＳ５２に戻り、それ以降の処理が繰り返される。
【０１１６】
ステップＳ５６において、「テキスト入力」ボタン１３６４２が再び押下されたと判定された場合、処理はステップＳ５７に進む。ステップＳ５７において、立体視画像生成ブロック７５は、入力された文字等のテキスト情報、文字等の立体視画像上の座標情報、文字等の立体視における遠近の情報を画像管理ブロック７２に出力する。画像管理ブロック７２は、立体視画像の画像データに対応付けて記録する。以上で、テキスト入力処理の説明を終了する。
【０１１７】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０１１８】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【０１１９】
【発明の効果】
以上のように、本発明によれば、光学アダプタを用いて得られた立体視画像の元となるＬ画像とＲ画像の画質を統一することが可能となる。
【図面の簡単な説明】
【図１】光学アダプタをカメラに取り付けた状態を示す図である。
【図２】図１の光学アダプタの構成例を示す図である。
【図３】光学アダプタ取り付けた状態のカメラによって撮影される視差画像を示す図である。
【図４】本発明を適用した立体視システムの構成例を示す図である。
【図５】ミラー画像とスルー画像から構成される視差画像を示す図である。
【図６】ミラー画像とスルー画像からトリミングされるＬ画像とＲ画像を示す図である。
【図７】Ｌ画像とＲ画像を合成して立体視画像生成する処理を説明するための図である。
【図８】立体視画像を示す図である。
【図９】立体視画像を立体的に視認する概要を説明するための図である。
【図１０】図４のパーソナルコンピュータの構成例を示すブロック図である。
【図１１】図１０のCPUが画像処理プログラムを実行すること実現する機能ブロックの構成例を示す図である。
【図１２】画像処理プログラムに対応するウィンドウの表示例を示す図である。
【図１３】図１２の「画像取得」ボタンが押下されたときのウィンドウの表示例を示す図である。
【図１４】立体視画像生成処理を説明するフローチャートである。
【図１５】画像対自動選択処理を説明するフローチャートである。
【図１６】Ｌ画像とＲ画像の上下方向の位置調整処理を説明するフローチャートである。
【図１７】Ｌ画像とＲ画像の上下方向の位置調整処理におけるウィンドウの表示例を示す図である。
【図１８】立体視画像が生成されたときのウィンドウの表示例を示す図である。
【図１９】立体視画像変換処理を説明するフローチャートである。
【図２０】図１８の「テキスト入力」ボタンが押下されたときのウィンドウの表示例を示す図である。
【図２１】テキスト入力処理を説明するフローチャートである。
【符号の説明】
１ディジタルスチルカメラ，１１光学アダプタ，３１パーソナルコンピュータ，４１フィルタメガネ，４３ライン偏光板，５１ CPU，６１磁気ディスク，６２光ディスク，６３光磁気ディスク，６４半導体メモリ，６５画像処理プログラム，７１ GUIブロック，７２画像管理ブロック，７３画像取得ブロック，７４ベース画像選択ブロック，７５立体視画像生成ブロック，７６表示制御ブロック[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus and method, a recording medium, and a program. For example, an image processing apparatus suitable for use in generating a stereoscopic image based on an image for the left eye and an image for the right eye, and The present invention relates to a method, a recording medium, and a program.
[0002]
[Prior art]
Conventionally, there has been a method of viewing a two-dimensional image stereoscopically (hereinafter referred to as a stereoscopic viewing method) using a spatial shift (binocular parallax) between retinal images acquired by the left and right eyes of a person. Many are known.
[0003]
As a method of stereoscopic viewing, an anaglyph method using special glasses, a color anaglyph method, a polarizing filter method, a time-division stereoscopic television method, and a lenticular method that does not use special glasses are known. For example, see Non-Patent Document 1).
[0004]
In the anaglyph method, for example, a left-eye image (hereinafter referred to as an L image) is converted into a red monotone image, and a right-eye image (hereinafter referred to as an R image) is converted into a blue monotone image. The red monotone image and the blue monotone image are superimposed. Then, the image is viewed using glasses (hereinafter referred to as red-blue glasses) in which a red filter is arranged on the left side and a blue filter is arranged on the right side. The anaglyph method can be implemented relatively easily and inexpensively, but the entire image becomes monotone.
[0005]
The color anaglyph method compensates for the shortcomings of the anaglyph method. When the L image and the R image are overlapped, the portion where the corresponding portion is shifted in each image (that is, the portion where the parallax is large) is the same as the anaglyph method. Similarly, for example, the L image is converted into a red monotone image, and the R image is converted into a blue monotone image and superimposed. The portions where the corresponding portions of each image do not shift (that is, portions where the parallax is small) are superimposed in the original color state. Then, the image is viewed using red / blue glasses.
[0006]
In the color anaglyph method, the original color can be reproduced for a portion having a small parallax in the entire image. Note that there are a plurality of variations in the color anaglyph method due to the difference in color used for a portion with little parallax. Hereinafter, a method of using an original color in a portion where the parallax is small is described as a first color anaglyph method. In addition, a method that does not use the original color in a portion where the parallax is small is described as a second color anaglyph method.
[0007]
In the polarization filter method, for example, an L image projected by vertical linearly polarized light and an R image projected by horizontal linearly polarized light are superimposed. The image is viewed using polarizing filter glasses in which a vertical linear polarizing filter is arranged on the left side and a horizontal linear polarizing filter is arranged on the right side. The polarizing filter method is advantageous in that the color reproducibility is good and the resolution is high, but there is a disadvantage that the image becomes dark by using the polarizing filter.
[0008]
In the time-division stereoscopic television system, an L image and an R image are alternately displayed on a television receiver for each field period, and the video is displayed on the left eye side in synchronization with the field period of the television receiver. This is a method of viewing using liquid crystal shutter glasses that alternately open and close the right eye side. In the time division stereoscopic television system, it is important to control the opening / closing operation of the liquid crystal shutter glasses with high accuracy.
[0009]
The lenticular method is a method in which a screen is divided into vertical stripe regions, L images and R images are alternately displayed on the regions on each stripe, and the images are covered with a lens called a lenticular screen. is there.
[0010]
By the way, in order to realize the various stereoscopic viewing methods described above, it is necessary to acquire an L image and an R image. In order to acquire the L image and the R image, the easiest method is to capture the same subject twice by moving the camera position by the distance between both eyes of the person.
[0011]
Further, as a method for acquiring the L image and the R image by one shooting, for example, as shown in FIG. It is known (see, for example, Patent Document 1).
[0012]
FIG. 2 schematically shows the structure of the optical adapter 11. The optical image for the right eye that enters from a single daylighting window is reflected by the mirror 21 toward the mirror 22, reflected by the mirror 22 toward the photographing lens 3, and then collected by the photographing lens 3. . The optical image for the left eye that enters from the single daylighting window is collected by the photographing lens 3 without being reflected by the mirrors 21 and 22.
[0013]
As shown in FIG. 3, the optical image incident through the optical adapter 11 is taken as an image (hereinafter referred to as a parallax image) composed of a left-eye region and a right-eye region. This left eye region is used as an L image, and the right eye region is used as an R image.
[0014]
[Non-Patent Document 1]
Directed by Takehiro Izumi, edited by NHK Science and Technology Research Laboratories, “Basics of 3D Video”, published by Ohm Publishing, June 5, 1995 [Patent Document 1]
Japanese Patent Laid-Open No. 11-46373 [0015]
[Problems to be solved by the invention]
By the way, when a parallax image is captured using the optical adapter 11 and the left eye region is used as an L image and the right eye region is used as an R image, one of the L image and the R image is displayed. There has been a problem that the image quality is deteriorated such that the luminance, saturation, resolution, and the like are reduced by the amount reflected by the mirror rather than the other image.
[0016]
As for the luminance, for example, if the reflectance of the mirror is 0.9, the luminance of the mirror image reflected twice by the mirror is 0.81 (= 0. 9 × 0.9).
[0017]
Therefore, when the stereoscopic view is realized based on the L image and the R image in which one of the images is deteriorated compared to the other image, the image that can be viewed stereoscopically also has a deteriorated image quality. There was a problem.
[0018]
The present invention has been made in view of such a situation, and an object thereof is to make it possible to unify the image quality of an L image and an R image obtained using an optical adapter.
[0019]
[Means for Solving the Problems]
The image processing apparatus of the present invention is to match the luminance signal of the pixels of the center portion of the mirror image correspondence table or function the luminance signal of the peripheral portion of the mirror image is generated based on an experiment carried out in advance results The luminance correction means for correcting based on the luminance signal, and the process for adjusting the luminance signal of the mirror image corrected by the luminance correction means so as to match the luminance signal of the through image, or to match the color difference signal of the through image Adjusting means for executing at least one of the processes for adjusting the color difference signal of the mirror image corrected by the luminance correcting means based on the through image; and for the odd lines of the stereoscopic image, the mirror image and the through image using one image data among, for even lines of the stereoscopic image by using the other image data of the mirrors images and the through image, Including a generating means for generating image data for displaying the body vision image.
[0020]
The generation unit further uses the other image data for the odd-numbered lines of the stereoscopic image and uses one image data for the even-numbered lines of the stereoscopic image in response to the user's replacement operation. The image data for displaying can be generated .
[0021]
The image processing apparatus of the present invention can further include edge enhancement means for enhancing edges in the mirror image.
[0022]
The image processing apparatus of the present invention can further include trimming means for trimming the mirror image and the through image, respectively, to generate an image for the left eye and an image for the right eye.
[0023]
The generating unit uses one image data of an image for the left eye and an image for the right eye for the odd lines of the stereoscopic image, and uses the image for the left eye and the right eye for the even lines of the stereoscopic image. using the other image data among the image of use, it is possible that generates an image data of a stereoscopic image.
[0024]
In response to the movement operation of the user, the image processing apparatus further includes a moving unit that moves the vertical positions of the left-eye image and the right-eye image, and the generation unit moves the odd-numbered line of the stereoscopic image. The left-eye image and the right-eye image moved by the moving means are used for one line of the left-eye image and the right-eye image moved by the moving means. The image data of the stereoscopic image can be generated using the other image data of the images .
[0025]
According to the image processing method of the present invention, the luminance correction means generates the luminance signal of the peripheral part of the mirror image based on the results of experiments performed in advance so that the luminance signal matches the luminance signal of the pixel at the central part of the mirror image. Correction based on the correspondence table or function, and the adjustment unit adjusts the luminance signal of the mirror image corrected by the luminance correction unit so that it matches the luminance signal of the through image, or the color difference signal of the through image The at least one of the processes for adjusting the color difference signal of the mirror image corrected by the luminance correction unit is executed based on the through image, and the generation unit performs the odd-numbered line of the stereoscopic image. the other image data of the one of the reference image data, the mirror image and the through image for the even lines of the stereoscopic images in the mirror image and the through image Using, including the step that generates image data for displaying a stereoscopic image.
[0026]
Recording medium of the present invention, the luminance correcting means, to match the luminance signal of the pixels of the center portion of the mirror image, the luminance signal of the peripheral portion of the mirror image, is generated on the basis of an experiment carried out in advance results Correction based on the correspondence table or function, and the adjustment unit adjusts the luminance signal of the mirror image corrected by the luminance correction unit so that it matches the luminance signal of the through image, or the color difference signal of the through image The at least one of the processes for adjusting the color difference signal of the mirror image corrected by the luminance correction unit is executed based on the through image, and the generation unit performs the odd-numbered line of the stereoscopic image. using one image data of one of the mirror image and the through image, the other image data of the mirrors images and through image for the even lines of the stereoscopic image There are, that records a program for causing a step that generates image data for displaying a stereoscopic image to execute including processing.
[0027]
According to the program of the present invention, the luminance signal in the peripheral part of the mirror image is generated based on the results of experiments performed in advance so that the luminance correction unit matches the luminance signal of the pixel in the central part of the mirror image . Correction based on the table or function, and the adjustment unit adjusts the luminance signal of the mirror image corrected by the luminance correction unit so that it matches the luminance signal of the through image, or matches the color difference signal of the through image As described above, at least one of the processes for adjusting the color difference signal of the mirror image corrected by the luminance correction unit is executed based on the through image, and the generation unit performs mirror processing for odd lines of the stereoscopic image. using one image data among the image and the through image, the other image data of the mirrors images and through image for the even lines of the stereoscopic image Used, Ru to execute the process including the step that generates image data for displaying a stereoscopic image on the computer.
[0028]
An image processing apparatus and method of the present invention, and the program, so as to match the luminance signal of the pixels of the center portion of the mirror image, the luminance signal of the peripheral portion of the mirror image is generated on the basis of an experiment carried out in advance results Processing to adjust the brightness signal of the corrected mirror image so that it matches the brightness signal of the through image , or is corrected based on the corresponding correspondence table or function, or corrected to match the color difference signal of the through image At least one of the processes for adjusting the color difference signal of the mirror image is executed based on the through image . And, for odd lines of the stereoscopic image, one image data of the mirror image and the through image is used, and for the even lines of the stereoscopic image, the other image data of the mirror image and the through image is used, Image data for displaying a stereoscopic image is generated.
[0029]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 4 shows a configuration example of a stereoscopic system to which the present invention is applied. The stereoscopic system mainly includes a personal computer (PC) 31 that generates a stereoscopic image, filter glasses 41 that a user uses when viewing the displayed stereoscopic image, and display on the display unit 57 of the personal computer 31. It comprises line polarized light 43 arranged outside the surface.
[0030]
As shown in FIG. 1, the personal computer 31 is a parallax image taken by the camera (digital still camera) 1 with the optical adapter 11 attached, and is taken without the optical adapter 11 attached. An image or the like is captured, and a stereoscopic image is generated and displayed based on a parallax image or an image pair composed of two images taken continuously. Note that image data such as a parallax image captured from the digital still camera 1 to the personal computer 31 includes the date and time when the image was taken, a serial file number indicating the order of shooting, and a sequence indicating whether the image was shot in the continuous shooting mode. Attribute information such as a copy mode flag is added.
[0031]
The filter glasses 41 are supported by a support bar 42 connected to the personal computer 31 so as to be positioned in an upper space near the keyboard of the personal computer 31. In the left frame of the filter glasses 41, a vertical linear polarization filter is arranged. A horizontal linear polarization filter is disposed in the right frame.
[0032]
The line polarizing plate 43 arranged outside the display surface of the display unit 57 of the personal computer 31 has a vertical linear polarizing filter arranged on horizontal even lines and a horizontal linear polarizing filter arranged on odd horizontal lines. Yes.
[0033]
The filter glasses 41, the support rod 42, and the line polarizing plate 43 are sold as a set with, for example, the optical adapter 11 of FIG. 1 and an image processing program 65 (described later with reference to FIG. 10).
[0034]
Next, an outline of a process of generating a stereoscopic image by the personal computer 31 will be described with reference to FIGS.
[0035]
FIG. 5 shows a parallax image taken by the digital still camera 1 to which the optical adapter 11 is attached. In the figure, it is assumed that the region for the right eye of the parallax image is reflected by the mirror, and the region for the left eye is not reflected by the mirror. Therefore, in the following description, the region for the right eye of the parallax image is described as a mirror image, and the region for the left eye is described as a through image.
[0036]
As described above, the mirror image has degraded image quality (luminance, saturation, resolution, etc.) compared to the through image. In particular, the brightness of the peripheral part (upper side part, lower side part, and left side part) of the mirror image is lower than that of the central part. In addition, the mirror image is a rectangular image distorted into a trapezoid. Therefore, first, the image quality of the mirror image is corrected (details will be described later with reference to FIG. 14), and the distortion of the shape of the image is corrected. Next, as shown in FIG. 6, the mirror image and the through image are respectively trimmed to generate an R image and an L image.
[0037]
Next, as shown in FIG. 7, the L image and the R image are synthesized according to the following expression (1) to generate a stereoscopic image as shown in FIG.
Even line 1 × (L image pixel) + 0 × (R image pixel) = (stereoscopic image pixel)
Odd line 0 × (L image pixel) + 1 × (R image pixel) = (stereoscopic image pixel) (1)
[0038]
This is the end of the description of the outline of the process of generating a stereoscopic image. The generated stereoscopic image is displayed on the display unit 57. As shown in FIG. 9, the user views the stereoscopic image displayed on the display unit 57 through the filter glasses 41 and the line polarizing plate 43. Therefore, the user's left eye sees an even line of the stereoscopic image, that is, an L image every other line, and the user's right eye sees an odd line of the stereoscopic image, that is, an R image every other line. Will see. Therefore, the user can view the stereoscopic image stereoscopically.
[0039]
Next, FIG. 10 shows a configuration example of the personal computer 31 that executes processing for generating a stereoscopic image by executing the image processing program 65.
[0040]
The personal computer 31 includes a CPU (Central Processing Unit) 51. An input / output interface 55 is connected to the CPU 51 via the bus 54. A ROM (Read Only Memory) 52 and a RAM (Random Access Memory) 53 are connected to the bus 54.
[0041]
The input / output interface 55 includes an operation input unit 56 including an input device such as a keyboard and a mouse for a user to input an operation command, an LCD (Liquid Crystal Display) for displaying a GUI (Graphical User Interface), a generated stereoscopic image, and the like. ) And the like, a storage unit 58 including a hard disk drive for storing various programs and data, and a communication unit 59 for communicating data via a network such as the Internet. The input / output interface 55 is connected to a drive 60 for reading / writing data from / to a recording medium such as the magnetic disk 61, the optical disk 62, the magneto-optical disk 63, and the semiconductor memory 64.
[0042]
The CPU 51 executes various processes in accordance with a program stored in the ROM 52 or a program read from the magnetic disk 61 to the semiconductor memory 64 and stored in the storage unit 65 and loaded from the storage unit 65 to the RAM 53. The RAM 53 also appropriately stores data necessary for the CPU 51 to execute various processes.
[0043]
An image processing program 65 for causing the personal computer to execute a process for generating a stereoscopic image and the like includes a magnetic disk 61 (including a flexible disk), an optical disk 62 (CD-ROM (Compact Disc-Read Only Memory), DVD (Digital Versatile). Disc), a magneto-optical disc 63 (including MD (Mini Disc)), or stored in the semiconductor memory 64, supplied to the personal computer 31, read by the drive 60, and built in the storage unit 58. Installed on the hard drive. The image processing program 65 installed in the storage unit 58 is loaded from the storage unit 58 to the RAM 53 and executed in response to a command from the CPU 51 corresponding to a command from the user input to the operation input unit 56.
[0044]
FIG. 11 illustrates a configuration example of functional blocks realized by the CPU 51 executing the image processing program.
[0045]
The GUI block 71 controls the image management unit 72 to the display control unit 76 in response to a user operation on the GUI. The image management block 72 manages image data such as a parallax image captured from the digital camera 1 and stored in the storage unit 58 or the like as data handled by the image processing program 65 in accordance with control from the GUI block 71. In addition, the image management block 72 indicates image data of thumbnail images (reduced images), information indicating the positions of regions to be trimmed, and setting values when image quality is corrected, in the attribute information added to the parallax images. Information, information indicating an adjustment value when the vertical position is adjusted, and the like are added.
[0046]
The image acquisition block 73 acquires image data such as a parallax image managed by the image management block 72 according to control from the GUI block 71 and outputs the acquired image data to the base image selection block 74. Based on the control from the GUI block 71 corresponding to the user's operation, the base image selection block 74 selects a parallax image or image pair selected by the user from the images input from the image processing block 73 as a stereoscopic image generation block 75. Output to. In addition, the base image selection block 74 selects an image pair that can be the source of the stereoscopic image from the images input from the image processing block 73 in accordance with control from the GUI block 71 corresponding to the user's operation. And output to the stereoscopic image generation block 75.
[0047]
The stereoscopic image generation block 75 generates a stereoscopic image based on the parallax image or image pair input from the base image selection block 74 according to the control from the GUI block 71 and outputs the stereoscopic image to the display control block 76. The display control block 76 controls the display of the GUI and the generated stereoscopic image according to the control from the GUI block 71.
[0048]
Next, a stereoscopic image generation process for generating a stereoscopic image based on a parallax image will be described. Before that, a window corresponding to the image processing program 65 and a GUI on the window will be described with reference to FIGS. Will be described with reference to FIG.
[0049]
FIG. 12 shows a display example of the window 101 displayed when the image processing program 65 is started. The window 101 is provided with a main area 102 in which thumbnails of images to be processed are displayed, and a “stereoscopic” button 104 to an “end” button 107.
[0050]
The “image acquisition” button 103 is pressed when displaying a parallax image based on a stereoscopic image and a thumbnail for selecting an image pair in the main area 102. The “stereoscopic image” button 104 is pressed to start generating a stereoscopic image based on the selected stereoscopic image (or image pair). The “LR replacement” button 105 is pressed to replace the L image and the R image that are the basis of the stereoscopic image. The “print” button 106 is pressed when printing out the generated stereoscopic image or the like. An “end” button 107 is pressed to end the image processing program.
[0051]
FIG. 13 shows a display example of the window 101 when the “acquire image” button 103 is pressed. In the main area 102, thumbnail images such as parallax images taken from the digital camera 1 and normal images (including pairs of images taken continuously) are displayed. Above the main area 102, a “parallax image selection” button 111, an “image pair selection” button 112, and an “image pair automatic selection” button 113 are provided.
[0052]
A “parallax image selection” button 111 is pressed when selecting a thumbnail image displayed in the main area 102 corresponding to a parallax image. That is, the user can select only one thumbnail corresponding to the parallax image after pressing the “parallax image selection” button 111.
[0053]
The “select image pair” button 112 is pressed when selecting a thumbnail image displayed in the main area 102 corresponding to an image pair that is a source of a stereoscopic image. That is, the user can select two thumbnails corresponding to the image pair after pressing the “select image pair” button 112.
[0054]
An “image pair automatic selection” button 113 is pressed to automatically select an image pair that is a source of a stereoscopic image among thumbnail images displayed in the main area 102.
[0055]
Next, stereoscopic image generation processing for generating a stereoscopic image based on a parallax image will be described with reference to the flowchart of FIG. This stereoscopic image generation processing is started when the “stereoscopic image” button 104 is pressed after the thumbnail corresponding to the parallax image among the thumbnails of the main area 102 shown in FIG. 13 is selected by the user. Is done.
[0056]
In step S 1, the base image selection block 74 outputs the image data of the parallax image selected by the user to the stereoscopic image generation block 75 in accordance with the control from the GUI block 71 among the image data input from the image processing block 73. To do.
[0057]
In step S2, the stereoscopic image generation block 75 corrects the luminance of the peripheral portion of the mirror image using a lookup table (or function) based on the experimental result. Information regarding this correction is output to the image management block 72 and added to the attribute information of the parallax image by the image management block 72.
[0058]
Here, the experiment is performed by the developer of the image processing program 65. Specifically, a white wall or the like occupying the entire angle of view is photographed with the digital camera 1 with the optical adapter 11 attached, and the brightness of the pixels at the center and the periphery of the mirror image of the obtained parallax images. Compare Then, based on the comparison result, for example, the peripheral coordinates are input so that the luminance of the peripheral pixels matches the luminance of the central pixels, and for example, a lookup that outputs a correction value for the coordinates is performed. Generate a table (may be a function). Alternatively, a look-up table is generated in which the luminance of the peripheral portion is input and a correction value for the luminance is output. Then, the generated lookup table may be incorporated into the image processing program 65. The image processing program 65 may include a plurality of lookup tables corresponding to the model of the digital camera 1.
[0059]
In step S2, the brightness of the through image may be corrected.
[0060]
In step S2, the stereoscopic image generation block 75 corrects the shape of the mirror image that is distorted into a trapezoid. The correction of the shape of the mirror image has already been proposed by the present applicant as Japanese Patent Application Laid-Open No. 2002-34054, and the description thereof will be omitted.
[0061]
In step S3, the stereoscopic image generation block 75 compares the overall brightness of the corrected mirror image and the through image, and corrects the brightness of the mirror image based on the comparison result. Specifically, in each of the mirror image and the through image, the luminances of a plurality of predetermined sampling points (for example, four points) are added, and the luminance added value in the mirror image is compared with the luminance added value of the through image. Then, the mirror image is corrected so that the difference disappears. Information regarding this correction is also output to the image management block 72, and is added to the attribute information of the parallax image by the image management block 72.
[0062]
For example, when the added value of the luminance at the four sampling points in the mirror image is 350 and the added value of the luminance at the four sampling points in the through image is 500, a value obtained by dividing the difference 150 by the number of sampling points (150 / 4) is added to the luminance of all the pixels of the mirror image.
[0063]
In step S3, the stereoscopic image generation block 75 corrects the color difference of the mirror image so that the overall saturation of the mirror image and the through image matches. Information regarding this correction is also output to the image management block 72, and is added to the attribute information of the parallax image by the image management block 72.
[0064]
In step S4, the stereoscopic image generation block 75 performs a predetermined edge enhancement process on the mirror image to correct the overall blur of the image. In step S 5, the stereoscopic image generation block 75 trims the mirror image and the through image according to the control from the GUI block 71 corresponding to the user operation, and sets them as an L image and an R image, respectively. Information regarding this trimming position is output to the image management block 72 and added to the attribute information of the parallax image by the image management block 72.
[0065]
In step S6, the stereoscopic image generation block 75 adjusts the vertical positions of the L image and the R image according to the control from the GUI block 71 corresponding to the user's operation. Information on the process of adjusting the vertical position of the L image and the R image is output to the display control block 76, and the state of the adjustment is displayed in the main area 102 (see the flowchart of FIG. 16 for details). And will be described later).
[0066]
In step S 7, the stereoscopic image generation block 75 combines the L image and the R image whose vertical positions are adjusted in the process of step S 6 according to the equation (1) to generate a stereoscopic image. The generated stereoscopic image is displayed in the main area 102. The generated image data of the stereoscopic image is stored in association with the original parallax image by the image management block 72.
[0067]
The generated stereoscopic image can be displayed so as to occupy the entire display unit 57 by a predetermined operation from the user. This is the end of the description of the stereoscopic image generation process.
[0068]
By the way, according to the image processing program 65, a stereoscopic image can be generated based on an image pair composed of two images. This image pair is arbitrarily selected by the user by pressing the “select image pair” button 112 shown in FIG. 13 and selecting two of the thumbnail images displayed in the main area 102. be able to.
[0069]
When the “stereoscopic image” button 104 is pressed after the image pair is selected, one of the image pairs is an L image and the other is an R image, and the processing from step S6 onward is started. A stereoscopic image is generated. The image data of the generated stereoscopic image is stored by the image management block 72 in association with the original image pair.
[0070]
It is also possible to automatically select an image pair as a source of a stereoscopic image. Processing for automatically selecting an image pair will be described with reference to the flowchart of FIG. This image pair automatic selection processing is started when the “image pair automatic selection” 113 shown in FIG. 13 is pressed. In addition, this image pair automatic selection processing is executed with images input from the image processing block 73 to the base image selection block 74 being processed one by one.
[0071]
In step S11, the base image selection block 74 determines whether or not the processing target image has been taken in the continuous shooting mode with reference to the continuous shooting flag included in the attribute information. If it is determined that the image to be processed is not taken in the continuous shooting mode, the process proceeds to step S12.
[0072]
In step S 12, the base image selection block 74 determines whether or not the difference in shooting date and time between the image to be processed and the image shot after one is within a predetermined threshold (for example, several seconds). If it is determined that the difference in shooting date and time is within a predetermined threshold, the process proceeds to step S13.
[0073]
In step S 13, the base image selection block 74 calculates the similarity between the image to be processed and the image taken after the first image, and determines whether the similarity is within a predetermined threshold. Here, as the similarity between two images, for example, pixels for a predetermined line are extracted from each, and the sum of the differences between corresponding pixels is calculated.
[0074]
When it is determined that the degree of similarity between the image to be processed and the image taken after the first image is within a predetermined threshold, the image to be processed and the image taken after the first image are the same subject. Therefore, the image to be processed and the image photographed one after are set as an image pair.
[0075]
The thumbnails of the two images set as the image pair are surrounded by, for example, a single thick frame in the main area 102 in order to notify the user that the image pair is set. The image pair information is output to the image management block 72, and information (serial number or the like) indicating the partner of the image pair is added to the additional information of each image data of the image pair. Alternatively, two image data forming an image pair and the respective attribute information may be generated and stored.
[0076]
If it is determined in step S11 that the image to be processed has been taken in the continuous shooting mode, step S12 is skipped and the process proceeds to step S13.
[0077]
If it is determined in step S12 that the difference in shooting date and time between the image to be processed and the image taken one after is not within a predetermined threshold, these two images are used as the source of the stereoscopic image. Since it is not suitable for an image pair, the image pair automatic selection process is terminated.
[0078]
Even in the case where it is determined in step S13 that the similarity between the image to be processed and the image taken one after is not within a predetermined threshold, these two images are used as the source of the stereoscopic image. Since it is not suitable for an image pair, the image pair automatic selection process is terminated. This is the end of the description of the image pair automatic selection process.
[0079]
After this image pair automatic selection processing is executed for all the images input from the image processing block 73 to the base image selection block 74 as a processing target, the user is set when a plurality of image pairs are set. One image pair can be selected from the plurality of image pairs. When the “stereoscopic image” button 104 is pressed after the image pair is selected by the user, the processing from step S6 described above is started, and a stereoscopic image is generated. The image data of the generated stereoscopic image is stored by the image management block 72 in association with the original image pair.
[0080]
However, when a stereoscopic image is generated based on the image pair, if the setting of one of the image pair as an L image and the other as an R image is not appropriate (in the opposite case), it is viewed stereoscopically. I can't do it. At this time, if the user presses the “LR replacement” button 105, the L image and the R image are replaced, and a stereoscopic image that can be viewed stereoscopically is regenerated.
[0081]
In addition, when the “LR replacement” button 105 is pressed to regenerate a stereoscopic image, the line polarizing plate 43 is shifted up and down by one line with respect to the displayed stereoscopic image. It works effectively in some cases.
[0082]
Next, details of the process in step S6 of FIG. 14, that is, the process of adjusting the vertical position of the L image and the R image will be described with reference to the flowchart of FIG. 16 and FIG.
[0083]
In step S 21, the stereoscopic image generation block 75 acquires from the image management block 72 the thumbnail images of the L image and the R image set in the process of step S 6. In step S 22, the stereoscopic image generation block 75 adds 50% of pixels having the same coordinates of the thumbnail image of the L image and the thumbnail image of the R image to generate a composite image.
[0084]
At this time, the display of the window 101 is, for example, as shown in FIG. That is, the main area 102 is provided with an L image display area 121 where an L image is displayed, an R image display area 122 where an R image is displayed, and a composite image display area 123 where a composite image is displayed.
[0085]
Above the main area 102, an “R image upward movement” button 124 that is operated when the relative position of the R image relative to the L image is moved upward to regenerate the composite image, and the relative position of the R image relative to the L image. “R image downward movement” button 125 operated when moving the general position downward to regenerate the composite image, and “position” operated when adjustment of the relative position of the R image with respect to the L image is completed. An “end adjustment” button 126 is provided.
[0086]
Returning to FIG. In step S 23, the GUI block 71 determines whether the “R image upward movement” button 124 or the “R image downward movement” button 125 is pressed. If it is determined that the “R image upward movement” button 124 or the “R image downward movement” button 125 is pressed, the process proceeds to step S24. In step S 24, the stereoscopic image generation block 75 regenerates a composite image by moving the relative position of the R image with respect to the L image upward or downward based on the control from the GUI block 71 according to the user's operation. .
[0087]
At this time, the display of the composite image display area 123 is updated to the regenerated composite image. If it is determined in step S23 that the “R image upward movement” button 124 and the “R image downward movement” button 125 are not pressed, step S24 is skipped, and the process proceeds to step S25.
[0088]
In step S 25, the GUI block 71 determines whether or not the “position adjustment end” button 126 has been pressed. If it is determined that the “position adjustment end” button 126 has not been pressed, the process returns to step S23 and the subsequent processing is repeated.
[0089]
Accordingly, the user presses the “R image upward movement” button 124 or the “R image downward movement” button 125 while viewing the composite image displayed in the composite image display area 123, thereby moving the L image and the R image up and down. The position of the direction can be adjusted. Note that the composite image that is regenerated and displayed is a reduced image with a small amount of data, and thus the regeneration process is promptly executed.
[0090]
If it is determined in step S25 that the “position adjustment end” button 126 has been pressed, the process proceeds to step S26. In step S 26, the stereoscopic image generation block 75 outputs the adjustment value of the vertical position of the L image and the R image to the image management block 72. The image management block 72 adds the adjustment value of the vertical position to the attribute information of the parallax image. When the image pair is an L image and an R image, this vertical position adjustment value is added to the attribute information of both image pairs. Thereafter, the processing returns to step S7 in FIG.
[0091]
Above, description of the process which adjusts the position of the up-down direction of L image and R image is complete | finished.
[0092]
In the above description, the relative position of the R image with respect to the L image is moved upward or downward by pressing the “R image upward movement” button 124 or the “R image downward movement” button 125. However, for example, by dragging and dropping the composite image displayed in the composite image display area 123 upward or downward using the mouse (operation input unit 56), the R image relative to the L image can be compared. The position may be moved upward or downward.
[0093]
Next, FIG. 18 shows a display example of the window 101 when a stereoscopic image is generated. In the main area 102, the generated stereoscopic image is displayed. On the upper side of the main area 102, the display of the main area 102 can be viewed stereoscopically from a stereoscopic image by using a conventional stereoscopic method using an L image and an R image that are the basis of the stereoscopic image. There are provided “anaglyph” buttons 131 to “liquid crystal shutter glasses” 135 which are pressed when the images are converted into possible images. Further, on the left side of the main area 102, a “text input” button 136 that is pressed when an arbitrary character, symbol, or the like is written in the generated stereoscopic image is additionally provided.
[0094]
The “anaglyph” button 131 is pressed when an anaglyph image (hereinafter referred to as an anaglyph image) is generated using the L image and the R image that are the basis of the stereoscopic image. The “color anaglyph 1” button 132 is used to generate a first color anaglyph image (hereinafter referred to as a first color anaglyph image) using the L image and the R image that are the basis of the stereoscopic image. Is pressed. The “color anaglyph 2” button 133 is used to generate a second color anaglyph image (hereinafter referred to as a second color anaglyph image) using the L image and the R image that are the basis of the stereoscopic image. Is pressed. In these cases, the user needs to view the image using red / blue glasses.
[0095]
The “lenticular” button 134 is pressed to generate a lenticular image (hereinafter referred to as a first lenticular image) using the L image and the R image that are the basis of the stereoscopic image. In this case, the user needs to view the image via the lenticular screen.
[0096]
The “liquid crystal shutter glasses” button 135 is pressed to display the L image and the R image that are the basis of the stereoscopic image in a time-division stereoscopic television system. In this case, the user needs to view the image using liquid crystal shutter glasses that alternately open and close the left eye side and the right eye side in synchronization with the field period of the display unit 57.
[0097]
Next, processing for converting a stereoscopic image displayed in the main area 102 in accordance with a user operation will be described with reference to a flowchart of FIG.
[0098]
This stereoscopic image conversion process is started when a stereoscopic image is generated and the window 101 as shown in FIG. 18 is displayed.
[0099]
In step S31, the GUI block 71 determines whether or not the “LR replacement” button 105 has been pressed. If it is determined that the “LR replacement” button 105 has been pressed, the process proceeds to step S32. In step S 32, the stereoscopic image generation block 75 replaces the L image and the R image that are the basis of the currently generated stereoscopic image and regenerates the stereoscopic image according to the control from the GUI block 71. . The display control block 76 displays the regenerated stereoscopic image in the main area 102. Thereafter, the process proceeds to step S43.
[0100]
If it is determined in step S31 that the “LR replacement” button 105 has not been pressed, the process proceeds to step S33. In step S33, the GUI block 71 determines whether or not the “anaglyph” button 131 has been pressed. If it is determined that the “anaglyph” button 131 is pressed, the process proceeds to step S34. In step S 34, the stereoscopic image generation block 75 generates an anaglyph image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. The display control block 76 displays the generated anaglyph image in the main area 102. Thereafter, the process proceeds to step S45.
[0101]
If it is determined in step S33 that the “anaglyph” button 131 has not been pressed, the process proceeds to step S35. In step S 35, the GUI block 71 determines whether or not the “color anaglyph 1” button 132 has been pressed. If it is determined that the “color anaglyph 1” button 132 has been pressed, the process proceeds to step S36. In step S 36, the stereoscopic image generation block 75 generates a first color anaglyph image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. . The display control block 76 displays the generated first color anaglyph image in the main area 102. Thereafter, the process proceeds to step S45.
[0102]
If it is determined in step S35 that the “color anaglyph 1” button 132 has not been pressed, the process proceeds to step S37. In step S37, the GUI block 71 determines whether or not the “color anaglyph 2” button 133 has been pressed. If it is determined that the “color anaglyph 2” button 133 has been pressed, the process proceeds to step S38. In step S 38, the stereoscopic image generation block 75 generates a second color anaglyph image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. . The display control block 76 displays the generated second color anaglyph image in the main area 102. Thereafter, the process proceeds to step S45.
[0103]
If it is determined in step S37 that the “color anaglyph 2” button 133 has not been pressed, the process proceeds to step S39. In step S39, the GUI block 71 determines whether or not the “lenticular” button 134 has been pressed. If it is determined that the “lenticular” button 134 has been pressed, the process proceeds to step S40. In step S 40, the stereoscopic image generation block 75 generates a lenticular image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. The display control block 76 displays the generated lenticular image in the main area 102. Thereafter, the process proceeds to step S45.
[0104]
If it is determined in step S39 that the “lenticular” button 134 has not been pressed, the process proceeds to step S41. In step S41, the GUI block 71 determines whether or not the “liquid crystal shutter glasses” button 135 has been pressed. If it is determined that the “liquid crystal shutter glasses” button 135 is pressed, the process proceeds to step S42. In step S 42, the stereoscopic image generation block 75 supplies the L image and the R image that are the basis of the currently generated stereoscopic image to the display control block 76 in accordance with the control from the GUI block 71. The display control block 76 displays the L image and the R image alternately in the main area 102 in synchronization with the field period of the display unit 57 according to the control from the GUI block 71. Thereafter, the process proceeds to step S43.
[0105]
In step S43, the GUI block 71 waits until any button is pressed. If it is determined that any button has been pressed, the process proceeds to step S44. In step S 44, the GUI block 71 determines whether or not the “END” button 107 has been pressed. If it is determined that the “END” button 107 has been pressed, the stereoscopic image conversion process is terminated, and the image processing program 65 being executed is also terminated.
[0106]
If it is determined in step S44 that the “END” button 107 has not been pressed, the process returns to step S31 and the subsequent processing is repeated.
[0107]
In step S45 executed after the processing of step S34, S36, S38, or S40, the GUI block 71 waits until any button is pressed. If it is determined that any button has been pressed, the process proceeds to step S46. In step S46, the GUI block 71 determines whether or not the “print” button 106 has been pressed. If it is determined that the “print” button 106 has been pressed, the process proceeds to step S47. In step S47, the display control block 76 prints the image data of the anaglyph image, the first color anaglyph image, the second anaglyph image, or the lenticular image displayed in the main area 102 according to the control from the GUI block 71. Output to (not shown) and print.
[0108]
The printed anaglyph image, first color anaglyph image, or second anaglyph image can be viewed three-dimensionally by using red and blue glasses. The printed lenticular image can be viewed three-dimensionally through the lenticular panel. This is the end of the description of the stereoscopic image conversion process.
[0109]
Next, FIG. 20 shows a display example of the window 101 when the “text input” button 136 is pressed. On the upper side of the main area 102, a text input area 141 for displaying arbitrary characters, symbols, etc. is provided so as to be superimposed on the stereoscopic image displayed in the main area 102. Characters and the like input to the text input area 141 are superimposed on the stereoscopic image so that they can be viewed stereoscopically. The user can move the text input area 141 to an arbitrary position by dragging and dropping using the mouse (operation input unit 56).
[0110]
On the upper side of the main area 102, a “near” button 142 that is pressed to bring the perspective of the character or the like input to the text input area 141 when viewed stereoscopically, and the character or the like input to the text input area 141, etc. There is provided a “far” button 143 that is pressed to reduce the perspective of the stereoscopic view.
[0111]
Here, the text input process will be described with reference to the flowchart of FIG. This text input process is started when the “text input” button 136 is pressed.
[0112]
In step S 51, the display control block 76 displays the text input area 141 so as to be superimposed on the stereoscopic image displayed in the main area 102. When the user inputs an arbitrary character or the like in the text input area 141, the stereoscopic image generation block 75 displays the character or the like in the stereoscopic image so that the input character or the like is stereoscopically viewed with a predetermined perspective. Superimpose.
[0113]
In step S52, the GUI block 71 determines whether or not the “near” button 142 has been pressed. If it is determined that the “near” button 142 is pressed, the process proceeds to step S53. In step S 53, the stereoscopic image generation block 75 superimposes characters and the like on the stereoscopic image so that the perspective of the input characters and the like can be viewed stereoscopically closer according to the control from the GUI block 71. . If it is determined in step S52 that the “near” button 142 has not been pressed, the process in step S53 is skipped.
[0114]
In step S54, the GUI block 71 determines whether or not the “far” button 143 has been pressed. If it is determined that the “far” button 143 has been pressed, the process proceeds to step S55. In step S55, the stereoscopic image generation block 75 superimposes characters and the like on the stereoscopic image and the like so that the perspective of the input characters and the like can be viewed stereoscopically at a further distance in accordance with the control from the GUI block 71. To do. If it is determined in step S54 that the “far” button 143 has not been pressed, the process in step S55 is skipped.
[0115]
In step S56, the GUI block 71 determines whether or not the “text input” button 13642 has been pressed again. If it is determined that the “text input” button 136 has not been pressed again, the process returns to step S52, and the subsequent processing is repeated.
[0116]
If it is determined in step S56 that the “text input” button 13642 has been pressed again, the process proceeds to step S57. In step S 57, the stereoscopic image generation block 75 outputs the input text information such as characters, coordinate information on the stereoscopic image such as characters, and perspective information such as characters in the stereoscopic view to the image management block 72. The image management block 72 records in association with the image data of the stereoscopic image. This is the end of the description of the text input process.
[0117]
In the present specification, the step of describing the program recorded in the recording medium is not limited to the processing performed in time series according to the described order, but is not necessarily performed in time series, either in parallel or individually. The process to be executed is also included.
[0118]
Further, in this specification, the system represents the entire apparatus constituted by a plurality of apparatuses.
[0119]
【The invention's effect】
As described above, according to the present invention, it is possible to unify the image quality of the L image and the R image that are the basis of the stereoscopic image obtained by using the optical adapter.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating a state where an optical adapter is attached to a camera.
FIG. 2 is a diagram illustrating a configuration example of the optical adapter in FIG.
FIG. 3 is a diagram illustrating a parallax image captured by a camera with an optical adapter attached.
FIG. 4 is a diagram illustrating a configuration example of a stereoscopic vision system to which the present invention is applied.
FIG. 5 is a diagram illustrating a parallax image composed of a mirror image and a through image.
FIG. 6 is a diagram illustrating an L image and an R image trimmed from a mirror image and a through image.
FIG. 7 is a diagram for explaining a process of generating a stereoscopic image by combining an L image and an R image.
FIG. 8 is a diagram illustrating a stereoscopic image.
FIG. 9 is a diagram for explaining an overview of stereoscopically viewing a stereoscopic image.
10 is a block diagram illustrating a configuration example of the personal computer in FIG. 4;
11 is a diagram illustrating a configuration example of functional blocks that are realized by the CPU in FIG. 10 executing an image processing program.
FIG. 12 is a diagram illustrating a display example of a window corresponding to an image processing program.
13 is a diagram showing a display example of a window when the “image acquisition” button in FIG. 12 is pressed.
FIG. 14 is a flowchart illustrating a stereoscopic image generation process.
FIG. 15 is a flowchart illustrating an image pair automatic selection process.
FIG. 16 is a flowchart illustrating position adjustment processing in the vertical direction of an L image and an R image.
FIG. 17 is a diagram illustrating a display example of a window in the vertical position adjustment process for an L image and an R image.
FIG. 18 is a diagram illustrating a display example of a window when a stereoscopic image is generated.
FIG. 19 is a flowchart illustrating a stereoscopic image conversion process.
FIG. 20 is a diagram showing a display example of a window when the “text input” button in FIG. 18 is pressed.
FIG. 21 is a flowchart illustrating text input processing.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1 Digital still camera, 11 Optical adapter, 31 Personal computer, 41 Filter glasses, 43 Line polarizing plate, 51 CPU, 61 Magnetic disk, 62 Optical disk, 63 Magneto-optical disk, 64 Semiconductor memory, 65 Image processing program, 71 GUI block, 72 image management block, 73 image acquisition block, 74 base image selection block, 75 stereoscopic image generation block, 76 display control block

Claims

An image that generates image data for displaying a stereoscopic image based on a mirror image obtained through a mirror and a through image obtained without going through the mirror, which are simultaneously photographed using an optical adapter. In the processing device,
To match the luminance signal of the pixels of the center portion of the mirror image, the luminance signal of the peripheral portion of the mirror image is corrected based on the correspondence table or function is generated based on an experiment carried out in advance results luminance Correction means;
The process of adjusting the luminance signal of the mirror image corrected by the luminance correction unit so as to match the luminance signal of the through image, or the luminance correction unit so as to match the color difference signal of the through image Adjusting means for executing at least one of the processes for adjusting the color difference signal of the corrected mirror image based on the through image;
For the odd lines of the stereoscopic image using one image data of one of the mirror image and the through image, the even lines of the stereoscopic image and the other image data of the mirror image and the through image used, generating means and the including image processing apparatus for generating image data for displaying the stereoscopic image.

The generation means further uses the other image data for odd lines of the stereoscopic image and uses the one image data for even lines of the stereoscopic image in response to a user's replacement operation. Generating image data for displaying the stereoscopic image
The image processing apparatus according to 請 Motomeko 1.

The image processing apparatus according to 請 Motomeko 1, further comprising emphasizing edge enhancement means edges in the mirror image.

It trimmed the mirror image and the through image, respectively, the image processing apparatus according to 請 Motomeko 1 further comprising a trimming means for generating an image for image and the right eye for the left eye.

The generating means uses one image data of the left-eye image and the right-eye image for the odd-numbered lines of the stereoscopic image, and the left-eye for the even-numbered lines of the stereoscopic image. The image data of the stereoscopic image is generated using the other image data of the image for the right eye and the image for the right eye
The image processing apparatus according to 請 Motomeko 4.

In response to a user's movement operation, the image processing apparatus further includes moving means for moving the vertical position of the left-eye image and the right-eye image,
The generation unit uses one of the left-eye image and the right-eye image moved by the moving unit for odd lines of the stereoscopic image, and uses the image data of the stereoscopic image. For even lines, the image data of the stereoscopic image is generated using the other image data of the left-eye image and the right-eye image moved by the moving means.
The image processing apparatus according to claim 5 .

An image that generates image data for displaying a stereoscopic image based on a mirror image obtained through a mirror and a through image obtained without going through the mirror, which are simultaneously photographed using an optical adapter. processing apparatus,
Brightness correction means;
Adjusting means;
Generation means and
Including
It said brightness correcting means, to match the luminance signal of the pixels of the center portion of the mirror image, the luminance signal of the peripheral portion of the mirror image, the corresponding table or function is generated based on an experiment carried out in advance results corrected on the basis of,
The adjustment unit adjusts the luminance signal of the mirror image corrected by the luminance correction unit so as to match the luminance signal of the through image, or matches the color difference signal of the through image, Executing at least one of the processes of adjusting the color difference signal of the mirror image corrected by the brightness correction unit based on the through image;
The generating means uses one image data of the mirror image and the through image for odd lines of the stereoscopic image and uses the image data of the mirror image and the through image for even lines of the stereoscopic image. using the other image data, that generates image data for displaying the stereoscopic image
Including image processing method of the step.

Image to generate image data for displaying a stereoscopic image based on the captured, a through image obtained without going through the mirror image obtained via the mirror, and the mirror simultaneously with the optical adapter The computer of the processing device
Brightness correction means;
Adjusting means;
Generation means and
Including
It said brightness correcting means, to match the luminance signal of the pixels of the center portion of the mirror image, the luminance signal of the peripheral portion of the mirror image, the corresponding table or function is generated based on an experiment carried out in advance results corrected on the basis of,
The adjustment unit adjusts the luminance signal of the mirror image corrected by the luminance correction unit so as to match the luminance signal of the through image, or matches the color difference signal of the through image, Executing at least one of the processes of adjusting the color difference signal of the mirror image corrected by the brightness correction unit based on the through image;
The generation means uses one of the mirror image and the through image for odd lines of the stereoscopic image, and uses the image data of the mirror image and the through image for even lines of the stereoscopic image. using the other image data, that generates image data for displaying the stereoscopic image
Recorded computer-readable record medium storing a program for executing a process including steps.

Image to generate image data for displaying a stereoscopic image based on the captured, a through image obtained without going through the mirror image obtained via the mirror, and the mirror simultaneously with the optical adapter The computer of the processing device
Brightness correction means;
Adjusting means;
Generation means and
Including
It said brightness correcting means, to match the luminance signal of the pixels of the center portion of the mirror image, the luminance signal of the peripheral portion of the mirror image, the corresponding table or function is generated based on an experiment carried out in advance results corrected on the basis of,
The adjustment unit adjusts the luminance signal of the mirror image corrected by the luminance correction unit so as to match the luminance signal of the through image, or matches the color difference signal of the through image, Executing at least one of the processes of adjusting the color difference signal of the mirror image corrected by the brightness correction unit based on the through image;
The generation means uses one of the mirror image and the through image for odd lines of the stereoscopic image, and uses the image data of the mirror image and the through image for even lines of the stereoscopic image. using the other image data, that generates image data for displaying the stereoscopic image
Because of program processing by the execution includes the step.