Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7851144B2 - システム並びに装置、制御方法 - Google Patents
[go: Go Back, main page]

JP7851144B2 - システム並びに装置、制御方法 - Google Patents

システム並びに装置、制御方法

Info

Publication number
JP7851144B2
JP7851144B2 JP2022022342A JP2022022342A JP7851144B2 JP 7851144 B2 JP7851144 B2 JP 7851144B2 JP 2022022342 A JP2022022342 A JP 2022022342A JP 2022022342 A JP2022022342 A JP 2022022342A JP 7851144 B2 JP7851144 B2 JP 7851144B2
Authority
JP
Japan
Prior art keywords
subject
imaging
exposure
motion vector
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022022342A
Other languages
English (en)
Other versions
JP2023119433A (ja
Inventor
宏典 海田
尚子 渡澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2022022342A priority Critical patent/JP7851144B2/ja
Priority to US18/164,036 priority patent/US12356082B2/en
Publication of JP2023119433A publication Critical patent/JP2023119433A/ja
Application granted granted Critical
Publication of JP7851144B2 publication Critical patent/JP7851144B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Accessories Of Cameras (AREA)

Description

本発明は、カメラの撮影を制御する技術に関し、特に、ウェアラブルデバイスを用いて撮影をするカメラのシステム並びに装置、制御方法に関する。
加速度センサや人感センサ等のセンシング結果によりカメラの撮影を制御する技術が知られている。
例えば、特許文献1では携帯可能な装置(ウェアラブルデバイス)の状況に応じて、離れたところにあるカメラのオート撮影を制御することが開示されている。
特開2016-072673号公報
しかしながら、上述の特許文献に開示された従来技術では、センシング結果に基づいてオート撮影のタイミング制御を行うことが主であり、カメラに写る被写体の動き状態を含めてカメラの撮影設定を自動で行うところまで考慮されていない。そのため、撮影のタイミングは制御できても、被写体の動きが速い場合には撮影した被写体がブレてしまう可能性がある。そこで本発明の目的は、被写体の動き状態をカメラの解析結果と携帯可能な装置によるセンシング結果を連携させることで、被写体の動き状態に合わせたカメラの撮影設定を自動で決定することを可能にしたシステムを提供する。
上記目的を達成するために、本発明に係る撮像システムの1つは、被写体を撮像する撮像手段と、前記撮像手段で撮像した画像を用いて被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出手段と、前記被写体の動きベクトルの精度について信頼度を算出する算出手段と、外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信手段と、撮像時の露出を制御する露出制御手段と、を備えた撮像装置と被写体の情報を取得するセンサ手段と、前記センサ手段の前記センシング結果を前記撮像装置送信する送信手段と、を備えた前記撮像装置とは異な、撮影する被写体に装着する前記センサ装置からなる撮像システムであって、前記撮像装置は、前記送信手段により送信され前記受信手段により受信された前記センシング結果と、前記被写体動き検出手段の結果を用いて前記撮像手段の露出制御を行い、前記露出制御手段は前記信頼度が閾値以上の動きベクトルを用いて、前記撮像手段の露出制御を行うことを特徴とする。
本発明によれば、より好適に被写体の動きに考慮して、被写体ブレを減らせるカメラ制御を行うことを提供することができる。
本発明の構成例を示す図 撮像システム100の外観としての一例を示す図 実施例1のカメラ101の動作を説明するフローチャート 実施例2のカメラ101の動作を説明するフローチャート ウェアラブルデバイス102の動作を説明するフローチャート ブロックマッチングを説明する図 準備撮影画像の撮影条件を決定する動作を説明するフローチャート 被写体の動きを示した図 動きベクトルの算出処理を示すフローチャート 被写体の動きベクトルの補正する図 被写体の動きベクトルと被写体動きブレ量との関係を示した図 デジタルゲインを掛けて露光量を補正する処理を説明する図 実施例2の本露光の処理の詳細を説明するフローチャート 電子先幕シャッタの構成を説明する図 電子先幕シャッタの動作を説明する図 露光打ち切り制御を行う方法を説明する図 被写体が複数人の場合のイメージ図 ウェアラブルデバイス102が複数の場合を説明するフローチャート 主要なウェアラブルデバイス102を決定するフローチャート ウェアラブルデバイス102の優先順位を設定する設定画面例 ウェアラブルデバイス102の優先度決め項目について説明する図 ウェアラブルデバイス102の優先度順位の算出方法について説明する図
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。なお、以下の実施形態は特許請求に係る発明を限定しない。また、実施形態には複数の特徴が記載されているが、そのすべてが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。本実施形態では、スマートフォンや、リストバンド型端末等のウェアラブルデバイスとカメラを連携させ、カメラの露光制御操作をオートで実現する。
これにより無人撮影や、自分撮りのようなユースケースでも、被写体の動きを所望のブレ以下に抑えるように露光制御を行うことを実現し、オートの利用シーンを広げるものである。
図1は本実施例で説明する撮像システム100の一例である。図1の撮像システム100は、カメラ101とウェアラブルデバイス102の二つの装置で実現する。ウェアラブルデバイス102の一例としては、スマートフォンやリストバンド型端末等が挙げられ、その形態については問わない。図2は、本発明の一実施の形態の外観を示す図である。図2(a)はカメラ101としてデジタルカメラ201と、ウェアラブルデバイス102としてスマートフォン202の二つを接続している撮像システム100を表している。
制御部112は、例えばCPUであり、カメラ101が備える各ブロックに対する制御プログラムを後述のROM113より読み出し、後述のRAM114に展開して実行する。これにより、制御部112は、カメラ101が備える各ブロックの動作を制御する。
ROM113は、電気的に消去・記録可能な不揮発性メモリであり、カメラ101が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶する。
RAM114は、書き換え可能な揮発性メモリであり、制御部112等が実行するプログラムの展開や、カメラ101が備える各ブロックの動作で生成等されたデータの一時的な記憶等に用いられる。
通信部115は、所定の無線通信規格に応じて通信を行う。例えば、無線通信規格として、IEEE802.11規格の所謂Wi-Fi、Bluetooth(登録商標)、およびNFCなどがあり、少なくとも1つをサポートしていればよい。
光学系121は、ズームレンズ、フォーカスレンズを含むレンズ群で構成され、被写体像を後述の撮像素子122の撮像面上に結像する。
撮像素子122は、例えばCCDやCMOSセンサ等で構成される。撮像素子122の各画素は、光学系121により撮像素子122の撮像面上に結像された光学像を光電変換し、得られたアナログ画像信号を後述のA/D変換部123に出力する。
A/D変換部123は、入力されたアナログ画像信号をデジタル画像データに変換し、A/D変換部123から出力されたデジタル画像データは、RAM114に一時的に記憶される。
画像処理部124は、RAM114に記憶されている画像データに対して、ホワイトバランス調整、色補間、ガンマ処理など、様々な画像処理を適用する。また、画像処理部124は、記録された画像間の動きベクトルの算出や、被写体の検出なども行う。これらの詳細については後述する。
記録部125は、着脱可能なメモリカード等であり、画像処理部124で処理された画像データを、RAM114を介し、記録画像として記録する。
パルス発生部126は、非撮影状態から撮影状態に移行した際に、撮像素子122に走査クロック(水平駆動パルス)や所定の制御パルスを供給する。パルス発生部126で発生した走査クロックのうち、垂直走査用のクロックは、後述の垂直駆動変調部111に入力する。
垂直駆動変調部111は、パルス発生部126で発生した走査クロック信号のうち、垂直走査用のクロックを所定のクロック周波数に変調し、撮像素子122に入力する。この垂直駆動変調部111によって、複数の画素からなる撮像素子122のライン毎に行われるリセット走査の走査パターンが決定される。この撮像素子122のライン毎のリセット走査により、電子先幕シャッタとしての機能を実現する。
ジャイロセンサ119は、角速度を検出する動き検知センサであり、カメラの振れの大きさを判別する。
メカシャッタ118は、物理的に光を遮る遮光機構を実現する開閉式のシャッタ機構で構成される(以降、メカシャッタ)。また、メカシャッタ118は、複数の遮光羽根で構成された後幕(以降、メカ後幕)として働く。制御部112は、メカ後幕の走行を開始させるタイミングを調整することで露光時間(シャッタースピード)を制御する。一方、電子先幕の機能は、所定のタイミングで撮像素子122の画素をライン毎に順次リセット走査することで実現する。
表示部127は、LCD等の表示デバイスであり、RAM114に記憶されている画像や記録部125に記録されている画像の表示、ユーザの指示を受け付けるための操作ユーザインターフェイスの表示等を行う。また、表示部127は、準備撮影中に構図合わせ等のために撮像素子122が撮像した画像を表示する。
以上、カメラ101の構成について説明した。
続いてウェアラブルデバイス102の構成について図1を用いて説明する。ウェアラブルデバイス102はタッチスクリーンディスプレイ141を備えており、液晶ディスプレイ142には文字、画像、およびアイコンなどが表示される。タッチスクリーン143はジェスチャー操作を検知することでできる。
インカメラ134は、レンズと光学像を電気信号に変換するCCD又はCMOSなどの撮像素子とを備えている。このインカメラ134はAF(オートフォーカス)、絞り、およびシャッタースピード調整機能などを備える小型のカメラモジュールである。そして、インカメラ134はタッチスクリーンディスプレイ141に対面する物体を撮像する。
照度センサ145はインカメラ134や、アウトカメラ135で集光する被写体の照度情報を取得し、撮影時の露光時間やISO感度の調整に用いる。
制御部138は、例えばCPUであり、ウェアラブルデバイス102が備える各ブロックに対する制御プログラムを後述のROM151より読み出し、後述のRAM152に展開して実行する。これにより、制御部138は、ウェアラブルデバイス102が備える各ブロックの動作を制御する。制御部138はタッチスクリーン143、スイッチ144、インカメラ134、照度センサ145、アウトカメラ135、およびライト136などを制御してカメラ機能を提供する。
ROM151は、電気的に消去・記録可能な不揮発性メモリであり、ウェアラブルデバイス102が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶する。
RAM152は、書き換え可能な揮発性メモリであり、制御部112等が実行するプログラムの展開や、ウェアラブルデバイス102が備える各ブロックの動作で生成等されたデータの一時的な記憶等に用いられる。
スピーカー139からは、スイッチ144において音出力オンの場合に、撮像の際のシャッタ音および警告音を出力する。
コネクタ133はウェアラブルデバイス102と外部装置とを接続する際に用いられる。例えば、コネクタ133には、後述する電源モジュール132に備えられたバッテリーを充電するためのACアダプタが接続される。また、コネクタ133は、外部から接続される不揮発性メモリに対する画像データおよび音声データなどの入出力の際に用いられる。なお、コネクタ133はDockコネクタのような専用に設計された端子であってもよく、USB(Universal Serial Bus)のような汎用的な端子であってもよい。
アウトカメラ135は、インカメラ134と同様の小型のカメラモジュールである。アウトカメラ135はインカメラ134の反対側の被写体を撮像する。ライト136は発光モジュールであり、アウトカメラ135による撮像の際にはフラッシュとして機能する。
通信モジュール131は、所定の無線通信規格に応じて通信を行う。例えば、無線通信規格として、IEEE802.11規格の所謂Wi-Fi、Bluetooth(登録商標)、およびNFCなどがあり、通信モジュール131は少なくとも1つをサポートしていればよい。具体的な通信としては、撮像によって得られた画像データの入出力およびウェアラブルデバイス102に対する機能追加プログラムモジュールのダウンロードが該当する。また、カメラ101へ後述するセンサ群(照度センサ145、加速度センサ146、ジャイロセンサ147、奥行きセンサ148)の情報を送信などの際に用いられる。
電源モジュール132は充電可能なバッテリーを備えており、ウェアラブルデバイス102全体に電源を供給する。電源モジュール132に備えられたバッテリーとして、例えば、リチウムイオン電池又はニッケル水素電池が用いられる。
加速度センサ146は、ウェアラブルデバイス102に作用する加速度の方向と大きさを検知する。加速度センサ146はXYZ方向の3軸における検知が可能である。
ジャイロセンサ147はウェアラブルデバイス102の角度および角速度を検知する。
奥行きセンサ148は、カメラから撮影する被写体までの距離を計測する。距離の計測する方式としては、赤外線や光や超音波などを物体に反射して跳ね返ってくるまでの時間を測定する方式や、複数台のカメラや画素を平行に並べ、視差画像から被写体の奥行情報を取得する方法がある。
図2は、撮像システム100の外観としての一例を示している。図2の(a)~(c)は、それぞれ撮像システム100として連携するカメラ101とウェアラブルデバイス102の組合せを表している。カメラ101と、ウェアラブルデバイス102間の接続は例えばBluetooth(商標登録)等で無線接続し、通信を行い撮像システム100と連携する。201は、カメラ101の一例としてデジタルカメラを示す。202は、ウェアラブルデバイス102の一例としてスマートフォンを示しており、このスマートフォンにはカメラ機能が搭載されている場合が多い。そのため、図2(c)のスマートフォン204に搭載するインカメラ134やアウトカメラ135のように、カメラ機能を使うことでウェアラブルデバイス102側ではなく、カメラ101側として使うことも可能である。また、ウェアラブルデバイス102は、スマートフォン以外にもリストバンド型端末203等の形態を使用することも可能である。
以上、撮像システム100の外観とシステム構成について説明を行った。
(第1の実施形態)
以下、図3と図5のフローチャートを参照して、本発明の第1の実施形態(実施例1)に係る、撮像システム100の処理について説明する。実施例1では、ウェアラブルデバイス102を撮影対象である被写体が装着し、カメラ101は外部に配置したリモートカメラの構成をとる。そして、ウェアラブルデバイス102を通して被写体動き情報をセンシングし、ウェアラブルデバイス102が取得した被写体動き情報を補助情報として、カメラ101の撮影条件を決定する。
まずは、ウェアラブルデバイス102の動作について、図5を用いて処理について説明する。なお、以下の処理は、ROM151に記憶されたプログラムに従って、制御部138が装置の各部を制御することにより実現される。
ステップS501では、まずウェアラブルデバイス102の電源をユーザが入れる。そしてウェアラブルデバイス102は被写体動き情報を検出するためセンサ(加速度センサ146、ジャイロセンサ147、奥行きセンサ148等)からウェアラブルデバイス102のセンシング信号を受信するための待機動作を行う。
ステップS502において、カメラ101の通信部115は、ステップS501で取得したセンシング信号を一定の時間の間隔で取得する。例えば、センシング信号として、ウェアラブルデバイス102の加速度情報を取得する。加速度情報を取得するためには、加速度センサ146からの出力を所定時刻ごとに定期的に取得する。以上により、ウェアラブルデバイス102を装着した部位の被写体の加速度情報を得ることが可能となる。これは、加速度センサ146でなくとも、他の被写体の動き状態を検出できるセンサを使っても間接的にウェアラブルデバイス102装着部位の被写体の加速度情報を取得することも可能である。一例としては、奥行きセンサ148によるカメラ101からウェアラブルデバイス102までの距離変化を取得することで単位時間当たりに被写体の動き速度や加速度情報を算出することができる。
ステップS503において、まずユーザは、ウェアラブルデバイス102を特定の位置、例えば動きの邪魔にならない手首などに装着する。ウェアラブルデバイス102は、被写体に装着されたことを触感センサ(不図示)などにより感知する。また、ウェアラブルデバイス102は、被写体の動きが分かる位置であれば自由に取り付けることも可能である。その場合、ウェアラブルデバイス102の装着部位の特定方法としては、装着しているデバイスをカメラ101側が取得した画像データから検出してもよい。また、事前にウェアラブルデバイス102の被写体に装着する部位を設定する方法や、事前に所定時間内における特定部位の加速度、速度の大きさなどを記録しておき、実際の動きを基に動いている被写体部位を特定する技術が知られている(特許第6325581号)。例えば、ステップS502でウェアラブルデバイス102の加速度センサ146から加速度情報を取得している。したがって、事前に装着部位ごとの所定時間当たりに記録した加速度変化と取得した加速度情報を照らし合わせてウェアラブルデバイス102の装着部位を特定することができる。
ステップS504において、ウェアラブルデバイス102の通信モジュールA131は、ステップS502で求めた加速度情報や、ウェアラブルデバイス102の装着部位情報を被写体動き情報としてカメラ101に送信する。
以上が、ウェアラブルデバイス102の処理である。続いて、カメラ101の動作について図3のフローチャートを用いて説明する。なお、図3のフローチャートの処理は、撮像システム100のカメラ101にて、ROM113に記憶されたプログラムに従って、制御部112がカメラ101の各部を制御することで実現される。
ステップS301では、カメラ101の通信部115はウェアラブルデバイス102から送信された被写体動き情報を受信する。
ステップS302において、ユーザはカメラ101を用いて構図合わせなどの準備撮影を開始する。この準備撮影期間中は、カメラ101は連続的に画像を撮像し、記録した画像を表示部127に表示する。ユーザは表示された準備撮影画像を見ながら構図合わせなどを行う。なお、後述するステップS303、ステップS304及びステップS305の処理は準備撮影期間中に行う。
ステップS303において、カメラ101の制御部112は、構図内の被写体の動きベクトルを検出するために撮像する準備撮影画像の撮影条件を決定する。詳しくは後述するが、準備撮影を初期撮影条件で行なった際の構図内の被写体動き量と、ウェアラブルデバイス102の通信モジュールA131から送信された被写体動き情報を用いて、ウェアラブルデバイス102を装着している部位(被写体注目部位)の被写体ブレが少なくなるシャッタースピードを設定する。
ステップS304において、表示部127に構図内の被写体と、撮影設定条件(シャッタースピード、ISO感度、F値等)を表示する。
ステップS305では、カメラ101の制御部112は、リモートレリーズが発動したかを判断する。リモートレリーズとは、ユーザがカメラと接続しているウェアラブルデバイス102を通して、カメラ101で露光を開始するタイミングシグナルを発信する制御である。リモートレリーズの発動は、ウェアラブルデバイス102を装着したユーザが所定のジェスチャーを行ったときの、ジャイロセンサ147の出力や、ウェアラブルデバイス102のレリーズボタン(不図示)を押すことで発生させることができる。もしくは、撮影者(ユーザ)が直接カメラ101のシャッターボタン(不図示)を押したかどうかを判定する。その場合にはユーザは表示部127に表示した被写体を見ながらシャッタータイミングに合わせてカメラ101のシャッターボタンを押す。カメラ101のシャッターボタンが押された場合には、ステップS306の本露光処理に進む。逆に、シャッタータイミングでない場合には、ステップS301にもどることで、再度撮影設定をやり直すことが可能である。
ステップS306では、カメラ101の制御部112は、画像を撮影するために上記のステップの処理で行った撮影設定で露光処理を行い、撮影が完了した画像は、ROM113に記録する。
このように、準備撮影中において、ユーザは表示部127に表示される動きブレ報知画像を確認しながら、好みの動きブレになるまで本撮影の露光時間の設定を繰り返し、シャッターチャンス時にシャッターボタンを押下する。
ステップS305においてユーザによってカメラ102のシャッターボタンが押下されると、カメラ101は本撮影を行い、本撮影画像をROM113に記録する。
次に、本発明の特徴であるステップS303の処理について図7のフローチャートを参照して説明する。
図7のステップS701において、カメラ101の制御部112は、初期撮影条件を設定し、カメラ101が準備撮影画像を連続して撮像する。ここでいう初期撮影条件とは、主にフレームレート、シャッタースピードを示す。そして、AE(オートエクスポージャー)やAF(オートフォーカス)制御などの一般的なカメラで行うオート機能の制御に用いられる評価値を算出する処理に影響を与えない範囲で、最も高フレームレート、高速シャッタースピードの設定を行う。また、シャッタースピードを高速に設定した際にも、適正の露出条件で撮影ができるように、シャッタースピードに合わせて光学系121を制御する。例えば、光学系121のレンズの絞りや、カメラ101のISO感度設定を制御することで、適切な露出条件で撮影ができるように制御(露出制御)を行う。カメラ101では、以上のように設定された初期撮影条件で時系列的に連続する画像の撮影を行う。なお、撮影した画像は、移動被写体の蓄積ブレがほとんど無く、また、撮像した連続画像間での被写体の移動量がなるべく小さい条件で撮影されるのが望ましい。ただし、そのような条件はISO感度が上がりやすく、高感度でノイズの多い画像データが取得されることが多くなるなどの弊害もある。一方で、被写体の移動量が小さいので、速い被写体でも動きを捉えやすくなるという利点がある。
ステップS702では、カメラ101の画像処理部124は、ステップS701で撮影した時系列的に連続する準備撮影画像から被写体の動きベクトルを算出する。
まず、図8を用いて準備撮影画像から算出される動きベクトルについて説明する。図8は、被写体の動きを示した図である。図8(a)は、左に走っている犬801と止まっている犬802のシーンを撮影している例である。動きベクトルとは、準備撮影画像の画像間における被写体の水平方向の移動量と垂直方向の移動量を表したものである。この動きベクトルの例を図8(b)に示す。
図8(b)は、図8(a)の準備撮影画像の動きベクトルの例を示す図である。図8(b)の例では、走っている犬801は左方向の動きベクトルとして検出し、それ以外の止まっている犬802や背景の柵は動きベクトル0として検出するため、動きベクトルを図示していない。
続いて動きベクトルの算出方法について、図9及び図6を参照して詳しく説明する。図9は、動きベクトルの算出処理を示すフローチャートである。以下のフローチャートではROM113に記憶されたプログラムに従って、制御部112がカメラ101の各部を制御することで実現される。なお、本発明では、動きベクトルの算出手法としてブロックマッチング法を例に挙げて説明するが、動きベクトルの算出手法はこの例に限定されず、例えば勾配法等でもよい。
図9のステップS901において、カメラ101の画像処理部124に時間的に隣接する2枚の準備撮影画像が入力される。そして、画像処理部124はM番目フレームの準備撮影画像を基準フレームに設定し、M+1番目フレームの準備撮影画像を参照フレームに設定する。
ステップS902において、画像処理部124は、図6のように、基準フレーム601において、N×N画素の基準ブロック602を配置する。
ステップS903において、画像処理部124は、図6のように、参照フレーム603に対し、基準フレーム601の基準ブロック602の中心座標と同座標604の周囲(N+n)×(N+n)画素を、探索範囲605として設定する。
ステップS904において、画像処理部124は、基準フレーム601の基準ブロック602と、参照フレーム603の探索範囲605内に存在する異なる座標のN×N画素の参照ブロック606との相関演算を行い、相関値を算出する。相関値は、基準ブロック602及び参照ブロック606の画素に対するフレーム間差分絶対値和に基づき算出する。つまり、フレーム間差分絶対値和の値が最も小さい座標が、最も相関値が高い座標となる。なお、相関値の算出方法は、フレーム間差分絶対値和を求める方法に限定されず、例えばフレーム間差分二乗和や正規相互相関値に基づく相関値を算出する方法でもよい。図6の例では、参照ブロック606が最も相関が高いことを示しているとする。
ステップS905において、画像処理部124はステップS904で求めた最も高い相関値を示す参照ブロック座標に基づき動きベクトルを算出する。図6の例の場合、参照フレーム603の探索範囲605の中で、基準フレーム601の基準ブロック602の中心座標に対応した同座標604と、参照ブロック606の中心座標に基づき動きベクトルが求められる。つまり、同座標604から参照ブロック606の中心座標までの座標間距離と方向が動きベクトルとして求められる。
ステップS906において、画像処理部124は、基準フレーム601の全画素について動きベクトルを算出したか否か判定する。画像処理部124は、ステップS906において全画素の動きベクトルを算出していないと判定した場合には、ステップS902に処理を戻す。そして、ステップS902では、動きベクトルが算出されていない画素を中心として前述した基準フレーム601にN×N画素の基準ブロック602が配置され、以下前述同様に、ステップS903からステップS905の処理が行われる。すなわち、画像処理部124は、図6の基準ブロック602を移動させながら、ステップS902からステップS905までの処理を繰り返して、基準フレーム601の全画素の動きベクトルを算出する。動きベクトルを算出する単位としては、画素単位でも画像を所定の分割数に分割した単位ごとに算出してもよい。以上の処理を撮像時間が近い準備撮影画像間で行うことで動きベクトルを算出する。
続いてステップS703は、ウェアラブルデバイス102から取得した被写体動き情報とカメラ101で求めた被写体の動きベクトルを用いて画像処理部124が被写体の主要部位に対応するベクトルを算出する。
画像処理部124はウェアラブルデバイス102で求めた被写体動き情報を用いて、ユーザが被写体ブレを軽減したい被写体の主要部位に対応するベクトルを特定した後、更に該当する主要部位の被写体の動きベクトルの補正する処理を行う。図10を用いて具体的に説明する。
まず、被写体の主要部位に対応するベクトルの特定を行うため、画像処理部124は候補となる被写体の動きベクトル群を見つける。これについて図10(a)を用いて説明する。図10(a)では、主要部位となる候補の被写体の動きベクトル群(1011、1012、1013、1014)を示した図である。主要部位情報は、ステップS504で送信された被写体動き情報のウェアラブルデバイス102の装着部位に該当する情報である。被写体の主要部位と被写体の動きベクトルとの対応は、被写体の動きベクトルを求める準備撮影画像の中から、画像処理部124が主要部位に対応する被写体の動きベクトルを選択することで実現する。準備撮影画像から主要部位を検出する方法としては、一般的な被写体認識技術などの手法を用いてよい。例えば、ウェアラブルデバイス102の装着部位が犬の頭の場合、画像処理部124は準備撮影画像中の被写体の動きベクトルが求まっている範囲の中で、ウェアラブルデバイス102が装着されている犬の頭を検出する。そして、画像処理部124は検出した犬の頭部領域から所定の距離内に存在する被写体の動きベクトル群(1011、1012、1013、1014)を選択し、更にその中から、最も動き量が大きい被写体の動きベクトル(1011)を検出し、これを主要部位の被写体の動きベクトルとする。
続いて、該当する主要部位の被写体の動きベクトルの補正する処理について、図10の(b)、(c)を用いて詳しく説明を行う。主要部位の被写体の動きベクトルの補正とは、出力の更新レートが遅い動きベクトル算出処理に対して、出力の更新レートが速いウェアラブルデバイス102から送信する装着部位の加速度情報を用いて被写体の動きベクトルを補正することで被写体の動きベクトルの更新レートを疑似的に向上させ、被写体の動き変化に対応する被写体の動きベクトルを得る処理である。
図10の(b)は、被写体の動きベクトルと被写体動き情報の取得タイミングを示した図である。
被写体の動きベクトルは時系列的に連続する2フレーム以上の準備撮影画像を用いて、被写体の動きベクトルに用いる準備撮影画像間の移動量を求めるものである。例えば、被写体の動きベクトル1031を求めるためには、少なくとも準備撮影画像1021と1022の2フレームをカメラ101が取得するまで求めることができない。また、次の被写体の動きベクトル1032を求めるためには、準備撮影画像1023を取得するまで算出することができない。この、被写体の動きベクトル1031から被写体の動きベクトル1032を算出するまでのブランク期間1041の間に被写体の動きが急に変わった場合には、被写体の動きベクトルの更新レートが遅いため、そのタイミングの被写体の動きが正しく検出できない。一方ウェアラブルデバイス102で検出される被写体動き情報としての加速度情報は、準備撮影画像に依存せず、デバイスの動きを直接検出することができるため、一般的に高速な検出が可能である(1051)。
一般的なカメラ101であるデジタルカメラで取得できる準備撮影画像は高速でも120fps程度であるため、被写体の動きベクトルは120fps以下の更新レートとなる。一方、一般的なウェアラブルデバイス102であるスマートフォンに搭載されている加速度センサ146の出力更新レートは被写体の動きベクトルの出力更新レートの10~100倍以上である。
そのため、ウェアラブルデバイス102で検出した加速度情報を用いて画像処理部124が被写体の動きベクトルを補正することでより、被写体の動きベクトルが更新されない期間においても精度が高い被写体の動きベクトルを求めることができる。また、被写体の動きベクトルは準備撮影画像に依存するので、低コントラストの被写体や、蓄積ブレやピンボケが発生している画像からでは被写体の動きベクトルが求まらない場合がある。すなわち、カメラ101のみでは被写体動き情報を取得できない場合があり、ベクトルの更新レートが遅くなる可能性がある。したがって、更新レートの早いウェアラブルデバイス102によるセンサ情報を用いて被写体の動きベクトルを補正して更新することは有効である。
続いて、図10(c)を用いて、主要部位の動きベクトルの補正処理について説明する。図10(c)は、主要部位の被写体の動きベクトル1061、被写体の動きベクトルの更新前に被写体の動きが遅くなった時に補正した被写体の動きベクトル1062、被写体の動きが早くなった時に補正した被写体の動きベクトル1063を表している。
なお、画像に対しての主要部位の動きベクトルは、角度と複数方向の大きさを持つため式1を用いてベクトルの大きさに変換する。一般的に画像に用いる動きベクトルは2次元座標上の方向性を持つため、式1を適用することで、スカラーとしてベクトルの大きさに変換できる。
被写体の動きベクトルの補正の方法は、被写体の動きベクトルが更新された時点までの主要部位の加速度変化に対応するゲイン処理を行うことで可能である。従って、ウェアラブルデバイス102が検出した主要部位の加速度情報を用いて、算出した加速度変化量をα(加速度が変化無しの場合は1)とすると、被写体の動きベクトルの補正は式2のように表すことができる。
補正後の被写体の動きベクトル=α×被写体の動きベクトル…式2
上記式1の式を用いて主要部位の被写体の動きベクトルを補正すると、加速度変化量αが1より小さい場合は1062となり、逆に加速度変化量αが1より大きい場合は1063のように補正前の被写体の動きベクトルから換算する。このような被写体の動きベクトルの補正を行い、リアルタイムの被写体の動きと極力時間差が発生しない様に主要部位のブレ量を求める。
続いてステップS704において、制御部101の指示の下、カメラ100の不図示のブレ量推定部が、上記ステップの処理で算出した主要部位の被写体の動きベクトルと、ユーザの設定するシャッタースピードにおいて被写体で発生する動きブレ量を推定する。この被写体動きブレ量は、被写体の動きベクトルを算出する準備撮影画像の撮像フレームレートと、ユーザがカメラ101に設定するシャッタースピードと、被写体の動きベクトルを用いて以下の式で算出する。
被写体動きブレ量=被写体の動きベクトル*
(フレームレート(fps)/シャッタースピード(s))…式3
上記式3に関して被写体の動きベクトルと、被写体動きブレ量の関係について図11を用いて説明する。図11は、被写体の動きベクトルと被写体動きブレ量との関係を示した図である。例えば、フレームレート60fpsで更新する準備撮影画像の前後フレームを用いて被写体の動きベクトルを算出するため、被写体の動きベクトル1101も更新フレームレートは60fpsとなる。一方、被写体動きブレ量は、露光中に被写体が動いたブレ量のため、ユーザが設定したシャッタースピードに対応する。例えばユーザがシャッタースピードを1/120秒に設定した場合、被写体の動きベクトルを求める準備撮影画像の前後フレーム間は、1/60秒となる。したがって、被写体の動きベクトル1101が10pixとすると、その半分の長さの5pixが被写体動きブレ量1102となる。
続いて、ステップS705においてカメラ101は、ステップS704で算出した被写体動きブレ量と許容動き量を比較し、許容動き量以下の被写体ブレ量になるように次に撮影する準備撮影画像のシャッタースピード変更し、準備撮影画像の撮影条件を変更する。許容動き量とは、所定のシャッタースピードで撮影した場合に動きブレとして目立たない程度に収まる動きブレ量である。許容動き量の大きさはCCDやCMOSセンサ等の撮像素子のサイズ、画素数、そして、表示するディスプレイの解像度によって決まる。例えば、撮像素子が、APS-Cで、画素数が20万画素、フルHD(1920×1080画素)のPCディスプレイにおける許容動き量を5pixel以下とする。許容動き量以下の動きブレ量になるようにカメラ101が準備撮影画像を撮像するには、以下の式4、式5を用いてシャッタースピードを決定する。
n=被写体動きブレ量/許容動き量・・・式4
この時、式4によって求めたnが1よりも大きければ、現在設定しているシャッタースピードで撮影すると、被写体ブレが発生する可能性が高いことを示し、1以下であれば、被写体ブレが発生する可能性が低いシャッタースピードであることを意味する。そのため、被写体ブレの発生が少なくなる適切なシャッタースピードは、以下の式5を用いて算出する。
更新シャッタースピード(s)≦設定シャッタースピード(s)*1/n・・・式5
具体的な数値を用いて説明すると、図11の動きブレ量1102は5pixであり、許容動き量も5pixである。そのため、式4によりn=1となり、現在設定しているシャッタースピードは被写体ブレの影響が小さいことが分かる。そのため、式5により準備撮影画像の撮影条件(そのまま変更しない場合実際露光する撮影条件となる)としてのシャッタースピードは、1/120より速い露光時間を設定すればよい(今回の場合は1/120sから変更しない)。また、撮影に十分な光量がある場合には、ISO感度や、絞りとの兼ね合いでシャッタースピードを更に1/250より早く設定しても良い。
以上、準備撮影画像の撮影条件としてシャッタースピードを更新する例について説明した。なお、より被写体の動きベクトルを検出する精度を上げるために、準備撮影画像を撮影するフレームレートを上げ、被写体の動きベクトルを算出する更新レートを早くしても良い。更新レートを速くする条件は以下のようになる。
更新フレームレート(fps)≧設定フレームレート(fps)*n・・・式6
上記のフレームレートやシャッタースピードは、動き検出を行うために重要な撮影条件である。また、適正の明るさで撮像するために、フレームレートやシャッタースピードの変更に伴い、絞り値、ISO感度も変更し、露出値が変わらないように制御する。
ステップS303の詳細な処理について、図7のステップS701~ステップS705の処理を用いて準備撮影画像の撮影条件(そのまま変更しなければ本番撮影も同じ撮影条件のまま)を決定する処理について説明を行った。
以上、実施例1における撮像システム100の処理について説明を行った。具体的には、ウェアラブルデバイス102を通して被写体動き情報をセンシングする。そして、ウェアラブルデバイス102が取得した被写体動き情報を補助情報として、被写体の動きベクトルを更新し、カメラ101の撮影条件を決定する。本発明によると、ウェアラブルデバイス102と連携し、カメラ101で算出した被写体の動きベクトルの検出精度を高め、被写体ブレが少なくなるシャッタースピードを設定することが可能となる。これにより撮影者はカメラに触れることなく撮影者が望む被写体の動きを所望のブレ以下に抑えるようにシャッタースピードを設定し、撮影の露光調整を行うことを実現できる。本発明により、オート撮影の利用シーンを広げることが可能である。
実施例1において、動きブレ量を算出する場合に、被写体の動きベクトルをユーザの設定しているシャッタースピードに合わせて換算することで、動きブレ量を算出する方法に関して説明した。なお、動きブレ量の算出は、シャッタースピードに合わせて換算しなくても良い。たとえば、被写体の動きベクトルに対して、予め設定した閾値を比較して、閾値を超えた場合にシャッタースピードを現在の設定値よりも速い値に変更することで、簡易的に同様の処理が実現可能である。
実施例1では、被写体の主要部位を特定し、主要部位における被写体の動きベクトルを選択する方法を説明した。なお、準備撮影画像から求めた被写体の動きベクトルから最も動きが速い被写体の動きベクトルを選択しても良い。
実施例1では、被写体の主要部位を特定し、主要部位における被写体の動きベクトルを選択する方法を説明した。なお、カメラ101にウェアラブルデバイス102に搭載している加速度センサ146同様の加速度センサが搭載されている場合には、カメラ101に搭載されている加速度センサの動きとは別の被写体の動きベクトルを選択しても良い。カメラ101に搭載される加速度センサにはカメラ101を動かした本体の動き情報が得られるため、それと異なる動きベクトルを選択することで主要な動き被写体以外の動き情報を振るい落とすことが可能となる。
実施例1では、被写体の主要部位を特定し、主要部位における被写体の動きベクトルを選択する方法を説明した。なお、算出した被写体の動きベクトルのうち、カメラ101で撮影する際の画角の中央に写る範囲や、画像内でオートフォーカスの対象となっている領域付近の被写体の動きベクトルを選択しても良い。
実施例1では、被写体の主要部位を特定し、主要部位における被写体の動きベクトルを選択する方法を説明した。なお、準備撮影画像にウェアラブルデバイス102が映っている場合には、画像から直接ウェアラブルデバイス102の位置を検出しても良い。
また、主要部位の被写体の動きベクトルを選択する前に、準備撮影画像から求めた被写体の動きベクトルに対して、選別処理を行っても良い。例えば、被写体の動きベクトルを求める過程で行うテンプレートマッチングなどの演算では、相関値演算などを行う。その際相関値が予め定めた閾値よりも低くなったベクトルに対しては、信頼度が低い(信頼度が閾値以下)被写体の動きベクトルと判定する。これにより、相関値が閾値以上(信頼度が閾値以上)の、より精度が高い被写体の動きベクトルだけを抽出することが可能である。
(第2の実施形態)
次に、本発明の第2の実施形態(実施例2)について図面を参照して詳細に説明する。実施例2では、本露光処理中の被写体動きブレ量を基に露光制御を行うことで、被写体の動きブレ量を軽減した画像を取得することができる。なお、実施例2の撮像システム100のウェアラブルデバイス102側の処理は、実施例1と同様のため説明を省略する。実施例2の特徴となるカメラ101の制御部112で行う動作を図13のフローチャートを用いて説明を行う。なお、以下の処理は、撮像システム100としてカメラ101は、ROM113に記憶されたプログラムに従って、制御部112が装置の各部を制御することで実現される。また、ウェアラブルデバイス102は、ROM151に記録されたプログラムに従って、制御部138が装置の各部を制御することによって実現される。実施例1と同じステップの処理については同符号を付与し、詳細な説明は省略する。
まず、図4を用いてカメラ101の撮影動作を説明する。図4のステップS301~ステップS305までの処理は、実施例1の図3のステップS301~ステップS305の処理と同じため説明を省略する。実施例2では、ステップS401の本露光の処理が実施例1と異なる。
ステップS401では、カメラ101は、露光中の被写体の着目部位に対する動きブレ量に基づいて、露光の中断処理を行い被写体ブレの発生を抑えた撮影を行う。
続いて、露光中の被写体の着目部位に対する動きブレ量に基づいて、カメラ101の制御部112が行うステップS401の本露光処理の制御について図13のフローチャートを用いて詳しく説明する。
図13のステップS306は、実施例1のステップS306と同様にカメラ101は本露光処理を開始する。
具体的に本露光処理を行う際の電子先幕シャッタの構成と撮影動作について図14、図15を用いて詳細に説明する。
図14は、撮像素子122およびメカ後幕1403をレンズ側から光軸方向に沿ってみた様子を示す正面図である。撮影が開始された後の撮像素子122で行われるリセット走査及び、メカ後幕1403の走行が途中である時の状態を示している。矢印1401は、リセット走査の操作方向(電子先幕1407の走行方向)とメカ後幕1403の走行方向を示している。図1のメカシャッタ118で構成されるメカ後幕1403が、撮像素子122の一部の領域を遮光している状態が示されている。更にリセットライン1408は、撮像素子122で行われるリセット走査のライン(リセットライン)であり、画素の電荷蓄積量がゼロにリセットする動作として、電子先幕1407の端部に相当する。リセットライン1408とメカ後幕1403の端部1405との間のスリットによって形成される領域1406は、電子先幕1407とメカ後幕1403の走行にしたがって矢印1401の方向へ移動していくように制御する。リセットライン1408が通過してから、つまり画素が矢印1401の方向ヘライン毎に順次リセットされてから、メカ後幕1403によって遮光状態となるまでの時間が、画素の露光による電荷蓄積時間となる。このように、リセットライン1408が矢印1401の方向へ走行してライン毎の電荷蓄積が開始されるので、電荷蓄積の開始タイミングは撮像素子122のライン毎にも異なる。
図15を用いて電荷蓄積のタイミングを詳しく説明する。図15(a)は、電荷のリセットと読み出し開始の概念図、図15(b)は、ライン毎の電荷のリセットと読み出しのタイミング説明図となっている。図15(b)のライン1501~ライン1510は、ライン毎に電荷をリセット処理されるタイミングを表しており、最初に端部のライン1501が電荷を読み出した後、電荷をリセットする動作を行う。逆に、端部のライン1510が最後にリセットされるラインである。このように、ライン毎にリセットのタイミングを制御している。ライン毎にリセットのタイミングが異なるため、電荷の蓄積時間が各ラインで揃うように、電荷の読み出し時間もライン1511~ライン1520でライン毎に同じ露光時間になるように制御部112が制御する。
図13のステップS1301において、制御部112は、図4のステップS303で検出した本露光直前のカメラ101の画像処理部124で算出した被写体の動きベクトルに対して補正を行う。被写体の動きベクトルの補正は露光中のウェアラブルデバイス102からの被写体動き情報に含まれる加速度センサ146の出力を基に行う。本露光が始まると、カメラ101は撮像素子122が複数存在しない限り、準備撮影画像を撮像することができなくなる。したがって、本露光中は被写体の動きベクトルを更新できない。そのため、ここでは本露光直前までに算出した着目部位における被写体の動きベクトルに対して推定を行う。推定には加速度センサ146の加速度情報を用いて、実施例1のステップS703の処理に相当する主要部位の被写体の動きベクトルの補正を行い、その後動きブレ量に変換する処理を行う。以上の処理により、カメラ101の本露光中においても動きブレ量を推定することが可能となる。
ステップS1302において、カメラ101の制御部112は、ステップS1301で推定した動きブレ量が許容動き量を超えるかを判断する。許容動き量を超えた場合には、ステップS1303の処理に進む。逆に許容ブレ量を超えなかった場合にはステップS1304の処理に進む。
ステップS1304において、カメラ101の制御部112は、図4のステップS303で求める撮影条件を満たしているかを判断する。撮影条件とは主に、露光中の蓄積ブレに影響するかを判断する。これは、本露光前に設定したシャッタースピードに対応する露光時間を満たしたかどうかで判断が可能である。撮影条件を満たしている場合には、ステップS1305の処理に進み露光を終了する。
ステップS1303で、カメラ101の制御部112は撮像素子122にこれ以上の露光が継続すると画像に被写体ブレが発生すると判断し、撮影条件に設定されている露光時間よりも早く、メカシャッタ118を閉じる。これにより、撮像素子122への入光が遮断される。続いてステップS1305の処理に進み露光を終了する。ステップS1303における露光打ち切り制御を行う方法については図16を用いて詳しく説明する。
図16は、本露光処理中に被写体動きブレ量が許容動き量(許容閾値)を超えた場合に、カメラ101の制御部112がメカ後幕を制御し、露光中断を行う処理のタイミングチャートを示したものである。本露光中の画像に被写体ブレが発生しそうな状況になった場合にメカ後幕を制御し、露光時間の制御を行うことで、被写体ブレの軽減を実現する。
図16のライン1501~ライン1510(図15(b)と撮影条件は同じ)は、リセットラインである。ライン1501のリセット処理を開始した後に外光が撮像素子122に届き、電荷の蓄積が開始される。露光中のカメラ101本体の動きによって画像に蓄積ブレが発生しない場合には、次のリセット処理のライン1511~ライン1520(図15(b)と撮影条件は同じ)まで電荷が蓄積される。今回は、露光中に被写体動きブレ量が許容動き量を超えた場合に電荷の蓄積を制御する方法を説明する。
制御部112は、図16の先頭リセットライン1501のリセット処理を実行し露光を開始する。この時、被写体動きブレ量が大きくなり、図16の1611のタイミングで被写体動きブレ量の許容閾値を超えることを検出すると、制御部112はメカ後幕を駆動し、撮像素子122に外光が届かないようにメカシャッタ118を閉じる。メカシャッタ118の働きにより、図16の1601~1610の間が実際の露光時間となる。つまり、1601~1610からライン1511~ライン1520の間の時間は露光されないため、撮像素子122に電荷が蓄積されない。したがって、被写体の動きによって発生する写体ブレを防ぐことができる。メカシャッタ118の制御で電荷の蓄積をストップしたが、メカシャッタ118が搭載されていないシャッタに関しては、パルス発生部126よりリセットパルスを発生させて電荷の蓄積を中断させることで同様の処理が可能である。
続いて図13のステップS1306において制御部112は、設定した露光時間になったかどうかを判断する。まだ設定した露光時間よりも短いと判断した場合には、ステップS1307の処理に進む。
ステップS1307で、制御部112は画像データ取得時に不足した露光時間に対し、画像データが本来の露光時間の明るさになるように差分の露光時間分をデジタルゲインとして、取得した画像データに掛ける信号処理を行う。なお、露光時間の差分から求めるデジタルゲインは、以下の式から求められる。
デジタルゲイン=撮像開始時に設定した露光時間/(撮像開始時に設定した露光時間-
露光開始からメカシャッタを切った時間)・・・式7
式7で算出したデジタルゲインを画像データに掛けることで、画像データの明るさを期待していた露光時間相当の明るさに補正する。より厳密にゲイン補正を行う場合には、画像データの水平ライン毎にデジタルゲインを算出し、画像データに水平ライン毎のデジタルゲインを掛けてもよい。
一方、設定した露光時間になった場合には、制御部112は、ライン毎の電荷の読み出しを行い、読み出しが終わったラインから電荷のリセット処理を行うことで、カメラ101の露光を終了し、画像データを取得する。
続いて、画像処理部124が行うステップS1307にて不足した露光量に対する補正処理について図12を用いて詳しく説明する。一例として、図12の画像信号1201は目標露光量で撮像した際の画像信号、画像信号1202は途中で露光を中断したため、露光時間が不足し目標露光量に届かない画像信号を示す。図12は、横軸を被写体輝度とし、横軸の被写体輝度の際の画像信号レベルを縦軸で示している。例えば、画像信号1202は目標露光量となる1201に比べ、露光時間が半分で撮像した場合の画像信号となっている。カメラ101が撮像するときの露光量は、一般的にF値、ISO感度とシャッタースピード(露光時間)によって決まる。そのため、露光を途中で中断することで露光量は、露光時間が短くなった分だけ目標露光量と比べ不足する。露光時間が半分になった場合には、露光量は半分となる。よって、2倍のデジタルゲインをかけることで、画像信号1202は、画像信号1201と同じ露光量に調整することができ、本来の目標露光量を取得できる。以上の処理を撮像素子122のライン単位で補正していくことで、露光が中断された場合でも、本来の目標露光量の明るさで被写体を撮影することが可能となる。
以上、実施例2の撮像システム100が、露光中に被写体のブレの大きさに基づいて露光を制御する方法について図13のフローチャートを用いて説明を行った。これらの処理により、露光中でシャッタースピードを変えることが難しい状況でも、露光時間を制御することで、被写体ブレを軽減した画像を取得することが可能となる。
(第3の実施形態)
次に、本発明の第3の実施形態(実施例3)について図面を参照して詳細に説明する。実施例3では、撮影対象である複数人の被写体がウェアラブルデバイス102を装着し、カメラ101は外部に設定した構成をとる。複数人の被写体がウェアラブルデバイス102を装着しているシーン例を図17に示す。図17は、被写体A~被写体Fの6人の被写体が、1701~1708のウェアラブルデバイス102を装着している例を示している。被写体Aは1701、被写体Bは1702、1703、1704、被写体Cは1705、被写体Dは1706、被写体Eは1707、被写体Fは1708のウェアラブルデバイス102を装着している例である。これらウェアラブルデバイス102を通して各々の被写体の被写体動き情報をセンシングし、取得した被写体動き情報を補助情報として、カメラ101の撮影条件を決定する。なお、実施例3の撮像システム100のウェアラブルデバイス102側の処理は、実施例1と同様のため説明を省略する。実施例3の特徴となるカメラ101の制御部112で行う動作を図18のフローチャートを用いて説明を行う。なお、以下の処理は、撮像システム100としてカメラ101は、ROM113に記憶されたプログラムに従って、制御部112が装置の各部を制御することで実現される。また、ウェアラブルデバイス102は、ROM151に記録されたプログラムに従って、制御部138が装置の各部を制御することによって実現される。実施例1と同じステップの処理については同符号を付与し、詳細な説明は省略する。
カメラ101の撮影動作については、実施例1の図3のステップS301~ステップS306の処理と同じため説明を省略する。実施例3の特徴であるステップS303の処理について図18のフローチャートを参照して説明するが、実施例1の図7のステップS701~ステップS705の処理と同じ処理をする部分については説明を省略する。
図18のステップS701において、カメラ101の制御部112は、初期撮影条件をカメラ101のROM113から読み出し、条件に従って準備撮影画像を連続して撮像する。
ステップS702では、ステップS701で撮影した時系列的に連続する準備撮影画像からカメラ101の画像処理部124が被写体の動きベクトルを算出する。
ステップS1801では、ステップS701で撮影した時系列的に連続する準備撮影画像からカメラ101の画像処理部124において被写体を検出する。被写体を検出する方法としては、一般的な被写体検出技術などの手法を用いる。例えば、顔・顔器官検出や頭部検出などが挙げられる。顔・顔器官検出や頭部検出は、撮影された画像から、パターン認識や機械学習に基づく手法により、人物の顔及び器官や頭部が存在する領域を検出する方法である。
ステップS1802では、画像処理部124がステップS1801において検出された被写体が1人なのか複数人なのかを判定する。1人と判定された場合はステップS1804に進み、複数人と判定された場合は、ステップS1803に進む。
ステップS1803では、ステップS1802において検出された被写体が複数人であったため、ウェアラブルデバイス102を装着している人の中から、カメラ101の画像処理部124において主要被写体を検出する。主要被写体の検出方法としては、一般的な主要被写体検出の手法を用いてよい。例えば、準備撮影画像において、画角における被写体の占める面積が一番大きい人や、準備撮影画像の中心に一番近い人を主要被写体として検出する。もしくは、ユーザが予め主要被写体としてカメラ101のROM113に登録している人を主要被写体として検出する構成としてもよい。
ステップS1804では、カメラ101の制御部112はステップS1803で主要被写体と検出された人が装着しているウェアラブルデバイス102が1つなのか複数個なのかを判定する。1つと判定された場合はステップS1806に進み、複数個と判定された場合はステップS1805に進む。ウェアラブルデバイス102の個数の判定方法としては、予めユーザが各々の被写体が装着するウェアラブルデバイス102をカメラ101のROM113に登録してもよい。また、実施例1における図5のステップS503で説明したように、ステップS1801において検出された各々の被写体のどこの部位にウェアラブルデバイス102が装着されているかをカメラ101の画像処理部124において特定することにより、ウェアラブルデバイス102の個数を判定する方法でもよい。また、カメラ101の通信部115とウェアラブルデバイス102の通信モジュール131が通信を行うことで個数を判定する方法も可能である。
ステップS1805では、ステップS1802、ステップS1803を通して主要被写体と検出された人が装着しているウェアラブルデバイス102がステップS1804において複数個であると判定されたため、複数個のウェアラブルデバイス102の中で主要なウェアラブルデバイス102を検出する。主要なウェアラブルデバイス102の検出方法について図19のフローチャートを用いて詳細に説明する。
ステップS1901において、カメラ101の制御部112は、ユーザにより予めウェアラブルデバイス102の優先度が設定されているか否かを判定する。優先度が設定されていると判定された場合は、ステップS1904に進み、優先度が設定されていないと判定された場合は、ステップS1902に進む。
予めユーザによって優先度が設定されている例として、図20にカメラ101の表示部127のユーザが設定可能なウェアラブルデバイス102の優先順位の設定画面例を示す。表示部127は、表示部だけでなく、タッチパネルとしてユーザが設定値を入力することも可能な構成にしてもよい。図20において2000は、ウェアラブルデバイス102の優先順位を設定する設定画面例である。2001は被写体IDであり、図17のイメージ図の被写体A~被写体Fを示す。2002は、ウェアラブルデバイス102IDであり、図17のイメージ図の1701~1708のウェアラブルデバイス102を示す。2003は、ウェアラブルデバイス102の優先順位を示している。この設定画面例では、ユーザが被写体Bの1704のウェアラブルデバイス102の優先順位を1番高く設定している例である。
ステップS1902において、カメラ101の制御部112は準備撮影画像の所定領域内に一定期間位置しているウェアラブルデバイス102を検出する。例えば、所定領域内として準備撮影画像の画角を100%とした場合に、準備撮影画像の中心座標を中心とした90%の矩形範囲内に任意に設定した閾値の時間以上存在しているウェアラブルデバイス102を検出する。
ステップS1903において、カメラ101の制御部112はステップS1902で検出されたウェアラブルデバイス102の不図示の優先度算出部において、優先度を算出する。優先度の算出はユーザによって、優先度決めする項目が予め設定されており、その設定内容に従って優先度を算出する。設定画面例を図21に示す。2100は、ウェアラブルデバイス102の優先度決めの項目を設定する設定画面である。2101は、優先度決めの項目内容であり、例えば、「加速度の速さ順」、「装着部位(頭・胴体・手・足)の設定」、「画角内における顔の面積」、「画角内における装着部位の面積」、「画角中心とウェアラブルデバイス102との距離順」、「顔中心とウェアラブルデバイス102との距離順」、「顔検出信頼度」などの項目がある。「加速度の速さ順」とは、加速度の速さの順序が速いウェアラブルデバイス102の優先度を高くしたい場合に設定する項目である。「装着部位」とは、頭・胴体・手・足の部位の中で、どの部位に装着しているウェアラブルデバイス102の優先度を高くするかを設定する項目である。「画角内における顔の面積」とは、画角内に存在する顔検出された顔の面積比率が大きい人が装着しているウェアラブルデバイス102の優先度を高くしたい場合に設定する項目である。「画角内における装着部位の面積」とは、画角内に存在する頭・胴体・手・足の部位の面積比率が大きいウェアラブルデバイス102の優先度を高くしたい場合に設定する項目である。「画角中心とウェアラブルデバイス102との距離順」とは、画角の中心座標と各装着されているウェアラブルデバイス102の中心座標の距離が短いウェアラブルデバイス102の優先度を高くしたい場合に設定する項目である。「顔中心とウェアラブルデバイス102との距離順」とは、顔中心座標と各装着されているウェアラブルデバイス102の中心座標の距離が短いウェアラブルデバイス102の優先度を高くしたい場合に設定する項目である。「顔検出信頼度」とは、顔検出の信頼度が高い人が装着しているウェアラブルデバイス102の優先度を高くしたい場合に設定する項目である。2102は、主要ウェアラブルデバイス102の優先度決めの基準とする項目であり、2101の項目内容に対し、ユーザが選択した項目にチェックが入っている。
優先度の算出方法について図22(a)を用いて説明する。例えば、図21で説明したように優先度決めの項目を設定した場合、設定した各々の項目に対してスコアを算出した後に、各々のスコアを加算した合計値を算出する。合計値のスコアが高いものから順にウェアラブルデバイス102の優先順とし、ステップS1901で説明した図20と同様に各々のウェアラブルデバイス102に対する優先順位を決定する。
合計値のスコアの算出方法について図22(a)を用いて説明する。
図22(a)において、2201は、被写体IDであり、図17のイメージ図の被写体A~被写体Fを示す。2202は、ウェアラブルデバイス102IDであり、図17のイメージ図の1701~1708のウェアラブルデバイス102を示す。2203は、「加速度の速さ順」のスコア値であり、速さの順位が高いウェアラブルデバイス102ほどスコア値が高くなる。2204は、「装着部位」であり、図21では手を選択している為、手に装着したウェアラブルデバイス102のスコア値が高くなる。2205は、「画角中心とウェアラブルデバイス102との距離順」であり、画角中心とウェアラブルデバイス102の距離が近いほど、スコア値が高くなる。2206は、「顔検出信頼度順」であり、各々の被写体の顔検出の信頼度が高いほど、スコア値が高くなる。2207は、合計スコア値であり、2203~2206で算出したスコア値の合計値である。例えば、ステップS1803において、主要被写体が被写体Bと検出された場合を考える。被写体Bは、1702、1703、1704の3つのウェアラブルデバイス102を装着している。そして、優先度決めの項目として「装着部位」が手に設定されている場合、1703のウェアラブルデバイス102の合計スコア値が1番大きくなり、優先順位が1番高くなる。算出した合計スコア値を基に優先順位を付けた場合の優先順位の結果を図22(b)に示す。図22(b)において、2208は、被写体IDであり図17のイメージ図の被写体A~被写体Fを示す。2209は、ウェアラブルデバイス102IDであり、図17のイメージ図の1701~1708のウェアラブルデバイス102を示す。2210は、ウェアラブルデバイス102の優先順位を示している。
仮に、被写体Bが右手・左手の2つにウェアラブルデバイス102を付けていた場合は、「装着部位」のスコア値は共に同じ100になるので、その他の項目のスコア値が高い方ほど優先度が高くなる。
ステップS1904において、カメラ101の制御部112は、ステップS1901もしくはステップS1903で算出された優先順位に応じて、優先順位が1番高いウェアラブルデバイス102を主要なウェアラブルデバイス102(主要センサ装置)と仮決定する。
ステップS1905において、カメラ101の制御部112は、ステップS1904で仮決定されたウェアラブルデバイス102が、準備撮影画像において所定領域内に一定期間位置しているか判定する。例えば、所定領域内として準備撮影画像の画角を100%とした場合に、準備撮影画像の中心座標を中心とした90%の矩形範囲内に任意に設定した閾値の時間以上存在していれば、ステップS1907に進む。存在していなければ、ステップS1906に進む。
ステップS1906において、カメラ101の制御部112は、ステップS1904で仮決定したウェアラブルデバイス102の次に優先度が高いウェアラブルデバイス102を主要なウェアラブルデバイス102と仮決定する。その後、ステップS1905へと進み、主要なウェアラブルデバイス102が決定されるステップS1907に進むまでこの判定を繰り返す。仮にこの判定を繰り返した後に、ステップS1901もしくはステップS1903で決定した優先順位のウェアラブルデバイス102のうち、いずれのウェアラブルデバイス102も準備撮影画像の所定領域内に一定期間位置していないと判定された場合は、カメラ101は、デフォルトとして予め設定していたウェアラブルデバイス102を次のステップS1907で主要ウェアラブルデバイス102として決定する。
ステップS1907において、カメラ101の制御部112は、ステップS1904もしくは、ステップS1906で仮決めされたウェアラブルデバイス102を主要ウェアラブルデバイス102として検出する。
続いて図18のステップS1806では、カメラ101の制御部112は、図19のフローの検出結果に基づき、次のステップでウェアラブルデバイス102の情報を取得するために、主要なウェアラブルデバイス102を決定する。
ステップS703において、実施例1のステップS703と同様にカメラ101は、ステップS1806で決定した主要なウェアラブルデバイス102から取得した被写体動き情報とカメラ101で求めた被写体の動きベクトルを用いて被写体の主要部位に対応するベクトルを算出する。
ステップS704では、実施例1のステップS704と同様に、制御部101の指示の下、カメラ100の不図示のブレ量推定部は、上記ステップの処理で算出した主要部位の被写体の動きベクトルと、ユーザの設定するシャッタースピードにおいて被写体で発生する動きブレ量を推定する。
ステップS705では、実施例1のステップS705と同様にカメラ101は、ステップS704で算出した被写体動きブレ量と許容動き量を比較し、許容動き量以下の被写体ブレ量になるように次に撮影する準備撮影画像のシャッタースピード変更し、準備撮影画像の撮影条件を変更する。
以上、実施例3の撮像システム100の処理について説明を行った。具体的には、被写体が複数人のシーンにおいても、装着されている複数個のウェアラブルデバイス102から主要なウェアラブルデバイス102を決定し、主要なウェアラブルデバイス102を通して被写体動き情報をセンシングし、ウェアラブルデバイス102が取得した被写体動き情報を補助情報として、被写体の動きベクトルを更新し、カメラ101の撮影条件を決定し、被写体ブレを軽減した画像を取得することが可能となる。
なお、ウェアラブルデバイス102の優先度決めの項目として「加速度の速さ順」、「装着部位(頭・胴体・手・足)の設定」、「画角内における顔の面積」、「画角内における装着部位の面積」、「画角中心とウェアラブルデバイス102との距離順」、「顔中心とウェアラブルデバイス102との距離順」、「顔検出信頼度」の項目で説明したがこれに限るものではない。例えば、「カメラと被写体の距離」や「カメラとウェアラブルデバイス102の距離」が近いほどスコアを高く算出し、優先順位を高くする構成にしてもよい。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
100 撮像システム
101 カメラ
121 光学系
122 撮像素子
123 A/D変換部
124 画像処理部
125 記録部
126 パルス発生部
127 表示部
118 メカシャッタ
119 ジャイロセンサ
111 垂直駆動変調部
112 制御部
113 ROM
114 RAM
115 通信部
102 ウェアラブルデバイス
132 電源モジュール
131 通信モジュール
133 コネクタ
134 インカメラ
135 アウトカメラ
136 ライト
137 システムメモリ
138 制御部
139 スピーカー
141 タッチスクリーンディスプレイ
142 液晶ディスプレイ
143 タッチスクリーン
144 スイッチ
145 照度センサ
147 ジャイロセンサ
148 奥行きセンサ
151 ROM
152 RAM
146 加速度センサ

Claims (16)

  1. 被写体を撮像する撮像手段と、
    前記撮像手段が撮像した画像を用いて前記被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出手段と、
    前記被写体の動きベクトルの精度について信頼度を算出する算出手段と、
    外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信手段と
    前記撮像手段の露出の設定を制御する露出制御手段と、を備えた撮像装置と
    被写体の情報を取得するセンサ手段と、
    前記センサ手段の前記センシング結果を前記撮像装置に送信する送信手段と、を備えた
    前記撮像装置とは異なる、撮影する被写体に装着する前記センサ装置からなる撮像システムであって、
    前記撮像装置は、前記送信手段により送信され前記受信手段により受信された前記センシング結果と、前記被写体動き検出手段の結果を用いて前記撮像手段の露出制御を行い、
    前記露出制御手段は前記信頼度が閾値以上の動きベクトルを用いて、前記撮像手段の露出制御を行うことを特徴とする撮像システム。
  2. 前記センサ手段は装着した被写体の動きに関する情報を前記センシング結果として出力することを特徴とする請求項1に記載の撮像システム。
  3. 前記センサ手段は、前記センサ装置を装着した部位の被写体の動き量、被写体の動きの変化量、被写体の位置の変化、のいずれかに基づく装着した被写体の動きに関する情報をセンシングすることを特徴とする請求項1または2に記載の撮像システム。
  4. 前記センサ手段は、前記センサ装置を装着した部位情報を更に取得することを特徴とする請求項1乃至3のいずれか1項に記載の撮像システム。
  5. 前記撮像装置は、前記センサ手段のセンシング結果を基に前記動きベクトルを補正する補正手段をさらに有し、
    前記露出制御手段は前記補正手段が補正した前記動きベクトルを用いて、前記撮像手段の露出制御を行うことを特徴とする請求項乃至のいずれか1項に記載の撮像システム。
  6. 前記撮像装置は、前記被写体動き検出手段の動きベクトルの算出と、前記露出制御手段で設定する露光時間に基づいて、撮影した際の画像のブレ量を推定するブレ量推定手段を備え、
    前記露出制御手段は前記ブレ量推定手段の結果に基づいて、前記撮像手段の露出制御を行うことを特徴とする請求項乃至のいずれか1項に記載の撮像システム。
  7. 被写体を撮像する撮像手段と、
    前記撮像手段が撮像した画像を用いて前記被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出手段と、
    外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信手段と、
    前記センシング結果を基に前記動きベクトルを補正する補正手段と、
    前記撮像手段の露出の設定を制御する露出制御手段と、を備えた撮像装置と、
    被写体の情報を取得するセンサ手段と、
    前記センサ手段の前記センシング結果を前記撮像装置に送信する送信手段と、を備えた
    前記撮像装置とは異なる、撮影する被写体に装着する前記センサ装置からなる撮像システムであって、
    前記露出制御手段は前記補正手段が補正した前記動きベクトルを用いて、前記撮像手段の露出制御を行うことを特徴とする撮像システム。
  8. 被写体を撮像する撮像手段と、
    前記撮像手段が撮像した画像を用いて前記被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出手段と、
    外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信手段と、
    前記撮像手段の露出の設定を制御する露出制御手段と、
    前記被写体動き検出手段の動きベクトルの算出と、前記露出制御手段で設定する露光時間に基づいて、撮影した際の画像のブレ量を推定するブレ量推定手段と、を備えた撮像装置と、
    被写体の情報を取得するセンサ手段と、
    前記センサ手段の前記センシング結果を前記撮像装置に送信する送信手段と、を備えた
    前記撮像装置とは異なる、撮影する被写体に装着する前記センサ装置からなる撮像システムであって、
    前記露出制御手段は前記ブレ量推定手段の結果に基づいて、前記撮像手段の露出制御を行うことを特徴とする撮像システム。
  9. 前記センサ手段の出力の更新は、前記被写体動き検出手段の出力の更新よりも速いことを特徴とする請求項1乃至のいずれか1項に記載の撮像システム。
  10. 前記露出制御手段は、前記撮像手段で露光を開始した後に、電荷の蓄積量を制御することを特徴とする請求項1乃至のいずれか1項に記載の撮像システム。
  11. 前記撮像装置は、前記センサ装置が複数ある場合に、複数のセンサ装置の優先度に関する情報を取得することで、前記センシング結果を取得するセンサ装置を決定する決定手段をさらに有し、
    前記露出制御手段は、前記決定されたセンサ装置のセンシング結果と、前記被写体動き検出手段の結果を用いて前記撮像装置の露出を制御することを特徴とする請求項1乃至請求項10のいずれか1項に記載の撮像システム。
  12. 前記決定手段は、前記複数のセンサ装置それぞれに対する優先度を算出し、
    前記優先度は、センサ装置の加速度が大きい、画像の中心からの距離が近い、カメラからの距離が近い、センサ装置を装着している被写体の面積が大きい、センサ装置を装着している部位の面積が大きいほど高く算出されることを特徴とする請求項11に記載の撮像システム。
  13. 撮像装置とセンサ装置からなる撮像システムの制御方法であって、
    被写体を撮像する撮像ステップと、
    前記撮像ステップにて撮像した画像を用いて前記被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出ステップと、
    前記被写体の動きベクトルの精度について信頼度を算出する算出ステップと、
    外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信ステップと
    前記撮像装置が備える撮像手段の露出の設定を制御する露出制御ステップと、を備えた前記撮像装置の制御ステップと、
    被写体の情報を取得するセンシングステップと、
    前記センサ装置のセンシング結果を前記撮像装置に送信する送信ステップと、を備えた前記撮像装置とは異なる、撮影する被写体に装着する前記センサ装置の制御ステップと、を有し、
    前記露出制御ステップにおいて、前記センシングステップのセンシング結果と、前記被写体動き検出ステップの結果を用いて前記撮像手段の露出制御実行され、
    前記露出制御ステップでは、前記算出ステップにて算出された前記信頼度が閾値以上の動きベクトルを用いて、前記撮像手段の露出制御を実行することを特徴とする撮像システムの制御方法。
  14. 撮像装置とセンサ装置からなる撮像システムの制御方法であって、
    被写体を撮像する撮像ステップと、
    前記撮像ステップにて撮像した画像を用いて前記被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出ステップと、
    外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信ステップと、
    前記センシング結果を基に前記動きベクトルを補正する補正ステップと、
    前記撮像装置が備える撮像手段の露出の設定を制御する露出制御ステップと、を備えた前記撮像装置の制御ステップと、
    被写体の情報を取得するセンシングステップと、
    前記センサ装置のセンシング結果を前記撮像装置に送信する送信ステップと、を備えた前記撮像装置とは異なる、撮影する被写体に装着する前記センサ装置の制御ステップと、を有し、
    前記露出制御ステップにおいて、前記補正ステップにて補正した前記動きベクトルを用いて、前記撮像手段の露出制御を行うことを特徴とする撮像システムの制御方法。
  15. 撮像装置とセンサ装置からなる撮像システムの制御方法であって、
    被写体を撮像する撮像ステップと、
    前記撮像ステップにて撮像した画像を用いて前記被写体の動きを検出し、前記被写体の動きベクトルを算出する被写体動き検出ステップと、
    外部のセンサ装置が取得し、前記センサ装置から送信されたセンシング結果を受信する受信ステップと、
    前記撮像装置が備える撮像手段の露出の設定を制御する露出制御ステップと、
    前記被写体動き検出手段の動きベクトルの算出と、前記撮像手段に設定される露光時間に基づいて、撮影した際の画像のブレ量を推定するブレ量推定ステップと、を備えた前記撮像装置の制御ステップと、
    被写体の情報を取得するセンシングステップと、
    前記センサ装置のセンシング結果を前記撮像装置に送信する送信ステップと、を備えた前記撮像装置とは異なる、撮影する被写体に装着する前記センサ装置の制御ステップと、を有し、
    前記露出制御ステップにおいて、前記ブレ量推定ステップの結果に基づいて前記撮像手段の露出制御を実行することを特徴とする撮像システムの制御方法。
  16. コンピュータを、請求項1乃至12のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。
JP2022022342A 2022-02-16 2022-02-16 システム並びに装置、制御方法 Active JP7851144B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022022342A JP7851144B2 (ja) 2022-02-16 2022-02-16 システム並びに装置、制御方法
US18/164,036 US12356082B2 (en) 2022-02-16 2023-02-03 Imaging system, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022022342A JP7851144B2 (ja) 2022-02-16 2022-02-16 システム並びに装置、制御方法

Publications (2)

Publication Number Publication Date
JP2023119433A JP2023119433A (ja) 2023-08-28
JP7851144B2 true JP7851144B2 (ja) 2026-04-24

Family

ID=87574882

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022022342A Active JP7851144B2 (ja) 2022-02-16 2022-02-16 システム並びに装置、制御方法

Country Status (2)

Country Link
US (1) US12356082B2 (ja)
JP (1) JP7851144B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016066994A (ja) 2014-09-22 2016-04-28 カシオ計算機株式会社 撮像装置、情報送信装置、撮像制御方法、情報送信方法及びプログラム
US20160182801A1 (en) 2014-12-23 2016-06-23 Bryant Genepang Luk Modifying image parameters using wearable device input
JP2020106770A (ja) 2018-12-28 2020-07-09 キヤノン株式会社 情報処理装置、情報処理方法、撮像装置、及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008010559A1 (en) * 2006-07-20 2008-01-24 Panasonic Corporation Imaging apparatus
US20160088219A1 (en) * 2014-09-22 2016-03-24 Casio Computer Co., Ltd. Image capture apparatus which controls frame rate based on motion of object, information transmission apparatus, image capture control method, information transmission method, and recording medium
JP6476692B2 (ja) 2014-09-26 2019-03-06 カシオ計算機株式会社 システム並びに装置、制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016066994A (ja) 2014-09-22 2016-04-28 カシオ計算機株式会社 撮像装置、情報送信装置、撮像制御方法、情報送信方法及びプログラム
US20160182801A1 (en) 2014-12-23 2016-06-23 Bryant Genepang Luk Modifying image parameters using wearable device input
JP2020106770A (ja) 2018-12-28 2020-07-09 キヤノン株式会社 情報処理装置、情報処理方法、撮像装置、及びプログラム

Also Published As

Publication number Publication date
US12356082B2 (en) 2025-07-08
JP2023119433A (ja) 2023-08-28
US20230269488A1 (en) 2023-08-24

Similar Documents

Publication Publication Date Title
US9479692B2 (en) Image capturing apparatus and method for controlling the same
US8831282B2 (en) Imaging device including a face detector
US8682040B2 (en) Image processing apparatus, image processing method, and image capturing apparatus
JP6512810B2 (ja) 撮像装置および制御方法とプログラム
CN113747050A (zh) 一种拍摄方法及设备
EP2458846B1 (en) Image pickup apparatus that automatically determines shooting mode most suitable for shooting scene, control method therefor, and storage medium
KR101537948B1 (ko) 얼굴 포즈 추정을 이용한 촬영 방법 및 장치
US12096124B2 (en) Subject tracking device, subject tracking method, and storage medium
US10270977B2 (en) Imaging apparatus and a method of tracking a subject in the imaging apparatus
JP2009199049A (ja) 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
US20160088219A1 (en) Image capture apparatus which controls frame rate based on motion of object, information transmission apparatus, image capture control method, information transmission method, and recording medium
US20200177814A1 (en) Image capturing apparatus and method of controlling image capturing apparatus
RU2635873C2 (ru) Способ и устройство для отображения информации кадрирования
JP7851144B2 (ja) システム並びに装置、制御方法
JP6210214B2 (ja) 主要被写体推定装置及びプログラム並びに情報処理装置
JP5390871B2 (ja) 撮像装置、その制御方法
JP2014216830A (ja) 画像追尾装置、画像追尾方法及びプログラム
US12542974B2 (en) Photographing system having exposure control with sensing result, photographing device, and controlling method
JP2014068280A (ja) 撮像装置
US20250024145A1 (en) Information processing device, information processing method, and program
JP7577490B2 (ja) 追尾装置、追尾方法、プログラム
JP5301016B2 (ja) 撮像装置およびその制御方法
JP6565991B2 (ja) 電子機器、被写体検出方法およびプログラム。
JP2024015578A (ja) 制御装置、撮像装置、制御方法、及びプログラム
CN120034741A (zh) 控制设备及其控制方法、摄像设备、计算机可读存储介质和计算机程序产品

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20250117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20251029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20251111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20251216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20260317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20260414

R150 Certificate of patent or registration of utility model

Ref document number: 7851144

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150