Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7633796B2 - Information processing device, image processing device, control method thereof, and image processing system - Google Patents
[go: Go Back, main page]

JP7633796B2 - Information processing device, image processing device, control method thereof, and image processing system - Google Patents

Information processing device, image processing device, control method thereof, and image processing system Download PDF

Info

Publication number
JP7633796B2
JP7633796B2 JP2020186751A JP2020186751A JP7633796B2 JP 7633796 B2 JP7633796 B2 JP 7633796B2 JP 2020186751 A JP2020186751 A JP 2020186751A JP 2020186751 A JP2020186751 A JP 2020186751A JP 7633796 B2 JP7633796 B2 JP 7633796B2
Authority
JP
Japan
Prior art keywords
image data
processing device
information processing
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020186751A
Other languages
Japanese (ja)
Other versions
JP2021166375A (en
Inventor
充輝 本田
洋 荻野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US17/151,655 priority Critical patent/US11477367B2/en
Publication of JP2021166375A publication Critical patent/JP2021166375A/en
Priority to US17/943,935 priority patent/US11711607B2/en
Application granted granted Critical
Publication of JP7633796B2 publication Critical patent/JP7633796B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Studio Devices (AREA)

Description

本発明は情報処理装置、画像処理装置およびそれらの制御方法、ならびに画像処理システムに関する。 The present invention relates to an information processing device, an image processing device, and a control method therefor, as well as an image processing system.

デジタルカメラやデジタルビデオカメラなどの撮像装置では、撮像素子から読み出された画像データ(RAWデータ)を、他の機器で利用可能な汎用的な形式の画像データに変換するための各種の画像処理を実行するハードウェアおよびソフトウェアを有している。 Imaging devices such as digital cameras and digital video cameras have hardware and software that perform various types of image processing to convert image data (RAW data) read from the image sensor into image data in a general-purpose format that can be used by other devices.

特開2003-259281号公報JP 2003-259281 A

撮像装置が備えるハードウェアおよびソフトウェアは、不具合の改善を目的とした更新を除けば基本的に発売当初のままであり、後で発売される機種で新たに搭載される機能を利用することができないのが一般的である。これは、例えば、新たに搭載された機能の実施に必要な仕様を古い機種のハードウェアが満たさないという理由による。 The hardware and software of imaging devices remain essentially the same as when they were first released, except for updates to correct malfunctions, and it is common that new functions added to models released later cannot be used. This is because, for example, the hardware of older models does not meet the specifications required to implement the newly added functions.

また、撮像装置から画像データを取り込んだスマートフォンやタブレットコンピュータであれば、アプリケーションをアップロードすることにより、後で開発された機能を利用することができる。しかしながら、演算内容が非常に高度であったり、演算量が膨大であったりするような機能については、搭載されたハードウェアでは対応できず、スマートフォンやタブレットコンピュータであっても利用できない場合がある。
このように、デジタルカメラやデジタルビデオカメラに限らず、スマートフォンやタブレットコンピュータ等も含む情報処理装置の全般において、同様の課題が生じうる。
Furthermore, if the smartphone or tablet computer captures image data from an imaging device, it is possible to use functions that are developed later by uploading an application. However, functions that require highly advanced calculations or a huge amount of calculations may not be available on the smartphone or tablet computer because the installed hardware cannot handle them.
As described above, similar problems can occur not only in digital cameras and digital video cameras, but also in information processing devices in general, including smartphones, tablet computers, and the like.

特許文献1には、RAW形式の画像データとともにRAWデータの処理プログラムを出力するようにして、画像処理を外部装置で実行する構成が開示されている。この構成によれば、情報処理装置よりも高い能力を必要とする画像処理をRAWデータに適用することも可能である。 Patent document 1 discloses a configuration in which image processing is performed by an external device by outputting image data in RAW format along with a RAW data processing program. With this configuration, it is also possible to apply image processing to RAW data that requires a higher level of capability than the information processing device.

しかし、RAWデータはデータ量が非常に大きい。その上、処理プログラムも外部装置に送信するため、特許文献1の構成はデータ送信に時間を要する。データ送信が有料の場合には通信料が増加するという問題もある。特に、撮像で得られた全てのRAWデータを外部装置に送信すると、これらの問題は非常に大きくなる。 However, RAW data is very large in volume. Furthermore, since the processing program is also sent to the external device, the configuration of Patent Document 1 requires a long time for data transmission. If a fee is charged for data transmission, there is also the problem of increased communication charges. In particular, if all the RAW data obtained by imaging is sent to an external device, these problems become extremely serious.

本発明は、このような従来技術の問題点を少なくとも緩和することを目的としたものである。本発明によれば、外部装置における画像処理を効率的に利用可能とする情報処理装置およびその制御方法が提供される。また、本発明によれば、このような情報処理装置の外部装置として好適な画像処理装置およびその制御方法と、情報処理装置および画像処理装置を有する画像処理システムが提供される。 The present invention aims to at least alleviate the problems of the conventional technology. According to the present invention, an information processing device that enables efficient use of image processing in an external device and a control method thereof are provided. Furthermore, according to the present invention, an image processing device that is suitable as an external device for such an information processing device and a control method thereof, and an image processing system having the information processing device and the image processing device are provided.

上述の目的は、通信手段および制御手段を有する情報処理装置であって、制御手段は、通信手段を通じて第1外部装置に撮像画像の縮小画像データを送信し、第1外部装置から縮小画像データに対する評価処理の結果を受信し、評価処理の結果に基づいて、縮小画像データの元データのうち、第2外部装置で画像処理を適用する元データを決定し、決定した元データを通信手段を通じて第2外部装置に送信し、第2外部装置から、元データに対する画像処理の結果を受信する、ことを特徴とする情報処理装置によって達成される。 The above-mentioned object is achieved by an information processing device having a communication means and a control means, characterized in that the control means transmits reduced image data of a captured image to a first external device through the communication means, receives a result of an evaluation process on the reduced image data from the first external device, determines, based on the result of the evaluation process, original data of the reduced image data to which image processing is applied in a second external device, transmits the determined original data to the second external device through the communication means, and receives the result of image processing on the original data from the second external device.

本発明によれば、外部装置における画像処理を効率的に利用可能とする情報処理装置およびその制御方法が提供される。 The present invention provides an information processing device and a control method thereof that enable efficient use of image processing in an external device.

実施形態に係る画像処理システム、情報処理装置、およびサーバに関する図FIG. 1 is a diagram showing an image processing system, an information processing device, and a server according to an embodiment of the present invention; 第1実施形態に関するフローチャートFlowchart relating to the first embodiment 第1実施形態を説明するための図FIG. 1 is a diagram for explaining a first embodiment. 第1実施形態に関するフローチャートFlowchart relating to the first embodiment 第2~第5実施形態に係る画像処理システムおよびエッジデバイスに関する図FIG. 1 is a diagram relating to an image processing system and an edge device according to a second to fifth embodiment; 第2実施形態に関するフローチャートFlowchart relating to the second embodiment 第3実施形態おけるエッジデバイスに関する図FIG. 11 is a diagram relating to an edge device in the third embodiment. 第3実施形態に関するフローチャートFlowchart relating to the third embodiment 第3および第4実施形態に関するフローチャートFlowcharts for the third and fourth embodiments 第3および第4実施形態を説明するための図FIG. 10 is a diagram for explaining the third and fourth embodiments. 第3および第4実施形態を説明するための図FIG. 13 is a diagram for explaining the third and fourth embodiments. 第4実施形態おけるサーバに関する図FIG. 11 is a diagram related to a server in the fourth embodiment. 第4実施形態に関するフローチャートFlowchart relating to the fourth embodiment 第5実施形態に関するフローチャートFlowchart relating to the fifth embodiment 第6実施形態に係る情報処理装置の機能構成例を示すブロック図FIG. 13 is a block diagram showing an example of a functional configuration of an information processing device according to a sixth embodiment. 第6実施形態に係るサーバ装置およびエッジデバイスの機能構成例を示すブロック図FIG. 23 is a block diagram showing an example of the functional configuration of a server apparatus and an edge device according to a sixth embodiment. 第6実施形態に関するフローチャートFlowchart relating to the sixth embodiment 第6実施形態の変形例に関するフローチャートFlowchart relating to a modification of the sixth embodiment 第7実施形態に関するフローチャートFlowchart relating to the seventh embodiment 第7実施形態における部分領域の例を示す図FIG. 23 is a diagram showing an example of a partial region in the seventh embodiment; 第8実施形態に関するフローチャートFlowchart relating to the eighth embodiment 第9実施形態に関するフローチャートFlowchart relating to the ninth embodiment 第10実施形態に関するフローチャートFlowchart relating to the tenth embodiment 第10実施形態に関するフローチャートFlowchart relating to the tenth embodiment 第11実施形態に関するフローチャートFlowchart relating to the eleventh embodiment 第12実施形態に関するフローチャートFlowchart relating to the twelfth embodiment 第13実施形態に関するフローチャートFlowchart relating to the thirteenth embodiment

以下、添付図面を参照して本発明をその例示的な実施形態に基づいて詳細に説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定しない。また、実施形態には複数の特徴が記載されているが、その全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。 The present invention will be described in detail below based on an exemplary embodiment with reference to the attached drawings. Note that the following embodiment does not limit the invention according to the claims. In addition, although multiple features are described in the embodiment, not all of them are necessarily essential to the invention, and multiple features may be combined in any manner. Furthermore, in the attached drawings, the same reference numbers are used for the same or similar configurations, and duplicate explanations are omitted.

なお、以下の実施形態では、本発明を情報処理装置の一例としての撮像装置で実施する場合に関して説明する。しかし、本発明は画像データを取り扱い可能な任意の電子機器に対して適用可能である。このような電子機器には、ビデオカメラ、コンピュータ機器(パーソナルコンピュータ、タブレットコンピュータ、メディアプレーヤ、PDAなど)、携帯電話機、スマートフォン、ゲーム機、ロボット、ドローン、ドライブレコーダが含まれる。これらは例示であり、本発明は他の電子機器にも適用可能である。 In the following embodiment, the present invention will be described with respect to a case where the present invention is implemented in an imaging device as an example of an information processing device. However, the present invention can be applied to any electronic device capable of handling image data. Such electronic devices include video cameras, computer devices (personal computers, tablet computers, media players, PDAs, etc.), mobile phones, smartphones, game consoles, robots, drones, and drive recorders. These are merely examples, and the present invention can be applied to other electronic devices.

●(第1実施形態)
図1(a)は、本発明の第1実施形態に係る画像処理システムの構成例を模式的に示した図である。画像処理システムは、撮像装置100と外部装置であるサーバ装置200(第1および第2外部装置)とがネットワーク300を通じて通信可能に接続された構成を有する。なお、撮像装置100はネットワーク300に複数接続されていてもよい。撮像装置100とサーバ200装置とは、ネットワーク300の種類に応じた通信プロトコルを用いて相互に通信可能である。例えばネットワーク300がインターネットであれば、TCP/IPやUDPといったプロトコルを用いた通信が可能である。ここで、ネットワーク300は例えばインターネットなどの公衆ネットワークであるか、利用または通信量に対して費用が発生するネットワークであるものとする。
● (First embodiment)
1A is a diagram showing a schematic configuration example of an image processing system according to a first embodiment of the present invention. The image processing system has a configuration in which an image capture device 100 and a server device 200 (first and second external devices) that are external devices are connected to each other so as to be able to communicate with each other through a network 300. Note that a plurality of image capture devices 100 may be connected to the network 300. The image capture device 100 and the server device 200 can communicate with each other using a communication protocol according to the type of the network 300. For example, if the network 300 is the Internet, communication can be performed using a protocol such as TCP/IP or UDP. Here, the network 300 is a public network such as the Internet, or a network in which a fee is incurred for use or communication volume.

図1(b)は、撮像装置100の機能構成例を示すブロック図である。撮像装置100は典型的にはデジタル(ビデオ)カメラであるが、撮像機能を有し、ネットワーク300を通じてサーバ装置200(以下、単にサーバ200とも言う)と通信可能な任意の電子機器であってよい。
制御部101は例えばCPU(MPUやマイクロプロセッサとも呼ばれる)であり、ROM102に記憶されたプログラムをRAM103に読み込んで実行することにより、撮像装置100の各部の動作を制御し、撮像装置100の様々な機能を実現する。なお、光学系104が交換式の場合、制御部101は光学系104が有するコントローラとの通信を通じて光学系104の動作を制御する。
1B is a block diagram showing an example of the functional configuration of the imaging device 100. The imaging device 100 is typically a digital (video) camera, but may be any electronic device that has an imaging function and can communicate with a server device 200 (hereinafter also simply referred to as the server 200) via a network 300.
The control unit 101 is, for example, a CPU (also called an MPU or microprocessor), and controls the operation of each unit of the imaging device 100 by loading a program stored in a ROM 102 into a RAM 103 and executing it, thereby realizing various functions of the imaging device 100. Note that, if the optical system 104 is replaceable, the control unit 101 controls the operation of the optical system 104 through communication with a controller included in the optical system 104.

ROM102は制御部101が実行するプログラム、撮像装置100の各種の設定値、GUIデータなどを記憶する。ROM102は電気的に書き換え可能であってよい。RAM103は、制御部101がプログラムを実行する際に用いるメインメモリである。また、RAM103は画像データのバッファメモリや、表示部109のビデオメモリとして用いられてもよい。 The ROM 102 stores the programs executed by the control unit 101, various setting values of the imaging device 100, GUI data, etc. The ROM 102 may be electrically rewritable. The RAM 103 is a main memory used when the control unit 101 executes the programs. The RAM 103 may also be used as a buffer memory for image data or a video memory for the display unit 109.

光学系104は、ズームレンズ、フォーカスレンズなどの可動レンズを含み、被写体像を撮像部105の撮像面上に形成する。光学系104の可動レンズの駆動は制御部101が制御する。 The optical system 104 includes movable lenses such as a zoom lens and a focus lens, and forms an image of a subject on the imaging surface of the imaging unit 105. The control unit 101 controls the driving of the movable lenses of the optical system 104.

撮像部105は、例えばCCDイメージセンサやCMOSイメージセンサーなどの撮像素子を有する。撮像素子には複数の光電変換部が2次元配列され、光学系104により撮像面上に形成された被写体像を光電変換部によってアナログ画像信号に変換する。A/D変換部106は、撮像部105から入力されたアナログ画像信号をデジタル画像データに変換する。なお、A/D変換部106は撮像部105が備えてもよい。 The imaging unit 105 has an imaging element such as a CCD image sensor or a CMOS image sensor. The imaging element has a plurality of photoelectric conversion units arranged two-dimensionally, and the subject image formed on the imaging surface by the optical system 104 is converted into an analog image signal by the photoelectric conversion units. The A/D conversion unit 106 converts the analog image signal input from the imaging unit 105 into digital image data. The A/D conversion unit 106 may be provided in the imaging unit 105.

デジタル画像データはRAM103に一時的に記憶される。画像処理部107は、RAM103に記憶されている画像データに対して、予め定められた画像処理を適用し、信号や画像データを生成したり、各種の情報を取得および/または生成したりする。画像処理部107は例えば特定の機能を実現するように設計されたASICのような専用のハードウェア回路であってもよいし、DSPのようなプログラマブルプロセッサがソフトウェアを実行することで特定の機能を実現する構成であってもよい。 The digital image data is temporarily stored in RAM 103. The image processing unit 107 applies predetermined image processing to the image data stored in RAM 103 to generate signals and image data, and acquire and/or generate various types of information. The image processing unit 107 may be, for example, a dedicated hardware circuit such as an ASIC designed to realize a specific function, or may be configured to realize a specific function by a programmable processor such as a DSP executing software.

ここで、画像処理部107が適用する画像処理には、前処理、色補間処理、補正処理、検出処理、データ加工処理、評価値算出処理、特殊効果処理などが含まれる。
前処理には、信号増幅、基準レベル調整、欠陥画素補正などが含まれる。色補間処理は、画素から読み出した画像データに含まれていない色成分の値を補間する処理であり、デモザイク処理や同時化処理とも呼ばれる。
補正処理には、ホワイトバランス調整、階調補正(ガンマ処理)、光学系104の光学収差や周辺減光の影響を補正する処理、色を補正する処理などが含まれる。
検出処理には、特徴領域(たとえば顔領域や人体領域)やその動きの検出、人物の認識処理などが含まれる。
データ加工処理には、合成処理、スケーリング処理、符号化および復号処理、ヘッダ情報生成処理などが含まれる。
評価値算出処理には、自動焦点検出(AF)に用いる信号や評価値の生成、自動露出制御(AE)に用いる評価値の算出処理などが含まれる。
特殊効果処理には、ぼかしの付加、色調の変更、リライティング処理などが含まれる。
なお、これらは画像処理部107が適用可能な画像処理の例示であり、画像処理部107が適用する画像処理を限定するものではない。
The image processing applied by the image processing unit 107 includes pre-processing, color interpolation processing, correction processing, detection processing, data processing, evaluation value calculation processing, special effect processing, and the like.
Pre-processing includes signal amplification, reference level adjustment, defective pixel correction, etc. Color interpolation is a process that interpolates the values of color components that are not included in the image data read from the pixels, and is also called demosaic processing or synchronization processing.
The correction processing includes white balance adjustment, gradation correction (gamma processing), processing for correcting the effects of optical aberration and peripheral light falloff of the optical system 104, and color correction processing.
The detection process includes detection of characteristic regions (for example, face regions and human body regions) and their movements, and person recognition processing.
The data processing includes synthesis, scaling, encoding and decoding, header information generation, and the like.
The evaluation value calculation process includes the generation of signals and evaluation values used in automatic focus detection (AF), and the calculation of evaluation values used in automatic exposure control (AE).
Special effects include blurring, changing color tones, relighting, and the like.
Note that these are merely examples of image processing that the image processing unit 107 can apply, and do not limit the image processing that the image processing unit 107 can apply.

上述した画像処理のうち、A/D変換部106から画像処理部107に供給されるデジタル画像データは、それを構成する画素データが、撮像素子の有するカラーフィルタの色配列に応じた1つの色成分の値を有する状態である。このような画像データをRAWデータと呼ぶ。また、画像処理部107がRAWデータに対して適用する画像処理のうち、RAWデータを写真のデータとして表示や印刷などに利用可能な汎用的な形式の画像データに変換するための一連の画像処理を現像処理と呼ぶ。一般に現像処理はホワイトバランス処理および色補完処理を含み、その他にもレンズ収差補正処理、ノイズ低減(NR)処理、ガンマ(階調変換)処理などが含まれうる。 Of the image processes described above, the digital image data supplied from the A/D conversion unit 106 to the image processing unit 107 is in a state in which the pixel data constituting it has a value of one color component according to the color arrangement of the color filters of the image sensor. Such image data is called RAW data. Also, of the image processes that the image processing unit 107 applies to the RAW data, a series of image processes for converting the RAW data into image data in a general-purpose format that can be used for display or printing as photographic data is called development processing. Development processing generally includes white balance processing and color complementation processing, and may also include lens aberration correction processing, noise reduction (NR) processing, gamma (tone conversion) processing, and the like.

記録部108は、記録媒体に撮像画像のデータを記録したり、記録媒体に記録された撮像画像のデータを読み出したりする。記録媒体は例えば着脱可能なメモリカードであってよい。記録部108は、画像処理部107により現像処理が適用されてRAM103に記憶された記録用の撮像画像データ(動画または静止画データ)および/またはRAWデータと、プロキシ画像データとを記録媒体に記録する。 The recording unit 108 records captured image data on a recording medium and reads captured image data recorded on the recording medium. The recording medium may be, for example, a removable memory card. The recording unit 108 records captured image data for recording (video or still image data) and/or RAW data that have been subjected to development processing by the image processing unit 107 and stored in RAM 103, as well as proxy image data, on the recording medium.

プロキシ画像データは記録用の撮像画像データやRAWデータよりもデータ量が少ない画像データであり、静止画についてはサムネイル画像であってもよい。サムネイル画像は現像処理後の元画像を縮小した画像であり、サムネイル画像データは縮小画像データである。プロキシ画像データは、記録用の撮像画像データやRAWデータよりも例えば解像度が低い、および/またはビット深度が小さい画像データであってよい。静止画の場合、プロキシ画像データは例えばRAWデータより解像度の低い、現像処理が適用された(現像済みの)画像データ(サムネイル画像データ)であってよい。動画の場合、プロキシ画像データは例えばRAWデータよりもビットレートが低い、現像済みの動画データであってよい。なお、プロキシ画像データは必ずしも現像済みでなくてもよいが、現像済みの方がデータ量を削減できる。 Proxy image data is image data with a smaller amount of data than captured image data for recording or RAW data, and for still images, it may be a thumbnail image. A thumbnail image is an image obtained by reducing the size of an original image after development processing, and thumbnail image data is reduced image data. Proxy image data may be image data with, for example, a lower resolution and/or a smaller bit depth than captured image data for recording or RAW data. In the case of still images, proxy image data may be image data (thumbnail image data) with a lower resolution than RAW data and to which development processing has been applied (developed). In the case of videos, proxy image data may be developed video data with a lower bit rate than RAW data. Note that proxy image data does not necessarily have to be developed, but developed image data can reduce the amount of data.

表示部109は、LCD等の表示デバイスであり、RAM103のビデオメモリ領域に記憶されている画像データに対応した表示を行う。表示部109は、撮影された画像や画像から得られる情報(例えば輝度ヒストグラム)、撮像装置100の設定値、GUI要素(メニュー画面や撮影された画像に重畳されるアイコンやマークなど)を表示する。 The display unit 109 is a display device such as an LCD, and displays information corresponding to image data stored in the video memory area of the RAM 103. The display unit 109 displays captured images and information obtained from the images (e.g., a brightness histogram), settings of the imaging device 100, and GUI elements (such as menu screens and icons and marks superimposed on captured images).

通信部110は、例えば公知の無線もしくは有線通信規格の1つ以上に準じた通信インタフェースを有し、外部機器と撮像装置100との間のデータ通信を実現する。通信部110は例えば、LTEや5Gなどの規格に準じた携帯電話網を利用したデータ通信や、無線LAN、Bluetooh(登録商標)などの規格に準じたデータ通信をサポートすることができる。また、通信部110は、USBやイーサネット(登録商標)などの通信規格をサポートすることもできる。本実施形態においては通信部110は、ネットワーク300を通じた撮像装置100とサーバ200との通信を実現する。制御部101は、通信部110を通じ、サーバ200と画像データなどを送受信する。 The communication unit 110 has a communication interface conforming to one or more known wireless or wired communication standards, for example, and realizes data communication between an external device and the imaging device 100. The communication unit 110 can support data communication using a mobile phone network conforming to standards such as LTE and 5G, and data communication conforming to standards such as wireless LAN and Bluetooth (registered trademark). The communication unit 110 can also support communication standards such as USB and Ethernet (registered trademark). In this embodiment, the communication unit 110 realizes communication between the imaging device 100 and the server 200 via the network 300. The control unit 101 transmits and receives image data and the like to and from the server 200 via the communication unit 110.

操作部111は、ユーザが撮像装置100に各種の指示を入力するためのボタンやスイッチなどの入力デバイスの総称である。表示部109がタッチディスプレイである場合、タッチパネルも入力デバイスに含まれる。操作部111を構成する入力デバイスは、割り当てられた機能に応じた名称を有する。例えば、操作部111には、撮影準備動作の開始および撮影開始を指示するためのレリーズスイッチ、撮影モードを選択するための撮影モード選択スイッチ、メニューボタン、方向キー、決定キーなどが含まれる。同一の入力デバイスに複数の機能が割り当てられてもよい。また、入力デバイスはソフトウェアボタン/キーであってもよい。また、音声入力や視線入力など、非接触で指示を入力するタイプの入力デバイスが操作部111に含まれてもよい。 The operation unit 111 is a general term for input devices such as buttons and switches that allow the user to input various instructions to the imaging device 100. If the display unit 109 is a touch display, the touch panel is also included in the input devices. The input devices that make up the operation unit 111 have names according to the functions assigned to them. For example, the operation unit 111 includes a release switch for instructing the start of a shooting preparation operation and the start of shooting, a shooting mode selection switch for selecting a shooting mode, a menu button, directional keys, and a confirmation key. Multiple functions may be assigned to the same input device. The input device may also be a software button/key. The operation unit 111 may also include an input device that inputs instructions without contact, such as voice input or gaze input.

図1(c)は、サーバ200の機能構成例を示すブロック図である。サーバ200は典型的にはネットワーク上の汎用コンピュータであるが、サーバ機能を有し、ネットワーク300を通じて撮像装置100と通信可能な任意の電子機器であってよい。
制御部201は例えばCPU(MPUやマイクロプロセッサとも呼ばれる)であり、ROM203や記憶部205に記憶されたプログラムをRAM202に読み込んで実行することにより、サーバの様々な機能を実現する。なお、サーバ200においては、CPUに加えて、GPUなど画像処理の実行に適した補助プロセッサを用いてもよい。ROM203はサーバ200が提供する画像処理機能を実現するためのアプリケーションプログラムや起動時に実行されるプログラム、各種の設定値などが記憶されている。
1C is a block diagram showing an example of the functional configuration of the server 200. The server 200 is typically a general-purpose computer on a network, but may be any electronic device that has a server function and can communicate with the imaging device 100 via the network 300.
The control unit 201 is, for example, a CPU (also called an MPU or microprocessor), and realizes various functions of the server by loading programs stored in the ROM 203 or the storage unit 205 into the RAM 202 and executing them. Note that in the server 200, in addition to the CPU, an auxiliary processor suitable for executing image processing, such as a GPU, may be used. The ROM 203 stores application programs for realizing the image processing functions provided by the server 200, programs executed at startup, various setting values, and the like.

ここでは、画像処理機能を実現するためのアプリケーションプログラムの例として、画像認識プログラム210と画像処理プログラム211とがROM203に記憶されている。サーバ200が提供する画像処理機能は、典型的には撮像装置100で適用できない機能か、処理時間および処理品質の少なくとも一方について撮像装置100で適用する場合よりも優位な機能である。サーバ200は例えば通信部204を通じ、ネットワーク300を介して通信可能な他の装置から、最新の画像処理技術に基づいたプログラムを随時入手することができる。そのため、ソフトウェアのアップデートが容易でない撮像装置100と比較して、技術の進歩の恩恵を容易に享受することができる。例えば、近年実用化が著しいディープラーニングなどの機械学習技術を利用した画像認識プログラムなどの利用が容易である。 Here, an image recognition program 210 and an image processing program 211 are stored in the ROM 203 as examples of application programs for implementing image processing functions. The image processing functions provided by the server 200 are typically functions that cannot be applied to the imaging device 100, or functions that are superior to those applied to the imaging device 100 in terms of at least one of processing time and processing quality. The server 200 can obtain programs based on the latest image processing technology at any time from other devices that can communicate via the network 300, for example, via the communication unit 204. Therefore, compared to the imaging device 100, which does not easily receive software updates, the server 200 can easily enjoy the benefits of technological advances. For example, it is easy to use image recognition programs that utilize machine learning technologies such as deep learning, which have been put to practical use in recent years.

RAM202は、制御部201がプログラムを実行する際に用いるメインメモリである。また、RAM202は画像データのバッファメモリや、表示部207のビデオメモリとして用いられてもよい。 RAM 202 is a main memory used by the control unit 201 when executing a program. RAM 202 may also be used as a buffer memory for image data or a video memory for the display unit 207.

通信部204は、例えば公知の無線もしくは有線通信規格に準じた通信インタフェースを有し、外部機器とサーバ200との間のデータ通信を実現する。本実施形態において通信部204は、ネットワーク300を通じたサーバ200と撮像装置100との通信を実現する。制御部201は、通信部204を通じ、撮像装置100と画像データなどを送受信する。 The communication unit 204 has a communication interface that conforms to a known wireless or wired communication standard, for example, and realizes data communication between an external device and the server 200. In this embodiment, the communication unit 204 realizes communication between the server 200 and the imaging device 100 via the network 300. The control unit 201 transmits and receives image data and the like to and from the imaging device 100 via the communication unit 204.

記憶部205は例えばハードディスクドライブ(HDD)やソリッドステートドライブ(SSD)などの大容量記憶装置であってよい。記憶部205は例えばOS、アプリケーションプログラム、ユーザデータなどの記憶に用いられる。ROM203は記憶部205の一部であってもよい。 The storage unit 205 may be a large-capacity storage device such as a hard disk drive (HDD) or a solid-state drive (SSD). The storage unit 205 is used to store, for example, an OS, application programs, user data, etc. The ROM 203 may be a part of the storage unit 205.

操作部206はユーザがサーバ200に指示を入力するための入力デバイスの総称であり、典型的にはキーボード、マウス、タッチパッドなどである。 The operation unit 206 is a general term for the input devices that allow the user to input instructions to the server 200, and is typically a keyboard, mouse, touchpad, etc.

表示部207は、LCD等の表示デバイスであり、RAM202のビデオメモリ領域に記憶されている画像データに対応した表示を行う。表示部207は、OSが提供するユーザインタフェース要素や、アプリケーションに関する情報などを表示する。 The display unit 207 is a display device such as an LCD, and displays image data stored in the video memory area of the RAM 202. The display unit 207 displays user interface elements provided by the OS, information related to applications, and the like.

なお、ネットワーク300は撮像装置100とサーバ200とのデータ通信をサポートすることが可能な任意の構成であってよく、その具体的な構成は任意であるため説明を省略する。 The network 300 may have any configuration capable of supporting data communication between the imaging device 100 and the server 200, and the specific configuration is optional, so a description thereof is omitted.

次に撮像装置100とサーバ200との相互動作に関して図2のフローチャートを参照して説明する。以下において、撮像装置100が主体として説明される動作は制御部101(CPU)が、サーバ200が主体として説明される動作は制御部(CPU)201がそれぞれ実際の主体である。また、撮像装置100において、画像処理部107は、撮影で得られた画像データから記録用の画像データを生成する際、対応するプロキシ画像データも生成する。そして、記録部108には記録用の画像データとプロキシ画像とが関連づけられて記録されているものとする。 Next, the interaction between the imaging device 100 and the server 200 will be described with reference to the flowchart in FIG. 2. In the following, operations described as being mainly performed by the imaging device 100 are actually performed by the control unit 101 (CPU), and operations described as being mainly performed by the server 200 are actually performed by the control unit (CPU) 201. In addition, in the imaging device 100, when the image processing unit 107 generates image data for recording from image data obtained by shooting, it also generates corresponding proxy image data. It is assumed that the image data for recording and the proxy image are associated and recorded in the recording unit 108.

S401において、撮像装置100は記録部108に記録されているプロキシ画像データを、通信部110から、ネットワーク300を介してサーバ200に送信する。なお、サーバ200との通信に必要な設定や情報は予め登録され、ROM102に記憶されているものとする。S401を実行するタイミングに特に制限はなく、例えば未処理のRAWデータが記録部108に存在することが確認された時点で開始してもよいし、ユーザの指示によって開始してもよい。また、送信するプロキシ画像データは、RAWデータに対応するものであっても、現像済みの画像データに対応するものであっても、ユーザが選択したものであってもよい。あるいは、全てのプロキシ画像データを送信してもよい。 In S401, the imaging device 100 transmits the proxy image data recorded in the recording unit 108 from the communication unit 110 to the server 200 via the network 300. It is assumed that the settings and information required for communication with the server 200 are registered in advance and stored in the ROM 102. There are no particular limitations on the timing of executing S401, and it may be started, for example, when it is confirmed that unprocessed RAW data exists in the recording unit 108, or it may be started by a user instruction. In addition, the proxy image data to be transmitted may correspond to RAW data, may correspond to developed image data, or may be selected by the user. Alternatively, all proxy image data may be transmitted.

また、RAWデータのうち、現像処理されていない(未処理の)RAWデータに対応するプロキシ画像データを送信してもよい。この場合、例えば、対応する汎用形式(例えばJPEG形式)の画像データが記録されていないRAWデータを未処理のRAWデータと判別することができる。あるいは、未処理か否かを判別可能なファイル名を付与するようにして、ファイル名から未処理のRAWデータを判別してもよい。 Proxy image data corresponding to RAW data that has not been developed (unprocessed) may also be transmitted. In this case, for example, RAW data that does not have image data recorded in a corresponding general format (e.g., JPEG format) can be determined to be unprocessed RAW data. Alternatively, a file name that can be determined to be unprocessed or not may be given to the data, and unprocessed RAW data may be determined from the file name.

S402においてサーバ200は撮像装置100から通信部204を通じてプロキシ画像データを受信する。サーバ200は受信したプロキシ画像データをRAM202に記憶する。 In S402, the server 200 receives the proxy image data from the imaging device 100 via the communication unit 204. The server 200 stores the received proxy image data in the RAM 202.

S403でサーバ200は、ROM203に記憶されている画像認識プログラム210をRAM202にロードして実行する。画像認識プログラム210は画像データに対して公知の顔認識処理を適用して顔領域を検出する機能と、検出した顔領域の特徴と予め登録された人物の顔領域の特徴とを比較することにより、検出した顔領域の人物を認識する被写体認識機能とを提供する。制御部201は、画像認識プログラム210を実行することにより、撮像装置100が外部装置で画像処理を適用する画像データを決定するための判断基準となる情報を生成する評価処理を、プロキシ画像データに適用する。被写体認識処理は評価処理の一例であり、他の情報をプロキシ画像データに基づいて生成してもよい。 In S403, the server 200 loads the image recognition program 210 stored in the ROM 203 into the RAM 202 and executes it. The image recognition program 210 provides a function for detecting a face area by applying known face recognition processing to image data, and a subject recognition function for recognizing a person in the detected face area by comparing the features of the detected face area with the features of the face area of a person registered in advance. By executing the image recognition program 210, the control unit 201 applies to the proxy image data an evaluation process for generating information that serves as a judgment criterion for the imaging device 100 to determine image data to which image processing is applied in an external device. The subject recognition process is an example of an evaluation process, and other information may be generated based on the proxy image data.

検出対象の人物の顔領域もしくはその特徴情報は、サーバ200に予め登録されているものとする。この登録は例えば撮像装置100から検出対象の人物の顔が写っている画像のデータをサーバ200に送信し、サーバ200が画像認識プログラム210を用いて顔領域から抽出した特徴情報を登録することによって実現できる。なお、検出対象の人物の登録は他の方法で行ってもよい。ここでは、図3に示すような画像を用いて、人物501および502が検出対象の人物して登録されているものとする。また、サーバ200は検出対象の人物ごとに特徴情報に固有の識別情報(ID)を付与して例えば記憶部205に記憶する。ここでは、人物501にID1、人物502にID2が付与されているものとする。 The face area or feature information of the person to be detected is preregistered in the server 200. This registration can be realized, for example, by transmitting image data showing the face of the person to be detected from the imaging device 100 to the server 200, and the server 200 registering feature information extracted from the face area using the image recognition program 210. Note that the person to be detected may be registered in other ways. Here, it is assumed that persons 501 and 502 are registered as persons to be detected using an image such as that shown in FIG. 3. In addition, the server 200 assigns unique identification information (ID) to the feature information for each person to be detected and stores it in, for example, the storage unit 205. Here, it is assumed that ID1 is assigned to person 501 and ID2 is assigned to person 502.

図4に示すフローチャートを用いて、S403における被写体認識処理の詳細について説明する。この処理は、制御部201(CPU)が画像認識プログラム210を実行することにより実現される。 The object recognition process in S403 will be described in detail with reference to the flowchart shown in FIG. 4. This process is realized by the control unit 201 (CPU) executing the image recognition program 210.

S601で制御部201は、RAM202に記憶されているプロキシ画像データの1つに対して、顔認証処理を適用する。顔認証処理は、プロキシ画像データから顔領域を検出する処理と、検出した顔領域が登録された人物のものかどうかを判定する処理である。制御部201は検出した顔領域の特徴が、登録されている人物の特徴と同一と判定されるか、高い類似性を有すると判定されれば、登録されている人物の顔領域であると判定することができる。なお、プロキシ画像データから顔領域が複数検出された場合、制御部201は検出した顔領域ごとに、登録された人物のものかどうかを判定する。 In S601, the control unit 201 applies face recognition processing to one of the proxy image data stored in the RAM 202. The face recognition processing is a process of detecting a face area from the proxy image data and a process of determining whether the detected face area belongs to a registered person. If the control unit 201 determines that the features of the detected face area are identical to the features of the registered person or have a high similarity, it can determine that it is the face area of the registered person. Note that if multiple face areas are detected from the proxy image data, the control unit 201 determines for each detected face area whether it belongs to a registered person.

S602~S603、S605~S606において制御部201は、S601の顔認証処理の結果に基づいて、プロキシ画像データにタグを付与する。
S602で制御部201は、S601の顔認証処理により、プロキシ画像データから検出された顔領域がID1として登録された人物の顔領域であると判定されていればS606を実行し、判定されていなければS603を実行する。
S603で制御部201は、S601の顔認証処理により、プロキシ画像データから検出された顔領域がID2として登録された人物の顔領域であると判定されていればS605を実行し、判定されていなければS604を実行する。
In steps S602 to S603 and S605 to S606, the control unit 201 assigns tags to the proxy image data based on the result of the face authentication process in step S601.
In S602, if the control unit 201 determines through the face authentication process of S601 that the face area detected from the proxy image data is the face area of the person registered as ID1, it executes S606, and if not, it executes S603.
In S603, if the control unit 201 determines through the face authentication process of S601 that the face area detected from the proxy image data is the face area of the person registered as ID2, it executes S605, and if not, it executes S604.

S605で制御部201はプロキシ画像データにID2のタグを付与する。また、S606で制御部201はプロキシ画像データにID1のタグを付与する。なお、プロキシ画像データから顔領域が複数検出されている場合、制御部201は顔領域ごとにS602~S603を実行する。 In S605, the control unit 201 assigns a tag of ID2 to the proxy image data. In S606, the control unit 201 assigns a tag of ID1 to the proxy image data. Note that if multiple face areas are detected from the proxy image data, the control unit 201 executes S602 to S603 for each face area.

S604で制御部201は、プロキシ画像データに、登録済みの人物が写っていないと判定されたことを示すタグ(不一致タグ)を付与する。 In S604, the control unit 201 assigns a tag (mismatch tag) to the proxy image data indicating that it has been determined that the registered person is not included.

S607で制御部201は、受信した全てのプロキシ画像データに対して被写体認識処理を適用したと判定されれば被写体認識処理を終了し、判定されなければ被写体認識処理を適用していないプロキシ画像データを対象としてS601以降の処理を適用する。 In S607, if the control unit 201 determines that the object recognition process has been applied to all of the received proxy image data, it ends the object recognition process; if not, it applies the processes from S601 onwards to the proxy image data to which the object recognition process has not been applied.

ここでは登録されている人物がID1、ID2の2人である例を示したが、登録されている人物の数にかかわらず、制御部201は同様のタグ付け処理を行う。このようにして、被写体認識処理により、撮像装置100から受信したプロキシ画像データに対して、プロキシ画像に写っていると判定された登録済みの人物のIDのタグ、もしくは登録済みの人物が写っていないことを示すタグが付与される。 In this example, two people, ID1 and ID2, are registered, but the control unit 201 performs the same tagging process regardless of the number of people registered. In this way, the subject recognition process assigns to the proxy image data received from the imaging device 100 a tag with the ID of the registered person determined to appear in the proxy image, or a tag indicating that no registered person appears in the image.

図2に戻り、S404でサーバ200は、S403で付与したタグの情報(被写体認識結果)をネットワーク300を介して撮像装置100に送信する。サーバ200は、例えばプロキシ画像データを特定する情報と、そのプロキシ画像データに対して付与されたタグの情報とを関連づけたデータを、タグの情報として送信する。プロキシ画像データは送信しないことで、送信データ量を低減し、処理遅延を削減することができる。タグの情報は例えば1つ以上の人物IDもしくは不一致であることを示す情報であってよい。 Returning to FIG. 2, in S404, the server 200 transmits the tag information (subject recognition result) added in S403 to the imaging device 100 via the network 300. The server 200 transmits, for example, data that associates information identifying the proxy image data with the tag information added to the proxy image data as tag information. By not sending the proxy image data, the amount of data transmitted can be reduced, and processing delays can be reduced. The tag information can be, for example, one or more person IDs or information indicating a mismatch.

S405で撮像装置100は、サーバ200からタグの情報を受信し、RAM103に記憶する。
S406で撮像装置100は、受信した人物タグの情報に基づいて、サーバ200で画像処理を適用する画像データ(ここではRAWデータ)を決定する。ここでは、一例として、1つ以上の人物IDが関連づけられたプロキシ画像の元データを、サーバ200で画像処理を適用する画像データとして決定するものとする。なお、プロキシ画像の元データとは、プロキシ画像の元になった画像データであり、RAWデータでも現像済みの画像データでもよい。
In S<b>405 , the imaging apparatus 100 receives the tag information from the server 200 and stores it in the RAM 103 .
In S406, the imaging apparatus 100 determines image data (here, RAW data) to which image processing is to be applied by the server 200 based on the received person tag information. Here, as an example, the original data of the proxy image associated with one or more person IDs is determined as the image data to which image processing is to be applied by the server 200. Note that the original data of the proxy image is image data that is the source of the proxy image, and may be either RAW data or developed image data.

この場合、S406で撮像装置100は、S401で送信したプロキシ画像データの1つについて、サーバ200から受信したタグ情報に1つ以上の人物IDが関連づけられているか否かを判定する。そして、撮像装置100は、1つ以上の人物IDが関連づけられていると判定されれば、対応するRAWデータをサーバ200で画像処理を適用するRAWデータとして決定し、S407を実行する。一方、撮像装置100は、1つ以上の人物IDが関連づけられていると判定されなければ、S407を実行せずにS413を実行する。 In this case, in S406, the imaging device 100 determines whether or not one or more person IDs are associated with the tag information received from the server 200 for one of the proxy image data transmitted in S401. If the imaging device 100 determines that one or more person IDs are associated, it determines the corresponding RAW data as the RAW data to which image processing is to be applied by the server 200, and executes S407. On the other hand, if the imaging device 100 does not determine that one or more person IDs are associated, it executes S413 without executing S407.

S407で撮像装置100は、RAWデータをサーバ200に送信し、現像結果の受信を待機する。
S408でサーバ200は、撮像装置100からRAWデータを受信すると、RAM202や記憶部205に記憶する。
In S407, the imaging apparatus 100 transmits the RAW data to the server 200 and waits to receive the development results.
In S<b>408 , when the server 200 receives the RAW data from the imaging apparatus 100 , the server 200 stores the RAW data in the RAM 202 or the storage unit 205 .

S409でサーバ200は、画像処理プログラム211をROM203からRAM202にロードして実行する。画像処理プログラム211はRAWデータに現像処理を適用する。現像処理は例えばホワイトバランス処理、レンズ収差補正、ノイズ低減(NR)処理、色補間処理、ガンマ処理などを含む。また、現像処理後に符号化処理を適用して例えばJPEG形式など所定形式の画像データファイルを生成してもよい。 In S409, the server 200 loads the image processing program 211 from the ROM 203 to the RAM 202 and executes it. The image processing program 211 applies development processing to the RAW data. The development processing includes, for example, white balance processing, lens aberration correction, noise reduction (NR) processing, color interpolation processing, gamma processing, and the like. In addition, after the development processing, an encoding process may be applied to generate an image data file in a predetermined format, such as JPEG format.

サーバ200で適用する現像処理は、撮像装置100の画像処理部107よりも新しいおよび/または複雑な手法に基づくものであり、撮像装置100で適用する現像処理よりも良好な処理結果が得られる。これはサーバ200の処理能力が撮像装置100の処理能力より高いこと、またサーバ200が実行する画像処理プログラム211が、撮像装置100の画像処理部107よりも新しい技術に基づくものであることによる。 The development processing applied by the server 200 is based on a newer and/or more complex technique than that applied by the image processing unit 107 of the imaging device 100, and produces better processing results than the development processing applied by the imaging device 100. This is because the processing capacity of the server 200 is higher than that of the imaging device 100, and the image processing program 211 executed by the server 200 is based on newer technology than that of the image processing unit 107 of the imaging device 100.

S410でサーバ200はS409で現像処理を適用した画像データをネットワーク300を介して撮像装置100に送信する。
S411で撮像装置100はサーバ200から現像処理後の画像データを受信する。
In S410, the server 200 transmits the image data to which the development processing has been applied in S409 to the imaging apparatus 100 via the network 300.
In S<b>411 , the imaging apparatus 100 receives the developed image data from the server 200 .

S412で撮像装置100は現像処理後の画像データを画像処理部107に供給し、記録用の画像データと表示用の画像データとを生成させる。そして、撮像装置100は、表示用の画像データを表示部109に表示させ、記録用の画像データを記録部108に記録する。 In S412, the imaging device 100 supplies the image data after development processing to the image processing unit 107, which generates image data for recording and image data for display. The imaging device 100 then displays the image data for display on the display unit 109, and records the image data for recording in the recording unit 108.

S413で撮像装置100は、S401で送信したプロキシ画像データの全てについて処理したか否かを判定し、全てについて処理したと判定されればRAWデータの現像処理を終了する。一方、全てについて処理したと判定されなければ、未処理のプロキシ画像データについて、S406からの処理を適用する。 In S413, the imaging device 100 determines whether all of the proxy image data transmitted in S401 has been processed, and if it is determined that all of the data has been processed, the development process of the RAW data ends. On the other hand, if it is not determined that all of the data has been processed, the process from S406 is applied to the unprocessed proxy image data.

本実施形態の撮像装置は、記録された画像データのプロキシ画像データに対して外部装置で所定の画像処理を適用した結果に基づいて、プロキシ画像データの元データに対する画像処理を外部装置で実行するか否かを決定する。そのため、撮像装置では適用できない、あるいは精度の低い処理しか適用できない画像処理の処理結果に基づいて、画像処理を外部装置で適用すべきか否かを決定することができる。 The imaging device of this embodiment determines whether or not to execute image processing on the original data of the proxy image data in an external device based on the results of applying a specified image processing to the proxy image data of the recorded image data in the external device. Therefore, it is possible to determine whether or not to apply image processing in an external device based on the results of image processing that cannot be applied by the imaging device or that can only be applied with low accuracy.

例えば、撮像装置で精度の良い被写体認識処理を適用できない場合、プロキシ画像データに対して外部装置で精度の良い被写体認識処理を適用した結果を利用することで、外部装置で処理を行うべき画像データをより正確に決定することができる。なお、本実施形態では外部装置で登録済みの人物が写っているか否かを判別した結果を利用する例について説明した。しかし、例えば、人物以外の被写体認識処理や、シーン判別処理の結果など、他の画像処理の結果を用いることもできる。 For example, if the imaging device cannot apply accurate subject recognition processing, the image data to be processed by the external device can be more accurately determined by using the results of applying accurate subject recognition processing to the proxy image data by the external device. Note that in this embodiment, an example has been described in which the results of determining whether or not a registered person is captured by the external device are used. However, it is also possible to use the results of other image processing, such as the results of subject recognition processing for objects other than people or the results of scene determination processing.

本実施形態では撮像装置100による、外部装置で処理を行うべき画像データとの決定についてユーザが関与できない構成について説明した。しかし、外部装置で処理を行うべきと決定された画像データの一覧を選択可能に表示部109に表示し、ユーザが一覧から選択した画像データだけを外部装置に送信するようにしてもよい。また、最終的に外部装置で適用する画像処理はRAWデータの現像処理に限定されず、任意の画像処理であってよい。さらに、外部装置で画像処理を適用する画像データはRAWデータに限定されず、現像された記録用画像データであってもよい。 In this embodiment, a configuration has been described in which the user cannot be involved in the decision by the imaging device 100 of the image data to be processed by the external device. However, a list of image data that has been decided to be processed by the external device may be displayed on the display unit 109 in a selectable manner, and only the image data selected by the user from the list may be transmitted to the external device. Furthermore, the image processing that is ultimately applied by the external device is not limited to development processing of RAW data, and may be any image processing. Furthermore, the image data to which image processing is applied by the external device is not limited to RAW data, and may be developed image data for recording.

●(第2実施形態)
次に、本発明の第2実施形態について説明する。図5(a)は、本実施形態に係る画像処理システムの構成例を模式的に示した図であり、第1実施形態と同様の構成要素には図1(a)と同じ参照数字を付して説明を省略する。本実施形態では、プロキシ画像データに対して実施する画像処理を、ネットワーク300上のサーバ200ではなく、撮像装置100から見てネットワーク300よりも手前に位置する外部装置であるエッジデバイス400で行う。したがって、本実施形態ではエッジデバイス400が第1外部装置、サーバ200が第2外部装置である。
(Second embodiment)
Next, a second embodiment of the present invention will be described. Fig. 5A is a diagram showing a schematic configuration example of an image processing system according to this embodiment, and components similar to those in the first embodiment are given the same reference numerals as in Fig. 1A, and description thereof will be omitted. In this embodiment, image processing performed on proxy image data is performed not by the server 200 on the network 300, but by an edge device 400, which is an external device located before the network 300 as viewed from the imaging device 100. Therefore, in this embodiment, the edge device 400 is a first external device, and the server 200 is a second external device.

エッジデバイス400は、撮像装置100と通信可能であるほか、ネットワーク300を通じてサーバ200とも通信可能な画像処理装置である。ここではエッジデバイス400の一例として、スマートフォンやタブレットコンピュータなど、通信機能を有するコンピュータ機器を用いる構成について説明する。なお、撮像装置100の代わりにスマートフォンを用いている場合には、このスマートフォンよりも高性能な、例えば、据え置き型のコンピュータをエッジデバイス400として用いることが考えられる。 The edge device 400 is an image processing device that can communicate with the imaging device 100 and also with the server 200 via the network 300. Here, as an example of the edge device 400, a configuration using a computer device with a communication function, such as a smartphone or a tablet computer, is described. Note that if a smartphone is used instead of the imaging device 100, it is possible to use a more powerful computer than the smartphone, for example a stationary computer, as the edge device 400.

近年、スマートフォンやタブレットコンピュータには機械学習技術を利用した画像処理を高速に実行するためのプロセッサを搭載したものが多くなっている。そのため、エッジデバイスとして好適に利用することができる。なお、サーバ200と同様の汎用コンピュータをエッジデバイス400として用いてもよい。 In recent years, many smartphones and tablet computers are equipped with processors that use machine learning technology to perform image processing at high speed. This makes them suitable for use as edge devices. Note that a general-purpose computer similar to the server 200 may also be used as the edge device 400.

撮像装置100とエッジデバイス400との間の通信方法に特に制限は無く、有線通信であっても無線通信であってもよい。撮像装置100は、サーバ200およびエッジデバイス400との通信に、同じ通信方法を用いても、異なる通信方法を用いてもよい。異なる通信方法を用いる場合、通信部110はそれぞれの通信方法に対応した通信インタフェースを有する(図15を参照)。通信方法に応じて通信部110を複数設けてもよい。ここで、撮像装置100とエッジデバイス400との通信には費用が発生しないものとする。 There are no particular limitations on the communication method between the imaging device 100 and the edge device 400, and it may be wired communication or wireless communication. The imaging device 100 may use the same communication method or different communication methods for communication with the server 200 and the edge device 400. When different communication methods are used, the communication unit 110 has a communication interface corresponding to each communication method (see FIG. 15). Multiple communication units 110 may be provided depending on the communication method. Here, it is assumed that no cost is incurred for communication between the imaging device 100 and the edge device 400.

図5(b)はエッジデバイス400の機能構成例を示すブロック図である。制御部401は例えばCPU(MPUやマイクロプロセッサとも呼ばれる)であり、ROM402や記録部407に記憶されたプログラムをRAM403に読み込んで実行することにより、エッジデバイス400の様々な機能を実現する。 Figure 5(b) is a block diagram showing an example of the functional configuration of the edge device 400. The control unit 401 is, for example, a CPU (also called an MPU or microprocessor), and realizes various functions of the edge device 400 by loading programs stored in the ROM 402 or the recording unit 407 into the RAM 403 and executing them.

ROM402は制御部401が実行するプログラム、エッジデバイス400の各種の設定値、GUIデータなどを記憶する。ROM402は電気的に書き換え可能であってよい。RAM403は、制御部401がプログラムを実行する際に用いるメインメモリである。また、RAM403はデータのバッファメモリや、表示部408のビデオメモリとして用いられてもよい。 The ROM 402 stores the programs executed by the control unit 401, various setting values of the edge device 400, GUI data, etc. The ROM 402 may be electrically rewritable. The RAM 403 is a main memory used when the control unit 401 executes the programs. The RAM 403 may also be used as a data buffer memory or a video memory for the display unit 408.

画像認識部404は、事前に登録された人物が画像中に写っているか否かを判定する被写体認識処理を実行する。画像認識部404が被写体認識処理は、第1実施形態においてサーバ200が実行する被写体認識処理と同様の処理であってよい。 The image recognition unit 404 executes an object recognition process to determine whether a person registered in advance is captured in the image. The object recognition process performed by the image recognition unit 404 may be the same as the object recognition process performed by the server 200 in the first embodiment.

画像処理部405は、RAM403に記憶されている画像データに対して、予め定められた画像処理を適用し、信号や画像データを生成したり、各種の情報を取得および/または生成したりする。画像処理部405が適用可能な画像処理は、撮像装置100の画像処理部107が適用する画像処理や、サーバ200が画像処理プログラム211によって適用される画像処理と同様であってよい。 The image processing unit 405 applies predetermined image processing to the image data stored in the RAM 403, generates signals and image data, and acquires and/or generates various information. The image processing that the image processing unit 405 can apply may be similar to the image processing applied by the image processing unit 107 of the imaging device 100 or the image processing applied by the server 200 using the image processing program 211.

操作部406はユーザがエッジデバイス400に指示を入力するための入力デバイスの総称であり、典型的にはキーボード、マウス、タッチパッドなどである。表示部408がタッチディスプレイの場合、タッチディスプレイが備えるタッチパネルは操作部406に含まれる。 The operation unit 406 is a general term for an input device that allows a user to input instructions to the edge device 400, and is typically a keyboard, a mouse, a touchpad, etc. If the display unit 408 is a touch display, the touch panel of the touch display is included in the operation unit 406.

記録部407は、記録媒体にデータを記録したり、記録媒体に記録されたデータを読み出したりする。記録媒体は例えば着脱可能なメモリカードであってもよいし、固定された記憶デバイスであってよい。 The recording unit 407 records data on a recording medium and reads data recorded on the recording medium. The recording medium may be, for example, a removable memory card or a fixed storage device.

表示部408は、LCD等の表示デバイスであり、RAM403のビデオメモリ領域に記憶されている画像データに対応した表示を行う。表示部408は、記録部407に記憶されているデータや、アプリケーションやOSに係るGUI要素などを表示する。表示部408はタッチディスプレイであってもよい。 The display unit 408 is a display device such as an LCD, and displays image data stored in the video memory area of the RAM 403. The display unit 408 displays data stored in the recording unit 407, GUI elements related to applications and the OS, and the like. The display unit 408 may be a touch display.

本実施形態のエッジデバイス400は、2つの通信部409および410を有する。ここでは、ネットワーク300上の外部機器(例えばサーバ200)との通信に通信部410を、撮像装置100との通信に通信部409を用いるものとする。なお、複数の通信方法をサポートする通信部を1つ設けてもよい。あるいは、通信部409および410の一方を用いてネットワーク300上の外部機器と撮像装置100の両方と通信してもよい。 The edge device 400 of this embodiment has two communication units 409 and 410. Here, the communication unit 410 is used for communication with an external device (e.g., the server 200) on the network 300, and the communication unit 409 is used for communication with the imaging device 100. Note that a single communication unit that supports multiple communication methods may be provided. Alternatively, one of the communication units 409 and 410 may be used to communicate with both the external device on the network 300 and the imaging device 100.

次に、撮像装置100、エッジデバイス400、およびサーバ200との相互動作に関して図6のフローチャートを参照して説明する。以下、撮像装置100が主体として説明される動作は制御部101(CPU)が、サーバ200が主体として説明される動作は制御部(CPU)201が、エッジデバイス400が主体として説明される動作は制御部401(CPU)が、それぞれ実際の主体である。また、図6において、第1実施形態で説明した動作と同じ動作を行うステップには図2と同じ参照数字を付してある。なお、サーバ200およびエッジデバイス400との通信に必要な設定や情報は予め登録され、ROM102に記憶されているものとする。また、エッジデバイス400と通信する前にエッジデバイス400を通信相手として登録しておく必要がある場合、そのような登録も事前に行われているものとする。 Next, the interaction between the imaging device 100, the edge device 400, and the server 200 will be described with reference to the flowchart of FIG. 6. In the following, operations described as being mainly performed by the imaging device 100 are actually performed by the control unit 101 (CPU), operations described as being mainly performed by the server 200 are actually performed by the control unit (CPU) 201, and operations described as being mainly performed by the edge device 400 are actually performed by the control unit 401 (CPU). In addition, in FIG. 6, steps that perform the same operations as those described in the first embodiment are given the same reference numerals as in FIG. 2. Note that settings and information required for communication with the server 200 and the edge device 400 are registered in advance and stored in the ROM 102. In addition, if it is necessary to register the edge device 400 as a communication partner before communicating with the edge device 400, such registration is also performed in advance.

S401およびS405は、通信相手がサーバ200でなくエッジデバイス400であることを除き、第1実施形態と同様である。
また、エッジデバイス400は、S402~S404において、第1実施形態でサーバが実施する処理と同様の処理を実行する。
S402においてエッジデバイス400は撮像装置100から通信部409を通じてプロキシ画像データを受信する。エッジデバイス400は受信したプロキシ画像データをRAM403に記憶する。
Steps S401 and S405 are the same as those in the first embodiment, except that the communication partner is the edge device 400 rather than the server 200.
Furthermore, in steps S402 to S404, the edge device 400 executes the same processes as those executed by the server in the first embodiment.
In S402, the edge device 400 receives the proxy image data from the imaging apparatus 100 via the communication unit 409. The edge device 400 stores the received proxy image data in the RAM 403.

S403でエッジデバイス400は、画像認識部404により、RAM403に記憶されている画像データに対して上述した被写体認識処理を実行する。被写体認識処理の手法は、サーバ200が用いる手法と同一でなくてもよい。
S404でエッジデバイス400は、S403で付与したタグの情報(被写体認識結果)を通信部409を通じて撮像装置100に送信する。
In S403, the edge device 400 causes the image recognition unit 404 to execute the above-described object recognition process on the image data stored in the RAM 403. The method of the object recognition process does not need to be the same as the method used by the server 200.
In S404, the edge device 400 transmits information about the tag added in S403 (subject recognition result) to the imaging apparatus 100 via the communication unit 409.

S405~S406で撮像装置100は、S401で送信したプロキシ画像データに対応するRAWデータのうち、外部装置(ここではサーバ200)で画像処理を適用させるRAWデータを第1実施形態と同様に決定する。
そして、S407で撮像装置100は、決定したRAWデータをサーバ200に送信する。
In S405 and S406, the imaging apparatus 100 determines, in the same manner as in the first embodiment, from the RAW data corresponding to the proxy image data transmitted in S401, the RAW data to which image processing is to be applied in an external device (here, the server 200).
Then, in S<b>407 , the imaging apparatus 100 transmits the determined RAW data to the server 200 .

S408~S410におけるサーバ200の動作は第1実施形態と同様である。
なお、S410でサーバ200は、現像処理を適用した画像データをネットワーク300を介して撮像装置100に送信する代わりに、あるいはそれに加えて、エッジデバイス400に送信してもよい。この場合、エッジデバイス400にデータを送信するために必要な情報(宛先アドレスなど)を、サーバ200に予め登録しておくか、撮像装置100がRAWデータを送信する際にサーバ200に通知する。
The operations of the server 200 in S408 to S410 are similar to those in the first embodiment.
In addition, in S410, the server 200 may transmit the image data to which the development process has been applied to the edge device 400 instead of or in addition to transmitting the image data to the imaging device 100 via the network 300. In this case, information (such as a destination address) required for transmitting data to the edge device 400 is registered in advance in the server 200, or the imaging device 100 notifies the server 200 of the information when transmitting the RAW data.

S411~S413における撮像装置100の動作は第1実施形態と同様である。
エッジデバイス400がサーバ200から現像処理を適用した画像データを受信する場合、S1011でエッジデバイス400は受信した画像データをRAM403に記憶する。そして、S1012でエッジデバイス400は、RAM403に記憶した画像データを表示部408に表示するとともに、記録部407に画像データを記録する。
The operations of the imaging apparatus 100 in S411 to S413 are similar to those in the first embodiment.
When the edge device 400 receives image data to which development processing has been applied from the server 200, in S1011 the edge device 400 stores the received image data in the RAM 403. Then, in S1012, the edge device 400 displays the image data stored in the RAM 403 on the display unit 408 and records the image data in the recording unit 407.

本実施形態では、プロキシ画像データに対する画像処理をサーバ200でなくエッジデバイス400で実施するようにした。本実施形態では、撮像装置100とサーバ200との間の通信データ量が第1実施形態よりも少なくなるため、第1実施形態と同様の効果に加え、通信費用の低減や、ネットワーク300の混雑や品質低下による影響を低減が実現できる。 In this embodiment, image processing of the proxy image data is performed by the edge device 400, not by the server 200. In this embodiment, the amount of communication data between the imaging device 100 and the server 200 is less than in the first embodiment, so in addition to the same effects as in the first embodiment, it is possible to reduce communication costs and the effects of congestion and quality degradation on the network 300.

なお、本実施形態においても、第1実施形態と同様、プロキシ画像データに対して適用する画像処理や、サーバ200でRAWデータに対して適用する画像処理は単なる例示であり、他の画像処理であってよい。また、サーバ200で最終的に画像処理を適用する画像データはRAWデータに限定されず、現像された記録用画像データであってもよい。 In this embodiment, as in the first embodiment, the image processing applied to the proxy image data and the image processing applied to the RAW data by the server 200 are merely examples, and other image processing may be used. Furthermore, the image data to which the image processing is ultimately applied by the server 200 is not limited to RAW data, and may be developed image data for recording.

また、撮像装置100がサーバ200で最終的に画像処理を適用する画像データとして決定した画像データをユーザに確認させてからサーバ200に送信するようにしてもよい。この際、ユーザは撮像装置が決定した画像データの1つ以上を変更することができる。 In addition, the image data that the imaging device 100 has determined as the image data to which the server 200 will ultimately apply image processing may be sent to the server 200 after the user has confirmed the image data. At this time, the user may change one or more of the image data determined by the imaging device.

●(第3実施形態)
次に、本発明の第3実施形態について説明する。本実施形態の画像処理システムは、第2実施形態と、エッジデバイスの構成および動作が異なる。そのため、第2実施形態との差異について重点的に説明する。
(Third embodiment)
Next, a third embodiment of the present invention will be described. The image processing system of this embodiment differs from that of the second embodiment in the configuration and operation of the edge device. Therefore, the following description will focus on the differences from the second embodiment.

図7は、本実施形態のエッジデバイス400’の機能構成例を示すブロック図であり、第2実施形態のエッジデバイス400に対し、評価部411を追加した構成を有する。他の機能ブロックについては第2実施形態と同様であるため説明を省略する。 Figure 7 is a block diagram showing an example of the functional configuration of the edge device 400' of this embodiment, which has a configuration in which an evaluation unit 411 is added to the edge device 400 of the second embodiment. The other functional blocks are similar to those of the second embodiment, so the description will be omitted.

本実施形態では、撮像装置100が複数フレーム分のRAWデータをサーバ200ではなくエッジデバイス400’に送信する。そして、エッジデバイス400’が、サーバ200で現像処理を適用することによる効果が大きいと考えられるRAWデータを選択してサーバ200に転送する。評価部411は送信するRAWデータを決定するための構成である。図7では便宜上、評価部411を独立した構成要素として記載しているが、ROM402に記憶されている画像処理システム用のアプリケーションを制御部401(CPU)が実行することによって実現されてよい。 In this embodiment, the imaging device 100 transmits multiple frames of RAW data to the edge device 400' instead of the server 200. The edge device 400' then selects RAW data for which application of development processing by the server 200 is considered to be highly effective, and transfers the RAW data to the server 200. The evaluation unit 411 is configured to determine the RAW data to be transmitted. For the sake of convenience, the evaluation unit 411 is depicted in FIG. 7 as an independent component, but it may be realized by the control unit 401 (CPU) executing an application for the image processing system stored in the ROM 402.

次に、撮像装置100、エッジデバイス400’、およびサーバ200との相互動作に関して図8のフローチャートを参照して説明する。以下、撮像装置100が主体として説明される動作は制御部101(CPU)が、サーバ200が主体として説明される動作は制御部(CPU)201が、エッジデバイス400’が主体として説明される動作は制御部401(CPU)が、実際の主体である。また、図8において、第1および第2実施形態で説明した動作と同じ動作を行うステップには図2および図6と同じ参照数字を付してある。なお、サーバ200およびエッジデバイス400’との通信に必要な設定や情報は予め登録され、ROM102に記憶されているものとする。また、エッジデバイス400’と通信する前にエッジデバイス400’を通信相手として登録しておく必要がある場合、そのような登録も事前に行われているものとする。 Next, the interoperation between the imaging device 100, the edge device 400', and the server 200 will be described with reference to the flowchart in FIG. 8. In the following, the operations described as being mainly performed by the imaging device 100 are actually performed by the control unit 101 (CPU), the operations described as being mainly performed by the server 200 are actually performed by the control unit (CPU) 201, and the operations described as being mainly performed by the edge device 400' are actually performed by the control unit 401 (CPU). In addition, in FIG. 8, the same reference numerals as in FIG. 2 and FIG. 6 are used for steps that perform the same operations as those described in the first and second embodiments. Note that the settings and information required for communication with the server 200 and the edge device 400' are registered in advance and stored in the ROM 102. In addition, if it is necessary to register the edge device 400' as a communication partner before communicating with the edge device 400', such registration is also performed in advance.

図8において、S401~S406までの動作は第2実施形態と同じであるため説明を省略する。S407で撮像装置100は、サーバ200で画像処理を適用するRAWデータをエッジデバイス400’に送信する。 In FIG. 8, the operations from S401 to S406 are the same as those in the second embodiment, and therefore the description will be omitted. In S407, the imaging device 100 transmits the RAW data to which the server 200 applies image processing to the edge device 400'.

S1208でエッジデバイス400’は、受信したRAWデータをRAM403もしくは記録部407に記憶する。
S1209でエッジデバイス400’は、評価部411を用いて、受信したRAWデータのそれぞれに対して評価値を算出させる。
In S 1208 , the edge device 400 ′ stores the received RAW data in the RAM 403 or the recording unit 407 .
In S1209, the edge device 400' causes the evaluation unit 411 to calculate an evaluation value for each piece of received RAW data.

ここで、評価部411が行う評価値の算出の動作の例を図9のフローチャートを用いて説明する。評価部411は、撮像装置100から受信した画像データについて、サーバ200で画像処理を適用することによる効果の大きさの指標となる評価値を算出する。 Here, an example of the operation of calculating the evaluation value performed by the evaluation unit 411 will be described with reference to the flowchart in FIG. 9. The evaluation unit 411 calculates an evaluation value that is an index of the magnitude of the effect of applying image processing by the server 200 to the image data received from the imaging device 100.

ここでは一例として、エッジが多い画像ほど、サーバ200で画像処理を適用することの効果が大きい場合の評価値の算出方法について説明する。なお、どのような評価値を算出するかに特に制限はなく、例えば上述した画像処理システム用のアプリケーションを更新することによって適宜変更することも可能である。評価値はサーバ200で適用する画像処理に依存するため、例えばサーバ200における画像処理プログラム211の更新に応じて、評価部411において算出する評価値が変更されてもよい。 Here, as an example, a method of calculating an evaluation value in a case where the effect of applying image processing by the server 200 is greater for an image with more edges is described. Note that there is no particular limit to what evaluation value is calculated, and it is possible to change it as appropriate, for example, by updating the application for the image processing system described above. Since the evaluation value depends on the image processing applied by the server 200, the evaluation value calculated by the evaluation unit 411 may be changed, for example, in response to an update of the image processing program 211 in the server 200.

S1601で評価部411は、1フレーム分のRAWデータを読み出し、輝度信号を生成する。ここでは、撮像装置100の撮像素子が原色ベイヤ配列のカラーフィルタを有するものとする。この場合、RAWデータは図10(a)に示すような、各画素が1つの色成分の値を有するデータである。なお、図10にはRAWデータのうち、水平および垂直方向に4画素ずつの画像領域しか示していない。また、Rは赤、Gは緑、Bは青を表す。 In S1601, the evaluation unit 411 reads out one frame's worth of RAW data and generates a luminance signal. Here, it is assumed that the image sensor of the imaging device 100 has a primary color Bayer array color filter. In this case, the RAW data is data in which each pixel has the value of one color component, as shown in FIG. 10(a). Note that FIG. 10 only shows an image area of the RAW data with four pixels in each of the horizontal and vertical directions. Also, R represents red, G represents green, and B represents blue.

評価部411はまず、RAWデータを色成分ごとに分離し、色成分が存在しない画素位置には0を挿入した色プレーン画像データ(図10(b))を生成する。そして、評価部411は、色プレーン画像データに対して公知の補間処理を適用し、0が挿入された画素における値を補う(図10(c))。 First, the evaluation unit 411 separates the raw data into color components and generates color plane image data (FIG. 10(b)) by inserting zeros into pixel positions where no color component exists. The evaluation unit 411 then applies a known interpolation process to the color plane image data to compensate for the values of the pixels where zeros have been inserted (FIG. 10(c)).

次に評価部411は、補間後の各色プレーン画像データを用いて、各画素位置における輝度値Yを以下の式1によって求め、輝度データ(図10(d))を生成する。
Y = 0.3 × R + 0.6 × G + 0.1 × B (式1)
ここで、R,G,Bは、それぞれのプレーン画像データにおける値である。
Next, the evaluation unit 411 uses the interpolated image data for each color plane to calculate the luminance value Y at each pixel position according to the following formula 1, and generates luminance data (FIG. 10(d)).
Y = 0.3 × R + 0.6 × G + 0.1 × B (Formula 1)
Here, R, G, and B are values in the respective plane image data.

S1602で評価部411は、S1601で生成した輝度データの1画素を対象画素としてエッジ検出処理を適用する。エッジ検出は例えば図11に示すソーベルフィルタを用いた空間フィルタ処理であってよい。図11(a)は、対象画素の垂直方向のエッジ強度Eを算出するためのソーベルフィルタ、図11(b)は、対象画素の水平方向のエッジ強度Eを算出するためのソーベルフィルタである。対象画素を中心とした周辺8画素の値に対してそれぞれのフィルタを適用することで得られる値を垂直方向のエッジ強度Eおよび水平方向のエッジ強度Eとする。空間フィルタ処理は、対象画素と、対象画素を中心とした周辺画素のそれぞれの値と、空間フィルタの対応する位置の係数との積和演算である。なお、図11に示した空間フィルタの係数およびサイズは単なる一例である。別のフィルタや方法を用いてエッジ強度を検出してもよい。 In S1602, the evaluation unit 411 applies edge detection processing to one pixel of the luminance data generated in S1601 as a target pixel. The edge detection may be, for example, spatial filter processing using a Sobel filter shown in FIG. 11. FIG. 11(a) is a Sobel filter for calculating the vertical edge strength Ey of the target pixel, and FIG. 11(b) is a Sobel filter for calculating the horizontal edge strength Ex of the target pixel. The values obtained by applying each filter to the values of the surrounding eight pixels centered on the target pixel are set as the vertical edge strength Ey and the horizontal edge strength Ex . The spatial filter processing is a product-sum operation of the target pixel, the values of the surrounding pixels centered on the target pixel, and the coefficients of the spatial filter at the corresponding positions. Note that the coefficients and sizes of the spatial filter shown in FIG. 11 are merely examples. Edge strength may be detected using another filter or method.

評価部411は、対象画素について算出した垂直方向エッジ強度Eおよび水平方向エッジ強度Eから、対象画素についてのエッジ強度E(変化量)を以下の式2によって求める。
E= {(Ex2+ Ey2)}1/2 (式2)
The evaluation unit 411 calculates the edge strength E (amount of change) for the target pixel from the vertical edge strength Ey and horizontal edge strength Ex calculated for the target pixel using the following Equation 2.
E = {( Ex2 + Ey2 )} 1/2 (Equation 2)

S1603で評価部411は、S1602で求めたエッジ強度Eが閾値以上であるか否かを判定し、エッジ強度Eが閾値以上であると判定されればS1604で対象画素にエッジフラグを付与してからS1605を実行する。一方、評価部411は、S1603でエッジ強度Eが閾値以上と判定されなければS1604をスキップしてS1605を実行する。 In S1603, the evaluation unit 411 determines whether the edge strength E calculated in S1602 is equal to or greater than a threshold value, and if it is determined that the edge strength E is equal to or greater than the threshold value, an edge flag is assigned to the target pixel in S1604, and then S1605 is executed. On the other hand, if the evaluation unit 411 does not determine that the edge strength E is equal to or greater than the threshold value in S1603, it skips S1604 and executes S1605.

S1605で評価部411は、輝度データの全ての画素についてエッジ検出処理を適用したか否かを判定する。全ての画素についてエッジ検出処理を適用したと判定されれば、評価部411はS1606で、エッジフラグが付与された画素の数をRAWデータに対する評価値として算出する。一方、全ての画素についてエッジ検出処理を適用したと判定されなければ、エッジ検出処理を適用していない画素について、S1602からの処理を適用する。
評価部411は、記憶されたRAWデータのそれぞれについて評価値を算出する。
In S1605, the evaluation unit 411 determines whether or not edge detection processing has been applied to all pixels of the luminance data. If it is determined that edge detection processing has been applied to all pixels, in S1606, the evaluation unit 411 calculates the number of pixels to which edge flags have been assigned as an evaluation value for the RAW data. On the other hand, if it is not determined that edge detection processing has been applied to all pixels, the evaluation unit 411 applies the processing from S1602 to pixels to which edge detection processing has not been applied.
The evaluation unit 411 calculates an evaluation value for each of the stored raw data.

図8に戻り、S1210でエッジデバイス400’は、S1209で算出した評価値に基づいてサーバ200に送信するRAWデータを決定する。具体的には、評価値が予め設定した閾値以上となるRAWデータをサーバ200に送信する。この閾値は、ユーザインタフェースを介して得られたユーザの指示に応じて調整できるように構成してもよい。 Returning to FIG. 8, in S1210, the edge device 400' determines the RAW data to be transmitted to the server 200 based on the evaluation value calculated in S1209. Specifically, the edge device 400' transmits to the server 200 RAW data whose evaluation value is equal to or greater than a preset threshold value. This threshold value may be configured to be adjustable in response to a user instruction obtained via a user interface.

S1211でエッジデバイス400’は、S1210で決定したRAWデータを、ネットワーク300を介してサーバ200に送信する。 At S1211, the edge device 400' transmits the RAW data determined at S1210 to the server 200 via the network 300.

サーバ200におけるS408~S410の動作、エッジデバイス400’におけるS1011~S1012の動作、撮像装置100におけるS411~S413の動作は第2実施形態と同様であるため説明を省略する。 The operations of S408 to S410 in the server 200, S1011 to S1012 in the edge device 400', and S411 to S413 in the imaging device 100 are the same as those in the second embodiment, so the description will be omitted.

本実施形態では、サーバ200で画像処理を適用する画像データについて、サーバ200に送信するためにエッジデバイス400で評価を行い、サーバ200での画像処理による効果が高いと考えられるRAWデータをサーバ200に送信するようにした。そのため、撮像装置100は、サーバ200で画像処理を適用する効果が大きい画像の処理結果を受信することができる。 In this embodiment, image data to which image processing is applied by the server 200 is evaluated by the edge device 400 in order to be transmitted to the server 200, and RAW data for which image processing by the server 200 is considered to be highly effective is transmitted to the server 200. Therefore, the imaging device 100 can receive the processing result of an image for which the application of image processing by the server 200 is highly effective.

なお、エッジデバイス400’からサーバ200に画像データを送信する前に送信する画像データをユーザに提示し、確認が得られてから送信するようにしてもよい。この際、ユーザが送信しない画像データを選択できるようにしてもよい。 In addition, before transmitting image data from edge device 400' to server 200, the image data to be transmitted may be presented to the user, and the image data may be transmitted only after confirmation is obtained. At this time, the user may be allowed to select image data that is not to be transmitted.

●(第4実施形態)
次に、本発明の第4実施形態について説明する。本実施形態の画像処理システムは、第3実施形態においてエッジデバイス400’が実行した画像データの評価をサーバ200で行い、画像処理を適用するRAWデータを決定する構成である。したがって、第3実施形態との差異について重点的に説明する。
(Fourth embodiment)
Next, a fourth embodiment of the present invention will be described. In the image processing system of this embodiment, the server 200 evaluates the image data executed by the edge device 400' in the third embodiment, and determines the RAW data to which image processing is applied. Therefore, the following description will focus on the differences from the third embodiment.

図12は、本実施形態におけるサーバ200’の機能構成例を示すブロック図であり、第1実施形態で説明したサーバ200のROM203に対し、効果判定プログラム212を追加した構成を有する。他の機能ブロックについては第1実施形態と同様であるため説明を省略する。 Figure 12 is a block diagram showing an example of the functional configuration of the server 200' in this embodiment, which has a configuration in which an effect determination program 212 is added to the ROM 203 of the server 200 described in the first embodiment. The other functional blocks are similar to those in the first embodiment, so their description will be omitted.

効果判定プログラム212は、制御部201が実行することにより、第3実施形態におけるエッジデバイス400’の評価部411と同様の機能を実現する。
制御部201は効果判定プログラム212を実行して、撮像装置100から受信した画像データ(RAWデータ)を評価する。そして、評価結果に基づいて、画像処理プログラム211による処理を適用するRAWデータを決定する。
The effect judgment program 212 is executed by the control unit 201 to realize a function similar to that of the evaluation unit 411 of the edge device 400' in the third embodiment.
The control unit 201 executes the effect determination program 212 to evaluate the image data (RAW data) received from the imaging apparatus 100. Then, based on the evaluation result, the control unit 201 determines the RAW data to which the processing by the image processing program 211 is to be applied.

次に、撮像装置100、エッジデバイス400、およびサーバ200’との相互動作に関して図13のフローチャートを参照して説明する。以下、撮像装置100が主体として説明される動作は制御部101(CPU)が、サーバ200’が主体として説明される動作は制御部(CPU)201が、エッジデバイス400が主体として説明される動作は制御部401(CPU)が、実際の主体である。また、図13において、第1から第3実施形態で説明した動作と同じ動作を行うステップには図2、図6、および図8と同じ参照数字を付してある。また、エッジデバイス400’と通信する前にエッジデバイス400’を通信相手として登録しておく必要がある場合、そのような登録も事前に行われているものとする。 Next, the interaction between the imaging device 100, edge device 400, and server 200' will be described with reference to the flowchart in FIG. 13. Below, operations described as being mainly performed by the imaging device 100 are actually performed by the control unit 101 (CPU), operations described as being mainly performed by the server 200' are actually performed by the control unit (CPU) 201, and operations described as being mainly performed by the edge device 400 are actually performed by the control unit 401 (CPU). In addition, in FIG. 13, steps that perform the same operations as those described in the first to third embodiments are given the same reference numerals as in FIG. 2, FIG. 6, and FIG. 8. In addition, if it is necessary to register the edge device 400' as a communication partner before communicating with the edge device 400', it is assumed that such registration has also been performed in advance.

図8において、S401~S406までの動作は第2実施形態と同じであるため説明を省略する。S407で撮像装置100は、サーバ200で画像処理を適用するRAWデータを第1実施形態と同様にサーバ200に送信する。
S408でサーバ200’は、撮像装置100からRAWデータを受信すると、RAM202や記憶部205に記憶する。
8, the operations from S401 to S406 are the same as those in the second embodiment, and therefore the description will be omitted. In S407, the imaging apparatus 100 transmits the RAW data to which the server 200 applies image processing to, to the server 200, in the same manner as in the first embodiment.
In S 408 , when the server 200 ′ receives the RAW data from the image capturing apparatus 100 , the server 200 ′ stores the RAW data in the RAM 202 or the storage unit 205 .

S1209で制御部201は、ROM203に記憶されている効果判定プログラム212を実行し、撮像装置100から受信したRAWデータに対する評価値を算出する。この処理は第3実施形態で説明したものと同じであってよい。 In S1209, the control unit 201 executes the effect determination program 212 stored in the ROM 203, and calculates an evaluation value for the RAW data received from the imaging device 100. This process may be the same as that described in the third embodiment.

S1210で制御部201は、S1209で算出した評価値に基づいて、撮像装置100から受信したRAWデータについて、画像処理プログラム211による画像処理を適用するか否かを決定する。制御部201は具体的には、画像処理プログラム211による画像処理の効果が大きいと考えられるRAWデータのみに画像処理を適用するよう決定する。 In S1210, the control unit 201 determines whether or not to apply image processing by the image processing program 211 to the RAW data received from the imaging device 100 based on the evaluation value calculated in S1209. Specifically, the control unit 201 determines to apply image processing only to RAW data for which the effect of image processing by the image processing program 211 is considered to be large.

S409で制御部201は画像処理プログラム211を実行し、S1210で決定されたRAWデータに画像処理(ここでは現像処理)を適用する。
その後の、サーバ200’におけるS410の動作、エッジデバイス400におけるS1011~S1012の動作、撮像装置100におけるS411~S413の動作は第2実施形態と同様であるため説明を省略する。
In S409, the control unit 201 executes the image processing program 211, and applies image processing (here, development processing) to the RAW data determined in S1210.
The subsequent operations of S410 in the server 200', S1011 to S1012 in the edge device 400, and S411 to S413 in the imaging apparatus 100 are similar to those in the second embodiment, and therefore description thereof will be omitted.

本実施形態では、サーバ200’で画像処理を適用する画像データについて、サーバ200’で評価を行い、サーバ200’での画像処理による効果が高いと考えられるRAWデータのみに画像処理を適用するようにした。そのため、撮像装置100は、サーバ200で画像処理を適用する効果が大きい画像のみについて処理結果を受信することができる。 In this embodiment, the server 200' evaluates the image data to which the server 200' applies image processing, and applies image processing only to RAW data for which the server 200' is deemed to be highly effective. Therefore, the imaging device 100 can receive the processing results for only images for which the server 200' is likely to be effective in applying image processing.

なお、サーバ200’で画像処理を適用する前に適用する画像データを撮像装置100に送信し、撮像装置100の表示部109を通じてユーザに提示してもよい。そして、撮像装置100から確認が得られてから画像処理を適用するようにしてもよい。この際、ユーザが画像処理を適用しない画像データを撮像装置100で選択できるようにしてもよい。 Note that before applying image processing in the server 200', the image data to be applied may be transmitted to the imaging device 100 and presented to the user via the display unit 109 of the imaging device 100. Then, the image processing may be applied after confirmation is obtained from the imaging device 100. At this time, the imaging device 100 may be allowed to allow the user to select image data to which image processing is not to be applied.

●(第5実施形態)
次に、本発明の第5実施形態について説明する。本実施形態の画像処理システムは、第1実施形態においてサーバ200がRAWデータを受信して実施する処理をエッジデバイス400で実施するようにした構成である。本実施形態に係る画像処理システムの構成、撮像装置100、サーバ200、およびエッジデバイス400の機能構成は第2実施形態と同様であってよい。
● (Fifth embodiment)
Next, a fifth embodiment of the present invention will be described. In the image processing system of this embodiment, the process that is received by the server 200 and executed in the first embodiment is executed by the edge device 400. The configuration of the image processing system according to this embodiment, and the functional configurations of the imaging device 100, the server 200, and the edge device 400 may be similar to those of the second embodiment.

次に、撮像装置100、エッジデバイス400、およびサーバ200との相互動作に関して図14のフローチャートを参照して説明する。以下、撮像装置100が主体として説明される動作は制御部101(CPU)が、サーバ200が主体として説明される動作は制御部(CPU)201が、エッジデバイス400が主体として説明される動作は制御部401(CPU)が、実際の主体である。また、図14において、第1実施形態で説明した動作と同じ動作を行うステップには図2と同じ参照数字を付してある。また、エッジデバイス400と通信する前にエッジデバイス400を通信相手として登録しておく必要がある場合、そのような登録も事前に行われているものとする。 Next, the interaction between the imaging device 100, edge device 400, and server 200 will be described with reference to the flowchart in FIG. 14. Below, operations described as being mainly performed by the imaging device 100 are actually performed by the control unit 101 (CPU), operations described as being mainly performed by the server 200 are actually performed by the control unit (CPU) 201, and operations described as being mainly performed by the edge device 400 are actually performed by the control unit 401 (CPU). In addition, in FIG. 14, steps that perform the same operations as those described in the first embodiment are given the same reference numerals as in FIG. 2. Also, if it is necessary to register the edge device 400 as a communication partner before communicating with the edge device 400, it is assumed that such registration has also been performed in advance.

図14において、S401~S406までの動作は第1実施形態と同じであるため説明を省略する。S407で撮像装置100は、RAWデータをサーバ200ではなくエッジデバイス400に送信する。
S408でエッジデバイス400は、撮像装置100からRAWデータを受信すると、RAM403や記録部407に記憶する。
14, the operations from S401 to S406 are the same as those in the first embodiment, and therefore the description thereof will be omitted.
In S<b>408 , when the edge device 400 receives the RAW data from the imaging apparatus 100 , the edge device 400 stores the RAW data in the RAM 403 or the recording unit 407 .

S409でエッジデバイス400は、画像処理部405を用いて、第1実施形態でサーバ200が画像処理プログラム211を実行して適用するのと同様の画像処理(現像処理)をRAWデータに適用する。
S1510でエッジデバイス400は、表示部408に、現像処理後の画像データを表示する。
In S409, the edge device 400 uses the image processing unit 405 to apply image processing (development processing) to the RAW data similar to that applied by the server 200 executing the image processing program 211 in the first embodiment.
In S1510, the edge device 400 displays the developed image data on the display unit 408.

その後エッジデバイス400は、S410で現像処理後の画像データを撮像装置100に送信する。
撮像装置100におけるS411~S413の動作は第1実施形態と同様であるため説明を省略する。
Thereafter, the edge device 400 transmits the developed image data to the imaging apparatus 100 in S410.
The operations of S411 to S413 in the image capturing apparatus 100 are similar to those in the first embodiment, and therefore the description thereof will be omitted.

本実施形態では、プロキシ画像データの元データに対する画像処理を、サーバ200ではなくエッジデバイス400で行うようにした。プロキシ画像データの元データの容量は大きく、RAWデータであれば特に容量が大きい。そのため、サーバ200でなくエッジデバイス400で画像処理を適用することで、ネットワーク300でサーバ200との間で送受信する画像データの量を大幅に削減することができる。これにより、ネットワーク300を用いる通信コストやサーバコストの大幅な削減が実現できる。 In this embodiment, image processing of the original data of the proxy image data is performed by the edge device 400 rather than the server 200. The volume of the original data of the proxy image data is large, and RAW data is particularly large. Therefore, by applying image processing by the edge device 400 rather than the server 200, the amount of image data sent and received between the server 200 and the network 300 can be significantly reduced. This makes it possible to significantly reduce communication costs and server costs using the network 300.

(変形例)
上述の実施形態では、外部装置で画像処理を適用する画像データを撮像装置100が決定する構成であった。この場合、実施形態で説明したように、外部装置で画像処理を適用する画像データをプロキシ画像データの処理結果に基づいて撮像装置が決定するための機能(例えばプログラムや判断基準など)を撮像装置に実装する必要がある。
(Modification)
In the above-described embodiment, the image data to which the image processing is applied in the external device is determined by the imaging device 100. In this case, as described in the embodiment, it is necessary to implement in the imaging device a function (e.g., a program, a determination criterion, etc.) for the imaging device to determine the image data to which the image processing is applied in the external device based on the processing result of the proxy image data.

先に説明したように、撮像装置のハードウェアリソースは容量、能力ともにエッジデバイスやサーバと比較すると大幅に制限されているため、実装された機能を更新することは容易でない。そのため、外部装置の画像処理プログラムが更新された際に、外部装置で画像処理を適用する画像データを撮像装置が決定するための機能も併せて更新することが望ましい場合であっても、それができない場合がある。この場合、撮像装置において、外部装置に送信する画像データを適切に決定できなくなる。 As explained above, the hardware resources of an imaging device are significantly more limited in both capacity and capability than edge devices and servers, making it difficult to update implemented functions. Therefore, even if it is desirable to also update the function that enables the imaging device to determine the image data to which image processing is to be applied in the external device when the image processing program of the external device is updated, this may not be possible. In this case, the imaging device will be unable to properly determine the image data to send to the external device.

そのため、上述の実施形態において撮像装置100がS405~S406で実行する、外部装置で画像処理を適用する画像データの決定処理を、サーバ200もしくはエッジデバイス400で行うようにすることが考えられる。この場合、サーバ200またはエッジデバイス400は、決定した画像データを送信するように撮像装置100に要求し、撮像装置は要求された画像データをサーバ200もしくはエッジデバイス400に送信する。例えば、第1実施形態であれば、サーバ200がS403で被写体認識処理を行ったのち、登録済みの人物が検出されたプロキシ画像データの元データ(現像済み画像データでもRAWデータでもよい)をS404で撮像装置100に要求する。そして、撮像装置100はS407で元データをサーバ200に送信する。他の実施形態でも同様に、プロキシ画像データに画像処理を行った装置がプロキシ画像データの元データを撮像装置に要求することができる。あるいは、プロキシ画像データに画像処理を行った装置(例えばエッジデバイス)が撮像装置に対して、プロキシ画像データの元データを他の装置(例えばサーバ)に送信するように要求してもよい。 Therefore, it is conceivable that the image data determination process to be applied to the image processing by the external device, which is executed by the imaging device 100 in S405 to S406 in the above-mentioned embodiment, is executed by the server 200 or the edge device 400. In this case, the server 200 or the edge device 400 requests the imaging device 100 to transmit the determined image data, and the imaging device transmits the requested image data to the server 200 or the edge device 400. For example, in the first embodiment, after the server 200 performs the subject recognition process in S403, it requests the imaging device 100 in S404 to transmit the original data (which may be developed image data or RAW data) of the proxy image data in which the registered person is detected. Then, the imaging device 100 transmits the original data to the server 200 in S407. Similarly, in other embodiments, the device that performed image processing on the proxy image data can request the imaging device to transmit the original data of the proxy image data. Alternatively, the device that performed image processing on the proxy image data (e.g., an edge device) may request the imaging device to transmit the original data of the proxy image data to another device (e.g., a server).

なお、エッジデバイス400は撮像装置100よりもサーバ200に近い能力を有する上、ソフトウェアの更新も容易である。そのため、サーバ200の画像処理プログラム211が更新され、サーバ200で処理することが望ましい画像データの判断基準が変化する場合であっても、容易に対応することができる。例えば、更新された画像処理プログラム211に適した判断基準をサーバ200からエッジデバイス400に対して送信し、エッジデバイス400が用いる判断基準を更新してもよい。あるいは、エッジデバイス400の画像処理システム用アプリケーションを更新することによって、判断基準を更新してもよい。
なお、すでに説明したように、上述した各実施形態では撮像装置100を用いて説明を行ったが、本発明は画像データを取り扱い可能な情報処理装置に適用可能である。
The edge device 400 has capabilities closer to the server 200 than the imaging device 100, and software updates are also easy. Therefore, even if the image processing program 211 of the server 200 is updated and the criteria for determining image data that is desired to be processed by the server 200 change, it can be easily dealt with. For example, the server 200 may transmit criteria suitable for the updated image processing program 211 to the edge device 400 to update the criteria used by the edge device 400. Alternatively, the criteria may be updated by updating an application for the image processing system of the edge device 400.
As already explained, in each of the above-mentioned embodiments, the imaging device 100 is used for explanation, but the present invention can be applied to an information processing device capable of handling image data.

●(第6実施形態)
本実施形態は、図5(a)に示した、撮像装置100、エッジデバイス400(第1外部装置)、サーバ200(第2外部装置)がネットワーク300に接続された構成の画像処理システムに関する。ただし、エッジデバイス400とサーバ200の機能構成が一部異なるため、以下ではエッジデバイス400”、サーバ200”と表記する。

本実施形態では、図15に示すように、撮像装置100の通信部110が、ネットワーク300(サーバ200”)用の通信インタフェースに加え、エッジデバイス400”用の通信インタフェースを有するものとする。本実施形態においても、撮像装置100とエッジデバイス400”との通信には費用が発生しないものとする。
● (Sixth embodiment)
5A, an image processing system in which an imaging device 100, an edge device 400 (first external device), and a server 200 (second external device) are connected to a network 300. However, since the functional configurations of the edge device 400 and the server 200 are partially different, hereinafter, they will be referred to as the edge device 400″ and the server 200″.

In this embodiment, as shown in FIG. 15 , the communication unit 110 of the imaging device 100 has a communication interface for the edge device 400″ in addition to a communication interface for the network 300 (server 200″). In this embodiment as well, no cost is incurred for communication between the imaging device 100 and the edge device 400″.

図15は、撮像装置100の機能構成例を示すブロック図である。通信部110の構成を除き、第1実施形態で説明した構成と同じでよいため、通信部110以外の機能ブロックの説明は省略する。 Figure 15 is a block diagram showing an example of the functional configuration of the imaging device 100. Except for the configuration of the communication unit 110, the configuration may be the same as that described in the first embodiment, so a description of the functional blocks other than the communication unit 110 will be omitted.

本実施形態においては通信部110は、ネットワーク300を通じた撮像装置100とサーバ200”との通信、ならびに撮像装置100とエッジデバイス400”との無線通信を実現する。制御部101は、通信部110を通じ、サーバ200”やエッジデバイス400”と画像データなどを送受信する。 In this embodiment, the communication unit 110 realizes communication between the imaging device 100 and the server 200" via the network 300, as well as wireless communication between the imaging device 100 and the edge device 400". The control unit 101 transmits and receives image data and the like to and from the server 200" and the edge device 400" via the communication unit 110.

図16(a)は、サーバ200”の機能構成例を示すブロック図である。サーバ200”は、図1(c)に示した第1実施形態のサーバ200において、画像認識プログラムをROM203’に記憶することを要しないことを除き、同様の構成であってよい。したがって、サーバ200と共通する事項については説明を省略する。以下では、サーバ200”が提供する画像処理機能がRAWデータの現像処理である場合について説明するが、他の画像処理機能であってもよい。

本実施形態において通信部204は、ネットワーク300を通じたサーバ200”と撮像装置100との通信、およびネットワーク300を通じたサーバ200”とエッジデバイス400”との通信を実現する。制御部201は、通信部204を通じ、撮像装置100やエッジデバイス400”と画像データなどを送受信する。
FIG. 16(a) is a block diagram showing an example of the functional configuration of a server 200". The server 200" may have a similar configuration to the server 200 of the first embodiment shown in FIG. 1(c), except that it is not necessary to store an image recognition program in the ROM 203'. Therefore, a description of matters common to the server 200 will be omitted. Below, a description will be given of a case where the image processing function provided by the server 200" is development processing of RAW data, but other image processing functions may also be used.

In this embodiment, the communication unit 204 realizes communication between the server 200" and the imaging device 100 via the network 300, and communication between the server 200" and the edge device 400" via the network 300. The control unit 201 transmits and receives image data, etc. to and from the imaging device 100 and the edge device 400" via the communication unit 204.

なお、ネットワーク300は撮像装置100およびエッジデバイス400”のそれぞれと、サーバ200”とのデータ通信をサポートすることが可能な任意の公知のネットワークであってよいため、具体的な構成については説明を省略する。 Note that the network 300 may be any known network capable of supporting data communication between the imaging device 100 and the edge device 400'' and the server 200'', and therefore a description of the specific configuration will be omitted.

図16(b)はエッジデバイス400”の機能構成例を示すブロック図である。エッジデバイス400”は、画像認識部404に代えて評価部411を有することを除き、図5(b)に示した第2実施形態のエッジデバイス400と同様の構成であってよい。したがって、エッジデバイス400と共通する事項については説明を省略する。 Figure 16 (b) is a block diagram showing an example of the functional configuration of edge device 400". Edge device 400" may have the same configuration as edge device 400 of the second embodiment shown in Figure 5 (b) except that edge device 400" has evaluation unit 411 instead of image recognition unit 404. Therefore, a description of matters common to edge device 400 will be omitted.

評価部411は一部の実施形態において、画像データから評価値を算出する。評価値は画像処理を撮像装置100の外部装置で行うRAWデータの送信順序の決定などに用いられる。評価部411は第3実施形態において図9~図11を用いて説明したものであってよい。なお、評価値を用いない実施形態では評価部411は不要である。 In some embodiments, the evaluation unit 411 calculates an evaluation value from the image data. The evaluation value is used to determine the transmission order of RAW data in which image processing is performed by an external device of the imaging device 100. The evaluation unit 411 may be the one described in the third embodiment using Figures 9 to 11. Note that in an embodiment in which the evaluation value is not used, the evaluation unit 411 is not necessary.

次に、撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図17のフローチャートを参照して説明する。以下、本明細書において撮像装置100が主体として説明される動作は制御部101(CPU)が撮像装置100の他の構成要素を制御することによって実現される。また、サーバ200”が主体として説明される動作は制御部(CPU)201がサーバ200”の他の構成要素を制御することによって実現される。さらに、エッジデバイス400”が主体として説明される動作は制御部401(CPU)がエッジデバイス400”の他の構成要素を制御することによって実現される。また、以下の説明においては限定的な記載が無いかぎり、機器間で特定の情報やデータが通信される際に、明示されていない他の情報やデータも通信されうる。 Next, the interoperation between the imaging device 100, edge device 400", and server 200" will be described with reference to the flowchart in FIG. 17. In the following description, operations described as being mainly performed by the imaging device 100 are realized by the control unit 101 (CPU) controlling the other components of the imaging device 100. Operations described as being mainly performed by the server 200" are realized by the control unit (CPU) 201 controlling the other components of the server 200". Operations described as being mainly performed by the edge device 400" are realized by the control unit 401 (CPU) controlling the other components of the edge device 400". In the following description, unless otherwise specified, when specific information or data is communicated between devices, other information or data not explicitly stated may also be communicated.

なお、撮像装置100がサーバ200”およびエッジデバイス400”との通信に必要とする設定や情報は予めROM102に記憶されているものとする。また、撮像装置100がエッジデバイス400”と通信する前にエッジデバイス400”を通信相手として登録しておく必要がある場合、そのような登録も事前に行われているものとする。 Note that the settings and information required for the imaging device 100 to communicate with the server 200" and the edge device 400" are assumed to be stored in advance in the ROM 102. Also, if it is necessary for the imaging device 100 to register the edge device 400" as a communication partner before communicating with the edge device 400", such registration is assumed to have been performed in advance.

S1701において、撮像装置100は記録部108に記録されているプロキシ画像データを、通信部110から、エッジデバイス400”に送信する。このプロキシ画像データは、記録部108に記録されている画像データに関する情報の一例である。S1701を実行するタイミングに特に制限はなく、例えば未処理のRAWデータが記録部108に存在することが確認された時点で開始してもよいし、ユーザの指示によって開始してもよい。また、送信するプロキシ画像データは、RAWデータに対応するものであっても、現像済みの画像データに対応するものであっても、ユーザが選択したものであってもよい。あるいは、全てのプロキシ画像データを送信してもよい。 In S1701, the imaging device 100 transmits the proxy image data recorded in the recording unit 108 to the edge device 400" from the communication unit 110. This proxy image data is an example of information related to the image data recorded in the recording unit 108. There are no particular limitations on the timing of executing S1701, and it may be started, for example, when it is confirmed that unprocessed RAW data exists in the recording unit 108, or it may be started by a user instruction. In addition, the proxy image data to be transmitted may correspond to RAW data, may correspond to developed image data, or may be selected by the user. Alternatively, all proxy image data may be transmitted.

また、RAWデータのうち、現像処理されていない(未処理の)RAWデータに対応するプロキシ画像データを送信してもよい。この場合、例えば、対応する汎用形式(例えばJPEG形式)の画像データが記録されていないRAWデータを未処理のRAWデータと判別することができる。あるいは、未処理か否かを判別可能なファイル名を付与するようにして、ファイル名から未処理のRAWデータを判別してもよい。S1701では2枚(フレーム)以上のプロキシ画像データをエッジデバイス400”に送信するものとする。 Proxy image data corresponding to raw data that has not been developed (unprocessed) may also be transmitted. In this case, for example, raw data for which image data in a corresponding general format (e.g., JPEG format) is not recorded can be determined as unprocessed raw data. Alternatively, a file name that can be used to determine whether the data is unprocessed or not may be assigned, and unprocessed raw data can be determined from the file name. In S1701, two or more frames of proxy image data are transmitted to the edge device 400".

S1702においてエッジデバイス400”には撮像装置100から通信部204を通じてプロキシ画像データを受信する。エッジデバイス400”は受信したプロキシ画像データをRAM403に記憶する。 In S1702, the edge device 400'' receives the proxy image data from the imaging device 100 via the communication unit 204. The edge device 400'' stores the received proxy image data in the RAM 403.

S1703でエッジデバイス400”は、RAM403に記憶されているプロキシ画像データに基づく画像を選択可能に表示部408に一覧表示する。エッジデバイス400”は例えば、表示部408に、プロキシ画像データに基づく画像(プロキシ画像)を一覧表示する画像選択画面を表示して、現像処理を実行すべき画像を選択するようにユーザに通知する。なお、エッジデバイス400”が表示部408に一度に表示するプロキシ画像の数、プロキシ画像の表示サイズ、表示順序に特に制限はない。表示サイズを小さくすれば多数のプロキシ画像が同時に表示されて一覧性が増し、表示サイズを大きくすれば画像の詳細を確認しやすくなる。なお、RAM403に記憶されたプロキシ画像データにもとづくプロキシ画像を1画面に全て表示する必要はない。スクロールやページ切り替えなど公知の手法を用い、プロキシ画像の一覧表示を複数画面に渡って行ってもよい。 In S1703, the edge device 400" displays a list of images based on the proxy image data stored in the RAM 403 on the display unit 408 in a selectable manner. For example, the edge device 400" displays an image selection screen on the display unit 408 that displays a list of images based on the proxy image data (proxy images) and notifies the user to select an image on which development processing should be performed. There are no particular limitations on the number of proxy images that the edge device 400" displays at one time on the display unit 408, the display size of the proxy images, or the display order. If the display size is made smaller, many proxy images are displayed simultaneously, improving the viewability, and if the display size is made larger, it becomes easier to check the details of the images. It is not necessary to display all of the proxy images based on the proxy image data stored in the RAM 403 on one screen. The list of proxy images may be displayed across multiple screens using known techniques such as scrolling or page switching.

エッジデバイス400”のユーザ(撮像装置100のユーザと同一であってもなくてもよい)は、エッジデバイス400”の操作部111を操作することにより、1つ以上のプロキシ画像を選択する。例えばユーザは表示部408がタッチディスプレイであれば画像をタッチして選択することがでける。また、ユーザは操作部111のキーやボタンを操作することによって画像を選択してもよい。ここでの画像選択は、サーバ200”で現像処理を適用するRAWデータの選択に相当する。 The user of the edge device 400'' (which may or may not be the same as the user of the imaging device 100) selects one or more proxy images by operating the operation unit 111 of the edge device 400''. For example, if the display unit 408 is a touch display, the user can select an image by touching it. The user may also select an image by operating the keys or buttons of the operation unit 111. Image selection here corresponds to the selection of RAW data to which development processing is applied by the server 200''.

S1704でエッジデバイスは、ユーザが選択したプロキシ画像に対応するプロキシ画像データを特定する選択ファイル情報(例えばファイル名)を撮像装置100に送信する。なお、S1704でエッジデバイス400”から撮像装置100に送信する選択ファイル情報は、プロキシ画像データとともに撮像装置100から受信している情報に応じて変化しうる。例えば、プロキシ画像データに対応するRAWデータを特定する情報を取得している場合、エッジデバイス400”は選択されたプロキシ画像に対応するRAWデータを特定する情報(例えばファイル名)を選択ファイル情報として撮像装置100に送信してもよい。その他、ユーザがサーバ200”で現像処理を行うことを選択したRAWデータを撮像装置100が特定可能な任意の情報を選択ファイル情報としてエッジデバイス400”から撮像装置100に送信することができる。 In S1704, the edge device transmits to the imaging device 100 selected file information (e.g., a file name) that identifies the proxy image data corresponding to the proxy image selected by the user. The selected file information transmitted from the edge device 400" to the imaging device 100 in S1704 may change depending on the information received from the imaging device 100 together with the proxy image data. For example, if information identifying RAW data corresponding to the proxy image data has been acquired, the edge device 400" may transmit information identifying the RAW data corresponding to the selected proxy image (e.g., a file name) as selected file information to the imaging device 100. In addition, any information that allows the imaging device 100 to identify the RAW data that the user has selected to be developed by the server 200" may be transmitted to the imaging device 100 from the edge device 400" as selected file information.

S1705で撮像装置100は、エッジデバイス400”から受信した情報(選択ファイル情報)をRAM103に記憶する。
S1706で撮像装置100は、選択ファイル情報に基づいてRAWデータを特定する。そして、撮像装置100は、特定したRAWデータを記録部108から読み出し、ネットワーク300を介してサーバ200”に送信する。
In S1705, the imaging apparatus 100 stores the information (selected file information) received from the edge device 400″ in the RAM 103.
In S1706, the imaging apparatus 100 specifies the RAW data based on the selected file information. Then, the imaging apparatus 100 reads the specified RAW data from the recording unit 108, and transmits it to the server 200'' via the network 300.

S1707でサーバ200”はRAWデータを受信し、RAM202や記憶部205に記憶する。
S1708でサーバ200”は、画像処理プログラム211をROM203’からRAM202にロードして実行する。画像処理プログラム211はRAWデータに現像処理を適用する。現像処理は例えばホワイトバランス処理、レンズ収差補正処理、ノイズ低減(NR)処理、色補間処理、ガンマ処理などを含む。また、現像処理後に符号化処理を適用して例えばJPEG形式など所定形式の画像データファイルを生成してもよい。サーバ200”は、S1707におけるRAWデータの受信とS1708における画像処理プログラム211の実行(現像処理の適用)とを並行して実行してもよい。
In S1707, the server 200'' receives the RAW data and stores it in the RAM 202 or the storage unit 205.
In S1708, the server 200" loads the image processing program 211 from the ROM 203' into the RAM 202 and executes it. The image processing program 211 applies development processing to the RAW data. The development processing includes, for example, white balance processing, lens aberration correction processing, noise reduction (NR) processing, color interpolation processing, gamma processing, etc. In addition, after the development processing, an encoding process may be applied to generate an image data file in a predetermined format, such as JPEG format. The server 200" may receive the RAW data in S1707 and execute the image processing program 211 in S1708 (applying development processing) in parallel.

サーバ200”で適用する現像処理は、撮像装置100の画像処理部107よりも新しいおよび/または複雑な手法に基づくものであり、撮像装置100で適用する現像処理よりも良好な処理結果が得られる。これはサーバ200”の処理能力が撮像装置100の処理能力より高いこと、またサーバ200”が実行する画像処理プログラム211が、撮像装置100の画像処理部107よりも新しい技術に基づくものであることによる。 The development processing applied by the server 200" is based on newer and/or more complex techniques than those applied by the image processing unit 107 of the imaging device 100, and produces better processing results than the development processing applied by the imaging device 100. This is because the processing capacity of the server 200" is higher than that of the imaging device 100, and because the image processing program 211 executed by the server 200" is based on newer technology than that of the image processing unit 107 of the imaging device 100.

S1707におけるRAWデータの受信が完了すると、S1709でサーバ200”はRAWデータの受信完了通知をネットワーク300を介して撮像装置100に送信する。 When reception of the RAW data is completed in S1707, in S1709 the server 200" transmits a notification of completion of reception of the RAW data to the imaging device 100 via the network 300.

S1710で撮像装置100は受信完了通知をサーバ200”から受信する。
S1711で撮像装置100は、記録部108に記憶されているRAWデータのうち、S1707で送信していないRAWデータについて、サーバ200”への送信を開始する。なお、S1711でサーバ200”に送信するRAWデータは、必ずしも、S1707で送信していない(すなわち、ユーザが選択しなかった)RAWデータの全てでなくてもよい。例えば、記録部108に記憶されているRAWデータには、S1701でプロキシ画像データがサーバ200”に送信されていないRAWデータが含まれうるからである。したがって、S1701でプロキシ画像データが送信されているRAWデータや、S1701でプロキシ画像データが送信されているRAWデータと同日もしくは近い時刻に撮影されたRAWデータから、S1711で送信するRAWデータを決定してもよい。
In S1710, the imaging device 100 receives a reception completion notification from the server 200''.
In S1711, the imaging apparatus 100 starts transmitting to the server 200″ the RAW data that has not been transmitted in S1707, among the RAW data stored in the recording unit 108. Note that the RAW data transmitted to the server 200″ in S1711 does not necessarily have to be all of the RAW data that has not been transmitted in S1707 (i.e., not selected by the user). For example, the RAW data stored in the recording unit 108 may include RAW data for which proxy image data has not been transmitted to the server 200″ in S1701. Therefore, the RAW data to be transmitted in S1711 may be determined from the RAW data for which proxy image data has been transmitted in S1701, or the RAW data captured on the same day or at a similar time as the RAW data for which proxy image data has been transmitted in S1701.

S1712でサーバ200”は、RAWデータの受信を開始し、RAM202や記憶部205に記憶する。
S1713でサーバ200”は、S1712で受信したRAWデータについてS1708と同様に現像処理を実行する。なお、サーバ200”は、S1708の実行が完了してからS1713を実行する。サーバ200”は、S1708およびS1713で得られた現像済みの画像データを記憶部205に記憶する。
In S1712, the server 200'' starts receiving the RAW data, and stores it in the RAM 202 or the storage unit 205.
In S1713, the server 200" performs development processing on the RAW data received in S1712 in the same manner as in S1708. Note that the server 200" executes S1713 after completing execution of S1708. The server 200" stores the developed image data obtained in S1708 and S1713 in the memory unit 205.

なお、図17ではサーバ200”で現像処理を適用することによって得られた現像済みの画像データをサーバ200”で記憶するようにした。これは、撮像装置100とサーバ200”との通信がデータ量に応じて課金される場合を想定していることによる。このような場合、自宅など通信料金が固定の環境に移動してから、現像済みの画像データをサーバ200”から取得する方が通信費用を削減できる。しかしながら、ユーザが現像結果をすぐに確認したい場合も考えられるため、サーバ200”は現像処理が完了した画像データから順に撮像装置100に送信するようにしてもよい。S1708で現像処理を適用するRAWデータはユーザが選択したRAWデータであるから、ユーザは所望のRAWデータの現像結果を他のRAWデータの現像結果よりも先に確認することができる。 In FIG. 17, the developed image data obtained by applying the development process in the server 200" is stored in the server 200". This is because it is assumed that the communication between the image capture device 100 and the server 200" is charged according to the amount of data. In such a case, communication costs can be reduced by obtaining the developed image data from the server 200" after moving to an environment where communication charges are fixed, such as home. However, since it is also conceivable that the user may want to check the development results immediately, the server 200" may transmit the image data to the image capture device 100 in order starting with the image data for which development processing has been completed. Since the RAW data to which development processing is applied in S1708 is the RAW data selected by the user, the user can check the development results of the desired RAW data before the development results of other RAW data.

本実施形態では、撮像装置に存在するRAWデータのうち、優先的に現像処理を適用したいRAWデータを、エッジデバイスを用いてユーザに問い合わせる。そして、撮像装置は、ユーザが選択したRAWデータを他のRAWデータよりも先に、現像処理を実行する外部装置に送信する。そのため、撮像装置に多数のRAWデータが存在する場合でも、ユーザが望むRAWデータについて優先的に現像処理を実行することが可能になる。そのため、撮像装置の外部装置で現像処理を実行する場合のユーザの待ち時間を短縮することができる。また、外部装置で現像処理を実行するため、撮像装置では実行できない処理を用いた現像処理や、撮像装置よりも高速な現像処理が可能になる。 In this embodiment, the edge device is used to inquire of the user about the RAW data to which the user would like to preferentially apply development processing among the RAW data present in the imaging device. The imaging device then transmits the RAW data selected by the user to an external device that performs development processing before other RAW data. Therefore, even if there is a large amount of RAW data present in the imaging device, it is possible to perform development processing preferentially on the RAW data desired by the user. This makes it possible to reduce the user's waiting time when development processing is performed in a device external to the imaging device. Furthermore, because development processing is performed in an external device, development processing using processing that cannot be performed by the imaging device and development processing that is faster than that performed by the imaging device are possible.

なお、本実施形態では撮像装置100からエッジデバイス400”に直接プロキシ画像を送信する構成であったが、サーバ200”を介するようにしてもよい。例えば図18に示すように、S1701では撮像装置100からサーバ200”にプロキシ画像データを送信し、S1721でサーバ200”がプロキシ画像データを受信する。そして、S1722でサーバ200”は、プロキシ画像データをエッジデバイス400”に送信する。以下、S1702以降は図17と同様である。なお、エッジデバイス400”から選択ファイル情報を直接撮像装置100に送信せずに、サーバ200”を介して撮像装置100に送信してもよい。このように、サーバ200”を介して撮像装置100とエッジデバイス400”との通信を行うように構成することで、撮像装置100とエッジデバイス400”とが直接通信できない場合にも本発明を実施することができる。 In this embodiment, the proxy image is sent directly from the imaging device 100 to the edge device 400'', but it may be sent via the server 200''. For example, as shown in FIG. 18, in S1701, the imaging device 100 sends proxy image data to the server 200'', and in S1721, the server 200'' receives the proxy image data. In S1722, the server 200'' sends the proxy image data to the edge device 400''. From S1702 onwards, the process is the same as in FIG. 17. It is also possible to send the selected file information to the imaging device 100 via the server 200'' instead of directly from the edge device 400'' to the imaging device 100. In this way, by configuring the imaging device 100 and the edge device 400'' to communicate with each other via the server 200'', the present invention can be implemented even when the imaging device 100 and the edge device 400'' cannot communicate directly with each other.

また、本実施形態では現像処理をサーバ200”で実行するものとしたが、現像処理をエッジデバイス400”で行ってもよい。この場合、図17でサーバ200”が実行する処理もエッジデバイス400”が実行すればよい。 In addition, in this embodiment, the development process is performed by the server 200'', but the development process may be performed by the edge device 400''. In this case, the process performed by the server 200'' in FIG. 17 may also be performed by the edge device 400''.

●(第7実施形態)
次に、本発明の第7実施形態について説明する。本実施形態は、RAWデータの一部についての現像処理結果をユーザに提示し、必要性が確認できたRAWデータについて全体に対する現像処理を実行する。部分領域の現像結果が得られるまでの時間短縮および通信データ量の削減が実現できる。
(Seventh embodiment)
Next, a seventh embodiment of the present invention will be described. In this embodiment, the development processing results for a portion of RAW data are presented to the user, and development processing is performed on the entire RAW data for which the necessity for development has been confirmed. This can reduce the time required to obtain the development results for a partial area and the amount of communication data.

本実施形態は、第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。 This embodiment can be implemented using an image processing system similar to that of the sixth embodiment, so a description of the configuration of the imaging device 100, server 200", and edge device 400" will be omitted.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図19のフローチャートを参照して説明する。S1901からS1903は、第6実施形態におけるS1701からS1703と同一であるため説明を省略する。ここでは、S1903で画像が1つ選択されると、エッジデバイス400”はS1904を実行するものとする。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 19. Steps S1901 to S1903 are the same as steps S1701 to S1703 in the sixth embodiment, and therefore will not be described here. Here, when an image is selected in step S1903, the edge device 400" executes step S1904.

S1904でエッジデバイス400”は、S1903でユーザが選択したプロキシ画像について、部分領域を選択する。この選択動作について、図20を用いてさらに説明する。図20はS1903でユーザが選択したプロキシ画像2000を示している。制御部401は、画像処理部405を制御して、ユーザが選択したプロキシ画像に対応するプロキシ画像データに対する特徴領域の検出を実行させる。ここでは特徴領域として人間の顔と思われる領域(顔領域)の位置および大きさを検出するものとする。図20は、検出処理により、顔領域2001および2002が検出された例を示している。 In S1904, the edge device 400" selects a partial region of the proxy image selected by the user in S1903. This selection operation will be further explained with reference to FIG. 20. FIG. 20 shows the proxy image 2000 selected by the user in S1903. The control unit 401 controls the image processing unit 405 to execute detection of a characteristic region in the proxy image data corresponding to the proxy image selected by the user. In this case, the position and size of an area that appears to be a human face (face region) is detected as the characteristic region. FIG. 20 shows an example in which face regions 2001 and 2002 have been detected by the detection process.

エッジデバイス400”は、S1903で選択されたプロキシ画像について、検出された特徴領域を示す指標(例えば矩形状の指標)を重畳表示して、ユーザに提示することができる。エッジデバイス400”は、複数の特徴領域が検出されたプロキシ画像については、ユーザに選択させるか、予め定められた条件に従って自動的に選択することにより、1つの特徴領域を選択する。なお、ここでは先行して現像処理を行う部分領域を特徴領域から選択する例を示した。しかし、色、輝度、距離情報の1つ以上を用いて画像を複数の領域に分割し、ユーザに1つの領域を選択させてもよい。また、ユーザに画像内の任意の部分領域を選択させてもよい。 The edge device 400" can present to the user an indicator (e.g., a rectangular indicator) indicating the detected characteristic area for the proxy image selected in S1903 in a superimposed manner. For a proxy image in which multiple characteristic areas have been detected, the edge device 400" selects one characteristic area by having the user select it or by automatically selecting it according to predetermined conditions. Note that an example has been shown here in which a partial area to be subjected to development processing is selected from the characteristic area in advance. However, it is also possible to divide the image into multiple areas using one or more of color, brightness, and distance information and have the user select one area. It is also possible to have the user select any partial area within the image.

図20に示す例では、ユーザは例えば表示部408のタッチ操作により、2つの顔領域2001、2002のうち1つを選択することができる。ここでは顔領域2001が選択されたものとする。 In the example shown in FIG. 20, the user can select one of the two face areas 2001 and 2002, for example, by touching the display unit 408. Here, it is assumed that the face area 2001 is selected.

図19に戻り、S1905でエッジデバイス400”は、選択ファイル情報に加え、ファイルについて選択された部分領域を特定する情報(部分領域情報)を撮像装置100に送信する。部分領域情報に特に制限はないが、プロキシ画像における部分領域の対角頂点座標などを例示することができる。このとき、プロキシ画像の水平方向および垂直方向の大きさによって正規化された座標値とすることで、対応するRAWデータにおける部分領域の位置を容易に特定することができる。 Returning to FIG. 19, in S1905, the edge device 400" transmits to the imaging device 100, in addition to the selected file information, information identifying the partial area selected for the file (partial area information). There are no particular limitations on the partial area information, but examples include the diagonal vertex coordinates of the partial area in the proxy image. In this case, by using coordinate values normalized by the horizontal and vertical sizes of the proxy image, the position of the partial area in the corresponding RAW data can be easily identified.

S1906で撮像装置100は、選択ファイル情報と部分領域情報とを受信し、RAM103に記憶する。
S1907で撮像装置100は、選択ファイル情報から特定したRAWデータについて、部分領域情報に基づく部分領域のRAWデータ(部分RAWデータ)を、ネットワーク300を介してサーバ200”に送信する。
In S<b>1906 , the imaging apparatus 100 receives the selected file information and the partial region information, and stores them in the RAM 103 .
In S1907, the imaging apparatus 100 transmits, for the RAW data specified from the selected file information, RAW data of a partial region based on the partial region information (partial RAW data) to the server 200'' via the network 300.

S1908でサーバ200”は部分RAWデータを受信する。
S1909でサーバ200”はS1908で受信した部分RAWデータに対して現像処理を適用する。適用する現像処理は第6実施形態と同じであってよい。
S1910でサーバ200”は、部分RAWデータの現像結果を、RAWデータを特定する情報とともにネットワーク300を介してエッジデバイス400”に送信する。
In S1908, the server 200'' receives the partial RAW data.
In S1909, the server 200'' applies development processing to the partial RAW data received in S1908. The development processing to be applied may be the same as that in the sixth embodiment.
In S1910, the server 200'' transmits the development results of the partial RAW data together with information for identifying the RAW data to the edge device 400'' via the network 300.

S1911でエッジデバイス400”は現像結果を受信し、RAM403に記憶する。エッジデバイス400”は、表示部408に現像結果の画像を表示する。エッジデバイス400”は、現像結果を対応するプロキシ画像の全体とともに表示してもよい。ユーザは表示部408を通じて、S1903で自身が選択した画像について、部分領域の現像結果を確認することができる。 In S1911, the edge device 400" receives the development results and stores them in the RAM 403. The edge device 400" displays an image of the development results on the display unit 408. The edge device 400" may also display the development results together with the entire corresponding proxy image. The user can check the development results of a partial area of the image that he or she selected in S1903 via the display unit 408.

本実施形態においてエッジデバイス400”は、現像結果の画像を、画像全体の現像処理の実行指示、部分領域の再選択指示、現像処理のキャンセル指示のいずれかをユーザが選択できるように表示する。エッジデバイス400”は例えば、現像結果の画像に隣接して、各指示に対応する、選択可能なアイコンを表示することができる。 In this embodiment, the edge device 400" displays the developed image so that the user can select from among an instruction to execute development processing of the entire image, an instruction to reselect a partial area, and an instruction to cancel development processing. For example, the edge device 400" can display selectable icons corresponding to each instruction adjacent to the developed image.

S1912でエッジデバイス400”は受け付けたユーザ指示に応じて処理を分岐させる。エッジデバイス400”は、部分領域の再選択指示を検出した場合にはS1904を実行し、画像全体の現像処理の実行指示を検出した場合にはS1913を実行する。なお、図では記載していないが、キャンセル指示を検出した場合、エッジデバイス400”は対応する画像の表示を終了する。 In S1912, the edge device 400" branches the process according to the received user instruction. If the edge device 400" detects an instruction to reselect a partial region, it executes S1904, and if it detects an instruction to execute development processing for the entire image, it executes S1913. Although not shown in the figure, if a cancel instruction is detected, the edge device 400" ends the display of the corresponding image.

部分領域の再選択指示に応じてS1904を実行する場合、エッジデバイス400”は既に選択済みの特徴領域を除いて特徴領域の指標を表示することができる。ユーザが新たに部分領域を選択すると、対象の画像についてS1905以降の処理が再度実行される。 When S1904 is executed in response to an instruction to reselect a partial region, the edge device 400" can display indicators of the feature regions excluding those already selected. When the user selects a new partial region, the processing from S1905 onwards is executed again for the target image.

一方、S1913でエッジデバイス400”は、RAWデータを特定する情報とともに、画像全体の現像処理を要求する通知(本現像リクエスト)を撮像装置100に送信する。
S1914で撮像装置100は、本現像リクエストと、対象のRAWデータを特定する情報とを受信し、RAM103に記憶する。以降、全体のRAWデータを送信するS1915以降の動作は、第6実施形態で説明した図17のS1706からS1713までの動作と同等のため、詳細な説明は省略する。
On the other hand, in S1913, the edge device 400'' transmits, to the imaging apparatus 100, a notification requesting development processing of the entire image (main development request) together with information for identifying the RAW data.
In S1914, the imaging apparatus 100 receives the main development request and information for identifying the target RAW data, and stores them in the RAM 103. Since the operations from S1915 onwards for transmitting the entire RAW data are the same as the operations from S1706 to S1713 in Fig. 17 described in the sixth embodiment, detailed description thereof will be omitted.

ここでは説明および理解を容易にするため、エッジデバイス400”に表示されるプロキシ画像の1つについての動作の流れを説明した。表示部408に複数のプロキシ画像が表示されている場合、残りのプロキシ画像についても、S1903で選択されたものについて同様の動作が実行される。なお、S1903からS1911までの処理は、複数のプロキシ画像についてまとめて実行するように構成することもできる。すなわち、S1903で複数のプロキシ画像が選択された場合、エッジデバイス400”は複数の画像についての選択ファイル情報と部分領域情報をまとめて撮像装置100に送信する。その後、部分RAWデータの送信、現像処理、現像結果の送信についても、複数の画像についてまとめて実行し、最終的に複数の画像についての現像結果が表示部408に表示される。その後、全体に対する現像処理のリクエストと、部分領域の再選択の実行も、それぞれまとめて実行することができる。 Here, for ease of explanation and understanding, the flow of operations for one of the proxy images displayed on the edge device 400" has been described. If multiple proxy images are displayed on the display unit 408, the same operations are executed for the remaining proxy images selected in S1903. Note that the processes from S1903 to S1911 can also be configured to be executed collectively for multiple proxy images. In other words, if multiple proxy images are selected in S1903, the edge device 400" transmits selected file information and partial area information for the multiple images collectively to the imaging device 100. Thereafter, the transmission of partial RAW data, development processing, and transmission of development results are also executed collectively for the multiple images, and finally the development results for the multiple images are displayed on the display unit 408. Thereafter, a request for development processing for the entire image and reselection of the partial areas can also be executed collectively.

本実施形態によれば、第6実施形態の効果に加え、ユーザは、選択した画像について、部分領域の現像結果を確認してから画像全体に対する現像処理の実行要否を決定できる。まず部分領域について現像処理を実行することで、通信データ量が少なく、現像処理の負荷も低くなるため、ユーザは部分領域の現像結果を素早く確認することができる。また、部分領域の現像結果により、全体に対する現像処理が不要と判断されたRAWデータがあれば、ネットワーク300を利用する通信データ量を削減することができる。なお、部分RAWデータに対して不可逆もしくは可逆なデータ量の削減処理を適用することもでき、この場合にはさらに通信データ量を削減することができる。 According to this embodiment, in addition to the effects of the sixth embodiment, the user can check the development results of a partial area of a selected image and then decide whether or not to perform development processing on the entire image. By first performing development processing on the partial area, the amount of communication data is small and the load of the development processing is also low, allowing the user to quickly check the development results of the partial area. Furthermore, if there is RAW data for which it has been determined that development processing on the entire image is not required based on the development results of the partial area, the amount of communication data using the network 300 can be reduced. Note that it is also possible to apply irreversible or lossy data reduction processing to the partial RAW data, in which case the amount of communication data can be further reduced.

また、部分RAWデータやRAWデータに対する現像処理は、必ずしもサーバ200”で実行する必要はなく、少なくとも一部をエッジデバイス400”で実行するように構成してもよい。 In addition, the development process for partial RAW data or RAW data does not necessarily have to be performed by the server 200'', and may be configured to be performed at least in part by the edge device 400''.

●(第8実施形態)
次に、本発明の第8実施形態について説明する。本実施形態は、第7実施形態の変形例に相当する。具体的には、第7実施形態における部分RAWデータおよびその現像結果について、機器間で繰り返して送信しないようにすることで、通信データ量のさらなる削減を実現する。
(Eighth embodiment)
Next, an eighth embodiment of the present invention will be described. This embodiment corresponds to a modification of the seventh embodiment. Specifically, the amount of communication data is further reduced by preventing the partial RAW data and the development results thereof in the seventh embodiment from being repeatedly transmitted between devices.

第7実施形態と同様に、本実施形態も第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。 As with the seventh embodiment, this embodiment can be implemented using an image processing system similar to that of the sixth embodiment, and therefore a description of the configuration of the imaging device 100, server 200", and edge device 400" will be omitted.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図21のフローチャートを参照して説明する。図21において、第7実施形態と同様の処理については同じ参照番号を付してある。S1901からS1914までは第7実施形態と同様であるため説明を省略する。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 21. In FIG. 21, the same reference numbers are used for processes similar to those in the seventh embodiment. Steps S1901 to S1914 are similar to those in the seventh embodiment, and therefore will not be described.

S1914で本現像リクエストを受信すると、S2115で撮像装置100は、本現像を行うRAWデータについて、S1907でサーバ200”に送信した部分RAWデータを除いてサーバ200”に送信する。例えばS1907で顔領域2001に対応する部分RAWデータをサーバ200”に送信している場合、撮像装置100は顔領域2001を除いた領域(残りの領域)に対応するRAWデータをサーバに送信する。撮像装置100はRAM103に記憶されている選択ファイル情報と部分領域情報とを参照することにより、送信済みの部分RAWデータを除外したRAWデータを生成することができる。 When a request for full development is received in S1914, in S2115 the imaging device 100 transmits the RAW data to be developed to the server 200" excluding the partial RAW data transmitted to the server 200" in S1907. For example, if partial RAW data corresponding to the face area 2001 has been transmitted to the server 200" in S1907, the imaging device 100 transmits RAW data corresponding to the area excluding the face area 2001 (the remaining area) to the server. The imaging device 100 can generate RAW data excluding the partial RAW data that has already been transmitted by referencing the selected file information and partial area information stored in RAM 103.

S2116でサーバ200”は、S1908で受信した部分RAWデータを除いたRAWデータを受信する。
S2117でサーバは、S1908で受信した部分RAWデータと、S2116で受信したRAWデータとを合成し、画像全体に対応するRAWデータを生成する。
その後のS1917以降の処理は第7の実施形態と同様であるため説明は省略する。
In S2116, the server 200'' receives the raw data excluding the partial raw data received in S1908.
In S2117, the server combines the partial RAW data received in S1908 and the RAW data received in S2116 to generate RAW data corresponding to the entire image.
The subsequent processing from S1917 onwards is similar to that in the seventh embodiment, and therefore a description thereof will be omitted.

本実施形態では部分領域について現像処理を実行済みのRAWデータについて本現像(画像全体に対する現像処理)を行う場合、先に撮像装置100からサーバ200”に送信済みの部分RAWデータについては再度送信しないようにした。そのため、第7実施形態の効果に加え、撮像装置100からサーバ200”への通信データ量を削減することができる。 In this embodiment, when performing main development (development processing on the entire image) on RAW data for which development processing has already been performed on a partial area, partial RAW data that has already been transmitted from the imaging device 100 to the server 200" is not transmitted again. Therefore, in addition to the effect of the seventh embodiment, the amount of communication data from the imaging device 100 to the server 200" can be reduced.

本実施形態においても、部分RAWデータやRAWデータに対する現像処理は、必ずしもサーバ200”で実行する必要はなく、少なくとも一部をエッジデバイス400”で実行するように構成してもよい。 Even in this embodiment, the development process for partial RAW data or RAW data does not necessarily have to be performed by the server 200'', and may be configured to be performed at least in part by the edge device 400''.

●(第9実施形態)
次に、本発明の第9実施形態について説明する。本実施形態は、RAWデータを外部装置に送信する順序を所定の条件に応じて決定する。本実施形態も第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。
● (Ninth embodiment)
Next, a ninth embodiment of the present invention will be described. In this embodiment, the order in which RAW data is transmitted to an external device is determined in accordance with a predetermined condition. Since this embodiment can also be implemented by an image processing system similar to that of the sixth embodiment, a description of the configurations of the imaging device 100, the server 200", and the edge device 400" will be omitted.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図22のフローチャートを参照して説明する。図22において、S2201およびS2202は第6実施形態のS1701およびS1702と同様であるため説明を省略する。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 22. In FIG. 22, steps S2201 and S2202 are similar to steps S1701 and S1702 in the sixth embodiment, and therefore will not be described.

S2203でエッジデバイス400”は、RAM403に記憶されているプロキシ画像データについて所定の評価値を算出する。この評価値は、プロキシ画像データに対応するRAW画像データを外部装置(サーバ200”またはエッジデバイス400”)において現像処理を行うことの効果の大きさの指標となる評価値である。したがって、プロキシ画像データの評価値は、対応するRAWデータの評価値とも見なすことができる。 In S2203, the edge device 400" calculates a predetermined evaluation value for the proxy image data stored in RAM 403. This evaluation value is an evaluation value that serves as an index of the magnitude of the effect of developing the RAW image data corresponding to the proxy image data in an external device (the server 200" or the edge device 400"). Therefore, the evaluation value of the proxy image data can also be considered as the evaluation value of the corresponding RAW data.

エッジデバイス400”において評価値を演算する評価部411の動作は、図9~図11を用いて第3実施形態で説明したものと同じであってよい。
評価部411は、記憶されたプロキシ画像データのそれぞれについて評価値を算出する。算出した評価値はRAM403に記憶する。
The operation of the evaluation unit 411 that calculates the evaluation value in the edge device 400'' may be the same as that described in the third embodiment with reference to FIGS.
The evaluation unit 411 calculates an evaluation value for each of the stored proxy image data and stores the calculated evaluation values in the RAM 403.

図22に戻り、S2204でエッジデバイス400”は、S2203で求めた評価値を最も高い評価値から順に並べ替え、対応するプロキシ画像データの情報と関連付けたレーティング情報を生成する。そして、エッジデバイス400”は、レーティング情報を撮像装置100に送信する。レーティング情報は、プロキシ画像データ(およびその元となる画像データ)の優先順位を示す情報である。 Returning to FIG. 22, in S2204, the edge device 400" sorts the evaluation values calculated in S2203 in descending order from the highest evaluation value, and generates rating information associated with the information of the corresponding proxy image data. The edge device 400" then transmits the rating information to the imaging device 100. The rating information is information that indicates the priority order of the proxy image data (and the image data that is the basis of the proxy image data).

S2205で撮像装置100はレーティング情報を受信し、RAM103に記憶する。
S2206で撮像装置100は、レーティング情報に従って、サーバ200”に送信するRAWデータについて、評価値が高いものから送信されるように送信順序を決定する。なお、送信順序を決定する際、評価値が予め設定した閾値未満のRAWデータは送信対象から除外してもよい。また、閾値は、ユーザインタフェースを介して得られたユーザの指示に応じて調整できるように構成してもよい。
S2207で撮像装置100は、S2206で決定した送信順序に従って、RAWデータを順次サーバ200”に送信する。
In S 2205 , the imaging apparatus 100 receives the rating information and stores it in the RAM 103 .
In S2206, the imaging device 100 determines the transmission order of the RAW data to be transmitted to the server 200" in accordance with the rating information so that the data with the highest evaluation value is transmitted first. Note that when determining the transmission order, RAW data with an evaluation value below a preset threshold value may be excluded from the data to be transmitted. In addition, the threshold value may be configured to be adjustable in response to user instructions obtained via a user interface.
In S2207, the imaging apparatus 100 sequentially transmits the RAW data to the server 200'' in accordance with the transmission order determined in S2206.

S2208でサーバ200”はRAWデータを受信し、RAM202または記憶部205に記憶する。
S2209でサーバは、第6実施形態のS1708と同様に、画像処理プログラム211を実行してRAWデータに現像処理を適用する。なお、サーバ200”は、S2208におけるRAWデータの受信とS2209における画像処理プログラム211の実行(現像処理の適用)とを並行して実行してもよい。
In S2208, the server 200'' receives the RAW data and stores it in the RAM 202 or the storage unit 205.
In S2209, the server executes the image processing program 211 to apply development processing to the RAW data, similarly to S1708 in the sixth embodiment. Note that the server 200" may execute the reception of the RAW data in S2208 and the execution of the image processing program 211 (application of development processing) in S2209 in parallel.

S2210でサーバ200”は、現像処理の適用が終了したRAWデータから順に、現像結果(現像済みの画像データ)をネットワーク300を介して撮像装置100とエッジデバイス400”の少なくとも一方に送信する。 At S2210, the server 200'' transmits the development results (developed image data) to at least one of the imaging device 100 and the edge device 400'' via the network 300, starting with the RAW data to which development processing has been completed.

エッジデバイス400”がサーバ200”から現像済みの画像データを受信する場合、S2211でエッジデバイス400”は受信した画像データをRAM403に記憶する。そして、S2212でエッジデバイス400”は、RAM403に記憶した画像データを表示部408に表示するとともに、記録部407に画像データを記録する。 When the edge device 400'' receives developed image data from the server 200'', in S2211 the edge device 400'' stores the received image data in the RAM 403. Then, in S2212 the edge device 400'' displays the image data stored in the RAM 403 on the display unit 408 and records the image data in the recording unit 407.

撮像装置100がサーバ200”から現像済みの画像データを受信する場合、S2213で撮像装置100は、サーバ200”から現像済みの画像データを受信し、RAM103に記憶する。そして、S2214で撮像装置100は、RAM103に記憶した画像データを画像処理部107に供給し、記録用の画像データと表示用の画像データとを生成させる。そして、撮像装置100は、表示用の画像データを表示部109に表示させ、記録用の画像データを記録部108に記録する。 When the imaging device 100 receives developed image data from the server 200", in S2213 the imaging device 100 receives the developed image data from the server 200" and stores it in the RAM 103. Then, in S2214 the imaging device 100 supplies the image data stored in the RAM 103 to the image processing unit 107, which generates image data for recording and image data for display. Then the imaging device 100 displays the image data for display on the display unit 109, and records the image data for recording in the recording unit 108.

本実施形態では、撮像装置100が有するRAWデータについて、外部装置(例えばサーバ200”)で画像処理を適用する効果の大きさをエッジデバイス400”で評価し、効果が大きいと考えられるRAWデータから順にサーバ200”に送信するようにした。そのため、撮像装置100は、外部装置で画像処理を適用する効果が大きいRAWデータから順に、処理結果を受信することができる。 In this embodiment, the edge device 400" evaluates the effect of applying image processing to the RAW data held by the imaging device 100 in an external device (e.g., server 200"), and transmits the RAW data to the server 200" in order of the effect. Therefore, the imaging device 100 can receive the processing results in order of the RAW data that will be most effective when image processing is applied by the external device.

また、本実施形態を第6~第8実施形態と組み合わせることができる。具体的には、評価値の算出、送信順序の決定、現像処理の実施を、ユーザが選択した画像データについてのみ実施すればよい。この場合、第6~第8実施形態の効果に加え、ユーザが選択したRAWデータについて、外部装置で画像処理を適用する効果が大きいRAWデータから順に、処理結果を受信することができる。 This embodiment can also be combined with the sixth to eighth embodiments. Specifically, the calculation of evaluation values, the determination of the transmission order, and the implementation of development processing need only be performed for image data selected by the user. In this case, in addition to the effects of the sixth to eighth embodiments, the processing results can be received for the RAW data selected by the user in the order of RAW data that will be most effective when image processing is applied in an external device.

なお、本実施形態において評価部411はエッジ検出結果に基づいて評価値を算出したが、サーバ200”の現像処理の特性に応じた他の基準に基づいて評価値を算出してもよい。また、サーバ200”で現像処理を行う効果の大きさの指標に限らず、画像の品質の指標となる評価値を求めてもよい。例えば、構図の審美度に基づく評価値や、合焦度合いに基づく評価値、露出の適正さに基づく評価値、笑顔度など被写体の表情に基づく評価値などを算出してもよい。また、複数種の評価値を算出し、その平均値や最大値に基づいて送信順序を決定してもよい。なお、評価値の算出はエッジデバイス400”での実施に限定されず、撮像装置100またはサーバ200”で実施してもよい。 In this embodiment, the evaluation unit 411 calculates the evaluation value based on the edge detection result, but the evaluation value may be calculated based on other criteria according to the characteristics of the development process of the server 200". In addition, the evaluation value may be an index of the quality of the image, not limited to an index of the magnitude of the effect of the development process performed by the server 200". For example, an evaluation value based on the aesthetic value of the composition, an evaluation value based on the degree of focus, an evaluation value based on the appropriateness of the exposure, an evaluation value based on the facial expression of the subject such as the degree of smile, etc. may be calculated. In addition, multiple types of evaluation values may be calculated, and the transmission order may be determined based on the average value or maximum value. The calculation of the evaluation value is not limited to being performed by the edge device 400", and may be performed by the imaging device 100 or the server 200".

●(第10実施形態)
次に、本発明の第10実施形態について説明する。本実施形態は、外部装置で画像処理を適用することの効果の大きさの指標を求める方法が第9実施形態と異なる。本実施形態も第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。
● (Tenth embodiment)
Next, a tenth embodiment of the present invention will be described. This embodiment differs from the ninth embodiment in the method of calculating an index of the magnitude of the effect of applying image processing in an external device. Since this embodiment can also be implemented by an image processing system similar to that of the sixth embodiment, a description of the configurations of the imaging device 100, the server 200", and the edge device 400" will be omitted.

本実施形態では、外部装置が提供する画像処理の性能を踏まえて複数種の評価値を考慮して画像を評価することにより、外部装置で画像処理を適用する効果の大きさをより詳細に評価する。外部装置が提供する画像処理プログラム211のアップデートによる性能向上などを反映した評価を行うことができる。 In this embodiment, the image is evaluated in consideration of multiple evaluation values based on the performance of the image processing provided by the external device, thereby evaluating the magnitude of the effect of applying image processing by the external device in more detail. It is possible to perform an evaluation that reflects performance improvements due to updates to the image processing program 211 provided by the external device.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図23のフローチャートを参照して説明する。図23において、第9実施形態と同様の動作を行うステップについては図22と同じ参照数字を付してある。第9実施形態と同様の動作については説明を省略し、以下では本実施形態に特徴的な動作を重点的に説明する。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 23. In FIG. 23, steps that perform the same operations as in the ninth embodiment are given the same reference numerals as in FIG. 22. Descriptions of operations that are the same as in the ninth embodiment will be omitted, and the following description will focus on operations that are characteristic of this embodiment.

S2301でサーバ200”は現像予測フラグを生成し、エッジデバイス400”に送信する。現像予測フラグは、サーバ200”の画像処理プログラム211が提供する様々な画像処理機能の性能の指標となる情報である。例えば、画像処理プログラム211が提供する画像処理機能の一例である現像処理はホワイトバランス処理、レンズ収差補正処理、ノイズ低減(NR)処理、色補間処理、ガンマ処理といった複数の処理から構成される。現像予測フラグはこのような処理ごとに、性能の高い処理が可能である処理には「1」を、それ以外の処理ついては「0」を有する情報であってよい。なお、現像予測フラグはS2301を実行する都度生成する必要はなく、予めROM203’に記憶しておくことができる。そして、画像処理プログラム211のアップデートが行われると、必要な部分だけを更新する。 In S2301, the server 200" generates a development prediction flag and transmits it to the edge device 400". The development prediction flag is information that serves as an index of the performance of various image processing functions provided by the image processing program 211 of the server 200". For example, the development process, which is one example of an image processing function provided by the image processing program 211, is composed of multiple processes such as white balance processing, lens aberration correction processing, noise reduction (NR) processing, color interpolation processing, and gamma processing. The development prediction flag may be information for each of these processes, with "1" for processes that are capable of high performance processing and "0" for other processes. Note that the development prediction flag does not need to be generated each time S2301 is executed, and can be stored in advance in the ROM 203'. Then, when the image processing program 211 is updated, only the necessary parts are updated.

性能の高低を評価する方法に特に制限はないが、処理を実現するアプリケーションやモジュールの更新日が1年以内であるものや、負荷が高い処理などは、高い性能を有する可能性が高いと考えられる。あるいは、画像処理プログラム211のベンダーが、プログラムのアップデート時に現像予測フラグのアップデートも併せて提供してもよい。 There are no particular limitations on the method for evaluating the level of performance, but applications or modules that realize processing that were last updated within the past year, or processing that involves high loads, are considered to have a high probability of having high performance. Alternatively, the vendor of the image processing program 211 may also provide updates to the development prediction flag when updating the program.

S2302でエッジデバイス400”はサーバ200”から現像予測フラグを受信する。
S2303でエッジデバイス400”は、RAM403に記録されているプロキシ画像データのそれぞれについて評価値を算出する。
In S2302, the edge device 400'' receives the development prediction flag from the server 200''.
In S2303, the edge device 400'' calculates an evaluation value for each of the proxy image data recorded in the RAM 403.

図24のフローチャートを用いて、S2303における評価部411の動作について説明する。本実施形態で評価部411は複数種の評価値を現像予測フラグに応じて重み付けすることにより、個々のプロキシ画像データに対する評価値を算出する。 The operation of the evaluation unit 411 in S2303 will be described using the flowchart in FIG. 24. In this embodiment, the evaluation unit 411 calculates an evaluation value for each piece of proxy image data by weighting multiple types of evaluation values according to the development prediction flag.

S2401で評価部411は、プロキシ画像データについて、第9実施形態と同様にエッジ検出に基づいた第1評価値を算出する。
S2402で評価部411は、プロキシ画像データに公知の方法を適用して、人物の笑顔度を第2の評価値として算出する。人物の笑顔度はプロキシ画像データから検出された顔領域が笑顔である度合いを示す数値である。画像から笑顔度を求めるアプリケーションは公知であり、例えば画像処理部405にそのようなアプリケーションを実装することにより第2の評価値を得ることができる。複数の顔領域が存在するプロキシ画像については、笑顔度の例えば平均値もしくは最高値を第2の評価値とする。第1および第2の評価値はいずれも0~1の範囲に正規化する。
In S2401, the evaluation unit 411 calculates a first evaluation value based on edge detection for the proxy image data in the same manner as in the ninth embodiment.
In S2402, the evaluation unit 411 applies a known method to the proxy image data to calculate the person's smile degree as a second evaluation value. The person's smile degree is a numerical value indicating the degree to which a face area detected from the proxy image data is smiling. Applications that calculate smile degrees from images are known, and the second evaluation value can be obtained, for example, by implementing such an application in the image processing unit 405. For a proxy image in which multiple face areas exist, the second evaluation value is, for example, the average or maximum value of the smile degrees. Both the first and second evaluation values are normalized to the range of 0 to 1.

S2403で評価部411は、現像予測フラグに基づいて、第1および第2の評価値の重みを決定する。評価部411には、評価値の種類ごとに、現像予測フラグに応じた重みの算出方法を予め登録しておく。そして、評価部411は、第1の評価値に対する重みと、第2の評価値についての重みの合計が1になるように重みの割合を調整したのち、第1および第2の評価値を加重加算して最終的な評価値を算出する。 In S2403, the evaluation unit 411 determines weights for the first and second evaluation values based on the development prediction flag. The evaluation unit 411 preregisters a method for calculating the weight according to the development prediction flag for each type of evaluation value. The evaluation unit 411 then adjusts the weight ratio so that the sum of the weight for the first evaluation value and the weight for the second evaluation value becomes 1, and then performs a weighted addition of the first and second evaluation values to calculate the final evaluation value.

このようにして個々のプロキシ画像データに対して評価値を算出することにより、サーバ200”における画像処理プログラム211の特性に応じた評価値を算出することができ、サーバ200”で現像処理を行う効果の大きさをより詳細に評価することができる。また、画像処理プログラム211がアップデートされて予測フラグが変化した場合には、その変化を反映した評価値を得ることができる。そのため、常に適切な評価が可能である。 By calculating an evaluation value for each piece of proxy image data in this manner, an evaluation value according to the characteristics of the image processing program 211 in the server 200" can be calculated, and the magnitude of the effect of developing processing in the server 200" can be evaluated in more detail. Furthermore, if the image processing program 211 is updated and the prediction flag changes, an evaluation value that reflects the change can be obtained. Therefore, an appropriate evaluation is always possible.

例えば画像処理プログラム211におけるノイズ低減(NR)処理の手法が変更され、従来よりも高性能なノイズ低減処理が可能になり、現像予測フラグにおいてもノイズ低減処理のフラグが「0」から「1」に変化したものとする。この場合、ノイズ低減処理の性能向上は、エッジの多い画像の現像処理の結果の向上に対する効果が大きいため、第1の評価値に対する重みが画像処理プログラム211のアップデート前よりも大きくなる。 For example, suppose that the method of noise reduction (NR) processing in the image processing program 211 has been changed, making it possible to perform noise reduction processing with higher performance than before, and the flag for noise reduction processing in the development prediction flag has also changed from "0" to "1." In this case, since the improvement in the performance of the noise reduction processing has a large effect on improving the results of development processing of images with many edges, the weighting of the first evaluation value becomes greater than before the update of the image processing program 211.

例えば、第1の評価値をSedge、第2の評価値をSfaceとすると、加重加算された評価値Sは、
S= (S_edge×α)+(S_face×(1-α)) (式3)
で求められる。
For example, if the first evaluation value is Sedge and the second evaluation value is Sface, the weighted sum evaluation value S is expressed as follows:
S= (S_edge×α)+(S_face×(1-α)) (Formula 3)
It can be calculated as follows.

そして、評価部411は、現像予測フラグの変化に応じて、第1の評価値についての重みαについて、画像処理プログラム211のアップデート前の重みαbeforeよりも、アップデート後の重みαafterを大きく(αafter>αbefore)する。これにより、画像処理プログラム211のアップデートを反映した加重加算後の評価値が得られる。 Then, in response to a change in the development prediction flag, the evaluation unit 411 sets the weight α for the first evaluation value to be greater after the update (α after > α before ) than the weight α before the update of the image processing program 211. This allows for the evaluation value after weighted addition that reflects the update of the image processing program 211 to be obtained.

図23のフローチャートに戻り、S2204でエッジデバイス400”は、S2303で求めた評価値を用いることを除き、第9実施形態と同様にしてレーティング情報を生成し、撮像装置100に送信する。以降の処理は第9実施形態と同様であるため説明を省略する。 Returning to the flowchart of FIG. 23, in S2204, the edge device 400" generates rating information in the same manner as in the ninth embodiment, except that the evaluation value calculated in S2303 is used, and transmits the rating information to the imaging device 100. The subsequent processing is the same as in the ninth embodiment, and therefore will not be described.

本実施形態によれば、複数の評価値を加重加算した評価値を用いるとともに、外部装置で画像処理を適用することの効果をより反映した評価値の重みを大きくするように重みを決定するようにした。そのため、第9実施形態と同様の効果に加え、外部装置が提供する最新の画像処理を反映した順序で外部装置で画像処理を適用することが可能になる。 According to this embodiment, an evaluation value obtained by weighting a plurality of evaluation values is used, and the weights are determined so as to increase the weight of the evaluation value that better reflects the effect of applying image processing in the external device. Therefore, in addition to the same effect as the ninth embodiment, it becomes possible to apply image processing in the external device in an order that reflects the latest image processing provided by the external device.

本実施形態では、現像予測フラグに基づいてエッジ検出に基づく評価値と笑顔度に基づく評価値の加重加算の割合(重み)を決定する場合について説明した。しかし、評価値の種類はこれらに限定されない。第9実施形態と同様、構図の審美度に基づく評価値や、合焦度合いに基づく評価値、露出の適正さに基づく評価値、笑顔度など被写体の表情に基づく評価値などを算出してもよい。また、3種以上の評価値を加重加算するようにしてもよい。なお、評価値の算出はエッジデバイス400”での実施に限定されず、撮像装置100またはサーバ200”で実施してもよい。 In this embodiment, a case has been described in which the ratio (weight) of the weighted addition of the evaluation value based on edge detection and the evaluation value based on the smile level is determined based on the development prediction flag. However, the types of evaluation values are not limited to these. As in the ninth embodiment, an evaluation value based on the aesthetic quality of the composition, an evaluation value based on the degree of focus, an evaluation value based on the appropriateness of the exposure, an evaluation value based on the facial expression of the subject such as the smile level, etc. may be calculated. Furthermore, three or more types of evaluation values may be weighted and added. Note that the calculation of the evaluation value is not limited to being performed by the edge device 400'', and may be performed by the imaging device 100 or the server 200''.

●(第11実施形態)
次に、本発明の第11実施形態について説明する。本実施形態は、評価値に基づいて決定した送信順序に従ってRAWデータを外部装置に送信する際、送信するRAWデータの上限数を制限可能とした点で第9実施形態と異なる。本実施形態も第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。
● (Eleventh embodiment)
Next, an eleventh embodiment of the present invention will be described. This embodiment differs from the ninth embodiment in that when transmitting RAW data to an external device according to a transmission order determined based on an evaluation value, the upper limit number of pieces of RAW data to be transmitted can be limited. Since this embodiment can also be implemented by an image processing system similar to that of the sixth embodiment, a description of the configurations of the imaging device 100, the server 200", and the edge device 400" will be omitted.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図25のフローチャートを参照して説明する。図25において、第9実施形態と同様の動作を行うステップについては図22と同じ参照数字を付してある。第9実施形態と同様の動作については説明を省略し、以下では本実施形態に特徴的な動作を重点的に説明する。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 25. In FIG. 25, steps that perform the same operations as in the ninth embodiment are given the same reference numerals as in FIG. 22. Descriptions of operations that are the same as in the ninth embodiment will be omitted, and the following description will focus on operations that are characteristic of this embodiment.

本実施形態の撮像装置100のROM102には、外部装置に送信するRAWデータの上限数が設定されている。この設定はユーザが変更可能であってよい。また、通信先もしくは通信方法に応じて別個の上限数が設定されていてもよい。例えば、携帯電話の通信網を用いる通信(通信データ量に応じた課金が発生する通信)については上限数が設定され、無線LANを用いる通信(課金が発生しない通信)については上限数が設定されない(あるいは制限なしという設定)。また、サーバ200”との通信については上限数が設定され、エッジデバイス400”との通信には上限数が設定されない。上限数はRAWデータファイルの数(データ数)であってよいし、送信データ量であってもよい。なお、上限数と比較される送信済みのファイル数や通信データ量は、所定期間(例えば1ヶ月、1週間、1日など)ごとにリセットされる。 In the ROM 102 of the imaging device 100 of this embodiment, an upper limit number of RAW data to be transmitted to an external device is set. This setting may be changeable by the user. Also, a separate upper limit number may be set according to the communication destination or communication method. For example, an upper limit number is set for communication using a mobile phone communication network (communication in which a charge is incurred according to the amount of communication data), and an upper limit number is not set (or no limit is set) for communication using a wireless LAN (communication in which no charge is incurred). Also, an upper limit number is set for communication with the server 200", and an upper limit number is not set for communication with the edge device 400. The upper limit number may be the number of RAW data files (number of data) or the amount of transmitted data. The number of transmitted files and the amount of communication data to be compared with the upper limit number are reset every predetermined period (for example, one month, one week, one day, etc.).

レーティング情報を受信し、送信順序を決定するまで(S2206まで)の動作は第9実施形態(あるいは第10実施形態)と同様であってよい。
S2501で撮像装置100は、例えばRAM103を参照し、現在の送信数が上限数未満であるか否かを判定する。上限数未満でない場合、撮像装置100はRAWデータをそれ以上送信しない。一方、上限数未満であれば、S2207で撮像装置100は送信順序に従って次のRAWデータをサーバ200”に送信する。送信後、撮像装置100は、RAM103に記憶した送信済みファイルの数や通信データ量に、直近に送信したRAWデータの情報を反映させる。そして、撮像装置100は、未送信のRAWデータが残っていれば、再びS2501を実行する。なお、上限数がデータ量の場合、上限数未満であっても、次のRAWデータの送信中に上限数を超える場合には次のRAWデータは送信しない。
The operations from receiving the rating information to determining the transmission order (up to S2206) may be similar to those of the ninth embodiment (or the tenth embodiment).
In S2501, the imaging device 100 refers to the RAM 103, for example, and determines whether the current number of transmissions is less than the upper limit. If it is not less than the upper limit, the imaging device 100 does not transmit any more RAW data. On the other hand, if it is less than the upper limit, in S2207 the imaging device 100 transmits the next RAW data to the server 200" in accordance with the transmission order. After transmission, the imaging device 100 reflects information about the most recently transmitted RAW data in the number of transmitted files and the communication data volume stored in the RAM 103. Then, if there is any untransmitted RAW data remaining, the imaging device 100 executes S2501 again. Note that in the case where the upper limit is the data volume, even if the upper limit is less than the upper limit, if the upper limit is exceeded during transmission of the next RAW data, the next RAW data is not transmitted.

S2207以降の動作は第9実施形態(あるいは第10実施形態)と同様であってよいため、説明を省略する。
本実施形態によっても、第9実施形態(あるいは第10実施形態)と同様の効果が得られる。また、上限数を例えばモバイル通信契約における月単位での上限通信量料を考慮した値に設定することで、モバイル通信を利用する環境においてRAWデータを送信することによって上限通信量を超えてしまうことを抑制することができる。
The operations from S2207 onwards may be similar to those in the ninth embodiment (or the tenth embodiment), and therefore a description thereof will be omitted.
This embodiment also provides the same effect as the ninth embodiment (or the tenth embodiment). In addition, by setting the upper limit number to a value that takes into consideration the monthly upper limit communication fee in a mobile communication contract, it is possible to prevent the upper limit communication fee from being exceeded by transmitting RAW data in an environment where mobile communication is used.

●(第12実施形態)
次に、本発明の第12実施形態について説明する。本実施形態は、評価値に基づいて決定した送信順序に従ってRAWデータを外部装置に送信する際、サーバへ送信可能な残りデータ量を考慮する点で第9実施形態と異なる。本実施形態も第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。
● (Twelfth embodiment)
Next, a twelfth embodiment of the present invention will be described. This embodiment differs from the ninth embodiment in that when transmitting RAW data to an external device in accordance with a transmission order determined based on an evaluation value, the remaining amount of data that can be transmitted to a server is taken into consideration. Since this embodiment can also be implemented by an image processing system similar to that of the sixth embodiment, a description of the configurations of the imaging device 100, the server 200", and the edge device 400" will be omitted.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図26のフローチャートを参照して説明する。図26において、第9実施形態と同様の動作を行うステップについては図22と同じ参照数字を付してある。第9実施形態と同様の動作については説明を省略し、以下では本実施形態に特徴的な動作を重点的に説明する。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 26. In FIG. 26, steps that perform the same operations as in the ninth embodiment are given the same reference numerals as in FIG. 22. Descriptions of operations that are the same as in the ninth embodiment will be omitted, and the following description will focus on operations that are characteristic of this embodiment.

本実施形態においてサーバ200”は、ユーザごとに利用可能な記憶部205の記憶容量が予め定められており、ユーザごとに利用量が管理されているものとする。利用量は例えばユーザもしくは撮像装置100の固有情報に関連付けて管理されている。サーバ200”は、RAWデータを受信した撮像装置もしくはそのユーザの固有情報に基づいて利用量を管理することができる。 In this embodiment, the server 200" is assumed to have a predetermined storage capacity of the storage unit 205 available to each user, and the usage amount is managed for each user. The usage amount is managed, for example, in association with the unique information of the user or the imaging device 100. The server 200" can manage the usage amount based on the unique information of the imaging device that received the RAW data or the user of that device.

レーティング情報を受信し、送信順序を決定するまで(S2206まで)の動作は第9実施形態(あるいは第10実施形態)と同様であってよい。
S2601においてサーバ200”は、撮像装置100もしくはそのユーザについて設定されている利用可能な記憶容量の上限値と現在の利用量との差を、残データ容量として算出し、撮像装置100に送信する。なお、S2601は、サーバ200”と撮像装置100とが通信可能な状態になってから、撮像装置100がRAWデータを送信し始めるまでの任意のタイミングで実行することができる。
The operations from receiving the rating information to determining the transmission order (up to S2206) may be similar to those in the ninth embodiment (or the tenth embodiment).
In S2601, the server 200" calculates the difference between the upper limit of the available storage capacity set for the imaging device 100 or its user and the current amount of usage as the remaining data capacity, and transmits this to the imaging device 100. Note that S2601 can be executed at any timing from when the server 200" and the imaging device 100 are able to communicate with each other until the imaging device 100 starts transmitting RAW data.

S2602で撮像装置100は、サーバ200”から残データ容量を受信し、RAM103に記憶する。
S2603で撮像装置100は、受信した残データ容量が、次に送信するRAWデータのデータ量以上であるか否かを判定する。残データ容量が次に送信するRAWデータのデータ量以上でない場合、撮像装置100は以降のRAWデータの送信を行わない。一方、残データ容量が次に送信するRAWデータのデータ量以上である場合、撮像装置100はS2207を実行し、RAWデータをサーバに送信する。送信後、撮像装置100は、RAM103に記憶した残データ容量から、直近に送信したRAWデータのデータ量を削減して、残データ容量を更新する。そして、撮像装置100は、未送信のRAWデータが残っていれば、再びS2603を実行する。
In S2602, the imaging apparatus 100 receives the remaining data capacity from the server 200'' and stores it in the RAM 103.
In S2603, the imaging device 100 determines whether the received remaining data capacity is equal to or larger than the amount of RAW data to be transmitted next. If the remaining data capacity is not equal to or larger than the amount of RAW data to be transmitted next, the imaging device 100 does not transmit subsequent RAW data. On the other hand, if the remaining data capacity is equal to or larger than the amount of RAW data to be transmitted next, the imaging device 100 executes S2207 and transmits the RAW data to the server. After transmission, the imaging device 100 updates the remaining data capacity by reducing the amount of RAW data most recently transmitted from the remaining data capacity stored in the RAM 103. Then, if there is RAW data remaining that has not been transmitted, the imaging device 100 executes S2603 again.

S2207以降の動作は第9実施形態(あるいは第10実施形態)と同様であってよいため、説明を省略する。
本実施形態によっても、第9実施形態(あるいは第10実施形態)と同様の効果が得られる。また、サーバ200”に保存できるデータ量(あるいは画像処理を適用できるデータ量)に上限が存在する場合に、サーバ200”で画像処理することの効果が大きいRAWデータに優先的に画像処理を適用することができる。なお、残データ容量の代わりに、残データ容量をRAWデータの代表的なデータサイズを用いてRAWデータファイルの数に換算した値を用いてもよい。
The operations from S2207 onwards may be similar to those in the ninth embodiment (or the tenth embodiment), and therefore a description thereof will be omitted.
This embodiment also provides the same effects as the ninth embodiment (or the tenth embodiment). Furthermore, when there is an upper limit to the amount of data that can be stored in the server 200" (or the amount of data to which image processing can be applied), image processing can be applied preferentially to RAW data for which image processing by the server 200" is most effective. Note that instead of the remaining data capacity, a value obtained by converting the remaining data capacity into the number of RAW data files using a representative data size of RAW data may be used.

●(第13実施形態)
次に、本発明の第13実施形態について説明する。本実施形態は、エッジデバイス400”で生成したレーティング情報をサーバ200”に送信し、サーバ200”に保存されているRAWデータに対するレーティング情報を考慮して再度レーティング情報を生成する点で第9実施形態と異なる。本実施形態も第6実施形態と同様の画像処理システムによって実施可能であるため、撮像装置100、サーバ200”、およびエッジデバイス400”の構成に関する説明は省略する。
● (Thirteenth embodiment)
Next, a thirteenth embodiment of the present invention will be described. This embodiment differs from the ninth embodiment in that rating information generated by an edge device 400" is transmitted to a server 200", and rating information for RAW data stored in the server 200" is taken into consideration to generate rating information again. Since this embodiment can also be implemented by an image processing system similar to that of the sixth embodiment, a description of the configurations of the imaging device 100, server 200", and edge device 400" will be omitted.

本実施形態おける撮像装置100、エッジデバイス400”、およびサーバ200”との相互動作に関して、図27のフローチャートを参照して説明する。図27において、第9実施形態と同様の動作を行うステップについては図22と同じ参照数字を付してある。第9実施形態と同様の動作については説明を省略し、以下では本実施形態に特徴的な動作を重点的に説明する。 The interaction between the imaging device 100, edge device 400", and server 200" in this embodiment will be described with reference to the flowchart in FIG. 27. In FIG. 27, steps that perform the same operations as in the ninth embodiment are given the same reference numerals as in FIG. 22. Descriptions of operations that are the same as in the ninth embodiment will be omitted, and the following description will focus on operations that are characteristic of this embodiment.

エッジデバイス400”でレーティング情報を生成するまで(S2204まで)の動作は第9実施形態(あるいは第10実施形態)と同様であってよい。ただし、本実施形態においてエッジデバイス400”は、S2204でレーティング情報を撮像装置100ではなくサーバ200”に送信する。 The operations up to the generation of the rating information in the edge device 400'' (up to S2204) may be similar to those in the ninth embodiment (or the tenth embodiment). However, in this embodiment, the edge device 400'' transmits the rating information to the server 200'' instead of the imaging device 100 in S2204.

S2701でサーバ200”はエッジデバイス400”からレーティング情報を受信し、RAM202に記憶する。
サーバ200”は、サーバ200”の記憶部205に記憶されている、撮像装置100もしくはそのユーザに関連付けられたRAWデータについてのレーティング情報を記憶部205に保持している。このレーティング情報は、過去にエッジデバイス400”から受信したレーティング情報に基づいて継続的に更新されたものであり、最も高いものから所定数の評価値と、対応するRAWデータの情報とが含まれている。
In S2701, the server 200'' receives rating information from the edge device 400'' and stores it in the RAM 202.
The server 200" holds in the storage unit 205 rating information about the imaging device 100 or the RAW data associated with its user, which is stored in the storage unit 205 of the server 200". This rating information is continuously updated based on rating information previously received from the edge device 400", and includes a predetermined number of evaluation values starting from the highest one and information about the corresponding RAW data.

S2702でサーバ200”は、記憶部205に記憶されているレーティング情報を、S2701でエッジデバイス400”から受信したレーティング情報を用いて更新する(再レーティング処理)。具体的には、サーバ200”は、2つのレーティング情報に含まれる複数の評価値を、高い順から並び替え、高い順から所定数の評価値と対応するRAWデータの情報とを新たなレーティング情報として記憶部205に記憶する。なお、記憶部205に記憶するレーティング情報に含まれる評価値(RAWデータ)の最大数は、ユーザが記憶部205に記憶可能なRAWデータの最大数とすることができる。 In S2702, the server 200" updates the rating information stored in the memory unit 205 using the rating information received from the edge device 400" in S2701 (re-rating process). Specifically, the server 200" rearranges the multiple evaluation values included in the two pieces of rating information from highest to lowest, and stores a predetermined number of evaluation values from highest to lowest and information on the corresponding RAW data as new rating information in the memory unit 205. Note that the maximum number of evaluation values (RAW data) included in the rating information stored in the memory unit 205 can be set to the maximum number of RAW data that the user can store in the memory unit 205.

また、サーバ200”は、再レーティング処理で生成した新たなレーティング情報のうち、サーバ200”に存在しないRAWデータに関する情報だけを抽出し、撮像装置100に送信するレーティング情報を生成する。なお、記憶部205に記憶されているRAWデータのうち、再レーティング処理により更新されたレーティング情報に含まれなくなったRAWデータについては、記憶部205の容量を確保するために削除することができる。 The server 200" also extracts only information relating to RAW data that does not exist in the server 200" from the new rating information generated by the re-rating process, and generates rating information to be sent to the imaging device 100. Note that, of the RAW data stored in the storage unit 205, RAW data that is no longer included in the rating information updated by the re-rating process can be deleted to secure the capacity of the storage unit 205.

S2703でサーバ200”は、撮像装置用に生成したレーティング情報を撮像装置100に送信する。
以後、S2205以降の動作は第9実施形態と同様であるため説明を省略する。
In S2703, the server 200'' transmits the rating information generated for the image capture device 100 to the image capture device 100.
Since the operations from S2205 onwards are the same as those in the ninth embodiment, the description thereof will be omitted.

本実施形態によれば、サーバ200”に保存できるデータの数や容量に制限がある場合、サーバ200”で画像処理を適用することの効果が大きいデータ(評価値の高いデータ)をサーバ200”に保持することができる。 According to this embodiment, when there is a limit to the amount or amount of data that can be stored in the server 200", data for which application of image processing in the server 200" is highly effective (data with a high evaluation value) can be stored in the server 200".

(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Other Embodiments
The present invention can also be realized by a process in which a program for implementing one or more of the functions of the above-described embodiments is supplied to a system or device via a network or a storage medium, and one or more processors in a computer of the system or device read and execute the program. The present invention can also be realized by a circuit (e.g., ASIC) that implements one or more of the functions.

本発明は上述した実施形態の内容に制限されず、発明の精神および範囲から離脱することなく様々な変更及び変形が可能である。したがって、発明の範囲を公にするために請求項を添付する。 The present invention is not limited to the above-described embodiments, and various modifications and variations are possible without departing from the spirit and scope of the invention. Therefore, the following claims are appended to clarify the scope of the invention.

100…撮像装置、200、200’、200”…サーバ装置、300…ネットワーク、400、400’、400”…エッジデバイス、101…制御部、102…ROM、103…RAM、105…撮像部、107…画像処理部、108…記録部、109…表示部、110…通信部 100...imaging device, 200, 200', 200"...server device, 300...network, 400, 400', 400"...edge device, 101...control unit, 102...ROM, 103...RAM, 105...imaging unit, 107...image processing unit, 108...recording unit, 109...display unit, 110...communication unit

Claims (36)

通信手段および制御手段を有する情報処理装置であって、
前記制御手段は、
前記通信手段を通じて第1外部装置に撮像画像の縮小画像データを送信し、
前記第1外部装置から前記縮小画像データに対する評価処理の結果を受信し、
前記評価処理の結果に基づいて、前記縮小画像データの元データのうち、第2外部装置で画像処理を適用する元データを決定し、
前記決定した元データを前記通信手段を通じて前記第2外部装置に送信し、
前記第2外部装置から、前記元データに対する前記画像処理の結果を受信する、
ことを特徴とする情報処理装置。
An information processing device having a communication means and a control means,
The control means
Transmitting reduced image data of the captured image to a first external device through the communication means;
receiving a result of an evaluation process on the reduced image data from the first external device;
determining, based on a result of the evaluation process, original data to which image processing is to be applied in a second external device, from among the original data of the reduced image data;
transmitting the determined original data to the second external device via the communication means;
receiving a result of the image processing on the original data from the second external device;
23. An information processing apparatus comprising:
前記第1外部装置および前記第2外部装置が、ネットワーク上の装置であることを特徴とする請求項1に記載の情報処理装置。 The information processing device according to claim 1, characterized in that the first external device and the second external device are devices on a network. 前記第1外部装置と、利用または通信量に対して費用の発生しないネットワークを通じて通信し、前記第2外部装置と、利用または通信量に対して費用の発生するネットワークを通じて通信することを特徴とする請求項1に記載の情報処理装置。 The information processing device according to claim 1, characterized in that it communicates with the first external device through a network that does not incur any charges for use or communication volume, and communicates with the second external device through a network that incurs charges for use or communication volume. 前記評価処理が被写体認識処理であることを特徴とする請求項1から3のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 1 to 3, characterized in that the evaluation process is an object recognition process. 前記画像処理が前記情報処理装置で実施できない画像処理を含むことを特徴とする請求項1から4のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 1 to 4, characterized in that the image processing includes image processing that cannot be performed by the information processing device. 通信手段および制御手段を有する画像処理装置であって、
前記制御手段は、
前記通信手段を通じて情報処理装置から縮小画像データを受信し、
前記縮小画像データに対し、前記情報処理装置が前記縮小画像データの元データに対する所定の画像処理を外部装置で適用するか否かを決定するための判断基準となる情報を生成する評価処理を適用し、
前記情報を含む、前記評価処理の結果を前記通信手段を通じて前記情報処理装置に送信し、
前記通信手段を通じて前記情報処理装置から画像データを受信し、
前記画像データに対して前記所定の画像処理を適用し、
前記所定の画像処理を適用した結果を前記通信手段を通じて前記情報処理装置に送信する、
ことを特徴とする画像処理装置。
An image processing device having a communication means and a control means,
The control means
receiving reduced image data from the information processing device through the communication means;
applying an evaluation process to the reduced image data to generate information that serves as a judgment criterion for determining whether or not the information processing device should apply a predetermined image processing to the original data of the reduced image data in an external device;
transmitting a result of the evaluation process , including the information, to the information processing device via the communication means;
receiving image data from the information processing device through the communication means;
applying the predetermined image processing to the image data;
transmitting a result of the application of the predetermined image processing to the information processing device via the communication means;
13. An image processing device comprising:
前記情報処理装置と利用または通信量に対して費用の発生するネットワークを通じて通信することを特徴とする請求項6に記載の画像処理装置。 The image processing device according to claim 6, characterized in that it communicates with the information processing device through a network in which a fee is incurred for use or communication volume. 前記制御手段はさらに、
前記情報処理装置から受信した複数フレーム分の画像データの中から、前記所定の画像処理を適用する画像データを決定し、
前記決定した画像データに前記所定の画像処理を適用する、
ことを特徴とする請求項6に記載の画像処理装置。
The control means further comprises:
determining image data to which the predetermined image processing is to be applied from among the image data of the plurality of frames received from the information processing device;
applying the predetermined image processing to the determined image data;
7. The image processing device according to claim 6,
前記制御手段はさらに、
前記通信手段を通じて前記情報処理装置から複数フレーム分の画像データを受信し、
前記複数フレーム分の画像データの中から、前記所定の画像処理を適用する画像データを決定し、
前記決定した画像データを、前記通信手段を通じて前記情報処理装置とは異なる装置に送信する、
ことを特徴とする請求項6に記載の画像処理装置。
The control means further comprises:
receiving image data for a plurality of frames from the information processing device through the communication means;
determining image data to which the predetermined image processing is to be applied from among the image data for the plurality of frames;
transmitting the determined image data to a device different from the information processing device through the communication means;
7. The image processing device according to claim 6,
通信手段および制御手段を有する画像処理装置であって、
前記制御手段は、
前記通信手段を通じて情報処理装置から縮小画像データを受信し、
前記縮小画像データに対して評価処理を適用し、
前記評価処理の結果に基づいて、前記縮小画像データの元データの送信を前記情報処理装置に要求し、
前記通信手段を通じて前記情報処理装置から前記要求した元データを受信し、
前記要求した元データに対して所定の画像処理を適用し、
前記所定の画像処理を適用した結果を前記通信手段を通じて前記情報処理装置に送信する、
ことを特徴とする画像処理装置。
An image processing device having a communication means and a control means,
The control means
receiving reduced image data from the information processing device through the communication means;
applying an evaluation process to the reduced image data;
requesting the information processing device to transmit original data of the reduced image data based on a result of the evaluation process;
receiving the requested original data from the information processing device via the communication means;
applying a predetermined image processing to the requested original data;
transmitting a result of the application of the predetermined image processing to the information processing device via the communication means;
13. An image processing device comprising:
請求項1から5のいずれか1項に記載の情報処理装置と、請求項6から10のいずれか1項に記載の画像処理装置とが通信可能に接続された画像処理システム。 An image processing system in which an information processing device according to any one of claims 1 to 5 and an image processing device according to any one of claims 6 to 10 are communicably connected. 情報処理装置の制御方法であって、
制御手段が、
前記情報処理装置の通信手段を通じて第1外部装置に撮像画像の縮小画像データを送信することと、
前記第1外部装置から前記縮小画像データに対する評価処理の結果を受信することと、
前記評価処理の結果に基づいて、前記縮小画像データの元データのうち、第2外部装置で画像処理を適用する元データを決定することと、
前記決定した元データを前記通信手段を通じて前記第2外部装置に送信することと、
前記第2外部装置から、前記元データに対する前記画像処理の結果を受信することと、
を有することを特徴とする情報処理装置の制御方法。
A method for controlling an information processing device, comprising:
The control means
Transmitting reduced image data of a captured image to a first external device through a communication means of the information processing device;
receiving a result of an evaluation process on the reduced image data from the first external device;
determining, based on a result of the evaluation process, original data to which image processing is to be applied in a second external device, from among the original data of the reduced image data;
transmitting the determined original data to the second external device via the communication means;
receiving a result of the image processing on the original data from the second external device;
13. A method for controlling an information processing apparatus comprising the steps of:
画像処理装置の制御方法であって、
制御手段が、
前記画像処理装置の通信手段を通じて情報処理装置から縮小画像データを受信することと、
前記縮小画像データに対し、前記情報処理装置が前記縮小画像データの元データに対する所定の画像処理を外部装置で適用するか否かを決定するための判断基準となる情報を生成する評価処理を適用することと、
前記情報を含む、前記評価処理の結果を前記通信手段を通じて前記情報処理装置に送信することと、
前記通信手段を通じて前記情報処理装置から画像データを受信し、
前記画像データに対して前記所定の画像処理を適用し、
前記所定の画像処理を適用した結果を前記通信手段を通じて前記情報処理装置に送信することと、
を有することを特徴とする画像処理装置の制御方法。
A control method for an image processing device, comprising:
The control means
receiving reduced image data from an information processing device through a communication means of the image processing device;
applying an evaluation process to the reduced image data to generate information that serves as a judgment criterion for determining whether or not the information processing device should apply a predetermined image processing to original data of the reduced image data in an external device;
transmitting a result of the evaluation process , including the information, to the information processing device via the communication means;
receiving image data from the information processing device through the communication means;
applying the predetermined image processing to the image data;
transmitting a result of the application of the predetermined image processing to the information processing device via the communication means;
13. A method for controlling an image processing apparatus comprising the steps of:
画像処理装置の制御方法であって、
制御手段が、
前記画像処理装置の通信手段を通じて情報処理装置から縮小画像データを受信することと、
前記縮小画像データに対して評価処理を適用することと、
前記評価処理の結果に基づいて、前記縮小画像データの元データの送信を前記情報処理装置に要求することと、
前記通信手段を通じて前記情報処理装置から前記要求した元データを受信することと、
前記要求した元データに対して所定の画像処理を適用することと、
前記所定の画像処理を適用した結果を前記通信手段を通じて前記情報処理装置に送信することと、
を有することを特徴とする画像処理装置の制御方法。
A control method for an image processing device, comprising:
The control means
receiving reduced image data from an information processing device through a communication means of the image processing device;
applying an evaluation process to the reduced image data;
requesting the information processing device to transmit original data of the reduced image data based on a result of the evaluation process;
receiving the requested original data from the information processing device via the communication means;
applying a predetermined image processing to the requested original data;
transmitting a result of the application of the predetermined image processing to the information processing device via the communication means;
13. A method for controlling an image processing apparatus comprising the steps of:
第1外部装置および第2外部装置と通信可能な情報処理装置であって、
画像データを記憶する記憶手段と、
前記情報処理装置の動作を制御する制御手段とを有し、
前記制御手段は、
前記記憶手段に記憶された画像データの1つ以上を選択するための情報を前記第1外部装置に送信し、
前記記憶手段に記憶された画像データのうち、選択された画像データについての情報を前記第1外部装置から受信し、
前記選択された画像データを前記記憶手段から読み出して第2外部装置に送信し、
前記第2外部装置から、前記送信した画像データに対して画像処理を適用した結果を受信する、
ことを特徴とする情報処理装置。
An information processing device capable of communicating with a first external device and a second external device,
A storage means for storing image data;
A control unit for controlling an operation of the information processing device,
The control means
Transmitting information for selecting one or more of the image data stored in the storage means to the first external device;
receiving information on selected image data from the first external device;
reading the selected image data from the storage means and transmitting the image data to a second external device;
receiving, from the second external device, a result of applying image processing to the transmitted image data;
23. An information processing apparatus comprising:
第1外部装置および第2外部装置と通信可能な情報処理装置であって、
画像データを記憶する記憶手段と、
前記情報処理装置の動作を制御する制御手段とを有し、
前記制御手段は、
前記記憶手段に記憶された画像データの1つ以上を選択するための情報を前記第1外部装置に送信し、
前記記憶手段に記憶された画像データのうち、選択された画像データについての情報として、前記選択された画像データと、その部分領域とを特定する情報を前記第1外部装置から受信し、
前記選択された画像データのうち、前記部分領域のデータを前記記憶手段から読み出して前記第2外部装置に送信し、
前記選択された画像データのうち、前記第1外部装置から要求のあった画像データを前記記憶手段から読み出して前記第2外部装置に送信し、
前記第2外部装置から、前記第1外部装置から要求のあった画像データに対して画像処理を適用した結果を受信する、
ことを特徴とする情報処理装置。
An information processing device capable of communicating with a first external device and a second external device,
A storage means for storing image data;
A control unit for controlling an operation of the information processing device,
The control means
Transmitting information for selecting one or more of the image data stored in the storage means to the first external device;
receiving, from the first external device, information for identifying the selected image data and a partial area thereof as information on the selected image data from the image data stored in the storage means ;
reading out data of the partial region from the selected image data from the storage means and transmitting the data to the second external device;
reads out from said storage means image data requested by said first external device from said selected image data and transmits the image data to said second external device;
receiving, from the second external device, a result of applying image processing to the image data requested from the first external device;
23. An information processing apparatus comprising:
前記制御手段は、前記第2外部装置に画像データを送信する順序を、前記第1外部装置または前記第2外部装置から受信した情報に基づいて決定することを特徴とする請求項15に記載の情報処理装置。 The information processing device according to claim 15, characterized in that the control means determines the order in which image data is sent to the second external device based on information received from the first external device or the second external device. 前記制御手段は、予め定められたデータ量もしくはデータ数を超えない範囲で前記画像データを前記第2外部装置に送信することを特徴とする請求項15から17のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 15 to 17, characterized in that the control means transmits the image data to the second external device within a range not exceeding a predetermined data amount or number of data. 前記第1外部装置および前記第2外部装置が、ネットワーク上の装置であることを特徴とする請求項15から18のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 15 to 18, characterized in that the first external device and the second external device are devices on a network. 前記第1外部装置と、利用または通信量に対して費用の発生しないネットワークを通じて通信し、前記第2外部装置と、利用または通信量に対して費用の発生するネットワークを通じて通信することを特徴とする請求項15から19のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 15 to 19, characterized in that it communicates with the first external device through a network that does not incur any charges for use or communication volume, and communicates with the second external device through a network that incurs charges for use or communication volume. 前記画像処理が前記情報処理装置で実施できない画像処理を含むことを特徴とする請求項15から20のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 15 to 20, characterized in that the image processing includes image processing that cannot be performed by the information processing device. 制御手段を有する画像処理装置であって、
前記制御手段は、
情報処理装置が有する画像データに関する情報を前記情報処理装置から受信し、
前記情報に基づいて、前記情報処理装置が有する画像データを選択するための画面を表示し、
前記画面を通じて選択された画像データについて部分領域を決定し、
前記選択された画像データおよび前記部分領域に関する情報を前記情報処理装置に送信する、
ことを特徴とする画像処理装置。
An image processing device having a control means,
The control means
receiving information relating to image data stored in an information processing device from the information processing device;
displaying a screen for selecting image data stored in the information processing device based on the information;
determining a partial area for the image data selected through the screen;
transmitting the selected image data and information about the partial region to the information processing device;
13. An image processing device comprising:
前記制御手段は、
前記情報処理装置とは異なる外部装置から、前記部分領域のデータに対して画像処理を適用した結果を受信し、
前記結果を表示し、
前記結果のうちユーザが指示したものに対応する画像データについて、全体に対する画像処理の実行を要求する通知を前記情報処理装置に対して通知する、
ことを特徴とする請求項22に記載の画像処理装置。
The control means
receiving a result of applying image processing to the data of the partial region from an external device different from the information processing device;
Displaying the results,
sending a notification to the information processing device requesting execution of image processing on the entire image data corresponding to the result designated by the user;
23. The image processing device according to claim 22.
前記情報処理装置が有する画像データに関する情報が、前記画像データに基づくプロキシ画像データであることを特徴とする請求項22または23に記載の画像処理装置。 The image processing device according to claim 22 or 23, characterized in that the information relating to the image data held by the information processing device is proxy image data based on the image data. 制御手段を有する画像処理装置であって、
前記制御手段は、
情報処理装置が有する画像データに基づくプロキシ画像データを前記情報処理装置から受信し、
前記プロキシ画像データについての評価値を算出し、
前記評価値に基づいて前記プロキシ画像データの優先順位を示す情報を生成し、
前記優先順位を示す情報を前記情報処理装置に送信する、
ことを特徴とする画像処理装置。
An image processing device having a control means,
The control means
receiving proxy image data based on image data held by the information processing device from the information processing device;
calculating an evaluation value for the proxy image data;
generating information indicating a priority order of the proxy image data based on the evaluation value;
transmitting information indicating the priority order to the information processing device;
13. An image processing device comprising:
前記制御手段は、
複数種の前記評価値を算出し、
前記複数種の前記評価値を加重加算して得られる評価値に基づいて前記プロキシ画像データの優先順位を示す情報を生成する、
ことを特徴とする請求項25に記載の画像処理装置。
The control means
Calculating a plurality of types of the evaluation values;
generating information indicating a priority order of the proxy image data based on an evaluation value obtained by weighting and adding the plurality of types of evaluation values;
26. The image processing device according to claim 25,
コンピュータを、請求項1から5、および15から21のいずれか1項に記載の情報処理装置が有する制御手段として機能させるためのプログラム。 A program for causing a computer to function as a control means possessed by an information processing device according to any one of claims 1 to 5 and 15 to 21. コンピュータを、請求項6から10、および22から26のいずれか1項に記載の画像処理装置が有する制御手段として機能させるためのプログラム。 A program for causing a computer to function as a control means possessed by an image processing device according to any one of claims 6 to 10 and 22 to 26. 画像データを記憶する記憶手段を有し、第1外部装置および第2外部装置と通信可能な情報処理装置の制御方法であって、
記憶装置に記憶された画像データの1つ以上を選択するための情報を前記第1外部装置に送信することと、
前記記憶手段に記憶された画像データのうち、選択された画像データについての情報を前記第1外部装置から受信することと、
前記選択された画像データを前記記憶手段から読み出して第2外部装置に送信することと、
前記第2外部装置から、前記送信した画像データに対して画像処理を適用した結果を受信することと、
を有することを特徴とする情報処理装置の制御方法。
A method for controlling an information processing device having a storage unit for storing image data and capable of communicating with a first external device and a second external device, comprising the steps of:
transmitting information to the first external device for selecting one or more of the image data stored in a storage device;
receiving information on selected image data from the first external device;
reading the selected image data from the storage means and transmitting the image data to a second external device;
receiving a result of applying image processing to the transmitted image data from the second external device;
13. A method for controlling an information processing apparatus comprising the steps of:
画像データを記憶する記憶手段を有し、第1外部装置および第2外部装置と通信可能な情報処理装置の制御方法であって、
記憶装置に記憶された画像データの1つ以上を選択するための情報を前記第1外部装置に送信することと、
前記記憶手段に記憶された画像データのうち、選択された画像データについての情報として、前記選択された画像データと、その部分領域とを特定する情報を前記第1外部装置から受信することと、
前記選択された画像データのうち、前記部分領域のデータを前記記憶手段から読み出して前記第2外部装置に送信することと、
前記選択された画像データのうち、前記第1外部装置から要求のあった画像データを前記記憶手段から読み出して前記第2外部装置に送信することと、
前記第2外部装置から、前記第1外部装置から要求のあった画像データに対して画像処理を適用した結果を受信することと、
を有することを特徴とする情報処理装置の制御方法。
A method for controlling an information processing device having a storage unit for storing image data and capable of communicating with a first external device and a second external device, comprising the steps of:
transmitting information to the first external device for selecting one or more of the image data stored in a storage device;
receiving, from the first external device, information that identifies the selected image data and a partial area thereof as information about the selected image data from the image data stored in the storage means ;
reading out data of the partial region from the selected image data from the storage means and transmitting the data to the second external device;
reading out from said storage means image data requested by said first external device from said selected image data and transmitting said image data to said second external device;
receiving from the second external device a result of applying image processing to the image data requested from the first external device;
13. A method for controlling an information processing apparatus comprising the steps of:
画像処理装置の制御方法であって、
情報処理装置が有する画像データに関する情報を前記情報処理装置から受信することと、
前記情報に基づいて、前記情報処理装置が有する画像データを選択するための画面を表示することと、
前記画面を通じて選択された画像データについて部分領域を決定することと、
前記選択された画像データおよび前記部分領域に関する情報を前記情報処理装置に送信することと、
を有することを特徴とする画像処理装置の制御方法。
A control method for an image processing device, comprising:
receiving information relating to image data stored in an information processing device from the information processing device;
displaying a screen for selecting image data stored in the information processing device based on the information;
determining a partial area for image data selected through the screen;
transmitting the selected image data and information about the partial region to the information processing device;
13. A method for controlling an image processing apparatus comprising the steps of:
画像処理装置の制御方法であって、
情報処理装置が有する画像データに基づくプロキシ画像データを前記情報処理装置から受信することと、
前記プロキシ画像データについての評価値を算出することと、
前記評価値に基づいて前記プロキシ画像データの優先順位を示す情報を生成することと、
前記優先順位を示す情報を前記情報処理装置に送信することと、
を有することを特徴とする画像処理装置の制御方法。
A control method for an image processing device, comprising:
receiving proxy image data based on image data held by an information processing device from the information processing device;
calculating an evaluation value for the proxy image data;
generating information indicating a priority order of the proxy image data based on the evaluation value;
transmitting information indicating the priority order to the information processing device;
13. A method for controlling an image processing apparatus comprising the steps of:
情報処理装置と、画像処理装置と、サーバ装置とを有する画像処理システムであって、
前記情報処理装置は、
画像データを記憶する記憶手段を有し、
前記記憶手段に記憶された画像データの1つ以上を選択するための情報を前記画像処理装置に送信し、
前記画像処理装置は、
記情報処理装置から受信し前記情報に基づいて、前記情報処理装置が有する画像データの1つ以上を選択するための画面を表示し、
前記画面を通じて選択された画像データに関する情報を前記情報処理装置に送信し、
前記情報処理装置は、
前記選択された画像データについての情報を前記画像処理装置から受信し、
前記選択された画像データを前記記憶手段から読み出して前記サーバ装置に送信し、
前記サーバ装置は、
前記情報処理装置から受信した画像データに対して画像処理を適用し、
前記画像処理を適用した結果を前記情報処理装置に送信し、
前記情報処理装置は、
前記サーバ装置から、前記画像処理を適用した結果を受信する、
ことを特徴とする画像処理システム。
An image processing system having an information processing device, an image processing device, and a server device,
The information processing device includes:
A storage means for storing image data,
transmitting information for selecting one or more of the image data stored in the storage means to the image processing device;
The image processing device includes:
displaying a screen for selecting one or more pieces of image data stored in the information processing device based on the information received from the information processing device;
Transmitting information regarding the image data selected through the screen to the information processing device;
The information processing device includes:
receiving information about the selected image data from the image processing device;
reading out the selected image data from the storage means and transmitting the image data to the server device;
The server device includes:
applying image processing to the image data received from the information processing device;
A result of applying the image processing is transmitted to the information processing device;
The information processing device includes:
receiving a result of the application of the image processing from the server device;
1. An image processing system comprising:
情報処理装置と、画像処理装置と、サーバ装置とを有する画像処理システムであって、
前記情報処理装置は、
画像データを記憶する記憶手段を有し、
前記記憶手段に記憶された画像データの1つ以上を選択するための情報を前記画像処理装置に送信し、
前記画像処理装置は、
記情報処理装置から受信し前記情報に基づいて、前記情報処理装置が有する画像データの1つ以上を選択するための画面を表示し、
前記画面を通じて選択された画像データについて部分領域を決定し、
前記選択された画像データおよび前記部分領域に関する情報を前記情報処理装置に送信し、
前記情報処理装置は、
前記選択された画像データおよび前記部分領域に関する情報を前記画像処理装置から受信し、
前記選択された画像データのうち、前記部分領域のデータを前記記憶手段から読み出して前記サーバ装置に送信し、
前記サーバ装置は、
前記情報処理装置から受信した前記部分領域のデータに対して画像処理を適用し、
前記画像処理を適用した結果を前記画像処理装置に送信し、
前記画像処理装置は、
前記画像処理を適用した結果を前記サーバ装置から受信し、
前記結果を表示し、
前記結果のうちユーザが指示したものに対応する画像データについて、全体に対する画像処理の実行を要求する通知を前記情報処理装置に対して通知し、
前記情報処理装置は、
前記要求のあった画像データを前記サーバ装置に送信し、
前記サーバ装置は、
前記情報処理装置から受信した前記画像データに対して画像処理を適用し、
前記画像処理を適用した結果を前記情報処理装置に送信し、
前記情報処理装置は、
前記サーバ装置から、前記要求のあった画像データに対して画像処理を適用した結果を受信する、
ことを特徴とする画像処理システム。
An image processing system having an information processing device, an image processing device, and a server device,
The information processing device includes:
A storage means for storing image data,
transmitting information for selecting one or more of the image data stored in the storage means to the image processing device;
The image processing device includes:
displaying a screen for selecting one or more pieces of image data stored in the information processing device based on the information received from the information processing device;
determining a partial area for the image data selected through the screen;
transmitting the selected image data and information about the partial region to the information processing device;
The information processing device includes:
receiving the selected image data and information about the partial region from the image processing device;
reading out data of the partial region from the selected image data from the storage means and transmitting the data to the server device;
The server device includes:
applying image processing to the data of the partial region received from the information processing device;
A result of applying the image processing is transmitted to the image processing device;
The image processing device includes:
receiving a result of the application of the image processing from the server device;
Displaying the results,
sending a notification to the information processing device requesting execution of image processing on the entire image data corresponding to the result designated by the user;
The information processing device includes:
transmitting the requested image data to the server device;
The server device includes:
applying image processing to the image data received from the information processing device;
A result of applying the image processing is transmitted to the information processing device;
The information processing device includes:
receiving, from the server device, a result of applying image processing to the requested image data;
1. An image processing system comprising:
情報処理装置と、画像処理装置と、サーバ装置とを有する画像処理システムであって、
前記情報処理装置は、
記憶手段に記憶された画像データに基づくプロキシ画像データを前記画像処理装置に送信し、
前記画像処理装置は、
前記プロキシ画像データを前記情報処理装置から受信し、
前記プロキシ画像データについての評価値を算出し、
前記評価値に基づいて前記プロキシ画像データの優先順位を示す情報を生成し、
前記優先順位を示す情報を前記情報処理装置に送信し、
前記情報処理装置は、
前記優先順位を示す情報を前記画像処理装置から受信し、
前記優先順位を示す情報に基づいて画像データの送信順序を決定し、
前記送信順序に従って画像データを前記サーバ装置に送信し、
前記サーバ装置は、
前記情報処理装置から受信した画像データに対して画像処理を適用し、
前記画像処理を適用した結果を前記情報処理装置に送信し、
前記情報処理装置は、
前記サーバ装置から、前記画像処理を適用した結果を受信する、
ことを特徴とする画像処理システム。
An image processing system having an information processing device, an image processing device, and a server device,
The information processing device includes:
transmitting proxy image data based on the image data stored in the storage means to the image processing device;
The image processing device includes:
receiving the proxy image data from the information processing device;
calculating an evaluation value for the proxy image data;
generating information indicating a priority order of the proxy image data based on the evaluation value;
transmitting information indicating the priority order to the information processing device;
The information processing device includes:
receiving information indicating the priority order from the image processing device;
determining a transmission order of the image data based on the information indicating the priority order;
Transmitting the image data to the server device in accordance with the transmission order;
The server device includes:
applying image processing to the image data received from the information processing device;
A result of applying the image processing is transmitted to the information processing device;
The information processing device includes:
receiving a result of the application of the image processing from the server device;
1. An image processing system comprising:
情報処理装置と、画像処理装置と、サーバ装置とを有する画像処理システムであって、
前記情報処理装置は、
記憶手段に記憶された画像データに基づくプロキシ画像データを前記画像処理装置に送信し、
前記画像処理装置は、
前記プロキシ画像データを前記情報処理装置から受信し、
前記プロキシ画像データについての評価値を算出し、
前記評価値に基づいて前記プロキシ画像データの優先順位を示す情報を生成し、
前記優先順位を示す情報を前記サーバ装置に送信し、
前記サーバ装置は、
前記画像処理装置から画像データの優先順位を示す情報を受信し、
前記サーバ装置の記憶手段に記憶された優先順位を示す情報を、前記画像処理装置から受信した優先順位を示す情報を用いて更新し、
前記更新した優先順位を示す情報を前記情報処理装置に送信し、
前記情報処理装置は、
前記更新した優先順位を示す情報を前記サーバ装置から受信し、
前記更新した優先順位を示す情報に基づいて画像データの送信順序を決定し、
前記送信順序に従って画像データを前記サーバ装置に送信し、
前記サーバ装置は、
前記情報処理装置から受信した画像データに対して画像処理を適用し、
前記画像処理を適用した結果を前記情報処理装置に送信し、
前記情報処理装置は、
前記サーバ装置から、前記画像処理を適用した結果を受信する、
ことを特徴とする画像処理システム。
An image processing system having an information processing device, an image processing device, and a server device,
The information processing device includes:
transmitting proxy image data based on the image data stored in the storage means to the image processing device;
The image processing device includes:
receiving the proxy image data from the information processing device;
calculating an evaluation value for the proxy image data;
generating information indicating a priority order of the proxy image data based on the evaluation value;
transmitting information indicating the priority order to the server device;
The server device includes:
receiving information indicating a priority of image data from the image processing device;
updating information indicating the priority order stored in a storage means of the server device using information indicating the priority order received from the image processing device;
transmitting information indicating the updated priority order to the information processing device;
The information processing device includes:
receiving information indicating the updated priority from the server device;
determining a transmission order of the image data based on the updated information indicating the priority order;
Transmitting the image data to the server device in accordance with the transmission order;
The server device includes:
applying image processing to the image data received from the information processing device;
A result of applying the image processing is transmitted to the information processing device;
The information processing device includes:
receiving a result of the application of the image processing from the server device;
1. An image processing system comprising:
JP2020186751A 2020-01-17 2020-11-09 Information processing device, image processing device, control method thereof, and image processing system Active JP7633796B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/151,655 US11477367B2 (en) 2020-01-17 2021-01-18 Information processing apparatus, image processing apparatus, and method of controlling the same
US17/943,935 US11711607B2 (en) 2020-01-17 2022-09-13 Information processing apparatus capable of applying image processing based on evaluation results, image processing apparatus, and method of controlling the same

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2020006219 2020-01-17
JP2020006219 2020-01-17
JP2020069279 2020-04-07
JP2020069279 2020-04-07

Publications (2)

Publication Number Publication Date
JP2021166375A JP2021166375A (en) 2021-10-14
JP7633796B2 true JP7633796B2 (en) 2025-02-20

Family

ID=78022058

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020186751A Active JP7633796B2 (en) 2020-01-17 2020-11-09 Information processing device, image processing device, control method thereof, and image processing system

Country Status (1)

Country Link
JP (1) JP7633796B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024076794A (en) * 2022-11-25 2024-06-06 パナソニックIpマネジメント株式会社 IMAGE CORRECTION DEVICE, IMAGE CORRECTION METHOD, IMAGE CORRECTION SYSTEM, AND PROGRAM
JP7665677B2 (en) 2023-05-09 2025-04-21 キヤノン株式会社 COMMUNICATION DEVICE, CONTROL METHOD, SYSTEM AND PROGRAM

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242503A (en) 2004-02-25 2005-09-08 Fuji Photo Film Co Ltd Image processing method, image processing system, image processing apparatus, and image processing program
JP2007081549A (en) 2005-09-12 2007-03-29 Konica Minolta Photo Imaging Inc Imaging system
JP2009044256A (en) 2007-08-06 2009-02-26 Olympus Corp Imaging system
JP2019091999A (en) 2017-11-13 2019-06-13 キヤノン株式会社 Development apparatus, control method thereof, and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242503A (en) 2004-02-25 2005-09-08 Fuji Photo Film Co Ltd Image processing method, image processing system, image processing apparatus, and image processing program
JP2007081549A (en) 2005-09-12 2007-03-29 Konica Minolta Photo Imaging Inc Imaging system
JP2009044256A (en) 2007-08-06 2009-02-26 Olympus Corp Imaging system
JP2019091999A (en) 2017-11-13 2019-06-13 キヤノン株式会社 Development apparatus, control method thereof, and program

Also Published As

Publication number Publication date
JP2021166375A (en) 2021-10-14

Similar Documents

Publication Publication Date Title
US11647132B2 (en) Communication terminal, method for controlling communication terminal, communication system, and storage medium
JP5928455B2 (en) Digital camera for digital image sharing
JP2016143919A (en) Image processing apparatus and control method thereof
US11711607B2 (en) Information processing apparatus capable of applying image processing based on evaluation results, image processing apparatus, and method of controlling the same
CN104995911A (en) Image processing device, photographing device, filter generating device, image restoration method, and program
US9692963B2 (en) Method and electronic apparatus for sharing photographing setting values, and sharing system
CN112788230B (en) Camera device and system, information processing device, control method and storage medium thereof
CN105165003B (en) Image processing apparatus, photographic device, image processing method and program
JP7570806B2 (en) Imaging device, information processing device, control method and program thereof, and trained model selection system
CN103763475A (en) Photographing method and device
KR20140125983A (en) Operating Method And Electronic Device thereof
JP7633796B2 (en) Information processing device, image processing device, control method thereof, and image processing system
US10084956B2 (en) Imaging apparatus, and imaging system
CN109391771B (en) Image pickup apparatus, communication apparatus, control method thereof, and storage medium
US20230196708A1 (en) Image processing apparatus and method for controlling the same, and non-transitory computer-readable storage medium
US11736820B2 (en) Image capture apparatus and control method for raw images
US11580681B2 (en) Image processing apparatus
US10217196B2 (en) Image processing apparatus having image refocusing function, control method for image processing apparatus, and storage medium
JP2021125828A (en) Image processing device and image processing method
US12307795B2 (en) Image processing apparatus, image processing method, image capturing apparatus, and storage medium
US20240214446A1 (en) File transfer apparatus and file transfer method
JP2021071989A (en) Image processing device and image processing method
JP7438779B2 (en) Image processing device, image processing system, and control method thereof
KR20190038053A (en) Electronic device for providing image associated with input information and operating method thereof
JP2023118057A (en) IMAGE PROCESSING APPARATUS AND IMAGE PROCESSING METHOD, IMAGING DEVICE, PROGRAM, STORAGE MEDIUM

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231024

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250207

R150 Certificate of patent or registration of utility model

Ref document number: 7633796

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150