JP7819538B2 - Image processing device, image processing method, and program - Google Patents
Image processing device, image processing method, and programInfo
- Publication number
- JP7819538B2 JP7819538B2 JP2022032920A JP2022032920A JP7819538B2 JP 7819538 B2 JP7819538 B2 JP 7819538B2 JP 2022032920 A JP2022032920 A JP 2022032920A JP 2022032920 A JP2022032920 A JP 2022032920A JP 7819538 B2 JP7819538 B2 JP 7819538B2
- Authority
- JP
- Japan
- Prior art keywords
- display mode
- user
- image
- information
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Description
本発明は画像処理装置、画像処理方法、プログラムに関する。 The present invention relates to an image processing device, an image processing method, and a program.
従来、ユーザが視認する映像データについて、フレームごとに出力される画像データに基づいて、映像データがどのようなシーンであるかを示す情報を付与するものが開示されている(例えば、特許文献1)。 Conventionally, a system has been disclosed in which information indicating the type of scene the video data represents is added to the video data viewed by the user, based on image data output for each frame (for example, Patent Document 1).
しかし、特許文献1のように画像データを処理する際には、ユーザの要求に対応した画像を提供することが求められている。 However, when processing image data as in Patent Document 1, it is necessary to provide images that meet the user's requirements.
本発明は、上記に鑑みてなされたものであり、ユーザの要求に対応した画像を提供することが可能な画像処理装置、画像処理方法、プログラムを提供することを目的とする。 The present invention has been made in consideration of the above, and aims to provide an image processing device, image processing method, and program that can provide images that meet the user's requirements.
本発明にかかる画像処理装置は、第1オブジェクトの情報を取得するオブジェクト情報取得部と、画像データから、前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部と、前記第1オブジェクトが検出された場合には、前記第2オブジェクトの表示態様を変更する表示態様変更部と、を備える。 The image processing device according to the present invention includes an object information acquisition unit that acquires information about a first object, an object detection unit that detects the first object and a second object related to the first object from image data, and a display mode change unit that changes the display mode of the second object when the first object is detected.
本発明にかかる画像処理装置は、特定地域の情報と、第1オブジェクトの情報を取得するオブジェクト情報取得部と、ユーザの位置情報から、前記ユーザの位置が前記特定地域内であるか判断する位置情報処理部と、画像データから、前記特定地域に関連する前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部と、前記ユーザの位置が前記特定地域内と判断され、かつ前記特定地域に関連する前記第1オブジェクトが検出された場合には、前記第2オブジェクトの表示態様を変更する表示態様変更部と、を備える。 The image processing device of the present invention includes an object information acquisition unit that acquires information about a specific region and information about a first object; a location information processing unit that determines whether a user's location is within the specific region based on the user's location information; an object detection unit that detects the first object related to the specific region and a second object related to the first object from image data; and a display mode change unit that changes the display mode of the second object when it is determined that the user's location is within the specific region and the first object related to the specific region is detected.
本発明にかかる画像処理方法は、第1オブジェクトの情報を取得するステップと、画像データから、前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するステップと、前記第1オブジェクトが検出された場合には、前記第2オブジェクトの表示態様を変更するステップと、を含む。 The image processing method of the present invention includes the steps of acquiring information about a first object, detecting the first object and a second object related to the first object from image data, and, if the first object is detected, changing the display mode of the second object.
本発明にかかるプログラムは、第1オブジェクトの情報を取得するステップと、画像データから、前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するステップと、前記第1オブジェクトが検出された場合には、前記第2オブジェクトの表示態様を変更するステップと、を含む。 The program of the present invention includes the steps of acquiring information about a first object, detecting the first object and a second object related to the first object from image data, and, when the first object is detected, changing the display mode of the second object.
本発明によれば、画像データに基づいて、ユーザの要求に対応した画像を提供することが可能な画像処理装置を提供することができる。 The present invention provides an image processing device that can provide an image that meets a user's requirements based on image data.
以下、本発明にかかる画像処理装置、画像処理法およびプログラムの実施形態を図面に基づいて説明する。なお、本実施形態によりこの発明が限定されるものではない。また、本実施形態における構成要素には、当業者が置換可能かつ容易なもの、あるいは実質的に同一のものが含まれる。 Embodiments of an image processing device, image processing method, and program according to the present invention will be described below with reference to the accompanying drawings. Note that the present invention is not limited to these embodiments. Furthermore, the components in these embodiments include those that are easily replaceable by those skilled in the art, or those that are substantially identical.
(第1実施形態)
図1は、本実施形態にかかる画像処理システムの一例を示す図である。第1実施形態にかかる画像処理システム1は、ユーザUに、視覚刺激を出力することで、ユーザUに情報を提供する装置である。図1に示すように、画像処理システム1は、ユーザUの体に装着される、いわゆるウェアラブルデバイスである。本実施形態の例では、画像処理システム1は、ユーザUの目に装着される画像処理装置100を有する。ユーザUの目に装着される画像処理装置100はユーザUに視覚刺激を出力する(画像を表示する)後述の出力部120を含む。ただし、図1の構成は一例であり、装置の数や、ユーザUへの装着位置も任意であってよい。例えば、画像処理システム1は、ウェアラブルデバイスに限られず、ユーザUに携帯される装置であってよく、例えばいわゆるスマートフォンやタブレット端末などであってもよい。
(First embodiment)
FIG. 1 is a diagram illustrating an example of an image processing system according to the present embodiment. The image processing system 1 according to the first embodiment is a device that provides information to a user U by outputting visual stimuli to the user U. As illustrated in FIG. 1, the image processing system 1 is a so-called wearable device that is worn on the body of the user U. In this embodiment, the image processing system 1 includes an image processing device 100 worn on the eye of the user U. The image processing device 100 worn on the eye of the user U includes an output unit 120 (described below) that outputs visual stimuli (displays images) to the user U. However, the configuration in FIG. 1 is merely an example, and the number of devices and their positions on the user U may be arbitrary. For example, the image processing system 1 is not limited to a wearable device and may be a device carried by the user U, such as a smartphone or tablet terminal.
(メイン像)
図2は、本実施形態にかかる画像処理装置が表示する画像の一例を示す図である。図2に示すように、画像処理システム1は、出力部120を通して、ユーザUにメイン像PMを提供する。これにより、画像処理システム1を装着したユーザUは、メイン像PMを視認できる。メイン像PMとは、本実施形態では、ユーザUが画像処理システム1を装着していないと仮定した場合に、ユーザUが視認することになる景色の像であり、ユーザUの視野範囲に入る実在の対象物の像であるともいえる。視野範囲とは、ユーザUの視線を中心とした、眼球を動かさないで見える範囲を指す。
(Main statue)
2 is a diagram showing an example of an image displayed by the image processing device according to this embodiment. As shown in FIG. 2, the image processing system 1 provides a main image PM to the user U through the output unit 120. This allows the user U wearing the image processing system 1 to view the main image PM. In this embodiment, the main image PM is an image of the scenery that the user U would view if the user U were not wearing the image processing system 1, and can also be said to be an image of an actual object that falls within the user U's field of view. The field of view refers to the range that can be seen without moving the user U's eyes, centered on the user U's line of sight.
本実施形態では、画像処理システム1は、例えば出力部120から外光(周辺の可視光)を透過させることで、ユーザUにメイン像PMを提供する。すなわち、本実施形態では、ユーザUは、出力部120を通して、実際の景色の像を直接視認しているといえる。ただし、画像処理システム1は、ユーザUに実際の景色の像を直接視認させることに限られず、出力部120にメイン像PMの画像を表示させることで、出力部120を通してユーザUにメイン像PMを提供してもよい。この場合、ユーザUは、出力部120に表示された景色の画像を、メイン像PMとして視認することとなる。この場合、画像処理システム1は、後述する撮像部200が撮像した、ユーザUの視野範囲に入る像を、メイン像PMとして出力部120に表示させる。 In this embodiment, the image processing system 1 provides the user U with the main image PM by, for example, transmitting external light (ambient visible light) from the output unit 120. That is, in this embodiment, the user U can be said to directly view an image of the actual scenery through the output unit 120. However, the image processing system 1 is not limited to allowing the user U to directly view an image of the actual scenery, and may provide the user U with the main image PM through the output unit 120 by displaying an image of the main image PM on the output unit 120. In this case, the user U will view the image of the scenery displayed on the output unit 120 as the main image PM. In this case, the image processing system 1 displays, on the output unit 120, an image captured by the imaging unit 200 (described below) that falls within the user U's field of view as the main image PM.
(サブ画像)
図2に示すように、画像処理システム1は、出力部120を通して提供されるメイン像PMに重畳するように、出力部120にサブ画像PSを表示させる。これにより、ユーザUは、メイン像PMにサブ画像PSが重畳された像を視認することとなる。サブ画像PSとは、メイン像PMに重畳される画像であり、ユーザUの視野範囲に入る実在の景色以外の画像といえる。すなわち、画像処理システム1は、実在の景色であるメイン像PMにサブ画像PSを重畳させることで、ユーザUにAR(Augumented Reality)を提供するといえる。
(Sub image)
2, the image processing system 1 displays the sub-image PS on the output unit 120 so as to be superimposed on the main image PM provided through the output unit 120. As a result, the user U visually recognizes an image in which the sub-image PS is superimposed on the main image PM. The sub-image PS is an image superimposed on the main image PM, and can be said to be an image other than an actual scene that falls within the field of view of the user U. In other words, the image processing system 1 can be said to provide the user U with AR (Augumented Reality) by superimposing the sub-image PS on the main image PM, which is an actual scene.
このように、画像処理システム1は、メイン像PMとサブ画像PSとを提供するが、それ以外にも、メイン像PMとサブ画像PSとは異なる画像を出力部120に表示させてもよく、任意の画像であってよい。 In this way, the image processing system 1 provides a main image PM and a sub-image PS, but it may also display an image different from the main image PM and the sub-image PS on the output unit 120, and may be any image.
(画像処理システムの構成)
図3は、本実施形態にかかる画像処理システムの一例を示す機能ブロック図である。図3に示すように、画像処理システム1は、画像処理装置100と、撮像部200とを備える。画像処理装置100は、入力部110と、出力部120と、記憶部140と、通信部130と、制御部150とを備える。
(Image processing system configuration)
3 is a functional block diagram showing an example of an image processing system according to this embodiment. As shown in FIG. 3, the image processing system 1 includes an image processing device 100 and an imaging unit 200. The image processing device 100 includes an input unit 110, an output unit 120, a storage unit 140, a communication unit 130, and a control unit 150.
(撮像部)
撮像部200は、撮像装置であり、環境情報として、画像処理システム1の周辺の可視光を検出することで、画像処理システム1の周辺を撮像する。撮像部200は、所定のフレームレート毎に撮像するビデオカメラであってよい。画像処理システム1において撮像部200の設けられる位置や向きは任意であるが、例えば、撮像部200は、図1に示す画像処理装置100に設けられており、撮像方向がユーザUの顔が向いている方向であってよい。これにより、撮像部200は、ユーザUの視線の先にある対象物を、すなわちユーザUの視野の範囲に入る対象物を、撮像できる。また、撮像部200の数は任意であり、単数であっても複数であってもよい。
(imaging unit)
The imaging unit 200 is an imaging device that captures images of the periphery of the image processing system 1 by detecting visible light around the image processing system 1 as environmental information. The imaging unit 200 may be a video camera that captures images at a predetermined frame rate. The imaging unit 200 may be provided in any position and orientation in the image processing system 1. For example, the imaging unit 200 may be provided in the image processing device 100 shown in FIG. 1 , and the imaging direction may be the direction in which the face of the user U is facing. This allows the imaging unit 200 to capture an object in the line of sight of the user U, i.e., an object within the field of view of the user U. The number of imaging units 200 may be any number, and may be one or more.
(入力部)
入力部110は、ユーザの操作を受け付ける装置であり、例えばタッチパネルなどであってよい。
(Input section)
The input unit 110 is a device that accepts user operations, and may be, for example, a touch panel.
(出力部)
出力部120は、画像を表示することでユーザUの視覚刺激を出力するディスプレイであり、視覚刺激出力部と言い換えることもできる。本実施形態では、出力部120は、いわゆるHMD(Head Mount Display)である。出力部120は、上述のように、サブ画像PSを表示する。なお、出力部120は、音声を出力する音声出力部(スピーカ)や、ユーザUに触覚刺激を出力する触覚刺激出力部が備えられていてもよい。触覚刺激出力部は、振動などの物理的に作動することで、ユーザに触覚刺激を出力するが、触覚刺激の種類は、振動などに限られず任意のものであってよい。
(output section)
The output unit 120 is a display that outputs visual stimuli to the user U by displaying an image, and can also be referred to as a visual stimulus output unit. In this embodiment, the output unit 120 is a so-called HMD (Head Mount Display). As described above, the output unit 120 displays the sub-image PS. Note that the output unit 120 may also be provided with an audio output unit (speaker) that outputs audio, or a tactile stimulus output unit that outputs tactile stimuli to the user U. The tactile stimulus output unit outputs tactile stimuli to the user by physically operating, such as by vibration, but the type of tactile stimulus is not limited to vibration and may be any type.
(通信部)
通信部130は、外部の装置などと通信するモジュールであり、例えばアンテナなどを含んでよい。通信部130による通信方式は、本実施形態では無線通信であるが、通信方式は任意であってよい。
(Communications Department)
The communication unit 130 is a module that communicates with an external device, etc., and may include, for example, an antenna, etc. In this embodiment, the communication method used by the communication unit 130 is wireless communication, but any communication method may be used.
(制御部)
制御部150は、演算装置、すなわちCPU(Central Processing Unit)である。制御部150は、画像データ取得部151と、オブジェクト情報取得部152と、オブジェクト検出部153と、表示態様変更部154と、を含む。制御部150は、記憶部140からプログラム(ソフトウェア)を読み出して実行することで、画像データ取得部151とオブジェクト情報取得部152とオブジェクト検出部153と表示態様変更部154とを実現して、それらの処理を実行する。なお、制御部150は、1つのCPUによってこれらの処理を実行してもよいし、複数のCPUを備えて、それらの複数のCPUで、処理を実行してもよい。また、画像データ取得部151とオブジェクト情報取得部152とオブジェクト検出部153と表示態様変更部154との少なくとも一部を、ハードウェアで実現してもよい。
(Control unit)
The control unit 150 is a computing device, i.e., a central processing unit (CPU). The control unit 150 includes an image data acquisition unit 151, an object information acquisition unit 152, an object detection unit 153, and a display mode change unit 154. The control unit 150 reads and executes a program (software) from the storage unit 140, thereby realizing the image data acquisition unit 151, the object information acquisition unit 152, the object detection unit 153, and the display mode change unit 154 and executing these processes. The control unit 150 may execute these processes using a single CPU, or may be provided with multiple CPUs and execute the processes using the multiple CPUs. Furthermore, at least a portion of the image data acquisition unit 151, the object information acquisition unit 152, the object detection unit 153, and the display mode change unit 154 may be implemented by hardware.
(画像データ取得部)
画像データ取得部151は、撮像部200を通じて画像データを取得する。本実施形態において画像データとは、メイン像PMの画像であり、ユーザUが画像処理システム1を装着していないと仮定した場合に、ユーザUが視認することになる環境像であり、ユーザUの視野範囲に入る実在の対象物の像ともいえる。画像データ取得部151は、画像データを記憶部140から取得してもよい。
(Image data acquisition unit)
The image data acquisition unit 151 acquires image data through the imaging unit 200. In this embodiment, the image data is an image of the main image PM, which is an environmental image that the user U would visually recognize if the user U were not wearing the image processing system 1, and can also be said to be an image of an actual object within the field of view of the user U. The image data acquisition unit 151 may acquire the image data from the storage unit 140.
図4は、第1実施形態におけるメイン像とサブ画像を重畳したメイン像の一例を示す図である。図4の例では、画像データ取得部151は、ユーザUが視認しているメイン像PM1を画像データとして取得する。図4の例では、メイン像PM1とは、子供であるユーザUが、保護者の立ち合いのもと、看護師に注射を受ける場面であり、注射器O10と、人間の顔O20とを含む。以下、例として注射の場面で本実施形態を説明するが、本実施形態はこの例に限定されない。 Figure 4 is a diagram showing an example of a main image in which a main image and a sub-image are superimposed in the first embodiment. In the example of Figure 4, the image data acquisition unit 151 acquires the main image PM1 viewed by the user U as image data. In the example of Figure 4, the main image PM1 is a scene in which the user U, who is a child, receives an injection from a nurse in the presence of a guardian, and includes a syringe O10 and a human face O20. Below, this embodiment will be described using an injection scene as an example, but this embodiment is not limited to this example.
(オブジェクト情報取得部)
オブジェクト情報取得部152は、第1オブジェクトの情報を取得する。第1オブジェクトの情報とは、第1オブジェクトとして指定するオブジェクトの情報である。オブジェクト情報取得部152は、第1オブジェクトの種類を示す情報(第1オブジェクトがどのようなオブジェクトであるかを示す情報)を取得するともいえる。本実施形態において、オブジェクト情報取得部152は、ユーザUが注視することで恐怖感や嫌悪感を覚えるオブジェクトの情報を、第1オブジェクトの情報として取得する。
(Object information acquisition unit)
The object information acquisition unit 152 acquires information about the first object. The information about the first object is information about an object designated as the first object. It can also be said that the object information acquisition unit 152 acquires information indicating the type of the first object (information indicating what kind of object the first object is). In this embodiment, the object information acquisition unit 152 acquires, as the information about the first object, information about an object that causes the user U to feel fear or disgust when gazing at it.
ここで、オブジェクトとは、一定の形状を有し、視覚で捉えることのできる実在の対象物を指す。本実施形態において、第1オブジェクトとは、例えば、ユーザUにとって恐怖感や嫌悪感のあるオブジェクトであり、第1オブジェクトは、ユーザUが注視することでユーザUの恐怖感や嫌悪感を強めるおそれがあるオブジェクトであるともいえる。図4の例では、注射器O10が第1オブジェクトに相当する。 Here, an object refers to a real object that has a certain shape and can be perceived visually. In this embodiment, the first object is, for example, an object that evokes a sense of fear or disgust in the user U, and can also be said to be an object that may intensify the user U's sense of fear or disgust if the user U gazes upon it. In the example of Figure 4, the syringe O10 corresponds to the first object.
(表示態様変更情報)
本実施形態では、オブジェクト情報取得部152は、表示態様変更情報Dを取得する。図5は、本実施形態にかかる表示態様変更情報の一例を示す図である。表示態様変更情報Dとは、第1オブジェクトの情報と、第2オブジェクトの情報と、所定の条件と、第2オブジェクトの変更後の表示態様とを含んだ情報である。表示態様変更情報Dは、第1オブジェクトと、第2オブジェクトと、所定の条件と、第2オブジェクトの変更後の表示態様とが、関連付けられたデータといえる。第2オブジェクトとは、第1オブジェクトに関連するオブジェクトであり、ユーザUが第1オブジェクトとともに視認する可能性が高いオブジェクトであるともいえる。所定の条件とは、第2オブジェクトの表示態様を変更する第2オブジェクトにかかる条件を指す。すなわち、所定の条件とは、複数種類の第2オブジェクトのうちから、表示態様を変更する第2オブジェクトを選択するための条件を指す。第2オブジェクトの変更後の表示態様とは、ユーザUが視認することになる第2オブジェクトの表示態様を指し、より具体的には、第2オブジェクトに重畳されるサブ画像PSを示す情報である。表示態様変更情報Dは、異なる第1オブジェクトに対して、第2オブジェクトの情報と、所定の条件と、第2オブジェクトの変更後の表示態様とを含んでもよい。すなわち、第1オブジェクトが複数種類設定され、それぞれの第1オブジェクト毎に、表示態様変更情報Dが設定されてよい。
(Display mode change information)
In this embodiment, the object information acquisition unit 152 acquires display mode change information D. FIG. 5 is a diagram illustrating an example of the display mode change information according to this embodiment. The display mode change information D includes information on a first object, information on a second object, a predetermined condition, and a changed display mode of the second object. The display mode change information D can be considered data that associates the first object, the second object, the predetermined condition, and the changed display mode of the second object. The second object is an object related to the first object, and can also be considered an object that the user U is likely to view together with the first object. The predetermined condition refers to a condition related to the second object whose display mode is to be changed. In other words, the predetermined condition refers to a condition for selecting a second object whose display mode is to be changed from among multiple types of second objects. The changed display mode of the second object refers to the display mode of the second object that the user U will view, and more specifically, is information indicating a sub-image PS to be superimposed on the second object. The display mode change information D may include, for different first objects, information on the second object, a predetermined condition, and the changed display mode of the second object. That is, multiple types of first objects may be set, and the display mode change information D may be set for each of the first objects.
オブジェクト情報取得部152は、任意の方法で表示態様変更情報Dを取得してよく、例えば、ユーザUが、第1オブジェクトと、第2オブジェクトと、所定の条件と、第2オブジェクトの変更後の表示態様とを入力してもよい。また、オブジェクト情報取得部152が、ユーザUが入力した第1オブジェクトの情報に基づいて、第2オブジェクトと、所定の条件と、第2オブジェクトの変更後の表示態様とを決めてもよい。また、ユーザUの入力による表示態様変更情報Dの設定は必須でなく、デフォルトで決められていてもよい。 The object information acquisition unit 152 may acquire the display mode change information D using any method; for example, the user U may input the first object, the second object, predetermined conditions, and the changed display mode of the second object. Furthermore, the object information acquisition unit 152 may determine the second object, predetermined conditions, and the changed display mode of the second object based on the information about the first object input by the user U. Furthermore, setting the display mode change information D by input by the user U is not required, and may be determined by default.
(オブジェクト検出部)
オブジェクト検出部153は、表示態様変更情報Dに基づいて、画像データから、第1オブジェクトと、関連する第2オブジェクトとを検出する。より具体的には、オブジェクト検出部153は、表示態様変更情報Dで指定されている第1オブジェクトと、表示態様変更情報Dでその第1オブジェクトに対応付けられている第2オブジェクトとが、画像データ(ユーザが視認しているメイン像PM1)に含まれているかを、検出する。オブジェクト検出部153は、任意の方法で第1オブジェクトと第2オブジェクトとを検出してよく、例えば、AI(Artificial Intelligence)モデルを用いて第1オブジェクトと第2オブジェクトとを検出してもよい。この場合のAIモデルは、記憶部140に記憶されており、画像データから、画像に写っているオブジェクトを抽出して種類を特定するためのモデルである。AIモデルは、画像データと、その画像に写っているオブジェクトの種類を示す情報とを1つのデータセットとし、複数のデータセットを教師データとして学習して構築された、学習済みのAIモデルとなっている。図4の例では、第1オブジェクトとして注射器O10が設定されており、第2オブジェクトとして人間の顔O20が設定されている。そのため、オブジェクト検出部153は、画像データから第1オブジェクトである注射器O10と、表示態様変更情報Dにおいて注射器O10と対応する第2オブジェクトである人間の顔O20とを、検出する。
(Object detection unit)
The object detection unit 153 detects a first object and a related second object from the image data based on the display mode change information D. More specifically, the object detection unit 153 detects whether the first object specified in the display mode change information D and the second object associated with the first object in the display mode change information D are included in the image data (the main image PM1 viewed by the user). The object detection unit 153 may detect the first object and the second object using any method. For example, the object detection unit 153 may detect the first object and the second object using an AI (Artificial Intelligence) model. In this case, the AI model is stored in the storage unit 140 and is a model for extracting objects appearing in the image from the image data and identifying their types. The AI model is a trained AI model constructed by learning using multiple datasets as training data, with the image data and information indicating the types of objects appearing in the image as one dataset. 4, a syringe O10 is set as the first object, and a human face O20 is set as the second object. Therefore, the object detection unit 153 detects, from the image data, the syringe O10, which is the first object, and the human face O20, which is the second object corresponding to the syringe O10 in the display mode change information D.
(表示態様変更部)
表示態様変更部154は、第1オブジェクトが検出された場合に、第2オブジェクトの表示態様を変更する。本実施形態では、表示態様変更部154は、第1オブジェクトと第2オブジェクトが同じ画像データから検出された際に、表示態様変更情報Dに基づいて、所定の条件を満たす第2オブジェクトの表示態様を変更する。具体的には、表示態様変更部154は、画像データから検出された第2オブジェクトが、表示態様変更情報Dで示される所定の条件を満たすかを判断する。
(Display mode change unit)
The display mode modification unit 154 changes the display mode of the second object when a first object is detected. In this embodiment, when a first object and a second object are detected from the same image data, the display mode modification unit 154 changes the display mode of the second object that satisfies a predetermined condition based on the display mode modification information D. Specifically, the display mode modification unit 154 determines whether the second object detected from the image data satisfies the predetermined condition indicated by the display mode modification information D.
第2オブジェクトが複数検出された場合には、表示態様変更部154は、それぞれの第2オブジェクトについて、表示態様変更情報Dで示される所定の条件を満たすかを判断し、所定の条件を満たす第2オブジェクトを抽出する。そして、表示態様変更部154は、所定の条件を満たす第2オブジェクトと重畳する位置に、サブ画像PSを表示させることで第2オブジェクトの表示態様を変更する。より詳しくは、表示態様変更部154は、所定の条件を満たす第2オブジェクトと重畳する位置に、表示態様変更情報Dで示されるサブ画像PSを表示させる。表示態様変更部154は、所定の条件を満たさない第2オブジェクトに対しては、重畳する位置にサブ画像PSを表示せず、第2オブジェクトの表示態様は変更されない。 When multiple second objects are detected, the display mode modification unit 154 determines for each second object whether it satisfies the predetermined condition indicated in the display mode modification information D, and extracts the second objects that satisfy the predetermined condition. The display mode modification unit 154 then changes the display mode of the second objects by displaying a sub-image PS at a position superimposed on the second objects that satisfy the predetermined condition. More specifically, the display mode modification unit 154 displays the sub-image PS indicated in the display mode modification information D at a position superimposed on the second objects that satisfy the predetermined condition. For second objects that do not satisfy the predetermined condition, the display mode modification unit 154 does not display the sub-image PS at the superimposed position, and the display mode of the second objects is not changed.
本実施形態では、サブ画像PSは、メイン像PMに含まれている特定の対象物である第1オブジェクトを注視しにくくさせるため第2オブジェクト上に表示される画像であり、ユーザUが第1オブジェクトを注視しにくくするものであれば、文字やアイコン等、任意の画像でよく、それらを組み合わせてもよい。図4の例では、表示態様を変更する第2オブジェクトの条件として、ユーザUの保護者の顔O22ではないことが課せられており、注射器O10と人間の顔O21が検出された場合、表示態様変更部154は、条件を満たす看護師の顔O21のみに、サブ画像PS1として例えばウサギの顔の画像を重畳する。一方、表示態様変更部154は、所定の条件を満たさない保護者の顔O22には、サブ画像PS1を重畳しない。この場合、ユーザUは保護者の顔O22をそのまま視認することになる。 In this embodiment, the sub-image PS is an image displayed on the second object to make it difficult for the user U to focus on the first object, which is a specific object included in the main image PM. Any image, such as text or an icon, may be used, or a combination of these, as long as it makes it difficult for the user U to focus on the first object. In the example of FIG. 4, the condition for the second object to change its display mode is that it must not be the face O22 of the user U's guardian. When a syringe O10 and a human face O21 are detected, the display mode change unit 154 superimposes, as a sub-image PS1, an image of a rabbit's face, for example, only on the nurse's face O21, which satisfies the condition. On the other hand, the display mode change unit 154 does not superimpose the sub-image PS1 on the guardian's face O22, which does not satisfy the specified condition. In this case, the user U will view the guardian's face O22 as is.
なお、以上の説明では、第1オブジェクトと、第2オブジェクトと、所定の条件と、第2オブジェクトの変更後の表示態様との組み合わせが、表示態様変更情報Dとして予め設定されていたが、それに限られない。例えば、第2オブジェクトの変更後の表示態様であるサブ画像PSは予め設定されていなくてもよく、第2オブジェクトに対して、任意の画像を重畳表示してもよい。また、第2オブジェクトの変更後の表示態様は、第2オブジェクトに重畳されるサブ画像PSに限られず、第2オブジェクトに対して色調の調整やぼかし等、光学処理を施したものでもよい。以上の説明では、第2オブジェクト(ここでは人間の顔O20)を検出して、その中で所定の条件を満たす第2オブジェクト(ここでは看護師の顔O21)のみの表示態様を変化させたが、それに限られない。例えば、第2オブジェクト検出時に所定の条件を課しておき、オブジェクト検出部153が、所定の条件を満たす第2オブジェクトを検出してよい。すなわち、オブジェクト検出部153は、人間の顔O20をすべて検出せずに、看護師の顔O21のみを検出してよい。また、所定の条件は必ずしも必要とはせずに、表示態様変更部154は、第1オブジェクトが検出された場合に、第2オブジェクトの表示態様を変更してもよい。 In the above description, the combination of the first object, the second object, a predetermined condition, and the changed display mode of the second object was set in advance as the display mode change information D. However, this is not limited to this. For example, the sub-image PS, which is the changed display mode of the second object, does not need to be set in advance, and any image may be superimposed on the second object. Furthermore, the changed display mode of the second object is not limited to the sub-image PS superimposed on the second object, but may be an optical processing performed on the second object, such as color adjustment or blurring. In the above description, the second object (here, a human face O20) is detected, and the display mode of only the second object (here, the nurse's face O21) that satisfies a predetermined condition is changed. However, this is not limited to this. For example, a predetermined condition may be imposed when detecting the second object, and the object detection unit 153 may detect the second object that satisfies the predetermined condition. In other words, the object detection unit 153 may detect only the nurse's face O21 without detecting all human faces O20. Furthermore, the predetermined condition is not necessarily required, and the display mode change unit 154 may change the display mode of the second object when the first object is detected.
(記憶部)
記憶部140は、制御部150の演算内容やプログラムなどの各種情報を記憶するメモリであり、例えば、RAM(Random Access Memory)と、ROM(Read Only Memory)のような主記憶装置と、HDD(Hard Disk Drive)などの外部記憶装置とのうち、少なくとも1つ含む。記憶部140には、表示態様変更情報Dが記憶されている。なお、表示態様変更情報Dや、記憶部140が保存する制御部150用のプログラムは、画像処理システム1が読み取り可能な記録媒体に記憶されていてもよい。また、記憶部140が保存する制御部150用のプログラムや、表示態様変更情報Dは、記憶部140に予め記憶されていることに限られず、これらのデータを使用する際に、画像処理システム1が通信部130によって外部の装置から取得してもよい。
(Storage part)
The storage unit 140 is a memory that stores various information such as the calculation contents and programs of the control unit 150, and includes at least one of a main storage device such as a RAM (Random Access Memory), a ROM (Read Only Memory), and an external storage device such as an HDD (Hard Disk Drive). The storage unit 140 stores display mode change information D. Note that the display mode change information D and the program for the control unit 150 stored in the storage unit 140 may be stored in a recording medium readable by the image processing system 1. Furthermore, the program for the control unit 150 and the display mode change information D stored in the storage unit 140 are not necessarily stored in advance in the storage unit 140, and the image processing system 1 may obtain these data from an external device via the communication unit 130 when using these data.
(効果)
ここで、ユーザの要求に対応した画像を提供することが求められている。それに対し、本実施形態によれば、第1オブジェクトを設定し、関連する第2オブジェクトの表示態様を変更することで、ユーザUの注意を第2オブジェクトに向けることができる。そのため第1オブジェクトを、例えば、ユーザUにとって恐怖感や嫌悪感のあるオブジェクトに設定することで、ユーザUは第1オブジェクトを注視しにくくなる。これにより、ユーザの要求に対応した画像を提供することができる。
(effect)
Here, it is required to provide an image that meets the user's request. In response to this, according to this embodiment, by setting a first object and changing the display mode of a related second object, it is possible to direct the user U's attention to the second object. Therefore, by setting the first object to an object that, for example, evokes fear or disgust in the user U, it becomes difficult for the user U to focus on the first object. This makes it possible to provide an image that meets the user's request.
(フローチャート)
図6は、本実施形態にかかるフローチャートである。以下、画像処理装置100による処理内容について説明する。
(flowchart)
6 is a flowchart according to this embodiment. The processing performed by the image processing device 100 will be described below.
画像データ取得部151は、撮像部200を通じて画像データを取得する(ステップS10)。次いで、オブジェクト検出部153は、表示態様変更情報Dに基づいて、画像データから第1オブジェクトと、第1オブジェクトに関連する第2オブジェクトと、を検出する(ステップS20)。ここで第1オブジェクトが画像データから検出され(ステップS30;Yes)、表示態様変更部154は、第2オブジェクトが所定の条件を満たす場合(ステップS40;Yes)、その第2オブジェクトの表示態様を変更する(ステップS50)。ここで、第2オブジェクトが所定の条件を満たさない場合(ステップS40;No)、表示態様変更部154は、その第2オブジェクトの表示態様を変更しない。このときユーザUはメイン像PMの、所定の条件を満たす第2オブジェクトにサブ画像PSが重畳された像、すなわち所定の条件を満たす第2オブジェクトの表示態様が変更されたメイン像を視認することになる。一方で、ステップS30で第1オブジェクトが画像データから検出されなかった場合(ステップS30;No)、第2オブジェクトの表示態様の変更は行われない。このときユーザUはメイン像PMのみを視認することになる。 The image data acquisition unit 151 acquires image data through the imaging unit 200 (step S10). Next, the object detection unit 153 detects a first object and a second object related to the first object from the image data based on the display mode change information D (step S20). If the first object is detected from the image data (step S30; Yes), and the second object satisfies a predetermined condition (step S40; Yes), the display mode change unit 154 changes the display mode of the second object (step S50). If the second object does not satisfy the predetermined condition (step S40; No), the display mode change unit 154 does not change the display mode of the second object. In this case, the user U views an image of the main image PM in which the sub-image PS is superimposed on the second object that satisfies the predetermined condition, i.e., a main image in which the display mode of the second object that satisfies the predetermined condition has been changed. On the other hand, if the first object is not detected from the image data in step S30 (step S30; No), the display mode of the second object is not changed. At this time, the user U will only be able to see the main image PM.
(第2実施形態)
第2実施形態は、ユーザUが第1オブジェクトを認識しやすくするよう第2オブジェクトの表示態様を変更する点で第1実施形態と異なる。第2実施形態において第1実施形態と構成が共通する箇所は、説明を省略する。
Second Embodiment
The second embodiment differs from the first embodiment in that the display mode of the second object is changed to make it easier for the user U to recognize the first object. Descriptions of parts of the second embodiment that are common to the first embodiment will be omitted.
(画像データ取得部)
図7は、第2実施形態におけるメイン像とサブ画像を重畳したメイン像の一例を示す図である。図7の例では、画像データ取得部151は、ユーザUが視認しているメイン像PM2を画像データとして取得する。図7の例では、メイン像PM2とは、ユーザUが繁華街で店舗Aの看板を探す場面であり、店舗Aの看板O15と、全ての店舗の看板O25とを含む。以下、例として店舗の看板の場面で本実施形態を説明するが、本実施形態はこの例に限定されない。
(Image data acquisition unit)
7 is a diagram showing an example of a main image in which a main image and a sub-image are superimposed in the second embodiment. In the example of FIG. 7, the image data acquisition unit 151 acquires, as image data, a main image PM2 that a user U is viewing. In the example of FIG. 7, the main image PM2 is a scene in which the user U is searching for a sign for store A in a busy shopping district, and includes a sign O15 for store A and signs O25 for all stores. Hereinafter, this embodiment will be described using a scene of a store sign as an example, but this embodiment is not limited to this example.
(オブジェクト情報取得部)
本実施形態において、オブジェクト情報取得部152は、ユーザUが認識する必要のあるオブジェクトの情報を、第1オブジェクトの情報として取得する。本実施形態において、第1オブジェクトとは、例えば、ユーザUが認識することを所望するオブジェクトであり、第1オブジェクトは、ユーザUがメイン像PM2から見つけ出したいオブジェクトであるともいえる。
(Object information acquisition unit)
In this embodiment, the object information acquisition unit 152 acquires information about an object that the user U needs to recognize as information about the first object. In this embodiment, the first object is, for example, an object that the user U wishes to recognize, and it can also be said that the first object is an object that the user U wants to find from the main image PM2.
(オブジェクト検出部)
図7の例では、オブジェクト検出部153は、画像データから第1オブジェクトである店舗Aの看板O15と、表示態様変更情報Dにおいて店舗Aの看板O15と対応する第2オブジェクトである全ての店舗の看板O25とを、検出する。
(Object detection unit)
In the example of Figure 7, the object detection unit 153 detects from the image data the first object, which is the signboard O15 of store A, and the second object, which is the signboard O25 of all stores, which corresponds to the signboard O15 of store A in the display mode change information D.
(表示態様変更部)
本実施形態において、サブ画像PSは、メイン像PMに含まれている特定の対象物である第1オブジェクトを認識しやすくするため第2オブジェクト上に表示される画像であり、ユーザUが第1オブジェクトを認識しやすくするものであれば、文字やアイコン等、任意の画像でよく、それらを組み合わせてもよい。図7の例では、表示態様を変更する第2オブジェクトの条件として、店舗Aの看板O15ではないことが課せられており、店舗Aの看板O15と全ての店舗の看板O25が検出された場合、表示態様変更部154は、例えば、条件を満たす店舗Bの看板O26の文字である文字情報を消すようにサブ画像PS2を重畳させたり、条件を満たす店舗Cの看板O27自体を消すようにサブ画像PS3を重畳させたりするなどの処理を行う。一方、所定の条件を満たさない店舗Aの看板O15は、サブ画像PS2またはサブ画像PS3が重畳されず、ユーザUは店舗Aの看板O15をそのまま視認することになる。
(Display mode change unit)
In this embodiment, the sub-image PS is an image displayed on the second object to facilitate recognition of the first object, which is a specific object included in the main image PM. Any image, such as text or an icon, may be used, or a combination of these, as long as it facilitates recognition of the first object by the user U. In the example of FIG. 7 , the condition for changing the display mode of the second object is that it must not be the sign O15 of store A. When the sign O15 of store A and the sign O25 of all stores are detected, the display mode change unit 154 performs processing such as superimposing the sub-image PS2 so as to erase the text information of the sign O26 of store B, which satisfies the condition, or superimposing the sub-image PS3 so as to erase the sign O27 of store C, which satisfies the condition. On the other hand, the sign O15 of store A, which does not satisfy the predetermined condition, is not superimposed with the sub-image PS2 or the sub-image PS3, and the user U views the sign O15 of store A as is.
(効果)
本実施形態によれば、第1オブジェクトを設定し、関連する第2オブジェクトの表示態様を変更することで、ユーザUの注意を第1オブジェクトに向けることができる。そのため第1オブジェクトを、例えば、ユーザUが見つけ出したいオブジェクトに設定することで、ユーザUは第1オブジェクトを認識しやすくなる。これにより、ユーザの要求に対応した画像を提供することができる。
(effect)
According to this embodiment, by setting a first object and changing the display mode of a related second object, it is possible to draw the attention of the user U to the first object. Therefore, by setting the first object as, for example, an object that the user U wants to find, the user U can easily recognize the first object. This makes it possible to provide an image that meets the user's request.
(第3実施形態)
第3実施形態は、制御部150は、さらに位置情報処理部を備え、特定地域の情報に基づいて第2オブジェクトの表示態様を変更する点で第1実施形態と異なる。第3実施形態において第1実施形態と構成が共通する箇所は、説明を省略する。
(Third embodiment)
The third embodiment differs from the first embodiment in that the control unit 150 further includes a location information processing unit and changes the display mode of the second object based on information about a specific area. Explanations of parts of the third embodiment that are common to the first embodiment will be omitted.
(表示態様変更情報)
本実施形態では、表示態様変更情報Dは、特定地域の情報をさらに含んだ情報である。特定地域とは、ユーザが存在しうる特定の地理的な範囲であり、例えば、ユーザUが、画像処理システム1を使用することが想定される地域を指す。ここで、本実施形態において、第1オブジェクトとは、例えば、特定地域において特徴的なオブジェクトであり、第1オブジェクトは、ユーザUが特定地域において視認する可能性が高いオブジェクトであるともいえる。表示態様変更情報Dは、異なる特定地域に対して、第1オブジェクトの情報と、第2オブジェクトの情報と、第2オブジェクトの変更後の表示態様とを含んでもよい。すなわち、特定地域が複数設定され、それぞれの特定地域毎に、表示態様変更情報Dが設定されてもよい。
(Display mode change information)
In the present embodiment, the display mode change information D is information that further includes information about a specific region. The specific region is a specific geographical area where a user may be present, and refers to, for example, a region where the user U is expected to use the image processing system 1. Here, in the present embodiment, the first object is, for example, an object that is characteristic of the specific region, and the first object can also be said to be an object that the user U is likely to view in the specific region. The display mode change information D may include, for different specific regions, information about the first object, information about the second object, and the changed display mode of the second object. In other words, a plurality of specific regions may be set, and the display mode change information D may be set for each specific region.
(位置情報処理部)
本実施形態では、位置情報処理部は、ユーザの位置情報を取得し、表示態様変更情報Dに基づいて、ユーザの位置が特定地域内であるかを判断する。ここで、ユーザの位置情報とは、ユーザUが実在する地理的な位置をいう。位置情報処理部は、任意の方法でユーザの位置情報を取得してよく、例えば通信部130を通じてユーザの位置情報を取得してよい。
(Location information processing section)
In this embodiment, the location information processing unit acquires the user's location information and determines whether the user's location is within a specific area based on the display mode change information D. Here, the user's location information refers to the geographical location where the user U actually exists. The location information processing unit may acquire the user's location information by any method, and may acquire the user's location information via the communication unit 130, for example.
(オブジェクト検出部)
本実施形態では、オブジェクト検出部153は、表示態様変更情報Dに基づいて、画像データから、特定地域に関連する第1オブジェクトと、第1オブジェクトに関連する第2オブジェクトを検出する。より具体的には、オブジェクト検出部153は、表示態様変更情報Dに基づいて、特定地域に対応付けられている第1オブジェクトと、表示態様変更情報Dでその第1オブジェクトに対応付けられている第2オブジェクトとが、画像データ(ユーザが視認しているメイン像)に含まれているかを、検出する。
(Object detection unit)
In the present embodiment, the object detection unit 153 detects a first object associated with a specific region and a second object associated with the first object from the image data based on the display mode change information D. More specifically, the object detection unit 153 detects, based on the display mode change information D, whether the first object associated with the specific region and the second object associated with the first object in the display mode change information D are included in the image data (the main image viewed by the user).
(表示態様変更部)
本実施形態では、表示態様変更部154は、ユーザの位置が特定地域内であると判断され、かつ第1オブジェクトと第2オブジェクトが同じ画像データから検出された際に、表示態様変更情報Dに基づいて、所定の条件を満たす第2オブジェクトの表示態様を変更する。
(Display mode change unit)
In this embodiment, when the user's location is determined to be within a specific area and a first object and a second object are detected from the same image data, the display mode change unit 154 changes the display mode of the second object that satisfies a specified condition based on the display mode change information D.
以上の説明では、表示態様変更情報Dとして、第1オブジェクトは特定地域に関連付けられ、第2オブジェクトは第1オブジェクトに関連付けられていたが、これに限られない。例えば、第1オブジェクトは特定地域と関連付けられていなくてもよく、第2オブジェクトが特定地域および第1オブジェクトに関連付けられて設定されてもよい。すなわち、ユーザの位置が特定地域内であり、かつ第1オブジェクトが画像データから検出された場合、その特定地域および第1オブジェクトに関連付けられた第2オブジェクトに対して、任意の画像を重畳表示してもよい。この場合、第2オブジェクトは、第1オブジェクト及び特定地域に関連するオブジェクトであり、ユーザUが特定地域において第1オブジェクトともに視認する可能性が高いオブジェクトであるといえる。 In the above explanation, the display mode change information D was such that the first object was associated with a specific region and the second object was associated with the first object, but this is not limited to this. For example, the first object does not have to be associated with a specific region, and the second object may be set in association with a specific region and the first object. In other words, if the user is located within a specific region and a first object is detected from image data, an arbitrary image may be superimposed on the second object associated with the specific region and the first object. In this case, the second object is an object related to the first object and the specific region, and can be said to be an object that the user U is likely to view together with the first object in the specific region.
また、以上の説明では、特定地域と、第1オブジェクトと、第2オブジェクトと、所定の条件と、第2オブジェクトの変更後の表示態様との組み合わせが、表示態様変更情報Dとして予め設定されていたが、これに限られない。例えば、第1オブジェクトは設定されていなくてもよく、ユーザの位置が特定地域内である場合、その特定地域に関連付けられた第2オブジェクトに対して、任意の画像を重畳表示してもよい。この場合、第2オブジェクトは、特定地域に関連するオブジェクトであり、ユーザUが特定地域において視認する可能性が高いオブジェクトであるといえる。 In the above explanation, the combination of a specific region, a first object, a second object, a predetermined condition, and the changed display mode of the second object was set in advance as display mode change information D, but this is not limited to this. For example, a first object does not have to be set, and when the user's location is within a specific region, an arbitrary image may be superimposed on a second object associated with the specific region. In this case, the second object is an object related to the specific region, and can be said to be an object that user U is likely to view in the specific region.
(効果)
本実施形態によれば、特定地域を設定し、関連する第2オブジェクトの表示態様を変更することで、ユーザUが特定地域にいる場合に限って、第2オブジェクトの表示態様を変更することができる。これにより、ユーザの要求に対応した画像を提供することができる。
(effect)
According to this embodiment, by setting a specific region and changing the display mode of the related second object, it is possible to change the display mode of the second object only when the user U is in the specific region, thereby making it possible to provide an image that meets the user's request.
(本発明の効果)
各実施形態に記載の画像処理装置、画像処理方法、およびプログラムは、例えば以下のように把握される。
(Effects of the present invention)
The image processing device, image processing method, and program described in each embodiment can be understood, for example, as follows.
第1の態様の画像処理装置は、第1オブジェクトの情報を取得するオブジェクト情報取得部152と、画像データから、第1オブジェクトと、第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部153と、第1オブジェクトが検出された場合には、第2オブジェクトの表示態様を変更する表示態様変更部154と、を備える。この構成によれば、ユーザの要求に応じて、画像データから特定のオブジェクトを検出し、オブジェクトの表示態様を変更する情報を画像データに付与することができる。これによりユーザの要求に対応した画像を提供することができる。 The first aspect of the image processing device includes an object information acquisition unit 152 that acquires information about a first object, an object detection unit 153 that detects the first object and a second object related to the first object from the image data, and a display mode change unit 154 that changes the display mode of the second object when the first object is detected. With this configuration, it is possible to detect a specific object from the image data in response to a user request, and to add information to the image data that changes the display mode of the object. This makes it possible to provide an image that meets the user's request.
第2の態様の画像処理装置は、第2オブジェクトが所定の条件を満たす場合に、その第2オブジェクトの表示態様を変更し、第2オブジェクトが所定の条件を満たさない場合には、その第2オブジェクトの表示態様を変更しない。これにより、第2オブジェクトに対して選択的に表示態様を変更することができるので、よりユーザの要求に対応することができる。 The image processing device of the second aspect changes the display mode of the second object if the second object satisfies a predetermined condition, and does not change the display mode of the second object if the second object does not satisfy the predetermined condition. This allows the display mode of the second object to be selectively changed, thereby better meeting user needs.
第3の態様の画像処理装置は、オブジェクト情報取得部152は、第1オブジェクトと、第2オブジェクトと、第2オブジェクトの変更後の表示態様と、が関連付けられたデータである表示態様変更情報Dを取得し、表示態様変更部は、第1オブジェクトが検出された場合には、表示態様変更情報Dに基づき、第2オブジェクトの表示態様を変更する。これにより、複数の異なる第1オブジェクトに対して、それぞれ対応する第2オブジェクトの表示態様を変更することができるので、よりユーザの要求に対応することができる。 In the third aspect of the image processing device, the object information acquisition unit 152 acquires display mode change information D, which is data associating a first object, a second object, and the changed display mode of the second object, and when a first object is detected, the display mode change unit changes the display mode of the second object based on the display mode change information D. This makes it possible to change the display mode of the corresponding second object for multiple different first objects, thereby better responding to user requests.
第4の態様の画像処理装置は、画像を視認するユーザUが第1オブジェクトを注視しにくくするように、第2オブジェクトの表示態様を変更する。これにより、ユーザが第1オブジェクトの注視を避ける必要のある場合、第2オブジェクトが目立つように表示態様を変更することで、第1オブジェクトへの注視を回避しやすくなるため、よりユーザの要求に対応することができる。 The image processing device of the fourth aspect changes the display mode of the second object so as to make it difficult for the user U viewing the image to focus on the first object. As a result, when the user needs to avoid focusing on the first object, changing the display mode so that the second object stands out makes it easier to avoid focusing on the first object, thereby better meeting the user's needs.
第5の態様の画像処理装置は、画像を視認するユーザUが第1オブジェクトを認識しやすくなるように、第2オブジェクトの表示態様を変更する。具体的には、第5の態様の画像処理装置は、第2オブジェクトの表示態様を第2オブジェクト内における文字情報を削除する表示態様へ変更する。これにより、ユーザが第1オブジェクトの認識する必要のある場合、第2オブジェクトが目立たないように表示態様を変更することで、第1オブジェクトの認識が容易になるため、よりユーザの要求に対応することができる。 The image processing device of the fifth aspect changes the display mode of the second object so that a user U viewing the image can more easily recognize the first object. Specifically, the image processing device of the fifth aspect changes the display mode of the second object to a display mode that deletes text information within the second object. As a result, when a user needs to recognize the first object, changing the display mode so that the second object does not stand out makes it easier to recognize the first object, thereby better meeting user requests.
第6の態様の画像処理装置は、特定地域の情報と、第1オブジェクトの情報を取得するオブジェクト情報取得部152と、ユーザの位置情報から、ユーザの位置が特定地域内であるか判断する位置情報処理部と、画像データから、特定地域に関連する第1オブジェクトと、第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部153と、ユーザの位置が特定地域内であると判断され、かつ特定地域に関連する第1オブジェクトが検出された場合には、第2オブジェクトの表示態様を変更する表示態様変更部154と、を備える。この構成によれば、特定地域に存在するユーザの要求に応じて、画像データから特定のオブジェクトを検出し、オブジェクトの表示態様を変更する情報を画像データに付与することができる。これによりユーザの要求に対応した画像を提供することができる。 The sixth aspect of the image processing device includes an object information acquisition unit 152 that acquires information about a specific region and information about a first object; a location information processing unit that determines whether a user's location is within the specific region based on the user's location information; an object detection unit 153 that detects a first object related to the specific region and a second object related to the first object from image data; and a display mode change unit 154 that changes the display mode of the second object when it is determined that the user's location is within the specific region and a first object related to the specific region is detected. With this configuration, it is possible to detect a specific object from image data in response to a request from a user who is in the specific region, and to add information to the image data that changes the display mode of the object. This makes it possible to provide an image that meets the user's request.
第7の態様の画像処理装置は、特定地域の情報と、第1オブジェクトの情報を取得するオブジェクト情報取得部152と、ユーザの位置情報から、ユーザの位置が特定地域内であるか判断する位置情報処理部と、画像データから、第1オブジェクトと、特定地域及び第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部153と、ユーザの位置が特定地域内であると判断され、かつ第1オブジェクトが検出された場合には、第2オブジェクトの表示態様を変更する表示態様変更部154とを備える。この構成によれば、特定地域に存在するユーザの要求に応じて、画像データから特定のオブジェクトを検出し、オブジェクトの表示態様を変更する情報を画像データに付与することができる。これによりユーザの要求に対応した画像を提供することができる。 The seventh aspect of the image processing device includes an object information acquisition unit 152 that acquires information about a specific region and information about a first object; a location information processing unit that determines whether the user's location is within the specific region based on the user's location information; an object detection unit 153 that detects the first object and a second object related to the specific region and the first object from image data; and a display mode change unit 154 that changes the display mode of the second object when it is determined that the user's location is within the specific region and the first object is detected. With this configuration, it is possible to detect a specific object from image data in response to a request from a user who is in the specific region, and to add information to the image data that changes the display mode of the object. This makes it possible to provide an image that meets the user's request.
第8の態様の画像処理装置は、特定地域の情報を取得する特定地域情報取得部(オブジェクト情報取得部152)と、ユーザの位置情報から、ユーザの位置が特定地域内であるか判断する位置情報処理部と、画像データから、特定地域に関連するオブジェクト(第2オブジェクト)を検出するオブジェクト検出部153と、ユーザの位置が特定地域内であると判断された場合には、オブジェクト(第2オブジェクト)の表示態様を変更する表示態様変更部154とを備える。この構成によれば、特定地域に存在するユーザの要求に応じて、画像データから特定のオブジェクトを検出し、オブジェクトの表示態様を変更する情報を画像データに付与することができる。これによりユーザの要求に対応した画像を提供することができる。 The image processing device of the eighth aspect includes a specific area information acquisition unit (object information acquisition unit 152) that acquires information about a specific area, a location information processing unit that determines whether the user's location is within the specific area based on the user's location information, an object detection unit 153 that detects an object (second object) related to the specific area from image data, and a display mode change unit 154 that changes the display mode of the object (second object) when it is determined that the user's location is within the specific area. With this configuration, it is possible to detect a specific object from image data in response to a request from a user who is in the specific area, and to add information to the image data that changes the display mode of the object. This makes it possible to provide an image that meets the user's request.
第9の態様の画像処理方法は、第1オブジェクトの情報を取得するステップと、画像データから、第1オブジェクトと、第1オブジェクトに関連する第2オブジェクトとを検出するステップと、第1オブジェクトが検出された場合には、第2オブジェクトの表示態様を変更するステップと、を含む。 A ninth aspect of the image processing method includes the steps of acquiring information about a first object, detecting the first object and a second object related to the first object from the image data, and, if the first object is detected, changing the display mode of the second object.
第10の態様のプログラムは、第1オブジェクトの情報を取得するステップと、画像データから、第1オブジェクトと、第1オブジェクトに関連する第2オブジェクトとを検出するステップと、第1オブジェクトが検出された場合には、前記第2オブジェクトの表示態様を変更するステップと、をコンピュータに実行させる。 A tenth aspect of the program causes a computer to execute the following steps: acquiring information about a first object; detecting the first object and a second object related to the first object from image data; and, if the first object is detected, changing the display mode of the second object.
以上、本発明の実施形態を説明したが、これら実施形態の内容により実施形態が限定されるものではない。また、前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、前述した構成要素は適宜組み合わせることが可能であり、各実施形態の構成を組み合わせることも可能である。さらに、前述した実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換又は変更を行うことができる。 Although the embodiments of the present invention have been described above, the embodiments are not limited to the content of these embodiments. Furthermore, the components described above include those that would be easily imagined by a person skilled in the art, those that are substantially identical, and those that are within the scope of what is known as equivalents. Furthermore, the components described above can be combined as appropriate, and the configurations of each embodiment can also be combined. Furthermore, various omissions, substitutions, or modifications of the components can be made without departing from the spirit of the embodiments described above.
1 画像処理システム
100 画像処理装置
110 入力部
120 出力部
130 通信部
140 記憶部
150 制御部
151 画像データ取得部
152 オブジェクト情報取得部
153 オブジェクト検出部
154 表示態様変更部
200 撮像部
D 表示態様変更情報
O10 注射器
O15、O25、O26、O27 看板
O20、O21、O22 顔
PM,PM1,PM2 メイン像
PS,PS1,PS2,PS3 サブ画像
U ユーザ
1 Image processing system 100 Image processing device 110 Input unit 120 Output unit 130 Communication unit 140 Memory unit 150 Control unit 151 Image data acquisition unit 152 Object information acquisition unit 153 Object detection unit 154 Display mode change unit 200 Imaging unit D Display mode change information O10 Syringe O15, O25, O26, O27 Signboard O20, O21, O22 Face PM, PM1, PM2 Main image PS, PS1, PS2, PS3 Sub-image U User
Claims (6)
画像データから、前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部と、
前記第1オブジェクトが検出され、かつ、前記第2オブジェクトが予め定めた人物の顔でない場合に、その第2オブジェクトの表示態様を変更し、前記第1オブジェクトが検出され、かつ、前記第2オブジェクトが予め定めた人物の顔である場合には、その第2オブジェクトの表示態様を変更しない表示態様変更部と、
を備える、画像処理装置。 an object information acquisition unit that acquires information about a first object;
an object detection unit that detects the first object and a second object related to the first object from image data;
a display mode change unit that changes a display mode of the second object when the first object is detected and the second object is not a face of a predetermined person, and does not change a display mode of the second object when the first object is detected and the second object is a face of a predetermined person ;
An image processing device comprising:
前記表示態様変更部は、前記第1オブジェクトが検出された場合には、前記表示態様変更情報に基づき、前記第2オブジェクトの表示態様を変更する、
請求項1に記載の画像処理装置。 the object information acquisition unit acquires display mode change information that is data in which the first object, the second object, and a display mode of the second object after the change are associated with each other;
the display mode change unit changes the display mode of the second object based on the display mode change information when the first object is detected.
The image processing device according to claim 1 .
請求項1又は請求項2に記載の画像処理装置。 the display mode change unit changes the display mode of the second object to a display mode in which character information in the second object is deleted;
3. The image processing device according to claim 1.
ユーザの位置情報から、前記ユーザの位置が前記特定地域内であるか判断する位置情報処理部と、
画像データから、前記特定地域に関連する前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するオブジェクト検出部と、
前記ユーザの位置が前記特定地域内であると判断され、かつ前記特定地域に関連する前記第1オブジェクト及び第2オブジェクトが検出された場合には、前記第2オブジェクトの表示態様を変更する表示態様変更部と、
を備える、画像処理装置。 an object information acquisition unit that acquires information about a specific region and information about a first object;
a location information processing unit that determines whether the user's location is within the specific area based on the user's location information;
an object detection unit that detects the first object related to the specific area and a second object related to the first object from the image data;
a display mode change unit that changes a display mode of the second object when it is determined that the user's location is within the specific area and the first object and the second object related to the specific area are detected;
An image processing device comprising:
画像データから、前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するステップと、
前記第1オブジェクトが検出され、かつ、前記第2オブジェクトが予め定めた人物の顔でない場合に、その第2オブジェクトの表示態様を変更し、前記第1オブジェクトが検出され、かつ、前記第2オブジェクトが予め定めた人物の顔である場合には、その第2オブジェクトの表示態様を変更しないステップと、
を含む、画像処理方法。 obtaining information of a first object;
detecting the first object and a second object related to the first object from image data;
a step of changing a display mode of the second object when the first object is detected and the second object is not a face of a predetermined person, and not changing a display mode of the second object when the first object is detected and the second object is a face of a predetermined person ;
An image processing method comprising:
画像データから、前記第1オブジェクトと、前記第1オブジェクトに関連する第2オブジェクトとを検出するステップと、
前記第1オブジェクトが検出され、かつ、前記第2オブジェクトが予め定めた人物の顔でない場合に、その第2オブジェクトの表示態様を変更し、前記第1オブジェクトが検出され、かつ、前記第2オブジェクトが予め定めた人物の顔である場合には、その第2オブジェクトの表示態様を変更しないステップと、
をコンピュータに実行させる、プログラム。 obtaining information of a first object;
detecting the first object and a second object related to the first object from image data;
a step of changing a display mode of the second object when the first object is detected and the second object is not a face of a predetermined person, and not changing a display mode of the second object when the first object is detected and the second object is a face of a predetermined person ;
A program that causes a computer to execute the following.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2022/024980 WO2022270558A1 (en) | 2021-06-25 | 2022-06-22 | Image processing device, image processing method, and program |
| US18/393,809 US20240119643A1 (en) | 2021-06-25 | 2023-12-22 | Image processing device, image processing method, and computer-readable storage medium |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021105936 | 2021-06-25 | ||
| JP2021105936 | 2021-06-25 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023004849A JP2023004849A (en) | 2023-01-17 |
| JP7819538B2 true JP7819538B2 (en) | 2026-02-25 |
Family
ID=85100961
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022032920A Active JP7819538B2 (en) | 2021-06-25 | 2022-03-03 | Image processing device, image processing method, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7819538B2 (en) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006099401A (en) | 2004-09-29 | 2006-04-13 | Canon Inc | Image processing apparatus and image processing method |
| JP2011095797A (en) | 2009-10-27 | 2011-05-12 | Sony Corp | Image processing device, image processing method and program |
| WO2016111174A1 (en) | 2015-01-06 | 2016-07-14 | ソニー株式会社 | Effect generating device, effect generating method, and program |
| WO2018092378A1 (en) | 2016-11-17 | 2018-05-24 | シャープ株式会社 | Information processing device, information processing method, and program |
| WO2019058492A1 (en) | 2017-09-22 | 2019-03-28 | マクセル株式会社 | Display system and display method |
| JP2019535059A (en) | 2016-09-13 | 2019-12-05 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | Sensory eyewear |
| JP2020129356A (en) | 2019-02-07 | 2020-08-27 | 株式会社メルカリ | Program, information processing method, and information processing terminal |
-
2022
- 2022-03-03 JP JP2022032920A patent/JP7819538B2/en active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006099401A (en) | 2004-09-29 | 2006-04-13 | Canon Inc | Image processing apparatus and image processing method |
| JP2011095797A (en) | 2009-10-27 | 2011-05-12 | Sony Corp | Image processing device, image processing method and program |
| WO2016111174A1 (en) | 2015-01-06 | 2016-07-14 | ソニー株式会社 | Effect generating device, effect generating method, and program |
| JP2019535059A (en) | 2016-09-13 | 2019-12-05 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | Sensory eyewear |
| WO2018092378A1 (en) | 2016-11-17 | 2018-05-24 | シャープ株式会社 | Information processing device, information processing method, and program |
| WO2019058492A1 (en) | 2017-09-22 | 2019-03-28 | マクセル株式会社 | Display system and display method |
| JP2020129356A (en) | 2019-02-07 | 2020-08-27 | 株式会社メルカリ | Program, information processing method, and information processing terminal |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023004849A (en) | 2023-01-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12506953B2 (en) | Device, methods, and graphical user interfaces for capturing and displaying media | |
| US12449946B2 (en) | Methods for displaying user interface elements relative to media content | |
| US9852506B1 (en) | Zoom and image capture based on features of interest | |
| CN111788543B (en) | Image enhancement device with gaze tracking | |
| US10180715B2 (en) | Correlating user reaction with at least an aspect associated with an augmentation of an augmented view | |
| US20190331914A1 (en) | Experience Sharing with Region-Of-Interest Selection | |
| JP6022709B1 (en) | Program, recording medium, content providing apparatus, and control method | |
| EP3070681A1 (en) | Display control device, display control method and program | |
| US20250292621A1 (en) | Information prompt method, information prompt apparatus, electronic device, and readable storage medium | |
| WO2018235595A1 (en) | Information provision device, information provision method and program | |
| US20210311550A1 (en) | Postponing the State Change of an Information Affecting the Graphical User Interface Until During the Condition of Inattentiveness | |
| JP2015114798A (en) | Information processing apparatus, information processing method, and program | |
| US11699412B2 (en) | Application programming interface for setting the prominence of user interface elements | |
| JP7819538B2 (en) | Image processing device, image processing method, and program | |
| JP7034228B1 (en) | Eye tracking system, eye tracking method, and eye tracking program | |
| WO2022180973A1 (en) | Comment art management system, comment art management method, comment art management program, and computer-readable recording medium | |
| JP2017097854A (en) | Program, recording medium, content providing apparatus, and control method | |
| JP2018088604A (en) | Image display device, image display method, and system | |
| WO2022270558A1 (en) | Image processing device, image processing method, and program | |
| WO2022114177A1 (en) | Display device, display method, and program | |
| JP7669671B2 (en) | Display device, display method, and program | |
| JP7665965B2 (en) | Display device, display method, and program | |
| JP7711370B2 (en) | Display device, display method, and program | |
| KR102801405B1 (en) | Electronic device, system and control method thereof | |
| JP2021124520A (en) | Image display device, program for image display, and image display method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20250131 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250902 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20251031 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20260113 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260126 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7819538 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |