JP5438089B2 - Background image concealment method, background image concealment device, and computer-executable program - Google Patents
Background image concealment method, background image concealment device, and computer-executable program Download PDFInfo
- Publication number
- JP5438089B2 JP5438089B2 JP2011282303A JP2011282303A JP5438089B2 JP 5438089 B2 JP5438089 B2 JP 5438089B2 JP 2011282303 A JP2011282303 A JP 2011282303A JP 2011282303 A JP2011282303 A JP 2011282303A JP 5438089 B2 JP5438089 B2 JP 5438089B2
- Authority
- JP
- Japan
- Prior art keywords
- brightness
- background
- image data
- exposure amount
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Studio Devices (AREA)
Description
本発明は、背景画像秘匿方法、背景画像秘匿装置、及びコンピュータが実行可能なプログラムに関する。 The present invention relates to a background image concealment method, a background image concealment device, and a program executable by a computer.
近時、パーソナルコンピュータ等の情報処理装置ではカメラを搭載したものが多く普及している。情報処理装置に搭載したカメラでユーザを撮影し、その撮像画像を転送してTV会議を行うことが一般化している。かかるTV会議等では、ユーザを撮像した画像を相手方に転送するため、ユーザを撮像した際の背景画像も転送される。しかしながら、プライバシーの観点等から背景を隠したい場合がある。 In recent years, many information processing apparatuses such as personal computers equipped with cameras have become widespread. It is common to shoot a user with a camera mounted on an information processing apparatus and transfer the captured image to hold a TV conference. In such a TV conference or the like, since an image captured of the user is transferred to the other party, a background image when the user is captured is also transferred. However, there are cases where it is desirable to hide the background from the viewpoint of privacy.
背景を隠す方法として、例えば、人物を画像処理により検出して、それ以外の領域(背景)を他の画像と差し替える方法や、Kinectに代表される深度センサーを使用して、前景としての人物像を検出し、それ以外の領域を他の画像と差し替える方法等がある。 As a method of hiding the background, for example, a person is detected by image processing, and the other area (background) is replaced with another image, or a person image as a foreground is used by using a depth sensor represented by Kinect. There is a method of detecting the image and replacing the other area with another image.
しかしながら、上記方法では、全画像フレームに対して大規模な画像処理が必要となるため、コスト(ハードウェアコスト、処理コスト)が高くなるという問題がある。 However, since the above method requires large-scale image processing for all image frames, there is a problem that cost (hardware cost, processing cost) increases.
本発明は、上記に鑑みてなされたものであって、人物を撮影してその画像データを送信する場合に、低コストな構成により、その人物の背景を秘匿することが可能な背景画像秘匿方法、背景画像秘匿装置、及びコンピュータが実行可能なプログラムを提供することを目的とする。 The present invention has been made in view of the above, and a background image concealment method capable of concealing the background of a person with a low-cost configuration when the person is photographed and the image data is transmitted. An object of the present invention is to provide a background image concealment device and a computer-executable program.
上述した課題を解決し、目的を達成するために、本発明は、撮像手段が被写体を撮像して画像データを出力する撮像工程と、顔検出手段が前記画像データから顔領域を検出する顔検出工程と、明度比較手段が前記画像データの前記検出された顔領域とその背景領域との明度を比較して、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きいか否かを判断する比較工程と、露出制御手段が前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記撮像手段の露出量を高く設定する露出量設定工程と、通信手段が、前記撮像工程において前記撮像手段が前記設定された露出量で撮像した画像データを相手方に送信する送信工程と、を含むことを特徴とする。 In order to solve the above-described problems and achieve the object, the present invention provides an imaging process in which an imaging unit images a subject and outputs image data, and face detection in which a face detection unit detects a face area from the image data. And a brightness comparison unit compares the brightness of the detected face area of the image data with the background area, and determines whether the brightness of the background area is greater than a predetermined amount than the brightness of the face area. A comparing step of determining, an exposure amount setting step of setting the exposure amount of the imaging unit high when the lightness of the background region is greater than the lightness of the face region by a predetermined amount or more, and a communication unit, The imaging step includes a transmission step in which the imaging means transmits image data captured with the set exposure amount to the other party.
また、本発明の好ましい態様によれば、さらに、明度調整手段が、前記撮像工程において前記撮像手段が前記設定された露出量で撮像した画像データの明度を低くする調整を行う調整工程と、を含み、前記送信工程では、前記調整工程で調整された画像データを相手方に送信することが望ましい。 Further, according to a preferred aspect of the present invention, the brightness adjustment means further performs an adjustment process for performing adjustment to lower the brightness of the image data captured by the imaging means with the set exposure amount in the imaging process. In the transmission step, the image data adjusted in the adjustment step is preferably transmitted to the other party.
また、本発明の好ましい態様によれば、前記調整工程では、前記撮像手段が前記設定された露出量で撮像した画像データの明度を規定量低くする調整を行うことが望ましい。 According to a preferred aspect of the present invention, it is desirable that in the adjustment step, adjustment is performed to lower the brightness of image data captured by the imaging unit with the set exposure amount by a specified amount.
また、本発明の好ましい態様によれば、前記調整工程では、前記顔領域の顔らしさ評価値が最大となるように、前記撮像手段が前記設定された露出量で撮像した画像データの明度を低くしかつコントラストを高く調整することが望ましい。 According to a preferred aspect of the present invention, in the adjustment step, the brightness of the image data captured by the imaging unit with the set exposure amount is lowered so that the facial appearance evaluation value of the face region is maximized. In addition, it is desirable to adjust the contrast high.
また、本発明の好ましい態様によれば、前記露出量設定工程では、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記露出量を規定量上げることが望ましい。 Further, according to a preferred aspect of the present invention, in the exposure amount setting step, it is desirable that the exposure amount is increased by a specified amount when the brightness of the background region is larger than the brightness of the face region by a predetermined amount or more.
また、本発明の好ましい態様によれば、前記露出量設定工程では、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記顔領域の顔らしさ評価値が下限となるまで、又は、前記露出制量設定工程で露出量を設定する前の画像データの背景領域に対する背景情報の変化量が所定値以上となるまで、前記露出量を上げることが望ましい。 Also, according to a preferred aspect of the present invention, in the exposure amount setting step, when the brightness of the background area is greater than the brightness of the face area by a predetermined amount or more, the facial appearance evaluation value of the face area becomes a lower limit It is desirable to increase the exposure amount until the amount of change in background information with respect to the background region of the image data before setting the exposure amount in the exposure amount setting step becomes a predetermined value or more.
また、上述した課題を解決し、目的を達成するために、本発明は、被写体を撮像して画像データを出力する撮像手段と、前記画像データから顔領域を検出する顔検出手段と、前記画像データの前記検出された顔領域と背景領域との明度を比較して、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きいか否かを判断する明度比較手段と、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記撮像手段の露出量を高く設定する露出制御手段と、前記撮像手段が前記設定された露出量で撮像した画像データを相手方に送信する通信手段と、を備えたことを特徴とする。 In order to solve the above-described problems and achieve the object, the present invention provides an imaging unit that images a subject and outputs image data, a face detection unit that detects a face area from the image data, and the image Brightness comparison means for comparing the brightness of the detected face area and background area of data to determine whether the brightness of the background area is greater than or equal to a predetermined amount than the brightness of the face area; and the background area Exposure control means for setting the exposure amount of the imaging means high when the brightness of the face area is greater than the brightness of the face area, and image data captured by the imaging means with the set exposure amount to the other party And a communication means for transmitting.
また、本発明の好ましい態様によれば、情報処理装置に搭載されるプログラムであって、撮像手段が撮像した画像データから顔領域を検出する顔検出工程と、前記画像データの前記検出された顔領域と背景領域との明度を比較して、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きいか否かを判断する比較工程と、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記撮像手段の露出量を高く設定する露出量設定工程と、前記撮像手段が前記設定された露出量で撮像した画像データを相手方に送信する送信工程と、をコンピュータに実行させることを特徴とする。 According to a preferred aspect of the present invention, there is provided a program installed in the information processing apparatus, the face detecting step for detecting a face area from the image data captured by the imaging unit, and the detected face of the image data A comparison step of comparing the brightness of the area and the background area to determine whether the brightness of the background area is greater than or equal to a predetermined amount than the brightness of the face area; and the brightness of the background area is the brightness of the face area An exposure amount setting step for setting the exposure amount of the imaging unit to be higher, and a transmission step for transmitting image data captured by the imaging unit with the set exposure amount to the other party. The computer is executed.
本発明によれば、人物を撮影してその画像データを送信する場合に、低コストな構成により、その人物の背景を秘匿することが可能となる。 According to the present invention, when a person is photographed and the image data is transmitted, the background of the person can be concealed with a low-cost configuration.
以下に、この発明にかかる背景画像秘匿方法、背景画像秘匿装置、及びコンピュータが実行可能なプログラムを図面に基づいて詳細に説明する。本発明の構成要素は、本明細書の図面に一般に示してあるが、様々な構成で広く多様に配置し設計してもよいことは容易に理解できる。したがって、本発明の装置、システム及び方法の実施形態についての以下のより詳細な説明は、特許請求の範囲に示す本発明の範囲を限定するものではなく、単に本発明の選択した実施形態の一例を示すものであって、本明細書の特許請求の範囲に示す本発明と矛盾無く装置、システム及び方法についての選択した実施形態を単に示すものである。当業者は、特定の細目の1つ以上が無くても、又は他の方法、部品、材料でも本発明を実現できることが理解できる。なお、この実施の形態によりこの発明が限定されるものではない。また、下記実施の形態における構成要素には、当業者が容易に想定できるもの又は実質的に同一のものが含まれる。 Hereinafter, a background image concealment method, a background image concealment device, and a computer-executable program according to the present invention will be described in detail with reference to the drawings. Although the components of the present invention are generally illustrated in the drawings herein, it can be readily understood that they may be arranged and designed in a wide variety of configurations with various configurations. Accordingly, the following more detailed description of the apparatus, system and method embodiments of the present invention is not intended to limit the scope of the invention as set forth in the claims, but merely as an example of selected embodiments of the invention. It is intended merely to illustrate selected embodiments of apparatus, systems and methods consistent with the present invention as set forth in the claims herein. Those skilled in the art will appreciate that the present invention may be implemented without one or more of the specific details or with other methods, components, and materials. Note that the present invention is not limited to the embodiments. In addition, constituent elements in the following embodiments include those that can be easily assumed by those skilled in the art or that are substantially the same.
(実施の形態)
図1は、本実施の形態に係る背景画像秘匿方法の原理を説明するための図である。図1において、パソコン等の情報処理装置にカメラを搭載する場合、そのディスプレイに搭載して、ディスプレイ正面で作業する利用者を撮影する。一般に天井や壁・カーテンなどは明るい色が使われていることから、多くの場合、利用者をカメラで撮像すると、背景領域BAは顔領域FAよりも明るい色として撮像される。そのため、顔領域FAは背景領域BAよりも輝度が低くなる(図1(A))。
(Embodiment)
FIG. 1 is a diagram for explaining the principle of the background image concealment method according to the present embodiment. In FIG. 1, when a camera is mounted on an information processing apparatus such as a personal computer, the camera is mounted on the display and a user working in front of the display is photographed. In general, bright colors are used for the ceiling, walls, curtains, and the like. In many cases, when the user is imaged by a camera, the background area BA is imaged as a brighter color than the face area FA. Therefore, the brightness of the face area FA is lower than that of the background area BA (FIG. 1A).
かかる一般的な環境下の場合に、カメラの露出量を高くして、その“白飛び”効果を使って背景領域BAをぼかす(図1(B))。更に、後処理として、明るさ及びコントラスト調整により、顔領域FAの輝度を本来の適正レベルに戻す(図1(C))。これにより、撮像画像は、顔領域FA以外は、白かそれに準ずる色のフィルターが掛かった効果が得られ、ほとんどの背景領域BAを消すかぼやけた状態にすることができる。 In such a general environment, the exposure amount of the camera is increased, and the background area BA is blurred by using the “whiteout” effect (FIG. 1B). Further, as post-processing, the brightness of the face area FA is returned to the original appropriate level by adjusting the brightness and contrast (FIG. 1C). As a result, the captured image has an effect in which a filter of white or similar color is applied except for the face area FA, and most of the background area BA can be erased or blurred.
図2は、本実施の形態に係る背景画像秘匿装置の概念図である。図2に示す背景画像秘匿装置は、ハードウェアやソフトウェアのモジュール、又は、その組み合わせで構成することができる。背景画像秘匿装置は、図2に示すように、撮像手段1と、顔検出手段2と、明度比較手段3と、露出量制御手段4と、明度調整手段5と、通信手段6とを備えている。なお、画像データの背景領域を秘匿する処理を背景画像秘匿処理と称する。
FIG. 2 is a conceptual diagram of the background image concealment device according to the present embodiment. The background image concealment device shown in FIG. 2 can be configured with hardware or software modules, or a combination thereof. As illustrated in FIG. 2, the background image concealment device includes an imaging unit 1, a
撮像手段1は、被写体を撮像して得られた画像データ(動画)を、顔検出手段2、明度比較手段3、及び露出量制御手段4に出力する。撮像手段1は、例えば、CCDカメラやCMOSカメラで構成することができる。
The imaging unit 1 outputs image data (moving image) obtained by imaging the subject to the
顔検出手段2は、撮像手段1から入力される画像データの中から顔領域を検出して、顔検出結果(顔領域を示す情報)を明度比較手段3に出力する。顔検出アルゴリズムは公知のものを使用することができ、例えば、特開2006−508463号公報等に記載された顔検出方法を使用することができる。
The
明度比較手段3は、顔検出手段2の顔検出結果に基づいて、撮像手段1から入力される画像データのうち顔領域と、それ以外の領域である背景領域について、それぞれの領域の明度(輝度)をその平均値として算出し、背景領域の明度≧顔領域の明度+所定値A(但し、A>0)であるか否かを判断する。そして、明度比較手段3は、背景領域の明度≧顔領域の明度+所定値Aであるか否かを示す比較結果を露出量制御手段4に出力する。
Based on the face detection result of the
露出量制御手段4は、撮像手段1の露出量を制御するものである。露出量制御手段4は、明度比較手段3から入力される比較結果に基づいて、背景領域の明度≧顔領域の明度+所定値Aである場合には、画像データの背景領域が白飛びするように、撮像手段1の露出量を高く設定する。そして、露出量制御手段4は、撮像手段1が設定された高い露出量で撮像した画像データを明度調整手段5に出力する。なお、露出量制御手段4は、露出量を規定量だけ高く設定することにしてもよい。また、露出量制御手段4は、顔らしさ評価値の下限になるまで、又はこの露出量変更による背景領域の背景情報の変化量が所定値以上となるまで、露出量を高くすることにしてもよい。
The exposure
ここで背景領域の背景情報の変化量とは、露出量を高く設定した後に撮影した画像データと、露出量を変更する前の画像データについて、その背景領域についての背景情報の変化量を意味し、例えば、背景情報はエッジ量や周波数成分分布とすることができる。また、顔らしさ評価値は、公知のものを使用することができ、例えば、特開2008−263478号公報や特開2008−079055号公報に記載されたものを使用することができる。また、露出量制御手段4は、顔検出手段2で顔領域が検出されない場合でも画像データの背景領域が白飛びするように、撮像手段2の露出量を高く設定することにしてもよい。
Here, the amount of change in the background information of the background area means the amount of change in the background information for the background area of the image data taken after setting the exposure amount high and the image data before the exposure amount is changed. For example, the background information can be an edge amount or a frequency component distribution. Moreover, a well-known thing can be used for a facial appearance evaluation value, For example, what was described in Unexamined-Japanese-Patent No. 2008-263478 or Unexamined-Japanese-Patent No. 2008-079055 can be used. Further, the exposure
明度調整手段5は、高い露出量で撮像した画像データの明度を調整(明度を下げ)し、望ましくは明度及びコントラストを調整(明度を下げかつコントラストを高く)して、顔領域の輝度を本来の適正レベル(元のレベル)に戻して、調整後の画像データを通信手段6に出力する。なお、明度調整手段5は、規定量だけ明度を下げることにしてもよい。また、明度調整手段5は、画像データの顔領域の顔らしさ評価値が最大となるように明度を下げまたコントラストを高くするように調整することにしてもよい。 The brightness adjustment means 5 adjusts the brightness of the image data captured with a high exposure amount (decreases the brightness), desirably adjusts the brightness and contrast (decreases the brightness and increases the contrast), and originally adjusts the brightness of the face area. To the appropriate level (original level), and the adjusted image data is output to the communication means 6. The lightness adjusting means 5 may reduce the lightness by a specified amount. Further, the lightness adjusting means 5 may be adjusted so as to lower the lightness and increase the contrast so that the facial appearance evaluation value of the face area of the image data is maximized.
通信手段6は、ネットワークに接続されて相手方端末と通信可能に構成されており、明度調整手段5から入力される画像データを通信相手に送信する。これにより、背景が秘匿され、かつ顔を認識可能な画像データを相手方に送出することが可能となる。 The communication means 6 is connected to the network and configured to be able to communicate with the counterpart terminal, and transmits the image data input from the brightness adjustment means 5 to the communication counterpart. This makes it possible to send image data whose background is concealed and whose face can be recognized to the other party.
図3は、背景画像秘匿処理を行う前の概略の画像データの一例、図4は、背景画像秘匿処理を行った後の概略の画像データの一例を示している。図3に示すように、背景秘匿処理を行う前の画像データには背景領域BAの内容が視認可能となっている。他方、図4に示すように、背景秘匿処理を行った後の画像データは背景領域BAが白飛びしており、背景領域BAの内容が視認できなくなっている。 FIG. 3 shows an example of schematic image data before performing background image concealment processing, and FIG. 4 shows an example of schematic image data after performing background image concealment processing. As shown in FIG. 3, the content of the background area BA is visible in the image data before the background concealment process is performed. On the other hand, as shown in FIG. 4, in the image data after the background concealment processing is performed, the background area BA is overexposed, and the contents of the background area BA cannot be visually recognized.
以上説明したように、本実施の形態によれば、撮像手段1は被写体を撮像して画像データを出力し、顔検出手段2は画像データから顔領域を検出し、明度比較手段3は画像データの検出された顔領域とその背景領域との明度を比較して、背景領域の明度が顔領域の明度よりも所定量以上大きいか否かを判断し、露出量制御手段4は、背景領域の明度が顔領域の明度よりも所定量以上大きい場合に、撮像手段1の露出量を高く設定し、通信手段6は、撮像手段1が設定された露出量で撮像した画像データを相手方に送信することとしたので、簡単かつ低コストな方法で画像データ中の背景画像を秘匿することが可能となる。これにより、秘密・プライバシーを保持することができる。付言すると、簡単な手法であるため、低い実現コスト(ハードウェアコスト及び処理コスト(消費電力を含む))で実現でき、処理能力の低いシステムでの実装が可能である。
As described above, according to the present embodiment, the imaging unit 1 images a subject and outputs image data, the
また、本実施の形態によれば、さらに、明度調整手段5は、撮像手段1が設定された露出量で撮像した画像データの明度を低くする調整し、通信手段6は、調整された画像データを相手方に送信することとしたので、画像データ中の人物の顔を適正(はっきりと)にすることが可能となる。 Further, according to the present embodiment, the lightness adjusting means 5 adjusts to lower the lightness of the image data picked up with the exposure amount set by the image pickup means 1, and the communication means 6 adjusts the adjusted image data. Is transmitted to the other party, so that the face of the person in the image data can be made appropriate (clearly).
また、本実施の形態によれば、明度調整手段5は、撮像手段1が設定された露出量で撮像した画像データの明度を規定量低くする調整を行うこととしたので、簡単かつ低コストな方法で画像データ中の人物の顔を適正にすることが可能となる。 Further, according to the present embodiment, the brightness adjustment unit 5 performs the adjustment to lower the brightness of the image data captured by the imaging unit 1 with the set exposure amount, so that it is simple and low-cost. It becomes possible to make the face of the person in the image data appropriate by the method.
また、本実施の形態によれば、明度調整手段5は、顔領域の顔らしさ評価値が最大となるように、撮像手段1が設定された露出量で撮像した画像データの明度を低くしかつコントラストを高く調整することとしたので、可及的に画像データ中の人物の顔を適正にすることが可能となる。 Further, according to the present embodiment, the brightness adjustment unit 5 lowers the brightness of the image data captured by the imaging unit 1 with the set exposure amount so that the facial appearance evaluation value of the face area is maximized. Since the contrast is adjusted to be high, the human face in the image data can be made as appropriate as possible.
また、本実施の形態によれば、露出量制御手段4は、背景領域の明度が顔領域の明度よりも所定量以上大きい場合に、露出量を規定量上げることとしたので、簡単かつ低コストな方法で画像データ中の背景画像を秘匿することが可能となる。 Further, according to the present embodiment, the exposure amount control means 4 increases the exposure amount by a prescribed amount when the brightness of the background region is greater than the brightness of the face region by a predetermined amount, so that it is simple and low-cost. The background image in the image data can be concealed by a simple method.
また、本実施の形態によれば、露出量制御手段4は、背景領域の明度が顔領域の明度よりも所定量以上大きい場合に、顔領域の顔らしさ評価値が下限となるまで、又は、露出量を設定する前の画像データの背景領域に対する背景情報の変化量が所定値以上となるまで、露出量を上げることとしたので、画像データ中の背景画像をより効果的に秘匿することが可能となる。
In addition, according to the present embodiment, the exposure
(実施例)
図5は、本実施の形態に係る背景画像秘匿装置を適用した情報処理装置であるノートPC10の概略の外観図である。ノートPC10は、同図に示すように、いずれも略直方体である本体側筐体12及びディスプレイ側筐体13を備える。本体側筐体12は、キーボード及びタッチパッド等を有する入力部14と、マイクロフォン15と、スピーカ16a、16bとを備える。ディスプレイ側筐体13は、LCD(液晶ディスプレイ)17と、LCD17の表示面側にその上方の略中央に配置され、前方の被写体を撮像可能なカメラ18とを備える。
(Example)
FIG. 5 is a schematic external view of a
本体側筐体12及びディスプレイ側筐体13は、それぞれの端部で左右の一対の連結部(ヒンジ部)19a、19bによって連結されており、連結部19a、19bは、これらの筐体を開閉自在に支持している。
The main
図6は、図5のノートPC1の概略のハードウェア構成例を示す図である。ノートPC1は、同図に示すように、CPU31、ROM32、メモリ33、HDD(ハードディスク)34、LCD17、入力部14、カメラデバイス25、オーディオデバイス27、通信デバイス21、バッテリ22、DC−DCコンバータ23,ACアダプタ24、USBポート39を備えており、各部はバスを介して直接又は間接的に接続されている。
FIG. 6 is a diagram illustrating a schematic hardware configuration example of the notebook PC 1 of FIG. As shown in the figure, the notebook PC 1 includes a
CPU31は、バスを介して接続されたHDD34に格納されたOS35によりノートPC10全体の制御を行うとともに、HDD34に格納された各種のプログラムに基づいて処理を実行する機能を司る。ROM32は、BIOS(Basic Input/Output System:基本入出力システム)32aやデータ等を格納している。
The
メモリ33は、キャッシュメモリやRAMで構成されており、CPU31の実行プログラムの読み込み領域として、実行プログラムの処理データを書き込む作業領域として利用される書き込み可能メモリである。
The
HDD(ハードディスク)34は、例えば、Windows(登録商標) XP、Vista、7等のノートPC1全体の制御を行うためのOS35、周辺機器類をハードウェア操作するための各種ドライバ36、テレビ会議やチャットを行うためのSkype等のテレビ電話用アプリケーションプログラム(以下、「テレビ電話用アプリ」と称する)37、特定業務に向けられた他のアプリプログラム38等を記憶する機能を有する。
An HDD (hard disk) 34 includes, for example, an
OS35は、ノートPC1の基本的な動作を制御しているものであり、各種資源を管理し、例えば、アプリケーションプログラムが発生した命令を、各種ドライバ36やBIOS32aに伝える。OS35は、マルチタスク機能及びマルチウィンドウ機能を有し、アプリケーションプログラムの実行コンテキスト(あるアプリケーションプログラムが利用しているレジスタセットやメインメモリイメージ、ファイルハンドルなど)やGUIの部品などのソフトウェア資源の管理も行うように構成されている。
The
各種ドライバ36は、例えば、OS35の指示に従ってLCD17を制御する表示ドライバ、OS35の指示に従ってカメラデバイス25を制御するカメラドライバ(図7参照)、OS35の指示に従ってオーディオデバイス27を制御するオーディオドライバ、OS35の指示に従って通信デバイス21を制御する通信ドライバ等である。
The
テレビ電話用アプリ37は、OS35を介して、通信デバイス21に相手方端末とリンクを確立させ、カメラ18で撮影した画像やマイクロフォン15で集音した音声を送信させたり、相手方端末から送出されてくる画像や音声をLCD17への表示・スピーカ16a、16bからの放音を行わせる。
The
他のアプリケーションプログラム38は、ブラウザ、メール、ワープロ、表計算等のプログラムである。
The
LCD17は、CPU31の制御に従って、表示情報をビデオ信号に変換し、変換したビデオ信号に応じた各種情報を表示画面に表示する。
The
なお、本実施の形態では、ディスプレイとしてLCDを使用することにしているが、本発明はこれに限られるものではなく、有機ELディスプレイやCRT等の他のディスプレイを使用することにしてもよい。 In this embodiment, an LCD is used as a display. However, the present invention is not limited to this, and another display such as an organic EL display or a CRT may be used.
入力部14は、ユーザが入力操作を行うためのユーザ・インターフェースであり、文字、コマンド等を入力する各種キーより構成されるキーボードや、画面上のカーソルを移動させたり、各種メニューを選択するタッチパッド等を備えている。
The
カメラデバイス25は、USBポート39に接続されたUSBカメラデバイスであり、カメラ18と、カメラ処理回路26とを備えている。カメラ18は、レンズや撮像部(CCDやCMOS)を備えており、レンズは被写体光を結像し、撮像部は結像された被写体光をR,G,Bの画像信号として出力する。カメラ処理回路26は、A/D変換器、画像処理用LSI、メモリ等を備え、撮像部の駆動タイミングや露出制御等を行うと共に、撮像部で得られたRGBの画像信号をデータ処理(A/D変換等)して、CPU31に出力する。カメラデバイス25は、その電源がONされると、ホワイトバランス調整や露出調整等の初期処理を行って、撮像条件や信号処理が安定した後に撮像画像を出力するように構成されている。
The
オーディオデバイス27は、マイクロフォン15と、スピーカ16a、16bと、音声処理回路28とを備えている。マイクロフォン25は、音声を集音して音声データを音声処理回路28に出力する。スピーカ16a、16bは、音声処理回路28から出力される音声データに応じた音声を出力する。音声処理回路28は、A/D変換器、D/A変換器、音声処理用LSI、メモリ等を備えており、マイクロフォン15から入力される音声データをデータ処理(A/D変換等)し、データ処理後の音声データ(デジタルデータ)をCPU11に出力したり、CPU31から入力される音声データ(デジタル)をD/A変換して、スピーカ16a、16bから放音させる。
The
通信デバイス21は、ネットワークを介してデータの送受信を行うためのものであり、画像データ及び音声データをネットワークに送信し、また、ネットワークを介して送信されてくる画像データ及び音声データを受信する。なお、通信デバイス21は、画像データ及び音声データをコード化して送信することにしてもよく、また、コード化された画像データ及び音声データを受信した場合には、デコードすることにしてもよい。
The
ACアダプタ24は、商用電源に接続して、AC電圧をDC電圧に変換してDC−DCコンバータ23に出力する。DC−DCコンバータ23は、ACアダプタ24から供給されるDC電圧を所定の電圧に変換して各部に電力を供給し、また、バッテリ22の充電を行う。バッテリ22は、DC−DCコンバータ23により充電され、充電した電圧を各部に供給する。バッテリ23は、ACアダプタ24が商用電源に接続されていない場合に使用される。
The
図7は、テレビ電話用アプリ37がカメラ18で撮影した画像データを通信相手に送信する場合に、撮影対象の背景を隠した画像データを送信する場合の処理に関する機能構成を示す図である。
FIG. 7 is a diagram showing a functional configuration related to processing in the case where the
テレビ電話用アプリ37は、OS35上で実行されるアプリケーションプログラムであり、相手方端末と画像と音声で通話を行うテレビ電話機能を実現するためのものである。テレビ電話用アプリ37は、図1の通信手段6として機能する。テレビ電話用アプリ37と各デバイス・ドライバの間のデータ又はコマンドの送受信には、OS35が介在する。
The
カメラデバイス25は、図1の撮像手段1として機能する。カメラドライバ36aは、OS35を介したテレビ電話用アプリ37の指示に応じて、カメラデバイス25を制御する。カメラドライバ36aは、図1の顔検出手段2、明度比較手段3、露出量制御手段4、及び明度調整手段5として機能する。
The
カメラドライバ36aは、画像分析部40と、露出制御部50と、明度・コントラスト調整部60とを備えている。さらに、画像分析部40は、顔認識部41と、顔明度検出部42と、背景明度検出部43と、背景秘匿制御部44と、顔らしさ評価部45と、背景変化検出部45とを備えている。
The
カメラデバイス25は、カメラ18で撮影した画像データを画像分析部40、露出制御部50、及び明度・コントラスト調整部60に出力する。
The
画像分析部40では、顔認識部41は、カメラデバイス25から入力される画像データの中から顔領域を検出して、顔検出結果(顔領域を示す情報)を出力する。顔明度検出部42は、顔認識部41の顔検出結果に基づいて、カメラデバイス25から入力される画像データのうち顔領域の明度を算出する。また、背景明度検出部43は、顔認識部41の顔検出結果に基づいて、カメラデバイス25から入力される画像データの顔領域以外の領域、すなわち背景領域の明度を算出する。
In the
背景秘匿制御部44は、顔明度検出部42で算出された顔領域の明度と、背景明度検出部43で算出された背景領域の明度とに基づいて、背景領域の明度≧顔領域の明度+所定値Aであるか否かを判断し、背景領域の明度≧顔領域の明度+所定値A(但し、A>0)であるか否かを示す比較結果を露出制御部50に出力する。
Based on the brightness of the face area calculated by the face
顔らしさ評価部45は、露出制御部50で露出量を高く設定した後にカメラデバイス25で撮影した画像データについて、その顔領域の顔らしさ評価値を算出して、露出制御部50に出力する。また、顔らしさ評価部45は、明度・コントラスト調整部60で明度・コントラスト調整後の画像データについて、その顔領域の顔らしさ評価値を算出して、明度・コントラスト調整部60に出力する。
The face-
背景変化評価部46は、背景領域が白飛びしたか否かを判定するために、露出制御部50で露出量を高く設定した後にカメラデバイス25で撮影した画像データと、露出量を変更する前の画像データについて、背景領域の背景情報の変化量を算出して、露出制御部50に出力する。例えば、背景情報の変化量の算出にはエッジ量や周波数成分分布を利用することができる。
The background
露出制御部50は、カメラデバイス25のカメラ18の露出量を制御するものであり、カメラ処理回路26にその露出量を指示する。露出制御部50は、背景領域の明度≧顔領域の明度+所定値Aである場合には、顔らしさ評価部45で算出される顔らしさ評価値が下限となるまで、又は、背景変化評価部46で算出される背景領域の背景情報の変化量が所定値C以上となるまで、カメラ18の露出量を高くする。これにより、露出過多となり背景領域が白飛びする。
The
また、露出制御部50は、画像データ中で顔領域が検出されなかった場合は、背景変化評価部46で算出される背景領域の背景情報の変化量が所定値C以上となるまで、カメラ18の露出量を高くする。これは人物が映っていない場合でも背景を秘匿したいからである。
If the face area is not detected in the image data, the
明度・コントラスト調整部60は、露出制御部50で露出量を高く設定した後にカメラデバイス25で撮影した画像データについて、顔らしさ評価部45で算出される顔らしさ評価値が最大となるまで、明度及びコントラストを調整(明度を低くし、コントラストを高く)する。これにより、露出過多とした画像データの顔が適正となる。明度・コントラスト調整部60は、調整後の画像データ、すなわち、背景領域が秘匿され、かつ顔領域を認識可能な画像データにできるだけ回復させてテレビ電話用アプリ37に出力する。
The brightness /
テレビ電話用アプリ37は、明度・コントラスト調整部60から入力される調整後の画像データを相手方端末に送信する。
The
図8は、図7の構成のノートPC10が、テレビ電話用アプリ37がカメラ18で撮影した画像データを通信相手に送信する場合の背景画像秘匿処理を説明するためのフローチャートである。図8に示す処理は、テレビ電話用アプリ37がテレビ電話による通信を開始する際、又は、所定周期で実行される。
FIG. 8 is a flowchart for explaining the background image concealment process in the case where the
図8において、カメラドライバ36aでは、カメラ18で撮影が開始されて画像データが入力されると(ステップS11)、顔認識部41は、入力される画像データの顔領域を検出する(ステップS12)。顔領域を検出しなかった場合には(ステップS12の「No」)、ステップS17に移行する。
In FIG. 8, when the
顔領域を検出した場合には(ステップS12の「Yes」)、背景秘匿制御部44は、背景領域の明度≧顔領域の明度+所定値Aであるか否かを判定する(ステップS13)。背景領域の明度≧顔領域の明度+所定値Aでない場合には(ステップS13の「No」)、画像データをテレビ電話用アプリ37に転送する(ステップS21)。 When the face area is detected (“Yes” in step S12), the background concealment control unit 44 determines whether or not the brightness of the background area ≧ the brightness of the face area + the predetermined value A (step S13). If the brightness of the background area ≧ the brightness of the face area + the predetermined value A is not satisfied (“No” in step S13), the image data is transferred to the videophone application 37 (step S21).
背景領域の明度≧顔領域の明度+所定値Aである場合には(ステップS13の「Yes」)、露出制御部50は、露出量を所定量だけ高く設定して、露出量Vexp=露出量Vexp+所定量Bとする(ステップS14)。続いて、露出制御部50は、顔らしさ評価部45で算出される顔らしさ評価値が下限であるか否かを判断する(ステップS15)。顔らしさ評価値は下限である場合には(ステップS15の「Yes」)、ステップS19に移行する。他方、顔らしさ評価値が下限でない場合は(ステップS15の「No」)、露出制御部50は、背景変化検出部46で算出される背景領域の背景情報の変化量≧所定値Cであるか否かを判断する(ステップS16)。背景情報の変化量≧所定値Cである場合には(ステップS16の「Yes」)、ステップS19に移行する。背景情報の変化量≧所定値Cでない場合には(ステップS16の「No」)、ステップS14に戻り、露出制御部50は、露出量をさらに所定量Bだけ高く設定し、顔らしさ評価値が下限(ステップS15の「Yes」)又は背景情報の変化量≧所定値C(ステップS16の「Yes」)となるまで、ステップS14〜S16の処理を繰り返す。ここでは顔らしさ評価値が下限値を大きく飛び越えないように露出変化量Bを細かく制御しながらその評価値を比較することが期待される。なお、顔らしさ評価値の下限値まで露出量を高くする理由は、背景情報を最大限秘匿できるようにするために露出量を最大化しようとする一方で、顔領域は顔として正常に認知できる範囲内である必要があり、露出量の上限を顔らしさ評価値で見積もっているからである。
If the brightness of the background area ≧ the brightness of the face area + the predetermined value A (“Yes” in step S13), the
なお、ステップS14〜S16の処理の替わりに、露出制御部50は、露出量を規定量高く設定し、顔らしさ評価値が下限であるか否かの判断(ステップS15)及び背景情報の変化量≧所定値Cの判断(ステップS16)を実行しないことにしてもよい。これにより、処理速度を向上させることができる。
Instead of the processing in steps S14 to S16, the
ステップS19では、明度・コントラスト調整部60は、画像データの顔領域を、露出量を高くする前の明度に戻すため、明度及びコントラストを調整(明度を低くし、コントラストを高く)する処理を行う。明度・コントラスト調整部60は、顔らしさ評価部45で算出される顔らしさ評価値が最大であるか否かを判断する(ステップS20)。顔らしさ評価値が最大である場合には(ステップS20の「Yes」)、画像データをテレビ電話用アプリ37に転送する(ステップS21)。これにより、テレビ電話用アプリ37からは撮影対象の背景が秘匿され、かつ顔を認識可能な画像データが相手方端末に送信される。顔らしさ評価値が最大でない場合には(ステップS20の「No」)、ステップS19に戻り、明度・コントラスト調整部60は、さらに明度及びコントラストを調整し、顔らしさ評価値が最大となるまで(ステップS20の「Yes」)、ステップS19及びS20の処理を繰り返す。
In step S19, the brightness /
なお、ステップS19及びS20の処理の替わりに、明度・コントラスト調整部60は、規定量明度を下げ、顔らしさ評価値が最大であるか否かの判断(ステップS20)を実行しないことにしてもよい。これにより、処理速度を向上させることができる。
Instead of the processing in steps S19 and S20, the brightness /
ステップS17では、露出制御部50は、露出量を所定量だけ高く設定して、露出量Vexp=露出量Vexp+所定量Bとする(ステップS17)。続いて、露出制御部50は、背景変化検出部46で算出される背景領域の背景情報の変化量≧所定値Cであるか否かを判断する(ステップS18)。背景情報の変化量≧所定値Cである場合には(ステップS18の「Yes」)、画像データをテレビ電話用アプリ37に転送する(ステップS21)。背景情報の変化量≧所定値Cでない場合には(ステップS18の「No」)、ステップS17に戻り、露出制御部50は、露出量をさらに所定量Bだけ高く設定し、背景情報の変化量≧所定値C(ステップS16の「Yes」)となるまで、ステップS17及びステップS18の処理を繰り返す。
In step S17, the
なお、ステップS17及びS18の処理の替わりに、露出制御部50は、露出量を規定量高く設定し、背景情報の変化量≧所定値Cの判断(ステップS18)を実行しないことにしてもよい。これにより、処理速度を向上させることができる。
Instead of the processing in steps S17 and S18, the
顔の検出が確認されている場合には、この背景画像秘匿処理が終了すると、ステップS14〜S16で最終的に設定された露光量で撮影された画像データが、ステップS19及びS20で最終的に決定された明度・コントラスト調整が行われて、テレビ電話用アプリ37から相手方に送信される。
When the detection of the face is confirmed, when the background image concealment process is completed, the image data photographed with the exposure amount finally set in steps S14 to S16 is finally obtained in steps S19 and S20. The determined brightness / contrast adjustment is performed and transmitted from the
なお、本実施例では、背景画像秘匿処理をカメラドライバ36aが実行することとしたが、アプリケーションプログラム、ユーティリティプログラム、又はOSが実行することにしてもよい。さらに、カメラデバイス25が背景画像秘匿処理の一部又は全部を実行することにしてもよい。
In the present embodiment, the background image concealment process is executed by the
また、本実施の形態では、テレビ電話用アプリ37で背景を隠した画像データを送信することとしたが、本発明はこれに限られるものではなく、例えば、メール用のアプリが画像データを添付して送信する場合にも適用可能である。
In the present embodiment, the image data with the background hidden is transmitted by the
また、本実施例では、情報処理装置としてノートPCを例示したが、本発明はこれに限られるものではなく、デスクトップ型PC、PDA、携帯電話等に適用可能である。 In this embodiment, a notebook PC is exemplified as the information processing apparatus. However, the present invention is not limited to this, and can be applied to a desktop PC, a PDA, a mobile phone, and the like.
以上のように、本発明にかかる背景画像秘匿方法、背景画像秘匿装置、及びコンピュータが実行可能なプログラムは撮像した画像データを転送する場合に撮影対象の背景を秘匿したい場合に適している。 As described above, the background image concealment method, the background image concealment device, and the computer-executable program according to the present invention are suitable for concealing the background of the subject to be imaged when transferring captured image data.
1 撮像手段
2 顔検出手段
3 明度比較手段
4 露出量制御手段
5 明度調整手段
6 通信手段
10 ノートPC
12 本体側筐体
13 ディスプレイ側筐体
14 入力部
15 マイクロフォン
16a、16b スピーカ
17 LCD(液晶ディスプレイ)
18 カメラ
19a、19b 連結部(ヒンジ部)
25 カメラデバイス
26 カメラ処理回路
31 CPU
32 ROM
33 メモリ
34 HDD(ハードディスク)
35 OS
36 ドライバ
36a カメラドライバ
37 テレビ電話用アプリケーションプログラム(テレビ電話用アプリ)
40 画像分析部
41 顔認識部
42 顔明度検出部
43 背景明度検出部
44 背景秘匿制御部
45 顔らしさ評価部
46 背景変化検出部
DESCRIPTION OF SYMBOLS 1 Imaging means 2 Face detection means 3 Lightness comparison means 4 Exposure amount control means 5 Lightness adjustment means 6 Communication means 10 Notebook PC
DESCRIPTION OF
18
25
32 ROM
33
35 OS
36
DESCRIPTION OF
Claims (8)
顔検出手段が前記画像データから顔領域を検出する顔検出工程と、
明度比較手段が前記画像データの前記検出された顔領域とその背景領域との明度を比較して、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きいか否かを判断する比較工程と、
露出制御手段が前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記撮像手段の露出量を高く設定する露出量設定工程と、
通信手段が、前記撮像工程において前記撮像手段が前記設定された露出量で撮像した画像データを相手方に送信する送信工程と、
を含むことを特徴とする背景画像秘匿方法。 An imaging step in which the imaging means images a subject and outputs image data;
A face detection step in which a face detection means detects a face region from the image data;
Comparison in which brightness comparison means compares the brightness of the detected face area of the image data with the background area to determine whether the brightness of the background area is greater than the brightness of the face area by a predetermined amount or more. Process,
An exposure amount setting step in which the exposure control means sets the exposure amount of the imaging means to be high when the brightness of the background area is greater than the brightness of the face area by a predetermined amount;
A transmission step in which the communication means transmits image data captured by the imaging means at the set exposure amount to the other party in the imaging step;
A background image concealing method characterized by comprising:
を含み、
前記送信工程では、前記調整工程で調整された画像データを相手方に送信することを特徴とする請求項1に記載の背景画像秘匿方法。 Furthermore, an adjustment step in which the brightness adjustment unit performs an adjustment to lower the brightness of the image data captured by the imaging unit with the set exposure amount in the imaging step;
Including
The background image concealment method according to claim 1, wherein in the transmission step, the image data adjusted in the adjustment step is transmitted to the other party.
前記画像データから顔領域を検出する顔検出手段と、
前記画像データの前記検出された顔領域と背景領域との明度を比較して、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きいか否かを判断する明度比較手段と、
前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記撮像手段の露出量を高く設定する露出制御手段と、
前記撮像手段が前記設定された露出量で撮像した画像データを相手方に送信する通信手段と、
を備えたことを特徴とする背景画像秘匿装置。 Imaging means for imaging a subject and outputting image data;
Face detection means for detecting a face area from the image data;
Brightness comparison means for comparing the brightness of the detected face area and background area of the image data to determine whether the brightness of the background area is greater than a predetermined amount than the brightness of the face area;
Exposure control means for setting the exposure amount of the imaging means high when the brightness of the background area is a predetermined amount or more greater than the brightness of the face area;
Communication means for transmitting image data captured by the imaging means with the set exposure amount to the other party; and
A background image concealing device comprising:
撮像手段が撮像した画像データから顔領域を検出する顔検出工程と、
前記画像データの前記検出された顔領域と背景領域との明度を比較して、前記背景領域の明度が前記顔領域の明度よりも所定量以上大きいか否かを判断する比較工程と、
前記背景領域の明度が前記顔領域の明度よりも所定量以上大きい場合に、前記撮像手段の露出量を高く設定する露出量設定工程と、
前記撮像手段が前記設定された露出量で撮像した画像データを相手方に送信する送信工程と、
をコンピュータに実行させることを特徴とするコンピュータが実行可能なプログラム。 A program installed in an information processing apparatus,
A face detection step of detecting a face region from the image data captured by the imaging means;
A comparison step of comparing the brightness of the detected face area and background area of the image data to determine whether the brightness of the background area is greater than a predetermined amount than the brightness of the face area;
An exposure amount setting step of setting the exposure amount of the imaging means high when the brightness of the background region is larger than the brightness of the face region by a predetermined amount;
A transmission step in which the imaging means transmits image data captured with the set exposure amount to the other party;
A computer-executable program characterized by causing a computer to execute.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011282303A JP5438089B2 (en) | 2011-12-22 | 2011-12-22 | Background image concealment method, background image concealment device, and computer-executable program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011282303A JP5438089B2 (en) | 2011-12-22 | 2011-12-22 | Background image concealment method, background image concealment device, and computer-executable program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2013132028A JP2013132028A (en) | 2013-07-04 |
| JP5438089B2 true JP5438089B2 (en) | 2014-03-12 |
Family
ID=48909241
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011282303A Active JP5438089B2 (en) | 2011-12-22 | 2011-12-22 | Background image concealment method, background image concealment device, and computer-executable program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5438089B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPWO2020116060A1 (en) * | 2018-12-05 | 2021-10-14 | ソニーグループ株式会社 | Information processing equipment, information processing methods and information processing programs |
| US11336840B2 (en) | 2020-09-02 | 2022-05-17 | Cisco Technology, Inc. | Matching foreground and virtual background during a video communication session |
-
2011
- 2011-12-22 JP JP2011282303A patent/JP5438089B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2013132028A (en) | 2013-07-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107302663B (en) | Image brightness adjustment method, terminal and computer-readable storage medium | |
| US20230013753A1 (en) | Image shooting method and electronic device | |
| CN110045908A (en) | Control method and electronic equipment | |
| CN108307109B (en) | High dynamic range image preview method and terminal equipment | |
| CN107621738B (en) | Control method of a mobile terminal and mobile terminal | |
| CN107566730B (en) | A panoramic image shooting method and mobile terminal | |
| CN108494974A (en) | Adjusting method, mobile terminal and the storage medium of display brightness | |
| WO2019129020A1 (en) | Automatic focusing method of camera, storage device and mobile terminal | |
| CN109462745B (en) | A kind of white balance processing method and mobile terminal | |
| CN110213484B (en) | Photographing method, terminal equipment and computer readable storage medium | |
| CN108449541B (en) | Panoramic image shooting method and mobile terminal | |
| KR20130122411A (en) | Image capturing device and operating method of image capturing device | |
| WO2019129092A1 (en) | Frame rate-lowered photographing method, mobile terminal and storage medium | |
| CN108803197A (en) | A kind of optical texture, imaging device, electronic equipment and quantity-of-light adjusting method | |
| CN113890936A (en) | Volume adjustment method, device and storage medium | |
| CN107220951A (en) | Face image noise reduction method, device, storage medium and computer equipment | |
| WO2023035919A1 (en) | Method and apparatus for controlling exposure, and electronic device | |
| CN112532958B (en) | Image processing method, device, electronic equipment and readable storage medium | |
| CN111050211A (en) | Video processing method, device and storage medium | |
| JP5438089B2 (en) | Background image concealment method, background image concealment device, and computer-executable program | |
| CN115798418A (en) | Image display method, device, terminal and storage medium | |
| JP2012119774A (en) | Information processor, communication method of the same, and computer-executable program | |
| CN108984677B (en) | An image stitching method and terminal | |
| CN107817963B (en) | Image display method, mobile terminal and computer-readable storage medium | |
| CN115809105A (en) | Display picture adjusting method, display picture adjusting device and storage medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130709 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131007 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131210 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131212 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5438089 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
| R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
| R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
| R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |