Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7743782B2 - 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法 - Google Patents
[go: Go Back, main page]

JP7743782B2 - 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法 - Google Patents

画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法

Info

Publication number
JP7743782B2
JP7743782B2 JP2021207493A JP2021207493A JP7743782B2 JP 7743782 B2 JP7743782 B2 JP 7743782B2 JP 2021207493 A JP2021207493 A JP 2021207493A JP 2021207493 A JP2021207493 A JP 2021207493A JP 7743782 B2 JP7743782 B2 JP 7743782B2
Authority
JP
Japan
Prior art keywords
light source
image processing
visible light
invisible light
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021207493A
Other languages
English (en)
Other versions
JP2023092335A (ja
Inventor
正哲 菊地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2021207493A priority Critical patent/JP7743782B2/ja
Priority to CN202211636120.1A priority patent/CN116309102B/zh
Priority to US18/081,871 priority patent/US12513410B2/en
Publication of JP2023092335A publication Critical patent/JP2023092335A/ja
Application granted granted Critical
Publication of JP7743782B2 publication Critical patent/JP7743782B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Optical Communication System (AREA)

Description

本発明は、画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法に関する。
光送信装置としての光源を所定の点灯パターンで変化させ、光受信装置としての撮像装置で点灯パターンを撮像し、解析することにより、情報を伝送する技術が知られている。この種の技術が記載されるものとして特許文献1がある。特許文献1は、光源として可視光LED(Light Emission Device)や赤外光LEDを用いた光伝送装置に関するものである。
特表2020-523752公報
ところで、移動体に点滅する可視光源を搭載し、当該可視光源の動きを追従することで移動体の軌跡を解析する場合、可視光源の点滅が人の目に影響し、不快感を与えるおそれがある。可視光源ではなく目に見えない赤外光源を使用することも考えられるが、赤外光源が点滅すると、赤外光源が消灯している状態では赤外光源の位置を特定できないため、画像処理による光源の追従を精度良く行うことができない。従来技術には追従性の向上という観点で改善の余地があった。
本発明は、このような状況に鑑みてなされたものであり、追従性に優れ、可視光源の点滅の不愉快さの無い光通信を実現することを目的とする。
上記目的を達成するため、本発明の一態様の画像処理装置は、経時的に連続する画像を取得し、連続する画像の中の可視光源の位置を移動体の位置として取得し、移動体に設けられた不可視光源の不可視光を取得し、不可視光に基づく情報を取得する、処理部を備えることを特徴とする。
本発明の光通信装置、光通信システム、プログラム及び画像処理方法によれば、光の点滅の不愉快さがなく光源への追従性の優れた光通信を実現できる。
本発明の一実施形態に係る光通信システムの構成を示す模式図である。 図1のLED送信装置のハードウェアの構成を示すブロック図である。 図1の撮像装置及び画像処理装置のハードウェアの構成を示すブロック図である。 図1の画像処理装置のCPUが制御処理を実行するための機能的構成を示す機能ブロック図である。 図1の移動体の移動を撮像装置が撮影する様子を示す模式図である。 図5の移動体の有するLEDの輝点の移動を映す画像の例を示す図である。 図6の輝点の内、特に緑輝点の画像中での色の様子を示す図である。 図6の輝点の内、特に赤外光輝点の画像中での色の様子を示す図である。 図6の輝点の画像中での色の様子を示す図である。 本実施形態の画像処理装置が実行する画像処理の概要を説明するフローチャートである。 本実施形態の画像処理装置が実行する画像処理のデコードを中心とする詳細を説明するフローチャートである。
以下、本発明の実施形態に係る光通信システム1について、図面を用いて説明する。
図1は、本発明の一実施形態に係る光通信システム1の構成を示す模式図である。図1に示すように、光通信システム1は、LED送信装置2と、撮像装置4と、画像処理装置5と、業務管理装置6と、を含む。なお、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
LED送信装置2は光源を利用する光送信装置の一例である。LEDは光源の一例であり、光を発する光源であればその種類は問わない。例えば、電球或いはレーザ等が用いられてもよい。光源としては、目に見える光である可視光と目に見えない光である不可視光とが用いられる。不可視光とは、例えば、赤外光或いは紫外光である。
LED送信装置2は、移動体3に搭載される光送信装置である。移動体3は、例えば、フォークリフトである。図1には3台の移動体3a~3cが示されている。
本実施形態のLED送信装置2は、追従用の可視光の常時点灯と、識別番号等の情報伝達用の赤外光の点滅又は明滅と、を制御可能に構成される。
LED送信装置2は、可視光を常時点灯させ、並行して、光通信により送信する情報を赤外光の変化に変換して発光する。可視光源の位置が移動体3の位置として取得され、不可視光である赤外光に基づく情報が取得される。光通信により送信する情報は、例えば移動体3の識別情報である。図1中のLED送信装置2a~2cは、移動体3a~3cのそれぞれに配置され、それぞれ異なる識別情報を光通信により発信する。
撮像装置4は、移動体3の移動を撮像可能な位置に配置される。例えば、撮像装置4は、はデジタルカメラである。撮像装置4は、経時的に連続する画像44(動画)を撮像する。図1に示す例においては、撮像装置4はFHD(Full High Definition)の画素数(X方向1920ピクセル(pix)、Y方向1080ピクセル(pix))を有する。三つの移動体3(フォークリフト)の識別番号(ID)と撮像装置4の撮影する画像上の位置がピクセルの位置により表されている。例えば、図中左上の移動体3aについては、識別番号(ID)が101、X方向の位置が1920ピクセルの内の280番目、Y方向の位置が1080ピクセルの内の590番目であると特定されている。
画像処理装置5は、常時点灯する可視光LED29の画像上の位置を追従し、可視光LED29と同位置で点滅又は明滅する赤外光LED30の点滅又は明滅パターンを解析する情報処理装置である。光受信装置として撮像装置4を利用しているのは、図1の様に、LED送信装置2からの情報を同時に複数個所から取得することができるとともに、LED送信装置2の画像上の位置を実際の位置座標に置き換えて移動体3の位置を分析できるからである。
可視光LED29は、可視光を発光する可視光源の一例である。可視光を発する光源であればその種類は問わない。例えば、電球或いはレーザ等が用いられてもよい。赤外光LED30は、赤外光を発光する赤外光源の一例である。赤外光を発する光源であればその種類は問わない。例えば、赤外フィルタを付した電球あるいは赤外レーザ等が用いられてもよい。
業務管理装置6は、移動体3の移動の解析結果に基づいて作業状況や移動体3が搬送する荷物の運搬を解析する上位のコンピュータである。図1において業務管理装置6は、画像処理装置5と別体で構成されているが、業務管理装置6と画像処理装置5が一台のコンピュータによって構成されていてもよいし、3台以上のコンピュータによって構成されていてもよい。
次に、図2を参照してLED送信装置2のハードウェア構成の一例について説明する。図2は、図1のLED送信装置2のハードウェアの構成を示すブロック図である。図2に示すように、LED送信装置2は、CPU21と、ROM22と、RAM23と、加速度センサ24と、スイッチ25と、乾電池26と、電源制御器27と、LEDドライバ28と、可視光LED29と、赤外光LED30と、を備える。
CPU21は、ROM22に記録されているプログラム、又は、RAM13にロードされたプログラムに従って各種の処理を実行する。CPU21は、演算処理を実行するプロセッサによって実現される。プロセッサには、例えば、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものが含まれる。
RAM23には、CPU21が各種の処理を実行する上において必要なデータ等も適宜記憶される。
加速度センサ24は、移動体3の移動加速度を検知する。スイッチ25は、CPU21のスイッチング及びリセットを行う。乾電池26は電源として電力を供給する。電源制御器27は、LEDドライバ等への電力供給を制御する。
LEDドライバ28は、CPU21による指令に基づいて可視光LED29及び赤外光LED30に電力を供給し、可視光LED29及び赤外光LED30の点灯及び点滅又は明滅を制御する。
可視光LED29と赤外光LED30とは近接して配置される。可視光LED29と赤外光LED30は、例えば、カバーガラス局面或いはカバーガラスの凹凸によって屈折散乱して周囲に向かって光が出射される。撮像装置4に写る場合には、単一の場所を表すものとして可視光LED29と赤外光LED30とは認識される。
可視光LED29が常時点灯され、赤外光LED30の点滅又は明滅を利用して情報の伝達が行われる。例えば、赤外光LED30は、CPU21による指令に基づいてROM22に記憶されている移動体3の識別番号に対応づけられた点灯パターンである点滅又は明滅パターンを出射する。なお、赤外光LED30の点滅又は明滅パターンには冗長性を持たせることでノイズとの区別が容易となり、より確実な情報(識別番号等)の抽出が可能となる。
図3を参照して画像処理装置5のハードウェア構成の一例について説明する。図3に示すように、画像処理装置5は、CPU51と、ROM52と、RAM53と、入力部54と、出力部55と、記憶部56と、通信部57と、を備える。
CPU51は、ROM52に記録されているプログラム、又は、記憶部56からRAM53にロードされたプログラムに従って各種の処理を実行する。
RAM53には、CPU51が各種の処理を実行する上において必要なデータ等も適宜記憶される。
CPU51、ROM52及びRAM53は、バスを介して相互に接続されている。このバスには、入出力インターフェースも接続されている。入出力インターフェースには、撮像装置4、入力部54、出力部55、記憶部56、通信部57が接続されている。
入力部54は、各種釦やマイク等で構成され、ユーザの指示操作に応じて各種情報を入力する。出力部55は、ディスプレイやスピーカ等で構成され、画像44や音声を出力する。記憶部56は、ハードディスク或いはフラッシュメモリ等で構成され、各種の画像44のデータを記憶する。通信部57は、インターネットを含むネットワークを介して業務管理装置6等の他の装置との間で行う通信を制御するネットワークインターフェースである。
撮像装置4は、カラーフィルタ41と、光学レンズ部42と、イメージセンサ43と、を備える。イメージセンサ43は単一であり、可視光と不可視光との双方を受光可能であり、撮像した画像44を出力する。
カラーフィルタ41は赤、緑、青の光を透過させるフィルタがイメージセンサ43の各画素に1つずつ形成されている。赤、緑、青の3つの組み合わせが1つの単位をなす。
光学レンズ部42は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。フォーカスレンズは、イメージセンサ43の受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。光学レンズ部42には、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサ43は、光電変換素子や、AFE(Analog Front End)等から構成される。光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部42から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、デジタル信号が生成され、撮像装置4の出力信号として出力される。このような撮像装置4の出力信号は、以下、「撮像画像」と呼ばれる。撮像画像のデータは、CPU51等に適宜供給される。
次に、図4を参照して画像処理装置5のCPU51によって実現される処理部60について説明する。処理部60は、プロセッサということもできる。処理部60は、画像取得部61と、追従処理部62と、解析処理部63と、を有する。
画像取得部61は、撮像装置4が撮像した画像44を取得する。撮像装置4は例えばFHD(Full High Definition, 1920 x 1080画素)の撮像素子を有し、1秒間に例えば30枚の画像44を撮影する。画像取得部61は、このデジタル情報を撮像装置4から取得する。
追従処理部62は、画像取得部61が取得した画像44において、常時点灯している輝点45、特に緑に常時点灯している緑輝点45Gを特定する。例えば、追従処理部62は、画像44における緑副画素における信号のみを抽出し、常時緑信号が所定の閾値を超えている画素を見出す。そして、追従処理部62は、画像44中で位置を連続的に変える緑輝点45Gを追従し、その画像44中の位置を特定する。位置としては、例えば、追従処理部62は、画像44のどの画素の位置なのかを特定する。図1の例においては、例えば、左上のID101のフォークリフトの有する輝点45の位置は、X方向で280番目、Y方向で590番目の画素の位置であることが特定されている。
解析処理部63は、追従処理部62が抽出した緑輝点45Gと同位置で点滅又は明滅する赤外光LED30の点滅又は明滅パターンを解析し、例えば、LED送信装置2の識別番号(ID、Idendification)を特定する。
ここで、図5から図9を用いて、移動体3の移動と撮像装置4及び画像処理装置5によって受信される光信号の例を説明する。図5に示すように、移動体3が左から右に移動するのを撮像装置4が撮影している。移動体3の有するLED送信装置2が可視光LED29を常時点灯し、赤外光LED30を点滅又は明滅させている。
常時点灯する可視光LED29に緑色のLEDを使う事により、赤外光の変化が捉えやすくする。通常のカラーフィルタ41を用いているイメージセンサ43では赤外カットフィルタが用いられている。本発明の一実施形態に係るイメージセンサ43は、赤外カットフィルタを利用していない、もしくは、赤外カット能が弱いフィルタを用いる。この場合、赤緑青の各カラーフィルタ41を通った光を受光する何れのイメージセンサ43も赤外光に反応する。通常、ホワイトバランスを取るため、受光強度の高い緑に比して青と赤との出力が増幅されている。
赤外光に対する受光強度は赤緑青に違いがないため、出力の増幅されている青赤の信号が相対的に強くなり、赤外光は紫色のごとき出力信号をもたらす。このため、例えば、赤外光が緑と同時に受光される場合、全体として白色に近い色となる。緑が点灯しており赤外光がない場合には緑になる。そして、緑が常時点灯されていて、赤外光が点滅又は明滅している場合、白と緑との点滅又は明滅となる。このため、緑と赤外光との組み合わせは、単純な色の遷移(白と緑)のデコード処理を可能とし、優れたロバスト性をもたらす。この状態では、送信機は赤や青の発光をしないため、人の目には「緑」の常時点灯しか見えずチラチラしないため、不快さが低減される。
常時点灯している可視光LED29及び点滅又は明滅する赤外光LED30は、図6に示すように輝点45の軌跡として、画像44中に写しだされる。可視光LED29は例えば緑色であり、緑輝点45Gとして認識され、図7に示すように移動の間常時点灯されている。緑輝点45Gを表すため、図7では画像上の緑輝点45Gには右斜めの斜線が引かれている。赤外光LED30は、図8に示すように点滅又は明滅させられており、上述のように、撮像装置4にとっては紫色として認識される。赤外光輝点45Pを表すため、図8では画像上の赤外光輝点45Pには左斜めの斜線が引かれている。これらが合わさり、図9に示すように、緑色の可視光LED29と赤外光LED30とが点灯している時は白輝点45W、赤外光LED30が消灯している時は緑色の可視光LED29は常に点灯されているため緑輝点45Gとして認識される。白輝点45Wを表すため、図9では右斜めと左斜めとの双方の斜線が引かれている。図9に示すように、輝点45は、緑輝点45Gと白輝点45Wとの間で点滅又は明滅する輝点45として認識される。
次に、図10及び図11を参照して撮像装置4の画像44の取得から移動体3の識別、画像上の位置の把握までの処理を説明する。図10にて概要を説明し、図11にて画像44のデコード処理に関係する詳細を説明する。
図10に示すように、光通信システム1がスタートすると、画像処理装置5の有する画像取得部61は、撮像装置4の撮影した画像44を取得する(ステップS101)。
次に、追従処理部62は、画像44中の常時点灯している可視光の輝点45、より具体的には緑輝点45G、を抽出し、画像44中の位置を特定する画像解析処理を行う(ステップS102)。並行して、解析処理部63は、緑輝点45Gと同位置での点滅又は明滅している赤外光輝点45Pの点滅又は明滅パターンから情報、より具体的には輝点45と紐づけられている移動体3の識別番号、を明確化する画像解析処理を行う(ステップS102)。但し、一旦、輝点45の識別番号が明確化されていれば、常時点灯している緑輝点45Gが追従されている限り、赤外光輝点45Pの点滅又は明滅パターンから識別番号を新たに取得する必要はない。
次に、解析処理部63は、画像処理装置5の有する出力部55を通して、解析結果を業務管理装置6に出力する解析結果出力処理を行い(ステップS103)、処理を終了する(ステップEND)。
図11を参照してより詳細に説明する。画像処理装置5の画像取得部61は、連続して撮影される映像の中から1フレーム分の画像44を取得する画像取得処理を行う(ステップS201)。次に追従処理部62は、緑成分のある輝点45を抽出する輝点45抽出処理を行い(ステップS202)、輝点45の移動履歴から移動体3の移動方向を推定する方向推定処理を行う(ステップS203)。
ステップS203の後、追従処理部62は移動方向に重みづけを行い、規定内の移動範囲の近隣の緑成分を含む輝点45を候補点として抽出し、緑輝点45Gの移動を追従する、候補点抽出処理を行う(ステップS204)。可視光LED29の明かりは撮像素子では比較的明るい輝点45となるので、暗めに撮影するだけでかなり輝点45を絞り込むことが可能である。
ステップS204の後、追従処理部62は、形状フィルタリングすることで光通信を行っていると思われる候補点を絞り込み、候補点抽出処理を完成させる(ステップS204)。
更に、解析処理部63は、輝点位置における赤外光の変化履歴を利用してデコード処理を行う(ステップS205)。赤外光はイメージセンサ43では上述したように紫として認識される。このため、赤外光の変化履歴は、画像44中においては、緑と、緑と紫との合わさった白と、の間での変化履歴となる。白と認識される時に赤外光が発光している。
解析処理部63は、デコード結果から有効発光パターンの検出を試みるパターン検出処理を行う(ステップS206)。有効発光パターンが検出される場合(ステップS206:Yes)、解析処理部63は、有効発光パターンから移動体3のIDと画面内位置を記憶部56に記憶する記録処理を行う(ステップS207)。
検出処理においてデコード結果から有効発光パターンを検出できなかった場合(ステップS206:No)、及び、記憶処理(ステップS207)が行われた後、全ての輝点45のパターンチェックが完了したかを検証する検証処理が行われる(ステップS208)。完了していない場合(ステップS208:No)、緑成分のある輝点45を抽出する輝点抽出処理(ステップS202)に処理は戻る。全ての輝点45のパターンチェックが完了している場合、処理フローは終了する(ステップEND)。
以上説明したように、画像処理装置5は、経時的に連続する画像44を取得し、連続する前記画像44の中の可視光LED29の位置を移動体3の位置として取得し、前記移動体3に設けられた赤外光LED30の赤外光を取得し、前記赤外光に基づく情報を取得する、処理部60を備える。
これにより、追従性に優れ、可視光LED29の点滅の不愉快さの無い光通信を実現する画像処理装置5を得ることができる。一般的なカメラを用いた光通信では白色LEDの点滅を利用して情報の伝達を行っているが、LEDの消灯のタイミングが増えてしまうと、そのLEDを追従することが困難である。可視光LED29を常時点灯させることで、LED送信装置2の移動への追従性を確保したまま、赤外光LED30を自由に点滅又は明滅させるフォーマットにすることで、コード化率を高めたまま追従性を確保することができる。そして点滅又は明滅する赤外光LED30の赤外光は人間には見えないので、不愉快の原因とはならない。
画像処理装置5は、可視光LED29の可視光と赤外光LED30の赤外光とを取得する単一のイメージセンサ43を備える。
これにより、単一のイメージセンサ43上に可視光LED29と赤外光LED30との像が投影される。可視光LED29と赤外光LED30との像を同一の画像44中に配置することができる。可視光LED29と赤外光LED30とを紐づけることができる。
画像処理装置5の有する処理部60は、常時点灯または明滅している緑色の可視光LED29Gの位置を移動体3の位置として追尾し、赤外光LED30の赤外領域の赤外光の点灯パターンを取得する。
これにより撮像装置4の感度の高い緑が使用されるため優れた視認性が実現される。また、赤外光と合わせて撮像装置4により受光された時に、ホワイトバランス調整回路により緑信号が抑えられ、全体として白と判定される。白と緑との2値の点滅又は明滅が実現され、解析が容易で信頼性の高いものとなる。
画像処理装置5において、可視光LED29と赤外光LED30とは、互いに近傍に設けられる。
可視光LED29からの可視光と赤外光LED30からの赤外光とは、イメージセンサ43の同一の画素にて受光され得る。赤外光LED30からの赤外光は赤緑青の各副画素にて受光され、信号を出す。赤外光LED30からの赤外光は可視光の如く色を与える。赤外光に基づく信号と可視光に基づく信号とが合わさり、赤緑青からなる画素の色信号が創出される。
画像処理装置5の処理部60は、対象位置において緑色に代表される単色を検出した場合は、可視光LED29及び赤外光源のうち、可視光LED29のみが点灯していると判定し、対象位置において白色を検出した場合は、可視光LED29及び赤外光源の両方が点灯していると判定する。
これにより、可視光LED29は常時点灯として判定され、位置の追従が容易となる。また、赤外光LED30の点滅又は明滅が抽出され、点滅又は明滅パターンの解析により精度の高い情報を得ることができる。
LED送信装置2は、移動体3に搭載される光通信用のLED送信装置2であって、移動体3の位置を取得するために点灯制御される可視光LED29と、移動体3に配置され、移動体3に対応する情報を発信するように点灯するように制御される赤外光LED30と、を備える。
これにより撮像装置4による可視光LED29と赤外光LED30とからの光の受信により、LED送信装置2の搭載されている移動体3の識別番号、及び、位置が特定される。そして、点滅の不愉快さがなく移動する光源への追従性の優れた光通信を実現することができる。一般的なカメラを用いた光通信では白色光源の点滅を利用して情報の伝達を行っているが、光源の消灯のタイミングが増えてしまうと、その光源を追従することが困難である。可視光LED29を常時点灯させることで、移動体3の移動への追従性を確保したまま、赤外光源を自由に点滅又は明滅させるフォーマットにすることで、コード化率を高めたまま追従性を確保することができる。そして点滅又は明滅する赤外光源の赤外光は人間には見えないので、不愉快の原因とはならない。
光通信システム1は、移動体3の位置を取得するために点灯制御される可視光LED29と、移動体3に配置され、移動体3に対応する情報を発信するように点灯するように制御される赤外光LED30と、を有するLED送信装置2と、経時的に連続する画像44を取得し、連続する画像44の中の可視光LED29の位置を移動体3の位置として取得し、赤外光LED30の赤外光を取得し、赤外光に基づく情報を取得する処理部60を有する画像処理装置5と、を備える。
これにより、追従性に優れ、可視光LED29の点滅の不愉快さの無い光通信を実現する光通信システム1を実現することができる。
プログラムは、経時的に連続する画像44を取得する画像取得機能と、連続する画像44の中の可視光LED29の位置を移動体3の位置として取得する取得処理機能と、移動体3に設けられた赤外光LED30の赤外光を取得し、赤外光に基づく情報を取得する解析処理機能と、を画像処理装置5に実行させる。
これにより、追従性に優れ、可視光LED29の点滅の不愉快さの無い光通信を実現するプログラムを実現することができる。
画像処理方法は、画像処理装置5が実行する画像処理方法であって、経時的に連続する画像44を取得する画像取得ステップと、連続する画像44の中の可視光LED29の位置を移動体3の位置として取得する取得処理ステップと、移動体3に設けられた赤外光LED30の赤外光を取得し、赤外光に基づく情報を取得する解析処理ステップと、を含む。
これにより、追従性に優れ、可視光LED29の点滅の不愉快さの無い光通信を実現する画像処理方法を実現することができる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、可視光LED29について、緑以外の色を発光する可視光LED29が採用されてもよい。例えば、注意喚起の意味を含めて可視光LED29として赤色の可視光LED29が使用されてもよい。この場合、撮像装置4においては、上記したように、赤外光LED30と赤色の可視光LED29との双方が点灯している時に白と認識できるように、撮像装置4の増幅回路或いは画像処理装置5の演算回路等で信号を調整してもよい。この場合には、点滅又は明滅パターンは画像処理装置5による解析処理の段階においては白と赤との点滅又は明滅になる。
不可視光として、赤外光ではなく紫外光が使用されてもよい。紫外光も人には見えないのでその点滅は不快感を生まず、また、点滅パターンから情報を得ることが可能である。この場合、撮像装置4においては、緑色LED29Gと紫外光との双方が点灯している時に白と認識できるように、撮像装置4の増幅回路或いは画像処理装置5の演算回路等で信号を調整してもよい。この場合には、点滅又は明滅パターンは画像処理装置5による解析処理の段階においては白と緑との点滅又は明滅になる。
情報の伝達において、赤外光の点滅ではなく、赤外光の波長の変化が用いられてもよい。撮像装置4の感度は赤外光の波長に依存するので、赤外光の波長の変化を受光信号の強さの変化、或いは、赤緑青の各副画素での受光信号の強さの違い即ち色の違いとして、赤外光の波長の変化は認識される。
可視光LED29について、常時点灯している実施形態をここまで説明してきた。可視光LED29は、不快感を伴わず追尾可能な明滅、即ち通常は点灯しており適宜消灯するような状態を有してもよい。この場合にも、不快感を伴わず安定した追尾が可能という、常時点灯状態にある可視光LED29と同様の効果が得られる。
また、上述の実施形態では、本発明が適用される撮像装置4は、デジタルカメラを例として説明したが、特にこれに限定されない。また、撮像装置4と画像処理装置5とは独立した装置として説明されているが、画像処理装置5が撮像装置4に内蔵される構成であってもよい。
また、各図で1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。換言すると、図4の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置5に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図4の例に限定されない。
また、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布されるリムーバブルメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等のものも含む。リムーバブルメディアは、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk),Blu-ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図2のROM22や、図3の記憶部56に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
〔付記1〕
経時的に連続する画像を取得し、
連続する前記画像の中の可視光源の位置を移動体の位置として取得し、
前記移動体に設けられた不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する、
処理部を備えることを特徴とする画像処理装置。
〔付記2〕
前記可視光源の前記可視光と前記不可視光源の前記不可視光とを取得する単一のイメージセンサを備えることを特徴とする
付記1に記載の画像処理装置。
〔付記3〕
前記処理部は、
常時点灯または明滅している緑色の前記可視光源の位置を前記移動体の位置として追尾し、
前記不可視光源の赤外領域の不可視光の点灯パターンを取得することを特徴とする
付記1又は2に記載の画像処理装置。
〔付記4〕
前記可視光源と前記不可視光源とは、互いに近傍に設けられることを特徴とする
付記1乃至3に記載の画像処理装置。
〔付記5〕
前記処理部は、
前記対象位置において緑色を検出した場合は、前記可視光源及び前記赤外光源のうち、前記可視光源のみが点灯していると判定し、
前記対象位置において白色を検出した場合は、前記可視光源及び前記赤外光源の両方が点灯していると判定する
付記4に記載の画像処理装置。
〔付記6〕
移動体に搭載される光通信用の光送信装置であって、
前記移動体の位置を取得するために点灯制御される可視光源と、
前記移動体に配置され、前記移動体に対応する情報を発信するように点灯するように制御される不可視光源と、
を備える光送信装置。
〔付記7〕
移動体の位置を取得するために点灯制御される可視光源と、前記移動体に配置され、前記移動体に対応する情報を発信するように点灯するように制御される不可視光源と、を有する光送信装置と、
経時的に連続する画像を取得し、連続する前記画像の中の前記可視光源の位置を前記移動体の位置として取得し、前記不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する処理部を有する画像処理装置と、
を備える光通信システム。
〔付記8〕
経時的に連続する画像を取得する画像取得機能と、
連続する前記画像の中の可視光源の位置を移動体の位置として取得する取得処理機能と、
前記移動体に設けられた不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する解析処理機能と、
を画像処理装置に実行させるプログラム。
〔付記9〕
画像処理装置が実行する画像処理方法であって、
経時的に連続する画像を取得する画像取得ステップと、
連続する前記画像の中の可視光源の位置を移動体の位置として取得する取得処理ステップと、
前記移動体に設けられた不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する解析処理ステップと、
を含む画像処理方法。
1 光通信システム
2 LED送信装置
3 移動体
4 撮像装置
5 画像処理装置
6 業務管理装置

Claims (8)

  1. 経時的に連続する画像を取得し、
    連続する前記画像の中の可視光源の位置を移動体の位置として取得し、
    前記移動体に設けられた不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する、
    処理部を備えることを特徴とする画像処理装置。
  2. 前記可視光源の可視光と前記不可視光源の前記不可視光とを取得する単一のイメージセンサを備えることを特徴とする
    請求項1に記載の画像処理装置。
  3. 前記処理部は、
    常時点灯または明滅している緑色の前記可視光源の位置を前記移動体の位置として追尾し、
    前記不可視光源の赤外領域の不可視光の点灯パターンを取得することを特徴とする
    請求項1又は2に記載の画像処理装置。
  4. 前記可視光源と前記不可視光源とは、互いに近傍に設けられることを特徴とする
    請求項1乃至3に記載の画像処理装置。
  5. 前記処理部は、
    対象位置において緑色を検出した場合は、前記可視光源及び赤外光源のうち、前記可視光源のみが点灯していると判定し、
    前記対象位置において白色を検出した場合は、前記可視光源及び前記赤外光源の両方が点灯していると判定する
    請求項4に記載の画像処理装置。
  6. 移動体に配置され、前記移動体の位置を取得するために点灯制御される可視光源と、前記移動体に配置され、前記移動体に対応する情報を発信するように点灯するように制御される不可視光源と、を有する光送信装置と、
    経時的に連続する画像を取得し、連続する前記画像の中の前記可視光源の位置を前記移動体の位置として取得し、前記不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する処理部を有する画像処理装置と、
    を備える光通信システム。
  7. 経時的に連続する画像を取得する画像取得機能と、
    連続する前記画像の中の可視光源の位置を移動体の位置として取得する取得処理機能と、
    前記移動体に設けられた不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する解析処理機能と、
    を画像処理装置に実行させるプログラム。
  8. 画像処理装置が実行する画像処理方法であって、
    経時的に連続する画像を取得する画像取得ステップと、
    連続する前記画像の中の可視光源の位置を移動体の位置として取得する取得処理ステップと、
    前記移動体に設けられた不可視光源の不可視光を取得し、前記不可視光に基づく情報を取得する解析処理ステップと、
    を含む画像処理方法。
JP2021207493A 2021-12-21 2021-12-21 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法 Active JP7743782B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021207493A JP7743782B2 (ja) 2021-12-21 2021-12-21 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法
CN202211636120.1A CN116309102B (zh) 2021-12-21 2022-12-14 图像处理装置、光通信系统、程序产品以及图像处理方法
US18/081,871 US12513410B2 (en) 2021-12-21 2022-12-15 Image processing apparatus, optical transmission apparatus, optical communication system, program and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021207493A JP7743782B2 (ja) 2021-12-21 2021-12-21 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2023092335A JP2023092335A (ja) 2023-07-03
JP7743782B2 true JP7743782B2 (ja) 2025-09-25

Family

ID=86769303

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021207493A Active JP7743782B2 (ja) 2021-12-21 2021-12-21 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法

Country Status (3)

Country Link
US (1) US12513410B2 (ja)
JP (1) JP7743782B2 (ja)
CN (1) CN116309102B (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002073565A (ja) 2000-09-04 2002-03-12 Nec Corp 電子機器の認証システムとその認証方法
JP2005101853A (ja) 2003-09-24 2005-04-14 Fuji Xerox Co Ltd 光送信装置および光無線装置
JP2010259015A (ja) 2009-04-28 2010-11-11 Sharp Corp インターフォン装置、インターフォンシステム、および、インターフォン装置の制御方法
JP2011055397A (ja) 2009-09-04 2011-03-17 Keio Gijuku 可視光通信システム
JP2011192236A (ja) 2010-03-17 2011-09-29 Ricoh Co Ltd タグ認識システム、タグ認識装置およびタグ認識方法
US20150280818A1 (en) 2014-03-29 2015-10-01 Mathys C. Walma Techniques for communication with body-carried devices
JP2020174272A (ja) 2019-04-10 2020-10-22 住友電気工業株式会社 ペアリング方法、通信システム、子機、親機およびコンピュータプログラム
JP2021125858A (ja) 2020-02-10 2021-08-30 カシオ計算機株式会社 画像再生装置、画像再生システム、画像再生方法及びプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8886053B2 (en) * 1998-04-15 2014-11-11 Koninklijke Philips N.V. Multi-frequency dual-use system
JP2000349709A (ja) 1999-06-08 2000-12-15 Matsushita Electric Ind Co Ltd 光伝送装置
JP2010161541A (ja) * 2009-01-07 2010-07-22 Revsonic Kk 撮影装置、撮影システム、及び撮影プログラム
JP5382437B2 (ja) * 2009-08-19 2014-01-08 東芝ライテック株式会社 動体検出装置および照明装置
JP5620889B2 (ja) * 2011-08-04 2014-11-05 日立Geニュークリア・エナジー株式会社 情報伝送システム
JP6062214B2 (ja) 2012-11-06 2017-01-18 株式会社小糸製作所 路車間通信システムおよび送受信装置
JP6528409B2 (ja) * 2015-01-13 2019-06-12 日本電気株式会社 対象表示システム、管理装置、対象表示方法及び管理プログラム
US10010788B2 (en) * 2015-12-21 2018-07-03 Sony Interactive Entertainment Inc. Game controller with lights visible inside and outside the game controller
JP6982930B2 (ja) * 2017-01-31 2021-12-17 三井住友建設株式会社 情報処理システム及び情報処理方法
WO2018229022A1 (en) 2017-06-13 2018-12-20 Philips Lighting Holding B.V. Led module for emitting signals
JP2019136269A (ja) * 2018-02-09 2019-08-22 株式会社島津製作所 蛍光撮像装置
EP3888348B1 (en) * 2018-11-28 2025-05-21 Lumileds Holding B.V. Method of obtaining a digital image

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002073565A (ja) 2000-09-04 2002-03-12 Nec Corp 電子機器の認証システムとその認証方法
JP2005101853A (ja) 2003-09-24 2005-04-14 Fuji Xerox Co Ltd 光送信装置および光無線装置
JP2010259015A (ja) 2009-04-28 2010-11-11 Sharp Corp インターフォン装置、インターフォンシステム、および、インターフォン装置の制御方法
JP2011055397A (ja) 2009-09-04 2011-03-17 Keio Gijuku 可視光通信システム
JP2011192236A (ja) 2010-03-17 2011-09-29 Ricoh Co Ltd タグ認識システム、タグ認識装置およびタグ認識方法
US20150280818A1 (en) 2014-03-29 2015-10-01 Mathys C. Walma Techniques for communication with body-carried devices
JP2020174272A (ja) 2019-04-10 2020-10-22 住友電気工業株式会社 ペアリング方法、通信システム、子機、親機およびコンピュータプログラム
JP2021125858A (ja) 2020-02-10 2021-08-30 カシオ計算機株式会社 画像再生装置、画像再生システム、画像再生方法及びプログラム

Also Published As

Publication number Publication date
US20230199323A1 (en) 2023-06-22
CN116309102A (zh) 2023-06-23
JP2023092335A (ja) 2023-07-03
US12513410B2 (en) 2025-12-30
CN116309102B (zh) 2026-04-21

Similar Documents

Publication Publication Date Title
US9953428B2 (en) Digital camera unit with simultaneous structured and unstructured illumination
JP4078334B2 (ja) 画像処理装置および画像処理方法
JP2010211324A (ja) 位置検出装置、制御方法、制御プログラムおよび記録媒体
US20200084356A1 (en) Image monitoring device, image monitoring method, and recording medium
WO2019163066A1 (ja) なりすまし検知装置、なりすまし検知方法、及びコンピュータ読み取り可能な記録媒体
JP2015070426A (ja) 画像処理装置および方法、並びにプログラム
CN112764659A (zh) 信息处理方法及装置、电子设备及存储介质
CN112041783B (zh) 曝光时间控制的方法、系统和计算机存储介质
US9761199B2 (en) Optical navigation system and detection method thereof adapted for ambient light and liftoff detection
JP7743782B2 (ja) 画像処理装置、光通信装置、光通信システム、プログラム及び画像処理方法
JP2007025758A (ja) 人の顔画像抽出方法及び同装置
US10803625B2 (en) Detection system and picturing filtering method thereof
JP2005049979A (ja) 顔検知装置及びインターホン装置
JP4741019B2 (ja) インターホン装置
TW201512701A (zh) 取像裝置及其控制方法
JP2009294781A (ja) 物体存在判定装置
KR101582086B1 (ko) 촛불을 자동 인식하는 디지털 영상신호 처리장치
JP2010023626A (ja) ドライバー監視装置
JP2007312206A (ja) 撮像装置及び、画像再生装置
US11388346B2 (en) Image capturing control apparatus and image capturing control method
JP3385475B2 (ja) 画像監視装置
JP4567538B2 (ja) 露出量算出システムならびにその制御方法およびその制御プログラム
CN111656766B (zh) 用于基于图像的服务的设备
JP2007249743A (ja) 移動物体の識別方法、移動物体の識別装置、及び移動物体の識別処理を実行させるプログラム
JP7537470B2 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250812

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250825

R150 Certificate of patent or registration of utility model

Ref document number: 7743782

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150