Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7775316B2 - 学習用データ収集装置、学習用データ収集方法、及びプログラム - Google Patents
[go: Go Back, main page]

JP7775316B2 - 学習用データ収集装置、学習用データ収集方法、及びプログラム - Google Patents

学習用データ収集装置、学習用データ収集方法、及びプログラム

Info

Publication number
JP7775316B2
JP7775316B2 JP2023535120A JP2023535120A JP7775316B2 JP 7775316 B2 JP7775316 B2 JP 7775316B2 JP 2023535120 A JP2023535120 A JP 2023535120A JP 2023535120 A JP2023535120 A JP 2023535120A JP 7775316 B2 JP7775316 B2 JP 7775316B2
Authority
JP
Japan
Prior art keywords
image
target
data collection
type
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023535120A
Other languages
English (en)
Other versions
JPWO2023286360A1 (ja
Inventor
一喜 辻本
博紀 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Furuno Electric Co Ltd
Original Assignee
Furuno Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Furuno Electric Co Ltd filed Critical Furuno Electric Co Ltd
Publication of JPWO2023286360A1 publication Critical patent/JPWO2023286360A1/ja
Application granted granted Critical
Publication of JP7775316B2 publication Critical patent/JP7775316B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、学習用データ収集装置、学習用データ収集方法、及びプログラムに関する。
港湾又は海上の物標を識別する画像認識技術が求められている。
特開2021-077202号公報
そのような画像認識技術を実現するには多数の学習用データが必要になるが、各画像に手作業でアノテーションを行うことは、多大な労力を要する。
本発明は、上記課題に鑑みてなされたものであり、その主な目的は、学習用データの収集が容易な学習用データ収集装置、学習用データ収集方法、及びプログラムを提供することにある。
上記課題を解決するため、本発明の一の態様の学習用データ収集装置は、船舶に設置されたカメラにより撮像された、港湾又は海上の物標を含む第1画像と、前記物標を含み、前記第1画像よりも分解能が高い第2画像とを取得する画像取得部と、前記第2画像から前記物標の種別を推定する画像認識部と、前記第1画像に、前記第2画像から推定された前記物標の種別を関連付ける関連付け部と、を備える。これによると、学習用データの収集が容易となる。
上記態様において、前記第2画像は、前記第1画像が撮像された地点よりも前記物標に近づいた地点で前記カメラにより撮像された画像であってもよい。これによると、第1画像に、物標により近づいた地点で撮像した第2画像から推定された物標の種別を関連付けることが可能となる。
上記態様において、前記第2画像は、前記第1画像の前記物標を含む範囲を前記カメラの光学ズーム機能を用いて拡大して撮像した画像であってもよい。これによると、これによると、第1画像に、光学ズーム機能を用いて拡大して撮像した第2画像から推定された物標の種別を関連付けることが可能となる。
上記態様において、前記第2画像は、前記第1画像の前記物標を含む範囲を前記カメラよりも分解能が高い別のカメラにより撮像した画像であってもよい。これによると、第1画像に、より分解能が高い別のカメラにより撮像した第2画像から推定された物標の種別を関連付けることが可能となる。
上記態様において、前記画像認識部は、前記第2画像から前記物標の種別を推定するとともに推定の確度を算出し、前記関連付け部は、前記確度が閾値以上である前記物標の種別を、前記第1画像に関連付けてもよい。これによると、第2画像から推定された、推定の確度が閾値以上の物標の種別を、第1画像に関連付けることが可能となる。
上記態様において、前記画像認識部は、前記第1画像から前記物標の種別を推定するとともに推定の確度を算出し、前記関連付け部は、前記確度が閾値未満である前記第1画像に、前記第2画像から推定された前記物標の種別を関連付けてもよい。これによると、推定の確度が閾値未満の第1画像に、第2画像から推定された物標の種別を関連付けることが可能となる。
上記態様において、前記画像認識部は、前記カメラにより撮像された画像から前記物標の種別を推定するとともに推定の確度を算出し、前記確度が閾値以上の画像を前記第2画像とし、前記確度が閾値未満の画像を前記第1画像としてもよい。これによると、推定の確度が閾値未満の画像を第1画像とし、推定の確度が閾値以上の画像を第2画像とすることが可能となる。
上記態様において、前記船舶の位置及び向きを取得する位置姿勢取得部と、前記第1画像の撮像時点における前記船舶の位置及び向き、前記第1画像で検出された前記物標の画像内位置、前記第2画像の撮像時点における前記船舶の位置及び向き、並びに前記第2画像で検出された前記物標の画像内位置に基づいて、前記第1画像で検出された前記物標と前記第2画像で検出された前記物標とを同定する同定部と、をさらに備えてもよい。これによると、第1画像で検出された物標と第2画像で検出された物標とを同定することが可能となる。
上記態様において、前記関連付け部は、前記第1画像に、前記第1画像の撮像時点における前記船舶又はその周囲の状態を表す付帯データをさらに関連付けてもよい。これによると、学習用データに付帯データをさらに含めることが可能となる。
また、本発明の他の態様の学習用データ収集方法は、船舶に設置されたカメラにより撮像された、港湾又は海上の物標を含む第1画像と、前記物標を含み、前記第1画像よりも分解能が高い第2画像とを取得し、前記第2画像から前記物標の種別を推定し、前記第1画像に、前記第2画像から推定された前記物標の種別を関連付ける。これによると、学習用データの収集が容易となる。
上記態様において、さらに、前記第1画像及び前記第2画像から推定された前記物標の種別を含むデータセットを用いて、前記物標の種別を推定するための学習済みモデルを再学習してもよい。これによると、学習済みモデルの認識精度のさらなる向上を図ることが可能となる。
また、本発明の他の態様のプログラムは、船舶に設置されたカメラにより撮像された、港湾又は海上の物標を含む第1画像と、前記物標を含み、前記第1画像よりも分解能が高い第2画像とを取得すること、前記第2画像から前記物標の種別を推定すること、及び、前記第1画像に、前記第2画像から推定された前記物標の種別を関連付けること、をコンピュータに実行させる。これによると、学習用データの収集が容易となる。
データ収集システムの例を示す図である。 データ収集装置の例を示す図である。 第1画像の例を示す図である。 第2画像の例を示す図である。 画像撮像地点の例を示す図である。 第1画像の認識結果の例を示す図である。 第2画像の認識結果の例を示す図である。 一時記憶データベースの例を示す図である。 学習用データセットの例を示す図である。 データ収集方法の例を示す図である。
以下、本発明の実施形態について、図面を参照しながら説明する。
図1は、データ収集システム100の構成例を示すブロック図である。データ収集システム100は、船舶に搭載され、機械学習のための学習用データを収集するシステムである。以下の説明では、データ収集システム100が搭載された船舶を「自船」という。
データ収集システム100は、データ収集装置1、表示部2、レーダー3、AIS4、カメラ5、GNSS受信機6、ジャイロコンパス7、ECDIS8、及び無線通信部9を備えている。これらの機器は、例えばLAN等のネットワークNに接続されており、相互にネットワーク通信が可能である。
データ収集装置1は、CPU、RAM、ROM、不揮発性メモリ、及び入出力インターフェース等を含むコンピュータである。データ収集装置1のCPUは、ROM又は不揮発性メモリからRAMにロードされたプログラムに従って情報処理を実行する。
プログラムは、光ディスク又はメモリカード等の情報記憶媒体を介して供給されてもよいし、インターネット又はLAN等の通信ネットワークを介して供給されてもよい。
表示部2は、レーダー画像、カメラ画像、又は電子海図などを表示する。また、表示部2は、データ収集装置1により生成された表示用画像も表示する。
表示部2は、例えばタッチセンサ付き表示装置、いわゆるタッチパネルである。タッチセンサは、ユーザの指等による画面内の指示位置を検出する。これに限らず、トラックボール等により指示位置が入力されてもよい。
レーダー3は、自船の周囲に電波を発するとともにその反射波を受信し、受信信号に基づいてエコーデータを生成する。また、レーダー3は、エコーデータから物標を識別し、物標の位置及び速度を表す物標追跡データ(TTデータ)を生成する。
AIS(Automatic Identification System)4は、自船の周囲に存在する他船又は陸上の管制からAISデータを受信する。AISに限らず、VDES(VHF Data Exchange System)が用いられてもよい。AISデータは、他船の識別符号、船名、位置、針路、船速、船種、船体長、及び行き先などを含んでいる。
カメラ5は、自船から外部を撮像して画像データを生成するデジタルカメラである。カメラ5は、例えば自船のブリッジに船首方位を向いて設置される。カメラ5は、パン・チルト機能及び光学ズーム機能を有するカメラ、いわゆるPTZカメラであってもよい。
カメラ5は、例えば広角カメラであることが好ましい。また、カメラ5は、可視光カメラに限らず、赤外線カメラであってもよい。
GNSS受信機6は、GNSS(Global Navigation Satellite System)から受信した電波に基づいて自船の位置を検出する。ジャイロコンパス7は、自船の船首方位を検出する。ジャイロコンパスに限らず、GPSコンパスが用いられてもよい。
ECDIS(Electronic Chart Display and Information System)8は、GNSS受信機6から自船の位置を取得し、電子海図上に自船の位置を表示する。また、ECDIS8は、電子海図上に自船の計画航路も表示する。ECDISに限らず、GNSSプロッタが用いられてもよい。
無線通信部9は、例えば超短波帯、中短波帯、短波帯の無線設備など、他船又は陸上の管制との通信を実現するための種々の無線設備を含んでいる。
本実施形態では、データ収集装置1と表示部2は互いに独立した装置であるが、これに限らず、データ収集装置1と表示部2は一体の装置であってもよい。
本実施形態において、データ収集装置1は独立した装置であるが、これに限らず、ECDIS8等の他の装置と一体であってもよい。すなわち、データ収集装置1の機能部が他の装置で実現されてもよい。
また、表示部2も独立した装置であるが、これに限らず、ECDIS8等の他の装置の表示部が、データ収集装置1により生成された表示用画像を表示する表示部2として用いられてもよい。
図2は、データ収集装置1の構成例を示すブロック図である。データ収集装置1は、画像取得部11、位置姿勢取得部12、画像認識部13、同定部14、関連付け部15、モデル保持部16、一時記憶部17、及びデータ記憶部18を備えている。
データ収集装置1に含まれる機能部11~15は、データ収集装置1の制御部10(processing circuitry)がプログラムに従って情報処理を実行することによって実現される。データ収集装置1に含まれる記憶部16~18は、データ収集装置1のメモリに確保される。
画像取得部11は、カメラ5により撮像された画像を取得する。画像取得部11は、カメラ5から時系列の複数の画像を順次取得し、画像認識部13に順次提供する。時系列の複数の画像は、例えば動画像データに含まれる複数の静止画像(フレーム)である。
画像取得部11により取得される画像は、自船が港湾海域などを航行するときにカメラ5により撮像される画像であり、港湾又は海上の物標を含む画像である。港湾の物標は、例えばクレーン等の荷捌きのための設置物、又は岸壁等の係留のための設置物などである。海上の物標は、例えば船舶や浮標等である。
具体的には、画像取得部11は、港湾又は海上の物標を含む第1画像P1と、当該設置物を含み、第1画像P1よりも分解能が高い第2画像P2とを取得する。本実施形態では、第2画像P2は、第1画像P1が撮像された地点よりも物標に近づいた地点でカメラ5により撮像された画像である。
図3及び図4は、第1画像P1及び第2画像P2の例を示す図である。図5は、画像撮像地点の例を示す図である。K1及びD1は、第1画像P1が撮像された時点の自船SSの位置及び方位を表し、K2及びD2は、第2画像P2が撮像された時点の自船SSの位置及び方位を示している。
図3に示す例では、第1画像P1の画像中央に3つのクレーンC1~C3が比較的小さく含まれている。これに対し、図4に示す例では、第2画像P2の画像全体に2つのクレーンC1,C2が比較的大きく含まれている。なお、図4に示す例では、クレーンC3はカメラ5の画角から外れ、第2画像P2に含まれていない。
このように、第2画像P2は第1画像P1よりも分解能が高く、クレーンC1,C2をより識別し易い。これは、図5の例に示すように、第1画像P1は、クレーンC1~C3が設置された岸壁PQから比較的遠い位置K1で撮像されたのに対し、第2画像P2は、岸壁PQに比較的近い位置K2で撮像されたためである。
言い換えると、第1画像P1は、後段の画像認識部13で物標の検知は可能であるものの、物標の分類まではできない画像である。一方、第2画像P2は、画像認識部13で物標の検知が可能であり、且つ物標の分類も可能な画像である。分類が可能であるとは、例えば種別の推定の確度が十分なレベルにあることを指す。
このため、第1画像P1であるか第2画像P2であるかは、後段の画像認識部13により判定されてもよい。すなわち、画像認識部13による分類の結果、推定の確度が閾値未満である場合には第1画像P1とされ、推定の確度が閾値以上である場合には第2画像P2とされてもよい。
これに限らず、第2画像P2は、例えば第1画像P1で検知されたクレーンC1,C2の範囲を、カメラ5の光学ズーム機能を用いて拡大して撮像した画像であってもよいし、カメラ5よりも分解能が高い別のカメラにより撮像した画像であってもよい。
第2画像P2は、例えば第1画像P1で検知されたクレーンC1,C2の範囲を高解像度化した画像であってもよい。また、第1画像P1が赤外線カメラにより撮像された赤外線画像、第2画像P2が可視光カメラにより撮像された可視光画像であってもよい。
図2に示す位置姿勢取得部12は、カメラ5により画像が撮像された時点の自船の位置及び向きを取得し、画像取得部11により取得される画像に関連付ける。自船の位置は、GNSS受信機6により検出される自船の位置である。
自船の向きは、ジャイロコンパス7により検出される自船の船首方位である。また、自船の向きは、自船の船首方位だけでなく、不図示の姿勢センサにより検出される自船のロール又はピッチをさらに含んでもよい。
画像認識部13は、モデル保持部16に保持された学習済みモデルを用いて、画像取得部11から提供される画像に含まれる物標の種別を推定する。具体的には、画像認識部13は、画像に含まれる物標の画像内位置を検出し、物標の種別を推定し、推定の精度を算出する。
学習済みモデルは、学習用画像を入力データとし、学習用画像に含まれる物標の画像内位置及び種別を教師データとして、機械学習により予め生成される。このように生成された学習済みモデルは、画像に含まれる物標の画像内位置、物標の種別、及び推定の確度を出力する。
学習済みモデルには、例えば SSD(Single Shot MultiBox Detector)又は YOLO(You Only Look Once)等の物体検出モデルが用いられる。これに限らず、学習済みモデルには、Semantic Segmentation 又は Instance Segmentation 等の領域分割モデルが用いられてもよい。
図6及び図7は、画像認識部13による第1画像P1及び第2画像P2の認識結果の例を示す図である。
第1画像P1に含まれるクレーンC1~C3は、境界ボックスB1~B3によって囲まれ、境界ボックスB1~B3には、推定された種別及びその確度が記載されたラベルL1~L3が付加される。
同様に、第2画像P2に含まれるクレーンC1,C2は、境界ボックスB1,B2によって囲まれ、境界ボックスB1,B2には、推定された種別及びその確度が記載されたラベルL1,L2が付加される。
第1画像P1は分解能が比較的低い画像であるため、推定の確度が比較的低い。図6の例では、クレーンC1,C3については、推定された種別が誤っている上、推定の確度も低い。クレーンC2については、推定された種別は正しいものの、推定の確度が低い。
一方、第2画像P2は分解能が比較的高い画像であるため、推定の確度が比較的高い。図7の例では、クレーンC1,C2については、推定された種別が正しく、且つ推定の確度も高い。
図2に示す一時記憶部17は、第1画像P1を一時的に記憶する。本実施形態では、画像取得部11により取得された画像のうち、画像認識部13による認識の結果、推定の確度が閾値未満である物標を含む画像が、第1画像P1として一時記憶部17に記憶される。
図8は、一時記憶部17に記憶された第1画像P1を管理するための一時記憶データベースの例を示す図である。一時記憶データベースは、例えば「物標ID」、「画像」、「画像内位置」、「種別」、「確度」、「撮像位置」、「撮像方位」、「推定位置」、及び「付帯データ」等のフィールドを含んでいる。
「物標ID」は、物標を識別するための識別子である。「画像」は、第1画像P1のファイル名を表す。本例では、物標ID:001~003が、図6の例に示すクレーンC1~C3に対応するものとする。
「画像内位置」は、第1画像P1内で検出された物標の画像内位置を表す。画像内位置は、例えば物標を囲む境界ボックスの左上端点と右下端点の座標で表される。
「種別」は、画像認識部13により推定された物標の種別を表す。本例では、物標ID:001,003の種別が、クレーンではなく電波塔又は橋と誤って推定されている。「確度」は、推定の確度を表す。確度は、例えば0以上1以下の値で表され、1に近いほど確度が高い。
「撮像位置」は、第1画像P1が撮像された時点の自船の位置を表す。自船の位置は、例えば緯度・経度によって表される。「撮像方位」は、第1画像P1が撮像された時点のカメラ5の撮像方位を表す。カメラ5の撮像方位は、自船の船首方位に対応する。
「推定位置」は、画像内位置、撮像位置、及び撮像方位等に基づいて算出される物標の推定位置を表す。推定位置の算出には、その他に、カメラ5の画角及び解像度等のパラメータも用いられる。
具体的には、推定位置は、始めに、画像内位置及び撮像方位から自船に対する相対位置として算出され、その後、撮像位置を用いて絶対位置に変換される。推定位置は、撮像位置と同様に、例えば緯度・経度によって表される。
「付帯データ」は、第1画像P1の撮像時点における自船又はその周囲の状態を表すデータである。付帯データは、例えば霧若しくは雨等の気象条件、又は港湾若しくはパース等の領域属性などのデータを含んでいる。
図2に示す同定部14は、第1画像P1で検出された物標と、第2画像P2で検出された物標との同定を行う。本実施形態では、画像取得部11により取得された画像のうち、画像認識部13による認識の結果、検出された全ての物標の推定の確度が閾値以上である画像が、第2画像P2として同定部14に提供される。
同定部14は、第2画像P2を受け付けると、一時記憶部17に記憶された第1画像P1の中から、第2画像P2で検出された物標と同一の物標を含む第1画像P1を抽出する。
同定部14は、第1画像P1で検出された物標の推定位置と、第2画像P2で検出された物標の推定位置とが同一又は近似する場合に、2つの物標が同一であると判断する。物標の推定位置は、上述したように、画像内位置、撮像位置、及び撮像方位等に基づいて算出される。
関連付け部15は、第1画像P1に、第2画像P2から推定された、推定の確度が閾値以上の物標の種別を関連付ける。そして、関連付け部15は、第1画像P1及びこれに関連付けられた物標の種別を含むデータセットを、機械学習のための学習用データセットとしてデータ記憶部18に記憶する。
具体的には、関連付け部15は、同定部14により一時記憶部17から抽出された、第2画像P2と同一の物標を含む第1画像P1に、画像認識部13により第2画像P2から推定された物標の種別を関連付ける。また、関連付け部15は、第1画像P1に付帯データをさらに関連付けてもよい。
図9は、データ記憶部18に記憶される学習用データセットの例を示す図である。学習用データセットは、第1画像P1、第1画像P1に含まれる物標の画像内位置及び種別、並びに付帯データを含んでいる。
このうち、物標の種別は、第2画像P2から推定された物標の種別である。すなわち、第1画像P1から推定された、推定の確度が閾値未満の物標の種別が、第2画像P2から推定された、推定の確度が閾値以上の物標の種別によって置き換えられている。
これにより、物標の分類ができない第1画像P1に、第2画像P2から推定された信頼性が高い種別を関連付けることができ、好適な学習用データセットを得ることが可能となる。
上記図8の例では、画像IMG01の一部の物標の種別がクレーンではなく電波塔又は橋と誤って推定されていたが、図9の例では、第2画像P2から推定された物標の種別が適用された結果、画像IMG01の全ての種別がクレーンとなっている。
図2の説明に戻る。データ記憶部19に記憶された学習用データセットは、学習装置200による学習済みモデルの再学習に用いられる。学習装置200は、例えば陸地に設けられた1又は複数のサーバコンピュータである。
データ収集装置1は、例えば寄港時において学習装置200との通信が確立すると、データ記憶部18に記憶された学習用データセットを学習装置200に転送する。また、データ収集装置1は、転送が完了した学習用データセットをデータ記憶部18から削除し、空きを作る。
学習装置200は、データ収集装置1から取得した学習用データセットを用いて、学習済みモデルの再学習を行う。具体的には、学習装置200は、取得された学習用データセットに含まれる画像を入力データとし、物標の画像内位置、種別、及び付帯データを教師データとして、再学習を行う。
データ収集装置1は、学習装置200に新バージョンの学習済みモデルが用意された場合、学習装置200から新バージョンの学習済みモデルを取得し、モデル保持部16に保持された旧バージョンの学習済みモデルと置き換える。
このように、データ収集装置1により収集された学習用データセットを用いて学習済みモデルの再学習を行い、さらに、データ収集装置1が再学習された学習済みモデルを用いて学習用データセットを収集するサイクルを繰り返すことにより、学習済みモデルの継続的な改善が可能となる。
図10は、データ収集装置1において実現されるデータ収集方法の手順例を示す図である。データ収集装置1のCPUは、プログラムに従って同図に示す情報処理を実行する。
まず、データ収集装置1は、カメラ5により撮像された画像を取得する(S11、画像取得部11としての処理)。次に、データ収集装置1は、自船の位置及び姿勢を取得し、画像に関連付ける(S12-S13、位置姿勢取得部12としての処理)。
次に、データ収集装置1は、画像認識を行う(S14、画像認識部13にとしての処理)。具体的には、データ収集装置1は、学習済みモデルを用いて、画像に含まれる物標の画像内位置を検出し、物標の種別を推定し、推定の精度を算出する。
次に、データ収集装置1は、推定の確度が閾値未満の物標を含む画像を第1画像P1とし(S15:YES)、第1画像P1及び物標に係る情報などを一時記憶データベース(図8参照)に登録して、処理を終了する。
一方、データ収集装置1は、全ての物標の推定の確度が閾値以上である画像を第2画像とし(S15:NO)、一時記憶データベースを参照して、第2画像P2と同一の物標を含む第1画像P1が存在するか否か判定する(S17,S18、同定部14としての処理)。
第2画像P2と同一の物標を含む第1画像P1が存在する場合(S18:YES)、データ収集装置1は、第1画像P1に、第2画像P2から推定された、推定の確度が閾値以上の物標の種別を関連付けて保存し(S19、関連付け部15としての処理)、処理を終了する。
以上、本発明の実施形態について説明したが、本発明は以上に説明した実施形態に限定されるものではなく、種々の変更が当業者にとって可能であることはもちろんである。
例えば、自船にカメラ5とは別のカメラを設け、別のカメラにより撮像された画像を第1画像P1とし、カメラ5により撮像された画像を第2画像P2として、第2画像P2の識別結果を第1画像P1に関連付けてもよい。これによれば、別のカメラのための学習用データセットを収集することが可能となる。この際、カメラ5と別のカメラの位置、分解能、及び画角の違い基づく視差に応じて、画像内位置を補正することが好ましい。
1 データ収集装置、2 表示部、3 レーダー、4 AIS、5 カメラ、6 GNSS受信機、7 ジャイロコンパス、8 ECDIS、9 無線通信部、11 画像取得部、12 位置姿勢取得部、13 画像認識部、14 同定部、15 関連付け部、16 モデル保持部、17 一時記憶部、18 データ記憶部、100 データ収集システム、200 学習装置

Claims (12)

  1. 船舶に設置されたカメラにより撮像された、港湾又は海上の物標を含む第1画像と、前記物標を含み、前記第1画像よりも分解能が高い第2画像とを取得する画像取得部と、
    前記第2画像から前記物標の種別を推定する画像認識部と、
    前記第1画像に、前記第2画像から推定された前記物標の種別を関連付ける関連付け部と、
    を備える、学習用データ収集装置。
  2. 前記第2画像は、前記第1画像が撮像された地点よりも前記物標に近づいた地点で前記カメラにより撮像された画像である、
    請求項1に記載の学習用データ収集装置。
  3. 前記第2画像は、前記第1画像の前記物標を含む範囲を前記カメラの光学ズーム機能を用いて拡大して撮像した画像である、
    請求項1に記載の学習用データ収集装置。
  4. 前記第2画像は、前記第1画像の前記物標を含む範囲を前記カメラよりも分解能が高い別のカメラにより撮像した画像である、
    請求項1に記載の学習用データ収集装置。
  5. 前記画像認識部は、前記第2画像から前記物標の種別を推定するとともに推定の確度を算出し、
    前記関連付け部は、前記確度が閾値以上である前記物標の種別を、前記第1画像に関連付ける、
    請求項1ないし4の何れかに記載の学習用データ収集装置。
  6. 前記画像認識部は、前記第1画像から前記物標の種別を推定するとともに推定の確度を算出し、
    前記関連付け部は、前記確度が閾値未満である前記第1画像に、前記第2画像から推定された前記物標の種別を関連付ける、
    請求項1ないし5の何れかに記載の学習用データ収集装置。
  7. 前記画像認識部は、前記カメラにより撮像された画像から前記物標の種別を推定するとともに推定の確度を算出し、前記確度が閾値以上の画像を前記第2画像とし、前記確度が閾値未満の画像を前記第1画像とする、
    請求項1ないし6の何れかに記載の学習用データ収集装置。
  8. 前記船舶の位置及び向きを取得する位置姿勢取得部と、
    前記第1画像の撮像時点における前記船舶の位置及び向き、前記第1画像で検出された前記物標の画像内位置、前記第2画像の撮像時点における前記船舶の位置及び向き、並びに前記第2画像で検出された前記物標の画像内位置に基づいて、前記第1画像で検出された前記物標と前記第2画像で検出された前記物標とを同定する同定部と、
    をさらに備える、
    請求項1ないし7の何れかに記載の学習用データ収集装置。
  9. 前記関連付け部は、前記第1画像に、前記第1画像の撮像時点における前記船舶又はその周囲の状態を表す付帯データをさらに関連付ける、
    請求項1ないし8の何れかに記載の学習用データ収集装置。
  10. 船舶に設置されたカメラにより撮像された、港湾又は海上の物標を含む第1画像と、前記物標を含み、前記第1画像よりも分解能が高い第2画像とを取得し、
    前記第2画像から前記物標の種別を推定し、
    前記第1画像に、前記第2画像から推定された前記物標の種別を関連付ける、
    学習用データ収集方法。
  11. さらに、前記第1画像及び前記第2画像から推定された前記物標の種別を含むデータセットを用いて、前記物標の種別を推定するための学習済みモデルを再学習する、
    請求項10に記載の学習用データ収集方法。
  12. 船舶に設置されたカメラにより撮像された、港湾又は海上の物標を含む第1画像と、前記物標を含み、前記第1画像よりも分解能が高い第2画像とを取得すること、
    前記第2画像から前記物標の種別を推定すること、及び、
    前記第1画像に、前記第2画像から推定された前記物標の種別を関連付けること、
    をコンピュータに実行させるためのプログラム。
JP2023535120A 2021-07-12 2022-03-16 学習用データ収集装置、学習用データ収集方法、及びプログラム Active JP7775316B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2021115089 2021-07-12
JP2021115089 2021-07-12
PCT/JP2022/011826 WO2023286360A1 (ja) 2021-07-12 2022-03-16 学習用データ収集装置、学習用データ収集方法、及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2023286360A1 JPWO2023286360A1 (ja) 2023-01-19
JP7775316B2 true JP7775316B2 (ja) 2025-11-25

Family

ID=84919947

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023535120A Active JP7775316B2 (ja) 2021-07-12 2022-03-16 学習用データ収集装置、学習用データ収集方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP7775316B2 (ja)
WO (1) WO2023286360A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019118098A (ja) 2017-12-26 2019-07-18 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2021077202A (ja) 2019-11-12 2021-05-20 ジャパンマリンユナイテッド株式会社 情報処理装置、船舶および情報処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019118098A (ja) 2017-12-26 2019-07-18 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2021077202A (ja) 2019-11-12 2021-05-20 ジャパンマリンユナイテッド株式会社 情報処理装置、船舶および情報処理方法

Also Published As

Publication number Publication date
JPWO2023286360A1 (ja) 2023-01-19
WO2023286360A1 (ja) 2023-01-19

Similar Documents

Publication Publication Date Title
US12198418B2 (en) System and method for measuring the distance to an object in water
EP4485424A1 (en) Target monitoring system, target monitoring method, and program
Yu et al. Object detection-tracking algorithm for unmanned surface vehicles based on a radar-photoelectric system
CN101517431A (zh) 提供对地理空间模型中移动目标跟踪的视频监视系统和相关方法
Gülsoylu et al. Image and ais data fusion technique for maritime computer vision applications
CN113743385A (zh) 一种无人船水面目标检测方法、装置及无人船
US12614391B2 (en) Autonomous cruising system, navigational sign identifying method, and non-transitory computer-readable medium
CN113820705A (zh) 船舶用物标检测系统及方法、可信度推定装置、以及程序
CN114926726A (zh) 基于多任务网络的无人船感知方法及相关设备
CN117075112A (zh) 一种方位角航迹匹配的无人艇雷达光电融合方法
CN116670463A (zh) 航路标识识别装置、自主航行系统、航路标识识别方法以及程序
CN115830140B (zh) 一种海上近程光电监控方法、系统、介质、设备及终端
Li et al. Sea–sky line detection using gray variation differences in the time domain for unmanned surface vehicles
WO2023112349A1 (ja) 物標監視装置、物標監視方法、及びプログラム
JP7775316B2 (ja) 学習用データ収集装置、学習用データ収集方法、及びプログラム
CN110222552A (zh) 定位系统及方法及电脑可读取存储媒体
JP7841901B2 (ja) 物標監視装置、操船システム、物標監視方法、及びプログラム
CN107941220B (zh) 一种基于视觉的无人船海天线检测与导航方法和系统
WO2023112347A1 (ja) 物標監視装置、物標監視方法、及びプログラム
GB2523598A (en) Method for determining the position of a client device
CN121548850A (zh) 使用相机对距海洋物体的距离进行的神经网络估计
Ma et al. Multi-sensor Analytic System Architecture for Maritime Surveillance
Gorad et al. Vessel bearing estimation using visible and thermal imaging
JP4686773B2 (ja) 動体認識方法および動体認識装置
JP7829597B2 (ja) 物標監視装置、物標監視方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20250305

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20250310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20251015

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20251112

R150 Certificate of patent or registration of utility model

Ref document number: 7775316

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150