JP7351111B2 - Vehicle recording control device, recording control method and program - Google Patents
Vehicle recording control device, recording control method and program Download PDFInfo
- Publication number
- JP7351111B2 JP7351111B2 JP2019120031A JP2019120031A JP7351111B2 JP 7351111 B2 JP7351111 B2 JP 7351111B2 JP 2019120031 A JP2019120031 A JP 2019120031A JP 2019120031 A JP2019120031 A JP 2019120031A JP 7351111 B2 JP7351111 B2 JP 7351111B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- recognized
- license plate
- video data
- event
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Time Recorders, Dirve Recorders, Access Control (AREA)
- Character Discrimination (AREA)
- Television Signal Processing For Recording (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
本発明は、車両用記録制御装置、記録制御方法およびプログラムに関する。 The present invention relates to a vehicle recording control device, a recording control method, and a program.
事故などのイベントを認識したことをトリガとして映像データを保存するドライブレコーダなどの記録装置が知られている。車両事故の検証の際、他車両のナンバープレートに記された情報が事故の検証に有用となることがある。例えば、特許文献1には、動画像から他車両およびナンバープレートを認識して、他車両およびナンバープレートの情報を記憶する装置が開示されている。
2. Description of the Related Art Recording devices such as drive recorders are known that store video data triggered by recognition of an event such as an accident. When verifying a vehicle accident, information written on the license plate of another vehicle may be useful for verifying the accident. For example,
例えば、二輪車のように走行による振動が記録装置の取り付け位置に直接伝達される構造である場合、撮影された映像データからナンバープレートの情報を適切に取得できない場合がある。 For example, if the structure of a motorcycle is such that vibrations caused by running are directly transmitted to the mounting position of the recording device, license plate information may not be properly acquired from captured video data.
本発明は、上記に鑑みてなされたものであって、撮影対象の他車両の好適な特定に寄与できる車両用記録制御装置、記録制御方法およびプログラムを提供することを目的とする。 The present invention has been made in view of the above, and an object of the present invention is to provide a recording control device for a vehicle, a recording control method, and a program that can contribute to suitable identification of other vehicles to be photographed.
上記の目的を達成するため、本発明の一態様の車両用記録制御装置は、車両の周辺を撮影する撮像部が撮影した映像データを取得する映像データ取得部と、前記映像データ取得部が取得した映像データを構成するフレーム画像から、他車両および認識された他車両のナンバープレートに記された情報を認識する認識処理部と、前記認識処理部が他車両および認識された他車両のナンバープレートに記された情報を認識した場合、認識された他車両と認識された他車両のナンバープレートに記された情報とを対応付け、認識された他車両が含まれかつ認識された他車両のナンバープレートに記された情報が認識できないフレーム画像であっても、認識された他車両に対応付けられた他車両のナンバープレートに記された情報を、前記フレーム画像において認識された他車両に対応付ける対応付け処理部と、を備える。 In order to achieve the above object, a vehicle recording control device according to one aspect of the present invention includes a video data acquisition unit that acquires video data captured by an imaging unit that photographs the surroundings of a vehicle, and a video data acquisition unit that acquires a recognition processing unit that recognizes information written on the other vehicle and the recognized license plate of the other vehicle from frame images constituting the video data; When the information written on the recognized other vehicle is recognized, the recognized other vehicle is associated with the information written on the recognized other vehicle's license plate, and the recognized other vehicle is included and the recognized other vehicle's license plate is identified. Even if the information written on the plate cannot be recognized in a frame image, the information written on the license plate of the other vehicle that is associated with the recognized other vehicle is associated with the other vehicle recognized in the frame image. An attaching processing section.
上記の目的を達成するため、本発明の一態様の記録制御方法は、車両の周辺を撮影する撮像部が撮影した映像データを取得する映像データ取得ステップと、前記映像データ取得ステップで取得した映像データを構成するフレーム画像から、他車両および認識された他車両のナンバープレートに記された情報を認識する認識ステップと、前記認識ステップで他車両および認識された他車両のナンバープレートに記された情報を認識した場合、認識された他車両と認識された他車両のナンバープレートに記された情報とを対応付け、認識された他車両が含まれかつ認識された他車両のナンバープレートに記された情報が認識できないフレーム画像であっても、認識された他車両に対応付けられた他車両のナンバープレートに記された情報を、前記フレーム画像において認識された他車両に対応付ける対応付け処理ステップと、を含む。 In order to achieve the above object, a recording control method according to one aspect of the present invention includes a video data acquisition step of acquiring video data captured by an imaging unit that photographs the surroundings of a vehicle; A recognition step of recognizing information written on the license plate of the other vehicle and the recognized other vehicle from frame images constituting the data; and a recognition step of recognizing information written on the license plate of the other vehicle and the recognized other vehicle in the recognition step. When the information is recognized, the recognized other vehicle is associated with the information written on the license plate of the recognized other vehicle, and the recognized other vehicle is included and the information written on the recognized other vehicle's license plate is determined. an association processing step for associating information written on a license plate of another vehicle associated with the recognized other vehicle with the other vehicle recognized in the frame image, even if the information recorded in the frame image is unrecognizable; ,including.
上記の目的を達成するため、本発明の一態様のプログラムは、車両の周辺を撮影する撮像部が撮影した映像データを取得する映像データ取得ステップと、前記映像データ取得ステップで取得した映像データを構成するフレーム画像から、他車両および認識された他車両のナンバープレートに記された情報を認識する認識ステップと、前記認識ステップで他車両および認識された他車両のナンバープレートに記された情報を認識した場合、認識された他車両と認識された他車両のナンバープレートに記された情報とを対応付け、認識された他車両が含まれかつ認識された他車両のナンバープレートに記された情報が認識できないフレーム画像であっても、認識された他車両に対応付けられた他車両のナンバープレートに記された情報を、前記フレーム画像において認識された他車両に対応付ける対応付け処理ステップと、を車両用記録制御装置として動作するコンピュータに実行させる。 In order to achieve the above object, a program according to one aspect of the present invention includes a video data acquisition step of acquiring video data captured by an imaging unit that photographs the surroundings of a vehicle, and a video data acquisition step of acquiring video data captured in the video data acquisition step. A recognition step of recognizing the information written on the license plate of the other vehicle and the recognized other vehicle from the constituent frame images; and a recognition step of recognizing the information written on the license plate of the other vehicle and the recognized other vehicle in the recognition step. When recognized, the recognized other vehicle is associated with the information written on the license plate of the recognized other vehicle, and the information that includes the recognized other vehicle and written on the license plate of the recognized other vehicle is determined. Even if the frame image is unrecognizable, the step of associating the information written on the license plate of the other vehicle associated with the recognized other vehicle with the other vehicle recognized in the frame image; This is executed by a computer that operates as a vehicle recording control device.
本発明によれば、撮影対象の他車両の好適な特定に寄与できる。 According to the present invention, it is possible to contribute to suitable identification of other vehicles to be photographed.
以下、添付図面を参照して、本発明に係る実施形態を詳細に説明する。なお、この実施形態により本発明が限定されるものではなく、また、実施形態が複数ある場合には、各実施形態を組み合わせて構成するものも含む。 DESCRIPTION OF EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. It should be noted that the present invention is not limited to this embodiment, and if there are multiple embodiments, the present invention may be configured by combining each embodiment.
(第一実施形態)
[装置の構成]
図1を用いて、本発明の第一実施形態に係る記録装置について説明する。図1は、本発明の第一実施形態に係る記録装置の構成の一例を示すブロック図である。記録装置1は、車両に発生したイベントを記録する、ドライブレコーダなどの車両用記録装置である。記録装置1は、車両の走行中および駐車中に検出されたイベントに基づいて映像データを、イベント記録データとして記録する。映像データは、連続したフレーム画像からなる動画像データを含む。記録装置1は、イベントの検出に対応する映像データにおいて、撮影された他車両と他車両のナンバープレートに記された情報とを対応付ける。記録装置1は、イベント記録データなどの映像データの再生機能を備えている場合、記録再生装置と言い換えてもよい。
(First embodiment)
[Device configuration]
A recording apparatus according to a first embodiment of the present invention will be described using FIG. 1. FIG. 1 is a block diagram showing an example of the configuration of a recording apparatus according to a first embodiment of the present invention. The
記録装置1は、様々な車両を含む任意の移動体に搭載される。記録装置1は、車両などの移動体に載置されているものに加えて、可搬型で車両などの移動体において利用可能な装置であってもよい。また、記録装置1は、車両などの移動体にあらかじめ設置されている装置やナビゲーション装置などの機能または構成を含んで実現されてもよい。以下の説明においては、記録装置1は、車両に取り付けられているものとして説明する。記録装置1は、撮像部10と、記録部20と、認識辞書記憶部30と、操作部40と、表示部50と、センサ60と、GNSS(Global Navigation Satellite System)の一例であるGPS(Global Positioning System)受信部70と、CAN(Controller Area Network)インターフェース部(以下、「IF部」という。)80と、車両用記録制御装置としての制御装置100とを備える。
The
撮像部10は、記録装置1が搭載されている車両において用いられるカメラであり、車両の車室内外の任意の範囲を撮影する。撮像部10は、例えば、記録装置1に固有のカメラ、または、車両に取り付けられている俯瞰映像用のカメラなどでもよい。撮像部10は、例えば、車両の前方を撮影するカメラ、車両の後方を撮影するカメラ、車両の側方を撮影するカメラ、のいずれかまたはそれらの組み合わせであってもよく、車両の周辺を撮影するように複数のカメラを含むカメラユニットまたは全天周カメラであってもよい。また、車室内を撮影するカメラを含んでいてもよい。撮像部10は、車両において用いられるカメラが撮影した映像データを映像データ取得部120へ出力する。
The
記録部20は、記録装置1における種々のデータを記録する。記録部20は、例えば、車両の走行中および駐車中に撮像部10が撮影した映像データを記録する。記録部20は、例えば、イベントの検出に基づく所定期間の映像データをイベント記録データとして保存する。記録部20は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、ソリッドステートドライブなどの記憶装置で実現することができる。記録部20は、複数の異なるメモリなどで構成されてもよい。または、図示しない通信装置を介して無線接続される外部記録部であってもよい。記録部20は、制御装置100の記録制御部123から出力された制御信号に基づいて、映像データまたはイベント記録データを記録する。
The
認識辞書記憶部30は、映像データから他車両および他車両のナンバープレートの情報を認識するための、種々の認識辞書を記憶する。認識辞書記憶部30が記憶している認識辞書は、例えば映像データから様々な車両を認識するために、様々な角度からみた車両や様々な種類の車両を予め機械学習させた辞書である。また、認識辞書記憶部30は、他車両のナンバープレートを特定するための辞書、特定したナンバープレートに記された文字を認識するための辞書などを記憶していてもよい。認識処理部125は、認識辞書記憶部30が記憶する認識辞書を参照する。認識辞書記憶部30は、図示しない通信機能を介して接続される外部サーバなどの記憶装置であってもよい。 The recognition dictionary storage unit 30 stores various recognition dictionaries for recognizing information on other vehicles and license plates of other vehicles from video data. The recognition dictionary stored in the recognition dictionary storage unit 30 is a dictionary in which vehicles viewed from various angles and various types of vehicles are machine-learned in advance in order to recognize various vehicles from video data, for example. Further, the recognition dictionary storage unit 30 may store a dictionary for specifying the license plate of another vehicle, a dictionary for recognizing characters written on the specified license plate, and the like. The recognition processing unit 125 refers to the recognition dictionary stored in the recognition dictionary storage unit 30. The recognition dictionary storage unit 30 may be a storage device such as an external server connected via a communication function (not shown).
操作部40は、記録装置1に対する様々な操作を受付するインターフェースである。操作部40は、例えば、撮影した映像データを記録部20にイベント記録データとして手動で保存させる操作を受付可能である。操作部40は、例えば、記録部20に記録した映像データまたはイベント記録データを再生する操作を受付可能である。操作部40は、例えば、記録部20に記録したイベント記録データを消去する操作を受付可能である。操作部40は、例えば、記録装置1の動作を開始または終了させる操作を受付可能である。操作部40は、受け付けた操作に応じた操作信号を操作制御部126へ出力する。操作部40は、例えば、物理的なスイッチや、表示部50に設けられたタッチパネルで実現することができる。
The
表示部50は、種々の映像を表示する。表示部50は、例えば、記録部20が記録しているイベント記録データなどが再生された場合に、再生された映像を表示する。表示部50は、例えば、記録装置1に固有の表示装置、または、ナビゲーションシステムを含む他のシステムと共用した表示装置などである。表示部50は、撮像部10と一体に形成されていてもよい。表示部50は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro-Luminescence)ディスプレイなどを含むディスプレイである。表示部50は、本実施形態において、車両の運転者前方の、ダッシュボード、インストルメントパネル、センターコンソールなどに配置されている。表示部50は、制御装置100の表示制御部127から出力された映像信号に基づいて、映像を表示する。表示部50は、撮像部10が撮影している映像、または、記録部20に記録された映像を表示する。
The display unit 50 displays various images. The display unit 50 displays a reproduced video when, for example, event record data recorded by the
センサ60は、車両に対するイベントの発生に起因する種々の情報を検出するセンサである。センサ60は、例えば、加速度センサであり、車両に対して生じる加速度を検出する。加速度センサは、例えば、3軸方向の加速度を検出するセンサである。3軸方向とは、車両の前後方向、左右方向、および上下方向である。センサ60は、例えば、ジャイロセンサであり、車両の姿勢に関する情報を検出する。センサ60は、検出結果をセンサ情報取得部128へ出力する。
The
GPS受信部70は、図示しないGPS衛星から電波を受信する。GPS受信部70は、GPS受信回路、GPS受信アンテナなどから構成される。GPS受信部70は、受信した電波の信号を位置情報取得部130へ出力する。
The GPS receiving unit 70 receives radio waves from a GPS satellite (not shown). The GPS receiving section 70 includes a GPS receiving circuit, a GPS receiving antenna, and the like. The GPS receiving unit 70 outputs the received radio wave signal to the position
IF部80は、CANを介して各種車両情報を取得するためのインターフェースである。車両情報には、例えば、エンジンの動作状況や、車両の走行状況などに関する情報が含まれている。 The IF section 80 is an interface for acquiring various vehicle information via CAN. The vehicle information includes, for example, information regarding the operating status of the engine, the driving status of the vehicle, and the like.
制御装置100は、例えば、CPU(Central Processing Unit)などで構成された演算処理装置(制御装置)である。制御装置100は、記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。制御装置100には図示しない内部メモリなどが含まれる。内部メモリは、制御装置100の各部を実現させるためのプログラムが記憶されている。この場合、制御装置100は、内部メモリなどに記憶されているプログラムを展開して実行することで、各部の機能を実現する。また、内部メモリは、制御装置100におけるデータの一時記憶などにも用いられる。制御装置100は、バス110によって接続された、映像データ取得部120と、バッファメモリ121と、映像データ処理部122と、記録制御部123と、再生制御部124と、認識処理部125と、操作制御部126と、表示制御部127と、センサ情報取得部128と、イベント検出部129と、位置情報取得部130と、車両情報取得部131と、対応付け処理部132と、を有する。
The
映像データ取得部120は、外部から各種の映像データを取得する。映像データ取得部120は、例えば、撮像部10から撮像部10が撮影した映像データを取得する。映像データ取得部120は、車両の周辺を撮影した映像データを取得する。映像データ取得部120は、例えば、撮像部10から取得した映像データをバッファメモリ121および表示制御部127へ出力する。映像データ取得部120は、映像データに加えて、撮像部10または他の位置に配置された図示しないマイクロフォンが取得した音声データを含んだ撮影データを取得してもよい。
The video
バッファメモリ121は、映像データ取得部120が取得した映像データを一時的に記憶する制御装置100の内部メモリである。より詳しくは、バッファメモリ121は、映像データ取得部120が取得した一定時間分の映像データを、更新しながら一時的に記憶する。
The buffer memory 121 is an internal memory of the
映像データ処理部122は、バッファメモリ121が一時的に記憶している映像データに対して種々の処理を実行する。映像データ取得部120は、例えばバッファメモリ121が一時的に記憶している映像データを、例えばH.264やMPEG-4(Moving Picture Experts Group)などの任意の方式のコーデックで符号化された、例えばMP4形式などの任意のファイル形式に変換する。映像データ処理部122は、例えば、バッファメモリ121が一時的に記憶している映像データから、一定時間分のデータファイルとした映像データを生成する。具体的には、映像データ処理部122は、バッファメモリ121が一時的に記憶している映像データから、60秒間の映像データを1つのデータファイルとして生成する。映像データ処理部122は、生成した映像データを記録制御部123へ出力する。1つのデータファイルとして生成される映像データの期間は、一例として60秒としたが、これには限定されない。ここで言う映像データとは、撮像部10が撮影した映像に加えて音声が含まれたデータであってもよい。
The video
記録制御部123は、種々のデータを記録部20に記録する。記録制御部123は、例えば、映像データ処理部122でファイル化された映像データを、記録部20に記録させる制御を行う。記録制御部123は、車両のアクセサリ電源がONであるときなど、イベントが検出されていない期間は、映像データ処理部122でファイル化された映像データを、上書き可能な映像データとして、記録部20に記録する。より詳しくは、記録制御部123は、イベントが検出されていない期間は、映像データ処理部122が生成した映像データを記録部20に記録し続ける。記録制御部123は、記録部20の容量が一杯になった場合、最も古い映像データに新しい映像データを上書きして記録する。このような記録処理をループ記録処理という。
The
記録制御部123は、イベント検出部129がイベントの発生を検出した場合、イベントの検出に対応する映像データを保存する。イベントの検出に対応する映像データとは、映像データ処理部122が生成した映像データにおける所定の期間の映像データである。記録制御部123は、イベントの検出に対応する映像データを、上書きが禁止されたイベント記録データとして記録部20に保存する。記録制御部123は、他車両とナンバープレートの情報とが対応付けされた場合、映像データから認識された他車両と認識された他車両のナンバープレートの情報とを対応付けが維持された状態で、イベント記録データを、記録部20に上書き禁止として保存させる。
When the event detection unit 129 detects the occurrence of an event, the
記録制御部123が記録部20に保存するイベント記録データは、例えば、イベントが検出された時点の前後60秒程度の所定の期間の映像データをバッファメモリ121からコピーし、イベント記録データとして保存する。
The event recording data that the
再生制御部124は、記録部20に記録されている種々のデータを再生する。より詳しくは、再生制御部124は、操作制御部126から出力された操作部40の操作に応じた制御信号に従って、任意の映像データを再生する。再生制御部124は、例えば、記録部20にデータファイルとして記録されている映像データを再生する。再生制御部124は、例えば、記録部20に保存されているイベント記録データを再生する。
The
認識処理部125は、映像データ取得部120が取得した映像データを構成するフレーム画像から、他車両および他車両のナンバープレートの情報を認識する。認識処理部125は、認識辞書記憶部30に記憶された認識辞書を参照し、他車両およびナンバープレートの情報を認識する。認識処理部125は、ナンバープレートの情報として、例えば、ナンバープレートに記された文字情報を認識する。
The recognition processing unit 125 recognizes information on the other vehicle and the license plate of the other vehicle from the frame images forming the video data acquired by the video
操作制御部126は、操作部40がユーザなどから受け付けた操作に関する操作信号を取得する。操作制御部126は、例えば、映像データの手動保存操作を示す保存操作情報、再生操作を示す再生操作情報、または、映像データの消去操作を示す消去操作情報などの操作に関する操作信号を取得する。操作制御部126は、例えば、受け付けた操作信号に応じた制御信号を記録制御部123または再生制御部124へ出力する。この場合、記録制御部123および再生制御部124は、制御信号に従って、動作を実行する。
The
表示制御部127は、種々の映像を表示部50に表示させる。より詳しくは、表示制御部127は、表示部50に映像信号を出力することで、表示部50に映像を表示させる。表示制御部127は、例えば、撮像部10が撮影している映像、または、記録部20に記録されたループ記録映像データまたはイベント記録データの再生によって表示する映像信号を出力する。
The display control section 127 causes the display section 50 to display various images. More specifically, the display control unit 127 outputs a video signal to the display unit 50, thereby causing the display unit 50 to display the video. The display control unit 127 outputs a video signal to be displayed by, for example, reproducing the video imaged by the
センサ情報取得部128は、センサ60から種々の検出結果を取得する。センサ情報取得部128は、センサ60から、車両に加わった加速度情報を取得する。センサ情報取得部128は、例えば車両と、他の車両などの他の物体が衝突したときの加速度情報を取得する。センサ情報取得部128は、取得したセンサ60からの検出結果をイベント検出部129へ出力する。
The sensor information acquisition unit 128 acquires various detection results from the
イベント検出部129は、車両に対するイベントを検出する。イベント検出部129は、センサ情報取得部128が取得したセンサ60の検出結果に基づいて、イベントを検出する。イベント検出部129は、例えば、検出結果としての加速度の大きさなどに基づいて、イベントを検出する。イベント検出部129は、取得した加速度の大きさが、衝突に該当する加速度であることを判別可能な閾値より大きい加速度である場合に、イベントとして検出する。イベント検出部129は、イベントを検出すると、記録制御部123に対してイベントが検出された情報を示す制御信号を出力する。イベント検出部129によるイベントの検出は、加速度情報に基づくイベントの検出に限らず任意である。イベント検出部129は、映像データ取得部120が取得した映像データに基づく動体検出や、図示しない近接センサなどの検出結果、あるいは複数のセンサ情報の組み合わせによってイベントを検出してもよい。
The event detection unit 129 detects an event for the vehicle. The event detection unit 129 detects an event based on the detection result of the
位置情報取得部130は、車両の現在位置を示す位置情報を取得する。位置情報取得部130は、GPS受信部70が受信した電波に基づいて、車両の現在位置の位置情報を公知の方法によって算出する。位置情報取得部130は、準天頂衛星を含む他の測位システムを使用して、車両の現在位置の位置情報を算出してもよい。位置情報取得部130が算出した位置情報は、イベント検出部129がイベントを検出した場合、イベント記録データとともに記録部20に保存されてもよい。
The position
車両情報取得部131は、IF部80からのCANを介して種々の車両情報を取得する。車両情報取得部131は、車両情報として、例えば車両のエンジンの動作に関する情報、車速情報など車両の動作に関する情報を取得する。車両情報取得部131は、取得した車両情報を記録制御部123へ出力する。
The vehicle information acquisition unit 131 acquires various vehicle information via CAN from the IF unit 80. The vehicle information acquisition unit 131 acquires, as vehicle information, information regarding the operation of the vehicle, such as information regarding the operation of the engine of the vehicle and vehicle speed information. Vehicle information acquisition section 131 outputs the acquired vehicle information to
対応付け処理部132は、認識処理部125が他車両および他車両のナンバープレートの情報を認識した場合、他車両とナンバープレートの情報とを対応付ける。対応付け処理部132は、他車両が含まれかつ他車両のナンバープレートの情報が認識できないフレーム画像の他車両に、フレーム画像において認識されたナンバープレートの情報を対応付ける。対応付け処理部132は、認識処理部125が他車両を認識している間の映像データを構成するフレーム画像の少なくとも1つにおいて、他車両のナンバープレートの情報を認識した場合、他車両とナンバープレートの情報とを対応付ける。対応付け処理部132は、他車両とナンバープレートの情報とを対応付けた場合、ナンバープレートの情報を認識できないフレーム画像の他車両に、ナンバープレートの情報を対応付ける。
When the recognition processing unit 125 recognizes the other vehicle and the license plate information of the other vehicle, the
[他車両とナンバープレートの情報との対応付け]
図2および図3を用いて、第一実施形態に係る制御装置100による他車両とナンバープレートの情報との対応付けについて説明する。図2は、第一実施形態に係るフレーム画像の一例を示す模式図である。図3は、図2に対応する別のフレーム画像の一例を示す模式図である。図2に示すフレーム画像F11および図3に示すフレーム画像F12は、映像データ取得部120が取得した映像データを構成するフレーム画像である。フレーム画像F11からフレーム画像F12までの間の連続したフレーム画像は、全て他車両C1が含まれるものとする。
[Correlation between other vehicles and license plate information]
The association between other vehicles and license plate information by the
図2に示すように、フレーム画像F11は、他車両C1と他車両C1のナンバープレートN1を含む。認識処理部125は、フレーム画像F11から、他車両C1を認識する。認識処理部125は、他車両C1を認識した場合、他車両C1のナンバープレートN1の認識処理を開始する。認識処理部125は、例えば、フレーム画像F11内の他車両C1を含む他車両検出枠Fc11から、他車両C1のナンバープレートN1の認識処理を行う。認識処理部125は、ナンバープレートN1を認識した場合、ナンバープレートN1の情報を認識する。認識処理部125は、例えば、他車両検出枠Fc11内のナンバープレートN1を含むナンバープレート検出枠Fn11から、ナンバープレートN1の情報を認識する。認識処理部125は、例えば、認識された他車両C1に含まれるナンバープレートN1の情報を所定割合以上認識した場合に、ナンバープレートN1の情報を認識したものとして処理する。所定割合とは、例えばナンバープレートN1に記された文字の50%以上や、3文字以上などである。認識処理部125は、第一実施形態において、ナンバープレートN1に記された文字情報を認識する。対応付け処理部132は、認識処理部125が、フレーム画像F11において他車両C1および他車両C1のナンバープレートN1に記された文字情報を認識した場合、他車両C1とナンバープレートN1に記された文字情報とを対応付けて記憶する。
As shown in FIG. 2, the frame image F11 includes the other vehicle C1 and the license plate N1 of the other vehicle C1. The recognition processing unit 125 recognizes the other vehicle C1 from the frame image F11. When recognizing the other vehicle C1, the recognition processing unit 125 starts recognition processing of the license plate N1 of the other vehicle C1. For example, the recognition processing unit 125 performs recognition processing for the license plate N1 of the other vehicle C1 from the other vehicle detection frame Fc11 that includes the other vehicle C1 in the frame image F11. When the recognition processing unit 125 recognizes the license plate N1, it recognizes the information of the license plate N1. The recognition processing unit 125 recognizes information about the license plate N1, for example, from the license plate detection frame Fn11 that includes the license plate N1 within the other vehicle detection frame Fc11. For example, when the recognition processing unit 125 recognizes the information of the license plate N1 included in the recognized other vehicle C1 at a predetermined rate or more, the recognition processing unit 125 processes the information as having recognized the information of the license plate N1. The predetermined ratio is, for example, 50% or more of the characters written on the license plate N1, or 3 or more characters. In the first embodiment, the recognition processing unit 125 recognizes character information written on the license plate N1. When the recognition processing unit 125 recognizes the character information written on the other vehicle C1 and the license plate N1 of the other vehicle C1 in the frame image F11, the
図3に示すように、フレーム画像F12は、他車両C1を含み、他車両C1のナンバープレートN1を含まない。認識処理部125は、フレーム画像F12から、他車両C1を認識する。認識処理部125は、他車両C1を認識した場合、他車両C1のナンバープレートN1の認識処理を開始する。認識処理部125は、例えば、フレーム画像F12内の他車両C1を含む他車両検出枠Fc12から、他車両C1のナンバープレートN1の認識処理を開始する。対応付け処理部132は、認識処理部125が、フレーム画像F12においてナンバープレートN1の情報を認識しない場合、フレーム画像F11において対応付けられたナンバープレートN1に記された文字情報を、フレーム画像F12の他車両C1に対応付けて記憶する。また、図3のように、他車両C1のナンバープレートN1が含まれる画像であって、振動などによりナンバープレートN1が適切に認識できないフレーム画像に対しても、同様の対応付け処理が行われる。
As shown in FIG. 3, the frame image F12 includes the other vehicle C1 and does not include the license plate N1 of the other vehicle C1. The recognition processing unit 125 recognizes the other vehicle C1 from the frame image F12. When recognizing the other vehicle C1, the recognition processing unit 125 starts recognition processing of the license plate N1 of the other vehicle C1. For example, the recognition processing unit 125 starts recognition processing for the license plate N1 of the other vehicle C1 from the other vehicle detection frame Fc12 that includes the other vehicle C1 in the frame image F12. When the recognition processing unit 125 does not recognize the information on the license plate N1 in the frame image F12, the
対応付け処理部132は、認識処理部125が他車両C1を認識している間の映像データを構成するフレーム画像の少なくとも1つにおいて、他車両C1のナンバープレートN1の情報を認識した場合、他車両C1とナンバープレートN1に記された文字情報とを対応付ける。対応付け処理部132は、いずれかのフレーム画像F11において他車両C1とナンバープレートN1に記された文字情報とを対応付けた場合、ナンバープレートN1に記された文字情報を認識できないフレーム画像F12の他車両C1に、ナンバープレートN1に記された文字情報を対応付ける。他車両C1とナンバープレートN1に記された文字情報との対応付けは、認識処理部125が他車両C1を認識しなくなるまで維持される。
When the recognition processing unit 125 recognizes the information of the license plate N1 of the other vehicle C1 in at least one of the frame images constituting the video data while the recognition processing unit 125 is recognizing the other vehicle C1, the
[装置による処理]
図4および図5を用いて、第一実施形態に係る制御装置100による映像データの記録処理の流れを説明する。映像データの記録処理とは、ループ記録処理およびイベント記録データの保存処理を含む。図4は、第一実施形態に係る制御装置の記録処理の流れの一例を示すフローチャートである。図5は、第一実施形態に係る制御装置の機能を説明する概略図である。より詳しくは、図5は、他車両認識期間Pc1、ナンバープレート認識期間Pn1、対応付け期間Pm1および記録保存期間Ps1の一例を示す図である。他車両認識期間Pc1は、時刻t11から時刻t16までの、認識処理部125が他車両を認識している期間であり、図2および図3の場合は、他車両C1を認識している期間である。ナンバープレート認識期間Pn1は、時刻t12から時刻t13までの、認識処理部125が他車両のナンバープレートの情報を認識している期間であり、図2に示す一例の場合は、他車両C1のナンバープレートN1を認識している期間である。対応付け期間Pm1は、時刻t12から時刻t16までの、対応付け処理部132が他車両とナンバープレートの情報とを対応付けている期間であり、図2および図3に示す一例の場合は、他車両C1とナンバープレートN1の情報とを対応付けている期間である。記録保存期間Ps1は、時刻t14から時刻t15までの、イベント記録データとして記録される期間である。図4に示す処理は、制御装置100が、予め定められた制御プログラムおよびデータに基づいて実行する。制御装置100は、例えば、車両が動作可能となる、記録装置1に車両から電源が供給される、またはユーザなどから操作部40が受け付けた開始操作に関する所定の操作信号を、操作制御部126が受け付けることによって、図4に示すステップS101に移行して処理を開始する。
[Processing by device]
The flow of video data recording processing by the
図4に示すように、制御装置100は、撮像部10が撮影した映像データのループ記録処理、他車両およびナンバープレートの認識処理、対応付け処理、およびイベント検出処理を開始する(ステップS101)。より詳しくは、映像データ取得部120は、撮像部10が撮像した映像データの取得を開始する。バッファメモリ121は、映像データ取得部120が取得した映像データの一時的な記憶を開始する。映像データ処理部122は、バッファメモリ121が一時的に記憶する映像データのデータファイルとしての生成を開始する。記録制御部123は、映像データ処理部122が生成した映像データの記録部20への記録を開始させる。認識処理部125は、映像データ取得部120が取得した映像データを構成するフレーム画像から、他車両および他車両のナンバープレートの情報の認識処理を開始する。イベント検出部129は、センサ60から検出結果の受け付けを開始する。イベント検出部129は、受け付けた検出結果に基づいて、イベントの検出処理を開始する。
As shown in FIG. 4, the
図5に示すように、認識処理部125が時刻t11において他車両を認識すると、認識処理部125は、他車両のナンバープレートの情報の認識処理を行う。認識処理部125が時刻t12において他車両のナンバープレートの情報を認識すると、対応付け処理部132は、他車両とナンバープレートの情報とを対応付ける。認識処理部125が時刻t13においてナンバープレートを認識しなくなっても、対応付け処理部132は、他車両とナンバープレートの情報との対応付けを継続する。図5は、認識処理部125が、時刻t11から時刻t16までの期間、他車両を認識できているが、時刻t11から時刻t12までの期間、および時刻t13から時刻t16までの期間は、他車両が認識できているにもかかわらず、他車両のナンバープレートの情報が認識できていないことを示す。他車両のナンバープレートの情報が認識できていない理由としては、ナンバープレートが撮影範囲から外れたり、遮蔽されたりすることで写らなくなった状態か、ナンバープレートが写っているが車両の振動などの理由によって、ナンバープレートの情報が適切に認識できていない場合などである。
As shown in FIG. 5, when the recognition processing unit 125 recognizes another vehicle at time t11, the recognition processing unit 125 performs recognition processing of the information on the license plate of the other vehicle. When the recognition processing unit 125 recognizes the license plate information of another vehicle at time t12, the
図4に示すように、制御装置100は、ステップS101の処理を開始した後、ステップS102に移行し、車両に対するイベントが検出されたか否かを判断する(ステップS102)。より詳しくは、制御装置100は、イベント検出部129がイベントを検出したか否かを判断する。制御装置100は、イベントが検出された場合(ステップS102;Yes)、ステップS103に移行する。制御装置100は、イベントが検出されていない場合(ステップS102;No)、ステップS107に移行する。
As shown in FIG. 4, after starting the process in step S101, the
イベントが検出されたと判断された場合(ステップS102;Yes)、制御装置100は、他車両C1が認識されているか否かを判断する(ステップS103)。より詳しくは、制御装置100は、イベントが検出された時刻T1において、認識処理部125が他車両を既に認識しているか否かを判断する。制御装置100は、他車両が認識されている場合(ステップS103;Yes)、ステップS104に移行する。制御装置100は、他車両が認識されていない場合(ステップS103;No)、ステップS106に移行する。図5に示す一例の場合、イベントが検出された時刻T1の時点を含み、時刻T1より前の時刻t11から他車両が認識されているので、制御装置100は、他車両が認識されていると判断する。
If it is determined that an event has been detected (step S102; Yes), the
他車両が認識されている場合(ステップS103;Yes)、制御装置100は、認識されている他車両のナンバープレートの情報が認識されているか否かを判断する(ステップS104)。より詳しくは、制御装置100は、イベントが検出された時刻T1において、認識処理部125が他車両のナンバープレートの情報を既に認識しているか否かを判断する。制御装置100は、認識されている他車両のナンバープレートの情報が認識されている場合(ステップS104;Yes)、ステップS105に移行する。制御装置100は、認識されている他車両C1のナンバープレートの情報が認識されていない場合(ステップS104;No)、ステップS106に移行する。
If the other vehicle is recognized (step S103; Yes), the
図5に示す一例の場合、他車両が時刻t11で認識されてから、イベントが検出された時刻T1より前である時刻t12で他車両のナンバープレートが認識されているため、制御装置100は、認識されている他車両のナンバープレートの情報が認識されていると判断する。他車両認識期間Pc1であって、ナンバープレート認識期間Pn1より後の期間は、対応付け期間Pm1である。すなわち、図5に示す一例の場合、イベントが検出された時刻T1において、他車両とナンバープレートの情報とは、対応付けられている。ナンバープレート認識期間Pn1は、図5においては期間として例示したが、1フレームの映像のみナンバープレートが認識できた場合であっても、同様の対応付けが可能である。
In the case of the example shown in FIG. 5, since the other vehicle is recognized at time t11 and the license plate of the other vehicle is recognized at time t12, which is before time T1 when the event is detected, the
認識されている他車両のナンバープレートの情報が認識されている場合(ステップS104;Yes)、制御装置100は、イベント検出前後の映像データを上書き禁止のイベント記録データとして保存する(ステップS105)。この際、制御装置100は、認識されている他車両とナンバープレートの情報とを対応付けた状態で保存する。より詳しくは、記録制御部123は、図5に示すイベント検出の時刻T1を含む前後の記録保存期間Ps1の映像データを、認識されている他車両とナンバープレートの情報とを対応付けた状態で、イベント記録データとして記録部20に保存させる。制御装置100は、ステップS107に移行する。
If the information on the license plate of the recognized other vehicle is recognized (step S104; Yes), the
他車両が認識されていない場合(ステップS103;No)、または認識されている他車両のナンバープレートの情報が認識されていない場合(ステップS104;No)、制御装置100は、イベント検出前後の映像データを上書き禁止として保存する(ステップS106)。より詳しくは、記録制御部123は、イベント検出前後の映像データをイベント記録データとして記録部20に保存させる。この場合、他車両とナンバープレートの情報とは、対応付けられていないので保存されない。制御装置100は、ステップS107に移行する。
If the other vehicle is not recognized (step S103; No), or if the license plate information of the recognized other vehicle is not recognized (step S104; No), the
制御装置100は、撮像部10が撮影した映像データのループ記録処理、他車両およびナンバープレートの認識処理、対応付け処理、およびイベント検出処理を終了するか否かを判断する(ステップS107)。より詳しくは、制御装置100は、例えば、車両の動作が終了したか、記録装置1に車両から電源が供給されなくなったか、またはユーザなどから操作部40が受け付けた終了操作に関する所定の操作信号を、操作制御部126が受け付けたか否かを判断する。制御装置100は、ループ記録処理、認識処理、対応付け処理、およびイベント検出処理を終了すると判断した場合(ステップS107;Yes)、制御装置100は、図4に示すフローチャートの処理を終了する。制御装置100は、ループ記録処理、認識処理、対応付け処理、およびイベント検出処理を終了しないと判断した場合(ステップS107;No)、ステップS102に移行する。
The
制御装置100は、図4に示すフローチャートの処理を終了すると、撮像部10が撮影した映像データのループ記録処理、他車両およびナンバープレートの認識処理、対応付け処理、およびイベント検出処理を終了させる。より詳しくは、映像データ取得部120は、撮像部10が撮像した映像データの取得を終了する。バッファメモリ121は、映像データ取得部120が取得した映像データの一時的な記憶を終了する。映像データ処理部122は、バッファメモリ121が一時的に記憶する映像データのデータファイルとしての生成を終了する。記録制御部123は、映像データ処理部122が生成したループ記録映像データの記録部20への記録を終了させる。認識処理部125は、映像データ取得部120が取得した映像データを構成するフレーム画像F11から、他車両および他車両のナンバープレートの情報の認識処理を終了する。イベント検出部129は、センサ60から検出結果の受け付けを終了する。イベント検出部129は、受け付けた検出結果に基づいて、イベントの検出処理を終了する。
When the
以上説明したように、第一実施形態の記録装置1は、他車両を認識している状態において他車両のナンバープレートの情報を認識すると、他車両とナンバープレートの情報とを対応付ける。記録装置1は、ナンバープレートを認識しなくなっても、他車両とナンバープレートの情報との対応付けを継続する。これにより、イベントの発生を検出した前後のイベント記録データにおいて、ナンバープレートの情報を認識できなくても、記録装置1は、既に対応付けられたナンバープレートの情報を他車両に対応付けることができる。このため、記録装置1は、撮影対象の他車両の好適な特定に寄与できる。記録装置1は、例えば、事故の検証に有用なイベント記録データを提供することができる。
As described above, when the
(第二実施形態)
[装置による処理]
図6および図7を用いて、第二実施形態に係る制御装置100による映像データの記録処理の流れを説明する。映像データの記録処理とは、ループ記録処理およびイベント記録データの保存処理を含む。図6は、第二実施形態に係る制御装置の記録処理の流れの一例を示すフローチャートである。図7は、第二実施形態に係る制御装置の機能を説明する概略図である。より詳しくは、図7は、他車両認識期間Pc2、ナンバープレート認識期間Pn2、対応付け期間Pm2および記録保存期間Ps2の一例を示す図である。他車両認識期間Pc2は、時刻t21から時刻t24までの、認識処理部125が他車両を認識している期間であり、図2および図3に示す一例の場合は、他車両C1を認識している期間である。ナンバープレート認識期間Pn2は、時刻t22から時刻t23までの、認識処理部125が他車両のナンバープレートの情報を認識している期間であり、図2に示す一例の場合は、他車両C1のナンバープレートN1を認識している期間である。対応付け期間Pm2は、時刻t21から時刻t24までの、対応付け処理部132が他車両とナンバープレートの情報とを対応付けている期間であり、図2および図3に示す一例の場合は、他車両C1とナンバープレートN1の情報とを対応付けている期間である。記録保存期間Ps2は、時刻t21から時刻t24までの、イベント記録データとして記録される期間である。図6に示す処理は、制御装置100が、予め定められた制御プログラムおよびデータに基づいて実行する。制御装置100は、例えば、車両が動作可能となる、記録装置1に車両から電源が供給される、またはユーザなどから操作部40が受け付けた開始操作に関する所定の操作信号を、操作制御部126が受け付けることによって、図6に示すステップS121に移行して処理を開始する。
(Second embodiment)
[Processing by device]
The flow of video data recording processing by the
図6に示すように、制御装置100は、撮像部10が撮影した映像データのループ記録処理、およびイベント検出処理を開始する(ステップS121)。より詳しくは、映像データ取得部120は、撮像部10が撮像した映像データの取得を開始する。バッファメモリ121は、映像データ取得部120が取得した映像データの一時的な記憶を開始する。映像データ処理部122は、バッファメモリ121が一時的に記憶する映像データのデータファイルとしての生成を開始する。記録制御部123は、映像データ処理部122が生成した映像データを記録部20へ記録させる。イベント検出部129は、センサ60から検出結果の受け付けを開始する。イベント検出部129は、受け付けた検出結果に基づいて、イベントの検出処理を開始する。制御装置100は、ステップS122に移行する。
As shown in FIG. 6, the
制御装置100は、イベントが検出されたか否かを判断する(ステップS122)。より詳しくは、制御装置100は、イベント検出部129がイベントを検出したか否かを判断する。制御装置100は、イベントが検出された場合(ステップS122;Yes)、ステップS123に移行する。制御装置100は、イベントが検出されていない場合(ステップS122;No)、ステップS130に移行する。
The
イベントが検出された場合(ステップS122;Yes)、制御装置100は、他車両およびナンバープレートの認識処理を開始する(ステップS123)。より詳しくは、認識処理部125は、イベントが検出された時刻T2を含むバッファメモリ121における映像データの初めから、他車両および他車両のナンバープレートの情報の認識処理を開始する。認識処理部125は、映像データを構成するフレーム画像から、他車両および他車両のナンバープレートの情報の認識処理を行う。制御装置100は、ステップS124に移行する。
If an event is detected (step S122; Yes), the
制御装置100は、他車両が認識されているか否かを判断する(ステップS124)。より詳しくは、制御装置100は、イベントが検出された時刻T2を含むバッファメモリ121における映像データにおいて、認識処理部125が他車両を認識しているか否かを判断する。制御装置100は、他車両が認識されている場合(ステップS124;Yes)、ステップS125に移行する。制御装置100は、他車両が認識されていない場合(ステップS124;No)、ステップS128に移行する。図7に示す一例の場合、認識処理部125は、イベントが検出された時刻T2を含むバッファメモリ121における映像データから、時刻t21から時刻t24までの他車両認識期間Pc2において他車両を認識する。
The
他車両が認識されている場合(ステップS124;Yes)、制御装置100は、認識されている他車両のナンバープレートの情報が認識されているか否かを判断する(ステップS125)。より詳しくは、制御装置100は、イベントが検出された時刻T2を含むバッファメモリ121における映像データにおいて、認識処理部125が他車両のナンバープレートの情報を認識しているか否かを判断する。制御装置100は、認識されている他車両C1のナンバープレートの情報が認識されている場合(ステップS125;Yes)、ステップS126に移行する。制御装置100は、認識されている他車両のナンバープレートの情報が認識されていない場合(ステップS125;No)、ステップS128に移行する。図7に示す一例の場合、認識処理部125は、他車両認識期間Pc2の映像データから、時刻t22から時刻t23までの期間で、ナンバープレートN1の情報が認識できているため、この期間をナンバープレート認識期間Pn2とする。
If the other vehicle is recognized (step S124; Yes), the
認識されている他車両のナンバープレートの情報が認識されている場合(ステップS125;Yes)、制御装置100は、認識されている他車両とナンバープレートの情報とを対応付けする(ステップS126)。より詳しくは、対応付け処理部132は、他車両を認識している間の映像データを構成するフレーム画像の少なくとも1つにおいて、他車両のナンバープレートの情報を認識した場合、他車両とナンバープレートの情報とを対応付ける。図7に示す一例の場合、対応付け処理部132は、他車両認識期間Pc2と一致する対応付け期間Pm2の他車両に、ナンバープレートの情報を対応付ける。すなわち、対応付け処理部132は、ナンバープレートを認識した時刻t22より遡って、他車両とナンバープレートの情報とを対応付ける。
If the license plate information of the recognized other vehicle is recognized (step S125; Yes), the
ステップS126の処理を実行すると、制御装置100は、ステップS127に移行する。制御装置100は、イベント検出前後の映像データを上書き禁止としたイベント記録データとして保存する(ステップS127)。この際、制御装置100は、認識されている他車両とナンバープレートの情報とを対応付けた状態で保存する。より詳しくは、記録制御部123は、図7に示すイベント検出の時刻T2を含む前後の記録保存期間Ps2の映像データを、認識されている他車両とナンバープレートの情報とを対応付けた状態で、イベント記録データとして記録部20に保存させる。図7に示す一例のように、記録保存期間Ps2は、他車両認識期間Pc2および対応付け期間Pm2と一致する。図6に示すように、制御装置100は、ステップS129に移行する。
After executing the process in step S126, the
他車両が認識されていない場合(ステップS124;No)、または認識されている他車両のナンバープレートの情報が認識されていない場合(ステップS125;No)、制御装置100は、イベント検出前後の映像データを上書き禁止として保存する(ステップS128)。より詳しくは、記録制御部123は、イベント検出前後の映像データをイベント記録データとして記録部20に保存させる。この場合、他車両とナンバープレートの情報とは、対応付けられていないので保存されない。制御装置100は、ステップS129に移行する。
If the other vehicle is not recognized (Step S124; No), or if the license plate information of the recognized other vehicle is not recognized (Step S125; No), the
制御装置100は、他車両およびナンバープレートの認識処理を終了する(ステップS129)。認識処理部125は、映像データ取得部120が取得した映像データを構成するフレーム画像から、他車両および他車両のナンバープレートの情報の認識処理を終了する。制御装置100は、ステップS130に移行する。
The
制御装置100は、撮像部10が撮影した映像データのループ記録処理、およびイベント検出処理を終了するか否かを判断する(ステップS130)。より詳しくは、制御装置100は、例えば、車両の動作が終了したか、記録装置1に車両から電源が供給されなくなったか、またはユーザなどから操作部40が受け付けた終了操作に関する所定の操作信号を、操作制御部126が受け付けたか否かを判断する。制御装置100は、ループ記録処理およびイベント検出処理を終了すると判断した場合(ステップS130;Yes)、制御装置100は、図6に示すフローチャートの処理を終了する。制御装置100は、ループ記録処理およびイベント検出処理を終了しないと判断した場合(ステップS130;No)、ステップS122に移行する。
The
制御装置100は、図6に示すフローチャートの処理を終了すると、撮像部10が撮影した映像データのループ記録処理、およびイベント検出処理を終了させる。より詳しくは、映像データ取得部120は、撮像部10が撮像した映像データの取得を終了する。バッファメモリ121は、映像データ取得部120が取得した映像データの一時的な記憶を終了する。映像データ処理部122は、バッファメモリ121が一時的に記憶する映像データのデータファイルとしての生成を終了する。記録制御部123は、映像データ処理部122が生成したループ記録映像データの記録部20への記録を終了させる。イベント検出部129は、センサ60から検出結果の受け付けを終了する。イベント検出部129は、受け付けた検出結果に基づいて、イベントの検出処理を終了する。
When the
以上説明したように、第二実施形態の記録装置1は、イベントの発生を検出した場合、イベントが検出された時刻T2を含むバッファメモリ121における映像データから他車両および他車両のナンバープレートの情報の認識処理を行う。記録装置1は、他車両および他車両のナンバープレートの情報を認識した場合、他車両を認識している期間において、他車両とナンバープレートの情報とを対応付ける。対応付け処理部132は、ナンバープレートを認識した時刻t22より遡って、他車両とナンバープレートの情報とを対応付ける。このように、記録装置1は、ナンバープレートを認識していない期間においても、他車両とナンバープレートの情報とを対応付ける。これにより、イベントの発生を検出した時刻T2のフレーム画像において、ナンバープレートの情報を認識できなくても、記録装置1は、他車両とナンバープレートの情報とを対応付けることができる。このため、記録装置1は、撮影対象の他車両の好適な特定に寄与できる。
As explained above, when the
次に、図8から図10を用いて、第一実施形態および第二実施形態に係る制御装置100で対応付け処理が行われたイベント記録データの再生処理の流れを説明する。図8は、制御装置の再生処理の流れの一例を示すフローチャートである。図8の処理は、記録装置1で実行されてもよく、記録装置1で保存したイベント記録データを、他の装置で再生する場合に、他の装置で実行されてもよい。図8に示す処理は、制御装置100が、予め定められた制御プログラムおよびデータに基づいて実行する。制御装置100は、例えば、記録装置1の電源がONされることによって、図8に示すステップS111に移行して処理を開始する。
Next, with reference to FIGS. 8 to 10, a flow of a process for reproducing event record data on which association processing has been performed by the
制御装置100は、イベント記録データの再生開始の指示があったか否かを判断する(ステップS111)。より詳しくは、制御装置100は、例えば、ユーザなどから操作部40が受け付けた再生開始操作に関する所定の操作信号を、操作制御部126が受け付けたか否かを判断する。制御装置100は、イベント記録データの再生開始の指示があったと判断した場合(ステップS111;Yes)、ステップS112に移行する。制御装置100は、イベント記録データの再生開始の指示がなかったと判断した場合(ステップS111;No)、制御装置100は、所定の周期毎にステップST111を繰り返し実行するか、本処理を終了する。
The
イベント記録データの再生開始の指示があった場合(ステップS111;Yes)、制御装置100は、対応付けられたナンバープレートの情報があるか否かを判断する(ステップS112)。より詳しくは、制御装置100は、イベント記録データに記録された他車両の映像データに、ナンバープレートの情報が対応付けられているか否かを判断する。制御装置100は、対応付けられたナンバープレートの情報がある場合(ステップS112;Yes)、ステップS113に移行する。制御装置100は、対応付けられたナンバープレートの情報がない場合(ステップS112;No)、ステップS114に移行する。
If there is an instruction to start playing the event record data (step S111; Yes), the
対応付けられたナンバープレートの情報がある場合(ステップS112;Yes)、制御装置100は、ナンバープレートの情報が表示されるようにイベント記録データの再生処理を開始する(ステップS113)。より詳しくは、制御装置100は、イベント記録データの他車両の映像データに、ナンバープレートの対応付けデータを対応付けた状態で、再生制御部124にイベント記録データの再生処理を開始させる。制御装置100は、ステップS115に移行する。
If there is associated license plate information (step S112; Yes), the
対応付けられたナンバープレートの情報がない場合(ステップS112;No)、制御装置100は、イベント記録データの再生処理を開始する(ステップS114)。より詳しくは、制御装置100は、再生制御部124にイベント記録データの再生処理を開始させる。制御装置100は、ステップS115に移行する。
If there is no associated license plate information (step S112; No), the
制御装置100は、ステップS113またはステップS114の処理を行った後、イベント記録データの再生が終了したか否かを判断する(ステップS115)。より詳しくは、制御装置100は、例えば、イベント記録データの再生が最後まで終了した場合、ユーザなどから操作部40が受け付けた再生終了操作に関する所定の操作信号を、操作制御部126が受け付けた場合などに、イベント記録データの再生が終了したと判断する。制御装置100は、イベント記録データの再生が終了したと判断した場合(ステップS115;Yes)、制御装置100は、図8に示すフローチャートの処理を終了する。制御装置100は、イベント記録データの再生が終了していないと判断した場合(ステップS115;No)、制御装置100は、ステップS115に移行する。
After performing the process of step S113 or step S114, the
制御装置100は、図8に示すフローチャートの処理を終了すると、イベント記録データの再生処理を終了する。より詳しくは、制御装置100は、再生制御部124にイベント記録データの再生処理を終了させる。
When the
図9は、再生画面の一例を示す模式図である。図10は、図9に対応する別の再生画面の一例を示す模式図である。図9および図10は、図8に示すステップS113の再生処理で表示部50に表示されるイベント記録データの再生画像を模式的に示す図である。 FIG. 9 is a schematic diagram showing an example of a playback screen. FIG. 10 is a schematic diagram showing an example of another playback screen corresponding to FIG. 9. 9 and 10 are diagrams schematically showing reproduced images of event record data displayed on the display unit 50 in the reproduction process of step S113 shown in FIG. 8.
図9に示すように、表示画像F31には、他車両C3と他車両C3のナンバープレートN3が含まれている。図9は、認識処理部125が、表示画像F31を構成するフレーム画像から、他車両C3を認識している状態であり、さらに他車両C3のナンバープレートN3を認識している状態である。図9は、イベント記録データとして映像データが保存された期間、またはイベント記録データの前後の期間の映像データに含まれている他車両C3のナンバープレートN3の情報が認識されており、他車両C3のナンバープレートN3の情報が対応付けデータDm3として表示されていることを示す。対応付けデータDm3の表示方法は実施形態に限定されない。イベント記録データの再生においては、他車両検出枠Fc31およびナンバープレート検出枠Fn31は表示されなくてもよい。 As shown in FIG. 9, the display image F31 includes the other vehicle C3 and the license plate N3 of the other vehicle C3. FIG. 9 shows a state in which the recognition processing unit 125 recognizes the other vehicle C3 from the frame images that constitute the display image F31, and also recognizes the license plate N3 of the other vehicle C3. FIG. 9 shows that the information of the license plate N3 of the other vehicle C3 included in the video data of the period in which the video data was saved as event record data or the period before and after the event record data is recognized, and the information of the license plate N3 of the other vehicle C3 is recognized. This shows that the information on the license plate N3 is displayed as the association data Dm3. The method of displaying the association data Dm3 is not limited to the embodiment. When reproducing the event record data, the other vehicle detection frame Fc31 and the license plate detection frame Fn31 do not need to be displayed.
図10に示すように、表示画像F32は、他車両C3が含まれているが、他車両C3のナンバープレートN3を含まない。このような場合であっても、イベント記録データとして映像データが保存された期間、またはイベント記録データの前後の期間の映像データに含まれている他車両C3のナンバープレートN3の情報が認識されているため、他車両C3に対して、対応付けデータDm3を表示することができる。また、図示していないが、フレーム画像に他車両C3と他車両C3のナンバープレートN3が含まれている場合であっても、車両の振動などによって、ナンバープレートN3の情報が認識できない場合もある。このような場合であっても、図9同様に、対応付けデータDm3を表示することができる。イベント記録データの再生においては、対応付けデータDm3の表示方法は実施形態に限定されない。他車両検出枠Fc32およびナンバープレート検出枠Fn32は表示されなくてもよい。 As shown in FIG. 10, the display image F32 includes the other vehicle C3, but does not include the license plate N3 of the other vehicle C3. Even in such a case, the information on the license plate N3 of the other vehicle C3 included in the period in which the video data was saved as event record data or in the video data in the period before and after the event record data is recognized. Therefore, the association data Dm3 can be displayed for the other vehicle C3. Furthermore, although not shown, even if the frame image includes the other vehicle C3 and the license plate N3 of the other vehicle C3, the information on the license plate N3 may not be recognized due to vibrations of the vehicle, etc. . Even in such a case, the association data Dm3 can be displayed as in FIG. 9. In the reproduction of event record data, the method of displaying the association data Dm3 is not limited to the embodiment. Other vehicle detection frame Fc32 and license plate detection frame Fn32 may not be displayed.
対応付け処理部132は、認識処理部125が他車両を認識している間の映像データを構成するフレーム画像の少なくとも1つにおいて、他車両のナンバープレートの情報を認識した場合、他車両とナンバープレートの画像情報とを対応付ける。対応付け処理部132は、いずれかのフレーム画像から他車両とナンバープレートの画像情報とを対応付けた場合、ナンバープレートの画像情報を認識できないフレーム画像の他車両に、ナンバープレートの画像情報を対応付ける。他車両とナンバープレートの画像情報との対応付けは、認識処理部125が他車両を認識しなくなるまで維持される。
If the recognition processing unit 125 recognizes license plate information of another vehicle in at least one of the frame images constituting the video data while the recognition processing unit 125 is recognizing the other vehicle, the
以上説明したように、記録装置1は、第一実施形態および第二実施形態の処理で対応付けられたナンバープレートの情報を、イベント記録データに対応付けて再生する。このため、イベント記録データの再生中に、ナンバープレートの情報が認識処理部125で認識できない期間がある場合や、目視でナンバープレート情報が確認できない場合であっても、適切にナンバープレートの情報を確認することができる。記録装置1は、認識できたナンバープレートの情報を、図9および図10に示すように、ナンバープレートの情報が認識できたフレーム画像におけるナンバープレートの画像情報を他車両に対応付ける。これにより、ナンバープレートの形状および色彩などから、汚れまたは改造などのナンバープレートの状況が推測できる。
As explained above, the
図9および図10の例においては、対応付けデータDm3として、ナンバープレートの情報が認識処理部125で認識されたフレーム画像のナンバープレートを含む画像を、イベント記録データにおける他車両と対応付けができるように表示したが、認識処理部125で認識されたナンバープレートに記されている文字情報を図9および図10の対応付けデータDm3に代えて表示することとしてもよい。 In the examples of FIGS. 9 and 10, as the association data Dm3, an image including the license plate of a frame image whose license plate information has been recognized by the recognition processing unit 125 can be associated with another vehicle in the event record data. However, the character information written on the license plate recognized by the recognition processing unit 125 may be displayed instead of the association data Dm3 in FIGS. 9 and 10.
上述したように、本発明にかかる記録装置1は、撮影対象の他車両の好適な特定に寄与できる。記録装置1は、例えば、事故の検証に有用なイベント記録データを提供することができる。
As described above, the
図示した記録装置1の構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、記録装置の具体的形態は、図示のものに限られず、記録装置の処理負担や使用状況などに応じて、その全部又は一部を任意の単位で機能的又は物理的に分散又は統合してもよい。
The illustrated components of the
記録装置1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェア又はソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、又は、それらの組み合わせによって種々の形で実現できる。
The configuration of the
1 記録装置
10 撮像部
20 記録部
30 認識辞書記憶部
40 操作部
50 表示部
60 センサ
70 GPS受信部
80 IF部(CANインターフェース部)
100 制御装置(車両用記録制御装置)
110 バス
120 映像データ取得部
121 バッファメモリ
122 映像データ処理部
123 記録制御部
124 再生制御部
125 認識処理部
126 操作制御部
127 表示制御部
128 センサ情報取得部
129 イベント検出部
130 位置情報取得部
131 車両情報取得部
132 対応付け処理部
F11、F12 フレーム画像
F31、F32 表示画像
Fc11、Fc12、Fc31、Fc32 他車両検出枠
Fn11、Fn31 ナンバープレート検出枠
C1、C3 他車両
N1、N3 ナンバープレート
Dm3 対応付けデータ
1 Recording
100 Control device (vehicle recording control device)
110
Claims (7)
前記映像データ取得部が取得した映像データを構成するフレーム画像から、他車両および認識された他車両のナンバープレートに記された情報を認識する認識処理部と、
前記認識処理部が他車両および認識された他車両のナンバープレートに記された情報を認識した場合、認識された他車両と認識された他車両のナンバープレートに記された情報とを対応付け、認識された他車両が含まれかつ認識された他車両のナンバープレートに記された情報が認識できないフレーム画像であっても、認識された他車両に対応付けられた他車両のナンバープレートに記された情報を、前記フレーム画像において認識された他車両に対応付ける対応付け処理部と、
前記車両に対するイベントを検出するイベント検出部と、
前記イベント検出部がイベントの発生を検出した場合、イベントの検出に対応する映像データを保存する記録制御部と、
を備え、
前記認識処理部は、イベントの検出に対応する映像データを構成するフレーム画像から、他車両および前記他車両のナンバープレートに記された情報を認識し、
前記対応付け処理部は、前記認識処理部が他車両および前記他車両のナンバープレートに記された情報を認識した場合、前記他車両が認識されている全てのフレーム画像において他車両と認識された他車両のナンバープレートに記された情報とを対応付ける、車両用記録制御装置。 a video data acquisition unit that acquires video data captured by an imaging unit that photographs the surroundings of the vehicle;
a recognition processing unit that recognizes information written on the other vehicle and the recognized license plate of the other vehicle from frame images constituting the video data acquired by the video data acquisition unit;
When the recognition processing unit recognizes the other vehicle and the information written on the license plate of the recognized other vehicle, associating the recognized other vehicle with the information written on the license plate of the recognized other vehicle, Even if the frame image includes a recognized other vehicle and the information written on the license plate of the recognized other vehicle cannot be recognized, the information written on the license plate of the other vehicle associated with the recognized other vehicle may not be recognized. an association processing unit that associates the information with other vehicles recognized in the frame image;
an event detection unit that detects an event for the vehicle;
a recording control unit that stores video data corresponding to the event detection when the event detection unit detects the occurrence of an event;
Equipped with
The recognition processing unit recognizes the other vehicle and information written on the license plate of the other vehicle from a frame image forming video data corresponding to event detection,
When the recognition processing unit recognizes the other vehicle and the information written on the license plate of the other vehicle, the association processing unit determines that the other vehicle is recognized in all frame images in which the other vehicle is recognized. A vehicle recording control device that correlates information written on the license plates of other vehicles .
前記再生制御部によって再生されたイベントの検出に対応する映像データと、認識された他車両に対応付けられたナンバープレートに記された情報を表示部に表示させる表示制御部と、
をさらに備える、請求項1に記載の車両用記録制御装置。 a playback control unit that plays back video data corresponding to event detection stored by the recording control unit;
a display control unit that causes a display unit to display video data corresponding to the detection of the event reproduced by the reproduction control unit and information written on a license plate associated with the recognized other vehicle;
The vehicle recording control device according to claim 1 , further comprising:
請求項1または2に記載の車両用記録制御装置。 When the recognition processing unit recognizes a predetermined percentage or more of information written on the license plate included in the range of the recognized other vehicle, the association processing unit is configured to identify the recognized other vehicle as the recognized other vehicle. to match the information written on the license plate of
The vehicle recording control device according to claim 1 or 2 .
請求項1から3のいずれか1項に記載の車両用記録制御装置。 The association processing unit associates the recognized other vehicle with character information written on the license plate of the recognized other vehicle.
The vehicle recording control device according to any one of claims 1 to 3 .
請求項1から3のいずれか1項に記載の車両用記録制御装置。 The association processing unit associates the recognized other vehicle with image information of a license plate of the recognized other vehicle.
The vehicle recording control device according to any one of claims 1 to 3 .
前記映像データ取得ステップで取得した映像データを構成するフレーム画像から、他車両および認識された他車両のナンバープレートに記された情報を認識する認識ステップと、
前記認識ステップで他車両および認識された他車両のナンバープレートに記された情報を認識した場合、認識された他車両と認識された他車両のナンバープレートに記された情報とを対応付け、認識された他車両が含まれかつ認識された他車両のナンバープレートに記された情報が認識できないフレーム画像であっても、認識された他車両に対応付けられた他車両のナンバープレートに記された情報を、前記フレーム画像において認識された他車両に対応付ける対応付け処理ステップと、
前記車両に対するイベントを検出するイベント検出ステップと、
前記イベント検出ステップにおいてイベントの発生を検出した場合、イベントの検出に対応する映像データを保存する記録ステップと、
を含み、
前記認識ステップでは、イベントの検出に対応する映像データを構成するフレーム画像から、他車両および前記他車両のナンバープレートに記された情報を認識し、
前記対応付け処理ステップでは、前記認識ステップにおいて他車両および前記他車両のナンバープレートに記された情報を認識した場合、前記他車両が認識されている全てのフレーム画像において他車両と認識された他車両のナンバープレートに記された情報とを対応付ける、車両用記録制御装置が実行する記録制御方法。 a video data acquisition step of acquiring video data captured by an imaging unit that photographs the surroundings of the vehicle;
a recognition step of recognizing information written on the other vehicle and the recognized license plate of the other vehicle from frame images forming the video data acquired in the video data acquisition step;
When the other vehicle and the information written on the license plate of the recognized other vehicle are recognized in the recognition step, the recognized other vehicle and the information written on the recognized license plate of the other vehicle are associated and recognized. Even if the frame image contains a recognized other vehicle and the information written on the license plate of the recognized other vehicle cannot be recognized, the information written on the license plate of the other vehicle associated with the recognized other vehicle may not be recognized. an association processing step of associating the information with other vehicles recognized in the frame image;
an event detection step of detecting an event for the vehicle;
When the occurrence of an event is detected in the event detection step, a recording step of storing video data corresponding to the detection of the event;
including;
In the recognition step, the other vehicle and the information written on the license plate of the other vehicle are recognized from a frame image forming video data corresponding to the detection of the event;
In the association processing step, when the other vehicle and the information written on the license plate of the other vehicle are recognized in the recognition step, the other vehicle is recognized as the other vehicle in all frame images in which the other vehicle is recognized. A recording control method executed by a vehicle recording control device that associates information written on a vehicle's license plate .
車両の周辺を撮影する撮像部が撮影した映像データを取得する映像データ取得ステップと、
前記映像データ取得ステップで取得した映像データを構成するフレーム画像から、他車両および認識された他車両のナンバープレートに記された情報を認識する認識ステップと、
前記認識ステップで他車両および認識された他車両のナンバープレートに記された情報を認識した場合、認識された他車両と認識された他車両のナンバープレートに記された情報とを対応付け、認識された他車両が含まれかつ認識された他車両のナンバープレートに記された情報が認識できないフレーム画像であっても、認識された他車両に対応付けられた他車両のナンバープレートに記された情報を、前記フレーム画像において認識された他車両に対応付ける対応付け処理ステップと、
前記車両に対するイベントを検出するイベント検出ステップと、
前記イベント検出ステップにおいてイベントの発生を検出した場合、イベントの検出に対応する映像データを保存する記録ステップと、
を実行させ、
前記認識ステップでは、イベントの検出に対応する映像データを構成するフレーム画像から、他車両および前記他車両のナンバープレートに記された情報を認識し、
前記対応付け処理ステップでは、前記認識ステップにおいて他車両および前記他車両のナンバープレートに記された情報を認識した場合、前記他車両が認識されている全てのフレーム画像において他車両と認識された他車両のナンバープレートに記された情報とを対応付けるプログラム。 A computer that operates as a vehicle recording control device,
a video data acquisition step of acquiring video data captured by an imaging unit that photographs the surroundings of the vehicle;
a recognition step of recognizing information written on the other vehicle and the recognized license plate of the other vehicle from frame images forming the video data acquired in the video data acquisition step;
When the other vehicle and the information written on the license plate of the recognized other vehicle are recognized in the recognition step, the recognized other vehicle and the information written on the recognized license plate of the other vehicle are associated and recognized. Even if the frame image contains a recognized other vehicle and the information written on the license plate of the recognized other vehicle cannot be recognized, the information written on the license plate of the other vehicle associated with the recognized other vehicle may not be recognized. an association processing step of associating the information with other vehicles recognized in the frame image;
an event detection step of detecting an event for the vehicle;
When the occurrence of an event is detected in the event detection step, a recording step of storing video data corresponding to the detection of the event;
run the
In the recognition step, the other vehicle and the information written on the license plate of the other vehicle are recognized from a frame image forming video data corresponding to the detection of the event;
In the association processing step, when the other vehicle and the information written on the license plate of the other vehicle are recognized in the recognition step, the other vehicle is recognized as the other vehicle in all frame images in which the other vehicle is recognized. A program that correlates information written on a vehicle's license plate .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019120031A JP7351111B2 (en) | 2019-06-27 | 2019-06-27 | Vehicle recording control device, recording control method and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019120031A JP7351111B2 (en) | 2019-06-27 | 2019-06-27 | Vehicle recording control device, recording control method and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2021005314A JP2021005314A (en) | 2021-01-14 |
| JP7351111B2 true JP7351111B2 (en) | 2023-09-27 |
Family
ID=74098207
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019120031A Active JP7351111B2 (en) | 2019-06-27 | 2019-06-27 | Vehicle recording control device, recording control method and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7351111B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114220285A (en) * | 2021-12-14 | 2022-03-22 | 中国电信股份有限公司 | Positioning and warning method and device for overspeed vehicle, electronic equipment and readable medium |
| CN116189143A (en) * | 2023-02-03 | 2023-05-30 | 深圳市旗畅科技有限公司 | A method, device, system, equipment and storage medium for intentionally leaving a car behavior |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019028760A (en) | 2017-07-31 | 2019-02-21 | 株式会社Jvcケンウッド | Image recording device, image recording method, and image recording program |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11126299A (en) * | 1997-08-18 | 1999-05-11 | Japan Aviation Electron Ind Ltd | Vehicle identification method, vehicle identification device using this identification method, parking lot management device, vehicle terminal device |
-
2019
- 2019-06-27 JP JP2019120031A patent/JP7351111B2/en active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019028760A (en) | 2017-07-31 | 2019-02-21 | 株式会社Jvcケンウッド | Image recording device, image recording method, and image recording program |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2021005314A (en) | 2021-01-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2020136943A1 (en) | Vehicle recording control device, vehicle recording device, vehicle recording control method, and program | |
| JP6828725B2 (en) | Recording / playback device, recording / playback method, and program | |
| EP4216179B1 (en) | Vehicle recording control device and vehicle recording control method | |
| US11685320B2 (en) | Vehicular recording control apparatus, vehicular recording apparatus, vehicular recording control method, and computer program | |
| US11539913B2 (en) | Recording control device, recording control system, recording control method, and computer program | |
| JP7351111B2 (en) | Vehicle recording control device, recording control method and program | |
| WO2020183798A1 (en) | Vehicle-use recording control device, vehicle-use imaging device, vehicle-use recording control method, and program | |
| US11995927B2 (en) | On-vehicle recording control apparatus, on-vehicle recording apparatus, on-vehicle recording control method, and non-transitory computer-readable recording medium | |
| JP2021034975A (en) | Recording control device, recording control method, and program | |
| JP7259661B2 (en) | VEHICLE RECORDING CONTROL DEVICE, VEHICLE RECORDING DEVICE, VEHICLE RECORDING CONTROL METHOD AND PROGRAM | |
| US12430957B2 (en) | On-vehicle recording control apparatus and recording control method | |
| JP7512847B2 (en) | Vehicle recording control device and vehicle recording control method | |
| JP7006815B2 (en) | Recorder / playback device, record / playback method, and program | |
| JP7367556B2 (en) | Recording control device, recording control method, and program | |
| JP2023063223A (en) | Vehicle recording control device and recording control method | |
| JP7192678B2 (en) | VEHICLE RECORDING CONTROL DEVICE, RECORDING CONTROL METHOD AND PROGRAM | |
| JP7831182B2 (en) | Vehicle recording control device and recording control method | |
| JP7218787B2 (en) | Recording/playback device | |
| JP2021040302A (en) | Recording control device, recording control method, and program | |
| JP7512846B2 (en) | Vehicle recording control device and vehicle recording control method | |
| JP7208493B2 (en) | Recording control device, recording control system, recording control method, and program | |
| JP7434919B2 (en) | Recording control device, recording control method, and program | |
| JP7680187B2 (en) | Recording control device, recording control method, and program | |
| JP6787423B2 (en) | Recording / playback control device, playback control device, recording / playback method and program | |
| JP7543651B2 (en) | Recording/playback control device, playback control device, display control method and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220428 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230222 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230322 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230502 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230815 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230828 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7351111 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |