Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6449355B2 - Method, program, and apparatus for detecting state of moving object - Google Patents
[go: Go Back, main page]

JP6449355B2 - Method, program, and apparatus for detecting state of moving object - Google Patents

Method, program, and apparatus for detecting state of moving object Download PDF

Info

Publication number
JP6449355B2
JP6449355B2 JP2017015465A JP2017015465A JP6449355B2 JP 6449355 B2 JP6449355 B2 JP 6449355B2 JP 2017015465 A JP2017015465 A JP 2017015465A JP 2017015465 A JP2017015465 A JP 2017015465A JP 6449355 B2 JP6449355 B2 JP 6449355B2
Authority
JP
Japan
Prior art keywords
state
score
time
feature
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017015465A
Other languages
Japanese (ja)
Other versions
JP2018124126A (en
Inventor
敏郎 松村
敏郎 松村
敬宇 蓑和
敬宇 蓑和
憲司 油利
憲司 油利
Original Assignee
株式会社アイエスピー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社アイエスピー filed Critical 株式会社アイエスピー
Priority to JP2017015465A priority Critical patent/JP6449355B2/en
Publication of JP2018124126A publication Critical patent/JP2018124126A/en
Application granted granted Critical
Publication of JP6449355B2 publication Critical patent/JP6449355B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Navigation (AREA)

Description

本発明は、携帯端末装置等に搭載されるセンサを用いて移動体の状態を検知するための方法等に関する。特に、ユーザの移動が徒歩によるものか、特定の乗物によるものか等をリアルタイム且つ高精度に検知することができる状態検知方法、プログラム、及び携帯端末装置等に関する。   The present invention relates to a method for detecting a state of a moving body using a sensor mounted on a mobile terminal device or the like. In particular, the present invention relates to a state detection method, a program, a portable terminal device, and the like that can detect in real time and with high accuracy whether the user moves by walking or by a specific vehicle.

スマートフォン等多機能携帯端末装置の普及に伴い、端末に搭載されたセンサのデータを解析して個人、及び/又は多人数のライフログを取得し、各種サービスに役立てる試みが行われるようになった。センサデータとして、加速度センサ、地磁気センサ、測位センサ等から取得されるデータが用いられる。   With the widespread use of multifunctional mobile terminal devices such as smartphones, attempts have been made to use data for individuals and / or many people by analyzing the data of sensors mounted on terminals and to make use of them for various services. . As sensor data, data acquired from an acceleration sensor, a geomagnetic sensor, a positioning sensor, or the like is used.

従来、複数の軸方向において移動対象の運動を検出して得られる情報に基づいて、複数の軸方向の二軸方向間の運動の関係性を示す相関値を算出する二軸方向相関値算出手段と、複数の軸方向の各軸方向について特徴量を算出する軸方向特徴量算出手段と、特徴量及び相関値に基づいて移動対象の移動状況を判定する移動状況判定手段とを有する移動状況判定装置が提案された(特開2013−195363号公報:特許文献1)。   Conventionally, a biaxial correlation value calculating means for calculating a correlation value indicating a relationship of motion between two axial directions of a plurality of axial directions based on information obtained by detecting the movement of a moving object in a plurality of axial directions And a movement status determination unit that calculates a feature value for each axial direction of a plurality of axial directions, and a movement status determination unit that determines the movement status of the movement target based on the feature value and the correlation value An apparatus has been proposed (Japanese Patent Laid-Open No. 2013-195363: Patent Document 1).

地磁気センサで検出された地磁気値を示す地磁気データを取得し、該取得した地磁気データが示す地磁気値の変化の大きさに基づいて、地磁気センサを携帯する利用者が、車で移動している状態か、電車で移動している状態か等を判定する方法が提案された(特開2014−66638号公報:特許文献2)。   A state in which the geomagnetic data indicating the geomagnetic value detected by the geomagnetic sensor is acquired, and the user carrying the geomagnetic sensor is moving by car based on the magnitude of the change in the geomagnetic value indicated by the acquired geomagnetic data Or a method for determining whether the vehicle is moving by train or the like (Japanese Patent Laid-Open No. 2014-66638: Patent Document 2).

乗り物移動状態における乗り物を区別して検出するための、加速度の検出を行う加速度センサと、磁気の検出を行う磁気センサと、加速度センサにより検出された加速度と、前記磁気センサにより検出された磁気の大きさの変化とに基づき移動状態の種別を判定する制御部と、を備える電子機器が提案された(特開2015−88905号公報:特許文献3)。   An acceleration sensor for detecting acceleration, a magnetic sensor for detecting magnetism, an acceleration detected by the acceleration sensor, and a magnitude of magnetism detected by the magnetic sensor for distinguishing and detecting a vehicle in a vehicle moving state There has been proposed an electronic device including a control unit that determines a type of movement state based on the change in the length (Japanese Patent Laid-Open No. 2015-88905: Patent Document 3).

また、GPS軌跡セグメントに基づきすべての測位点に速度や加速度などの特徴を持たせた系列表現を抽出する系列表現抽出部と、系列表現から系列特徴量抽出モデルを生成する系列特徴量抽出モデル生成部と、系列特徴量抽出モデル生成部で生成された系列特徴量抽出モデルを用いて、系列特徴量を抽出する系列特徴量抽出部と、推定モデルを生成する推定モデル生成部とを備えた移動手段推定モデル生成装置が提案された(特開2016−99110号公報:特許文献4)。   In addition, a series expression extraction unit that extracts a series expression in which all the positioning points have characteristics such as speed and acceleration based on the GPS trajectory segment, and a series feature quantity extraction model generation that generates a series feature quantity extraction model from the series expression And a sequence feature amount extraction unit that extracts a sequence feature amount using the sequence feature amount extraction model generated by the sequence feature amount extraction model generation unit, and an estimation model generation unit that generates an estimation model A means estimation model generation apparatus has been proposed (Japanese Patent Laid-Open No. 2006-99110: Patent Document 4).

特開2013−195363号公報JP 2013-195363 A 特開2014−66638号公報JP 2014-66638 A 特開2015−88905号公報Japanese Patent Laying-Open No. 2015-88905 特開2016−99110号公報JP-A-2016-99110

従来技術では、複数の状態を検知するために検知可能な状態を段階的、二者択一的に判定する等、処理が煩雑になりやすかった。また、段階的な判定では各段階が誤検知を含む恐れがあり、最終的に精度が十分ではなかった。また、スマートフォン等携帯端末装置での実装において、CPU等に負荷をかけることなく容易に検知を行うことについて十分に検討されず、実用性に乏しかった。   In the prior art, processing is likely to be complicated, such as stepwise or alternative determination of a detectable state in order to detect a plurality of states. Further, in the stepwise determination, each step may include erroneous detection, and the accuracy is not sufficient in the end. Moreover, in implementation in portable terminal devices, such as a smart phone, it was not fully examined about performing a detection easily, without applying load to CPU etc., and was lacking in practicality.

上記問題に鑑み本発明は、携帯端末装置等での実装に適した状態検知方法を提供することを目的とする。リアルタイム且つ高精度な検知を可能にすることで、ライフログ等の収集のみならず、日常の行動の見守り等種々の用途に活用し得る状態検知方法、プログラム、及び装置を提供することを目的とする。また、検知精度の向上のために有効な特徴量抽出及びモデルの設計を提供することを目的とする。   In view of the above problems, an object of the present invention is to provide a state detection method suitable for mounting on a portable terminal device or the like. It is intended to provide a state detection method, program, and apparatus that can be used for various purposes such as monitoring of daily activities as well as collecting life logs, etc. by enabling real-time and high-precision detection. To do. It is another object of the present invention to provide effective feature extraction and model design for improving detection accuracy.

本発明に係る一つの実施形態は、移動体の状態を検知するための方法であって、取得されたセンサ値からそれぞれ所定の時間間隔で複数の特徴量を算出するステップと、算出された複数の特徴量と、予め生成された少なくとも一つの計算モデルとを用いて、第1の時刻において検知され得る複数の状態に関する複数の状態スコアをそれぞれ計算するステップと、複数の状態スコアに基づいて、第1の時刻における単一の状態を決定するステップと、を含む。   One embodiment according to the present invention is a method for detecting a state of a moving body, the step of calculating a plurality of feature amounts at predetermined time intervals from acquired sensor values, and the calculated plurality of features Each of calculating a plurality of state scores relating to a plurality of states that can be detected at the first time using the feature amount and at least one calculation model generated in advance, and based on the plurality of state scores, Determining a single state at a first time.

本発明によれば、複数の状態スコアに基づいて移動体の状態が一意的に識別される。状態スコアを計算するための計算モデルが予め生成されるので、煩雑な判定処理等を行う必要がなく、容易に誤検知が低減された検知を行うことができる。   According to the present invention, the state of the moving body is uniquely identified based on the plurality of state scores. Since a calculation model for calculating the state score is generated in advance, it is not necessary to perform complicated determination processing and the like, and detection with reduced false detection can be easily performed.

単一の状態は複数の時刻毎に順次決定され、単一の状態の開始、単一の状態の継続、及び/又は単一の状態の終了が決定され得る。   A single state may be determined sequentially at multiple times and a single state start, a single state continuation, and / or a single state end may be determined.

本発明によれば、例えば、移動体が「徒歩移動」の状態から「車移動」の状態となったこと等をリアルタイムに検知することができる。例えば、移動体が児童であれば、検知結果の通知の設定などにより保護者等が「スケジュールどおりである」ことや、「徒歩移動のはずであるところ、不測の事態が起こった可能性がある」こと等を把握し得る。   According to the present invention, for example, it is possible to detect in real time that the moving body has changed from a “walking movement” state to a “car movement” state. For example, if the moving body is a child, the guardian may be “on schedule” or “an unexpected situation may have occurred where it should have moved on foot, depending on the detection notification settings, etc. ”Can be grasped.

少なくとも一つの計算モデルは、状態スコア間の大小関係を明示するように予め学習された重み、バイアス、及び計算アルゴリズムを含むことが好ましい。   The at least one calculation model preferably includes weights, biases, and calculation algorithms that are pre-learned to specify a magnitude relationship between state scores.

このようにすることで、例えば、検知対象の状態が多数(3以上、4以上、5以上、10以上等)であっても、ある時刻(期間)における状態を矛盾なく、一意的に決定し得る。   By doing so, for example, even if there are many detection target states (3 or more, 4 or more, 5 or more, 10 or more, etc.), the state at a certain time (period) is uniquely determined without contradiction. obtain.

少なくとも一つの計算モデルは3つ以上のモデルであり、複数の特徴量のうちの第1のセットから第1のスコアを計算するための第1モデルと、複数の特徴量のうちの第2のセットから第2のスコアを計算するための第2モデルと、少なくとも第1のスコア及び第2のスコアを特徴量として複数の状態スコアを計算するための第3モデルとを含んでよい。   The at least one calculation model is three or more models, a first model for calculating a first score from the first set of the plurality of feature quantities, and a second of the plurality of feature quantities. A second model for calculating a second score from the set, and a third model for calculating a plurality of state scores using at least the first score and the second score as feature quantities may be included.

上記のようにすることで、対象の検知に最適な特徴量(のセット)を用いる一つのモデルで検知精度を向上させるとともに、モデル間の調整によりさらに誤検知を低減させることができる。   As described above, detection accuracy can be improved with one model using a feature amount (set) that is optimal for target detection, and false detection can be further reduced by adjustment between models.

単一の状態は、少なくとも状態スコアが所定の閾値を超えることにより決定されてよい。本発明によれば、状態スコアを所定の閾値に基づいて判定することで、精度のよい判定が可能である。   A single state may be determined by at least a state score exceeding a predetermined threshold. According to the present invention, accurate determination is possible by determining the state score based on a predetermined threshold.

センサ値は少なくとも三軸加速度センサ値を含み、複数の特徴量が、少なくとも一つの加速度周波数の時刻毎の振幅を含む。   The sensor value includes at least a triaxial acceleration sensor value, and the plurality of feature amounts include an amplitude for each time of at least one acceleration frequency.

センサ値は少なくとも三軸加速度センサ値、及び三軸地磁気センサ値を含み、複数の特徴量が、磁気量の水平成分及び垂直成分のそれぞれの変化に関する値を含む。   The sensor value includes at least a triaxial acceleration sensor value and a triaxial geomagnetic sensor value, and the plurality of feature amounts include values related to respective changes in the horizontal component and the vertical component of the magnetic amount.

このようにすることで、時刻毎の状態判定に適した特徴量が抽出される。   By doing in this way, the feature-value suitable for the state determination for every time is extracted.

センサ値が、少なくとも速度データを含み、単一の状態を決定するステップにおいて速度データが参照されてよい。   The sensor value includes at least speed data, and the speed data may be referred to in determining a single state.

このようにすることで、さらに誤検知が低減され得る。   In this way, false detection can be further reduced.

本発明の他の態様は、上記状態検知方法をコンピュータに実行させるプログラムである。   Another aspect of the present invention is a program that causes a computer to execute the state detection method.

本発明のもう一つの他の態様は、移動体の状態を検知するための、一つ以上のセンサを備える状態検知装置であって、一つ以上のセンサからセンサ値を取得するためのセンサ値取得手段と、取得されたセンサ値からそれぞれ所定の時間間隔で複数の特徴量を算出する特徴量算出手段と、予め生成された少なくとも一つの計算モデルと状態判定規則とが格納されるデータベース手段と、算出された複数の特徴量と計算モデルとを用いて、第1の時刻において検知され得る複数の状態に関する複数の状態スコアをそれぞれ計算するスコア計算手段と、複数の状態スコアと状態判定規則とに基づいて、第1の時刻における単一の状態を決定する状態判定手段と、を備える。   Another aspect of the present invention is a state detection device including one or more sensors for detecting a state of a moving body, and a sensor value for acquiring a sensor value from the one or more sensors. Acquisition means; feature quantity calculation means for calculating a plurality of feature quantities at predetermined time intervals from the acquired sensor values; and database means for storing at least one calculation model and state determination rule generated in advance. A score calculating means for calculating a plurality of state scores relating to a plurality of states that can be detected at the first time using the calculated plurality of feature amounts and a calculation model; a plurality of state scores and state determination rules; And a state determination means for determining a single state at the first time.

本発明によれば、携帯端末装置等を用いて、容易に移動状態を検知することができる。検知はほぼリアルタイムであり、精度も十分に高いため、種々の用途に活用することができる。   According to the present invention, it is possible to easily detect a moving state using a portable terminal device or the like. Since the detection is almost real time and the accuracy is sufficiently high, it can be used for various purposes.

図1は本発明に係る状態検知装置の概略的なブロック図である。FIG. 1 is a schematic block diagram of a state detection apparatus according to the present invention. 図2は本発明に係る特徴量算出を説明する図である。FIG. 2 is a diagram for explaining feature amount calculation according to the present invention. 図3は本発明に係る状態検知モデル生成装置の概略的なブロック図である。FIG. 3 is a schematic block diagram of the state detection model generation apparatus according to the present invention. 図4(a)は基本特徴量DB、図4(b)は特徴量DB、図4(c)は第1モデル特徴量DB、図4は第2モデル特徴量DBのデータ構造をそれぞれ表す。4A shows the basic feature DB, FIG. 4B shows the feature DB, FIG. 4C shows the first model feature DB, and FIG. 4 shows the data structure of the second model feature DB. 図5は特徴量と状態との相関を説明する図である。FIG. 5 is a diagram for explaining the correlation between the feature amount and the state. 図6(a)は第1モデルDBのパラメータセット、図6(b)は第2モデルDBのパラメータセットを示す。FIG. 6A shows a parameter set of the first model DB, and FIG. 6B shows a parameter set of the second model DB. 図7はスコアDBのデータ構造を示す。FIG. 7 shows the data structure of the score DB. 図8は第3モデルDBのパラメータセットを示す。FIG. 8 shows a parameter set of the third model DB. 図9は加速度センサ値の時系列データを示す。FIG. 9 shows time series data of acceleration sensor values. 図10は地磁気センサ値の時系列データを示す。FIG. 10 shows time-series data of geomagnetic sensor values. 図11は特徴量の時系列データを示す。FIG. 11 shows time-series data of feature amounts. 図12は特徴量の時系列データを示す。FIG. 12 shows time-series data of feature amounts. 図13は特徴量から計算されたスコアの時系列データを示す。FIG. 13 shows time-series data of scores calculated from feature amounts. 図14は特徴量から計算されたスコアの時系列データを示す。FIG. 14 shows time-series data of scores calculated from feature amounts. 図15は、スコアを特徴量として計算された最終的なスコアと速度の時系列データを示す。FIG. 15 shows time-series data of the final score and speed calculated using the score as a feature amount.

以下、図面を参照しながら、本発明のさまざまな特徴が、本発明の限定を意図しない好適な実施例とともに説明される。   Various features of the present invention will now be described with reference to the drawings, together with preferred embodiments not intended to limit the invention.

図1に、本発明の一つの実施形態に係る状態検知装置100のブロック図が概略的に示される。状態検知装置100は、例えば、スマートフォン、タブレットPC等の公知の小型コンピュータ装置であってよい。   FIG. 1 schematically shows a block diagram of a state detection apparatus 100 according to one embodiment of the present invention. The state detection device 100 may be a known small computer device such as a smartphone or a tablet PC.

状態検知装置100は、移動体(ユーザ)の移動状態を検知するために、センサ手段10、センサ値取得手段20、特徴量算出手段30、スコア計算手段40、状態判定手段50、データベース手段60、及び通信手段70を備える。状態検知装置100は図示しないCPU、RAM、ROM、OS、アプリケーション等を備え、上記各手段は、ハードウェア及びソフトウェア(電子機器、電子回路、プログラム等)により実装され得る。   The state detection device 100 includes a sensor unit 10, a sensor value acquisition unit 20, a feature amount calculation unit 30, a score calculation unit 40, a state determination unit 50, a database unit 60, in order to detect the movement state of the moving object (user). And communication means 70. The state detection device 100 includes a CPU, a RAM, a ROM, an OS, an application, and the like (not shown), and each of the above units can be implemented by hardware and software (electronic device, electronic circuit, program, etc.).

センサ手段10は、公知の三軸加速度センサ、三軸地磁気センサ、及び測位センサを含んでよい。三軸加速度センサは、時刻(t)におけるX軸・Y軸・Z軸方向の加速度(AXt、AYt、AZt)(G)を測定することができる。三軸地磁気センサは、時刻(t)におけるX軸・Y軸・Z軸方向の磁気量(MXt、MYt、MZt)(μT)を測定することができる。測位センサは、GPS測位、Wi−Fi測位、基地局測位等に基づいて、時刻(t)における緯度、経度、及び現在向いているデバイスの瞬間の速度(m/s)等を取得することができる。速度データは測位センサ値から直接取得され、あるいは、測位センサの位置情報(緯度、経度)に基づいて算出される。   The sensor means 10 may include a known triaxial acceleration sensor, triaxial geomagnetic sensor, and positioning sensor. The triaxial acceleration sensor can measure acceleration (AXt, AYt, AZt) (G) in the X-axis, Y-axis, and Z-axis directions at time (t). The triaxial geomagnetic sensor can measure magnetic quantities (MXt, MYt, MZt) (μT) in the X-axis, Y-axis, and Z-axis directions at time (t). The positioning sensor can acquire the latitude and longitude at the time (t), the instantaneous speed (m / s) of the currently facing device, and the like based on GPS positioning, Wi-Fi positioning, base station positioning, and the like. it can. The speed data is obtained directly from the positioning sensor value, or is calculated based on position information (latitude, longitude) of the positioning sensor.

センサ値取得手段20はセンサ手段10からセンサ値を取得することができる。特徴量算出手段30はセンサ値から特徴量を算出することができる。DB手段60には、予め生成されたスコア計算モデル61及び状態判定規則62が格納される。スコア計算手段40は、算出された特徴量を入力とし、スコア計算モデル61を参照して状態スコアを計算することができる。状態判定手段50は、計算された状態スコアを入力とし、状態判定規則62を参照して、ある時刻における移動体の状態を判定し、ディスプレイ等出力手段(図示せず)に出力させることができる。判定結果63はDB手段60に格納される。通信手段70はメーラ等を含んでよく、判定結果63を設定された通信先等に適宜通知することができる。例えば、児童の通学等の見守りを目的とする保護者のために、特定の状態(例えば、「電車に乗った」、「電車から降りた」等)の検知をメール送信することができる。   The sensor value acquisition unit 20 can acquire a sensor value from the sensor unit 10. The feature amount calculation unit 30 can calculate the feature amount from the sensor value. The DB unit 60 stores a score calculation model 61 and a state determination rule 62 generated in advance. The score calculation means 40 can calculate the state score with reference to the score calculation model 61 with the calculated feature quantity as an input. The state determination unit 50 receives the calculated state score as an input, refers to the state determination rule 62, determines the state of the moving body at a certain time, and can output it to an output unit (not shown) such as a display. . The determination result 63 is stored in the DB means 60. The communication means 70 may include a mailer or the like, and can appropriately notify the determination result 63 to a set communication destination or the like. For example, a detection of a specific state (for example, “get on the train”, “get off the train”, etc.) can be sent by e-mail for a guardian who wants to watch the child go to school.

図2に、特徴量算出部30の一つの実施形態に係る特徴量算出の概略が示される。図中S1、S2、・・・、及び、S1'、S2'、・・・はそれぞれ、所定のサンプリングレートに従ったサンプリング時刻を表す。図示の例では、S1、S2、・・・は200msのサンプリングレートに対応し、1秒間に5つのサンプルが取得され得る(5Hz)。また、S1'、S2'、・・・は2000msのサンプリングレートに対応し、サンプリング開始から2秒に1つのサンプルが取得され得る。サンプリングレートはこれらに限定されないが、CPUの負荷低減、処理の高速化、低消費電力等のために、サンプリングレートは10Hz、5Hz、1Hz以下であることが好ましい。本発明に係る方法によれば、少ないサンプル数で十分に移動体の状態を検知することができる。   FIG. 2 shows an outline of feature amount calculation according to one embodiment of the feature amount calculation unit 30. In the figure, S1, S2,..., S1 ′, S2 ′,... Represent sampling times according to a predetermined sampling rate. In the illustrated example, S1, S2,... Correspond to a sampling rate of 200 ms, and 5 samples can be acquired per second (5 Hz). S1 ′, S2 ′,... Correspond to a sampling rate of 2000 ms, and one sample can be acquired every 2 seconds from the start of sampling. The sampling rate is not limited to these, but the sampling rate is preferably 10 Hz, 5 Hz, or 1 Hz or less in order to reduce the load on the CPU, increase the processing speed, reduce power consumption, and the like. According to the method of the present invention, the state of the moving body can be sufficiently detected with a small number of samples.

サンプリングの開始は、ユーザによるアプリケーション起動の指示入力時であってよい。あるいは、常時起動された状態であってもよい。   The sampling may be started when the user inputs an application activation instruction. Alternatively, it may be in a constantly activated state.

図示のように、特徴量算出部30は、三軸加速度センサ値から合成加速度をサンプリング時刻毎に算出し、ある時刻における各周波数の振幅を過去の複数データを用いて算出し、さらに各周波数の振幅の移動平均を特徴量(A,B,C,D,E)として算出することができる。   As shown in the figure, the feature amount calculation unit 30 calculates the combined acceleration from the triaxial acceleration sensor value at each sampling time, calculates the amplitude of each frequency at a certain time using a plurality of past data, and further calculates the frequency of each frequency. The moving average of the amplitude can be calculated as the feature amount (A, B, C, D, E).

具体的に、サンプリング時刻tにおける加速度センサ値をそれぞれAXt、AYt、AZtとして、加速度合成値(重力値抜き)ACCtが以下のように算出される。

各周波数における振幅が、ACCtの過去1.8秒間(各9データ)分を元にフーリエ変換を行うことにより算出される。
Specifically, with the acceleration sensor values at the sampling time t as AXt, AYt, and AZt, the acceleration composite value (without gravity value) ACCt is calculated as follows.

The amplitude at each frequency is calculated by performing a Fourier transform based on the past 1.8 seconds (each 9 data) of ACCt.

求められた(facc(0)t, ... , facc(8)t)のうち、(||facc(0)t||, ... , ||facc(4)t||)が、サンプリング時刻tにおける各周波数スペクトルの振幅となる。さらに、(||facc(0)t||, ... , ||facc(4)t||)のそれぞれの過去10秒間(50データ分)の移動平均が算出される。
Of the obtained (facc (0) t, ..., facc (8) t), (|| facc (0) t ||, ..., || facc (4) t ||) It becomes the amplitude of each frequency spectrum at the sampling time t. Further, a moving average of (|| facc (0) t ||,..., || facc (4) t ||) for the past 10 seconds (50 data) is calculated.

算出された5つの値をそれぞれ特徴量A、特徴量B、特徴量C、特徴量D、特徴量Eとする。   The calculated five values are defined as a feature amount A, a feature amount B, a feature amount C, a feature amount D, and a feature amount E, respectively.

図2の例では、S1でサンプリングが開始され、S58で各特徴量(A、B、C、D、E)が算出され、以降、S59、S60、・・・と、200ms毎に順次各特徴量が算出される。   In the example of FIG. 2, sampling is started in S1, each feature amount (A, B, C, D, E) is calculated in S58, and thereafter, each feature is sequentially performed in steps of S59, S60,. A quantity is calculated.

また、特徴量算出部30は、加速度の平均値から端末のピッチ角、ロール角を算出し、三軸地磁気センサ値から水平成分、鉛直成分を算出し、前の時刻に算出された値との差分をそれぞれとり、複数の差分の移動平均値及び標準偏差を特徴量として算出することができる。   Further, the feature amount calculation unit 30 calculates the pitch angle and roll angle of the terminal from the average value of acceleration, calculates the horizontal component and the vertical component from the triaxial geomagnetic sensor value, and calculates the value calculated at the previous time. Each difference is taken, and a moving average value and a standard deviation of a plurality of differences can be calculated as feature amounts.

具体的に、磁気量の水平成分、鉛直成分の算出のために、サンプリング時刻tにおける三軸加速度センサ値からセンサ搭載端末の傾き(ピッチ角PITt、ロール角ROLt)が算出される。ピッチ角PITt、ロール角ROLt、及び時刻Tにおける三軸地磁気センサ値(MXT,MYT,MZT)から、鉛直方向をZ軸としたときのセンサ値(MGXT,MGYT,MGZT)が算出される。なお、時刻tはサンプリングレート200msの時刻を表し、時刻Tはサンプリングレート2000msの時刻を表し、算出時の時刻tと時刻Tとは同一時刻を指すものとする。 Specifically, in order to calculate the horizontal component and the vertical component of the magnetic quantity, the inclination (pitch angle PITt, roll angle ROLt) of the sensor-equipped terminal is calculated from the triaxial acceleration sensor value at the sampling time t. From the pitch angle PITt, the roll angle ROLt, and the triaxial geomagnetic sensor values (MX T , MY T , MZ T ) at time T , the sensor values (MGX T , MGY T , MGZ T ) when the vertical direction is the Z axis. Is calculated. Time t represents a time with a sampling rate of 200 ms, time T represents a time with a sampling rate of 2000 ms, and time t and time T at the time of calculation indicate the same time.

鉛直方向をZ軸としたときのセンサ値(MGXT,MGYT,MGZT)を元に、磁気センサ値の水平成分MHT及び鉛直成分MVTが算出される。
Based on the sensor values (MGX T , MGY T , MGZ T ) when the vertical direction is the Z axis, the horizontal component MH T and the vertical component MV T of the magnetic sensor value are calculated.

さらに、(MHT,MVT)と(MHT-1,MVT-1)の差分の絶対値(MHΔT,MVΔT)が算出される。
Further, the absolute value (MHΔ T , MVΔ T ) of the difference between (MH T , MV T ) and (MH T−1 , MV T−1 ) is calculated.

時系列に従って、(MHΔT,MVΔT)の過去120秒(各60データ)の平均値、及び標準偏差を算出することで、特徴量1、特徴量2、特徴量3、特徴量4が算出される。
・・・・・(特徴量1)
・・・・・(特徴量2)
・・・・・(特徴量3)
・・・・・(特徴量4)
According to the time series, the feature value 1, feature value 2, feature value 3, and feature value 4 are calculated by calculating the mean value and standard deviation of the past 120 seconds (each 60 data) of (MHΔ T , MVΔ T ). Is done.
(Feature 1)
(Feature 2)
(Feature 3)
(Feature 4)

図2の例では、サンプリング時刻S61'(S610)において、各特徴量(1、2、3、4)が算出され、以降、S62'、S63'、・・・と、2000ms毎に各特徴量が取得され得る。   In the example of FIG. 2, each feature amount (1, 2, 3, 4) is calculated at the sampling time S61 ′ (S610), and thereafter, each feature amount is S62 ′, S63 ′,. Can be obtained.

さらに、特徴量算出部30は、合成加速度の差分の移動平均、及び標準偏差を特徴量として算出することができる。時刻Tにおける三軸加速度センサ値の合成値及び差分(絶対値)、及び平均(特徴量5)、標準偏差(特徴量6)がそれぞれ以下のように算出される。   Furthermore, the feature amount calculation unit 30 can calculate the moving average and standard deviation of the difference of the combined acceleration as the feature amount. The combined value and difference (absolute value), average (feature value 5), and standard deviation (feature value 6) of the triaxial acceleration sensor values at time T are calculated as follows.

・・・・・(特徴量5)
・・・・・(特徴量6)
(Feature 5)
(Feature 6)

図2の例では、サンプリング時刻S61'において過去120秒分(60データ)の平均及び標準偏差が算出され、以降、S62'、S63'、・・・と順次特徴量5、特徴量6が算出される。   In the example of FIG. 2, the average and standard deviation of the past 120 seconds (60 data) are calculated at the sampling time S61 ′, and thereafter, the feature amount 5 and the feature amount 6 are calculated in order S62 ′, S63 ′,. Is done.

なお、移動平均が過去何データ分であるか等は適宜設定されてよく、上記の例より少なくてもよく、多くてもよい。   Note that how many data the moving average is in the past may be set as appropriate, and may be smaller or larger than the above example.

スコア計算部40(図1)は、算出された特徴量A、B、C、D、E、及び特徴量1、2、3、4、5、6を用いて、状態の確からしさ(信頼度)に関連する状態スコアを計算する。計算には、計算モデル61が参照される。   The score calculation unit 40 (FIG. 1) uses the calculated feature quantities A, B, C, D, E and the feature quantities 1, 2, 3, 4, 5, 6 to determine the probability of the state (reliability level). ) To calculate the state score associated with The calculation model 61 is referred to for the calculation.

計算モデル61は、予め生成されDB手段60に格納される。計算モデル61を生成するための一つの実施形態の状態検知モデル生成装置200のブロック図が、図3に概略的に示される。   The calculation model 61 is generated in advance and stored in the DB means 60. A block diagram of a state detection model generation device 200 of one embodiment for generating the calculation model 61 is schematically shown in FIG.

状態検知モデル生成装置200は、コンピュータにより構成され、ラベル有基本特徴量DB201、特徴量抽出部202、ラベル有特徴量DB203、モデル用DB生成部204、第1モデル用特徴量DB205、第1モデル生成部206、第1モデルDB207、第2モデル用特徴量DB208、第2モデル生成部209、第2モデルDB210、スコアDB211、第3モデル生成部212、第3モデルDB213、判定規則DB214、及び入出力部215を備える。状態検知モデル生成装置200は、図示しないCPU、RAM、ROM、HDD等ハードウェア、及びOS、アプリケーション等ソフトウェアを備え、各DB及び各部は、ハードウェア及びソフトウェアの協働により実装される。乗物検知モデル生成装置200は、単一のコンピュータにより構成されてよく、複数のコンピュータにより構成されてもよい。   The state detection model generation device 200 is configured by a computer, and includes a labeled basic feature DB 201, a feature extraction unit 202, a labeled feature DB 203, a model DB generator 204, a first model feature DB 205, and a first model. The generation unit 206, the first model DB 207, the second model feature DB 208, the second model generation unit 209, the second model DB 210, the score DB 211, the third model generation unit 212, the third model DB 213, the determination rule DB 214, and the input An output unit 215 is provided. The state detection model generation apparatus 200 includes hardware such as a CPU, RAM, ROM, and HDD (not shown), and software such as an OS and applications, and each DB and each unit are implemented by cooperation of hardware and software. The vehicle detection model generation apparatus 200 may be configured by a single computer or may be configured by a plurality of computers.

図4(a)は、ラベル有基本特徴量DB201のデータ構造を示す。図示のように、ラベル有基本特徴量DB201には、時刻t、三軸地磁気センサ値、三軸加速度センサ値、速度、及び基本ラベルが格納される。基本ラベルは、時刻tにおける移動体の実際の状態を任意に表すものであってよく、例えば、地下鉄、高架鉄道、新幹線、モノレール、バス、乗用車、歩行、走行、自転車、停止等であってよい。   FIG. 4A shows the data structure of the labeled basic feature DB 201. As shown in the figure, the labeled basic feature DB 201 stores the time t, the triaxial geomagnetic sensor value, the triaxial acceleration sensor value, the speed, and the basic label. The basic label may arbitrarily represent the actual state of the moving object at time t, and may be, for example, a subway, an elevated railway, a bullet train, a monorail, a bus, a passenger car, a walk, a run, a bicycle, or a stop. .

特徴量抽出部202は、モデルの生成のために種々の特徴量を抽出し得る。特徴量抽出部202は少なくとも、上記特徴量算出手段30と同様に、基本特徴量(図4(a))から特徴量A、B、C、D、E、及び特徴量1、2、3、4、5、6を算出することができる。   The feature amount extraction unit 202 can extract various feature amounts for generating a model. The feature quantity extraction unit 202 at least in the same manner as the feature quantity calculation means 30, the feature quantities A, B, C, D, E and the feature quantities 1, 2, 3, E, from the basic feature quantity (FIG. 4A). 4, 5, 6 can be calculated.

算出された特徴量は、ラベル有特徴量DB203に格納される。図4(b)に、ラベル有特徴量DB203のデータ構造が示される。図示のように、各特徴量は時刻に紐づけられて格納される。特徴量のサンプリングレートが異なる場合(時刻t、時刻T)、サンプリングレート毎にデータが格納されてよい。   The calculated feature amount is stored in the labeled feature amount DB 203. FIG. 4B shows the data structure of the labeled feature DB 203. As shown in the figure, each feature amount is stored in association with time. When the sampling rate of the feature amount is different (time t, time T), data may be stored for each sampling rate.

一つの実施形態の特徴量抽出は、誤検知を低減するように設計される。例えば、本発明に係る発明者は、磁気量の鉛直成分及び水平成分の変化に差異があり、これらの変化が、「電車移動」や「車移動」をよく反映することを見出した。   The feature extraction of one embodiment is designed to reduce false positives. For example, the inventor according to the present invention has found that there is a difference in the change in the vertical component and the horizontal component of the magnetic quantity, and these changes well reflect “train movement” and “car movement”.

図5に、横軸を磁気量の水平成分の変化(差分)の標準偏差、縦軸を磁気量の鉛直成分の変化(差分)の標準偏差として、対応する状態をプロットした図が示される。図中、白抜きの○は、「車(バスと乗用車を含む)移動」を表し、薄いグレーの×は「電車(地下鉄と高架鉄道を含む)移動」を表し、濃いグレーの点はその他の「徒歩移動や停止等」を表す。図示のとおり、「車移動」と「電車移動」がよく分離されている。従って、磁気量の水平成分の変化(差分)の標準偏差、鉛直成分の変化(差分)の標準偏差は、「車」と「電車」を識別するための特徴量となり得る。   FIG. 5 shows a diagram in which corresponding states are plotted with the horizontal axis representing the standard deviation of the change (difference) in the horizontal component of the magnetic quantity and the vertical axis representing the standard deviation of the change (difference) in the vertical component of the magnetic quantity. In the figure, open circles represent “car (including bus and passenger car) movement”, light gray × represents “train (including subway and elevated railway) movement”, and dark gray dots Indicates “walking or stopping”. As illustrated, “car movement” and “train movement” are well separated. Therefore, the standard deviation of the change (difference) of the horizontal component of the magnetic quantity and the standard deviation of the change (difference) of the vertical component can be feature quantities for identifying “car” and “train”.

図5に示されるように、「徒歩移動や停止等」(濃いグレーの点)は「車移動」や「電車移動」と重なる部分があり、上記特徴量による解析では誤検知の恐れがある。例えば、「電車」や「車」であると判定しても、実際には「徒歩移動」や「停止」等である場合が考えられる。   As shown in FIG. 5, “walking and stopping, etc.” (dark gray points) overlap with “car movement” and “train movement”, and there is a risk of erroneous detection in the analysis based on the feature amount. For example, even if it is determined that the train is a “train” or a “car”, it may actually be “walking” or “stop”.

本発明に係る検知モデルは、特定の状態の検知に特定の特徴量(のセット)が有利であるときに、特定の状態毎にモデルを生成し、一つのモデルの誤検知を他のモデルにより低減させることで、全体として検知精度を向上させるように生成される。   The detection model according to the present invention generates a model for each specific state when a specific feature amount (set) is advantageous for detection of a specific state, and detects one model by other models. By reducing it, it is generated so as to improve the detection accuracy as a whole.

一つの実施形態では、第1モデルと第2モデルを生成し、これらに基づいて第3モデルが生成される。一つの実施形態では、第1モデルは、特徴量A、B、C、D、Eを使用して「徒歩」等を検知し、第2モデルは、特徴量1、2、3、4、5、6を用いて、「車」や「電車」等を検知するように生成される。   In one embodiment, the 1st model and the 2nd model are generated, and the 3rd model is generated based on these. In one embodiment, the first model uses features A, B, C, D, and E to detect “walking” and the like, and the second model uses features 1, 2, 3, 4, 5 , 6 is used to detect “car”, “train”, and the like.

モデル用DB生成部204は、各モデルの生成に適した特徴量を選択し、適宜ラベルを付与することができる。   The model DB generation unit 204 can select a feature amount suitable for generation of each model, and can appropriately assign a label.

図4(c)に、第1モデル用特徴量DB205のデータ構造が示される。一つの実施形態では、「歩行」を検知するモデルの生成のために、選択された特徴量A、B、C、D、E及びラベル1が時刻毎に格納される。ラベル1は、基本ラベルとスコア計算の対象(例えば、「歩行」)により決定され得る。例えば、時刻tの基本ラベルが「歩行」を意味する場合、ラベル1情報は「歩行」となり、時刻tの基本ラベルが「歩行」を意味しない(電車、車、停止等)場合、ラベル1情報は「その他」となり得る。   FIG. 4C shows the data structure of the first model feature DB 205. In one embodiment, the selected feature quantities A, B, C, D, E and the label 1 are stored for each time in order to generate a model for detecting “walking”. Label 1 can be determined by the basic label and the subject of score calculation (eg, “walking”). For example, when the basic label at time t means “walking”, the label 1 information becomes “walking”, and when the basic label at time t does not mean “walking” (train, car, stop, etc.), label 1 information Can be “other”.

第1モデル生成部206は、第1モデル用特徴量DB205から読み出した特徴量とラベル1情報の学習により、第1モデルを生成する。第1モデルの生成には、ロジスティック回帰やニューラルネットワーク(NN)、サポートベクトルマシン(SVM)、ディープラーニング等の公知のライブラリ(例えば、LIBSVM, LIBLINEAR, CAFFE, TENSORFLOW, CHAINER等)を用いることができる。学習により、例えば、ある時刻が「歩行」ラベルを持つ場合、該時刻のスコアが、「その他」ラベルを持つ時刻のスコアに比べて高くなるように、「歩行スコア」のためのパラメータセット(重み、バイアス、計算アルゴリズム)が決定される。   The first model generation unit 206 generates a first model by learning the feature amount read from the first model feature amount DB 205 and the label 1 information. For the generation of the first model, logistic regression, neural network (NN), support vector machine (SVM), known libraries such as deep learning (for example, LIBSVM, LIBLINER, CAMFE, TENSORFLOW, CHAINER, etc.) can be used. . As a result of learning, for example, when a certain time has a “walking” label, a parameter set (weight) for the “walking score” is set so that the score of the time is higher than the score of the time having the “other” label. , Bias, calculation algorithm).

図6(a)に、第1モデルDB207に格納される決定されたパラメータセットが示される。一つの実施形態では、歩行状態であることの信頼度を表す「歩行スコア」と、走行状態であることの信頼度を表す「走行スコア」を計算するための二組のパラメータが格納される。「歩行スコア」の計算のための特徴量A、B、C、D、Eの重みがそれぞれWWA、WWB、WWC、WWD、WWE、バイアスがbW、及びスコア算出のためのアルゴリズムがfWで示される。また、「走行スコア」の計算のための特徴量A、B、C、D、Eの重みがそれぞれWRA、WRB、WRC、WRD、WRE、バイアスがbR、及びアルゴリズムがfRで示される。上記に代えて、あるいは上記に併せて、「歩行」と「走行」を統合した「徒歩スコア」を計算するための一組のパラメータが格納されてもよい。以下の説明では、適宜「徒歩スコア」が用いられる。 FIG. 6A shows the determined parameter set stored in the first model DB 207. In one embodiment, two sets of parameters for calculating a “walking score” representing the reliability of the walking state and a “running score” representing the reliability of the running state are stored. The weights of the feature amounts A, B, C, D, and E for calculating the “walking score” are W WA , W WB , W WC , W WD , W WE , the bias is b W , and the score calculation algorithm is shown in the f W. Further, the weights of the feature amounts A, B, C, D, and E for calculating the “running score” are W RA , W RB , W RC , W RD , W RE , the bias is b R , and the algorithm is f Indicated by R. Instead of or in addition to the above, a set of parameters for calculating a “walking score” that integrates “walking” and “running” may be stored. In the following description, a “walking score” is used as appropriate.

図4(d)に、第2モデル用特徴量DB208のデータ構造が示される。一つの実施形態では、「車」や「電車」の検知のために、選択された特徴量1、2、3、4、5、6、及びラベル2が時刻(T)毎に格納される。ラベル2もまた、基本ラベルとスコア計算の対象(例えば、「車」)により決定され得る。例えば、時刻T(t)の基本ラベルが検知対象の「車」を意味する場合、ラベル2情報は「車」となり、時刻T(t)の基本ラベルが検知対象の「車」を意味しない(電車、徒歩、停止等)場合、ラベル2情報は「その他」となり得る。   FIG. 4D shows the data structure of the second model feature DB 208. In one embodiment, for detection of “car” or “train”, the selected feature quantities 1, 2, 3, 4, 5, 6 and the label 2 are stored every time (T). Label 2 can also be determined by the base label and the subject of score calculation (eg, “car”). For example, when the basic label at time T (t) means “car” to be detected, the label 2 information is “car”, and the basic label at time T (t) does not mean “car” to be detected ( In the case of train, walk, stop, etc.), the label 2 information can be “other”.

第2モデル生成部209は、第2モデル用特徴量DB208から読み出した特徴量とラベル2情報の学習により、第2モデルを生成する。モデルの生成には、上記のように、公知の機械学習ライブラリ等を用いることができる。例えば、「車スコア」の時系列データにおいて、「車」ラベルを持つ時刻のスコアが、「その他」のラベルを持つ時刻のスコアよりも高くなるように、パラメータセットが学習される。一つの実施形態では、「車」と「電車」と「徒歩、停止等」の三つのスコアのためのパラメータセットが学習される。   The second model generation unit 209 generates a second model by learning the feature amount read from the second model feature amount DB 208 and the label 2 information. As described above, a known machine learning library or the like can be used for generating the model. For example, in the time-series data of “car score”, the parameter set is learned so that the time score having the “car” label is higher than the score of the time having the “other” label. In one embodiment, a parameter set for three scores of “car”, “train” and “walk, stop, etc.” is learned.

図6(b)に、第2モデルDB210に格納される学習されたパラメータセットが示される。データ構造は、計算するスコア毎に、特徴量1、2、3、4、5、6のそれぞれの重みと、バイアスと、計算アルゴリズムを持つ。これらにより、時刻毎の特徴量1、2、3、4、5、6から所定の状態らしさを表す各スコアの時系列データが得られる。   FIG. 6B shows a learned parameter set stored in the second model DB 210. The data structure has a weight, a bias, and a calculation algorithm for each of the feature amounts 1, 2, 3, 4, 5, and 6 for each score to be calculated. As a result, time-sequential data of each score representing a predetermined state likelihood is obtained from the feature quantities 1, 2, 3, 4, 5, 6 for each time.

図7に、スコアDB211のデータ構造が示される。第3モデルの生成のために、得られたスコアが時刻(t=T)毎に格納される。一つの実施形態では、時刻tについて「徒歩スコア」が計算され、時刻Tについて、「車スコア」、「電車スコア」、「徒歩・停止等スコア」が計算される。時刻に対応する状態を検知する目的のために、時刻tと時刻Tとが対応付けられる。例えば、一つの実施形態において、時刻tが200ms間隔、時刻Tが2000ms間隔であれば、歩行スコアの10サンプルの移動平均をとって、各スコアが共通の時刻(t=T)に対応づけられる。   FIG. 7 shows the data structure of the score DB 211. For the generation of the third model, the obtained score is stored every time (t = T). In one embodiment, a “walking score” is calculated for time t, and a “car score”, “train score”, and “walking / stopping score” are calculated for time T. For the purpose of detecting a state corresponding to time, time t and time T are associated with each other. For example, in one embodiment, if time t is 200 ms and time T is 2000 ms, a moving average of 10 samples of walking scores is taken and each score is associated with a common time (t = T). .

状態ラベルは、基本ラベルと検知対象とする状態により決定され得る。一つの実施形態では、検知対象の状態は「(歩行、走行を含む)徒歩」と、「(バス、乗用車を含む)車」と、「(地下鉄、高架鉄道を含む)電車」である。従って状態ラベルは、例えば、ある時刻(t=T)の基本ラベルが「徒歩」を意味する場合、「徒歩」ラベルとなり、ある時刻(t=T)の基本ラベルが「徒歩」を意味しない(電車、車、停止等)場合、「その他」ラベルとなり得る。   The state label can be determined by the basic label and the state to be detected. In one embodiment, the detection target states are “walking (including walking and running)”, “car (including bus and passenger car)”, and “train (including subway and elevated railway)”. Therefore, for example, when the basic label at a certain time (t = T) means “walking”, the state label becomes a “walking” label, and the basic label at a certain time (t = T) does not mean “walking” ( In the case of trains, cars, stops, etc., it can be an “other” label.

なお、移動平均をとる際等に同一の時刻(期間)が複数の基本ラベルを含むときは、そのうちの任意の基本ラベルに従ってモデル生成のためのラベルが決定されてよい。例えば、最も多い基本ラベル、先頭の時刻の基本ラベル、最後の時刻の基本ラベルに基づいて、モデル生成のためのラベルが決定されてよい。   When taking the moving average or the like, when the same time (period) includes a plurality of basic labels, a label for generating a model may be determined according to any of the basic labels. For example, a label for generating a model may be determined based on the most basic labels, the basic label at the start time, and the basic label at the end time.

第3モデル生成部212は、スコアDB211から読み出した各スコア(特徴量)と状態ラベル情報を公知の機械学習ライブラリ等を用いて学習し、第3モデルを生成することができる。   The third model generation unit 212 can learn each score (feature amount) and state label information read from the score DB 211 using a known machine learning library or the like to generate a third model.

図8に、第3モデルDB213に格納される一つの実施形態の第3モデルのパラメータセットが示される。一つの実施形態では、パラメータセットは、元の4つのスコアを特徴量として、特徴量毎の重み(W1,W2,W3,・・・)と、バイアス(b1,b2,・・・)と、計算アルゴリズム(f1,f2,・・・)を、計算するスコア毎に含む。 FIG. 8 shows a parameter set of the third model of one embodiment stored in the third model DB 213. In one embodiment, the parameter set includes the original four scores as feature amounts, weights for each feature amount (W 1 , W 2 , W 3 ,...), And bias (b 1 , b 2 ,. ..) And a calculation algorithm (f 1 , f 2 ,...) Are included for each score to be calculated.

このようにすることで、異なる特徴量により検知される複数の状態の判定が整合される。第3モデルにより出力される状態スコアは、時刻の状態を適切に反映するように、各スコア間の大小関係を明示することができる。いずれの状態か紛らわしいということがなく、検知対象の状態が多くても(例えば、三つ以上、四つ以上、六つ以上、あるいは十以上)、状態を単一に決定することができる。多数のテストデータ(図示せず)により第3モデルに基づく状態スコアがテストされ、少なくとも、「車」、「電車」、「徒歩」が十分に分離されることが確認された。   By doing in this way, determination of the several state detected by a different feature-value is matched. The state score output by the third model can clearly indicate the magnitude relationship between the scores so as to appropriately reflect the state of time. Any state is not confusing, and even if there are many states to be detected (for example, three or more, four or more, six or more, or ten or more), the state can be determined as a single unit. A large number of test data (not shown) tested the state score based on the third model, and it was confirmed that at least “car”, “train”, and “walk” were sufficiently separated.

なお、特徴量抽出やモデルの生成は、上記の実施形態に限定されない。時刻に紐づけられた状態を精度よく検知するという目的に適合する限り、特徴量やその組み合わせ、モデルの数等は任意であってよい。   Note that feature quantity extraction and model generation are not limited to the above embodiment. As long as it matches the purpose of accurately detecting the state associated with the time, the feature amount, the combination thereof, the number of models, and the like may be arbitrary.

判定規則DB214は、第3モデルに従って、スコアに基づく状態判定の規則を定義することができる。例えば、規則は、以下のようなものを含み得る。
L1.ある時刻の徒歩スコアが所定の閾値以上であるときに、当該時刻の状態を徒歩移動に決定する。
L2.ある時刻の電車スコアが、車スコアより大きく且つ所定の閾値以上であるときに当該時刻の状態を電車移動状態に決定する。
L3.ある時刻の車スコアが、電車スコアより大きく且つ所定の閾値以上であるときに当該時刻の状態を車移動状態に決定する。
L4.ある時刻のいずれのスコアもそれぞれの閾値も下回る場合、検知対象状態のいずれでもない(停止等)と決定する。
上記において優先順位が定義されてよく、例えば、規則L1は規則L2、L3よりも優先され得る。
The determination rule DB 214 can define a state determination rule based on the score according to the third model. For example, the rules may include:
L1. When the walking score at a certain time is equal to or greater than a predetermined threshold, the state at that time is determined to be walking movement.
L2. When the train score at a certain time is greater than the car score and equal to or greater than a predetermined threshold, the state at that time is determined as the train movement state.
L3. When the car score at a certain time is greater than the train score and is equal to or greater than a predetermined threshold, the state at that time is determined as the vehicle movement state.
L4. If any score at a certain time falls below each threshold value, it is determined that it is not in any detection target state (stop, etc.).
Priorities may be defined above, for example, rule L1 may take precedence over rules L2 and L3.

なお、一つの実施形態の第3モデルによれば、「徒歩移動」を「車移動」や「電車移動」と誤検知することが低減されるが、「停止」を「車移動」や「電車移動」と誤検知する恐れがないとはいえない。例えば、行列に並んでゆっくり動く状態等は「徒歩移動」として検知されにくいので、「徒歩移動」の検知だけでは、「ほぼ停止」状態を「車移動」や「電車移動」と誤検知し得る。従って、判定規則は、速度データを利用するように、以下を含んでよい。
L5.スコアに基づいて「車移動」又は「電車移動」と判定されるときに、速度データが所定の閾値以下の場合は、「車移動」や「電車移動」と判定せず、「停止等」に決定する。
According to the third model of one embodiment, erroneous detection of “walking movement” as “car movement” or “train movement” is reduced, but “stop” is referred to as “car movement” or “train movement”. It cannot be said that there is no risk of false detection of “movement”. For example, it is difficult to detect a state that moves slowly in a line as “walking movement”. Therefore, by detecting only “walking movement”, the “almost stopped” state can be erroneously detected as “car movement” or “train movement”. . Thus, the decision rule may include the following to utilize speed data.
L5. When it is determined as “car movement” or “train movement” based on the score, if the speed data is below a predetermined threshold, it is not determined as “car movement” or “train movement”, but “stop etc.” decide.

さらに、判定規則は、実際には「車移動」や「電車移動」であるのに、速度データのみで「停止等」と誤検知することがないように、または「電車」等の状態がある程度持続することが想定されることから、過去の判定結果を利用することを含んでよい。
L6.直前に判定された状態が「停止等」であるときにのみ、「速度データ」を参照してL5規則を採用する。
L7.直前に判定された状態が車、電車、徒歩等の「検知対象状態」である場合、その後の判定ではその「検知対象状態」であることの閾値を、初期の閾値1から低減された閾値2に変更して行う。
Furthermore, the judgment rule is actually “car movement” or “train movement”, so that it is not erroneously detected as “stop etc.” only by speed data, or the state of “train” etc. Since it is assumed that it will persist, using past determination results may be included.
L6. Only when the state determined immediately before is “stop, etc.”, the L5 rule is adopted with reference to “speed data”.
L7. When the state determined immediately before is a “detection target state” such as a car, a train, or a walk, in the subsequent determination, the threshold value that is the “detection target state” is a threshold value 2 that is reduced from the initial threshold value 1. Change to

判定規則DB214に格納される判定規則(閾値等)は、計算モデルの出力結果の解釈に基づいて、管理者等により適宜設定されてよい。管理者は、状態検知モデル生成装置200の入出力部215を介して、判定規則の変更、追加、削除等を行うことができる。   The determination rules (threshold value, etc.) stored in the determination rule DB 214 may be appropriately set by an administrator or the like based on the interpretation of the output result of the calculation model. The administrator can change, add, delete, etc. the determination rule via the input / output unit 215 of the state detection model generation device 200.

状態検知装置100のDB手段60(図1)には、上記のように予め決定された計算モデル61(例えば、第1モデル、第2モデル、第3モデル)、判定規則62(例えば、L1〜L7)が格納される。   The DB means 60 (FIG. 1) of the state detection apparatus 100 includes a calculation model 61 (for example, the first model, the second model, and the third model) determined in advance as described above, and a determination rule 62 (for example, L1 to L1). L7) is stored.

スコア計算手段40は、計算モデル61を参照して、算出された特徴量から各スコアを計算する。   The score calculation means 40 refers to the calculation model 61 and calculates each score from the calculated feature amount.

状態判定手段50は、判定規則62を参照して、計算されたスコアから状態を判定する。判定結果63は順次DB手段60に格納される。判定結果63は、図示しない出力手段(ディスプレイ等)に、判定毎(リアルタイム)に出力されてよい。出力の時間間隔等はユーザ入力により任意に設定されてよい。   The state determination unit 50 refers to the determination rule 62 and determines the state from the calculated score. The determination result 63 is sequentially stored in the DB means 60. The determination result 63 may be output for each determination (real time) to output means (display or the like) (not shown). An output time interval or the like may be arbitrarily set by user input.

以下に一連のテストデータを用いた本発明に係る状態検知方法の実施例が示される。テストの概要が以下の表1に示される。
An embodiment of the state detection method according to the present invention using a series of test data is shown below. A summary of the test is shown in Table 1 below.

図9に、取得された三軸加速度センサ値の時系列データが示される。説明のため、下方の棒グラフに正解の状態(縦軸の値−1:歩行、−4:電車、−8:車)が示される(以降の図において同様)。   FIG. 9 shows time-series data of the acquired triaxial acceleration sensor values. For the sake of explanation, the correct state (value on the vertical axis—1: walking, −4: train, −8: car) is shown in the lower bar graph (the same applies to the following figures).

図10に取得された三軸地磁気センサ値の時系列データが示される。   FIG. 10 shows time-series data of the triaxial geomagnetic sensor values acquired.

図11に、算出された特徴量A、B、C、D、E(5つの周波数のそれぞれの振幅の移動平均)の時系列データが示される。   FIG. 11 shows time-series data of the calculated feature amounts A, B, C, D, and E (moving average of the amplitudes of the five frequencies).

図12に、算出された特徴量1(磁気量水平成分差分の平均値)、特徴量2(磁気量鉛直成分差分の平均値)、特徴量3(磁気量水平成分差分の標準偏差)、特徴量4(磁気量鉛直成分差分の標準偏差)、特徴量5(合成加速度差分の平均値)、及び特徴量6(合成加速度差分の標準偏差)の時系列データが示される。実際の状態が「電車」のときに、特徴量2(磁気量鉛直成分差分の平均値)、及び特徴量4(磁気量鉛直成分差分の標準偏差)が目立って上昇していることが観察される。また、実際の状態が「歩行」のときに、特徴量5(合成加速度差分の平均値)、及び特徴量6(合成加速度差分の標準偏差)が突出していること等が観察される。   FIG. 12 shows the calculated feature quantity 1 (average value of magnetic quantity horizontal component difference), feature quantity 2 (average value of magnetic quantity vertical component difference), feature quantity 3 (standard deviation of magnetic quantity horizontal component difference), feature Time series data of a quantity 4 (standard deviation of the magnetic quantity vertical component difference), a feature quantity 5 (average value of the synthesized acceleration difference), and a feature quantity 6 (standard deviation of the synthesized acceleration difference) are shown. When the actual state is “train”, it is observed that the feature amount 2 (average value of the magnetic amount vertical component difference) and the feature amount 4 (standard deviation of the magnetic amount vertical component difference) are remarkably increased. The Further, when the actual state is “walking”, it is observed that the feature amount 5 (average value of the combined acceleration difference) and the feature amount 6 (standard deviation of the combined acceleration difference) are projected.

図13に、実施例の第1モデルにより計算された歩行スコア(実線)、走行スコア(破線)が示される。正解が「歩行」でも「走行」スコアがやや高めの傾向であった。別途「歩行」と「走行」を統合した「徒歩スコア」(図示せず)では、正解(歩行=徒歩)をよく反映するスコアが得られた。   FIG. 13 shows a walking score (solid line) and a running score (broken line) calculated by the first model of the example. Even if the correct answer was "walking", the "running" score tended to be slightly higher. Separately, a “walking score” (not shown) in which “walking” and “running” are integrated obtained a score that well reflects the correct answer (walking = walking).

図14に、実施例の第2モデルにより計算された実施例の車スコア(細かい点線)、電車スコア(破線)、及び徒歩・停止等スコア(実線)が示される。スコア間の大小関係は、概ね実際の状態を表した。しかしながら、徒歩・停止等スコアがよく分離されない時間帯も見られた。   FIG. 14 shows the vehicle score (fine dotted line), train score (dashed line), and walking / stop score (solid line) calculated by the second model of the example. The magnitude relationship between the scores generally represents the actual state. However, there were times when walking and stopping scores were not well separated.

図15に、実施例の第3モデルにより計算された各スコア及び速度の時系列データが示される。下方に実施例の判定規則を用いた判定結果(縦軸の値1:徒歩判定、4:電車判定、8:車判定)が濃いグレーで示され、正解(薄いグレー)と対比される。図示のように、歩行は100パーセント検知された。電車と車は、「車である」、及び「電車である」と検知した期間についてはほぼ100パーセントの精度であり、過検知(false positive)が抑制された。正解が「電車」や「車」であるのに検知されない見逃し(false negative)はあったものの、その時間は数秒から数分と極短く、十分に実用に耐えるものであった。   FIG. 15 shows time series data of each score and speed calculated by the third model of the example. The determination result using the determination rule of the embodiment (value on the vertical axis 1: walking determination, 4: train determination, 8: car determination) is shown in dark gray and contrasted with the correct answer (light gray). As shown, 100% of the gait was detected. Trains and cars have an accuracy of almost 100% for the period when they are detected as “cars” and “is a train”, and over-detection (false positive) was suppressed. Although the correct answer was “train” or “car”, there was a false negative that was not detected, but the time was extremely short, from a few seconds to a few minutes, and it was sufficiently practical.

上記のとおり、本発明によれば、リアルタイムで高精度の状態検知が可能である。例えば、「電車」状態の最初の検知を「(今)電車に乗った」として出力することができ、「電車」状態に次いで他の状態が検知されたときに、「(今)電車を降りた」として出力することができる。出力の形態は限定されるものではなく、時刻に紐づけられた状態に関する様々な情報を提示することができる。   As described above, according to the present invention, it is possible to detect a state with high accuracy in real time. For example, the first detection of the “train” state can be output as “(now) on the train”, and when another state is detected following the “train” state, the “(now) get off the train” Can be output. The form of output is not limited, and various information related to the state associated with the time can be presented.

本発明に係る状態検知方法は、アプリケーションプログラムの形態でスマートフォン等公知の携帯端末装置にインストールすることができる。計算や判定処理に係る負荷が小さく、高速且つ高精度な判定が可能であって、実用性に優れる。   The state detection method according to the present invention can be installed in a known mobile terminal device such as a smartphone in the form of an application program. The load relating to the calculation and determination processing is small, high-speed and high-precision determination is possible, and the utility is excellent.

本発明の思想及び態様から離れることなく多くのさまざまな修正が可能であることは当業者の知るところである。したがって、言うまでもなく、本発明の態様は例示に過ぎず、本発明の範囲を限定するものではない。   Those skilled in the art will appreciate that many different modifications are possible without departing from the spirit and aspects of the invention. Accordingly, it goes without saying that the embodiments of the present invention are merely examples, and do not limit the scope of the present invention.

100 状態検知装置
10 センサ手段
20 センサ値取得手段
30 特徴量算出手段
40 スコア計算手段
50 状態判定手段
60 データベース手段
61 スコア計算モデル
62 状態判定規則
63 判定結果
70 通信手段
DESCRIPTION OF SYMBOLS 100 State detection apparatus 10 Sensor means 20 Sensor value acquisition means 30 Feature-value calculation means 40 Score calculation means 50 State determination means 60 Database means 61 Score calculation model 62 State determination rule 63 Determination result 70 Communication means

Claims (9)

移動体の状態をリアルタイムで検知するための方法であって、
取得されたセンサ値からそれぞれ所定の時間間隔で複数の特徴量を算出するステップと、
算出された複数の特徴量と、予め生成された複数の計算モデルとを用いて、第1の時刻において検知され得る複数の状態に関する複数の状態スコアをそれぞれ計算するステップと、
前記複数の状態スコアに基づいて、前記第1の時刻における単一の状態を決定するステップと、を含み、
前記複数の計算モデルが、前記複数の特徴量から選択された特徴量を用いて特定の状態に関する特定状態スコアを計算する特定状態スコア計算モデルと、前記計算された特定状態スコアを用いて前記複数の状態スコアを計算する状態スコア計算モデルと、を含み、
前記第1の時刻における前記複数の状態スコアのうち前記単一の状態に関する状態スコアが、前記第1の時刻を含む時系列において他の状態スコアより高い、ことを特徴とする状態検知方法。
A method for detecting the state of a moving object in real time ,
Calculating a plurality of feature amounts at predetermined time intervals, respectively, from the acquired sensor values;
Calculating a plurality of state scores relating to a plurality of states that can be detected at the first time using the plurality of calculated feature quantities and a plurality of calculation models generated in advance;
Based on said plurality of status score, it viewed including the steps of: determining a single state in the first time,
The plurality of calculation models include a specific state score calculation model for calculating a specific state score related to a specific state using a feature amount selected from the plurality of feature amounts, and the plurality of calculation models using the calculated specific state score. A state score calculation model for calculating the state score of
A state detection method , wherein a state score related to the single state among the plurality of state scores at the first time is higher than other state scores in a time series including the first time .
複数の時刻のそれぞれの単一の状態が順次決定され、このことにより単一の状態の開始、単一の状態の継続、及び/又は単一の状態の終了が決定されることを特徴とする請求項1に記載された状態検知方法。   Each single state at a plurality of times is determined sequentially, thereby determining the start of a single state, the continuation of a single state, and / or the end of a single state The state detection method according to claim 1. 前記複数の計算モデルが3つ以上のモデルであり、
前記複数の特徴量のうちの第1のセットから第1のスコアを計算するための第1モデルと、
前記複数の特徴量のうちの第2のセットから第2のスコアを計算するための第2モデルと、
少なくとも前記第1のスコア及び前記第2のスコアを特徴量として前記複数の状態スコアを計算するための第3モデルと、を含むことを特徴とする請求項1に記載された状態検知方法。
The plurality of calculation models are three or more models;
A first model for calculating a first score from a first set of the plurality of feature quantities;
A second model for calculating a second score from a second set of the plurality of feature quantities;
The state detection method according to claim 1, further comprising: a third model for calculating the plurality of state scores using at least the first score and the second score as feature amounts.
前記決定される単一の状態の状態スコアが少なくとも所定の閾値を超えることを特徴とする請求項1に記載された状態検知方法。   The state detection method according to claim 1, wherein a state score of the determined single state exceeds at least a predetermined threshold value. 前記センサ値が少なくとも三軸加速度センサ値を含み、
前記複数の特徴量が、ある時刻における少なくとも一つの加速度周波数の振の移動平均を含むことを特徴とする請求項1に記載された状態検知方法。
The sensor value includes at least a triaxial acceleration sensor value;
Wherein the plurality of feature amounts, state detection method according to claim 1, characterized in that it comprises a moving average of the amplitude of at least one of the acceleration frequency at a certain time.
前記センサ値が少なくとも三軸加速度センサ値、及び三軸地磁気センサ値を含み、
前記複数の特徴量が、磁気量の水平成分及び垂直成分のそれぞれの変化に関する値を含むことを特徴とする請求項1に記載された状態検知方法。
The sensor value includes at least a triaxial acceleration sensor value and a triaxial geomagnetic sensor value;
2. The state detection method according to claim 1, wherein the plurality of feature amounts include values related to changes in a horizontal component and a vertical component of a magnetic amount.
前記センサ値が、少なくとも速度データを含み、
前記単一の状態を決定するステップにおいて速度データが参照されることを特徴とする請求項1に記載された状態検知方法。
The sensor value includes at least velocity data;
The state detection method according to claim 1, wherein speed data is referred to in the step of determining the single state.
請求項1ないしのいずれかに記載の状態検知方法をコンピュータに実行させるプログラム。 The program which makes a computer perform the state detection method in any one of Claim 1 thru | or 7 . 移動体の状態をリアルタイムに検知するための、一つ以上のセンサを備える状態検知装置であって、
前記一つ以上のセンサからセンサ値を取得するためのセンサ値取得手段と、
取得されたセンサ値からそれぞれ所定の時間間隔で複数の特徴量を算出する特徴量算出手段と、
予め生成された複数の計算モデルと状態判定規則とが格納されるデータベース手段と、
算出された複数の特徴量と前記計算モデルとを用いて、第1の時刻において検知され得る複数の状態に関する複数の状態スコアをそれぞれ計算するスコア計算手段と、
前記複数の状態スコアと前記状態判定規則とに基づいて、前記第1の時刻における単一の状態を決定する状態判定手段と、を備え
前記複数の計算モデルが、前記複数の特徴量から選択された特徴量から特定の状態に関する特定状態スコアをそれぞれ計算する複数の特定状態スコア計算モデルと、前記それぞれ計算された特定状態スコアから前記複数の状態スコアを計算する状態スコア計算モデルと、を含み、
前記第1の時刻における前記複数の状態スコアのうち前記単一の状態に関する状態スコアが、前記第1の時刻を含む時系列において他の状態スコアより高い、ことを特徴とする状態検知装置。
A state detection device including one or more sensors for detecting a state of a moving object in real time ,
Sensor value acquisition means for acquiring sensor values from the one or more sensors;
Feature quantity calculating means for calculating a plurality of feature quantities at predetermined time intervals from the acquired sensor values;
Database means for storing a plurality of pre-generated calculation models and state determination rules;
Score calculating means for respectively calculating a plurality of state scores relating to a plurality of states that can be detected at a first time using the plurality of calculated feature quantities and the calculation model;
A state determination unit that determines a single state at the first time based on the plurality of state scores and the state determination rule ;
The plurality of calculation models include a plurality of specific state score calculation models that respectively calculate specific state scores relating to a specific state from feature amounts selected from the plurality of feature amounts, and the plurality of calculation states based on the calculated specific state scores. A state score calculation model for calculating the state score of
A state detection device , wherein a state score related to the single state among the plurality of state scores at the first time is higher than other state scores in a time series including the first time .
JP2017015465A 2017-01-31 2017-01-31 Method, program, and apparatus for detecting state of moving object Active JP6449355B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017015465A JP6449355B2 (en) 2017-01-31 2017-01-31 Method, program, and apparatus for detecting state of moving object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017015465A JP6449355B2 (en) 2017-01-31 2017-01-31 Method, program, and apparatus for detecting state of moving object

Publications (2)

Publication Number Publication Date
JP2018124126A JP2018124126A (en) 2018-08-09
JP6449355B2 true JP6449355B2 (en) 2019-01-09

Family

ID=63109576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017015465A Active JP6449355B2 (en) 2017-01-31 2017-01-31 Method, program, and apparatus for detecting state of moving object

Country Status (1)

Country Link
JP (1) JP6449355B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7024692B2 (en) * 2018-11-16 2022-02-24 日本電信電話株式会社 Learning devices, methods, and programs
JP2020086597A (en) * 2018-11-16 2020-06-04 日本電信電話株式会社 Learning apparatus, estimation apparatus, method, and program
US11895559B2 (en) 2018-12-13 2024-02-06 Ntt Docomo, Inc. Moving means determination device
KR102931743B1 (en) * 2022-01-11 2026-02-27 주식회사 네이앤컴퍼니 Method, apparatus and computer program for determinating mobility user's movement pattern using artificial intelligence

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007303989A (en) * 2006-05-12 2007-11-22 Pioneer Electronic Corp MOBILE TERMINAL DEVICE, MOBILE TERMINAL CONTROL METHOD, MOBILE TERMINAL CONTROL PROGRAM, AND RECORDING MEDIUM CONTAINING MOBILE TERMINAL CONTROL PROGRAM
CN102484660B (en) * 2010-01-07 2014-06-11 株式会社东芝 Movement state estimation device, method, and program
JP5494364B2 (en) * 2010-09-02 2014-05-14 カシオ計算機株式会社 POSITIONING DEVICE, POSITIONING METHOD, AND PROGRAM
WO2013157332A1 (en) * 2012-04-17 2013-10-24 日本電気株式会社 Activity identification device, activity identification system and activity identification program
JP2013257774A (en) * 2012-06-13 2013-12-26 Navitime Japan Co Ltd Movement information totalization system, server device, terminal device, movement information totalization device, and movement information totalization method and program
JP6123573B2 (en) * 2013-08-21 2017-05-10 株式会社デンソー Integrated navigation device

Also Published As

Publication number Publication date
JP2018124126A (en) 2018-08-09

Similar Documents

Publication Publication Date Title
Kumar et al. An IoT-based vehicle accident detection and classification system using sensor fusion
Bangaru et al. ANN-based automated scaffold builder activity recognition through wearable EMG and IMU sensors
Johnston et al. Smartwatch-based biometric gait recognition
Wang et al. Summary of the Sussex-Huawei locomotion-transportation recognition challenge 2020
Allouch et al. Roadsense: Smartphone application to estimate road conditions using accelerometer and gyroscope
Zhou et al. Making pervasive sensing possible: Effective travel mode sensing based on smartphones
JP6449355B2 (en) Method, program, and apparatus for detecting state of moving object
Hnoohom et al. Deep learning approach for complex activity recognition using heterogeneous sensors from wearable device
US9407706B2 (en) Methods, devices, and apparatuses for activity classification using temporal scaling of time-referenced features
Hnoohom et al. Real-life human activity recognition with tri-axial accelerometer data from smartphone using hybrid long short-term memory networks
JP2010286344A (en) Method and system for estimating movement state of portable terminal device
Jahanjoo et al. Detection and multi-class classification of falling in elderly people by deep belief network algorithms
US20160253594A1 (en) Method and apparatus for determining probabilistic context awreness of a mobile device user using a single sensor and/or multi-sensor data fusion
Ballı et al. Diagnosis of transportation modes on mobile phone using logistic regression classification
Rasheed et al. Evaluation of human activity recognition and fall detection using android phone
Saha et al. Feature extraction, performance analysis and system design using the du mobility dataset
Tavakoli et al. Driver state and behavior detection through smart wearables
Khokhlov et al. Design of activity recognition systems with wearable sensors
Chen et al. Detection of falls with smartphone using machine learning technique
CN117831218A (en) Indoor child anti-lost monitoring method, abnormal reminder method and system
US20170344123A1 (en) Recognition of Pickup and Glance Gestures on Mobile Devices
Bieber et al. The hearing trousers pocket: activity recognition by alternative sensors
Jamian et al. Human activity and posture classification using smartphone sensors and Matlab mobile
Tuesta et al. A sociometric sensor based on proximity, movement and verbal interaction detection
Miyamoto et al. Human activity recognition system including smartphone position

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181205

R150 Certificate of patent or registration of utility model

Ref document number: 6449355

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250