Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7554624B2 - System of record - Google Patents
[go: Go Back, main page]

JP7554624B2 - System of record - Google Patents

System of record Download PDF

Info

Publication number
JP7554624B2
JP7554624B2 JP2020163829A JP2020163829A JP7554624B2 JP 7554624 B2 JP7554624 B2 JP 7554624B2 JP 2020163829 A JP2020163829 A JP 2020163829A JP 2020163829 A JP2020163829 A JP 2020163829A JP 7554624 B2 JP7554624 B2 JP 7554624B2
Authority
JP
Japan
Prior art keywords
inspection
unit
mode
information
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020163829A
Other languages
Japanese (ja)
Other versions
JP2022056051A (en
Inventor
佳史 井谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daiwa House Industry Co Ltd
Original Assignee
Daiwa House Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daiwa House Industry Co Ltd filed Critical Daiwa House Industry Co Ltd
Priority to JP2020163829A priority Critical patent/JP7554624B2/en
Publication of JP2022056051A publication Critical patent/JP2022056051A/en
Application granted granted Critical
Publication of JP7554624B2 publication Critical patent/JP7554624B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、撮影部で撮影した映像を記録する記録システムの技術に関する。 The present invention relates to a recording system technology that records video captured by a camera unit.

従来、撮影部で撮影した映像を記録する記録システムの技術は公知となっている。例えば、特許文献1に記載の如くである。 The technology for recording systems that record images captured by a camera unit is publicly known. For example, see Patent Document 1.

特許文献1に記載の建築現場管理システムは、現場ポータブルシステム及び映像蓄積伝送サーバ等を具備する。現場ポータブルシステムは、建築現場を巡回する監視作業員が携帯するものである。現場ポータブルシステムは、ビデオカメラを具備する。映像蓄積伝送サーバには、ビデオカメラで撮像された映像データが、ネットワークを介して入力される。映像蓄積伝送サーバは、入力された映像データをHDD等の記憶装置に蓄積する。確認者(映像データを確認する者)は、映像蓄積伝送サーバにアクセスすることで、蓄積された映像データを確認することができる。 The construction site management system described in Patent Document 1 includes an on-site portable system and a video storage and transmission server. The on-site portable system is carried by a monitoring worker who patrols the construction site. The on-site portable system includes a video camera. Video data captured by the video camera is input to the video storage and transmission server via a network. The video storage and transmission server stores the input video data in a storage device such as a HDD. A person who checks the video data can check the stored video data by accessing the video storage and transmission server.

しかし、特許文献1に記載の現場ポータブルシステムは、映像データの長さが長時間となった場合に、当該長時間の映像データの中から確認したい箇所を見つけ出す必要がある。このため、映像データの確認に時間がかかり、ひいては確認者の負担が増大する可能性があった。 However, with the on-site portable system described in Patent Document 1, when the length of video data becomes long, it is necessary to find the part of the video data that the user wants to check. This can result in time-consuming checking of the video data, which can increase the burden on the person checking.

特開2009-124328号公報JP 2009-124328 A

本発明は、以上の如き状況を鑑みてなされたものであり、その解決しようとする課題は、確認者の負担を低減することが可能な記録システムを提供するものである。 The present invention was made in consideration of the above situation, and the problem it aims to solve is to provide a recording system that can reduce the burden on the reviewer.

本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。 The problem that the present invention aims to solve is as described above, and the means for solving this problem will be explained next.

即ち、請求項1においては、音声を含む映像を撮影可能な撮影部と、前記映像に含まれた前記音声を認識する音声認識部と、前記音声認識部での認識結果に基づいて、前記撮影部で撮影した第一映像の中から、一部の時間帯の映像である第二映像を抽出する抽出部と、前記第二映像を記憶する記憶部と、を具備し、前記音声認識部は、前記音声の認識結果を、前記第一映像において当該音声の出力が開始される時間と関連付けて記憶し、前記抽出部は、キーワードが前記認識結果に含まれていた場合に、当該認識結果と関連付けられた前記時間を開始時間として取得し、前記第一映像の中から、前記開始時間以降の時間帯の映像を含むように前記第二映像を抽出し、前記キーワードを含む前記音声の認識結果と、前記第二映像に関する画像と、を表示する表示部をさらに具備するものである。 That is, in claim 1, the device comprises an imaging unit capable of capturing video including audio, a voice recognition unit that recognizes the audio contained in the video, an extraction unit that extracts a second video which is video of a certain time period from a first video captured by the imaging unit based on a recognition result by the voice recognition unit, and a memory unit that stores the second video, wherein the voice recognition unit stores the recognition result of the audio in association with a time when output of the audio begins in the first video, and when a keyword is included in the recognition result, the extraction unit obtains the time associated with the recognition result as a start time and extracts the second video from the first video so as to include video of a time period after the start time, and further comprises a display unit that displays the recognition result of the audio including the keyword and an image related to the second video .

請求項においては、前記撮影部は、作業現場を撮影するものであり、前記キーワードには、前記作業現場に関する用語が含まれるものである。 In claim 2 , the photographing section photographs a work site, and the keywords include terms related to the work site.

請求項においては、前記抽出部は、前記第一映像に含まれた前記音声に基づいて、前記開始時間よりも遅い終了時間を特定し、前記第一映像の中から、前記開始時間から前記終了時間までの時間帯の映像を含むように前記第二映像を抽出するものである。 In claim 3 , the extraction unit identifies an end time that is later than the start time based on the audio contained in the first video, and extracts the second video from the first video so as to include video of the time period from the start time to the end time.

請求項においては、前記抽出部は、前記音声の認識結果及び当該認識結果と関連付けられた時間に基づいて、前記音声認識部が所定時間前記音声を認識しなかった時間を特定し、当該特定した時間に基づいて前記終了時間を特定可能である。 In claim 4 , the extraction unit is capable of identifying a predetermined period of time during which the voice recognition unit did not recognize the voice, based on the voice recognition result and the time associated with the recognition result, and identifying the end time based on the identified period of time.

請求項においては、前記抽出部は、前記開始時間よりも所定時間前の時間から、前記終了時間よりも所定時間後の時間までの時間帯の映像を前記第二映像として抽出するものである。 In a fifth aspect of the present invention, the extraction section extracts, as the second image, an image of a time period from a time that is a predetermined time before the start time to a time that is a predetermined time after the end time.

請求項においては、前記記憶部は、前記第一映像及び前記第二映像をそれぞれ記憶するものである。 In the sixth aspect of the present invention, the storage section stores the first image and the second image.

請求項においては、前記記憶部が前記第一映像を記憶してから所定期間が経過した場合に、当該第一映像を削除する削除部をさらに具備するものである。 In a seventh aspect of the present invention, the video recording apparatus further comprises a deleting section which deletes the first video when a predetermined period of time has elapsed since the storage section stored the first video.

本発明の効果として、以下に示すような効果を奏する。 The effects of the present invention are as follows:

請求項1においては、第一映像を確認する確認者の負担を低減することができる。また第一映像からキーワードに関連する事柄を抽出することがきる。また利便性を向上させることができる。 In claim 1, the burden on the person who checks the first video can be reduced. Also, matters related to keywords can be extracted from the first video. Also, convenience can be improved.

請求項においては、作業現場に関連する事柄を抽出することができる。
In claim 2 , matters related to the work site can be extracted.

請求項においては、第二映像を比較的短時間なものにできる。
In the third aspect, the second image can be made to be of a relatively short duration.

請求項においては、終了時間を簡単に特定することができる。
In claim 4 , the end time can be easily specified.

請求項においては、キーワードに関連する事柄の全てを、第二映像に含ませ易くすることができる。 In claim 5 , it is possible to easily include all matters related to the keyword in the second image.

請求項においては、抽出部で抽出されなかった時間帯の映像を確認することができる。
In the sixth aspect, it is possible to check the video of the time period not extracted by the extraction section.

請求項においては、記憶部の容量を確保することができる。 In the seventh aspect, the capacity of the storage section can be secured.

支援システムを示したブロック図。FIG. 1 is a block diagram showing an assistance system. 端末の外観を示す図。FIG. モード制御部の構成を示したブロック図。FIG. 4 is a block diagram showing the configuration of a mode control unit. 検査項目テーブルを示す図。FIG. 検査報告書を示す図。FIG. モード選択の処理を示すフローチャート。11 is a flowchart showing a mode selection process. 検査処理部による検査モードの流れを示す図。FIG. 4 is a diagram showing a flow of an inspection mode by an inspection processing unit. 検査項目テーブルをダウンロードする様子を示したブロック図。FIG. 11 is a block diagram showing how a test item table is downloaded. 検査処理部における対話のイメージを示す図。FIG. 13 is a diagram showing an image of a dialogue in the inspection processing unit. 画像ファイルをアップロードする様子を示したブロック図。Block diagram showing how to upload an image file. スタンドアロンで動作する様子を示したブロック図。Block diagram showing standalone operation. 検査項目をスキップする際の対話のイメージを示す図。FIG. 13 is a diagram showing an example of a dialogue that is displayed when skipping a test item. 通話処理部による通話モードの流れを示す図。FIG. 4 is a diagram showing a flow of a call mode by a call processing unit. 通話モードを実行する様子を示したブロック図。FIG. 1 is a block diagram showing how a call mode is executed. 記録処理部による記録モードの流れを示す図。FIG. 4 is a diagram showing a flow of a recording mode by a recording processing unit. 映像を抽出する処理を示すフローチャート。11 is a flowchart showing a process of extracting a video. 記録モードを実行する様子を示したブロック図。FIG. 4 is a block diagram showing how a recording mode is executed. 記録モードにより壁部を撮影する様子を模式的に示した図。FIG. 11 is a schematic diagram showing how a wall is photographed in a recording mode. 記録モードで撮影した抽出前映像ファイルを示す図。FIG. 13 shows a pre-extraction video file captured in recording mode. 日時T1~T3における抽出前映像ファイルの詳細を示す図。FIG. 13 shows details of pre-extraction video files at dates and times T1 to T3. 日時T4~T7における抽出前映像ファイルの詳細を示す図。FIG. 13 shows details of pre-extraction video files at dates and times T4 to T7. 日時T8~T12における抽出前映像ファイルの詳細を示す図。FIG. 13 shows details of pre-extraction video files at dates and times T8 to T12. 抽出後映像ファイルを示す図。FIG. 13 shows an extracted video file. 抽出後映像ファイルを確認する確認画面を示す図。FIG. 13 is a diagram showing a confirmation screen for confirming an extracted video file. サーバの記憶領域に作成されたフォルダの構成を示す図。11 is a diagram showing the configuration of folders created in a storage area of a server. 第二実施形態に係る検査システムを示すブロック図。FIG. 11 is a block diagram showing an inspection system according to a second embodiment. 検査に関する項目を示す図。FIG. 確認画面を示す図。FIG. 第一モードにおける検査結果の入力までの流れを示す図。FIG. 11 is a diagram showing a flow up to input of test results in the first mode. プロジェクト名を選択する流れを示す図。A diagram showing the process for selecting a project name. (a)工程名を選択する流れを示す図。(b)検査区分を選択する流れを示す図。1A is a diagram showing a flow for selecting a process name, and FIG. 1B is a diagram showing a flow for selecting an inspection category. 検査項目を選択してから検査結果を入力するまで流れを示す図。A diagram showing the flow from selecting an inspection item to inputting inspection results. 第二モードにおける検査結果の入力までの流れを示す図。FIG. 11 is a diagram showing the flow up to input of test results in the second mode. 発話を受け付ける流れを示す図。FIG. 13 is a diagram showing a flow of accepting an utterance. 第二モードにおける対話の具体例を示す図。FIG. 11 is a diagram showing a specific example of a dialogue in the second mode. (a)第二モードにおいて、全ての項目の検査情報を発話した場合の具体例を示す図。(b)第二モードにおいて、不足項目を推定して検査が特定できた場合の具体例を示す図。13A is a diagram showing a specific example when test information for all items is uttered in the second mode, and FIG. 13B is a diagram showing a specific example when tests are specified by estimating missing items in the second mode.

以下では、本実施形態に係る支援システム1について説明する。 The following describes the support system 1 according to this embodiment.

図1に示す支援システム1は、データの入力を支援するためのものである。本実施形態において、支援システム1は、建物の建築作業を行う現場(建築現場)で得られたデータの入力を支援する目的で用いられる。より詳細には、建築現場においては、建物の検査(検査対象物が所定の基準を満たしているか等を調べる作業)や点検作業(建物を見て回る作業等)が行われている。建築現場においては、こうして行われた検査の結果や点検作業の結果等のデータが、後述するサーバ30へ入力される(記録される)。支援システム1は、このようなサーバ30へのデータの入力を支援する。支援システム1は、端末10、サーバ30及び社内システム40等を具備する。 The support system 1 shown in FIG. 1 is for supporting data input. In this embodiment, the support system 1 is used for the purpose of supporting the input of data obtained at a site (construction site) where building construction work is carried out. More specifically, at the construction site, building inspections (work to check whether the object being inspected meets certain standards, etc.) and inspection work (work to look around the building, etc.) are carried out. At the construction site, data such as the results of such inspections and inspection work are input (recorded) into a server 30, which will be described later. The support system 1 supports the input of such data into the server 30. The support system 1 includes a terminal 10, a server 30, an in-house system 40, etc.

図1及び図2に示す端末10は、利用者B(支援システム1を利用してサーバ30へデータを入力する者)が所持する機器である。端末10は、利用者Bが装着可能な眼鏡型のウェアラブルデバイスによって構成される。端末10は、スピーカ11、マイク12、カメラ13及び処理部14を具備する。 The terminal 10 shown in Figs. 1 and 2 is a device carried by user B (a person who inputs data into the server 30 using the support system 1). The terminal 10 is configured as a glasses-type wearable device that can be worn by user B. The terminal 10 includes a speaker 11, a microphone 12, a camera 13, and a processing unit 14.

スピーカ11は、音声を出力するためのものである。マイク12は、音声を入力するためのものである。カメラ13は、写真や映像(動画)を撮影するためのものである。カメラ13は、映像の撮影時にマイク12を用いて音声を含む映像を撮影することができる。スピーカ11、マイク12及びカメラ13は、眼鏡のフレーム10aに適宜設けられる。当該フレーム10aには、例えば、カメラ13でシャッターを切るためのボタン等も適宜設けられる(不図示)。これにより、端末10は、利用者B(図7参照)が適宜操作可能に構成される。 The speaker 11 is for outputting sound. The microphone 12 is for inputting sound. The camera 13 is for taking photographs and videos (videos). When taking video, the camera 13 can take video including sound using the microphone 12. The speaker 11, microphone 12, and camera 13 are appropriately provided on the frame 10a of the glasses. The frame 10a is also appropriately provided with, for example, a button for releasing the shutter with the camera 13 (not shown). In this way, the terminal 10 is configured so that it can be operated appropriately by user B (see Figure 7).

図1に示す処理部14は、演算処理を行うためのものである。処理部14は、ハードウェア資源とソフトウェア資源との協動により、演算処理を行うことができる。処理部14は、前記ハードウェア資源として、演算装置及び記憶装置等を具備する。また、処理部14は、前記ソフトウェア資源として、OS15、音声認識部16及びモード制御部17を具備する。 The processing unit 14 shown in FIG. 1 is for performing arithmetic processing. The processing unit 14 can perform arithmetic processing by cooperation between hardware resources and software resources. The processing unit 14 includes a calculation device and a storage device as the hardware resources. The processing unit 14 also includes an OS 15, a voice recognition unit 16, and a mode control unit 17 as the software resources.

OS15は、プログラムを実行させるための基本となるソフトウェアである。OS15は、後述するサーバ30や関係者端末R10との通信を管理したり、記憶装置との間でのデータの受け渡しを管理することができる。また、OS15は、スピーカ11、マイク12及びカメラ13との間の入出力を管理することができる。 The OS 15 is the basic software for executing the program. The OS 15 can manage communications with the server 30 and the related party terminal R10 described below, and can manage the transfer of data between the OS 15 and the storage device. The OS 15 can also manage input and output between the speaker 11, microphone 12, and camera 13.

音声認識部16は、利用者Bが発した言葉(発話内容)を認識するためのものである。音声認識部16は、OS15上で動作可能なプログラムによって構成される。音声認識部16は、音声ファイルを解析し、テキストファイルへと変換可能に構成される。 The voice recognition unit 16 is for recognizing words (speech content) uttered by user B. The voice recognition unit 16 is configured as a program that can run on the OS 15. The voice recognition unit 16 is configured to be able to analyze voice files and convert them into text files.

モード制御部17は、利用者Bに所定の機能を提供するための複数のモードを実行するためのものである。モードとは、所定の機能を提供するために設定された一連の処理を指す。モード制御部17は、OS15を介してスピーカ11等を適宜制御することができる。 The mode control unit 17 is for executing a number of modes to provide a specific function to the user B. A mode refers to a series of processes set up to provide a specific function. The mode control unit 17 can appropriately control the speaker 11 etc. via the OS 15.

具体的には、モード制御部17は、OS15を介してスピーカ11に信号を送信し、所定の音声を出力させることができる。また、モード制御部17は、マイク12に信号を送信し、マイク12への音声入力を受け付ける(マイク12を介して録音する)ことができる。また、モード制御部17は、マイク12から受信した信号に基づいて、マイク12を介して録音した音声ファイルを取得することができる。また、モード制御部17は、カメラ13から受信した信号に基づいて、カメラ13で撮影したファイル(例えば、画像ファイルや映像ファイル)を取得することができる。 Specifically, the mode control unit 17 can send a signal to the speaker 11 via the OS 15 to output a predetermined sound. The mode control unit 17 can also send a signal to the microphone 12 to accept sound input to the microphone 12 (record via the microphone 12). The mode control unit 17 can also acquire a sound file recorded via the microphone 12 based on a signal received from the microphone 12. The mode control unit 17 can also acquire a file (e.g., an image file or a video file) captured by the camera 13 based on a signal received from the camera 13.

また、モード制御部17は、音声認識部16に指示を出し、音声ファイルをテキストファイルに変換することができる。また、モード制御部17は、音声認識部16からの応答に基づいて、変換したテキストファイルを取得することができる。 The mode control unit 17 can also issue an instruction to the voice recognition unit 16 to convert the voice file into a text file. The mode control unit 17 can also obtain the converted text file based on a response from the voice recognition unit 16.

また、モード制御部17は、ネットワーク回線Nを介してサーバ30と通信することで、当該サーバ30との間でファイルの転送を行うことができる。より詳細には、モード制御部17は、サーバ30から検査項目テーブル31をダウンロードしたり、カメラ13で撮影した画像ファイル等をサーバ30へアップロードすることができる。 The mode control unit 17 can also transfer files between the server 30 and the mode control unit 17 by communicating with the server 30 via the network line N. More specifically, the mode control unit 17 can download the examination item table 31 from the server 30 and upload image files captured by the camera 13 to the server 30.

また、モード制御部17は、ネットワーク回線Nを介して利用者B以外の者、例えば、建築現場の関係者Rが使用する関係者端末R10(例えば、パソコンやスマートフォン等)と通信することができる。モード制御部17は、マイク12に入力された音声(電気信号)を関係者端末R10に送信すると共に、関係者端末R10から受信した音声(電気信号)をスピーカ11から出力させることができる。こうして利用者Bは、端末10を介して関係者Rと通話することができる。また、モード制御部17は、カメラ13で撮影した映像を関係者端末R10に送信することができる。関係者端末R10は、モード制御部17から受信した映像を表示させることができる。こうして関係者Rは、カメラ13で撮影した様子を確認することができる。 The mode control unit 17 can also communicate with a person other than the user B, for example, a related party terminal R10 (e.g., a personal computer, a smartphone, etc.) used by a related party R at the construction site, via the network line N. The mode control unit 17 can transmit the voice (electrical signal) input to the microphone 12 to the related party terminal R10, and can output the voice (electrical signal) received from the related party terminal R10 from the speaker 11. In this way, the user B can talk to the related party R via the terminal 10. The mode control unit 17 can also transmit the image captured by the camera 13 to the related party terminal R10. The related party terminal R10 can display the image received from the mode control unit 17. In this way, the related party R can check the scene captured by the camera 13.

上述の如く構成されたモード制御部17において実行される複数のモードには、検査モード、記録モード及び通話モードが含まれる。 The multiple modes executed by the mode control unit 17 configured as described above include an inspection mode, a recording mode, and a call mode.

検査モードは、利用者Bが建物の検査を行うためのモードである。通話モードは、利用者Bが利用者B以外の者(本実施形態では関係者R)と通話するためのモードである。記録モードは、カメラ13で撮影した様子(例えば、点検作業の様子等)を記録するためのモードである。検査モード、通話モード及び記録モードについては後述する。 The inspection mode is a mode in which user B inspects the building. The call mode is a mode in which user B makes a call to a person other than user B (in this embodiment, related person R). The recording mode is a mode in which the state captured by the camera 13 (for example, the state of the inspection work, etc.) is recorded. The inspection mode, call mode, and recording mode will be described later.

モード制御部17は、複数のモードのいずれを実行するのかを選択可能(後述するモード選択処理を実行可能)に構成される。また、図3示すように、モード制御部17は、検査モード、記録モード及び通話モードを実行するためのもの(OS15上で動作可能なプログラム)として、検査処理部18、通話処理部19及び記録処理部20を具備する。 The mode control unit 17 is configured to be able to select which of a number of modes to execute (to execute the mode selection process described below). As shown in FIG. 3, the mode control unit 17 includes an inspection processing unit 18, a call processing unit 19, and a recording processing unit 20 as units for executing the inspection mode, the recording mode, and the call mode (programs operable on the OS 15).

検査処理部18は、検査モードを実行するためのものである。検査処理部18は、後述するように、利用者Bが発した言葉に基づいて適宜処理を行うことができる。検査処理部18は、検査で使用するための記憶領域A10(空き領域、図1参照)を端末10の記憶装置に確保することができる。検査処理部18の処理については後述する。 The inspection processing unit 18 is for executing the inspection mode. As described below, the inspection processing unit 18 can perform appropriate processing based on the words uttered by the user B. The inspection processing unit 18 can secure a memory area A10 (free space, see FIG. 1) in the storage device of the terminal 10 for use in the inspection. The processing of the inspection processing unit 18 will be described later.

通話処理部19は、通話モードを実行するためのものである。通話処理部19は、後述するように、利用者Bが発した言葉に基づいて適宜処理を行うことができる。通話処理部19の処理については後述する。 The call processing unit 19 is for executing the call mode. As described below, the call processing unit 19 can perform appropriate processing based on the words uttered by user B. The processing of the call processing unit 19 will be described later.

記録処理部20は、記録モードを実行するためのものである。記録処理部20は、後述するように、利用者Bが発した言葉に基づいて適宜処理を行うことができる。記録処理部20の処理については後述する。 The recording processing unit 20 is for executing the recording mode. As described below, the recording processing unit 20 can perform appropriate processing based on the words uttered by user B. The processing of the recording processing unit 20 will be described later.

図1に示すサーバ30は、端末10及び後述する社内システム40からの要求に応じて適宜処理を行うものである。サーバ30は、ネットワーク回線Nを介して端末10及び社内システム40と接続される。サーバ30は、クラウドサーバ(厳密には、クラウドサーバ内に仮想的に構築されたサーバ)によって構成される。サーバ30には、カメラ13での撮影結果(図10に示す画像ファイルC11・C12参照)や音声認識部16での認識結果(図10に示すテキストファイルF11参照)等を記憶するための記憶領域A30が確保される。記憶領域A30には、複数のフォルダ(記憶場所、OSによってはディレクトリともいう)が作成される(図25参照)。記憶領域A30の構成については後述する。サーバ30は、検査項目テーブル31及び保存用DB32を具備する。 The server 30 shown in FIG. 1 performs appropriate processing in response to requests from the terminal 10 and the in-house system 40 described later. The server 30 is connected to the terminal 10 and the in-house system 40 via a network line N. The server 30 is configured as a cloud server (strictly speaking, a server virtually constructed in a cloud server). The server 30 has a memory area A30 secured therein for storing the results of photography by the camera 13 (see image files C11 and C12 shown in FIG. 10) and the results of recognition by the voice recognition unit 16 (see text file F11 shown in FIG. 10). In the memory area A30, multiple folders (storage locations, also called directories depending on the OS) are created (see FIG. 25). The configuration of the memory area A30 will be described later. The server 30 has an examination item table 31 and a storage DB 32.

図4に示す検査項目テーブル31は、検査項目に関する情報を格納するものである。検査項目テーブル31には、「No」、「工程・部位等」、「検査項目」及び「管理値」が含まれる。 The inspection item table 31 shown in FIG. 4 stores information about inspection items. The inspection item table 31 includes "No.", "Process/part, etc.", "Inspection item," and "Control value."

「No」は、検査項目テーブル31のレコード毎に割り当てられる通し番号である。 "No." is a serial number assigned to each record in the test item table 31.

「工程・部位等」は、検査の工程(建物の工事におけるどの工程での検査であるのか)、及び検査対象の部位(建物のどの箇所を対象とした検査であるのか)を示すものである。検査の工程としては、例えば、コンクリート打設前の検査であるのか、フレッシュコンクリートの受入の検査であるのか等がある。また、検査対象の部位としては、例えば、基礎等がある。なお、図4に示す検査項目テーブル31の「工程・部位等」には、検査の工程等を示す文字列が格納されているが、これに限定されるものではなく、検査の工程等を一意に特定可能な数値等が格納されるものであってもよい。 "Process/part, etc." indicates the inspection process (which process in the building construction the inspection is being performed at) and the part to be inspected (which part of the building the inspection is being performed at). The inspection process can be, for example, an inspection before pouring concrete or an inspection of the receipt of fresh concrete. The part to be inspected can be, for example, the foundation. Note that, although the "Process/part, etc." in the inspection item table 31 shown in FIG. 4 stores a character string indicating the inspection process, etc., this is not limited to this, and a numerical value that can uniquely identify the inspection process, etc. may be stored.

「検査項目」は、検査の工程及び検査対象の部位において実施する検査の内容を示すものである。例えば、所定の数値に異常がないかの検査である場合、「検査項目」には、当該数値に相当する情報(例えば、『スランプ値』等)が格納される。なお、図4に示す検査項目テーブル31の「検査項目」には、検査の内容を示す文字列が格納されているが、これに限定されるものではなく、検査の内容を一意に特定可能な数値等が格納されるものであってもよい。 "Test item" indicates the test process and the content of the test to be performed on the part being tested. For example, if the test is to check whether there are any abnormalities in a specified numerical value, "test item" stores information corresponding to that numerical value (e.g., "slump value"). Note that "test item" in the test item table 31 shown in FIG. 4 stores a character string indicating the content of the test, but is not limited to this, and may store a numerical value or the like that can uniquely identify the content of the test.

「管理値」は、「検査項目」が示す検査の合否判定の基準となる情報を示すものである。「管理値」には、検査の内容に応じて、合格となる値や範囲等が格納される。なお、図4に示す検査項目テーブル31の「管理値」には、合否判定の基準を示す文字列が格納されているが、これに限定されるものではなく、合否判定の基準を一意に特定可能な数値等が格納されるものであってもよい。 The "control value" indicates information that serves as the standard for determining whether the test indicated by the "test item" passes or fails. The "control value" stores a pass value or range, etc., depending on the content of the test. Note that the "control value" in the test item table 31 shown in FIG. 4 stores a character string that indicates the pass/fail criteria, but is not limited to this, and may store a numerical value that can uniquely identify the pass/fail criteria.

図1に示す保存用DB32は、カメラ13での撮影結果(図10に示す画像ファイルC11・C12参照)やマイク12を介して録音した音声ファイルや音声認識部16での認識結果(図10に示すテキストファイルF11参照)等を記憶するためのもの(テーブル群)である。保存用DB32には、例えば、画像ファイルを記憶するためのテーブル、音声ファイルを記憶するためのテーブル及びテキストファイルを記憶するためのテーブル等が含まれる。保存用DB32は、例えば、画像ファイル等のファイルパス(より詳細にはフルパス)を、検査項目テーブル31の「工程・部位等」及び「管理項目」の情報と関連付けて記憶する。これにより、保存用DB32は、画像ファイル等がどの検査で得られたものなのかを特定可能となるように、当該画像ファイルを記憶することができる。 The storage DB 32 shown in FIG. 1 is a table group for storing the results of photography by the camera 13 (see image files C11 and C12 shown in FIG. 10), voice files recorded via the microphone 12, and the results of recognition by the voice recognition unit 16 (see text file F11 shown in FIG. 10). The storage DB 32 includes, for example, a table for storing image files, a table for storing voice files, and a table for storing text files. The storage DB 32 stores, for example, the file path (more specifically, the full path) of the image file, etc., in association with the information on "process/site, etc." and "management item" in the inspection item table 31. This allows the storage DB 32 to store the image file, etc., so that it is possible to identify which inspection the image file was obtained from.

上述の如く構成されたサーバ30は、他の端末(例えば、端末10や関係者端末R10等)からの要求に応じて、保存用DB32に登録されたデータを提供可能に構成される。具体的には、サーバ30は、例えば、保存用DB32からデータを抽出してWebページ(例えば、html(HyperText Markup Language)ドキュメント等)を生成し、要求があった端末へ生成したWebページを送信する。サーバ30は、当該Webページとして、例えば、確認画面33(図24参照)を生成することができる。当該端末において当該Webページを表示することで、保存用DB32に登録されたデータを確認することができる。なお、確認画面33については後述する。 The server 30 configured as described above is configured to be able to provide data registered in the storage DB 32 in response to a request from another terminal (e.g., the terminal 10 or the related party terminal R10). Specifically, the server 30, for example, extracts data from the storage DB 32 to generate a web page (e.g., an html (HyperText Markup Language) document, etc.) and transmits the generated web page to the requesting terminal. The server 30 can generate, for example, a confirmation screen 33 (see FIG. 24) as the web page. By displaying the web page on the terminal, the data registered in the storage DB 32 can be confirmed. The confirmation screen 33 will be described later.

社内システム40は、検査に関する情報を適宜管理するためのものである。社内システム40は、サーバ30と通信することで、検査項目テーブル31の内容を変更する(新たにレコードを追加したり既存のレコードを上書きする)ことができる。より詳細には、例えば、社内システム40には、検査項目テーブル31の内容を変更するデータが手動で入力される。社内システム40は、当該データに基づいて検査項目テーブル31の内容を変更する。また、社内システム40は、サーバ30と通信することで、保存用DB32から情報(画像ファイル等)を取得することができる。また、社内システム40は、取得した情報に基づいて、図5に示す検査報告書Dを作成することができる。 The in-house system 40 is for appropriately managing information related to tests. The in-house system 40 can change the contents of the test item table 31 (add new records or overwrite existing records) by communicating with the server 30. More specifically, for example, data for changing the contents of the test item table 31 is manually input into the in-house system 40. The in-house system 40 changes the contents of the test item table 31 based on the data. The in-house system 40 can also acquire information (image files, etc.) from the storage DB 32 by communicating with the server 30. The in-house system 40 can also create the test report D shown in FIG. 5 based on the acquired information.

検査報告書Dは、検査の結果を報告するためのものである。図5は、検査報告書Dの一例を示すものである。図5に示す検査報告書Dには、「No」、「工程・部位等」、「検査項目」、「管理値」、「検査値」、「合否」及び「写真」等が含まれる。 Inspection report D is used to report the results of the inspection. Figure 5 shows an example of inspection report D. Inspection report D shown in Figure 5 includes "No.", "Process/part, etc.", "Inspection item," "Control value," "Inspection value," "Pass/fail," and "Photo," etc.

「No」、「工程・部位等」、「検査項目」及び「管理値」は、検査項目テーブル31の「No」、「工程・部位等」、「検査項目」及び「管理値」と同様である。 "No.", "Process/part, etc.", "Inspection item," and "Control value" are the same as "No.", "Process/part, etc.", "Inspection item," and "Control value" in inspection item table 31.

「検査値」は、検査の結果(例えば、測定値等)を示すものである。「合否」は、検査の結果(「検査値」)が合格基準を満たしているか否かを示すものである。「写真」は、検査で撮影された結果(カメラ13で撮った画像)を示すものである。 "Test value" indicates the result of the test (e.g., a measurement value, etc.). "Pass/fail" indicates whether the test result ("test value") meets the pass criteria. "Photo" indicates the result photographed during the test (an image taken by camera 13).

上述の如く構成された支援システム1は、利用者Bが建築現場で作業(例えば、検査等)を行う場合に使用され、種々のデータ(例えば、検査の結果等)がサーバ30に記録される。より詳細には、利用者Bは、作業の開始前(又は作業中)に、用途に応じたモードを選択する。これにより、選択したモードが実行され、利用者Bに種々の機能が提供される。利用者Bは、当該機能を利用して、作業を円滑に行うことができる。このようなモードの実行時に得られた検査の結果等のデータが、適宜サーバ30に記録される。以下、具体的に説明する。 The support system 1 configured as described above is used when user B performs work (e.g., inspection, etc.) at a construction site, and various data (e.g., inspection results, etc.) are recorded in the server 30. More specifically, user B selects a mode according to the purpose before starting work (or during work). This executes the selected mode, and various functions are provided to user B. User B can use the functions to perform work smoothly. Data such as inspection results obtained when such a mode is executed is appropriately recorded in the server 30. A specific explanation is given below.

まず、利用者Bがモードを選択するためのモード選択処理について説明する。モード選択処理は、端末10を起動して、モード選択処理を指示する言葉(例えば、『モード選択』との言葉等)が発話された場合に開始される。 First, we will explain the mode selection process that allows user B to select a mode. The mode selection process is started when the terminal 10 is started and a word that indicates the mode selection process (for example, the word "mode selection") is spoken.

図6に示すように、モード選択処理が開始されると、モード制御部17は、ステップS10へ移行する。ステップS10において、モード制御部17は、利用者Bと対話することで、プロジェクトを選択する。プロジェクトは、建物を建築するプロジェクトの名称や建築現場の名称を示すものである。 As shown in FIG. 6, when the mode selection process starts, the mode control unit 17 proceeds to step S10. In step S10, the mode control unit 17 selects a project by interacting with user B. The project indicates the name of a project to construct a building or the name of a construction site.

ステップS10において、モード制御部17は、プロジェクトを問い合わせるための音声(例えば、『プロジェクトを選択して下さい』との音声)をスピーカ11から出力させる。利用者Bは、スピーカ11からの音声に対してプロジェクトを発声(回答)する。モード制御部17は、マイク12を介して当該利用者Bが発声した言葉(例えば、『Aプロジェクト』等の言葉)を録音する。モード制御部17は、マイク12を介して録音した音声ファイルを音声認識部16で処理してテキストファイル(発話内容)を取得する。 In step S10, the mode control unit 17 causes the speaker 11 to output a voice inquiring about the project (e.g., a voice saying "Please select a project"). User B vocalizes (answers) the project in response to the voice from the speaker 11. The mode control unit 17 records the words uttered by user B via the microphone 12 (e.g., words such as "Project A"). The mode control unit 17 processes the voice file recorded via the microphone 12 in the voice recognition unit 16 to obtain a text file (the content of the speech).

端末10の記憶装置には、予めプロジェクトに関する情報(例えば、プロジェクトの名称等)が記憶されている。ステップS10において、モード制御部17は、取得したテキストファイルとプロジェクトに関する情報とを対比することで、複数のプロジェクトの中から利用者Bが選択(発声)したプロジェクトを一意に特定する。モード制御部17は、ステップS10の処理が終了すると、ステップS20へ移行する。 Information about the project (e.g., the name of the project, etc.) is stored in advance in the storage device of the terminal 10. In step S10, the mode control unit 17 compares the acquired text file with the information about the project to uniquely identify the project selected (spoken) by user B from among multiple projects. When the processing of step S10 ends, the mode control unit 17 proceeds to step S20.

ステップS20において、モード制御部17は、利用者Bと対話することで、実行するモードを選択する。具体的には、モード制御部17は、モードを問い合わせるための音声(例えば、『モードを選択して下さい』との音声)をスピーカ11から出力させ、当該音声に対して利用者Bが発声した言葉(例えば、『検査モード』等の言葉)を音声認識部16で処理して認識結果(モードについての発話内容)を取得する。モード制御部17は、ステップS20の処理が終了すると、ステップS30へ移行する。 In step S20, the mode control unit 17 selects the mode to be executed by interacting with user B. Specifically, the mode control unit 17 causes the speaker 11 to output a voice inquiring about the mode (e.g., a voice saying "Please select a mode"), and the voice recognition unit 16 processes the words spoken by user B in response to the voice (e.g., words such as "inspection mode") to obtain the recognition result (the spoken content regarding the mode). When the processing of step S20 is completed, the mode control unit 17 proceeds to step S30.

ステップS30において、モード制御部17は、ステップS20で選択(発声)されたモードが検査モードであるか否かを確認する。モード制御部17は、ステップS20で選択されたモードが検査モードである場合に(ステップS30:Yes)、ステップS40へ移行する。一方、モード制御部17は、ステップS20で選択されたモードが検査モードではない場合に(ステップS30:No)、ステップS50へ移行する。 In step S30, the mode control unit 17 checks whether the mode selected (uttered) in step S20 is the test mode. If the mode selected in step S20 is the test mode (step S30: Yes), the mode control unit 17 proceeds to step S40. On the other hand, if the mode selected in step S20 is not the test mode (step S30: No), the mode control unit 17 proceeds to step S50.

ステップS40において、モード制御部17は、検査処理部18により、検査モードを実行する。検査モードの流れ(検査処理部18の処理)については後述する。 In step S40, the mode control unit 17 executes the inspection mode by the inspection processing unit 18. The flow of the inspection mode (the processing of the inspection processing unit 18) will be described later.

ステップS50において、モード制御部17は、ステップS20で選択されたモードが通話モードであるか否かを確認する。モード制御部17は、ステップS20で選択されたモードが通話モードである場合に(ステップS50:Yes)、ステップS60へ移行する。一方、モード制御部17は、ステップS20で選択されたモードが通話モードではない場合に(ステップS50:No)、ステップS70へ移行する。 In step S50, the mode control unit 17 checks whether the mode selected in step S20 is the call mode. If the mode selected in step S20 is the call mode (step S50: Yes), the mode control unit 17 proceeds to step S60. On the other hand, if the mode selected in step S20 is not the call mode (step S50: No), the mode control unit 17 proceeds to step S70.

ステップS60において、モード制御部17は、通話処理部19により、通話モードを実行する。通話モードの流れ(通話処理部19の処理)については後述する。 In step S60, the mode control unit 17 executes the call mode by the call processing unit 19. The flow of the call mode (processing of the call processing unit 19) will be described later.

ステップS70において、モード制御部17は、ステップS20で選択されたモードが記録モードであるか否かを確認する。モード制御部17は、ステップS20で選択されたモードが記録モードである場合に(ステップS70:Yes)、ステップS80へ移行する。一方、モード制御部17は、ステップS20で選択されたモードが記録モードではない場合に(ステップS70:No)、ステップS20へ移行し、実行するモードをもう一度確認する。 In step S70, the mode control unit 17 checks whether the mode selected in step S20 is the recording mode. If the mode selected in step S20 is the recording mode (step S70: Yes), the mode control unit 17 proceeds to step S80. On the other hand, if the mode selected in step S20 is not the recording mode (step S70: No), the mode control unit 17 proceeds to step S20 and checks again the mode to be executed.

ステップS80において、モード制御部17は、記録処理部20により、記録モードを実行する。記録モードの流れ(記録処理部20の処理)については後述する。 In step S80, the mode control unit 17 executes the recording mode using the recording processing unit 20. The flow of the recording mode (processing of the recording processing unit 20) will be described later.

上述の如く構成されたモード選択処理において利用者Bは、発声することでプロジェクト及びモードを選択することができる(ステップS10・S20)。これにより、利用者Bの手を使うことなくプロジェクト及びモードを選択することができるため、選択の手間を減らして利用者Bの負担を低減することができる。 In the mode selection process configured as described above, user B can select a project and a mode by speaking (steps S10 and S20). This allows user B to select a project and a mode without using his/her hands, reducing the effort required for selection and the burden on user B.

以下では、モード選択処理により選択されるモード(検査モード、通話モード及び記録モード)の流れについて説明する。 The following describes the flow of the modes (test mode, call mode, and record mode) selected by the mode selection process.

まず、図7及び図8を参照し、検査モードの流れ(検査処理部18の処理)について説明する。 First, the flow of the inspection mode (processing of the inspection processing unit 18) will be explained with reference to Figures 7 and 8.

上述の如く、検査モードは、利用者Bが建物の検査を行うためのモードであり、検査処理部18により実行される。なお、本実施形態においては、検査を行う前の事前作業A110として、最新の検査項目テーブル31を取得することが予め決められている。このため、利用者Bは、建築現場に行く前に端末10を操作して、サーバ30から最新の検査項目テーブル31を取得する(事前作業A110)。端末10は、当該検査項目テーブル31を記憶領域A10に格納する。 As described above, the inspection mode is a mode for user B to inspect a building, and is executed by the inspection processing unit 18. In this embodiment, it is predetermined that the latest inspection item table 31 is to be obtained as a pre-task A110 before the inspection. Therefore, before going to the construction site, user B operates the terminal 10 to obtain the latest inspection item table 31 from the server 30 (pre-task A110). The terminal 10 stores the inspection item table 31 in the memory area A10.

その後、利用者Bは、建築現場へ行き、検査モードを実行する(建物の検査を行う)。すなわち、利用者Bは、モード選択処理においてプロジェクトを選択し(図6に示すステップS10)、検査モードを選択可能な言葉(例えば、『検査モード』等の言葉)を発声することで、検査モードを実行する(図6に示すステップS20、ステップS30:Yes、ステップS40)。以下、検査モードについて具体的に説明する。 After that, User B goes to the construction site and executes the inspection mode (performs an inspection of the building). That is, User B selects the project in the mode selection process (step S10 shown in FIG. 6), and executes the inspection mode by uttering a word that allows the selection of the inspection mode (e.g., a word such as "inspection mode") (step S20, step S30: Yes, step S40 shown in FIG. 6). The inspection mode will be described in detail below.

検査モードが開始されると、利用者Bは、複数の検査の中のどの検査を行うのかを特定可能となるように、検査に関する言葉を適宜発声する(ステップS110)。例えば、利用者Bは、検査項目テーブル31の「工程・部位等」に格納された値に関する言葉(『フレッシュコンクリートの受入検査』等)を発声する。検査処理部18は、マイク12を介して当該利用者Bが発声した言葉を録音する。 When the inspection mode is started, user B appropriately speaks words related to the inspection so that it is possible to identify which of the multiple inspections is to be performed (step S110). For example, user B speaks words related to the value stored in the "process/part, etc." in the inspection item table 31 (such as "receiving inspection of fresh concrete"). The inspection processing unit 18 records the words spoken by user B via the microphone 12.

検査処理部18は、マイク12を介して録音した音声ファイルを音声認識部16で処理してテキストファイルを取得する。検査処理部18は、取得したテキストファイルを解析し、複数の検査の中から利用者Bが行う検査を特定する。 The test processing unit 18 processes the voice file recorded via the microphone 12 in the voice recognition unit 16 to obtain a text file. The test processing unit 18 analyzes the obtained text file and identifies the test to be performed by user B from among multiple tests.

検査処理部18は、端末10の記憶領域A10に格納された検査項目テーブル31から「検査項目」を読み込んで、利用者Bと対話する形で検査を支援する(ステップS120~S200)。検査処理部18は、このような検査の支援を、全ての「検査項目」(「工程・部位等」に対応する全ての「検査項目」)が終了するまで行う。 The inspection processing unit 18 reads the "inspection items" from the inspection item table 31 stored in the memory area A10 of the terminal 10 and assists the inspection by interacting with the user B (steps S120 to S200). The inspection processing unit 18 provides such inspection assistance until all "inspection items" (all "inspection items" corresponding to "processes/parts, etc.") have been completed.

具体的には、検査処理部18は、利用者Bが発声した「工程・部位等」(『フレッシュコンクリートの受入検査』等)をキーに検査項目テーブル31を検索し、「検査項目」を読み込む(ステップS120)。検査処理部18は、読み込んだ「検査項目」の情報をスピーカ11から出力させる(読み上げる)ことで、利用者Bに対して「検査項目」を質問する(ステップS130)。利用者Bは、スピーカ11からの音声に基づいて、「検査項目」の内容を検査する。そして、利用者Bは、検査の結果を発声(回答)する(ステップS140)。 Specifically, the inspection processing unit 18 searches the inspection item table 31 using the "process/area, etc." spoken by user B (e.g., "receiving inspection of fresh concrete") as a key, and reads the "inspection item" (step S120). The inspection processing unit 18 asks user B about the "inspection item" by outputting (reading aloud) the information on the "inspection item" that was read from the speaker 11 (step S130). User B inspects the contents of the "inspection item" based on the voice from the speaker 11. User B then vocalizes (answers) the results of the inspection (step S140).

検査処理部18は、検査の結果を検査項目テーブル31の「管理値」と照合する(ステップS150)。具体的には、検査処理部18は、ステップS140で利用者Bが発声した言葉(検査の結果)を録音した音声ファイルを、音声認識部16で処理してテキストファイルを取得する。検査処理部18は、取得したテキストファイルを解析して検査の結果のデータ(例えば、検査の結果を示す値等)を取得し、検査項目テーブル31の「管理値」と対比する。 The test processing unit 18 compares the test results with the "control value" in the test item table 31 (step S150). Specifically, the test processing unit 18 processes the audio file in which the words spoken by user B in step S140 (the test results) are recorded, using the voice recognition unit 16, to obtain a text file. The test processing unit 18 analyzes the obtained text file to obtain data on the test results (e.g., values indicating the test results), and compares them with the "control value" in the test item table 31.

そして、検査処理部18は、検査結果を判定する(ステップS160)。このとき、検査処理部18は、検査の結果が「管理値」の条件を満たしている場合、検査の結果(「合否」)がOKであると判定する。一方、検査処理部18は、検査の結果が「管理値」の条件を満たしていない場合、検査の結果がNGであると判定する。 Then, the inspection processing unit 18 judges the inspection result (step S160). At this time, if the inspection result meets the condition of the "control value", the inspection processing unit 18 judges that the inspection result ("pass/fail") is OK. On the other hand, if the inspection result does not meet the condition of the "control value", the inspection processing unit 18 judges that the inspection result is NG.

その後、検査処理部18は、スピーカ11を介して音声を出力し、カメラ13での撮影を促す(ステップS170)。利用者Bは、端末10を操作して、カメラ13で適宜の箇所を撮影する(ステップS180)。 Then, the inspection processing unit 18 outputs a sound via the speaker 11 to prompt the user to take a picture with the camera 13 (step S170). User B operates the terminal 10 to take a picture of an appropriate location with the camera 13 (step S180).

カメラ13での撮影が行われると、検査処理部18は、撮影された画像ファイルを保存する(ステップS190)。このとき、検査処理部18は、カメラ13からの画像ファイルを記憶領域A10に格納すると共に、当該画像ファイルをサーバ30にアップロードする。サーバ30は、アップロードされた画像ファイルを記憶領域A30の適宜のフォルダに記憶する。また、サーバ30は、アップロードされた画像ファイルの記憶先(フルパス)を保存用DB32に登録する。 When an image is captured by the camera 13, the inspection processing unit 18 saves the captured image file (step S190). At this time, the inspection processing unit 18 stores the image file from the camera 13 in the memory area A10, and also uploads the image file to the server 30. The server 30 stores the uploaded image file in an appropriate folder in the memory area A30. The server 30 also registers the storage destination (full path) of the uploaded image file in the storage DB 32.

検査処理部18は、このようなステップS130~S190を、全ての「検査項目」が終了するまで繰り返す。なお、検査処理部18は、カメラ13での撮影が必要のない「検査項目」である場合、ステップS170~S190をスキップする。具体的には、例えば、検査処理部18は、写真撮影の有無と「検査項目」とを予め関連付けて記憶しており、当該記憶している情報に基づいて、カメラ13での撮影が必要のない「検査項目」であるのか否かを判断する。 The inspection processing unit 18 repeats steps S130 to S190 until all "inspection items" are completed. Note that, if the "inspection item" does not require photography by the camera 13, the inspection processing unit 18 skips steps S170 to S190. Specifically, for example, the inspection processing unit 18 stores in advance the association between the presence or absence of photography and the "inspection item," and determines whether or not the "inspection item" does not require photography by the camera 13 based on the stored information.

検査処理部18は、全ての「検査項目」が終了すると(ステップS200)、「検査項目」を振り返る(ステップS210)。このとき、検査処理部18は、検査項目テーブル31の「検査項目」の音声をスピーカ11から出力し、その後に、ステップS150で取得した検査の結果(テキストファイルの内容)をスピーカ11から出力する。検査処理部18は、これらの出力を、全ての「検査項目」に対して行う。 When all "test items" have been completed (step S200), the test processing unit 18 reviews the "test items" (step S210). At this time, the test processing unit 18 outputs the audio of the "test items" in the test item table 31 from the speaker 11, and then outputs the test results (contents of the text file) obtained in step S150 from the speaker 11. The test processing unit 18 performs this output for all "test items."

検査処理部18は、「検査項目」を振り返ると、検査を終える旨の音声をスピーカ11から出力する(ステップS220)。これにより、利用者Bは、端末10の電源を切る等し、検査を終了する(ステップS230)。 The test processing unit 18 reviews the "test items" and outputs a voice from the speaker 11 indicating that the test is ending (step S220). This causes user B to turn off the power of the terminal 10, etc., and end the test (step S230).

以下では、図9及び図10を参照し、検査(ステップS110~S190)の流れを具体的に説明する。また、以下では、図4に示す検査項目テーブル31の検査を行う場合を例に挙げて、検査の流れを説明する。 The flow of the test (steps S110 to S190) will be specifically explained below with reference to Figures 9 and 10. The flow of the test will be explained below using an example in which the test item table 31 shown in Figure 4 is tested.

まず、利用者Bは、検査を開始するときに、マイク12に向けて検査開始の旨を発声する。具体的には、利用者Bは、モード選択処理において検査モードを選択した後で、『コンクリート検査』と発声する(ステップS110)。検査処理部18は、当該発声に基づいて利用者Bが『フレッシュコンクリートの受入検査』を開始すると判断する。そして、検査処理部18は、検査を開始する旨の音声(『コンクリート検査を開始します。』との音声)をスピーカ11から出力させる。 First, when starting the inspection, user B vocalizes the start of the inspection into the microphone 12. Specifically, after selecting the inspection mode in the mode selection process, user B vocalizes "concrete inspection" (step S110). Based on this vocalization, the inspection processing unit 18 determines that user B is starting "receiving inspection of fresh concrete". Then, the inspection processing unit 18 outputs a voice indicating the start of the inspection (a voice saying "Concrete inspection is starting") from the speaker 11.

その後、検査項目テーブル31から「検査項目」を読み込む(ステップS120)。このとき、検査処理部18は、まず、検査項目テーブル31の「No」が最も小さい「検査項目」である『スランプ値』を読み込んで、その音声をスピーカ11から出力させる(ステップS130)。 Then, the "test item" is read from the test item table 31 (step S120). At this time, the test processing unit 18 first reads the "slump value", which is the "test item" with the smallest "No." in the test item table 31, and outputs the audio of this value from the speaker 11 (step S130).

利用者Bは、上記音声を受けてスランプ値を測定し、当該測定結果(『X2』)を発声する(ステップS140)。なお、『X2』は、『X1』よりも大きく、かつ『X3』よりも小さい値となっている。 User B receives the voice, measures the slump value, and vocalizes the measurement result ("X2") (step S140). Note that "X2" is a value larger than "X1" and smaller than "X3."

検査処理部18は、当該発声に基づいて『スランプ値』の測定結果が『X2』であったと判断し、「管理値」と照合する(ステップS150)。図4に示す検査項目テーブル31において、『スランプ値』の「管理値」は、『X1以上X3以下』であるため、検査処理部18は、検査結果(『X2』)がOKであると判定する(ステップS160)。この場合、検査処理部18は、スピーカ11から検査結果がOKである旨の音声(『問題ありません。』との音声)を出力する。 Based on the vocalization, the inspection processing unit 18 determines that the measurement result of the "slump value" was "X2" and compares it with the "control value" (step S150). In the inspection item table 31 shown in FIG. 4, the "control value" of the "slump value" is "X1 or more and X3 or less," so the inspection processing unit 18 determines that the inspection result ("X2") is OK (step S160). In this case, the inspection processing unit 18 outputs a voice from the speaker 11 indicating that the inspection result is OK (a voice saying "There is no problem").

また、図9における『スランプ値』の検査では写真撮影が必要であることから、検査処理部18は、カメラ13での撮影を促す音声(『写真を撮ってください。』との音声)をスピーカ11から出力させる(ステップS170)。 In addition, since the inspection of the "slump value" in Figure 9 requires taking a photograph, the inspection processing unit 18 outputs a voice prompting the user to take a photograph with the camera 13 (a voice saying "Please take a photograph") from the speaker 11 (step S170).

利用者Bは、上記音声を受けてカメラ13での撮影を行う。カメラ13で撮影した画像ファイルC11は、図10に示す記憶領域A10に格納されると共に、ネットワーク回線Nを介してサーバ30の記憶領域A30にも格納される。また、画像ファイルC11は、サーバ30の保存用DB32に登録される(ステップS190)。 User B receives the voice and takes a picture with the camera 13. The image file C11 taken with the camera 13 is stored in the memory area A10 shown in FIG. 10 and is also stored in the memory area A30 of the server 30 via the network line N. The image file C11 is also registered in the storage DB 32 of the server 30 (step S190).

そして、図9に示す検査処理部18は、検査項目テーブル31から次の「検査項目」(「No」が『2』である『空気量』)を読み込み、その音声をスピーカ11から出力させる。 Then, the inspection processing unit 18 shown in FIG. 9 reads the next "inspection item" ("air volume" with "No." set to "2") from the inspection item table 31 and outputs the audio from the speaker 11.

なお、図9における『空気量』の検査では、その結果が『Y4』となっている。当該『Y4』は、『Y3』よりも大きな値、すなわち、「管理値」の条件を満たさない値となっている。この場合、検査処理部18は、検査結果がNGであると判定し、スピーカ11からその旨の音声(『管理値外です。是正が必要です。』との音声)を出力する。 In the test of "air volume" in FIG. 9, the result is "Y4". "Y4" is a value larger than "Y3", that is, a value that does not satisfy the condition of the "control value". In this case, the test processing unit 18 judges the test result to be NG, and outputs a voice indicating this from the speaker 11 (a voice saying "Outside the control value. Correction is required").

また、検査処理部18は、検査の結果がNGであった場合でも、OKであった場合と同じように動作する。よって、検査処理部18は、利用者Bに写真の撮影を促して、カメラ13で撮影した画像ファイルC12をサーバ30にアップロードする。その後、検査処理部18は、次の「検査項目」を読み込んでスピーカ11から出力させる。 Even if the result of the inspection is NG, the inspection processing unit 18 operates in the same way as if the result was OK. Therefore, the inspection processing unit 18 prompts the user B to take a photo, and uploads the image file C12 taken by the camera 13 to the server 30. After that, the inspection processing unit 18 reads the next "inspection item" and outputs it from the speaker 11.

また、検査処理部18は、『フレッシュコンクリートの受入検査』を終了すると、サーバ30にファイルをアップロードする。当該ファイルには、検査時に録音した音声ファイルと、利用者Bの発話内容を音声認識部16で認識したテキストファイルF11と、検査の結果と、が含まれる。サーバ30は、アップロードされたテキストファイルF11等を記憶領域A30の適宜のフォルダに記憶する。サーバ30は、アップロードされたテキストファイルF11の記憶先等を、「工程・部位等」及び「検査項目」と関連付けて保存用DB32に登録する。 When the inspection processing unit 18 finishes the "acceptance inspection of fresh concrete", it uploads a file to the server 30. This file includes the voice file recorded during the inspection, a text file F11 in which the speech content of user B is recognized by the voice recognition unit 16, and the results of the inspection. The server 30 stores the uploaded text file F11 etc. in an appropriate folder in the memory area A30. The server 30 registers the storage destination etc. of the uploaded text file F11 in the storage DB 32 by associating it with the "process/part etc." and "inspection item".

社内システム40は、こうして登録された保存用DB32を検索することで、「検査項目」に対応する検査の結果、合否の判定結果及び画像ファイルC11・C12を取得することができる。また、社内システム40は、保存用DB32から取得したデータを図5に示す検査報告書Dの「検査値」、「合否」及び「写真」に反映させることで、検査報告書Dを自動的に作成することができる。 By searching the storage DB 32 thus registered, the in-house system 40 can obtain the test results corresponding to the "test items," the pass/fail judgment results, and the image files C11 and C12. The in-house system 40 can also automatically create the test report D by reflecting the data obtained from the storage DB 32 in the "test values," "pass/fail," and "photos" of the test report D shown in FIG. 5.

本実施形態の支援システム1によれば、検査処理部18が検査項目テーブル31の「管理値」に基づいて検査の合否を判定するため(ステップS150・S160)、利用者Bが合否判定を行う手間を省いて、検査における業務負荷を低減することができる。また、合否を誤って判定するのを防止することができるため、検査結果に対する信頼性の向上(品質の均一化)を図ることができる。 According to the support system 1 of this embodiment, the test processing unit 18 judges the pass/fail result of the test based on the "control value" in the test item table 31 (steps S150 and S160), eliminating the need for user B to make a pass/fail judgment and reducing the workload of the test. In addition, it is possible to prevent erroneous pass/fail judgments, which improves the reliability of the test results (standardization of quality).

また、本実施形態の支援システム1によれば、スピーカ11から「検査項目」の音声を出力させることで、利用者Bに「検査項目」を提供することができる(ステップS130)。また、全ての「検査項目」が終了するまで音声出力を繰り返し実行することで(ステップS200)、利用者Bに全ての「検査項目」を提供することができる。これによれば、利用者Bが検査に漏れがないか確認しなくて済むため、検査における業務負荷を低減することができる。また、検査を漏れなく行うことができ、検査結果に対する信頼性の向上を図ることができる。 Furthermore, according to the support system 1 of this embodiment, the "test items" can be provided to user B by outputting the "test items" as audio from the speaker 11 (step S130). Furthermore, by repeatedly outputting the audio until all "test items" have been completed (step S200), all "test items" can be provided to user B. This eliminates the need for user B to check whether any tests have been missed, thereby reducing the workload of the test. Furthermore, tests can be performed without omissions, which improves the reliability of the test results.

また、検査処理部18では、現場に行く前に、最新の検査項目テーブル31を取得するようにしている(事前作業A110)。これによれば、現場におけるネットワーク環境に関わらず、検査の支援を安定して行うことができる。具体的には、図11に示すように、現場によっては、ネットワーク回線Nが不安定となり、端末10がサーバ30と通信できない可能性がある。本実施形態では、利用者Bが現場に行く前に検査項目テーブル31を端末10の記憶領域A10に格納して(事前作業A110)、当該記憶領域A10の検査項目テーブル31を用いて検査の支援を行うようにしている。これによれば、端末10は、スタンドアロンで検査の支援を実行することができる。なお、端末10は、スタンドアロンで検査の支援を実行する場合、画像ファイルC11・C12等を適宜(例えば、利用者Bが現場から離れてネットワーク回線Nが安定すると)アップロードする。 In addition, the inspection processing unit 18 acquires the latest inspection item table 31 before going to the site (preparatory work A110). This allows stable support for the inspection regardless of the network environment at the site. Specifically, as shown in FIG. 11, depending on the site, the network line N may become unstable, and the terminal 10 may not be able to communicate with the server 30. In this embodiment, the inspection item table 31 is stored in the memory area A10 of the terminal 10 before the user B goes to the site (preparatory work A110), and the inspection support is performed using the inspection item table 31 in the memory area A10. This allows the terminal 10 to perform inspection support in a standalone manner. When performing inspection support in a standalone manner, the terminal 10 uploads image files C11, C12, etc. as appropriate (for example, when the user B leaves the site and the network line N stabilizes).

なお、検査処理部18は、「検査項目」をスキップ可能であってもよい。具体的には、図12に示すように、検査処理部18は、利用者Bが所定の言葉(図12では、『スキップ』との言葉)を発した場合に、次の「検査項目」に進むものであってもよい。 The test processing unit 18 may be capable of skipping a "test item." Specifically, as shown in FIG. 12, the test processing unit 18 may proceed to the next "test item" when user B utters a predetermined word (the word "skip" in FIG. 12).

以上の如く、本実施形態に係る支援システム1(検査支援システム)は、検査部位(「工程・部位等」)、検査項目及び合格基準(「管理値」)を含む検査項目テーブル31を記憶する記憶領域A10が確保された記憶装置及びサーバ30(記憶部)と、少なくとも前記検査項目テーブル31の前記検査項目を、音声で読み上げるスピーカ11(音声出力部)と、利用者B(検査員)の発話の入力を受け、発話内容を認識する音声認識部16と、前記音声認識部16での認識内容が前記合格基準を満たすかを判定する検査処理部18(判定部)と、を具備するものである。 As described above, the support system 1 (inspection support system) according to this embodiment includes a storage device and server 30 (storage unit) in which a memory area A10 is allocated for storing an inspection item table 31 including inspection parts ("processes/parts, etc."), inspection items, and pass criteria ("control values"), a speaker 11 (voice output unit) that reads out at least the inspection items in the inspection item table 31, a voice recognition unit 16 that receives speech input from user B (inspector) and recognizes the content of the speech, and an inspection processing unit 18 (determination unit) that determines whether the content recognized by the voice recognition unit 16 meets the pass criteria.

このように構成することにより、利用者Bが合否判定を行う手間を省いて、検査における業務負荷の低減を図ることができる。 This configuration eliminates the need for User B to make pass/fail judgments, reducing the workload of the test.

また、前記スピーカ11は、前記検査処理部18での判定結果を音声で出力するものである(ステップS160)。 The speaker 11 also outputs the judgment result from the inspection processing unit 18 as audio (step S160).

このように構成することにより、利用者Bが自発的に判定結果を取得しなくて済むため、利便性を向上させることができる。 By configuring it in this way, user B does not have to obtain the judgment result voluntarily, thereby improving convenience.

また、前記スピーカ11は、前記検査処理部18での判定後に前記検査処理部18の写真撮影を促す音声を出力するものである(ステップS170)。 The speaker 11 also outputs a sound that prompts the inspection processing unit 18 to take a photograph after a judgment has been made by the inspection processing unit 18 (step S170).

このように構成することにより、写真撮影が必要な検査項目であるか否かを利用者Bが確認しなくて済むため、検査における業務負荷の低減を効果的に図ることができる。また、検査において写真撮影を忘れるのを抑制し、検査結果に対する信頼性の向上を効果的に図ることができる。 By configuring it in this way, User B does not have to check whether or not a test item requires photographing, which effectively reduces the workload during the test. It also reduces the chance of forgetting to take photographs during the test, effectively improving the reliability of the test results.

また、前記記憶領域A10が確保された記憶装置、前記スピーカ11、前記音声認識部16及び前記検査処理部18は、ウェアラブルデバイスで構成されるものである。 The storage device in which the memory area A10 is secured, the speaker 11, the voice recognition unit 16, and the inspection processing unit 18 are configured as a wearable device.

このように構成することにより、利用者Bの手を塞ぐことなく検査を行うことができるため、検査を効率的に行うことができる。 By configuring it in this way, the test can be performed without blocking User B's hands, making the test more efficient.

次に、図13及び図14を参照し、通話モードの流れ(通話処理部19の処理)について説明する。 Next, the flow of the call mode (processing of the call processing unit 19) will be explained with reference to Figures 13 and 14.

上述の如く、通話モードは、利用者Bが利用者B以外の者と通話するためのモードであり、通話処理部19により実行される。通話モードは、必要に応じて(例えば、建築現場の作業において判断に迷った場合等に)実行される。この際、利用者Bは、モード選択処理においてプロジェクトを選択し(図6に示すステップS10)、通話モードを選択可能な言葉(例えば、『通話モード』等の言葉)を発声することで、通話モードを実行する(図6に示すステップS20、ステップS30:No、ステップS50:Yes、ステップS60)。以下、通話モードについて具体的に説明する。 As described above, the call mode is a mode for user B to talk to people other than user B, and is executed by the call processing unit 19. The call mode is executed as necessary (for example, when the user is unsure of what to do while working on a construction site). At this time, user B selects a project in the mode selection process (step S10 shown in FIG. 6), and executes the call mode by uttering a word that allows the user to select the call mode (for example, a word such as "call mode") (step S20, step S30: No, step S50: Yes, step S60 shown in FIG. 6). The call mode will be described in detail below.

通話モードが開始されると、利用者Bは、通話したい相手の情報(例えば、関係者Rの名前や所属部署等)に関する言葉を発声する(ステップS310)。 When the call mode is started, user B speaks words related to information about the person he/she wants to talk to (e.g., the name of person R and the department to which he/she belongs) (step S310).

通話処理部19は、利用者Bの発話内容に基づいて、利用者Bの通話相手を特定する(ステップS320)。具体的には、端末10の記憶装置には、通話相手に関する情報(例えば、名前、所属部署、関係者端末R10のMACアドレス等を互いに関連付けた情報)が予め記憶されている。通話処理部19は、利用者Bが発声した言葉を録音した音声ファイルを音声認識部16で処理してテキストファイルを取得し、当該テキストファイルと関係者Rに関する情報とを対比する。具体的には、例えば、通話処理部19は、テキストファイル内の文字列と一致する文字列が、関係者Rに関する情報に含まれているのかを確認する。こうして通話処理部19は、利用者Bの発話内容から、通話相手となる関係者R及び当該関係者Rが使用する関係者端末R10を一意に特定する。 The call processing unit 19 identifies the call partner of user B based on the contents of user B's speech (step S320). Specifically, information about the call partner (for example, information associating the name, department, and MAC address of the related party terminal R10) is stored in advance in the storage device of the terminal 10. The call processing unit 19 processes the voice file in which the words spoken by user B are recorded in the voice recognition unit 16 to obtain a text file, and compares the text file with the information about the related party R. Specifically, for example, the call processing unit 19 checks whether the information about the related party R contains a character string that matches a character string in the text file. In this way, the call processing unit 19 uniquely identifies the related party R who is the call partner and the related party terminal R10 used by the related party R from the contents of user B's speech.

通話処理部19は、利用者Bと特定した関係者Rとの通話を開始させる(ステップS330)。具体的には、通話処理部19は、関係者Rを呼び出すための信号を、特定した関係者端末R10へ送信する。関係者端末R10は、当該信号を受信すると、所定の呼び出し音を出力する等して関係者Rを呼び出す。当該呼び出し音に基づいて関係者Rが関係者端末R10を操作すると、端末10と関係者端末R10とが相互に通信可能な状態となって、利用者Bは、端末10を介して関係者Rと通話することができる。 The call processing unit 19 starts a call between user B and the identified related person R (step S330). Specifically, the call processing unit 19 transmits a signal to call related person R to the identified related person terminal R10. When the related person terminal R10 receives the signal, it calls related person R by, for example, outputting a predetermined ring tone. When the related person R operates the related person terminal R10 based on the ring tone, the terminal 10 and the related person terminal R10 become capable of communicating with each other, and user B can talk to related person R via the terminal 10.

通話処理部19は、関係者Rとの通話が開始されると、マイク12によって通話内容の録音を開始する。また、通話処理部19は、カメラ13を起動させ、当該カメラ13での映像の撮影(録画)を開始する。カメラ13で撮影された映像は、ネットワーク回線Nを介して関係者端末R10へ送信され、当該関係者端末R10で表示される。こうして、関係者Rは、カメラ13で撮影された映像を確認しながら、利用者Bと通話することができる。 When a call with related person R is started, the call processing unit 19 starts recording the contents of the call using the microphone 12. The call processing unit 19 also starts the camera 13 and starts taking (recording) images with the camera 13. The images taken by the camera 13 are transmitted to the related person terminal R10 via the network line N and are displayed on the related person terminal R10. In this way, the related person R can talk to the user B while checking the images taken by the camera 13.

利用者Bは、関係者Rとの通話を終えたい場合に、通話終了の旨を発声する(ステップS340)。すなわち、利用者Bは、通話モードの終了に関する言葉(例えば、『通話終了』等の言葉)を発声する。 When user B wishes to end the call with related person R, user B vocalizes the intention to end the call (step S340). That is, user B vocalizes a phrase related to the end of the call mode (for example, a phrase such as "end call").

通話処理部19は、当該発声に基づいて関係者端末R10との通話を終了させる(ステップS350)。すなわち、通話処理部19は、関係者端末R10へ通話終了に関する信号を送信し、関係者端末R10と相互に通信可能な状態を終了させる。また、通話処理部19は、マイク12による録音及びカメラ13による撮影を終了する。 The call processing unit 19 ends the call with the related party terminal R10 based on the utterance (step S350). That is, the call processing unit 19 transmits a signal regarding the end of the call to the related party terminal R10, and ends the state in which mutual communication with the related party terminal R10 is possible. The call processing unit 19 also ends recording by the microphone 12 and capturing images by the camera 13.

その後、通話処理部19は、通話時に得られたファイルをサーバ30に保存する(ステップS360)。具体的には、通話処理部19は、通話内容を録音した音声ファイルを音声認識部16で処理して得られたテキストファイルF21と、通話時にカメラ13で撮影した映像ファイルV21と、をサーバ30にアップロードする。サーバ30は、アップロードされたテキストファイルF21及び映像ファイルV21を記憶領域A30の適宜のフォルダに記憶する。また、サーバ30は、アップロードされたテキストファイルF21及び映像ファイルV21の記憶先(フルパス)を保存用DB32に登録する。こうして、通話処理部19による通話モードが終了する。 Then, the call processing unit 19 stores the files obtained during the call in the server 30 (step S360). Specifically, the call processing unit 19 uploads to the server 30 a text file F21 obtained by processing the voice file recording the contents of the call in the voice recognition unit 16, and a video file V21 captured by the camera 13 during the call. The server 30 stores the uploaded text file F21 and video file V21 in an appropriate folder in the storage area A30. The server 30 also registers the storage destination (full path) of the uploaded text file F21 and video file V21 in the storage DB 32. In this way, the call mode by the call processing unit 19 ends.

通話モードにおいて、関係者Rは、カメラ13で撮影された映像を確認しながら通話することができる(ステップS330)。これにより、関係者Rは、建築現場の状況をより詳細に把握することができる。このため、関係者Rは、例えば、利用者Bから建築現場の作業等について相談を受けた場合に、適切な回答を返すことができる。また、関係者Rは、回答に要する時間を短縮することもできる。これにより、作業の効率化を図ることができる。 In the call mode, the person involved R can make a call while checking the image captured by the camera 13 (step S330). This allows the person involved R to understand the situation at the construction site in more detail. Therefore, when the person involved R receives a consultation from the user B about work at the construction site, for example, the person involved R can return an appropriate reply. The person involved R can also shorten the time it takes to reply. This can improve the efficiency of work.

また、利用者Bは、発話することで通話モードの開始及び終了を端末10に指示することができる(ステップS20・S340)。また、利用者Bは、発話することで通話相手を選択することができる(ステップS310)。これにより、手を塞ぐことなく関係者Rと通話できるため、作業の効率化を図ることができる。 User B can also instruct terminal 10 to start and end the call mode by speaking (steps S20 and S340). User B can also select a call partner by speaking (step S310). This allows user B to talk to related party R without having to use his or her hands, improving work efficiency.

次に、図15から図17を参照し、記録モードの流れ(記録処理部20の処理)について説明する。 Next, the flow of the recording mode (processing of the recording processing unit 20) will be explained with reference to Figures 15 to 17.

上述の如く、記録モードは、カメラ13で撮影した様子を記録するためのモードであり、記録処理部20により実行される。記録モードは、建築現場での作業(例えば、建築現場の点検作業等)を記録として残したい場合等に適宜実行される。この際、利用者Bは、モード選択処理においてプロジェクトを選択し(図6に示すステップS10)、記録モードを選択可能な言葉(例えば、『記録モード』等の言葉)を発声することで、記録モードを実行する(図6に示すステップS20、ステップS30:No、ステップS50:No、ステップS70:Yes、ステップS80)。以下、記録モードについて具体的に説明する。 As described above, the recording mode is a mode for recording the image captured by the camera 13, and is executed by the recording processing unit 20. The recording mode is executed as appropriate when it is desired to keep a record of work at a construction site (e.g., inspection work at a construction site, etc.). At this time, user B selects a project in the mode selection process (step S10 shown in FIG. 6), and executes the recording mode by uttering a word that allows the recording mode to be selected (e.g., a word such as "recording mode") (step S20, step S30: No, step S50: No, step S70: Yes, step S80 shown in FIG. 6). The recording mode will be described in detail below.

記録モードが開始されると、記録処理部20は、カメラ13を起動させて映像(音声を含む映像)の撮影を開始する(ステップS410)。また、記録処理部20は、マイク12によって発話内容の録音を開始する。利用者Bは、カメラ13により適宜撮影を行う。 When the recording mode is started, the recording processing unit 20 activates the camera 13 to start capturing video (video including audio) (step S410). The recording processing unit 20 also starts recording the spoken content with the microphone 12. User B takes pictures with the camera 13 as needed.

利用者Bは、撮影中にその内容を適宜発声する(ステップS420)。例えば、利用者Bは、点検作業の様子を撮影する場合に、当該点検作業の内容についての言葉(例えば、何を点検しているのかを説明する言葉(『ビスピッチ』等の言葉))を適宜発声する。 User B vocalizes the contents of the inspection as appropriate while filming (step S420). For example, when filming an inspection operation, User B vocalizes words related to the contents of the inspection (for example, words that explain what is being inspected (such as "vispitch")) as appropriate.

そして、利用者Bは、撮影を終えたい場合に、記録終了の旨を発声する(ステップS430)。具体的には、例えば、利用者Bは、作業が終了した場合に通話モードの終了に関する言葉(例えば、『記録終了』等の言葉)を発声する。 When user B wishes to end the recording, he/she vocalizes a command to end recording (step S430). Specifically, for example, when user B has finished the task, he/she vocalizes a command to end the call mode (for example, a command such as "end recording").

記録処理部20は、当該発声に基づいてマイク12による録音及びカメラ13による撮影を終了する(ステップS440)。 The recording processing unit 20 ends recording by the microphone 12 and capturing images by the camera 13 based on the voice (step S440).

こうして撮影された映像ファイル(図19参照、以下、「抽出前映像ファイルV31」と称する)には、例えば、作業を開始してから終了するまでの様子の全てが記録されることとなる。したがって、抽出前映像ファイルV31は、比較的長時間の映像となる。また、抽出前映像ファイルV31には、重要な部分(後日確認する可能性が高い部分、例えば、所定の値を測定する様子等)だけではなく、不要な部分(後日確認する可能性が低い部分、例えば、測定の準備をしている様子等)が記録されることとなる。 The video file thus captured (see FIG. 19, hereafter referred to as "pre-extraction video file V31") will, for example, record the entire process from start to finish of the work. Therefore, the pre-extraction video file V31 will be a relatively long video. Furthermore, the pre-extraction video file V31 will record not only important parts (parts that are likely to be checked at a later date, such as the measurement of a specified value), but also unnecessary parts (parts that are unlikely to be checked at a later date, such as the preparation for measurement).

そこで、記録処理部20は、抽出前映像ファイルV31から一部の時間帯の映像(図23参照、以下、「抽出後映像ファイルV32」と称する)を抽出し、抽出前映像ファイルV31の中から重要な部分を抜き出すようにしている(ステップS450)。 Therefore, the recording processing unit 20 extracts video of a certain time period from the pre-extraction video file V31 (see FIG. 23, hereinafter referred to as "post-extraction video file V32") and extracts important parts from the pre-extraction video file V31 (step S450).

図16は、抽出後映像ファイルV32を抽出するステップS450の処理の詳細を示すフローチャートである。記録処理部20は、ステップS450へ移行すると、ステップS510の処理を行う。 Figure 16 is a flowchart showing the details of the process of step S450 for extracting the post-extraction video file V32. After proceeding to step S450, the recording processing unit 20 performs the process of step S510.

ステップS510において、記録処理部20は、抽出前映像ファイルV31からテキストファイルを取得する(ステップS510)。具体的には、記録処理部20は、抽出前映像ファイルV31の音声を音声認識部16に入力する。音声認識部16は、入力された音声から利用者Bの発話内容を認識し、当該発話内容の認識結果と、利用者Bが発声した日時と、を関連付けたテキストファイルを出力する。記録処理部20は、音声認識部16から当該テキストファイルを取得する。記録処理部20は、ステップS510の処理が終了すると、ステップS520へ移行する。 In step S510, the recording processing unit 20 acquires a text file from the pre-extraction video file V31 (step S510). Specifically, the recording processing unit 20 inputs the audio of the pre-extraction video file V31 to the voice recognition unit 16. The voice recognition unit 16 recognizes the content of user B's utterance from the input voice, and outputs a text file that associates the recognition result of the content of the utterance with the date and time when user B spoke. The recording processing unit 20 acquires the text file from the voice recognition unit 16. When the processing of step S510 is completed, the recording processing unit 20 proceeds to step S520.

ステップS520において、記録処理部20は、キーワードに基づいて、抽出前映像ファイルV31の中から重要部21(図21参照)の開始日時を特定する。 In step S520, the recording processing unit 20 identifies the start date and time of the important part 21 (see FIG. 21) from within the pre-extraction video file V31 based on the keyword.

重要部21は、抽出前映像ファイルV31のうち、重要な部分である。すなわち、重要部21は、抽出後映像ファイルV32として抽出することが望ましい部分である。 The important part 21 is an important part of the pre-extraction video file V31. In other words, the important part 21 is a part that is desirably extracted as the post-extraction video file V32.

キーワードは、重要な部分を撮影する際に、利用者Bが発することが想定される言葉、例えば、建築現場に関する用語等である。建築現場に関する用語は、建築現場での作業時に使用される言葉である。建築現場に関する用語には、例えば、建築現場で用いられる専門用語(『基礎』や『ビスピッチ』等)や数値を含んだ言葉(例えば、『200mm』等)が含まれる。端末10には、このようなキーワード(利用者Bが発することが想定される言葉)が予め記憶装置に記憶されている。 Keywords are words that user B is expected to utter when photographing important parts, such as terms related to a construction site. Terms related to a construction site are words used when working at a construction site. Terms related to a construction site include, for example, technical terms used at construction sites (such as "foundation" and "viscosity pitch") and words containing numerical values (such as "200 mm"). Such keywords (words that user B is expected to utter) are stored in advance in a storage device of the terminal 10.

ステップS520において、記録処理部20は、記憶装置に記憶されたキーワードとステップS510で取得したテキストファイル(発話内容の認識結果)とを対比して、利用者Bがキーワードを発声した日時を特定する。そして、特定した日時を重要部21の開始日時とする。記録処理部20は、ステップS520の処理が終了すると、ステップS530の処理へ移行する。 In step S520, the recording processing unit 20 compares the keyword stored in the storage device with the text file (the speech content recognition result) acquired in step S510 to identify the date and time when user B uttered the keyword. The identified date and time is then set as the start date and time of the important part 21. When the processing of step S520 is completed, the recording processing unit 20 proceeds to the processing of step S530.

ステップS530において、記録処理部20は、重要部21の終了日時を特定する。このとき、記録処理部20は、開始日時T4以降で利用者Bが所定時間沈黙した日時(時点)を特定し、その日時を重要部21の終了日時とする。なお、「沈黙している」とは、利用者Bが建築現場に関する用語を発声していないことを指す。具体的には、利用者Bが何の言葉も発声しない(音声認識部16が発話内容を認識しない)ことと、利用者Bがキーワード以外の言葉を発声したことと、が含まれる。以下、ステップS530の処理について具体的に説明する。 In step S530, the recording processing unit 20 identifies the end date and time of the important part 21. At this time, the recording processing unit 20 identifies the date and time (point) at which user B was silent for a predetermined period of time after the start date and time T4, and sets this date and time as the end date and time of the important part 21. Note that "being silent" refers to user B not uttering any terms related to the construction site. Specifically, this includes user B not uttering any words (the voice recognition unit 16 does not recognize the content of the utterance) and user B uttering words other than keywords. The processing of step S530 will be specifically described below.

ステップS530において、記録処理部20は、テキストファイルを読み込んで、キーワードを発声してから所定時間が経過するまでに利用者Bが再びキーワードを発声しているかを確認する。仮に利用者Bが再びキーワードを発声している場合、記録処理部20は、その日時からさらに所定時間が経過するまでに利用者Bがキーワードを発声しているかを確認する。記録処理部20は、このような処理を再帰的に行って、最後にキーワードを発声してから所定時間キーワードを発声しなかった日時(沈黙した日時)を特定する。このように、記録処理部20は、テキストファイル(より詳細には、発話内容(キーワードを発話したこと)が記録されていない日時)に基づいて、所定時間沈黙した日時を特定する。そして、記録処理部20は、特定した日時を、重要部21の終了日時とする。 In step S530, the recording processing unit 20 reads the text file and checks whether user B utters the keyword again within a predetermined time after uttering the keyword. If user B utters the keyword again, the recording processing unit 20 checks whether user B utters the keyword within a predetermined time after that date and time. The recording processing unit 20 performs such processing recursively to identify the date and time when the keyword was not uttered for a predetermined time after the last time the keyword was uttered (date and time of silence). In this way, the recording processing unit 20 identifies the date and time when the predetermined time of silence occurred based on the text file (more specifically, the date and time when the speech content (utterance of the keyword) was not recorded). The recording processing unit 20 then sets the identified date and time as the end date and time of the important part 21.

こうして、ステップS530において、記録処理部20は、抽出前映像ファイルV31を、重要部21(図21参照)と、重要部21以外の不要部22(不要な部分、図20及び図22参照)と、に分類する。記録処理部20は、ステップS530の処理が終了すると、ステップS540の処理へ移行する。 Thus, in step S530, the recording processing unit 20 classifies the pre-extraction video file V31 into an important part 21 (see FIG. 21) and an unnecessary part 22 (unnecessary part, see FIG. 20 and FIG. 22) other than the important part 21. When the processing of step S530 ends, the recording processing unit 20 proceeds to the processing of step S540.

ステップS540において、記録処理部20は、バッファ(余裕)を見て抽出前映像ファイルV31から重要部21を抽出する(ステップS530)。すなわち、記録処理部20は、重要部21の開始日時より少し前(例えば、数秒前)の日時から、終了日時よりも少し後(例えば、数秒後)の日時までの映像を抽出する。こうして、記録処理部20は、抽出前映像ファイルV31から、一部の時間帯の映像である抽出後映像ファイルV32を抽出し、映像を抽出するステップS450の処理を終了する。 In step S540, the recording processing unit 20 extracts the important part 21 from the pre-extraction video file V31, taking into account the buffer (room) (step S530). That is, the recording processing unit 20 extracts video from a date and time slightly before (e.g., a few seconds before) the start date and time of the important part 21 to a date and time slightly after (e.g., a few seconds after) the end date and time. In this way, the recording processing unit 20 extracts the post-extraction video file V32, which is video of a certain time period, from the pre-extraction video file V31, and ends the processing of step S450 to extract video.

図15及び図17に示すように、記録処理部20は、撮影により得られたファイルをサーバ30にアップロード(保存)する(ステップS460)。具体的には、抽出前映像ファイルV31と、抽出後映像ファイルV32と、抽出後映像ファイルV32の音声を音声認識部16で処理して得られたテキストファイルF32と、をサーバ30にアップロード(保存)する。サーバ30は、アップロードされた抽出前映像ファイルV31等を記憶領域A30の適宜のフォルダに記憶する。また、サーバ30は、アップロードされた抽出前映像ファイルV31等の記憶先(フルパス)を保存用DB32に登録する。こうして、記録処理部20による記録モードが終了する。 As shown in Figures 15 and 17, the recording processing unit 20 uploads (saves) the files obtained by shooting to the server 30 (step S460). Specifically, the pre-extraction video file V31, the post-extraction video file V32, and the text file F32 obtained by processing the audio of the post-extraction video file V32 by the voice recognition unit 16 are uploaded (saved) to the server 30. The server 30 stores the uploaded pre-extraction video file V31, etc. in an appropriate folder in the memory area A30. The server 30 also registers the storage destination (full path) of the uploaded pre-extraction video file V31, etc. in the storage DB 32. In this way, the recording mode by the recording processing unit 20 ends.

記録モードにおいて、利用者Bは、発話することでモードの開始及び終了を端末10に指示し、カメラ13での撮影を行うことができる(ステップS20・S430)。これにより、手を塞ぐことなく撮影を行うことができるため、作業の効率化を図ることができる。 In the recording mode, user B can speak to instruct the terminal 10 to start and end the mode, and take pictures with the camera 13 (steps S20 and S430). This allows users to take pictures without having to block their hands, improving work efficiency.

以下では、図18から図23を参照し、抽出前映像ファイルV31から抽出後映像ファイルV32を抽出する処理を具体的に説明する。 Below, the process of extracting the post-extraction video file V32 from the pre-extraction video file V31 will be explained in detail with reference to Figures 18 to 23.

なお、以下においては、図18に示す壁部W1・W2を点検する作業を記録した抽出前映像ファイルV31から抽出後映像ファイルV32を抽出するものとする。また、抽出前映像ファイルV31は、利用者Bが床部Fに足を置き、壁部W1・W2に対して正面を向いて(図18に示す矢印方向を向いて)撮影されたものとする。図19は、こうして撮影された抽出前映像ファイルV31を模式的に示したものである。 In the following, it is assumed that the post-extraction video file V32 is extracted from the pre-extraction video file V31 that records the work of inspecting the walls W1 and W2 shown in FIG. 18. It is also assumed that the pre-extraction video file V31 was captured with user B placing his feet on the floor F and facing the walls W1 and W2 (facing the direction of the arrows shown in FIG. 18). FIG. 19 is a schematic diagram showing the pre-extraction video file V31 captured in this manner.

まず、抽出前映像ファイルV31について説明する。抽出前映像ファイルV31には、利用者Bが壁部W1・W2に接近する様子(図19に示すシーンS1~S3)と、壁部W1に打ち込まれたビスB10のピッチP(図18参照)をメジャーMで測定する様子(図19に示すシーンS4~S7)と、利用者Bが壁部W1・W2から離間する様子(図19に示すシーンS8~S12)と、が含まれている。 First, the pre-extraction video file V31 will be described. The pre-extraction video file V31 includes scenes of user B approaching the walls W1 and W2 (scenes S1 to S3 shown in FIG. 19), measuring the pitch P (see FIG. 18) of the screws B10 driven into the wall W1 with a tape measure M (scenes S4 to S7 shown in FIG. 19), and user B moving away from the walls W1 and W2 (scenes S8 to S12 shown in FIG. 19).

図20は、利用者Bが壁部W1・W2に接近する様子(シーンS1~S3)と、シーンS1~S3に対応する日時T1~T3と、音声の内容(利用者Bの発話内容)と、を示す図である。図20に示すように、利用者Bは、日時T1において『お疲れ様です』と発声している。 Figure 20 shows how user B approaches walls W1 and W2 (scenes S1 to S3), dates and times T1 to T3 corresponding to scenes S1 to S3, and the content of the voice (user B's speech). As shown in Figure 20, user B says "Thank you for your hard work" at date and time T1.

図21は、ビスB10のピッチPを測定する様子(シーンS4~S7)と、シーンS4~S7に対応する日時T4~T7と、音声の内容(利用者Bの発話内容)と、を示す図である。図21に示すように、利用者Bは、日時T4~T5において『今からビスピッチを測ってみます。ピッチ幅は200mmなので問題はなさそうです。』と発声している。 Figure 21 shows the process of measuring the pitch P of screw B10 (scenes S4 to S7), the dates and times T4 to T7 corresponding to scenes S4 to S7, and the content of the voice (user B's speech). As shown in Figure 21, at dates and times T4 to T5, user B utters, "I'm going to measure the screw pitch now. The pitch width is 200 mm, so there doesn't seem to be a problem."

図22は、利用者Bが壁部W1・W2から離間する様子(シーンS8~S12)と、シーンS8~S12に対応する日時T8~T12と、音声の内容(利用者Bの発話内容)と、を示す図である。図22に示すように、利用者Bは、日時T8において『はい。大丈夫です。』と、日時T12において『すいません。』と発声している。 Figure 22 shows how user B moves away from walls W1 and W2 (scenes S8 to S12), dates and times T8 to T12 corresponding to scenes S8 to S12, and the content of the voice (user B's speech). As shown in Figure 22, user B utters "Yes, it's okay" at date and time T8 and "I'm sorry" at date and time T12.

次に、上述のような抽出前映像ファイルV31から抽出後映像ファイルV32を抽出する流れを具体的に説明する。 Next, we will explain in detail the process of extracting the post-extraction video file V32 from the pre-extraction video file V31 described above.

記録処理部20は、抽出前映像ファイルV31の音声から利用者Bの発話内容を認識したテキストファイルを取得する(ステップS510)。これにより、記録処理部20は、例えば、『お疲れ様です。』との発話内容の認識結果及び日時T1等が関連付けられたテキストファイルを取得する。 The recording processing unit 20 acquires a text file that recognizes the speech content of user B from the audio in the pre-extraction video file V31 (step S510). As a result, the recording processing unit 20 acquires a text file that associates the recognition result of the speech content, for example, "Thank you for your hard work," with the date and time T1, etc.

記録処理部20は、キーワードと、取得したテキストファイル(発話内容の認識結果)と、を用いて重要部21の開始日時を特定する(ステップS520)。具体的には、記憶装置には、キーワードとして『ビスピッチ』が記憶されている。また、取得したテキストファイルには、『ビスピッチ』を含む言葉(『今からビスピッチを測ってみます。』との言葉)と、日時T4とが関連付けて記憶されている(図21参照)。この場合、記録処理部20は、テキストファイルにおいてキーワード(『ビスピッチ』)と関連付けられた日時T4を、重要部21の開始日時とする。 The recording processing unit 20 uses the keyword and the acquired text file (the recognition result of the speech content) to identify the start date and time of the important part 21 (step S520). Specifically, "bispitch" is stored as a keyword in the storage device. Also, the acquired text file stores a word containing "bispitch" (such as "I'm going to measure the bispitch now") in association with date and time T4 (see FIG. 21). In this case, the recording processing unit 20 determines the date and time T4 associated with the keyword ("bispitch") in the text file as the start date and time of the important part 21.

そして、記録処理部20は、所定時間キーワードを発声しなかった(沈黙した)日時を特定することで、重要部21の終了時間を特定する(ステップS530)。具体的には、記録処理部20は、開始日時T4から所定時間が経過した日時T7までの間で利用者Bがどのような言葉を発声したのか確認する。図21に示すように、利用者Bは、日時T5~T7において、何の言葉も発声していない。 Then, the recording processing unit 20 identifies the end time of the important part 21 by identifying the date and time when the keyword was not uttered (was silent) for a predetermined period of time (step S530). Specifically, the recording processing unit 20 checks what words user B uttered from the start date and time T4 to the date and time T7 when the predetermined period of time has elapsed. As shown in FIG. 21, user B did not utter any words from date and time T5 to T7.

この場合、記録処理部20は、キーワード(『ビスピッチ』)を発声した開始日時T4から所定時間が経過した日時T7を重要部21の終了日時(沈黙した日時)とする。 In this case, the recording processing unit 20 determines that the date and time T7, which is a predetermined time after the start date and time T4 when the keyword ('Bispitch') was spoken, is the end date and time of the important part 21 (date and time of silence).

なお、図22に示すように、利用者Bは、終了日時T7以降の日時T8~T12において、『はい。大丈夫です。』や『すいません。』との言葉を発声している。しかし、端末10の記憶装置には、このような言葉(相槌や挨拶等の言葉)がキーワードとして記憶されていない。したがって、この場合、記録処理部20は、日時T8以降の時間帯(日時T8~T12)において、重要部21を抽出しない。 As shown in FIG. 22, user B utters the words "Yes, it's okay" and "I'm sorry" from dates and times T8 to T12 after the end date and time T7. However, such words (words of interjections, greetings, etc.) are not stored as keywords in the storage device of terminal 10. Therefore, in this case, the recording processing unit 20 does not extract the important part 21 from the time period after date and time T8 (dates and times T8 to T12).

こうして、記録処理部20は、図20から図22に示すように、抽出前映像ファイルV31のうち、日時T4~T7の時間帯を重要部21とし、それ以外の日時T1~T3及びT8~T12の時間帯を不要部22とする。 In this way, as shown in Figures 20 to 22, the recording processing unit 20 sets the time period from dates and times T4 to T7 in the pre-extraction video file V31 as the important part 21, and sets the other time periods from dates and times T1 to T3 and T8 to T12 as the unnecessary part 22.

重要部21の終了日時を特定した記録処理部20は、バッファ(余裕)を見て抽出前映像ファイルV31から重要部21を抽出する(ステップS530)。具体的には、図23に示すように、記録処理部20は、抽出前映像ファイルV31のうち、重要部21の開始日時T4よりも少し前の日時T3(シーンS3)から、重要部21の終了日時T7よりも少し後の日時T8(シーンS8)までの映像を抽出する。これにより、記録処理部20は、抽出前映像ファイルV31から、ビスB10のピッチPを測定する様子が撮影された抽出後映像ファイルV32を抽出し易くなる。 Having identified the end date and time of the important part 21, the recording processing unit 20 extracts the important part 21 from the pre-extraction video file V31, taking into account the buffer (room) (step S530). Specifically, as shown in FIG. 23, the recording processing unit 20 extracts from the pre-extraction video file V31 the video from date and time T3 (scene S3) slightly before the start date and time T4 of the important part 21 to date and time T8 (scene S8) slightly after the end date and time T7 of the important part 21. This makes it easier for the recording processing unit 20 to extract from the pre-extraction video file V31 the post-extraction video file V32, which captures the measurement of the pitch P of the screw B10.

このような構成によれば、抽出後映像ファイルV32を確認することで、ビスB10のピッチPを測定する部分(重要な部分)を速やかに確認することができる。これにより、抽出前映像ファイルV31の中からビスB10のピッチPを測定する部分を探し出す場合と比較して、確認の手間を省くことができる。これにより、抽出前映像ファイルV31を確認する確認者の負担を低減することができる。 With this configuration, the portion (important portion) for measuring the pitch P of the screw B10 can be quickly confirmed by checking the post-extraction video file V32. This saves the effort of confirmation compared to searching for the portion for measuring the pitch P of the screw B10 from the pre-extraction video file V31. This reduces the burden on the person checking the pre-extraction video file V31.

また、利用者Bは、ビスB10のピッチPを測定するタイミング(日時T4~T7)に合わせて記録モードを実行しなくても、ビスB10のピッチPを測定する様子を抽出後映像ファイルV32として残すことができる。これにより、作業の効率化を図ることができる。 In addition, user B can record the measurement of pitch P of screw B10 as extracted video file V32 without having to execute the recording mode at the timing (dates T4 to T7) when measuring pitch P of screw B10. This can improve the efficiency of the work.

なお、端末10の記憶装置には、抽出時のバッファに関する時間情報(例えば、数秒等の情報)が記憶されている。当該時間情報は、適宜の値を設定可能となっている。これにより、用途等に応じてどの程度バッファを見るのかを調整でき、利便性を向上させることができる。 The storage device of the terminal 10 stores time information (e.g., information such as a few seconds) regarding the buffer at the time of extraction. The time information can be set to an appropriate value. This allows the extent to which the buffer is viewed to be adjusted depending on the purpose, etc., improving convenience.

また、仮に、日時T8以降に利用者Bがキーワードを発声していた場合、記録処理部20は、上述したような処理により、日時T8以降でも重要部21の開始日時及び終了日時を特定する。この場合、抽出前映像ファイルV31の中で、複数の重要部21が特定され、これら複数の重要部21が抽出後映像ファイルV32として複数抽出されることとなる。 Also, if user B utters a keyword after date and time T8, the recording processing unit 20 identifies the start date and time and the end date and time of the important part 21 even after date and time T8 by the process described above. In this case, multiple important parts 21 are identified in the pre-extraction video file V31, and these multiple important parts 21 are extracted as multiple post-extraction video files V32.

ここで、サーバ30は、記録処理部20で抽出された抽出後映像ファイルV32等を他の端末で確認可能な確認画面33を作成可能に構成される。以下、図24を参照し、確認画面33について説明する。なお、図24に示す確認画面33は、複数の抽出後映像ファイルV32が抽出され、これらのファイルが確認可能となった状態を示している。 The server 30 is configured to be able to create a confirmation screen 33 that enables the post-extraction video files V32, etc., extracted by the recording processing unit 20 to be viewed on another terminal. The confirmation screen 33 will be described below with reference to FIG. 24. Note that the confirmation screen 33 shown in FIG. 24 illustrates a state in which multiple post-extraction video files V32 have been extracted and can be viewed.

確認画面33は、ネットワーク回線Nを介してアクセス可能なWebページによって構成される。確認画面33には、記録モードが実行された日時(『記録モード YYYY/MM/DD T1-T32』との文字列)が表示される。また、確認画面33には、コメント表示部33a、サムネイル画像33b及び全再生ボタン33cが表示される。 The confirmation screen 33 is configured as a web page accessible via the network line N. The confirmation screen 33 displays the date and time when the recording mode was executed (the character string "Recording mode YYYY/MM/DD T1-T32"). The confirmation screen 33 also displays a comment display section 33a, a thumbnail image 33b, and a play all button 33c.

コメント表示部33aは、抽出後映像ファイルV32に関するコメント(発話内容)が表示される部分である。コメント表示部33aは、アップロードされたテキストファイルF32の内容(抽出後映像ファイルV32の発話内容)が表示される。コメント表示部33aの近傍には、コメントを利用者Bが発声した日時が表示される。確認画面33においては、コメント表示部33aが選択(クリック操作やタップ操作)されることで、ビューアを立ち上げて抽出後映像ファイルV32を再生することができる。 The comment display section 33a is an area where comments (utterances) regarding the extracted video file V32 are displayed. The contents of the uploaded text file F32 (utterances of the extracted video file V32) are displayed in the comment display section 33a. The date and time when user B uttered the comment is displayed near the comment display section 33a. On the confirmation screen 33, by selecting the comment display section 33a (by clicking or tapping), a viewer can be launched and the extracted video file V32 can be played.

サムネイル画像33bは、抽出後映像ファイルV32の所定の1コマの画像である。なお、図24のように抽出前映像ファイルV31から複数の抽出後映像ファイルV32が得られた場合、確認画面33には、コメント表示部33a及びサムネイル画像33bが上下に複数表示されることとなる。 The thumbnail image 33b is an image of a specific frame of the extracted video file V32. Note that when multiple extracted video files V32 are obtained from the pre-extraction video file V31 as shown in FIG. 24, multiple comment display sections 33a and thumbnail images 33b are displayed vertically on the confirmation screen 33.

全再生ボタン33cは、抽出後映像ファイルV32を順次再生可能なボタンである。抽出前映像ファイルV31から複数の抽出後映像ファイルV32が得られた場合、全再生ボタン33cを押下することで、当該複数の抽出後映像ファイルV32を日時の古いものから順に再生することができる。 The Play All button 33c is a button that allows the post-extraction video files V32 to be played in sequence. When multiple post-extraction video files V32 are obtained from a pre-extraction video file V31, pressing the Play All button 33c allows the multiple post-extraction video files V32 to be played in chronological order starting from the oldest.

確認画面33によれば、サーバ30以外の端末で抽出後映像ファイルV32を容易に再生可能となる。これにより、利便性を向上させることができる。また、複数の抽出後映像ファイルV32が抽出された場合に、コメント表示部33a及びサムネイル画像33bを確認し、再生したい抽出後映像ファイルV32を速やかに見つけることができる。 The confirmation screen 33 makes it possible to easily play the extracted video file V32 on a terminal other than the server 30. This improves convenience. Furthermore, when multiple extracted video files V32 are extracted, the user can quickly find the extracted video file V32 that he or she wants to play by checking the comment display area 33a and thumbnail image 33b.

また、全再生ボタン33cで複数の抽出後映像ファイルV32を再生することで、抽出前映像ファイルV31の内容を大まかに把握することができる。これにより、利便性を効果的に向上させることができる。 In addition, by using the play all button 33c to play multiple post-extraction video files V32, the contents of the pre-extraction video file V31 can be roughly grasped. This can effectively improve convenience.

以下では、サーバ30にアップロードされたファイルの振り分け(ファイルの記憶場所)について説明する。 The following describes how files uploaded to server 30 are sorted (where the files are stored).

上述の如く、検査モード、通話モード及び記録モードが実行されると、サーバ30には、種々のデータがアップロードされる。例えば、検査モードが実行されると、検査で撮影された画像ファイルC11や利用者Bの発話内容を認識したテキストファイルF11等がアップロードされる。サーバ30は、こうしてアップロードされたデータを、プロジェクト及びモードに応じて記憶領域A30の複数のフォルダ(記憶場所、OSの種類によってはディレクトリともいう)に適宜振り分けて記憶させている(ステップS190・S360・S470)。以下、図25を参照して具体的に説明する。 As described above, when the inspection mode, call mode, or record mode is executed, various data are uploaded to the server 30. For example, when the inspection mode is executed, an image file C11 captured during the inspection and a text file F11 recognizing the contents of the speech of user B are uploaded. The server 30 appropriately distributes and stores the uploaded data in multiple folders (storage locations, also called directories depending on the type of OS) in the memory area A30 according to the project and mode (steps S190, S360, S470). A specific explanation will be given below with reference to FIG. 25.

まず、サーバ30の記憶領域A30の構成について説明する。 First, we will explain the configuration of memory area A30 of server 30.

記憶領域A30には、プロジェクトごとに異なるフォルダ、具体的には、「Aプロジェクト」フォルダA40、「Bプロジェクト」フォルダA50及び「Cプロジェクト」フォルダA60等が作成(設定)されている。当該フォルダA40・A50・A60は、互いに同一の構成となっているため、以下では、「Aプロジェクト」フォルダA40を例に挙げて、フォルダの構成を説明する。 In the memory area A30, different folders are created (set) for each project, specifically, the "A Project" folder A40, the "B Project" folder A50, and the "C Project" folder A60. The folders A40, A50, and A60 have the same structure, so the folder structure will be explained below using the "A Project" folder A40 as an example.

「Aプロジェクト」フォルダA40は、「Aプロジェクト」に関するファイルを記憶せるためのフォルダである。「Aプロジェクト」フォルダA40には、モードごとに異なるフォルダ、具体的には、「検査モード」フォルダA41、「通話モード」フォルダA42及び「記録モード」フォルダA43が作成される。 The "A Project" folder A40 is a folder for storing files related to the "A Project." In the "A Project" folder A40, folders that differ for each mode are created, specifically, the "Test Mode" folder A41, the "Call Mode" folder A42, and the "Recording Mode" folder A43.

「検査モード」フォルダA41は、検査モードにおいてアップロードされたファイルを記憶させるためのフォルダである。「検査モード」フォルダA41には、ファイルの種類に応じて異なるフォルダ、具体的には、「画像」フォルダ及び「発話内容」フォルダが作成される。 The "Inspection Mode" folder A41 is a folder for storing files uploaded in inspection mode. In the "Inspection Mode" folder A41, different folders are created depending on the type of file, specifically, an "Image" folder and a "Speech Content" folder.

「通話モード」フォルダA42は、通話モードにおいてアップロードされたファイルを記憶させるためのフォルダである。「通話モード」フォルダA42には、ファイルの種類に応じて異なるフォルダ、具体的には、「映像」フォルダ及び「通話内容」フォルダが作成される。 The "Call Mode" folder A42 is a folder for storing files uploaded in call mode. In the "Call Mode" folder A42, different folders are created depending on the type of file, specifically, a "Video" folder and a "Call Contents" folder.

「記録モード」フォルダA43は、記録モードにおいてアップロードされたファイルを記憶させるためのフォルダである。「記録モード」フォルダA43には、ファイルの種類及び用途に応じてフォルダ、具体的には、「抽出前映像」フォルダ、「抽出後映像」フォルダ及び「発話内容」フォルダが作成される。 The "recording mode" folder A43 is a folder for storing files uploaded in recording mode. In the "recording mode" folder A43, folders are created according to the type and purpose of the file, specifically, a "pre-extraction video" folder, a "post-extraction video" folder, and a "speech content" folder.

次に、上述の如く構成された記憶領域A30のフォルダにファイルを記憶させる処理の流れについて説明する。 Next, we will explain the process flow for storing files in a folder in the storage area A30 configured as described above.

端末10は、サーバ30にファイルをアップロードする場合に(ステップS190・S360・S460)、当該ファイルがどのプロジェクトのどのモードで得られたものであるのかをサーバ30に通知する。具体的には、端末10は、例えば、ファイルをアップロードする前に、利用者Bが選択(発話)したプロジェクト及びモードに関する情報(プロジェクト等を一意に特定可能な文字列等)を通知したり、アップロードするファイルのファイル名にプロジェクト及びモードに関する情報を含めてサーバ30にアップロードする。 When uploading a file to the server 30 (steps S190, S360, S460), the terminal 10 notifies the server 30 of which project and which mode the file was obtained from. Specifically, the terminal 10, for example, notifies the server 30 of information about the project and mode selected (spoken) by user B before uploading the file (such as a character string that can uniquely identify the project, etc.), or includes information about the project and mode in the file name of the file to be uploaded and uploads the file to the server 30.

サーバ30は、端末10からの通知に基づいて、アップロードされたファイルに対応するプロジェクト名及びモードを特定する。そして、サーバ30は、特定したプロジェクトのフォルダにアップロードされたファイルを振り分ける。 The server 30 identifies the project name and mode corresponding to the uploaded file based on the notification from the terminal 10. Then, the server 30 distributes the uploaded file to the folder of the identified project.

具体的には、サーバ30は、例えば、Aプロジェクトで検査(検査モード)が行われた場合に、「Aプロジェクト」フォルダA40の「検査モード」フォルダA41にアップロードされたファイルを記憶させる。このとき、サーバ30は、ファイルの種類を判別し、ファイルの種類ごとに「画像」フォルダ及び「発話内容」フォルダにファイルを振り分けて記憶させる。こうして、サーバ30は、画像ファイルC11・C12を「画像」フォルダに、テキストファイルF11を「発話内容」フォルダに記憶させる。 Specifically, for example, when an inspection (inspection mode) is performed in project A, server 30 stores the uploaded files in "inspection mode" folder A41 of "project A" folder A40. At this time, server 30 determines the type of file and sorts and stores the files according to their type in the "image" folder and the "speech content" folder. In this way, server 30 stores image files C11 and C12 in the "image" folder and text file F11 in the "speech content" folder.

なお、サーバ30は、ファイルの種類の判別を適宜の手法により行うことができる。具体的には、例えば、ファイルの拡張子(文字列情報)やファイルのヘッダ部分(バイナリデータ)を確認することで、ファイルの種類を判別することができる。 The server 30 can determine the type of file using an appropriate method. Specifically, for example, the server 30 can determine the type of file by checking the file extension (character string information) or the file header (binary data).

また、サーバ30は、通話モードにおいてファイルがアップロードされた場合、検査モードでファイルがアップロードされた場合の処理と同様の処理を行って、映像ファイルV21及びテキストファイルF21を適宜のフォルダに振り分ける。例えば、サーバ30は、Aプロジェクトで通話モードが実行された場合、「Aプロジェクト」フォルダA40の「通話モード」フォルダA41の「映像」フォルダに映像ファイルV21を、「通話内容」フォルダにテキストファイルF21を記憶させる。 When a file is uploaded in call mode, the server 30 performs the same process as when a file is uploaded in inspection mode, and distributes the video file V21 and text file F21 to appropriate folders. For example, when the call mode is executed in project A, the server 30 stores the video file V21 in the "Video" folder in the "Call mode" folder A41 in the "A project" folder A40, and the text file F21 in the "Call contents" folder.

また、サーバ30は、記録モードにおいてファイルがアップロードされた場合、検査モードでファイルがアップロードされた場合の処理と同様の処理を行って、抽出前映像ファイルV31、抽出後映像ファイルV32及びテキストファイルF32を適宜のフォルダに振り分ける。例えば、サーバ30は、Aプロジェクトで記録モードが実行された場合、「Aプロジェクト」フォルダA40の「記録モード」フォルダA42の「抽出前映像」フォルダに抽出前映像ファイルV31を、「抽出後映像」フォルダに抽出後映像ファイルV32を、「発話内容」フォルダにテキストファイルF32を記憶させる。 When a file is uploaded in recording mode, the server 30 performs the same process as when a file is uploaded in inspection mode, and distributes the pre-extraction video file V31, post-extraction video file V32, and text file F32 to appropriate folders. For example, when the recording mode is executed in project A, the server 30 stores the pre-extraction video file V31 in the "Pre-extraction video" folder in the "Recording mode" folder A42 of the "Project A" folder A40, the post-extraction video file V32 in the "Post-extraction video" folder, and the text file F32 in the "Speech content" folder.

ここで、抽出前映像ファイルV31及び抽出後映像ファイルV32は、同じ種類、すなわち、同一の規格(形式)に基づいて映像がファイル化され、ファイルの拡張子及びヘッダ部分が同一のものとなることが想定される。よって、サーバ30は、拡張子及びヘッダ部分を確認するだけでは、抽出前映像ファイルV31及び抽出後映像ファイルV32の判別ができない可能性がある。 It is assumed here that the pre-extraction video file V31 and the post-extraction video file V32 are of the same type, i.e., the video is filed based on the same standard (format), and the file extensions and header portions are the same. Therefore, the server 30 may not be able to distinguish between the pre-extraction video file V31 and the post-extraction video file V32 by simply checking the extensions and header portions.

そこで、本実施形態において端末10は、抽出前映像ファイルV31及び抽出後映像ファイルV32をサーバ30で容易に判別可能となるように、所定の規則にしたがって抽出前映像ファイルV31等のファイルパス(フルパス)を設定するようにしている。例えば、抽出前映像ファイルV31のファイル名(拡張子を除くファイル名)に連番を追加したものを、抽出後映像ファイルV32のファイル名とする。サーバ30は、当該規則に基づいて抽出前映像ファイルV31と抽出後映像ファイルV32とを判別し、適宜フォルダに記憶させている。 Therefore, in this embodiment, the terminal 10 sets the file paths (full paths) of the pre-extraction video file V31 and the post-extraction video file V32 according to a predetermined rule so that the pre-extraction video file V31 and the post-extraction video file V32 can be easily distinguished by the server 30. For example, the file name of the post-extraction video file V32 is the file name of the pre-extraction video file V31 (file name excluding the extension) with a serial number added. The server 30 distinguishes between the pre-extraction video file V31 and the post-extraction video file V32 based on the rule, and stores them in appropriate folders.

このように、サーバ30は、端末10からの通知に基づいて、アップロードされたファイルを記憶領域A30の適宜のフォルダに振り分けることができる。当該端末10からの通知は、利用者Bが発話により選択したプロジェクト及びモードに基づいた情報となっている。このような構成によれば、利用者Bは、プロジェクト及びモードを選択(発話)する中で、ファイルを記憶させるフォルダを間接的に指定することができるため、フォルダを選択する手間を省いて利用者Bの負担を低減することができる。こうして支援システム1は、データ(画像ファイルC11等)の入力を支援する。 In this way, the server 30 can distribute the uploaded files to appropriate folders in the storage area A30 based on the notification from the terminal 10. The notification from the terminal 10 is information based on the project and mode selected by user B through speech. With this configuration, user B can indirectly specify the folder in which to store the file while selecting (speaking) the project and mode, thereby eliminating the need for user B to select a folder and reducing the burden on user B. In this way, the support system 1 supports the input of data (image file C11, etc.).

また、プロジェクトやモードごとに異なるフォルダにファイルを振り分けることで、サーバ30の管理者は、保存用DB32を確認しなくても、アップロードされたファイルが何のファイルであるのかを確認し易くなる。また、プロジェクトやモードごとファイルをまとめて処理し易くなる。これにより、サーバ30においてファイルを管理し易くなる。 In addition, by distributing files to different folders for each project or mode, the administrator of the server 30 can easily confirm what type of file an uploaded file is without having to check the storage DB 32. It also becomes easier to process files collectively for each project or mode. This makes it easier to manage files on the server 30.

ここで、記録モードでサーバ30にアップロードされる抽出前映像ファイルV31は、比較的容量が大きい(長時間の)ファイルとなることが想定される。したがって、サーバ30の記憶装置に抽出前映像ファイルV31を永続的に記憶すると、当該記憶装置の空き容量が不足する可能性がある。 The pre-extraction video file V31 uploaded to the server 30 in the recording mode is expected to be a relatively large (long) file. Therefore, if the pre-extraction video file V31 is permanently stored in the storage device of the server 30, there is a possibility that the free space of the storage device will be insufficient.

そこで、サーバ30は、定期的に(例えば、1日1回のバッチ処理等により)抽出前映像ファイルV31を削除するようにしている。具体的には、サーバ30は、抽出前映像ファイルV31がアップロードされた日時を確認し、アップロードされてから所定期間(例えば、1カ月)が経過しているかを判断する。そして、サーバ30は、抽出前映像ファイルV31が所定期間を経過している場合に、当該抽出前映像ファイルV31を削除する。これにより、サーバ30は、記憶装置の容量を確保することができる。 Therefore, the server 30 deletes the pre-extraction video file V31 periodically (for example, by batch processing once a day). Specifically, the server 30 checks the date and time when the pre-extraction video file V31 was uploaded, and determines whether a predetermined period of time (for example, one month) has passed since the upload. If the pre-extraction video file V31 has been there for the predetermined period of time, the server 30 deletes the pre-extraction video file V31. This allows the server 30 to secure storage capacity.

以上の如く、本実施形態に係る支援システム1は、利用者Bの発話の入力を受付可能なマイク12(入力部)を有する端末10と、前記マイク12の入力結果に基づいて前記発話内容を認識する音声認識部16と、種々のデータ(画像ファイルC11等)を記憶可能なサーバ30(記憶部)と、前記端末10を介してデータを取得する複数のモードを実行可能であると共に、取得した前記データを前記サーバ30に記憶させるモード制御部17(制御部)と、を具備し、前記サーバ30には、前記モードごとに異なる記憶場所(フォルダ(ディレクトリ))が設定され、前記モード制御部17は、前記発話内容の認識結果に基づいて、前記複数のモードの中から1つのモードを実行し(ステップS20~S80)、当該モードの実行時に取得した前記データを前記モードに応じた前記記憶場所に記憶させるものである(ステップS190・S360・S460)。 As described above, the support system 1 according to this embodiment includes a terminal 10 having a microphone 12 (input unit) capable of receiving speech input from user B, a voice recognition unit 16 that recognizes the speech content based on the input from the microphone 12, a server 30 (storage unit) that can store various data (image files C11, etc.), and a mode control unit 17 (control unit) that can execute multiple modes for acquiring data via the terminal 10 and stores the acquired data in the server 30. A different storage location (folder (directory)) is set for each mode in the server 30, and the mode control unit 17 executes one of the multiple modes based on the recognition result of the speech content (steps S20 to S80), and stores the data acquired during execution of that mode in the storage location corresponding to the mode (steps S190, S360, S460).

このように構成することにより、手を使うことなく、モードに応じた記憶場所にデータを記憶させることができる。これにより、手で端末10を操作する場合よりも簡単に記憶場所を選択できるため、利用者Bの負担を低減することができる。 By configuring it in this way, data can be stored in a memory location according to the mode without using one's hands. This makes it easier to select a memory location than if one were to operate the terminal 10 by hand, thereby reducing the burden on user B.

また、前記モード制御部17は、前記モードに関するキーワードと前記発話内容の認識結果とを対比することで、前記複数のモードの中から1つのモードを特定し(ステップS20・S30・S50)、当該1つのモードを実行するものである(ステップS40・S60・S80)。 The mode control unit 17 also compares the keywords related to the mode with the recognition result of the speech content to identify one mode from among the multiple modes (steps S20, S30, and S50), and executes the one mode (steps S40, S60, and S80).

このように構成することにより、キーワードにより1つのモードを簡単に実行することができる。 By configuring it this way, you can easily execute one mode using a keyword.

また、前記モードには、前記発話内容の認識結果に基づいて検査の結果を取得する検査モード(第一モード)が含まれるものである(ステップS40)。 The modes also include an inspection mode (first mode) in which inspection results are obtained based on the recognition results of the speech content (step S40).

このように構成することにより、手を使うことなく検査の結果を記憶させることができるため、入力作業(端末10の入力操作)を簡素化して利用者Bの負担を低減することができる。 This configuration allows the test results to be stored without using one's hands, simplifying the input work (input operations on terminal 10) and reducing the burden on user B.

また、前記端末10は、映像を撮影可能なカメラ13(撮影部)をさらに有し、前記モードには、前記発話内容の認識結果に基づいて、前記カメラ13で撮影された抽出前映像ファイルV31(前記映像)の中から抽出後映像ファイルV32(一部の時間帯の映像)を取得する記録モード(第二モード)が含まれるものである(ステップS80)。 The terminal 10 further has a camera 13 (image capture unit) capable of capturing video, and the modes include a recording mode (second mode) for acquiring a post-extraction video file V32 (video of a certain time period) from a pre-extraction video file V31 (the video) captured by the camera 13 based on the recognition results of the speech content (step S80).

このように構成することにより、手を使うことなく抽出前映像ファイルV31の中から抽出後映像ファイルV32を抽出できるため、抽出前映像ファイルV31の編集作業(抽出後映像ファイルV32の抽出作業)を簡素化し、利用者Bの負担を低減することができる。 By configuring it in this way, the post-extraction video file V32 can be extracted from the pre-extraction video file V31 without manual intervention, simplifying the work of editing the pre-extraction video file V31 (the work of extracting the post-extraction video file V32) and reducing the burden on user B.

また、前記端末10は、映像を撮影可能なカメラ13をさらに有し、前記モードには、前記端末10の前記マイク12を用いて前記利用者Bが当該利用者B以外の第三者と通話可能であると共に、通話中に前記カメラ13で撮影された映像を関係者端末R10(前記第三者が使用する端末)へ送信可能な通話モード(第三モード)が含まれ(ステップS60)、前記モード制御部17は、前記通話モードにおいて、テキストファイルF21(前記利用者Bと前記第三者との通話内容を前記音声認識部16で認識した結果)と、映像ファイルV21(通話中に前記カメラ13で撮影された映像)と、を取得するものである。 The terminal 10 further has a camera 13 capable of capturing video, and the modes include a call mode (third mode) in which the user B can use the microphone 12 of the terminal 10 to talk to a third party other than the user B, and the video captured by the camera 13 during the call can be sent to the related party terminal R10 (the terminal used by the third party) (step S60), and in the call mode, the mode control unit 17 acquires a text file F21 (the result of the content of the call between the user B and the third party recognized by the voice recognition unit 16) and a video file V21 (the video captured by the camera 13 during the call).

このように構成することにより、手を使うことなくテキストファイルF21及び映像ファイルV21をサーバ30に記憶させることができるため、入力作業を簡素化して利用者Bの負担を低減することができる。 By configuring it in this way, the text file F21 and the video file V21 can be stored in the server 30 without using hands, simplifying the input work and reducing the burden on user B.

なお、本実施形態に係るマイク12は、本発明に係る入力部の実施の一形態である。
また、本実施形態に係るサーバ30は、本発明に係る記憶部の実施の一形態である。
また、本実施形態に係るモード制御部17は、本発明に係る制御部の実施の一形態である。
また、本実施形態に係るカメラ13は、本発明に係る撮影部の実施の一形態である。
The microphone 12 according to the present embodiment is one embodiment of an input unit according to the present invention.
The server 30 according to the present embodiment is an embodiment of a storage unit according to the present invention.
The mode control unit 17 according to the present embodiment is one embodiment of a control unit according to the present invention.
The camera 13 according to this embodiment is one embodiment of a photographing unit according to the present invention.

以上の如く、本実施形態に係る支援システム1(記録システム)は、音声を含む映像を撮影可能なカメラ13(撮影部)と、前記映像に含まれた前記音声を認識する音声認識部16と、前記音声認識部16での認識結果に基づいて、前記カメラ13で撮影した抽出前映像ファイルV31(第一映像)の中から、一部の時間帯の映像である抽出後映像ファイルV32(第二映像)を抽出する記録処理部20(抽出部)と、前記抽出後映像ファイルV32を記憶するサーバ30(記憶部)と、を具備するものである。 As described above, the support system 1 (recording system) according to this embodiment includes a camera 13 (capturing unit) capable of capturing video including audio, a voice recognition unit 16 that recognizes the audio contained in the video, a recording processing unit 20 (extraction unit) that extracts a post-extraction video file V32 (second video), which is video of a certain time period, from a pre-extraction video file V31 (first video) captured by the camera 13 based on the recognition results of the voice recognition unit 16, and a server 30 (storage unit) that stores the post-extraction video file V32.

このように構成することにより、抽出前映像ファイルV31の中から任意の箇所を確認し易くなる。これにより、抽出前映像ファイルV31を確認する確認者の負担を低減することができる。 This configuration makes it easier to check any part of the pre-extraction video file V31. This reduces the burden on the person checking the pre-extraction video file V31.

また、前記音声認識部16は、前記音声の認識結果を、前記抽出前映像ファイルV31において当該音声の出力が開始される時間と関連付けて記憶し(ステップS510)、前記記録処理部20は、キーワードが前記認識結果に含まれていた場合に、当該認識結果と関連付けられた前記時間を開始日時T4として取得し(ステップS520)、前記抽出前映像ファイルV31の中から、前記開始日時T4以降の時間帯の映像を含むように前記抽出後映像ファイルV32を抽出するものである(ステップS540)。 The voice recognition unit 16 also stores the voice recognition result in association with the time when the output of the voice starts in the pre-extraction video file V31 (step S510), and if a keyword is included in the recognition result, the recording processing unit 20 acquires the time associated with the recognition result as the start date and time T4 (step S520), and extracts the post-extraction video file V32 from the pre-extraction video file V31 so as to include video from the time period after the start date and time T4 (step S540).

このように構成することにより、抽出前映像ファイルV31からキーワードに関連する事柄を抽出することがきる。 By configuring it in this way, it is possible to extract matters related to keywords from the pre-extraction video file V31.

また、前記カメラ13は、作業現場を撮影するものであり、前記キーワードには、前記作業現場に関する用語が含まれるものである。 The camera 13 photographs the work site, and the keywords include terms related to the work site.

このように構成することにより、作業現場に関連する事柄を抽出することができる。 By configuring it in this way, it is possible to extract information related to the work site.

また、前記キーワードを含む前記音声の認識結果(コメント表示部33a)と、前記抽出後映像ファイルV32に関する画像(サムネイル画像33b)と、を表示する表示部(確認画面33を作成する機能)をさらに具備するものである。 It also includes a display section (function for creating a confirmation screen 33) that displays the recognition result of the voice containing the keyword (comment display section 33a) and an image (thumbnail image 33b) related to the extracted video file V32.

このように構成することにより、抽出後映像ファイルV32を再生しなくても当該抽出後映像ファイルV32の内容を把握可能となり、利便性を向上させることができる。また、仮に、抽出後映像ファイルV32が複数ある場合、当該複数の抽出後映像ファイルV32の中から確認したい抽出後映像ファイルV32を容易に見つけ出すことができ、確認者の負担をより低減することができる。 By configuring in this manner, it becomes possible to understand the contents of the extracted video file V32 without playing the extracted video file V32, thereby improving convenience. Furthermore, if there are multiple extracted video files V32, the extracted video file V32 that the user wishes to view can be easily found from among the multiple extracted video files V32, thereby further reducing the burden on the viewer.

また、前記記録処理部20は、前記抽出前映像ファイルV31に含まれた前記音声に基づいて、前記開始日時T4よりも遅い終了日時T7を特定し(ステップS530)、前記抽出前映像ファイルV31の中から、前記開始日時T4から前記終了日時T7までの時間帯の映像を含むように前記抽出後映像ファイルV32を抽出するものである(ステップS540)。 The recording processing unit 20 also identifies an end date and time T7 that is later than the start date and time T4 based on the audio contained in the pre-extraction video file V31 (step S530), and extracts the post-extraction video file V32 from the pre-extraction video file V31 so as to include video from the time period from the start date and time T4 to the end date and time T7 (step S540).

このように構成することにより、映像を抽出する際に終了日時T7以降の時間帯の映像を省略可能となるため、抽出後映像ファイルV32を比較的短時間なものにできる。 By configuring it in this way, it is possible to omit video from the time period after the end date and time T7 when extracting video, making it possible to make the extracted video file V32 relatively short.

また、前記記録処理部20は、前記音声の認識結果及び当該認識結果と関連付けられた時間に基づいて、前記音声認識部16が所定時間前記音声を認識しなかった時間を特定し、当該特定した時間に基づいて前記終了日時T7を特定可能である(ステップS520)。 The recording processing unit 20 can also identify a period of time during which the voice recognition unit 16 did not recognize the voice based on the voice recognition result and the time associated with the recognition result, and can identify the end date and time T7 based on the identified period of time (step S520).

このように構成することにより、音声を認識しない時間帯(沈黙している時間帯)に基づいて、終了日時T7を簡単に特定することができる。 By configuring it in this way, the end date and time T7 can be easily determined based on the time period when no voice is recognized (the time period when there is silence).

また、前記記録処理部20は、前記開始日時T4よりも所定時間前の時間から、前記終了日時T7よりも所定時間後の時間までの時間帯の映像を前記抽出後映像ファイルV32として抽出するものである(ステップS540)。 The recording processing unit 20 also extracts video from a time period from a predetermined time before the start date and time T4 to a predetermined time after the end date and time T7 as the extracted video file V32 (step S540).

このように構成することにより、キーワードに関連する事柄の全てを、抽出後映像ファイルV32に含ませ易くすることができる。 This configuration makes it easier to include all of the information related to the keyword in the extracted video file V32.

また、前記サーバ30は、前記抽出前映像ファイルV31及び前記抽出後映像ファイルV32をそれぞれ記憶するものである。 The server 30 also stores the pre-extraction video file V31 and the post-extraction video file V32.

このように構成することにより、記録処理部20で抽出されなかった時間帯の映像を確認することができる。 By configuring it in this way, it is possible to check video footage from time periods that were not extracted by the recording processing unit 20.

また、前記サーバ30が前記抽出前映像ファイルV31を記憶してから所定期間が経過した場合に、当該抽出前映像ファイルV31を削除する削除部(上述したバッチ処理で削除する機能)をさらに具備するものである。 The server 30 further includes a deletion unit (a function of deleting by batch processing as described above) that deletes the pre-extraction video file V31 when a predetermined period of time has elapsed since the server 30 stored the pre-extraction video file V31.

このように構成することにより、サーバ30の容量を確保することができる。 By configuring it in this way, the capacity of the server 30 can be secured.

なお、本実施形態に係るカメラ13は、本発明に係る撮影部の実施の一形態である。
また、本実施形態に係る記録処理部20は、本発明に係る抽出部の実施の一形態である。
また、本実施形態に係るサーバ30は、本発明に係る記憶部の実施の一形態である。
The camera 13 according to the present embodiment is one embodiment of a photographing unit according to the present invention.
The recording processing unit 20 according to this embodiment is an embodiment of an extraction unit according to the present invention.
The server 30 according to the present embodiment is an embodiment of a storage unit according to the present invention.

以上、本発明の第一実施形態を説明したが、本発明は上記構成に限定されるものではなく、特許請求の範囲に記載された発明の範囲内で種々の変更が可能である。 The first embodiment of the present invention has been described above, but the present invention is not limited to the above configuration, and various modifications are possible within the scope of the invention described in the claims.

例えば、支援システム1は、建物の建築現場で用いられるものとしたが、これに限定されるものではなく、他の場所で用いられてもよい。また、検査モードは、建物の検査に用いられるものとしたが、これに限定されるものではなく、他の検査(外構の検査等)に用いられるものであってもよい。また、検査モードは、建物の竣工前の検査(例えば、フレッシュコンクリートの受入検査等)に限らず、竣工後に行われる検査(定期点検等)に用いられるものであってもよい。 For example, the support system 1 is described as being used at a building construction site, but is not limited to this and may be used in other locations. Also, the inspection mode is described as being used for inspecting buildings, but is not limited to this and may be used for other inspections (such as inspection of the exterior). Also, the inspection mode is not limited to being used for inspections before the completion of a building (for example, acceptance inspection of fresh concrete), but may be used for inspections performed after completion (such as regular inspections).

また、検査処理部18は、スピーカ11から出力させる音声の速さを変更可能であってもよい。これにより、利用者Bが任意に音声の速さを調整する(例えば、聞き取り易い速さにする)ことができ、利便性を向上させることができる。 The inspection processing unit 18 may also be able to change the speed of the voice output from the speaker 11. This allows user B to adjust the speed of the voice at will (for example, to a speed that is easy to hear), improving convenience.

また、検査においては、端末10を操作することで写真を撮影するものとしたが、これに限定されるものではなく、利用者Bの発話を受けて写真を撮影するものであってもよい。この場合、検査処理部18は、例えば、写真の撮影を促す音声をスピーカ11から出力した後で、カメラ13を起動させる。また、検査処理部18は、カメラ13を撮影する旨の言葉(例えば、『撮影』等の言葉)を利用者Bが発声した場合に、カメラ13のシャッターを切る。このような構成により、利用者Bの手を塞ぐことなく写真を撮影することができ、検査を効率的に行うことができる。 In addition, in the inspection, the photograph is taken by operating the terminal 10, but this is not limited to this, and the photograph may be taken in response to user B's speech. In this case, the inspection processing unit 18 starts the camera 13 after, for example, outputting a voice from the speaker 11 encouraging the user to take a photograph. Also, the inspection processing unit 18 releases the shutter of the camera 13 when user B utters a word indicating that the camera 13 is to be photographed (for example, a word such as "take a photograph"). With this configuration, the photograph can be taken without blocking user B's hands, and the inspection can be carried out efficiently.

また、検査処理部18は、カメラ13で撮影した画像ファイルC11・C12を解析し、合否を判定してもよい。 The inspection processing unit 18 may also analyze the image files C11 and C12 captured by the camera 13 to determine pass/fail.

また、検査処理部18は、利用者Bのコメントを適宜記憶可能であってもよい。例えば、検査処理部18は、「検査項目」における利用者Bの見解等をコメントとして記憶してもよい。また、当該コメントを検査報告書Dに反映させてもよい。これにより、検査報告書Dの品質を向上させることができる。 The inspection processing unit 18 may also be able to store comments from user B as appropriate. For example, the inspection processing unit 18 may store user B's views on the "inspection items" as comments. The comments may also be reflected in the inspection report D. This can improve the quality of the inspection report D.

また、検査処理部18は、記憶領域A10に格納された検査項目テーブル31を用いて検査を行うものとしたが、これに限定されるものではなく、サーバ30に記憶された検査項目テーブル31を用いて検査を行ってもよい。 In addition, the inspection processing unit 18 performs the inspection using the inspection item table 31 stored in the memory area A10, but this is not limited to this, and the inspection may also be performed using the inspection item table 31 stored in the server 30.

また、検査処理部18は、検査の合否をスピーカ11から出力するものとしたが(ステップS160)、これに限定されるものではなく、スピーカ11から出力しないものであってもよい。 In addition, the inspection processing unit 18 is configured to output the pass/fail result of the inspection from the speaker 11 (step S160), but this is not limited to this, and the inspection processing unit 18 may not output the result from the speaker 11.

また、検査処理部18は、必要に応じて写真撮影を促すものとしたが(ステップS170)、これに限定されるものではなく、写真撮影を促さないものであってもよい。 In addition, the inspection processing unit 18 prompts the user to take a photograph as necessary (step S170), but this is not limited to the above and the inspection processing unit 18 may not prompt the user to take a photograph.

また、「検査項目」は、検査処理部18側から利用者Bへと提供されるものとしたが、これに限定されるものではなく、例えば、利用者B側から検査処理部18へと提供されるものであってもよい。この場合、利用者Bは、検査を開始すると「検査項目」に関する言葉(例えば、『スランプ値』等)を発声する。検査処理部18は、当該発声を受けて「検査項目」を読み上げる音声(例えば、『スランプ値ですね?』等)をスピーカ11から出力する。その後、利用者Bは、検査の結果に関する言葉(例えば、『X2』等)を発声する。このような構成により、利用者Bが任意に「検査項目」を選ぶことができ、利便性を向上させることができる。 Although the "test item" is provided from the test processing unit 18 to user B, this is not limiting and may be provided from user B to the test processing unit 18, for example. In this case, when user B starts the test, he/she vocalizes a word related to the "test item" (e.g., "slump value"). In response to the vocalization, the test processing unit 18 outputs a voice reading out the "test item" (e.g., "slump value, right?") from the speaker 11. User B then vocalizes a word related to the test result (e.g., "X2"). This configuration allows user B to select the "test item" at will, improving convenience.

また、本実施形態において、検査報告書Dは、社内システム40が作成するものとしたが、これに限定されるものではなく、例えば、端末10等が検査報告書Dを作成してもよい。 In addition, in this embodiment, the inspection report D is created by the in-house system 40, but this is not limited to this. For example, the inspection report D may be created by the terminal 10, etc.

以上の如く、検査処理部18及び社内システム40は、判定結果に基づいて検査報告書Dを作成するものである。
なお、検査処理部18及び社内システム40は、判定部の実施の一形態である。
As described above, the inspection processing unit 18 and the in-house system 40 create the inspection report D based on the judgment results.
The inspection processing unit 18 and the in-house system 40 are an embodiment of a determination unit.

このように構成することにより、判定結果を入力する手間を省いて利便性を向上させることができる。 This configuration can improve convenience by eliminating the need to input the results of the judgment.

また、本実施形態では、検査報告書Dの一例として、図4に示す検査報告書Dを挙げたが、検査報告書Dの構成(レイアウト等)は、これに限定されるものではなく、任意の構成とすることができる。 In addition, in this embodiment, the inspection report D shown in FIG. 4 is given as an example of the inspection report D, but the configuration (layout, etc.) of the inspection report D is not limited to this and can be any configuration.

また、端末10は、眼鏡型のウェアラブルデバイスであったが、眼鏡型に限定されるものではなく、他の形式(例えば、ヘッドセット型や腕時計型等)のものであってもよい。また、端末10は、必ずしもウェアラブルデバイスに限定されるものではなく、他の機器(例えば、タブレット端末等)であってもよい。 In addition, while the terminal 10 is a glasses-type wearable device, it is not limited to a glasses-type device and may be of other types (e.g., a headset type, a wristwatch type, etc.). In addition, the terminal 10 is not necessarily limited to a wearable device and may be other devices (e.g., a tablet terminal, etc.).

また、端末10は、スピーカ11及びマイク12等を具備するものとしたが、端末10の構成はこれに限定されるものではなく、スピーカ11及びマイク12等に加えてモニタを具備するものであってもよい。 In addition, the terminal 10 is described as being equipped with a speaker 11 and a microphone 12, etc., but the configuration of the terminal 10 is not limited to this, and the terminal 10 may be equipped with a monitor in addition to the speaker 11 and the microphone 12, etc.

また、社内システム40は、検査項目テーブル31の内容を手動で変更するものとしたが、検査項目テーブル31の内容を変更する手段は、これに限定されるものではない。社内システム40は、例えば、建物を建設するためのデータ(BIM(Building Information Modeling)データ等)と連携し、当該データの変更に伴って検査項目テーブル31の内容を自動的に変更するものであってもよい。 Although the in-house system 40 is described as manually changing the contents of the inspection item table 31, the means for changing the contents of the inspection item table 31 is not limited to this. For example, the in-house system 40 may be linked to data for constructing a building (such as BIM (Building Information Modeling) data) and automatically change the contents of the inspection item table 31 in response to changes in the data.

また、サーバ30は、プロジェクト、モード及びファイルの種類に応じて異なるフォルダにファイルを記憶させるものとしたが、ファイルを記憶させるフォルダは、少なくともモードごとに異なっていれば、これに限定されるものではない。よって、サーバ30は、例えば、プロジェクトや種類が異なるファイルを同一のフォルダに記憶していてもよい。 Although the server 30 stores files in different folders depending on the project, mode, and type of file, the folders in which the files are stored are not limited to this, as long as they are different for at least each mode. Thus, the server 30 may store, for example, files of different projects or types in the same folder.

また、モード制御部17は、利用者Bの発話を受けてモード選択処理を実行するものとしたが、モード選択処理を実行するトリガーは、これに限定されるものではない。モード制御部17は、例えば、端末10の所定のボタンが押下された場合にモード選択処理を実行してもよい。 In addition, the mode control unit 17 executes the mode selection process in response to the speech of user B, but the trigger for executing the mode selection process is not limited to this. For example, the mode control unit 17 may execute the mode selection process when a specific button on the terminal 10 is pressed.

また、モード制御部17は、利用者Bの発話内容(キーワード)に基づいてモードを認識したが、モードを認識する手法はこれに限定されるものではない。モード制御部17は、利用者Bからの指示(入力)を受けてモードを認識可能であれば、種々の構成を採用することができる。モード制御部17は、例えば、カメラ13を通じて行われた利用者Bの仕草(ジェスチャ)に基づいて、モードを認識してもよい。 Although the mode control unit 17 recognizes the mode based on the contents of the speech (keywords) of user B, the method of recognizing the mode is not limited to this. The mode control unit 17 can adopt various configurations as long as it is capable of recognizing the mode upon receiving an instruction (input) from user B. For example, the mode control unit 17 may recognize the mode based on a gesture (gesture) of user B made through the camera 13.

また、モード制御部17は、モードの実行時に画像ファイルC11等を取得したが、これに限定されるものではない。モードの実行時に取得するファイルは、どのようなファイルであってもよい。 In addition, the mode control unit 17 acquires image file C11 and the like when the mode is executed, but this is not limited to this. The file acquired when the mode is executed may be any kind of file.

また、モード制御部17は、検査モード、通話モード及び記録モードを行うものとしたが、これは一例であり、種々のモードを行うことができる。 The mode control unit 17 is described as being capable of operating in the inspection mode, call mode, and recording mode, but this is merely an example, and various other modes are possible.

また、モード制御部17は、端末10に設けられるものとしたが、モード制御部17が設けられる機器は、これに限定されるものではなく、他の機器(例えば、サーバ30等)であってもよい。 In addition, the mode control unit 17 is described as being provided in the terminal 10, but the device in which the mode control unit 17 is provided is not limited to this, and may be another device (e.g., the server 30, etc.).

また、記録処理部20は、建築現場に関する用語に基づいて重要部21の開始日時を特定したが、キーワードとして設定される言葉は建築現場に関する用語に限定されるものではない。すなわち、記録処理部20は、建築現場に関する用語以外の言葉(開始日時を特定可能な言葉)をキーワードとすることで、開始時間を特定してもよい。例えば、重要な部分を示唆する言葉(『今から記録します。』等の言葉)に基づいて、開始時間を特定してもよい。また、記録処理部20は、利用者Bの口調に基づいて、開始時間を特定してもよい。例えば、発話内容に『です。』や『ます。』が含まれている場合、当該発話の日時を開始日時としてもよい。 Although the recording processing unit 20 has identified the start date and time of the important part 21 based on terms related to the construction site, the words set as keywords are not limited to terms related to the construction site. That is, the recording processing unit 20 may identify the start time by using words other than terms related to the construction site (words that can identify the start date and time) as keywords. For example, the start time may be identified based on words that suggest an important part (such as "I will record now"). The recording processing unit 20 may also identify the start time based on the tone of user B's speech. For example, if the spoken content includes "It is" or "It is", the date and time of the utterance may be set as the start date and time.

また、記録処理部20は、発話内容(キーワード)に基づいて重要部21の開始日時を特定したが、開始日時を特定するための情報は発話内容(キーワード)に限定されるものではなく、開始日時を特定可能な種々の情報を用いることができる。例えば、記録処理部20は、発話の長さ(1度に認識した文字の数)が所定の閾値を超えた場合に、当該発話を開始した日時を開始日時としてもよい。また、記録処理部20は、端末10の所定のボタンが押下された場合に、当該ボタンが押下された日時に基づいて開始日時を特定してもよい。また、記録処理部20は、抽出前映像ファイルV31の各コマを解析し、当該解析結果に基づいて開始時間を特定してもよい。この場合、記録処理部20は、建築現場で用いられる工具(メジャーM等)が抽出前映像ファイルV31のコマから検出された場合に、当該コマに対応する時間を開始時間としてもよい。 Although the recording processing unit 20 identifies the start date and time of the important part 21 based on the speech content (keywords), the information for identifying the start date and time is not limited to the speech content (keywords), and various information capable of identifying the start date and time can be used. For example, the recording processing unit 20 may set the date and time when the speech started when the length of the speech (the number of characters recognized at one time) exceeds a predetermined threshold as the start date and time. Furthermore, when a predetermined button on the terminal 10 is pressed, the recording processing unit 20 may identify the start date and time based on the date and time when the button was pressed. Furthermore, the recording processing unit 20 may analyze each frame of the pre-extraction video file V31 and identify the start time based on the analysis results. In this case, when a tool used at a construction site (such as a tape measure M) is detected from a frame of the pre-extraction video file V31, the recording processing unit 20 may set the time corresponding to the frame as the start time.

また、記録処理部20は、不要部22に基づいて重要部21の終了日時を特定したが、終了日時を特定するための情報は、不要部22に限定されるものではない。記録処理部20は、終了日時を特定可能な種々の情報を用いることができる。例えば、記録処理部20は、終了日時を示唆する情報(終了日時を指示する言葉(『これで終了します。』との言葉等))や端末10のボタンが押下されたことや抽出前映像ファイルV31の各コマを解析した結果に基づいて、終了日時を特定してもよい。 Although the recording processing unit 20 identifies the end date and time of the important part 21 based on the unnecessary part 22, the information for identifying the end date and time is not limited to the unnecessary part 22. The recording processing unit 20 can use various information that can identify the end date and time. For example, the recording processing unit 20 may identify the end date and time based on information suggesting the end date and time (words indicating the end date and time (such as the words "This is the end")), the pressing of a button on the terminal 10, or the results of analyzing each frame of the pre-extraction video file V31.

また、抽出後映像ファイルV32を確認する確認画面33の構成(レイアウト)は、図24に示すものに限定されるものではなく、抽出後映像ファイルV32を確認可能な任意の構成であってよい。 In addition, the configuration (layout) of the confirmation screen 33 for confirming the extracted video file V32 is not limited to that shown in FIG. 24, and may be any configuration that allows the extracted video file V32 to be confirmed.

また、記録処理部20は、重要部21の前後でバッファを見て抽出後映像ファイルV32を抽出したが、これに限定されるものではなく、重要部21のみを抽出後映像ファイルV32として抽出してもよい。 In addition, the recording processing unit 20 looks at the buffer before and after the important part 21 and extracts the post-extraction video file V32, but this is not limited to this, and only the important part 21 may be extracted as the post-extraction video file V32.

また、サーバ30は、抽出前映像ファイルV31を所定期間経過後に削除するものとしたが、これに限定されるものではなく、抽出前映像ファイルV31に対してどのような処理を行ってもよい。例えば、サーバ30は、抽出前映像ファイルV31を削除しないものであってもよい。また、サーバ30は、抽出前映像ファイルV31を他の記憶装置(例えば、抽出前映像ファイルV31を保存するためだけの記憶装置等)に移すものであってもよい。 Although the server 30 is configured to delete the pre-extraction video file V31 after a predetermined period of time has elapsed, this is not limited thereto, and any processing may be performed on the pre-extraction video file V31. For example, the server 30 may not delete the pre-extraction video file V31. The server 30 may also transfer the pre-extraction video file V31 to another storage device (for example, a storage device dedicated to storing the pre-extraction video file V31).

また、本実施形態においては、端末10で抽出後映像ファイルV32を取得したが、抽出映像を取得する機器は端末10に限定されるものではなく、他の機器(例えば、サーバ30等)であってもよい。 In addition, in this embodiment, the extracted video file V32 is acquired by the terminal 10, but the device that acquires the extracted video is not limited to the terminal 10 and may be another device (e.g., the server 30, etc.).

また、本実施形態においては、記録モードの実行時に抽出後映像ファイルV32を抽出したが(ステップS450)、抽出後映像ファイルV32を抽出するタイミングはこれに限定されるものではなく、例えば、記録モードを実行した後で抽出後映像ファイルV32を抽出してもよい。この場合、例えば、建築現場での作業が行われていないと考えられる時間帯(例えば、深夜の時間帯等)に抽出後映像ファイルV32を抽出してもよい。 In addition, in this embodiment, the post-extraction video file V32 is extracted when the recording mode is executed (step S450), but the timing of extracting the post-extraction video file V32 is not limited to this, and for example, the post-extraction video file V32 may be extracted after the recording mode is executed. In this case, for example, the post-extraction video file V32 may be extracted during a time period when it is considered that no work is being performed at the construction site (for example, late at night, etc.).

また、支援システム1において各種処理を行う機器は、特に限定されるものではない。例えば、本実施形態においては、端末10で発話内容(通話内容)を認識する処理を行ったが(ステップS110・S320・S510等)、これに限定されるものではなく、他の機器(例えば、サーバ30等)で行ってもよい。すなわち、音声認識部16は、端末10ではなくサーバ30等に設けられてもよい。また、モード制御部17が具備する検査処理部18、通話処理部19及び記録処理部20の一部又は全部も、端末10ではなくサーバ30等に設けられてもよい。 In addition, the devices that perform various processes in the support system 1 are not particularly limited. For example, in this embodiment, the process of recognizing the spoken content (call content) is performed by the terminal 10 (steps S110, S320, S510, etc.), but this is not limited to this and may be performed by other devices (e.g., the server 30, etc.). That is, the voice recognition unit 16 may be provided in the server 30, etc., rather than the terminal 10. Also, some or all of the inspection processing unit 18, call processing unit 19, and record processing unit 20 provided in the mode control unit 17 may be provided in the server 30, etc., rather than the terminal 10.

次に、第二実施形態に係る支援システムについて説明する。 Next, we will explain the support system according to the second embodiment.

第二実施形態に係る支援システムは、検査処理部(検査モード)に関する構成が第一実施形態と大きく異なっている。このため、以下では、第二実施形態に係る検査処理部(検査システム101)の構成について説明する。 The support system according to the second embodiment differs significantly from the first embodiment in the configuration related to the inspection processing unit (inspection mode). Therefore, the following describes the configuration of the inspection processing unit (inspection system 101) according to the second embodiment.

図26に示す検査システム101は、検査において用いられるシステムである。より詳細には、検査システム101は、検査員B100(検査を実施する者)が実施した検査の結果を記録する用途に用いられる。また、検査システム101は、検査員B100と対話することで検査結果を取得し、当該検査結果を記録することができる。なお、検査結果の取得の手順については後述する。また、本実施形態の検査システム101は、建物の建築過程における検査(例えば、コンクリート検査等)を対象としている。また、検査システム101は、後述するように、複数のプロジェクトや現場で使用可能に構築されている。検査システム101は、端末110及びサーバ120を具備する。 The inspection system 101 shown in FIG. 26 is a system used in inspections. More specifically, the inspection system 101 is used to record the results of an inspection performed by an inspector B100 (a person who performs the inspection). The inspection system 101 can obtain the inspection results by interacting with the inspector B100 and record the inspection results. The procedure for obtaining the inspection results will be described later. The inspection system 101 of this embodiment is intended for inspections during the construction process of a building (e.g., concrete inspection, etc.). The inspection system 101 is constructed so that it can be used in multiple projects and sites, as will be described later. The inspection system 101 includes a terminal 110 and a server 120.

端末110は、検査員B100が所持する機器である。端末110は、通信機能を具備し、ネットワーク回線を介して後述するサーバ120と通信可能に構成される。端末110は、検査員B100が装着可能な眼鏡型のウェアラブルデバイス(図2参照)によって構成される。端末110は、スピーカ111、マイク112及びカメラ113を具備する。 The terminal 110 is a device carried by the inspector B100. The terminal 110 has a communication function and is configured to be able to communicate with the server 120 (described later) via a network line. The terminal 110 is configured as a glasses-type wearable device (see FIG. 2) that can be worn by the inspector B100. The terminal 110 has a speaker 111, a microphone 112, and a camera 113.

スピーカ111は、音声を出力するためのものである。マイク112は、音声を入力するためのものである。カメラ113は、写真や動画を撮影するためのものである。スピーカ111、マイク112及びカメラ113は、端末110のフレームに適宜設けられる。 The speaker 111 is for outputting audio. The microphone 112 is for inputting audio. The camera 113 is for taking photos and videos. The speaker 111, microphone 112, and camera 113 are appropriately provided on the frame of the terminal 110.

サーバ120は、端末110からの要求に応じて適宜処理を行うものである。サーバ120は、CPU等の演算装置やHDD等の記憶装置を具備する。サーバ120は、プラットフォーム121、検査部122、管理検査データベース123、検査写真ファイルサーバ124、確認画面125及び異常検知部126等を具備する。 The server 120 performs appropriate processing in response to requests from the terminal 110. The server 120 includes a computing device such as a CPU and a storage device such as a HDD. The server 120 includes a platform 121, an inspection unit 122, a management inspection database 123, an inspection photo file server 124, a confirmation screen 125, and an anomaly detection unit 126.

プラットフォーム121は、端末110の動作の基盤となるものである。プラットフォーム121は、端末110と通信することで、端末110を機能させることができる。具体的には、プラットフォーム121は、端末110に信号を送信してスピーカ111から音声を出力させたり、端末110のマイク112に入力された音声やカメラ113で撮影した写真及び動画等を、端末110から取得することができる。また、プラットフォーム121は、建物の品質管理を担当する担当者A101が使用する端末と通信することで、当該端末にカメラ113で撮影した映像を提供することができる。また、プラットフォーム121は、カメラ113で撮影した映像を適宜解析することで、検査員B100の仕草(例えば、手の動き等)を認識することができる。また、プラットフォーム121は、音声認識機能を有する。 The platform 121 is the basis for the operation of the terminal 110. The platform 121 can make the terminal 110 function by communicating with the terminal 110. Specifically, the platform 121 can transmit a signal to the terminal 110 to output audio from the speaker 111, and can acquire audio input to the microphone 112 of the terminal 110, and photos and videos taken by the camera 113, from the terminal 110. The platform 121 can also provide the video taken by the camera 113 to a terminal used by a person A101 in charge of quality control of the building by communicating with the terminal. The platform 121 can also recognize the gestures (e.g., hand movements, etc.) of the inspector B100 by appropriately analyzing the video taken by the camera 113. The platform 121 also has a voice recognition function.

音声認識機能は、端末110のマイク112に入力された音声を認識する機能である。プラットフォーム121は、マイク112に入力された音声を端末110から取得し、当該音声(音声ファイル)を解析してテキストファイルへ変換する。プラットフォーム121は、当該テキストファイルを読み込むことで、マイク112に入力された音声を文字列データとして取得(認識)することができる。 The voice recognition function is a function that recognizes voice input to the microphone 112 of the terminal 110. The platform 121 acquires the voice input to the microphone 112 from the terminal 110, analyzes the voice (voice file), and converts it into a text file. The platform 121 can acquire (recognize) the voice input to the microphone 112 as character string data by reading the text file.

検査部122は、検査員B100が発した言葉に基づいて検査結果を記録するための処理を行うものである。検査部122は、例えば、サーバ120上で動作するプログラムによって構成される。検査部122は、プラットフォーム121が認識した音声(端末110のマイク112に入力された音声)及び検査員B100の仕草を取得することができる。また、検査部122は、プラットフォーム121を介して端末110に音声ファイルを送信することで、当該端末110のスピーカ111から所定の音声を出力可能に構成される。検査部122は、後述する管理検査データベース123及び検査写真ファイルサーバ124にデータを登録可能に構成される。また、検査部122は、管理検査データベース123からデータを取得可能に構成される。 The inspection unit 122 performs processing to record the inspection results based on the words uttered by the inspector B100. The inspection unit 122 is configured, for example, by a program running on the server 120. The inspection unit 122 can acquire the voice recognized by the platform 121 (voice input to the microphone 112 of the terminal 110) and the gestures of the inspector B100. The inspection unit 122 is also configured to be able to output a predetermined voice from the speaker 111 of the terminal 110 by sending a voice file to the terminal 110 via the platform 121. The inspection unit 122 is configured to be able to register data in the management inspection database 123 and the inspection photo file server 124 described below. The inspection unit 122 is also configured to be able to acquire data from the management inspection database 123.

このように構成される検査部122は、プラットフォーム121から取得した音声等を利用して適宜処理を行うことにより、検査結果を記録することができる。なお、検査部122の処理については後述する。 The inspection unit 122 configured in this manner can record the inspection results by performing appropriate processing using the voice and other information acquired from the platform 121. The processing of the inspection unit 122 will be described later.

管理検査データベース123は、検査に関する情報を管理するためのものである。検査に関する情報は、検査と繋がりがある情報であり、また、複数の検査の中から、ある1つの検査を特定するのに必要な情報である。検査に関する情報としては、例えば、検査対象となる建物を示す情報や検査の内容を示す情報等がある。図27に示すように、管理検査データベース123では、検査に関する情報が、複数の項目に分けて管理されている。複数の項目には、「プロジェクト名」、「工程名」、「検査区分」、「工程部位」及び「管理項目」が含まれる。 The managed inspection database 123 is used to manage information related to inspections. Information related to inspections is information that is linked to an inspection, and is also information necessary to identify one particular inspection from among multiple inspections. Information related to an inspection includes, for example, information indicating the building to be inspected and information indicating the contents of the inspection. As shown in FIG. 27, in the managed inspection database 123, information related to inspections is managed in multiple items. The multiple items include "project name," "process name," "inspection category," "process part," and "management item."

「プロジェクト名」は、建物を建築するプロジェクトの名称や建築現場の名称を示す項目である。「プロジェクト名」に登録される情報としては、例えば、プロジェクトの名称を示す文字列(『Aプロジェクト』等)や現場の名称を示す文字列等がある。このように、各項目に登録される情報(各項目の具体的な内容を示す情報)を、以下では「検査情報」と称する。 "Project name" is an item that indicates the name of the project to construct a building or the name of the construction site. Information registered in "project name" is, for example, a character string indicating the name of the project (such as "Project A") or a character string indicating the name of the site. In this way, information registered in each item (information indicating the specific content of each item) will be referred to as "inspection information" below.

「工程名」は、建物の建築における工程(工事)の名称を示す項目である。「工程名」の検査情報としては、例えば、工程の名称を示す文字列がある。本実施形態において「工程名」には、上位の項目「プロジェクト名」に登録された各検査情報に対して、想定される(選択されうる)1以上の検査情報が関連付けて登録されている。具体的には、例えば、『Aプロジェクト』における工程として、『コンクリート工事』及び『鉄筋工事』等が想定される場合、「プロジェクト名」の検査情報『Aプロジェクト』に対して、「工程名」の検査情報『コンクリート工事』及び『鉄筋工事』等が関連付けて登録されている。このように、本実施形態において「工程名」は、「プロジェクト名」に属する項目(下位の項目)となる。 "Process name" is an item that indicates the name of a process (construction) in the construction of a building. The inspection information for "process name" is, for example, a character string that indicates the name of the process. In this embodiment, "process name" is registered in association with one or more expected (selectable) inspection information for each inspection information registered in the higher-level item "project name". Specifically, for example, if "concrete work" and "rebar work" are expected as processes in "Project A", the inspection information for "process name" such as "concrete work" and "rebar work" is registered in association with the inspection information for "Project A". In this way, in this embodiment, "process name" is an item (sub-item) that belongs to "Project name".

「検査区分」は、検査する区分(建物のどの部分に対して検査を行うのか)を示す項目である。「検査区分」の検査情報としては、例えば、検査する区分を示す文字列がある。本実施形態において「検査区分」には、上位の項目(「プロジェクト名」及び「工程名」)に登録された各検査情報に対して、想定される(選択されうる)1以上の検査情報が関連付けて登録されている。具体的には、例えば、「プロジェクト名」の検査情報『Aプロジェクト』及び「工程名」の検査情報『コンクリート工事』に対して、「検査区分」の検査情報『基礎』及び『1階床』等が関連付けて登録されている。このように、本実施形態において「検査区分」は、「工程名」に属する項目(下位の項目)となる。 "Inspection category" is an item that indicates the category to be inspected (which part of the building to inspect). The inspection information for "inspection category" is, for example, a character string that indicates the category to be inspected. In this embodiment, "inspection category" associates one or more expected (selectable) inspection information with each inspection information registered in the higher-level items ("project name" and "process name"). Specifically, for example, inspection information "Project A" in "project name" and inspection information "concrete work" in "process name" are associated with inspection information "foundation" and "first floor floor" in "inspection category". In this way, in this embodiment, "inspection category" is an item (sub-item) that belongs to "process name".

「工程部位」は、検査する工程部位(「工程名」が示す工程の中で、何を検査するのか)を示す項目である。「工程部位」の検査情報としては、例えば、検査する工程部位を示す文字列がある。本実施形態において「工程部位」には、上位の項目(「プロジェクト名」、「工程名」及び「検査区分」)に登録された各検査情報に対して、想定される(選択されうる)1以上の検査情報が関連付けて登録されている。具体的には、例えば、「プロジェクト名」の検査情報『Aプロジェクト』、「工程名」の検査情報「コンクリート工事」及び「検査区分」の検査情報『基礎』に対して、「工程部位」の検査情報『コンクリート検査』等が関連付けて登録されている。このように、本実施形態において「工程部位」は、「検査区分」に属する項目(下位の項目)となる。 "Process part" is an item that indicates the process part to be inspected (what is to be inspected in the process indicated by "Process name"). The inspection information of "Process part" is, for example, a character string that indicates the process part to be inspected. In this embodiment, "Process part" is registered in association with one or more expected (selectable) inspection information for each inspection information registered in the higher-level items ("Project name", "Process name" and "Inspection category"). Specifically, for example, inspection information "Project A" in "Project name", inspection information "Concrete work" in "Process name", and inspection information "Foundation" in "Inspection category" are registered in association with inspection information "Concrete inspection" in "Process part". In this way, in this embodiment, "Process part" is an item (lower item) that belongs to "Inspection category".

「管理項目」は、検査する管理項目(検査の具体的な内容)を示す項目である。「管理項目」の検査情報としては、例えば、管理項目を示す文字列がある。本実施形態において「管理項目」には、上位の項目(「プロジェクト名」、「工程名」、「検査区分」及び「工程部位」)に登録された各検査情報に対して、想定される(選択されうる)1以上の検査情報が関連付けて登録されている。具体的には、例えば、「プロジェクト名」の検査情報『Aプロジェクト』、「工程名」の検査情報『コンクリート工事』、「検査区分」の検査情報『基礎』及び「工程部位」の検査情報『コンクリート検査』に対して、「管理項目」の検査情報『スランプ値』及び『空気量』等が関連付けて登録されている。このように、本実施形態において「管理項目」は、「工程部位」に属する項目(下位の項目)となる。 The "management item" is an item that indicates the management item to be inspected (specific contents of the inspection). The inspection information of the "management item" is, for example, a character string that indicates the management item. In this embodiment, the "management item" is registered in association with one or more expected (selectable) inspection information for each inspection information registered in the higher-level items ("project name", "process name", "inspection category", and "process part"). Specifically, for example, the inspection information "slump value" and "air content" of the "management item" are registered in association with the inspection information "Project A" of the "project name", the inspection information "concrete work" of the "process name", the inspection information "foundation" of the "inspection category", and the inspection information "concrete inspection" of the "process part". In this way, in this embodiment, the "management item" is an item (lower item) that belongs to the "process part".

このように、管理検査データベース123によって管理される複数の項目は、上位の項目から順に「プロジェクト名」、「工程名」、「検査区分」、「工程部位」、「管理項目」となるような階層的な構造となっている。また、「プロジェクト名」、「工程名」、「検査区分」、「工程部位」及び「管理項目」の検査情報により、複数ある検査の中から1つの検査が決まることとなる。具体的には、例えば、『Aプロジェクト』(より詳細には、Aプロジェクトで建設する建物)の『コンクリート工事』の『基礎』の『コンクリート検査』の『スランプ値』が正常であるかを確認する検査等が決まることとなる。また、本実施形態では、「プロジェクト名」の検査情報に基づいてプロジェクトや現場を識別できるため、複数のプロジェクトや現場で使用する(検査結果を記録する)ことができる。 In this way, the multiple items managed by the management inspection database 123 are hierarchically structured, with the top items being "project name", "process name", "inspection category", "process part", and "management item". Furthermore, one inspection is determined from multiple inspections based on the inspection information for "project name", "process name", "inspection category", "process part", and "management item". Specifically, for example, an inspection is determined to check whether the "slump value" of the "concrete inspection" of the "foundation" of the "concrete work" of "project A" (more specifically, the building to be constructed in project A) is normal. Furthermore, in this embodiment, the project and site can be identified based on the inspection information for "project name", so it can be used (the inspection results can be recorded) for multiple projects and sites.

また、「プロジェクト名」等の項目は、図26に示す管理検査データベース123の管理者A102により適宜管理される。具体的には、例えば、新しく建物を建てるプロジェクトが発足した場合等において、管理者A102によって、当該プロジェクトに対応する「プロジェクト名」等の検査情報が管理検査データベース123に登録される。また、管理検査データベース123に登録された検査情報は、管理者A102により適宜(例えば、建物が取り壊されてから所定の年数が経過した場合等に)削除される。また、管理検査データベース123には、検査員B100が実施した検査の結果等が、検査部122によって適宜登録される。 In addition, items such as "project name" are appropriately managed by manager A102 of the management inspection database 123 shown in FIG. 26. Specifically, for example, when a project to build a new building is launched, manager A102 registers inspection information such as "project name" corresponding to the project in the management inspection database 123. Furthermore, the inspection information registered in the management inspection database 123 is deleted by manager A102 as appropriate (for example, when a certain number of years have passed since the building was demolished). Furthermore, the results of inspections performed by inspector B100 are appropriately registered in the management inspection database 123 by the inspection department 122.

図26に示す検査写真ファイルサーバ124は、検査中に端末110のカメラ113で撮影された結果(図28に示す画像データC101・C102参照)を記憶するためのものである。検査写真ファイルサーバ124には、端末110のカメラ113によって撮影された画像ファイルや動画ファイル等が、どの検査で撮影されたものなのかを特定可能に記憶される。また、検査写真ファイルサーバ124には、プロジェクトや現場毎に画像ファイル等が記憶される。 The inspection photo file server 124 shown in FIG. 26 is for storing the results captured by the camera 113 of the terminal 110 during an inspection (see image data C101 and C102 shown in FIG. 28). The inspection photo file server 124 stores image files and video files captured by the camera 113 of the terminal 110 in a manner that allows identification of which inspection they were captured during. The inspection photo file server 124 also stores image files and the like for each project and site.

確認画面125は、管理検査データベース123に登録された検査結果を確認するための画面である。確認画面125は、例えば、ブラウザで表示可能なウェブページによって構成される。確認画面125は、管理検査データベース123及び検査写真ファイルサーバ124から取得した情報を適宜表示することで、検査結果を確認可能に構成される。確認画面125は、品質管理を担当する担当者A101の端末からネットワーク回線を介してアクセス可能に構成される。図28は、確認画面125の一例を示すものである。 The confirmation screen 125 is a screen for confirming the inspection results registered in the management inspection database 123. The confirmation screen 125 is configured, for example, as a web page that can be displayed in a browser. The confirmation screen 125 is configured to allow the inspection results to be confirmed by appropriately displaying information obtained from the management inspection database 123 and the inspection photo file server 124. The confirmation screen 125 is configured to be accessible via a network line from the terminal of the person in charge of quality control, A101. Figure 28 shows an example of the confirmation screen 125.

図28に示す確認画面125は、特定の上位の項目に属する下位の項目を一覧で表示する画面である。図28では、上位の項目である「プロジェクト名」、「工程名」及び「検査区分」(図28では『Aプロジェクト』の『コンクリート工事』の『基礎』)に属する下位の項目(「工程部位」及び「管理項目」)の検査情報が一覧で表示された例を示している。また、確認画面125は、上位の項目、すなわち「プロジェクト名」、「工程名」及び「検査区分」の検査情報(図28では『Aプロジェクトのコンクリート工事の基礎の検査結果』との文字列)を表示可能に構成される。また、確認画面125には、下位の項目の検査情報等に加えて、「管理値」、「写真」、「コメント」、「判定結果」及び「検査日時」を表示可能に構成される。 The confirmation screen 125 shown in FIG. 28 is a screen that displays a list of lower items belonging to a specific higher-level item. FIG. 28 shows an example in which inspection information for lower-level items ("Process part" and "Control item") belonging to the higher-level items "Project name", "Process name", and "Inspection category" ("Foundation" of "Concrete work" of "A Project" in FIG. 28) is displayed in a list. The confirmation screen 125 is also configured to be able to display the inspection information for the higher-level items, namely "Project name", "Process name", and "Inspection category" (the character string "Inspection result of foundation of concrete work of A Project" in FIG. 28). The confirmation screen 125 is also configured to be able to display "Control value", "Photo", "Comment", "Judgment result", and "Inspection date and time" in addition to the inspection information of the lower-level items.

「管理値」は、「管理項目」が示す検査の合否判定の基準となる情報を示すものである。「管理値」は、管理検査データベース123に適宜登録されている。「写真」は、検査において撮影された画像データC101・C102(検査写真ファイルサーバ124に登録された画像データ)を表示するものである。「コメント」は、検査に関する検査員B100のコメント(例えば、検査結果についての見解等)を示すものである。「判定結果」は、検査の合否を判定した結果を示すものである。「検査日時」は、検査が行われた日時を示すものである。「コメント」、「判定結果」及び「検査日時」は、検査部122によって管理検査データベース123に適宜登録される。 "Control value" indicates information that is the standard for determining whether the inspection indicated by the "control item" passes or fails. "Control value" is appropriately registered in the management inspection database 123. "Photo" displays image data C101 and C102 taken during the inspection (image data registered in the inspection photo file server 124). "Comment" indicates the comments of inspector B100 regarding the inspection (e.g., his/her opinion on the inspection results, etc.). "Judgment result" indicates the result of the judgment on whether the inspection passed or failed. "Inspection date and time" indicates the date and time when the inspection was performed. "Comment", "Judgment result", and "Inspection date and time" are appropriately registered in the management inspection database 123 by the inspection unit 122.

図26に示す異常検知部126は、端末110の異常を検知するためのものである。異常検知部126は、例えば、サーバ120上で動作するプログラムによって構成される。異常検知部126は、端末110に設けられた所定のセンサの結果に基づいて(例えば、端末110が落下してセンサが異常な値を検出した場合に)、端末110に異常があったと判断する。この場合、異常検知部126は、検査員B100の関係者A103等にメール等で通知する。 The anomaly detection unit 126 shown in FIG. 26 is for detecting an anomaly in the terminal 110. The anomaly detection unit 126 is configured, for example, by a program that runs on the server 120. The anomaly detection unit 126 determines that an anomaly has occurred in the terminal 110 based on the result of a predetermined sensor provided in the terminal 110 (for example, when the terminal 110 is dropped and the sensor detects an abnormal value). In this case, the anomaly detection unit 126 notifies the relevant person A103 of the inspector B100 by email or the like.

次に、このように構成される検査システム101を用いた検査の概要について説明する。 Next, we will provide an overview of the inspection using the inspection system 101 configured in this manner.

検査システム101は、例えば、実施した検査の結果(例えば、測定値等)を管理検査データベース123に記憶させる場合に用いられる。まず、検査員B100は、端末110のマイク112に向けて適宜発話することで、複数の検査の中から、1つの検査(実施した検査)を選択する。そして、検査員B100は、マイク112に向けて適宜発話することで、検査結果を入力する。これによれば、手を使うことなく検査結果を入力することができ、入力の負担を低減することができる。 The inspection system 101 is used, for example, when storing the results of an inspection (e.g., measurement values, etc.) performed in the managed inspection database 123. First, inspector B100 selects one inspection (the one performed) from among multiple inspections by appropriately speaking into the microphone 112 of the terminal 110. Then, inspector B100 inputs the inspection results by appropriately speaking into the microphone 112. This allows the inspection results to be input without using the hands, reducing the input burden.

また、検査システム101は、入力された検査結果を「管理値」(図28参照)と対比することで、検査の合否を判定する。これにより、検査員B100が合否判定を行う手間を省くことができる。こうして検査システム101は、検査員B100の検査を支援して、検査業務の負担を低減することができる。 The inspection system 101 also judges whether the inspection has passed or failed by comparing the input inspection results with the "control value" (see FIG. 28). This saves inspector B100 the trouble of making a pass/fail judgment. In this way, the inspection system 101 supports inspector B100 in his inspections and reduces the burden of the inspection work.

当該検査システム101は、検査結果を入力するモード(態様)として、第一モード及び第二モードを具備する。第一モード及び第二モードは、後述するように、複数の検査の中から、1つの検査を選択する手順が異なっている。検査システム101では、第一モード又は第二モードのいずれかを選択し、検査結果を入力することができる。まずは、図28から図32を参照して、第一モードが選択された場合における検査の流れについて説明する。また、検査の流れの説明の中で、検査部122の処理についても説明する。 The inspection system 101 has a first mode and a second mode as modes (configurations) for inputting the inspection results. As described below, the first mode and the second mode differ in the procedure for selecting one test from among a plurality of tests. In the inspection system 101, either the first mode or the second mode can be selected and the inspection results can be input. First, the flow of the inspection when the first mode is selected will be described with reference to Figures 28 to 32. In addition, in the explanation of the inspection flow, the processing of the inspection unit 122 will also be described.

第一モードは、検査部122と検査員B100とが繰り返し対話することで、上位の項目(「プロジェクト名」)から順に検査情報を選択し、最終的に特定された1つの検査の結果を入力するモードである。まず、図29を参照し、第一モードにおける検査結果の入力までの流れについて説明する。 The first mode is a mode in which the inspection unit 122 and inspector B100 repeatedly interact with each other to select inspection information starting from the top item ("project name") and finally input the results of one identified inspection. First, the flow up to inputting the inspection results in the first mode will be described with reference to FIG. 29.

まず、ステップS1010において、検査部122と検査員B100とが対話することで、最も上位の項目である「プロジェクト名」が選択される。ステップS1010が終了すると、ステップS1020へ移行する。 First, in step S1010, the inspection unit 122 and inspector B100 interact to select the highest level item, "Project name." When step S1010 is completed, the process proceeds to step S1020.

ステップS1020において、検査部122と検査員B100とが対話することで、「プロジェクト名」の1つ下位の項目である「工程名」が選択される。ステップS1020が終了すると、ステップS1030へ移行する。 In step S1020, the inspection unit 122 and inspector B100 interact to select the "process name," which is one item below the "project name." When step S1020 ends, the process proceeds to step S1030.

ステップS1030において、検査部122と検査員B100とが対話することで、「工程名」の1つ下位の項目である「検査区分」が選択される。ステップS1030が終了すると、ステップS1040へ移行する。 In step S1030, the inspection unit 122 and inspector B100 interact to select the "inspection category," which is one level below the "process name." When step S1030 is complete, the process moves to step S1040.

ステップS1040において、検査部122と検査員B100とが対話することで、残りの「工程部位」及び「管理項目」が選択される。これにより、全ての項目が選択されて最終的に検査結果を入力すべき1つの検査が特定可能となるため、ステップS1040においては、検査結果も入力する。なお、図29等においては、「工程部位」及び「管理項目」を総称して、「検査項目」と記載している。ステップS1040が終了すると、第一モードによる検査結果の入力作業が完了する。 In step S1040, the remaining "process parts" and "control items" are selected through dialogue between the inspection unit 122 and inspector B100. As a result, all items are selected and it becomes possible to identify the one inspection for which the inspection results should ultimately be entered, so in step S1040, the inspection results are also entered. Note that in FIG. 29 etc., the "process parts" and "control items" are collectively referred to as "inspection items." When step S1040 ends, the work of entering the inspection results in the first mode is completed.

以下では、図30から図32を参照し、第一モードにおける検査結果の入力までの流れ(ステップS1010~S1040)について具体的に説明する。 Below, we will explain in detail the flow up to inputting the test results in the first mode (steps S1010 to S1040) with reference to Figures 30 to 32.

まず、図30は、プロジェクト名が選択されるステップS1010の流れを示すものである。図30に示すように、ステップS1010が開始されると、まず、ステップS1110が行われる。 First, FIG. 30 shows the flow of step S1010, where a project name is selected. As shown in FIG. 30, when step S1010 starts, step S1110 is performed first.

ステップS1110においては、検査員B100により、検査開始の旨が報知される。具体的には、検査員B100は、例えば、端末110のカメラ113に向けて所定の仕草(ジェスチャー)を行う。ステップS1110が終了すると、ステップS1120へ移行する。 In step S1110, inspector B100 notifies the user that the inspection is about to begin. Specifically, inspector B100 makes a predetermined gesture toward the camera 113 of the terminal 110, for example. When step S1110 ends, the process proceeds to step S1120.

ステップS1120において、検査部122(検査システム101)は、プラットフォーム121を介して検査員B100の仕草を認識し、管理検査データベース123から検査に関する情報(全ての項目の全ての検査情報、図27参照)を読み込む。ステップS1120が終了すると、ステップS1130へ移行する。 In step S1120, the inspection unit 122 (inspection system 101) recognizes the gestures of inspector B100 via the platform 121 and reads information about the inspection (all inspection information for all items, see Figure 27) from the management inspection database 123. When step S1120 ends, the process proceeds to step S1130.

なお、管理検査データベース123には、管理者A102による事前作業A120によって、プロジェクトや現場での検査に関する情報が、予め(検査前に)登録されている。これにより、管理検査データベース123には、「プロジェクト名」に所定の検査情報(例えば、『Aプロジェクト』等)が追加されることとなる。また、管理検査データベース123には、下位の項目の検査情報(例えば、『Aプロジェクト』に対する「工程名」の検査情報『コンクリート工事』等)も追加されることとなる。検査部122は、こうして追加された情報をステップS1120で読み込むこととなる。 In addition, information regarding the project and on-site inspections is registered in advance (before the inspection) in the management inspection database 123 by the administrator A102 through advance work A120. As a result, the management inspection database 123 adds specified inspection information (e.g., "Project A") to the "project name". In addition, the management inspection database 123 also adds inspection information for lower-level items (e.g., inspection information for the "process name" for "Project A" such as "concrete work"). The inspection unit 122 reads the information added in this way in step S1120.

ステップS1130において、検査部122は、ステップS1130で読み込んだ情報から、「プロジェクト名」の検査情報(例えば、『Aプロジェクト』等)を抽出して読み上げる。このとき、検査部122は、検査情報を読み上げる音声を端末110のスピーカ111から出力させる。具体的には、例えば、『プロジェクトを選んで下さい。Aプロジェクト、Bプロジェクト・・・』との音声を出力させる。ステップS1130が終了すると、ステップS1140へ移行する。 In step S1130, the inspection unit 122 extracts and reads out the inspection information for "project name" (for example, "Project A") from the information read in step S1130. At this time, the inspection unit 122 outputs a voice reading out the inspection information from the speaker 111 of the terminal 110. Specifically, for example, a voice saying "Please select a project. Project A, Project B..." is output. When step S1130 ends, the process proceeds to step S1140.

ステップS1140において、検査員B100は、ステップS1140で出力された音声に応じて、選択したい(検査結果を入力したい)「プロジェクト名」に関する検査情報(例えば、『Aプロジェクト』)を発話する。なお、検査部122は、検査員B100の発話を常に受け付けている(認識可能である)。このため、検査員B100は、検査部122が検査情報を読み上げている最中に発話することができる。これは、検査部122の音声出力を受けて検査員B100が発話する他のステップ(例えば、後述するステップS1220等)でも同様である。 In step S1140, inspector B100 speaks inspection information (e.g., "Project A") related to the "project name" he wishes to select (for which he wishes to input inspection results) in response to the voice output in step S1140. Note that the inspection unit 122 is always accepting (can recognize) the speech of inspector B100. Therefore, inspector B100 can speak while the inspection unit 122 is reading out the inspection information. This is also true in other steps (e.g., step S1220, described below) in which inspector B100 speaks in response to the voice output of the inspection unit 122.

また、検査員B100は、ステップS1140において、所定の言葉を発話することで、検査部122が読み上げた検査情報をもう一度聞き直すことができる。具体的には、検査員B100は、もう一度聞き直すことを検査部122が認識可能な言葉(例えば、『もう一度』との言葉等)を発話する。本実施形態の検査部122は、当該発話内容に基づいて1つ前のステップ(ステップS1130)へ戻り、検査情報をもう一度読み上げる。これは、検査部122の音声出力を受けて検査員B100が発話する他のステップ(例えば、後述するステップS1220等)でも同様である。ステップS1140が終了すると、ステップS1150へ移行する。 In addition, inspector B100 can utter a specific word in step S1140 to listen again to the inspection information read out by the inspection unit 122. Specifically, inspector B100 utters a word that the inspection unit 122 can recognize to ask to listen again (for example, the word "one more"). In this embodiment, the inspection unit 122 returns to the previous step (step S1130) based on the content of the utterance and reads out the inspection information again. This is also true for other steps (for example, step S1220 described below) in which inspector B100 speaks in response to the audio output of the inspection unit 122. When step S1140 ends, the process proceeds to step S1150.

ステップS1150において、検査部122は、ステップS1140で検査員B100が発話した「プロジェクト名」の検査情報を復唱する。具体的には、まず、検査部122は、プラットフォーム121を介してステップS1140での発話内容を取得することで、「プロジェクト名」に選択(入力)された検査情報(例えば、『Aプロジェクト』)を判断する。そして、検査部122は、判断した検査情報を復唱する音声をスピーカ111から出力させる。具体的には、例えば『Aプロジェクトですね?』との音声を出力させる。 In step S1150, the inspection unit 122 repeats the inspection information for the "project name" spoken by inspector B100 in step S1140. Specifically, the inspection unit 122 first obtains the content of the speech in step S1140 via the platform 121, and determines the inspection information (e.g., "Project A") selected (input) for the "project name". The inspection unit 122 then outputs a voice from the speaker 111 repeating the determined inspection information. Specifically, for example, it outputs a voice saying, "It's Project A, right?"

なお、検査部122は、認識した発話内容から以降のステップを実行不能である場合に、検査員B100に発話内容をもう一度問い合わせ、1つ前のステップ(検査員B100が発話するステップ)へ戻る。例えば、検査部122は、ステップS1140での発話内容から「プロジェクト名」の検査情報を判断不能である(検査員B100が想定外の言葉を発話した)場合、もう一度検査員B100に発話を促す旨の音声(例えば、『すいません。もう一度お願いします。』等の音声)をスピーカ111から出力させ、ステップS1140へ戻る。これは、検査員B100の発話を受けて検査部122が処理を行う他のステップ(例えば、後述するステップS1230等)でも同様である。ステップS1150が終了すると、検査員B100の発話の有無に応じて、適宜のステップへ移行する。 If the inspection unit 122 is unable to execute the subsequent steps based on the recognized speech content, it inquires of inspector B100 about the speech content again and returns to the previous step (the step where inspector B100 speaks). For example, if the inspection unit 122 is unable to determine the inspection information for "project name" from the speech content in step S1140 (inspector B100 utters unexpected words), it outputs a voice (e.g., "I'm sorry. Please say it again.") from the speaker 111 to encourage inspector B100 to speak again and returns to step S1140. This is also the case in other steps (e.g., step S1230 described later) where the inspection unit 122 processes in response to the speech of inspector B100. When step S1150 ends, it transitions to an appropriate step depending on whether or not inspector B100 has spoken.

具体的には、復唱された検査情報が違っている場合、検査員B100は、復唱された検査情報が違っていることを検査部122が認識可能な言葉を発話する。本実施形態の検査部122は、当該発話内容に基づいてステップS1130へ戻り(図30に示す符号A参照)、「プロジェクト名」の検査情報をもう一度読み上げる。これにより、検査員B100は、検査情報を選択し直すことができる。例えば、検査員B100は、『戻る』と発話することで、検査情報が違っていることを検査部122に認識させて、検査情報を選択し直すことができる。 Specifically, if the repeated test information is incorrect, inspector B100 speaks words that allow the inspection unit 122 to recognize that the repeated test information is incorrect. In this embodiment, the inspection unit 122 returns to step S1130 based on the content of the speech (see symbol A in FIG. 30) and reads out the test information for "project name" again. This allows inspector B100 to reselect the test information. For example, inspector B100 can speak "back" to make the inspection unit 122 recognize that the test information is incorrect and reselect the test information.

一方、復唱された検査情報が正しい場合、検査員B100は特に発話を行わない。検査部122は、例えば、検査員B100の発話を所定時間認識しなかった場合に、プロジェクト名を選択するステップS1010を終了させ、工程名を選択するステップS1020へ移行する。 On the other hand, if the repeated inspection information is correct, inspector B100 does not make any particular speech. For example, if the inspection unit 122 does not recognize the speech of inspector B100 for a predetermined period of time, it ends step S1010 of selecting the project name and proceeds to step S1020 of selecting the process name.

図31(a)は、工程名が選択されるステップS1020の流れを示すものである。図31(a)に示すように、工程名が選択されるステップS1020においては、上述したステップS1130~S1150と同じようなステップS1210~S1230により、「工程名」が選択される。 Figure 31 (a) shows the flow of step S1020 where the process name is selected. As shown in Figure 31 (a), in step S1020 where the process name is selected, the "process name" is selected by steps S1210 to S1230, which are similar to steps S1130 to S1150 described above.

具体的には、ステップS1210において、検査部122は、「工程名」の検査情報を読み上げる。このとき、検査部122は、ステップS1120で読み込んだ情報から、「工程名」の検査情報を抽出する。この際、検査部122は、「工程名」の検査情報のうち、プロジェクト名の選択(ステップS1010)で選択された検査情報に関連付けられた検査情報を抽出する。これにより、検査部122は、「工程名」に登録された複数の検査情報の中から、ステップS1010で選択されたプロジェクトで実施される(検査員B100が選択する)可能性がある検査情報を抽出することができる。また、検査部122は、抽出した検査情報をスピーカ111から出力させる。具体的には、例えば、図27に示す「プロジェクト名」の検査情報に『Aプロジェクト』が選択された場合、『工程を選んで下さい。コンクリート工事、鉄筋工事・・・』との音声を出力させる。 Specifically, in step S1210, the inspection unit 122 reads out the inspection information for the "process name". At this time, the inspection unit 122 extracts the inspection information for the "process name" from the information read in step S1120. At this time, the inspection unit 122 extracts the inspection information associated with the inspection information selected in the selection of the project name (step S1010) from the inspection information for the "process name". In this way, the inspection unit 122 can extract inspection information that may be implemented (selected by inspector B100) in the project selected in step S1010 from among the multiple inspection information registered in the "process name". In addition, the inspection unit 122 outputs the extracted inspection information from the speaker 111. Specifically, for example, when "Project A" is selected as the inspection information for the "project name" shown in FIG. 27, a voice saying "Please select a process. Concrete work, rebar work..." is output.

そして、図31(a)に示すように、ステップS1220において、検査員B100は、選択したい(検査結果を入力したい)「工程名」に関する検査情報(例えば、『コンクリート工事』)を発話する。その後、ステップS1230において、検査部122は、発話内容に基づいて「工程名」に選択された検査情報(例えば、『コンクリート工事』)を判断し、当該検査情報をスピーカ111から出力させる。 Then, as shown in FIG. 31(a), in step S1220, inspector B100 speaks the inspection information (e.g., "concrete work") related to the "process name" that he or she wishes to select (for which he or she wishes to input the inspection results). After that, in step S1230, the inspection unit 122 determines the inspection information (e.g., "concrete work") selected for the "process name" based on the content of the speech, and outputs the inspection information from the speaker 111.

選択された検査情報が違っている場合、検査員B100は、所定の言葉(『戻る』等の言葉)を発話して検査部122に検査情報が違っていることを認識させる。この場合、検査部122は、ステップS1210へ戻る(図31(a)に示す符号B参照)。一方、選択された検査情報が正しい場合、検査員B100は特に発話を行わない。この場合、検査部122は、工程名を選択するステップS1020を終了させ、検査区分を選択するステップS1030へ移行する。 If the selected inspection information is incorrect, inspector B100 speaks a predetermined word (such as "Go back") to make the inspection unit 122 aware that the inspection information is incorrect. In this case, the inspection unit 122 returns to step S1210 (see symbol B in FIG. 31(a)). On the other hand, if the selected inspection information is correct, inspector B100 does not speak. In this case, the inspection unit 122 ends step S1020, which selects the process name, and proceeds to step S1030, which selects the inspection category.

図31(b)は、検査区分を選択するステップS1030の流れを示すものである。図31(b)に示すように、検査区分を選択するステップS1030においては、プロジェクト名を選択するステップS1130~S1150と同じようなステップS1310~S1330により、「検査区分」が選択される。なお、ステップS1310において、検査部122は、「検査区分」(ステップS1030で選択する項目)よりも上位の項目(「プロジェクト名」及び「工程名」)の検査情報をキーに管理検査データベース123を検索する。これにより、検査部122は、「検査区分」に登録された複数の検査情報の中から、検査員B100が選択する可能性がある検査情報を抽出する。また、ステップS1320においては、こうして抽出した検査情報を読み上げる。「検査区分」の選択が完了すると、検査項目(工程部位及び管理項目)の選択等を行うステップS1040へ移行する。 Figure 31 (b) shows the flow of step S1030 for selecting an inspection category. As shown in Figure 31 (b), in step S1030 for selecting an inspection category, an "inspection category" is selected by steps S1310 to S1330, which are similar to steps S1130 to S1150 for selecting a project name. In step S1310, the inspection unit 122 searches the management inspection database 123 using the inspection information of items ("project name" and "process name") that are higher than the "inspection category" (item selected in step S1030) as a key. In this way, the inspection unit 122 extracts inspection information that inspector B100 may select from among the multiple pieces of inspection information registered in the "inspection category". In step S1320, the inspection information extracted in this way is read out. When the selection of the "inspection category" is completed, the process proceeds to step S1040, in which the selection of inspection items (process parts and management items) is performed.

図32は、検査項目の選択等を行うステップS1040の流れを示すものである。図32に示すように、ステップS1040が開始されると、まず、ステップS1410が行われる。 Figure 32 shows the flow of step S1040, in which test items are selected, etc. As shown in Figure 32, when step S1040 starts, step S1410 is performed first.

ステップS1410において、検査部122は、「工程部位」及び「管理項目」の検査情報を抽出する。このとき、検査部122は、抽出対象となる「工程部位」等の項目よりも上位の項目の検査情報をキーに管理検査データベース123を検索する。これにより、検査部122は、選択されたプロジェクトの工程の検査区分で対象となる(検査員B100が選択する可能性がある)「工程部位」及び「管理項目」の検査情報を抽出する。 In step S1410, the inspection unit 122 extracts inspection information for the "process part" and "control item." At this time, the inspection unit 122 searches the management inspection database 123 using inspection information for items higher than the item to be extracted, such as the "process part." In this way, the inspection unit 122 extracts inspection information for the "process part" and "control item" that are the subject of the inspection category of the process of the selected project (which may be selected by inspector B100).

例えば、検査部122は、図27に示す「プロジェクト名」に『Aプロジェクト』が、「工程名」に『コンクリート工事』が、「検査区分」に『基礎』が選択された場合に、当該『Aプロジェクト』等をキーに管理検査データベース123を検索する。これにより、「工程部位」及び「管理項目」として、『Aプロジェクト』の『コンクリート工事』の『基礎』に対する『コンクリート検査』の『スランプ値』と、『コンクリート検査』の『空気量』と、を抽出する。ステップS1410が終了すると、ステップS1420へ移行する。 For example, when "Project A" is selected as the "Project Name", "Concrete Work" as the "Process Name", and "Foundation" as the "Inspection Category" shown in FIG. 27, the inspection unit 122 searches the management inspection database 123 using the "Project A" as a key. As a result, the "slump value" of the "concrete inspection" for the "foundation" of the "concrete work" of "Project A" and the "air content" of the "concrete inspection" are extracted as the "process part" and "management item". When step S1410 is completed, the process proceeds to step S1420.

ステップS1420において、検査部122は、スピーカ111から音声を出力させることで、ステップS1410で抽出した「工程部位」及び「管理項目」の検査情報を読み上げる。ステップS1420が終了すると、ステップS1430へ移行する。 In step S1420, the inspection unit 122 reads out the inspection information for the "process part" and "control item" extracted in step S1410 by outputting audio from the speaker 111. When step S1420 ends, the process proceeds to step S1430.

ステップS1430において、検査員B100は、ステップS1420で出力された音声に応じて、選択したい(検査結果を入力したい)「工程部位」及び「管理項目」に関する検査情報(例えば、『コンクリート検査のスランプ値』)を発話する。ステップS1430が終了すると、ステップS1440へ移行する。 In step S1430, inspector B100 speaks the inspection information (e.g., "concrete inspection slump value") related to the "process area" and "control item" he/she wishes to select (enter the inspection result for) in response to the voice output in step S1420. When step S1430 ends, the process proceeds to step S1440.

ステップS1440において、検査部122は、ステップS1430での発話内容に基づいて「工程部位」及び「管理項目」に選択された検査情報を判断し、当該検査情報を復唱する(スピーカ111から出力させる)。その後、検査部122は、検査結果を問い合わせる音声(例えば、『値を言って下さい。』等の音声)をスピーカ111から出力させる。 In step S1440, the inspection unit 122 determines the inspection information selected for the "process location" and "control item" based on the content of the speech in step S1430, and repeats the inspection information (outputs it from the speaker 111). After that, the inspection unit 122 outputs a voice inquiring about the inspection result (for example, a voice such as "Please tell me the value") from the speaker 111.

ステップS1450において、出力された検査情報が違っている場合、検査員B100は、所定の言葉を発話して検査部122に検査情報が違っていることを認識させる。この場合、検査部122は、ステップS1420へ戻り(図32に示す符号D参照)、検査情報をもう一度読み上げる。 In step S1450, if the output test information is incorrect, inspector B100 speaks a predetermined phrase to make the test unit 122 aware that the test information is incorrect. In this case, the test unit 122 returns to step S1420 (see symbol D in FIG. 32) and reads out the test information again.

一方、ステップS1450において、出力された検査情報が正しい場合、検査員B100は、検査結果を発話(回答)する。検査部122は、発話内容を認識して検査結果を取得し、当該検査結果が値であった場合に、ステップS1460へ移行する。一方、検査部122は、検査結果が合否判定の結果であった場合に、ステップS1470へ移行する。 On the other hand, in step S1450, if the output test information is correct, inspector B100 speaks (responses) the test result. The inspection unit 122 recognizes the content of the speech and acquires the test result, and if the test result is a value, proceeds to step S1460. On the other hand, if the test result is a pass/fail judgment result, the inspection unit 122 proceeds to step S1470.

ステップS1460において、検査部122は、ステップS1450で発話された検査結果と「管理値」(図28参照)とを対比することで、検査の合否を判定する。その後、検査部122は、検査結果を復唱する音声と、合否判定の結果を報知する音声と、をスピーカ111から出力させる。具体的には、例えば、『15センチですね?合格です。』との音声を出力させる。なお、検査員B100は、復唱された検査結果がステップS1450で発話した検査結果と違っていた場合に、所定の言葉(例えば、『戻る』との言葉)を発話して検査部122に検査結果が違っていることを認識させる。これにより、ステップS1440へ戻ることができる。ステップS1460が終了すると、ステップS1480へ移行する。 In step S1460, the inspection unit 122 judges whether the inspection has passed or failed by comparing the inspection result spoken in step S1450 with the "control value" (see FIG. 28). After that, the inspection unit 122 outputs a voice repeating the inspection result and a voice announcing the result of the pass/fail judgment from the speaker 111. Specifically, for example, a voice saying "It's 15 centimeters, right? Passed." If the repeated inspection result differs from the inspection result spoken in step S1450, inspector B100 speaks a predetermined word (for example, the word "Go back") to make the inspection unit 122 recognize that the inspection result is different. This allows the process to return to step S1440. When step S1460 ends, the process proceeds to step S1480.

ステップS1470において、検査部122は、検査員B100が発話した合否判定の結果を復唱する音声をスピーカ111から出力させる。具体的には、例えば、『OKですね?』との音声を出力させる。検査員B100は、復唱された合否判定の結果がステップS1450で発話した検査結果と違っていた場合に、所定の言葉を発話して検査部122に検査結果が違っていることを認識させる。これにより、ステップS1440へ戻ることができる。ステップS1470が終了すると、ステップS1480へ移行する。 In step S1470, the inspection unit 122 outputs a voice from the speaker 111 repeating the pass/fail judgment result spoken by inspector B100. Specifically, for example, the voice "Is it OK?" is output. If the repeated pass/fail judgment result differs from the inspection result spoken in step S1450, inspector B100 speaks a specific word to make the inspection unit 122 recognize that the inspection result is different. This allows the process to return to step S1440. When step S1470 ends, the process proceeds to step S1480.

ステップS1480において、検査部122は、検査結果を管理検査データベース123に登録する。検査部122は、検査結果が複数の検査の中のどの検査に該当するのかを判断可能となるように、検査結果をステップS1010等で選択された検査情報と関連付けて登録する。また、検査部122は、時計機能等を用いて取得した日時(「検査日時」)も、検査情報と関連付けて登録する。また、検査部122は、ステップS1460で合否判定を行った場合、当該合否判定の結果も関連付けて登録する。これにより、検査部122は、図28に示す確認画面125の「判定結果」及び「検査日時」にデータを反映させることができる。ステップS1480が終了すると、ステップS1490へ移行する。 In step S1480, the inspection unit 122 registers the inspection results in the management inspection database 123. The inspection unit 122 registers the inspection results in association with the inspection information selected in step S1010, etc., so that it is possible to determine which of the multiple tests the inspection results correspond to. The inspection unit 122 also registers the date and time acquired using a clock function, etc. ("inspection date and time") in association with the inspection information. In addition, if the inspection unit 122 makes a pass/fail judgment in step S1460, it also registers the result of the pass/fail judgment in association with it. This allows the inspection unit 122 to reflect the data in the "Judgment result" and "Inspection date and time" of the confirmation screen 125 shown in FIG. 28. When step S1480 is completed, the process proceeds to step S1490.

ステップS1490において、検査部122は、写真を登録するか否かを問い合わせる音声(例えば、『写真を登録する場合は写真を撮って下さい。』との音声)を、スピーカ111から出力させる。ステップS1490が終了すると、ステップS1500へ移行する。 In step S1490, the inspection unit 122 outputs a voice inquiring whether or not to register a photo (for example, a voice saying, "If you want to register a photo, please take a photo.") from the speaker 111. When step S1490 ends, the process proceeds to step S1500.

ステップS1500において、検査員B100は、ステップS1490で出力された音声に応じて適宜写真を撮影する。このとき、検査員B100は、カメラ113に向けて所定の仕草を行う。プラットフォーム121は、当該仕草を認識すると、カメラ113のシャッターを切って写真を撮影する。端末110は、こうして撮影した写真の画像データ(例えば、図28に示す画像データC101・C102)をサーバ120へ転送する。なお、検査員B100は、写真撮影を行わない場合、所定の言葉を発して写真撮影を行わないことを検査部122に認識させる。具体的には、例えば、『スキップ』と発話する。これにより、検査員B100は、写真撮影を行うことなくステップS1500を終了することができる。ステップS1500が終了すると、ステップS1510へ移行する。 In step S1500, inspector B100 takes appropriate photographs in response to the voice output in step S1490. At this time, inspector B100 makes a predetermined gesture toward camera 113. When platform 121 recognizes the gesture, it releases the shutter of camera 113 to take a photograph. Terminal 110 transfers image data of the photograph thus taken (for example, image data C101 and C102 shown in FIG. 28) to server 120. If inspector B100 does not want to take a photograph, he or she utters a predetermined word to make inspection unit 122 aware that a photograph will not be taken. Specifically, inspector B100 utters, for example, "skip." This allows inspector B100 to end step S1500 without taking a photograph. When step S1500 ends, the process proceeds to step S1510.

ステップS1510において、検査部122は、ステップS1510で撮影された画像データを検査写真ファイルサーバ124に保存する。これにより、確認画面125の「写真」に画像データを反映させることができる。ステップS1510が終了すると、ステップS1520へ移行する。 In step S1510, the inspection unit 122 stores the image data captured in step S1510 in the inspection photo file server 124. This allows the image data to be reflected in the "Photo" on the confirmation screen 125. When step S1510 ends, the process proceeds to step S1520.

ステップS1520において、検査部122は、コメントを残すか否かを問い合わせる音声(例えば、『検査内容について所見を述べて下さい。』との音声)を、スピーカ111から出力させる。ステップS1520が終了すると、ステップS1530へ移行する。 In step S1520, the inspection unit 122 outputs a voice from the speaker 111 inquiring whether or not to leave a comment (for example, a voice saying, "Please state your findings regarding the contents of the inspection."). When step S1520 ends, the process proceeds to step S1530.

ステップS1530において、検査員B100は、ステップS1520で出力された音声に応じて適宜コメントを発話する。ステップS1530が終了すると、ステップS1540へ移行する。 In step S1530, inspector B100 makes an appropriate comment in response to the voice output in step S1520. When step S1530 ends, the process proceeds to step S1540.

ステップS1540において、検査員B100は、カメラ113に向けて所定の仕草を行うことで、コメントの発話を終了する。ステップS1540が終了すると、ステップS1550へ移行する。 In step S1540, inspector B100 ends speaking the comment by making a specific gesture toward the camera 113. When step S1540 ends, the process proceeds to step S1550.

ステップS1550において、検査部122は、プラットフォーム121を介して検査員B100の仕草を認識し、コメントの発話が終了したと判断する。このように、検査部122は、検査員B100の発話内容ではなく、仕草によってコメントの終了を認識するようにしている。これによれば、検査部122は、コメントの発話が終了したことを容易に判断することができる。検査部122は、コメントの発話が終了したことを判断すると、ステップS1530でのコメントを管理検査データベース123に登録する。このとき、検査部122は、コメントが複数の検査の中のどの検査に該当するのかを判断可能となるように、コメントをステップS1010等で選択された検査情報と関連付けて登録する。これにより、確認画面125の「コメント」にデータを反映させることができる。ステップS1550が終了すると、ステップS1410へ移行する。 In step S1550, the inspection unit 122 recognizes the gestures of the inspector B100 via the platform 121 and determines that the comment has ended. In this way, the inspection unit 122 recognizes the end of the comment by the gestures of the inspector B100, not by the content of the comment. This allows the inspection unit 122 to easily determine that the comment has ended. When the inspection unit 122 determines that the comment has ended, it registers the comment in step S1530 in the managed inspection database 123. At this time, the inspection unit 122 registers the comment in association with the inspection information selected in step S1010, etc., so that it is possible to determine which inspection out of multiple inspections the comment corresponds to. This allows the data to be reflected in the "comment" on the confirmation screen 125. When step S1550 ends, the process proceeds to step S1410.

なお、検査員B100は、コメントを残さない場合、ステップS1530で所定の言葉を発してコメントを残さないことを検査部122に認識させる。具体的には、例えば、『スキップ』と発話する。これにより、ステップS1540・S1550をスキップし、コメントを残すことなくステップS1410へ移行することができる。 If inspector B100 does not want to leave a comment, he/she utters a predetermined word in step S1530 to make the inspection unit 122 aware that he/she will not be leaving a comment. Specifically, for example, he/she utters "skip." This allows steps S1540 and S1550 to be skipped, and the process to proceed to step S1410 without leaving a comment.

なお、第一モードにおいて、検査部122は、常に検査員B100の仕草を認識可能となっている。また、検査部122は、認識した仕草から、検査員B100が検査を終了させることを報知していると判断可能である。このため、検査員B100は、端末110のカメラ113に向けて所定の仕草(第一モードを終了させることを検査部122が認識可能な仕草)をすることで、第一モードによる検査結果の入力をいつでも終了させることができる。 In the first mode, the inspection unit 122 can always recognize the gestures of the inspector B100. Furthermore, the inspection unit 122 can determine from the recognized gestures that the inspector B100 is announcing that he or she wishes to end the inspection. Therefore, the inspector B100 can end the input of the inspection results in the first mode at any time by making a predetermined gesture (a gesture that the inspection unit 122 can recognize as an indication that the first mode is being ended) toward the camera 113 of the terminal 110.

このような第一モードによる検査結果の入力において検査員B100は、検査内容(結果を入力すべき検査)を特定するために全ての項目(「プロジェクト名」等)の検査情報を発話する必要がある(ステップS1140・S1220・S1320・S1430)。 When inputting test results using this first mode, inspector B100 must speak the test information for all items (such as "project name") to identify the test content (the test for which results should be entered) (steps S1140, S1220, S1320, and S1430).

次に、図33及び図34を参照して、第二モードにおける検査の流れについて説明する。また、検査の流れの説明の中で、検査部122の処理についても説明する。 Next, the flow of the inspection in the second mode will be described with reference to Figures 33 and 34. In addition, in explaining the flow of the inspection, the processing of the inspection unit 122 will also be described.

第二モードは、検査の選択において、検査員B100による検査情報の発話を一部省略するためのモードである。第二モードにおいては、検査員B100が発話したある1つの項目の検査情報に関する言葉から、複数の項目の検査情報を検査部122が自動的に選択することで、検査員B100による検査情報の発話を省略することができる。以下、具体的に説明する。 The second mode is a mode for omitting some of the recitation of test information by inspector B100 when selecting a test. In the second mode, the inspection unit 122 automatically selects multiple items of test information from words related to one item of test information spoken by inspector B100, thereby making it possible to omit the recitation of test information by inspector B100. A specific explanation is given below.

まず、図33に示すステップS1600において、検査部122は、検査員B100の発話を受け付ける。そして、検査部122は、当該発話内容に基づいて、可能であれば複数の項目の検査情報を選択する。図34は、当該ステップS1600の流れを示すものである。図34に示すように、ステップS1600が開始されると、まず、ステップS1610が行われる。 First, in step S1600 shown in FIG. 33, the inspection unit 122 accepts an utterance from inspector B100. Then, based on the content of the utterance, the inspection unit 122 selects multiple items of inspection information if possible. FIG. 34 shows the flow of step S1600. As shown in FIG. 34, when step S1600 starts, step S1610 is first performed.

ステップS1610においては、第一モードのステップS1110(図30参照)と同様に、検査員B100によって検査開始の旨が報知される。そして、ステップS1620へ移行して、検査部122は、ステップS1120と同様に、管理検査データベース123からデータを読み込む。そして、ステップS1630へ移行して、検査部122は、発話を受け付ける旨の音声(例えば、『検査の情報を教えて下さい。』との音声)をスピーカ111から出力させる。その後、ステップS1640へ移行する。 In step S1610, inspector B100 notifies the user of the start of the inspection, similar to step S1110 in the first mode (see FIG. 30). Then, the process moves to step S1620, where the inspection unit 122 reads data from the management inspection database 123, similar to step S1120. Then, the process moves to step S1630, where the inspection unit 122 outputs a voice indicating that the inspection is accepted (for example, a voice saying, "Please tell me the information about the inspection.") from the speaker 111. Then, the process moves to step S1640.

ステップS1640において、検査員B100は、検査結果を入力したい検査に関する言葉を発話する。この際、検査員B100は、最上位の「プロジェクト名」の検査情報に限らず、下位の項目の検査情報に関する言葉を発話することがある。また、検査員B100は、1つの項目の検査情報に限らず、複数の項目の検査情報に関する言葉を発話することがある。ステップS1640が終了すると、ステップS1650へ移行する。 In step S1640, inspector B100 speaks words related to the inspection for which he/she wishes to enter the inspection results. At this time, inspector B100 may speak words related to the inspection information of lower-level items, not limited to the inspection information of the top-level "project name". Inspector B100 may also speak words related to the inspection information of multiple items, not limited to the inspection information of one item. When step S1640 is completed, the process proceeds to step S1650.

ステップS1650において、検査部122は、ステップS1640での発話内容からキーワードを抽出する。具体的には、検査部122は、まず、プラットフォーム121を介して発話内容を取得して解析することで、発話内容の中から検査に関する文字列(用語)を抽出する。そして、検査部122は、ステップS1620で読み込んだデータと抽出した文字列とを比較して、抽出した文字列が複数の項目に登録された検査情報(例えば、図27に示す『Aプロジェクト』等)と一致するかを確認する。 In step S1650, the inspection unit 122 extracts keywords from the content of the utterance in step S1640. Specifically, the inspection unit 122 first obtains and analyzes the content of the utterance via the platform 121, thereby extracting character strings (terms) related to the inspection from the content of the utterance. The inspection unit 122 then compares the data read in step S1620 with the extracted character string, and checks whether the extracted character string matches the inspection information registered in multiple items (for example, "Project A" shown in FIG. 27).

検査部122は、抽出した文字列が検査情報と一致した場合に、当該文字列をキーワードとして抽出する。以下では、このような検査情報と一致する文字列を「第一キーワード」と称する。 If the extracted character string matches the inspection information, the inspection unit 122 extracts the character string as a keyword. Hereinafter, such a character string that matches the inspection information is referred to as a "first keyword."

また、検査部122は、抽出した文字列が検査情報と一致しない場合に、抽出した文字列が検査情報と関連する文字列であるか否かを確認する。検査情報と関連する文字列は、検査情報と一致しなくても、当該検査情報を示すものとして判断可能な文字列である。具体的には、例えば、検査情報の略語及び俗語、並びに検査情報に割り当てられた数字等である。例えば、『コンクリート検査』は、『生コン検査』と略して発話されることがある。このような『生コン検査』との文字列は、「工程部位」の『コンクリート検査』であると判断可能である。また、検査においては、検査情報に応じて適宜通し番号が付されることがある。例えば、『スランプ値』の検査情報に対して『1』等の番号が付されることがある。この場合、『1』との文字列は、「管理項目」の『スランプ値』であると判断可能である。以下では、このような検査情報と関連する文字列を「第二キーワード」と称する。 In addition, when the extracted character string does not match the inspection information, the inspection unit 122 checks whether the extracted character string is a character string related to the inspection information. A character string related to the inspection information is a character string that can be determined as indicating the inspection information even if it does not match the inspection information. Specifically, for example, it is an abbreviation and slang of the inspection information, and a number assigned to the inspection information. For example, "concrete inspection" may be abbreviated to "fresh concrete inspection". Such a character string "fresh concrete inspection" can be determined to be "concrete inspection" of the "process part". In addition, in the inspection, a serial number may be assigned appropriately according to the inspection information. For example, a number such as "1" may be assigned to the inspection information of "slump value". In this case, the character string "1" can be determined to be "slump value" of the "management item". In the following, such a character string related to the inspection information is referred to as a "second keyword".

本実施形態の管理検査データベース123には、第二キーワード(例えば、『生コン検査』)と、当該第二キーワードにより判断可能な検査情報(例えば、『コンクリート検査』)と、が関連付けて登録されている。ステップS1650において、検査部122は、抽出した文字列が検査情報と一致しない場合に、当該文字列をキーとして管理検査データベース123を検索することで、抽出した文字列が第二キーワードであるかを判断する。そして、検査部122は、抽出した文字列が第二キーワードであった場合に、当該文字列を第二キーワードとして抽出する。 In the management inspection database 123 of this embodiment, a second keyword (e.g., "ready mixed concrete inspection") and inspection information that can be determined by the second keyword (e.g., "concrete inspection") are registered in association with each other. In step S1650, if the extracted character string does not match the inspection information, the inspection unit 122 searches the management inspection database 123 using the character string as a key to determine whether the extracted character string is a second keyword. Then, if the extracted character string is the second keyword, the inspection unit 122 extracts the character string as the second keyword.

ステップS1650において、検査部122は、発話内容からキーワード(第一キーワード又は第二キーワード)を抽出できた場合に、ステップS1650を終了する。ステップS1650が終了すると、ステップS1660へ移行する。 In step S1650, if the inspection unit 122 is able to extract a keyword (first keyword or second keyword) from the speech content, the inspection unit 122 ends step S1650. When step S1650 ends, the process proceeds to step S1660.

一方、ステップS1650において、検査部122は、発話内容からキーワードを抽出できなかった場合に、検査員B100にもう一度発話を促す音声(例えば、「もう一度言って下さい。」等の音声)をスピーカ111から出力させる。この場合、ステップS1640へ移行して、検査員B100が検査に関する言葉を発話することとなる。 On the other hand, in step S1650, if the inspection unit 122 is unable to extract a keyword from the speech content, it outputs a voice prompting inspector B100 to speak again (e.g., a voice such as "Please say it again") from the speaker 111. In this case, the process proceeds to step S1640, where inspector B100 speaks words related to the inspection.

ステップS1660において、検査部122は、抽出したキーワードを、複数の項目の中から適切な(選択すべき)1つの項目に当てはめる。検査部122は、抽出したーキーワードが第一キーワードであるのか第二キーワードであるのかに応じて、適宜項目への当てはめを行う。 In step S1660, the inspection unit 122 assigns the extracted keyword to one appropriate item (to be selected) from among multiple items. The inspection unit 122 assigns the extracted keyword to an appropriate item depending on whether it is a first keyword or a second keyword.

より詳細には、検査部122は、抽出したキーワードが第一キーワードである場合、当該第一キーワードをそのまま1つの項目に当てはめる。このとき、検査部122は、まず、第一キーワードに基づいて、複数の項目の中から第一キーワードと同一文字列の検査情報が登録された1つの項目を特定する。そして、検査部122は、特定した項目の検査情報に第一キーワードが選択(入力)されたと判断する。例えば、第一キーワードとして『Aプロジェクト』を抽出した場合、検査部122は、当該『Aプロジェクト』をキーに管理検査データベース123を検索することで、『Aプロジェクト』が登録された項目「プロジェクト名」を特定する。そして、検査部122は、「プロジェクト名」の検査情報に『Aプロジェクト』が選択されたと判断する。 More specifically, when the extracted keyword is a first keyword, the inspection unit 122 applies the first keyword as is to one item. At this time, the inspection unit 122 first identifies one item from among multiple items in which inspection information with the same character string as the first keyword is registered, based on the first keyword. The inspection unit 122 then determines that the first keyword has been selected (input) into the inspection information of the identified item. For example, when "A Project" is extracted as the first keyword, the inspection unit 122 searches the management inspection database 123 using "A Project" as a key to identify the item "Project Name" in which "A Project" is registered. The inspection unit 122 then determines that "A Project" has been selected into the inspection information of "Project Name".

また、検査部122は、抽出したキーワードが第二キーワード(『1』等)である場合、当該第二キーワードをそのまま1つの項目に当てはめるのではなく、第二キーワードが示す検査情報を当てはめる。このとき、検査部122は、第二キーワードをキーに管理検査データベース123を検索し、当該第二キーワードが示す検査情報(『スランプ値』等)、すなわち第一キーワードを特定する。そして、検査部122は、特定した第一キーワードから選択すべき1つの項目を特定し、当該項目に第一キーワードを当てはめる。 Furthermore, when the extracted keyword is a second keyword (such as "1"), the inspection unit 122 does not simply apply the second keyword to one item, but applies the inspection information indicated by the second keyword. At this time, the inspection unit 122 searches the management inspection database 123 using the second keyword as a key, and identifies the inspection information indicated by the second keyword (such as "slump value"), i.e., the first keyword. Then, the inspection unit 122 identifies one item to be selected from the identified first keyword, and applies the first keyword to that item.

なお、検査部122は、ステップS1650において複数のキーワードが抽出された場合に、上述した項目の当てはめを複数のキーワードのそれぞれにおいて行う。ステップS1660が終了すると、ステップS1670へ移行する。なお、以下では、ステップS1660において当てはめが行われた項目を「第一項目」と称する。 If multiple keywords are extracted in step S1650, the inspection unit 122 applies the above-mentioned items to each of the multiple keywords. When step S1660 ends, the process proceeds to step S1670. In the following, the item applied in step S1660 is referred to as the "first item."

ステップS1670において、検査部122は、ステップS1660で当てはめた第一項目以外の項目(検査情報が不足する項目)の検査情報を推定する。このとき、検査部122は、例えば、ステップS1660で当てはめた下位の項目の検査情報に基づいて、上位の項目の検査情報を推定する。 In step S1670, the inspection unit 122 estimates the inspection information of items other than the first item applied in step S1660 (items for which inspection information is insufficient). At this time, the inspection unit 122 estimates the inspection information of the higher-level item based on the inspection information of the lower-level item applied in step S1660, for example.

具体的には、下位の項目の中には、上位の項目の検査情報を推定できる検査情報が含まれる。当該検査情報は、1つ上位の項目の検査情報を一意に特定可能な検査情報である。例えば、図27に示す「管理項目」を例に挙げると、下位の「管理項目」の検査情報が『スランプ値』及び『空気量』である場合、2つ以上上位の項目(「検査区分」等)の検査情報が何であったとしても、1つ上位の「工程部位」の検査情報は必ず『コンクリート検査』となる。そこで、検査部122は、このような上位と下位の関係を利用して、ステップS1660である項目に当てはめを行った場合に、当該項目よりも上位の項目の検査情報を推定する。 Specifically, the lower-level items include inspection information that can be used to estimate the inspection information of higher-level items. This inspection information is inspection information that can uniquely identify the inspection information of the next higher-level item. For example, in the case of the "control item" shown in FIG. 27, if the inspection information of the lower-level "control item" is "slump value" and "air content", then no matter what the inspection information of the items two or more levels above (such as "inspection category") is, the inspection information of the next higher-level "process part" will always be "concrete inspection". Therefore, the inspection unit 122 uses this relationship between higher and lower levels to estimate the inspection information of the higher-level item when applying to an item in step S1660.

例えば、ステップS1660で「管理項目」に『空気量』を当てはめた場合、検査部122は、『空気量』をキーに管理検査データベース123を検索する。その結果、「工程部位」の検査情報として『コンクリート検査』のみが抽出されるため(図27参照)、検査部122は、上位の「工程部位」の検査情報が『コンクリート検査』であると判断する。これにより、検査部122は、検査員B100が発話していない項目の検査情報を、当該検査員B100の発話内容から間接的に選択することができる。なお、以下では、このような検査部122により間接的に選択された項目を「第二項目」と称する。 For example, if "air content" is assigned to the "management item" in step S1660, the inspection unit 122 searches the management inspection database 123 using "air content" as a key. As a result, only "concrete inspection" is extracted as the inspection information for the "process part" (see FIG. 27), and the inspection unit 122 determines that the inspection information for the higher-level "process part" is "concrete inspection". This allows the inspection unit 122 to indirectly select inspection information for items not spoken by inspector B100 from the content of the utterance of inspector B100. Note that hereinafter, such an item indirectly selected by the inspection unit 122 is referred to as the "second item".

なお、ステップS1660で当てはめた検査情報によっては、上位の項目の検査情報を推定できないことも想定される。例えば、ステップS1660で「工程部位」に『コンクリート検査』を当てはめただけでは、上位の「検査区分」の検査情報が『基礎』であるのか『1階床』であるのか推定できない(図27参照)。そこで、検査部122は、ステップS1670において検査情報を推定不能な項目については、ステップS1670で検査情報の判断は行わない。ステップS1670が終了すると、検査員B100の発話の受付等を行うステップS1600が終了し、図33に示すステップS1710へ移行する。 Depending on the inspection information applied in step S1660, it is expected that the inspection information of higher-level items cannot be estimated. For example, simply applying "concrete inspection" to the "process area" in step S1660 does not allow estimation of whether the inspection information of the higher-level "inspection category" is "foundation" or "first floor" (see FIG. 27). Therefore, the inspection unit 122 does not judge the inspection information in step S1670 for items for which the inspection information cannot be estimated in step S1670. When step S1670 ends, step S1600, which accepts utterances from inspector B100, ends, and the process moves to step S1710 shown in FIG. 33.

検査部122は、ステップS1710~S1800により、ステップS1600で検査情報が選択されていない項目について、検査員B100に問い合わせる。以下では、このような検査情報が選択されていない項目を「第三項目」と称する。以下、第三項目の問い合わせについて具体的に説明する。 In steps S1710 to S1800, the inspection unit 122 queries inspector B100 about items for which no inspection information was selected in step S1600. Hereinafter, such items for which no inspection information was selected will be referred to as "third items." The inquiry about the third item will be described in detail below.

ステップS1710において、検査部122は、「プロジェクト名」の検査情報が選択されているか否かを確認する。検査部122は、「プロジェクト名」の検査情報が選択されていない場合に、ステップS1720へ移行する。一方、検査部122は、「プロジェクト名」の検査情報が選択されている場合に、ステップS1730へ移行する。 In step S1710, the inspection unit 122 checks whether the inspection information for "project name" has been selected. If the inspection information for "project name" has not been selected, the inspection unit 122 proceeds to step S1720. On the other hand, if the inspection information for "project name" has been selected, the inspection unit 122 proceeds to step S1730.

ステップS1720において、検査部122は、「プロジェクト名」の検査情報について検査員B100に問い合わせる。このとき、検査部122は、第一モードのステップS1210~S1220(工程名を選択する処理、図31参照)と同じようにして、検査情報を問い合わせる。すなわち、検査部122は、「プロジェクト名」の検査情報を読み上げる。検査員B100は、当該読み上げに応じて選択したい検査情報を発話する。検査部122は、当該発話内容を認識して復唱する。そして、検査部122は、検査員B100が検査情報が違っている旨の発話をしない場合に、「プロジェクト名」の検査情報の選択を完了する。ステップS1720が終了すると、ステップS1730へ移行する。 In step S1720, the inspection unit 122 inquires of inspector B100 about the inspection information for "project name". At this time, the inspection unit 122 inquires about the inspection information in the same manner as steps S1210 to S1220 in the first mode (processing for selecting the process name, see FIG. 31). That is, the inspection unit 122 reads out the inspection information for "project name". In response to the reading out, inspector B100 speaks out the inspection information he or she wishes to select. The inspection unit 122 recognizes the content of the speech and repeats it. Then, if inspector B100 does not speak to the effect that the inspection information is incorrect, the inspection unit 122 completes the selection of the inspection information for "project name". When step S1720 ends, the process proceeds to step S1730.

ステップS1730において、検査部122は、「工程名」の検査情報が選択されているか否かを確認する。検査部122は、「工程名」の検査情報が選択されていない場合に、ステップS1740へ移行する。一方、検査部122は、「工程名」の検査情報が選択されている場合に、ステップS1750へ移行する。 In step S1730, the inspection unit 122 checks whether the inspection information for "Process Name" has been selected. If the inspection information for "Process Name" has not been selected, the inspection unit 122 proceeds to step S1740. On the other hand, if the inspection information for "Process Name" has been selected, the inspection unit 122 proceeds to step S1750.

ステップS1740において、検査部122は、ステップS1720と同じようにして「工程名」の検査情報について検査員B100に問い合わせる。これにより、「工程名」の検査情報が選択される。ステップS1740が終了すると、ステップS1750へ移行する。 In step S1740, the inspection unit 122 queries inspector B100 about the inspection information for "Process Name" in the same manner as in step S1720. This causes the inspection information for "Process Name" to be selected. When step S1740 is completed, the process proceeds to step S1750.

ステップS1750において、検査部122は、「検査区分」の検査情報が選択されているか否かを確認する。検査部122は、「検査区分」の検査情報が選択されていない場合に、ステップS1760へ移行し、ステップS1720と同じようにして「検査区分」の検査情報について検査員B100に問い合わせる。これにより、「検査区分」の検査情報が選択される。一方、検査部122は、「検査区分」の検査情報が選択されている場合に、ステップS1760をスキップし、ステップS1770へ移行する。 In step S1750, the inspection unit 122 checks whether the inspection information for the "inspection category" has been selected. If the inspection information for the "inspection category" has not been selected, the inspection unit 122 proceeds to step S1760 and inquires of inspector B100 about the inspection information for the "inspection category" in the same manner as in step S1720. This causes the inspection information for the "inspection category" to be selected. On the other hand, if the inspection information for the "inspection category" has been selected, the inspection unit 122 skips step S1760 and proceeds to step S1770.

ステップS1770において、検査部122は、「工程部位」の検査情報が選択されているか否かを確認する。検査部122は、「工程部位」の検査情報が選択されていない場合に、ステップS1780へ移行し、ステップS1720と同じようにして「工程部位」の検査情報について検査員B100に問い合わせる。これにより、「工程部位」の検査情報が選択される。一方、検査部122は、「工程部位」の検査情報が選択されている場合に、ステップS1780をスキップし、ステップS1790へ移行する。 In step S1770, the inspection unit 122 checks whether the inspection information for the "process part" has been selected. If the inspection information for the "process part" has not been selected, the inspection unit 122 proceeds to step S1780, and inquires of inspector B100 about the inspection information for the "process part" in the same manner as in step S1720. This results in the inspection information for the "process part" being selected. On the other hand, if the inspection information for the "process part" has been selected, the inspection unit 122 skips step S1780 and proceeds to step S1790.

ステップS1790において、検査部122は、「管理項目」の検査情報が選択されているか否かを確認する。検査部122は、「管理項目」の検査情報が選択されていない場合に、ステップS1800へ移行し、ステップS1720と同じようにして「管理項目」の検査情報について検査員B100に問い合わせる。これにより、「管理項目」の検査情報が選択される。一方、検査部122は、「管理項目」の検査情報が選択されている場合に、ステップS1800をスキップし、ステップS1810へ移行する。 In step S1790, the inspection unit 122 checks whether or not the test information for the "management item" has been selected. If the test information for the "management item" has not been selected, the inspection unit 122 proceeds to step S1800 and inquires of inspector B100 about the test information for the "management item" in the same manner as in step S1720. This selects the test information for the "management item." On the other hand, if the test information for the "management item" has been selected, the inspection unit 122 skips step S1800 and proceeds to step S1810.

検査部122は、このようなステップS1710~S1800により、第三項目の検査情報を選択することができる。これにより、全ての項目の検査情報が選択されて複数の検査の中から、1つの検査を特定可能となる。 By performing steps S1710 to S1800, the inspection unit 122 can select the third item of inspection information. This allows the inspection information for all items to be selected, making it possible to identify one inspection from among multiple inspections.

ステップS1810において、検査部122は、検査結果を入力する。このとき、検査部122は、第一モードの検査結果の入力と同じようにして(図32に示すステップS1440~S1550までを行うことで)、検査結果を入力する。ステップS1810が終了すると、第二モードによる検査が終了する。 In step S1810, the inspection unit 122 inputs the inspection results. At this time, the inspection unit 122 inputs the inspection results in the same manner as the input of the inspection results in the first mode (by performing steps S1440 to S1550 shown in FIG. 32). When step S1810 ends, the inspection in the second mode ends.

なお、第二モードにおいて、検査部122は、常に検査員B100の仕草を認識可能となっている。また、検査部122は、認識した仕草から、検査員B100が検査を終了させることを報知していると判断可能である。このため、検査員B100は、端末110のカメラ113に向けて所定の仕草(第二モードを終了させることを検査部122が認識可能な仕草)をすることで、第二モードによる検査結果の入力をいつでも終了させることができる。 In the second mode, the inspection unit 122 can always recognize the gestures of the inspector B100. Furthermore, the inspection unit 122 can determine from the recognized gestures that the inspector B100 is announcing that he or she wishes to end the inspection. Therefore, the inspector B100 can end the input of the inspection results in the second mode at any time by making a predetermined gesture (a gesture that the inspection unit 122 can recognize as an indication that the second mode is being ended) toward the camera 113 of the terminal 110.

以下では、図35及び図36を参照し、第二モードによる対話の具体例を説明する。 Below, we will explain a specific example of dialogue in the second mode with reference to Figures 35 and 36.

まず、検査部122は、検査員B100の発話を受け付ける(ステップS1600)。このとき、検査部122は、検査員B100の検査開始の仕草を受けてデータを読み込み、適宜音声を出力する(ステップS1610~S1630)。そして、検査員B100は、検査に関する言葉を発話する(ステップS1640)。具体的には、検査員B100は、例えば、『Aプロジェクトのコンクリート工事のスランプ値の検査を実施』と発声する。検査部122は、当該発声に基づいてキーワードを抽出する(ステップS1650)。具体的には、検査部122は、『Aプロジェクト』、『コンクリート工事』及び『スランプ値』という3つの第一キーワードを抽出する。 First, the inspection unit 122 receives the speech of the inspector B100 (step S1600). At this time, the inspection unit 122 reads the data in response to the gesture of the inspector B100 to start the inspection, and outputs voice appropriately (steps S1610 to S1630). Then, the inspector B100 speaks words related to the inspection (step S1640). Specifically, the inspector B100 speaks, for example, "Perform an inspection of the slump value of the concrete work of the A project." The inspection unit 122 extracts keywords based on the speech (step S1650). Specifically, the inspection unit 122 extracts three first keywords, "A project," "concrete work," and "slump value."

検査部122は、抽出した第一キーワードを「プロジェクト名」等の項目に当てはめる(ステップS1660)。具体的には、検査部122は、「プロジェクト名」に『Aプロジェクト』を、「工程名」に『コンクリート工事』を、「管理項目」に『スランプ値』を当てはめる。この場合、「プロジェクト名」、「工程名」及び「管理項目」が検査員B100の発話から直接選択された第一項目となる。 The inspection unit 122 assigns the extracted first keyword to an item such as "project name" (step S1660). Specifically, the inspection unit 122 assigns "Project A" to the "project name," "concrete work" to the "process name," and "slump value" to the "control item." In this case, the "project name," "process name," and "control item" become the first items selected directly from the speech of inspector B100.

検査部122は、当てはめた「プロジェクト名」以外の項目の検査情報を推定する(ステップS1670)。上述の如く、「管理項目」の検査情報が『スランプ値』である場合、上位の「工程部位」の検査情報は必ず『コンクリート検査』となる(図27参照)。よって、検査部122は、『スランプ値』をキーに管理検査データベース123を検索すると、上位の「工程部位」の検査情報として『コンクリート検査』のみを抽出することとなる。検査部122は、当該抽出結果に基づいて、「工程部位」に『コンクリート工事』が選択されたと判断する。一方、「検査区分」の検査情報は推定不能であるため、検査部122は、「検査区分」の検査情報についての判断は行わない。この場合、「工程部位」が検査員B100の発話から間接的に選択された第二項目となる。また、「検査区分」が検査員B100の発話から選択不能な第三項目となる。 The inspection unit 122 estimates the inspection information of items other than the applied "project name" (step S1670). As described above, if the inspection information of the "management item" is "slump value", the inspection information of the higher-level "process part" is always "concrete inspection" (see FIG. 27). Therefore, when the inspection unit 122 searches the management inspection database 123 using the "slump value" as a key, only "concrete inspection" is extracted as the inspection information of the higher-level "process part". Based on the extraction result, the inspection unit 122 determines that "concrete work" has been selected for the "process part". On the other hand, since the inspection information of the "inspection category" cannot be estimated, the inspection unit 122 does not make a judgment on the inspection information of the "inspection category". In this case, the "process part" becomes the second item indirectly selected from the utterance of the inspector B100. Also, the "inspection category" becomes the third item that cannot be selected from the utterance of the inspector B100.

検査部122は、このような第三項目(「検査区分」)の検査情報について検査員B100に質問する(ステップS1710~S1800)。すなわち、検査部122は、「プロジェクト名」及び「工程名」の問い合わせ(ステップS1720・S1740)を省略し、検査区分の問い合わせを行う(ステップS1710:No、ステップS1730:No、ステップS1750:Yes、ステップS1760)。このとき、検査部122は、例えば、『検査区分を選んで下さい。基礎、1階床・・・』との音声をスピーカ111から出力させる。検査員B100は、当該音声に応答する形で「検査区分」について発話する(例えば、『1階床』と発話する)。検査部122は、当該発話内容(『1階床』)から、「検査区分」に『1階床』が選択されたと判断する。 The inspection unit 122 asks inspector B100 about the inspection information of the third item ("inspection category") (steps S1710 to S1800). That is, the inspection unit 122 omits the inquiries about the "project name" and "process name" (steps S1720 and S1740) and inquires about the inspection category (step S1710: No, step S1730: No, step S1750: Yes, step S1760). At this time, the inspection unit 122 outputs a voice such as "Please select the inspection category. Foundation, first floor floor..." from the speaker 111. In response to the voice, inspector B100 speaks about the "inspection category" (for example, speaks "first floor floor"). The inspection unit 122 determines that "first floor floor" has been selected as the "inspection category" from the content of the speech ("first floor floor").

これにより、全ての項目の選択が完了するため(ステップS1750:No、ステップS1770:No、ステップS1790:No)、検査部122は、検査員B100が検査結果を入力する検査が、『Aプロジェクトのコンクリート工事の1階床のコンクリート検査のスランプ値』の検査であることを特定可能となる。当該検査部122は、検査結果を入力する(ステップS1810)。このとき、検査部122は、確認のため、特定した検査を復唱する音声をスピーカ111から出力させる。具体的には、例えば『コンクリート工事のスランプ値ですね?』との音声を出力させる。 As a result, selection of all items is completed (step S1750: No, step S1770: No, step S1790: No), and the inspection unit 122 can identify that the inspection for which inspector B100 is inputting the inspection results is the inspection of the "slump value of the concrete inspection of the first floor of the concrete work of Project A." The inspection unit 122 inputs the inspection results (step S1810). At this time, the inspection unit 122 outputs a voice from the speaker 111 repeating the identified inspection for confirmation. Specifically, for example, a voice is output saying, "Is this the slump value of the concrete work?"

なお、検査部122は、検査員B100が当該音声に応答する形で検査が異なる旨の発話(例えば、『戻る』との発話)をした場合に、検査区分を問い合わせる処理(1つ前のステップS1760)へ戻り、もう一度検査区分を問い合わせる。これにより、特定した検査が正しいか否かを確認することができる。また、特定した検査が正しくない(検査員B100が意図しない検査であった)場合に、検査情報を選択し直すことができる。 If inspector B100 responds to the voice by saying that the test is different (for example, by saying "go back"), the inspection unit 122 returns to the process of inquiring about the test category (the previous step S1760) and inquires about the test category again. This makes it possible to check whether the identified test is correct. Also, if the identified test is incorrect (it was an unintended test by inspector B100), the inspection information can be reselected.

一方、検査部122は、特定した検査を復唱する音声(『コンクリート工事のスランプ値ですね?』との音声)に対して検査員B100が発話しない場合に、検査結果を問い合わせる音声をスピーカ111から出力させる。具体的には、例えば『値を言って下さい。』との音声を出力させる。検査員B100は、当該音声を受けて検査結果(『X2』)を発話する。検査部122は、当該発話内容から、検査結果が『X2』であると判断する。検査部122は、検査結果に対して合否判定を行って、検査結果等と関連付けて管理検査データベース123へ登録する。その後、検査部122は、写真登録の問い合わせやコメントの入力の問い合わせを行い、画像データC101・C102やコメントを適宜登録する。こうして、検査結果の入力が完了する。 On the other hand, if inspector B100 does not speak in response to the voice repeating the identified inspection ('That's the slump value of the concrete work, right?'), the inspection unit 122 outputs a voice inquiring about the inspection result from the speaker 111. Specifically, for example, a voice saying 'Please tell me the value' is output. In response to the voice, inspector B100 speaks the inspection result ('X2'). From the content of the speech, the inspection unit 122 determines that the inspection result is 'X2'. The inspection unit 122 makes a pass/fail judgment on the inspection result, and registers it in the management inspection database 123 in association with the inspection result, etc. After that, the inspection unit 122 inquires about registering a photo and inputting a comment, and registers the image data C101 and C102 and comments as appropriate. In this way, input of the inspection result is completed.

第二モードによれば、「管理項目」に関するキーワード(『スランプ値』)を発話することで、「工程部位」の検査情報の発話を省略することができる(ステップS1670)。これによれば、1つのキーワードで複数の項目の選択(入力)を行うことができるため、選択の手間を省くことができる。また、全ての項目の検査情報を発話する必要がある第一モードと比較して、検査情報を発話する回数を減らすことができる。 In the second mode, by speaking a keyword ("slump value") related to the "control item," it is possible to omit speaking the inspection information for the "process part" (step S1670). This allows multiple items to be selected (input) with one keyword, eliminating the need to make selections. Also, compared to the first mode, in which inspection information for all items must be spoken, the number of times inspection information needs to be spoken can be reduced.

また、第二モードによれば、1回の発話(『Aプロジェクトのコンクリート工事のスランプ値』との発話)により、複数の項目(「プロジェクト名」、「工程名」及び「管理項目」)をまとめて選択することができる(ステップS1650・S1660)。これにより、第一モードと比較して、検査部122と検査員B100との対話回数を減らすことができる。 In addition, according to the second mode, multiple items ("project name," "process name," and "control item") can be selected together with one utterance (utterance of "slump value of concrete work of A project") (steps S1650 and S1660). This allows the number of interactions between the inspection unit 122 and inspector B100 to be reduced compared to the first mode.

なお、第二モードにおいては、発話内容から全ての項目に関するキーワードを抽出できた場合に(ステップS1650・S1660)、不足項目の推定(ステップS1670)及び検査員B100への質問(ステップS1710~S1800)を省略し、検査結果を入力する(ステップS1810)。 In the second mode, if keywords related to all items can be extracted from the speech content (steps S1650 and S1660), the estimation of missing items (step S1670) and questions to inspector B100 (steps S1710 to S1800) are omitted, and the inspection results are input (step S1810).

具体的には、例えば、図36(a)に示すように、検査員B100が『Aプロジェクトのコンクリート工事の1階床のコンクリート検査のスランプ値』と発話した場合、検査部122は、当該発話内容から『Aプロジェクト』、『コンクリート工事』、『1階床』、『コンクリート検査』及び『スランプ値』という5つのキーワードを抽出する(ステップS1650)。 Specifically, for example, as shown in FIG. 36(a), when inspector B100 utters "the slump value of the concrete inspection of the first floor of the concrete work of the A project," the inspection unit 122 extracts five keywords from the utterance, namely "A project," "concrete work," "first floor," "concrete inspection," and "slump value" (step S1650).

検査部122は、抽出したキーワードを「プロジェクト名」等の項目に当てはめる(ステップS1660)。これにより、全ての項目が選択されることとなるため、検査部122は、検査結果を問い合わせる音声(『値を言って下さい。』との音声)等をスピーカ111から出力させる。このような構成によれば、検査員B100が1回発話するだけで検査結果の入力(ステップS1810)へと進むことができる。 The inspection unit 122 applies the extracted keywords to items such as "project name" (step S1660). As a result, all items are selected, and the inspection unit 122 outputs a voice inquiring about the inspection results (such as "Please state the value") from the speaker 111. With this configuration, inspector B100 can proceed to inputting the inspection results (step S1810) by simply speaking once.

また、第二モードによれば、キーワードから適切な項目を特定するため(ステップS1660)、項目の順位の通りに検査情報を発話しなくても、検査情報を適切に選択することができる。例えば、検査員B100が『Aプロジェクトの1階床のコンクリート工事のコンクリート検査のスランプ値』と発話した場合、すなわち、上位の「工程名」の検査情報『コンクリート工事』と下位の「検査区分」の検査情報『1階床』との順番を入れ替えて発話した場合でも、「工程名」に『コンクリート工事』を、「検査区分」に『1階床』を選択することができる。 In addition, according to the second mode, since the appropriate item is identified from the keyword (step S1660), the inspection information can be appropriately selected without speaking the inspection information in the order of the items. For example, if inspector B100 speaks "Slump value of concrete inspection for concrete work on the first floor of project A," that is, even if the order of the inspection information "concrete work" in the higher-level "process name" and the inspection information "first floor" in the lower-level "inspection category" is reversed, it is possible to select "concrete work" for the "process name" and "first floor" for the "inspection category."

また、検査部122は、発話内容から全ての項目に関するキーワードを抽出できなかった場合であっても、不足項目の推定(ステップS1670)によって検査を特定できれば、検査員B100への質問(ステップS1710~S1800)を省略し、検査結果を入力する(ステップS1810)。 In addition, even if the inspection unit 122 is unable to extract keywords related to all items from the speech content, if it can identify the inspection by estimating the missing items (step S1670), it omits asking questions to inspector B100 (steps S1710 to S1800) and inputs the inspection results (step S1810).

具体的には、例えば、図36(b)に示すように、検査員B100が『Aプロジェクトのコンクリート工事の1階床のスランプ値』と発話した場合、すなわち『コンクリート検査』の発話を省略した場合、検査部122は、『スランプ値』から省略された『コンクリート検査』を選択する(ステップS1670)。これにより、全ての項目が選択されることとなるため、検査部122は、検査結果の入力を促す音声等をスピーカ111から出力させる。このような構成によれば、一部の項目に関する発話を省略しながらも、検査員B100が1回発話するだけで検査結果の入力(ステップS1810)へと進むことができる。 For example, as shown in FIG. 36(b), if inspector B100 utters "slump value of the first floor of the concrete work of project A," i.e., omits "concrete inspection," the inspection unit 122 selects "concrete inspection" from "slump value" (step S1670). As a result, all items are selected, and the inspection unit 122 outputs a voice or the like from the speaker 111 to prompt the user to input the inspection results. With this configuration, inspector B100 can proceed to input the inspection results (step S1810) by simply speaking once, even while omitting utterances for some items.

以上の如く、本実施形態に係る検査システム101は、検査に関する複数の項目に検査情報が入力されることで当該検査が特定される検査システム101であって、検査員B100の発話の入力を受け、発話内容を認識するプラットフォーム121(音声認識部)と、前記プラットフォーム121で認識した発話内容に基づいて、前記複数の項目に検査情報を入力する検査部122(入力部)と、を具備し、前記検査部122は、前記複数の項目の中の一部の項目である第一項目に入力する検査情報を示すキーワードが、前記発話内容に含まれていた場合に、前記キーワードに基づいて前記第一項目に検査情報を入力する(ステップS1660)と共に、前記第一項目に入力された検査情報に基づいて、前記複数の項目のうち前記第一項目以外の第二項目にも検査情報を入力可能に構成される(ステップS1670)ものである。 As described above, the inspection system 101 according to this embodiment is an inspection system 101 in which an inspection is specified by inputting inspection information into a plurality of items related to the inspection, and is equipped with a platform 121 (voice recognition unit) that receives speech input from inspector B100 and recognizes the content of the speech, and an inspection unit 122 (input unit) that inputs inspection information into the plurality of items based on the content of the speech recognized by the platform 121. When a keyword indicating inspection information to be input into a first item, which is one of the plurality of items, is included in the content of the speech, the inspection unit 122 inputs inspection information into the first item based on the keyword (step S1660), and is configured to be able to input inspection information into a second item other than the first item among the plurality of items based on the inspection information input into the first item (step S1670).

このように構成することにより、1つのキーワードを発話することで2つ以上の項目に検査情報を入力可能となるため、入力の手間を省いて検査員B100の負担を低減することができる。 By configuring it in this way, inspection information can be entered into two or more items by speaking one keyword, which reduces the input work and the burden on inspector B100.

また、前記キーワードには、前記第一項目に入力する検査情報と文字列が一致する第一キーワードと、前記第一項目に入力する検査情報と文字列が一致しないもののうち、当該検査情報と関連付けられた第二キーワードと、が含まれるものである。 The keywords include a first keyword whose character string matches the test information entered in the first field, and a second keyword whose character string does not match the test information entered in the first field and is associated with the test information.

このように構成することにより、検査情報と全く同じ言葉(第一キーワード)を発話するだけではなく、検査情報と関連付けられた言葉(第二キーワード)を発話することでも、検査情報を入力することができる。具体的には、例えば、検査員B100が『生コン検査』と発話した場合、当該発話内容から「工程名」の項目に『コンクリート検査』を入力することができる。これにより、検査情報を入力し易くすることができる。 By configuring it in this way, inspection information can be input not only by speaking the exact same words (first keywords) as the inspection information, but also by speaking words associated with the inspection information (second keywords). Specifically, for example, if inspector B100 speaks "ready mixed concrete inspection," "concrete inspection" can be entered into the "process name" field based on the content of that speech. This makes it easier to input inspection information.

また、前記第二キーワードには、検査情報に割り当てられた数字が含まれるものである。 The second keyword also includes a number assigned to the test information.

このように構成することにより、数字を発話することで速やかに検査情報の入力を済ませることができる。具体的には、例えば、検査員B100が『1』と発話すれば、「管理項目」の項目に『スランプ値』を入力することができる。 This configuration allows inspection information to be quickly entered by speaking a number. Specifically, for example, if inspector B100 speaks "1," the "slump value" can be entered in the "Management Item" field.

また、前記第一項目は、前記第二項目の下位に属する項目である。 The first item is a subordinate item of the second item.

このように構成することにより、下位の項目の検査情報に関するキーワードを発話することで、上位の項目の検査情報を入力可能となるため、上位の項目の検査情報を入力する手間を省くことができる。 By configuring it this way, it becomes possible to input test information for higher-level items by speaking keywords related to test information for lower-level items, eliminating the need to input test information for higher-level items.

また、前記発話内容から検査情報を入力不能な第三項目がある場合に、当該第三項目に入力する検査情報を問い合わせる検査部122及びスピーカ111(問合せ部)をさらに具備するものである。 In addition, if there is a third item for which test information cannot be input from the speech content, the device further includes an inspection unit 122 and a speaker 111 (inquiry unit) that inquires about the test information to be input into the third item.

このように構成することにより、検査を特定するのに必要な情報(第三項目の検査情報)を検査員B100に問い合わせることができる。これにより、効率的に検査情報を入力することができる。 By configuring it in this way, it is possible to inquire of inspector B100 about the information required to identify the test (third item of test information). This allows for efficient input of test information.

以上、本発明の第二実施形態を説明したが、本発明は上記構成に限定されるものではなく、特許請求の範囲に記載された発明の範囲内で種々の変更が可能である。 The second embodiment of the present invention has been described above, but the present invention is not limited to the above configuration, and various modifications are possible within the scope of the invention described in the claims.

例えば、検査システム101は、建物の建築過程における検査に用いられるものとしたが、これに限定されるものではなく、建物の建築後に行われる検査(定期点検等)に用いられるものであってもよい。また、検査システム101は、建物を検査対象とするのではなく、建物以外の物(外構等)を検査対象としてもよい。 For example, the inspection system 101 is described as being used for inspection during the construction process of a building, but is not limited to this, and may be used for inspection (such as regular inspections) conducted after the building is constructed. Furthermore, the inspection system 101 may not inspect buildings, but may inspect objects other than buildings (such as exterior structures).

また、第二モードにおいて検査部122は、全ての項目の検査情報が選択されていない状態でキーワードを受け付けるものとしたが(ステップS1600)、これに限定されるものではなく、一部の項目(例えば、最上位の項目「プロジェクト名」等)が選択された後で、キーワードを受け付けるものであってもよい。 In addition, in the second mode, the inspection unit 122 accepts keywords when the inspection information for all items has not been selected (step S1600), but this is not limited to the above, and the inspection unit 122 may accept keywords after some items have been selected (for example, the top-level item "project name").

また、本実施形態において、検査システム101は、第一モード及び第二モードを具備するものとしたが、これに限定されるものではなく、第一モード及び第二モードを包括する1つのモードを具備するものであってもよい。 In addition, in this embodiment, the inspection system 101 has a first mode and a second mode, but is not limited to this and may have one mode that includes the first mode and the second mode.

このようなモードとしては、例えば、上位の項目から検査情報を選択する第一モードをベースとし、キーワードの発話を受けて下位の項目も選択するようなモード等が考えられる。当該モードにおいて、検査部122は、上位の項目から順に検査情報について問い合わせる。また、検査部122は、問い合わせに対する検査員B100の発話内容から問い合わせた項目の検査情報のみを選択するのではなく、発話内容から他の項目に関するキーワードも抽出する。そして、検査部122は、当該キーワードに基づいて他の項目の検査情報を選択する。これにより、上位の項目から検査情報を選択する中で、複数の項目の検査情報を選択可能となり、選択の負担を低減することができる。 Such a mode may, for example, be based on a first mode in which test information is selected from higher-level items, and also selects lower-level items in response to the utterance of a keyword. In this mode, the inspection unit 122 inquires about test information starting from the higher-level items. Furthermore, the inspection unit 122 does not only select test information for the item inquired about from the content of inspector B100's utterance in response to the inquiry, but also extracts keywords related to other items from the content of the utterance. The inspection unit 122 then selects test information for other items based on the keywords. This makes it possible to select test information for multiple items when selecting test information from higher-level items, thereby reducing the burden of selection.

また、検査部122は、不足項目の推定(ステップS1670)において、ステップS1660で当てはめを行った項目よりも1つ上位の項目の検査情報を推定するものとしたが、これに限定されるものではなく、2つ以上上位の項目の検査情報を推定してもよい。 In addition, in estimating the missing items (step S1670), the inspection unit 122 estimates the inspection information of an item one level higher than the item that was fitted in step S1660, but this is not limited to this, and inspection information of an item two or more levels higher may be estimated.

また、検査部122は、不足項目の推定(ステップS1670)において、下位の項目の検査情報に基づいて上位の項目の検査情報を推定するものとしたが、これに限定されるものではなく、上位の項目の検査情報から下位の項目の検査情報を推定してもよい。 In addition, in estimating the missing items (step S1670), the inspection unit 122 estimates the inspection information of the higher-level items based on the inspection information of the lower-level items, but this is not limited to this, and the inspection information of the lower-level items may be estimated from the inspection information of the higher-level items.

また、検査部122は、不足項目の推定(ステップS1670)において、ステップS1660で当てはめを行った1つの項目の検査情報から、他の1つの項目の検査情報を推定したが、これに限定されるものではなく、当てはめを行った複数の項目の検査情報から、他の1つの項目の検査情報を推定してもよい。 In addition, in estimating the missing items (step S1670), the inspection unit 122 estimates the inspection information of one other item from the inspection information of one item that was fitted in step S1660, but this is not limited to this, and the inspection information of one other item may be estimated from the inspection information of multiple items that were fitted.

また、検査部122は、不足項目の推定(ステップS1670)を再帰的に行うことで、1つの項目に当てはめた検査情報から2つ以上の項目の検査情報を推定してもよい。具体的には、検査部122は、不足項目の推定(ステップS1670)において検査情報を選択できた場合に、当該検査情報を用いてさらに上位の項目の検査情報の推定を試みるという処理を繰り返し行う。このような処理によれば、1つの項目の当てはめにより複数の項目の検査情報を推定可能となって、検査情報の入力をより多く省略することができる。 The inspection unit 122 may also estimate test information for two or more items from test information applied to one item by recursively estimating the missing items (step S1670). Specifically, when the inspection unit 122 is able to select test information in estimating the missing items (step S1670), it repeatedly performs a process of attempting to estimate test information for a higher-level item using the selected test information. This type of process makes it possible to estimate test information for multiple items by applying one item, making it possible to omit the input of more test information.

また、本実施形態では、検査員B100への検査情報の問い合わせ(ステップS1710~S1800)において、スピーカ111から音声を出力させるものとしたが、検査員B100へ問い合わせる手法はこれに限定されるものではなく、例えば、所定の表示部にメッセージを表示させるもの等であってもよい。 In addition, in this embodiment, when inquiring about the inspection information to inspector B100 (steps S1710 to S1800), a voice is output from speaker 111, but the method of inquiring to inspector B100 is not limited to this, and for example, a message may be displayed on a specified display unit.

また、検査部122は、検査員B100への検査情報の問い合わせ(ステップS1710~S1800)を行った後、かつ検査結果の入力(ステップS1810)の前に、選択された全ての項目の検査情報を復唱してもよい。具体的には、検査部122は、『Aプロジェクトのコンクリート工事の基礎のコンクリート検査のスランプ値ですね。』との音声をスピーカ111から出力してもよい。 In addition, the inspection unit 122 may repeat the inspection information for all selected items after inquiring about the inspection information from inspector B100 (steps S1710 to S1800) and before inputting the inspection results (step S1810). Specifically, the inspection unit 122 may output from the speaker 111 a voice message stating, "This is the slump value of the concrete inspection of the foundation of the concrete work for project A."

ここで、検査員B100が検査結果を入力する検査は、未実施の検査又は不合格となった検査であることが想定される。そこで、検査部122は、検査員B100への検査情報の問い合わせ(ステップS1710~S1800)において、未実施の検査等の検査情報(入力される可能性がある検査情報)のみについて問い合わせてもよい。例えば、スランプ値の「検査区分」を問い合わせる場合に、『基礎』のスランプ値が合格済み、『1階床』が未実施、『2階床』が不合格であった場合、『検査区分は1階床と2階床のどちらですか?』との音声を出力させてもよい。 Here, it is assumed that the inspection results for which inspector B100 inputs are those that have not been performed or that have failed. Therefore, when inquiring of inspection information from inspector B100 (steps S1710 to S1800), the inspection unit 122 may inquire only about inspection information such as inspections that have not been performed (inspection information that may be input). For example, when inquiring about the "inspection category" of the slump value, if the slump value of the "foundation" has passed, the "first floor" has not been performed, and the "second floor" has failed, a voice may be output asking, "Is the inspection category the first floor or the second floor?"

以上の如く、前記検査部122及びスピーカ111は、前記第三項目に入力される可能性がある検査情報のみを問い合わせ可能であり、前記入力される可能性がある検査情報には、未実施の検査に関する検査情報及び/又は実施結果が不合格と判定された検査に関する検査情報が含まれるものである。 As described above, the inspection unit 122 and speaker 111 can inquire only about the inspection information that may be entered into the third item, and the inspection information that may be entered includes inspection information about inspections that have not been performed and/or inspection information about inspections that have been determined to be failed.

このように構成することにより、検査員B100が入力すると考えられる検査情報(合否判定が行われていない検査又は不合格と判定された検査に関する検査情報)について、検査員B100に問い合わせることができる。これによって、検査員B100が問い合わせに対して応対し易くすることができる。 This configuration allows the user to inquire of inspector B100 about the inspection information that inspector B100 is likely to input (inspection information related to inspections for which pass/fail judgment has not been performed or inspections that have been judged as failing). This makes it easier for inspector B100 to respond to inquiries.

なお、検査員B100が入力すると考えられる検査情報には、未実施の検査及び不合格となった検査以外の検査情報が含まれていてもよい。また、検査部122は、第二モードだけではなく、第一モードでも検査員B100が入力すると考えられる検査情報のみを問い合わせることができる。この場合、例えば、検査部122は、第一モードにおいて「工程部位」及び「管理項目」の検査情報を読み上げる場合に(ステップS1420)、検査員B100が入力すると考えられる検査情報のみを読み上げることができる。 The inspection information that is expected to be entered by inspector B100 may include inspection information other than unperformed inspections and failed inspections. Furthermore, the inspection unit 122 can inquire only about the inspection information that is expected to be entered by inspector B100 not only in the second mode but also in the first mode. In this case, for example, when reading out the inspection information for "process part" and "control item" in the first mode (step S1420), the inspection unit 122 can read out only the inspection information that is expected to be entered by inspector B100.

また、本実施形態では、確認画面125の一例として、図28に示す確認画面125を挙げたが、確認画面125の構成(レイアウト等)は、これに限定されるものではなく、任意の構成とすることができる。 In addition, in this embodiment, the confirmation screen 125 shown in FIG. 28 is given as an example of the confirmation screen 125, but the configuration (layout, etc.) of the confirmation screen 125 is not limited to this and can be any configuration.

また、本実施形態において、端末110は、眼鏡型のウェアラブルデバイスであったが、眼鏡型に限定されるものではなく、他の形式(例えば、ヘッドセット型や腕時計型等)のものであってもよい。また、端末110は、必ずしもウェアラブルデバイスに限定されるものではなく、他の機器(例えば、タブレット端末等)であってもよい。 In addition, in this embodiment, the terminal 110 is a glasses-type wearable device, but it is not limited to a glasses-type device and may be of other types (e.g., a headset type, a wristwatch type, etc.). In addition, the terminal 110 is not necessarily limited to a wearable device and may be other devices (e.g., a tablet terminal, etc.).

また、サーバ120は、必ずしもHDD等のハードウェアを専有するオンプレミス環境に構築される必要はなく、例えば、ハードウェアを他の仮想サーバと共用するクラウド環境に構築されるものであってもよい。 Furthermore, server 120 does not necessarily need to be built in an on-premise environment that has exclusive hardware such as HDDs, but may be built, for example, in a cloud environment in which the hardware is shared with other virtual servers.

また、本実施形態においては、検査員B100が発話することで「プロジェクト名」を選択するものとしたが、これに限定されるものではなく、端末110の位置情報に基づいて「プロジェクト名」を自動的に選択してもよい。具体的には、検査部122は、GPS(Global Positioning System)機能により端末110の位置情報、すなわち検査が行われる建物の位置情報を取得する。当該検査部122は、取得した位置情報に基づいて検査対象の建物を特定する。検査部は、特定した建物から「プロジェクト名」の検査情報を選択する。 In addition, in this embodiment, the "project name" is selected by the inspector B100 speaking, but this is not limited to the above, and the "project name" may be automatically selected based on the location information of the terminal 110. Specifically, the inspection unit 122 acquires the location information of the terminal 110, i.e., the location information of the building where the inspection is to be performed, using a GPS (Global Positioning System) function. The inspection unit 122 identifies the building to be inspected based on the acquired location information. The inspection unit selects inspection information for the "project name" from the identified building.

また、本実施形態において複数の項目には、「プロジェクト名」、「工程名」、「検査区分」、「工程部位」及び「管理項目」が含まれるものとしたが、これに限定されるものではない。 In addition, in this embodiment, the multiple items include "project name," "process name," "inspection category," "process location," and "control item," but are not limited to this.

1 支援システム(記録システム)
13 カメラ(撮影部)
16 音声認識部
20 記録処理部(抽出部)
30 サーバ(記憶部)
V31 抽出前映像ファイル(第一映像)
V32 抽出後映像ファイル(第二映像)
1. Support system (recording system)
13 Camera (photography unit)
16 Voice recognition unit 20 Recording processing unit (extraction unit)
30 Server (storage unit)
V31 Extracted video file (first video)
V32 Extracted video file (second video)

Claims (7)

音声を含む映像を撮影可能な撮影部と、
前記映像に含まれた前記音声を認識する音声認識部と、
前記音声認識部での認識結果に基づいて、前記撮影部で撮影した第一映像の中から、一部の時間帯の映像である第二映像を抽出する抽出部と、
前記第二映像を記憶する記憶部と、
を具備し、
前記音声認識部は、
前記音声の認識結果を、前記第一映像において当該音声の出力が開始される時間と関連付けて記憶し、
前記抽出部は、
キーワードが前記認識結果に含まれていた場合に、当該認識結果と関連付けられた前記時間を開始時間として取得し、
前記第一映像の中から、前記開始時間以降の時間帯の映像を含むように前記第二映像を抽出し、
前記キーワードを含む前記音声の認識結果と、前記第二映像に関する画像と、を表示する表示部をさらに具備する、
記録システム。
A photographing unit capable of photographing video including audio;
a voice recognition unit that recognizes the voice included in the video;
an extraction unit that extracts a second image, which is an image of a certain time period, from the first image captured by the image capture unit based on a recognition result by the voice recognition unit;
A storage unit that stores the second image;
Equipped with
The voice recognition unit
storing the voice recognition result in association with a time when the output of the voice starts in the first video;
The extraction unit is
If the keyword is included in the recognition result, the time associated with the recognition result is obtained as a start time;
extracting the second video from the first video so as to include a video from a time period after the start time;
a display unit that displays a recognition result of the voice including the keyword and an image related to the second video.
System of record.
前記撮影部は、
作業現場を撮影するものであり、
前記キーワードには、
前記作業現場に関する用語が含まれる、
請求項1に記載の記録システム。
The imaging unit includes:
It is used to photograph the work site,
The keywords include:
The work site terminology is included.
The recording system according to claim 1 .
前記抽出部は、
前記映像に含まれた前記音声に基づいて、前記開始時間よりも遅い終了時間を特定し、
前記第一映像の中から、前記開始時間から前記終了時間までの時間帯の映像を含むように前記第二映像を抽出する、
請求項1又は2に記載の記録システム。
The extraction unit is
determining an end time that is later than the start time based on the audio included in the video;
extracting the second video from the first video so as to include a video of a time period from the start time to the end time;
3. A recording system according to claim 1 or 2.
前記抽出部は、
前記音声の認識結果及び当該認識結果と関連付けられた時間に基づいて、前記音声認識部が所定時間前記音声を認識しなかった時間を特定し、当該特定した時間に基づいて前記終了時間を特定可能である、
請求項3に記載の記録システム。
The extraction unit is
a time during which the speech recognition unit did not recognize the speech for a predetermined period of time based on the speech recognition result and a time associated with the speech recognition result; and a time period during which the speech recognition unit did not recognize the speech for a predetermined period of time based on the time period determined by the speech recognition unit.
The recording system according to claim 3 .
前記抽出部は、
前記開始時間よりも所定時間前の時間から、前記終了時間よりも所定時間後の時間までの時間帯の映像を前記第二映像として抽出する、
請求項3又は請求項4に記載の記録システム。
The extraction unit is
extracting, as the second image, an image from a time period starting from a predetermined time before the start time to a predetermined time after the end time;
5. A recording system according to claim 3 or 4.
前記記憶部は、
前記第一映像及び前記第二映像をそれぞれ記憶する、
請求項1から請求項5までのいずれか一項に記載の記録システム。
The storage unit is
storing the first image and the second image,
A recording system according to any one of claims 1 to 5 .
前記記憶部が前記第一映像を記憶してから所定期間が経過した場合に、当該第一映像を削除する削除部をさらに具備する、
求項6に記載の記録システム。
a deletion unit that deletes the first video when a predetermined period of time has elapsed since the storage unit stored the first video.
The recording system according to claim 6.
JP2020163829A 2020-09-29 2020-09-29 System of record Active JP7554624B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020163829A JP7554624B2 (en) 2020-09-29 2020-09-29 System of record

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020163829A JP7554624B2 (en) 2020-09-29 2020-09-29 System of record

Publications (2)

Publication Number Publication Date
JP2022056051A JP2022056051A (en) 2022-04-08
JP7554624B2 true JP7554624B2 (en) 2024-09-20

Family

ID=80998716

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020163829A Active JP7554624B2 (en) 2020-09-29 2020-09-29 System of record

Country Status (1)

Country Link
JP (1) JP7554624B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003204282A (en) 2002-01-07 2003-07-18 Toshiba Corp Headset with wireless communication function, communication recording system using the same, and headset system capable of selecting communication control method
JP2006140707A (en) 2004-11-11 2006-06-01 Nippon Telegr & Teleph Corp <Ntt> VIDEO PROCESSING METHOD, VIDEO PROCESSING DEVICE, VIDEO PROCESSING PROGRAM, AND COMPUTER-READABLE RECORDING MEDIUM CONTAINING THE PROGRAM
JP2018180852A (en) 2017-04-11 2018-11-15 クオリカ株式会社 Work information system and method for collecting data related to an event occurring at work site
JP2020035384A (en) 2018-08-31 2020-03-05 沖電気工業株式会社 Information processing device, method, program, and system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003204282A (en) 2002-01-07 2003-07-18 Toshiba Corp Headset with wireless communication function, communication recording system using the same, and headset system capable of selecting communication control method
JP2006140707A (en) 2004-11-11 2006-06-01 Nippon Telegr & Teleph Corp <Ntt> VIDEO PROCESSING METHOD, VIDEO PROCESSING DEVICE, VIDEO PROCESSING PROGRAM, AND COMPUTER-READABLE RECORDING MEDIUM CONTAINING THE PROGRAM
JP2018180852A (en) 2017-04-11 2018-11-15 クオリカ株式会社 Work information system and method for collecting data related to an event occurring at work site
JP2020035384A (en) 2018-08-31 2020-03-05 沖電気工業株式会社 Information processing device, method, program, and system

Also Published As

Publication number Publication date
JP2022056051A (en) 2022-04-08

Similar Documents

Publication Publication Date Title
KR101198744B1 (en) Apparatus, method and computer program product for using images in contact lists maintained in electronic devices
US9304657B2 (en) Audio tagging
CN101086741B (en) Information processing apparatus and information processing method
US8768693B2 (en) Automatic tag extraction from audio annotated photos
CN110085222B (en) Interactive apparatus and method for supporting voice conversation service
CN103916513A (en) Method and device for recording communication message at communication terminal
CN111954864A (en) Automated presentation control
JP2014513828A (en) Automatic conversation support
KR20160016810A (en) Automatic isolation and selection of screenshots from an electronic content repository
CN104239389B (en) media file management method and system
US20050216913A1 (en) Annotating / rating / organizing / relating content rendered on computer device during idle mode thereof
CN114374813A (en) Multimedia resource management method, recorder and server
JP7554623B2 (en) Support System
CN112906358B (en) Information processing device, information processing method, and recording medium
US7451090B2 (en) Information processing device and information processing method
CN105808231B (en) System and method for recording and playing script
JP7401241B2 (en) Inspection support system
CN103678469B (en) Media file management method
JP7554624B2 (en) System of record
JP7437164B2 (en) inspection system
JP2017021672A (en) Search device
WO2017045493A1 (en) Method and device for setting files to be removed
CN1991842B (en) Apparatus and method for managing images of mobile terminal
CN117950950B (en) Log analysis method and system
CN104468926A (en) Method and device for controlling contact persons in mobile terminal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240521

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240909

R150 Certificate of patent or registration of utility model

Ref document number: 7554624

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150