Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6741968B2 - 食品処理システム - Google Patents
[go: Go Back, main page]

JP6741968B2 - 食品処理システム - Google Patents

食品処理システム Download PDF

Info

Publication number
JP6741968B2
JP6741968B2 JP2018161432A JP2018161432A JP6741968B2 JP 6741968 B2 JP6741968 B2 JP 6741968B2 JP 2018161432 A JP2018161432 A JP 2018161432A JP 2018161432 A JP2018161432 A JP 2018161432A JP 6741968 B2 JP6741968 B2 JP 6741968B2
Authority
JP
Japan
Prior art keywords
voice
keyword
food
controller
voice recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018161432A
Other languages
English (en)
Other versions
JP2020035191A (ja
Inventor
泰史 吉浦
泰史 吉浦
上塩 具宏
具宏 上塩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yaskawa Electric Corp
Original Assignee
Yaskawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yaskawa Electric Corp filed Critical Yaskawa Electric Corp
Priority to JP2018161432A priority Critical patent/JP6741968B2/ja
Priority to US16/547,836 priority patent/US11238861B2/en
Priority to KR1020190106235A priority patent/KR102312465B1/ko
Publication of JP2020035191A publication Critical patent/JP2020035191A/ja
Application granted granted Critical
Publication of JP6741968B2 publication Critical patent/JP6741968B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A23FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
    • A23BPRESERVATION OF FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES; CHEMICAL RIPENING OF FRUIT OR VEGETABLES
    • A23B2/00Preservation of foods or foodstuffs, in general
    • A23B2/001Details of apparatus, e.g. pressure feed valves or for transport, or loading or unloading manipulation
    • AHUMAN NECESSITIES
    • A23FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
    • A23LFOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES, NOT OTHERWISE PROVIDED FOR; PREPARATION OR TREATMENT THEREOF
    • A23L5/00Preparation or treatment of foods or foodstuffs, in general; Food or foodstuffs obtained thereby; Materials therefor
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Program-control systems
    • G05B19/02Program-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form
    • G05B19/409Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form characterised by using manual data input [MDI] or by using control panel, e.g. controlling functions with the panel; characterised by control panel details or by setting parameters
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Program-control systems
    • G05B19/02Program-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form
    • G05B19/416Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form characterised by control of velocity, acceleration or deceleration
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/18Status alarms
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B3/00Audible signalling systems, e.g. audible personal calling systems
    • G08B3/10Audible signalling systems, e.g. audible personal calling systems using electric transmission; using electromagnetic transmission
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/04Segmentation; Word boundary detection
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/083Recognition networks
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • AHUMAN NECESSITIES
    • A23FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
    • A23LFOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES, NOT OTHERWISE PROVIDED FOR; PREPARATION OR TREATMENT THEREOF
    • A23L5/00Preparation or treatment of foods or foodstuffs, in general; Food or foodstuffs obtained thereby; Materials therefor
    • A23L5/10General methods of cooking foods, e.g. by roasting or frying
    • AHUMAN NECESSITIES
    • A23FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
    • A23VINDEXING SCHEME RELATING TO FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES AND LACTIC OR PROPIONIC ACID BACTERIA USED IN FOODSTUFFS OR FOOD PREPARATION
    • A23V2002/00Food compositions, function of food ingredients or processes for food or foodstuffs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65BMACHINES, APPARATUS OR DEVICES FOR, OR METHODS OF, PACKAGING ARTICLES OR MATERIALS; UNPACKING
    • B65B65/00Details peculiar to packaging machines and not otherwise provided for; Arrangements of such details
    • B65B65/003Packaging lines, e.g. general layout
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/45Nc applications
    • G05B2219/45054Handling, conveyor
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Polymers & Plastics (AREA)
  • Food Science & Technology (AREA)
  • Chemical & Material Sciences (AREA)
  • Manufacturing & Machinery (AREA)
  • Automation & Control Theory (AREA)
  • Nutrition Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Wood Science & Technology (AREA)
  • Zoology (AREA)
  • User Interface Of Digital Computer (AREA)

Description

開示の実施形態は、食品処理システムに関する。
特許文献1には、食品容器に食品を盛り付ける作業ラインが記載されている。作業ラインでは、食品容器を搬送する搬送コンベアの近傍に、食品容器に食品の盛り付けを行う作業ロボットと作業員が配置されている。
特開2017−189862号公報
作業ロボットは、例えばタッチパネルやティーチングペンダント等の操作端末を用いて操作されるのが一般的である。しかしながら、上記従来技術のように食品を扱う作業ラインにおいて、作業員が食品を触った手で操作端末を操作する場合、衛生状態が低下する可能性があった。
本発明はこのような問題点に鑑みてなされたものであり、衛生状態を良好に維持できる食品処理システムを提供することを目的とする。
上記課題を解決するため、本発明の一の観点によれば、食品に所定の作業を行う食品作業装置と、前記食品作業装置を制御するコントローラと、作業者の音声を入力する音声入力装置と、入力された前記音声を認識し、認識結果に基づいて前記コントローラに所定の処理を実行させる音声認識装置と、を有する食品処理システムが適用される。
本発明によれば、衛生状態を良好に維持することができる。
本実施形態に係る食品処理システムの全体構成の一例を表す説明図である。 音声認識装置の機能構成の一例を表すブロック図である。 音声認識装置により実行される処理手順の一例を表すフローチャートである。 音声認識装置により実行される処理手順の一例を表すフローチャートである。 音声認識装置により実行される処理手順の一例を表すフローチャートである。 視線を検出して対象物を特定する変形例における、食品処理システムの全体構成の一例を表す説明図である。 視線を検出して対象物を特定する変形例における、音声認識装置の機能構成の一例を表すブロック図である。 音声認識装置により実行される対象特定処理の処理手順の一例を表すフローチャートである。 アラームの発生により動作不良対処処理を実行する変形例における、音声認識装置により実行される処理手順の一例を表すフローチャートである。 音声認識装置のハードウェア構成の一例を示すブロック図である。
以下、一実施の形態について図面を参照しつつ説明する。
<1.食品処理システムの全体構成>
まず、図1を参照しつつ、本実施形態に係る食品処理システムの全体構成の一例について説明する。
図1に示すように、食品処理システム1は、食品作業装置2と、コントローラ3と、タッチパネル4と、音声入力装置5と、音声認識装置6と、音声出力装置7とを有する。
食品作業装置2は、食品に所定の作業を行う自動作業機である。「食品」は、いわゆる中食(家庭外で調理された食品を持ち帰るか配達等により家庭内で食べる食事形態)と呼ばれる食事形態において購入される調理済みの食品であり、例えばおにぎり、サンドイッチ、総菜、弁当等が含まれる。「所定の作業」は、食品の生産ラインに関わる作業であり、例えば調理、盛り付け、ソースがけ、包装、箱詰め等が含まれる。「自動作業機」は、上記所定の作業をコントローラによる制御で自動的に実行する機械であり、例えば垂直多関節型、水平多関節型、パラレルリンク型等の汎用ロボットでもよいし、例えばXYZθ方向のうち少なくとも1方向に移動可能なアクチュエータを備えた特定の作業専用に設計された専用作業機等でもよい。食品作業装置2は、複数のモータ制御装置8及び複数のモータ9を有する。
コントローラ3は、食品作業装置2を制御する制御装置であり、例えば汎用パーソナルコンピュータ、PLC(Programable Logic Controller)、又はモーションコントローラ等のいずれか1つ又は複数の組み合わせにより構成される。コントローラ3は、位置指令、速度指令、トルク指令の少なくとも1つを生成し、複数のモータ制御装置8のそれぞれに送信する。各モータ制御装置8は、コントローラ3からの指令に基づいてモータ9をそれぞれ制御する。
タッチパネル4(表示装置の一例)は、コントローラ3による食品作業装置2の運転に関わる画面を表示する。運転に関わる画面には、例えばメイン画面、モニタ画面、自動運転画面、アラーム画面等が含まれる。作業者は、各画面において表示されたボタンに触れる等により、所望の操作入力を行うことができる。なお、タッチパネルの代わりに、液晶パネル等の表示機能のみを有する表示装置を設けてもよい。この場合、キーボードやペンダント等の操作端末を別途設けてもよい。
音声入力装置5は、作業者が発話した音声を入力する装置であり、例えばマイク等により構成される。音声入力装置5は、作業者の音声を検知すると当該音声を電気信号に変換し、音声認識装置6に送信する。音声入力装置5は、コントローラ3や音声認識装置6等の機器に設置されてもよいし、作業者に装着されてもよい。機器に設置する場合には、例えば特定の方向やエリア(食品生産ラインにおいて作業者が配置される方向、エリア等)からの音を選択的に集音する指向性の集音マイクとしてもよい。また、作業者が装着する場合には、例えば作業者が食品衛生上装着するマスクに取付け又は内蔵されてもよいし、例えばマイクとイヤホンが一体となったヘッドセットを食品用作業着のフードの内側に装着してもよい。また、集音マイクに限らず、例えば骨伝導型マイクとしてもよい。音声入力装置5を上記構成とすることにより、作業者が装着するマスク、周囲の雑音(食品の取り扱いに付随する水の流水音、食品作業装置の機械音等)、隣接作業者の音声等の影響を低減し、音声入力精度を高めることができる。
音声認識装置6は、音声入力装置5から入力された音声を認識し、認識結果に基づいてコントローラ3に所定の処理を実行させる。音声の認識手法は特に限定されるものではなく、様々な手法を用いることができる。音声認識装置6がコントローラ3に実行させる処理内容については後述する。
音声出力装置7は、音声認識装置6が合成した音声を出力する装置であり、例えばスピーカー等により構成される。音声出力装置7は、コントローラ3に実行させた処理に関わる内容を表す音声を出力する。音声出力装置7は、コントローラ3や音声認識装置6等の機器に設置されてもよいし、作業者に装着されてもよい。機器に設置する場合には、例えば特定の方向やエリア(食品生産ラインにおいて作業者が配置される方向、エリア等)に位置する作業者に選択的に音を出力する指向性のスピーカーとしてもよい。また、作業者が装着する場合には、例えばイヤホンや、マイクとイヤホンが一体となったヘッドセットを食品用作業着のフードの内側に装着してもよい。また、例えば骨伝導型イヤホンとしてもよい。音声出力装置7を上記構成とすることにより、食品用作業着のフード、周囲の雑音(食品の取り扱いに付随する水の流水音、食品作業装置の機械音等)、隣接作業者の音声等の影響を低減し、作業者による音声の聞き取り精度を高めることができる。
なお、上述した食品処理システム1の構成は一例であり、上述の内容に限定されるものではない。例えば、音声認識装置6の全部又は一部の機能をコントローラ3に組み込む等により、音声認識装置6とコントローラ3とを一体的に構成してもよい。また、タッチパネル4を音声認識装置6にも接続しておき、音声認識装置6による処理結果等をコントローラ3を介さずにタッチパネル4で表示してもよい。また、食品作業装置2の各モータ制御装置8の全部又は一部の機能をコントローラ3に組み込んでもよいし、反対に、コントローラ3の全部又は一部の機能を食品作業装置2の各モータ制御装置8に組み込んでもよい。
<2.音声認識装置の機能構成>
次に、図2を参照しつつ、音声認識装置6の機能構成の一例について説明する。
図2に示すように、音声認識装置6は、テキスト変換処理部10と、画面更新キーワード判定処理部11と、画面更新処理実行部12と、動作不良キーワード判定処理部13と、動作不良対処処理実行部14と、アラーム判定処理部15と、運転制御キーワード判定処理部16と、運転制御処理実行部17と、音声合成処理部18と、キーワードデータベース19と、対処方法データベース20とを有する。
テキスト変換処理部10は、音声入力装置5から入力された音声を対応するテキスト(文字列)に変換する。具体的には、例えば音声を周波数解析等により分析し、音声認識辞書(音響モデル、言語モデル、発音辞書等)を用いて音素を認識し、テキストに変換する。当該テキスト変換処理部10による処理に機械学習やディープラーニング等の技術を用いてもよい。
画面更新キーワード判定処理部11(第1キーワード判定処理部の一例)は、テキスト変換処理部10により変換されたテキストに、タッチパネル4の画面更新に関わるキーワード(以下「画面更新キーワード」という)が含まれるか否かを判定する。画面更新キーワード(第1キーワードの一例)には、例えば「メイン画面」、「モニタ画面」、「自動運転画面」、「アラーム画面」等の画面を直接指定するキーワードや、「次のページ(画面)」、「前のページ(画面)」等の画面のページ構成における進みや戻りを指定するキーワード等が含まれる。画面更新キーワードはキーワードデータベース19に予め登録されており、適宜変更、追加、削除することが可能である。
画面更新処理実行部12(第1処理実行部の一例)は、画面更新キーワード判定処理部11により画面更新キーワードが含まれると判定された場合に、タッチパネル4の画面を画面更新キーワードに対応する画面に更新する画面更新処理をコントローラ3に実行させる。これにより、タッチパネル4の画面が画面更新キーワードに対応する画面に変更される。
動作不良キーワード判定処理部13(第2キーワード判定処理部の一例)は、テキスト変換処理部10により変換されたテキストに、食品作業装置2の動作不良に関わるキーワード(以下「動作不良キーワード」という)が含まれるか否かを判定する。動作不良キーワード(第2キーワードの一例)には、例えば「動かない」、「動作しない」、「停止した」、「壊れた」、「故障」等が含まれる。動作不良キーワードはキーワードデータベース19に予め登録されており、適宜変更、追加、削除することが可能である。
動作不良対処処理実行部14(第2処理実行部の一例)は、動作不良キーワード判定処理部13により動作不良キーワードが含まれると判定された場合に、動作不良キーワードに対応する動作不良に対する対処方法をタッチパネル4に表示する動作不良対処処理をコントローラ3に実行させる。これにより、タッチパネル4に動作不良に対する対処方法が表示される。
アラーム判定処理部15は、コントローラ3がアラームを発生しているか否か(例えばタッチパネル4にアラーム画面が表示されているか否か)を判定する。動作不良対処処理実行部14は、アラーム判定処理部15によりアラームが発生していると判定された場合には、コントローラ3のアラーム情報(例えばアラームコード等)を読み出し、当該アラーム情報に基づいて対処方法データベース20から対処方法を取得する。一方、アラーム判定処理部15によりアラームが発生していないと判定された場合には、動作不良対処処理実行部14は、作業者に追加情報(動作不良の状態等)を要求し、当該追加情報に基づいて対処方法データベース20から対処方法を取得する。対処方法データベース20には、アラーム情報とその原因及び対処方法とが関連づけられて格納されると共に、動作不良の状態等とその原因及び対処方法とが関連づけられて格納されている。
運転制御キーワード判定処理部16(第3キーワード判定処理部の一例)は、テキスト変換処理部10により変換されたテキストに、食品作業装置2の運転制御に関わるキーワード(以下「運転制御キーワード」という)が含まれるか否かを判定する。運転制御キーワード(第3キーワードの一例)には、例えば「サーボオン」、「サーボオフ」、「運転開始」、「運転終了」等が含まれる。運転制御キーワードはキーワードデータベース19に予め登録されており、適宜変更、追加、削除することが可能である。
運転制御処理実行部17(第3処理実行部の一例)は、運転制御キーワード判定処理部16により運転制御キーワードが含まれると判定された場合に、運転制御キーワードに対応する運転制御処理をコントローラ3に実行させる。これにより、食品作業装置2の各モータ9のサーボオン、サーボオフ、食品作業装置2の自動運転開始、自動運転停止等が実行される。
音声合成処理部18は、上述の画面更新処理実行部12、動作不良対処処理実行部14、運転制御処理実行部17によりコントローラ3に実行させた処理に関わる内容を表す音声を合成する。合成された音声は、音声出力装置7により出力される。例えば、画面更新処理実行部12により画面更新処理が実行された場合には、例えば「〜画面を表示します」、「次のページを表示します」、「前のページに戻ります」等の音声が出力される。また例えば、動作不良対処処理実行部14により動作不良対処処理が実行された場合には、例えば「〜を確認してください」、「〜を操作してください」、「〜を交換してください」等の対処方法の内容を表す音声が出力される。また例えば、運転制御処理実行部17により運転制御処理が実行された場合には、例えば「サーボオンします」、「自動運転を開始します」等の音声が出力される。
なお、上述した各処理部、各実行部における処理等は、これらの処理の分担の例に限定されるものではなく、例えば、更に少ない数の処理部(例えば1つの処理部)で処理されてもよく、また、更に細分化された処理部により処理されてもよい。また、各処理部、各実行部の機能は後述するCPU901(図10参照)が実行するプログラムにより実装されてもよいし、その一部又は全部がASICやFPGA、その他の電気回路等の実際の装置により実装されてもよい。
また、上述した音声認識装置6の機能構成は一例であり、上述の内容に限定されるものではない。例えば、周囲の雑音(水の流水音、機械音等)や隣接作業者の音声の影響を低減し、音声入力精度を高めるために、音声認識装置6がそれらのノイズを除去するノイズ除去処理部(例えばノイズキャンセリングやノイズフィルタ等)を有していてもよい。
<3.音声認識装置の処理手順>
次に、図3〜図5を参照しつつ、音声認識装置6により実行される処理手順の一例について説明する。
図3に示すように、ステップS1では、音声認識装置6は、音声入力装置5から音声の入力があるか否かを判定する。音声の入力があるまで本ステップを繰り返し(ステップS1:NO)、音声の入力があった場合には(ステップS1:YES)、次のステップS3に移る。
ステップS3では、音声認識装置6は、テキスト変換処理部10により、音声入力装置5から入力された音声を対応するテキストに変換する。
ステップS5では、音声認識装置6は、ステップS3で変換されたテキストに、キーワードデータベース19に登録されたキーワードが含まれるか否かを判定する。変換されたテキストに登録されたキーワードが含まれない場合には(ステップS5:NO)、ステップS1に戻る。一方、変換されたテキストに登録されたキーワードが含まれる場合には(ステップS5:YES)、ステップS7に移る。
ステップS7では、音声認識装置6は、画面更新キーワード判定処理部11により、上記ステップS3で変換されたテキストに、タッチパネル4の画面更新に関わる画面更新キーワードが含まれるか否かを判定する。画面更新キーワードが含まれる場合には(ステップS7:YES)、ステップS9に移る。
ステップS9では、音声認識装置6は、画面更新処理実行部12により、上記ステップS7で含まれると判定された画面更新キーワードに対応する画面情報(例えばページ番号等)をコントローラ3に送信し、当該画面をタッチパネル4に表示させる画面更新処理をコントローラ3に実行させる。
ステップS11では、音声認識装置6は、音声合成処理部18により、上記ステップS7で含まれると判定された画面更新キーワードに対応する画面を表示する旨を表す音声を合成し、音声出力装置7により出力させる。その後、先のステップS1に戻る。
なお、上記ステップS7において、変換されたテキストに画面更新キーワードが含まれない場合には(ステップS7:NO)、ステップS13に移る。
ステップS13では、音声認識装置6は、上記ステップS3で変換されたテキストに、音声認識システムの終了に関わるキーワード(以下「システム終了キーワード」という)が含まれるか否かを判定する。システム終了キーワードには、例えば「シャットダウン」、「システム終了」、「さよなら」等が含まれる。システム終了キーワードはキーワードデータベース19に登録されており、適宜変更、追加、削除することが可能である。システム終了キーワードが含まれる場合には(ステップS13:YES)、ステップS15に移る。
ステップS15では、音声認識装置6は、音声認識システムを終了する。そして、本フローを終了する。
なお、上記ステップS13において、システム終了キーワードが含まれない場合には(ステップS13:NO)、図4に示すステップS17に移る。
図4に示すように、ステップS17では、音声認識装置6は、動作不良キーワード判定処理部13により、上記ステップS3で変換されたテキストに、食品作業装置2の動作不良に関わる動作不良キーワードが含まれるか否かを判定する。動作不良キーワードが含まれる場合には(ステップS17:YES)、ステップS19に移る。
ステップS19では、音声認識装置6は、アラーム判定処理部15により、コントローラ3がアラームを発生しているか否かを判定する。アラームが発生中である場合には(ステップS19:YES)、ステップS21に移る。
ステップS21では、音声認識装置6は、動作不良対処処理実行部14により、コントローラ3からアラーム情報を読み出す。
ステップS23では、音声認識装置6は、動作不良対処処理実行部14により、対処方法データベース20を参照し、上記ステップS21で読み出したアラーム情報に基づいて動作不良に対する対処方法を特定する。その後、後述するステップS29に移る。
なお、上記ステップS19において、アラームが発生中でない場合には(ステップS19:NO)、ステップS25に移る。
ステップS25では、音声認識装置6は、動作不良対処処理実行部14により、作業者に追加情報(動作不良の状態等)を要求する。例えば、確認事項をタッチパネル4に表示するとともに、音声出力装置7から出力する。
ステップS27では、音声認識装置6は、テキスト変換処理部10により作業者が回答した音声をテキスト変換して追加情報を取得し、動作不良対処処理実行部14により、取得した追加情報に基づいて対処方法データベース20を参照して対処方法を特定する。
ステップS29では、音声認識装置6は、追加情報が必要か否か、言い換えると対処方法を1つに絞れたか否かを判定する。追加情報が必要である場合には(ステップS29:YES)、上記ステップS25に戻り、ステップS25及びステップS27を繰り返す。追加情報が不要である場合には(ステップS29:NO)、ステップS31に移る。
ステップS31では、音声認識装置6は、動作不良対処処理実行部14により、上記ステップS23又は上記ステップS27において特定した対処方法をコントローラ3に送信し、タッチパネル4に表示させる。また、音声認識装置6は、音声合成処理部18により上記対処方法の内容を表す音声を合成し、音声出力装置7により出力させる。その後、先のステップS1に戻る。
なお、先のステップS17において、上記ステップS3で変換されたテキストに動作不良キーワードが含まれない場合には(ステップS17:NO)、ステップS33に移る。
ステップS33では、音声認識装置6は、上記ステップS3で変換されたテキストに、上記ステップS31で出力した対処方法に基づく対処が完了した旨を表すキーワード(以下「対処完了キーワード」という)が含まれるか否かを判定する。対処完了キーワードには、例えば「完了」、「解決」、「動いた」、「直った」等が含まれる。対処完了キーワードはキーワードデータベース19に登録されており、適宜変更、追加、削除することが可能である。対処完了キーワードが含まれる場合には(ステップS33:YES)、ステップS35に移る。
ステップS35では、音声認識装置6は、コントローラ3に指令を送信し、食品作業装置2を運転待機状態とする。運転待機状態は、例えば作業者の音声又はタッチパネル4の操作による運転開始の指示入力待ちの状態である。その後、先のステップS1に戻る。
なお、上記ステップS33において、上記ステップS3で変換されたテキストに対処完了キーワードが含まれない場合には(ステップS33:NO)、図5に示すステップS37に移る。
図5に示すように、ステップS37では、音声認識装置6は、運転制御キーワード判定処理部16により、上記ステップS3で変換されたテキストに、食品作業装置2の運転制御に関わる運転制御キーワードが含まれるか否かを判定する。運転制御キーワードが含まれない場合には(ステップS37:NO)、先のステップS1に戻る。一方、運転制御キーワードが含まれる場合には(ステップS37:YES)、ステップS39に移る。
ステップS39では、音声認識装置6は、運転制御処理実行部17により、運転制御キーワードに対応する制御コマンドをコントローラ3に送信し、対応する運転制御処理をコントローラ3に実行させる。なお、当該運転制御を実行中であることはコントローラ3によりタッチパネル4に表示される。
ステップS41では、音声認識装置6は、音声合成処理部18により運転制御キーワードに対応する運転制御を実行する旨の音声を合成し、音声出力装置7により出力させる。その後、先のステップS1に戻る。
<4.実施形態の効果>
以上説明したように、本実施形態の食品処理システム1は、食品に所定の作業を行う食品作業装置2と、食品作業装置2を制御するコントローラ3と、作業者の音声を入力する音声入力装置5と、入力された音声を認識し、認識結果に基づいてコントローラ3に所定の処理を実行させる音声認識装置6と、を有する。これにより、次の効果を得る。
食品の製造ライン等で使用される食品作業装置は、例えばタッチパネルやティーチングペンダント等の操作端末を用いて操作されるのが一般的である。しかしながら、作業者が食品を触った手で操作端末を操作する場合、操作端末を操作した手で食品を扱うという面と、操作端末に食品が付着する(操作端末自体の洗浄は難しい)という面で、衛生状態が低下する可能性がある。
本実施形態の食品処理システム1では、上記構成により、作業者は音声によりコントローラ3に所定の処理を実行させることができる。これにより、作業者は食品を触った手でタッチパネル4等の操作端末を操作することなく、食品作業装置2の操作等を行うことができる。したがって、衛生状態を良好に維持できる。
また、例えば食品の製造ライン等における作業者は、アルバイトやパートタイム等の機械の操作に不慣れな者である場合も多い。このため、タッチパネル4等の操作端末をどのように操作すると所望の動作や所望の情報が得られるのか判断が難しい場合があり、操作性の向上が要望されていた。本実施形態によれば、作業者は音声によりコントローラ3に所定の処理を実行させることができるので、タッチパネル4等の操作端末の操作に不慣れな場合でも、適切な操作や適切な情報へのアクセスが可能となる。
また、本実施形態では特に、食品処理システム1は、コントローラ3による食品作業装置2の運転に関わる画面を表示するタッチパネル4をさらに有し、音声認識装置6は、認識した音声に、タッチパネル4の画面更新に関わる画面更新キーワードが含まれるか否かを判定する画面更新キーワード判定処理部11と、認識した音声に画面更新キーワードが含まれる場合に、タッチパネル4の画面を画面更新キーワードに対応する画面に更新する画面更新処理をコントローラ3に実行させる画面更新処理実行部12と、を有する。
これにより、作業者は食品を触った手でタッチパネル4等の操作端末を操作することなく、音声によりタッチパネル4の画面を所望の画面に変更することができる。したがって、衛生状態を良好に維持できる。また、例えばタッチパネル4において画面が階層構造となっている場合、他の画面を経由しないと所望の画面が表示されない(複数の画面遷移が必要となる)場合があるが、本実施形態によれば直接所望の画面に遷移して表示させることができるので、操作性を向上できる。
また、本実施形態では特に、食品処理システム1は、コントローラ3による食品作業装置2の運転に関わる画面を表示するタッチパネル4をさらに有し、音声認識装置6は、認識した音声に、食品作業装置2の動作不良に関わる動作不良キーワードが含まれるか否かを判定する動作不良キーワード判定処理部13と、認識した音声に動作不良キーワードが含まれる場合に、動作不良キーワードに対応する動作不良に対する対処方法をタッチパネル4に表示する動作不良対処処理をコントローラ3に実行させる動作不良対処処理実行部14と、を有する。
これにより、作業者は食品を触った手でタッチパネル4等の操作端末を操作することなく、音声により動作不良が生じたことを入力してその対処方法を表示させることができる。したがって、動作不良に適切に対処することができる。また、対処方法の表示に必要なスイッチやボタン等を探す必要がないので、タッチパネル4の操作に不慣れな作業者でも動作不良に対する適切な操作や適切な情報へのアクセスが可能となる。
また、本実施形態では特に、音声認識装置6は、コントローラ3がアラームを発生しているか否かを判定するアラーム判定処理部15を有し、動作不良対処処理実行部14は、アラームが発生している場合には、コントローラ3のアラーム情報に基づいて対処方法を取得し、アラームが発生していない場合には、作業者に追加情報を要求し、当該追加情報に基づいて対処方法を取得する。
これにより、音声認識装置6がアラーム情報と対処方法を格納した対処方法データベース20を有しておくことにより、アラームが発生している場合にはコントローラ3から取得したアラーム情報に応じて適切な対処方法を提供することができる。また、音声認識装置6が動作不良の状態と対処方法を格納した対処方法データベース20を有しておくことにより、アラームが発生していない場合には作業者に要求して取得した動作不良の状態に応じて適切な対処方法を提供することができる。
また、本実施形態では特に、音声認識装置6は、認識した音声に、食品作業装置2の運転制御に関わる運転制御キーワードが含まれるか否かを判定する運転制御キーワード判定処理部16と、認識した音声に運転制御キーワードが含まれる場合に、運転制御キーワードに対応する運転制御処理をコントローラ3に実行させる運転制御処理実行部17と、を有する。
これにより、作業者は食品を触った手でタッチパネル4等の操作端末を操作することなく、音声により食品作業装置2の運転準備や運転開始、運転終了等を行うことができる。したがって、衛生状態を良好に維持できる。また、運転操作に必要なスイッチやボタン等を探す必要がないので、タッチパネル4等の操作端末の操作に不慣れな作業者でも適切な運転操作が可能となる。
また、本実施形態では特に、音声認識装置6は、コントローラ3に実行させた処理に関わる内容を表す音声を合成する音声合成処理部18を有し、食品処理システム1は、音声合成処理部18により合成した音声を出力する音声出力装置7をさらに有する。
これにより、作業者はコントローラ3で実行された処理内容を音声で確認できるので、利便性を向上できる。また、動作不良に対する対処方法を音声で出力させることにより、作業者はコントローラ3から離れた位置で音声出力された対処方法を聞きながら実際に作業を実行することができるので、作業性を向上できる。
<5.変形例>
なお、開示の実施形態は、上記に限られるものではなく、その趣旨及び技術的思想を逸脱しない範囲内で種々の変形が可能である。以下、そのような変形例を説明する。
(5−1.視線を検出して対象物を特定する場合)
まず、図6を参照しつつ、本変形例に係る食品処理システム1Aの全体構成の一例について説明する。なお、図6では前述の図1と同様の構成には同じ符号を付し、適宜説明を省略する。
図6に示すように、食品処理システム1Aは、前述の実施形態における食品処理システム1の構成に加えて、AR(オーグメンテッドリアリティ:拡張現実)端末21を有する。AR端末21は、例えば作業者が頭部又は顔部に装着可能な透過型のヘッドマウントディスプレイとして構成されている。AR端末21は、表示部22と、視線検出部23とを有する。
表示部22は、例えば液晶ディスプレイや有機ELディスプレイ等で構成されており、音声認識装置6により生成された画像を、作業者の周囲の現実の光景に重ね合わせて表示する。
視線検出部23(視線検出装置の一例)は、作業者の視線の方向を検出し、検出した視線情報を音声認識装置6に送信する。視線の検出手法は特に限定されるものではなく、様々な手法を用いることができる。例えば、可視光カメラによりユーザの目を撮影し、当該画像に基づいて基準点を目頭とし、動点を虹彩(いわゆる黒目)として、目頭に対する虹彩の位置に基づいて視線情報を算出してもよい。また例えば、赤外線カメラで赤外線LEDを照射した目を撮影し、基準点を赤外線LEDの照射によりできた反射光(角膜反射)の角膜上の位置とし、動点を瞳孔として、角膜反射の位置に対する瞳孔の位置に基づいて視線情報を算出してもよい。また、作業者の顔の表面筋電位や眼球を動かす際に発生する微弱な筋電位(眼電位)の変化を検出する等の手法を用いてもよい。
食品処理システム1Aの上記以外の構成は、前述の実施形態における食品処理システム1と同様であるので説明を省略する。
次に、図7を参照しつつ、本変形例に係る音声認識装置6Aの機能構成の一例について説明する。なお、図7では前述の図2と同様の構成には同じ符号を付し、適宜説明を省略する。
図7に示すように、音声認識装置6Aは、前述の実施形態における音声認識装置6の構成に加えて、指示キーワード判定処理部24と、対象特定処理部25と、画像合成処理部26とを有する。
指示キーワード判定処理部24(第4キーワード判定処理部の一例)は、テキスト変換処理部10により変換されたテキストに、あいまいな指示語に関わるキーワード(以下「指示キーワード」という)が含まれるか否かを判定する。指示キーワード(第4キーワードの一例)には、例えば「あれ」、「これ」、「それ」等が含まれる。指示キーワードはキーワードデータベース19に予め登録されており、適宜変更、追加、削除することが可能である。
対象特定処理部25は、指示キーワード判定処理部24により指示キーワードが含まれると判定された場合に、AR端末21の視線検出部23からの視線情報に基づいて処理対象を特定する。対象特定処理部25は、例えば表示部22上で視線が向いている物品あるいはその一部を対象物として特定する。
画像合成処理部26は、対象特定処理部25により特定された対象物を、対象物以外の物と区別可能なように識別表示する画像を生成し、AR端末21の表示部22に送信する。識別表示は、例えば対象物を着色したり、対象物を囲む線を表示する等である。
対象特定処理部25による特定結果は、必要に応じて、画面更新処理実行部12による画面更新処理、動作不良対処処理実行部14による動作不良対処処理、運転制御処理実行部17による運転制御処理に用いられる。例えば、作業者が特定のモータ9の状態を見たい場合に、当該モータ9を見ながら「あれのモニタ画面」と言う等により、画面更新処理実行部12は、タッチパネル4の画面を当該モータ9の状態を含むモニタ画面に更新する。また例えば、食品作業装置2の特定の部位が動作不良である場合に、作業者が当該部位を見ながら「これが動かない」と言う等により、動作不良対処処理実行部14は当該部位の動作不良に対する対処方法を対処方法データベース20から取得し、タッチパネル4に表示すると共に音声出力する。また例えば、特定のモータ9についてサーボオンさせたい場合に、作業者が当該モータ9を見ながら「それをサーボオン」と言う等により、運転制御処理実行部17は当該モータ9のサーボオンを実行する。
音声認識装置6Aの上記以外の構成は、前述の実施形態における音声認識装置6と同様であるので説明を省略する。
次に、図8を参照しつつ、本変形例に係る音声認識装置6Aにより実行される対象特定処理の処理手順の一例について説明する。音声認識装置6Aは、図8に示す対象特定処理を、前述の図3〜図5で説明した処理と同時に並行して実行する。
図8において、ステップS51〜ステップS55は、前述の図3におけるステップS1〜ステップS5と同様であるので説明を省略する。
ステップS57では、音声認識装置6Aは、指示キーワード判定処理部24により、上記ステップS53で変換されたテキストに、あいまいな指示語に関わる指示キーワードが含まれるか否かを判定する。指示キーワードが含まれない場合には(ステップS57:NO)、本フローを終了する。一方、指示キーワードが含まれる場合には(ステップS57:YES)、ステップS59に移る。
ステップS59では、音声認識装置6Aは、AR端末21の表示部22上で対象物が指定されているか否かを判定する。対象物が指定されているか否かは、例えば作業者が視線を特定の物品あるいはその一部に所定時間以上継続して向けているか否かにより判定される。対象物が指定されていない場合には(ステップS59:NO)、ステップS61に移る。
ステップS61では、音声認識装置6Aは、音声合成処理部18により、対象物を視線で指定するように作業者を促す音声を合成し、音声出力装置7により出力させる。なお、音声に加えて又は代えて、表示部22上に対象物を指定するように促す表示を行ってもよい。その後、上記ステップS59に戻る。
ステップS59において、対象物が指定されている場合には(ステップS59:YES)、ステップS63に移る。
ステップS63では、音声認識装置6Aは、対象特定処理部25により、視線検出部23からの視線情報に基づいて視線で指定された対象物を特定する。
ステップS65では、音声認識装置6Aは、画像合成処理部26により、上記ステップS63で特定された対象物を、対象物以外の物と区別可能なように識別表示する画像を生成してAR端末21の表示部22に送信する。これにより、表示部22上で対象物が識別可能に表示される。以上により本フローを終了する。
なお、上記ステップS63において特定された対象物の情報は、前述のように、画面更新処理実行部12による画面更新処理(図3のステップS9〜ステップS11)、動作不良対処処理実行部14による動作不良対処処理(図4のステップS19〜ステップS31)、運転制御処理実行部17による運転制御処理(図5のステップS39〜ステップS41)に用いられる。
以上説明した変形例によれば、作業者が見ているものを例えば「あれ」や「それ」というようなあいまいな指示語で入力した場合でも、作業者の意図を推測して対象を特定し、適切な入力として処理することができる。
(5−2.アラームの発生により動作不良対処処理を実行する場合)
前述の実施形態では、作業者が音声で動作不良キーワードを入力した際に動作不良対処処理を実行する場合について説明したが、作業者が音声入力に関わらず、アラームの発生により動作不良対処処理を実行してもよい。
図9を参照しつつ、本変形例に係る音声認識装置6B(図示省略)により実行される処理手順の一例について説明する。
図9に示すように、ステップS71では、音声認識装置6Bは、アラーム判定処理部15により、コントローラ3がアラームを発生しているか否かを判定する。アラームが発生するまで本ステップを繰り返し(ステップS71:NO)、アラームが発生中した場合には(ステップS71:YES)ステップS73に移る。
ステップS73では、音声認識装置6Bは、動作不良対処処理実行部14により、コントローラ3からアラーム情報を読み出す。
ステップS75では、音声認識装置6Bは、動作不良対処処理実行部14により、対処方法データベース20を参照し、上記ステップS73で読み出したアラーム情報に基づいて動作不良に対する対処方法を特定する。
ステップS77では、音声認識装置6Bは、追加情報が必要か否かを判定する。追加情報が不要である場合には(ステップS77:NO)、後述のステップS83に移る。追加情報が必要である場合には(ステップS77:YES)、ステップS79に移る。
ステップS79では、音声認識装置6Bは、動作不良対処処理実行部14により、作業者に追加情報(動作不良の状態等)を要求する。例えば、確認事項をタッチパネル4に表示するとともに、音声出力装置7から出力する。
ステップS81では、音声認識装置6Bは、テキスト変換処理部10により作業者が回答した音声をテキスト変換して追加情報を取得し、動作不良対処処理実行部14により、取得した追加情報に基づいて対処方法データベース20を参照して対処方法を特定する。
ステップS83では、音声認識装置6Bは、動作不良対処処理実行部14により、上記ステップS75又は上記ステップS81において特定した対処方法をコントローラ3に送信し、タッチパネル4に表示させる。また、音声認識装置6は、音声合成処理部18により上記対処方法の内容を表す音声を合成し、音声出力装置7により出力させる。
ステップS85では、音声認識装置6Bは、音声入力装置5から対処完了キーワードを含む音声が入力されたか否かを判定する。対処完了キーワードが入力されるまで本ステップを繰り返し(ステップS85:NO)、対処完了キーワードが入力された場合には(ステップS85:YES)、ステップS87に移る。
ステップS87では、音声認識装置6Bは、コントローラ3に指令を送信し、食品作業装置2を運転待機状態とする。その後、本フローを終了する。
(5−3.トラブル対応の履歴等を学習する場合)
例えば、動作不良等のトラブルに対応した際に、その履歴等を音声認識装置6に学習させてもよい。図示は省略するが、例えば作業者が音声入力装置5から対処完了キーワードを含む音声を入力する際に、動作不良対処処理により出力された対処方法と異なる対処方法を実行した場合や、新たな動作不良等のトラブルに対処した場合には、その履歴や対処方法について音声等により入力してもよい。当該入力内容を、対応するアラームや動作不良の状態等と関連づけて対処方法データベース20に蓄積していくことで、音声認識装置6にトラブル対応を学習させることができる。
<6.音声認識装置のハードウェア構成例>
次に、図10を参照しつつ、以上において説明したCPU901が実行するプログラムにより実装された各処理部、各実行部による処理を実現する音声認識装置6(6A,6B)のハードウェア構成例について説明する。
図10に示すように、音声認識装置6(6A,6B)は、例えば、CPU901と、ROM903と、RAM905と、ASIC又はFPGA等の特定の用途向けに構築された専用集積回路907と、入力装置913と、出力装置915と、記録装置917と、ドライブ919と、接続ポート921と、通信装置923とを有する。これらの構成は、バス909や入出力インターフェース911を介し相互に信号を伝達可能に接続されている。
プログラムは、例えば、ROM903やRAM905、記録装置917等に記録しておくことができる。
また、プログラムは、例えば、フレキシブルディスクなどの磁気ディスク、各種のCD・MOディスク・DVD等の光ディスク、半導体メモリ等のリムーバブルな記録媒体925に、一時的又は非一時的(永続的)に記録しておくこともできる。このような記録媒体925は、いわゆるパッケージソフトウエアとして提供することもできる。この場合、これらの記録媒体925に記録されたプログラムは、ドライブ919により読み出されて、入出力インターフェース911やバス909等を介し上記記録装置917に記録されてもよい。
また、プログラムは、例えば、ダウンロードサイト・他のコンピュータ・他の記録装置等(図示せず)に記録しておくこともできる。この場合、プログラムは、LANやインターネット等のネットワークNWを介し転送され、通信装置923がこのプログラムを受信する。そして、通信装置923が受信したプログラムは、入出力インターフェース911やバス909等を介し上記記録装置917に記録されてもよい。
また、プログラムは、例えば、適宜の外部接続機器927に記録しておくこともできる。この場合、プログラムは、適宜の接続ポート921を介し転送され、入出力インターフェース911やバス909等を介し上記記録装置917に記録されてもよい。
そして、CPU901が、上記記録装置917に記録されたプログラムに従い各種の処理を実行することにより、上記の各処理部、各実行部による処理が実現される。この際、CPU901は、例えば、上記記録装置917からプログラムを直接読み出して実行してもよいし、RAM905に一旦ロードした上で実行してもよい。更にCPU901は、例えば、プログラムを通信装置923やドライブ919、接続ポート921を介し受信する場合、受信したプログラムを記録装置917に記録せずに直接実行してもよい。
また、CPU901は、必要に応じて、例えばマウス・キーボード・マイク(図示せず)等の入力装置913から入力する信号や情報に基づいて各種の処理を行ってもよい。
そして、CPU901は、上記の処理を実行した結果を、例えば表示装置や音声出力装置等の出力装置915から出力してもよく、さらにCPU901は、必要に応じてこの処理結果を通信装置923や接続ポート921を介し送信してもよく、上記記録装置917や記録媒体925に記録させてもよい。
なお、以上既に述べた以外にも、上記実施形態や各変形例による手法を適宜組み合わせて利用しても良い。その他、一々例示はしないが、上記実施形態や各変形例は、その趣旨を逸脱しない範囲内において、種々の変更が加えられて実施されるものである。
1 食品処理システム
1A 食品処理システム
2 食品作業装置
3 コントローラ
4 タッチパネル(表示装置)
5 音声入力装置
6 音声認識装置
6A 音声認識装置
6B 音声認識装置
7 音声出力装置
11 画面更新キーワード判定処理部(第1キーワード判定処理部)
12 画面更新処理実行部(第1処理実行部)
13 動作不良キーワード判定処理部(第2キーワード判定処理部)
14 動作不良対処処理実行部(第2処理実行部)
15 アラーム判定処理部
16 運転制御キーワード判定処理部(第3キーワード判定処理部)
17 運転制御処理実行部(第3処理実行部)
18 音声合成処理部
23 視線検出部(視線検出装置)
24 指示キーワード判定処理部(第4キーワード判定処理部)
25 対象特定処理部

Claims (5)

  1. 食品に所定の作業を行う食品作業装置と、
    前記食品作業装置を制御するコントローラと、
    作業者の音声を入力する音声入力装置と、
    入力された前記音声を認識し、認識結果に基づいて前記コントローラに所定の処理を実行させる音声認識装置と、
    前記コントローラによる前記食品作業装置の運転に関わる画面を表示する表示装置と、を有し、
    前記音声認識装置は、
    認識した前記音声に、前記食品作業装置の動作不良の状態に関わる動作不良キーワードが含まれるか否かを判定する動作不良キーワード判定処理部と、
    前記認識した音声に前記動作不良キーワードが含まれる場合に、前記動作不良キーワードに対応する前記動作不良の対処方法を前記表示装置に表示する動作不良対処処理を前記コントローラに実行させる動作不良対処処理実行部と、
    前記コントローラがアラームを発生しているか否かを判定するアラーム判定処理部と、
    アラーム情報とこれに対応する対処方法とを格納した第1対処方法データベースと、
    動作不良の状態とこれに対応する対処方法とを格納した第2対処方法データベースと、
    を有し、
    前記動作不良対処処理実行部は、
    前記アラームが発生している場合には、前記第1対処方法データベースを参照し、前記コントローラのアラーム情報に基づいて前記対処方法を取得する第1処理を実行し、
    前記アラームが発生していない場合には、前記作業者に追加情報を要求し、当該追加情報に基づいて前記第2対処方法データベースを参照し、前記対処方法を取得する第2処理を実行する
    ことを特徴とする食品処理システム。
  2. 前記音声認識装置は、
    認識した前記音声に、前記表示装置の画面更新に関わる画面更新キーワードが含まれるか否かを判定する画面更新キーワード判定処理部と、
    前記認識した音声に前記画面更新キーワードが含まれる場合に、前記表示装置の画面を前記画面更新キーワードに対応する画面に更新する画面更新処理を前記コントローラに実行させる画面更新処理実行部と、を有する
    ことを特徴とする請求項1に記載の食品処理システム。
  3. 前記音声認識装置は、
    認識した前記音声に、前記食品作業装置の運転制御に関わる運転制御キーワードが含まれるか否かを判定する運転制御キーワード判定処理部と、
    前記認識した音声に前記運転制御キーワードが含まれる場合に、前記運転制御キーワードに対応する運転制御を実行するための運転制御処理を前記コントローラに実行させる運転制御処理実行部と、を有する
    ことを特徴とする請求項1又は請求項2記載の食品処理システム。
  4. 前記音声認識装置は、
    前記コントローラに実行させた処理に関わる内容を表す音声を合成する音声合成処理部を有し、
    前記食品処理システムは、
    前記音声合成処理部により合成した前記音声を出力する音声出力装置をさらに有する
    ことを特徴とする請求項1乃至3のいずれか1項に記載の食品処理システム。
  5. 作業者の視線を検出する視線検出装置をさらに有し、
    前記音声認識装置は、
    認識した前記音声に、あいまいな指示語に関わる指示キーワードが含まれるか否かを判定する指示キーワード判定処理部と、
    前記認識した音声に前記指示キーワードが含まれる場合に、前記視線の検出結果に基づいて処理対象を特定する対象特定処理部と、を有する
    ことを特徴とする請求項1乃至4のいずれか1項に記載の食品処理システム。
JP2018161432A 2018-08-30 2018-08-30 食品処理システム Active JP6741968B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018161432A JP6741968B2 (ja) 2018-08-30 2018-08-30 食品処理システム
US16/547,836 US11238861B2 (en) 2018-08-30 2019-08-22 Food processing system
KR1020190106235A KR102312465B1 (ko) 2018-08-30 2019-08-29 식품 처리 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018161432A JP6741968B2 (ja) 2018-08-30 2018-08-30 食品処理システム

Publications (2)

Publication Number Publication Date
JP2020035191A JP2020035191A (ja) 2020-03-05
JP6741968B2 true JP6741968B2 (ja) 2020-08-19

Family

ID=69641482

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018161432A Active JP6741968B2 (ja) 2018-08-30 2018-08-30 食品処理システム

Country Status (3)

Country Link
US (1) US11238861B2 (ja)
JP (1) JP6741968B2 (ja)
KR (1) KR102312465B1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118077187A (zh) * 2021-10-12 2024-05-24 喜思纳株式会社 电话会议系统

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6728343B1 (en) * 1998-03-16 2004-04-27 Conair Corporation User appliance with voice help guide
JP2002091554A (ja) * 2000-09-11 2002-03-29 Toshiba Corp プラント運転支援装置
JP2005037597A (ja) * 2003-07-18 2005-02-10 Fuji Photo Film Co Ltd 設備の制御システム
JP2006085547A (ja) * 2004-09-17 2006-03-30 Sanyo Electric Co Ltd 食品衛生管理ガイドシステム
JP2007027167A (ja) * 2005-07-12 2007-02-01 Yamagata Casio Co Ltd 部品搭載装置の非常停止方法
JP2009140239A (ja) * 2007-12-06 2009-06-25 Hitachi Ltd 音声認識によるプラント監視装置
JP2009145402A (ja) * 2007-12-11 2009-07-02 Toyota Boshoku Corp 装置動作スイッチ
JP5461294B2 (ja) * 2010-05-06 2014-04-02 大和製衡株式会社 生産システム
CN104936495B (zh) * 2012-11-29 2018-02-02 德国福维克控股公司 电动的厨用机器
JP6346480B2 (ja) * 2014-03-25 2018-06-20 アンリツインフィビス株式会社 表示装置および物品検査システム
DE102014107163A1 (de) * 2014-05-21 2015-11-26 Vorwerk & Co. Interholding Gmbh Elektrisch betriebenes Haushaltsgerät
JP6213604B2 (ja) 2016-04-15 2017-10-18 株式会社安川電機 作業ロボット及び作業システム
JP6676494B2 (ja) * 2016-07-26 2020-04-08 大和製衡株式会社 重量選別機
WO2018147084A1 (ja) * 2017-02-07 2018-08-16 コニカミノルタ株式会社 視線情報共有方法および視線情報共有システム

Also Published As

Publication number Publication date
KR20200026131A (ko) 2020-03-10
US11238861B2 (en) 2022-02-01
KR102312465B1 (ko) 2021-10-13
US20200075005A1 (en) 2020-03-05
JP2020035191A (ja) 2020-03-05

Similar Documents

Publication Publication Date Title
Wang et al. Lami: Large language models for multi-modal human-robot interaction
KR101880775B1 (ko) 자연스러운 대화 인터페이스가 장착된 인간형 로봇, 이러한 로봇의 제어 방법 및 대응 프로그램
Dimitropoulos et al. Operator support in human–robot collaborative environments using AI enhanced wearable devices
US11586852B2 (en) System and method to modify training content presented by a training system based on feedback data
JPWO2017033367A1 (ja) 遠隔操作ロボットシステム
US20190389075A1 (en) Robot system and robot dialogue method
US11500915B2 (en) System and method to index training content of a training system
US11829126B2 (en) Systems and methods for providing context-based data for an industrial automation system based on a virtual coordinate system
JP6741968B2 (ja) 食品処理システム
US20230092405A1 (en) Systems and methods for providing context-based data for an industrial automation system
US20230091778A1 (en) Systems and methods for modifying context-based data provided for an industrial automation system
Chang et al. Specifying target objects in robot teleoperation using speech and natural eye gaze
Zhang et al. Multimodal" Puppeteer": Exploring Robot Teleoperation Via Virtual Counterpart with LLM-Driven Voice and Gesture Interaction in Augmented Reality
JP7506180B2 (ja) 教示支援装置、作業システム、教示支援方法および教示支援プログラム
US20210065020A1 (en) System and method to generate training content based on audio and image feedback data
US11651528B2 (en) Systems and methods for providing context-based data for an industrial automation system
JP2024031218A (ja) ロボット制御システム、ロボット制御方法、およびロボット制御プログラム
TW202335810A (zh) 教示操作盤及機器人控制系統
Loch et al. An adaptive speech interface for assistance in maintenance and changeover procedures
WO2024254582A1 (en) Human-in-loop robot training and testing system with generative artificial intelligence (ai)
JP5429461B2 (ja) コミュニケーションロボット開発支援装置
US12056924B2 (en) Systems and methods for providing context-based data to control a machine for an industrial automation system
Jawale et al. Improvisation in Human–Robot Interaction Using Optimized Multimodal Operational Techniques
JP7576729B1 (ja) 制御システム、制御方法及びプログラム
Shen et al. An Approach to Combining Video and Speech with Large Language Models in Human-Robot Interaction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190311

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190912

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20191205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200108

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200317

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200624

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200707

R150 Certificate of patent or registration of utility model

Ref document number: 6741968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250