JP6741968B2 - 食品処理システム - Google Patents
食品処理システム Download PDFInfo
- Publication number
- JP6741968B2 JP6741968B2 JP2018161432A JP2018161432A JP6741968B2 JP 6741968 B2 JP6741968 B2 JP 6741968B2 JP 2018161432 A JP2018161432 A JP 2018161432A JP 2018161432 A JP2018161432 A JP 2018161432A JP 6741968 B2 JP6741968 B2 JP 6741968B2
- Authority
- JP
- Japan
- Prior art keywords
- voice
- keyword
- food
- controller
- voice recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A23—FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
- A23B—PRESERVATION OF FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES; CHEMICAL RIPENING OF FRUIT OR VEGETABLES
- A23B2/00—Preservation of foods or foodstuffs, in general
- A23B2/001—Details of apparatus, e.g. pressure feed valves or for transport, or loading or unloading manipulation
-
- A—HUMAN NECESSITIES
- A23—FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
- A23L—FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES, NOT OTHERWISE PROVIDED FOR; PREPARATION OR TREATMENT THEREOF
- A23L5/00—Preparation or treatment of foods or foodstuffs, in general; Food or foodstuffs obtained thereby; Materials therefor
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Program-control systems
- G05B19/02—Program-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form
- G05B19/409—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form characterised by using manual data input [MDI] or by using control panel, e.g. controlling functions with the panel; characterised by control panel details or by setting parameters
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Program-control systems
- G05B19/02—Program-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form
- G05B19/416—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of program data in numerical form characterised by control of velocity, acceleration or deceleration
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/18—Status alarms
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B3/00—Audible signalling systems, e.g. audible personal calling systems
- G08B3/10—Audible signalling systems, e.g. audible personal calling systems using electric transmission; using electromagnetic transmission
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/04—Segmentation; Word boundary detection
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/083—Recognition networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- A—HUMAN NECESSITIES
- A23—FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
- A23L—FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES, NOT OTHERWISE PROVIDED FOR; PREPARATION OR TREATMENT THEREOF
- A23L5/00—Preparation or treatment of foods or foodstuffs, in general; Food or foodstuffs obtained thereby; Materials therefor
- A23L5/10—General methods of cooking foods, e.g. by roasting or frying
-
- A—HUMAN NECESSITIES
- A23—FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
- A23V—INDEXING SCHEME RELATING TO FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES AND LACTIC OR PROPIONIC ACID BACTERIA USED IN FOODSTUFFS OR FOOD PREPARATION
- A23V2002/00—Food compositions, function of food ingredients or processes for food or foodstuffs
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65B—MACHINES, APPARATUS OR DEVICES FOR, OR METHODS OF, PACKAGING ARTICLES OR MATERIALS; UNPACKING
- B65B65/00—Details peculiar to packaging machines and not otherwise provided for; Arrangements of such details
- B65B65/003—Packaging lines, e.g. general layout
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/45—Nc applications
- G05B2219/45054—Handling, conveyor
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L2015/088—Word spotting
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Polymers & Plastics (AREA)
- Food Science & Technology (AREA)
- Chemical & Material Sciences (AREA)
- Manufacturing & Machinery (AREA)
- Automation & Control Theory (AREA)
- Nutrition Science (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Electromagnetism (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Wood Science & Technology (AREA)
- Zoology (AREA)
- User Interface Of Digital Computer (AREA)
Description
まず、図1を参照しつつ、本実施形態に係る食品処理システムの全体構成の一例について説明する。
次に、図2を参照しつつ、音声認識装置6の機能構成の一例について説明する。
次に、図3〜図5を参照しつつ、音声認識装置6により実行される処理手順の一例について説明する。
以上説明したように、本実施形態の食品処理システム1は、食品に所定の作業を行う食品作業装置2と、食品作業装置2を制御するコントローラ3と、作業者の音声を入力する音声入力装置5と、入力された音声を認識し、認識結果に基づいてコントローラ3に所定の処理を実行させる音声認識装置6と、を有する。これにより、次の効果を得る。
なお、開示の実施形態は、上記に限られるものではなく、その趣旨及び技術的思想を逸脱しない範囲内で種々の変形が可能である。以下、そのような変形例を説明する。
まず、図6を参照しつつ、本変形例に係る食品処理システム1Aの全体構成の一例について説明する。なお、図6では前述の図1と同様の構成には同じ符号を付し、適宜説明を省略する。
前述の実施形態では、作業者が音声で動作不良キーワードを入力した際に動作不良対処処理を実行する場合について説明したが、作業者が音声入力に関わらず、アラームの発生により動作不良対処処理を実行してもよい。
例えば、動作不良等のトラブルに対応した際に、その履歴等を音声認識装置6に学習させてもよい。図示は省略するが、例えば作業者が音声入力装置5から対処完了キーワードを含む音声を入力する際に、動作不良対処処理により出力された対処方法と異なる対処方法を実行した場合や、新たな動作不良等のトラブルに対処した場合には、その履歴や対処方法について音声等により入力してもよい。当該入力内容を、対応するアラームや動作不良の状態等と関連づけて対処方法データベース20に蓄積していくことで、音声認識装置6にトラブル対応を学習させることができる。
次に、図10を参照しつつ、以上において説明したCPU901が実行するプログラムにより実装された各処理部、各実行部による処理を実現する音声認識装置6(6A,6B)のハードウェア構成例について説明する。
1A 食品処理システム
2 食品作業装置
3 コントローラ
4 タッチパネル(表示装置)
5 音声入力装置
6 音声認識装置
6A 音声認識装置
6B 音声認識装置
7 音声出力装置
11 画面更新キーワード判定処理部(第1キーワード判定処理部)
12 画面更新処理実行部(第1処理実行部)
13 動作不良キーワード判定処理部(第2キーワード判定処理部)
14 動作不良対処処理実行部(第2処理実行部)
15 アラーム判定処理部
16 運転制御キーワード判定処理部(第3キーワード判定処理部)
17 運転制御処理実行部(第3処理実行部)
18 音声合成処理部
23 視線検出部(視線検出装置)
24 指示キーワード判定処理部(第4キーワード判定処理部)
25 対象特定処理部
Claims (5)
- 食品に所定の作業を行う食品作業装置と、
前記食品作業装置を制御するコントローラと、
作業者の音声を入力する音声入力装置と、
入力された前記音声を認識し、認識結果に基づいて前記コントローラに所定の処理を実行させる音声認識装置と、
前記コントローラによる前記食品作業装置の運転に関わる画面を表示する表示装置と、を有し、
前記音声認識装置は、
認識した前記音声に、前記食品作業装置の動作不良の状態に関わる動作不良キーワードが含まれるか否かを判定する動作不良キーワード判定処理部と、
前記認識した音声に前記動作不良キーワードが含まれる場合に、前記動作不良キーワードに対応する前記動作不良の対処方法を前記表示装置に表示する動作不良対処処理を前記コントローラに実行させる動作不良対処処理実行部と、
前記コントローラがアラームを発生しているか否かを判定するアラーム判定処理部と、
アラーム情報とこれに対応する対処方法とを格納した第1対処方法データベースと、
動作不良の状態とこれに対応する対処方法とを格納した第2対処方法データベースと、
を有し、
前記動作不良対処処理実行部は、
前記アラームが発生している場合には、前記第1対処方法データベースを参照し、前記コントローラのアラーム情報に基づいて前記対処方法を取得する第1処理を実行し、
前記アラームが発生していない場合には、前記作業者に追加情報を要求し、当該追加情報に基づいて前記第2対処方法データベースを参照し、前記対処方法を取得する第2処理を実行する
ことを特徴とする食品処理システム。 - 前記音声認識装置は、
認識した前記音声に、前記表示装置の画面更新に関わる画面更新キーワードが含まれるか否かを判定する画面更新キーワード判定処理部と、
前記認識した音声に前記画面更新キーワードが含まれる場合に、前記表示装置の画面を前記画面更新キーワードに対応する画面に更新する画面更新処理を前記コントローラに実行させる画面更新処理実行部と、を有する
ことを特徴とする請求項1に記載の食品処理システム。 - 前記音声認識装置は、
認識した前記音声に、前記食品作業装置の運転制御に関わる運転制御キーワードが含まれるか否かを判定する運転制御キーワード判定処理部と、
前記認識した音声に前記運転制御キーワードが含まれる場合に、前記運転制御キーワードに対応する運転制御を実行するための運転制御処理を前記コントローラに実行させる運転制御処理実行部と、を有する
ことを特徴とする請求項1又は請求項2記載の食品処理システム。 - 前記音声認識装置は、
前記コントローラに実行させた処理に関わる内容を表す音声を合成する音声合成処理部を有し、
前記食品処理システムは、
前記音声合成処理部により合成した前記音声を出力する音声出力装置をさらに有する
ことを特徴とする請求項1乃至3のいずれか1項に記載の食品処理システム。 - 作業者の視線を検出する視線検出装置をさらに有し、
前記音声認識装置は、
認識した前記音声に、あいまいな指示語に関わる指示キーワードが含まれるか否かを判定する指示キーワード判定処理部と、
前記認識した音声に前記指示キーワードが含まれる場合に、前記視線の検出結果に基づいて処理対象を特定する対象特定処理部と、を有する
ことを特徴とする請求項1乃至4のいずれか1項に記載の食品処理システム。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018161432A JP6741968B2 (ja) | 2018-08-30 | 2018-08-30 | 食品処理システム |
| US16/547,836 US11238861B2 (en) | 2018-08-30 | 2019-08-22 | Food processing system |
| KR1020190106235A KR102312465B1 (ko) | 2018-08-30 | 2019-08-29 | 식품 처리 시스템 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018161432A JP6741968B2 (ja) | 2018-08-30 | 2018-08-30 | 食品処理システム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2020035191A JP2020035191A (ja) | 2020-03-05 |
| JP6741968B2 true JP6741968B2 (ja) | 2020-08-19 |
Family
ID=69641482
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018161432A Active JP6741968B2 (ja) | 2018-08-30 | 2018-08-30 | 食品処理システム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11238861B2 (ja) |
| JP (1) | JP6741968B2 (ja) |
| KR (1) | KR102312465B1 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118077187A (zh) * | 2021-10-12 | 2024-05-24 | 喜思纳株式会社 | 电话会议系统 |
Family Cites Families (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6728343B1 (en) * | 1998-03-16 | 2004-04-27 | Conair Corporation | User appliance with voice help guide |
| JP2002091554A (ja) * | 2000-09-11 | 2002-03-29 | Toshiba Corp | プラント運転支援装置 |
| JP2005037597A (ja) * | 2003-07-18 | 2005-02-10 | Fuji Photo Film Co Ltd | 設備の制御システム |
| JP2006085547A (ja) * | 2004-09-17 | 2006-03-30 | Sanyo Electric Co Ltd | 食品衛生管理ガイドシステム |
| JP2007027167A (ja) * | 2005-07-12 | 2007-02-01 | Yamagata Casio Co Ltd | 部品搭載装置の非常停止方法 |
| JP2009140239A (ja) * | 2007-12-06 | 2009-06-25 | Hitachi Ltd | 音声認識によるプラント監視装置 |
| JP2009145402A (ja) * | 2007-12-11 | 2009-07-02 | Toyota Boshoku Corp | 装置動作スイッチ |
| JP5461294B2 (ja) * | 2010-05-06 | 2014-04-02 | 大和製衡株式会社 | 生産システム |
| CN104936495B (zh) * | 2012-11-29 | 2018-02-02 | 德国福维克控股公司 | 电动的厨用机器 |
| JP6346480B2 (ja) * | 2014-03-25 | 2018-06-20 | アンリツインフィビス株式会社 | 表示装置および物品検査システム |
| DE102014107163A1 (de) * | 2014-05-21 | 2015-11-26 | Vorwerk & Co. Interholding Gmbh | Elektrisch betriebenes Haushaltsgerät |
| JP6213604B2 (ja) | 2016-04-15 | 2017-10-18 | 株式会社安川電機 | 作業ロボット及び作業システム |
| JP6676494B2 (ja) * | 2016-07-26 | 2020-04-08 | 大和製衡株式会社 | 重量選別機 |
| WO2018147084A1 (ja) * | 2017-02-07 | 2018-08-16 | コニカミノルタ株式会社 | 視線情報共有方法および視線情報共有システム |
-
2018
- 2018-08-30 JP JP2018161432A patent/JP6741968B2/ja active Active
-
2019
- 2019-08-22 US US16/547,836 patent/US11238861B2/en active Active
- 2019-08-29 KR KR1020190106235A patent/KR102312465B1/ko active Active
Also Published As
| Publication number | Publication date |
|---|---|
| KR20200026131A (ko) | 2020-03-10 |
| US11238861B2 (en) | 2022-02-01 |
| KR102312465B1 (ko) | 2021-10-13 |
| US20200075005A1 (en) | 2020-03-05 |
| JP2020035191A (ja) | 2020-03-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Wang et al. | Lami: Large language models for multi-modal human-robot interaction | |
| KR101880775B1 (ko) | 자연스러운 대화 인터페이스가 장착된 인간형 로봇, 이러한 로봇의 제어 방법 및 대응 프로그램 | |
| Dimitropoulos et al. | Operator support in human–robot collaborative environments using AI enhanced wearable devices | |
| US11586852B2 (en) | System and method to modify training content presented by a training system based on feedback data | |
| JPWO2017033367A1 (ja) | 遠隔操作ロボットシステム | |
| US20190389075A1 (en) | Robot system and robot dialogue method | |
| US11500915B2 (en) | System and method to index training content of a training system | |
| US11829126B2 (en) | Systems and methods for providing context-based data for an industrial automation system based on a virtual coordinate system | |
| JP6741968B2 (ja) | 食品処理システム | |
| US20230092405A1 (en) | Systems and methods for providing context-based data for an industrial automation system | |
| US20230091778A1 (en) | Systems and methods for modifying context-based data provided for an industrial automation system | |
| Chang et al. | Specifying target objects in robot teleoperation using speech and natural eye gaze | |
| Zhang et al. | Multimodal" Puppeteer": Exploring Robot Teleoperation Via Virtual Counterpart with LLM-Driven Voice and Gesture Interaction in Augmented Reality | |
| JP7506180B2 (ja) | 教示支援装置、作業システム、教示支援方法および教示支援プログラム | |
| US20210065020A1 (en) | System and method to generate training content based on audio and image feedback data | |
| US11651528B2 (en) | Systems and methods for providing context-based data for an industrial automation system | |
| JP2024031218A (ja) | ロボット制御システム、ロボット制御方法、およびロボット制御プログラム | |
| TW202335810A (zh) | 教示操作盤及機器人控制系統 | |
| Loch et al. | An adaptive speech interface for assistance in maintenance and changeover procedures | |
| WO2024254582A1 (en) | Human-in-loop robot training and testing system with generative artificial intelligence (ai) | |
| JP5429461B2 (ja) | コミュニケーションロボット開発支援装置 | |
| US12056924B2 (en) | Systems and methods for providing context-based data to control a machine for an industrial automation system | |
| Jawale et al. | Improvisation in Human–Robot Interaction Using Optimized Multimodal Operational Techniques | |
| JP7576729B1 (ja) | 制御システム、制御方法及びプログラム | |
| Shen et al. | An Approach to Combining Video and Speech with Large Language Models in Human-Robot Interaction |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190213 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190311 |
|
| A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190912 |
|
| A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20191205 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191217 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200108 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20200317 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20200317 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200327 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200427 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200624 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200707 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6741968 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |