Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7486751B2 - 作業稼働率測定装置及び作業稼働率測定方法 - Google Patents
[go: Go Back, main page]

JP7486751B2 - 作業稼働率測定装置及び作業稼働率測定方法 - Google Patents

作業稼働率測定装置及び作業稼働率測定方法 Download PDF

Info

Publication number
JP7486751B2
JP7486751B2 JP2022137970A JP2022137970A JP7486751B2 JP 7486751 B2 JP7486751 B2 JP 7486751B2 JP 2022137970 A JP2022137970 A JP 2022137970A JP 2022137970 A JP2022137970 A JP 2022137970A JP 7486751 B2 JP7486751 B2 JP 7486751B2
Authority
JP
Japan
Prior art keywords
work
worker
cameras
hand
availability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022137970A
Other languages
English (en)
Other versions
JP2022164831A5 (ja
JP2022164831A (ja
Inventor
豊 松林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC Platforms Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Platforms Ltd filed Critical NEC Platforms Ltd
Priority to JP2022137970A priority Critical patent/JP7486751B2/ja
Publication of JP2022164831A publication Critical patent/JP2022164831A/ja
Publication of JP2022164831A5 publication Critical patent/JP2022164831A5/ja
Application granted granted Critical
Publication of JP7486751B2 publication Critical patent/JP7486751B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06398Performance of employee with respect to a job function
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Development Economics (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Game Theory and Decision Science (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Primary Health Care (AREA)
  • Manufacturing & Machinery (AREA)
  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、工場等の生産ラインの作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置及び作業稼働率測定方法に関する。
工場など製造業界では、IoT(Internet of Things)の活用が進み始めており、カメラなどで動画を撮影し、それを分析することにより、物のトレーサビリティの管理などに活用している場面が増加してきている。
そして、工場などでは、このような画像を利用した分析のために、工場向けにVMS(Video Management System)の活用が近年増えており、工場内にカメラが設置され、画像データを様々な形で人工知能(AI:Artificial Intelligence))や機械学習などを使って分析して、全体をスマートファクトリ化しようとする流れがある。
しかしながら、現状における工場内のライン管理者は、作業者に対して作業確認のためのヒアリングを実施する程度であり、実際に作業者が稼働していない状況、例えば、単に作業場所に立っているだけで手が動いていない等の状況を把握することが難しい。
このときの作業確認のためのヒアリングでは、複数の工程の実際の作業を目視により確認しつつ、当該作業の時間をストップウォッチにより計測するという手間を必要としていた。
そして、このような問題を軽減するために以下の特許文献1~3が提案されている。
特許文献1に示される技術では、動作が開始されてから終了するまでの実測値を求め、求めた実測値と特定した動作の内容とを用いて、動作の内容と時間との関係を規定するモデルを構築する動作特定部を有する。
この動作特定部では、第1の位置情報としてデプスセンサから深度付の画像データを取得し、第2の位置情報としてデジタルカメラから画像データを取得する位置情報取得部の実測値に基づき、作業者の手の位置を特定する。
さらに、この動作特定部では、特定した作業者の手の位置に基づき、作業者が行なった動作内容を特定するとともに、特定された動作内容と、取得された実測値とを用いてモデルの構築又は更新を実行する。
特許文献2に示される技術では、カラーまたはモノクロ画像を生成できるカメラ等からなる距離センサと、作業台上で一連の作業を作業者が実行する間に撮影された時系列の複数の距離画像のそれぞれから、作業者の手を検出するプロセッサとを有する。
プロセッサの手領域検出部では、画像上の手を検出するように予め学習された識別器を用いて手領域を検出することができ、また、画像の着目領域から抽出されたHOG特徴量(Histograms of Oriented Gradients)を識別器に入力することで、その着目領域に手領域が含まれるか否かを判定できる。
特許文献3に示される技術では、サーバを制御する制御部内の分析部に、作業時間計測部と滞留時間計測部とを備える。
作業時間計測部では持ち場で作業者が実際に作業している時間を計測し、滞留時間計測部では持ち場に作業者がいる時間を計測する。その後、分析結果表示画面では、分析用の映像が表示され、この映像上に分析情報、すなわち、これら計測結果に基づく作業時間及び滞留時間が重畳表示される。
国際公開第2017/222070号公報 特開2019-120577号公報 特開2019-200560号公報
上述した特許文献1~3には、動作内容と時間との関係を規定してモデル化するための技術、作業者が実行した作業量を計測しかつ計測後のデータを表示するための技術が示されている。
しかしながら、これら特許文献1~3には、これら各技術が個別に示されるだけであり、これら技術を如何にして関連付けるかについての具体策が示されていない。
この発明は、上述した事情に鑑みてなされたものであって、これまでにない新たな手法により、作業台上で実施されている作業の状況を効率良く分析して数値化することができる作業稼働率測定装置及び作業稼働率測定方法を提供する。
上記課題を解決するために、この発明は以下の手段を提案している。
本発明の第1態様は、複数の工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置であって、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、該カメラ毎の機械学習モデルを作成するモデル作成手段と、実際の作業を行っている画像に対して、前記モデル作成手段で作成された機械学習モデルを使って作業者の手の位置が作業枠内に含まれるか否かを解析するとともに該解析データを時系列に保存するデータ解析保存手段と、該データ解析保存手段で保存された解析データを使って各作業枠内の稼働率を求める稼働率演算手段と、を有することを特徴とする。
本発明の第2態様は、複数の工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定方法であって、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、該カメラ毎の機械学習モデルを作成するモデル作成工程と、実際の作業を行っている画像に対して、前記モデル作成工程で作成された機械学習モデルを使って作業者の手の位置が作業枠内に含まれるか解析するとともに該解析データを時系列に保存するデータ解析保存工程と、該データ解析保存工程で保存された解析データを使って各作業枠内の稼働率を求める稼働率演算工程と、を有することを特徴とする。
本発明では、複数の工程の作業枠のカメラ毎に機械学習モデルを設定し、事前学習までを含めることで、様々な環境における手を精度良く検出でき、複数の工程の稼働率を効率良く把握することができる。
本発明に係る作業稼働率測定装置の最小構成を示す図である。 本発明の実施形態に係る作業稼働率測定装置の概略構成図である。 画像エリア内にて機械学習を実施するための手順を示す説明図である。 画像エリア内の作業枠のサイズを確定させるための手順を示す説明図である。 作業工程内において実際の手を検出するためのイメージ図である。 クライアント端末(PC)での稼働率の表示例を示す図である。 作業稼働率測定装置の具体的動作を示すフローチャートである。
本発明に係る作業稼働率測定装置10の最小構成について図1を参照して説明する。この作業稼働率測定装置10は、モデル作成手段1、データ解析保存手段2及び稼働率演算手段3を有するものであって、これら手段1~3により、生産ラインの工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する。
作業稼働率測定装置10を構成する各手段1~3について説明する。
モデル作成手段1は、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、カメラ毎の機械学習モデルを作成する。
データ解析保存手段2は、実際の作業を行っている画像に対して、モデル作成手段1で作成された機械学習モデルを使って、作業者の手の位置が作業枠内に含まれるか否かを解析するとともに該解析データを時系列に保存する。
稼働率演算手段3は、データ解析保存手段2で保存された解析データを使って各作業枠内の稼働率を求める。
そして、以上のように構成された本発明の作業稼働率測定装置10によれば、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、該カメラ毎の機械学習モデルを作成する。
その後、実際の作業を行っている画像に対して、モデル作成手段1で作成された機械学習モデルを使って作業者の手の位置が作業枠内に含まれるか否かを解析するとともに該解析データを時系列に保存した後、該保存された解析データを使って各作業枠内の稼働率を求めることができる。
これにより本発明の作業稼働率測定装置10では、作業者の手のみを検出対象として複数の工程の稼働率を求めることができるので、全体の制御動作が軽くなり、リアルタイムでの稼働率検出が可能となる。
また、本発明の作業稼働率測定装置10では、複数の工程の作業枠のカメラ毎に機械学習モデルを設定し、事前学習までを含めることで、様々な環境における手を精度良く検出することができ、複数の工程の稼働率を効率良く把握することができる。
(実施形態)
本発明の実施形態について図2~図7を参照して説明する。
図2は実施形態に係る作業稼働率測定装置100の全体構成図であって、ネットワークNに直接接続された動作制御部11、データ処理部12及び撮影部13を有する。
撮影部13で撮影される撮影エリアは符号EAで示されている。また、撮影部13側のネットワークNは、動作制御部11及びデータ処理部12側のネットワークNに対してハブ14を介して接続されている。
また、これらの構成要素は工場内に設置されている。
動作制御部11は作業稼働率測定装置100内のネットワークN全体の動作を制御するクライアント端末(PC)であって、モデル作成手段11Aと、データ解析保存手段11B及び稼働率演算手段11Cを有する。
モデル作成手段11Aは、複数の工程に設置されたカメラ(符号CAで示す)(後述する)で撮影エリアEA内を撮影するとともに、その撮影データに基づき作業枠(符号FLで示す)(後述する)内にかざした作業者の手の位置を機械学習させ、カメラCA毎の機械学習モデルを作成する。
データ解析保存手段11Bは、実際の作業を行っている画像に対して、モデル作成手段11Aで作成された機械学習モデルを使って、作業者の手の位置が作業枠FL内に含まれるか否かを解析するとともに該解析データを時系列に保存する。
稼働率演算手段11Cは、データ解析保存手段11Bで保存された解析データを使って各作業枠FL内の稼働率を求める。
なお、これらモデル作成手段11A、データ解析保存手段11B、稼働率演算手段11Cで実施される具体的な処理については後述する。
また、動作制御部11を構成するクライアント端末(PC)は、図2に示されるように、GUI(Graphical User Interface)で表示できる画面を有するとともに、工場内において作業者の手の動きを機械学習させるサーバ22(後述する)及びその機会学習のインプットとなる画像を撮影するカメラCAにネットワーク接続されている。
データ処理部12は、工場向けのVMS(Video Management System)サーバ20、該VMSサーバ20を通じて供給されるカメラCAの撮影データを記憶する録画ストレージ21、及び録画ストレージ21に記憶する撮影データのホルダーを指定し、随時ログ(ログデータ)として保存する画像解析/WEB(World Wide Web)サーバ22等からなる。
なお、データ処理部12で保存されるカメラの撮影データ及び随時ログ(ログデータ)を解析データと定義する。
撮影部13は生産ライン30を撮影する複数のカメラCA(カメラC1,C2,C3,C4・・)からなるものであって、これらカメラCAにより各作業者の作業台をそれぞれ撮影する。
なお、図2において、カメラCA(カメラC1,C2,C3,C4・・)によりそれぞれ撮影される作業台上の撮影エリアEAには、図2に示されるように複数の作業枠FLが設定される。
また、図2では、一例として各作業台上の撮影エリアEA内に作業枠FLが4つ設定された場合の例(設定A~設定D)が示されている。
また、図2では、1つの生産ライン30が示されているが、複数の生産ライン30に同様の撮影エリアEAを設けて良い。
そして、以上のような作業稼働率測定装置100のモデル作成手段11Aでは、実際に作業者の手を検出する前に、工場内のカメラCA(カメラC1,C2,C3,C4・・)毎に、作業者がクライアント端末(PC)からの指示に従って、手をカメラCAの前で動かすことにより、その環境に応じた最適な機械学習モデルを作成する(図3~図4により後述する)。
その後、作業稼働率測定装置100のデータ解析保存手段11Bでは、カメラCA毎で最適化された機械学習モデルを使って手を検出し、予め設定したカメラCAのエリア内に検出した手が含まれるかを解析し、ログと検出した手を枠で表示した動画とをサーバ22に時刻毎のデータとして保存する(図5により後述する)。
その後、作業稼働率測定装置100の稼働率演算手段11Cでは、ログデータと動画を活用することで、ライン管理者がクライアント端末(PC)上にて1日の稼働率の状況を確認することができる(図6により後述する)。
次に、図7のフローチャートを参照して、作業稼働率測定装置100の動作制御部11、データ処理部12及び撮影部13の具体的動作についてステップ(S)毎に順次説明する。
なお、以下の「事前学習フェーズ」は動作制御部11のモデル作成手段11Aで実行される処理である。また、「事前学習後の作業範囲枠設定フェーズ」及び「手の検出フェーズ」は動作制御部11のデータ解析保存手段11Bで実行される処理である。また、「クライアント端末(PC)による稼働率確認」は動作制御部11の稼働率演算手段11Cで実行される処理である。
〔事前学習フェーズ〕
まず、動作制御部11のモデル作成手段11Aで実行される「事前学習フェーズ」について、ステップS1~S7を参照して説明する。
〔ステップS1〕
ステップS1では、工場の複数の工程にカメラCAが設置された状態において、カメラCA前の撮影エリアEAにて作業者に手をかざすように指示を出す(図3(A)参照)。なお、ステップS1及び以下のステップでは、カメラCAを構成するカメラC1,C2,C3,C4・・のそれぞれについて処理を実行する。
〔ステップS2〕
ステップS2では、汎用の手の機会学習モデルを使って、カメラCA(カメラC1,C2,C3,C4・・)で撮影した手を認識し、その手の大きさの枠を作業枠FLとしてクライアント端末(PC)に表示させる。
このとき、クライアント端末(PC)では、当該カメラCA(カメラC1,C2,C3,C4・・)において手を学習するための作業枠FLのサイズを確定させる(図3(A)参照)。
〔ステップS3〕
ステップS3では、クライアント端末(PC)からの指示に基づき、作業者に対して作業枠FL内に手を置きかつその手をかざしてもらう(図3(A)参照)。
〔ステップS4〕
ステップS4では、クライアント端末(PC)からの指示に基づき、作業者に対して作業枠FL内にて手を表/裏/回転などの動作を指定時間実施する(図3(A)参照)。
〔ステップS5〕
ステップS5では、作業枠FL毎の画像データに対して、手の大きさで機械学習のためのラベリング処理を自動で実施することで、そのカメラCA(カメラC1,C2,C3,C4・・)毎の環境(明るさ/画角/手の種別/写りこむ背景など)に応じて、手について機械学習を行う(図3(A)参照)。
〔ステップS6〕
ステップS6では、各カメラC1,C2,C3,C4・・で撮影される撮影エリアEAにて、等分に区分けしたエリア、例えば図3(B)に示す9箇所(符号M1~M9で示す)に対して、順次先ほどの順序で手をかざして、指示通りに動作させながら機械学習を実施する(図3(B)参照)。
〔ステップS7〕
ステップS7では、ステップS6で設定した9箇所を実施した時点で、学習モデルの更新を行なう。これにより、画像解析/WEBサーバ22を経由して録画ストレージ21に保存しているカメラCA毎の機械学習モデルが、そのカメラ環境に応じた最適なものとなる(図3(C)参照)。
〔事前学習後の作業範囲枠設定フェーズ〕
次に、動作制御部11のデータ解析保存手段11Bで実行される「事前学習後の作業範囲枠設定フェーズ」について、ステップS8及びS9を参照して説明する。
〔ステップS8〕
ステップS8では、各カメラC1,C2,C3,C4・・において、実際に作業工程として確認したい部分を、四角の作業枠FLとしてクライアント端末(PC)上のGUIにて設定する。
このとき、作業枠FLは縦横の大きさとその座標位置を変更できるものとする(図4(A)参照)。
〔ステップS9〕
ステップS9では、各カメラC1,C2,C3,C4・・に対して、それぞれ4箇所の作業枠FLがあった場合には、これら各4箇所の作業枠FLについて同様に大きさと座標位置を設定する(図4(B)及び(C)参照)。
〔手の検出フェーズ〕
次に、動作制御部11のデータ解析保存手段11Bで実行される「手の検出フェーズ」について、ステップS10及びS11を参照して説明する。
〔ステップS10〕
ステップS10では、先ほど学習したカメラCA(カメラC1,C2,C3,C4・・)毎の機械学習モデルを使って、実際の作業を行っているライン工程の画像に対して、作業者の手が作業枠FLに入っているかどうかを判断し、画像解析/WEBサーバ22上に時系列でON-OFFデータ(ON:1/OFF:0)として保存する(図5(A)及び(B)参照)。
なお、図5(A)では、作業者の手が作業枠FLに入っている状態(ON)を実線で示し、作業者の手が作業枠FLに入っていない状態(OFF)を破線で示している。
また、図5(B)はVMSサーバ20を通じて録画ストレージ21に記憶されるON-OFFデータと、その画像データをイメージ化した図を示している。
〔ステップS11〕
ステップS11では、同時に分析した画像データに対して、手を検出した際の手の作業枠FLを付加した画像データも保存しておく。これは、後ほど、手を検出した状態がどのようであったかを確認するために保存するものである(図5(B))。
〔クライアント端末(PC)による稼働率確認〕
次に、動作制御部11の稼働率演算手段11Cで実行される「クライアント端末(PC)による稼働率確認」について、ステップS12~S14を参照して説明する。
〔ステップS12〕
ステップS12では、先ほど保存したログデータと画像データを使って、クライアント端末(PC)にて複数の工程の稼働率を表示させる(図6(A)参照)。
なお、図6(A)では、複数の工程の作業枠FL毎の稼働率が棒グラフを使って表示された例が示されている。
〔ステップS13〕
ステップS13では、図6(A)で表示された棒グラフを選択した場合(クリック等の操作をした場合)に、図6(B)にて複数の工程の時刻毎の稼働率を表示させる。
なお、図6(B)では、図6(A)において、一例として「カメラC1の撮影エリアEA内にある設定D」が選択された場合の時刻毎の稼働率が示されている。
なお、このときの表示では、作業者が作業を全くしていない(手が作業枠FLに入っていない、又はずっと手が検出され続けている)などの異常時に、例えば図6(B)に矢印e1~e3で示すような、予めアラームが出るように設定したイベントも併せて列記させる(図6(B)参照)。
〔ステップS14〕
ステップS14では、イベントの矢印e1~e3を選択(クリック)した場合に、その際に何があったかの詳細がわかるようにその時刻の動画を表示させる。
以上詳細に説明したように本実施形態に係る作業稼働率測定装置100では、以下の効果が期待できる。
すなわち、本実施形態の作業稼働率測定装置100では、作業者の手のみの検出とすることで制御が軽くなり、リアルタイムでの検出ができる。
また、本実施形態の作業稼働率測定装置100では、カメラCA(カメラC1,C2,C3,C4・・)毎に機械学習モデルを持ち、事前学習までを含めることで、様々な環境における手を精度良く検出することができ、実際の複数の工程の稼働率を効率良く把握することができる。
また、本実施形態の作業稼働率測定装置100では、手の検出部分を違う物体(例えば、タイヤなど)にした場合に、事前学習から手を置き換えて実施すれば、手ではない物体が作業枠FL内にあった時間を把握することができ、ラインにおける製造物の停滞状況も確認することができるという拡張性も有する。
(変形例1)
上記実施形態では、カメラCAにより得られた画像データを入力として、作業者の環境に応じた手を対話的な形により事前学習を行い、予め定点画像で設定した作業枠FL内に作業者の手があるかどうかのみを判定するため、工場以外でも利用可能である。
一例として、本発明を用いれば、教室や学習塾向けに、ノートを取っている時間に対して学習の習熟度が比例するかといったデータも収集可能であり、新たな学習の尺度とすることができる。さらに、本発明は、美容師や料理人といった屋内にてカメラ設置可能な場所で、実際に手作業を行う職人の分野にも適用可能である。
(変形例2)
上記実施形態では、カメラCA(カメラC1,C2,C3,C4・・)の撮影エリアEAにて、図2に示すような4つの作業枠FLを設定し、図3に示すように9つのエリアにて機械学習を行うようにした。
これら作業枠KL及び機械学習のエリアの数は同数であっても良く、管理者が自由に設定することができる。
なお実施形態で処理される画像データにおける作業者の手とは、作業者の手首より先の部分を意味するが、例えば、作業者が手袋を装着している場合、あるいは、撮影エリア内で作業者が何らかの工具、治具、文房具等を手に保持している場合には、手袋を装着した状態、あるいは、工具、治具、文房具等を保持した状態の画像を「手」として取り扱って、画像データを解析しても良い。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
本発明は、工場等の生産ラインの作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置及び作業稼働率測定方法に関する。
1 モデル作成手段
2 データ解析保存手段
3 稼働率演算手段
10 作業稼働率測定装置
11 動作制御部
11A モデル作成手段
11B データ解析保存手段
11C 稼働率演算手段
12 データ処理部
13 撮影部
14 ハブ
20 VMSサーバ
21 録画ストレージ
22 画像解析/WEBサーバ
30 生産ライン
100 作業稼働率測定装置
CA カメラ
C1 カメラ
C2 カメラ
C3 カメラ
C4 カメラ
EA 撮影エリア
FL 作業枠
N ネットワーク

Claims (7)

  1. 作業を実施する際における作業者の稼働率を測定する作業稼働率測定装置において、
    予め設定され複数の第一作業枠をそれぞれ撮影する複数のカメラからそれぞれ入力される画像に基づき、各第一作業枠にかざした各作業者の手の位置を学習させた機械学習モデルを、前記複数のカメラのそれぞれに対応して作成するモデル作成と、
    前記複数のカメラが撮像する複数の画像を前記複数の機械学習モデルにそれぞれ入力し、予め設定された各第二作業枠に各作業者の手が撮像されていることを判断することにより得た解析データ保存するデータ解析保存と、
    保存された前記解析データに基づいて、前記第二作業枠にそれぞれ対応する各作業者の稼働率を算出する稼働率演算と、を有する作業稼働率測定装置。
  2. 前記第一作業枠は、
    作業工程の作業エリアに設置された1つのカメラの撮影エリアに対し、複数設定される請求項1に記載の作業稼働率測定装置。
  3. 前記データ解析保存は、
    作業者の手と前記第二作業枠とを重ねることによってその位置関係を表すとともに、各作業者の手が前記第二作業枠に入っているか否かを異なる線種で表した画像を前記解析データとして時系列に保存する請求項1または2記載の作業稼働率測定装置。
  4. 前記稼働率演算は、
    前記第二作業枠内に作業者の手が存在するか否かを示す情報に基づき、前記第二作業枠内の稼働率を演算する請求項1~3のれか1項に記載の作業稼働率測定装置。
  5. 前記稼働率演算は、
    演算した前記第二作業枠内の稼働率を経過時間に応じてグラフに表示する請求項1~4のれか1項に記載の作業稼働率測定装置。
  6. 作業を実施する際における作業者の稼働率を測定する作業稼働率測定方法において、
    コンピュータが、
    予め設定され複数の第一作業枠をそれぞれ撮影する複数のカメラからそれぞれ入力される画像に基づき、各第一作業枠にかざした各作業者の手の位置を学習させた機械学習モデルを、前記複数のカメラのそれぞれに対応して作成し、
    前記複数のカメラが撮像する複数の画像を前記複数の機械学習モデルにそれぞれ入力し、予め設定された各第二作業枠に各作業者の手が撮像されていることを判断することにより得た解析データ保存し、
    保存された前記解析データに基づいて、前記第二作業枠にそれぞれ対応する各作業者の稼働率を算出する、作業稼働率測定方法。
  7. 手作業を実施する際における作業者の稼働率を測定する作業稼働率測定プログラムにおいて、
    コンピュータに、
    予め設定された複数の第一作業枠をそれぞれ撮影する複数のカメラからそれぞれ入力される画像に基づき、各第一作業枠にかざした各作業者の手の位置を学習させた機械学習モデルを、前記複数のカメラのそれぞれに対応して作成させ、
    前記複数のカメラが撮像する複数の画像を前記複数の機械学習モデルにそれぞれ入力し、予め設定された各第二作業枠に各作業者の手が撮像されていることを判断することにより得た解析データを保存させ、
    保存された前記解析データに基づいて、前記第二作業枠にそれぞれ対応する各作業者の稼働率を算出させる、作業稼働率測定プログラム。
JP2022137970A 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法 Active JP7486751B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022137970A JP7486751B2 (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020025497A JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法
JP2022137970A JP7486751B2 (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020025497A Division JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法

Publications (3)

Publication Number Publication Date
JP2022164831A JP2022164831A (ja) 2022-10-27
JP2022164831A5 JP2022164831A5 (ja) 2023-01-26
JP7486751B2 true JP7486751B2 (ja) 2024-05-20

Family

ID=77391143

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020025497A Active JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法
JP2022137970A Active JP7486751B2 (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020025497A Active JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法

Country Status (5)

Country Link
US (1) US20230068757A1 (ja)
EP (1) EP4109362A4 (ja)
JP (2) JP7180886B2 (ja)
CN (1) CN115104113A (ja)
WO (1) WO2021166716A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024005533A (ja) * 2022-06-30 2024-01-17 アキュイティー株式会社 作業管理装置及び作業管理方法
CN116341281B (zh) * 2023-05-12 2023-08-15 中国恩菲工程技术有限公司 作业率的确定方法及系统、存储介质、终端

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000180162A (ja) 1998-12-11 2000-06-30 Hitachi Plant Eng & Constr Co Ltd 作業分析装置
CN108564279A (zh) 2018-04-12 2018-09-21 同济大学 一种考虑认知的生产线手工工位人因复杂性测度方法
JP2019086827A (ja) 2017-11-01 2019-06-06 キヤノン株式会社 情報処理装置、情報処理方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5195465B2 (ja) * 2009-01-28 2013-05-08 トヨタ自動車株式会社 ロボット制御装置及び方法
JP2014035712A (ja) * 2012-08-10 2014-02-24 Hitachi High-Technologies Corp 業務状況の計測方法及び計測装置
JP5529949B2 (ja) * 2012-11-20 2014-06-25 株式会社小松製作所 作業機械及び作業管理システム
US20150193424A1 (en) * 2014-01-07 2015-07-09 Samsung Electronics Co., Ltd. Method of changing dynamic screen layout and electronic device
WO2016073363A1 (en) * 2014-11-03 2016-05-12 Motion Insight LLC Motion tracking wearable element and system
JP6367166B2 (ja) * 2015-09-01 2018-08-01 株式会社東芝 電子機器及び方法
WO2017170651A1 (ja) * 2016-03-31 2017-10-05 住友重機械工業株式会社 建設機械用作業管理システム及び建設機械
WO2017222070A1 (ja) 2016-06-23 2017-12-28 Necソリューションイノベータ株式会社 作業分析装置、作業分析方法、及びコンピュータ読み取り可能な記録媒体
JP6608890B2 (ja) * 2017-09-12 2019-11-20 ファナック株式会社 機械学習装置、ロボットシステム及び機械学習方法
US20190139441A1 (en) * 2017-11-03 2019-05-09 Drishti Technologies, Inc. Contextual training systems and methods
JP2019120577A (ja) 2018-01-04 2019-07-22 富士通株式会社 位置推定装置、位置推定方法及び位置推定用コンピュータプログラム
JP2019191117A (ja) * 2018-04-27 2019-10-31 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
EP3788542A1 (en) * 2018-05-03 2021-03-10 3M Innovative Properties Company Personal protective equipment system with augmented reality for safety event detection and visualization
JP2019200560A (ja) 2018-05-16 2019-11-21 パナソニックIpマネジメント株式会社 作業分析装置および作業分析方法
JP7177432B2 (ja) 2018-08-10 2022-11-24 国立大学法人東京工業大学 再構成膜、再構成膜の作成方法、光酸化反応駆動方法、および、メタノール製造方法
CN112567400A (zh) * 2018-08-23 2021-03-26 索尼公司 信息处理装置、信息处理方法和作业评估系统
CN109409289A (zh) * 2018-10-26 2019-03-01 国网四川省电力公司电力科学研究院 一种电力作业安全监督机器人安全作业识别方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000180162A (ja) 1998-12-11 2000-06-30 Hitachi Plant Eng & Constr Co Ltd 作業分析装置
JP2019086827A (ja) 2017-11-01 2019-06-06 キヤノン株式会社 情報処理装置、情報処理方法
CN108564279A (zh) 2018-04-12 2018-09-21 同济大学 一种考虑认知的生产线手工工位人因复杂性测度方法

Also Published As

Publication number Publication date
WO2021166716A1 (ja) 2021-08-26
JP7180886B2 (ja) 2022-11-30
US20230068757A1 (en) 2023-03-02
EP4109362A1 (en) 2022-12-28
CN115104113A (zh) 2022-09-23
JP2021131626A (ja) 2021-09-09
JP2022164831A (ja) 2022-10-27
EP4109362A4 (en) 2023-07-26

Similar Documents

Publication Publication Date Title
US11842511B2 (en) Work analyzing system and work analyzing method
US10657477B2 (en) Work data management system and work data management method
JP7486751B2 (ja) 作業稼働率測定装置及び作業稼働率測定方法
CN111308925B (zh) 信息处理装置、生产指示辅助方法
DE102018214339A1 (de) Inspektionsvorrichtung und inspektionssystem
JP6717572B2 (ja) 作業分析システム及び作業分析方法
CN114846514A (zh) 作业分析装置和作业分析方法
JP2007133908A (ja) 建設工事の検査を支援する方法および装置
CN114005183B (zh) 动作识别方法、装置、设备及存储介质
US11138805B2 (en) Quantitative quality assurance for mixed reality
WO2023008330A1 (ja) 作業状況分析システム及び作業状況分析方法
DE102020211053A1 (de) Annotationsvorrichtung
JP7181257B2 (ja) 原因分析システムおよび方法
CN117296067B (zh) 机器学习装置、分类装置以及控制装置
JP2020106954A (ja) 動作分析装置、動作分析方法及び動作分析プログラム
CN116486471A (zh) 信息处理装置和信息处理方法
CN119478817B (zh) 基于人工智能的食品生产控制方法、系统及存储介质
JP2022164831A5 (ja)
HK40078068A (en) Work rate measurement device and work rate measurement method
WO2022209638A1 (ja) 作業指示システム
JP2024112671A (ja) 作業分析装置、作業分析システム、作業分析方法及びプログラム
WO2023286393A1 (ja) 情報処理システム及び情報処理方法
JP7834244B1 (ja) 作業判定装置、作業判定システム、作業判定方法及びプログラム
US20250071251A1 (en) System and method for locating and visualizing camera images in relation to a large-scale manufacturing product
US20250200482A1 (en) Work analyzing device and work analyzing method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230118

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20240408

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240425

R150 Certificate of patent or registration of utility model

Ref document number: 7486751

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150