JP7665159B2 - Clear image acquisition system, clear image acquisition method, and program - Google Patents
Clear image acquisition system, clear image acquisition method, and program Download PDFInfo
- Publication number
- JP7665159B2 JP7665159B2 JP2023101674A JP2023101674A JP7665159B2 JP 7665159 B2 JP7665159 B2 JP 7665159B2 JP 2023101674 A JP2023101674 A JP 2023101674A JP 2023101674 A JP2023101674 A JP 2023101674A JP 7665159 B2 JP7665159 B2 JP 7665159B2
- Authority
- JP
- Japan
- Prior art keywords
- clear image
- image acquisition
- acquisition system
- images
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 24
- 238000012545 processing Methods 0.000 claims description 53
- 238000001228 spectrum Methods 0.000 claims description 16
- 239000000284 extract Substances 0.000 claims description 9
- 230000005484 gravity Effects 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 claims description 7
- 230000000737 periodic effect Effects 0.000 claims description 4
- 238000013459 approach Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 23
- 230000010365 information processing Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 20
- 238000000605 extraction Methods 0.000 description 17
- 238000003860 storage Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 10
- 238000009826 distribution Methods 0.000 description 4
- 238000009499 grossing Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011179 visual inspection Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000001845 vibrational spectrum Methods 0.000 description 1
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
- Cameras In General (AREA)
- Structure And Mechanism Of Cameras (AREA)
- Adjustment Of Camera Lenses (AREA)
Description
本発明は、鮮明画像取得システム、鮮明画像取得方法及びプログラムに関する。 The present invention relates to a clear image acquisition system, a clear image acquisition method, and a program.
製造ラインにおいて、下記の文献に開示されるように、製品(ワーク)を撮影した画像を用いて、製品の外観検査を行う方法が知られている。 In a manufacturing line, a method is known for performing visual inspection of a product (workpiece) using photographed images, as disclosed in the following document:
製造ライン上の製品には振動が存在しうる。そのため、振動によって製品の鮮明な撮影画像が得られないケースでは、画像処理による外観検査が難しい。 Products on the production line may be subject to vibrations. Therefore, in cases where clear images of the product cannot be obtained due to vibrations, visual inspection using image processing is difficult.
本発明では上記事情に鑑み、振動するオブジェクトに対し鮮明な画像を取得できる鮮明画像取得システムを提供することとした。 In consideration of the above circumstances, the present invention aims to provide a clear image acquisition system that can acquire clear images of vibrating objects.
本発明の一態様によれば、鮮明画像取得システムが提供される。この鮮明画像取得システムは、プロセッサを備える。プロセッサは、受付ステップと、処理ステップと、を実行するように構成される。受付ステップでは、振動するオブジェクトを連続的に撮影した複数の画像の入力を受け付ける。処理ステップでは、複数の画像からモーションブラーが予め定めた基準よりも小さい鮮明画像を抽出する。 According to one aspect of the present invention, a clear image acquisition system is provided. The clear image acquisition system includes a processor. The processor is configured to execute a receiving step and a processing step. In the receiving step, input of a plurality of images of a vibrating object captured successively is received. In the processing step, a clear image having motion blur smaller than a predetermined standard is extracted from the plurality of images.
このような態様によれば、連続的に撮影した複数の画像からモーションブラーが基準よりも小さい画像が抽出されることで、振動するオブジェクトに対し、鮮明な画像を自動で取得することができる。 According to this aspect, images with less motion blur than a standard are extracted from multiple images captured continuously, making it possible to automatically obtain clear images of vibrating objects.
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。 The following describes embodiments of the present invention with reference to the drawings. The various features shown in the following embodiments can be combined with each other.
ところで、本実施形態に登場するソフトウェアを実現するためのプログラムは、コンピュータが読み取り可能な非一時的な記録媒体(Non-Transitory Computer-Readable Medium)として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、外部のコンピュータで当該プログラムを起動させてクライアント端末でその機能を実現(いわゆるクラウドコンピューティング)するように提供されてもよい。 The program for realizing the software appearing in this embodiment may be provided as a non-transitory computer-readable recording medium, or may be provided so that it can be downloaded from an external server, or may be provided so that the program is started on an external computer and its functions are realized on a client terminal (so-called cloud computing).
また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、例えば電圧・電流を表す信号値の物理的な値、0又は1で構成される2進数のビット集合体としての信号値の高低、又は量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行されうる。 In this embodiment, a "unit" may also include, for example, a combination of hardware resources implemented by a circuit in the broad sense and software information processing that can be specifically realized by these hardware resources. In addition, this embodiment handles various types of information, which may be represented, for example, by physical values of signal values representing voltage and current, high and low signal values as a binary bit collection consisting of 0 or 1, or quantum superposition (so-called quantum bits), and communication and calculations may be performed on a circuit in the broad sense.
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。 In the broad sense, a circuit is a circuit realized by at least appropriately combining a circuit, circuitry, a processor, and memory. In other words, it includes application specific integrated circuits (ASICs), programmable logic devices (e.g., simple programmable logic devices (SPLDs), complex programmable logic devices (CPLDs), and field programmable gate arrays (FPGAs)), etc.
1.ハードウェア構成
本節では、ハードウェア構成について説明する。
1. Hardware Configuration This section describes the hardware configuration.
<鮮明画像取得システム1>
図1は、鮮明画像取得システム1を表す構成図である。鮮明画像取得システム1は、情報処理装置2と、ユーザ端末3と、撮影装置4とを備える。情報処理装置2と、ユーザ端末3とは、電気通信回線を通じて通信可能に構成されている。一実施形態において、鮮明画像取得システム1とは、1つ又はそれ以上の装置又は構成要素からなるものである。仮に例えば、情報処理装置2又はユーザ端末3のみからなる場合であれば、鮮明画像取得システム1は、情報処理装置2又はユーザ端末3となりうる。以下、これらの構成要素について説明する。
<Clear image acquisition system 1>
1 is a configuration diagram showing a clear image acquisition system 1. The clear image acquisition system 1 includes an information processing device 2, a user terminal 3, and a photographing device 4. The information processing device 2 and the user terminal 3 are configured to be able to communicate with each other via a telecommunications line. In one embodiment, the clear image acquisition system 1 is made up of one or more devices or components. For example, if the clear image acquisition system 1 is made up of only the information processing device 2 or the user terminal 3, the clear image acquisition system 1 can be the information processing device 2 or the user terminal 3. These components will be described below.
<情報処理装置2>
図2は、情報処理装置2のハードウェア構成を示すブロック図である。情報処理装置2は、通信バス20と、通信部21と、記憶部22と、プロセッサ23とを備える。通信部21、記憶部22、及びプロセッサ23は、情報処理装置2の内部において通信バス20を介して電気的に接続されている。
<Information processing device 2>
2 is a block diagram showing a hardware configuration of the information processing device 2. The information processing device 2 includes a communication bus 20, a communication unit 21, a storage unit 22, and a processor 23. The communication unit 21, the storage unit 22, and the processor 23 are electrically connected via the communication bus 20 inside the information processing device 2.
<通信部21>
通信部21は、USB、IEEE1394、Thunderbolt(登録商標)、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、3G/LTE/5G等のモバイル通信、BLUETOOTH(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。すなわち、情報処理装置2は、通信部21及びネットワークを介して、外部から種々の情報を通信してもよい。
<Communication unit 21>
The communication unit 21 is preferably a wired communication means such as USB, IEEE 1394, Thunderbolt (registered trademark), wired LAN network communication, etc., but may also include wireless LAN network communication, mobile communication such as 3G/LTE/5G, BLUETOOTH (registered trademark) communication, etc. as necessary. In other words, it is more preferable to implement it as a collection of multiple communication means. In other words, the information processing device 2 may communicate various information from the outside via the communication unit 21 and the network.
<記憶部22>
記憶部22は、前述の記載により定義される様々な情報を記憶する。これは、例えば、プロセッサ23によって実行される情報処理装置2に係る種々のプログラム等を記憶するソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。記憶部22は、プロセッサ23によって実行される情報処理装置2に係る種々のプログラムや変数等を記憶している。
<Storage unit 22>
The storage unit 22 stores various information defined by the above description. This can be implemented, for example, as a storage device such as a solid state drive (SSD) that stores various programs and the like related to the information processing device 2 executed by the processor 23, or as a memory such as a random access memory (RAM) that stores temporarily required information (arguments, arrays, etc.) related to the program calculations. The storage unit 22 stores various programs, variables, etc. related to the information processing device 2 executed by the processor 23.
<プロセッサ23>
プロセッサ23は、情報処理装置2に関連する全体動作の処理・制御を行う。プロセッサ23は、例えば中央処理装置(Central Processing Unit:CPU)である。プロセッサ23は、記憶部22に記憶された所定のプログラムを読み出すことによって、情報処理装置2に係る種々の機能を実現する。すなわち、記憶部22に記憶されているソフトウェアによる情報処理が、ハードウェアの一例であるプロセッサ23によって具体的に実現されることで、プロセッサ23に含まれる各機能部として実行されうる。これらについては、次節においてさらに詳述する。なお、プロセッサ23は単一であることに限定されず、機能ごとに複数のプロセッサ23を有するように実施してもよい。またそれらの組合せであってもよい。
<Processor 23>
The processor 23 processes and controls the overall operation related to the information processing device 2. The processor 23 is, for example, a central processing unit (CPU). The processor 23 realizes various functions related to the information processing device 2 by reading out a predetermined program stored in the storage unit 22. That is, information processing by software stored in the storage unit 22 can be specifically realized by the processor 23, which is an example of hardware, and executed as each functional unit included in the processor 23. These will be described in more detail in the next section. The processor 23 is not limited to being single, and may be implemented to have multiple processors 23 for each function. Also, a combination of these may be used.
<ユーザ端末3>
図3は、ユーザ端末3のハードウェア構成を示すブロック図である。ユーザ端末3は、通信バス30と、通信部31と、記憶部32と、プロセッサ33と、表示部34と、入力部35と、を備える。通信部31、記憶部32、プロセッサ33、表示部34、及び入力部35は、ユーザ端末3の内部において通信バス30を介して電気的に接続されている。通信部31、記憶部32及びプロセッサ33の説明は、情報処理装置2における各部の説明と同様のため省略する。
<User terminal 3>
3 is a block diagram showing a hardware configuration of the user terminal 3. The user terminal 3 includes a communication bus 30, a communication unit 31, a storage unit 32, a processor 33, a display unit 34, and an input unit 35. The communication unit 31, the storage unit 32, the processor 33, the display unit 34, and the input unit 35 are electrically connected via the communication bus 30 inside the user terminal 3. The description of the communication unit 31, the storage unit 32, and the processor 33 will be omitted because they are similar to the description of each unit in the information processing device 2.
<表示部34>
表示部34は、ユーザが操作可能なグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示する。表示部34は、ユーザ端末3の筐体に含まれるものであってもよいし、外付けされるものであってもよい。具体的には、表示部34は、CRTディスプレイ、液晶ディスプレイ、有機ELディスプレイ、又はプラズマディスプレイ等の表示デバイスとして実施され得る。これらの表示デバイスは、ユーザ端末3の種類に応じて使い分けて実施されることが好ましい。
<Display unit 34>
The display unit 34 displays a screen of a graphical user interface (GUI) that can be operated by the user. The display unit 34 may be included in the housing of the user terminal 3 or may be attached externally. Specifically, the display unit 34 may be implemented as a display device such as a CRT display, a liquid crystal display, an organic EL display, or a plasma display. It is preferable that these display devices are implemented by selectively using them according to the type of the user terminal 3.
<入力部35>
入力部35は、ユーザによってなされた操作入力を受け付ける。操作入力は、命令信号として通信バス30を介してプロセッサ33に転送される。プロセッサ33は、必要に応じて、転送された命令信号に基づいて所定の制御や演算を実行しうる。入力部35は、ユーザ端末3の筐体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部35は、表示部34と一体となってタッチパネルとして実施されてもよい。入力部35がタッチパネルとして実施される場合、ユーザは、入力部35に対してタップ操作、スワイプ操作等を入力することができる。入力部35としては、タッチパネルに代えて、スイッチボタン、マウス、QWERTYキーボード等が採用可能である。
<Input unit 35>
The input unit 35 accepts an operation input made by a user. The operation input is transferred as a command signal to the processor 33 via the communication bus 30. The processor 33 may execute a predetermined control or calculation based on the transferred command signal as necessary. The input unit 35 may be included in the housing of the user terminal 3, or may be externally attached. For example, the input unit 35 may be implemented as a touch panel integrated with the display unit 34. When the input unit 35 is implemented as a touch panel, the user can input a tap operation, a swipe operation, or the like to the input unit 35. As the input unit 35, a switch button, a mouse, a QWERTY keyboard, or the like can be adopted instead of a touch panel.
情報処理装置2は、オンプレミス形態であってもよく、クラウド形態であってもよい。クラウド形態の情報処理装置2としては、例えば、SaaS(Software as a Service)、クラウドコンピューティングという形態で、上述の機能や処理を提供してもよい。 The information processing device 2 may be in an on-premise form or in a cloud form. As an information processing device 2 in a cloud form, for example, the above-mentioned functions and processes may be provided in the form of SaaS (Software as a Service) or cloud computing.
<撮影装置4>
図4は、撮影装置4の構成を示す模式図である。撮影装置4は、カメラ41と、複数のレンズ42と、光源43と、ガルバノミラー44(反射部材の一例)と、駆動回路46とを有する。
<Photographing device 4>
4 is a schematic diagram showing the configuration of the imaging device 4. The imaging device 4 has a camera 41, a plurality of lenses 42, a light source 43, a galvanometer mirror 44 (an example of a reflecting member), and a drive circuit 46.
カメラ41は、振動台Vの上に配置されたターゲットとなるオブジェクトTの複数の画像を取得する。カメラ41は、イメージセンサ41Aを内蔵した高速カメラ(高速ビジョン)である。レンズ42は、カメラ41とガルバノミラー44との間に配置されている。光源43は、オブジェクトTに光を照射する。 The camera 41 captures multiple images of a target object T placed on the vibration table V. The camera 41 is a high-speed camera (high-speed vision) with a built-in image sensor 41A. The lens 42 is placed between the camera 41 and the galvanometer mirror 44. The light source 43 irradiates light onto the object T.
ガルバノミラー44は、オブジェクトTからの反射光をカメラ41に向けて反射させる反射面を有する。具体的には、ガルバノミラー44は、X軸ミラー44Aと、Y軸ミラー44Bとの2つのミラーを有する2軸回転ミラーである。X軸ミラー44A及びY軸ミラー44Bは、それぞれ独立して回転可能に構成されている。なお、図4では、2つのガルバノミラー44が図示されているが、これらは同一のガルバノミラー44を異なる方向から視た形状をそれぞれ模式的に示したものである。図中上方のガルバノミラー44は、平面視であり、下方のガルバノミラー44は、正面視である。 The galvanometer mirror 44 has a reflective surface that reflects the light reflected from the object T toward the camera 41. Specifically, the galvanometer mirror 44 is a two-axis rotating mirror having two mirrors, an X-axis mirror 44A and a Y-axis mirror 44B. The X-axis mirror 44A and the Y-axis mirror 44B are configured to be able to rotate independently. Note that two galvanometer mirrors 44 are shown in FIG. 4, but these are schematic views of the same galvanometer mirror 44 viewed from different directions. The upper galvanometer mirror 44 in the figure is viewed from above, and the lower galvanometer mirror 44 is viewed from the front.
駆動回路46は、ガルバノミラー44の反射面の向きを変更する回路である。駆動回路46は、DAコンバータ46Aと、第1モータドライバ46Bと、第2モータドライバ46Cとを有する。DAコンバータ46Aは、ユーザ端末3からのデジタル信号をアナログ信号に変換して、第1モータドライバ46B及び第2モータドライバ46Cに入力する。第1モータドライバ46Bは、ユーザ端末3からの入力信号に基づいて、X軸ミラー44Aを回転させ、反射面の角度を変更する。第2モータドライバ46Cは、ユーザ端末3からの入力信号に基づいて、Y軸ミラー44Bを回転させ、反射面の角度を変更する。 The driving circuit 46 is a circuit that changes the orientation of the reflecting surface of the galvanometer mirror 44. The driving circuit 46 has a DA converter 46A, a first motor driver 46B, and a second motor driver 46C. The DA converter 46A converts a digital signal from the user terminal 3 into an analog signal and inputs it to the first motor driver 46B and the second motor driver 46C. The first motor driver 46B rotates the X-axis mirror 44A based on the input signal from the user terminal 3 to change the angle of the reflecting surface. The second motor driver 46C rotates the Y-axis mirror 44B based on the input signal from the user terminal 3 to change the angle of the reflecting surface.
2.機能構成
本節では、本実施形態の機能構成について説明する。記憶部32に記憶されているソフトウェアによる情報処理がハードウェアの一例であるプロセッサ33によって具体的に実現されることで、プロセッサ33に含まれる各機能部として実行されうる。
In this section, the functional configuration of the present embodiment will be described. Information processing by the software stored in the storage unit 32 is specifically realized by the processor 33, which is an example of hardware, and can be executed as each functional unit included in the processor 33.
図5は、ユーザ端末3(プロセッサ33)によって実現される機能を示すブロック図である。具体的には、ユーザ端末3(プロセッサ33)は、受付部331と、調整部332と、処理部333とを備える。 Figure 5 is a block diagram showing functions realized by the user terminal 3 (processor 33). Specifically, the user terminal 3 (processor 33) includes a reception unit 331, an adjustment unit 332, and a processing unit 333.
<受付部331>
受付部331は、種々の情報を取得するように構成される。例えば、受付部331は、撮影装置4が振動するオブジェクトTを定位置から連続的に撮影した複数の画像の入力を受け付ける。具体的には、受付部331は、カメラ41から画像を取得する。なお、調整部332及び処理部333で扱う画像の解像度は、数百ピクセル×数百ピクセルのオーダ(例えば、320ピクセル×240ピクセル)である。
<Reception Unit 331>
The reception unit 331 is configured to acquire various information. For example, the reception unit 331 accepts input of a plurality of images of a vibrating object T continuously captured by the photographing device 4 from a fixed position. Specifically, the reception unit 331 acquires images from the camera 41. Note that the resolution of the images handled by the adjustment unit 332 and the processing unit 333 is on the order of several hundred pixels x several hundred pixels (e.g., 320 pixels x 240 pixels).
<調整部332>
調整部332は、撮影装置4を制御するように構成される。例えば、調整部332は、撮影装置4から取得された複数の画像のうち少なくとも1つの画像におけるオブジェクトTの位置を算出し、オブジェクトTの位置に基づいてオブジェクトTからの反射光のカメラ41への入射角を調整する。これにより、処理部333で抽出処理を行う前に、撮影した画像自体の鮮明度を高めることができる。
<Adjustment unit 332>
The adjustment unit 332 is configured to control the photographing device 4. For example, the adjustment unit 332 calculates the position of an object T in at least one of the multiple images acquired from the photographing device 4, and adjusts the angle of incidence of reflected light from the object T to the camera 41 based on the position of the object T. This makes it possible to increase the clarity of the photographed image itself before the processing unit 333 performs the extraction process.
具体的には、調整部332は、オブジェクトTの中心点の位置に基づいてガルバノミラー44の反射面の向きを調整する。これにより、撮影装置4を大型化することなく、比較的簡潔な構成でカメラ41への入射角を調整することができる。 Specifically, the adjustment unit 332 adjusts the orientation of the reflecting surface of the galvanometer mirror 44 based on the position of the center point of the object T. This makes it possible to adjust the angle of incidence on the camera 41 with a relatively simple configuration without increasing the size of the imaging device 4.
より詳細には、調整部332は、カメラ41の画角の中心にオブジェクトTの中心点が近づくようにガルバノミラー44の反射面の向きを調整する。これにより、反射面の向きの調整量を簡潔な手順で算出することができる。 More specifically, the adjustment unit 332 adjusts the orientation of the reflective surface of the galvanometer mirror 44 so that the center point of the object T approaches the center of the angle of view of the camera 41. This makes it possible to calculate the adjustment amount of the orientation of the reflective surface in a simple procedure.
図6は、カメラ41への入射角の調整処理を示すフロー図である。まず、調整部332は、カメラ41が取得した画像をモノクロの画像としてメモリに格納する(ステップS110)。次に、調整部332は、画像を公知の方法にて平滑化することで、隣接するピクセルの数値変化を滑らかにする(ステップS120)。平滑化後、調整部332は、各ピクセルを、閾値を用いて白(画素値が0)又は黒(画素値が255)に二値化する(ステップS130)。ここでの閾値は、例えば30以上60以下の任意の値(例えば45)であり、画素値が閾値未満のピクセルを白、閾値以上のピクセルを黒とする。 Figure 6 is a flow diagram showing the adjustment process of the angle of incidence on the camera 41. First, the adjustment unit 332 stores the image captured by the camera 41 in memory as a monochrome image (step S110). Next, the adjustment unit 332 smoothes the image using a known method to smooth the numerical changes of adjacent pixels (step S120). After smoothing, the adjustment unit 332 binarizes each pixel to white (pixel value 0) or black (pixel value 255) using a threshold (step S130). The threshold here is, for example, an arbitrary value between 30 and 60 (for example, 45), and pixels with pixel values less than the threshold are white, and pixels with pixel values equal to or greater than the threshold are black.
続いて、調整部332は、二値化した画像から、画角の中心付近に存在し、かつサイズが最大の輪郭をオブジェクトTの輪郭として抽出する(ステップS140)。輪郭の抽出後、調整部332は、抽出した輪郭で画定される図形の重心をオブジェクトTの中心点とする(ステップS150)。重心は、例えば、輪郭の外接円の中心点として求められる。また、画像モーメントを用いて重心を算出してもよい。オブジェクトTの中心点の算出後、調整部332は、画像の中心(つまり画角の中心)と、オブジェクトTの中心点とのずれ(ベクトル移動量)を算出する(ステップS160)。 Next, the adjustment unit 332 extracts the contour that is located near the center of the angle of view and has the largest size from the binarized image as the contour of object T (step S140). After extracting the contour, the adjustment unit 332 sets the center of gravity of the figure defined by the extracted contour as the center point of object T (step S150). The center of gravity is found, for example, as the center point of the circumscribing circle of the contour. Alternatively, the center of gravity may be calculated using image moments. After calculating the center point of object T, the adjustment unit 332 calculates the deviation (vector movement amount) between the center of the image (i.e., the center of the angle of view) and the center point of object T (step S160).
最後に、調整部332は、ベクトル移動量がゼロとなるようにガルバノミラー44の反射面の向きを調整する(ステップS170)。具体的には、調整部332は、第1モータドライバ46B及び第2モータドライバ46Cに、ガルバノミラー44のX軸回転量及びY軸回転量を制御する電圧値を入力する。 Finally, the adjustment unit 332 adjusts the orientation of the reflecting surface of the galvanometer mirror 44 so that the vector movement amount becomes zero (step S170). Specifically, the adjustment unit 332 inputs voltage values that control the X-axis rotation amount and Y-axis rotation amount of the galvanometer mirror 44 to the first motor driver 46B and the second motor driver 46C.
図7は、ガルバノミラー44の角度とオブジェクトTの中心点Pの位置との関係を説明する模式図である。k番目の画像(フレーム)におけるX軸回転電圧Vxkと、X軸回転量θxk(deg)との関係は、X軸ミラー44Aの回転量と入力電圧との比Kを用いて、下記式(1)で表される。なお、図7では、K=0.5(K-1=2)としたケースの例が示されている。
オブジェクトTからX軸ミラー44Aへの入射光の角度θxl(deg)は、X軸回転量θxkの2倍であるため、下記式(2)で表される。また、式(1)及び式(2)から、下記式(3)が成立する。
X軸ミラー44Aへの入射光の角度θxlは、オブジェクトTの中心点PのX軸の移動量X(mm)と、X軸ミラー44AからオブジェクトTまでの光線距離Lx+Ly(mm)で決まるため、下記式(4)が成立する。
調整部332によるX軸ミラー44Aの回転によって、画像におけるオブジェクトTの中心点Pの座標は画角の中心にリセットされる。そのため、移動量Xは、毎フレームの中心点Pのx座標の総和として、下記式(5)で求められる。
式(2)、(4)及び(5)から、第1モータドライバ46Bに送信する電圧値Vx(V)は、下記式(6)で求められる。
ユーザ端末3からDAコンバータ46AへのX軸回転の指令値は、アナログ値とする必要がある。そのため、例えば下記式(7)で表されるAxがDAコンバータ46Aに入力される。
Y軸ミラー44Bの回転量についても、同様の手順で算出される。ただし、Y軸回転では、Y軸ミラー44BからオブジェクトTまでの光線距離がLy(mm)となる。そのため、ユーザ端末3からDAコンバータ46AへのY軸回転の指令値として、例えば下記式(8)で表されるAyがDAコンバータ46Aに入力される。
調整部332は、カメラ41による画像の撮影中、カメラ41への入射角の調整(ステップS110からステップS170まで)を繰り返す。つまり、調整部332は、リアルタイムで撮影装置4にオブジェクトを追跡させる。 The adjustment unit 332 repeats the adjustment of the angle of incidence on the camera 41 (steps S110 to S170) while the camera 41 is capturing an image. In other words, the adjustment unit 332 causes the image capture device 4 to track the object in real time.
<処理部333>
処理部333は、種々の情報を処理するように構成される。例えば、処理部333は、撮影装置4が撮影した複数の画像からモーションブラーが予め定めた基準よりも小さい鮮明画像を抽出する。具体的には、処理部333は、第1抽出処理及び第2抽出処理のいずれかを実行する。
<Processing unit 333>
The processing unit 333 is configured to process various information. For example, the processing unit 333 extracts clear images in which motion blur is smaller than a predetermined standard from a plurality of images captured by the image capture device 4. Specifically, the processing unit 333 executes either a first extraction process or a second extraction process.
処理部333が処理する画像は、調整部332によって撮影装置4(ガルバノミラー44)の調整が行われながら撮影された画像である。また、処理部333による第1抽出処理又は第2抽出処理は、撮影装置4による画像の撮影と並行して行われてもよい。 The image processed by the processing unit 333 is an image captured while the image capture device 4 (galvanometer mirror 44) is adjusted by the adjustment unit 332. In addition, the first extraction process or the second extraction process by the processing unit 333 may be performed in parallel with the image capture by the image capture device 4.
<第1抽出処理>
第1抽出処理は、オブジェクトの中心点の移動量(振動軌跡)を可視化して、移動量の小さい画像を抽出する処理である。第1抽出処理では、処理部333は、複数の画像におけるオブジェクトの中心点の移動量を算出し、移動量が小さい画像を鮮明画像として抽出する。つまり、処理部333は、オブジェクトの中心点の移動量を「モーションブラーの大きさ」として鮮明画像の抽出に用いる。これにより、振動によるオブジェクトの移動が小さいときに撮影された画像を抽出することができる。
<First Extraction Process>
The first extraction process is a process of visualizing the amount of movement (vibration trajectory) of the center point of an object and extracting an image with a small amount of movement. In the first extraction process, the processing unit 333 calculates the amount of movement of the center point of the object in multiple images and extracts an image with a small amount of movement as a clear image. In other words, the processing unit 333 uses the amount of movement of the center point of the object as the "magnitude of motion blur" to extract a clear image. This makes it possible to extract an image taken when the movement of the object due to vibration is small.
詳細には、処理部333は、複数の画像におけるオブジェクトの輪郭をそれぞれ抽出し、輪郭で画定される図形の重心をオブジェクトの中心点とする。これにより、オブジェクトの移動量を簡潔な手順で算出することができる。 In detail, the processing unit 333 extracts the contours of the object in each of the multiple images, and sets the center of gravity of the figure defined by the contours as the center point of the object. This makes it possible to calculate the amount of movement of the object in a simple procedure.
図8は、第1抽出処理を示すフロー図である。まず、処理部333は、カメラ41が取得した画像をモノクロの画像としてメモリに格納する(ステップS210)。次に、処理部333は、画像を公知の方法にて平滑化することで、隣接するピクセルの数値変化を滑らかにする(ステップS220)。平滑化後、処理部333は、各ピクセルを、閾値を用いて白(画素値が0)又は黒(画素値が255)に二値化する(ステップS230)。ここでの閾値は、例えば30以上60以下の任意の値(例えば45)であり、画素値が閾値未満のピクセルを白、閾値以上のピクセルを黒とする。 Figure 8 is a flow diagram showing the first extraction process. First, the processing unit 333 stores the image captured by the camera 41 in memory as a monochrome image (step S210). Next, the processing unit 333 smoothes the image using a known method to smooth the numerical changes of adjacent pixels (step S220). After smoothing, the processing unit 333 binarizes each pixel to white (pixel value 0) or black (pixel value 255) using a threshold (step S230). The threshold here is, for example, an arbitrary value between 30 and 60 (for example, 45), and pixels with pixel values less than the threshold are white, and pixels with pixel values equal to or greater than the threshold are black.
続いて、処理部333は、二値化した画像から、画角の中心付近に存在し、かつサイズが最大の輪郭をオブジェクトの輪郭として抽出する(ステップS240)。輪郭の抽出後、処理部333は、抽出した輪郭で画定される図形の重心をオブジェクトの中心点とする(ステップS250)。重心の求め方は、調整部332による入射角の調整処理と同じである。オブジェクトの中心点の算出後、処理部333は、時間的に連続する2つの第1画像(k-1番目の画像)及び第2画像(k番目の画像)におけるオブジェクトの中心点のずれ(ベクトル移動量)を算出する(ステップS260)。 Next, the processing unit 333 extracts the contour that is located near the center of the angle of view and has the largest size from the binarized image as the contour of the object (step S240). After extracting the contour, the processing unit 333 sets the center of gravity of the figure defined by the extracted contour as the center point of the object (step S250). The method of determining the center of gravity is the same as the adjustment process of the angle of incidence by the adjustment unit 332. After calculating the center point of the object, the processing unit 333 calculates the deviation (vector movement amount) of the center point of the object in two temporally consecutive images, the first image (the k-1th image) and the second image (the kth image) (step S260).
図9は、2つの画像間におけるオブジェクトの中心点Pの移動を示す概念図である。k番目の画像(フレーム)における移動量デルタLkは、下記式(9)で算出される。
次に、処理部333は、ベクトル移動量が閾値(例えば1ピクセル)以下であるか否か判定する(ステップS270)。ベクトル移動量が閾値以下の場合(S270:YES)、処理部333は、ベクトル移動量を算出した2つの画像のうち、第2画像を「鮮明画像」と判定する(ステップS280)。一方、ベクトル移動量が閾値を超える場合(S270:NO)、処理部333は、ベクトル移動量を算出した2つの画像のうち、第2画像を「非鮮明画像」と判定する(ステップS290)。なお、ベクトル移動量の閾値は、1ピクセルの距離(mm)、カメラ41の露光時間(ms)等によって適宜設定することができる。 Next, the processing unit 333 determines whether the vector movement amount is equal to or less than a threshold value (e.g., 1 pixel) (step S270). If the vector movement amount is equal to or less than the threshold value (S270: YES), the processing unit 333 determines that the second image of the two images for which the vector movement amount was calculated is a "clear image" (step S280). On the other hand, if the vector movement amount exceeds the threshold value (S270: NO), the processing unit 333 determines that the second image of the two images for which the vector movement amount was calculated is a "non-clear image" (step S290). The vector movement amount threshold value can be set appropriately based on the distance of 1 pixel (mm), the exposure time (ms) of the camera 41, etc.
処理部333は、受付部331が受け付けた複数の画像全てに対し、第1抽出処理(ステップS210からステップS290まで)を繰り返す。これにより、撮影された画像が「鮮明画像」又は「非鮮明画像」に分類される。 The processing unit 333 repeats the first extraction process (steps S210 to S290) for all of the multiple images accepted by the accepting unit 331. This classifies the captured images into "clear images" or "non-clear images."
<第2抽出処理>
第2抽出処理は、画像の鮮明度を可視化して、鮮明度の高い画像を抽出する処理である。第2抽出処理では、処理部333は、複数の画像の離散フーリエ変換により振幅スペクトルを算出し、振幅スペクトルの分布に基づいて鮮明画像を抽出する。つまり、処理部333は、振幅スペクトルの分布を「モーションブラーの程度」として鮮明画像の抽出に用いる。これにより、画像の鮮明度及び鮮明度の判定基準を定量化できるため、鮮明画像の抽出精度が高められる。
<Second Extraction Process>
The second extraction process is a process for visualizing the image sharpness and extracting images with high sharpness. In the second extraction process, the processing unit 333 calculates an amplitude spectrum by discrete Fourier transform of a plurality of images, and extracts a clear image based on the distribution of the amplitude spectrum. In other words, the processing unit 333 uses the distribution of the amplitude spectrum as the "degree of motion blur" to extract a clear image. This makes it possible to quantify the image sharpness and the criteria for determining the sharpness, thereby improving the accuracy of extracting a clear image.
詳細には、処理部333は、振幅スペクトルにおける振幅が一定値未満の点の数が閾値以上の画像を鮮明画像として抽出する。これにより、鮮明度及び鮮明度の判定基準を簡潔な手順で算出することができる。 In detail, the processing unit 333 extracts, as a clear image, an image in which the number of points in the amplitude spectrum whose amplitude is less than a certain value is equal to or greater than a threshold value. This makes it possible to calculate the clarity and the criteria for determining clarity in a simple procedure.
図10は、第2抽出処理を示すフロー図である。第2抽出処理では、共通のオブジェクトを撮影した一定数の画像が処理の対象とされる。まず、処理部333は、カメラ41が取得した画像をモノクロの画像としてメモリに格納する(ステップS310)。次に、処理部333は、画像を公知の方法にて平滑化することで、隣接するピクセルの数値変化を滑らかにする(ステップS320)。 Figure 10 is a flow diagram showing the second extraction process. In the second extraction process, a certain number of images capturing a common object are processed. First, the processing unit 333 stores the images captured by the camera 41 as monochrome images in memory (step S310). Next, the processing unit 333 smoothes the images using a known method to smooth out the numerical value changes of adjacent pixels (step S320).
平滑化後、処理部333は、画像を離散フーリエ変換(高速フーリエ変換)し、振幅スペクトル(フーリエ変換画像)を算出する(ステップS330)。図11は、振幅スペクトルの一例を示す図である。撮影画像の離散フーリエ変換によって、図11Aに示す振幅スペクトルの分布が得られる。 After smoothing, the processing unit 333 performs a discrete Fourier transform (fast Fourier transform) on the image to calculate an amplitude spectrum (Fourier transform image) (step S330). FIG. 11 is a diagram showing an example of an amplitude spectrum. The amplitude spectrum distribution shown in FIG. 11A is obtained by performing a discrete Fourier transform on the captured image.
振幅スペクトルの算出後、処理部333は、振幅スペクトルを、閾値を用いて白(画素値が0)又は黒(画素値が255)へ変換した(二値化した)画像を作成する(ステップS340)。ここでの閾値は、例えば70以上150以下の任意の値(例えば110)であり、振幅が閾値未満のピクセルを白、閾値以上のピクセルを黒とする。これにより、図11Bに示す白黒画像が得られる。この画像における白のピクセルは、振幅が小さい点であり、このピクセルが多いほど、フーリエ変換前の画像が鮮明であると言える。 After calculating the amplitude spectrum, the processing unit 333 creates an image in which the amplitude spectrum is converted (binarized) to white (pixel value 0) or black (pixel value 255) using a threshold (step S340). The threshold here is an arbitrary value between 70 and 150 (e.g. 110), for example, and pixels with amplitudes below the threshold are white, and pixels with amplitudes above the threshold are black. This results in the black and white image shown in Figure 11B. The white pixels in this image are points with small amplitudes, and the more white pixels there are, the clearer the image before the Fourier transform is.
二値化後、処理部333は、画像にマスクを付与する(ステップS350)。具体的には、振動スペクトルの低周波領域及び周期性領域を黒色にマスクする。これにより、図11Cに示すマスクされた白黒画像が得られる。 After binarization, the processing unit 333 applies a mask to the image (step S350). Specifically, the low-frequency and periodic regions of the vibration spectrum are masked in black. This results in the masked black-and-white image shown in FIG. 11C.
マスクの対象となる低周波領域は、図11Aの画像における四隅の部分(破線の丸で囲った部分)であり、例えば、画像の角からの距離が16ピクセル以内(直径32ピクセルの円内)の領域である。低周波領域は、オブジェクトの輪郭がぼやけているときに発生するノイズ領域である。同じくマスクの対象となる周期性領域は、図11Aの画像における四辺から一定距離の帯状の部分(破線の四角で囲った部分)であり、例えば、画像の辺からの距離が16ピクセル以内の領域である。周期性領域は、振動方向、撮影背景等に依存して白線が発生し、鮮明画像でなくても白色のピクセルが生じる領域である。 The low-frequency regions to be masked are the four corners of the image in FIG. 11A (areas surrounded by dashed circles), and are, for example, regions that are within 16 pixels from the corners of the image (within a circle with a diameter of 32 pixels). The low-frequency regions are noise regions that occur when the contours of an object are blurred. Similarly, the periodic regions to be masked are strips at a certain distance from the four sides of the image in FIG. 11A (areas surrounded by dashed squares), and are, for example, regions that are within 16 pixels from the sides of the image. The periodic regions are regions where white lines appear depending on the vibration direction, shooting background, etc., and where white pixels appear even when the image is not clear.
マスク処理の後、処理部333は、マスクされた白黒画像に含まれる白ピクセル(振幅が一定値未満の点)をカウントする(ステップS360)。白ピクセルのカウント後、処理部333は、白ピクセルをカウントした画像の数が一定の数値(例えば100以上1000以下、具体的には500)以上であるか否か判定する(ステップS370)。カウント済みの画像の数が一定未満の場合(S370:NO)、処理部333は、次の画像に対し、S310からS360までを実行する。 After the masking process, the processing unit 333 counts the white pixels (points whose amplitude is less than a certain value) contained in the masked black-and-white image (step S360). After counting the white pixels, the processing unit 333 determines whether the number of images in which the white pixels have been counted is equal to or greater than a certain value (e.g., 100 to 1000, specifically, 500) (step S370). If the number of counted images is less than the certain value (S370: NO), the processing unit 333 executes steps S310 to S360 for the next image.
一方、カウント済みの画像の数が一定以上の場合(S370:YES)、処理部333は、各画像の白ピクセルの数が閾値以上であるか否か判定する(ステップS380)。白ピクセルの数が閾値以上である場合(S380:YES)、処理部333は、この画像を「鮮明画像」と判定する(ステップS390)。一方、白ピクセルの数が閾値未満の場合(S380:NO)、処理部333は、この画像を「非鮮明画像」と判定する(ステップS400)。 On the other hand, if the number of counted images is equal to or greater than a certain number (S370: YES), the processing unit 333 determines whether the number of white pixels in each image is equal to or greater than a threshold (step S380). If the number of white pixels is equal to or greater than the threshold (S380: YES), the processing unit 333 determines that this image is a "clear image" (step S390). On the other hand, if the number of white pixels is less than the threshold (S380: NO), the processing unit 333 determines that this image is a "non-clear image" (step S400).
鮮明画像の判定に用いる閾値は、例えば、以下の手順で設定される。すなわち、S360でカウントした複数の画像における白ピクセルの数を「鮮明度」とし、複数の画像の鮮明度のうち、最大値をWmax、最小値をWminとする。閾値Wtは、鮮明度の最大値及び最小値の差分の上位20%として、下記式(10)で求められる。
4.作用
本実施形態の作用をまとめると、次の通りとなる。連続的に撮影した複数の画像からモーションブラーが基準よりも小さい画像が抽出されることで、振動するオブジェクトに対し、鮮明な画像を自動で取得することができる。
4. Functions The functions of the present embodiment can be summarized as follows: By extracting images with less motion blur than a standard from a plurality of images captured continuously, it is possible to automatically obtain clear images of a vibrating object.
以上、本発明の実施形態について説明したが、本発明はこれに限定されることなく、その発明の技術的思想を逸脱しない範囲で適宜変更可能である。 The above describes an embodiment of the present invention, but the present invention is not limited to this and can be modified as appropriate without departing from the technical concept of the invention.
5.その他
上記実施形態では、ユーザ端末3が種々の記憶・制御を行ったが、ユーザ端末3に代えて、複数の外部装置が用いられてもよい。すなわち、種々の情報やプログラムは、ブロックチェーン技術等を用いて複数の外部装置に分散して記憶されてもよい。
5. Others In the above embodiment, the user terminal 3 performs various storage and control, but multiple external devices may be used instead of the user terminal 3. In other words, various information and programs may be distributed and stored in multiple external devices using block chain technology or the like.
本実施形態の態様は、鮮明画像取得システム1に限定されず、情報処理方法であっても、プログラムであってもよい。鮮明画像取得方法は、鮮明画像取得システム1の各ステップを備える。プログラムは、コンピュータを、鮮明画像取得システム1として機能させる。 The aspect of this embodiment is not limited to the clear image acquisition system 1, and may be an information processing method or a program. The clear image acquisition method includes each step of the clear image acquisition system 1. The program causes a computer to function as the clear image acquisition system 1.
鮮明画像取得システム1において、情報処理装置2のプロセッサ23が調整部332及び/又は処理部333を有してもよい。ただし、撮影装置4による画像取得と調整部332による撮影装置4の調整(撮影装置4へのフィードバック)とのタイムラグを低減する観点から、調整部332は、ユーザ端末3のプロセッサ33が有することが好ましい。 In the clear image acquisition system 1, the processor 23 of the information processing device 2 may have an adjustment unit 332 and/or a processing unit 333. However, from the viewpoint of reducing the time lag between image acquisition by the image capture device 4 and adjustment of the image capture device 4 by the adjustment unit 332 (feedback to the image capture device 4), it is preferable that the adjustment unit 332 be included in the processor 33 of the user terminal 3.
調整部332は、ガルバノミラー44の向きの調整に替えて、又はガルバノミラー44の向きの調整に加えて、カメラ41又はターゲットの向き又は位置を調整してもよい。したがって、撮影装置4は、必ずしもガルバノミラー44を有しなくてもよい。 The adjustment unit 332 may adjust the orientation or position of the camera 41 or the target instead of or in addition to adjusting the orientation of the galvanometer mirror 44. Therefore, the imaging device 4 does not necessarily have to have a galvanometer mirror 44.
次に記載の各態様で提供されてもよい。 It may be provided in the following ways:
(1)鮮明画像取得システムであって、プロセッサを備え、前記プロセッサは、受付ステップと、処理ステップと、を実行するように構成され、前記受付ステップでは、振動するオブジェクトを連続的に撮影した複数の画像の入力を受け付け、前記処理ステップでは、前記複数の画像からモーションブラーが予め定めた基準よりも小さい鮮明画像を抽出する、鮮明画像取得システム。 (1) A clear image acquisition system comprising a processor configured to execute a receiving step and a processing step, in which the receiving step receives input of a plurality of images of a vibrating object captured successively, and the processing step extracts a clear image from the plurality of images in which motion blur is smaller than a predetermined standard.
(2)上記(1)に記載の鮮明画像取得システムにおいて、前記処理ステップでは、前記複数の画像における前記オブジェクトの中心点の移動量を算出し、前記移動量が小さい画像を前記鮮明画像として抽出する、鮮明画像取得システム。 (2) In the clear image acquisition system described in (1) above, in the processing step, the amount of movement of the center point of the object in the multiple images is calculated, and the image with the small amount of movement is extracted as the clear image.
(3)上記(2)に記載の鮮明画像取得システムにおいて、前記処理ステップでは、前記複数の画像における前記オブジェクトの輪郭をそれぞれ抽出し、前記輪郭で画定される図形の重心を前記中心点とする、鮮明画像取得システム。 (3) In the clear image acquisition system described in (2) above, in the processing step, the contours of the object in each of the multiple images are extracted, and the center of gravity of the figure defined by the contours is set as the center point.
(4)上記(1)に記載の鮮明画像取得システムにおいて、前記処理ステップでは、前記複数の画像の離散フーリエ変換により振幅スペクトルを算出し、前記振幅スペクトルの分布に基づいて前記鮮明画像を抽出する、鮮明画像取得システム。 (4) In the clear image acquisition system described in (1) above, in the processing step, an amplitude spectrum is calculated by a discrete Fourier transform of the multiple images, and the clear image is extracted based on the distribution of the amplitude spectrum.
(5)上記(4)に記載の鮮明画像取得システムにおいて、前記処理ステップでは、前記振幅スペクトルにおける振幅が一定値未満の点の数が閾値以上の画像を前記鮮明画像として抽出する、鮮明画像取得システム。 (5) A clear image acquisition system as described in (4) above, in which in the processing step, an image in which the number of points in the amplitude spectrum whose amplitude is less than a certain value is equal to or greater than a threshold value is extracted as the clear image.
(6)上記(1)から(5)のいずれか1つに記載の鮮明画像取得システムにおいて、撮影装置をさらに備え、前記撮影装置は、前記複数の画像を取得するカメラを有し、前記プロセッサは、調整ステップをさらに実行するように構成され、前記調整ステップでは、前記複数の画像のうち少なくとも1つの画像における前記オブジェクトの位置を算出し、前記オブジェクトの位置に基づいて前記オブジェクトからの反射光の前記カメラへの入射角を調整する、鮮明画像取得システム。 (6) A clear image acquisition system according to any one of (1) to (5) above, further comprising a photographing device, the photographing device having a camera for acquiring the plurality of images, and the processor configured to further execute an adjustment step, in which the adjustment step calculates the position of the object in at least one of the plurality of images, and adjusts the angle of incidence of the reflected light from the object to the camera based on the position of the object.
(7)上記(6)に記載の鮮明画像取得システムにおいて、前記撮影装置は、前記反射光を前記カメラに向けて反射させる反射面を有する反射部材をさらに有し、前記調整ステップでは、前記オブジェクトの中心点の位置に基づいて前記反射面の向きを調整する、鮮明画像取得システム。 (7) In the clear image acquisition system described in (6) above, the photographing device further includes a reflective member having a reflective surface that reflects the reflected light toward the camera, and in the adjustment step, the orientation of the reflective surface is adjusted based on the position of the center point of the object.
(8)上記(7)に記載の鮮明画像取得システムにおいて、前記調整ステップでは、前記カメラの画角の中心に前記中心点が近づくように前記反射面の向きを調整する、鮮明画像取得システム。 (8) In the clear image acquisition system described in (7) above, in the adjustment step, the orientation of the reflecting surface is adjusted so that the central point approaches the center of the angle of view of the camera.
(9)鮮明画像取得方法であって、上記(1)から(8)のいずれか1つに記載の鮮明画像取得システムの各ステップを備える、鮮明画像取得方法。 (9) A method for acquiring a clear image, comprising each step of the clear image acquisition system described in any one of (1) to (8) above.
(10)プログラムであって、コンピュータを、上記(1)から(8)のいずれか1つに記載の鮮明画像取得システムとして機能させるためのプログラム。
もちろん、この限りではない。
(10) A program for causing a computer to function as the clear image acquisition system according to any one of (1) to (8) above.
Of course, this is not the case.
最後に、本開示に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。 Finally, various embodiments of the present disclosure have been described, but these are presented as examples and are not intended to limit the scope of the invention. The novel embodiments can be implemented in various other forms, and various omissions, substitutions, and modifications can be made without departing from the spirit of the invention. The embodiments and modifications thereof are within the scope and spirit of the invention, and are included in the scope of the invention and its equivalents as set forth in the claims.
1 :鮮明画像取得システム
2 :情報処理装置
3 :ユーザ端末
4 :撮影装置
20 :通信バス
21 :通信部
22 :記憶部
23 :プロセッサ
30 :通信バス
31 :通信部
32 :記憶部
33 :プロセッサ
34 :表示部
35 :入力部
41 :カメラ
41A :イメージセンサ
42 :レンズ
43 :光源
44 :ガルバノミラー
44A :X軸ミラー
44B :Y軸ミラー
46 :駆動回路
46A :DAコンバータ
46B :第1モータドライバ
46C :第2モータドライバ
331 :受付部
332 :調整部
333 :処理部
1: Clear image acquisition system 2: Information processing device 3: User terminal 4: Photographing device 20: Communication bus 21: Communication unit 22: Memory unit 23: Processor 30: Communication bus 31: Communication unit 32: Memory unit 33: Processor 34: Display unit 35: Input unit 41: Camera 41A: Image sensor 42: Lens 43: Light source 44: Galvanometer mirror 44A: X-axis mirror 44B: Y-axis mirror 46: Drive circuit 46A: DA converter 46B: First motor driver 46C: Second motor driver 331: Reception unit 332: Adjustment unit 333: Processing unit
Claims (9)
プロセッサを備え、
前記プロセッサは、受付ステップと、処理ステップと、を実行するように構成され、
前記受付ステップでは、振動するオブジェクトを連続的に撮影した複数の画像の入力を受け付け、
前記処理ステップでは、前記複数の画像の離散フーリエ変換により振幅スペクトルを算出し、前記振幅スペクトルの低周波領域及び周期性領域をマスクした画像に基づいて、前記複数の画像からモーションブラーが予め定めた基準よりも小さい鮮明画像を抽出する、鮮明画像取得システム。 A clear image acquisition system, comprising:
A processor is provided.
The processor is configured to perform a receiving step and a processing step;
In the receiving step, input of a plurality of images of a vibrating object successively captured is received,
In the processing step, an amplitude spectrum is calculated by a discrete Fourier transform of the multiple images, and a clear image having motion blur smaller than a predetermined standard is extracted from the multiple images based on an image in which the low-frequency region and periodic region of the amplitude spectrum are masked .
前記処理ステップでは、前記複数の画像における前記オブジェクトの中心点の移動量を算出し、前記移動量が小さい画像を前記鮮明画像として抽出する、鮮明画像取得システム。 2. The clear image acquisition system according to claim 1,
In the processing step, a movement amount of a center point of the object in the plurality of images is calculated, and the image with the smallest movement amount is extracted as the clear image.
前記処理ステップでは、前記複数の画像における前記オブジェクトの輪郭をそれぞれ抽出し、前記輪郭で画定される図形の重心を前記中心点とする、鮮明画像取得システム。 3. The clear image acquisition system according to claim 2,
A clear image acquisition system, in which the processing step extracts contours of the object in each of the multiple images, and sets the center of gravity of a figure defined by the contours as the center point.
前記処理ステップでは、前記振幅スペクトルにおける振幅が一定値未満の点の数が閾値以上の画像を前記鮮明画像として抽出する、鮮明画像取得システム。 2. The clear image acquisition system according to claim 1 ,
In the processing step, an image in which the number of points in the amplitude spectrum whose amplitude is less than a certain value is equal to or greater than a threshold value is extracted as the clear image.
撮影装置をさらに備え、
前記撮影装置は、前記複数の画像を取得するカメラを有し、
前記プロセッサは、調整ステップをさらに実行するように構成され、
前記調整ステップでは、前記複数の画像のうち少なくとも1つの画像における前記オブジェクトの位置を算出し、前記オブジェクトの位置に基づいて前記オブジェクトからの反射光の前記カメラへの入射角を調整する、鮮明画像取得システム。 2. The clear image acquisition system according to claim 1,
Further comprising an imaging device;
the imaging device has a camera for acquiring the plurality of images;
The processor is further configured to perform an adjustment step;
A clear image acquisition system, in which the adjustment step calculates the position of the object in at least one of the multiple images, and adjusts the angle of incidence of reflected light from the object to the camera based on the position of the object.
前記撮影装置は、前記反射光を前記カメラに向けて反射させる反射面を有する反射部材をさらに有し、
前記調整ステップでは、前記オブジェクトの中心点の位置に基づいて前記反射面の向きを調整する、鮮明画像取得システム。 6. The clear image acquisition system according to claim 5 ,
the photographing device further includes a reflecting member having a reflecting surface that reflects the reflected light toward the camera;
A clear image acquisition system, wherein the adjustment step adjusts the orientation of the reflective surface based on the position of the center point of the object.
前記調整ステップでは、前記カメラの画角の中心に前記中心点が近づくように前記反射面の向きを調整する、鮮明画像取得システム。 7. The clear image acquisition system according to claim 6 ,
In the adjustment step, the orientation of the reflecting surface is adjusted so that the central point approaches the center of the angle of view of the camera.
請求項1から請求項7のいずれか1項に記載の鮮明画像取得システムの各ステップを備える、鮮明画像取得方法。 A method for acquiring a clear image, comprising:
A method for obtaining a clear image, comprising the steps of the system for obtaining a clear image according to any one of claims 1 to 7 .
コンピュータを、請求項1から請求項7のいずれか1項に記載の鮮明画像取得システムとして機能させるためのプログラム。 A program,
A program for causing a computer to function as the clear image acquisition system according to any one of claims 1 to 7 .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023101674A JP7665159B2 (en) | 2023-06-21 | 2023-06-21 | Clear image acquisition system, clear image acquisition method, and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023101674A JP7665159B2 (en) | 2023-06-21 | 2023-06-21 | Clear image acquisition system, clear image acquisition method, and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2025001908A JP2025001908A (en) | 2025-01-09 |
| JP7665159B2 true JP7665159B2 (en) | 2025-04-21 |
Family
ID=94170216
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023101674A Active JP7665159B2 (en) | 2023-06-21 | 2023-06-21 | Clear image acquisition system, clear image acquisition method, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7665159B2 (en) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002190016A (en) | 2000-12-21 | 2002-07-05 | Sony Corp | Signal processing apparatus and method, and recording medium |
| JP2004236006A (en) | 2003-01-30 | 2004-08-19 | Fuji Photo Film Co Ltd | Digital camera |
| JP2006067452A (en) | 2004-08-30 | 2006-03-09 | Nikon Corp | Video recording apparatus and electronic camera |
| JP2006317848A (en) | 2005-05-16 | 2006-11-24 | Canon Inc | Still image pickup device |
| JP2009232385A (en) | 2008-03-25 | 2009-10-08 | Sony Corp | Image processing apparatus, image processing method, and program |
| JP2013058052A (en) | 2011-09-08 | 2013-03-28 | Dainippon Printing Co Ltd | Feature point extraction device, feature point extraction method, and program |
| JP2017060192A (en) | 2016-12-13 | 2017-03-23 | キヤノン株式会社 | Image shake correction device, image shake correction method, program, and storage medium |
| JP2017143492A (en) | 2016-02-12 | 2017-08-17 | キヤノン株式会社 | Image processing apparatus, imaging apparatus, image processing method, and program |
| JP2019191323A (en) | 2018-04-23 | 2019-10-31 | オリンパス株式会社 | Endoscope device, method for operating endoscope device, program, and recording medium |
| JP2021144106A (en) | 2020-03-11 | 2021-09-24 | 株式会社日立製作所 | Imaging apparatus, analysis system, image processor, method for imaging, method for analysis, and method for processing image |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3524252B2 (en) * | 1996-01-18 | 2004-05-10 | キヤノン株式会社 | Image processing apparatus and method, and imaging apparatus |
-
2023
- 2023-06-21 JP JP2023101674A patent/JP7665159B2/en active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002190016A (en) | 2000-12-21 | 2002-07-05 | Sony Corp | Signal processing apparatus and method, and recording medium |
| JP2004236006A (en) | 2003-01-30 | 2004-08-19 | Fuji Photo Film Co Ltd | Digital camera |
| JP2006067452A (en) | 2004-08-30 | 2006-03-09 | Nikon Corp | Video recording apparatus and electronic camera |
| JP2006317848A (en) | 2005-05-16 | 2006-11-24 | Canon Inc | Still image pickup device |
| JP2009232385A (en) | 2008-03-25 | 2009-10-08 | Sony Corp | Image processing apparatus, image processing method, and program |
| JP2013058052A (en) | 2011-09-08 | 2013-03-28 | Dainippon Printing Co Ltd | Feature point extraction device, feature point extraction method, and program |
| JP2017143492A (en) | 2016-02-12 | 2017-08-17 | キヤノン株式会社 | Image processing apparatus, imaging apparatus, image processing method, and program |
| JP2017060192A (en) | 2016-12-13 | 2017-03-23 | キヤノン株式会社 | Image shake correction device, image shake correction method, program, and storage medium |
| JP2019191323A (en) | 2018-04-23 | 2019-10-31 | オリンパス株式会社 | Endoscope device, method for operating endoscope device, program, and recording medium |
| JP2021144106A (en) | 2020-03-11 | 2021-09-24 | 株式会社日立製作所 | Imaging apparatus, analysis system, image processor, method for imaging, method for analysis, and method for processing image |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2025001908A (en) | 2025-01-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110443205B (en) | Hand image segmentation method and device | |
| EP3324826B1 (en) | Automatic fundus image capture system | |
| WO2017112041A1 (en) | Morphological and edge filters for depth edge enhancement in digital images | |
| CN107615288B (en) | Pose matching mechanism | |
| CN105180836B (en) | Control device, robot, and control method | |
| US20150253863A1 (en) | Image Processor Comprising Gesture Recognition System with Static Hand Pose Recognition Based on First and Second Sets of Features | |
| US9940701B2 (en) | Device and method for depth image dequantization | |
| CN110827288B (en) | Method and device for extracting target image in projector definition test | |
| US9792673B2 (en) | Facilitating projection pre-shaping of digital images at computing devices | |
| CN111524165A (en) | Target tracking method and device | |
| JP7665159B2 (en) | Clear image acquisition system, clear image acquisition method, and program | |
| CN111221410B (en) | Method for transmitting eyeball tracking information, head-mounted display and computer device | |
| US9792671B2 (en) | Code filters for coded light depth acquisition in depth images | |
| WO2022064583A1 (en) | Distance information generation device and distance information generation method | |
| JP5051671B2 (en) | Information processing apparatus, information processing method, and program | |
| JP7693325B2 (en) | Information processing device, information processing method, and program | |
| JP7215495B2 (en) | Information processing device, control method, and program | |
| CN113658196A (en) | Method and device for detecting ship in infrared image, electronic equipment and medium | |
| JP7675994B1 (en) | Clear image acquisition system, clear image acquisition method, and program | |
| CN117994542A (en) | Foreign body detection method, device and system | |
| JP2018180964A (en) | Image processing apparatus and image processing method | |
| WO2018092422A1 (en) | Image processing device and image processing method | |
| JP2020005111A (en) | Information processing apparatus, control method, and program | |
| EP3496390B1 (en) | Information processing device, information processing method, and storage medium | |
| JP2022045757A (en) | Imaging control device and its control method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240228 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241203 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250106 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250304 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250401 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7665159 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |