JP7807475B2 - Search device, search method, and information processing system - Google Patents
Search device, search method, and information processing systemInfo
- Publication number
- JP7807475B2 JP7807475B2 JP2024004705A JP2024004705A JP7807475B2 JP 7807475 B2 JP7807475 B2 JP 7807475B2 JP 2024004705 A JP2024004705 A JP 2024004705A JP 2024004705 A JP2024004705 A JP 2024004705A JP 7807475 B2 JP7807475 B2 JP 7807475B2
- Authority
- JP
- Japan
- Prior art keywords
- search
- dimensional information
- image
- image data
- viewpoints
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Processing Or Creating Images (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は、検索装置、検索方法および情報処理システムに関する。 The present invention relates to a search device, a search method, and an information processing system.
例えば、工作機械などの製造装置を有する企業では、自社の保有する図面の中から、顧客の示す図面に似ている図面を探し出し、その探し出された図面に基づいて見積もりを作成することがある。このため、顧客の示す図面と似た図面を検索する装置が提案されている(特許文献1)。さらに、ユーザの指定したキーワードに対応する部品描画領域をアイコン化して仮想空間に配置し、ユーザに検索の手がかりを提供する装置も提案されている(特許文献2)。 For example, companies that own manufacturing equipment such as machine tools may search their own drawings for ones similar to those requested by a customer, and create estimates based on these drawings. For this reason, a device that searches for drawings similar to those requested by a customer has been proposed (Patent Document 1). Furthermore, a device has also been proposed that iconizes component drawing areas corresponding to keywords specified by the user and places them in a virtual space to provide the user with search clues (Patent Document 2).
特許文献1に記載の技術では、顧客の示す立体図または平面図から似ている自社図面を検索できるが、図面以外のデータに対応していないため、使い勝手が悪い。特許文献2に記載の技術では、ユーザが適切なキー画像を指定する必要があり、使い勝手が悪い。 The technology described in Patent Document 1 allows users to search for similar company drawings based on a 3D or plan view provided by a customer, but it is difficult to use because it does not support data other than drawings. The technology described in Patent Document 2 requires users to specify an appropriate key image, making it difficult to use.
本発明は、以上の課題に鑑みてなされたものであり、その目的は、検索対象物の三次元情報に基づいて画像データを検索することができ、使い勝手の高い検索装置、検索方法および情報処理システムを提供することにある。 The present invention was made in consideration of the above-mentioned problems, and its purpose is to provide a highly user-friendly search device, search method, and information processing system that can search image data based on three-dimensional information about the search target.
上記課題を解決すべく、本発明の一つの観点に従う検索装置は、検索要求に応じた検索結果を出力する検索装置であって、画像データの特徴に基づく特徴量をベクトル化して検索用データベースへ登録させる画像データ登録部と、検索対象物の三次元情報から抽出された特徴に基づく特徴量をベクトル化して検索要求を生成し、生成された検索要求を用いて前記検索用データベースを検索する画像検索部と、を備える。 To solve the above problem, a search device according to one aspect of the present invention is a search device that outputs search results in response to a search request, and includes an image data registration unit that vectorizes feature quantities based on the characteristics of image data and registers them in a search database, and an image search unit that vectorizes feature quantities based on characteristics extracted from three-dimensional information of a search target object to generate a search request, and searches the search database using the generated search request.
本発明によれば、検索対象物の三次元情報に基づいて、検索用データベースに登録された画像データを検索することができる。 According to the present invention, image data registered in a search database can be searched based on three-dimensional information about the search target.
以下、図面に基づいて、本発明の実施の形態を説明する。本実施形態では、「画像データ」の例として、平面図または立体図などの図面データを挙げる。図面データの特徴に基づく特徴量が計算されてベクトル化され、検索用データベースへ登録される。検索対象物は、自身の形状に類似する図面データを探している対象物体である。物体とは、例えば、各種製品または製品模型である。製品は試作品でもよいし、特殊品でもよいし、量産品でもよい。製品模型は、例えば、外観模型、ミニチュア、サンプルなどである。製品には完成品と部品が含まれる。例えば、SfM(Structure From Motion)、MVS(Multi-View Stereo)、LiDAR(Light Detection And Ranging)などの三次元情報取得装置を用いて、検索対象物の三次元情報が取得される。取得された三次元情報から特徴が抽出されて特徴量が計算され、計算された特徴量はベクトル化される。検索対象物の三次元情報に基づく検索要求を用いて検索用データベースを検索することにより、検索対象物に似た図面データが検索される。 The following describes an embodiment of the present invention based on the drawings. In this embodiment, drawing data such as plan views or three-dimensional views is used as an example of "image data." Feature quantities based on the characteristics of the drawing data are calculated, vectorized, and registered in a search database. The search target is an object for which drawing data similar to its shape is being sought. Examples of objects include various products or product models. Products may be prototypes, custom products, or mass-produced products. Product models include exterior models, miniatures, and samples. Products include finished products and parts. For example, three-dimensional information of the search target is acquired using a three-dimensional information acquisition device such as SfM (Structure from Motion), MVS (Multi-View Stereo), or LiDAR (Light Detection and Ranging). Features are extracted from the acquired three-dimensional information, feature quantities are calculated, and the calculated feature quantities are vectorized. By searching the search database using a search request based on the three-dimensional information of the search target, drawing data similar to the search target is found.
物体(検索対象物)の三次元情報を取得する装置は、持ち運び可能な装置でもよいし、工場または研究所などの施設に設置された持ち運び困難な装置でもよい。 The device that acquires three-dimensional information about an object (search target) may be a portable device, or it may be a device that is difficult to transport and is installed in a facility such as a factory or laboratory.
本実施形態の検索装置によれば、あらかじめ図面データ(画像データ)の特徴に基づく特徴量がベクトル化されて検索用データベースへ登録されている。検索対象物に関する図面データを探す場合、その検索対象物そのものについて、あるいは検索対象物の模型について、三次元情報が取得される。そして、取得された三次元情報に基づく検索要求を用いて、検索用データベースが検索される。したがって、検索対象物の図面データが存在しない場合、検索対象物の模型しか無い場合でも、検索対象物に類似する図面データを検索することができる。さらに、図面データで示される物体を製造可能な製造装置とその図面データとを紐づけておくことにより、検索対象物を製造可能な製造装置を容易に特定することができ、特定された製造装置によって検索対象物に係る物体(製品)を製造する場合の見積もりなどを算出することもできる。 In the search device of this embodiment, feature quantities based on the characteristics of the drawing data (image data) are vectorized and registered in advance in a search database. When searching for drawing data related to a search target, three-dimensional information is acquired for the search target itself or a model of the search target. The search database is then searched using a search request based on the acquired three-dimensional information. Therefore, even if drawing data for the search target does not exist or only a model of the search target is available, it is possible to search for drawing data similar to the search target. Furthermore, by linking the drawing data with a manufacturing device capable of manufacturing the object represented by the drawing data, it is possible to easily identify the manufacturing device capable of manufacturing the search target, and to calculate an estimate for manufacturing the object (product) related to the search target using the identified manufacturing device.
図1~図7を用いて第1実施例を説明する。図1は、「検索装置」の例としての検索システム1の全体構成図である。本実施例では、あらかじめ検索用データベースに登録されている図面データを、検索対象物の三次元情報に基づく検索要求によって検索する場合を説明する。以下では、図面データを検索システム1へ登録するユーザの使用するユーザ端末U1と、検索対象物に似ている図面データを検索するユーザの使用するユーザ端末U2とを別々の端末であるかのように説明するが、ユーザ端末U1とユーザ端末U2とは同一であってもよい。つまり、図面データを登録するユーザと検索対象物に似た図面データを検索するユーザとは同一組織に属してもよい。以下、図面データを検索システム1へ登録するユーザ端末U1を登録用ユーザ端末U1と、登録された図面データの検索に使用するユーザ端末U2を検索用U2と呼ぶことがある。 The first embodiment will be described using Figures 1 to 7. Figure 1 is an overall configuration diagram of search system 1 as an example of a "search device." In this embodiment, a case will be described in which drawing data previously registered in a search database is searched for by a search request based on three-dimensional information about the search target. In the following, user terminal U1 used by a user who registers drawing data in search system 1 and user terminal U2 used by a user who searches for drawing data similar to the search target will be described as separate terminals, but user terminal U1 and user terminal U2 may be the same. In other words, the user who registers drawing data and the user who searches for drawing data similar to the search target may belong to the same organization. Hereinafter, user terminal U1 that registers drawing data in search system 1 may be referred to as registration user terminal U1, and user terminal U2 used to search for registered drawing data may be referred to as search user terminal U2.
検索システム1は、例えば、画像データ収集部11と、画像データ登録部12と、インデックスデータベース13と、プロジェクト情報データベース14と、三次元情報受付部15と、画像検索部16を備える。画像データ収集部11と画像データ登録部12は、図面データのインデックス化処理を担当する。三次元情報受付部15と画像検索部16は、インデックス化された図面データを検索する検索処理を担当する。 The search system 1 includes, for example, an image data collection unit 11, an image data registration unit 12, an index database 13, a project information database 14, a three-dimensional information reception unit 15, and an image search unit 16. The image data collection unit 11 and the image data registration unit 12 are responsible for indexing the drawing data. The three-dimensional information reception unit 15 and the image search unit 16 are responsible for searching the indexed drawing data.
画像データ収集部11は、「画像データ」としての図面データを収集する。画像データ収集部11は、ウェブサーバ111またはファイルサーバ112から画像データとしての図面データを収集する。図面データの登録者は、登録用ユーザ端末U1を用いて、図面データをウェブサーバ111を通じて画像データ収集部11へ送ることができる。例えば、登録者は、図面データを撮影した画像データをウェブサーバ111から画像データ収集部11へ入力してもよい。図面データは、例えば、図示せぬCAD(Computer Aided Design)システムに接続されたファイルサーバ112を介して、画像データ収集部11へ入力されてもよい。 The image data collection unit 11 collects drawing data as "image data." The image data collection unit 11 collects drawing data as image data from the web server 111 or the file server 112. A person who registers drawing data can use a registration user terminal U1 to send the drawing data to the image data collection unit 11 via the web server 111. For example, a person who registers drawing data may input image data obtained by photographing the drawing data from the web server 111 to the image data collection unit 11. The drawing data may also be input to the image data collection unit 11 via a file server 112 connected to a CAD (Computer Aided Design) system (not shown), for example.
画像データ登録部12は、画像データ収集部11で収集された画像データの特徴量を特徴点抽出部121により抽出し、抽出された特徴量をベクトル化処理部122でベクトル化して、インデックスデータベース13に登録させる。画像データ登録部12は、図面データと、図面データに示された物体を製造可能な製造装置の情報と、部品表と、原価表などを含むプロジェクト情報をプロジェクト情報データベース14に登録させる。 The image data registration unit 12 extracts feature quantities from the image data collected by the image data collection unit 11 using the feature point extraction unit 121, vectorizes the extracted feature quantities using the vectorization processing unit 122, and registers the vectorized quantities in the index database 13. The image data registration unit 12 registers project information, including drawing data, information on manufacturing equipment capable of manufacturing the object shown in the drawing data, a parts list, a cost list, etc., in the project information database 14.
インデックスデータベース13は、「検索用データベース」の例である。上述の通り、インデックスデータベース13には、製造装置3(図3参照)で製造可能な製品(検索対象物、物体)の図面データDW(図3参照)が特徴量に基づいてインデックス化されて記憶される。プロジェクト情報データベース14は、図面データで示される製品の製造販売に関する情報が記憶されている。製品の製造販売に関する情報には、例えば、部品表、材料リスト、原価表、販売価格、納期などである。 The index database 13 is an example of a "search database." As described above, the index database 13 stores drawing data DW (see Figure 3) of products (search targets, objects) that can be manufactured by the manufacturing equipment 3 (see Figure 3) indexed based on feature quantities. The project information database 14 stores information related to the manufacture and sale of products indicated by the drawing data. Information related to the manufacture and sale of products includes, for example, a parts list, a materials list, a cost list, a sales price, and a delivery date.
三次元情報受付部15は、検索対象物2の三次元情報を、検索の基となる画像として受け付ける。検索対象物2の三次元情報は、物体の三次元情報を取得する装置を用いて生成することができる。そのような装置に使用される技術には、例えば、SfM(Structure From Motion)、MVS(Multi-View Stereo)、LiDAR(Light Detection And Ranging)などが知られている。 The three-dimensional information receiving unit 15 receives three-dimensional information of the search object 2 as an image that serves as the basis for the search. The three-dimensional information of the search object 2 can be generated using a device that acquires three-dimensional information about objects. Known technologies used in such devices include, for example, SfM (Structure from Motion), MVS (Multi-View Stereo), and LiDAR (Light Detection and Ranging).
物体の三次元情報を取得する装置は、検索用ユーザ端末U2に内蔵されてもよいし、検索用ユーザ端末U2に接続されてもよい。検索対象物2の三次元情報は、ユーザ端末U2から三次元情報受付部15へ入力することができる。または、検索対象物2の作成元(例えばユーザにとってのエンドユーザ)に物体の三次元情報を作成する装置が設けられている場合、検索対象物2の作成元でその検索対象物2の三次元情報を取得し、取得された三次元情報を記憶媒体に固定して検索システム1へ持ち込み、三次元情報受付部15へ入力することもできる。後述の実施例のように、インターネットを介して三次元情報受付部15へ検索対象物2の三次元情報を入力することもできる。 The device for acquiring three-dimensional information about an object may be built into the search user terminal U2 or connected to the search user terminal U2. The three-dimensional information about the search object 2 can be input from the user terminal U2 to the three-dimensional information accepting unit 15. Alternatively, if the creator of the search object 2 (e.g., the end user) is provided with a device for creating three-dimensional information about objects, the three-dimensional information about the search object 2 can be acquired at the creator of the search object 2, the acquired three-dimensional information can be fixed on a storage medium, brought into the search system 1, and input to the three-dimensional information accepting unit 15. As in the example described below, the three-dimensional information about the search object 2 can also be input to the three-dimensional information accepting unit 15 via the Internet.
画像検索部16は、検索対象物2の三次元情報に基づいて検索要求を生成し、インデックスデータベース13を検索して検索対象物2に似た図面データを抽出する。画像検索部16は、例えば、3D前処理部161と、画像前処理部162および検索部163を備えている。 The image search unit 16 generates a search request based on the three-dimensional information of the search object 2, and searches the index database 13 to extract drawing data similar to the search object 2. The image search unit 16 includes, for example, a 3D preprocessing unit 161, an image preprocessing unit 162, and a search unit 163.
3D前処理部161は、三次元情報の前処理を実行する。3D前処理部161は、例えば、不透過処理部1611と、多視点化処理部1612を備える。以下、不透過処理部1611を不透過1611と、多視点化処理部1612を多視点化1612と略記する場合がある。 The 3D preprocessing unit 161 performs preprocessing of three-dimensional information. The 3D preprocessing unit 161 includes, for example, an opacity processing unit 1611 and a multi-viewpoint processing unit 1612. Hereinafter, the opacity processing unit 1611 may be abbreviated as "opacity 1611," and the multi-viewpoint processing unit 1612 may be abbreviated as "multi-viewpoint 1612."
不透過処理部1611は、検索対象物2の三次元情報のうち視点から見た表面だけが表示されるように、不透過処理する。すなわち、不透過処理された三次元情報は、その内部および裏側の点群を見ることができない。 The opacity processing unit 1611 performs opacity processing on the three-dimensional information of the search object 2 so that only the surface as seen from the viewpoint is displayed. In other words, the three-dimensional information that has been opacified makes it impossible to see the point cloud inside or behind it.
多視点化処理部1612 は、不透過処理された三次元情報を複数の視点から見た場合の画像を生成する。不透過処理部1611の処理例および多視点化処理部1612 の処理例は、後述する。 The multi-viewpoint processing unit 1612 generates an image when the opaque-processed three-dimensional information is viewed from multiple viewpoints. Examples of processing by the opaque processing unit 1611 and the multi-viewpoint processing unit 1612 will be described later.
画像前処理部162は、3D前処理部161により処理された画像データを、検索要求を生成するために前処理する。画像前処理には、例えば、特徴点を抽出する処理と、抽出された特徴点をベクトル化する処理とが含まれる。検索対象物2の三次元情報から特徴点を抽出し、それら特徴点をベクトル化処理することにより、インデックスデータベース13内のベクトル化された図面データを検索することができる。 The image preprocessing unit 162 preprocesses the image data processed by the 3D preprocessing unit 161 in order to generate a search request. Image preprocessing includes, for example, the extraction of feature points and the vectorization of the extracted feature points. By extracting feature points from the three-dimensional information of the search object 2 and vectorizing these feature points, it is possible to search for vectorized drawing data in the index database 13.
検索部163は、ベクトル化されたデータに基づいて検索要求を生成し、インデックスデータベース13を検索する。図面データの検索結果は、プロジェクト情報データベース14から読みだされる関連情報とともに、検索用ユーザ端末U2へ送信される。 The search unit 163 generates a search request based on the vectorized data and searches the index database 13. The search results for the drawing data are sent to the search user terminal U2 along with related information read from the project information database 14.
図2は、検索システム1のハードウェア構成図である。検索システム1は、一つの計算機1000を用いて生成することができる。または、検索システム1は、複数の計算機を連携させて生成することもできる。 Figure 2 is a hardware configuration diagram of the search system 1. The search system 1 can be generated using a single computer 1000. Alternatively, the search system 1 can be generated by linking multiple computers.
計算機1000は、例えば、プロセッサ1100、メモリ1200、補助記憶装置1300、通信部1400、ユーザインタフェース部1500を備える。図中、ユーザインタフェースをUIと略記する。 The computer 1000 includes, for example, a processor 1100, memory 1200, an auxiliary storage device 1300, a communication unit 1400, and a user interface unit 1500. In the figure, the user interface is abbreviated as UI.
プロセッサ1100が補助記憶装置1300に記憶されたコンピュータプログラムを実行することにより、検索システム1の各機能が実現される。プロセッサ1100は、CPU(Central Processing Unit)に限らず、GPU(Graphics Processing Unit)またはASIC(Application Specific Integrated Circuit)などを含んでもよい。 The processor 1100 executes computer programs stored in the auxiliary storage device 1300 to realize the various functions of the search system 1. The processor 1100 is not limited to a CPU (Central Processing Unit), but may also include a GPU (Graphics Processing Unit) or an ASIC (Application Specific Integrated Circuit).
メモリ1200は、RAM(Random Access Memory)およびROM(Read Only Memory)を含む。 Memory 1200 includes RAM (Random Access Memory) and ROM (Read Only Memory).
通信部1400は、通信ネットワークCNを介して、ユーザ端末U1,U2および図外の他システムと通信するための装置である。図外の他システムとは、例えば設計支援システム、生産管理システム、販売管理システム、見積もり作成システム、文書管理システムなどである。通信ネットワークCNの種類は問わない。通信ネットワークCNは、公衆回線でもよいし、専用回線でもよい。 The communication unit 1400 is a device for communicating with user terminals U1 and U2 and other systems not shown in the figure via the communication network CN. Examples of other systems not shown in the figure include a design support system, a production management system, a sales management system, an estimate creation system, and a document management system. The type of communication network CN is not important. The communication network CN may be a public line or a dedicated line.
ユーザインタフェース部1500は、検索システム1のユーザ(図面データの登録者、図面データの検索者)と検索システム1とが情報を交換するための装置である。ユーザインタフェース部1500は、情報入力装置と情報出力装置(いずれも不図示)を備えることができる。情報入力装置には、例えば、キーボード、音声入力装置、ポインティングディバイス、タッチパネルなどがある。情報出力装置には、例えば、モニタディスプレイ、プリンタ、合成音声出力装置などがある。Virtual Reality (VR)、Augmented Reality (AR)、Mixed Reality (MR)、Extended Reality (XR)といった技術を用いて、ユーザと検索システム1とが情報を交換してもよい。 The user interface unit 1500 is a device for exchanging information between users of the search system 1 (those who register drawing data and those who search for drawing data) and the search system 1. The user interface unit 1500 may be equipped with an information input device and an information output device (neither of which are shown). Information input devices include, for example, keyboards, voice input devices, pointing devices, and touch panels. Information output devices include, for example, monitor displays, printers, and synthesized voice output devices. Users and the search system 1 may also exchange information using technologies such as Virtual Reality (VR), Augmented Reality (AR), Mixed Reality (MR), and Extended Reality (XR).
補助記憶装置1300は、例えば、半導体メモリ装置、ハードディスク装置、光ディスク装置、磁気テープ装置などの比較的大容量の記憶装置である。補助記憶装置1300には、画像データ収集部11、画像データ登録部12、三次元情報受付部15および画像検索部16といった各機能を実現させるための所定のコンピュータプログラムが記憶されている。補助記憶装置1300には、インデックスデータベース13およびプロジェクト情報データベース14を記憶させることもできる。これらデータベース13,14は、図外の計算機に配置してもよい。 The auxiliary storage device 1300 is a relatively large-capacity storage device such as a semiconductor memory device, hard disk device, optical disk device, or magnetic tape device. The auxiliary storage device 1300 stores specific computer programs for implementing the functions of the image data collection unit 11, image data registration unit 12, three-dimensional information reception unit 15, and image search unit 16. The auxiliary storage device 1300 can also store an index database 13 and a project information database 14. These databases 13 and 14 may be located in a computer not shown.
検索システム1は、記憶媒体MMと接続可能である。記憶媒体MMは、例えば、メモリ装置、ハードディスク装置、光ディスク装置、光磁気ディスク装置、磁気テープ装置などのように構成され、コンピュータプログラムおよびデータを非一時的に記憶する。記憶媒体MMは、検索システム1の補助記憶装置1300へコンピュータプログラムおよびデータを転送して記憶させることができる。補助記憶装置1300から記憶媒体MMにコンピュータプログラムおよびデータを転送して記憶させることもできる。検索システム1の機能を実現するコンピュータプログラムを記憶媒体MMに格納し、記憶媒体MMを他のコンピュータに接続し、記憶媒体MMに格納されたコンピュータプログラムを他のコンピュータにインストールすることにより、他のコンピュータを検索システム1として機能させることができる。 Search system 1 can be connected to storage medium MM. Storage medium MM is configured, for example, as a memory device, hard disk device, optical disk device, magneto-optical disk device, magnetic tape device, etc., and stores computer programs and data non-temporarily. Storage medium MM can transfer computer programs and data to auxiliary storage device 1300 of search system 1 for storage. Computer programs and data can also be transferred from auxiliary storage device 1300 to storage medium MM for storage. A computer program that realizes the functions of search system 1 can be stored on storage medium MM, and by connecting storage medium MM to another computer and installing the computer program stored on storage medium MM on the other computer, the other computer can function as search system 1.
図3は、検索システム1に様々な検索要求を入力し、検索対象物2に似ている図面データを検索させる様子を示す概念図である。 Figure 3 is a conceptual diagram showing how various search requests are input into the search system 1 to search for drawing data similar to the search target object 2.
上述の通り、インデックスデータベース13には、製造装置3で製造可能な製品の図面データDWがあらかじめ登録されている。 As mentioned above, the index database 13 is pre-registered with drawing data DW for products that can be manufactured by the manufacturing equipment 3.
製造装置3は、例えば、射出成型機、NC加工機、放電加工機などの加工装置または生産装置である。製造装置3は、例えば、自動車、列車、航空機、船舶、ロボット、家電製品、輸送機器などの完成品またはその部品を製造するために用いられる。製造装置3の使用される業種は問わない。図中に示す複数の製造装置3(1)~3(n)は、特に区別しない場合、製造装置3と呼ぶ。 The manufacturing equipment 3 is, for example, a processing or production device such as an injection molding machine, NC machine, or electric discharge machine. The manufacturing equipment 3 is used to manufacture finished products or parts thereof, such as automobiles, trains, aircraft, ships, robots, home appliances, and transportation equipment. The manufacturing equipment 3 can be used in any industry. The multiple manufacturing equipment 3(1) to 3(n) shown in the figure will be referred to as manufacturing equipment 3 unless otherwise distinguished.
三次元情報受付部15は、紙媒体の図面、電子データ化された図面、見本や模型などのサンプル、写真、点群データなどを、検索対象物2の三次元情報として受け付ける。画像検索部16は、三次元情報受付部15で受け付けた三次元情報から特徴量を抽出し、それらをベクトル化したデータを生成する。そして、検索された製品図面データは、プロジェクト情報データベース14から取得される情報とともに、検索元であるユーザ端末U2へ送信される。図3では、プロジェクト情報データベース14の図示を省略している。 The three-dimensional information receiving unit 15 receives three-dimensional information of the search object 2, such as paper drawings, digitalized drawings, samples such as specimens and models, photographs, and point cloud data. The image search unit 16 extracts features from the three-dimensional information received by the three-dimensional information receiving unit 15 and generates vectorized data from them. The searched product drawing data is then sent to the user terminal U2, which is the source of the search, along with information obtained from the project information database 14. The project information database 14 is not shown in Figure 3.
図4は、検索対象物2の三次元情報21から、検索対象物2の特徴を抽出する様子を示す説明図である。図4の上側には、検索対象物2の点群データが三次元情報21として示されている。検索対象物2の三次元情報21は、例えば椅子のような形状をしており、その背もたれの下側には突起部211が形成されている。三次元情報21は、例えば、交点などの特徴を多数含む。それら特徴の一つとして、突起部211を例示する。 Figure 4 is an explanatory diagram showing how features of the search object 2 are extracted from the three-dimensional information 21 of the search object 2. The upper part of Figure 4 shows point cloud data of the search object 2 as three-dimensional information 21. The three-dimensional information 21 of the search object 2 has a shape similar to, for example, a chair, with a protrusion 211 formed on the underside of the backrest. The three-dimensional information 21 includes many features, such as intersections. The protrusion 211 is shown as one of these features.
図4の下側には、不透過処理された3D画像22が表示されている。3D画像22においても、背もたれの下側には突起部221が形成されている。 The lower part of Figure 4 shows a 3D image 22 that has been opaque-processed. The 3D image 22 also has a protrusion 221 formed on the underside of the backrest.
図5は、視点によって特徴の見え方が異なる様子を示す説明図である。図5の左下側には、検索対象物2を背面から見た3D画像22(3)が示されている。図5の右下側には、検索対象物2を右側面から見た3D画像22(1)が示されている。背面の画像22(3)に示すように、背もたれの下側の左右両側には突起部221L,221Rがそれぞれ突出している。しかし、右側面から見た画像22(1)では、突起部221Rが背景に溶け込んでしまって区別がつきにくい。このように、同じ検索対象物2の三次元情報21であっても、見る角度によって特徴の見え方は種々異なる。そこで、本実施例では、複数の視点から検索対象物2の特徴を捉えてそれぞれベクトル化し、登録済みの図面データの中から似ている図面データを検索できるようにしている。 Figure 5 is an explanatory diagram showing how features appear differently depending on the viewpoint. The lower left side of Figure 5 shows a 3D image 22(3) of the search object 2 viewed from the back. The lower right side of Figure 5 shows a 3D image 22(1) of the search object 2 viewed from the right side. As shown in the rear image 22(3), protrusions 221L and 221R protrude from the left and right sides of the underside of the backrest. However, in the image 22(1) viewed from the right side, protrusion 221R blends into the background and is difficult to distinguish. Thus, even for the same 3D information 21 of the search object 2, the appearance of the features varies depending on the viewing angle. Therefore, in this embodiment, the features of the search object 2 are captured from multiple viewpoints and vectorized, making it possible to search for similar drawing data from registered drawing data.
図6は、同一の検索対象物2を複数の視点から画像化し、各画像22の特徴に基づいて該各画像22とインデックスデータベース13内の画像データ(図面データ)との距離を算出し、距離の短い順に検索結果を出力する様子を示す説明図である。ここでは、右側面画像22(1)、左側面画像22(2)、背面画像22(3)および正面画像22(4)の合計4つの視点から見た3D画像を示す。さらに、上面画像と底面画像(いずれも不図示)を加えることもできる。 Figure 6 is an explanatory diagram showing how the same search object 2 is imaged from multiple viewpoints, the distance between each image 22 and the image data (drawing data) in the index database 13 is calculated based on the characteristics of each image 22, and the search results are output in order of shortest distance. Here, 3D images are shown as seen from a total of four viewpoints: right side image 22(1), left side image 22(2), back image 22(3), and front image 22(4). Additionally, top and bottom images (neither of which are shown) can also be added.
前後上下左右といった所定の視点からの画像22に加えて、あるいは所定の視点からの画像22の全部または一部に替えて、自由な視点からの画像22を採用してもよい。検索用ユーザ端末U2を操作する検索者は、検索対象物2の特徴が最もよく現れる角度から画像22を生成させることもできる。 In addition to images 22 from predetermined viewpoints such as front, back, top, bottom, left, and right, or instead of all or part of the images 22 from predetermined viewpoints, images 22 from any viewpoint may be used. A searcher operating the search user terminal U2 can also generate images 22 from an angle that best shows the characteristics of the search object 2.
図6の中央部には、検索対象物2の画像22と、インデックスデータベース13に登録されている画像データ(図面データ)のうち画像22に似ている画像データとの関係が示されている。 The central part of Figure 6 shows the relationship between image 22 of the search object 2 and image data (drawing data) registered in the index database 13 that is similar to image 22.
例えば、検索対象物2の右側面画像22(1)に着目すると、右側面画像22(1)に類似する画像データ(図面データ)DW11,DW12,DW13が抽出されている。右側面画像22(1)と類似画像データDW11,DW12,DW13との類似度を示す距離は、d11,d12,d13である。 For example, when focusing on the right side image 22(1) of the search target object 2, image data (drawing data) DW11, DW12, and DW13 similar to the right side image 22(1) are extracted. The distances indicating the similarity between the right side image 22(1) and the similar image data DW11, DW12, and DW13 are d11, d12, and d13.
同様に、検索対象物2の左側面画像22(2)では、左側面画像22(2)に類似する画像データDW21,DW22,DW23が抽出されている。左側面画像22(2)と類似画像データDW21,DW22,DW23との類似度を示す距離は、d21,d22,d23である。 Similarly, for left side view image 22(2) of search object 2, image data DW21, DW22, and DW23 similar to left side view image 22(2) are extracted. The distances indicating the similarity between left side view image 22(2) and similar image data DW21, DW22, and DW23 are d21, d22, and d23.
同様に、検索対象物2の背面画像22(3)に着目すると、背面画像22(3)に類似する画像データDW31,DW32,DW33が抽出されている。背面画像22(3)と類似画像データDW31,DW32,DW33との類似度を示す距離は、d31,d32,d33である。 Similarly, when focusing on rear image 22(3) of search target object 2, image data DW31, DW32, and DW33 similar to rear image 22(3) are extracted. The distances indicating the similarity between rear image 22(3) and similar image data DW31, DW32, and DW33 are d31, d32, and d33.
検索対象物2の左側面画像22(2)に着目すると、正面画像22(4)に類似する画像データDW41,DW42,DW43が抽出されている。正面画像22(4)と類似画像データDW41,DW42,DW43との類似度を示す距離は、d41,d42,d43である。 Focusing on the left side image 22(2) of the search target object 2, image data DW41, DW42, and DW43 similar to the front image 22(4) are extracted. The distances indicating the similarity between the front image 22(4) and the similar image data DW41, DW42, and DW43 are d41, d42, and d43.
これら複数の視点から得られた画像22(1)~22(4)のそれぞれについて検索要求が生成され、インデックスデータベース13が検索される。そして、複数の視点ごとに、検索対象物2に類似する画像DWが抽出される。画像検索部16は、複数の視点で同時に検索された類似画像の結果から、距離の近い類似画像(類似度の高い類似画像)を抽出して検索用ユーザ端末U2へ提供する。 A search request is generated for each of the images 22(1) to 22(4) obtained from these multiple viewpoints, and the index database 13 is searched. Images DW similar to the search target object 2 are then extracted for each of the multiple viewpoints. The image search unit 16 extracts similar images that are close in distance (images with a high degree of similarity) from the results of the simultaneous search for similar images from multiple viewpoints, and provides these to the search user terminal U2.
図7は、検索システム1の処理を示すシーケンス図である。最初に、インデックスデータベース13へ画像データ(図面データ)を登録する画像データ登録処理S1~S7が行われる。次に、検索対象物2の三次元情報に基づいてインデックスデータベース13が検索される画像検索処理S11~S17が行われる。 Figure 7 is a sequence diagram showing the processing of the search system 1. First, image data registration processing S1 to S7 is performed to register image data (drawing data) in the index database 13. Next, image search processing S11 to S17 is performed to search the index database 13 based on the three-dimensional information of the search target object 2.
画像データ登録処理では、登録用ユーザ端末U1から画像データ収集部11を介して画像データ登録部12に、画像データ(図面データ)の登録が指示される(S1)。画像データ登録部12の特徴点抽出部121は、画像データに含まれる特徴点を抽出し、特徴量を計算する(S2)。ベクトル化処理部122は、計算された特徴量をn次元のベクトルデータに変換し(S3)、インデックスを生成する(S4)。 In the image data registration process, the registration user terminal U1 instructs the image data registration unit 12 to register image data (drawing data) via the image data collection unit 11 (S1). The feature point extraction unit 121 of the image data registration unit 12 extracts feature points contained in the image data and calculates feature quantities (S2). The vectorization processing unit 122 converts the calculated feature quantities into n-dimensional vector data (S3) and generates an index (S4).
画像データ登録部12は、生成されたインデックスをインデックスデータベース13に登録させる(S5)。画像データ登録部12は、インデックスデータベース13に登録させた画像データと、この画像データに関連するプロジェクト情報データベース14内の情報とを紐づけ(S6)、プロジェクト情報データベース14に記憶させる(S7)。 The image data registration unit 12 registers the generated index in the index database 13 (S5). The image data registration unit 12 links the image data registered in the index database 13 with information in the project information database 14 related to this image data (S6), and stores this in the project information database 14 (S7).
画像検索処理では、検索用ユーザ端末U2から三次元情報受付部15を介して画像検索部16に、検索指示が入力される(S11)。この検索指示には、検索対象物2の三次元情報が含まれる。 In the image search process, a search instruction is input from the search user terminal U2 to the image search unit 16 via the three-dimensional information receiving unit 15 (S11). This search instruction includes three-dimensional information about the search target object 2.
検索用ユーザ端末U2は、画像検索部16に対し、検索対象物2の重要な特徴を明示することもできる。例えば、検索用ユーザ端末U2は、検索対象物2の三次元情報のうち最も特徴的な個所にマークを付けることで、その特徴が重要であることを画像検索部16に通知することができる。 The searching user terminal U2 can also clearly indicate important features of the search object 2 to the image search unit 16. For example, the searching user terminal U2 can mark the most distinctive part of the three-dimensional information of the search object 2, thereby notifying the image search unit 16 that this feature is important.
画像検索部16は、複数の視点のうち重要度の高い特徴量を含む視点からの検索要求に対する検索結果の優先度を、他の視点に対する検索結果の優先度よりも高く設定し、類似度と優先度とに応じて検索結果を出力することができる。検索用ユーザ端末U2は、重要な特徴を明示せずに、画像検索部16に検索を指示してもよい。 The image search unit 16 can set the priority of search results for search requests from a viewpoint that includes a feature with a high degree of importance among multiple viewpoints higher than the priority of search results from other viewpoints, and output search results according to similarity and priority. The searching user terminal U2 may instruct the image search unit 16 to search without explicitly specifying important features.
画像検索部16の3D前処理部161は、検索対象物2の三次元情報について、不透過処理および多視点の抽出処理という3D前処理を実施する(S12)。画像検索部16の画像前処理部162は、3D前処理された画像から特徴点を抽出して、抽出された特徴点の特徴量を算出し(S13)、算出された特徴量からn次元のベクトルデータを生成する(S14)。なお、画像前処理部162は、ベクトルデータを生成する際に、重要度の高い特徴量(重要度の高い特徴点の特徴量)の優先度を高く設定してもよい。 The 3D preprocessing unit 161 of the image search unit 16 performs 3D preprocessing, such as opacity processing and multi-viewpoint extraction processing, on the three-dimensional information of the search target object 2 (S12). The image preprocessing unit 162 of the image search unit 16 extracts feature points from the 3D preprocessed image, calculates feature amounts of the extracted feature points (S13), and generates n-dimensional vector data from the calculated feature amounts (S14). Note that when generating vector data, the image preprocessing unit 162 may set a high priority for feature amounts with high importance (feature amounts of feature points with high importance).
検索部163は、ベクトル化されたデータに基づいて検索要求を生成し、インデックスデータベース13に登録されている画像データを検索する(S15)。 The search unit 163 generates a search request based on the vectorized data and searches for image data registered in the index database 13 (S15).
画像検索部16は、インデックスデータベース13の検索結果を得ると、その検索結果に関連する情報をプロジェクト情報データベース14から取得する(S16)。画像検索部16は、インデックスデータベース13の検索結果とプロジェクト情報データベース14から取得された関連情報とを対応付けて検索用ユーザ端末U2へ送信し、ユーザへ提示する(S17)。 When the image search unit 16 obtains the search results from the index database 13, it obtains information related to the search results from the project information database 14 (S16). The image search unit 16 associates the search results from the index database 13 with the related information obtained from the project information database 14, transmits them to the search user terminal U2, and presents them to the user (S17).
このように構成される本実施例の検索システム1によれば、検索対象物2に関する図面データを探す場合、検索対象物そのものについて、あるいは検索対象物の模型などについて、三次元情報を取得し、取得された三次元情報に基づく検索要求を用いて、インデックスデータベース13を検索する。したがって、検索対象物2の図面データが存在しない場合、検索対象物2の模型しか無い場合でも、検索対象物2に類似する画像データ(図面データ)を検索できる。 With the search system 1 of this embodiment configured as described above, when searching for drawing data related to the search object 2, three-dimensional information is acquired about the search object itself or a model of the search object, and the index database 13 is searched using a search request based on the acquired three-dimensional information. Therefore, even if no drawing data for the search object 2 exists or if only a model of the search object 2 is available, it is possible to search for image data (drawing data) similar to the search object 2.
本実施例の検索システム1では、検索対象物2を複数の視点から見た画像ごとに検索要求を生成し、複数の検索要求で同時にインデックスデータベース13を検索する。したがって、検索システム1は、検索対象物2の特徴(特徴点)をとらえてインデックスデータベース13を検索でき、検索対象物2に似た画像データを探し出すことができる。 In the search system 1 of this embodiment, a search request is generated for each image of the search object 2 viewed from multiple viewpoints, and the index database 13 is searched simultaneously using the multiple search requests. Therefore, the search system 1 can search the index database 13 by capturing the characteristics (feature points) of the search object 2, and can find image data similar to the search object 2.
本実施例の検索システム1は、図面データで示される物体を製造可能な製造装置とその図面データとを紐づけておくことにより、検索対象物2を製造可能な製造装置3を容易に特定できる。したがって、検索システム1は、特定された製造装置3によって検索対象物に係る物体(製品)を製造する場合の見積もりなどを算出することもできる。 The search system 1 of this embodiment can easily identify a manufacturing device 3 capable of manufacturing the search target 2 by linking the manufacturing device capable of manufacturing the object indicated in the drawing data with that drawing data. Therefore, the search system 1 can also calculate an estimate for manufacturing the object (product) related to the search target using the identified manufacturing device 3.
本実施例の検索システム1は、検索対象物2の三次元情報を検索システム1へ入力する際に、重要な特徴点を明示することができる。したがって、検索システム1は、重要な特徴点で類似する画像データ(図面データ)を検索できる。これにより例えば、製造上のキーとなる個所(切削工具の取り回し方法、金型の抜きやすさ、溶融樹脂の注入のしやすさなど)を重視して、インデックスデータベース13を検索することができ、図面データを求めているユーザにとってより一層使い勝手が向上する。 The search system 1 of this embodiment can clearly indicate important feature points when three-dimensional information about the search target object 2 is input into the search system 1. Therefore, the search system 1 can search for image data (drawing data) that is similar based on important feature points. This makes it possible to search the index database 13 with an emphasis on key manufacturing aspects (such as how to handle cutting tools, how easy it is to remove a mold, and how easy it is to inject molten resin), further improving usability for users looking for drawing data.
図8を用いて実施例2を説明する。本実施例を含む以下の各実施例では、実施例1との相違を中心に説明する。図8は、実施例2に係る情報処理システムの説明図である。 Example 2 will be described using Figure 8. In the following examples, including this example, differences from Example 1 will be mainly described. Figure 8 is an explanatory diagram of an information processing system according to Example 2.
本実施例の検索システム1Aは、組込み先システム4に接続されている。つまり、検索システム1Aは、組込み先システム4の一つの機能として使用される。組込み先システム4は、例えば、営業支援システム、見積もり作成支援システム、生産管理システム、設計支援システムなどである。 In this embodiment, search system 1A is connected to embedded system 4. In other words, search system 1A is used as one of the functions of embedded system 4. Embedded system 4 is, for example, a sales support system, quotation creation support system, production management system, design support system, etc.
このように構成される本実施例も実施例1と同様の作用効果を奏する。本実施例の検索システム1Aは組込み先システム4の一つの機能として組み込まれるため、組込み先システム4の利便性を向上させることができる。 This embodiment, configured in this manner, also achieves the same effects as embodiment 1. Because the search system 1A of this embodiment is incorporated as one of the functions of the embedded system 4, the convenience of the embedded system 4 can be improved.
図9は、実施例3に係る検索システム1Bの説明図である。本実施例の検索システム1Bは、実施例1で述べた検索システム1の構成に加えて、外部公開部17をさらに備えている。 Figure 9 is an explanatory diagram of a search system 1B according to a third embodiment. The search system 1B of this embodiment further includes an external publication unit 17 in addition to the configuration of the search system 1 described in the first embodiment.
外部公開部17は、検索システム1Bを通信ネットワークCN上で公開するための機能を持つ。例えば、登録用ユーザ端末U1および検索用ユーザ端末U2は、通信ネットワークCNを介して検索システム1Bへアクセスし、画像データ(図面データ)を検索システム1Bへ登録させたり、検索システム1Bから検索対象物2に似た画像データを取り出したりすることができる。検索システム1Bは、外部公開部17を介して24時間365日公開されてもよい。したがって、ユーザの利便性が向上する。 The external publishing unit 17 has the function of publishing the search system 1B on the communications network CN. For example, the registration user terminal U1 and the search user terminal U2 can access the search system 1B via the communications network CN and register image data (drawing data) in the search system 1B or retrieve image data similar to the search target 2 from the search system 1B. The search system 1B may be made public 24 hours a day, 365 days a year via the external publishing unit 17. This improves user convenience.
さらに、本実施例の検索システム1Bでは、資料提供部181と見積もり部182とがプロジェクト情報データベース14に接続されている。資料提供部181は、製造装置3のカタログ、解説動画、仕様書などの資料を、プロジェクト情報データベース14へ提供する。見積もり部182は、図面データに示された物体を製造装置3が製造する場合の見積もりを作成または作成支援する。 Furthermore, in the search system 1B of this embodiment, the material providing unit 181 and the estimating unit 182 are connected to the project information database 14. The material providing unit 181 provides materials such as catalogs, explanatory videos, and specifications for the manufacturing equipment 3 to the project information database 14. The estimating unit 182 creates or assists in the creation of an estimate when the manufacturing equipment 3 manufactures an object shown in the drawing data.
このように構成される本実施例も実施例1と同様の作用効果を奏する。本実施例の検索システム1Bは、外部公開部17を通じて通信ネットワークCN上に公開されるため、ユーザにとっての使い勝手が向上する。さらに、本実施例では、図面データに関する製造装置3の資料データおよび見積書を、検索用ユーザ端末U2へ提供することができ、検索者であるユーザの利便性を向上させることができる。 This embodiment, configured in this manner, also achieves the same effects as embodiment 1. The search system 1B of this embodiment is made public on the communications network CN via the external publication unit 17, improving usability for users. Furthermore, in this embodiment, document data and estimates for the manufacturing equipment 3 related to the drawing data can be provided to the search user terminal U2, improving convenience for the user who is the searcher.
なお、本発明は上記した実施例に限定されず、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換することが可能である。さらに、各実施例は、明らかに矛盾しない限り、適宜組み合わせることができる。 The present invention is not limited to the above-described embodiments and includes various modifications. For example, the above-described embodiments have been described in detail to clearly explain the present invention, and are not necessarily limited to those including all of the described configurations. Furthermore, it is possible to replace part of the configuration of one embodiment with the configuration of another embodiment, or to add the configuration of another embodiment to the configuration of one embodiment. Furthermore, it is possible to add, delete, or replace part of the configuration of each embodiment with the configuration of another embodiment. Furthermore, each embodiment can be combined as appropriate, as long as there is no obvious contradiction.
本実施例には、以下のように表現される装置または方法が実施可能に明確に記載されている。 In this embodiment, the apparatus or method described below is clearly described in an operable manner.
(表現1)検索要求に応じた検索結果を出力する検索装置であって、画像データの特徴に基づく特徴量をベクトル化して検索用データベースへ登録させる画像データ登録部と、検索対象物の三次元情報から抽出された特徴に基づく特徴量をベクトル化して検索要求を生成し、前記生成された検索要求を用いて前記検索用データベースを検索する画像検索部と、を備える検索装置。 (Representation 1) A search device that outputs search results in response to a search request, comprising: an image data registration unit that vectorizes feature quantities based on the characteristics of image data and registers them in a search database; and an image search unit that vectorizes feature quantities based on characteristics extracted from three-dimensional information of a search target object to generate a search request, and searches the search database using the generated search request.
(表現2)前記画像検索部は、前記検索対象物の三次元情報を複数の視点から見た画像に対応する前記検索要求をそれぞれ作成し、前記複数の視点ごとの検索要求を用いて前記検索用データベースを検索する表現1に記載の検索装置。 (Representation 2) The image search unit creates search requests corresponding to images of three-dimensional information of the search object viewed from multiple viewpoints, and searches the search database using the search requests for each of the multiple viewpoints.
(表現3)前記画像検索部は、前記検索対象物の三次元情報に不透過処理を実施し、不透過処理された前記検索対象物の三次元情報を前記複数の視点から見た画像に対応する前記検索要求をそれぞれ作成し、前記複数の視点ごとの検索要求を用いて前記検索用データベースを検索する表現1または2に記載の検索装置。 (Representation 3) The search device described in Representation 1 or 2, wherein the image search unit performs opacity processing on the three-dimensional information of the search object, creates search requests corresponding to images of the opacified three-dimensional information of the search object viewed from the multiple viewpoints, and searches the search database using the search requests for each of the multiple viewpoints.
(表現4)前記画像検索部は、前記複数の検索要求ごとの検索結果と前記検索対象物の三次元情報との類似度に応じて前記検索結果を出力する表現1-3のいずれか一つに記載の検索装置。 (Representation 4) A search device according to any one of Representations 1-3, wherein the image search unit outputs the search results for each of the multiple search requests according to the degree of similarity between the search results and the three-dimensional information of the search target.
(表現5)前記画像検索部は、前記複数の視点のうち重要度の高い特徴量を含む視点からの検索要求に対する検索結果の優先度を他の視点に対する検索結果の優先度よりも高く設定し、前記類似度と前記優先度とに応じて前記検索結果を出力する表現1-4のいずれか一つに記載の検索装置。 (Representation 5) A search device according to any one of Representations 1-4, wherein the image search unit sets a higher priority for search results for a search request from a viewpoint that includes a feature of high importance among the multiple viewpoints than for search results from other viewpoints, and outputs the search results according to the similarity and the priority.
(表現6)前記検索対象物の三次元情報は、三次元情報を取得する三次元情報取得方法を用いて生成される表現1-5のいずれか一つに記載の検索装置。 (Representation 6) A search device described in any one of Representations 1-5, in which the three-dimensional information of the search object is generated using a three-dimensional information acquisition method for acquiring three-dimensional information.
(表現7)前記検索対象物は、物体の物理的見本である表現1-6のいずれか一つに記載の検索装置。 (Representation 7) A search device according to any one of Representations 1-6, in which the search object is a physical sample of an object.
(表現8)前記検索用データベースに登録される前記画像データは、二次元画像データである表現1-7のいずれか一つに記載の検索装置。 (Representation 8) A search device according to any one of Representations 1-7, wherein the image data registered in the search database is two-dimensional image data.
(表現9)前記検索用データベースに登録される前記画像データは、当該画像データに関わる物体を製造可能な製造装置に対応付けられる表現1-8のいずれか一つに記載の検索装置。 (Representation 9) A search device described in any one of Representations 1-8, in which the image data registered in the search database is associated with a manufacturing device capable of manufacturing an object related to the image data.
(表現10)検索要求に応じた検索結果を検索装置から出力させる検索方法であって、前記検索装置に、画像データの特徴に基づく特徴量をベクトル化して検索用データベースへ登録させる画像データ登録ステップと、検索対象物の三次元情報から抽出された特徴に基づく特徴量をベクトル化して検索要求を生成し、前記生成された検索要求を用いて前記検索用データベースを検索する画像検索ステップと、を実行させる検索方法。 (Representation 10) A search method for outputting search results in response to a search request from a search device, the search method comprising: an image data registration step in which the search device vectorizes feature quantities based on the characteristics of image data and registers the vectorized feature quantities in a search database; and an image search step in which the search device vectorizes feature quantities based on characteristics extracted from three-dimensional information of a search target to generate a search request, and searches the search database using the generated search request.
(表現11)表現1-9のいずれか一項に記載の検索装置を備える情報処理システムであって、前記検索装置の出力する検索結果に基づいて、前記検索対象物の生産または販売に関する情報を出力する情報処理システム。 (Representation 11) An information processing system equipped with the search device described in any one of Representations 1-9, which outputs information regarding the production or sales of the search target based on the search results output by the search device.
1,1A,1B:検索システム、2:検索対象物、3:製造装置、4:組込み先システム、11:画像データ収集部、12:画像データ登録部、13:インデックスデータベース、14:プロジェクト情報データベース、15:三次元情報受付部、16:画像検索部、U1:登録用ユーザ端末、U2:検索用ユーザ端末
1, 1A, 1B: Search system, 2: Search object, 3: Manufacturing equipment, 4: Embedded system, 11: Image data collection unit, 12: Image data registration unit, 13: Index database, 14: Project information database, 15: Three-dimensional information reception unit, 16: Image search unit, U1: User terminal for registration, U2: User terminal for search
Claims (8)
画像データの特徴に基づく特徴量をベクトル化して検索用データベースへ登録させる画像データ登録部と、
検索対象物の三次元情報から抽出された特徴に基づく特徴量をベクトル化して検索要求を生成し、前記生成された検索要求を用いて前記検索用データベースを検索する画像検索部と、を有し
前記画像検索部は、前記検索対象物の三次元情報を複数の視点から見た画像に対応する前記検索要求をそれぞれ作成し、前記複数の視点ごとの検索要求を用いて前記検索用データベースを検索し、
前記複数の視点ごとの検索要求に対する検索結果と前記検索対象物の三次元情報との類似度と、
前記複数の視点のうち重要度の高い特徴量を含む視点からの検索要求に対する検索結果について、他の視点に対する検索結果よりも高くなるように設定された優先度と、
に応じて前記検索結果を出力する
検索装置。 A search device that outputs search results in response to a search request,
an image data registration unit that vectorizes feature quantities based on the features of the image data and registers the vectorized feature quantities in a search database;
an image search unit that generates a search request by vectorizing a feature quantity based on features extracted from three-dimensional information of a search target object, and searches the search database using the generated search request;
the image search unit creates the search requests corresponding to images of three-dimensional information of the search object viewed from a plurality of viewpoints, and searches the search database using the search requests for each of the plurality of viewpoints;
a degree of similarity between the search results for the search requests for each of the plurality of viewpoints and the three-dimensional information of the search object;
a priority set so that a search result in response to a search request from a viewpoint including a feature quantity with high importance among the plurality of viewpoints is higher than a search result from other viewpoints;
and outputting the search results according to the
Search device.
請求項1に記載の検索装置。 The search device according to claim 1 , wherein the three-dimensional information of the object to be searched is generated using a three-dimensional information acquisition method for acquiring three-dimensional information.
請求項3に記載の検索装置。 4. The search device according to claim 3 , wherein the search object is a physical specimen of an object.
請求項4に記載の検索装置。 5. The search device according to claim 4 , wherein the image data registered in the search database is two-dimensional image data.
請求項5に記載の検索装置。 6. The search device according to claim 5 , wherein the image data registered in the search database is associated with a manufacturing device capable of manufacturing an object related to the image data.
前記検索装置に、
画像データの特徴に基づく特徴量をベクトル化して検索用データベースへ登録させる画像データ登録ステップと、
検索対象物の三次元情報から抽出された特徴に基づく特徴量をベクトル化して検索要求を生成し、前記生成された検索要求を用いて前記検索用データベースを検索する画像検索ステップと、を実行させ、
前記画像検索ステップは、前記検索対象物の三次元情報を複数の視点から見た画像に対応する前記検索要求をそれぞれ作成し、前記複数の視点ごとの検索要求を用いて前記検索用データベースを検索し、
前記複数の視点ごとの検索要求に対する検索結果と前記検索対象物の三次元情報との類似度と、
前記複数の視点のうち重要度の高い特徴量を含む視点からの検索要求に対する検索結果について、他の視点に対する検索結果よりも高くなるように設定された優先度と、
に応じて前記検索結果を出力させる
検索方法。 A search method for outputting search results in response to a search request from a search device, comprising:
The search device includes:
an image data registration step of vectorizing feature quantities based on the features of the image data and registering the vectorized feature quantities in a search database;
an image search step of vectorizing feature quantities based on features extracted from the three-dimensional information of the object to be searched to generate a search request, and searching the search database using the generated search request ;
the image search step generates the search requests corresponding to images of three-dimensional information of the search object viewed from a plurality of viewpoints, and searches the search database using the search requests for each of the plurality of viewpoints;
a degree of similarity between the search results for the search requests for each of the plurality of viewpoints and the three-dimensional information of the search object;
a priority set so that a search result in response to a search request from a viewpoint including a feature quantity with high importance among the plurality of viewpoints is higher than a search result from other viewpoints;
The search results are output in accordance with the
How to search.
前記検索装置の出力する検索結果に基づいて、前記検索対象物の生産または販売に関する情報を出力する
情報処理システム。 An information processing system comprising the search device according to any one of claims 1 to 6 ,
An information processing system that outputs information relating to the production or sales of the search object based on the search results output by the search device.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024004705A JP7807475B2 (en) | 2024-01-16 | 2024-01-16 | Search device, search method, and information processing system |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024004705A JP7807475B2 (en) | 2024-01-16 | 2024-01-16 | Search device, search method, and information processing system |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2025110716A JP2025110716A (en) | 2025-07-29 |
| JP7807475B2 true JP7807475B2 (en) | 2026-01-27 |
Family
ID=96546059
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2024004705A Active JP7807475B2 (en) | 2024-01-16 | 2024-01-16 | Search device, search method, and information processing system |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7807475B2 (en) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004164503A (en) | 2002-11-15 | 2004-06-10 | Olympus Corp | Three-dimensional model search method, three-dimensional model search device, three-dimensional model search program, and three-dimensional model search system |
| JP2010237804A (en) | 2009-03-30 | 2010-10-21 | Casio Computer Co Ltd | Image search system and image search method |
| JP2018136642A (en) | 2017-02-20 | 2018-08-30 | 国立大学法人豊橋技術科学大学 | Three-dimensional shape search method and three-dimensional shape search system |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3023909A1 (en) * | 2014-11-18 | 2016-05-25 | Thomson Licensing | Method and apparatus for ranking 2D candidate images |
-
2024
- 2024-01-16 JP JP2024004705A patent/JP7807475B2/en active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004164503A (en) | 2002-11-15 | 2004-06-10 | Olympus Corp | Three-dimensional model search method, three-dimensional model search device, three-dimensional model search program, and three-dimensional model search system |
| JP2010237804A (en) | 2009-03-30 | 2010-10-21 | Casio Computer Co Ltd | Image search system and image search method |
| JP2018136642A (en) | 2017-02-20 | 2018-08-30 | 国立大学法人豊橋技術科学大学 | Three-dimensional shape search method and three-dimensional shape search system |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2025110716A (en) | 2025-07-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN100555281C (en) | Method and apparatus for representing and searching for objects in an image | |
| CN106062827B (en) | 3D model comparison method and system | |
| US7188103B2 (en) | Similarity search of three-dimensional model using two-dimensional image as search key | |
| Giunchi et al. | 3D sketching for interactive model retrieval in virtual reality | |
| US20160180193A1 (en) | Image-based complementary item selection | |
| US20160180441A1 (en) | Item preview image generation | |
| CN1979480A (en) | Method and apparatus for representing and searching for an object using shape | |
| JP2018073111A (en) | Retrieval system and retrieval program | |
| JP7807475B2 (en) | Search device, search method, and information processing system | |
| JP7017852B2 (en) | Positioning of 3D objects using descriptors | |
| JP2017162447A (en) | Localization of 3d object with quantization | |
| Axenopoulos et al. | 3D model retrieval using accurate pose estimation and view-based similarity | |
| US7761438B1 (en) | Method and apparatus for representing and searching for an object using shape | |
| Vijaywargiya et al. | Metamorphism of als point data for multitude application | |
| He | 3D Model Retrieval Method Based on the Study of Shape Retrieval Method | |
| Bustos Cárdenas et al. | Feature-Based 3D Object Retrieval | |
| Liu et al. | Shape alignment and shape orientation analysis-based 3D shape retrieval system | |
| Wang et al. | 3D Model Retrieval with Large Multimodal Models | |
| JP2003022445A (en) | Information retrieval apparatus, information retrieval method, computer program for implementing the method, and medium recording this program | |
| Wefelscheid | Monocular Camera Path Estimation Cross-linking Images in a Graph Structure | |
| Xu et al. | Automatic and accurate full-view registration method for 3D scanning system | |
| Huang et al. | A novel matching algorithm for a hand-held 3D laser scanning sensor | |
| Gasparini et al. | Optimizing image registration for interactive applications |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20241021 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250902 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20251027 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20251216 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260115 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7807475 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |