JP4514971B2 - Storage furniture with stored item search function - Google Patents
Storage furniture with stored item search function Download PDFInfo
- Publication number
- JP4514971B2 JP4514971B2 JP2001039124A JP2001039124A JP4514971B2 JP 4514971 B2 JP4514971 B2 JP 4514971B2 JP 2001039124 A JP2001039124 A JP 2001039124A JP 2001039124 A JP2001039124 A JP 2001039124A JP 4514971 B2 JP4514971 B2 JP 4514971B2
- Authority
- JP
- Japan
- Prior art keywords
- memory
- image
- search
- depth information
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Drawers Of Furniture (AREA)
- Warehouses Or Storage Devices (AREA)
Description
【0001】
【発明の属する技術分野】
この発明は、収納物の検索機能を備える収納家具に関する。
【0002】
【従来の技術】
コンピュータはますます日用品になり、その存在が透明になり、直感的な操作で身の回りの情報の整理、利用、流通を手助けしてくれる道具になると予想されている。今後は、家電製品、文房具、台所用品のような日常生活の器具や、家具、建材などに、センサとコンピュータチップが組み込まれ、日常生活の中で意識することなくコンピュータを利用できるようになる。
【0003】
たとえば、収納家具にセンサを組み込むことで、家具を使用する日常動作とともにコンピュータの情報処理能力を利用するインタフェースが実現可能である。
【0004】
【発明が解決しようとする課題】
そこで、この発明は、センサとコンピュータを組み込み、収納物を電子的に検索することのできる収納家具を提供することを目的とする。この発明は、いわば、家具による実世界インタラクションを図るためのスマートドロワ(Smart Drawers)である。
【0005】
【課題を解決するための手段】
この発明に係る収納物検索機能付き収納家具は、物品を収納するための収納部と、前記収納部の開閉を検出するセンサと、前記収納部の内部を撮影するカメラと、前記カメラにより撮影された画像を記憶する画像メモリと、前記収納部の内部の深さを測定する深さセンサと、前記深さセンサにより測定された深さ情報を記憶する深さ情報メモリと、前記センサの出力に基づき前記画像と前記深さ情報を互いに関連づけて前記画像メモリと前記深さ情報メモリにそれぞれ記憶させる制御部と、前記画像及び/又は前記深さ情報を検索する検索部と、前記検索部により検索された前記画像及び/又は前記深さ情報を表示する表示部とを備えるものである。
【0006】
好ましくは、さらに、日付時刻情報を記憶する開閉時刻メモリとを備え、
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記センサの出力に基づき前記収納部の開閉に関する日付時刻情報を前記開閉時刻メモリに記憶させ、
前記検索部は、日付時刻に関する検索条件を受けて前記開閉時刻メモリを検索し、前記検索条件に合致する前記画像及び/又は前記深さ情報を抽出する。
【0007】
好ましくは、さらに、深さ情報を入力するための入力部を備え、
前記検索部は、前記入力部から前記深さ情報に関する検索条件を受けて前記深さ情報メモリを検索し、前記検索条件に合致する前記画像を抽出する。
【0008】
前記入力部は、例えば、収納部内の物品の深さを直接示すことができるスライド式入力部(スライド抵抗)である。
【0009】
好ましくは、さらに、マイクと、前記マイクからの音声信号を認識してテキストデータに変換する音声認識部と、前記テキストデータを記憶するメモリとを備え、
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記テキストデータを前記メモリに記憶させ、
前記検索部は、テキストデータに関する検索条件を受けて前記メモリを検索し、前記検索条件に合致する前記画像及び/又は前記深さ情報を抽出する。
【0010】
好ましくは、さらに、マイクと、スピーカと、前記マイクからの音声信号を記憶する音声メモリとを備え、
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記音声信号を前記音声メモリに記憶させ、
前記検索部は、抽出された前記画像及び/又は前記深さ情報に対応する前記音声信号を前記音声メモリから読み出して前記スピーカに送り音声を出力させる。
【0011】
好ましくは、さらに、入力部と、表示部と、テキストデータを記憶するメモリとを備え、
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記入力部で入力されたテキストデータを前記メモリに記憶させ、
前記検索部は、抽出された前記画像及び/又は前記深さ情報に対応する前記テキストデータを前記メモリから読み出して前記表示部に表示させる。
【0012】
好ましくは、さらに、外部の機器と通信して利用者の作業環境情報を収集する情報収集部と、前記作業環境情報を記憶する作業環境情報メモリとを備え、
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記作業環境情報を前記作業環境情報メモリに記憶させ、
前記検索部は、抽出された前記画像及び/又は前記深さ情報に対応する前記作業環境情報を前記作業環境情報メモリから読み出して出力する。
【0013】
前記作業環境情報とは、例えば、利用者のパソコンで使用されているソフトウエア、ファイル、その画面に表示されている文字列、スケジュールソフトウエアのスケジュール情報、電話の利用記録、などである。
【0014】
【発明の実施の形態】
発明の実施の形態1.
本発明の実施の形態1に係る装置について図面を参照して説明する。
図1はこの装置の機能ブロック図を示す。図2(a)はこの装置の斜視図を示す。
【0015】
図1において、引き出し11には、その開閉状態を検出するためのセンサ12が設けられている。センサ12は、発光ダイオードとフォトトランジスタ等を備える光学式近接センサ、リードスイッチのような磁気式近接センサ、マイクロスイッチなどの機械式近接センサなどである。センサ12は、引き出し11が引き出された状態か、それとも収納された状態かをそれぞれ検出する。センサ12の出力は制御部15に入力される。
【0016】
制御部15は、センサ12からの信号を受けて引き出し11の開閉状態を監視している。引き出し11が開閉されると、制御部15は音声メモリ16及び開閉時刻メモリ18を制御して、そのときの時刻情報及び音声情報を記憶させる。マイク14は音声信号を取得して音声メモリ16や音声認識部20に送る。カレンダー時計装置17は日付時刻情報を開閉時刻メモリ18に送る。なお、音声メモリ16は、音声認識部20から音声のテキスト情報を受けて記憶するだけでなく、音声信号をそのまま記憶するようにしてもよい。
【0017】
デジタルカメラ30は、引き出しが閉じられたときに引き出し11を上から撮影し、その画像を画像メモリ32に書き込む。深さセンサ31は引き出しに収納された物の位置(高さ)を測定する(図2(b)参照)。この測定は超音波を用いた非接触方法や、機械的な方法により可能である。深さセンサ31の情報は深さ情報メモリ33に収納される。メモリ32の画像情報とメモリ33の深さ情報は関連づけられている。したがって、深さを指定すれば対応する画像がLCD23に表示され、画像を指定すればその被写体の高さ位置がわかる。また、これらの情報を開閉時刻や音声・メモその他の情報と関連付けることもできる。制御部15は引き出し11が閉じられたことをセンサ12により検出すると、そのときの画像データを画像メモリ32に記憶させる。また、制御部15は引き出し11が閉じられた後の深さ情報をメモリ33に記憶させる。
【0018】
検索部19は深さに関する指示をスライダー式の入力部34から受けるとともに、対応する画像を検索してLCD23に表示する。入力部34のスライダーを上下させることにより、検索すべき深さ(高さ)を調整することができる。
【0019】
また、検索部19は、音声認識部20からテキスト情報を受けたり、あるいは入力部21から操作信号を受けてメモリ16、18を検索し、その検索結果を液晶表示装置(LCD)23に表示したり、スピーカ22から報知する。
【0020】
次に、図3〜図6を参照して本発明の実施の形態に係る装置の動作について説明する。
【0021】
本発明の実施の形態に係る装置は、引き出し11に書類などの物を収納する際の収納処理モードと、収納した物を検索するための検索処理モードを有する。まず、収納処理モードについて図3を参照して説明する。
【0022】
図3はこの発明の実施の形態1に係る装置の収納処理のフローチャートである。
【0023】
S20:引き出しが閉じられたかどうか判定する。制御部15は、センサ12の出力に基づき引き出し11が開閉されたかどうか監視する。
S21:閉じられたときに引き出しの最上層の内容を撮影する。
S22:そのときの日時を取得する。
S23:深さの測定を行う。
S24:撮影画像を深さ及び/又は撮影日時に対応付けて記録する。
【0024】
これにより例えば次のような画像がメモリに記録される。
1月21日 13:00 画像1 深さ20cm
1月21日 13:15 画像2 深さ15cm
1月21日 17:00 画像3 深さ14cm
【0025】
また、これら画像と深さ情報に関連づけられて、テキストデータ、音声データもメモリ16に記憶される(後述)。
【0026】
これらデータを分析することにより、対象物の内容とその厚み(深さ)を知ることができる。このように、引き出し内部にカメラを設置して、引き出しを閉じるタイミングで内容物を上方から撮影することにより、いわば、引き出し内の書類の「地層」を閲覧できるので、引き出し内での検索ができる。
【0027】
なお、制御部15は、利用者に引き出しが開いているとき、必要なメッセージをマイク14を通じて記憶させるようにしてもよい。メモリ16はデジタル化された音声データをそのまま記憶したり、音声認識により音声メモをテキストに変換し、この変換されたテキストを記憶する。あるいは、入力部21から入力されたテキスト・数字を記憶する。
【0028】
音声及び/又はテキストの入力は所定のタイミングで可能である。例えば、入力は引き出しが開いた状態で可能であるとともに、閉じた後でも一定期間まで可能である。あるいは、引き出しが開いてから所定時間内に限って入力を可能にしてもよい。
【0029】
次に、検索処理モードについて図4乃至図6を参照して説明する。
【0030】
S30:収納した物を検索しようとするとき、利用者はマイク14あるいは入力部21を使って本装置を検索処理モードにさせるとともに、検索条件を入力する。検索は、(1)開閉のタイムスタンプを検索キーとして、(2)深さ情報を検索キーとして、あるいは(3)入力されたテキストを検索キーとして行われる。図4は(1)の場合を示す。図5は(2)の場合を示す。図6は(3)の場合を示す。
【0031】
S31:入力された検索条件に基づきメモリ18の内容を検索する。
S32:該当する時刻のデータがあるかどうか判定する。ない場合には「該当なし」と表示する(S37)。あるいはもっとも近い時刻のデータを採用するようにしてもよい。
S33:ある場合には、検索結果に対応する画像・深さ情報を検索する。
S34:検索された画像及び/又はその深さ情報をLCD23に表示する。
S35:検索結果に対応する音声・テキストメモを検索する。
S36:検索された音声をスピーカ22から流したり、テキストをLCD23に表示する。
【0032】
図5は深さ情報に基づき収納物を検索する手順を示す。
S40:深さ情報の検索条件を入力する。例えば、スライダ34を調整して所望の検索条件を入力する。この場合、スライダの位置と引き出しの実際の深さを対応させておけば、利用者は操作しやすくなる。
S41:入力された検索条件に基づき深さ情報メモリを検索する。
S42:該当する深さのデータがあるかどうか判定する。ない場合には「該当なし」と表示する(S47)。あるいはもっとも近い深さのデータを採用するようにしてもよい。
S43:ある場合には、検索結果に対応する画像を検索する。
S44:検索された画像をLCD23に表示する。
S45:検索結果に対応する音声・テキストメモを検索する。
S46:検索された音声をスピーカ22から流したり、テキストをLCD23に表示する。
【0033】
図6はテキスト情報に基づき検索物を検索する手順を示す。
S50:テキストの検索条件を入力する。例えば、入力部21から所望の検索条件を入力する。
S51:入力されたメモリ16を検索する。
S52:該当するテキストデータがあるかどうか判定する。ない場合には「該当なし」と表示する(S57)。あるいはもっとも類似するテキストデータを採用するようにしてもよい。
S53:ある場合には、検索結果に対応する画像を検索する。
S54:検索された画像をLCD23に表示する。
S55:検索結果に対応する深さ情報を検索する。
S56:検索された深さ情報をLCD23に表示する。
【0034】
以上のように、この発明の実施の形態に係る装置は、引き出しにおける探索支援を行うことができる。引き出し内部にカメラを設置して、引き出しを閉じるタイミングで内容物を上方から撮影することにより、いわば、引き出し内の書類の「地層」を閲覧できるので、引き出し単位より精度の高い引き出し内での検索ができる。
【0035】
例えば、全く整理することなくランダムに書類を引き出しに収納した場合でも、それら書類のうちの所望のものを容易に検索することができる。目的の書類を収納した大まかな日時がわかれば日時を検索キーとしてその書類の画像を検索できる。画像で書類を確認したらその書類の位置(深さ)を知ることができる。利用者は所望の書類がそこに収納されていること及びその位置を知ることができる。複数の画像が検索されたときでも画像を確認しながら所望の書類を検索できる。画像で判別できないときは、さらにテキストや音声情報を同時に調べることにより、所望の書類がその引き出しにあるかどうか、あるとすればどの位置にあるのかを知ることができる。日時ばかりでなくテキストで検索することができる。例えば「議事録」で検索すれば、収納時に「議事録」に関連付けられた画像及び深さ情報を得ることができる。また、スライダを使えば引き出しの中に収納されている書類の画像を順次見ることができる。このように、本発明の実施の形態によれば、引き出しをひっくり返すことなく、収納物を容易に知ることができる。
【0036】
本発明の実施の形態のように、引き出しの開閉時刻とその状況を記録して検索できれば、引き出しに収納した書類や物の探索を支援することができる。すなわち、上述のように、引き出し家具に光学式近接センサを取り付け、引き出しの開閉を検出するとともに、引き出しの開閉はタイムスタンプを付けて記録しておくことにより、たとえば「一昨日朝に使った書類」という条件で開閉記録及び深さ情報を検索することで、その引き出しに収納した書類の位置を検索できる。
【0037】
使い方は簡単で、ユーザーは、書類などの品物を、可能ならば書類の内容を発話しながら、引き出しに収納する。たとえば「領収書」「委員会議事録」「○○社請求書」などと発話する。発話は、マイクロフォンで収録され音声認識される。
【0038】
この発明の実施の形態において、ユーザーの発話は、音声認識プログラムで取得されて情報収集プログラムに送られるが、ユーザーは必ずしも発話する必要はない。また、音声認識は完全に認識されなくてもある程度の語彙が取得できればよいので、認識確認の操作は省略できる。これらのデータは、引き出し開閉情報、発話認識結果などのキーワード(文字)情報、時刻情報としてデータベースに収納される。
【0039】
なお、物品を収納するときのモードと物品を探索するときのモードは、ユーザーの特別なコマンド発話や、家具に取り付けたボタン操作、デスクトップPCからのネットワーク経由の操作、などにより切り替えることができる。
【0040】
発明の実施の形態2.
引き出し開閉情報のほかに、さまざまな関連情報を記録することで、さらに有効な探索支援を行うことができる。上記発明の実施の形態1では、音声認識プログラムを使って書類を収納する際に音声メモを取り付ける機能を実現している。例えば「議事録」と発話しながら書類を収納することで、タイムスタンプだけによる検索精度を改善できる。
【0041】
これ以外にも、引き出しを開閉したときにパソコンに表示されている文字列、スケジュールソフトウエアの情報、電話の利用記録なども利用することができる。
【0042】
この発明の実施の形態2に係る装置のブロック図を図7に示す。図7において、情報収集部25は、通信装置24を通じて利用者のパソコンや電話機などの機器と通信し、そのときの作業環境に関する情報を取得する。そして、情報収集部25は取得した情報を作業環境情報メモリ26にそのときの引き出し11の開閉情報と関連づけて収納する。これら以外の要素は図1の場合と同様の機能を果たすので、その説明は省略する。
【0043】
作業環境情報メモリ26の内容は、音声メモリ16と同様に利用され、検索の精度を向上させることができる。すなわち、情報収集部25は、利用者が使用しているデスクトップPCに表示されている文字列、ユーザーが使用しているスケジューラソフトウエアの情報、ユーザーが使用する電話の利用記録などを取得し、これらを引き出しの開閉情報、つまり物の収納状況と関連づけて記憶する。利用者が引き出しを検索するとき、開閉時刻とともに、あるいは単独で探索しようとする物に関連する作業環境を検索キーとして、収納した引き出しを検索することができる。例えば、ある文書を編集中に関連する物を引き出したとき、当該文書を検索キーとして収納場所を検索することができる。つまり利用者は捜している物から連想されるもの、例えば文書名、電話番号、スケジュールを検索キーとして収納場所を検索することができる。
【0044】
発明の実施の形態3.
発明の実施の形態1において、スライダー式入力部34はもっぱら深さを指定するものであった。これに加えてあるいはこれに代えて、スライダー式入力部34で時刻を指定するようにしてもよい。
【0045】
発明の実施の形態3の装置の側面図を図8に示す。この装置の側面に、液晶表示装置23及び深さを指定するスライダー式入力部34aとともに、時刻を指定するスライダー式入力部34b及び開閉時刻とそのときの深さ(収納物の高さ位置)を示す表示部35を備える。表示部35には、深さ(縦軸)と時刻(横軸)の関係を示すグラフが表示される。スライダー34a又は34bのいずれかを動かして深さ又は時刻を指定することにより、表示部23にそのときの画像が表示される。
【0046】
以上、発明の実施の形態1乃至3は引き出しを例に説明を加えた。この発明は、これに限定されず、同様の手法を机や棚などに応用することで、机の上に置いた物品、机の引き出しの物品、棚に置いた物品の記録と検索を可能にすることができる。また、引き出し形式の収納家具に限定されない。例えば、フォルダを上から出し入れする吊り下げ式の収納キャビネットにも適用できる。
【0047】
また、本発明の実施の形態は次のような用途にも用いることができる。
【0048】
(1)おもちゃ、雑貨の収納家具(図9参照)
箱形で蓋が開閉できるシンプルな収納家具(例えば、おもちゃを入れて置くような箱)の蓋の裏にカメラを付ける。当該家具におもちゃや雑貨をほうり込んで蓋を閉じるタイミングで撮影し、その画像をタイムスタンプを付けて保存する。そして時間軸でこの写真をブラウズするソフトウエアを用意する。時刻の指定は、例えば側面に設けられたスライダー34bで行う。
【0049】
大きな箱なので、収納物の堆積具合は均一ではないから、引き出しのように深さ情報を利用しなくてもよい。画像から箱の中にどのような物がどのような順序でしまわれているかが分かる。
【0050】
(2)書棚、ファイル棚、食器棚、たんす、冷蔵庫、配電盤(スイッチの状態を監視する)(図10参照)
扉のある家具の扉にカメラを付け、開閉する度に撮影して上記と同様のブラウズをするようにしてもよい。なお、図10のカメラ(Camera)の取り付け位置及びカメラのレンズの方向(撮影方向)に注意されたい。これは、図10(b)のように扉を途中まで開けた状態で、収納物を正面から撮影できるようにするためである。すなわち、カメラは扉に対して斜めに取り付けられている。カメラをこのように設置することで、焦点距離がそれほど短くない標準的なレンズを用いることができる(魚眼レンズなどの特殊なレンズを用いる必要がない)とともに、内部に照明を設けなくても、外光を利用して撮影することもできる。カメラの撮影タイミングを扉の位置で決定するようにしてもよい。例えば、扉を開けたときあるいは扉を閉めたとき、同図(b)の位置に扉の位置が来たとき、自動的に撮影するように制御する。
【0051】
棚の奥にいれてしまった物が手前の物の陰になっても見ることができるとともに、その探索を行うことができる。扉を開けずに中が見られるだけでも利用価値は高いと考えられる。
【0052】
また、発明の実施の形態1及び2はパソコン等と組み合わせて使用することもできる。制御部、検索部などの機能の一部又は全部をパソコン等で行わせるようにしてもよい。例えば、パソコンで引き出しの開閉を管理するとともに、パソコンで検索を実行し、その結果を表示するようにしてもよい。
【0053】
本発明は、以上の実施の形態に限定されることなく、特許請求の範囲に記載された発明の範囲内で、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【0054】
また、本明細書において、手段とは必ずしも物理的手段を意味するものではなく、各手段の機能が、ソフトウェアによって実現される場合も包含する。さらに、一つの手段の機能が、二つ以上の物理的手段により実現されても、若しくは、二つ以上の手段の機能が、一つの物理的手段により実現されてもよい。
【図面の簡単な説明】
【図1】 発明の実施の形態1に係る装置のブロック図である。
【図2】 発明の実施の形態1に係る装置の斜視図である。
【図3】 発明の実施の形態1に係る装置の収納処理のフローチャートである。
【図4】 発明の実施の形態1に係る装置の検索処理のフローチャートである。
【図5】 発明の実施の形態1に係る装置の検索処理のフローチャートである。
【図6】 発明の実施の形態1に係る装置の検索処理のフローチャートである。
【図7】 発明の実施の形態2に係る装置のブロック図である。
【図8】 発明の実施の形態3に係る装置の側面図である。
【図9】 使用状態の説明図である。
【図10】 使用状態の説明図である。
【符号の説明】
1 装置本体
11 引き出し
12 引き出し開閉検知用センサ
13 表示ランプ
14 マイク
15 制御部
16 音声メモリ
17 カレンダー時計装置
18 開閉時刻メモリ
19 検索部
20 音声認識部
21 入力部
22 スピーカ
23 液晶表示装置(LCD)
24 通信装置
25 情報収集部
26 作業環境情報メモリ
30 デジタルカメラ
31 深さ検出用センサ
32 画像メモリ
33 深さ情報メモリ
34 スライダー式入力部(深さ指示用)
35 時刻−深さグラフ表示部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to storage furniture having a search function for stored items.
[0002]
[Prior art]
Computers are increasingly becoming a daily necessities, their existence becomes transparent, and they are expected to become tools that help organize, use, and distribute information around you with intuitive operations. In the future, sensors and computer chips will be incorporated into daily life appliances such as home appliances, stationery, and kitchenware, furniture, and building materials, making it possible to use computers without being aware of them in daily life.
[0003]
For example, by incorporating a sensor in the storage furniture, it is possible to realize an interface that uses the information processing ability of the computer together with the daily operation using the furniture.
[0004]
[Problems to be solved by the invention]
Accordingly, an object of the present invention is to provide a storage furniture in which a sensor and a computer are incorporated, and stored items can be searched electronically. The present invention is so-called Smart Drawers for real-world interaction with furniture.
[0005]
[Means for Solving the Problems]
The storage furniture with stored item search function according to the present invention is imaged by a storage unit for storing articles, a sensor for detecting opening and closing of the storage unit, a camera for photographing the inside of the storage unit, and the camera. An image memory for storing the image, a depth sensor for measuring the depth inside the storage unit, a depth information memory for storing depth information measured by the depth sensor, and an output of the sensor A control unit that associates the image and the depth information with each other and stores them in the image memory and the depth information memory, a search unit that searches for the image and / or the depth information, and a search by the search unit And a display unit for displaying the image and / or the depth information.
[0006]
Preferably, further comprising an opening and closing time memory for storing date time information,
The control unit stores date / time information related to opening / closing of the storage unit in the opening / closing time memory based on the output of the sensor in association with the image and the depth information.
The search unit searches the open / close time memory in response to a search condition related to date and time, and extracts the image and / or the depth information that matches the search condition.
[0007]
Preferably, it further comprises an input unit for inputting depth information,
The search unit receives a search condition related to the depth information from the input unit, searches the depth information memory, and extracts the image that matches the search condition.
[0008]
The input unit is, for example, a slide type input unit (slide resistance) that can directly indicate the depth of an article in the storage unit.
[0009]
Preferably, it further includes a microphone, a voice recognition unit that recognizes a voice signal from the microphone and converts it into text data, and a memory that stores the text data.
The control unit stores the text data in the memory in association with the image and the depth information,
The search unit searches the memory in response to a search condition related to text data, and extracts the image and / or the depth information that matches the search condition.
[0010]
Preferably, further comprising a microphone, a speaker, and an audio memory for storing an audio signal from the microphone,
The control unit stores the audio signal in the audio memory in association with the image and the depth information,
The search unit reads the audio signal corresponding to the extracted image and / or the depth information from the audio memory, and sends the audio signal to the speaker for output.
[0011]
Preferably, further comprising an input unit, a display unit, and a memory for storing text data,
The control unit stores the text data input by the input unit in the memory in association with the image and the depth information,
The search unit reads the text data corresponding to the extracted image and / or the depth information from the memory and causes the display unit to display the text data.
[0012]
Preferably, further comprising: an information collecting unit that communicates with an external device to collect work environment information of a user; and a work environment information memory that stores the work environment information,
The control unit stores the work environment information in the work environment information memory in association with the image and the depth information,
The search unit reads out and outputs the work environment information corresponding to the extracted image and / or the depth information from the work environment information memory.
[0013]
The work environment information includes, for example, software used on the user's personal computer, files, character strings displayed on the screen, schedule software schedule information, telephone usage records, and the like.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
An apparatus according to
FIG. 1 shows a functional block diagram of this apparatus. FIG. 2A shows a perspective view of this apparatus.
[0015]
In FIG. 1, the
[0016]
The control unit 15 receives the signal from the
[0017]
When the drawer is closed, the
[0018]
The
[0019]
The
[0020]
Next, the operation of the apparatus according to the embodiment of the present invention will be described with reference to FIGS.
[0021]
The apparatus according to the embodiment of the present invention has a storage processing mode for storing an object such as a document in the
[0022]
FIG. 3 is a flowchart of the storing process of the apparatus according to
[0023]
S20: It is determined whether or not the drawer is closed. The control unit 15 monitors whether the
S21: Photograph the contents of the uppermost layer of the drawer when it is closed.
S22: The date and time at that time is acquired.
S23: The depth is measured.
S24: Record the captured image in association with the depth and / or the shooting date.
[0024]
Thereby, for example, the following image is recorded in the memory.
January 21, 13:00
January 21, 13:15
January 21 17:00
[0025]
In addition, text data and audio data are also stored in the
[0026]
By analyzing these data, it is possible to know the contents of the object and its thickness (depth). In this way, by setting the camera inside the drawer and photographing the contents from above at the timing when the drawer is closed, it is possible to browse the “stratum” of the documents in the drawer, so that the search within the drawer can be performed. .
[0027]
The control unit 15 may store a necessary message through the microphone 14 when the drawer is open to the user. The
[0028]
Voice and / or text can be input at a predetermined timing. For example, the input can be performed with the drawer open, and can be performed for a certain period even after the drawer is closed. Alternatively, input may be made only within a predetermined time after the drawer is opened.
[0029]
Next, the search processing mode will be described with reference to FIGS.
[0030]
S30: When trying to search for stored items, the user uses the microphone 14 or the
[0031]
S31: The contents of the
S32: It is determined whether there is data at the corresponding time. If not, “N / A” is displayed (S37). Or you may make it employ | adopt the data of the nearest time.
S33: If there is, the image / depth information corresponding to the search result is searched.
S34: The searched image and / or depth information thereof is displayed on the
S35: Search for a voice / text memo corresponding to the search result.
S36: The searched voice is played from the
[0032]
FIG. 5 shows a procedure for searching for stored items based on depth information.
S40: A search condition for depth information is input. For example, a desired search condition is input by adjusting the
S41: The depth information memory is searched based on the input search condition.
S42: It is determined whether there is data of the corresponding depth. If not, “N / A” is displayed (S47). Or you may make it employ | adopt the data of the nearest depth.
S43: If there is, search for an image corresponding to the search result.
S44: The searched image is displayed on the
S45: Search for a voice / text memo corresponding to the search result.
S46: The searched voice is played from the
[0033]
FIG. 6 shows a procedure for searching for a search object based on text information.
S50: A text search condition is input. For example, a desired search condition is input from the
S51: The
S52: It is determined whether there is corresponding text data. If not, “not applicable” is displayed (S57). Alternatively, the most similar text data may be adopted.
S53: If there is, search for an image corresponding to the search result.
S54: The searched image is displayed on the
S55: The depth information corresponding to the search result is searched.
S56: The searched depth information is displayed on the
[0034]
As described above, the device according to the embodiment of the present invention can perform search support in the drawer. By placing the camera inside the drawer and photographing the contents from above at the timing when the drawer is closed, so to speak, it is possible to browse the “stratum” of the documents in the drawer, so search within the drawer is more accurate than the drawer unit. Can do.
[0035]
For example, even when documents are randomly stored in a drawer without being arranged at all, a desired one of the documents can be easily searched. If the rough date and time when the target document is stored is known, the image of the document can be searched using the date and time as a search key. If you check the document on the image, you can know the position (depth) of the document. The user can know that a desired document is stored therein and its position. Even when a plurality of images are searched, a desired document can be searched while checking the images. If the image cannot be discriminated, it is possible to know whether or not the desired document is in the drawer by checking the text and voice information at the same time, and if so, where. You can search by text as well as date. For example, by searching for “minutes”, images and depth information associated with the “minutes” at the time of storage can be obtained. Also, if you use the slider, you can view the images of the documents stored in the drawer sequentially. Thus, according to the embodiment of the present invention, it is possible to easily know the stored items without turning over the drawer.
[0036]
As in the embodiment of the present invention, if the opening / closing time of the drawer and its state can be recorded and searched, it is possible to assist the search for documents and objects stored in the drawer. That is, as described above, the optical proximity sensor is attached to the drawer furniture, the opening / closing of the drawer is detected, and the opening / closing of the drawer is recorded with a time stamp, for example, “documents used the morning before yesterday” By searching the open / close record and depth information under the condition, the position of the document stored in the drawer can be searched.
[0037]
It is easy to use, and the user can store documents and other items in the drawer while speaking the contents of the document if possible. For example, say “Receipt”, “Meeting of committee meeting”, “Invoice of XX company”. The utterance is recorded with a microphone and recognized.
[0038]
In the embodiment of the present invention, the user's utterance is acquired by the voice recognition program and sent to the information collecting program, but the user does not necessarily have to utter. In addition, even if voice recognition is not completely recognized, it is sufficient if a certain level of vocabulary can be acquired, so that the recognition confirmation operation can be omitted. These data are stored in the database as drawer opening / closing information, keyword (character) information such as speech recognition results, and time information.
[0039]
Note that the mode for storing an article and the mode for searching for an article can be switched by a user's special command utterance, a button operation attached to furniture, an operation via a network from a desktop PC, or the like.
[0040]
In addition to the drawer opening / closing information, a variety of related information can be recorded to provide more effective search support. In the first embodiment of the present invention, the function of attaching a voice memo is realized when storing a document using a voice recognition program. For example, by storing documents while uttering “minutes”, the search accuracy based only on time stamps can be improved.
[0041]
In addition to this, character strings displayed on the personal computer when the drawer is opened and closed, schedule software information, telephone usage records, and the like can also be used.
[0042]
FIG. 7 shows a block diagram of an apparatus according to
[0043]
The contents of the work
[0044]
In
[0045]
FIG. 8 shows a side view of the apparatus according to the third embodiment of the invention. Along with the liquid
[0046]
As described above, the first to third embodiments of the invention have been described by taking the drawer as an example. The present invention is not limited to this, and by applying the same technique to a desk or shelf, it is possible to record and search for articles placed on the desk, articles on the desk drawer, and articles placed on the shelf. can do. Moreover, it is not limited to drawer-type storage furniture. For example, the present invention can be applied to a hanging storage cabinet in which a folder is taken in and out.
[0047]
The embodiment of the present invention can also be used for the following applications.
[0048]
(1) Toys and miscellaneous goods storage (see Figure 9)
A camera is attached to the back of a simple storage furniture that can be opened and closed in a box shape (for example, a box in which a toy is placed). Take a picture of the furniture with toys and sundries and close the lid, and save the image with a time stamp. Then, prepare software to browse these photos on the time axis. The time is specified by, for example, a slider 34b provided on the side surface.
[0049]
Since it is a large box, the amount of stored items is not uniform, so it is not necessary to use depth information like a drawer. From the image, you can see what is stored in the box and in what order.
[0050]
(2) Bookcase, file shelf, cupboard, chest, refrigerator, switchboard (monitors switch status) (see Fig. 10)
A camera may be attached to the door of the furniture with the door, and the same browsing as described above may be performed by taking a picture every time the door is opened and closed. It should be noted that the camera (Camera) mounting position and the direction of the camera lens (photographing direction) in FIG. This is to allow the stored item to be photographed from the front side with the door opened halfway as shown in FIG. That is, the camera is attached to the door at an angle. By installing the camera in this way, it is possible to use a standard lens that does not have a short focal length (no need to use a special lens such as a fisheye lens). You can also shoot using light. You may make it determine the imaging | photography timing of a camera with the position of a door. For example, when the door is opened or closed, when the position of the door comes to the position shown in FIG.
[0051]
You can see and search for objects that have been placed in the back of the shelf behind the objects in front of you. Even if the inside can be seen without opening the door, the utility value is considered high.
[0052]
Further,
[0053]
The present invention is not limited to the above embodiments, and various modifications can be made within the scope of the invention described in the claims, and these are also included in the scope of the present invention. Needless to say.
[0054]
In the present specification, means does not necessarily mean physical means, but includes cases where the functions of each means are realized by software. Furthermore, the function of one means may be realized by two or more physical means, or the functions of two or more means may be realized by one physical means.
[Brief description of the drawings]
FIG. 1 is a block diagram of an apparatus according to a first embodiment of the invention.
FIG. 2 is a perspective view of an apparatus according to
FIG. 3 is a flowchart of storage processing of the apparatus according to the first embodiment of the invention.
FIG. 4 is a flowchart of search processing of the device according to the first embodiment of the invention.
FIG. 5 is a flowchart of search processing of the device according to the first embodiment of the invention.
FIG. 6 is a flowchart of search processing of the device according to the first embodiment of the invention.
FIG. 7 is a block diagram of an apparatus according to
FIG. 8 is a side view of an apparatus according to
FIG. 9 is an explanatory diagram of a use state.
FIG. 10 is an explanatory diagram of a use state.
[Explanation of symbols]
DESCRIPTION OF
24
35 Time-depth graph display
Claims (7)
前記検索部は、日付時刻に関する検索条件を受けて前記開閉時刻メモリを検索し、前記検索条件に合致する前記画像及び/又は前記深さ情報を抽出することを特徴とする請求項1記載の収納物検索機能付き収納家具。And an opening / closing time memory for storing date / time information, wherein the control unit associates the image and the depth information with date / time information related to opening / closing of the storage unit based on an output of the sensor. Store it in the time memory,
2. The storage according to claim 1, wherein the search unit searches the open / close time memory in response to a search condition related to a date and time, and extracts the image and / or the depth information that matches the search condition. Storage furniture with object search function.
前記検索部は、前記入力部から前記深さ情報に関する検索条件を受けて前記深さ情報メモリを検索し、前記検索条件に合致する前記画像を抽出することを特徴とする請求項1記載の収納物検索機能付き収納家具。Furthermore, an input unit for inputting depth information is provided,
2. The storage according to claim 1, wherein the search unit receives a search condition related to the depth information from the input unit, searches the depth information memory, and extracts the image that matches the search condition. Storage furniture with object search function.
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記テキストデータを前記メモリに記憶させ、
前記検索部は、テキストデータに関する検索条件を受けて前記メモリを検索し、前記検索条件に合致する前記画像及び/又は前記深さ情報を抽出することを特徴とする請求項1記載の収納物検索機能付き収納家具。Furthermore, a microphone, a voice recognition unit that recognizes a voice signal from the microphone and converts it into text data, and a memory that stores the text data,
The control unit stores the text data in the memory in association with the image and the depth information,
The stored item search according to claim 1, wherein the search unit searches the memory in response to a search condition relating to text data, and extracts the image and / or the depth information that matches the search condition. Functional storage furniture.
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記音声信号を前記音声メモリに記憶させ、
前記検索部は、抽出された前記画像及び/又は前記深さ情報に対応する前記音声信号を前記音声メモリから読み出して前記スピーカに送り音声を出力させることを特徴とする請求項1記載の収納物検索機能付き収納家具。Furthermore, a microphone, a speaker, and an audio memory that stores an audio signal from the microphone,
The control unit stores the audio signal in the audio memory in association with the image and the depth information,
The stored item according to claim 1, wherein the retrieval unit reads the audio signal corresponding to the extracted image and / or the depth information from the audio memory and sends the audio to the speaker to output the audio. Storage furniture with search function.
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記入力部で入力されたテキストデータを前記メモリに記憶させ、
前記検索部は、抽出された前記画像及び/又は前記深さ情報に対応する前記テキストデータを前記メモリから読み出して前記表示部に表示させることを特徴とする請求項1記載の収納物検索機能付き収納家具。Furthermore, an input unit, a display unit, and a memory for storing text data are provided,
The control unit stores the text data input by the input unit in the memory in association with the image and the depth information,
2. The stored item search function according to claim 1, wherein the search unit reads out the text data corresponding to the extracted image and / or the depth information from the memory and displays the text data on the display unit. Storage furniture.
前記制御部は、前記画像及び前記深さ情報と対応づけて、前記作業環境情報を前記作業環境情報メモリに記憶させ、
前記検索部は、抽出された前記画像及び/又は前記深さ情報に対応する前記作業環境情報を前記作業環境情報メモリから読み出して出力することを特徴とする請求項1記載の収納物検索機能付き収納家具。Furthermore, an information collection unit for collecting work environment information of the user by communicating with an external device, and a work environment information memory for storing the work environment information,
The control unit stores the work environment information in the work environment information memory in association with the image and the depth information,
2. The stored item search function according to claim 1, wherein the search unit reads out and outputs the work environment information corresponding to the extracted image and / or the depth information from the work environment information memory. Storage furniture.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001039124A JP4514971B2 (en) | 2001-02-15 | 2001-02-15 | Storage furniture with stored item search function |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001039124A JP4514971B2 (en) | 2001-02-15 | 2001-02-15 | Storage furniture with stored item search function |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2002247570A JP2002247570A (en) | 2002-08-30 |
| JP4514971B2 true JP4514971B2 (en) | 2010-07-28 |
Family
ID=18901980
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2001039124A Expired - Fee Related JP4514971B2 (en) | 2001-02-15 | 2001-02-15 | Storage furniture with stored item search function |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4514971B2 (en) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007261757A (en) * | 2006-03-29 | 2007-10-11 | Shimizu Corp | Storage management system |
| JP5431720B2 (en) * | 2008-12-26 | 2014-03-05 | 東洋炭素株式会社 | Warehouse operation method and warehouse operation apparatus |
| JP6291118B1 (en) * | 2017-08-02 | 2018-03-14 | 株式会社Space2020 | Image processing apparatus, image processing program, and image processing method |
| JP6527217B2 (en) * | 2017-12-12 | 2019-06-05 | 東芝ライフスタイル株式会社 | Storage device |
| JP6794493B2 (en) * | 2019-05-09 | 2020-12-02 | 東芝ライフスタイル株式会社 | Storage device |
| JP2023000550A (en) * | 2021-06-18 | 2023-01-04 | シヤチハタ株式会社 | Information processing device, storage management system and program |
| KR102689478B1 (en) * | 2022-01-27 | 2024-07-26 | 동의대학교 산학협력단 | Smart storage using object recognition sensor |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0432401A (en) * | 1990-05-28 | 1992-02-04 | Matsushita Electric Works Ltd | Automatic containing device |
| JP2000055533A (en) * | 1998-08-03 | 2000-02-25 | Sanyo Electric Co Ltd | Cooling storage cabinet and its managing system |
-
2001
- 2001-02-15 JP JP2001039124A patent/JP4514971B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2002247570A (en) | 2002-08-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8028249B2 (en) | Method and system for browsing large digital multimedia object collections | |
| Quintana et al. | Augmented reality annotations to assist persons with Alzheimers and their caregivers | |
| Kim et al. | Cherish: smart digital photo frames for sharing social narratives at home | |
| US20040107181A1 (en) | System and method for capturing, storing, organizing and sharing visual, audio and sensory experience and event records | |
| JP2011054078A (en) | Electronic photo frame, and control method and program thereof | |
| Marshall et al. | Queering archives: Historical unravelings | |
| JP4514971B2 (en) | Storage furniture with stored item search function | |
| US20090064034A1 (en) | Image displaying device and method for displaying images and related information | |
| CN108984143A (en) | A kind of display control method and terminal device | |
| JP2018073237A (en) | CONFERENCE INFORMATION DISPLAY SYSTEM, CONFERENCE INFORMATION DISPLAY METHOD, AND CONFERENCE INFORMATION DISPLAY PROGRAM | |
| CA2512117A1 (en) | Data retrieval method and apparatus | |
| CN109257649A (en) | A kind of multimedia file generation method and terminal device | |
| CN103678469B (en) | Media file management method | |
| CN101515278B (en) | Image access device and method for storing and reading images | |
| US20100156942A1 (en) | Display device and method for editing images | |
| JP4674508B2 (en) | Information processing system and information processing program | |
| CN101431640B (en) | Image indexing device, image indexing method and camera thereof | |
| CN101442596B (en) | Digital camera and image recording method | |
| CN101426082A (en) | Calendar display system and method having photo album function | |
| JP2002223868A (en) | Storage furniture with storage search function | |
| JP7060327B2 (en) | Meeting recording device, meeting recording method, and program. | |
| CN109062524B (en) | Book information display method and device and book information display system | |
| Kim et al. | Cherish: smart digital photo frames | |
| Siio et al. | Finding objects in" strata drawer" | |
| JP2006166193A5 (en) |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071225 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100413 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100512 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130521 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |