以下、図面に基づいて本発明の実施形態の例を説明する。図1は、接客管理システム1の概要を示す図である。
本実施形態の接客管理システム1は、サーバー装置10と、顧客端末20と、登録ユーザー端末30と、オペレーター端末40とを備える。顧客端末20とサーバー装置10及びオペレーター端末40、サーバー装置10と登録ユーザー端末30とはネットワークを介して接続されている。ネットワークには、専用線も含まれる。
サーバー装置10は、例えばコンピューター等であって、顧客端末20で生成された解析情報を取得し、解析情報を用いて登録ユーザー端末30及びオペレーター端末40に対して処理を実行させる。
顧客端末20と、登録ユーザー端末30と、オペレーター端末40とは、例えばPC(Personal Computer)等の電子機器である。顧客端末20は、顧客Aによって操作される端末装置である。以下、顧客端末20は、金融機関やコンビニエンスストア等に設置されたATM(Automated teller machine)装置であるものとして説明する。
顧客端末20は、カメラ236及びディスプレイ238を備える。顧客端末20は、カメラ236を用いて顧客Aを撮影し、顧客Aの推定年齢及び推定性別を含む解析情報を生成する。顧客Aが通常の使用状況でないことを示す画像が撮影された場合、ディスプレイ238には顧客の使用状態を示す情報を含む所定の画面が表示される。画面に対して所定の入力が行われると、オペレーター端末40と顧客端末20とが接続され、オペレーターBにより入力された情報がディスプレイ238に表示される。
登録ユーザー端末30は、金融機関等に設置される端末装置であって、顧客Aの登録情報を管理している。登録ユーザー端末30は、顧客端末20により生成された解析情報に基づいて、顧客Aについて登録情報との照会を行う。
オペレーター端末40は、オペレーターBにより操作される端末装置であって、オペレーターBが在籍しているカスタマーセンタ等に設置される。顧客端末20において所定の入力がなされた場合、オペレーター端末40は顧客端末20に接続要求を行う。オペレーター端末40と顧客端末20とが接続されると、オペレーターBにより入力された情報が顧客端末20のディスプレイ238に表示され、顧客とオペレーターBとの間で意思の疎通が可能となる。なお、オペレーター端末40と顧客端末20とを呼接続することにより、顧客AとオペレーターBとの間で通話を行うものであってもよい。
本実施形態では、顧客端末20において顧客Aが撮影され、撮影された画像から取得される推定年齢及び推定性別と、顧客Aについて予め登録された情報との照会が行われる。照会不成立であった場合や、通常の使用状況でない状態が撮影された場合、ディスプレイ238に所定の画面が表示される。該画面に対して所定の入力がなされると、オペレーター端末40と顧客端末20とが接続され、オペレーターBが顧客Aに対し接客を行う。
図2は、接客管理システム1の機能ブロック図である。
サーバー装置10は、制御部11を備える。制御部11は、解析情報に関する情報や、顧客端末20とオペレーター端末40との接続指示等の送受信を制御する。制御部11は、通知判定部110と、サーバー通信部111と、認証情報生成部112とを備える。
通知判定部110は、顧客端末20から解析情報を受け付けた場合に、オペレーター端末40に対して注意情報の送信を行うか否かを判定する。オペレーター端末40に対して注意情報が送信されると、オペレーター端末40と顧客端末20との間で接続が行われる。また、通知判定部110は、顧客端末20から受け付けた解析情報をサーバー通信部111を介して登録ユーザー端末30に送信し、照会結果を取得する。
サーバー通信部111は、顧客端末20と、登録ユーザー端末30と、オペレーター端末40とに対して、情報の送受信を行う。
認証情報生成部112は、オペレーター端末40を顧客端末20に認証させるための認証情報を生成する。認証情報生成部112は、顧客端末20から接続指示を受け付けた場合に、認証情報を生成する。生成する認証情報は、例えば接続許可ID及びパスワードであって、接続指示を受け付けた都度生成されることが望ましい。生成した認証情報は、顧客端末20と、オペレーター端末40とに送信される。
顧客端末20は、制御部21を備える。制御部21は、解析情報の生成や、オペレーター端末40との接続に関する処理を制御する。制御部21は、撮影部210と、画像解析部211と、認証部212と、顧客端末表示部213と、困難状態検知部214とを備える。
撮影部210は、顧客端末20が備えるカメラ236を用いて、画像を撮影する。撮影する画像は、静止画でも動画でもよい。
画像解析部211は、撮影された画像を解析した結果得られた情報を含む属性情報を生成する。属性情報には、顧客Aの推定年齢及び推定性別が含まれる。画像解析部211は、例えば顧客Aの顔の画像に含まれるパーツの特徴量等を、予め図示しない記憶部に記憶された情報と比較することにより、顧客Aの年齢と性別を推定する。年齢と性別の推定方法については、公知の技術を用いるため、ここでは詳述しない。
また、画像解析部211は、画像中の人物の領域を検出し、該領域中の手の領域と、顔の領域とを特定する。画像解析部211は、手の領域及び顔の領域から、顧客Aの手が耳の近傍の位置(例えば、手の位置が顔の位置から12cm未満)にあるか否かを判定する。手及び顔の領域の検出については、公知の技術を用いる。なお、手が耳の近傍の位置にある場合、顧客Aは電話により第3者と通話中であると考えられる。
また、画像解析部211は、画像中に複数の人物の顔が含まれるか否かを判定する。画像中に含まれる顔の数の検知については、公知の技術を用いる。
推定年齢又は推定性別が、予め登録された情報と異なる場合、画像に複数の顔が写り込んでいる場合、顧客Aの手が耳の位置にある場合、又は顧客端末に対して同じ操作が所定数繰り返されて入力される場合等、顧客Aが通常と異なる使用状況であるとして予め定められた所定の場合に、画像解析部211は使用状況を示す属性を含む属性情報を生成する。
認証部212は、オペレーター端末40から送信される接続要求に含まれる認証情報に基づいて、オペレーター端末40の認証を行う。
顧客端末表示部213は、解析情報に含まれる属性が所定の属性である場合に、ディスプレイ238に対して警告画面を表示させる。警告画面は、オペレーター端末40に対して接続指示を出力するための画面であって、例えば属性注意画面、通話警告画面、覗き込み警告画面、又は問い合わせ指示画面であるが、詳しくは後述する。
警告画面において所定の入力を受け付けると、顧客端末20からサーバー装置10に対して接続指示が出力され、接続指示に基づいてサーバー装置10からオペレーター端末40に注意情報が送信される。注意情報に基づいて、オペレーター端末40と顧客端末とが接続される。顧客端末表示部213は、顧客端末20とオペレーター端末40との接続が開始された場合において、オペレーターBにより入力された情報を含む応答画面を表示する。
困難状態検知部214は、顧客端末20に対して同じ操作が繰り返された状態、及び、所定操作の後に一定時間が経過した状態を、困難状態として検知する。困難状態が検知されると、困難状態を示す属性を含む解析情報が生成される。
登録ユーザー端末30は、制御部31と、記憶部32とを備える。制御部31は、解析情報に基づく顧客Aの照会処理を制御する。記憶部32は、照会処理に必要とされる情報を記憶する。
記憶部32は、登録情報320を含む。登録情報320は、顧客Aについて予め登録された情報であって、顧客Aを特定するための識別情報の他に、顧客Aの年齢と性別とを含む。
照会部310は、サーバー装置10から送信される解析情報に含まれる顧客の推定年齢及び推定性別と、登録情報320とを比較することにより、顧客Aの照会を行う。解析情報に含まれる顧客Aの推定年齢に対し、登録情報320に含まれる顧客Aの年齢が所定範囲内にあり、解析情報に含まれる推定性別が登録情報320内の性別と一致する場合、照会部310は、照会が成立したことを示す情報(以降、「照会条件成立」を示す情報として説明する)を含む照会情報をサーバー装置10に送信する。なお、照会部310が照会を行う情報については年齢及び性別に限られず、照会方法も上述の方法に限られない。例えば、推定年齢はある特定の数値に限られず、下限と上限とを設け幅を持たせた数値であってもよい。
顧客Aについて登録された年齢が顧客Aの推定年齢から所定範囲内にない場合、又は登録された性別と推定性別とが一致しない場合等、照会条件が成立しない場合、照会部310は、照会条件不成立であることを示す照会情報をサーバー装置10に対して送信する。
照会条件不成立であることを示す照会情報には、顧客Aについて照会条件不成立であると判断する根拠となる情報である照会条件が含まれる。例えば、顧客Aについて予め登録されている年齢が60歳、性別が男性である一方、画像から推定される推定年齢が20歳、上述の所定範囲が推定年齢±10歳であり、推定性別が男性である場合、推定年齢プラス10歳である30歳を登録年齢が上回るため、照会部310は照会条件不成立であると判定する。この場合、照会部310は、照会条件として、「(推定)年齢が10歳以上30歳以下であって、且つ性別が男性」であることを特定する情報を生成し、照会条件に含めてサーバー装置10に送信する。なお、推定年齢が下限と上限とを設け幅を持たせた数値である場合、該推定年齢を照会条件として取り扱うものであってもよい。
オペレーター端末40は、制御部41を含む。制御部41は、オペレーター端末40において顧客端末20との通信に必要とされる情報の生成や送受信を制御する。制御部41は、オペレーター端末表示部410と、オペレーター端末通信部411と、を備える。
オペレーター端末表示部410は、顧客Aが撮影された画像と、顧客Aの使用状況を示す情報とを含む接客画面を表示する。オペレーター端末通信部411は、サーバー装置10から送信された注意情報に含まれる認証情報を用いて接続要求を示す情報を生成し、顧客端末20に送信する。また、オペレーター端末通信部411は、接続要求に対する顧客端末20からの応答に基づいて、顧客端末20と通信を行う。
なお、オペレーター端末通信部411は、サーバー装置10から注意情報を受け付けると、顧客端末20に対して発呼を行うものであってもよい。その場合顧客端末20における、発呼に対する応答をもって、オペレーター端末通信部411は顧客端末20と呼接続を行う。
本実施形態では、顧客Aの画像に基づいて、推定年齢等を示す解析情報が顧客端末20で生成され、登録ユーザー端末30で解析情報の照会が行われる。顧客Aが通常の使用状況でない場合には、オペレーター端末40に対して接続指示を行うための警告画面が顧客端末20に表示される。顧客端末20において接続指示の入力を受け付けると、顧客端末20からサーバー装置10へ接続指示が送信される。接続指示を受け付けたサーバー装置10は、認証情報を生成し、顧客端末20とオペレーター端末40に送信する。送信された認証情報に基づいて、オペレーター端末40と顧客端末20との接続が行われる。
これにより、登録された顧客以外の者が顧客になりすまして操作を行う場合や、顧客が電話によって不正な口座への送金を指示されているような場合等に、オペレーター端末40と顧客端末20とが接続される。このため、オペレーターBから顧客Aに対して注意を促す等の行動が可能となるだけでなく、不正な使用の抑止に役立つ。
次に、接客管理システム1が有する各装置のハードウェア構成例について説明する。
図3は、サーバー装置10のハードウェア構成例を示す図である。サーバー装置10は、CPU(Central Processing Unit)130、メモリ131、補助記憶装置132、入力I/F(Interface)133、出力I/F134、及びネットワークI/F135を備え、各構成要素はバスにより接続されている。
CPU130は中央演算装置であって、メモリ131又は補助記憶装置132に記録されたプログラムに従って処理を実行する。制御部11を構成する各処理部は、CPU130がプログラムを実行することにより各々の機能を実現する。
メモリ131は、RAM(Random Access Memory)又はフラッシュメモリ等の記憶装置であり、プログラムやデータが一時的に読み出される記憶エリアとして機能する。補助記憶装置132は、例えばHDD(Hard Disk Drive)や、CD-R(Compact Disc- Recordable)、DVD-RAM(Digital Versatile Disk-Random Access Memory)等の書き込み及び読み出し可能な記憶メディア及び記憶メディア駆動装置等である。
入力I/F133は、システム管理者からの入力操作を受け付けるためのインターフェイスであり、例えばタッチパネル、キーボード、マウス、マイク等からの入力を受け付ける。出力I/F134は、LCD(Liquid Crystal Display)等の表示装置等に対して情報を出力するためのインターフェイスである。ネットワークI/F135は、サーバー装置10をネットワークに接続するためのインターフェイスである。なお、ネットワークI/F135は、専用線によりサーバー装置10を顧客端末20、登録ユーザー端末30、及びオペレーター端末40の各々に接続させるものであってもよい。
登録ユーザー端末30、及びオペレーター端末40については、サーバー装置10のハードウェア構成と同様であるため、説明を省略する。なお、登録ユーザー端末30の記憶部32は、メモリ131又は補助記憶装置132によりその機能が実現される。また、記憶部32は、図示しないネットワーク上の記憶装置によってその機能が実現されてもよい。
図4は、顧客端末20のハードウェア構成例を示す図である。顧客端末20は、CPU230、メモリ231、補助記憶装置232、入力I/F233、出力I/F234、及びネットワークI/F235のほか、カメラ236と、タグ読取装置237と、ディスプレイ238とを備える。CPU230、メモリ231、補助記憶装置232、入力I/F233、出力I/F234、及びネットワークI/F235は、サーバー装置10が備えるCPU130、メモリ131、補助記憶装置132、入力I/F133、出力I/F134、及びネットワークI/F135の各々と同様であるため、説明を省略する。
カメラ236は、CCD(Charge Coupled Device)等のイメージセンサを用いた撮像装置であって、静止画又は動画を撮影する。タグ読取装置237は、顧客端末20に対して提示されるキャッシュカードに含まれるIC(Integrated Circuit)タグを読取可能な装置である。なお、タグ読取装置237が読取可能な情報は、ICカードが有するタグに記録された情報に限定されない。例えば、磁気カードに含まれる情報等であってもよい。
ディスプレイ238は、LCD(Liquid Crystal Display)等を用いて情報を表示する表示装置である。ディスプレイ238は、例えばタッチパネル等、情報を表示するとともに入力を受け付ける装置であってもよい。
なお、サーバー装置10、登録ユーザー端末30、オペレーター端末40、及び顧客端末20の各構成要素の処理は、1つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。また、サーバー装置10、登録ユーザー端末30、オペレーター端末40、及び顧客端末20の各構成要素の処理は、1つのプログラムで実現されてもよいし、複数のプログラムで実現されてもよい。
図5は、顧客端末20における属性判定処理の流れを示すフローチャート(その1)である。顧客端末20に電源が投入されると、顧客端末20は情報の入力を受け付けるための待機状態に入る。
図15は、カード挿入画面151の一例を示す図である。顧客端末20が待機状態である場合、カード挿入画面151がディスプレイ238に表示される。
説明を図5に戻す。まず、顧客端末20の制御部21は、タグ読取装置237を介して、顧客端末20に提示されたカード情報を取得する(ステップS11)。カード情報には、顧客Aを特定する識別情報が含まれている。
次に、撮影部210は、カメラ236を用いて顧客Aを撮影する(ステップS12)。
次に、画像解析部211は、顧客の年齢及び性別が取得可能であるか否かを判定する(ステップS13)。画像解析部211は、ステップS12で撮影した画像を解析し、年齢及び性別を取得した場合に、年齢及び性別が取得可能であると判定する。
画像解析部211が、顧客の年齢及び性別が取得可能であると判定した場合(ステップS13で「YES」の場合)、画像解析部211は、顧客の性別及び年齢を取得する(ステップS14)。取得した年齢及び性別は、各々推定年齢及び推定性別として、顧客端末20の図示しない記憶部に記録される。
次に、画像解析部211は、ステップS14で取得した推定年齢及び推定性別を含む属性情報140を、サーバー装置10に送信する(ステップS15)。
図12は、属性情報140の一例を示す図である。本図に示す属性情報140は、ステップS15においてサーバー装置10に送信される属性情報140の例である。属性情報140には、利用ユーザーIDと、属性の名称及び属性の値の組み合わせとが含まれる。利用ユーザーIDとは、ステップS11において顧客端末20が取得した、顧客Aを特定する識別情報である。
属性情報140に含まれる属性1は、顧客Aの推定年齢に関する情報である。また、属性2は、顧客Aの推定性別に関する情報である。図12に示す属性情報140には、属性1の名称として、「年齢」、属性1の値として「30」を示す情報が含まれる。これは、ステップS14において画像解析部211が取得した顧客Aの推定年齢が「30歳」であることを示す。また、属性2の名称として「性別」、属性2の値として「1」が含まれているが、これは顧客Aの推定性別が「1(男性)」であることを示している。
説明を図5に戻す。次に、顧客端末20の制御部21は、属性注意画面152の表示指示を受信したか否かを判定する(ステップS16)。詳細は後述するが、ステップS15において顧客端末20から送信された属性情報140をサーバー装置10が受け付けると、推定年齢及び推定性別が予め登録ユーザー端末30に登録された登録情報320と対応するか否かの照合が行われる。照合条件不成立である場合、顧客端末20はサーバー装置10から属性注意画面152の表示指示を受信する。
顧客端末20の制御部21が、属性注意画面152の表示指示を受信したと判定しない場合(ステップS16において「NO」の場合)、顧客端末20の制御部21は、「照会条件成立」を示す情報をサーバー装置10から受信する(ステップS17)。この場合、画像から解析された推定年齢及び推定性別と、予め登録された年齢及び性別とが対応しているため、顧客端末20では登録された者本人による手続きであるものとして取り扱われる。そのため、顧客端末20の制御部21は本フローチャートの処理を終了する。その後、顧客端末20では、顧客Aの操作に基づいて通常の取引が行われる。
顧客端末20の制御部21が、属性注意画面152の表示指示を受信したと判定する場合(ステップS16において「YES」の場合)、顧客端末表示部213は、属性注意画面152を表示する(ステップS18)。
図16は、属性注意画面152の一例を示す図である。属性注意画面152は、画像により推定される年齢及び性別と、予め登録された年齢及び性別とが対応しない場合に表示される画面である。属性注意画面152には、これから手続きを行おうとしている顧客Aに対し、予め登録された者でないことの疑義を示すメッセージが表示される。属性注意画面152には、他に取消ボタン1521と、確認ボタン1522とが表示される。
説明を図5に戻す。次に、顧客端末20の制御部21は、取消又は確認の入力を受け付ける(ステップS19)。制御部21は、属性注意画面152において取消ボタン1521の選択を受け付けたか、又は確認ボタン1522の選択を受け付けたかを判定する。
制御部21が、取消の入力を受け付けたと判定した場合(ステップS19で「取消」の場合)、顧客端末表示部213は、取引を終了させることを示す画面を表示する(ステップS20)。その後、顧客端末表示部213は本フローチャートの処理を終了する。顧客端末20において、顧客Aについては、その後手続が続行されない。
制御部21が、確認の入力を受け付けたと判定した場合(ステップS19で「確認」の場合)、画像解析部211は、照会条件不成立を示す属性情報140をサーバー装置10に対して送信する(ステップS21)。
先述したように、属性情報140には、利用ユーザーIDの他に、属性の名称と、属性の値との組み合わせが含まれる。また、属性1は顧客Aの推定年齢を示す情報であって、属性2は顧客Aの推定性別を示す情報である。照会条件が不成立であって、属性注意画面152において確認の入力を受け付けた場合、画像解析部211は、例えば属性3の名称として、「照会条件」、属性3の値として「A」を含む属性情報140を生成する。なお、「A」とは、照会条件不成立であることを特定する情報である。画像解析部211は、生成した属性情報140をサーバー装置10に対して送信する。照会条件不成立であることを示す情報を含む属性情報140は、サーバー装置10において接続指示として取り扱われる。当該属性情報140を受け付けたサーバー装置10では、認証情報生成部112により認証情報が生成され、顧客端末20に対して送信される。
次に、顧客端末表示部213は、待機画面153を表示する(ステップS22)。
図17は、待機画面153の一例を示す図である。待機画面153には、顧客端末20がオペレーター端末40との接続が行われるまで待機している状態であることを示す情報が表示される。待機画面153には、取消ボタンが表示されていてもよい。取消ボタンが選択されると、制御部21は本フローチャートの処理を終了する。
説明を図5に戻す。次に、顧客端末20の認証部212は、接続許可IDとパスワードとからなる認証情報をサーバー装置10から受信する(ステップS23)。受信した認証情報は、顧客端末20が有する記憶部に記憶される。なお、サーバー装置10の認証情報生成部112が認証情報を生成すると、生成した認証情報(例えば接続許可IDとパスワード)を特定した注意情報を、サーバー通信部111が所定のオペレーター端末40に対して送信する。注意情報を受信したオペレーター端末40は、認証情報を特定した接続要求を、顧客端末20に対して送信する。なお、ステップS21、ステップS22、ステップS23の処理については、先後を問わない。
次に、顧客端末20の制御部21は、オペレーター端末40から接続要求を受信する(ステップS24)。
次に、顧客端末20の認証部212は、接続要求に含まれる接続許可IDとパスワードとを用いて、送信先の認証を行う(ステップS25)。認証部212は、記憶部に記憶された接続許可IDとパスワードを参照することにより、接続要求を送信したオペレーター端末40の認証を行う。なお、認証を許可しない場合、認証部212は本フローチャートの処理を終了する。
次に、顧客端末20の制御部21は、送信先との通信を開始する(ステップS26)。具体的には、制御部21は、ステップS25において認証されたオペレーター端末40との接続を開始する。その後、制御部21は本フローチャートの処理を終了する。なお、その後、例えば制御部21はオペレーター端末40から送信された音声を出力する。また例えば、顧客端末表示部213は、オペレーター端末40により送信された表示画面を表示する。
ステップS13において、画像解析部211が、顧客の年齢及び性別が取得可能であると判定しない場合(ステップS13で「NO」の場合)、画像解析部211は、図6に示すステップS27に処理を進める。
図6は、顧客端末20における属性判定処理の流れを示すフローチャート(その2)である。次に、顧客端末表示部213は、解析警告画面154を表示する(ステップS27)。
図18は、解析警告画面154の一例を示す図である。解析警告画面154は、画像から顧客Aに関する情報を取得できないため、サングラスやマスク等、顔を覆う物を取り除くことを促す情報が表示されている。また、解析警告画面154は、取消ボタン1541と、確認ボタン1542とを含む。
説明を図6に戻す。次に、顧客端末20の制御部21は、取消又は確認の入力を受け付ける(ステップS28)。制御部21は、解析警告画面154において取消ボタン1541の選択を受け付けたか、又は確認ボタン1542の選択を受け付けたかを判定する。
制御部21が、取消の入力を受け付けたと判定した場合(ステップS28で「取消」の場合)、顧客端末表示部213は、取引を終了させることを示す画面を表示する(ステップS29)。その後、顧客端末表示部213は本フローチャートの処理を終了する。顧客Aについては、その後手続が続行されない。
制御部21が、確認の入力を受け付けたと判定した場合(ステップS28で「確認」の場合)、撮影部210は、顧客Aを撮影する(ステップS30)。ステップS30及びステップS31で行われる処理は、ステップS12及びステップS13で行われる処理と同様であるため、説明を省略する。
ステップS31において、画像解析部211が、顧客の年齢及び性別が取得可能であると判定した場合(ステップS31で「YES」の場合、)画像解析部211は、処理をステップS14に戻す。
画像解析部211が、顧客の年齢及び性別が取得可能であると判定しない場合(ステップS31で「NO」の場合、)顧客端末表示部213は、処理をステップS27に戻す。
本実施形態によれば、顧客Aの画像から顧客の推定年齢及び推定性別を解析し、登録情報320との照合を行う。照合が不成立であった場合には、顧客端末20とオペレーター端末40との通信を開始する。これにより、予め登録された者以外の者によって手続きが行われることを予防することができる。
図7は、顧客端末20における手位置検出処理の流れを示すフローチャートである。本処理は、例えば図6に示すステップS11で、顧客端末20の制御部21がカード情報を取得した後、定期的に行われる。
まず、撮影部210が、カメラ236を用いて顧客Aを撮影する(ステップS41)。ここで撮影される画像は、ステップS12において撮影される画像であってもよいし、ステップS11の処理の後に新たに撮影される画像であってもよい。
次に、画像解析部211は、ステップS41において撮影された画像を解析する(ステップS42)。画像解析部211は、顧客Aの手が画像に表れている場合に、手の位置を解析する。
次に、画像解析部211は、顧客Aの手の位置が耳のそばにあるか否かを判定する(ステップS43)。画像解析部211は、例えば顧客Aの手が画像に表れている場合に、手が顔の側面近傍にあるか否かを判定する。
画像解析部211が、顧客Aの手の位置が耳のそばにあると判定しない場合(ステップS43で「NO」の場合)、画像解析部211は、本フローチャートの処理を終了する。
画像解析部211が、顧客Aの手の位置が耳のそばにあると判定する場合(ステップS43で「YES」の場合)、顧客端末表示部213は、通話警告画面155を表示する(ステップS44)。
図19は、通話警告画面155の一例を示す図である。通話警告画面155は、顧客Aが携帯電話等を用いて通話をしながら顧客端末20を操作することを警告する情報が表示されている。携帯電話で通話をしながら顧客端末20を操作している場合、犯罪者が顧客Aに対して振り込み指示を行っていることが懸念される。そのため、顧客端末表示部213は、通話中の顧客Aに対して警告表示により注意を促し、操作を続行する場合にはオペレーター端末40と接続し、オペレーターBによる確認作業を経由させる。
通話警告画面155は、取消ボタン1551と、確認ボタン1552とを含む。
説明を図7に戻す。次に、顧客端末20の制御部21は、取消又は確認の入力を受け付ける(ステップS45)。制御部21は、通話警告画面155において取消ボタン1551の選択を受け付けたか、確認ボタン1552の選択を受け付けたかを判定する。
制御部21が、取消の入力を受け付けたと判定した場合(ステップS45で「取消」の場合)、顧客端末表示部213は、取引を終了させることを示す画面を表示する(ステップS46)。顧客端末表示部213は、その後本フローチャートの処理を終了する。
制御部21が、確認の入力を受け付けたと判定した場合(ステップS45で「確認」の場合)、顧客端末表示部213は、待機画面153を表示する(ステップS47)。ステップS47において行われる処理は、ステップS22において行われる処理と同様である。
次に、画像解析部211は、手位置検出を示す情報を含む属性情報140をサーバー装置10に対して送信する(ステップS48)。具体的には、画像解析部211は、顧客Aの手の位置が耳の位置の近傍にあることを示す情報を含む属性情報140を生成し、サーバー装置10に対して送信する。
図13は、属性情報140の他の例を示す図である。図13に示す属性情報140には、属性3の名称として「挙動」、属性3の値として「B」を示す情報が含まれている。この属性の値は、顧客Aの挙動として、手の位置が耳近傍にある状態を示している。
上述の通り、画像解析部211は、属性1には顧客Aの推定年齢を示す情報を、属性2には顧客Aの推定性別を示す情報を含むよう属性情報140を生成する。画像から解析される顧客Aの使用状況が通常の使用状況と異なる場合には、画像解析部211は属性3以降に顧客Aの使用状況を示す情報を含むよう属性情報140を生成する。顧客Aの使用状況が通常の使用状況と異なることを示す情報が属性情報140に含まれる場合、当該属性情報140はサーバー装置10において接続指示として取り扱われる。サーバー装置10の認証情報生成部112は、接続指示を受け付けると、認証情報を生成し、顧客端末20に送信する。また、サーバー通信部111は、生成した認証情報を含む注意情報をオペレーター端末40に送信する。
属性情報140に含まれる属性の他の例として、画像に複数の顔が含まれることを示す属性が挙げられる。その場合、例えば属性の名称として「挙動」、属性の値として「C」を示す情報を含む属性情報140が生成される。また、顧客端末20において所定時間内に情報の入力を受け付けないことを示す属性が挙げられる。その場合、例えば属性の名称として「異常種別」、属性の値として「M」を示す情報を含み、他の属性の名称として「タイムアウト時間」、該属性の名称に対応する属性の値として「60(秒)」を示す情報を含む属性情報140が生成される。
また、他の例として、顧客端末20において同じ操作が所定回数行われたことを示す属性が挙げられる。その場合、属性の名称として「異常種別」、該属性の名称と対応する属性の値として「H」を示す情報が含まれ、他の属性の名称として「異常発生回数」、該属性の名称と対応する属性の値として「3(回)」を示す情報を含む属性情報140が生成される。
説明を図7に戻す。次に、顧客端末20の認証部212は、接続許可IDとパスワードとからなる認証情報をサーバー装置10から受信する(ステップS49)。ステップS47、ステップS48、及びステップS49の処理は、先後を問わない。ステップS49からステップS52までの間に行われる処理は、ステップS23からステップS26の間に行われる処理と同様であるため、説明を省略する。その後、顧客端末20の制御部21は本フローチャートの処理を終了する。
図8は、顧客端末20における覗き込み検出処理の流れを示すフローチャートである。本処理は、前述の手位置検出処理と同様に、例えば図6に示すステップS11で、顧客端末20の制御部21がカード情報を取得した後、定期的に行われる。
まず、撮影部210が、カメラ236を用いて顧客Aを撮影する(ステップS61)。本ステップで行われる処理は、ステップS41において行われる処理と同様である。
次に、画像解析部211は、ステップS61において撮影された画像を解析する(ステップS62)。画像解析部211は、ステップS61において撮影された画像に含まれる、人間の顔を解析する。
次に、画像解析部211は、画像に複数の顔が含まれているか否かを判定する(ステップS63)。画像解析部211が、画像に複数の顔が含まれていると判定しない場合(ステップS63で「NO」の場合)、画像解析部211は、本フローチャートの処理を終了する。
画像解析部211が、画像に複数の顔が含まれていると判定する場合(ステップS63で「YES」の場合)、顧客端末表示部213は、覗き込み警告画面156を表示する(ステップS64)。
図20は、覗き込み警告画面156の一例を示す図である。覗き込み警告画面156には、顧客Aを撮影した画面に複数の顔が含まれることを示す情報が表示される。画面に顧客A以外の者が写り込んでいるということは、第三者が顧客Aの操作しているディスプレイ238を見て情報を得ることで、該情報を悪用する可能性があることを示している。そのため、顧客端末20では複数の顔が写っていることを顧客Aに示すことで、顧客Aに注意を促す。
覗き込み警告画面156は、他に取消ボタン1561と、確認ボタン1562とを含む。
説明を図8に戻す。次に、顧客端末20の制御部21は、取消又は確認の入力を受け付ける(ステップS65)。制御部21は、覗き込み警告画面156において取消ボタン1561の選択を受け付けたか、確認ボタン1562の選択を受け付けたかを判定する。
顧客端末20の制御部21が、覗き込み警告画面156において取消の入力を受け付けたと判定する場合(ステップS65において「取消」の場合)、顧客端末表示部213は、取引を終了させることを示す画面を表示する(ステップS66)。その後、顧客端末表示部213は、本フローチャートの処理を終了する。
顧客端末20の制御部21が、覗き込み警告画面156において確認の入力を受け付けたと判定する場合(ステップS65において「確認」の場合)、顧客端末表示部213は、待機画面153を表示する(ステップS67)。ステップS67において行われる処理は、ステップS22の処理と同様である。
次に、画像解析部211は、覗き込み検出を示す情報を含む属性情報140をサーバー装置10に対して送信する(ステップS68)。先述したように、属性情報140は、顧客端末20の使用状況が通常と異なる場合の使用状況を含む情報である。画像解析部211は、覗き込み検出を示す情報を含む属性情報140を生成し、サーバー装置10に送信する。サーバー装置10では認証情報が生成され、顧客端末20に対して送信される。
次に、認証部212は、接続許可IDとパスワードとからなる認証情報をサーバー装置10から受信する(ステップS69)。ステップS67、ステップS68及びステップS69の処理は、先後を問わない。ステップS69からステップS72までの間に行われる処理は、ステップS23からステップS26の間に行われる処理と同様であるため、説明を省略する。その後、顧客端末20の制御部21は本フローチャートの処理を終了する。
図9は、顧客端末20における問い合わせ処理の流れを示すフローチャートである。顧客端末20において、同じ操作が所定数繰り返された場合、又は所定操作後一定時間が経過した場合に、問い合わせの要求が存在することを示す情報を含む属性情報140をオペレーター端末40に対して送信する。これによりオペレーター端末40と顧客端末20とが接続され、顧客AはオペレーターBに対して直接操作方法等の問い合わせを行うことができる。
本フローチャートは、例えば図6に示すステップ11で、顧客端末20の制御部21がカード情報を取得すると開始される。
まず、顧客端末20の困難状態検知部214が、顧客端末20に対して同じ操作が繰り返された状態か、又は所定操作の後に一定時間が経過した状態である困難状態を検知する。(ステップS81)。困難状態検知部214は、例えば他人の口座への現金の振り込みを示す情報の入力を受け付けて、所定時間(例えば1分)が経過した場合に、困難状態を検知する。
次に、顧客端末表示部213は、問い合わせ指示画面を表示する(ステップS82)。問い合わせ指示画面には、オペレーターBに対して問い合わせを行うか否かの選択を示す情報を表示する。問い合わせ指示画面は、他に「戻る」ボタンと「問い合わせる」ボタンとを含む。
次に、顧客端末20の制御部21は、「戻る」又は「問い合わせる」の入力を受け付ける(ステップS83)。制御部21は、問い合わせ指示画面に対する「戻る」ボタンの選択か、又は「問い合わせる」ボタンの選択を受け付ける。制御部21が、「戻る」ボタンの選択を受け付けた場合(ステップS83で「戻る」の場合)、制御部21は、本フローチャートの処理を終了する。その後、例えば顧客端末20の制御部21は、ディスプレイ238に対して初期画面を表示させる等、問い合わせの契機となる操作の入力前の状態に処理を遷移させる。
制御部21が、「問い合わせる」の入力を受け付けたと判定する場合(ステップS83で「問い合わせる」の場合)、画像解析部211は、困難状態を示す情報を含む属性情報140をサーバー装置10に対して送信する(ステップS84)。困難状態を示す情報は、顧客Aが通常の使用状況でないことを示す情報であるため、サーバー装置10で認証情報が生成され、顧客端末20に対して送信される。
次に、認証部212は、接続許可IDとパスワードとをサーバー装置10から受信する(ステップS85)。ステップS85の処理は、ステップS84の処理に先立って行われてもよい。ステップS85からステップS88までの間に行われる処理は、ステップS23からステップS26の間に行われる処理と同様であるため、説明を省略する。その後、顧客端末20の制御部21は本フローチャートの処理を終了する。
なお、上述の実施形態では、顧客端末20の制御部21がカード情報を取得すると本フローチャートの処理が開始され、例えば所定操作の後に一定時間が経過した場合に困難状態が検知された。しかしながら、制御部21がカード情報を取得しない場合であっても、撮影部210が定期的に画像を撮影し、撮影した画像を画像解析部211が解析した結果を用いて、困難状態が検知されてもよい。
例えば、撮影した画像に、人間の顔が写り込んでいるのを画像解析部211が解析し、同一人物の顔が一定時間写り込み、かつ該時間内に入力操作を受け付けない場合に、困難状態であると検知されてもよい。これにより、顧客Aがカードを提示する操作を行わずに、顧客端末20の操作方法が分からないまま顧客端末20前に立っている場合であっても、問い合わせ画面が表示される。問い合わせ画面に対する入力を受け付けることにより、顧客端末20とオペレーター端末40とが接続されるため、顧客AはオペレーターBに対して操作方法を問い合わせることができる。
図10は、サーバー装置10における属性判定処理の流れを示すフローチャートである。サーバー装置10のサーバー通信部111が、顧客端末20から送信される属性情報140を受信すると、本フローチャートの処理が開始される。
まず、通知判定部110が、属性情報140に含まれる属性が「属性2」までであるか否かを判定する(ステップS91)。通知判定部110は、属性情報140に含まれる情報が「属性1」及び「属性2」に関する情報のみである場合、つまり顧客Aの推定年齢と推定性別に関する情報のみである場合に、属性情報140に含まれる属性が「属性2」までであると判定する。属性情報140に、「属性3」以降の属性が含まれる場合、つまり顧客Aの使用状況が通常の使用状況でないことを示す属性が含まれる場合に、通知判定部110は、属性情報140に含まれる属性が「属性2」までであると判定しない。
通知判定部110が、属性情報140に含まれる属性が「属性2」までであると判定する場合(ステップS91で「YES」の場合)、サーバー通信部111は、属性情報140を登録ユーザー端末30に送信する(ステップS92)。登録ユーザー端末30には、顧客Aの推定年齢及び推定性別に関する情報を含む属性情報140が送信される。その後、登録ユーザー端末30では推定年齢及び推定性別と顧客の登録情報320との照会が行われる。
次に、サーバー通信部111は、登録ユーザー端末30から照会結果を受信する(ステップS93)。受信する照会結果は、「照会条件成立」であることを示す情報か、「照会条件不成立」であることを示す情報か、のいずれかである。「照会条件成立」であることを示す情報は、顧客Aの推定年齢及び推定性別が登録情報320と対応する場合に出力される。「照会条件不成立」であることを示す情報は、推定年齢又は推定性別が登録情報320と対応しない場合に出力される。
次に、通知判定部110は、ステップS93で受信した照会結果が「照会条件成立」を示す情報であるか否かを判定する(ステップS94)。
通知判定部110が、照会結果が「照会条件成立」を示す情報であると判定する場合(ステップS94で「YES」の場合)、サーバー通信部111は、「照会条件成立」を示す情報を顧客端末20に対して送信する(ステップS95)。その後、通知判定部110は本フローチャートの処理を終了する。なお、送信された情報は、図5において説明した属性判定処理において、ステップS17で顧客端末20により受信される。
通知判定部110が、照会結果が「照会条件成立」を示す情報であると判定しない場合(ステップS94で「NO」の場合)、サーバー通信部111は、属性注意画面152の表示指示を顧客端末20に対して送信する(ステップS96)。上述したように、照会結果が「照会条件成立」を示す情報でない場合、つまり「照会条件不成立」を示す情報であった場合、サーバー通信部111が受信した情報には照会条件を示す情報が含まれる。サーバー通信部111は、照会条件を示す情報をサーバー装置の図示しない記憶部に記憶させる。
サーバー通信部111は、その後本フローチャートの処理を終了する。なお、ここで送信した表示指示は、前述の図5に示すステップ16において、顧客端末20により受信される。
ステップS91において、通知判定部110が、属性情報140に含まれる属性が「属性2」までであると判定しない場合(ステップS91で「NO」の場合)、認証情報生成部112は、接続許可IDとパスワードからなる認証情報を生成する(ステップS97)。
次に、認証情報生成部112は、生成した接続許可IDとパスワードとを顧客端末20に対して送信する(ステップS98)。
次に、サーバー通信部111は、ステップS97で生成した接続許可IDとパスワードとを含む注意情報150を生成し、オペレーター端末40に対して送信する(ステップS99)。その後、サーバー通信部111は本フローチャートの処理を終了する。
なお、受信した属性情報140に、「照会条件不成立」を示す情報が含まれる場合、サーバー通信部111は記憶部から照会条件を示す情報を取得し、注意情報に含める。
図14は、注意情報150の一例を示す図である。注意情報150には、属性情報140を送信した顧客端末20を特定する情報と、ステップS97で生成した接続許可IDと、パスワードと、属性情報140に含まれる属性の名称と、属性の値とが含まれる。顧客端末20を特定する情報とは、例えば顧客端末20のアドレスである。
なお、属性の名称及び属性の値の組み合わせの代わりに、サーバー装置10の図示しない記憶部において属性の名称及び属性の値の組み合わせと予め関連付けられた、接客種別を示す情報が含まれていてもよい。接客種別は、顧客端末20において要求される接客の種別を示す情報である。例えば属性の名称が「挙動」であって、属性の値が「B」(手の位置が耳近傍にある状態を示す)である場合には、接客種別として、通話中であることを示す情報が注意情報150に含まれる。
また、注意情報150には、属性の名称と属性の値とが所定の情報である場合に、接客に用いられる情報である接客情報が含まれていてもよい。接客情報は、属性の名称と属性の値との組み合わせに対して、サーバー装置10の図示しない記憶部において予め関連付けられた情報である。
例えば属性の名称が「照会条件」、属性の値が「A」である場合、つまり照会条件不一致であって、属性注意画面152において確認を示す情報の入力を受け付けた場合、注意情報150には、照会条件を示す情報が含まれる。本実施形態では、図14に示す注意情報150には、照会条件として、「年齢が**歳以上且つ**歳以下、性別が男性」という情報が含まれる。
図11は、オペレーター端末40における接客処理の流れを示すフローチャートである。上述のステップS98においてサーバー装置10から送信された注意情報150をオペレーター端末40が受信すると、本フローチャートの処理が開始される。
まず、オペレーター端末表示部410は、接客内容画面を表示する(ステップS101)
図21は、接客画面420の一例を示す図である。接客画面420には、顧客Aに対して接客をするに当たり、オペレーターBに対して開示する情報である接客指示が含まれる。接客指示は、オペレーター端末40が有する図示しない記憶部において、サーバー装置10から受け付けた注意情報150に含まれる属性の名称及び属性の値の組み合わせ、又は接客種別と、予め関連付けられている。
例えば、注意情報150に含まれる属性の名称が「挙動」、属性の値が「C」である場合、顧客端末20において撮影された画像に複数の顔が写り込んでいることから、図21に示す接客指示が接客画面420に表示される。図21に示す接客画面420には、「接客端末にて2つの顔を検知。覗き見で無いか確認すること。」という接客指示が含まれている。
また、接客画面420には、オペレーターBに要求される接客内容の分類を示す情報である接客対応が表示されてもよい。図21には、接客対応として、「覗き見確認画面表示」、「振り込め詐欺被害確認画面表示」、及び「通話開始画面表示」を示す情報が示されている。オペレーター端末表示部410は、例えば複数の顔が画像に含まれることを示す属性が注意情報150に含まれる場合に、接客対応のうち「覗き見確認画面表示」が選択された状態の接客対応を含む接客画面420を表示する。また、オペレーター端末40と顧客端末20との接続後に、例えば顧客端末20から通話を促す情報を受け付けた場合に、オペレーター端末表示部410は「通話開始画面表示」が選択された状態の接客内容を含む接客画面420を表示する。
接客画面420には、他に顧客端末20において撮影された画像が表示されてもよい。顧客端末20とオペレーター端末40との接続が確立すると、撮影された画像が顧客端末20からオペレーター端末40に対して送信される。なお、接客画面420は他に、画像更新ボタンを含んでもよい。オペレーター端末40と顧客端末20とが接続されている場合に画像更新ボタンが選択されると、顧客端末20の撮影部210により画像が撮影され、撮影の都度、画像がオペレーター端末40に送信される。
顧客端末20の撮影部210により撮影される画像が動画である場合は、カメラ236により撮影された画像が、ほぼ遅滞なくオペレーター端末表示部410に表示される。
また例えば、登録ユーザー端末30において照会条件不成立であると判定された場合に注意情報に含まれる照会条件が、接客画面420に表示されてもよい。接客画面420を参照するオペレーターBが、顧客Aが照会条件に合致するか否かを、目視で確認することができる。
説明を図11に戻す。次に、オペレーター端末通信部411は、接続許可IDとパスワードとを含む接続要求を、顧客端末20に送信する(ステップS102)。具体的には、オペレーター端末通信部411はサーバー装置10から受信した注意情報150を参照し、注意情報150に含まれる接続許可IDとパスワードとを含む接続要求を生成する。オペレーター端末通信部411は、注意情報150に含まれる顧客端末20を特定する情報に基づいて、対応する顧客端末20に対して接続要求を送信する。
次に、オペレーター端末通信部411は、顧客端末20との通信を開始する(ステップS103)ステップS102において送信した接続要求に基づいて、顧客端末20でオペレーター端末40の認証に成功すると、顧客端末20からオペレーター端末40に対して信号が送信され、顧客端末20とオペレーター端末40との間で接続が開始される。その後、オペレーター端末通信部411は本フローチャートの処理を終了させる。
本実施形態では、顧客A以外の者が顧客A名義で顧客端末20の操作を行う場合や、通話しながら操作を行う場合や、顧客A以外の者がディスプレイ238を覗き込んでいる場合等、操作の状況が通常の状況と異なる場合に、警告画面を表示する。さらに操作を続行したい場合には、顧客端末20に対してオペレーター端末40を接続させ、オペレーターBによる状況の確認が行われる。これにより、通常の使用状況でない使用状況である場合に一定の操作が必要とされるため、顧客Aに対して考え直す契機を与え、犯罪による顧客Aへの損害の発生を抑止させることができる。
また、本発明によれば、例えばオペレーター端末40を有する会社と、顧客端末20を有する会社が別の会社であったとしても、顧客端末20から送信される接続指示に応じてIDとパスワードが付与され、接続を行うオペレーター端末40が認証される。そのため、顧客端末20が不正にアクセスされることを防ぐことができる。
以上、本発明に係る各実施形態及び変形例の説明を行ってきたが、本発明は、上記した実施形態の一例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施形態の一例は、本発明を分かり易くするために詳細に説明したものであり、本発明は、ここで説明した全ての構成を備えるものに限定されない。また、ある実施形態の一例の構成の一部を他の一例の構成に置き換えることが可能である。また、ある実施形態の一例の構成に他の一例の構成を加えることも可能である。また、各実施形態の一例の構成の一部について、他の構成の追加・削除・置換をすることもできる。また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現し、プロセッサがプログラムを解釈し実行することによりソフトウェアで実現してもよい。また、図中の制御線や情報線は、説明上必要と考えられるものを示しており、全てを示しているとは限らない。ほとんど全ての構成が相互に接続されていると考えてもよい。
例えば、本実施形態及び本変形例では、属性注意画面152や解析警告画面154等の警告画面において確認ボタンが選択されると、サーバー装置10からオペレーター端末40に対して注意情報150が送信され、注意情報150に基づいて顧客端末20とオペレーター端末40との接続が行われた。
しかしながら、警告画面において操作続行ボタンを設け、オペレーター端末40との接続を行わずに顧客Aが操作を続行することを可能なものとしてもよい。この場合、例えば通常の使用状況とは異なるものの、顧客Aが明らかに正規の使用であると認識している場合等に、オペレーター端末40と接続せずに操作をさせることができる。
この場合においても、顧客Aが確認ボタンを選択することで、顧客端末20とオペレーター端末40とを接続させる。これにより、顧客端末20とオペレーター端末40との接続について顧客Aの意思を反映させることができ、利便性が向上する。なお、顧客AがオペレーターBによる確認作業を希望する場合に、オペレーター端末40を介してオペレーターBに対応させることが可能となる。
また、顧客端末20とオペレーター端末40との接続について、画像から解析される解析情報に基づいて重みづけをし、より不正が疑われる場合に顧客Aの意思に関わらずオペレーター端末40と接続させ、オペレーターBによる確認を要するよう構成してもよい。これにより、画像から不正の疑いが低いと判断される場合であって、顧客AがオペレーターBの応対を希望しない場合に、オペレーター端末40との接続を行わないようにすることができる。また、不正の疑いが強いと判断される場合には、オペレーター端末40と接続を行うため、画像に基づいた柔軟な対応が可能となる。
また、上記のサーバー装置10、顧客端末20、登録ユーザー端末30、及びオペレーター端末40の機能構成は、理解を容易にするために、主な処理内容に応じて分類したものである。構成要素の分類の仕方や名称によって、本願発明が制限されることはない。サーバー装置10、顧客端末20、登録ユーザー端末30、及びオペレーター端末40の構成は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素がさらに多くの処理を実行するように分類することもできる。