JP3801082B2 - Screen image transmission system and method, and screen image transmission program - Google Patents
Screen image transmission system and method, and screen image transmission program Download PDFInfo
- Publication number
- JP3801082B2 JP3801082B2 JP2002099675A JP2002099675A JP3801082B2 JP 3801082 B2 JP3801082 B2 JP 3801082B2 JP 2002099675 A JP2002099675 A JP 2002099675A JP 2002099675 A JP2002099675 A JP 2002099675A JP 3801082 B2 JP3801082 B2 JP 3801082B2
- Authority
- JP
- Japan
- Prior art keywords
- screen
- screen image
- information
- information processing
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 94
- 230000005540 biological transmission Effects 0.000 title claims description 82
- 230000010365 information processing Effects 0.000 claims description 128
- 238000012545 processing Methods 0.000 claims description 84
- 230000006835 compression Effects 0.000 claims description 80
- 238000007906 compression Methods 0.000 claims description 80
- 238000012544 monitoring process Methods 0.000 claims description 40
- 238000004891 communication Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 17
- VZSRBBMJRBPUNF-UHFFFAOYSA-N 2-(2,3-dihydro-1H-inden-2-ylamino)-N-[3-oxo-3-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)propyl]pyrimidine-5-carboxamide Chemical compound C1C(CC2=CC=CC=C12)NC1=NC=C(C=N1)C(=O)NCCC(N1CC2=C(CC1)NN=N2)=O VZSRBBMJRBPUNF-UHFFFAOYSA-N 0.000 description 15
- AFCARXCZXQIEQB-UHFFFAOYSA-N N-[3-oxo-3-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)propyl]-2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidine-5-carboxamide Chemical compound O=C(CCNC(=O)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)N1CC2=C(CC1)NN=N2 AFCARXCZXQIEQB-UHFFFAOYSA-N 0.000 description 9
- HMUNWXXNJPVALC-UHFFFAOYSA-N 1-[4-[2-(2,3-dihydro-1H-inden-2-ylamino)pyrimidin-5-yl]piperazin-1-yl]-2-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)ethanone Chemical compound C1C(CC2=CC=CC=C12)NC1=NC=C(C=N1)N1CCN(CC1)C(CN1CC2=C(CC1)NN=N2)=O HMUNWXXNJPVALC-UHFFFAOYSA-N 0.000 description 4
- OHVLMTFVQDZYHP-UHFFFAOYSA-N 1-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)-2-[4-[2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidin-5-yl]piperazin-1-yl]ethanone Chemical compound N1N=NC=2CN(CCC=21)C(CN1CCN(CC1)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)=O OHVLMTFVQDZYHP-UHFFFAOYSA-N 0.000 description 3
- WZFUQSJFWNHZHM-UHFFFAOYSA-N 2-[4-[2-(2,3-dihydro-1H-inden-2-ylamino)pyrimidin-5-yl]piperazin-1-yl]-1-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)ethanone Chemical compound C1C(CC2=CC=CC=C12)NC1=NC=C(C=N1)N1CCN(CC1)CC(=O)N1CC2=C(CC1)NN=N2 WZFUQSJFWNHZHM-UHFFFAOYSA-N 0.000 description 3
- JAWMENYCRQKKJY-UHFFFAOYSA-N [3-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-ylmethyl)-1-oxa-2,8-diazaspiro[4.5]dec-2-en-8-yl]-[2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidin-5-yl]methanone Chemical compound N1N=NC=2CN(CCC=21)CC1=NOC2(C1)CCN(CC2)C(=O)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F JAWMENYCRQKKJY-UHFFFAOYSA-N 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- LDXJRKWFNNFDSA-UHFFFAOYSA-N 2-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)-1-[4-[2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidin-5-yl]piperazin-1-yl]ethanone Chemical compound C1CN(CC2=NNN=C21)CC(=O)N3CCN(CC3)C4=CN=C(N=C4)NCC5=CC(=CC=C5)OC(F)(F)F LDXJRKWFNNFDSA-UHFFFAOYSA-N 0.000 description 2
- YLZOPXRUQYQQID-UHFFFAOYSA-N 3-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)-1-[4-[2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidin-5-yl]piperazin-1-yl]propan-1-one Chemical compound N1N=NC=2CN(CCC=21)CCC(=O)N1CCN(CC1)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F YLZOPXRUQYQQID-UHFFFAOYSA-N 0.000 description 2
- MKYBYDHXWVHEJW-UHFFFAOYSA-N N-[1-oxo-1-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)propan-2-yl]-2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidine-5-carboxamide Chemical compound O=C(C(C)NC(=O)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)N1CC2=C(CC1)NN=N2 MKYBYDHXWVHEJW-UHFFFAOYSA-N 0.000 description 2
- NIPNSKYNPDTRPC-UHFFFAOYSA-N N-[2-oxo-2-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)ethyl]-2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidine-5-carboxamide Chemical compound O=C(CNC(=O)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)N1CC2=C(CC1)NN=N2 NIPNSKYNPDTRPC-UHFFFAOYSA-N 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Digital Computer Display Output (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- User Interface Of Digital Computer (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、情報処理装置の画面像を別の情報処理装置に送信する画面像送信システムおよびその方法と画面像送信プログラムに関する。
【0002】
【従来の技術】
情報処理装置の画面像を別の情報処理装置に送信する機能を備えた従来のシステムとして、「VNC」(AT&T製)、「WinShare」(NEC製)、「Desktop On−Call」(日本IBM製)、「pcANYWHERE32」(シマンテック社製)等の遠隔操作システムがある。これらの遠隔操作システムでは、遠隔操作される対象の情報処理装置1、および遠隔操作を入力する利用者の手元の情報処理装置2はともにGUI(グラフィカルユーザインタフェース)を備えたコンピュータであり、情報処理装置1の画面像を、遠隔操作を入力する利用者の手元の情報処理装置2に送信することで、情報処理装置1の画面を情報処理装置2に表示させることが出来る。なおGUIとは、ウィンドウ、メニュー、ボタン、アイコンなどのオブジェクト(GUI部品と呼ぶ)を画面に視覚的に表示し、このGUI部品に対してマウスなどのポインティングデバイスを用いて選択することを特徴とするユーザインタフェースである。
【0003】
【発明が解決しようとする課題】
情報処理装置1の画面像を別の情報処理装置2に送信し、情報処理装置2の画面に表示させる場合、画面像の表示再現性と、情報処理装置1と情報処理装置2との間の通信データ量とはトレードオフの関係になる。即ち、情報処理装置1の画面像をロスのない圧縮方法を用いて圧縮してから送信し、情報処理装置2でこの圧縮された画面像を受信・復元して表示させれば表示再現性は高いが、ロスを伴う圧縮方法を用いた場合に比べて通信データ量は大きくなってしまう(なぜなら、一般的に、ロスを伴う圧縮方法のほうが、ロスを伴わない圧縮方法よりも圧縮率が高く、同じデータを圧縮した場合、圧縮後のデータ量がより小さくなるからである)。一方、ロスを伴う圧縮方法を用いて圧縮した場合には、通信データ量を小さく抑えることができるが、表示再現性は、ロスのない圧縮方法を用いた場合よりも劣ってしまう。
【0004】
従って、表示再現性と通信データ量のバランスを適切にとるための工夫が必要といえる。例えば、情報処理装置1の画面像のうち、情報処理装置2の画面での表示再現性が高くなるべき領域が画面全体ではなく一部の領域のみであり、それ以外の領域に関しては表示再現性が低くてもよい場合には、その一部の領域と残りの領域とを分けて処理することにより、表示再現性と通信データ量のバランスを適切にとることが可能となる。ただし、このような処理を行うためには、情報処理装置1の画面にどのような情報が表示されているのかという情報(画面情報)を抽出する手段を備えていなければならない。例えば、情報処理装置1の画面がGUIの画面である場合には、どのようなGUI部品が表示されているかの情報を抽出する必要がある。
【0005】
しかし、上記の遠隔操作システムにおける従来の画面像の送受信および表示では、このような画面情報の抽出手段を備えておらず、画面像を単純なイメージとして取り扱うだけであり、このため、表示再現性と通信データ量のバランスを適切にとっているとは言えないという課題があった。
【0006】
本発明は上記のような課題を解決するためになされたものであり、本発明の目的は、表示再現性と通信データ量のバランスを適切にとることが可能な画面像送信システムおよびその方法と画面像送信プログラムを提供することである。
【0007】
【課題を解決するための手段】
本発明に係る画面像送信システムは、情報処理装置の画面情報を取得する画面情報取得手段と、画面像取得手段によって取得された画面像を、前記画面情報取得手段によって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段と、前記画面像加工手段により加工された画面像を別の情報処理装置に送信する画面像送信手段とを備えたことを特徴とする。
本発明に係る画面像送信システムは、情報処理装置の画面情報を取得する画面情報取得手段と、前記画面情報取得手段によって取得された前記画面情報の中の特定の画面要素を監視する画面情報監視手段と、前記画面情報監視手段によって前記特定の画面要素が発見された場合に、画面像取得手段によって取得された画面像を、前記画面情報監視手段によって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段と、前記画面像加工手段により加工された画面像を別の情報処理装置に送信する画面像送信手段とを備えたことを特徴とする。
【0008】
本発明の画面像送信システムは、情報処理装置の画面情報を画面情報取得手段が取得し、画面像取得手段によって取得された画面像を、前記画面情報取得手段によって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に画面像加工手段が加工し、前記画面像加工手段により加工された画面像を画面像送信手段が別の情報処理装置に送信することにより、前記画面像全てに対し一様な加工処理を行なった場合に比べ、表示再現性と通信データ量のバランスについて適切化を図る。
本発明の画面像送信システムは、情報処理装置の画面情報を画面情報取得手段が取得し、前記画面情報取得手段によって取得された前記画面情報の中の特定の画面要素を画面情報監視手段が監視し、前記画面情報監視手段によって前記特定の画面要素が発見された場合に、画面像取得手段によって取得された画面像を、前記画面情報監視手段によって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に画面像加工手段が加工し、前記画面像加工手段により加工された画面像を画面像送信手段が別の情報処理装置に送信することで、前記画面像全てに対し一様な加工処理を行なった場合に比べ、表示再現性と通信データ量のバランスについて適切化を図る。
【0009】
本発明に係る画面像送信方法は、情報処理装置の画面情報を取得する画面情報取得ステップと、画面像取得ステップによって取得された画面像を、前記画面情報取得ステップによって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工ステップと、前記画面像加工ステップにより加工された画面像を別の情報処理装置に送信する画面像送信ステップとを備えたことを特徴とする。
本発明に係る画面像送信方法は、情報処理装置の画面情報を取得する画面情報取得ステップと、前記画面情報取得ステップによって取得された前記画面情報の中の特定の画面要素を監視する画面情報監視ステップと、前記画面情報監視ステップによって前記特定の画面要素が発見された場合に、画面像取得ステップによって取得された画面像を、前記画面情報監視ステップによって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工ステップと、前記画面像加工ステップにより加工された画面像を別の情報処理装置に送信する画面像送信ステップとを備えたことを特徴とする。
【0010】
本発明の画面像送信方法は、情報処理装置の画面情報を画面情報取得ステップで取得し、画面像取得ステップによって取得された画面像を、前記画面情報取得ステップによって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に画面像加工ステップで加工し、前記画面像加工ステップにより加工された画面像を画面像送信ステップで別の情報処理装置に送信することで、前記画面像全てに対し一様な加工処理を行なった場合に比べ、表示再現性と通信データ量のバランスについて適切化を図る。
本発明の画面像送信方法は、情報処理装置の画面情報を画面情報取得ステップで取得し、前記画面情報取得ステップによって取得された前記画面情報の中の特定の画面要素を画面情報監視ステップで監視し、前記画面情報監視ステップによって前記特定の画面要素が発見された場合に、画面像取得ステップによって取得された画面像を、前記画面情報監視ステップによって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に画面像加工ステップで加工し、前記画面像加工ステップにより加工された画面像を画面像送信ステップで別の情報処理装置に送信することで、前記画面像全てに対し一様な加工処理を行なった場合に比べ、表示再現性と通信データ量のバランスについて適切化を図る。
【0011】
本発明に係る画面像送信プログラムは、コンピュータを、情報処理装置で表示する画面像を取得する画面像取得手段、前記情報処理装置の画面情報を取得する画面情報取得手段、前記画面情報取得手段によって取得された画面像を、前記画面情報取得手段によって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画面圧縮方式で圧縮した画面像に加工する画面像圧縮手段、前記画面像加工手段により加工された画面像を別の情報処理装置に送信する画面像送信手段、として機能させることを特徴とする。
本発明に係る画面像送信プログラムは、コンピュータを、情報処理装置で表示する画面像を取得する画面像取得手段、前記情報処理装置の画面情報を取得する画面情報取得手段、前記画面情報取得手段によって取得された前記画面情報の中の特定の画面要素を監視する画面情報監視手段、前記画面情報監視手段によって前記特定の画面要素が発見された場合に、前記画面像取得手段によって取得された画面像を、前記画面情報監視手段によって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段、前記画面像加工手段により加工された前記情報処理装置の画面像を別の情報処理装置に送信する画面像送信手段、として機能させることを特徴とする。
【0012】
本発明の画面像送信プログラムは、コンピュータを、情報処理装置で表示する画面像を画面像取得手段で取得し、前記情報処理装置の画面情報を画面情報取得手段で取得し、前記画面情報取得手段によって取得された画面像を、前記画面情報取得手段によって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段で加工し、前記画面像加工手段により加工された画面像を画面像送信手段で別の情報処理装置に送信するように機能させることで、表示再現性と通信データ量のバランスについて適切化を図る。
本発明の画面像送信プログラムは、コンピュータを、情報処理装置で表示する画面像を画面像取得手段で取得し、前記情報処理装置の画面情報を画面情報取得手段で取得し、前記画面情報取得手段によって取得された前記画面情報の中の特定の画面要素を画面情報監視手段で監視し、前記画面情報監視手段によって前記特定の画面要素が発見された場合に、前記画面像取得手段によって取得された画面像を、前記画面情報監視手段によって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に画面像加工手段で加工し、前記画面像加工手段により加工された前記情報処理装置の画面像を画面像送信手段で別の情報処理装置に送信するように機能させることで、前記画面像全てに対し一様な加工処理を行なった場合に比べ、表示再現性と通信データ量のバランスについて適切化を図る。
【0013】
【発明の実施の形態】
以下、本発明の実施の一形態について図面を参照して詳細に説明する。
図1は、本発明の第1の実施の形態の画面像送信システムの構成を示すブロック図である。
画面情報取得手段101は情報処理装置1の画面情報を取得する。この実施の形態では、情報処理装置1はGUI(グラフィカルユーザインタフェース)を備えた装置である。例えば、情報処理装置1の画面が図2のようになっているとする。図2の例では、画面200内に、3つのウィンドウ201,202,203が表示されており、各ウィンドウのタイトルはそれぞれ「AAA」「BBB」「CCC」である。また、これらのウィンドウのうち、アクティブなウィンドウ(入力を受け付ける状態にあるウィンドウ)はウィンドウ202である。このとき、画面情報取得手段101はこれらのウィンドウに関する情報を取得する。
【0014】
GUIの画面情報を取得する方法自体は本願の特許請求範囲ではないが、例えば文献:ヒューマンインタフェースシンポジウム’98講演論文集、61〜66頁(1998年)には、GUIの画面情報を取得(および記録)する方法が記載されている。
【0015】
画面像取得手段103は、情報処理装置1の画面像(画面イメージのデータ)を取得する。画面像加工手段102は、画面情報取得手段101によって取得された画面情報に基づいて、画面像取得手段103によって取得された画面像を加工する。
例として、画面像加工手段102は、画面像をアクティブなウィンドウの領域とそれ以外の領域に分け、アクティブなウィンドウの領域は圧縮方法1を、それ以外の領域には圧縮方法2を用いて画面像を圧縮するものとする。ただし、圧縮方法1は可逆圧縮でロスのない復元が可能であり、圧縮方法2は不可逆圧縮で復元時にロスがあるが、圧縮方法1よりも圧縮率が優れている(即ち、データサイズをより小さく出来る)とする。また、情報処理装置1の画面が前記図2の画面200とする。この場合、ウィンドウ202がアクティブなウィンドウであるので、画面像加工手段102は、画面200の画面像に対して、ウィンドウ202の領域には圧縮方法1を、それ以外の領域には圧縮方法2を用いて圧縮する。本例を例1−1とする。
【0016】
画面像加工手段102によって加工された画面像のデータは、画面像送信手段104によって送信され、この画面像が、情報処理装置2の画面像受信手段105によって受信され、画面像表示手段106によって表示される。
前記例1−1の場合は、図2のウィンドウ202の領域には圧縮方法1を、それ以外の領域には圧縮方法2を用いて圧縮された画面像が送受信され、情報処理装置2にて表示される。
【0017】
この例1−1の場合に得られる効果は以下の通りである。
先ず、画面像全体を圧縮方法1によって圧縮した場合に比べると、送受信されるデータ量がより小さく抑えられる。また、画面像全体を圧縮方法2によって圧縮した場合に比べ、アクティブなウィンドウの領域の画面像をロスなく復元できるので、アクティブなウィンドウの領域は表示再現性が高い。
【0018】
また別の例(例1−2とする)として、画面像加工手段102は、画面像のうちアクティブなウィンドウの領域だけを切り出してそれ以外の領域を削除し、残った画面像を圧縮方法1によって圧縮するものとする。ただし、圧縮方法1は前記例1−1と同じである。また、情報処理装置1の画面が図2の画面200の通りとする。この場合、ウィンドウ202がアクティブなウィンドウであるので、画面像加工手段102は、図2の画面200の画面像に対して、ウィンドウ202の領域だけを切り出してそれ以外の領域を削除し、残った画面像を圧縮方法1によって圧縮する。従って、画面像送信手段104から送信される画面像データはウィンドウ202の領域の画面像のみとなり、前記例1−1の場合と比較すると、通信データ量をさらに低減できる。
【0019】
なお、一般的なウィンドウシステムにおいては、アクティブなウィンドウは同時に1つだけ存在するが、アクティブなウィンドウが2つ以上存在する場合には、それら全てのウィンドウの領域を切り出せばよい。
【0020】
さらに別の例(例1−3とする)として、例1−1における「アクティブなウィンドウ」を、「奥行き方向の最前面にあるウィンドウ」に置き換えることができる。ただし、奥行き方向の最前面にあるウィンドウとは、他のどのウィンドウと重なっていたとしてもそのウィンドウよりも手前に表示され、その結果、他のウィンドウに隠れることのないウィンドウである。アクティブなウィンドウが常に最前面に表示される場合には、例1−1と例1−3の処理結果は同一になる。
【0021】
さらに別の例(例1−4とする)として、例1−2における「アクティブなウィンドウ」を、「奥行き方向の最前面にあるウィンドウ」に置き換えることができる。アクティブなウィンドウが常に最前面に表示される場合には、例1−2と例1−4の処理結果は同一になる。
【0022】
さらに別の例(例1−5とする)として、例1−1における「アクティブなウィンドウ」を、「特定のキーワードがウィンドウタイトルに含まれる全てのウィンドウ」に置き換えることができる。例1−5の説明のため、情報処理装置1の画面が図3の画面200のようになっているとする。図3の例では、画面200内に、3つのウィンドウ301〜303が表示されており、各ウィンドウのタイトルはそれぞれ「メール」「メールの送信」「メモ帳」である。また、これらのウィンドウのうち、アクティブなウィンドウはウィンドウ302である。さらに、前記特定のキーワードが「メール」であるとする。この場合、画面像加工手段102は、図3の画面200の画面像に対して、ウィンドウ301の領域とウィンドウ302の領域には圧縮方法1を、それ以外の領域には圧縮方法2を用いて圧縮する。
【0023】
さらに別の例(例1−6とする)として、例1−2における「アクティブなウィンドウ」を、「特定のキーワードがウィンドウタイトルに含まれる全てのウィンドウ」に置き換えることができる。例1−5と同様に、情報処理装置1の画面が図3の画面200のようになっており、さらに、前記特定のキーワードが「メール」であるとする。この場合、画面像加工手段102は、画面200の画面像からウィンドウ301の領域とウィンドウ302の領域をそれぞれ切り出して、切り出された2つの画面像を圧縮方法1を用いて圧縮する。
【0024】
さらに別の例(例1−7とする)として、例1−2における「アクティブなウィンドウ」を、「特定の種類のGUI部品」に置き換えることが出来る。例1−7の説明のため、情報処理装置1の画面が図4の画面200のようになっているとする。図4の例では、画面200内に2つのウィンドウ401、402が表示されており、ウィンドウ402に表示されているGUI部品403は、テキストデータを表示・編集するGUI部品である。このテキストデータ表示・編集のGUI部品は、「TEXTEDIT」という種類のGUI部品であるとする。さらに、画面像加工手段102が領域を特定する前記特定の種類のGUI部品が、TEXTEDITのGUI部品であるとする。この場合、画面像加工手段102は、画面200の画面像に対してGUI部品403の領域には圧縮方法1を、それ以外の領域には圧縮方法2を用いて圧縮する。
【0025】
この例1−7の場合に得られる効果は以下の通りである。圧縮方法2の圧縮率が非常に高くロスが大きい場合、データサイズが小さくなり、通信データ量をより小さく抑えることが出来るが、その反面、復元した画面像を表示すると、圧縮方法2を適用した領域に含まれる文字がつぶれて読めなくなる恐れがある(特に、その文字のフォントサイズが小さい場合)。しかし本例では、テキストデータを表示・編集するGUI部品の領域は、圧縮方法2ではなくロスのない圧縮方法1によって圧縮するため、復元した画面像を表示すると、テキストデータを表示・編集するGUI部品の領域は表示再現性が高く、前記GUI部品内に表示されたテキストをはっきりと読み取ることが出来る。
【0026】
例1−7のさらなるバリエーションとして、GUI部品の特定の種類が、1種類だけでなく2種類以上の場合、例えば、メニュー部品(MENU)、ボタン部品(BUTTON)、テキストデータ表示編集部品(TEXTEDIT)のすべての場合も同様である。
【0027】
さらに、前記例1−1もしくは例1−2と、例1−7との組合せも可能である。即ち、アクティブなウィンドウの中に表示されている特定の種類のGUI部品の領域を圧縮方法1の対象とする。この場合、アクティブでないウィンドウの中に、該当する特定種類のGUI部品があったとしても、そのGUI部品の領域には圧縮方法1ではなく圧縮方法2が適用される。
【0028】
さらに別の例(例1−8とする)として、例1−2における「アクティブなウィンドウ」を、「特定の種類のGUI部品」に置き換えることが出来る。例1−8の説明のため、例1−7の場合と同様に、情報処理装置1の画面が図4の画面200のようになっているとする。この場合、画面像加工手段102は、図4の画面200の画面像に対して、GUI部品403の領域のみを切り出して、切り出された画面像を圧縮方法1を用いて圧縮する。
【0029】
さらに、例1−7のバリエーションと全く同様のバリエーションが、例1−8に関しても可能である。
【0030】
次に、本発明の第2の実施の形態の画面像送信システムについて説明する。
図5は、この第2の実施の形態の画面像送信システムの構成を示すブロック図である。
この実施の形態においては、前記第1の実施の形態に加え、情報処理装置2がGUI部品指定手段500を備えている。前記第1の実施の形態においては、「アクティブなウィンドウ」、「奥行き方向の最前面にあるウィンドウ」、「特定の種類のGUI部品」などが切り出しや圧縮方法1の対象であったが、本実施の形態では、GUI部品指定手段500によって指定されたGUI部品が、切り出しや圧縮方法1の対象となる。
例2−1として、情報処理装置1の画面が、前記例1−1と同様に前記図2の画面200とする。このとき、画面像加工手段102は、画面像取得手段103が取得した図2の画面200の画面像の全体を、前記例1−1の圧縮方法2を用いて圧縮する。この圧縮された画面像が、画面像送信手段104および画面像受信手段105によって送受信され、画面像表示手段106によって表示される。このようにして画面像表示手段106によって表示された画面像は、全体を圧縮方法2で圧縮していたために、データサイズは小さいが、表示再現性はあまり高くない。そこで、情報処理装置2の利用者が、画面像表示手段106によって表示された画面像の中から、GUI部品指定手段500を用いてより精細に表示させたいGUI部品を指定する。
【0031】
具体的には、表示された画面像の上で、情報処理装置2に備えられたマウスなどのポインティングデバイスによって少なくとも1点をポイントする。例えば、画面像表示手段106によって表示された図2の画面像200(実際には、圧縮方法2による圧縮・復元を経た後であるため、画面像取得手段103が取得した時点の画面像よりも精細さが低下している)の上で、ウィンドウ202の内部の一点がポイントされたとする。
【0032】
画像像加工手段102は、GUI部品指定手段500からポイントされた座標値を受け取り、さらに、その座標値が、図2の画面200のどのGUI部品内の点であるかを判定する。本例では、ポイントされた点がウィンドウ202の内部であったので、指定されたGUI部品はウィンドウ202であると判定する。なお、複数の点が指定されていた場合も全く同様であり、例えば、ウィンドウ202およびウィンドウ201の内部の点がそれぞれ1点ずつ指定されていた場合は、ウィンドウ202およびウィンドウ201が指定されたGUI部品であると判定する。さらに画像像加工手段102は、指定されたGUI部品がウィンドウ202と判定されたので、ウィンドウ202の領域を圧縮方法1、それ以外の領域を圧縮方法2を用いて圧縮する。以降の動作は、基本的には前記例1−1と同様である。
【0033】
この結果、次に画面像表示手段106によって表示される画面像においては、ウィンドウ202の領域が高精細に表示され、その領域の表示再現性が高くなる。この例2−1においては、GUI指定部品500によってGUI部品が指定された後の処理が、前記例1−1と同様の処理、即ち圧縮方法1および圧縮方法2を使い分ける処理となっている。
【0034】
これとは別の例(例2−2とする)として、GUI指定部品500によってGUI部品が指定された後の処理が、前記例1−2と同様の処理、即ち当該領域の切り出しと圧縮方法1による圧縮を行う処理を用いることも出来る。この例2−2においては、最初は例2−1と同様に、画面像取得手段103によって取得された画面像の全体を圧縮方法2によって圧縮するが、GUI部品指定手段500によってGUI部品が指定された後は、その指定されたGUI部品の領域のみを切り出し、切り出された画面像を圧縮方法1を用いて圧縮する。
【0035】
次に、本発明の第3の実施の形態の画面像送信システムについて説明する。
図6は、この第3の実施の形態の画面像送信システムの構成を示すブロック図である。
この実施の形態においては、情報処理装置1が画面情報監視手段600を備えている。画面情報取得手段101は、情報処理装置1の画面が変化するたびに、もしくは、所定の一定時間(例えば10秒)ごとに、情報処理装置1の画面情報を取得する。
画面情報監視手段600は、画面情報取得手段101が取得した画面情報の中に、特定の種類のGUI部品に関する情報が含まれているかどうかを監視し、含まれていた場合のみ、画面像取得手段103に対して画面像を取得する命令を発行する。
【0036】
例3−1として、情報処理装置1の画面が図7の画面200のようになっており、続いて、図8の画面200のように変化したとする。即ち、図7の画面200の時点では、画面内には1つのウィンドウ701が表示されており、ウィンドウ801が新しく表示された結果、図8の画面200になったとする。ただしウィンドウ801は、ウィンドウ701とは異なり、特殊な種類のウィンドウの一種である警告メッセージ表示用ウィンドウとし、このような警告メッセージ表示ウィンドウは「ALERTWIN」という種類のウィンドウであるとする。さらに、画面情報監視手段600が監視している前記特定の種類のGUI部品が、ALERTWINという種類のウィンドウであるとする。この場合、画面情報監視手段600は、図7の画面の時点では画面情報取得手段101が取得した画面情報の中には「ALERTWIN」という種類のウィンドウがないので、画面像取得手段103に対して画面像を取得する命令を発行しない。一方、図8の画面の時点では、画面情報取得手段101が取得した画面情報の中には「ALERTWIN」という種類のウィンドウが存在するので、画面像取得手段103に対して画面像を取得する命令を発行する。
【0037】
画面像取得手段103は、画面情報監視手段600から命令を受け取ると、情報処理装置1の画面像を取得する。この画面像が、画面像送信手段104および画面像受信手段105によって送受信され、画面像表示手段106によって表示される。
【0038】
また別の例(例3−2とする)として、画面情報監視手段600が監視している前記特定の種類のGUI部品が、内部に「新しいメールが来ています」という文字列を表示しているウィンドウであるとし、情報処理装置1の画面が、図9の画面200のようになっており、続いて、図10の画面200のように変化したとする。即ち、図9の画面200の時点では、画面内には1つのウィンドウ901が表示されており、ウィンドウ1001が新しく表示された結果、図10の画面200になったとする。この場合、画面情報監視手段600は、図9の画面の時点では画面情報取得手段101が取得した画面情報の中には、内部に「新しいメールが来ています」という文字列を表示しているウィンドウがないので、画面像取得手段103に対して画面像を取得する命令を発行しない。一方、図10の画面の時点では、画面情報取得手段101が取得した画面情報の中には、内部に「新しいメールが来ています」という文字列を表示しているウィンドウ(ウィンドウ1001)が存在するので、画面像取得手段103に対して画面像を取得する命令を発行する。以降の処理は、例3−1と同様である。
【0039】
以上に記載の例3−1や例3−2からもわかるように、この実施の形態における画面像送信システムは、情報処理装置1の画面に特定の情報が表示されたときに、そのことを検出して、情報処理装置1の画面像を情報処理装置2に送信・表示させる。これにより、情報処理装置1の画面変化によって検出が可能な事象の発生を効果的に遠隔監視できる。また、情報処理装置1から情報処理装置2への画面像の送信は、情報処理装置1に特定の情報が表示されたときだけに限られるため、情報処理装置1の画面に変化があった場合に常に画面像を送信する場合に比べて、通信データ量を小さく抑えることが出来る。
【0040】
次に、本発明の第4の実施の形態の画面像送信システムについて説明する。
図11は、本発明の第4の実施の形態の画面像送信システムの構成を示すブロック図である。
この実施の形態は、前記第3の実施の形態の画面像送信システムに対して、前記第1の実施の形態に含まれる画面像加工手段102を追加した形態である。即ち、前記第3の実施の形態の画面像送信システムにおいては、画面像取得手段103によって取得された画面像がそのまま送受信されるが、この実施の形態においては、前記第1の実施の形態の動画像送信システムの場合と同様に、画面像取得手段103によって取得された画面像が、画面像加工手段102によって加工されてから送受信される。
【0041】
例4−1として、前記例3−1と同様に、情報処理装置1の画面が図7の画面200のようになっており、続いて、図8の画面200のように変化したとし、画面情報監視手段600が監視している前記特定の種類のGUI部品が、ALERTWINという種類のウィンドウであるとする。この場合、画面情報監視手段600は、図8の画面200の時点で、画面像取得手段103に対して画面像を取得する命令を発行する。
画面像取得手段103は、画面情報監視手段600から命令を受け取ると、情報処理装置1の画面像を取得する。次に、画面像加工手段102は、画面像取得手段103によって取得された画面像に対しALERTWINという種類のウィンドウの領域とそれ以外の領域に分け、ALERTWINという種類のウィンドウの領域は圧縮方法1を、それ以外の領域には圧縮方法2を用いて画面像を圧縮する。この圧縮方法1および圧縮方法2は、前記例1−1の場合と同じ圧縮方法である。
このようにして画面像加工手段102によって加工された画面像が、画面像送信手段104および画面像受信手段105によって送受信され、画面像表示手段106によって表示される。
【0042】
この例4−1では、画面像加工手段102における画面像加工方法は、前記例1−1における方法と同様に、圧縮方法1および圧縮方法2を使い分ける方法となっている。
【0043】
これに対しさらなる別の例(例4−2とする)として、画面像加工手段102における画面像加工方法が、前記例1−2における方法と同様に、当該領域の切り出しと圧縮方法1による圧縮である場合も可能である。この例4−2においては、画面像加工手段102は、例えば図8の画面200の画面像に対して、ALERTWINという種類のウィンドウの領域を切り出してそれ以外の領域を削除し、切り出された画面像を圧縮方法1を用いて圧縮する。
【0044】
以上に記載の例4−1や例4−2からもわかるように、この実施の形態における画面像送信システムは、第3の実施の形態における画面像送信システムに加え、情報処理装置1から情報処理装置2に送信される画面像のデータ量をさらに小さく抑えることが可能である。
【0045】
次に、以上説明した各実施の形態における画面像送信元のコンピュータ1200の構成についての一実施例について説明する。図12は、このコンピュータ1200の構成を示すブロック図である。このコンピュータ1200は、インターネット接続装置1214(モデム、ターミナルアダプタ、ダイアルアップルータ等)を介してインターネットに接続される。これにより、情報処理装置1200はインターネットを介して他の情報処理装置へと画面像を送信することが出来る。また、表示装置であるディスプレイ1213や、入力装置であるキーボード1209、マウス1212を備えている。
図12に示すコンピュータ1200においては、前記各実施の形態で説明した機能を実現するためのコンピュータプログラムを、ROM1202、ハードディスク1206、DVD1205(Digital Versatile Disc)、CD(Compact Disc)1208、FD(Flexible Disc)1211等の各種記録媒体に記録し、これをRAM1203に読み出して、CPU1201により実行することが出来る。また、DVD1205、CD1208、FD1211に記録されている場合は、それぞれDVDドライブ1204、CDドライブ1207、FDドライブ1210を介して読み出すことが出来る。
【0046】
以上、好ましい実施の形態および実施例をあげて説明したが、必ずしも上記実施の形態および実施例に限定されるものではなく、その技術的思想の範囲内において様々に変形して実施することが出来る。
【0047】
【発明の効果】
以上説明したように、本発明によれば、送信先の情報処理装置の画面における表示再現性と、送信元および送信先の情報処理装置間の通信データ量とのバランスの適切化を図れる効果がある。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態による画面像送信システムの構成を示すブロック図である。
【図2】本発明の第1の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図3】本発明の第1の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図4】本発明の第1の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図5】本発明の第2の実施の形態による画面像送信システムの構成を示すブロック図である。
【図6】本発明の第3の実施の形態による画面像送信システムの構成を示すブロック図である。
【図7】本発明の第3の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図8】本発明の第3の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図9】本発明の第3の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図10】本発明の第3の実施の形態による送信元の情報処理装置の画面例を示す図である。
【図11】本発明の第4の実施の形態による画面像送信システムの構成を示すブロック図である。
【図12】本発明の画面像送信システムの画面像送信元のコンピュータの構成の一実施例を示すブロック図である。
【符号の説明】
1,2……情報処理装置、101……画面情報取得手段、102……画面像工手段、103……画面像取得手段、104……画面像送信手段、600……画面情報監視手段。[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a screen image transmission system and method for transmitting a screen image of an information processing apparatus to another information processing apparatus, and a screen image transmission program.
[0002]
[Prior art]
As a conventional system having a function of transmitting a screen image of an information processing apparatus to another information processing apparatus, “VNC” (manufactured by AT & T), “WinShare” (manufactured by NEC), “Desktop On-Call” (manufactured by IBM Japan) ), And “pcANYWHERE32” (manufactured by Symantec). In these remote operation systems, the information processing apparatus 1 to be remotely operated and the information processing apparatus 2 at the user's hand inputting the remote operation are both computers having a GUI (graphical user interface). The screen of the information processing apparatus 1 can be displayed on the information processing apparatus 2 by transmitting the screen image of the apparatus 1 to the information processing apparatus 2 at hand of the user who inputs the remote operation. The GUI is characterized by visually displaying objects (referred to as GUI parts) such as windows, menus, buttons, and icons on a screen, and selecting the GUI parts using a pointing device such as a mouse. User interface.
[0003]
[Problems to be solved by the invention]
When the screen image of the information processing device 1 is transmitted to another information processing device 2 and displayed on the screen of the information processing device 2, the display reproducibility of the screen image and the information processing device 1 and the information processing device 2 There is a trade-off relationship with the amount of communication data. That is, if the screen image of the information processing apparatus 1 is compressed using a lossless compression method and then transmitted, and the information processing apparatus 2 receives, restores, and displays the compressed screen image, the display reproducibility is Although it is high, the amount of communication data becomes larger than when using a compression method with loss (because the compression method with loss generally has a higher compression rate than the compression method without loss). This is because when the same data is compressed, the amount of data after compression becomes smaller). On the other hand, when compression is performed using a compression method with loss, the amount of communication data can be kept small, but display reproducibility is inferior to that when a compression method without loss is used.
[0004]
Therefore, it can be said that a device for appropriately balancing the display reproducibility and the amount of communication data is necessary. For example, in the screen image of the information processing apparatus 1, the area where the display reproducibility on the screen of the information processing apparatus 2 should be high is not the entire screen but only a part of the area, and the display reproducibility for other areas. If it is acceptable, the display reproducibility and the amount of communication data can be appropriately balanced by processing the partial area and the remaining area separately. However, in order to perform such processing, a means for extracting information (screen information) indicating what information is displayed on the screen of the information processing apparatus 1 must be provided. For example, when the screen of the information processing apparatus 1 is a GUI screen, it is necessary to extract information about what GUI component is displayed.
[0005]
However, the conventional screen image transmission / reception and display in the above-described remote operation system does not include such screen information extraction means, and only handles the screen image as a simple image. There is a problem that it cannot be said that the balance of communication data amount is properly adjusted.
[0006]
The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a screen image transmission system and method capable of appropriately balancing display reproducibility and communication data amount. It is to provide a screen image transmission program.
[0007]
[Means for Solving the Problems]
A screen image transmission system according to the present invention includes a screen information acquisition unit that acquires screen information of an information processing device, and a screen image acquired by the screen image acquisition unit, among the screen information acquired by the screen information acquisition unit. Different image compression in certain screen element areas and other areas Compress by method A screen image processing unit that processes the screen image processed by the screen image processing unit; and a screen image transmission unit that transmits the screen image processed by the screen image processing unit to another information processing apparatus.
A screen image transmission system according to the present invention includes a screen information acquisition unit that acquires screen information of an information processing device, and a screen information monitor that monitors a specific screen element in the screen information acquired by the screen information acquisition unit. And when the specific screen element is found by the screen information monitoring means, the screen image acquired by the screen image acquisition means is the region of the specific screen element found by the screen information monitoring means. Different image compression for other areas Compress by method A screen image processing unit that processes the screen image processed by the screen image processing unit; and a screen image transmission unit that transmits the screen image processed by the screen image processing unit to another information processing apparatus.
[0008]
In the screen image transmission system of the present invention, the screen information acquisition unit acquires the screen information of the information processing apparatus, and the screen image acquired by the screen image acquisition unit is included in the screen information acquired by the screen information acquisition unit. Different image compression for specific screen element areas and other areas Compress by method The screen image processing means processes the processed screen image, and the screen image transmission means transmits the screen image processed by the screen image processing means to another information processing apparatus, so that all the screen images are processed uniformly. Compared to the case where processing is performed, the balance between display reproducibility and communication data amount is optimized.
In the screen image transmission system of the present invention, the screen information acquisition unit acquires the screen information of the information processing apparatus, and the screen information monitoring unit monitors a specific screen element in the screen information acquired by the screen information acquisition unit. When the specific screen element is found by the screen information monitoring unit, the screen image acquired by the screen image acquiring unit is changed to the region of the specific screen element detected by the screen information monitoring unit. Different image compression for areas other than Compress by method The screen image processing means processes the processed screen image, and the screen image transmission means transmits the screen image processed by the screen image processing means to another information processing apparatus, so that the entire screen image is uniformly processed. Compared to the case where processing is performed, the balance between display reproducibility and communication data amount is optimized.
[0009]
The screen image transmission method according to the present invention includes a screen information acquisition step for acquiring screen information of an information processing device, and a screen image acquired by the screen image acquisition step, among the screen information acquired by the screen information acquisition step. Different image compression in certain screen element areas and other areas Compress by method A screen image processing step for processing the screen image, and a screen image transmission step for transmitting the screen image processed by the screen image processing step to another information processing apparatus.
A screen image transmission method according to the present invention includes a screen information acquisition step for acquiring screen information of an information processing device, and a screen information monitor for monitoring a specific screen element in the screen information acquired by the screen information acquisition step. And when the specific screen element is found by the screen information monitoring step, the screen image acquired by the screen image acquisition step is the region of the specific screen element found by the screen information monitoring step. Different image compression for other areas Compress by method A screen image processing step for processing the screen image, and a screen image transmission step for transmitting the screen image processed by the screen image processing step to another information processing apparatus.
[0010]
In the screen image transmission method of the present invention, the screen information of the information processing apparatus is acquired in the screen information acquisition step, and the screen image acquired in the screen image acquisition step is included in the screen information acquired in the screen information acquisition step. Different image compression for specific screen element areas and other areas Compress by method The screen image is processed in the screen image processing step, and the screen image processed in the screen image processing step is transmitted to another information processing apparatus in the screen image transmission step, so that all the screen images are processed uniformly. Compared to the case where processing is performed, the balance between display reproducibility and communication data amount is optimized.
The screen image transmission method of the present invention acquires screen information of an information processing device in a screen information acquisition step, and monitors a specific screen element in the screen information acquired in the screen information acquisition step in a screen information monitoring step. When the specific screen element is found by the screen information monitoring step, the screen image acquired by the screen image acquisition step is changed to the region of the specific screen element found by the screen information monitoring step. Different image compression for areas other than Compress by method The screen image is processed in the screen image processing step, and the screen image processed in the screen image processing step is transmitted to another information processing apparatus in the screen image transmission step, so that all the screen images are processed uniformly. Compared to the case where processing is performed, the balance between display reproducibility and communication data amount is optimized.
[0011]
A screen image transmission program according to the present invention includes: Computer Screen image acquisition that acquires the screen image displayed on the information processing device means Screen information acquisition for acquiring screen information of the information processing apparatus means , The screen image acquired by the screen information acquisition unit is converted into a screen image compressed by a different screen compression method in the area of the specific screen element in the screen information acquired by the screen information acquisition unit and the other area. Screen image compression means for processing, processed by the screen image processing means Screen image transmission that transmits a screen image to another information processing device Function as a means It is characterized by that.
A screen image transmission program according to the present invention includes: Computer Screen image acquisition that acquires the screen image displayed on the information processing device means Screen information acquisition for acquiring screen information of the information processing apparatus means , Get screen information means Screen information monitoring for monitoring a specific screen element in the screen information acquired by means , Screen information monitoring means When the specific screen element is found by the acquisition of the screen image means The screen image acquired by the screen information monitoring means Different image compression in the area of the specific screen element and other areas found by Compress by method Screen image processing to process the selected screen image means , The screen image processing means Screen image transmission for transmitting the screen image of the information processing device processed by the above to another information processing device Function as a means It is characterized by that.
[0012]
The screen image transmission program of the present invention includes: Computer Acquire screen image displayed on information processing device means To obtain the screen information of the information processing device. means To obtain the screen information. means Acquired by The screen image is processed by the screen image processing means for processing the screen image into a screen image compressed by a different image compression method in the area of the specific screen element in the screen information acquired by the screen information acquisition means and the other area. And processed by the screen image processing means Send screen image to screen image means Send to another information processing device with To function like In this way, the balance between display reproducibility and communication data volume is optimized.
The screen image transmission program of the present invention includes: Computer Acquire screen image displayed on information processing device means To obtain the screen information of the information processing device. means To obtain the screen information. means Screen information monitoring for specific screen elements in the screen information acquired by means And monitor the screen information means When the specific screen element is discovered by the acquisition of the screen image means The screen image acquired by the above screen information monitoring means Different image compression in the area of the specific screen element found by and other areas Compress by method Screen image processing means And processing the screen image means The screen image of the information processing device processed by means Send to another information processing device with To function like Thus, the balance between display reproducibility and communication data amount is optimized as compared with the case where uniform processing is performed on all the screen images.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a block diagram showing a configuration of a screen image transmission system according to the first embodiment of this invention.
The screen
[0014]
Although the method of acquiring the GUI screen information itself is not within the scope of claims of the present application, for example, the document: Human Interface Symposium '98 Lecture Collection, pages 61-66 (1998) has acquired GUI screen information (and The method of recording) is described.
[0015]
The screen
As an example, the screen image processing means 102 divides the screen image into an active window area and other areas, and uses the compression method 1 for the active window area and the compression method 2 for the other areas. The image shall be compressed. However, the compression method 1 is lossless and can be restored without loss, and the compression method 2 is irreversible compression and has a loss at the time of restoration. However, the compression rate is superior to the compression method 1 (that is, the data size is larger). Can be reduced). Further, the screen of the information processing apparatus 1 is the
[0016]
The screen image data processed by the screen image processing means 102 is transmitted by the screen image transmitting means 104, and this screen image is received by the screen image receiving means 105 of the information processing apparatus 2 and displayed by the screen image display means 106. Is done.
In the case of Example 1-1, a screen image compressed by using the compression method 1 is transmitted / received in the area of the
[0017]
The effects obtained in the case of Example 1-1 are as follows.
First, as compared with the case where the entire screen image is compressed by the compression method 1, the amount of data transmitted and received can be further reduced. Further, since the screen image of the active window area can be restored without loss compared to the case where the entire screen image is compressed by the compression method 2, the active window area has high display reproducibility.
[0018]
As another example (referred to as Example 1-2), the screen
[0019]
In a general window system, there is only one active window at the same time. However, if there are two or more active windows, the areas of all the windows may be cut out.
[0020]
As yet another example (referred to as Example 1-3), the “active window” in Example 1-1 can be replaced with “the window in the foreground in the depth direction”. However, the window in the foreground in the depth direction is a window that is displayed in front of the window even if it overlaps with any other window, and as a result, is not hidden by the other window. When the active window is always displayed in the foreground, the processing results of Example 1-1 and Example 1-3 are the same.
[0021]
As yet another example (referred to as Example 1-4), the “active window” in Example 1-2 can be replaced with a “window in the foreground in the depth direction”. When the active window is always displayed in the foreground, the processing results of Example 1-2 and Example 1-4 are the same.
[0022]
As yet another example (referred to as Example 1-5), the “active window” in Example 1-1 can be replaced with “all windows whose specific keyword is included in the window title”. For the purpose of explaining Example 1-5, it is assumed that the screen of the information processing apparatus 1 is as shown in the
[0023]
As yet another example (referred to as Example 1-6), the “active window” in Example 1-2 can be replaced with “all windows whose specific keyword is included in the window title”. Similarly to Example 1-5, it is assumed that the screen of the information processing apparatus 1 is as shown in the
[0024]
As yet another example (referred to as Example 1-7), the “active window” in Example 1-2 can be replaced with “a specific type of GUI component”. For the purpose of explaining Example 1-7, it is assumed that the screen of the information processing apparatus 1 is as shown in the
[0025]
The effects obtained in the case of Example 1-7 are as follows. When the compression rate of the compression method 2 is very high and the loss is large, the data size is reduced and the amount of communication data can be reduced. On the other hand, when the restored screen image is displayed, the compression method 2 is applied. There is a possibility that characters included in the area may be crushed and become unreadable (especially when the font size of the characters is small). However, in this example, the area of the GUI component for displaying / editing text data is compressed not by the compression method 2 but by the compression method 1 without loss. Therefore, when the restored screen image is displayed, the GUI for displaying / editing the text data is displayed. The part area has high display reproducibility, and the text displayed in the GUI part can be read clearly.
[0026]
As a further variation of Example 1-7, when there are two or more specific types of GUI parts, for example, a menu part (MENU), a button part (BUTTON), a text data display editing part (TEXTEDIT) The same applies to all cases.
[0027]
Further, a combination of Example 1-1 or Example 1-2 and Example 1-7 is also possible. That is, an area of a specific type of GUI part displayed in the active window is the target of the compression method 1. In this case, even if there is a specific type of GUI component in an inactive window, the compression method 2 is applied to the area of the GUI component instead of the compression method 1.
[0028]
As yet another example (referred to as Example 1-8), the “active window” in Example 1-2 can be replaced with “a specific type of GUI component”. For the purpose of explaining Example 1-8, it is assumed that the screen of the information processing apparatus 1 is as shown in the
[0029]
Furthermore, variations exactly the same as those of Example 1-7 are possible for Example 1-8.
[0030]
Next, the screen image transmission system according to the second embodiment of the present invention will be described.
FIG. 5 is a block diagram showing the configuration of the screen image transmission system according to the second embodiment.
In this embodiment, in addition to the first embodiment, the information processing apparatus 2 includes a GUI
As Example 2-1, the screen of the information processing apparatus 1 is the
[0031]
Specifically, at least one point is pointed on a displayed screen image by a pointing device such as a mouse provided in the information processing apparatus 2. For example, the
[0032]
The image
[0033]
As a result, in the next screen image displayed by the screen image display means 106, the area of the
[0034]
As another example (referred to as Example 2-2), the processing after the GUI component is designated by the
[0035]
Next, a screen image transmission system according to a third embodiment of the present invention will be described.
FIG. 6 is a block diagram showing the configuration of the screen image transmission system of the third embodiment.
In this embodiment, the information processing apparatus 1 includes a screen
The screen
[0036]
As an example 3-1, it is assumed that the screen of the information processing apparatus 1 is as shown in the
[0037]
When the screen
[0038]
As another example (referred to as Example 3-2), the GUI component of the specific type monitored by the screen
[0039]
As can be seen from Example 3-1 and Example 3-2 described above, the screen image transmission system according to this embodiment indicates that when specific information is displayed on the screen of the information processing apparatus 1. It detects and transmits and displays the screen image of the information processing apparatus 1 on the information processing apparatus 2. Thereby, the occurrence of an event that can be detected by the screen change of the information processing apparatus 1 can be effectively remotely monitored. Further, since the transmission of the screen image from the information processing apparatus 1 to the information processing apparatus 2 is limited only when specific information is displayed on the information processing apparatus 1, the screen of the information processing apparatus 1 has changed. Compared to the case where the screen image is always transmitted, the communication data amount can be reduced.
[0040]
Next, a screen image transmission system according to a fourth embodiment of the present invention will be described.
FIG. 11 is a block diagram illustrating a configuration of a screen image transmission system according to the fourth embodiment of this invention.
In this embodiment, the screen image processing means 102 included in the first embodiment is added to the screen image transmission system of the third embodiment. That is, in the screen image transmission system of the third embodiment, the screen image acquired by the screen
[0041]
As Example 4-1, similarly to Example 3-1, the screen of the information processing apparatus 1 is as shown in the
When the screen
The screen image processed in this way by the screen image processing means 102 is transmitted / received by the screen image transmitting means 104 and the screen image receiving means 105 and displayed by the screen image display means 106.
[0042]
In this example 4-1, the screen image processing method in the screen image processing means 102 is a method for selectively using the compression method 1 and the compression method 2 as in the method in the example 1-1.
[0043]
On the other hand, as another example (referred to as Example 4-2), the screen image processing method in the screen image processing means 102 is cut out and compressed by the compression method 1 in the same manner as the method in Example 1-2. This is also possible. In this example 4-2, the screen image processing means 102 cuts out the area of the window of type ALERTWIN and deletes other areas from the screen image of the
[0044]
As can be seen from Example 4-1 and Example 4-2 described above, the screen image transmission system according to this embodiment includes information from the information processing apparatus 1 in addition to the screen image transmission system according to the third embodiment. It is possible to further reduce the data amount of the screen image transmitted to the processing device 2.
[0045]
Next, an example of the configuration of the screen image
In a
[0046]
The preferred embodiments and examples have been described above, but the present invention is not necessarily limited to the above-described embodiments and examples, and various modifications can be made within the scope of the technical idea. .
[0047]
【The invention's effect】
As described above, according to the present invention, it is possible to optimize the balance between the display reproducibility on the screen of the transmission destination information processing apparatus and the amount of communication data between the transmission source and transmission destination information processing apparatuses. is there.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of a screen image transmission system according to a first embodiment of the present invention.
FIG. 2 is a diagram showing an example of a screen of the information processing apparatus as a transmission source according to the first embodiment of the present invention.
FIG. 3 is a diagram illustrating a screen example of a transmission source information processing apparatus according to the first embodiment of the present invention;
FIG. 4 is a diagram showing an example of a screen of a transmission source information processing apparatus according to the first embodiment of the present invention;
FIG. 5 is a block diagram showing a configuration of a screen image transmission system according to a second embodiment of the present invention.
FIG. 6 is a block diagram showing a configuration of a screen image transmission system according to a third embodiment of the present invention.
FIG. 7 is a diagram illustrating a screen example of an information processing apparatus as a transmission source according to the third embodiment of the present invention.
FIG. 8 is a diagram illustrating a screen example of a transmission source information processing apparatus according to a third embodiment of the present invention;
FIG. 9 is a diagram illustrating a screen example of an information processing apparatus as a transmission source according to the third embodiment of the present invention.
FIG. 10 is a diagram illustrating a screen example of a transmission source information processing apparatus according to a third embodiment of the present invention;
FIG. 11 is a block diagram showing a configuration of a screen image transmission system according to a fourth embodiment of the present invention.
FIG. 12 is a block diagram showing an example of the configuration of a screen image transmission source computer of the screen image transmission system of the present invention.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1, 2 ... Information processing apparatus, 101 ... Screen information acquisition means, 102 ... Screen image processing means, 103 ... Screen image acquisition means, 104 ... Screen image transmission means, 600 ... Screen information monitoring means.
Claims (9)
前記情報処理装置の画面情報を取得する画面情報取得手段と、前記画面像取得手段によって取得された画面像を、前記画面情報取得手段によって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段とを備え、前記画面像送信手段は、前記画面像加工手段により加工された画面像を別の情報処理装置に送信することを特徴とする画面像送信システム。In a screen image transmission system comprising screen image acquisition means for acquiring a screen image to be displayed on the information processing apparatus, and screen image transmission means for transmitting the screen image of the information processing apparatus to another information processing apparatus,
Screen information acquisition means for acquiring screen information of the information processing apparatus; a screen image acquired by the screen image acquisition means; a region of a specific screen element in the screen information acquired by the screen information acquisition means; Screen image processing means for processing into a screen image compressed by an image compression method different from other areas, and the screen image transmission means is a separate information processing apparatus for processing the screen image processed by the screen image processing means. A screen image transmission system characterized by transmitting to the screen.
前記情報処理装置の画面情報を取得する画面情報取得手段と、
前記画面情報取得手段によって取得された前記画面情報の中の特定の画面要素を監視する画面情報監視手段と、
前記画面情報監視手段によって前記特定の画面要素が発見された場合に、前記画面像取得手段によって取得された画面像を、前記画面情報監視手段によって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段とを備え、
前記画面像送信手段は、前記画面像加工手段により加工された画面像を別の情報処理装置に送信することを特徴とする画面像送信システム。In a screen image transmission system comprising screen image acquisition means for acquiring a screen image to be displayed on the information processing apparatus, and screen image transmission means for transmitting the screen image of the information processing apparatus to another information processing apparatus,
Screen information acquisition means for acquiring screen information of the information processing apparatus;
Screen information monitoring means for monitoring a specific screen element in the screen information acquired by the screen information acquisition means;
When the specific screen element is found by the screen information monitoring means, the screen image acquired by the screen image acquisition means is the region of the specific screen element found by the screen information monitoring means and the others. Screen image processing means for processing into a screen image compressed by a different image compression method in the area of
The screen image transmission system transmits the screen image processed by the screen image processing unit to another information processing apparatus.
前記情報処理装置の画面情報を取得する画面情報取得ステップと、
前記画面像取得ステップによって取得された画面像を、前記画面情報取得ステップによって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工ステップとを備え、
前記画面像送信ステップは、前記画面像加工ステップにより加工された画面像を別の情報処理装置に送信することを特徴とする画面像送信方法。In a screen image transmission method comprising a screen image acquisition step of acquiring a screen image to be displayed on the information processing device, and a screen image transmission step of transmitting the screen image of the information processing device to another information processing device,
Screen information acquisition step for acquiring screen information of the information processing apparatus;
The screen image acquired by the screen image acquisition step is converted into a screen image compressed by a different image compression method in the region of the specific screen element in the screen information acquired by the screen information acquisition step and the other region. A screen image processing step for processing,
The screen image transmission step includes transmitting the screen image processed in the screen image processing step to another information processing apparatus.
前記情報処理装置の画面情報を取得する画面情報取得ステップと、
前記画面情報取得ステップによって取得された前記画面情報の中の特定の画面要素を監視する画面情報監視ステップと、
前記画面情報監視ステップによって前記特定の画面要素が発見された場合に、前記画面像取得ステップによって取得された画面像を、前記画面情報監視ステップによって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工ステップとを備え、
前記画面像送信ステップは、前記画面像加工ステップにより加工された画面像を別の情報処理装置に送信することを特徴とする画面像送信方法。In a screen image transmission method comprising a screen image acquisition step of acquiring a screen image to be displayed on the information processing device, and a screen image transmission step of transmitting the screen image of the information processing device to another information processing device,
Screen information acquisition step for acquiring screen information of the information processing apparatus;
A screen information monitoring step for monitoring a specific screen element in the screen information acquired by the screen information acquisition step;
When the specific screen element is discovered by the screen information monitoring step, the screen image acquired by the screen image acquisition step is the region of the specific screen element discovered by the screen information monitoring step and the others. A screen image processing step for processing into a screen image compressed by an image compression method different from that of the area of
The screen image transmitting step transmits the screen image processed by the screen image processing step to another information processing apparatus.
コンピュータを、
前記情報処理装置で表示する画面像を取得する画面像取得手段、
前記情報処理装置の画面情報を取得する画面情報取得手段、
前記画面像取得手段によって取得された画面像を、前記画面情報取得手段によって取得された画面情報の中の特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段、
前記画面像加工手段により加工された画面像を別の情報処理装置に送信する画面像送信手段、
として機能させることを特徴とする画面像送信プログラム。A screen image transmission program for causing a computer to function as means for transmitting a screen image of an information processing device to another information processing device,
Computer
Screen image acquisition means for acquiring a screen image to be displayed on the information processing apparatus;
Screen information acquisition means for acquiring screen information of the information processing apparatus;
The screen image acquired by the screen image acquisition unit is converted into a screen image compressed by a different image compression method in the area of the specific screen element in the screen information acquired by the screen information acquisition unit and the other area. Screen image processing means to process,
Screen image transmission means for transmitting the screen image processed by the screen image processing means to another information processing apparatus;
A screen image transmission program characterized by functioning as:
コンピュータを、
情報処理装置で表示する画面像を取得する画面像取得手段、
前記情報処理装置の画面情報を取得する画面情報取得手段、
前記画面情報取得手段によって取得された前記画面情報の中の特定の画面要素を監視する画面情報監視手段、
前記画面情報監視手段によって前記特定の画面要素が発見された場合に、前記画面像取得手段によって取得された画面像を、前記画面情報監視手段によって発見された前記特定の画面要素の領域とそれ以外の領域とで異なる画像圧縮方式で圧縮した画面像に加工する画面像加工手段、
前記画面像加工手段により加工された前記情報処理装置の画面像を別の情報処理装置に送信する前記画面像送信手段、
として機能させることを特徴とする画面像送信プログラム。A screen image transmission program for causing a computer to function as means for transmitting a screen image of an information processing device to another information processing device,
Computer
Screen image acquisition means for acquiring a screen image to be displayed on the information processing apparatus;
Screen information acquisition means for acquiring screen information of the information processing apparatus;
Screen information monitoring means for monitoring a particular screen element in said screen information acquired by the screen information acquisition unit,
When the specific screen element is found by the screen information monitoring means , the screen image acquired by the screen image acquisition means is the region of the specific screen element found by the screen information monitoring means and the others. Screen image processing means for processing into a screen image compressed by an image compression method different from the area of
The screen image transmitting means for transmitting a screen image of the information processing apparatus processed by the screen image processing means to another information processing apparatus;
A screen image transmission program characterized by functioning as:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002099675A JP3801082B2 (en) | 2002-04-02 | 2002-04-02 | Screen image transmission system and method, and screen image transmission program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002099675A JP3801082B2 (en) | 2002-04-02 | 2002-04-02 | Screen image transmission system and method, and screen image transmission program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2003299049A JP2003299049A (en) | 2003-10-17 |
| JP3801082B2 true JP3801082B2 (en) | 2006-07-26 |
Family
ID=29388213
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002099675A Expired - Fee Related JP3801082B2 (en) | 2002-04-02 | 2002-04-02 | Screen image transmission system and method, and screen image transmission program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3801082B2 (en) |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4405419B2 (en) | 2005-03-31 | 2010-01-27 | 株式会社東芝 | Screen transmitter |
| JP4595138B2 (en) * | 2006-12-21 | 2010-12-08 | オンキヨー株式会社 | Remote control system and monitoring application program |
| JP5032419B2 (en) | 2008-08-27 | 2012-09-26 | 株式会社東芝 | Server, screen transmission method and computer program |
| JP2010237726A (en) * | 2009-03-30 | 2010-10-21 | Nec Personal Products Co Ltd | Information processor, parameter setting method, program and recording medium |
| JP5582282B2 (en) * | 2009-04-24 | 2014-09-03 | 日本電気株式会社 | Server terminal, image processing system, image processing method and program |
| JP2018018221A (en) * | 2016-07-26 | 2018-02-01 | 富士通コンポーネント株式会社 | KVM switch |
| CN112672162A (en) * | 2020-11-23 | 2021-04-16 | 西安万像电子科技有限公司 | Encoding method, apparatus and storage medium |
| CN112637595A (en) * | 2020-11-23 | 2021-04-09 | 西安万像电子科技有限公司 | Encoding method, apparatus and storage medium |
| CN112511834A (en) * | 2020-11-23 | 2021-03-16 | 西安万像电子科技有限公司 | Encoding method, apparatus and storage medium |
| CN112738512A (en) * | 2020-12-24 | 2021-04-30 | 西安万像电子科技有限公司 | Coding method and device |
| JP7655021B2 (en) * | 2021-03-15 | 2025-04-02 | 富士フイルムビジネスイノベーション株式会社 | Information processing device and information processing program |
| CN115134603B (en) * | 2021-03-24 | 2025-03-14 | 阿里巴巴创新公司 | Image encoding, decoding method, device, electronic device and storage medium |
-
2002
- 2002-04-02 JP JP2002099675A patent/JP3801082B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2003299049A (en) | 2003-10-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3801082B2 (en) | Screen image transmission system and method, and screen image transmission program | |
| US8082517B2 (en) | Application sharing viewer presentation | |
| EP1488326B1 (en) | Methods and apparatus for generating graphical and media displays at a client | |
| JP3280330B2 (en) | Communication method, client terminal, server, communication system, recording medium storing software product for controlling communication | |
| US20110219331A1 (en) | Window resize on remote desktops | |
| US10623354B2 (en) | Preview of compressed file email attachments | |
| RU2595533C2 (en) | System for displaying mail attachments on web mail page | |
| US20080104505A1 (en) | Method, System and Program Product Supporting Customized Presentation of Toolbars Within a Document | |
| US20110265009A1 (en) | Terminal services view toolbox | |
| JP2002091914A (en) | Terminal device for computer network and operation history recording method | |
| CN107102786B (en) | Information processing method and client | |
| US10650085B2 (en) | Providing interactive preview of content within communication | |
| JPWO2012032705A1 (en) | Display processing apparatus, display processing method, and program | |
| JPH1091648A (en) | A device for representing and providing information and links to quoted or reproduced material | |
| US20150082199A1 (en) | Document viewing mechanism for document sharing environment | |
| US9325759B2 (en) | Methods and apparatus for generating graphical and media displays at a client | |
| JP6488903B2 (en) | Screen transfer control system, screen transfer control program, and screen transfer control method | |
| JP2009237659A (en) | Operation log information display system | |
| JP5281324B2 (en) | Screen output converter, display device, and screen display method | |
| JP4130841B1 (en) | Network management system and program therefor | |
| CN109729118B (en) | Data transmission method, network problem determination method, client and server | |
| JP2017102847A (en) | Information processing system, relay device, method, and program | |
| TWI543002B (en) | Video recording system and video recording method | |
| CN106454180B (en) | Method and device for recording, processing and transmitting video and terminal | |
| WO2007063588A1 (en) | Information processor, electronic device, and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050727 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050916 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20051012 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051110 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20051110 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20051110 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060119 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060228 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060317 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060411 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060424 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100512 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110512 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110512 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120512 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120512 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130512 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140512 Year of fee payment: 8 |
|
| LAPS | Cancellation because of no payment of annual fees |