JP7632301B2 - 情報処理装置、情報処理方法、プログラム - Google Patents
情報処理装置、情報処理方法、プログラム Download PDFInfo
- Publication number
- JP7632301B2 JP7632301B2 JP2021565374A JP2021565374A JP7632301B2 JP 7632301 B2 JP7632301 B2 JP 7632301B2 JP 2021565374 A JP2021565374 A JP 2021565374A JP 2021565374 A JP2021565374 A JP 2021565374A JP 7632301 B2 JP7632301 B2 JP 7632301B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- image
- subject
- information processing
- distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/761—Proximity, similarity or dissimilarity measures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/258—Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
- H04N21/25866—Management of end-user data
- H04N21/25875—Management of end-user data involving end-user authentication
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Human Computer Interaction (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
複数の被写体を撮影する場合に、被写体ごとの画像や画角を変えた画像を同時に記録したいという要望や閲覧したいという要望がある。
これにより、第1画像と第2画像を組み合わせた表示用コンテンツをユーザ端末などに送信することが可能とされる。
これにより、第1画像と第2画像がそれぞれ別の画角で撮影されたものであっても、時間的な関係を把握することができる。
重畳情報とは、例えば、文字(テキスト)情報や画像情報などである。
説明情報とは、例えば、レース画像であれば、開催日時、開催場所、レース名、出場者名など、画像を閲覧する上で理解の助けになるような説明となる情報である。
比較情報とは、例えば、第2画像の被写体である選手の目標記録との差異を示す情報である。具体的には、目標記録に対してどの程度先行しているか、或いは遅れているかを示す情報である。
第2画像の被写体についての成績とは、例えば、第2画像の被写体の選手自身の過去の記録などである。
第2画像の被写体以外の人物の成績とは、例えば、同じレースに出場している他選手の中で最も成績のよい選手の記録などである。或いは、日本記録や世界記録などの成績などでもよい。
第2画像の被写体の成績に影響を及ぼす特徴量とは、例えば、水泳であれば、息継ぎ回数や頻度、或いは手を掻く回数などである。
表示用コンテンツは、個人情報を含む画像コンテンツである。そのようなコンテンツがユーザ認証に成功した場合に限り送信される。
表示用コンテンツは、被写体の選手によって閲覧制限を設けたい場合とそうでない場合がある。
例えば、ユーザ認証によってユーザを特定し、表示用コンテンツに設定された開示範囲に基づいて該ユーザの要求を受諾するか否かの判定を行う。
例えば、第1画像と第2画像が動画像である場合に、両画像の一部同士を比較して一致度を算出することにより、同期処理を行う。
例えば、競技において全体を俯瞰で撮像した公式の第1画像と特定の選手に着目した公式の第2画像を組み合わせてストリーミング配信を行う。
これにより、全体の中での被写体の動きを把握するための適切なコンテンツを生成することができる。
<1.システム構成>
<2.配信サーバ装置の構成>
<3.撮像画像データの編集例>
<4.配信サーバ装置における処理例>
<4-1.配信コンテンツ生成処理>
<4-2.コーチング情報抽出処理>
<4-3.要求対応処理>
<5.ライブ配信>
<6.変形例>
<6-1.撮像画像データの編集例の変形例1>
<6-2.撮像画像データの編集例の変形例2>
<7.まとめ>
<8.本技術>
本実施の形態における配信システム1の構成について、図1を参照して説明する。なお、以下の説明においては、配信システム1の一例として、スポーツ競技としての競泳に関する画像を配信するシステムを挙げる。ここでいう「画像」とは、動画像及び静止画の双方を含むものとする。
また、配信サーバ装置3は、会場設備システム6と通信可能とされている。会場設備システム6は、複数の撮像装置7を含んで構成されている。
また、配信サーバ装置3は、大会へのエントリー要求を受信し、大会へのエントリー処理を実行する。
更には、会場設備システム6が通信ネットワーク2に接続されており、配信サーバ装置3は通信ネットワーク2を介して撮像装置7と通信可能とされていてもよい。
配信コンテンツは、各情報処理装置において表示されるコンテンツであるため、表示用コンテンツとも換言できる。
また、チーム端末4は、大会と種目と競技者を指定することにより大会へのエントリー要求を配信サーバ装置3へ送信することが可能とされる。
また、個人端末5は、チーム端末4や配信サーバ装置3に対してログイン要求を送信可能とされていてもよい。例えば、各種の情報を取得するためにログイン情報としてID(Identification)とパスワードを各装置に送信することにより、各装置において認証処理が実行される。
配信サーバ装置3の構成について説明する。上述したように、ここでは、配信サーバ装置3は競泳会場に設置された撮像装置7の管理機能を備えている例を説明する。例えば、配信サーバ装置3は、複数の情報処理装置によって構成されている。
複数の情報処理装置のそれぞれは、例えば、図2に示すような構成を備えている。
情報処理装置のCPU71は、ROM72に記憶されているプログラム、または記憶部79からRAM73にロードされたプログラムに従って各種の処理を実行する。RAM73にはまた、CPU71が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU71、ROM72、およびRAM73は、バス74を介して相互に接続されている。このバス74にはまた、入出力インタフェース75も接続されている。
例えば入力部76としては、キーボード、マウス、キー、ダイヤル、タッチパネル、タッチパッド、リモートコントローラ等の各種の操作子や操作デバイスが想定される。
入力部76によりユーザの操作が検知され、入力された操作に応じた信号はCPU71によって解釈される。
表示部77は各種表示を行う表示部であり、例えば配信サーバ装置3の筐体に設けられるディスプレイデバイスや、配信サーバ装置3に接続される別体のディスプレイデバイス等により構成される。
表示部77は、CPU71の指示に基づいて表示画面上に各種の画像処理のための画像や処理対象の動画等の表示を実行する。また表示部77はCPU71の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を行う。
本実施の形態の場合、通信部80は、撮像装置7との間で通信を行う機能を備える。
ドライブ82により、リムーバブル記録媒体81からは各種のコンピュータプログラムなどを読み出すことができる。リムーバブル記録媒体81から読み出されたコンピュータプログラム等は必要に応じて記憶部79にインストールされる。
配信サーバ装置3は、カメラコントローラ11、スイッチャー12、選手情報管理部13、コンテンツ管理部14、画像編集処理部15、分析処理部16、同期処理部17、認証処理部18及び配信制御部19などの各機能を有して構成されている。
コンテンツ管理部14は、画像コンテンツとそれに紐付けられるメタデータやキャプション情報を管理する。メタデータやキャプション情報とは、例えば、画像コンテンツに関する被写体名(選手名)、大会名、大会開催場所、撮影日時、競泳種目、選手が使用したコース番号、競泳記録、順位等である。また、選手を撮影した撮像装置7を特定するための情報や撮像装置7の撮影設定などが記録されていてもよい。
これらの情報は、コーチングに使用可能なコーチング情報とされる。コーチング情報の抽出においては、例えば、CNN(Convolutional Neural Network)などのディープラーニング手法が用いられてもよい。
なお、認証処理が成功したユーザや端末に対しては、会員であることを示す情報として例えば2次元バーコードなどを認証処理部18が送信するように構成してもよい。例えば、2次元バーコード情報を受信したユーザは、会場などに設置された読み取り機などに2次元バーコードをかざすことにより、会場への入場や関係者エリアへの入場をスムーズに行うことができる。また、競泳会場において撮影許可を得る際にも2次元バーコードを利用することができる。
また、例えば、競泳会場に配信サーバ装置3を設置すること無く、運営団体が所有している据え置き型のサーバ装置として配信サーバ装置3が設けられ、該配信サーバ装置3が各種の機能を備えていてもよい。
配信サーバ装置3の画像編集処理部15によって編集された画像コンテンツの例について説明する。
ユーザは、自身に関係のある選手をズームアップで撮像した競技中の画像と、レース全体を俯瞰で撮像した画像、更に、レースに関する記録が表示される電光掲示板の情報を同時に視認したい場合がある。この要望に応えるために、撮像装置7から取得した撮像画像データを編集することにより、例えば、図4に示すような画像コンテンツを生成する。
画像コンテンツは、複数の領域を有して構成されている。例えば、第1領域AR1は、レース全体の成り行きを視認するための画像が表示される領域であって、プール全体を撮像する撮像装置7から取得した撮像画像データが表示される。以降では、このように複数の画像データを合成して生成した画像データを「合成画像データ」と記載する。
なお、プール全体を撮像した画像が十分に高解像度である場合には、第1領域AR1に表示する画像における選手個人が撮像された特定領域を切り取って拡大した画像が第2領域AR2に表示されてもよい。即ち、1台の撮像装置7から取得した撮像画像データを用いて第1領域AR1及び第2領域AR2にそれぞれ画像を表示してもよい。
また、それぞれの領域は、同じ大きさに設定されていてもよいし、異なる大きさに設定されていてもよい。また、ある領域が他の領域に重畳されるように配置されていてもよい。
図5は、全体を俯瞰で捉えた画像が表示される第1領域AR1及び選手個人をアップで撮像した画像が表示される第2領域AR2に加えて、電光掲示板に表示されている情報から抽出したテキスト情報を表示するための第3領域AR3が設けられている例である。
第3領域AR3に説明情報として表示するテキスト情報は、例えば、電光掲示板を撮像した撮像画像データを画像解析することにより取得してもよい。電光掲示板の撮像画像データから文字認識を行い、テキスト情報を得る。或いは、電光掲示板の表示のために送信されるテキスト情報を取得し、そこから説明情報として表示するテキスト情報を抽出してもよい。
他にも、大会名、大会開催場所、撮影日時、競泳種目、第2領域AR2に表示される選手の選手名、当該選手が使用したコース番号、競泳記録、順位、自己ベスト情報などをテキスト情報として取得してもよい。
また、第3領域AR3を設けずにテキスト情報が表示されるように構成してもよい。例えば、第2領域AR2に表示する撮像画像データにテキスト情報を組み込むことにより、テキスト情報を表示するための第3領域AR3を設けなくて済む。
<4-1.配信コンテンツ生成処理>
配信サーバ装置3が実行する各種処理について説明する。
先ず、配信コンテンツを生成する処理について図6を参照して説明する。配信コンテンツ生成処理は、例えば競泳の大会後に実行される処理であって、選手ごとに個別の配信コンテンツを生成する処理である。
なお、テキスト情報を利用しない場合は、ステップ104の処理を実行しなくてよい。
一方、未処理の選手がいない場合、配信サーバ装置3は図6に示す一連の処理を終了する。
なお、大会に出場した全選手に対して図6に示す処理を実行する例を示したが、一部の選手に対して実行してもよい。また、チーム端末4や個人端末5から配信コンテンツの配信要求を受信した際に適宜実行してもよい。配信要求の受信に応じて図6に示す配信コンテンツ生成処理を実行する場合には、不要な処理を実行しなくてよいため、配信サーバ装置3の処理負担の軽減が図られる。
配信サーバ装置3が実行するコーチング情報抽出処理について、図7を参照して説明する。コーチング情報抽出処理は、撮像装置7から取得した撮像画像データを解析することにより、コーチングに用いられる情報を抽出する処理である。コーチング情報抽出処理は、例えば、大会後に実行される処理である。
配信サーバ装置3はステップS206において、大会に出場していた選手全員分について上述した各種の処理が終了したか否かを判定する。まだ未処理の選手がいる場合、配信サーバ装置3はステップS201の処理へと戻る。
一方、未処理の選手がいない場合、配信サーバ装置3は図7に示す一連の処理を終了する。
なお、大会に出場した全選手に対して図7に示す処理を実行する例を示したが、一部の選手に対して実行してもよい。また、チーム端末4や個人端末5からコーチング情報の送信要求を受信した際に適宜実行してもよい。送信要求の受信に応じて図7に示すコーチング情報抽出処理を実行する場合には、不要な処理を実行しなくてよいため、配信サーバ装置3の処理負担の軽減が図られる。
配信サーバ装置3は、チーム端末4や個人端末5から各種の要求を受信する。従って、配信サーバ装置3は各種の要求の受信を確認し、要求ごとに対応する処理を実行する。
配信サーバ装置3が実行する要求対応処理の一例について、図8に示す。
また、会員登録処理では、他の情報処理装置において入力された会員情報を受信し、入力情報に不備が無いかを確認する処理や、不備があった場合に再入力を促す処理や、入力情報に問題が無い場合に会員データベースに新規会員情報を登録する処理などを実行する。
また、会員登録処理では、各種サービスを利用可能とするためのログインを行うためのIDとパスワードを発行する処理なども実行される。
配信サーバ装置3はステップS401において、配信コンテンツの送信を要求してきたユーザがログイン状態であるか否かを判定する。
ログイン処理では、要求を行ったユーザが使用している他の情報処理装置からIDとパスワードを受信し、ログイン用のデータベースに記憶されている情報と照合を行い、ログインの可否を判定する。
ログインの可否は、要求を行った他の情報処理装置に対して送信される。これにより、他の情報処理装置において、ログインの成否情報が表示される。
また、要求ユーザが選手の家族であり、開示範囲が家族も含めて許可されている場合は、配信コンテンツの送信を許可する。
一方、要求ユーザが選手とは関係のない他人であり、開示範囲が本人のみや所属チームまでとなっている場合には、要求ユーザが開示範囲に含まれていないとして配信コンテンツの送信を許可しない。
なお、開示範囲が全ユーザとなっている場合には、要求ユーザによらず配信コンテンツの送信を許可する。
ステップS306において配信コンテンツ送信処理を実行した後、配信サーバ装置3はステップS301の処理へと戻り、各種の要求を受信したか否かを判定する。
配信サーバ装置3はステップS501において、コーチング情報の送信を要求してきたユーザがログイン状態であるか否かを判定し、必要に応じてステップS502のログイン処理を実行する。これらの処理は、図9のステップS401及びステップS402の各処理と同様の処理である。
続いて、配信サーバ装置3はステップS505において、コーチング情報を送信する。
配信サーバ装置3はステップS308のコーチング情報送信処理を実行した後、再度ステップS301の処理へと戻る。
配信サーバ装置3は図8に示すステップS301,S303,S305,S307,S309の各処理を繰り返し実行することにより、他の情報処理装置から各種の要求を受信していないかを判定し、適宜対応する処理を実行する。
配信サーバ装置3は、大会当日にライブ配信(ストリーミング配信)を行う機能を備えていてもよい。その場合に、配信サーバ装置3がライブ配信のために実行する処理の一例について、図11を参照して説明する。
ステップS604及びS605の処理は例えば撮像画像データにおけるフレームごとに実行される。
また、競技会場内にいるユーザに対してライブ配信を行うことが好ましい場合がある。例えば、会場内に設置された大型のモニタには競技中はトップの選手が表示されることが多くなり、それ以外の選手の関係者にとっては見たい画像が見られないことになる。従って、見たい選手の競技を肉眼で観戦することが考えられるが、選手との距離が遠いために見難かったり、競泳の場合の水しぶきなどの影響により見難かったりすることがある。そこで、競技会場内にいるユーザに対してもライブ配信を行うことが考えられる。
会場内にいるユーザ限定でライブ配信を行う場合には、会場内などの限定的な範囲において構築されたローカル5G(プライベート5G)の回線、またはローカル4G/LTE(プライベート4G/LTE)の回線などを利用することが好適である。これにより、通信事業者のネットワークを用いずとも、高速且つセキュアな配信を行うことができる。
<6-1.撮像画像データの編集例の変形例1>
図4及び図5を用いて撮像画像データの編集例を説明したが、ここでは、別の編集例について図12を参照して説明する。
画像G1を重畳して生成した画像は画像コンテンツとしてユーザに提供される。例えば、図9の配信コンテンツ送信処理においてユーザが本例のように画像G1が重畳表示された配信コンテンツを選択することが可能なようにされていてもよい。また、図10に示すコーチング情報送信処理においてユーザが本例のように画像G1が重畳表示された画像コンテンツをコーチング情報として選択することが可能なようにされていてもよい。
或いは、図11のライブ配信処理において、画像G1が重畳されたコンテンツがライブ配信されてもよい。
もちろん、他の選手の撮像画像データが並べて表示されるように画像の合成を行ってもよい。例えば、ある選手の泳ぎを撮像した撮像画像データと世界のトップスイマーの泳ぎを撮像した撮像画像データを合成することにより、ある選手についてのコーチング情報が得られるように構成してもよい。
上述した各例では、会場内に設置された撮像装置7から取得した撮像画像データを用いて例えば図4や図5に示す画像コンテンツを生成する例を説明した。
本変形例では、ユーザが個人で所有している撮像装置で撮影した撮像画像データを用いて画像コンテンツを生成する例について説明する。
配信サーバ装置3はステップS701において、配信コンテンツ生成要求を受信したか否かを判定する。この要求は、ユーザ個人で撮影した撮像画像データを用いた配信コンテンツを生成することを要求するものである。
一方、このような配信コンテンツの生成要求を受信したと判定した場合、配信サーバ装置3はステップS702において、ユーザが撮影した撮像画像データを取得する。これにより、要求を送信した個人端末5などの情報処理装置は、撮像画像データを配信サーバ装置3にアップロードする処理を行う。なお、撮像画像データの取得は、ステップS701の要求受信と共に行ってもよい。
従って、ステップS705の同期処理が必要となる。
或いは、各撮像画像データに音声データが含まれている場合には、音声データを解析することにより同期させてもよい。
各種の例を用いて説明したように、配信サーバ装置3は、第1の撮像装置(撮像装置7)により撮像された第1画像と、第1の撮像装置(撮像装置7)または他の撮像装置(個人端末5などでもよい)により撮像され第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツ(配信コンテンツ)を生成するコンテンツ生成部(コンテンツ管理部14)を備えている。
複数の被写体を撮影する場合に、被写体ごとの画像や画角を変えた画像を同時に記録したいという要望や閲覧したいという要望がある。
被写体ごとの画像とは、例えば、競泳の画像であれば、第1レーンで競技中の選手と第8レーンで競技中の選手のそれぞれのアップ画像などである。
また、画角を変えた画像とは、例えば、レース画像であれば、レース全体を撮像した画角と当該レースに参加している一人の選手のみを撮像するための画角などである。
しかし、撮影環境や撮影者の不足により、このような複数種類の画像を記録画像として残すことは個人のユーザにとって難しい。
上述した各構成によれば、レース全体を撮影した公式のレース画像と個人で撮影した選手一人のレース画像を組み合わせた表示用コンテンツが生成されるため、レース全体を撮影するための機材と撮影対象の選手を撮影するための機材の双方を個人で用意する必要がない。また、撮影対象の選手の画像についても公式の画像が用意されている場合には、個人で撮影を行う必要が無く、利便性の向上を図ることができる。
また、レース全体を撮影した公式のレース画像が十分に高解像度である場合には、全体画像からの切り出しを行うことで撮影対象の選手のアップ画像を生成することができる。これにより、必要な撮影機材を最小限にすることができ、コスト削減に寄与することができる。
また、全体画像と選手個人の画像を組み合わせることで、選手個人の特徴や改善点などを把握することができ、コーチング情報の抽出に役立てることができる。
これにより、第1画像と第2画像を組み合わせた表示用コンテンツ(例えば図4や図5に示す配信コンテンツ)をユーザ端末などに送信することが可能とされる。
これにより、第1画像と第2画像がそれぞれ別の画角で撮影されたものであっても、時間的な関係を把握することができる。
例えば、レース画像などにおいて、全体の画像と選手個人の画像が同期されることにより、レース全体の中での選手の位置などが把握しやすくされる。
重畳情報とは、例えば、文字(テキスト)情報や画像情報などである。
第1画像と第2画像を組み合わせたものに文字情報や画像情報を重畳させて表示用コンテンツを生成することで、表示用コンテンツに含まれる情報量を増やすことができ、コンテンツの内容をより深く理解することができる。
説明情報とは、例えば、レース画像であれば、開催日時、開催場所、レース名、出場者名などである。
これらの情報が重畳表示されることで、例えば似たような表示用コンテンツがあったとしても、撮影内容を容易に把握することが可能とされる。
比較情報とは、例えば、第2画像の被写体である選手の目標記録との差異を示す情報(例えば画像G1)である。具体的には、目標記録に対してどの程度先行しているか、或いは遅れているかを示す情報である。
このような情報を重畳表示することで、会場では分からなかった選手のペース配分などを把握することができる。
第2画像の被写体についての成績とは、例えば、第2画像の被写体の選手自身の過去の記録などである。
即ち、画像を介して過去の自己ベストの記録と今回の記録を比較することができる。また、例えば、自己ベストの記録を示すラインなどの画像を重畳表示させることで、レース中の優れていた部分と劣っていた部分を視覚的に把握することができ、今後のトレーニングなどに生かすことができる。
第2画像の被写体以外の人物の成績とは、例えば、同じレースに出場している他選手の中で最も成績のよい選手の記録などである。或いは、日本記録や世界記録などの成績などでもよい。
これにより、選手の目標とする成績と今回のレースの成績を比較することができる。特に、上述したように、目標記録に基づいたライン表示などを行うことにより、選手の弱点等を視覚的に把握することができる。
第2画像の被写体の成績に影響を及ぼす特徴量とは、例えば、水泳であれば、息継ぎ回数や頻度、或いは手を掻く回数や息継ぎの回数などである。
成績に影響のある特徴量を抽出して重畳表示することにより、更に細かく選手の動きを解析することができ、成績向上のためのコーチング情報を得ることができる。
表示用コンテンツは、個人情報を含む画像コンテンツである。そのようなコンテンツがユーザ認証に成功した場合に限り送信される。
これにより、個人情報の保護を図ることができる。
表示用コンテンツは、被写体の選手によって閲覧制限を設けたい場合とそうでない場合がある。
開示範囲の設定が可能とされていることで、ユーザの意図を汲んだコンテンツ管理を行うことができる。
例えば、ユーザ認証によってユーザを特定し、表示用コンテンツに設定された開示範囲に基づいて該ユーザの要求を受諾するか否かの判定を行う。
これにより、ユーザの意図に沿ったコンテンツ管理を行うと共に、コンテンツを適切に配信することができる。
例えば、第1画像と第2画像が動画像である場合に、両画像の一部同士を比較して一致度を算出することにより、同期処理を行う。
これにより、タイムスタンプ情報が画像に紐付けられていなくても、両画像を同期させることができる。また、タイムスタンプ情報が画像に紐付けられていたとしても、同期していない撮像装置で撮像されている場合には、タイムスタンプ情報から両画像を同期させることは難しい。そのような場合であっても、本構成により画像処理によって一致点を検索して同期させることが可能となる。
例えば、競技において全体を俯瞰で撮像した公式の第1画像と特定の選手に着目した公式の第2画像を組み合わせてストリーミング配信を行う。
更に、第2画像を選手ごとに異なる画像とすることにより、選手ごとに異なる表示用コンテンツがストリーミング配信される。これにより、ユーザごとに所望する画像が異なる状況においてユーザごとに適切な表示用コンテンツをストリーミング配信することが可能となる。
具体的には、例えば、会場内に設置されており、会場内においてローカル5Gの通信環境を構築し、通信を制御している基地局を介して、配信サーバ装置3が、各種データや画像データを配信対象の各端末に配信する。この場合、例えば各端末において、画像データを合成し、または画像データに対して各種データを重畳する処理を行ってもよい。
このとき、配信サーバ装置3は、配信するデータの用途や特性に応じて、割り当てられるべきスライスを特定するための情報を生成し、データと、当該信号が割り当てられるべきスライスを特定するための情報(メタデータ)を関連付けて基地局に送信する。
基地局は、受信した各データをそれぞれのメタデータにより特定されるスライスに割り当てることで、割り当てられたスライスを用いて各データを配信対象の各端末に送信する。
ここで、スライス割り当ての一例として、遅延なく視聴できることが好ましい画像データを低遅延送信のためのスライスに割り当てることが考えられる。また、目視でのレース観戦をメインで行っている場合など画像データの遅延を許容できるケースにおいては、例えば画像データを大容量送信のためのスライスに割り当て、タイムリーに把握することが好ましい画像データに重畳されている各種情報(例えばラップタイムなどの経過情報など)を低遅延送信のためのスライスに割り当てることが考えられる。
具体的には、団体競技であれば、団体全員を撮像した撮像画像データを全体画像とし、その中の一人の競技者をアップで撮像した撮像画像データをアップ画像とし、それらを合成することにより配信コンテンツを生成してもよい。
或いは、吹奏楽の演奏会であれば、演奏者全員を撮像した撮像画像データを全体画像とし、その中の一人の演奏者をアップで撮像した撮像画像データをアップ画像とし、それらを合成することにより配信コンテンツを生成してもよい。
即ち、複数人で行うパフォーマンスや競技において、上述した各種の構成を適用することが可能である。
即ち、実施の形態のプログラムは、第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成する生成処理を配信サーバ装置3の制御部に実行させる。
このようなプログラムにより、上述した配信サーバ装置3を実現できる。
或いはまた、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、MO(Magneto Optical)ディスク、DVD(Digital Versatile Disc)、ブルーレイディスク(Blu-ray Disc(登録商標))、磁気ディスク、半導体メモリ、メモリカードなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
(1)
第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成するコンテンツ生成部を備えた
情報処理装置。
(2)
前記表示用コンテンツを送信する送信処理部を備えた
上記(1)に記載の情報処理装置。
(3)
前記第1画像と前記第2画像を同期させる同期処理を行う同期処理部を備えた
上記(1)から上記(2)の何れかに記載の情報処理装置。
(4)
前記表示用コンテンツは、重畳情報を含む
上記(1)から上記(3)の何れかに記載の情報処理装置。
(5)
前記重畳情報は、前記第1画像または前記第2画像についての説明情報とされた
上記(4)に記載の情報処理装置。
(6)
前記重畳情報は、前記第2画像の被写体に対する比較情報とされた
上記(4)から上記(5)の何れかに記載の情報処理装置。
(7)
前記比較情報は、前記第2画像の被写体についての成績を示す情報とされた
上記(6)に記載の情報処理装置。
(8)
前記比較情報は、前記第2画像の被写体以外の人物の成績を示す情報とされた
上記(6)から上記(7)の何れかに記載の情報処理装置。
(9)
前記第2画像の被写体についての画像解析を行い前記第2画像の被写体の成績に影響を及ぼす特徴量を抽出する分析処理部を備え、
前記重畳情報は、前記特徴量に関する情報とされた
上記(4)から上記(8)の何れかに記載の情報処理装置。
(10)
受信したユーザ情報に基づいてユーザ認証を行う認証処理部を備え、
前記送信処理部は、認証結果に基づいて前記表示用コンテンツを選択して送信する
上記(2)に記載の情報処理装置。
(11)
表示用コンテンツごとに開示範囲を設定するコンテンツ管理部を備えた
上記(2)に記載の情報処理装置。
(12)
受信したユーザ情報に基づいてユーザ認証を行う認証処理部を備え、
前記送信処理部は、認証結果と前記開示範囲とに基づいて前記表示用コンテンツの送信を行う
上記(2)に記載の情報処理装置。
(13)
前記同期処理では、前記第1画像と前記第2画像の画像比較を行う
上記(3)に記載の情報処理装置。
(14)
前記送信処理部はストリーミング配信を行う
上記(2)、上記(10)、上記(11)または上記(12)に記載の情報処理装置。
(15)
第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成する
情報処理装置が実行する情報処理方法。
(16)
第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成する生成処理を
情報処理装置に実行させるプログラム。
7 撮像装置
14 コンテンツ管理部
16 分析処理部
17 同期処理部
18 認証処理部
19 配信制御部(送信処理部)
Claims (14)
- 第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成するコンテンツ生成部と、
前記第2画像の被写体についての画像解析を行い前記第2画像の被写体の成績に影響を及ぼす特徴量を抽出する分析処理部を備え、
前記表示用コンテンツは、重畳情報を含み、
前記重畳情報は、前記特徴量に関する情報とされた
情報処理装置。 - 前記表示用コンテンツを送信する送信処理部を備えた
請求項1に記載の情報処理装置。 - 前記第1画像と前記第2画像を同期させる同期処理を行う同期処理部を備えた
請求項1に記載の情報処理装置。 - 前記重畳情報は、前記第1画像または前記第2画像についての説明情報とされた
請求項1に記載の情報処理装置。 - 前記重畳情報は、前記第2画像の被写体に対する比較情報とされた
請求項1に記載の情報処理装置。 - 前記比較情報は、前記第2画像の被写体についての成績を示す情報とされた
請求項5に記載の情報処理装置。 - 前記比較情報は、前記第2画像の被写体以外の人物の成績を示す情報とされた
請求項5に記載の情報処理装置。 - 受信したユーザ情報に基づいてユーザ認証を行う認証処理部を備え、
前記送信処理部は、認証結果に基づいて前記表示用コンテンツを選択して送信する
請求項2に記載の情報処理装置。 - 表示用コンテンツごとに開示範囲を設定するコンテンツ管理部を備えた
請求項2に記載の情報処理装置。 - 受信したユーザ情報に基づいてユーザ認証を行う認証処理部を備え、
前記送信処理部は、認証結果と前記開示範囲とに基づいて前記表示用コンテンツの送信を行う
請求項9に記載の情報処理装置。 - 前記同期処理では、前記第1画像と前記第2画像の画像比較を行う
請求項3に記載の情報処理装置。 - 前記送信処理部はストリーミング配信を行う
請求項2に記載の情報処理装置。 - 第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成し、
前記第2画像の被写体についての画像解析を行い前記第2画像の被写体の成績に影響を及ぼす特徴量を抽出し、
前記表示用コンテンツは、重畳情報を含み、
前記重畳情報は、前記特徴量に関する情報とされた
情報処理装置が実行する情報処理方法。 - 第1の撮像装置により撮像された第1画像と、前記第1の撮像装置または他の撮像装置により撮像され前記第1画像の被写体のうちの一部を被写体とした第2画像と、を組み合わせて表示用コンテンツを生成する生成処理と、
前記第2画像の被写体についての画像解析を行い前記第2画像の被写体の成績に影響を及ぼす特徴量を抽出する処理と、を含み、
前記表示用コンテンツは、重畳情報を含み、
前記重畳情報は、前記特徴量に関する情報とされた
情報処理装置に実行させるプログラム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019230431 | 2019-12-20 | ||
| JP2019230431 | 2019-12-20 | ||
| PCT/JP2020/042413 WO2021124750A1 (ja) | 2019-12-20 | 2020-11-13 | 情報処理装置、情報処理方法、プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2021124750A1 JPWO2021124750A1 (ja) | 2021-06-24 |
| JP7632301B2 true JP7632301B2 (ja) | 2025-02-19 |
Family
ID=76477216
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021565374A Active JP7632301B2 (ja) | 2019-12-20 | 2020-11-13 | 情報処理装置、情報処理方法、プログラム |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US12010403B2 (ja) |
| EP (1) | EP4068762A4 (ja) |
| JP (1) | JP7632301B2 (ja) |
| CN (1) | CN114793486B (ja) |
| WO (1) | WO2021124750A1 (ja) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115174824B (zh) * | 2021-03-19 | 2025-06-03 | 阿里巴巴创新公司 | 视频生成方法及装置、宣传类型视频生成方法及装置 |
| WO2023187929A1 (ja) * | 2022-03-28 | 2023-10-05 | 日本電気株式会社 | 販売管理装置、販売管理方法、及び販売管理システム |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014236426A (ja) | 2013-06-04 | 2014-12-15 | 株式会社Jvcケンウッド | 画像処理装置および撮像システム |
| JP2017151519A (ja) | 2016-02-22 | 2017-08-31 | 株式会社Jストリーム | コンテンツ付加情報提供システム |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CA2102442A1 (en) * | 1992-11-20 | 1994-05-21 | William Gobush | Method and apparatus to determine object striking instrument movement conditions |
| US5697791A (en) * | 1994-11-29 | 1997-12-16 | Nashner; Lewis M. | Apparatus and method for assessment and biofeedback training of body coordination skills critical and ball-strike power and accuracy during athletic activitites |
| US20020064764A1 (en) * | 2000-11-29 | 2002-05-30 | Fishman Lewis R. | Multimedia analysis system and method of use therefor |
| JP2003018583A (ja) | 2001-07-05 | 2003-01-17 | Sony Corp | 多視点任意選択型映像視聴システム、ストリームデータ合成装置、及び、合成ストリームデータ配信サーバ |
| JP4185333B2 (ja) | 2001-09-07 | 2008-11-26 | 松下電器産業株式会社 | 映像配信装置および映像受信装置 |
| US20040070691A1 (en) * | 2002-10-11 | 2004-04-15 | Akio Kojima | Image processing method of sporting events |
| EP1654864A4 (en) * | 2003-03-20 | 2009-05-27 | Ge Security Inc | SYSTEMS AND METHOD FOR MULTISTRIBBIT PROCESSING |
| JP4905474B2 (ja) * | 2009-02-04 | 2012-03-28 | ソニー株式会社 | 映像処理装置、映像処理方法及びプログラム |
| US8754755B2 (en) * | 2010-10-18 | 2014-06-17 | John S. Lapides | Athletic event timing and display systems |
| WO2014008134A1 (en) * | 2012-07-02 | 2014-01-09 | Infomotion Sports Technologies, Inc. | Computer-implemented capture of live sporting event data |
| US9409081B2 (en) * | 2012-11-16 | 2016-08-09 | Rovi Guides, Inc. | Methods and systems for visually distinguishing objects appearing in a media asset |
| US9589207B2 (en) * | 2013-11-21 | 2017-03-07 | Mo' Motion Ventures | Jump shot and athletic activity analysis system |
| US10521671B2 (en) * | 2014-02-28 | 2019-12-31 | Second Spectrum, Inc. | Methods and systems of spatiotemporal pattern recognition for video content development |
| GB201404990D0 (en) * | 2014-03-20 | 2014-05-07 | Appeartome Ltd | Augmented reality apparatus and method |
| EP3176756A4 (en) * | 2014-07-28 | 2017-08-09 | Panasonic Intellectual Property Management Co., Ltd. | Augmented reality display system, terminal device and augmented reality display method |
| KR102396036B1 (ko) * | 2015-05-18 | 2022-05-10 | 엘지전자 주식회사 | 디스플레이 디바이스 및 그 제어 방법 |
| CN105635834A (zh) * | 2015-12-20 | 2016-06-01 | 天脉聚源(北京)科技有限公司 | 显示比赛结果的方法和装置 |
| US10531137B1 (en) * | 2015-12-31 | 2020-01-07 | Mayfonk Athletic Llc | Athletic telemetry system |
| GB2571106A (en) * | 2018-02-16 | 2019-08-21 | Sony Corp | Image processing apparatuses and methods |
| JP6598334B2 (ja) * | 2018-10-29 | 2019-10-30 | みこらった株式会社 | スポーツ競技ライブ観戦システム、スポーツ競技ライブ観戦システムの映像収集配信設備装置及び観戦者端末 |
-
2020
- 2020-11-13 US US17/778,678 patent/US12010403B2/en active Active
- 2020-11-13 JP JP2021565374A patent/JP7632301B2/ja active Active
- 2020-11-13 CN CN202080086211.5A patent/CN114793486B/zh active Active
- 2020-11-13 WO PCT/JP2020/042413 patent/WO2021124750A1/ja not_active Ceased
- 2020-11-13 EP EP20904012.0A patent/EP4068762A4/en active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014236426A (ja) | 2013-06-04 | 2014-12-15 | 株式会社Jvcケンウッド | 画像処理装置および撮像システム |
| JP2017151519A (ja) | 2016-02-22 | 2017-08-31 | 株式会社Jストリーム | コンテンツ付加情報提供システム |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2021124750A1 (ja) | 2021-06-24 |
| CN114793486A (zh) | 2022-07-26 |
| US12010403B2 (en) | 2024-06-11 |
| US20220417618A1 (en) | 2022-12-29 |
| EP4068762A4 (en) | 2023-02-01 |
| EP4068762A1 (en) | 2022-10-05 |
| WO2021124750A1 (ja) | 2021-06-24 |
| CN114793486B (zh) | 2024-11-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11683452B2 (en) | Image-stream windowing system and method | |
| WO2016154663A9 (en) | Sports virtual reality system | |
| JP2020086983A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
| JP7658624B2 (ja) | 競技観戦システム、観戦者端末、映像収集提供装置、観戦者端末用プログラム及び映像収集提供装置用プログラム | |
| AU2014271318B2 (en) | Autonomous systems and methods for still and moving picture production | |
| JP7632301B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
| CN113273171A (zh) | 图像处理装置、图像处理服务器、图像处理方法、计算机程序和存储介质 | |
| JP2016082350A (ja) | スポーツ競技ライブ観戦システム、スポーツ競技ライブ観戦システムの映像収集提供装置及び観戦者端末 | |
| JP2006174124A (ja) | 映像配信再生システム、映像配信装置及び映像再生装置 | |
| JP7282519B2 (ja) | 画像処理装置または画像処理サーバー | |
| JP7289630B2 (ja) | 画像処理装置 | |
| JP6909513B2 (ja) | スポーツ競技ライブ観戦システム、スポーツ競技ライブ観戦システムの映像収集配信設備装置及び観戦者端末 | |
| JP6788293B2 (ja) | スポーツ競技ライブ観戦システム、スポーツ競技ライブ観戦システムの映像収集提供装置及び観戦者端末並びに観戦者端末用プログラム及び映像収集提供装置用プログラム | |
| JP7233886B2 (ja) | 画像処理装置 | |
| JP7158770B2 (ja) | 競技観戦システム、映像収集配信装置、観戦者端末及び映像収集配信装置用のプログラム並びに観戦者端末用のプログラム | |
| JP3146925U (ja) | 特定動画配信システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230926 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20230926 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241001 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241120 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250107 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250120 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7632301 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |