Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6973567B2 - Information processing equipment and programs - Google Patents
[go: Go Back, main page]

JP6973567B2 - Information processing equipment and programs - Google Patents

Information processing equipment and programs Download PDF

Info

Publication number
JP6973567B2
JP6973567B2 JP2020096695A JP2020096695A JP6973567B2 JP 6973567 B2 JP6973567 B2 JP 6973567B2 JP 2020096695 A JP2020096695 A JP 2020096695A JP 2020096695 A JP2020096695 A JP 2020096695A JP 6973567 B2 JP6973567 B2 JP 6973567B2
Authority
JP
Japan
Prior art keywords
feature
image
information
word
feature word
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020096695A
Other languages
Japanese (ja)
Other versions
JP2020162138A (en
Inventor
麻衣 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2015183453A external-priority patent/JP2017058978A/en
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2020096695A priority Critical patent/JP6973567B2/en
Publication of JP2020162138A publication Critical patent/JP2020162138A/en
Application granted granted Critical
Publication of JP6973567B2 publication Critical patent/JP6973567B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、情報処理装置及びプログラムに関する。 The present invention relates to an information processing apparatus and a program.

例えば、利用者が視聴する映画等の時系列情報を複数のパートに区分し、区分された各パートにおいてパートに含まれる音声から得られる当該パートに関する特徴語と、パートに含まれる画像から得られる当該パートに関する特徴画像と、を関連付けて要約を作成する技術がある(特許文献1)。 For example, time-series information such as a movie to be viewed by a user is divided into a plurality of parts, and each of the divided parts is obtained from a feature word related to the part obtained from the sound included in the part and an image included in the part. There is a technique for creating a summary by associating a feature image related to the part with the feature image (Patent Document 1).

特開2008−148121号公報Japanese Unexamined Patent Publication No. 2008-148121

各パートにおける特徴語の重要度は、各パート間で異なるため、特徴語の重要度に応じてユーザーが時系列情報を閲覧した場合、各パートの特徴語の重要度をユーザーに示す必要がある。そこで、複数の特徴画像を含む要約を作成する際に特徴語の重要度に応じて複数の特徴画像の大きさを異ならせることができれば利用者の利便性が向上する。 Since the importance of the feature words in each part is different between each part, when the user browses the time series information according to the importance of the feature words, it is necessary to show the user the importance of the feature words in each part. .. Therefore, when creating a summary including a plurality of feature images, it is possible to make the sizes of the plurality of feature images different according to the importance of the feature words, which improves the convenience of the user.

本発明の目的の一つは、時系列情報を区分した各パートの特徴語の重要度を利用者に把握させることができる情報処理装置を提供することにある。 One of an object of the present invention is to provide an information processing device capable of allowing a user to grasp the importance of a feature word of each part in which time-series information is divided.

本発明に係る情報処理装置は、音声情報及び画像情報を含み時間とともに変化する時系列情報を複数のパートに区分する区分手段と、利用者による操作指示を受け付ける操作指示受付手段と、前記区分されたパートの重要度に応じた大きさで表示された、前記区分されたパートの特徴を示す特徴画像を含む要約画像を表示すよう制御する表示制御手段と、を備え、前記表示制御手段は、前記特徴画像の大きさに応じて、当該特徴画像に関連付けられた、前記区分されたパートの特徴を示す特徴語の表示を制限し、前記操作指示受付手段が、前記特徴語の表示の制限をされた前記特徴画像を指示する操作を受け付けると、前記表示の制限をされた前記特徴語を表示させた前記要約画像を表示するよう制御することを特徴とする。
The information processing apparatus according to the present invention is divided into a classification means for classifying time-series information including voice information and image information and changing with time into a plurality of parts, and an operation instruction receiving means for receiving an operation instruction by a user. was displayed in severity size corresponding to of parts, and a display control unit for controlling so that displays a summary image including a feature image indicating the characteristic of the segmented part, wherein the display control unit , The display of the feature word associated with the feature image indicating the feature of the divided part is restricted according to the size of the feature image, and the operation instruction receiving means limits the display of the feature word. When the operation of instructing the feature image is received, the display is controlled to display the summary image in which the feature word whose display is restricted is displayed.

本発明の請求項2に係る情報処理装置は、請求項1に記載の情報処理装置において、前記区分されたパートの特徴を示す前記特徴語を当該パートに含まれる前記音声情報に基づいて取得する特徴語取得手段をさらに含み、前記特徴語取得手段は、前記区分されたパートに対応する前記音声情報における出現頻度に応じて前記特徴語を取得する。 The information processing apparatus according to claim 2 of the present invention acquires, in the information processing apparatus according to claim 1, the characteristic words indicating the characteristics of the divided parts based on the voice information included in the parts. The feature word acquisition means further includes the feature word acquisition means, and the feature word acquisition means acquires the feature word according to the appearance frequency in the voice information corresponding to the divided part.

本発明に係る情報処理装置は、それぞれが前記重要度に応じた大きさで表示される前記複数の特徴画像を含む前記要約画像を生成する。 The information processing apparatus according to the present invention generates the summary image including the plurality of feature images, each of which is displayed in a size corresponding to the importance.

本発明の請求項3に係る情報処理装置は、請求項1に記載の情報処理装置において、前記特徴画像は、前記重要度が高いほど大きく表示され、前記重要度が低いほど小さく表示される。 The information processing apparatus according to claim 3 of the present invention is the information processing apparatus according to claim 1. In the information processing apparatus according to claim 1, the feature image is displayed larger as the importance is higher, and is displayed smaller as the importance is lower.

本発明の請求項4に係る情報処理装置は、請求項1に記載の情報処理装置において、前記重要度は前記音声情報における前記特徴語の出現回数から決定される。 In the information processing apparatus according to claim 4, the importance is determined from the number of appearances of the characteristic word in the voice information in the information processing apparatus according to claim 1.

本発明の請求項5に係る情報処理装置は、請求項1に記載の情報処理装置において、前記重要度は前記音声情報における前記特徴語の音量から決定される。 The information processing apparatus according to claim 5 of the present invention is the information processing apparatus according to claim 1, wherein the importance is determined from the volume of the characteristic word in the voice information.

本発明の請求項6に係る情報処理装置は、請求項1に記載の情報処理装置において、前記重要度は前記音声情報において前記特徴語が出現する時間の直前に無音の時間があるか否かによって決定される。 The information processing device according to claim 6 of the present invention is the information processing device according to claim 1, wherein the importance is whether or not there is a silent time immediately before the time when the feature word appears in the voice information. Determined by.

本発明に係る情報処理装置は、前記要約画像は、前記特徴語が関連付けられた前記特徴画像を含む。 In the information processing apparatus according to the present invention, the summary image includes the feature image associated with the feature word.

本発明に係る情報処理装置は、前記要約画像は、前記特徴画像の大きさに応じた態様の前記特徴語が関連付けられた前記特徴画像を含む。 In the information processing apparatus according to the present invention, the summary image includes the feature image associated with the feature word in an aspect corresponding to the size of the feature image.

本発明に係る情報処理装置は、前記要約画像生成手段は、前記特徴画像の大きさに応じて当該特徴画像に関連付けられる前記特徴語の表示を制限する。 In the information processing apparatus according to the present invention, the summary image generation means limits the display of the feature word associated with the feature image according to the size of the feature image.

本発明の請求項7に係る情報処理装置は、請求項1に記載の情報処理装置において、前記要約画像生成手段は、前記特徴画像の大きさが予め定められた閾値以下または未満の場合に、当該特徴画像に関連付けられる前記特徴語を表示させない。 The information processing apparatus according to claim 7 of the present invention is the information processing apparatus according to claim 1, wherein the summary image generation means is smaller than or equal to a predetermined threshold value. The feature word associated with the feature image is not displayed.

本発明の請求項8に係る情報処理装置は、請求項1に記載の情報処理装置において、前記要約画像生成手段は、前記特徴画像の大きさが予め定められた閾値以下または未満の場合に、当該特徴画像に関連付けられる前記特徴語の一部を表示させる。 The information processing apparatus according to claim 8 of the present invention is the information processing apparatus according to claim 1, wherein the summary image generation means is smaller than or equal to a predetermined threshold value. A part of the feature word associated with the feature image is displayed.

本発明に係る情報処理装置は、利用者による操作指示を受け付ける操作指示受付手段、をさらに含み、前記操作指示受付手段が、前記特徴語の表示の制限をされた前記特徴画像を指示する操作を受け付けると、前記要約画像生成手段は前記表示の制限をされた前記特徴語を表示させた前記要約画像を生成する。 The information processing apparatus according to the present invention further includes an operation instruction receiving means for receiving an operation instruction by a user, and the operation instruction receiving means performs an operation of instructing the feature image in which the display of the feature word is restricted. Upon receipt, the summary image generation means generates the summary image displaying the feature word whose display is restricted.

本発明に係るプログラムは、音声情報及び画像情報を含み時間とともに変化する時系列情報を複数のパートに区分する区分手段、前記区分されたパートの特徴を示す特徴画像を当該パートに含まれる前記画像情報から取得する特徴画像取得手段、前記区分されたパートの特徴を示す特徴語を当該パートに含まれる前記音声情報に基づいて取得する特徴語取得手段、前記区分されたパートの特徴語の重要度に応じた態様で表示された複数の前記特徴画像を含む要約画像を生成する要約画像生成手段、としてコンピュータを機能させるためのプログラムである。 The program according to the present invention is a classification means that divides time-series information including audio information and image information and changes with time into a plurality of parts, and the image including a feature image showing the characteristics of the divided parts. A feature image acquisition means acquired from information, a feature word acquisition means for acquiring a feature word indicating a feature of the divided part based on the audio information included in the part, and an importance of the feature word of the divided part. It is a program for operating a computer as a summary image generation means for generating a summary image including a plurality of the feature images displayed in a mode corresponding to the above.

本発明によれば、時系列情報を区分した各パートの特徴語の重要度を利用者に把握させることができる。 According to the present invention, it is possible for the user to grasp the importance of the characteristic words of each part in which the time series information is divided.

本発明の請求項2によれば、各パートにおける出現頻度に応じて特徴語を決定することができる。 According to claim 2, the feature word can be determined according to the frequency of appearance in each part.

本発明によれば、特徴画像の大きさにより各パートの特徴語の重要度を利用者に把握させることができる。 According to the present invention, the user can be made to grasp the importance of the feature word of each part by the size of the feature image.

本発明の請求項3によれば、特徴画像が大きいほど特徴語の重要度が高く、特徴画像が小さいほど特徴語の重要度が低い、ことを利用者に把握させることができる。 According to claim 3 of the present invention, it is possible to make the user understand that the larger the feature image, the higher the importance of the feature word, and the smaller the feature image, the lower the importance of the feature word.

本発明の請求項4によれば、音声情報における特徴語の出現回数から特徴語の重要度を決定することができる。 According to claim 4, the importance of the feature word can be determined from the number of appearances of the feature word in the voice information.

本発明の請求項5によれば、音声情報における特徴語の音量から特徴語の重要度を決定することができる。 According to claim 5, the importance of the feature word can be determined from the volume of the feature word in the voice information.

本発明の請求項6によれば、音声情報において特徴語が出現する時間の直前に無音の時間があるか否かから特徴語の重要度を決定することができる。 According to claim 6, the importance of the feature word can be determined from whether or not there is a silent time immediately before the time when the feature word appears in the voice information.

本発明によれば、利用者に各パートの情報把握をさせやすくする。 According to the present invention, it is easy for the user to grasp the information of each part.

本発明によれば、特徴語の表示態様から各パートの特徴語の重要度を利用者に把握させることができる。 According to the present invention, it is possible to make the user grasp the importance of the feature word of each part from the display mode of the feature word.

本発明によれば、特徴語の重要度の低いパートについての情報量を少なくすることができる。 According to the present invention, it is possible to reduce the amount of information about the less important part of the feature word.

本発明によれば、特徴語の重要度の低いパートについては利用者が要求したときだけ情報を提供することができる。 According to the present invention, it is possible to provide information only when the user requests a less important part of the feature word.

本実施形態に係る情報処理システムのハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware composition of the information processing system which concerns on this embodiment. 本実施形態に係るサーバが実現する主な機能の一例を示す機能ブロック図である。It is a functional block diagram which shows an example of the main function realized by the server which concerns on this embodiment. 本実施形態に係る要約画像の一例を示す図である。It is a figure which shows an example of the summary image which concerns on this embodiment. 本実施形態に係るサーバが実行する要約画像生成処理の一例を示すフロー図である。It is a flow diagram which shows an example of the summary image generation processing executed by the server which concerns on this embodiment. 本実施形態に係るサーバが実行する特徴情報取得処理の一例を示すフロー図である。It is a flow diagram which shows an example of the feature information acquisition process which a server which concerns on this embodiment executes. 本実施形態に係るサーバが実行する表示態様設定処理の一例を示すフロー図である。It is a flow diagram which shows an example of the display mode setting process executed by the server which concerns on this embodiment. 本実施形態に係る要約画像の一例を示す図である。It is a figure which shows an example of the summary image which concerns on this embodiment. 本実施形態に係るサーバが実行する表示態様設定処理の一例を示すフロー図である。It is a flow diagram which shows an example of the display mode setting process executed by the server which concerns on this embodiment. 本実施形態に係る要約画像の一例を示す図である。It is a figure which shows an example of the summary image which concerns on this embodiment.

以下、本発明の一実施形態について図面に基づき詳細に説明する。 Hereinafter, an embodiment of the present invention will be described in detail with reference to the drawings.

図1は、本実施形態に係る情報処理システム1のハードウェア構成の一例を示す図である。図1に示すように、本実施形態に係る情報処理システム1は、ネットワークを介して接続されるサーバ10及び端末装置20を含んで構成される。なお、図1においては、情報処理システム1は、1つの端末装置20のみを含んでいるが、その他複数の端末装置20を含んでいてもよい。 FIG. 1 is a diagram showing an example of a hardware configuration of the information processing system 1 according to the present embodiment. As shown in FIG. 1, the information processing system 1 according to the present embodiment includes a server 10 and a terminal device 20 connected via a network. In FIG. 1, the information processing system 1 includes only one terminal device 20, but may include a plurality of other terminal devices 20.

サーバ10は、例えばサーバコンピュータ等の情報処理装置であって、制御部11と、記憶部12と、通信部13と、を含んで構成される。 The server 10 is an information processing device such as a server computer, and includes a control unit 11, a storage unit 12, and a communication unit 13.

制御部11は、例えばCPU等であって、記憶部12に格納されるプログラムに従って各種の情報処理を実行する。 The control unit 11 is, for example, a CPU or the like, and executes various information processing according to a program stored in the storage unit 12.

記憶部12は、例えばRAMやEOM等のメモリ素子、ハードディスクなどを含んで構成される。記憶部12は、制御部11によって実行されるプログラムや、各種のデータを保持する。また、記憶部12は、制御部11のワークメモリとしても動作する。 The storage unit 12 includes, for example, a memory element such as RAM or EOM, a hard disk, or the like. The storage unit 12 holds a program executed by the control unit 11 and various data. The storage unit 12 also operates as a work memory of the control unit 11.

通信部13は、例えばLANカード等のネットワークインタフェースであって、LANや無線通信網などの通信手段を介して、サーバ10との間で情報の送受信を行う。なお、制御部11、記憶部12、通信部13は、それぞれバスを介して接続される。 The communication unit 13 is a network interface such as a LAN card, and transmits / receives information to / from the server 10 via a communication means such as a LAN or a wireless communication network. The control unit 11, the storage unit 12, and the communication unit 13 are each connected via a bus.

端末装置20は、例えばパーソナルコンピュータ等の情報処理装置であって、制御部21と、記憶部22と、通信部23と、表示部24と、操作部25と、を含んで構成される。上記各部21〜25はバスを介して接続される。なお、制御部21、記憶部22、及び通信部23は、それぞれ制御部11、記憶部12、及び通信部13と同様の構成であってよい。 The terminal device 20 is an information processing device such as a personal computer, and includes a control unit 21, a storage unit 22, a communication unit 23, a display unit 24, and an operation unit 25. Each of the above parts 21 to 25 is connected via a bus. The control unit 21, the storage unit 22, and the communication unit 23 may have the same configuration as the control unit 11, the storage unit 12, and the communication unit 13, respectively.

表示部24は、例えば液晶ディスプレイ、CRTディスプレイ、有機ELディスプレイ等であって、制御部21からの指示に従って、情報の表示を行う。 The display unit 24 is, for example, a liquid crystal display, a CRT display, an organic EL display, or the like, and displays information according to an instruction from the control unit 21.

操作部25は、例えばキーボード、マウス、ボタンやタッチパネル等であって、利用者の指示操作を受け付けて、当該指示操作の内容を制御部21に出力する。 The operation unit 25 is, for example, a keyboard, a mouse, a button, a touch panel, or the like, and receives a user's instruction operation and outputs the content of the instruction operation to the control unit 21.

次に、本実施形態に係る情報処理システム1が実現する機能について、説明する。図2は、本実施形態に係るサーバ10が実現する主な機能の一例を示す機能ブロック図である。図2に示すように、サーバ10は、機能的には、時系列情報取得部50、パート区分部51、特徴語取得部52、特徴画像取得部53、特徴情報関連付け部54、重要度算出部55、表示態様設定部56、及び要約画像生成部57を含んで構成される。これらの機能は、記憶部12に記憶されたプログラムを制御部11が実行することにより実現される。
このプログラムは、例えば、磁気ディスク(HDD、FD(Flexible Disk))など)、光記録媒体(光ディスク(CD(Compact Disk)、DVD(Digital Versatile Disk))など)、光磁気記録媒体、半導体メモリ(フラッシュROMなど)などのコンピュータが読み取り可能な記録媒体を介して、あるいは、インターネットなどの通信手段を介してサーバ10に供給される。
Next, the functions realized by the information processing system 1 according to the present embodiment will be described. FIG. 2 is a functional block diagram showing an example of the main functions realized by the server 10 according to the present embodiment. As shown in FIG. 2, functionally, the server 10 has a time-series information acquisition unit 50, a part division unit 51, a feature word acquisition unit 52, a feature image acquisition unit 53, a feature information association unit 54, and an importance calculation unit. It includes 55, a display mode setting unit 56, and a summary image generation unit 57. These functions are realized by the control unit 11 executing the program stored in the storage unit 12.
This program includes, for example, a magnetic disk (HDD, FD (Flexible Disk), etc.), an optical recording medium (optical disc (CD (Compact Disk), DVD (Digital Versatile Disk), etc.)), an optical magnetic recording medium, a semiconductor memory ( It is supplied to the server 10 via a computer-readable recording medium such as a flash ROM) or via a communication means such as the Internet.

時系列情報取得部50は、時系列情報を取得する。ここで、時系列情報は、時間とともに変化する情報であり、本実施形態では音声情報と、複数のフレーム画像を含む画像情報と、を含む情報とする。具体的な時系列情報としては、講演を記録した講演情報や、テレビやインターネットで配信されている映像を記録した配信記録情報であってよい。当該時系列情報は、サーバ10の記憶部12に記憶されていてもよいし、端末装置20から提供されてもよい。 The time-series information acquisition unit 50 acquires time-series information. Here, the time-series information is information that changes with time, and in the present embodiment, it is information including audio information and image information including a plurality of frame images. The specific time-series information may be lecture information recording a lecture or distribution record information recording a video distributed on television or the Internet. The time-series information may be stored in the storage unit 12 of the server 10 or may be provided by the terminal device 20.

パート区分部51は、時系列情報を複数のパートに区分する。パート区分部51は、時系列情報に含まれる音声情報及び画像情報を複数のパートに区分する。パート区分部51は、例えば、連続する2つのフレーム画像のカラーヒストグラムの差、画素差、離散コサイン変換などの変換係数差などを算出し、算出された差が所定の閾値以上となった場合に当該2つのフレーム画像をパートの区切りとする。 The part division unit 51 divides the time series information into a plurality of parts. The part division unit 51 divides the audio information and the image information included in the time-series information into a plurality of parts. The part division section 51 calculates, for example, the difference between the color histograms of two consecutive frame images, the pixel difference, the conversion coefficient difference such as the discrete cosine transform, and the like, and when the calculated difference becomes equal to or more than a predetermined threshold value. The two frame images are used as part delimiters.

特徴語取得部52は、パート区分部51が区分した各パートにおいて、当該パートの特徴を示す特徴語を取得する。本実施形態に係る特徴語取得部52は、音声情報に応じて特徴語を取得する。まず特徴語取得部52は、各パートの音声情報に対して音声認識を行い文字情報に変換する。そして特徴語取得部52は、変換した文字情報から特徴語を取得する。例えば、特徴語取得部52は、変換した文字情報のなかから出現する頻度の最も高い単語を特徴語として抽出する。 The feature word acquisition unit 52 acquires feature words indicating the characteristics of the part in each part classified by the part division unit 51. The feature word acquisition unit 52 according to the present embodiment acquires feature words according to voice information. First, the feature word acquisition unit 52 performs voice recognition on the voice information of each part and converts it into character information. Then, the feature word acquisition unit 52 acquires the feature word from the converted character information. For example, the feature word acquisition unit 52 extracts the word most frequently appearing from the converted character information as a feature word.

特徴画像取得部53は、パート区分部51が区分した各パートにおいて、当該パートの特徴を示す特徴画像を取得する。特徴画像取得部53は、特徴語取得部52が取得した特徴語に対応するフレーム画像を特徴画像として取得する。具体的には、特徴画像取得部53は、音声情報における特徴語の出現位置を取得し、当該出現位置に対応するフレーム画像を特徴画像として取得する。なお特徴画像取得部53は、画像情報に基づいて特徴画像を取得してもよい。例えば特徴画像取得部53は、パートにおいて最初に出現するフレーム画像を特徴画像として取得してもよいし、パートに含まれる複数のフレーム画像から所定の基準を満たすフレーム画像を特徴画像として取得してもよい。 The feature image acquisition unit 53 acquires a feature image showing the characteristics of the part in each part divided by the part division unit 51. The feature image acquisition unit 53 acquires a frame image corresponding to the feature word acquired by the feature word acquisition unit 52 as a feature image. Specifically, the feature image acquisition unit 53 acquires the appearance position of the feature word in the voice information, and acquires the frame image corresponding to the appearance position as the feature image. The feature image acquisition unit 53 may acquire a feature image based on the image information. For example, the feature image acquisition unit 53 may acquire a frame image that first appears in a part as a feature image, or acquires a frame image satisfying a predetermined criterion from a plurality of frame images included in the part as a feature image. May be good.

特徴情報関連付け部54は、特徴語取得部52が取得した特徴語と、特徴画像取得部53が取得した特徴画像と、を関連付けた関連付け情報を関連付け情報記憶部に保存する。
関連付け情報は、パート毎に特徴語と特徴画像とが関連付けられていることとする。関連付け情報には、パート毎に特徴語や特徴画像に関連する情報がさらに関連付けられてもよい。例えば時系列情報において特徴語が出現する出現位置(例えば再生時間など)や、時系列情報において特徴画像が出現する出現位置などが関連付けられてもよい。
The feature information association unit 54 stores the association information in which the feature word acquired by the feature word acquisition unit 52 and the feature image acquired by the feature image acquisition unit 53 are associated with each other in the association information storage unit.
As for the association information, it is assumed that the feature word and the feature image are associated with each part. Information related to feature words and feature images may be further associated with the association information for each part. For example, the appearance position where the feature word appears in the time-series information (for example, the reproduction time), the appearance position where the feature image appears in the time-series information, and the like may be associated.

重要度算出部55は、パート区分部51が区分した各パートの重要度を算出する。重要度算出部55は、特徴語取得部52が取得した特徴語に基づいて各パートの重要度を算出する。例えば、重要度算出部55は、音声情報において特徴語が出現する時間の音量に基づいて重要度を算出する。具体的には重要度算出部55は、特徴語が出現する時間の音量が大きいほど重要度を高く算出し、特徴語が出現する時間の音量が小さいほど重要度を低く算出する。これは音量が大きいほど主張したい内容が含まれていると考えられるからである。また重要度算出部55は、音声情報において特徴語が出現する時間の直前に無音の時間があるか否かにより重要度を算出してもよい。具体的には重要度算出部55は、特徴語が出現する時間の直前に無音の時間がある場合に重要度を高く算出する。これは時系列情報が講演の記録である場合など、聴衆の注意を惹きつけるためにあえて沈黙していると判断し、無音の時間の後に主張したい内容が含まれていると考えられるからである。また重要度算出部55は、各パートにおける特徴語の出現回数に応じて重要度を算出してもよい。これは、パート内における特徴語の出現回数が多いほど、該パートの特徴語が重要だと考えられるからである。なお、重要度算出部55は、特徴画像に基づいて重要度を算出してもよい。例えば重要度算出部55は、特徴画像のカラーヒストグラムや画像分布等から重要度を算出してもよい。また重要度算出部55は、上述した重要度算出手法の2つ以上を組み合わせて各パートの重要度を算出してもよい。例えば、重要度算出部55は、特徴語と特徴画像とに基づいて重要度を算出してもよい。 The importance calculation unit 55 calculates the importance of each part classified by the part division unit 51. The importance calculation unit 55 calculates the importance of each part based on the feature words acquired by the feature word acquisition unit 52. For example, the importance calculation unit 55 calculates the importance based on the volume of the time when the feature word appears in the voice information. Specifically, the importance calculation unit 55 calculates the importance as higher as the volume of the time when the feature word appears, and lowers the importance as the volume of the time when the feature word appears is lower. This is because it is considered that the louder the volume, the more the content that one wants to insist. Further, the importance calculation unit 55 may calculate the importance depending on whether or not there is a silent time immediately before the time when the feature word appears in the voice information. Specifically, the importance calculation unit 55 calculates the importance high when there is a silent time immediately before the time when the feature word appears. This is because, for example, when the time-series information is a record of a lecture, it is judged that the information is silent in order to attract the attention of the audience, and it is considered that the content to be claimed after the silent time is included. .. Further, the importance calculation unit 55 may calculate the importance according to the number of appearances of the feature word in each part. This is because it is considered that the characteristic word of the part is more important as the number of appearances of the characteristic word in the part increases. The importance calculation unit 55 may calculate the importance based on the feature image. For example, the importance calculation unit 55 may calculate the importance from the color histogram of the feature image, the image distribution, and the like. Further, the importance calculation unit 55 may calculate the importance of each part by combining two or more of the above-mentioned importance calculation methods. For example, the importance calculation unit 55 may calculate the importance based on the feature word and the feature image.

表示態様設定部56は、要約画像生成部57が複数の特徴画像を用いて時系列情報の要約を表す要約画像を生成する際の、各特徴画像の表示態様を設定する。そして、要約画像生成部57は、表示態様設定部56が設定した表示態様にしたがって要約画像を生成する。 The display mode setting unit 56 sets the display mode of each feature image when the summary image generation unit 57 generates a summary image representing a summary of time-series information using a plurality of feature images. Then, the summary image generation unit 57 generates a summary image according to the display mode set by the display mode setting unit 56.

表示態様設定部56は、重要度算出部55が算出した各パートの重要度に基づいて、各特徴画像の表示態様を設定する。具体的には表示態様設定部56は、複数の特徴画像の大きさを重要度に応じて異ならせる。つまり表示態様設定部56は、重要度の高いパートの特徴画像を大きく、重要度の低いパートの特徴画像を小さく表示されるよう設定する。 The display mode setting unit 56 sets the display mode of each feature image based on the importance of each part calculated by the importance calculation unit 55. Specifically, the display mode setting unit 56 makes the sizes of the plurality of feature images different according to the importance. That is, the display mode setting unit 56 sets the feature image of the high-importance part to be displayed large and the feature image of the low-importance part to be displayed small.

図3は、本実施形態に係る要約画像100の一例を示す図である。図3に示す要約画像100は、複数のコマ110を含み、各コマ110に特徴画像が表示される。複数のコマ110は、それぞれ大きさが異なっており、例えばコマ110aはコマ110bより大きい。そして複数の特徴画像は、各コマ110の大きさに応じてそれぞれ異なる大きさで表示されている。これらコマの大きさ、特徴画像の大きさは上述したように重要度に応じて設定されている。なお、表示態様設定部56は、特徴画像の大きさを設定してもよいし、要約画像100の各コマ110の大きさを設定してもよい。表示態様設定部56が各コマ110の大きさを設定する場合は、要約画像生成部57が各特徴画像を対応するコマ110に応じた大きさに変換して表示させればよい。 FIG. 3 is a diagram showing an example of a summary image 100 according to the present embodiment. The summary image 100 shown in FIG. 3 includes a plurality of frames 110, and a feature image is displayed in each frame 110. The plurality of frames 110 have different sizes, for example, the frame 110a is larger than the frame 110b. The plurality of feature images are displayed in different sizes according to the size of each frame 110. The size of these frames and the size of the feature image are set according to the importance as described above. The display mode setting unit 56 may set the size of the feature image or may set the size of each frame 110 of the summary image 100. When the display mode setting unit 56 sets the size of each frame 110, the summary image generation unit 57 may convert each feature image into a size corresponding to the corresponding frame 110 and display it.

図3に示すような要約画像100は、ネットワークを介して端末装置20へ送信され、端末装置20の表示部24に表示される。端末装置20の利用者は、端末装置20の表示部24に表示された要約画像100を見ることができる。そして、利用者がいずれかの特徴画像を選択すると、当該特徴画像の出現位置から時系列情報が再生され利用者が視聴できるようになっている。このように利用者はコマ割りされた特徴画像の大きさから重要度を判断することができ、重要度に応じて再生位置を選択することが可能となる。 The summary image 100 as shown in FIG. 3 is transmitted to the terminal device 20 via the network and displayed on the display unit 24 of the terminal device 20. The user of the terminal device 20 can see the summary image 100 displayed on the display unit 24 of the terminal device 20. Then, when the user selects one of the feature images, the time-series information is reproduced from the appearance position of the feature image so that the user can view it. In this way, the user can determine the importance from the size of the feature image divided into frames, and can select the reproduction position according to the importance.

また、表示態様設定部56は、要約画像100における複数の特徴画像それぞれの表示位置を設定してもよい。例えば表示態様設定部56は、時系列順に特徴画像が並ぶように各特徴画像の表示位置を設定してもよい。また表示態様設定部56は、特徴画像の大きさに応じて各特徴画像の表示位置を設定してもよい。例えば表示態様設定部56は特徴画像の大きさが大きい順に並ぶよう各特徴画像の表示位置を設定してもよいし、最も大きい特徴画像が要約画像100の中心に位置するよう各特徴画像の表示位置を設定してもよい。 Further, the display mode setting unit 56 may set the display position of each of the plurality of feature images in the summary image 100. For example, the display mode setting unit 56 may set the display position of each feature image so that the feature images are arranged in chronological order. Further, the display mode setting unit 56 may set the display position of each feature image according to the size of the feature image. For example, the display mode setting unit 56 may set the display position of each feature image so that the feature images are arranged in descending order of size, or display each feature image so that the largest feature image is located at the center of the summary image 100. You may set the position.

また、図3に示す要約画像100において各特徴画像に当該特徴画像に関連付けられている特徴語を文字で示した文字画像を重畳して表示させる場合がある。このとき、特徴画像の大きさが予め定められた閾値以下または未満の場合に、特徴語文字をすべて表示できないことがある。例えば、特徴語の文字数に対して特徴画像が小さいと、特徴語の文字をすべて表示できない場合がある。そこで、表示態様設定部56は、各特徴画像の大きさに応じて文字画像を調整する。例えば表示態様設定部56は、特徴画像の大きさに応じて特徴語の文字がすべて表示されるよう文字画像のサイズを小さくする。また表示態様設定部56は、特徴画像の大きさに対して特徴語の文字をすべて表示できない場合には、文字画像の表示を制限させてもよい。この場合、要約画像100を見た利用者が、文字画像の表示が制限されている特徴画像にマウスオーバーすると、文字画像が表示されるようにしてもよい。これらの具体的な処理については後述する。 Further, in the summary image 100 shown in FIG. 3, a character image in which a feature word associated with the feature image is indicated by characters may be superimposed and displayed on each feature image. At this time, if the size of the feature image is less than or equal to a predetermined threshold value, all the feature word characters may not be displayed. For example, if the feature image is small with respect to the number of characters of the feature word, it may not be possible to display all the characters of the feature word. Therefore, the display mode setting unit 56 adjusts the character image according to the size of each feature image. For example, the display mode setting unit 56 reduces the size of the character image so that all the characters of the feature word are displayed according to the size of the feature image. Further, the display mode setting unit 56 may limit the display of the character image when all the characters of the feature word cannot be displayed with respect to the size of the feature image. In this case, when the user who sees the summary image 100 mouses over the feature image in which the display of the character image is restricted, the character image may be displayed. These specific processes will be described later.

ここで、本実施形態に係るサーバ10が実行する要約画像生成処理の一例について図4に示すフロー図を用いて説明する。 Here, an example of the summary image generation process executed by the server 10 according to the present embodiment will be described with reference to the flow chart shown in FIG.

まず、時系列情報取得部50が、時系列情報を取得する(S101)。ここで時系列情報は、音声情報と、複数のフレーム画像を含む画像情報と、を含む。 First, the time-series information acquisition unit 50 acquires the time-series information (S101). Here, the time-series information includes audio information and image information including a plurality of frame images.

パート区分部51は、時系列情報取得部50が取得した時系列情報を複数のパートに区分する(S102)。ここでパート区分部51は、時系列情報をK個のパートに区分し、区分した各パートに時系列順に1〜Kの番号を付す。 The part division unit 51 divides the time series information acquired by the time series information acquisition unit 50 into a plurality of parts (S102). Here, the part division unit 51 divides the time-series information into K parts, and assigns numbers 1 to K to each of the divided parts in chronological order.

そして、変数nにn=1の初期値が設定され(S103)、特徴情報取得処理が実行される(S104)。ここで変数nは、1以上の整数値をとるカウンタ変数である。 Then, the initial value of n = 1 is set in the variable n (S103), and the feature information acquisition process is executed (S104). Here, the variable n is a counter variable that takes an integer value of 1 or more.

本実施形態に係るサーバが実行する特徴情報取得処理の一例については図5のフロー図を用いて説明する。ここで特徴情報取得処理により取得される特徴情報は各パートの特徴を示す情報であり、本実施形態においては特徴語と特徴画像とが取得される。 An example of the feature information acquisition process executed by the server according to the present embodiment will be described with reference to the flow chart of FIG. Here, the feature information acquired by the feature information acquisition process is information indicating the features of each part, and in the present embodiment, the feature words and the feature images are acquired.

まず特徴語取得部52は、n番目パートの音声情報を取得する(S201)。 First, the feature word acquisition unit 52 acquires the voice information of the nth part (S201).

次に特徴語取得部52は、n番目パートの音声情報を音声認識することで文字情報に変換する(S202)。 Next, the feature word acquisition unit 52 converts the voice information of the nth part into character information by voice recognition (S202).

そして特徴情報取得部は、処理S202において得られた文字情報から、n番目パートの特徴を示す特徴語を抽出する(S203)。 Then, the feature information acquisition unit extracts the feature word indicating the feature of the nth part from the character information obtained in the process S202 (S203).

次に特徴画像取得部53は、処理S203において得られた特徴語の、音声情報における出現位置を取得し、当該出現位置に対応するフレーム画像をn番目パートの特徴を示す特徴画像として取得する(S204)。 Next, the feature image acquisition unit 53 acquires the appearance position of the feature word obtained in the process S203 in the voice information, and acquires the frame image corresponding to the appearance position as the feature image showing the feature of the nth part ( S204).

そして、特徴情報関連付け部54が、処理S203において取得された特徴語と、処理S204において取得された特徴画像と、を関連付けて(S205)、リターンする。ここで特徴情報関連付け部54は、パートを識別する番号と、特徴語と、特徴画像と、を関連付けた関連付け情報を記憶部に記憶することとする。 Then, the feature information association unit 54 associates the feature word acquired in the process S203 with the feature image acquired in the process S204 (S205), and returns. Here, the feature information association unit 54 stores the association information in which the number for identifying the part, the feature word, and the feature image are associated with each other in the storage unit.

処理S104における特徴情報抽出処理が終了すると、n=Kが成立するか否かが判断される(S105)。つまりK個のパートすべてにおいて特徴情報抽出処理が行われたかを判断される。 When the feature information extraction process in the process S104 is completed, it is determined whether or not n = K is satisfied (S105). That is, it is determined whether the feature information extraction process has been performed in all K parts.

処理S105の判断の結果、n=Kが成立しないと判断された場合は(S105:N)、変数nに1が加算され(S106)、処理S104以降の処理が繰り返し実行される。 If it is determined that n = K does not hold as a result of the determination of the process S105 (S105: N), 1 is added to the variable n (S106), and the processes after the process S104 are repeatedly executed.

処理S105の判断の結果、n=Kが成立すると判断された場合は(S105:Y)、重要度算出部55がK個のパートそれぞれについての重要度を算出する(S107)。ここで重要度算出部55により算出された重要度は、関連付け情報に追加して関連付けられて記憶されることとする。 If it is determined that n = K is satisfied as a result of the determination in the process S105 (S105: Y), the importance calculation unit 55 calculates the importance of each of the K parts (S107). Here, the importance calculated by the importance calculation unit 55 is added to the association information and is associated and stored.

そして、表示態様設定処理が実行される(S108)。本実施形態に係るサーバが実行する表示態様設定処理の一例については図6のフロー図を用いて説明する。 Then, the display mode setting process is executed (S108). An example of the display mode setting process executed by the server according to the present embodiment will be described with reference to the flow chart of FIG.

図6に示すように、まず、表示態様設定部56は、処理S107において重要度算出部55が算出した各パートの重要度に基づいて、各パートの特徴画像を表示させるコマ110の大きさを設定する(S301)。ここでは表示態様設定部56は、K個のパートにそれぞれ対応するK個のコマ110の大きさを設定する。例えば表示態様設定部56は、重要度の高いパートに対応するコマ110を大きく、重要度の低いパートに対応するコマ110を小さく設定する。ここで表示態様設定部56が設定した情報は各パートの関連付け情報に追加して関連付ける。 As shown in FIG. 6, first, the display mode setting unit 56 determines the size of the frame 110 for displaying the feature image of each part based on the importance of each part calculated by the importance calculation unit 55 in the process S107. Set (S301). Here, the display mode setting unit 56 sets the size of the K frames 110 corresponding to the K parts, respectively. For example, the display mode setting unit 56 sets the frame 110 corresponding to the high-importance part to be large and the frame 110 corresponding to the low-importance part to be small. Here, the information set by the display mode setting unit 56 is added to and associated with the association information of each part.

次に、変数mにm=1の初期値が設定される(S302)。ここで変数mは、1以上の整数値をとるカウンタ変数である。 Next, the initial value of m = 1 is set in the variable m (S302). Here, the variable m is a counter variable that takes an integer value of 1 or more.

そして表示態様設定部56は、mパートの特徴語の文字数を算出する(S303)。また表示態様設定部56は、mパートに対応するコマ110に文字を配置する際の配置可能な文字数を算出する(S304)。ここでコマ110に配置可能な文字数は、コマ110の大きさと使用する文字サイズとに応じて予め定められていることとする。 Then, the display mode setting unit 56 calculates the number of characters of the feature word of the m part (S303). Further, the display mode setting unit 56 calculates the number of characters that can be arranged when the characters are arranged in the frame 110 corresponding to the m part (S304). Here, the number of characters that can be arranged in the frame 110 is predetermined according to the size of the frame 110 and the character size to be used.

そして配置可能な文字数が、特徴語の文字数以上となるかが判断される(S305)。
つまり処理S301において設定されたコマ110に特徴語の文字をすべて配置することができるかが判断される。
Then, it is determined whether the number of characters that can be arranged is equal to or greater than the number of characters of the feature word (S305).
That is, it is determined whether all the characters of the feature word can be arranged in the frame 110 set in the process S301.

処理S305の判断の結果、配置可能な文字数が特徴語の文字数以上となる場合は(S305:Y)、表示態様設定部56は、特徴語の文字を示す特徴語文字データを特徴画像に関連付ける(S306)。ここで表示態様設定部56は、mパートに対応する関連付け情報に特徴語文字データを追加して関連付けて記憶する。特徴語文字データは、文字のフォント、配置位置等の情報を含んでいてもよい。なお表示態様設定部56が、特徴語文字データを関連付けた特徴画像を新たに生成して記憶してもよい。 If the number of characters that can be arranged is equal to or greater than the number of characters of the feature word as a result of the determination of the process S305 (S305: Y), the display mode setting unit 56 associates the feature word character data indicating the character of the feature word with the feature image (S305: Y). S306). Here, the display mode setting unit 56 adds feature word character data to the association information corresponding to the m part, associates it, and stores it. The feature word character data may include information such as a character font and an arrangement position. The display mode setting unit 56 may newly generate and store a feature image associated with the feature word character data.

そして、m=Kが成立するか否かが判断される(S307)。つまりK個のパートすべてにおいて特徴語文字データが関連付けられたか判断される。 Then, it is determined whether or not m = K holds (S307). That is, it is determined whether the feature word character data is associated with all K parts.

処理S307の判断の結果、m=Kが成立しないと判断された場合は(S307:N)、変数mに1が加算され(S308)、処理S303以降の処理が繰り返し実行される。 If it is determined that m = K does not hold as a result of the determination of the process S307 (S307: N), 1 is added to the variable m (S308), and the processes after the process S303 are repeatedly executed.

処理S307の判断の結果、m=Kが成立すると判断された場合は(S307:Y)、リターンする。 If it is determined that m = K is satisfied as a result of the determination of the process S307 (S307: Y), the process returns.

また、処理S305の判断の結果、配置可能な文字数が特徴語の文字数より少ない場合は(S305:N)、表示態様設定部56は、コマ110に配置する特徴語の文字を示す特徴語文字データを調整する(S309)。例えば表示態様設定部56は、特徴語文字データの文字サイズを、コマ110に配置可能なサイズに変更する。そして、処理S307以降の処理を実行する。なお、表示態様設定部56は、特徴語の一部を特徴語文字データとして特徴画像に関連付けてもよい。また表示態様設定部56は、特徴語文字データが示す特徴語の文字をテロップ表示させるよう設定してもよい。 Further, as a result of the determination of the process S305, when the number of characters that can be arranged is smaller than the number of characters of the feature word (S305: N), the display mode setting unit 56 indicates the feature word character data indicating the character of the feature word to be arranged in the frame 110. Is adjusted (S309). For example, the display mode setting unit 56 changes the character size of the feature word character data to a size that can be arranged in the frame 110. Then, the processes after the process S307 are executed. The display mode setting unit 56 may associate a part of the feature word with the feature image as the feature word character data. Further, the display mode setting unit 56 may be set to display the character of the characteristic word indicated by the characteristic word character data as a telop.

表示態様設定処理が終了すると、要約画像生成部57が表示態様設定処理において設定された表示態様に従って要約画像100を生成し(S109)、要約画像生成処理が終了する。ここでは要約画像生成部57は、関連付け情報のパート毎に、関連付けられている各種情報に従って要約画像100を生成すればよい。 When the display mode setting process is completed, the summary image generation unit 57 generates the summary image 100 according to the display mode set in the display mode setting process (S109), and the summary image generation process ends. Here, the summary image generation unit 57 may generate the summary image 100 according to various associated information for each part of the association information.

図7は、本実施形態に係る要約画像100の一例を示す図である。図7は、処理S109において要約画像生成部57が生成する要約画像100の一例を示している。図7に示す要約画像100は、各コマ110の特徴画像に特徴語文字データに対応する特徴語文字画像200が重畳されている。そして、小さいコマ110bの特徴画像に重畳されている特徴語文字画像200bは、大きいコマ110aの特徴画像に重畳されている特徴語文字画像200aより文字サイズが小さくなっている。このように小さいコマ110bの特徴画像にも特徴語の文字をすべて表示させることで、利用者に各パートの情報把握をさせやすくする。 FIG. 7 is a diagram showing an example of a summary image 100 according to the present embodiment. FIG. 7 shows an example of the summary image 100 generated by the summary image generation unit 57 in the process S109. In the summary image 100 shown in FIG. 7, the feature word character image 200 corresponding to the feature word character data is superimposed on the feature image of each frame 110. The character size of the feature word character image 200b superimposed on the feature image of the small frame 110b is smaller than that of the feature word character image 200a superimposed on the feature image of the large frame 110a. By displaying all the characters of the feature word on the feature image of the small frame 110b in this way, it is easy for the user to grasp the information of each part.

次に、本実施形態に係るサーバが実行する表示態様設定処理の他の例について図8のフロー図を用いて説明する。ここでは特徴画像に特徴語文字画像を重畳させない場合の処理について説明する。 Next, another example of the display mode setting process executed by the server according to the present embodiment will be described with reference to the flow chart of FIG. Here, the processing when the feature word character image is not superimposed on the feature image will be described.

まず表示態様設定部56は、処理S107において重要度算出部55が算出した各パートの重要度に基づいて、各パートの特徴画像を表示させるコマ110の大きさを設定する
(S401)。
First, the display mode setting unit 56 sets the size of the frame 110 for displaying the feature image of each part based on the importance of each part calculated by the importance calculation unit 55 in the process S107 (S401).

次に表示態様設定部56は、特徴語文字画像を重畳させないパートを選択する(S402)。ここでは表示態様設定部56は、配置可能文字数が特徴語文字数より少ないパートを選択する。なお、表示態様設定部56は、すべてのパートを選択してもよい。 Next, the display mode setting unit 56 selects a part on which the feature word character image is not superimposed (S402). Here, the display mode setting unit 56 selects a part in which the number of characters that can be arranged is smaller than the number of characteristic word characters. The display mode setting unit 56 may select all the parts.

そして表示態様設定部56は、特徴語文字画像を重畳させないパートについて、特徴語文字画像の代わりに重畳させる代替データを生成する(S403)。ここで代替データは、特徴語文字画像は重畳されていないが文字情報が存在することを、要約画像100を見る利用者に知らせるためのものである。代替データとしては、例えば画像アイコンや、「・・・」などの文字データとする。 Then, the display mode setting unit 56 generates alternative data to be superimposed instead of the feature word character image for the part on which the feature word character image is not superimposed (S403). Here, the alternative data is for informing the user who sees the summary image 100 that the characteristic word character image is not superimposed but the character information exists. As the alternative data, for example, an image icon or character data such as "..." is used.

そして表示態様設定部56は、表示文字データを生成する(S404)。表示文字データは、利用者が特徴語文字画像を重畳させていない特徴画像を選択する操作指示(例えばマウスオーバー操作など)を行った場合に、表示させるものである。表示文字データは、特徴語の文字を示すものであってもよいし、パートに含まれる音声情報を音声認識により変換した文字情報を示すものであってもよい。 Then, the display mode setting unit 56 generates display character data (S404). The display character data is displayed when the user gives an operation instruction (for example, a mouse over operation) to select a feature image on which the feature word character image is not superimposed. The display character data may indicate the characters of the feature word, or may indicate the character information obtained by converting the voice information included in the part by voice recognition.

表示態様設定部56は、処理S403において生成した代替データと、表示文字データとを特徴画像に関連付けて(S404)、リターンする。ここで表示態様設定部56は、各パートに対応する関連付け情報に代替データ及び表示文字データを追加して関連付けて記憶する。 The display mode setting unit 56 associates the alternative data generated in the process S403 with the display character data with the feature image (S404), and returns. Here, the display mode setting unit 56 adds alternative data and display character data to the association information corresponding to each part and stores them in association with each other.

図9は、本実施形態に係る要約画像100の一例を示す図である。図9は、要約画像生成部57が、図8に示した表示態様設定処理により設定された表示態様に従って生成した要約画像100の一例を示している。図9に示す要約画像100において、小さいコマ110bの特徴画像には代替データに対応する代替データ画像300が重畳されている。ここで利用者がマウスオーバー操作等により代替データ画像300を選択すると、当該操作指示が端末装置20からサーバ10へ送信される。サーバ10が操作指示を受け付けると、要約画像生成部57が表示文字データに対応する表示文字画像400を重畳させた要約画像100を生成する。そして生成された要約画像は端末装置20へ送信される。そして表示文字画像400が重畳された要約画像100が端末装置20の表示部24に表示される。なお表示文字画像400は、表示文字データが示す文字がテロップ表示されるよう構成されていてもよい。 FIG. 9 is a diagram showing an example of a summary image 100 according to the present embodiment. FIG. 9 shows an example of the summary image 100 generated by the summary image generation unit 57 according to the display mode set by the display mode setting process shown in FIG. In the summary image 100 shown in FIG. 9, the substitute data image 300 corresponding to the substitute data is superimposed on the feature image of the small frame 110b. Here, when the user selects the alternative data image 300 by a mouse over operation or the like, the operation instruction is transmitted from the terminal device 20 to the server 10. When the server 10 receives the operation instruction, the summary image generation unit 57 generates the summary image 100 on which the display character image 400 corresponding to the display character data is superimposed. Then, the generated summary image is transmitted to the terminal device 20. Then, the summary image 100 on which the display character image 400 is superimposed is displayed on the display unit 24 of the terminal device 20. The display character image 400 may be configured so that the characters indicated by the display character data are displayed as telops.

またサーバ10が、利用者によるマウスオーバー操作等により代替データ画像300を選択する操作指示を受け付けると、要約画像生成部57が表示文字データに対応する表示文字画像400を生成して端末装置20へ送信することとしてもよい。 Further, when the server 10 receives an operation instruction for selecting an alternative data image 300 by a mouse over operation or the like by the user, the summary image generation unit 57 generates a display character image 400 corresponding to the display character data and sends the terminal device 20 to the terminal device 20. It may be sent.

本発明は、上記の実施形態に限定されるものではない。 The present invention is not limited to the above embodiment.

例えば、処理S305において配置可能な文字数が、特徴語の文字数より少ない場合に、特徴語を変更してもよい。ここでは特徴情報取得処理を実行させて、特徴語取得部52が表示態様設定部56の設定した大きさのコマに配置される特徴語を取得してもよい。 For example, the feature word may be changed when the number of characters that can be arranged in the process S305 is less than the number of characters of the feature word. Here, the feature information acquisition process may be executed, and the feature word acquisition unit 52 may acquire the feature words arranged in the frame of the size set by the display mode setting unit 56.

また、上記の実施形態では、サーバ10と端末装置20とが別体の例を示したが、サーバ10と端末装置20とが一体の装置であってもよい。 Further, in the above embodiment, the example in which the server 10 and the terminal device 20 are separate bodies is shown, but the server 10 and the terminal device 20 may be an integrated device.

1 情報処理システム、10 サーバ、11,21 制御部、12,22 記憶部、13,23 通信部、20 端末装置、24 表示部、25 操作部、50 時系列情報取得部、51 パート区分部、52 特徴語取得部、53 特徴画像取得部、54 特徴情報関連付け部、55 重要度算出部、56 表示態様設定部、57 要約画像生成部、100 要約画像、110,110a,110b コマ、200,200a,200b 特徴語文字画像、300 代替データ画像、400 表示文字画像。 1 Information processing system, 10 servers, 11,21 control units, 12,22 storage units, 13,23 communication units, 20 terminal devices, 24 display units, 25 operation units, 50 time series information acquisition units, 51 part division units, 52 Feature word acquisition unit, 53 Feature image acquisition unit, 54 Feature information association unit, 55 Importance calculation unit, 56 Display mode setting unit, 57 Summary image generation unit, 100 Summary image, 110, 110a, 110b frames, 200, 200a , 200b Feature word character image, 300 alternative data image, 400 display character image.

Claims (9)

音声情報及び画像情報を含み時間とともに変化する時系列情報を複数のパートに区分する区分手段と、
利用者による操作指示を受け付ける操作指示受付手段と、
前記区分されたパートの重要度に応じた大きさで表示された、前記区分されたパートの特徴を示す特徴画像を含む要約画像を表示すよう制御する表示制御手段と、を備え、
前記表示制御手段は、前記特徴画像の大きさに応じて、当該特徴画像に関連付けられた、前記区分されたパートの特徴を示す特徴語の表示を制限し、前記操作指示受付手段が、前記特徴語の表示の制限をされた前記特徴画像を指示する操作を受け付けると、前記表示の制限をされた前記特徴語を表示させた前記要約画像を表示するよう制御する、
ことを特徴とする情報処理装置。
A classification means that divides time-series information that changes with time, including audio information and image information, into multiple parts, and
Operation instruction receiving means for receiving operation instructions by users and
The displayed by segmented importance magnitude corresponding to of parts, and a display control unit for controlling so that displays a summary image including a feature image indicating the characteristic of the segmented part,
The display control means limits the display of the feature word indicating the feature of the divided part associated with the feature image according to the size of the feature image, and the operation instruction receiving means is the feature. When an operation for instructing the feature image with the word display restricted is accepted, the summary image displaying the feature word with the display restriction is controlled to be displayed.
An information processing device characterized by this.
前記区分されたパートの特徴を示す前記特徴語を当該パートに含まれる前記音声情報に基づいて取得する特徴語取得手段をさらに含み、
前記特徴語取得手段は、前記区分されたパートに対応する前記音声情報における出現頻度に応じて前記特徴語を取得する、
ことを特徴とする請求項1に記載の情報処理装置。
Further including a feature word acquisition means for acquiring the feature word indicating the feature of the divided part based on the voice information included in the part.
The feature word acquisition means acquires the feature word according to the frequency of appearance in the voice information corresponding to the divided part.
The information processing apparatus according to claim 1.
前記特徴画像は、
前記重要度が高いほど大きく表示され、前記重要度が低いほど小さく表示される、
ことを特徴とする請求項1に記載の情報処理装置。
The feature image is
The higher the importance, the larger the display, and the lower the importance, the smaller the display.
The information processing apparatus according to claim 1.
前記重要度は前記音声情報における前記特徴語の出現回数から決定される、
ことを特徴とする請求項1に記載の情報処理装置。
The importance is determined from the number of appearances of the characteristic word in the voice information.
The information processing apparatus according to claim 1.
前記重要度は前記音声情報における前記特徴語の音量から決定される、
ことを特徴とする請求項1に記載の情報処理装置。
The importance is determined from the volume of the feature word in the voice information.
The information processing apparatus according to claim 1.
前記重要度は前記音声情報において前記特徴語が出現する時間の直前に無音の時間があるか否かによって決定される、
ことを特徴とする請求項1に記載の情報処理装置。
The importance is determined by whether or not there is a silent time immediately before the time when the feature word appears in the voice information.
The information processing apparatus according to claim 1.
前記表示制御手段は、
前記特徴画像の大きさが予め定められた閾値以下または未満の場合に、当該特徴画像に関連付けられる前記特徴語を表示させない、
ことを特徴とする請求項1に記載の情報処理装置。
The display control means is
When the size of the feature image is less than or equal to a predetermined threshold value, the feature word associated with the feature image is not displayed.
The information processing apparatus according to claim 1.
前記表示制御手段は、
前記特徴画像の大きさが予め定められた閾値以下または未満の場合に、当該特徴画像に関連付けられる前記特徴語の一部を表示させる、
ことを特徴とする請求項1に記載の情報処理装置。
The display control means is
When the size of the feature image is less than or equal to a predetermined threshold value, a part of the feature words associated with the feature image is displayed.
The information processing apparatus according to claim 1.
音声情報及び画像情報を含み時間とともに変化する時系列情報を複数のパートに区分する区分手段、
前記区分されたパートの特徴を示す特徴画像を当該パートに含まれる前記画像情報から取得する特徴画像取得手段、
前記区分されたパートの特徴を示す特徴語を当該パートに含まれる前記音声情報に基づいて取得する特徴語取得手段、
利用者による操作指示を受け付ける操作指示受付手段、
前記区分されたパートの特徴語の重要度に応じた大きさでそれぞれが表示された複数の前記特徴画像であって前記特徴画像の大きさに応じた態様の前記特徴語が関連付けられた前記特徴画像を含む要約画像を生成し、前記特徴画像の大きさに応じて当該特徴画像に関連付けられる前記特徴語の表示を制限し、前記操作指示受付手段が、前記特徴語の表示の制限をされた前記特徴画像を指示する操作を受け付けると、前記表示の制限をされた前記特徴語を表示させた前記要約画像を生成する要約画像生成手段、
としてコンピュータを機能させるためのプログラム。
A classification means that divides time-series information that changes with time, including audio information and image information, into multiple parts.
A feature image acquisition means for acquiring a feature image showing the features of the divided part from the image information included in the part.
A feature word acquisition means for acquiring a feature word indicating the characteristics of the divided part based on the voice information included in the part.
Operation instruction receiving means for receiving operation instructions by the user,
The feature is a plurality of the feature images, each of which is displayed in a size corresponding to the importance of the feature word of the divided part, and the feature word having an aspect according to the size of the feature image is associated with the feature. A summary image including an image is generated, the display of the feature word associated with the feature image is restricted according to the size of the feature image, and the operation instruction receiving means is restricted from displaying the feature word. A summary image generation means for generating the summary image displaying the feature word whose display is restricted when the operation for instructing the feature image is received.
A program to make your computer work as.
JP2020096695A 2015-09-16 2020-06-03 Information processing equipment and programs Active JP6973567B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020096695A JP6973567B2 (en) 2015-09-16 2020-06-03 Information processing equipment and programs

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015183453A JP2017058978A (en) 2015-09-16 2015-09-16 Information processing device and program
JP2020096695A JP6973567B2 (en) 2015-09-16 2020-06-03 Information processing equipment and programs

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015183453A Division JP2017058978A (en) 2015-09-16 2015-09-16 Information processing device and program

Publications (2)

Publication Number Publication Date
JP2020162138A JP2020162138A (en) 2020-10-01
JP6973567B2 true JP6973567B2 (en) 2021-12-01

Family

ID=72640077

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020096695A Active JP6973567B2 (en) 2015-09-16 2020-06-03 Information processing equipment and programs

Country Status (1)

Country Link
JP (1) JP6973567B2 (en)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3472659B2 (en) * 1995-02-20 2003-12-02 株式会社日立製作所 Video supply method and video supply system
JPH10232884A (en) * 1996-11-29 1998-09-02 Media Rinku Syst:Kk Video software processing method and video software processing device
US6535639B1 (en) * 1999-03-12 2003-03-18 Fuji Xerox Co., Ltd. Automatic video summarization using a measure of shot importance and a frame-packing method
JP3537753B2 (en) * 2000-09-08 2004-06-14 株式会社ジャストシステム Editing processing device and storage medium storing editing processing program
WO2005050986A1 (en) * 2003-11-19 2005-06-02 National Institute Of Information And Communications Technology, Independent Administrative Agency Method and device for presenting video content
JP4920395B2 (en) * 2006-12-12 2012-04-18 ヤフー株式会社 Video summary automatic creation apparatus, method, and computer program

Also Published As

Publication number Publication date
JP2020162138A (en) 2020-10-01

Similar Documents

Publication Publication Date Title
JP6564464B2 (en) Video program segment detection
EP2336916A1 (en) Content Providing Server, Content Reproducing Apparatus, Content Providing Method, Content Reproducing Method, Program, and Content Providing System.
WO2019018434A1 (en) Actor/person centric auto thumbnail
JP5755823B1 (en) Similarity calculation system, similarity calculation method, and program
CN111095939A (en) Identifying previously streamed portions of a media item to avoid repeated playback
CN108737878B (en) Method and system for modifying user interface colors in conjunction with video presentation
US10341727B2 (en) Information processing apparatus, information processing method, and information processing program
WO2016150281A1 (en) Method, mobile terminal and system for displaying preview video file
JP5424930B2 (en) Image editing apparatus, control method thereof, and program
US20200107084A1 (en) Method and device for playback optimization
CN107018439A (en) Method for generating the user interface for showing multiple videos
KR20210091082A (en) Image processing apparatus, control method thereof and computer readable medium having computer program recorded therefor
JP6973567B2 (en) Information processing equipment and programs
CN114095793A (en) Video playing method and device, computer equipment and storage medium
US20210182478A1 (en) Information processing apparatus, information processing method, and information processing program
CN104270676B (en) A kind of information processing method and electronic equipment
JP2025147780A (en) Scene extraction system, scene extraction method, and scene extraction program
JP2017058978A (en) Information processing device and program
JP6623905B2 (en) Server device, information processing method and program
WO2018012113A1 (en) Information processing device, information processing method, and program
CN116324905B (en) Methods, devices, and storage media for scoring media presentation
US20240170024A1 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
JP2005309526A (en) Method, apparatus and program for configuring input data for clustering processing
TWI672946B (en) Method and device for playing video
CN108875315B (en) Methods, systems and media for transforming fingerprints to detect unauthorized media content items

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200604

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211018

R150 Certificate of patent or registration of utility model

Ref document number: 6973567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150