Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP2937006B2 - 字幕検出装置 - Google Patents
[go: Go Back, main page]

JP2937006B2 - 字幕検出装置 - Google Patents

字幕検出装置

Info

Publication number
JP2937006B2
JP2937006B2 JP6073207A JP7320794A JP2937006B2 JP 2937006 B2 JP2937006 B2 JP 2937006B2 JP 6073207 A JP6073207 A JP 6073207A JP 7320794 A JP7320794 A JP 7320794A JP 2937006 B2 JP2937006 B2 JP 2937006B2
Authority
JP
Japan
Prior art keywords
signal
output
gate
unit
video signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP6073207A
Other languages
English (en)
Other versions
JPH07284053A (ja
Inventor
竜彦 沼本
伸幸 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP6073207A priority Critical patent/JP2937006B2/ja
Publication of JPH07284053A publication Critical patent/JPH07284053A/ja
Application granted granted Critical
Publication of JP2937006B2 publication Critical patent/JP2937006B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、テレビジョン受像機、
ビデオディスクプレーヤ、ビデオテープレコーダ等の映
像信号を再生する機器において、映像信号に含まれる字
幕情報を検出し、これを用いた機能を実現するときに有
効な装置に関するものである。
【0002】
【従来の技術】近年、カラオケにおいては、歌詞の表示
のためや雰囲気を盛り上げるために映像が同時に利用さ
れることが多い。また、カラオケの練習機能として、従
来、基準歌唱信号と比較歌唱信号を比較して、この比較
結果を画面に表示するような機能が提案されている。
【0003】以下、このカラオケ練習機能について図1
5を参照しながら説明する。図15はカラオケ練習機能
として従来提案されている構成のブロック図である。図
15において、1は音声信号と映像信号が記録されたデ
ィスク、2はディスク1から信号を読み取る信号読み取
り部、3は信号読み取り部2の出力信号から映像信号を
復調する映像信号復調部、4は映像信号復調部3が出力
する映像信号に対し時間軸補正を行う映像信号時間軸補
正部、5は信号読み取り部2の出力信号から音声信号を
復調する音声信号復調部、6は音声信号復調部5から基
準となる歌唱を抽出する基準歌唱抽出部、7はマイクロ
ホン、8はマイクロホン7の出力する歌唱信号の情報を
検出する比較歌唱情報検出部、9は基準歌唱抽出部6が
出力する歌唱信号の情報を検出する基準歌唱情報検出
部、10は比較歌唱情報検出部8の出力と基準歌唱情報
検出部9の出力を比較する比較部、11は比較部10の
出力を記憶する記憶部、12は記憶部11の記憶した情
報を映像を表す信号に変換出力する信号発生部、13は
映像信号時間軸補正部4の出力映像信号に信号発生部1
2の信号を重畳処理する映像重畳処理部、14は第1の
音声信号出力端、15は第2の音声信号出力端、16は
映像信号出力端である。
【0004】以上のように構成された機器について以下
その動作について説明する。まず、ディスク1に記録さ
れた信号が信号読み取り部2により読み出され、この信
号が映像信号復調部3により映像信号に、さらに音声信
号復調部5により音声信号に復調される。映像信号復調
部3の出力信号は映像信号時間軸補正部4により時間軸
補正が施され、正常な映像信号が映像信号時間軸補正部
4から出力される。音声信号復調部5から出力された音
声信号は第1の音声信号出力端14と第2の音声信号出
力端15から出力されるとともに、基準歌唱抽出部6に
より基準歌唱が抽出される。この抽出された基準歌唱は
基準歌唱情報検出部9によりその情報が検出され、また
マイクロホン7からの音声信号は比較歌唱情報検出部8
によりその情報が検出される。次に、基準歌唱情報検出
部9と比較歌唱情報検出部8の出力情報は比較部10に
より比較され、記憶部11により記憶される。そして、
比較部10と記憶部11の出力情報の時間関係が明確に
なるように信号発生部12は信号を決定し、その信号は
信号重畳処理部13により映像信号時間軸補正部4が出
力する映像信号に重畳され、映像信号出力端16に映像
信号が出力される。従って、この映像信号による画面表
示には、時間関係を明確にされた比較部10と記憶部1
1の情報が含まれていることになる。
【0005】以上のような構成を含む機器により、歌唱
者はディスクから取り出された基準歌唱と自分自身の歌
唱の比較結果を時間関係を明確にされたうえで画面表示
により知ることができ、カラオケの練習を実施すること
ができる。
【0006】
【発明が解決しようとする課題】しかしながら、上記の
従来の構成では、過去の比較結果を画面表示から知るこ
とができても、比較結果は時間関係に着目され表示され
ているので、比較結果が歌のどの箇所に相当するのか理
解しにくく、たとえ歌詞が表示されていてもこれとの対
応がとれないという欠点を有していた。
【0007】本発明は、上記従来の問題点を解決するも
ので、映像信号に含まれる字幕情報を検出することを可
能にし、カラオケ練習において、その情報を利用した機
能を実現することができる字幕検出装置を提供すること
を目的とする。
【0008】
【課題を解決するための手段】この目的を達成するため
に、本発明の字幕検出装置は、映像信号よりゲート信号
を生成するゲート生成手段と、映像信号より輝度信号成
分を抽出する輝度信号抽出手段と、輝度信号抽出手段が
出力する信号を一定電圧にクランプするクランプ手段
と、クランプ手段が出力する信号を一定電圧と比較する
コンパレータと、ゲート生成手段が出力するゲート信号
によりコンパレータの出力をカウントする少なくとも1
つのカウンタと、ゲート生成手段が出力するゲート信号
によりカウンタが出力するデータを判定する判定手段か
ら構成されたものであって、特に、判定手段が出力する
判定結果を報知する報知手段を備えたものである。
【0009】また、ゲート生成手段に入力する映像信号
を選択する映像信号選択手段が出力する映像信号選択情
報により判定手段は判定動作を決定する構成を備えたも
のである。
【0010】また、ゲート生成手段が出力するゲート信
号に従いカウンタが出力するデータを記憶し、判定手段
に情報を出力する記憶手段を備えたものである。
【0011】そして、記録媒体から再生された映像信号
よりゲート信号を生成するゲート生成手段と、映像信号
より輝度信号成分を抽出する輝度信号抽出手段と、輝度
信号抽出手段が出力する信号を一定電圧にクランプする
クランプ手段と、クランプ手段が出力する信号を一定電
圧と比較するコンパレータと、ゲート生成手段が出力す
るゲート信号によりコンパレータの出力をカウントする
少なくとも1つのカウンタと、ゲート生成手段が出力す
るゲート信号によりカウンタが出力するデータを判定す
る判定手段と、記録媒体の再生位置を特定する再生位置
検出手段と、判定手段の出力に従い再生位置検出手段が
出力する情報を記憶する再生位置情報記憶手段からな
り、再生位置情報記憶手段に記憶された情報に従い記録
媒体の再生を行う構成を備えたものである。
【0012】
【作用】この構成により、映像信号から輝度信号成分が
抽出され、この輝度信号成分をコンパレータにより電圧
比較した結果をカウンタがカウントし、このカウント結
果を映像信号に含まれる字幕の状態を示す信号として判
定手段は判定することができるので、字幕情報を検出す
ることが可能な装置を構成することができる。
【0013】
【実施例】以下、本発明の字幕検出装置の第1の実施例
について、図面を参照しながら説明する。
【0014】図1は本発明の字幕検出装置の第1の実施
例を示すブロック図である。図1において、1は音声信
号と映像信号が記録されたディスク、2はディスク1か
ら信号を読み取る信号読み取り部、3は信号読み取り部
2の出力信号から映像信号を復調する映像信号復調部、
4は映像信号復調部3が出力する映像信号に対し時間軸
補正を行う映像信号時間軸補正部、5は信号読み取り部
2の出力信号から音声信号を復調する音声信号復調部、
6は音声信号復調部5から基準となる歌唱を抽出する基
準歌唱抽出部、7はマイクロホン、8はマイクロホン7
の出力する歌唱信号の情報を検出する比較歌唱情報検出
部、9は基準歌唱抽出部6が出力する歌唱信号の情報を
検出する基準歌唱情報検出部、10は比較歌唱情報検出
部8の出力と基準歌唱情報検出部9の出力を比較する比
較部、11は比較部10の出力を記憶する記憶部、12
は比較部10の出力と記憶部11の情報を映像信号を表
す信号に変換出力する信号発生部、13は映像信号時間
軸補正部4の出力映像信号に信号発生部12の信号を重
畳処理する信号重畳処理部、14は第1の音声信号出力
端、15は第2の音声信号出力端、16は映像信号出力
端、17は映像信号時間軸補正部4が出力する映像信号
からゲート信号を生成するゲート生成部、18は映像信
号時間軸補正部4が出力する映像信号から輝度成分を抽
出する輝度信号抽出部、19は輝度信号抽出部18が出
力する輝度成分信号を一定電圧にクランプするクランプ
部、20はクランプ部19の出力信号を一定電圧と比較
するコンパレータ、21はゲート生成部17が生成する
ゲート信号によりコンパレータ20の出力信号をカウン
トするカウンタ、22はゲート生成部17が生成するゲ
ート信号によりカウンタ21が出力する信号を判定する
判定部である。
【0015】以上のように構成された字幕検出装置につ
いて、図1を参照しながら説明する。まず、ディスク1
に記録された信号は信号読み取り部2により読み出さ
れ、映像信号復調部3と音声信号復調部5に入力され、
それぞれ映像信号と音声信号に復調される。例えばレー
ザーディスクでは、映像信号と音声信号はともにFM変
調されて記録されているので、これをFM復調できる回
路を映像信号復調部3と音声信号復調部5として用いれ
ばよい。次に、映像信号復調部3が出力する映像信号に
は、ディスク1の回転中心ずれに起因する時間軸の変動
が含まれているので、これを除去するために、映像信号
時間軸補正部4により正常な映像信号を得る。
【0016】そして、音声信号復調部5により復調され
た音声信号は、第1の音声信号出力端14と第2の音声
信号出力端15から機器の外部に出力されるとともに、
基準歌唱抽出部6に入力される。次に、マイクロホン7
から入力された歌唱者の歌唱は、比較歌唱情報検出部8
によりその情報が検出され、基準歌唱抽出部6が出力す
る基準歌唱は基準歌唱情報検出部9によりその情報が検
出される。さらに、比較部10により比較歌唱情報検出
部8と基準歌唱情報検出部9が出力する情報は比較さ
れ、記憶部11に記憶される。そして、記憶部11の記
憶情報とともに比較部10の出力信号は信号発生部12
に入力された後、映像信号としての信号に変換されて映
像信号時間軸補正部4が出力する映像信号に重畳処理さ
れ、映像信号出力端16から機器の外部に出力される。
【0017】映像信号時間軸補正部4が出力する映像信
号は、輝度信号抽出部18とゲート生成部17に入力さ
れる。
【0018】まず、輝度信号抽出部18は入力された映
像信号から輝度信号に相当する信号を抽出する。後述す
るとおり、コンパレータ20では映像信号中の輝度成分
レベルについて比較を実行するため、映像信号から輝度
成分を抽出する輝度信号抽出部18が構成要素として必
要になる。
【0019】この輝度信号の抽出方法としては、くし形
フィルタのように輝度信号と色信号に分離する回路を使
用する方法がある。この方法は、精度の高い輝度信号を
得ることができる利点がある。また、別の方法として輝
度信号に相当する周波数帯域をローパスフィルタにより
抽出する方法もある。この方法は、前述した分離回路に
よる方法と比較すると高域成分が失われるが、簡単な回
路構成で実現できる利点がある。
【0020】次に、輝度信号抽出部18の出力信号はク
ランプ部19に入力される。クランプ部19は入力され
た映像信号の同期信号を一定電圧にクランプする。クラ
ンプ部19について図2を用いて説明する。図2はクラ
ンプ部19の回路構成図である。図2において、24は
定電圧源、25は入力端、26はコンデンサ、27は抵
抗、28はトランジスタ、29は出力端である。入力端
25から入力された映像信号はコンデンサ26により直
流成分がカットされた後、トランジスタ28のエミッタ
電圧分の一定電圧Veが印加される。このとき、同期信
号が一定電圧にクランプされることになる。そして、ク
ランプされた映像信号は、出力端29から出力される。
【0021】このクランプ部19の出力信号はコンパレ
ータ20に入力されるが、後述するとおり、コンパレー
タ20では映像信号中の輝度成分レベルについて比較を
行うため、コンパレータ20に入力する信号の直流成分
を一定に保つことが必要不可欠になり、そのためにクラ
ンプ部19をコンパレータ20の前段に配置している。
また、クランプ部19とコンパレータ20の間になんら
かの構成要素を含む構成も考えられるが、コンパレータ
20の直前にクランプ部19を配置することで、クラン
プする電圧とコンパレータ20において比較する電圧と
の関係の管理が最も精度よく実施できる。
【0022】次に、クランプ部19の出力映像信号は、
コンパレータ20に入力され一定電圧と比較される。こ
のコンパレータ20の構成、動作を図3を用いて説明す
る。図3はコンパレータ20の回路構成図である。図3
において、30は入力端、31は第1の抵抗、32は第
2の抵抗、33は第1のトランジスタ、34は第2のト
ランジスタ、35は定電流源、36は定電圧源、37は
第3の抵抗、38は第4の抵抗、39は第3のトランジ
スタ、40は第5の抵抗、41は出力端である。第1の
抵抗31から定電圧源36までは差動増幅器を構成して
おり、第1の抵抗31と第3の抵抗37と第4の抵抗3
8から構成される抵抗値と、第2の抵抗32の抵抗値を
Rc、定電流源35の流す電流をIeとすると、Vb1
>Vb2ならVc1=Vcc−Ie×Rc、Vb1<V
b2ならVc1=Vccとなる。ただし、第1のトラン
ジスタ33と第2のトランジスタ34のhFEは無限大
の場合である。
【0023】そして、出力端41に接続されるカウンタ
21への入力電圧を考慮して、第3のトランジスタ39
により、出力端41の電圧をHまたはLにする。ここ
で、第3の抵抗37と第4の抵抗38の抵抗値をそれぞ
れR3、R4とすると、
【0024】
【数1】
【0025】となるが、上述したVc1の変化をうけた
Vbの変化により第3のトランジスタ39がオンまたは
オフの状態になるように、第3の抵抗37と第4の抵抗
38の抵抗値を選択する必要がある。また、トランジス
タ39の代わりにオペアンプを用いて出力端41の電圧
をHまたはLにする方法もある。
【0026】以上のようにして、コンパレータ20で
は、入力信号は一定電圧と比較され、その結果がパルス
となって、出力される。出力端41に現れる電圧はVb
1>Vb2ならLになり、Vb1<Vb2ならHにな
る。
【0027】このように構成されたコンパレータ20に
入力された輝度信号成分中の字幕とコンパレータ20の
出力信号の関係について図面を用いて説明する。図4は
文字の色の一例とそれに対応したコンパレータ20の出
力信号を説明した図である。通常字幕を構成する文字は
画面上では白文字と黒縁で表現され、映像輝度信号中で
は図4(a)のように白は100IRE、黒は7.5I
REとなっている。例として、「い」を構成する一点破
線で示した1H分の信号について着目すると、文字の信
号は図4(b)のようにパルス状の電圧変化で輝度信号
成分中に含まれている。従って、これを図4(b)中に
示したような80IRE程度に設定された比較電圧Vc
ompでコンパレートすると、図4(c)のようなパル
スに変換できる。また、この文字の色が白から変化し図
4(d)に示したように例えば緑色になったとすると、
図4(e)に示したように輝度が59IREに変化する
ので、文字はVcompを越えないことになり、図4
(f)に示すようにパルスは発生しないことになる。し
たがって、コンパレータ20は文字の状態をパルスの有
無で出力することになる。
【0028】図4では文字周辺の映像について考慮して
いないが、一般に通常の字幕は図5に示すように、画面
の下方に一定数の文字(少なくとも一単語)で表現され
る。したがって、字幕の存在が予想される部分のみにつ
いて次に説明するカウンタ21を動作させれば、それ以
外の部分の映像についてはその影響を無視できる。ま
た、字幕は図4(b)に示したようなパルス状の電圧変
化で表現されるが、通常の映像ではこのようなパルス状
の電圧変化は多く含まれない。従って、コンパレータ2
0の出力信号は字幕情報を表すパルスが多数であり、背
景の映像の影響は非常に少ないものとなる。
【0029】また、図6は文字の色の第2の例とそれに
対応したコンパレータ20の出力信号を説明したもので
ある。図6(a)から図6(d)のように、字幕の色変
化では、文字は白色のままで縁が黒色から例えば緑色に
変化する場合もある。この場合は、色変化を明確にする
ため、文字の周辺の色が変化するのが一般的であり、V
compが30IRE程度になるように定電圧源36を
設定しておけば、縁の色変化により、図6(c)のパル
スが図6(f)のように変化する。したがって、文字の
縁に色変化があっても、図4の場合と同様に文字の状態
をパルスの有無としてコンパレータ20は出力すること
になる。
【0030】なお、コンパレータ20にシュミット特性
をもたせれば、図4と図6に示したような2種類の色変
化に対応できることになる。すなわち図4と図6の例の
場合、80IRE以下から80IREを越える場合と3
0IRE以上から30IRE未満に変化したとき、パル
スが変化するように設定すればよい。字幕の色変わりと
して、図4と図6に示したように2種類予想される場合
は、装置の構成はそのままで対応できることになり非常
に有効である。また、字幕以外の映像信号において上述
した2つの比較レベルを越えるパターンは少ない。した
がって、字幕以外の映像信号の影響を非常に受けにくく
なり、パルスの内容は字幕の内容をより示すことになる
ので、出力するパルスの信頼性が大幅に向上することに
なり有効である。
【0031】次に、図1に示すコンパレータ20の出力
は、カウンタ21によりカウントされるが、カウンタ2
1には例えばロジックICの74ALS161等のカウ
ンタICを利用すれば簡単に実現できる。この場合、カ
ウンタ21の入力端は上記ICのCLK端子になり、出
力端は同A端子からD端子になる。
【0032】カウンタ21とカウンタ21の結果を判定
する判定部22の動作は、ゲート生成部17から出力さ
れるゲート信号により行われる。ゲート生成部17につ
いて図7を用いて説明する。図7はゲート生成部17の
ブロック図である。図7において、70は入力端、71
は同期分離回路、72はカウンタ動作用ゲート発生回
路、73は判定部動作用ゲート発生回路、74は第1の
出力端、75は第2の出力端である。入力端70から入
力された映像信号は同期分離回路71により、垂直同期
信号Vと水平同期信号Hに分離される。そして、それぞ
れの同期信号を用いて、カウンタ動作用ゲート発生回路
72がカウンタ動作用ゲート信号を発生させ、第1の出
力端74から出力する。同様に、判定部動作用ゲート発
生回路73が判定部動作用ゲート信号を第2の出力端7
5から出力する。
【0033】ゲート生成部17が出力するゲート信号
は、図5に示したように字幕の存在が予想される映像信
号をとらえ、カウンタ21と判定部22の時系列的な動
作の処理を管理する。図8に第1の出力端74と第2の
出力端75から出力されるゲート信号の内容と、入力端
70から入力された映像信号の垂直同期信号との時間関
係を示す。図8において、(a)は垂直同期信号を示
し、(b)はカウンタ21として上述したロジックIC
74ALS161を利用した場合の同ICのカウンタ制
御ゲート信号ENPとCLRを示し、(c)は判定部2
2に求められる内容を示す。まず、垂直同期信号の立ち
下がりエッジからt1後CLRがHになり、カウンタ2
1の動作が初期化される。それをうけて、ENPをHに
し、カウント動作を開始させる。t2後、ENPをLに
してカウント動作を終了させ、これをうけて、判定部2
2がカウンタ21のカウント結果をラッチし、判定部2
2がラッチ処置を終了したのをうけて、CLRをLにす
ることでカウンタ21の状態をクリアする。
【0034】以上のようにして、1垂直同期区間で1回
分のゲート生成処理を実行する。t1とt2の設定時間
は、図5に示した例のように画面上の下方に字幕が発生
することから、映像信号がNTSC形式であれば、1垂
直同期区間は約16.7msであるから、例えばt1=
13ms、t2=2msとすればよい。この時間管理を
行うゲート生成は、垂直同期信号と水平同期信号から生
成するが、垂直同期信号により初期化し、水平同期信号
をカウントすればゲート生成を実現できる。この方法に
よれば、ゲート信号の生成を水平信号との関係に沿って
正確に管理できる利点があり、常に同一の水平信号に対
しゲート信号を生成することが可能になる。また、ゲー
ト信号の生成方法として、垂直同期信号からの時間管理
により行う方法もある。この場合は、水平信号に沿った
ゲート信号は生成できないが、ゲート生成部17とし
て、マイクロコンピュータを利用したときなど、マイク
ロコンピュータのタイマをそのまま利用することで簡単
に実現できる利点がある。
【0035】また、図8に示したゲート信号は、すべて
の垂直同期信号毎に生成される必要はなく、ゲート信号
を生成するフィールドを第1フィールドまたは第2フィ
ールドに固定することで、同一のインタレースかつ同一
のラインについて検出することが可能になり、字幕検出
の条件を統一することができる利点が得られる。さら
に、字幕は、例えば数秒程度は画面上に表示されるのが
普通であり、カラオケの歌詞の色変わりなどの変化も1
秒単位でみても、ごく一部にその色変わりが現れるだけ
である。したがって、ゲート生成部17は全フィールド
毎においてゲート生成を行う必要はなく、一定フィール
ド毎にゲート生成を実行しても、検出精度にはほとんど
影響を与えない。このような処理を実行すれば、装置全
体の動作における字幕検出の処理の負担を軽減させられ
る効果が得られる。
【0036】また、図8ではゲート生成が1サイクルで
あったが、字幕が複数行にわたって表示されることを考
慮し、複数のサイクルのゲート信号を、ゲート生成部1
7が発生させ、字幕検出を実行することも可能である。
このような処理を行えば、少ない文字が複数の行にわた
って表示されるような場合、すなわち、1行分の文字に
よってコンパレータ20の出力するパルス数が少ないよ
うな場合でも、高い検出精度を得ることができる。
【0037】また、図8で示したゲート生成は画面の縦
方向の検出しかできないが、カウンタ21を複数利用す
ることにより、横方向の検出を加え、画面を複数のブロ
ックに分割することで2次元的な検出を行うことも可能
である。この場合は、1水平信号を分割しカウントする
必要があるので、各ブロック毎にカウンタを割り当てカ
ウント結果を得られるように、ゲート生成部17はゲー
ト信号を生成する必要がある。このように複数のカウン
タをカウンタ21に使用する場合、各検出ブロック毎の
相関関係を判断材料とすることができるので、より精度
の高い検出を行うことができる。
【0038】次に、図1においてカウンタ21の出力は
判定部22に入力され、内容を判定される。判定部22
としてマイクロコンピュータを利用すれば簡単である
が、コンパレータ20が出力するパルス数、すなわちカ
ウンタ21の出力から検出される字幕の状態は次のよう
になる。
【0039】まず、図4に示したように白文字に黒縁の
文字の色状態が変化し、白文字が色文字に変化すると、
図4を用いて説明したとおり、コンパレータ20が出力
するパルス数は文字の色変化の進行と比例するように減
少する。背景映像の影響を無視すれば、色変化が終了し
たときには、コンパレータ20が出力するパルス数は0
になる。そして、新しい字幕(白文字に黒縁の文字)が
現れると、それによりコンパレータ20は白文字部分に
比例したパルス数を出力することになる。このとき、コ
ンパレータ20の出力するパルス数が0から一定数に急
激に変化することになる。すなわち、字幕が新しくなっ
たタイミングとコンパレータ20の出力するパルス数の
差分値が急激に変化したタイミングは一致する。したが
って、カウンタ21の出力の差分値を一定値と比較する
ことで、字幕が変化したことを検出できる。
【0040】また、白文字に応じてコンパレータ20は
パルスを出力することから、コンパレータ20が出力す
るパルス数が一定値以上であれば、白文字の字幕が存在
することになり、白文字の字幕が存在しなければ、コン
パレータ20が出力するパルス数は0である。したがっ
て、カウンタ21の出力を一定値と比較することで、字
幕の存在の有無が検出できる。
【0041】なお、カラオケの歌詞などは、記録された
音声より先行するように表示されるのが普通である。し
たがって、判定部22は字幕の情報を判定した結果を遅
延させ出力すると、字幕が音声より先行した影響を取り
除く利点を得ることができる。
【0042】そして、判定部22の出力は記憶部11に
入力される。上述した判定部22の検出内容により、記
憶部11における判定部22の出力信号の取り扱いが変
わる。
【0043】まず、判定部22において、字幕変化の検
出が実行される場合は、記憶部11に記憶された比較部
10の結果と、字幕変化の検出の時間関係が一致するよ
うに、記憶部11に判定部22の出力を、記憶部11は
記憶する。そして、これら2つの記憶情報が、信号重畳
処理部13により映像信号出力端16から出力されたと
きに、画面上で対応できるように信号発生部12は信号
を発生すればよい。
【0044】信号発生部12が発生した信号の画面表示
における例を、図面を参照しながら説明する。図9は比
較部10と記憶部11の出力信号を画面に表示させた例
を示す模式図であり、判定部22は字幕変化について判
定し、記憶部11に入力した場合の例である。図9にお
いて、90は比較結果を表す第1の表示、91は比較結
果を表す第2の表示、92は比較結果を表す第3の表
示、93は比較結果を表す第4の表示、94は比較結果
と字幕検出結果を表す第5の表示、95は比較結果を表
す第6の表示、96は比較結果を表す第7の表示、97
は比較結果を表す第8の表示、98は比較結果を表す第
9の表示である。まず、比較部10から出力された最新
の比較結果は第9の表示98に相当し、記憶部11から
出力された最も過去の比較結果は第1の表示に相当す
る。字幕表示では、時間的に過去の文字が画面上では左
になるので、比較結果と字幕の時間的な対応がとりやす
く表示している。図9に示した比較結果は、比較歌唱と
基準歌唱の音程のずれに着目して表示した例であるが、
音符の形をした表示を画面上の上下方向に関連づけて表
示されている。すなわち、比較歌唱の音程が基準歌唱の
音程より高ければ(b)の位置、低ければ(c)の位
置、一致すれば(a)の位置に表示している。なお、第
1の表示90では、休符の形をした表示がなされている
が、これは基準歌唱が存在し比較歌唱が存在しなかった
場合を表している。以上のような表示形式に判定部22
の判定結果を盛り込む場合、判定結果に応じて表示に変
化を与えれば、その判定結果の認識が明確にできる。例
えば、音符の形をした表示の色を変化させればよく、図
9において字幕が新しいものに変化したことを示す表示
は、第5の表示94が相当する。第5の表示94は、表
示が赤色であり、他の表示と区別されている。判定部2
2は字幕変化について判定していることから、第5の表
示94の結果は、現在画面に表示されている字幕の先頭
付近の比較結果に相当することになるので、第5の表示
94から右に表示された第6の表示から第9の表示まで
が、現在表示された字幕中で現在までに時間経過した字
幕分と対応する比較結果になる。また、第1の表示90
から第4の表示が、現在表示されている字幕の前に表示
されていた字幕の終了から以前と対応する比較結果にな
る。なお、色で判定部22の判定内容を表示する以外
に、比較部10や記憶部11に記憶された比較部10の
結果を表す表示と時間的な対応が理解できる別の表示を
付加することで、判定部22の判定結果を画面表示する
方法もある。
【0045】以上の処理により、比較部10の出力と表
示された字幕との対応を画面で確認することができ、カ
ラオケの練習機能として、より有効な機能とすることが
できる。
【0046】次に、判定部22において、字幕の存在の
有無の検出が実行される場合、字幕の存在がなければ、
比較部10の出力において基準歌唱情報が検出されなか
ったとして取り扱うことができる。また、字幕が存在す
れば、比較部10の出力において基準歌唱情報が検出さ
れたとして取り扱うことができる。カラオケでは、歌詞
が字幕で画面表示されるならば、音声中に基準歌唱が存
在するとみなすことができるからである。以上の処理に
より、仮にノイズ等の影響により基準歌唱情報検出部9
が誤った情報を出力しても、歌詞が表示されていないと
きには、その影響を取り除くことができ、結果として比
較部10の比較結果の信頼性を向上させることができ
る。
【0047】以上のように、映像信号に含まれる字幕情
報をコンパレータによりパルス変換し、これをカウンタ
でカウントし、カウント結果を判定することにより、字
幕の状態を判定できる機能を実現することができ、より
効果的なカラオケの練習機能を実現することができる。
【0048】以下、本発明の字幕検出装置の第2の実施
例について、図面を参照しながら説明する。
【0049】図10は本発明の第2の実施例を示すブロ
ック図である。第1の実施例と異なるのは、判定部22
の判定結果を報知する報知手段として表示部100が存
在することである。そのほかの構成要素は第1の実施例
に示した構成要素と全く同一である。
【0050】以上のように構成された字幕検出装置につ
いて図10を用いて説明する。図10では判定部22の
出力内容を表示部100により表示する。第1の実施例
で説明したとおり判定部22では、字幕変化と字幕の存
在の有無について判定できる。ここで、カラオケの歌詞
が字幕表示されている場合に、次に説明するような判定
を実行し、その内容を表示すれば、現在表示されている
歌詞と歌の関係を知ることができる。まず、字幕が一定
時間存在しない状態から字幕が存在する状態になったと
きは、歌の前奏または間奏から歌が開始されるときであ
ると判断できる。また、字幕変化の回数をカウントすれ
ば、歌の何節めの歌詞が現在画面表示されているか判断
できる。したがって、この2種類の判断を組み合わせる
ことにより、現在画面表示されている歌詞が歌の何番の
何節めの歌詞になるかを判定できる。この判定内容は、
歌を歌うときに歌詞の内容を理解したり歌の場所を認識
できる情報として、歌唱者にとっては非常に有用な内容
である。そして、この判定結果を歌詞と歌の関係を示す
情報として、表示部100により表示する。表示部10
0は、この情報を液晶パネル等の表示デバイスにより文
字や記号により表示してもよいし、第1の実施例のよう
な信号発生部12と信号重畳処理部13を含んだ構成に
より映像信号出力端16に出力する映像信号に文字や記
号を重畳処理しても良い。なお、図10では報知手段の
例として表示部100をとりあげたが、例えば報知手段
として音声を発生する手段や光を発生する手段等も考え
られる。一例として、音声を発生する手段を報知手段と
して用いた場合は小型化のため表示部を搭載できない機
器などに有効である。また、光を発生する手段を報知手
段として用いた場合、発生する光の量や色を判定部22
の判定結果により変化させることで、カラオケを楽しむ
環境としての雰囲気を盛り上げることのできる等の効果
が得られる。
【0051】以上のように、判定部22が歌と歌詞の関
係を判定し、この情報を表示することで、歌詞と歌の関
係を知らせることができ、非常に有用なカラオケ装置を
提供することができる。
【0052】以下、本発明の字幕検出装置の第3の実施
例について、図面を参照しながら説明する。
【0053】図11は本発明の第3の実施例を示すブロ
ック図である。第1の実施例と異なるのは、映像信号発
生部110と、映像信号選択部111と、スイッチ11
2が存在し、映像信号選択部111が映像信号発生部1
10の出力信号と映像信号時間軸補正部4の出力信号の
選択を判断し、スイッチ112により選択された信号を
ゲート生成部17と輝度信号抽出部18と信号重畳処理
部13に入力し、また映像信号選択部111が選択した
信号の情報を判定部22に入力している点である。その
ほかの構成要素は、第1の実施例に示した構成要素と全
く同一である。
【0054】以上のように構成された字幕検出装置につ
いて、図11を用いて説明する。映像信号発生部110
は、ディスク1が再生されていないときなどに、映像信
号出力端16から出力するための映像信号を発生するも
ので、通常ブルー画面や黒画面になる映像信号が出力さ
れる。次に、映像信号選択部111は、機器の状態によ
り映像信号出力端16から出力する映像信号を決定する
ものである。そして、映像信号選択部111の決定によ
りスイッチ112が映像信号を選択する。映像信号発生
部110の出力する映像信号が映像信号選択部111に
より選択されているときは、映像信号出力端16から出
力されている映像信号は判定部22で判定する対象では
ないので、この場合は、判定部22での判定処理を中止
する。その場合は、判定部22において、入力されたカ
ウンタ21のデータを無効にすれば簡単に実現できる。
また、映像信号時間軸補正部4が出力する映像信号が映
像信号選択部111により選択されているときは、判定
部22での判定処理を実行すればよい。以上のように、
映像信号選択部111の決定により判定部22での判定
処理動作を決定することで、判定部22での誤判定を防
ぐことができ、判定部22の判定結果の信頼性を確保で
きる。
【0055】また、以上説明した以外の構成と動作につ
いては第1の実施例と全く同一である。
【0056】映像に含まれる字幕情報を検出することは
第1の実施例と全く同一であるが、以上のように、映像
信号選択部111が選択した映像信号により、判定部2
2の動作を決定することで、出力する映像信号を任意の
映像信号と切り替える処理が機器に含まれていても、字
幕検出処理を正確に実施することができる。
【0057】以下、本発明の字幕検出装置の第4の実施
例について、図面を参照しながら説明する。
【0058】図12は本発明の第4の実施例を示すブロ
ック図である。第1の実施例と異なるのは、ゲート生成
部120が生成するゲート信号によりカウンタ21が出
力する信号を記憶するカウントデータ記憶部121が存
在し、カウントデータ記憶部121が記憶したデータに
より判定部22が判定動作を実行する点である。そのほ
かの構成要素は、第1の実施例に示した構成要素と全く
同一である。
【0059】以上のように構成された字幕検出装置につ
いて、図12を用いて説明する。まず、ゲート生成部1
20は、第1の実施例で図7に示した構成に加え、図7
に示した内容におけるカウンタ動作用ゲート発生回路7
2や判定部動作用ゲート発生回路73と同様に動作する
カウントデータ記憶部動作用ゲート発生回路と、その出
力端を備えているものである。次に、カウントデータ記
憶部121はゲート生成部120が生成するゲート信号
によりカウンタ21が出力するデータを記憶する。この
記憶動作のためのゲート信号の内容とそれに対応したカ
ウントデータ記憶部121の動作に関し、画面を複数の
ブロックに分割して判定を行う場合について、図13を
用いて説明する。
【0060】図13は、画面上のブロックと水平信号線
の関係を示したものである。図13において、130は
画面を分割した第1のブロック、131は画面を分割し
た第2のブロック、132は画面を分割した第3のブロ
ック、133は画面を分割した第4のブロック、134
は画面を分割した第5のブロックである。第1のブロッ
ク130についてそのカウントデータを判定しようとす
れば、水平信号線nからn+Nまでの水平信号線上で第
1のブロック130に相当する部分のみのカウントデー
タを集計する必要がある。第2のブロック131から第
5のブロック134の他のブロックについても同様であ
る。上記の集計が実現できるようにするには、ゲート生
成部120はカウンタ21とカウントデータ記憶部12
1へ水平信号線を分割したゲート信号を生成し、そのゲ
ート信号により、カウントデータ記憶部121において
は、カウンタ21のカウントデータをブロック毎に集計
すればよい。以上のような処理により、カウンタ21の
データを時分割的に取り扱うことができ、画面を複数の
ブロックに分割して判定部22は判定を行うことができ
る。
【0061】第1の実施例の説明で述べたように、第1
の実施例と同様の構成でも、カウンタ21を複数利用す
ることにより、画面を複数のブロックに分割して、各ブ
ロック毎のデータにより判定することは可能である。た
だし、この場合は各ブロックの数に比例したカウンタが
必要になる。しかし、本実施例のように、カウンタ21
の出力を記憶するカウントデータ記憶部121を構成に
加えることで、同様の効果を得ることができる。
【0062】また、以上説明した以外の構成と動作につ
いては第1の実施例と全く同一である。
【0063】映像に含まれる字幕情報を検出することは
第1の実施例と全く同一であるが、本実施例で説明した
構成であれば、画面を複数のブロックに分割し、各ブロ
ック毎のデータを判定に利用する場合でも、カウンタは
1つで済むため、装置の構成が簡単で、各ブロック毎の
データを判定に利用できることにより、字幕検出判定の
精度が向上できる利点を有する字幕検出装置を実現する
ことができる。
【0064】以下、本発明の字幕検出装置の第5の実施
例について、図面を参照しながら説明する。
【0065】図14は本発明の第5の実施例を示すブロ
ック図である。第1の実施例と異なるのは、再生位置検
出部140と、再生位置情報記憶部141と、再生位置
制御部142が存在し、再生位置検出部140は、映像
信号復調部3の出力から再生位置を検出し、再生位置情
報記憶部141は、その検出情報を判定部22の情報に
より記憶し、その記憶情報により、再生位置制御部14
2は、信号読み取り部2の再生位置を制御する構成を有
している点である。そのほかの構成要素は、第1の実施
例に示した構成要素と全く同一である。
【0066】以上のように構成された字幕検出装置につ
いて、図14を用いて説明する。まず、再生位置検出部
140は、ディスク1から再生された信号から再生され
ている位置を特定する。レーザーディスクの場合であれ
ば、24ビットステイタスコードと呼ばれる情報が映像
信号中に記録されており、この情報の中に再生時間を特
定できる情報が含まれている。このような情報を再生位
置検出部140は検出する。次に、再生位置情報記憶部
141は、判定部22が出力する判定結果により、再生
位置検出部140が出力する再生位置情報を記憶する。
言い換えれば、字幕変化や字幕の存在の有無が変化した
再生位置を再生位置情報記憶部141は記憶するという
ことである。したがって、この再生位置情報記憶部14
1が記憶した再生位置情報は、字幕が変化した再生位置
や字幕の存在の有無が変化した再生位置を示すことにな
る。この再生位置情報を用いて再生位置制御部142が
信号読み取り部2を制御することで、字幕情報に関連し
た再生を行うことができる。
【0067】以上の処理により、判定部22が字幕変化
を判定する場合、それまでに再生された箇所で字幕変化
が開始される位置の再生を開始したり、以前の字幕を繰
り返し再生するような機能を実現することができる。ま
た、判定部22が字幕の存在を検出する場合、字幕の存
在しない状態から存在する状態に変化した位置は歌詞の
先頭位置、すなわち歌の1番や2番等の開始位置に相当
するので、この位置を繰り返し再生することで、歌の1
番や2番等の開始位置から再生をする機能を実現するこ
とができる。
【0068】したがって、字幕情報を利用して、字幕を
繰り返し再生したり、歌の開始位置から再生をするよう
な機能を実現することができ、カラオケの練習を反復で
きる非常に有効な機能を実現できる。
【0069】
【発明の効果】以上のように本発明によると、輝度信号
抽出手段と、クランプ手段と、コンパレータと、カウン
タと、判定手段と、ゲート生成手段を設けることによ
り、映像再生機器において、映像信号に含まれる字幕の
情報を検出し、これを利用した優れた機能を実現できる
ものである。
【図面の簡単な説明】
【図1】本発明の字幕検出装置における第1の実施例に
おけるブロック図
【図2】同実施例におけるクランプ部の回路構成図
【図3】同実施例におけるコンパレータの回路構成図
【図4】同実施例における文字,映像信号,比較電圧お
よび出力信号の関係を示す図
【図5】字幕と画面の関係を示す模式図
【図6】同実施例における文字の色の第2の例とコンパ
レータの出力信号を示す図
【図7】同実施例におけるゲート生成部の構成を示すブ
ロック図
【図8】(a)は垂直同期信号を示す模式図 (b)はゲート生成部の出力する信号を示す模式図 (c)は判定部の動作を示す模式図
【図9】比較結果と字幕検出結果の関係を示す模式図
【図10】本発明の字幕検出装置における第2の実施例
におけるブロック図
【図11】本発明の字幕検出装置における第3の実施例
におけるブロック図
【図12】本発明の字幕検出装置における第4の実施例
におけるブロック図
【図13】画面を分割したブロックと水平信号線の関係
を示す模式図
【図14】本発明の字幕検出装置における第5の実施例
におけるブロック図
【図15】従来の表示装置を示すブロック図
【符号の説明】
1 ディスク 2 信号読み取り部 3 映像信号復調部 4 映像信号時間軸補正部 5 音声信号復調部 6 基準歌唱抽出部 7 マイクロホン 8 比較歌唱情報検出部 9 基準歌唱情報検出部 10 比較部 11 記憶部 12 信号発生部 13 信号重畳処理部 14 第1の音声信号出力端 15 第2の音声信号出力端 16 映像信号出力端 17 ゲート生成部 18 輝度信号抽出部 19 クランプ部 20 コンパレータ 21 カウンタ 22 判定部 24 定電圧源 25 入力端 26 コンデンサ 27 抵抗 28 トランジスタ 29 出力端 30 入力端 31 第1の抵抗 32 第2の抵抗 33 第1のトランジスタ 34 第2のトランジスタ 35 定電流源 36 定電圧源 37 第3の抵抗 38 第4の抵抗 39 第3のトランジスタ 40 第5の抵抗 41 出力端 70 入力端 71 同期分離回路 72 カウンタ動作用ゲート発生回路 73 判定部動作用ゲート発生回路 74 第1の出力端 75 第2の出力端 90 比較結果を表す第1の表示 91 比較結果を表す第2の表示 92 比較結果を表す第3の表示 93 比較結果を表す第4の表示 94 比較結果と字幕検出結果を表す第5の表示 95 比較結果を表す第6の表示 96 比較結果を表す第7の表示 97 比較結果を表す第8の表示 98 比較結果を表す第9の表示 100 表示部 110 映像信号発生部 111 映像信号選択部 112 スイッチ 120 ゲート生成部 121 カウントデータ記憶部 130 画面を分割した第1のブロック 131 画面を分割した第2のブロック 132 画面を分割した第3のブロック 133 画面を分割した第4のブロック 134 画面を分割した第5のブロック 140 再生位置検出部 141 再生位置情報記憶部 142 再生位置制御部

Claims (10)

    (57)【特許請求の範囲】
  1. 【請求項1】 映像信号よりゲート信号を生成するゲー
    ト生成手段と、前記映像信号より輝度信号成分を抽出す
    る輝度信号抽出手段と、前記輝度信号抽出手段が出力す
    る信号を一定電圧にクランプするクランプ手段と、前記
    クランプ手段が出力する信号を一定電圧と比較するコン
    パレータと、前記ゲート生成手段が出力するゲート信号
    により前記コンパレータの出力をカウントする少なくと
    も1つのカウンタと、前記ゲート生成手段が出力するゲ
    ート信号により前記カウンタが出力するデータを判定す
    る判定手段から構成されることを特徴とする字幕検出装
    置。
  2. 【請求項2】 ゲート生成手段は、入力された映像信号
    の一定のフィールド毎に、ゲート信号を出力することを
    特徴とする請求項1に記載の字幕検出装置。
  3. 【請求項3】 ゲート生成手段は、入力された映像信号
    の1フィールド内に複数回ゲート信号を生成することを
    特徴とする請求項1に記載の字幕検出装置。
  4. 【請求項4】 判定手段は、カウンタの出力するデータ
    を一定値と比較した結果について判定することを特徴と
    する請求項1に記載の字幕検出装置。
  5. 【請求項5】 判定手段は、カウンタの出力するデータ
    の差分値を一定値と比較した結果について判定すること
    を特徴とする請求項1に記載の字幕検出装置。
  6. 【請求項6】 判定手段は、判定終了後、一定時間経過
    後に判定結果を出力することを特徴とする請求項1に記
    載の字幕検出装置。
  7. 【請求項7】 判定手段が出力する判定結果を報知する
    報知手段を備えている請求項1に記載の字幕検出装置。
  8. 【請求項8】 ゲート生成手段に入力する映像信号を選
    択する映像信号選択手段が出力する映像信号選択情報に
    より判定手段は判定動作を決定することを特徴とする請
    求項1に記載の字幕検出装置。
  9. 【請求項9】 ゲート生成手段が出力するゲート信号に
    従いカウンタが出力するデータを記憶し、判定手段に情
    報を出力する記憶手段を備えている請求項1に記載の字
    幕検出装置。
  10. 【請求項10】 記録媒体から再生された映像信号より
    ゲート信号を生成するゲート生成手段と、前記映像信号
    より輝度信号成分を抽出する輝度信号抽出手段と、前記
    輝度信号抽出手段が出力する信号を一定電圧にクランプ
    するクランプ手段と、前記クランプ手段が出力する信号
    を一定電圧と比較するコンパレータと、前記ゲート生成
    手段が出力するゲート信号により前記コンパレータの出
    力をカウントする少なくとも1つのカウンタと、前記ゲ
    ート生成手段が出力するゲート信号により前記カウンタ
    が出力するデータを判定する判定手段と、前記記録媒体
    の再生位置を特定する再生位置検出手段と、前記判定手
    段の出力に従い前記再生位置検出手段が出力する情報を
    記憶する再生位置情報記憶手段からなり、前記再生位置
    情報記憶手段に記憶された情報に従い前記記録媒体の再
    生を行うことを特徴とする字幕検出装置。
JP6073207A 1994-04-12 1994-04-12 字幕検出装置 Expired - Fee Related JP2937006B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP6073207A JP2937006B2 (ja) 1994-04-12 1994-04-12 字幕検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6073207A JP2937006B2 (ja) 1994-04-12 1994-04-12 字幕検出装置

Publications (2)

Publication Number Publication Date
JPH07284053A JPH07284053A (ja) 1995-10-27
JP2937006B2 true JP2937006B2 (ja) 1999-08-23

Family

ID=13511481

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6073207A Expired - Fee Related JP2937006B2 (ja) 1994-04-12 1994-04-12 字幕検出装置

Country Status (1)

Country Link
JP (1) JP2937006B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100428602B1 (ko) * 1997-08-29 2004-07-16 주식회사 대우일렉트로닉스 프레임특성에따른문자정보자동저장장치및방법
JP4965980B2 (ja) 2006-11-30 2012-07-04 株式会社東芝 字幕検出装置
JP4846674B2 (ja) * 2007-08-14 2011-12-28 日本放送協会 静止画抽出装置及び静止画抽出プログラム

Also Published As

Publication number Publication date
JPH07284053A (ja) 1995-10-27

Similar Documents

Publication Publication Date Title
JP2937006B2 (ja) 字幕検出装置
JPH0716349A (ja) ビデオゲーム装置
US5200862A (en) Eliminating signal quality deteriorations in a reproduced still image
KR19990009847A (ko) 복합신호의 수직동기신호 생성 장치
US5579123A (en) Track judgement apparatus for discriminating between video and other signals during signal reproduction
JP3153268B2 (ja) トラック判別装置
US5287197A (en) Signal demodulation device
JPH07170423A (ja) 信号処理装置
JPH08275072A (ja) 映像信号検出回路及びこれを用いたav信号選択装置
US5453965A (en) Reproducing apparatus and reproducing method
KR970001669B1 (ko) 영상기록재생기의 번역 자막 제거장치
JP3865015B2 (ja) 画像表示装置
JPH04354480A (ja) 輝度制御回路
JPH0625102Y2 (ja) 映像出力検出装置
KR950015202B1 (ko) 비디오디스크의 어드레스 디코더
KR940005476Y1 (ko) 브이씨알의 자기기록재생장치
JP3593272B2 (ja) カラオケ装置
JP3235423B2 (ja) 磁気録画再生装置の目詰まり検知装置
JP2001169239A (ja) 記録再生装置
JP2001119655A (ja) 記録方式判別装置
KR19980015417A (ko) 카메라 촬영조건 화면표시장치
JP2002027383A (ja) 磁気再生装置
JPH0291856A (ja) Fm変調映像信号の記録方式を判別する装置
JPH06165123A (ja) 磁気録画再生装置の記録方式判別装置
JPH0228694A (ja) 画像拡大表示方法および装置

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees