JP5227819B2 - Movie generator - Google Patents
Movie generator Download PDFInfo
- Publication number
- JP5227819B2 JP5227819B2 JP2009012487A JP2009012487A JP5227819B2 JP 5227819 B2 JP5227819 B2 JP 5227819B2 JP 2009012487 A JP2009012487 A JP 2009012487A JP 2009012487 A JP2009012487 A JP 2009012487A JP 5227819 B2 JP5227819 B2 JP 5227819B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- moving image
- character string
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
- Television Signal Processing For Recording (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Description
電子メールを用いた通信に関するものもであり、特にストリーミング視聴機能を持つ、テレビ向けの動画生成装置関するものである。 It also relates to communication using electronic mail, and particularly relates to a moving image generating apparatus for television having a streaming viewing function.
近年、デジタル放送の普及により、テレビ、レコーダ機器に加え、コンピュータネットワークの普及に伴い、通信機能を持ったテレビジョンシステムが開発されている。今後、更に高度な映像音声を含む通信機能を持ったテレビジョンシステムが普及するものと思われる。 In recent years, with the spread of digital broadcasting, television systems having communication functions have been developed along with the spread of computer networks in addition to television and recorder equipment. In the future, it is expected that television systems having communication functions including more advanced video and audio will become widespread.
一般に、電子メールを用いたコミュニケーションでは、文字や静止画によるものが主であり、動画を見る事が前提であるテレビでは、単純な文字や静止画の表示では物足りなさを感じることが指摘されている。 In general, communication using e-mail is mainly based on text and still images, and it has been pointed out that televisions that are premised on watching movies feel unsatisfactory when displaying simple text and still images. Yes.
動画生成装置が、文字や静止画の電子メールをサーバ上で動画に変換して配信する機能を持つ構成としている。 The moving image generating apparatus has a function of converting text and still image e-mails into moving images on a server and delivering them.
テレビにおいて、電子メールを見る場合、違和感の少ないコミュニケーションが実現できるようになる。 When watching e-mail on a television, communication with less discomfort can be realized.
以下、実施の形態を図面に基づいて詳細に説明する。 Hereinafter, embodiments will be described in detail with reference to the drawings.
図1は、実施例の形態1を示すシステム構成図の例である。
図1は、送信側端末1、受信側端末2、ネットワーク3及び、メール受信5、動画変換7、ストリーミング送信6からなる動画生成サーバ4から構成されている。
FIG. 1 is an example of a system configuration
FIG. 1 is composed of a
図1は、送信側端末1から、受信側端末2宛てに、電子メール(以下、メール)を送った場合、ネットワーク3を介して、動画生成サーバ7のメール受信5で、メールを受付、その内容を動画変換7で動画データに変換し、ストリーミング送信6より、ネットワーク3を介して、受信側端末2にストリーミング送信するように構成したものである。
FIG. 1 shows that when an e-mail (hereinafter referred to as e-mail) is sent from the sending
実施例の形態1の効果としては、一般に文字情報から成るメールを、動画として受信できる為、受信側端末2が、動画を見る目的に適しているテレビの場合、視聴環境を考慮した動画によるメールの伝達が可能となる。
As an effect of
図2は、実施の形態1における動画変換のブロック図である。
図2は、図1中の動画変換7の内部構成ブロック図であり、文字→静止画変換処理部8、静止画→動画変換処理部9、音声データ蓄積部10から構成されている。
FIG. 2 is a block diagram of moving image conversion in the first embodiment.
FIG. 2 is a block diagram showing the internal configuration of the moving
図2は、文字→静止画変換処理部8の入力として、図1のメール受信5から文字情報を受け取り、文字情報を静止画に変換する一方、音声データ蓄積部10から該当する音声データを選択し、静止画→動画変換処理9へ入力することで、ストリーミング・データを生成し、図1のストリーミング送信6に出力するように構成したものである。
2 receives character information from the
ここでの効果としては、動画変換7において、メールの文字情報から、ストリーミング用の動画データを生成することができる。
As an effect here, in the moving
図3は、実施の形態1における送信側端末の操作画面例であり、具体的に携帯電話におけるメール作成画面11を示したものである。
図3は、メールの宛先として「abc@xyz.co.jp」、件名として「ご無沙汰」、本文として「お元気ですか。旅行に行きました。」という内容で、メールを作成したもので、「メール送信」のボタンを押す操作により、メールを送信する事ができる。
FIG. 3 is an example of the operation screen of the transmitting terminal in the first embodiment, and specifically shows the
Figure 3 shows an email created with the contents of "abc@xyz.co.jp" as the email address, "Gone Sasada" as the subject, and "How are you? I went on a trip." By pressing the “Send Mail” button, you can send mail.
図4は、実施の形態1におけるメール変換のフロー図であり、図2中の文字→静止画変換処理部8のメール変換の処理フローを示した図である。
FIG. 4 is a flow chart of mail conversion in the first embodiment, and shows a mail conversion processing flow of the character → still image
図4は、メール変換開始12、DATA部分の抽出13、文字列の解析14、「Date:」に続く文字列抽出15、「From:」に続く文字列抽出16、「Subject:」に続く文字列抽出17、本文(BODY)文字列抽出18、対象外文字列19、「.」(ピリオド)の文字検出20、テンプレート1に従いビットマップ作成21、テンプレート2に従いビットマップ作成22、テンプレート3に従いビットマップ作成23、メール変換終了24から構成されている。
FIG. 4 shows
ここでは、メールとして標準的なSMTP(Simple Mail Transfer Protocol)を用いた場合についての処理フローとして記載している。 Here, it is described as a processing flow in the case where standard SMTP (Simple Mail Transfer Protocol) is used as the mail.
図4は、メール変換開始12から始まり、メールのDATA部分の抽出13により、メールの本体を取り出し、文字列の解析14と、「Date:」に続く文字列抽出15、「From:」に続く文字列抽出16、「Subject:」に続く文字列抽出17、本文(BODY)文字列抽出18、対象外文字列19、「.」(ピリオド)の文字検出20が実行され、それぞれの文字列は、テンプレート1に従いビットマップ作成21、テンプレート2に従いビットマップ作成22、テンプレート3に従いビットマップ作成23の動作が行われ、「.」(ピリオド)の文字検出20により、メールのDATA部分の終了を検出し、メール変換終了24で処理を終了するよう構成したものである。
FIG. 4 starts from the mail conversion start 12 and extracts the mail body by extracting 13 of the DATA part of the mail, followed by the
ここでの効果としては、メール変換のフローにより、メールの特定の要素の文字列をテンプレートに従いビットマップ作成することで、静止画データを生成することができる。 As an effect here, still image data can be generated by creating a bitmap of a character string of a specific element of a mail according to a template by a mail conversion flow.
図5は、実施の形態1における文字→静止画変換処理の例であり、模式的に、メール(DATA部分)を入力として、図4中のテンプレート1に従いビットマップ作成21、テンプレート2に従いビットマップ作成22、テンプレート3に従いビットマップ作成23、それぞれのテンプレートと、得られるビットマップ・データの関係を示した図である。
FIG. 5 is an example of character-to-still image conversion processing according to the first embodiment. Schematically, a mail (DATA portion) is input, and
図5は、メール(DATA部分)25、テンプレート1の26、テンプレート2の27、テンプレート3の28、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の31から構成されている。
FIG. 5 shows mail (DATA portion) 25,
図5は、メール(DATA部分)25の入力の各要素が、テンプレート1の26、テンプレート2の27、テンプレート3の28により、処理されることで、出力として、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の31が得られることを示したものである。
FIG. 5 shows that each element of the input of the mail (DATA portion) 25 is processed by 26 of
ここでの効果としては、テンプレートの処理内容を変更することで、同じメール(DATA部分)25の入力に対しても、異なった任意の形式のビットマップ作成することができ、柔軟に静止画データを生成することができる。 As an effect here, by changing the processing contents of the template, it is possible to create bitmaps of arbitrary different formats for the input of the same mail (DATA portion) 25, and flexibly still image data Can be generated.
本実施例では、テンプレートの各要素として、テンプレート1の26は、「表示文字のフォントサイズ、表示座標、切捨て文字数、文字揃え位置」、テンプレート2の27は、「表示文字のフォントサイズ、表示座標、文字揃え位置」、テンプレート3の28は、「表示文字のフォントサイズ、表示座標、文字揃え位置、一行当りの文字数、一ページ当りの文字数」の情報を含んでいる。
In this embodiment, as each element of the template, 26 of the
図6は、実施の形態1における音声データ選択のフロー図であり、図2中の静止画→動画変換処理部9において、音声データ蓄積部10からの音声データの選択処理フローを示した図である。
FIG. 6 is a flowchart of audio data selection in the first embodiment, and shows a selection process flow of audio data from the audio
図6は、音声データ選択開始32、DATA部分の抽出13、文字列の解析14、「Date:」に続く文字列抽出15、「Date:」、「.」以外の文字検出33、「.」(ピリオド)の文字検出20、「Data:」に続く文字列の月情報より該当月の音声データを選択34、音声データが選択されているか35、現在日時の月情報より該当月の音声データを選択36、音声データ選択終了37から構成されている。
ここでは、音声データの選択方法として、メールの中に含まれる月情報を元としている。
6 shows voice
Here, the month information included in the mail is used as a method for selecting audio data.
図6は、音声データ選択開始32から始まり、メールのDATA部分の抽出13により、メールの本体を取り出し、文字列の解析14と、「Date:」に続く文字列抽出15、「Date:」、「.」以外の文字検出33、「.」(ピリオド)の文字検出20が実行され、「Date:」に続く文字列抽出ができた場合には、その中の月情報から、該当する音声データを選択し、「.」(ピリオド)の文字検出20により、メールのDATA部分の終了を検出し、音声データが選択されているか35で、音声データが選択されていない場合は、現在日時の月情報より該当月の音声データを選択36で実行し、音声データ選択終了37で処理を終了するよう構成したものである。
6 starts from the voice data selection start 32 and extracts the mail body by extracting 13 of the DATA part of the mail, analyzing the
ここでの効果としては、メールのDATA部分に含まれる月情報、又は、現在の日時の月情報により、異なった音声データが選択される為、季節に合った音声データ(音楽)を選択できることができる。 As an effect here, since different audio data is selected according to the month information included in the DATA part of the mail or the month information of the current date and time, the audio data (music) suitable for the season can be selected. it can.
また、月別の音声情報を複数用意しておき、該当月の中でランダムに音声データを選択したり、月日まで判定し、特定の日(クリスマスや、お正月、予め設定した送信先の人物の誕生日)に合せて、個別の音楽データが選択されるように処理フローや音楽データを用意するようにしても良い。 Also, prepare multiple pieces of audio information for each month, select audio data at random in the relevant month, determine the date of the month, and select a specific date (Christmas, New Year, preset destination person) A processing flow and music data may be prepared so that individual music data is selected in accordance with (birthday).
図7は、実施の形態1における静止画→動画変換の例であり、模式的に、ビットマップ・データと音声データを、図2中の静止画→動画変換処理部39に入力し、動画変換されたストリーミング・データが得られる関係を示した図である。
FIG. 7 is an example of still image → moving image conversion in the first embodiment. Typically, bitmap data and audio data are input to the still image → moving image
図7は、静止画→動画変換処理39と、入力画像である、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の31、入力音声である、音声データ38と、出力であるストリーミング・データ40から構成されている。
FIG. 7 shows still image → moving
図7は、入力画像である、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の31をGOP(Group of Picutres)の整数倍とし、変換後の符号化方式をMPEGとして、GOPを「IBBPBBPBBPBBPBB」(I:Iピクチャ、P:Pピクチャ、B:Bピクチャ)の15フレーム単位、N1=20、N2=20、N3=20、映像フレームレート=30フレーム/秒をとした場合、静止画→動画変換処理39の入力映像は、
1)ビットマップ・データ1の29 : 300フレーム = 10秒間
2)ビットマップ・データ2の30 : 300フレーム = 10秒間
3)ビットマップ・データ3の31 : 300フレーム = 10秒間
となり、合計で30秒間の映像となる。
FIG. 7 shows an input image, that is, 29 of
1)
この映像期間と音声データの長さの整合を取る為、音声データの長さを30秒となるように切り出した音声データ38を上記の30秒の映像と同期して、静止画→動画変換処理39に入力すると、30秒間の音声付の動画データをストリーミング・データとして生成することができる。
In order to match the length of the video data with the length of the audio data, the
ここでの効果としては、静止画像であるビットマップ・データの動画変換の単位をGOPの整数倍としている為、映像の符号化単位と、ビットマップ・データの切換タイミングが同期できるので、画質的な劣化を最小限に抑えることができる。
また、映像期間と音声データの長さの整合を取ることで、自然な動画データを生成することができる。
The effect here is that the unit of video conversion of bitmap data, which is a still image, is an integer multiple of GOP, so the video encoding unit and the switching timing of bitmap data can be synchronized, so that Degradation can be minimized.
In addition, natural moving image data can be generated by matching the video period and the length of the audio data.
図8は、実施の形態1における受信側端末の映像音声の出力の例であり、模式的に、ストリーミング・データを、図1の受信端末入力2し、デコード処理した結果、受信側端末2上で再生される映像出力・音声出力を示した図である。
FIG. 8 is an example of video / audio output of the receiving terminal in the first embodiment. As a result, the streaming data is input to the receiving
図8は、ストリーミング・データ40、デコード処理41、映像出力42、音声出力43から構成されている。
FIG. 8 includes streaming
図8は、図7の出力として得られたストリーミング・データ40が、図1のネットワーク3を介して受信されたものであり、デコード処理41では、図7の静止画→動画変換処理39の逆の処理が行われ、映像出力42と、音声出力43が得られるように構成されている。
FIG. 8 shows the streaming
ここでは、MPEG符号化の時点で、GOPが15フレーム単位としており、N1=20、N2=20、N3=20、映像フレームレート=30フレーム/秒となっているので、MPEG復号して得られる映像出力は、
1)ビットマップ・データ1の29 : 300フレーム = 10秒間
2)ビットマップ・データ2の30 : 300フレーム = 10秒間
3)ビットマップ・データ3の31 : 300フレーム = 10秒間
となり、合計で30秒間の映像となる。(ただし、MPEG映像は非可逆符号化なので、元のビットマップ・データと完全には一致しない)
この映像期間と音声データの長さの整合を取った30秒の音声データ38が音声出力として得られる。(ただし、MPEG音声は非可逆符号化なので、元の音声データと完全には一致しない)
図9は、実施の形態1における受信側端末の内部ブロック図である。
図9は、ディスプレイドライバ57、スケーリング処理56、映像デコード処理55、音声ドライバ59、音声デコード処理58、AVパケット分離処理54からなる映像・音声復号部60と、スピーカ62、ディスプレイパネル61からなる映像・音声復号化出力部位と、ネットワーク50と接続したネットワーク処理51、アンテナ49と接続したチューナ処理52、ネットワーク処理51の出力とチューナ処理52の出力とを、CPU46、プログラムROM47、RAM48のプログラム制御により選択出力する入力切換処理53と、ユーザ操作の為のリモコン44、リモコン処理45から構成されている。
Here, at the time of MPEG encoding, the GOP is in units of 15 frames, N1 = 20, N2 = 20, N3 = 20, and the video frame rate = 30 frames / second. The video output is
1)
A 30-
FIG. 9 is an internal block diagram of the receiving terminal in the first embodiment.
FIG. 9 shows a video /
図9において、一般にテレビの視聴の動作は、ユーザがリモコン44を操作、リモコン処理45で受信し、CPU46、プログラムROM47、RAM48上で動作する制御ソフトウェアが、チューナ処理52に選局制御を行い、入力切換処理53の出力としてチューナ処理52からの信号を選択し、映像・音声復号部60を制御することで、スピーカ62および、ディスプレイパネル61にテレビ放送が出力される。
In FIG. 9, generally, the TV viewing operation is performed by the user operating the
また、ストリーミングの視聴の動作は、同様に、ユーザがリモコン44を操作、リモコン処理45で受信し、CPU46、プログラムROM47、RAM48上で動作する制御ソフトウェアが、ネットワーク処理51でネットワーク50を介してネットワーク上のストリーミングサーバにデータを要求し、得られたストリーミング・データをネットワーク処理51で受信し、入力切換処理53の出力として、ネットワーク処理51からの信号を選択し、映像・音声復号部60を制御することで、スピーカ62および、ディスプレイパネル61にテレビ放送が出力される。
Similarly, in the streaming viewing operation, the user operates the
図10は、実施の形態2における送信側端末の操作画面例であり、具体的に携帯電話におけるメール作成画面63を示したものである。
FIG. 10 is an example of the operation screen of the transmission side terminal in the second embodiment, and specifically shows the
図10は、メールの宛先として「abc@xyz.co.jp」、件名として「ご無沙汰」、添付ファイルとして「20080402.jpg」、本文として「旅行に行きました。写真を送ります。」という内容で、メールを作成したもので、「メール送信」のボタンを押す操作により、メールを送信する事ができる。 Fig. 10 shows the contents of "abc@xyz.co.jp" as the email address, "Nothing" as the subject, "20080402.jpg" as the attachment, and "I went on a trip. Then, you can create a mail and send it by pressing the “Send Mail” button.
図11は、実施の形態2におけるメール変換のフロー図であり、
図2中の文字→静止画変換処理部8のメール変換の処理フローを示した図である。
FIG. 11 is a flowchart of mail conversion in the second embodiment.
FIG. 3 is a diagram showing a mail conversion processing flow of a character → still image
図11は、メール変換開始12、DATA部分の抽出13、文字列の解析14、「Date:」に続く文字列抽出15、「From:」に続く文字列抽出16、「Subject:」に続く文字列抽出17、本文(BODY)文字列抽出18、対象外文字列19、「.」(ピリオド)の文字検出20、テンプレート1に従いビットマップ作成21、テンプレート2に従いビットマップ作成22、テンプレート3に従いビットマップ作成23、添付写真があるか64、テンプレート4に従いビットマップを作成65、メール変換終了24から構成されている。
FIG. 11 shows mail
ここでは、メールとして標準的なSMTP(Simple Mail Transfer Protocol)を用いた場合についての処理フローとして記載している。 Here, it is described as a processing flow in the case where standard SMTP (Simple Mail Transfer Protocol) is used as the mail.
図11は、メール変換開始12から始まり、メールのDATA部分の抽出13により、メールの本体を取り出し、文字列の解析14と、「Date:」に続く文字列抽出15、「From:」に続く文字列抽出16、「Subject:」に続く文字列抽出17、本文(BODY)文字列抽出18、対象外文字列19、「.」(ピリオド)の文字検出20が実行され、それぞれの文字列は、テンプレート1に従いビットマップ作成21、テンプレート2に従いビットマップ作成22、テンプレート3に従いビットマップ作成23の動作が行われ、「.」(ピリオド)の文字検出20により、メールのDATA部分の終了を検出し、添付写真の有無を、添付写真があるか64で判定し、添付写真がある場合には、テンプレート4に従いビットマップを作成65で実行し、メール変換終了24で処理を終了するよう構成したものである。
FIG. 11 starts from the
ここでの効果としては、メール変換のフローにより、メールの特定の要素の文字列をテンプレートに従いビットマップ作成することで、静止画データを生成することができる
と共に、メールに添付写真がある場合には、写真をテンプレートに従い、ビットマップ化することで、文字列をビットマップ化したものと整合性を取る事が可能となる。
As an effect here, by creating a bitmap of a character string of a specific element of an email according to a template by the flow of email conversion, it is possible to generate still image data and when there is an attached photo in the email By making a photo into a bitmap according to a template, it becomes possible to maintain consistency with a bitmap of a character string.
図12は、実施の形態2における文字→静止画変換処理の例であり、模式的に、メール(DATA部分)および、メール(添付写真:20080401.jpg)を入力として、図11中のテンプレート1に従いビットマップ作成21、テンプレート2に従いビットマップ作成22、テンプレート3に従いビットマップ作成23、テンプレート4に従いビットマップ作成65、それぞれのテンプレートと、得られるビットマップ・データの関係を示した図である。
FIG. 12 is an example of a character → still image conversion process in the second embodiment. Schematically,
図12は、メール(DATA部分)66、メール(添付写真:20080401.jpg)67、テンプレート1の26、テンプレート2の27、テンプレート3の28、テンプレート4の68、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の69、ビットマップ・データ4の70から構成されている。
FIG. 12 shows mail (DATA portion) 66, mail (attached photo: 20080401.jpg) 67,
図12は、メール(DATA部分)66及び、メール(添付写真:20080401.jpg)67の入力の各要素が、テンプレート1の26、テンプレート2の27、テンプレート3の28、テンプレート4の68により、処理されることで、出力として、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の69、ビットマップ・データ4の70が得られることを示したものである。
In FIG. 12, each element of input of mail (DATA portion) 66 and mail (attached photo: 20080401.jpg) 67 is represented by 26 of
ここでの効果としては、テンプレートの処理内容を変更することで、同じメール(DATA部分)66の入力に対しても、異なった任意の形式のビットマップ作成することができ、柔軟に静止画データを生成することができ、メール(添付写真:20080401.jpg)67についても、テンプレートに従った任意のビットマップ作成することができる。 As an effect here, by changing the processing content of the template, it is possible to create bitmaps of different arbitrary formats even for the input of the same mail (DATA portion) 66, and flexibly still image data As for the mail (attached photo: 20080401.jpg) 67, an arbitrary bitmap according to the template can be created.
本実施例では、テンプレートの各要素として、テンプレート1の26は、「表示文字のフォントサイズ、表示座標、切捨て文字数、文字揃え位置、壁紙データの使用の有無」、テンプレート2の27は、「表示文字のフォントサイズ、表示座標、文字揃え位置、壁紙データの使用の有無」、テンプレート3の28は、「表示文字のフォントサイズ、表示座標、文字揃え位置、一行当りの文字数、一ページ当りの文字数」、テンプレート4の68は、「スケーリング実行による画像の変換後表示画素数」の情報を含んでいる。
In this embodiment, as elements of the template, 26 of
図13は、実施の形態2における音声データ選択のフロー図であり、図2中の静止画→動画変換処理部9において、音声データ蓄積部10からの音声データの選択処理フローを示した図である。
FIG. 13 is a flowchart of audio data selection in the second embodiment, and shows a selection process flow of audio data from the audio
図13は、音声データ選択開始32、添付写真はあるか64、日時情報があるか71、添付写真の月情報より該当月の音声データを選択72、DATA部分の抽出13、文字列の解析14、「Date:」に続く文字列抽出15、「Date:」、「.」以外の文字検出33、「.」(ピリオド)の文字検出20、「Data:」に続く文字列の月情報より該当月の音声データを選択34、音声データが選択されているか35、現在日時の月情報より該当月の音声データを選択36、音声データ選択終了37から構成されている。
ここでは、音声データの選択方法として、メールに添付されている写真の月情報または、メールの中に含まれる月情報を元としている。
FIG. 13 shows audio
Here, the audio data selection method is based on the month information of the photo attached to the email or the month information included in the email.
図13は、音声データ選択開始32から始まり、添付写真があるか64により判定し、更に日付情報があるか71にて、写真から日付情報が取れる場合は、添付写真の月情報より該当月の音声データを選択72で実行し、添付写真がない場合及び、添付写真から日付情報が取れない場合は、メールのDATA部分の抽出13により、メールの本体を取り出し、文字列の解析14と、「Date:」に続く文字列抽出15、「Date:」、「.」以外の文字検出33、「.」(ピリオド)の文字検出20が実行され、「Date:」に続く文字列抽出ができた場合には、その中の月情報から、該当する音声データを選択し、「.」(ピリオド)の文字検出20により、メールのDATA部分の終了を検出し、音声データが選択されているか35で、音声データが選択されていない場合は、現在日時の月情報より該当月の音声データを選択36で実行し、音声データ選択終了37で処理を終了するよう構成したものである。
FIG. 13 starts from the audio data selection start 32 and determines whether there is an attached photo by 64. If there is date information from 71, if date information can be taken from the photo, the month information of the attached photo When the voice data is executed in the
ここでの効果としては、メールに添付写真があり、その写真の日付情報が取得できる場合は、その日付を優先し、添付写真がないか、添付写真の日付情報が取得できない場合は、メールのDATA部分に含まれる月情報、又は、現在の日時の月情報により、異なった音声データが選択される為、写真の撮影した季節に合った音声データ(音楽)を優先的に選択できることができる。 The effect here is that if there is an attached photo in the email and the date information of that photo can be obtained, priority is given to that date, and if there is no attached photo or the date information of the attached photo cannot be obtained, Since different audio data is selected according to the month information included in the DATA portion or the month information of the current date and time, it is possible to preferentially select audio data (music) suitable for the season in which the photograph was taken.
また、月別の音声データを複数用意しておき、該当月の中でランダムに音声データを選択したり、月日まで判定し、特定の日(クリスマスや、お正月、予め設定した送信先の人物の誕生日)に合せて、個別の音楽データが選択されるように処理フローや音楽データを用意するようにしても良い。 Also, prepare multiple audio data by month, select audio data at random in the corresponding month, determine the date of the month, and select a specific date (Christmas, New Year, preset destination person) A processing flow and music data may be prepared so that individual music data is selected in accordance with (birthday).
図14は、実施の形態2における静止画→動画変換の例であり、模式的に、ビットマップ・データと音声データを、図2中の静止画→動画変換処理部39に入力し、動画変換されたストリーミング・データが得られる関係を示した図である。
FIG. 14 is an example of still image → moving image conversion in the second embodiment, and schematically, bitmap data and audio data are input to the still image → moving image
図14は、静止画→動画変換処理39と、入力画像である、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の69、ビットマップ・データ4の70、入力音声である、音声データ73と、出力であるストリーミング・データ74から構成されている。
FIG. 14 shows still image → moving
図14は、入力画像である、ビットマップ・データ1の29、ビットマップ・データ2の30、ビットマップ・データ3の69、ビットマップ・データ4の70をGOP(Group of Picutres)の整数倍とし、変換後の符号化方式をMPEGとして、GOPを「IBBPBBPBBPBBPBB」(I:Iピクチャ、P:Pピクチャ、B:Bピクチャ)の15フレーム単位、N1=20、N2=20、N3=20、N4=40、映像フレームレート=30フレーム/秒をとした場合、静止画→動画変換処理39の入力映像は、
1)ビットマップ・データ1の29 : 300フレーム = 10秒間
2)ビットマップ・データ2の30 : 300フレーム = 10秒間
3)ビットマップ・データ3の69 : 300フレーム = 10秒間
4)ビットマップ・データ4の70 : 600フレーム = 20秒間
となり、合計で50秒間の映像となる。
FIG. 14 shows
1)
この映像期間と音声データの長さの整合を取る為、音声データの長さを50秒となるように切り出した音声データ73を上記の50秒の映像と同期して、静止画→動画変換処理39に入力すると、50秒間の音声付の動画データをストリーミング・データとして生成することができる。 In order to match the length of the video data with the length of the audio data, the audio data 73 cut out so that the length of the audio data is 50 seconds is synchronized with the above 50-second video, and the still image → video conversion process If it inputs to 39, the moving image data with an audio | voice for 50 seconds can be produced | generated as streaming data.
ここでの効果としては、静止画像であるビットマップ・データの動画変換の単位をGOPの整数倍としている為、映像の符号化単位と、ビットマップ・データの切換タイミングが同期できるので、画質的な劣化を最小限に抑えることができる。
また、映像期間と音声データの長さの整合を取ることで、自然な動画データを生成することができる。
更に、メールに添付写真があった場合には、その写真の画像も自動的に動画変換することができる。
The effect here is that the unit of video conversion of bitmap data, which is a still image, is an integer multiple of GOP, so the video encoding unit and the switching timing of bitmap data can be synchronized, so that Degradation can be minimized.
In addition, natural moving image data can be generated by matching the video period and the length of the audio data.
In addition, if there is an attached photo in the mail, the image of the photo can be automatically converted to a moving image.
図15は、実施の形態2における受信側端末の映像音声の出力の例であり、模式的に、ストリーミング・データを、図1の受信端末入力2し、デコード処理した結果、受信側端末2上で再生される映像出力・音声出力を示した図である。
FIG. 15 is an example of the video / audio output of the receiving terminal in the second embodiment. As a result, the streaming data is input to the receiving
図15は、ストリーミング・データ74、デコード処理41、映像出力75、音声出力76から構成されている。
FIG. 15 includes streaming
図15は、図14の出力として得られたストリーミング・データ74が、図1のネットワーク3を介して受信されたものであり、デコード処理41では、図14の静止画→動画変換処理39の逆の処理が行われ、映像出力75と、音声出力76が得られるように構成されている。
FIG. 15 shows the streaming
ここでは、MPEG符号化の時点で、GOPが15フレーム単位としており、N1=20、N2=20、N3=20、N4=40、映像フレームレート=30フレーム/秒となっているので、MPEG復号して得られる映像出力は、
1)ビットマップ・データ1の29 : 300フレーム = 10秒間
2)ビットマップ・データ2の30 : 300フレーム = 10秒間
3)ビットマップ・データ3の69 : 300フレーム = 10秒間
4)ビットマップ・データ3の70 : 600フレーム = 20秒間
となり、合計で50秒間の映像となる。(ただし、MPEG映像は非可逆符号化なので、元のビットマップ・データと完全には一致しない)
この映像期間と音声データの長さの整合を取った50秒の音声データ76が音声出力として得られる。(ただし、MPEG音声は非可逆符号化なので、元の音声データと完全には一致しない)
図16は、実施例の形態3を示すシステム構成図である。
図16は、送信側端末1、受信側端末2、ネットワーク3及び、メール受信5、動画変換7、ストリーミング送信78、メール送信79からなる動画生成サーバ77から構成されている。
Here, at the time of MPEG encoding, the GOP is in units of 15 frames, N1 = 20, N2 = 20, N3 = 20, N4 = 40, and the video frame rate = 30 frames / second. The resulting video output is
1)
FIG. 16 is a system configuration
FIG. 16 includes a
図16は、送信側端末1から、受信側端末2宛てに、電子メール(以下、メール)を送った場合、ネットワーク3を介して、動画生成サーバ7のメール受信5で、メールを受付、その内容を動画変換7で動画データに変換し、ストリーミング送信78より、メール送信79を制御すると共に、ネットワーク3を介して、受信側端末2にメール送信及び、ストリーミング送信するように構成したものである。
FIG. 16 shows that when an e-mail (hereinafter referred to as e-mail) is sent from the sending
実施例の形態3の効果としては、一般に文字情報から成るメールを、動画として受信できる為、受信側端末2が、動画を見る目的に適しているテレビの場合、視聴環境を考慮した動画によるメールの伝達が可能となるが、更に、メール送信機能を持つ事で、ストリーミング送信の準備ができた事を通知する機能を実現することができる。
As an effect of
図17は、実施の形態3における文字→静止画変換処理の例であり、模式的に、メール(DATA部分)を入力として、図16中のメール送信79の内容を示した例である。
図17は、メール(DATA部分)66、メール(添付写真:20080401.jpg)67、メール(情報通知)80から構成されている。
FIG. 17 is an example of the character → still image conversion process in the third embodiment, and schematically shows an example of the contents of the
FIG. 17 includes a mail (DATA portion) 66, a mail (attached photo: 20080401.jpg) 67, and a mail (information notification) 80.
図17は、メール(DATA部分)66の入力の各要素内、日付情報以外の情報は、予め定型のフォーマットとして、定義しており、メール(情報通知)80では、「動画メールが届いている」事だけを、受信側端末に通知するようにしたものである。 In FIG. 17, information other than date information in each element of the input of the mail (DATA portion) 66 is defined in advance as a standard format. In the mail (information notification) 80, “video mail has arrived”. "Is only notified to the receiving terminal.
ここでの効果としては、メール(情報通知)80を生成することで、「動画メールが届いている」ことを、受信側端末に積極的通知することができるようになる。 As an effect here, by generating the mail (information notification) 80, it is possible to actively notify the receiving side terminal that “the moving image mail has arrived”.
図18は、実施の形態4における動画変換のブロック図である。
図18は、図1中の動画変換に相当する動画変換81の内部構成ブロック図であり、文字→静止画変換処理部8、静止画→動画変換処理部82、壁紙データ蓄積部83から構成されている。
FIG. 18 is a block diagram of moving image conversion in the fourth embodiment.
FIG. 18 is a block diagram showing the internal configuration of the moving
図18は、文字→静止画変換処理部82の入力として、図1のメール受信5から文字情報を受け取り、文字情報を静止画に変換する一方、壁紙データ蓄積部83から該当する壁紙データを選択し、静止画→動画変換処理82へ入力することで、ストリーミング・データを生成し、図1のストリーミング送信6に出力するように構成したものである。
18 receives character information from the
ここでの効果としては、動画変換81において、メールの文字情報から、ストリーミング用の動画データを生成する際、文字情報を一旦静止画像に変換する必要があるが、その静止画像の背景に壁紙データを付加ことができる。
As an effect here, when generating moving image data for streaming from mail text information in the moving
図19は、実施の形態4における壁紙データ選択のフロー図であり、図18中の静止画→動画変換処理部82において、壁紙データ蓄積部83からの音声データの選択処理フローを示した図である。
FIG. 19 is a flowchart of wallpaper data selection in the fourth embodiment, and shows a selection process flow of audio data from the wallpaper
図19は、壁紙データ選択開始84、添付写真はあるか64、日時情報があるか71、添付写真の月情報より該当月の壁紙データを選択85、DATA部分の抽出13、文字列の解析14、「Date:」に続く文字列抽出15、「Date:」、「.」以外の文字検出33、「.」(ピリオド)の文字検出20、「Data:」に続く文字列の月情報より該当月の壁紙データを選択86、壁紙データが選択されているか87、現在日時の月情報より該当月の壁紙データを選択88、壁紙データ選択終了89から構成されている。
FIG. 19 shows the start of
ここでは、壁紙データの選択方法として、メールに添付されている写真の月情報または、メールの中に含まれる月情報を元としている。 Here, the wallpaper data selection method is based on the month information of the photo attached to the email or the month information included in the email.
図19は、壁紙データ選択開始32から始まり、添付写真があるか64により判定し、更に日付情報があるか71にて、写真から日付情報が取れる場合は、添付写真の月情報より該当月の壁紙データを選択85で実行し、添付写真がない場合及び、添付写真から日付情報が取れない場合は、メールのDATA部分の抽出13により、メールの本体を取り出し、文字列の解析14と、「Date:」に続く文字列抽出15、「Date:」、「.」以外の文字検出33、「.」(ピリオド)の文字検出20が実行され、「Date:」に続く文字列抽出ができた場合には、その中の月情報から、該当する壁紙データを選択し、「.」(ピリオド)の文字検出20により、メールのDATA部分の終了を検出し、壁紙データが選択されているか87で、壁紙データが選択されていない場合は、現在日時の月情報より該当月の壁紙データを選択88で実行し、壁紙データ選択終了89で処理を終了するよう構成したものである。
FIG. 19 starts from wallpaper data selection start 32 and determines whether there is an attached photo by 64. If there is date information from 71, if date information can be taken from the photo, the month information of the attached photo shows the corresponding month. When the wallpaper data is selected 85 and there is no attached photo or date information cannot be obtained from the attached photo, the mail body is extracted by extracting 13 of the DATA part of the email, the
ここでの効果としては、メールに添付写真があり、その写真の日付情報が取得できる場合は、その日付を優先し、添付写真がないか、添付写真の日付情報が取得できない場合は、メールのDATA部分に含まれる月情報、又は、現在の日時の月情報により、異なった壁紙データが選択される為、写真の撮影した季節に合った壁紙データを優先的に選択できることができる。 The effect here is that if there is an attached photo in the email and the date information of that photo can be obtained, priority is given to that date, and if there is no attached photo or the date information of the attached photo cannot be obtained, Since different wallpaper data is selected according to the month information included in the DATA portion or the month information of the current date and time, it is possible to preferentially select wallpaper data suitable for the season in which the photograph was taken.
また、月別の壁紙データを複数用意しておき、該当月の中でランダムに壁紙データを選択したり、月日まで判定し、特定の日(クリスマスや、お正月、予め設定した送信先の人物の誕生日)に合せて、個別の壁紙データが選択されるように処理フローや壁紙データを用意するようにしても良い。 Also, prepare several wallpaper data for each month, select wallpaper data at random in the corresponding month, determine the date of the month, and select a specific day (Christmas, New Year, preset destination person A processing flow or wallpaper data may be prepared so that individual wallpaper data is selected in accordance with (birthday).
更に、図2と図6により音声データの選択と、図18と図19により壁紙データの選択は、独立して実行可能なので、音声データの選択と、壁紙データの選択の両方が実行されるように、両方の機能を実装しても全く問題ない。 Furthermore, since the audio data selection according to FIGS. 2 and 6 and the wallpaper data selection according to FIGS. 18 and 19 can be performed independently, both the audio data selection and the wallpaper data selection are performed. Even if both functions are implemented, there is no problem.
図2と図6の実施例では予め音声データを用意しておき、その中から選択する例を示したが、文字→音声変換機能を用い、メールの文自体を音声データに変換する方式としても良い。 In the embodiment shown in FIGS. 2 and 6, voice data is prepared in advance, and an example in which the voice data is selected is shown. However, as a method of converting a mail sentence itself into voice data using a character-to-speech conversion function. good.
また、図3及び、図10において、携帯電話におけるメール作成を例に説明したが、これらのメール作成機能は極めて一般的なので、パソコンや専用の機器においてもメール機能がある場合には、全く同様に処理を行う事ができる。 3 and 10 have been described with respect to mail creation on a mobile phone as an example. However, since these mail creation functions are extremely common, if a personal computer or a dedicated device has a mail function, the same is true. Can be processed.
図7及び、図14において、実施例では、ビットマップ・データの切換は、単純にビットマップ・データを切換ものとして説明したが、モーフィングやワイプ等により、動きのある切換を行っても良い。 7 and 14, in the embodiment, the switching of bitmap data has been described assuming that the bitmap data is simply switched. However, switching with movement may be performed by morphing, wiping, or the like.
図12のテンプレート4の68では、「添付写真のスケーリングを実行」としているが、スケーリングを行わず、添付写真から画素に応じた画像の切り出しを行ったり、画像の切り出しの座標を滑らかに変更することで、パンニングを行い、1枚の静止画像から擬似的な動画を生成するようにしても良い。
In
1 送信側端末
2 受信側端末
3 ネットワーク
4 動画生成サーバ
5 メール受信
6 ストリーミング送信
7 動画変換
8 文字→静止画変換処理部
9 静止画→動画変換処理部
10 音声データ蓄積部
11 メール作成画面
12 メール変換開始
13 DATA部分の抽出
14 文字列の解析
15 「Date:」に続く文字列抽出
16 「From:」に続く文字列抽出
17 「Subject:」に続く文字列抽出
18 本文(BODY)文字列抽出
19 対象外文字列
20 「.」(ピリオド)の文字検出
21 テンプレート1に従いビットマップ作成
22 テンプレート2に従いビットマップ作成
23 テンプレート3に従いビットマップ作成
24 メール変換終了
25 メール(DATA部分)
26 テンプレート1
27 テンプレート2
28 テンプレート3
29 ビットマップ・データ1
30 ビットマップ・データ2
31 ビットマップ・データ3
32 音声データ選択開始
33 「Date:」、「.」以外の文字検出
34 「Date:」に続く文字列の月情報より該当月の音声データを選択
35 音声データが選択されているか
36 現在日時の月情報より該当月の音声データを選択
37 音声データ選択終了
38 音声データ
39 静止画→動画変換処理
40 ストリーミング・データ
41 デコード処理
42 映像出力
43 音声出力
44 リモコン
45 リモコン処理
46 CPU
47 プログラムROM
48 RAM
49 アンテナ
50 ネットワーク
51 ネットワーク処理
52 チューナ処理
53 入力切換処理
54 AVパケット分離処理
55 映像デコード処理
56 スケーリング処理
57 ディスプレイドライバ
58 音声デコード処理
59 音声ドライバ
60 映像・音声復号部
61 ディスプレイパネル
62 スピーカ
63 メール作成画面
64 添付写真があるか
65 テンプレート4に従いビットマップ作成
66 メール(DATA部分)
67 メール(添付写真:20080401.jpg)
68 テンプレート4
69 ビットマップ・データ4
70 ビットマップ・データ5
71 日時情報があるか
72 添付写真の月情報より該当月の音声データを選択
73 音声データ
74 ストリーミング・データ
75 映像出力
76 音声出力
77 動画生成サーバ
78 ストリーミング送信
79 メール送信
80 メール(情報通知)
81 動画変換
82 静止画→動画変換処理
83 壁紙データ蓄積部
84 壁紙データ選択開始
85 添付写真の月情報より該当月の壁紙データを選択
86 「Date:」に続く文字列の月情報より該当月の壁紙データを選択
87 壁紙データが選択されているか
88 現在日時の月情報より該当月の壁紙データを選択
89 壁紙データ選択終了
DESCRIPTION OF
26
27
28
29
30
31
32 Voice data selection start 33 Character detection other than “Date:”, “.” 34 Select voice data of the month from the month information of the character string following “Date:” 35 Whether voice data is selected 36 Current date and
47 Program ROM
48 RAM
49
67 E-mail (Attached photo: 20080401.jpg)
68
69
70
71 Is there date / time information? 72 Selects audio data for the month from the month information of the attached photo 73
81
Claims (3)
前記メール受信部は、ネットワークを介して、送信側端末からのメールを受け取り、
前記動画変換部は、予め複数の壁紙データを蓄積しており、前記メール受信部からメールの文字列情報を受け取り、受け取った前記文字列情報からメールの日付に関連する特定のキーワードに対応する文字列を抽出し、抽出した前記文字列の日付の情報に応じて前記複数の壁紙データの中から一つを選択し、抽出した前記文字列を画像に変換し、変換した前記画像を前記選択壁紙データを含めて動画情報に変換し、前記ストリーミング送信部に出力し、
前記ストリーミング送信部は、前記動画変換部から動画情報を受け取ると共に、前記ネットワークを介した、受信側端末からのストリーミング要求に対して、前記動画情報をストリーミング配信する、ことを特徴とする動画生成装置。 In a moving image generating apparatus having a mail receiving unit, a streaming transmitting unit, and a moving image converting unit that performs character string analysis, extraction, and conversion function processing,
The mail receiving unit receives mail from a sending terminal via a network,
The moving image conversion unit stores a plurality of wallpaper data in advance, receives mail character string information from the mail receiving unit, and from the received character string information, characters corresponding to a specific keyword related to a mail date Extracting a column , selecting one of the plurality of wallpaper data according to the date information of the extracted character string , converting the extracted character string into an image, and converting the converted image into the selected wallpaper Convert to video information including data , output to the streaming transmitter,
The streaming transmission unit, along with receiving the video information from the video converting section, via the network, with respect to the streaming request from the receiving terminal, to stream the video information, it moving image generating apparatus according to claim .
前記メール受信部は、ネットワークを介して、送信側端末からのメールを受け取り、 The mail receiving unit receives mail from a sending terminal via a network,
前記動画変換部は、予め複数の音声データを蓄積しており、前記メール受信部からメールの文字列情報を受け取り、受け取った前記文字列情報からメールの日付に関連する特定のキーワードに対応する文字列を抽出し、抽出した前記文字列の日付の情報に応じて前記複数の音声データの中から一つを選択し、抽出した前記文字列を画像に変換し、変換した前記画像を前記選択音声データを含めて動画情報に変換し、前記ストリーミング送信部に出力し、 The moving image conversion unit stores a plurality of audio data in advance, receives mail character string information from the mail reception unit, and from the received character string information, characters corresponding to a specific keyword related to a mail date Extracting a string, selecting one of the plurality of audio data according to the extracted date information of the character string, converting the extracted character string into an image, and converting the converted image into the selected audio Convert to video information including data, output to the streaming transmitter,
前記ストリーミング送信部は、前記動画変換部から動画情報を受け取ると共に、前記ネットワークを介した、受信側端末からのストリーミング要求に対して、前記動画情報をストリーミング配信する、ことを特徴とする動画生成装置。 The streaming generation unit receives moving image information from the moving image conversion unit, and performs streaming distribution of the moving image information in response to a streaming request from a receiving terminal via the network. .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009012487A JP5227819B2 (en) | 2009-01-23 | 2009-01-23 | Movie generator |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009012487A JP5227819B2 (en) | 2009-01-23 | 2009-01-23 | Movie generator |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2010171747A JP2010171747A (en) | 2010-08-05 |
| JP5227819B2 true JP5227819B2 (en) | 2013-07-03 |
Family
ID=42703435
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2009012487A Expired - Fee Related JP5227819B2 (en) | 2009-01-23 | 2009-01-23 | Movie generator |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5227819B2 (en) |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4190073B2 (en) * | 1998-12-18 | 2008-12-03 | オリンパス株式会社 | Image playback device |
| JP3890433B2 (en) * | 2002-07-11 | 2007-03-07 | 富士フイルム株式会社 | Email processing server |
| JP2005045757A (en) * | 2003-07-04 | 2005-02-17 | Field System Inc | Moving image generation/distribution system |
| JP2006048379A (en) * | 2004-08-04 | 2006-02-16 | Ntt Docomo Hokuriku Inc | Content creation apparatus |
| JP4713115B2 (en) * | 2004-09-17 | 2011-06-29 | 株式会社ジャストシステム | File display device, file display method, and file display program |
| JP2008041081A (en) * | 2006-07-14 | 2008-02-21 | Triworks Corp Japan | E-mail converter, e-mail conversion program and e-mail distribution system |
-
2009
- 2009-01-23 JP JP2009012487A patent/JP5227819B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2010171747A (en) | 2010-08-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP2323383B1 (en) | Method and apparatus for sharing data in video conference system | |
| EP3525403B1 (en) | Video sms message sending and receiving methods and apparatuses thereof, and handheld electronic device | |
| CN110798697B (en) | Video display method, device and system and electronic equipment | |
| US7746882B2 (en) | Method and device for assembling forward error correction frames in multimedia streaming | |
| US20170280200A1 (en) | Direct capture and sharing of screenshots from video programming | |
| JP4331049B2 (en) | Data transmission apparatus and data transmission method | |
| JP6720111B2 (en) | Display device | |
| KR102029604B1 (en) | Editing system and editing method for real-time broadcasting | |
| CN114173156A (en) | Video transmission method, electronic device, and storage medium | |
| US10347295B1 (en) | Computing system with video content generation feature | |
| CN100518256C (en) | Method for displaying wallpaper on digital broadcasting reception terminal | |
| KR20090008064A (en) | Automatic Search Method and Applied Imaging Device | |
| CN100421457C (en) | Method and device for realizing addressable broadcasting of scrolling/still subtitles in digital television | |
| JP5227819B2 (en) | Movie generator | |
| CN103581733A (en) | Remote display apparatus | |
| EP1722566A1 (en) | Information distributing system and method, information distributing apparatus therefor, receiver terminal, and information relaying apparatus | |
| JP5851844B2 (en) | Method and apparatus for transmitting control user interface of digital broadcasting system | |
| JP6481290B2 (en) | Information processing device | |
| EP3386203B1 (en) | Signalling of auxiliary content for a broadcast signal | |
| WO2014012376A1 (en) | Method of producing real-time multimedia messaging service, digital television terminal and system | |
| JP2014045425A (en) | Electronic device and control method of the same | |
| US9154729B2 (en) | Television receiving apparatus and control method for television receiving apparatus | |
| JP2005295343A (en) | Television broadcast complement system, terminal, television broadcast complement method and computer program | |
| JP2004312507A (en) | Information receiver | |
| CN101350685A (en) | Method of providing information and broadcast receiving device using the method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110926 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120831 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120904 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121026 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121204 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130129 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130219 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130318 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160322 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |