Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7601479B2 - 没入型メディアの相互運用性 - Google Patents
[go: Go Back, main page]

JP7601479B2 - 没入型メディアの相互運用性 - Google Patents

没入型メディアの相互運用性 Download PDF

Info

Publication number
JP7601479B2
JP7601479B2 JP2023530539A JP2023530539A JP7601479B2 JP 7601479 B2 JP7601479 B2 JP 7601479B2 JP 2023530539 A JP2023530539 A JP 2023530539A JP 2023530539 A JP2023530539 A JP 2023530539A JP 7601479 B2 JP7601479 B2 JP 7601479B2
Authority
JP
Japan
Prior art keywords
media
sphere
media content
6dof
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023530539A
Other languages
English (en)
Other versions
JP2023551659A (ja
Inventor
ティエン,ジュン
シュー,シャオジョン
リウ,シャン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent America LLC
Original Assignee
Tencent America LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent America LLC filed Critical Tencent America LLC
Publication of JP2023551659A publication Critical patent/JP2023551659A/ja
Application granted granted Critical
Publication of JP7601479B2 publication Critical patent/JP7601479B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1688Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being integrated loudspeakers
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1694Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional [3D], e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Databases & Information Systems (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

[参照による組み込み]
本出願は、2022年8月22日に出願された米国特許出願第17/892,987号「IMMERSIVE MEDIA INTEROPERABILITY」に対する優先権の利益を主張するものであり、該出願は、2021年8月23日に出願された米国仮出願第63/260,509号「Immersive Media Interoperability」に対する優先権の利益を主張するものである。先行出願の開示は、その全体を参照によりここで組み込まれる。
[技術分野]
本開示は、一般にメディア処理に関連する実施形態について説明する。
本明細書で提供される背景技術説明は、一般に開示の文脈を提示することを目的としている。この背景技術セクションに記載されている範囲の、現在名前が挙げられている発明者の著作物、並びに、その他の点で出願時における従来技術として適さない可能性のある説明の態様は、本開示に対して明示的にも暗黙的にも従来技術として認められない。
仮想現実(virtual reality)又は拡張現実(augmented reality)のアプリケーションにおいて、アプリケーションの仮想世界に存在する感覚をユーザに持たせるために、アプリケーションの仮想シーンにおけるビデオ、オーディオ、又は他の刺激は、現実世界におけるように知覚される。いくつかの例において、現実世界におけるユーザの物理的な動きは、アプリケーションにおける仮想シーン内でマッチする動きを有するものとして知覚される。さらに、ユーザは、現実的と知覚され、かつ現実世界におけるユーザの体験とマッチするメディアを使用して、仮想シーンと対話することができる。
開示の態様は、メディア処理のための方法及び装置を提供する。いくつかの例において、メディア処理のための装置は、処理回路を含む。処理回路は、メディアアプリケーションにおけるシーンの第1のメディアコンテンツに関連づけられた第1の3自由度(3DoF)情報を受信する。第1の3DoF情報は、メディアアプリケーションのユーザを中心とした第1の球形上に第1のメディアコンテンツを記述するための第1の旋回向きを含む。処理回路は、第1のメディアコンテンツをレンダリングするためのレンダリングプラットフォームが6自由度(6DoF)プラットフォームであると判断し、第1の旋回向きと第1の球形の第1のパラメータに基づいて、第1のメディアコンテンツの第1の空間位置情報を算出する。第1の空間位置情報は、第1のメディアコンテンツを6DoFプラットフォーム上でレンダリングするために第1のメディアコンテンツに関連づけられた第1の6DoF情報において使用される。
いくつかの実施形態において、処理回路は、事前に定義されたパラメータに従って第1の球形の第1のパラメータを決定する。いくつかの例において、処理回路は、第1の球形の中心位置を、事前定義された位置であるように設定し、第1の球形の半径を、事前定義された正の値であるように設定する。一例において、処理回路は、第1の球形の中心位置を、3次元(3D)空間における(0,0,0)であるように設定し、第1の球形の半径を、1であるように設定する。
いくつかの実施形態において、装置はメディアクライアントデバイスであり、処理回路は、メディアサーバデバイスから第1の球形の第1のパラメータを受信する。一例において、処理回路は、第1のメディアコンテンツを運ぶビットストリームの一部である補足強化情報(SEI)メッセージから、第1の球形の第1のパラメータを受信する。別の例において、処理回路は、システムレイヤにおけるメタデータのパケットから、第1の球形の第1のパラメータを受信する。システムレイヤにおけるメタデータのパケットは、第1のメディアコンテンツを運ぶビットストリームと別個である。
いくつかの例において、処理回路は、メディアアプリケーションにおけるシーンの第2のメディアコンテンツに関連づけられた第2の3DoF情報を受信する。第2の3DoF情報は、第1の球形と中心位置を共有する第2の球形上に第2のメディアコンテンツを記述するための第2の旋回向きを含む。処理回路は、第2の旋回向きと第2の球形の第2のパラメータに基づいて、第2のメディアコンテンツの第2の空間位置情報を算出する。第2の空間位置情報は、第2のメディアコンテンツを6DoFプラットフォーム上でレンダリングするために第2のメディアコンテンツに関連づけられた第2の6DoF情報において使用される。
一例において、第1の球形と第2の球形は同じ半径を有する。別の例において、第1の球形と第2の球形は異なる半径を有する。
一例において、装置はメディアクライアントデバイスであり、処理回路は、第1の空間位置情報を含む第1の6DoF情報に従って、第1のメディアコンテンツをレンダリングする。別の例において、装置はメディアサーバデバイスであり、処理回路は、第1の6DoF情報に関連づけられた第1のメディアコンテンツをビットストリームにおいてメディアクライアントデバイスに提供する。
開示の態様はさらに、命令を記憶した非一時的コンピュータ読取可能媒体を提供し、該命令は、コンピュータにより実行されたときに、コンピュータにメディア処理の方法を実行させる。
開示される対象事項のさらなる特徴、性質、及び様々な利点は、以下の詳細な説明及び添付の図面からより明らかになるであろう。
図1A~図1Cは、いくつかの例における6自由度(6DoF)及び3自由度(3DoF)を使用する環境を例示する図を示す。 図1A~図1Cは、いくつかの例における6自由度(6DoF)及び3自由度(3DoF)を使用する環境を例示する図を示す。 図1A~図1Cは、いくつかの例における6自由度(6DoF)及び3自由度(3DoF)を使用する環境を例示する図を示す。 開示の一実施形態によるメディアシステムのブロック図を示す。 開示のいくつかの実施形態によるプロセスを概説するフローチャートを示す。 一実施形態に従うコンピュータシステムの概略的な例示である。
開示の態様は、没入型メディア(immersive media)の相互運用性のための手法を提供する。没入型技術により、没入型メディアは、デジタルシミュレーションを通じて物理的な世界を作成又は模倣しようと試みる。開示の一態様によれば、没入型メディアアプリケーションのための機器は、異なる自由度(degrees of freedom)、例えば、6自由度(6DoF)、3自由度(3DoF)などをサポートする場合がある。6DoFをサポートする機器は、6DoFをサポートするハードウェア及びソフトウェアを含む6DoFプラットフォームと呼ぶことができる。3DoFをサポートする機器は、3DoFをサポートするハードウェアとソフトウェアを含む3DoFプラットフォームと呼ぶことができる。一部のメディアコンテンツは、6DoFプラットフォーム上のユーザと対話するために生成され、6DoFメディアコンテンツと呼ばれ、一部のメディアコンテンツは、3DoFプラットフォーム上のユーザと対話するために生成され、3DoFメディアコンテンツと呼ばれる。本開示は、没入型メディアの相互運用性を向上させるために没入型メディアコンテンツを調整する手法を提供する。具体的には、上記手法は、6DoFプラットフォームでの使用のために3DoFメディアコンテンツに適用することができる。
開示のいくつかの態様によれば、いくつかの技術は、没入型メディアと呼ばれるデジタルシミュレーションを通じて物理的な世界を作成又は模倣しようと試みる。没入型メディア処理は、「イマーシブオーディオ(immersive audio)」、「イマーシブビデオ(immersive video)」、及び「システムサポート(systems support)」を含む、MPEG-I(Moving Picture Expert Group Immersive)標準スイートなどの没入型メディア標準に従って実装することができる。没入型メディア標準は、ユーザが6つの自由度(6DoF)を使用して環境をナビゲートし、該環境と対話することができる、VR又はAR提示をサポートすることができる。6DoFは、3次元空間における剛体の動きの自由さを指す。体の運動には、並進運動と回転運動を含むことができる。
図1Aは、いくつかの例における6自由度(6DoF)を使用する環境(100A)を例示する図を示す。ユーザ(101A)の動きの6DoFは、並進運動と回転運動を含むことができる。例えば、並進運動は、3次元空間におけるユーザ(101A)の位置(a,b,c)を使用してユーザ(101A)の空間ナビゲーションとして表すことができ、aの変化は、X軸に沿った動き(例えば、前方及び後方)であり、bの変化は、Y軸に沿った動き(例えば、左及び右)であり、cの変化は、Z軸に沿った動き(例えば、上及び下)である。回転運動は、ユーザ頭部向き(α1,β1,γ1)を使用してユーザの向きとして表すことができ、α1は、Z軸の周りの回転角度であり、ヨー角とも呼ばれ、β1は、Y軸の周りの回転角度であり、ピッチ角とも呼ばれ、γ1は、X軸の周りの回転角度であり、ロール角とも呼ばれる。図1Aに示すように、ユーザの回転向き(rotation orientation)(α1,β1,γ1)は、ユーザ(101A)の空間位置(a,b,c)を中心としている。
図1Aはユーザに対する6DoFを示しているが、同様の定義を他の剛体に適用することができる。例えば、環境内のオーディオソース(例えば、スピーカー)、仮想オブジェクトに対して、6DoFを同様に定義することができる。
図1Bは、いくつかの例における6自由度(6DoF)を使用する環境(100B)を例示する図を示す。環境(100B)は、ユーザ(101B)とスピーカー(102B)を含む。ユーザ(101B)の6DoFは、環境(100A)におけるのと同様に定義される。例えば、ユーザ(101B)の6DoFは、3次元空間におけるユーザ(101B)の空間位置(a,b,c)と、ユーザ(101B)の回転向き(α1,β1,γ1)を含む。回転向き(α1,β1,γ1)は、中心をユーザ(101B)の空間位置(a,b,c)にして定義される。
スピーカーの動きの6DoFは、スピーカー(102B)の空間位置(x,y,z)と、スピーカー(102B)の回転向き(α2,β2,γ2)を含むことができる。回転向き(α2,β2,γ2)は、中心をスピーカー(102B)の空間位置(x,y,z)にして定義される。
図1Bはスピーカーに対する6DoFを示しているが、同様の定義を他の剛体に適用することができる。
いくつかの用途のアプリケーションにおいて、没入型メディアデバイスが6DoFをサポートしているとき、ユーザは、没入型メディアデバイスによるサポートにより6DoFメディアコンテンツと対話することができる。例えば、ユーザの6DoF情報は、没入型メディアデバイスにより検出でき、没入型メディアデバイスは、ユーザの6DoF情報に基づいて6DoFメディアコンテンツのオーディオ及びビデオをレンダリングすることができる。
3DoFプラットフォームなどのいくつかの没入型メディアデバイスは、6DoFをサポートしていない場合があり、人々が3自由度(3DoF)を使用してメディアコンテンツ(例えば、3DoFメディアコンテンツ)と対話できるようにのみする場合がある。3DoFメディアコンテンツのいくつかの例において、3DoFは、ユーザ及びメディアに関連づけられた向き情報を参照することができる。例えば、3DoF設定におけるメディアの向き情報は、ユーザが球形(sphere)の中心である該球形上に存在するメディアの旋回向き(revolution orientation)角度を含む。メディアは、ビジュアル、オーディオ(オーディオチャネル、オーディオオブジェクトなど)、又は他の形式とすることができる。3DoF設定における向き情報は、旋回向き(θ,φ,ψ)と呼ぶことができ、θは、ユーザのZ軸の周りの旋回角度であり、φは、ユーザのY軸の周りの旋回角度であり、ψは、ユーザのX軸の周りの旋回角度である。
図1Cは、いくつかの例における3自由度(6DoF)を使用する環境(100C)を例示する図を示す。環境(100C)は、ユーザ(101C)とスピーカー(102C)を含む。スピーカー(102C)は、球形(110)上の点(111)として扱われる。球形(110)の中心はユーザ(101C)である。スピーカー(102C)の3DoFは、球形(110)上の点(111)の旋回向き(θ,φ,ψ)として定義される。
いくつかのアプリケーションにおいて、3DoFメディアコンテンツは、6DoFプラットフォーム上でレンダリングされる必要がある場合がある。本開示は、3DoFメディアコンテンツを、6DoFプラットフォーム上でレンダリングされるように6DoFメディアコンテンツに調整する手法を提供する。
図2は、開示の一実施形態によるメディアシステム(200)のブロック図を示す。メディアシステム(200)は、没入型メディアアプリケーション、拡張現実(AR)アプリケーション、仮想現実アプリケーション、ビデオゲームアプリケーション、スポーツゲームアニメーションアプリケーション、テレビ会議及びテレプレゼンスアプリケーション、メディアストリーミングアプリケーションなどの、様々な用途のアプリケーションで使用することができる。
メディアシステム(200)は、メディアサーバデバイス(210)と、図2に示すメディアクライアントデバイス(260A)及び(260B)などの複数のメディアクライアントデバイスを含み、これらは、ネットワーク(図示せず)により接続することができる。一例において、メディアサーバデバイス(210)は、オーディオコーディング及びビデオコーディング機能を備えた1つ以上のデバイスを含むことができる。一例において、メディアサーバデバイス(210)は、デスクトップコンピュータ、ラップトップコンピュータ、サーバコンピュータ、タブレットコンピュータなどの単一のコンピューティングデバイスを含む。別の例において、メディアサーバデバイス(210)は、データセンター、サーバファームなどを含む。メディアサーバデバイス(210)は、ビデオ及びオーディオコンテンツを受信し、ビデオコンテンツ及びオーディオコンテンツを適切なメディアコーディング標準に従って1つ以上の符号化されたビットストリームに圧縮することができる。符号化されたビットストリームは、ネットワークを介してメディアクライアントデバイス(260A)及び(260B)に配信することができる。
メディアクライアントデバイス(例えば、メディアクライアントデバイス(260A)及び(260B))は、それぞれ、メディアアプリケーションのためのビデオコーディング及びオーディオコーディング機能を備えた1つ以上のデバイスを含む。一例において、メディアクライアントデバイスの各々は、デスクトップコンピュータ、ラップトップコンピュータ、サーバコンピュータ、タブレットコンピュータ、ウェアラブルコンピューティングデバイス、ヘッドマウントディスプレイ(head mounted display、HMD)デバイスなどのコンピューティングデバイスを含む。メディアクライアントデバイスは、符号化されたビットストリームを適切なメディアコーディング標準に従って復号することができる。復号されたビデオコンテンツ及びオーディオコンテンツは、メディア再生に使用することができる。
メディアサーバデバイス(210)は、任意の適切な技術を使用して実施することができる。図2の例では、メディアサーバデバイス(210)は、一緒に結合された処理回路(230)とインターフェース回路(211)を含む。
処理回路(230)は、1つ以上の中央処理装置(CPU)、1つ以上のグラフィックス処理ユニット(GPU)、特定用途向け集積回路などの任意の適切な処理回路を含むことができる。処理回路(230)は、オーディオエンコーダ、ビデオエンコーダなどの様々なエンコーダを含むように構成することができる。一例において、1つ以上のCPU及び/又はGPUが、オーディオエンコーダ又はビデオエンコーダとして機能するソフトウェアを実行することができる。別の例において、オーディオエンコーダ又はビデオエンコーダは、特定用途向け集積回路を使用して実装することができる。
インターフェース回路(211)は、メディアサーバデバイス(210)をネットワークとインターフェース接続する(interface)ことができる。インターフェース回路(211)は、ネットワークから信号を受信する受信部分と、ネットワークに信号を送信する送信部分を含むことができる。例えば、インターフェース回路(211)は、符号化されたビットストリームを他のデバイス、例えばメディアクライアントデバイス(260A)、メディアクライアントデバイス(260B)などにネットワークを介して運ぶ信号を送信することができる。インターフェース回路(211)は、メディアクライアントデバイス(260A)及び(260B)などのメディアクライアントデバイスから信号を受信することができる。
ネットワークは、イーサネット接続、光ファイバ接続、WiFi接続、セルラーネットワーク接続などの有線及び/又は無線接続を介して、メディアサーバデバイス(210)及びメディアクライアントデバイス(例えば、メディアクライアントデバイス(260A)及び(260B))と適切に結合される。ネットワークは、ネットワークサーバデバイス、ストレージデバイス、ネットワークデバイスなどを含むことができる。ネットワークのコンポーネントは、有線及び/又は無線接続を介して一緒に適切に結合される。
メディアクライアントデバイス(例えば、メディアクライアントデバイス(260A)及び(260B))は、コーディングされたビットストリームを復号するようにそれぞれ構成される。一例において、各メディアクライアントデバイスは、表示できるビデオフレームのシーケンスを再構成するためのビデオ復号を実行することができ、再生のためのオーディオ信号を生成するためのオーディオ復号を実行することができる。
メディアクライアントデバイス(260A)及び(260B)などのメディアクライアントデバイスは、任意の適切な技術を使用して実施することができる。図2の例では、ユーザAにより使用できるユーザ機器としてメディアクライアントデバイス(260A)が示されているが、イヤホンを備えたヘッドマウントディスプレイ(HMD)に限定されず、ユーザBにより使用できるユーザ機器としてメディアクライアントデバイス(260B)が示されているが、イヤホンを備えたHMDに限定されない。
図2において、メディアクライアントデバイス(260A)は、インターフェース回路(261A)と、図2に示すように一緒に結合された処理回路(270A)を含み、メディアクライアントデバイス(260B)は、インターフェース回路(261B)と、図2に示すように一緒に結合された処理回路(270B)を含む。
インターフェース回路(261A)は、メディアクライアントデバイス(260A)をネットワークとインターフェース接続することができる。インターフェース回路(261A)は、ネットワークから信号を受信する受信部分と、ネットワークに信号を送信する送信部分を含むことができる。例えば、インターフェース回路(261A)は、ネットワークから符号化されたビットストリームを運ぶ信号などの、データを運ぶ信号を受信することができる。
処理回路(270A)は、CPU、GPU、特定用途向け集積回路などの適切な処理回路を含むことができる。処理回路(270A)は、DoFコンバータ(271A)、レンダラ(renderer)(272A)、ビデオデコーダ(図示せず)、オーディオデコーダ(図示せず)などの様々なコンポーネントを含むように構成することができる。
いくつかの例において、オーディオデコーダは、オーディオコンテンツが符号化された方式に適した復号ツールを選択することにより、符号化されたビットストリーム内のオーディオコンテンツを復号することができ、ビデオデコーダは、ビデオコンテンツが符号化された方式に適した復号ツールを選択することにより、符号化されたビットストリーム内のビデオコンテンツを復号することができる。DoFコンバータ(271A)は、メディアクライアントデバイス(260A)と互換性があるように、復号されたメディアコンテンツ内のDoF情報を調整するように構成される。一例において、メディアクライアントデバイス(260A)のハードウェアが6DoFをサポートし、受信したメディアコンテンツが3DoFメディアコンテンツを含み、次いで、DoFコンバータ(271A)は、3DoFメディアコンテンツを、メディアクライアントデバイス(260A)で再生するために6DoFメディアコンテンツに変換することができる。
さらに、レンダラ(272A)は、符号化されたビットストリームから復号されたオーディオコンテンツ及びビデオコンテンツから、メディアクライアントデバイス(260A)に適した最終的なデジタルプロダクト(product)を生成することができる。処理回路(270A)は、さらなるメディア処理のためにミキサ、後処理回路などの他の適切なコンポーネント(図示せず)を含むことができることに留意する。
同様に、インターフェース回路(261B)は、メディアクライアントデバイス(260B)をネットワークとインターフェース接続することができる。インターフェース回路(261B)は、ネットワークから信号を受信する受信部分と、ネットワークに信号を送信する送信部分を含むことができる。例えば、インターフェース回路(261B)は、ネットワークから符号化されたビットストリームを運ぶ信号などの、データを運ぶ信号を受信することができる。
処理回路(270B)は、CPU、GPU、特定用途向け集積回路などの適切な処理回路を含むことができる。処理回路(270B)は、DoFコンバータ(271B)、レンダラ(272B)、ビデオデコーダ、オーディオデコーダなどの様々なコンポーネントを含むように構成することができる。
いくつかの例において、オーディオデコーダは、オーディオコンテンツが符号化された方式に適した復号ツールを選択することにより、符号化されたビットストリーム内のオーディオコンテンツを復号することができ、ビデオデコーダは、ビデオコンテンツが符号化された方式に適した復号ツールを選択することにより、符号化されたビットストリーム内のビデオコンテンツを復号することができる。DoFコンバータ(271B)は、メディアクライアントデバイス(260B)と互換性があるように、受信したメディアコンテンツ内のDoF情報を調整するように構成される。一例において、メディアクライアントデバイス(260B)のハードウェアが6DoFをサポートし、受信したメディアコンテンツが3DoFメディアコンテンツを含み、次いで、DoFコンバータ(271B)は、3DoFメディアコンテンツを、メディアクライアントデバイス(260B)で再生するために6DoFメディアコンテンツに変換することができる。
さらに、レンダラ(272B)は、符号化されたビットストリームから復号されたオーディオコンテンツから、メディアクライアントデバイス(260B)に適した最終的なデジタルプロダクトを生成することができる。処理回路(270B)は、さらなるオーディオ処理のためにミキサ、後処理回路などの他の適切なコンポーネント(図示せず)を含むことができることに留意する。
いくつかの例において、メディアサーバデバイス(210)は、DoF変換を実行することができる。一例において、メディアサーバデバイス(210)は、DoFコンバータ(231)を含む。一例において、メディアサーバデバイス(210)は、メディアクライアントデバイス(260A)及びメディアクライアントデバイス(260B)などのメディアクライアントデバイスからハードウェア情報を受信することができる。例えば、メディアサーバデバイス(210)は、メディアクライアントデバイス(260A)からハードウェア情報を受信し、ハードウェア情報は、メディアクライアントデバイス(260A)が6DoFメディアコンテンツをサポートし、低バッテリ状態であることを示し、次いで、DoFコンバータ(231)は、3DoFメディアコンテンツを6DoFメディアコンテンツに変換することができる。6DoFメディアコンテンツは、適切に符号化され、メディアクライアントデバイス(260A)に送信されることが可能である。別の例において、メディアサーバデバイス(210)は、メディアクライアントデバイス(260B)からハードウェア情報を受信し、ハードウェア情報は、メディアクライアントデバイス(260B)が6DoFメディアコンテンツをサポートし、メディアクライアントデバイス(260)が処理能力を欠く(例えば、DoFコンバータを有さない)ことを示し、次いで、DoFコンバータ(231)は、3DoFメディアコンテンツを6DoFメディアコンテンツに変換することができる。6DoFメディアコンテンツは、適切に符号化され、メディアクライアントデバイス(260B)に送信されることが可能である。
開示のいくつかの態様によれば、3DoFメディアコンテンツは、シーンにおけるメディアの向き情報とともに、ユーザ向き情報を記述することができる。メディアコンテンツは、ビジュアル、オーディオ(オーディオチャネル、オーディオオブジェクトなど)、又は他の形式とすることができる。3DoFメディアコンテンツを6DoFメディアコンテンツに変換するために、いくつかの例において、ユーザ空間位置情報と、シーンにおける各メディアの空間位置情報が適切に決定される。
3DoFメディアコンテンツの3DoF情報は、ユーザが球形の中心であり、かつメディアコンテンツが球形の表面位置にある球形に基づいて、メディアコンテンツの旋回向きを記述することに留意する。開示の一態様によれば、球形の中心位置、球形の半径などの球形のパラメータを用いて、メディアコンテンツの3DoF情報をメディアコンテンツの6DoF情報に変換することができる。球形のパラメータは、事前定義し、サーバ側又はクライアント側で利用可能とすることができ、あるいはサーバ側からクライアント側に送信することができる。
いくつかの実施形態において、球形に関する事前に定義されたパラメータのセットは、サーバ側及びクライアント側(例えば、図2におけるメディアサーバデバイス及びメディアクライアントデバイス)で利用可能であり、6DoFメディアコンテンツは、事前に定義されたパラメータのセットに基づいて、3DoFメディアコンテンツに対応して生成することができる。いくつかの例において、ユーザ空間位置と、ユーザとメディアコンテンツの位置との間の距離(例えば、メディアコンテンツの位置が球形上にあり、かつ球形の中心がユーザの位置である球形の半径)が、事前定義されたパラメータである。
いくつかの例において、ユーザ空間位置は、(0,0,0)、3次元空間の原点におけるものとして事前に定義される。旋回向き(ヨーθ、ピッチφ、ロールψ)を有する3DoFメディアコンテンツでは、空間位置(x,y,z)は、旋回向きに基づいて算出することができる。
一例において、ユーザ空間位置は(0,0,0)に設定され、メディアコンテンツの位置とユーザの位置との間の距離は1に設定される。例えば、メディアコンテンツの位置は、ユーザが中心である単位球形上にある。したがって、メディアコンテンツの空間位置(x,y,z)は、例えば、式(1)、式(2)、及び式(3)に従って算出することができる。
したがって、6DoFを使用して、環境におけるユーザ及びメディアコンテンツの動きを表すことができる。例えば、6DoFにおけるユーザの空間位置情報は、(0,0,0)で表すことができ、6DoFにおけるユーザの回転向きは、(θ,φ,ψ)で表すことができる。6DoFにおけるメディアコンテンツの空間位置情報は、式(1)、式(2)、及び式(3)に従って算出された(x,y,z)で表すことができ、メディアコンテンツの回転向きは、(θ,φ,ψ)、(2π-θ,π-φ,π-ψ)、(0,0,0)などの任意の適切な値により設定することができる。
別の例において、ユーザの空間位置は(0,0,0)に設定され、メディアコンテンツの空間位置とユーザの空間位置との間の距離はrであり、rは正の数である。したがって、メディアコンテンツの空間位置は、rの半径を有する球形上にあり、ユーザの空間位置は、球形の中心である。メディアコンテンツの空間位置(x,y,z)は、式(4)、式(5)、及び式(6)に従って算出することができる。
したがって、6DoFを使用して、環境におけるユーザ及びメディアコンテンツの動きを表すことができる。例えば、6DoFにおけるユーザの空間位置情報は、(0,0,0)で表すことができ、6DoFにおけるユーザの回転向きは、(θ,φ,ψ)で表すことができる。6DoFにおけるメディアコンテンツの空間位置情報は、式(4)、式(5)、及び式(6)に従って算出された(x,y,z)で表すことができ、メディアコンテンツの回転向きは、(θ,φ,ψ)、(2π-θ,π-φ,π-ψ)、(0,0,0)などの任意の適切な値により設定することができる。
別の例において、ユーザの空間位置は、(a,b,c)として設定され、メディアコンテンツの空間位置とユーザの空間位置との間の距離は、rであるように設定され、rは正の数である。メディアコンテンツの空間位置(x,y,z)は、式(7)、式(8)、及び式(9)に従って算出することができる。
したがって、6DoFを使用して、環境におけるユーザ及びメディアコンテンツの動きを表すことができる。例えば、6DoFにおけるユーザの空間位置情報は、(a,b,c)で表すことができ、6DoFにおけるユーザの回転向きは、(θ,φ,ψ)で表すことができる。6DoFにおけるメディアコンテンツの空間位置情報は、式(7)、式(8)、及び式(9)に従って算出された(x,y,z)で表すことができ、メディアコンテンツの回転向きは、(θ,φ,ψ)、(2π-θ,π-φ,π-ψ)、(0,0,0)などの任意の適切な値により設定することができる。
いくつかの実施形態において、異なるメディアコンテンツの空間位置は、ユーザの空間位置が中心にある同じ球形上に存在する。したがって、全てのメディアコンテンツは、同じ半径rを共有する。
いくつかの実施形態において、各メディアコンテンツは、その独自の半径rを有する。メディアコンテンツの半径は、異なる場合がある。したがって、メディアコンテンツの空間位置は、ユーザ位置を中心とした異なる球形上に存在することができる。
開示の一態様によれば、3DOFメディアコンテンツに加えて球形のパラメータ(例えば、球形の中心の位置、球形の半径)は、コンテンツビットストリームの一部として又は別個に、メタデータ又はSEIメッセージを介して、クライアント側に配信される場合がある。3DOFソースと球形のパラメータとの双方の組み合わせられた情報を用いて、6DOFプラットフォームは、対応するコンテンツをレンダリングすることができる。
一実施形態において、ユーザ空間位置(球形の中心)、ユーザとメディアコンテンツの位置との間の距離(球形の半径)を含む球形のパラメータは、補足強化情報(supplemental enhanced information、SEI)メッセージを使用してなどで、3DoFメディアコンテンツを運ぶビットストリームの一部としてシグナリングされる。SEIメッセージは、コンテンツビットストリームからの没入型3DoFメディアコンテンツの復号プロセスに影響しない。SEIメッセージは、提供された3DoFメディアコンテンツを用いて(6DoFプラットフォーム上で)6DoF効果をレンダリングするのを支援することができる。
別の実施形態において、ユーザ空間位置(球形の中心)、ユーザとメディアコンテンツの位置との間の距離(球形の半径)を含む球形のパラメータは、3DoFメディアコンテンツを運ぶビットストリームの一部として配信されない。いくつかの例において、球形のパラメータは、システムレイヤのパケットを介してなどで、メタデータとして送信される。メタデータは、ビットストリームからの没入型3DoFコンテンツの通常の復号プロセスに影響しない。メタデータは、提供された3DoFメディアコンテンツを用いて(例えば、6DoFプラットフォーム上で)6DoF効果をレンダリングするのを支援することができる。
図3は、開示の一実施形態によるプロセス(300)を概説するフローチャートを示す。プロセス(300)は、メディアサーバデバイス(210)におけるDoFコンバータ(231)、メディアクライアントデバイス(260A)におけるDoFコンバータ(271A)、メディアクライアントデバイス(260B)におけるDoFコンバータ(271B)などのメディア処理デバイスにより実行することができる。いくつかの実施形態において、プロセス(300)はソフトウェア命令で実装され、したがって、処理回路がソフトウェア命令を実行したとき、処理回路はプロセス(300)を実行する。プロセスは(S301)で開始し、(S310)に進む。
(S310)において、メディアアプリケーションにおけるシーンの第1のメディアコンテンツに関連づけられた第1の3自由度(3DoF)情報が受信される。第1の3DoF情報は、第1の球形上に第1のメディアコンテンツを記述するための第1の旋回向きを含む。一例において、第1の球形は、メディアアプリケーションのユーザを中心としている。
(S320)において、メディア処理デバイスは、メディアコンテンツをレンダリングするためのレンダリングプラットフォームが6DoFプラットフォームであると判断する。一例において、メディア処理デバイスは、6DoFをサポートするメディアクライアントデバイスであり、メディア処理デバイスは、メディアクライアントデバイスの構成に基づいて判断を行うことができる。別の例において、メディア処理デバイスは、メディアサーバデバイスであり、メディアサーバデバイスは、メディアクライアントデバイスから信号を受信することができる。信号は、メディアクライアントデバイスが6DoFをサポートしていることを示す。
(S330)において、第1のメディアコンテンツの第1の空間位置情報が、第1の旋回向きと第1の球形の第1のパラメータに基づいて決定される。第1の空間位置情報は、一例では、第1のメディアコンテンツを6DoFプラットフォーム上でレンダリングするために第1のメディアコンテンツに関連づけられた第1の6DoF情報において使用される。
いくつかの実施形態において、第1の球形の第1のパラメータは、メディアサーバデバイス及びメディアクライアントデバイスに既知である事前に定義されたパラメータに従って決定される。いくつかの例において、第1の球形の中心位置は、事前定義された位置であるように、第1の球形の半径は、事前定義された正の値であるように設定され、第1の空間位置は、例えば、式(7)、式(8)、及び式(9)に従って決定することができる。一例において、第1の球形の中心位置は、3次元(3D)空間における(0,0,0)であるように、第1の球形の半径は、1であるように設定される。次いで、第1の空間位置情報は、例えば、式(1)、式(2)、及び式(3)に従って決定することができる。
いくつかの実施形態において、メディア処理デバイスは、メディアクライアントデバイスであり、メディアクライアントデバイスは、メディアサーバデバイスから第1の球形の第1のパラメータを受信する。いくつかの例において、メディアクライアントデバイスは、第1のメディアコンテンツを運ぶビットストリームの一部である補足強化情報(SEI)メッセージから第1の球形の第1のパラメータを受信する。第1のメディアコンテンツは、SEIメッセージを使用することなくビットストリームから復号することができる。SEIメッセージは、3DoFである第1のメディアコンテンツを用いて6DoF効果をレンダリングするための情報を提供する。
いくつかの例において、メディアクライアントデバイスは、システムレイヤにおけるメタデータのパケットから第1の球形の第1のパラメータを受信する。このパケットは、第1のメディアコンテンツを運ぶビットストリームと別個である。第1のメディアコンテンツは、メタデータを使用することなくビットストリームから復号することができる。メタデータは、3DoFである第1のメディアコンテンツを用いて6DoF効果をレンダリングするための情報を提供する。
いくつかの例において、メディアアプリケーションにおけるシーンの第2のメディアコンテンツに関連づけられた第2の3DoF情報が受信される。第2の3DoF情報は、第1の球形と中心位置を共有する第2の球形上に第2のメディアコンテンツを記述するための第2の旋回向きを含む。次いで、第2のメディアコンテンツの第2の空間位置情報が、第2の旋回向きと第2の球形の第2のパラメータに基づいて算出される。第2の空間位置情報は、第2のメディアコンテンツを6DoFプラットフォーム上でレンダリングするために第2のメディアコンテンツに関連づけられた第2の6DoF情報において使用される。一例において、第1の球形と第2の球形は、同じ半径を有する。別の例において、第1の球形と第2の球形は、異なる半径を有する。
いくつかの例において、メディア処理デバイスは、メディアクライアントデバイスであり、メディアクライアントデバイスは、第1の空間位置情報を含む第1の6つのDoF情報に従って第1のメディアコンテンツをレンダリングする。
いくつかの例において、メディア処理デバイスは、メディアサーバデバイスであり、メディアサーバデバイスは、第1の6DoF情報に関連づけられた第1のメディアコンテンツをビットストリームにおいてメディアクライアントデバイスに提供する。
その後、プロセスは(S399)に進み、終了する。
プロセス(300)は適切に適応させることができる。プロセス(300)内のステップを修正及び/又は省略することができる。さらなるステップを追加することができる。任意の適切な実施順序を使用することができる。
上述した手法は、コンピュータ読取可能命令を使用してコンピュータソフトウェアとして実施し、1つ以上のコンピュータ読取可能媒体に物理的に記憶することができる。例えば、図4は、開示される対象事項の特定の実施形態を実施するのに適したコンピュータシステム(400)を示す。
コンピュータソフトウェアは、1つ以上のコンピュータ中央処理装置(CPU)、グラフィックス処理ユニット(GPU)などにより直接、又は解釈、マイクロコード実行を通じてなどで実行することができる命令を含むコードを作成するために、アセンブリ、コンパイル、リンク、又は同様のメカニズムの対象となり得る任意の適切なマシンコード又はコンピュータ言語を使用してコーディングすることができる。
命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲーミングデバイス、モノのインターネット(internet of things)のデバイスなどを含む様々なタイプのコンピュータ又はそれらのコンポーネント上で実行することができる。
コンピュータシステム(400)について図4に示すコンポーネントは、本質的に例示的なものであり、本開示の実施形態を実施するコンピュータソフトウェアの使用又は機能の範囲に関する制限を示唆することを意図していない。また、コンポーネントの構成も、コンピュータシステム(400)の例示的な実施形態に示されるコンポーネントのいずれか1つ又は組み合わせに関する依存関係又は要件を有すると解釈されるべきではない。
コンピュータシステム(400)は、特定のヒューマンインターフェース入力デバイスを含むことができる。このようなヒューマンインターフェース入力デバイスは、例えば、触覚入力(例えば、キーストローク、スワイプ、データグローブの動き)、オーディオ入力(例えば、音声、拍手)、視覚入力(例えば、ジェスチャ)、嗅覚入力(図示せず)を通じて、1以上の人間のユーザによる入力に応答することができる。さらに、ヒューマンインターフェースデバイスは、オーディオ(例えば、発話、音楽、環境音)、画像(例えば、スキャン画像、静止画カメラから取得された写真画像)、ビデオ(例えば、2次元ビデオ、立体ビデオを含む3次元ビデオ)などの、人間による意識的な入力に必ずしも直接関連しない特定のメディアを捕捉するために使用することもできる。
入力ヒューマンインターフェースデバイスは、キーボード(401)、マウス(402)、トラックパッド(403)、タッチスクリーン(410)、データグローブ(図示せず)、ジョイスティック(405)、マイクロフォン(406)、スキャナ(407)、カメラ(408)のうちの1つ以上を含むことができる(各々の1つのみが示されている)。
コンピュータシステム(400)は、特定のヒューマンインターフェース出力デバイスを含むこともできる。このようなヒューマンインターフェース出力デバイスは、例えば、触覚出力、音、光、匂い/味を通じて、1以上の人間のユーザの感覚を刺激している場合がある。このようなヒューマンインターフェース出力デバイスは、触覚出力デバイス(例えば、タッチスクリーン(410)、データグローブ(図示せず)、ジョイスティック(405)による触覚フィードバックであるが、入力デバイスとして機能しない触覚フィードバックデバイスが存在することもできる)、オーディオ出力デバイス(例えば、スピーカー(409)、ヘッドフォン(図示せず))、視覚出力デバイス(例えば、CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンなどのスクリーン(410)であり、各々がタッチスクリーン入力能力を有し又は有さず、各々が触覚フィードバック能力を有し又は有さず、これらの一部は、2次元の視覚出力、又は立体出力などの手段を通じて3より大きい次元の出力を出力することが可能でもよい;仮想現実グラス(図示せず)、ホログラフィックディスプレイ、及びスモークタンク(図示せず))、及びプリンタ(図示せず)が含むことができる。
コンピュータシステム(400)は、人間によりアクセス可能なストレージデバイスとそれらの関連づけられた媒体、例えば、CD/DVDなどの媒体(421)を有するCD/DVD ROM/RW(420)を含む光学媒体、サムドライブ(422)、リムーバブルハードドライブ又はソリッドステートドライブ(423)、テープ及びフロッピーディスク(図示せず)などのレガシー磁気媒体、セキュリティドングル(図示せず)などの特化したROM/ASIC/PLDベースのデバイスなども含むことができる。
当業者は、現在開示されている対象事項に関連して使用される用語「コンピュータ読取可能媒体」が、送信媒体、搬送波、又は他の一時的な信号を包含しないことも理解すべきである。
コンピュータシステム(400)は、1つ以上の通信ネットワーク(455)へのインターフェース(454)を含むこともできる。ネットワークは、例えば、無線、有線、光とすることができる。ネットワークはさらに、ローカル、ワイドエリア、メトロポリタン、車両用及び産業用、リアルタイム、遅延耐性などとすることができる。ネットワークの例には、イーサネットなどのローカルエリアネットワーク、無線LAN、GSM、3G、4G、5G、LTEなどを含むセルラーネットワーク、ケーブルテレビ、衛星テレビ、地上波放送テレビを含むテレビ有線又は無線ワイドエリアデジタルネットワーク、CANBusを含む車両用及び産業用が含まれる。特定のネットワークは、特定の汎用データポート又は周辺バス(449)(例えば、コンピュータシステム(400)のUSBポートなど)に取り付けられた外部ネットワークインターフェースアダプタを一般的に必要とする。他のものは、以下に記載するようにシステムバスへの取り付けにより、コンピュータシステム(400)のコアに一般的に統合される(例えば、イーサネットインターフェースがPCコンピュータシステムに、又は、セルラーネットワークインターフェースがスマートフォンコンピュータシステムに)。これらのネットワークのいずれかを使用し、コンピュータシステム(400)は、他のエンティティと通信することができる。このような通信は、例えば、ローカル又はワイドエリアデジタルネットワークを使用して他のコンピュータシステムに対して、単方向、受信のみ(例えば、テレビの放送)、単方向送信のみ(例えば、特定のCANbusデバイスへのCANbus)、又は双方向とすることができる。特定のプロトコル及びプロトコルスタックを、上述したようなネットワーク及びネットワークインターフェースの各々で使用することができる。
前述のヒューマンインターフェースデバイス、人間によりアクセス可能なストレージデバイス、及びネットワークインターフェースは、コンピュータシステム(400)のコア(440)に対して取り付けることができる。
コア(440)は、1つ以上の中央処理装置(CPU)(441)、グラフィックス処理ユニット(GPU)(442)、フィールドプログラマブルゲートエリア(Field Programmable Gate Areas、FPGA)の形式の特化したプログラマブル処理ユニット(443)、特定のタスクのためのハードウェアアクセラレータ(444)、グラフィックスアダプタ(450)などを含むことができる。これらのデバイスは、読取専用メモリ(ROM)(445)、ランダムアクセスメモリ(446)、内部のユーザアクセス不可能なハードドライブ、SSDなどの内部大容量記憶装置(447)とともに、システムバス(448)を通じて接続される場合がある。いくつかのコンピュータシステムにおいて、システムバス(448)は、さらなるCPU、GPUなどによる拡張を可能にするために、1つ以上の物理プラグの形でアクセス可能とすることができる。周辺デバイスは、コアのシステムバス(448)に直接か、又は周辺バス(449)を通じてかのいずれかで取り付けることができる。一例において、スクリーン(410)は、グラフィックスアダプタ(450)に接続することができる。周辺バスのアーキテクチャには、PCI、USBなどが含まれる。
CPU(441)、GPU(442)、FPGA(443)、及びアクセラレータ(444)は、組み合わせて前述のコンピュータコードを構成することができる特定の命令を実行することができる。そのコンピュータコードは、ROM(445)又はRAM(446)に記憶することができる。過渡的なデータも、RAM(446)に記憶することができ、一方で、永続的なデータは、例えば内部の大容量記憶装置(447)に記憶することができる。メモリデバイスのいずれかに対する高速の記憶及び取り出しは、1つ以上のCPU(441)、GPU(442)、大容量記憶装置(447)、ROM(445)、RAM(446)などに密接に関連づけることができるキャッシュメモリの使用を通じて可能にすることができる。
コンピュータ読取可能媒体は、様々な、コンピュータにより実施される動作を実行するためのコンピュータコードを有することができる。媒体及びコンピュータコードは、本開示の目的のために特別に設計及び構築されたものとすることができ、あるいは、コンピュータソフトウェア分野における当業者に良く知られた、利用可能な種類のものとすることができる。
制限ではなく一例として、アーキテクチャ(400)、具体的にはコア(440)を有するコンピュータシステムは、プロセッサ(CPU、GPU、FPGA、アクセラレータなどを含む)が1つ以上の有形のコンピュータ読取可能媒体に具現化されたソフトウェアを実行した結果として機能性を提供することができる。そのようなコンピュータ読取可能媒体は、上記で導入したようなユーザアクセス可能な大容量記憶装置、並びに、コア内部の大容量記憶装置(447)又はROM(445)などの、非一時的な性質のものであるコア(440)の特定の記憶装置に関連づけられた媒体とすることができる。本開示の様々な実施形態を実施するソフトウェアは、そのようなデバイスに記憶し、コア(440)により実行することができる。コンピュータ読取可能媒体は、特定のニーズに従って1つ以上のメモリデバイス又はチップを含むことができる。ソフトウェアは、コア(440)、具体的にはその中のプロセッサ(CPU、GPU、FPGAなどを含む)に、ソフトウェアにより定義された処理に従ってRAM(446)に記憶されるデータ構造を定義すること及びそのようなデータ構造を修正することを含む、本明細書に記載される特定の処理又は特定の処理の特定の部分を実行させることができる。さらに又は代わりとして、コンピュータシステムは、回路(例えば、アクセラレータ(444))にハードワイヤードされ、又はその他の方法で具現化された論理の結果として機能性を提供することができ、これは、ソフトウェアの代わりに、又はソフトウェアと一緒に動作して、本明細書に記載される特定の処理又は特定の処理の特定の部分を実行することができる。適切な場合には、ソフトウェアへの参照は論理を包含することができ、逆もまた同様である。適切な場合には、コンピュータ読取可能媒体への参照は、実行のためのソフトウェアを記憶する回路(集積回路(IC)など)、実行のための論理を具現化する回路、又は双方を包含することができる。本開示は、ハードウェアとソフトウェアの任意の適切な組み合わせを包含する。
本開示は、いくつかの例示的な実施形態を説明したが、開示の範囲内に入る改変、置換、及び様々な代替同等物がある。したがって、当業者には、本明細書において明示的に図示又は説明されていないが開示の原理を具現化し、したがってその主旨及び範囲内にある多数のシステム及び方法を考案可能であることが理解されるであろう。

Claims (13)

  1. メディア処理デバイスにより実行される、メディア処理の方法であって、
    メディアアプリケーションにおけるシーンの第1のメディアコンテンツに関連づけられた第1の3自由度(3DoF)情報を受信するステップであり、前記第1の3DoF情報は、前記メディアアプリケーションのユーザを中心とした第1の球形上に前記第1のメディアコンテンツを記述するための第1の旋回向きを含む、ステップと、
    前記第1のメディアコンテンツをレンダリングするためのレンダリングプラットフォームが6自由度(6DoF)プラットフォームであると判断するステップと、
    前記第1の旋回向きと、前記第1の球形の中心位置及び半径を含む前記第1の球形の第1のパラメータに基づいて、次の
    という式に従って、前記第1のメディアコンテンツの第1の空間位置情報を算出するステップであり、(x,y,z)は前記第1のメディアコンテンツの空間位置を表し、(θ,φ,ψ)は前記第1の旋回向きを表し、(a,b,c)は前記第1の球形の前記中心位置を表し、rは前記第1の球形の前記半径を表し、前記第1の空間位置情報は、前記第1のメディアコンテンツを前記6DoFプラットフォーム上でレンダリングするために前記第1のメディアコンテンツに関連づけられた第1の6DoF情報において使用される、ステップと、
    を含む方法。
  2. 事前に定義されたパラメータ前記第1の球形の前記第1のパラメータとして使用するステップ
    をさらに含む、請求項1に記載の方法。
  3. 前記第1の球形の前記中心位置を、事前定義された位置であるように設定するステップと、
    前記第1の球形の前記半径を、事前定義された正の値であるように設定するステップと、
    をさらに含む、請求項2に記載の方法。
  4. 前記第1の球形の前記中心位置を、3次元(3D)空間における(0,0,0)であるように設定するステップと、
    前記第1の球形の半径を、1であるように設定するステップと、
    をさらに含む、請求項3に記載の方法。
  5. 前記メディア処理デバイスはメディアクライアントデバイスであり、当該方法は、
    メディアサーバデバイスから前記第1の球形の前記第1のパラメータを受信するステップ
    をさらに含む、請求項1に記載の方法。
  6. 当該方法は、
    前記第1のメディアコンテンツを運ぶビットストリームの一部である補足強化情報(SEI)メッセージから、前記第1の球形の前記第1のパラメータを受信するステップ
    をさらに含む、請求項5に記載の方法。
  7. 当該方法は、
    システムレイヤにおけるメタデータのパケットから、前記第1の球形の前記第1のパラメータを受信するステップであり、前記システムレイヤにおける前記メタデータのパケットは、前記第1のメディアコンテンツを運ぶビットストリームと別個である、ステップ
    をさらに含む、請求項5に記載の方法。
  8. 前記メディアアプリケーションにおける前記シーンの第2のメディアコンテンツに関連づけられた第2の3DoF情報を受信するステップであり、前記第2の3DoF情報は、前記第1の球形と中心位置を共有する第2の球形上に前記第2のメディアコンテンツを記述するための第2の旋回向きを含む、ステップと、
    前記第2の旋回向きと前記第2の球形の第2のパラメータに基づいて、前記第2のメディアコンテンツの第2の空間位置情報を算出するステップであり、前記第2の空間位置情報は、前記第2のメディアコンテンツを前記6DoFプラットフォーム上でレンダリングするために前記第2のメディアコンテンツに関連づけられた第2の6DoF情報において使用される、ステップと、
    をさらに含む、請求項1に記載の方法。
  9. 前記第1の球形と前記第2の球形は同じ半径を有する、請求項8に記載の方法。
  10. 前記第1の球形と前記第2の球形は異なる半径を有する、請求項8に記載の方法。
  11. 前記メディア処理デバイスはメディアクライアントデバイスであり、当該方法は、
    前記第1の空間位置情報を含む前記第1の6DoF情報に従って、前記第1のメディアコンテンツをレンダリングするステップ
    をさらに含む、請求項1に記載の方法。
  12. 前記メディア処理デバイスはメディアサーバデバイスであり、当該方法は、
    前記第1の6DoF情報に関連づけられた前記第1のメディアコンテンツをビットストリームにおいてメディアクライアントデバイスに提供するステップ
    をさらに含む、請求項1に記載の方法。
  13. メディア処理の装置であって、
    処理回路を含み、前記処理回路は、請求項1乃至12のうちいずれか1項に記載の方法を実行するように構成される、装置。
JP2023530539A 2021-08-23 2022-08-23 没入型メディアの相互運用性 Active JP7601479B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202163260509P 2021-08-23 2021-08-23
US63/260,509 2021-08-23
US17/892,987 2022-08-22
US17/892,987 US11956409B2 (en) 2021-08-23 2022-08-22 Immersive media interoperability
PCT/US2022/075326 WO2023028477A1 (en) 2021-08-23 2022-08-23 Immersive media interoperability

Publications (2)

Publication Number Publication Date
JP2023551659A JP2023551659A (ja) 2023-12-12
JP7601479B2 true JP7601479B2 (ja) 2024-12-17

Family

ID=85228139

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023530539A Active JP7601479B2 (ja) 2021-08-23 2022-08-23 没入型メディアの相互運用性

Country Status (6)

Country Link
US (1) US11956409B2 (ja)
EP (1) EP4168994A4 (ja)
JP (1) JP7601479B2 (ja)
KR (1) KR102705355B1 (ja)
CN (1) CN116324683A (ja)
WO (1) WO2023028477A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2025029844A (ja) * 2023-08-22 2025-03-07 キヤノン株式会社 表示装置及び情報処理装置とそれら制御方法、情報処理システム

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200053464A1 (en) 2018-08-08 2020-02-13 Qualcomm Incorporated User interface for controlling audio zones
JP2020515959A (ja) 2017-03-28 2020-05-28 マジック リープ, インコーポレイテッドMagic Leap,Inc. ユーザ走査仮想オブジェクトに関係している空間化されたオーディオを用いる拡張現実システム
US20200196086A1 (en) 2018-12-13 2020-06-18 Qualcomm Incorporated Soundfield modeling for efficient encoding and/or retrieval
JP2020527887A (ja) 2017-07-14 2020-09-10 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン 深度拡張DirAC技術またはその他の技術を使用して、拡張音場記述または修正音場記述を生成するための概念
US20200304933A1 (en) 2019-03-19 2020-09-24 Htc Corporation Sound processing system of ambisonic format and sound processing method of ambisonic format
US10791313B2 (en) 2017-09-19 2020-09-29 Electronics And Telecommunications Research Institute Method and apparatus for providing 6DoF omni-directional stereoscopic image based on layer projection
US20200344563A1 (en) 2018-01-19 2020-10-29 Nokia Technologies Oy Associated Spatial Audio Playback
WO2021015982A1 (en) 2019-07-22 2021-01-28 Interdigital Vc Holdings, Inc. A method and apparatus for delivering a volumetric video content
JP2021507558A (ja) 2017-12-18 2021-02-22 ドルビー・インターナショナル・アーベー 仮想現実環境における聴取位置間のローカル遷移を扱う方法およびシステム
JP2021517987A (ja) 2018-04-11 2021-07-29 ドルビー・インターナショナル・アーベー 6dofオーディオ・レンダリングのための方法、装置およびシステムならびに6dofオーディオ・レンダリングのためのデータ表現およびビットストリーム構造
JP2021519012A (ja) 2018-04-09 2021-08-05 ドルビー・インターナショナル・アーベー Mpeg−h 3dオーディオの3自由度(3dof+)拡張のための方法、装置およびシステム
JP2021518923A (ja) 2018-04-16 2021-08-05 ドルビー ラボラトリーズ ライセンシング コーポレイション 方向性音源のエンコードおよびデコードのための方法、装置およびシステム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9229540B2 (en) * 2004-01-30 2016-01-05 Electronic Scripting Products, Inc. Deriving input from six degrees of freedom interfaces
US9041765B2 (en) * 2010-05-12 2015-05-26 Blue Jeans Network Systems and methods for security and privacy controls for videoconferencing
WO2014204330A1 (en) * 2013-06-17 2014-12-24 3Divi Company Methods and systems for determining 6dof location and orientation of head-mounted display and associated user movements
EP3211629A1 (en) 2016-02-24 2017-08-30 Nokia Technologies Oy An apparatus and associated methods
WO2018118657A1 (en) * 2016-12-21 2018-06-28 Pcms Holdings, Inc. Systems and methods for selecting spheres of relevance for presenting augmented reality information
EP3682632B1 (en) * 2017-09-15 2023-05-03 InterDigital VC Holdings, Inc. Methods and devices for encoding and decoding 3d video stream
CN111164969B (zh) * 2017-09-28 2021-11-02 Lg电子株式会社 使用拼接和重新投影相关元数据发送或接收6dof视频的方法和装置
US10559126B2 (en) * 2017-10-13 2020-02-11 Samsung Electronics Co., Ltd. 6DoF media consumption architecture using 2D video decoder
WO2019078033A1 (ja) * 2017-10-20 2019-04-25 ソニー株式会社 再生装置および方法、並びに、生成装置および方法
EP3474562A1 (en) * 2017-10-20 2019-04-24 Thomson Licensing Method, apparatus and stream for volumetric video format
KR102258448B1 (ko) * 2018-04-11 2021-05-31 엘지전자 주식회사 핫스팟 및 roi 관련 메타데이터를 이용한 360도 비디오를 송수신하는 방법 및 그 장치
US11450071B2 (en) 2018-05-23 2022-09-20 Koninklijke Kpn N.V. Adapting acoustic rendering to image-based object
US20200045288A1 (en) * 2018-07-31 2020-02-06 Intel Corporation Six degree of freedom video transcoding mechanism
US11818326B2 (en) * 2020-05-13 2023-11-14 Mediatek Singapore Pte. Ltd. Methods and apparatus for signaling viewing regions of various types in immersive media

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020515959A (ja) 2017-03-28 2020-05-28 マジック リープ, インコーポレイテッドMagic Leap,Inc. ユーザ走査仮想オブジェクトに関係している空間化されたオーディオを用いる拡張現実システム
JP2020527887A (ja) 2017-07-14 2020-09-10 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン 深度拡張DirAC技術またはその他の技術を使用して、拡張音場記述または修正音場記述を生成するための概念
US10791313B2 (en) 2017-09-19 2020-09-29 Electronics And Telecommunications Research Institute Method and apparatus for providing 6DoF omni-directional stereoscopic image based on layer projection
JP2021507558A (ja) 2017-12-18 2021-02-22 ドルビー・インターナショナル・アーベー 仮想現実環境における聴取位置間のローカル遷移を扱う方法およびシステム
US20200344563A1 (en) 2018-01-19 2020-10-29 Nokia Technologies Oy Associated Spatial Audio Playback
JP2021519012A (ja) 2018-04-09 2021-08-05 ドルビー・インターナショナル・アーベー Mpeg−h 3dオーディオの3自由度(3dof+)拡張のための方法、装置およびシステム
JP2021517987A (ja) 2018-04-11 2021-07-29 ドルビー・インターナショナル・アーベー 6dofオーディオ・レンダリングのための方法、装置およびシステムならびに6dofオーディオ・レンダリングのためのデータ表現およびビットストリーム構造
JP2021518923A (ja) 2018-04-16 2021-08-05 ドルビー ラボラトリーズ ライセンシング コーポレイション 方向性音源のエンコードおよびデコードのための方法、装置およびシステム
US20200053464A1 (en) 2018-08-08 2020-02-13 Qualcomm Incorporated User interface for controlling audio zones
US20200196086A1 (en) 2018-12-13 2020-06-18 Qualcomm Incorporated Soundfield modeling for efficient encoding and/or retrieval
US20200304933A1 (en) 2019-03-19 2020-09-24 Htc Corporation Sound processing system of ambisonic format and sound processing method of ambisonic format
WO2021015982A1 (en) 2019-07-22 2021-01-28 Interdigital Vc Holdings, Inc. A method and apparatus for delivering a volumetric video content

Also Published As

Publication number Publication date
EP4168994A1 (en) 2023-04-26
KR20230036148A (ko) 2023-03-14
US11956409B2 (en) 2024-04-09
JP2023551659A (ja) 2023-12-12
KR102705355B1 (ko) 2024-09-09
US20230059715A1 (en) 2023-02-23
CN116324683A (zh) 2023-06-23
WO2023028477A1 (en) 2023-03-02
EP4168994A4 (en) 2024-01-17

Similar Documents

Publication Publication Date Title
JP7789804B2 (ja) プロキシエッジクラウドアーキテクチャを使用してライトフィールド/没入型メディアを分割レンダリングするための方法および装置
JP7601479B2 (ja) 没入型メディアの相互運用性
JP7625693B2 (ja) デバイスにおけるメディア処理の方法、装置及びプログラム
JP7584845B2 (ja) リモート端末のためのテレビ会議およびテレプレゼンスにおけるビューポート共有時の乗り物酔いを鎮静化するための方法、装置、およびコンピュータプログラム
JP7619727B2 (ja) 没入型メディアの互換性
KR102955265B1 (ko) 몰입형 미디어 상용성
JP7595765B2 (ja) 音響シーンと視覚シーンの整合性
HK40088102A (zh) 沉浸式媒体互操作性
US12531077B2 (en) Method and apparatus in audio processing
HK40088095A (zh) 沉浸式媒体兼容性
HK40090044A (zh) 感兴趣空间的分层描述
HK40090042A (zh) 声学场景和视觉场景的一致性

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240416

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241129

R150 Certificate of patent or registration of utility model

Ref document number: 7601479

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150