KR20170002573A

KR20170002573A - 비디오 코딩에서 뎁스 픽처 코딩 방법 및 장치

Info

Publication number: KR20170002573A
Application number: KR1020167034205A
Authority: KR
Inventors: 남정학; 예세훈; 서정동; 유선미
Original assignee: 엘지전자 주식회사
Priority date: 2014-10-08
Filing date: 2015-09-25
Publication date: 2017-01-06
Anticipated expiration: 2035-09-25
Also published as: CN106664423A; EP3206402A1; US10659814B2; CA2952793C; RU2016151372A; JP2017525314A; WO2016056782A1; MX2016016990A; RU2661331C2; CN106664423B; CA2952793A1; KR101862498B1; EP3206402A4; AU2015328955B2; JP6545796B2; AU2015328955A1; US20170150178A1; RU2016151372A3; MX362021B

Abstract

본 발명은 3D 비디오를 코딩하는 장치 및 방법에 관한 것으로, 본 발명에 따른 디코딩 방법은 D 비디오 디코딩 방법을 제공한다. 상기 디코딩 방법은 참조 뷰(view) 및 소정의 값을 기반으로 디스패리티 값을 획득하는 단계, 상기 디스패리티 값을 기반으로 뎁스 픽처 내 현재 블록의 움직임 정보를 도출하는 단계, 및 상기 움직임 정보를 기반으로 상기 현재 블록의 예측 샘플을 생성하는 단계를 포함하되, 상기 참조 뷰는 참조 픽처 리스트 내의 참조 픽처의 뷰임을 특징으로 한다. 본 발명에 따르면, 베이스 뷰(base view)를 엑세스하지 못하는 경우에도, DPB(decoded picture buffer) 내의 가용한 참조 뷰 인덱스에 기반하여 디스패리티 벡터를 유도할 수 있고, 코딩 효율을 향상시킬 수 있다.

Description

비디오 코딩에서 뎁스 픽처 코딩 방법 및 장치{DEPTH PICTURE CODING METHOD AND DEVICE IN VIDEO CODING}

본 발명은 비디오 코딩에 관한 기술로서, 보다 상세하게는 비디오 코딩에서 뎁스 픽처 코딩 방법 및 장치에 관한 것이다.

최근 고해상도, 고품질의 영상에 대한 요구가 다양한 응용 분야에서 증가하고 있다. 하지만 영상이 고해상도를 가지고 고품질이 될수록 해당 영상에 대한 정보량도 함께 증가한다.

따라서, 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 정보를 전송하거나 기존의 저장 매체를 이용해 영상 정보를 저장하는 경우에는, 정보의 전송 비용과 저장 비용이 증가하게 된다. 고해상도, 고품질 영상의 정보를 효과적으로 전송하거나 저장하고, 재생하기 위해 고효율의 영상 압축 기술을 이용할 수 있다.

한편, 고해상/대용량의 영상을 처리할 수 있게 됨에 따라서, 3D 비디오를 이용한 디지털 방송 서비스가 차세대 방송 서비스의 하나로 주목 받고 있다. 3D 비디오는 복수의 시점(view) 채널을 이용하여 현장감과 몰입감을 제공할 수 있다.

3D 비디오는 FCC(free viewpoint video), FTV(free viewpoint TV), 3DTV, 사회 안전망(surveillance) 및 홈 엔터테인먼트와 같은 다양한 영역에 사용될 수 있다.

싱글 뷰 비디오(single view video)와 달리 멀티 뷰를 이용한 3DV(3D video)는 동일한 POC(picture order count)의 뷰들 사이에 높은 상관도(correlation)을 가진다. 멀티 뷰 영상은 인접한 여러 카메라 즉, 여러 시점(view)을 이용하여 똑같은 장면을 동시에 촬영하기 때문에, 시차와 약간의 조명 차이를 제외하면 거의 같은 정보를 담고 있으므로 서로 다른 뷰 간의 상관도가 높다.

따라서, 멀티 뷰 비디오의 인코딩/디코딩에서는 서로 다른 뷰 사이의 상관도를 고려하여, 현재 뷰의 인코딩 및/또는 디코딩에 필요한 정보를 획득할 수 있다. 예를 들어, 현재 뷰의 디코딩 대상 블록을 다른 뷰의 블록을 참조하여 예측하거나 디코딩할 수 있다.

또한, 뎁스 픽처와 텍스처 픽처는 동일한 장면에 대한 정보를 담고 있으므로, 서로 상관도가 높다. 따라서, 텍스처 픽처를 참조하여 뎁스 픽처를 예측하거나 디코딩할 수도 있다.

본 발명은 3D 비디오 코딩에서 현재 블록을 예측하는 방법 및 장치를 제공한다.

본 발명은 인터-뷰 움직임 예측(inter-view motion prediction, IMVP)을 수행하는 방법 및 장치를 제공한다.

본 발명은 IMVP를 수행함에 있어 가용한 참조 뷰를 설정하는 방법 및 장치를 제공한다.

본 발명은 뎁스 픽처 코딩에서 현재 블록의 디스패리티(disparity)를 유도하는 방법 및 장치를 제공한다.

본 발명은 현재 블록의 디스패리티를 유도하기 위하여 사용되는 참조 뷰 인덱스를 설정하는 방법 및 장치를 제공한다.

본 발명의 일 실시예에 따르면 3D 비디오 디코딩 방법을 제공한다. 상기 디코딩 방법은 참조 뷰(view) 및 소정의 값을 기반으로 디스패리티 값을 획득하는 단계, 상기 디스패리티 값을 기반으로 뎁스 픽처 내 현재 블록의 움직임 정보를 도출하는 단계, 및 상기 움직임 정보를 기반으로 상기 현재 블록의 예측 샘플을 생성하는 단계를 포함하되, 상기 참조 뷰는 참조 픽처 리스트 내의 참조 픽처의 뷰임을 특징으로 한다.

본 발명의 다른 실시예에 따르면, 3D 비디오 디코딩 장치를 제공한다. 상기 디코딩 장치는 예측 모드 정보를 포함하는 비트스트림을 수신하고 디코딩하는 디코딩부, 상기 참조 뷰(view) 및 소정의 값을 기반으로 디스패리티 값을 획득하고, 상기 디스패리티 값을 기반으로 뎁스 픽처 내 현재 블록의 움직임 정보를 도출하고, 및 상기 예측 모드 정보 및 상기 움직임 정보를 기반으로 상기 현재 블록의 예측 샘플을 생성하는 예측부를 포함하되, 상기 참조 뷰는 참조 픽처 리스트 내의 참조 픽처의 뷰임을 특징으로 한다.

본 발명에 따르면 3D 비디오 코딩에서 현재 블록의 디스패리티 벡터를 원활하게 유도할 수 있다.

본 발명에 따르면 베이스 뷰(base view)를 엑세스하지 못하는 경우에도, DPB(decoded picture buffer) 내의 가용한 참조 뷰 인덱스에 기반하여 디스패리티 벡터를 유도할 수 있고, 코딩 효율을 향상시킬 수 있다.

도 1은 본 발명이 적용될 수 있는 3D 비디오의 인코딩 및 디코딩 과정을 개략적으로 설명하는 도면이다.
도 2는 본 발명이 적용될 수 있는 비디오 인코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 3은 본 발명이 적용될 수 있는 비디오 디코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 4는 본 발명이 적용될 수 있는 멀티 뷰 비디오 코딩의 일 예를 개략적으로 설명하기 위한 도면이다.
도 5는 Wedgelet 모드를 개략적으로 나타내는 도면이다.
도 6은 Contour 모드를 개략적으로 나타내는 도면이다.
도 7은 SDC 부호화 방법을 개략적으로 나타내는 도면이다.
도 8은 IVMP 방법을 개략적으로 나타내는 도면이다.
도 9는 본 발명의 실시예에 따른 3D 비디오 인코딩 방법을 개략적으로 나타낸 순서도이다.
도 10은 본 발명의 실시예에 따른 3D 비디오 디코딩 방법을 개략적으로 나타낸 순서도이다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정 실시예에 한정하려고 하는 것이 아니다. 본 명세서에서 상용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서 "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 도는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

한편, 본 발명에서 설명되는 도면상의 각 구성들은 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.

이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성 요소에 대해서는 동일한 참조 부호를 사용하고 동일한 구성 요소에 대해서 중복된 설명은 생략한다.

본 명세서에서 픽처(picture)는 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미하며, 슬라이스(slice)는 코딩에 있어서 픽처의 일부를 구성하는 단위이다. 하나의 픽처는 복수의 슬라이스로 구성될 수 있으며, 필요에 따라서 픽처 및 슬라이스는 서로 혼용되어 사용될 수 있다.

픽셀(pixel) 또는 펠(pel)은 하나의 픽처(또는 영상)을 구성하는 최소의 단위를 의미할 수 있다. 또한, 특정한 픽셀의 값을 나타내는 용어로서 '샘플(sample)'이 사용될 수 있다. 샘플은 일반적으로 픽셀의 값을 나타낼 수 있으며, 휘도(luma) 성분의 픽셀 값만을 나타낼 수도 있고, 채도(chroma) 성분의 픽셀 값만을 나타낼 수도 있다.

유닛(unit)은 영상 처리의 기본 단위를 나타낸다. 유닛은 픽처의 특정 영역 및 해당 영역에 관련된 정보 중 적어도 하나를 포함할 수 있다. 유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들 또는 변환 계수(transform coefficient)들의 집합을 나타낼 수 있다.

도 1은 본 발명이 적용될 수 있는 3D 비디오의 인코딩 및 디코딩 과정을 개략적으로 설명하는 도면이다.

도 1을 참조하면, 3D 비디오 인코더는 비디오 픽처 및 뎁스 맵(depth map)과 카메라 파라미터(camera parameter)를 인코딩하여 비트스트림으로 출력할 수 있다.

뎁스 맵은 대응하는 비디오 픽처(텍스처 픽처)의 픽셀에 대하여 카메라와 피사체 간의 거리 정보(깊이 정보)로 구성될 수 있다. 예컨대, 뎁스 맵은 깊이 정보를 비트 뎁스(bit depth)에 따라 정규화한 영상일 수 있다. 이 때, 뎁스 맵은 색차 표현없이 기록된 깊이 정보로 구성될 수 있다. 뎁스 맵은 뎁스 맵 픽처 또는 뎁스 픽처로 불릴 수 있다.

일반적으로 피사체와의 거리와 디스패리티는 서로 반비례하므로, 카메라 파라미터를 이용하여 뎁스 맵의 깊이 정보로부터 뷰 간의 상관도를 나타내는 디스패리티 정보를 유도할 수 있다.

일반적인 컬러 영상 즉, 비디오 픽처(텍스처 픽처)와 함께 뎁스 맵과 카메라 파라미터를 포함하는 비트스트림은 네트워크(network) 또는 저장매체를 통해 디코더로 전송될 수 있다.

디코더 측에서는 비트스트림을 수신해서 비디오를 복원할 수 있다. 디코더 측에서 3D 비디오 디코더가 이용되는 경우, 3D 비디오 디코더는 비트스트림으로부터 비디오 픽처와 뎁스 맵 및 카메라 파라미터를 디코딩할 수 있다. 디코딩된 비디오 픽처와 뎁스 맵 그리고 카메라 파라미터를 기반으로 멀티 뷰(multi view) 디스플레이에 필요한 뷰들을 합성할(synthesize) 수도 있다. 이 때, 사용되는 디스플레이가 스테레오(stereo) 디스플레이인 경우라면, 복원된 멀티 뷰들 중에서 두 개의 뷰에 대한 픽처들을 이용하여 3D 영상을 디스플레이 할 수 있다.

스테레오 비디오 디코더가 사용되는 경우에, 스테레오 비디오 디코더는 비트스트림으로부터 양 안(eyes)에 각각 입사될 두 픽처를 복원할 수 있다. 스테레오 디스플레이에서는 왼쪽 눈에 입사되는 좌측 영상과 우측 눈에 입사되는 우측 영상의 시차(view difference) 혹은 디스패리티(disparity)를 이용해서 입체 영상을 디스플레이 할 수 있다. 스테레오 비디오 디코더와 함께 멀티 뷰 디스플레이가 사용되는 경우에는, 복원된 두 픽처를 기반으로 다른 뷰들을 생성하여 멀티 뷰를 디스플레이할 수도 있다.

2D 디코더가 사용되는 경우에는 2차원 영상을 복원해서 2D 디스플레이로 영상을 출력할 수 있다. 2D 디스플레이를 사용하지만, 디코더는 3D 비디오 디코더를 사용하거나 스테레오 비디오 디코더를 사용하는 경우에는 복원된 영상들 중 하나를 2D 디스플레이로 출력할 수도 있다.

도 1의 구성에서, 뷰 합성은 디코더 측에서 수행될 수도 있고, 디스플레이 측에서 수행될 수도 있다. 또한, 디코더와 디스플레이는 하나의 장치일 수도 있고 별도의 장치일 수 도 있다.

도 1에서는 설명의 편의를 위하여 3D 비디오 디코더와 스테레오 비디오 디코더 그리고 2D 비디오 디코더가 별도의 디코더인 것으로 설명하였으나, 하나의 디코딩 장치가 3D 비디오 디코딩, 스테레오 비디오 디코딩 그리고 2D 비디오 디코딩을 모두 수행할 수도 있다. 또한, 3D 비디오 디코딩 장치가 3D 비디오 디코딩을 수행하고, 스테레오 비디오 디코딩 장치가 스테레오 비디오 디코딩을 수행하며, 2D 비디오 디코딩 장치가 2D 비디오 디코딩을 수행할 수도 있다. 더 나아가, 멀티 뷰 디스플레이가 2D 비디오를 출력하거나 스테레오 비디오를 출력할 수도 있다.

도 2는 본 발명이 적용될 수 있는 비디오 인코딩 장치의 구성을 개략적으로 설명하는 도면이다.

도 2를 참조하면, 비디오 인코딩 장치(200)는 픽처 분할부(205), 예측부(210), 감산부(215), 변환부(220), 양자화부(225), 재정렬부(230), 엔트로피 인코딩부(235), 역양자화부(240), 역변환부(245), 가산부(250), 필터부(255) 및 메모리(260)을 포함한다.

픽처 분할부(205)는 입력된 픽처를 적어도 하나의 처리 유닛 블록(processing unit block)으로 분할할 수 있다. 이 때, 처리 유닛 블록은 코딩 유닛 블록(coding unit block), 예측 유닛 블록(prediction unit block) 또는 변환 유닛 블록(transform unit block)일 수 있다. 코딩 유닛 블록은 코딩의 유닛 블록으로서 최대(largest) 코딩 유닛 블록으로부터 쿼드 트리 구조(quad-tree structure)를 따라서 분할(split)될 수 있다. 예측 유닛 블록은 코딩 유닛 블록으로부터 파티셔닝(partitioning)되는 블록으로서, 샘플 예측의 유닛 블록일 수 있다. 이 때, 예측 유닛 블록은 서브 블록(sub block)으로 나뉠 수도 있다. 변환 유닛 블록은 코딩 유닛 블록으로부터 쿼드 트리 구조를 따라서 분할 될 수 있으며, 변환 계수를 따라서 유도하는 유닛 블록 또는 변환 계수로부터 레지듀얼 신호(residual signal)를 유도하는 유닛 블록일 수 있다.

이하, 코딩 유닛 블록은 코딩 블록(coding block, CB) 또는 코딩 유닛(coding unit, CU), 예측 유닛 블록은 예측 블록(prediction block, PB) 또는 예측 유닛(prediction unit, PU), 변환 유닛 블록은 변환 블록(transform block, TB) 또는 변환 유닛(transform unit, TU)라고 불릴 수 있다.

예측 블록 또는 예측 유닛은 픽처 내에서 블록 형태의 특정 영역을 의미할 수 있고, 예측 샘플의 어레이(array)를 포함할 수 있다. 또한, 변환 블록 또는 변환 유닛은 픽처 내에서 블록 형태의 특정 영역을 의미할 수 있고, 변환 계수 또는 레지듀얼 샘플의 어레이를 포함할 수 있다.

예측부(210)는 처리 대상 블록(이하, 현재 블록이라 함)에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측 블록을 생성할 수 있다. 예측부(210)에서 수행되는 예측의 단위는 코딩 블록일 수 있고, 변환 블록일 수도 있고, 예측 블록일 수도 있다.

예측부(210)는 현재 블록에 인트라 예측이 적용되는지 인터 예측이 적용되는지를 결정할 수 있다. 일 예로, 예측부(210)는 CU 단위로 인트라 예측 또는 인터 예측이 적용되는지를 결정할 수 있다.

인트라 예측의 경우에, 예측부(210)는 현재 블록이 속하는 픽처(이하, 현재 픽처) 내의 현재 블록 외부의 참조 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이 때, 예측부(210)는 (i) 현재 블록의 주변(neighboring) 참조 샘플들의 평균(average) 혹은 인터폴레이션(interpolation)을 기반으로 예측 샘플을 유도할 수 있고, (ii) 현재 블록의 주변 참조 샘플들 중 예측 샘플에 대하여 특정 (예측) 방향에 존재하는 참조 샘플을 기반으로 상기 예측 샘플을 유도할 수도 있다. (i)의 경우는 비방향성 모드, (ii)의 경우는 방향성(directional) 모드라고 불릴 수 있다. 예측부(210)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.

인터 예측의 경우에, 예측부(210)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 샘플을 기반으로, 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(210)는 스킵(skip) 모드, 머지(merge) 모드, 및 MVP(motion vector prediction) 모드 중 어느 하나를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 스킵 모드와 머지 모드의 경우에, 예측부(210)는 주변 블록의 움직임 정보를 현재 블록의 움직임 정보로 이용할 수 있다. 스킵 모드의 경우, 머지 모드와 달리 예측 샘플과 원본 샘플 사이의 차(레지듀얼)이 전송되지 않는다. MVP 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하여 현재 블록의 움직임 벡터 예측자로 이용하여 현재 블록의 움직임 벡터를 유도할 수 있다.

인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처(reference picture)에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함한다. 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일 위치 픽처(collocated picture, colPic)라고 불릴 수도 있다. 움직임 정보(motion information)는 움직임 벡터와 참조 픽처를 포함할 수 있다. 스킵 모드와 머지 모드에서 시간적 주변 블록의 움직임 정보가 이용되는 경우에, 참조 픽처 리스트(reference picture list) 상의 최상위 픽처가 참조 픽처로서 이용될 수도 있다.

멀티 뷰의 경우, 독립 뷰(independent view)와 종속 뷰(dependent view)로 구분될 수 있으며, 종속 뷰에 대한 인코딩의 경우에, 예측부(210)는 인터 예측뿐 아니라 인터 뷰(inter-view) 예측을 수행할 수도 있다.

예측부(210)는 다른 뷰의 픽처를 포함하여 참조 픽처 리스트를 구성할 수 있다. 인터 뷰 예측을 위해, 예측부(210)는 디스패리티 벡터를 유도할 수 있다. 현재 뷰 내 다른 픽처에서 현재 블록에 대응하는 블록을 특정하는 움직임 벡터와 달리, 디스패리티 벡터는 현재 픽처와 동일한 AU(access unit)의 다른 뷰에서 현재 블록에 대응하는 블록을 톡정할 수 있다. AU는 예를 들어 멀티 뷰에서, 동일 시점(same time instance)에 대응하는(correspond) 비디오 픽처들 및 뎁스 맵들을 포함할 수 있다. 여기서, AU는 POC(Picture Order Count)가 같은 픽처들의 집합을 의미할 수 있다. POC는 픽처의 디스플레이 순서에 대응하며, 코딩 순서와 구분될 수 있다.

예측부(210)는 디스패리티 벡터를 기반으로, 뎁스 뷰(depth view) 내의 뎁스 블록(depth block)을 특정할 수 있고, 머지 리스트의 구성, 인터-뷰 움직임 예측(inter-view motion prediction), 레지듀얼 예측, IC(illumination compensation), 뷰 합성 등을 수행할 수 있다.

현재 블록에 대한 디스패리티 벡터는 카메라 파라미터를 이용하여 뎁스 값으로부터 유도되거나, 현재 또는 다른 뷰 내 주변 블록의 움직임 벡터 또는 디스패리티 벡터로부터 유도될 수 있다.

예컨대, 예측부(210)는 참조 뷰(reference view)의 시간적 움직임 정보에 대응하는 인터 뷰 머지 후보(inter-view merging candidate: IvMC), 디스패리티 벡터 대응하는 인터 뷰 디스패리티 벡터 후보(inter-view disparity vector candidate: IvDC), 디스패리티 벡터의 쉬프트(shift)에 의해 유도되는 쉬프티드 인터뷰 머지 후보(shifted IvMC), 현재 블록이 뎁스 맵 상의 블록인 경우에 대응하는 텍스처 픽처로부터 유도되는 텍스처 머지 후보(texture merging candidate: T), 텍스처 머지 후보로부터 디스패리티를 이용하여 유도되는 디스패리티 유도 머지 후보(disparity derived merging candidate: D), 뷰 합성에 기반해서 유도되는 뷰 합성 예측 후보(view synthesis prediction candidate: VSP) 등을 머지 후보 리스트에 추가할 수 있다.

이 때, 종속 뷰에 적용되는 머지 후보 리스트에 포함되는 후보의 개수는 소정의 값으로 제한될 수 있다.

또한, 예측부(210)는 인터 뷰 움직임 벡터 예측을 적용하여, 디스패리티 벡터를 기반으로 현재 블록의 움직임 벡터를 예측할 수도 있다. 이 때, 예측부(210)는 대응하는 깊이 블록 내 최대 깊이 값의 전환(conversion)에 기반하여 디스패리티 벡터를 유도할 수 있다. 참조 뷰 내의 현재 블록의 샘플 위치에 디스패리티 벡터를 더하여 참조 뷰 내 참조 샘플의 위치가 특정되면, 참조 샘플을 포함하는 블록을 참조 블록으로 이용할 수 있다. 예측부(210)는 참조 블록의 움직임 벡터를 현재 블록의 후보 움직임 파라미터 혹은 움직임 벡터 예측자 후보로 이용할 수 있으며, 상기 디스패리티 벡터를 디스패리티 보상 예측(disparity compensated prediction: DCP)을 위한 후보 디스패리티 벡터로 이용할 수 있다.

감산부(215)는 원본 샘플과 예측 샘플 간의 차이인 레지듀얼 샘플을 생성한다. 스킵 모드가 적용되는 경우에는, 상술한 바와 같이 레지듀얼 샘플을 생성하지 않을 수 있다.

변환부(220)는 변환 블록 단위로 레지듀얼 샘플을 변환하여 변환 계수(transform coefficient)를 생성한다. 양자화부(225)는 변환 계수들을 양자화하여, 양자화된 변환 계수를 생성할 수 있다.

재정렬부(230)는 양자화된 변환 계수를 재정렬한다. 재정렬부(230)는 계수들 스캐닝(scanning) 방법을 통해 블록 형태의 양자화된 변환 계수들을 1차원 벡터 형태로 재정렬할 수 있다.

엔트로피 인코딩부(235)는 양자화된 변환 계수들에 대한 엔트로피 인코딩을 수행할 수 있다. 엔트로피 인코딩은 예를 들어 지수 골롬(exponential Golomb), CAVLC(context-adaptive variable length coding), CABAC(context-adaptive binary arithmetic coding) 등과 같은 인코딩 방법을 포함할 수 있다. 엔트로피 인코딩부(235)는 양자화된 변환 계수 외 비디오 복원에 필요한 정보들(예컨대 신택스 요소(syntax element)의 값 등)을 함께 또는 별도로 인코딩할 수도 있다. 엔트로피 인코딩된 정보들은 비트스트림 형태로 NAL(network abstraction layer) 유닛 단위로 전송 또는 저장될 수 있다.

가산부(250)는 레지듀얼 샘플과 예측 샘플을 합쳐서 픽처를 복원한다. 레지듀얼 샘플과 예측 샘플은 블록 단위로 더해져서 복원 블록이 생성될 수 있다. 여기서 가산부(250)는 별도의 구성으로 설명하였으나, 가산부(250)는 예측부(210)의 일부일 수 있다.

복원된 픽처(reconstructed picture)에 대하여 필터부(255)는 디블록킹 필터 및/또는 샘플 적응적 오프셋(sample adaptive offset)을 적용할 수 있다. 디블록킹 필터링 및/또는 샘플 적응적 오프셋을 통해, 복원 픽처 내 블록 경계의 아티팩트나 양자화 과정에서의 왜곡이 보정될 수 있다. 샘플 적응적 오프셋은 샘플 단위로 적용될 수 있으며, 디블록킹 필터링의 과정이 완료된 후 적용될 수 있다.

메모리(260)는 복원 픽처 또는 인코딩/디코딩에 필요한 정보를 저장할 수 있다. 예컨대, 메모리(260)는 인터 예측/인터 뷰 예측에 사용되는 (참조) 픽처들을 저장할 수 있다. 이 때, 인터 예측/인터 뷰 예측에 사용되는 픽처들은 참조 픽처 세트(reference picture set) 혹은 참조 픽처 리스트(reference picture list)에 의해 지정될 수 있다.

여기서는, 하나의 인코딩 장치가 독립 뷰 및 종속 뷰를 인코딩하는 것으로 설명하였으나, 이는 설명의 편의를 위한 것으로서, 각 뷰별로 별도의 인코딩 장치가 구성되거나, 각 뷰별로 별도의 내부 모듈(예컨대, 각 뷰별 예측 모듈)이 구성될 수도 있다.

도 3은 본 발명이 적용될 수 있는 비디오 디코딩 장치의 구성을 개략적으로 설명하는 도면이다.

도 3을 참조하면, 비디오 디코딩 장치(300)는 엔트로피 디코딩부(310), 재정렬부(320), 역양자화부(330), 역변환부(340), 예측부(350), 가산부(360), 필터부(370), 메모리(380)를 포함한다.

비디오 정보를 포함하는 비트스트림이 입력되면, 비디오 디코딩 장치는(300)는 비디오 인코딩 장치에서 비디오 정보가 처리된 프로세스에 대응하여 비디오를 복원할 수 있다.

예컨대, 비디오 디코딩 장치(300)는 비디오 인코딩 장치에서 적용된 처리 유닛을 이용하여 비디오 디코딩을 수행할 수 있다. 따라서 비디오 디코딩의 처리 유닛 블록은 코딩 유닛 블록, 예측 유닛 블록 또는 변환 유닛 블록일 수 있다. 코딩 유닛 블록은 디코딩의 유닛 블록으로서 최대 코딩 유닛 블록으로부터 쿼드 트리 구조를 따라서 분할될 수 있다. 예측 유닛 블록은 코딩 유닛 블록으로부터 파티셔닝되는 블록으로서, 샘플 예측의 유닛 블록일 수 있다. 이 때, 예측 유닛 블록은 서브 블록으로 나뉠 수도 있다. 변환 유닛 블록은 코딩 유닛 블록으로부터 쿼드 트리 구조를 따라서 분할 될 수 있으며, 변환 계수를 유도하는 유닛 블록 또는 변환 계수로부터 레지듀얼 신호를 유도하는 유닛 블록일 수 있다.

엔트로피 디코딩부(310)는 비트스트림을 파싱하여 비디오 복원 또는 픽처 복원에 필요한 정보를 출력할 수 있다. 예컨대, 엔트로피 디코딩부(310)는 지수 골롬 부호화, CAVLC 또는 CABAC 등의 코딩 방법을 기초로 비트스트림 내 정보를 디코딩하고, 비디오 복원에 필요한 신택스 엘리먼트의 값, 레지듀얼에 관한 변환 계수의 양자화된 값 들을 출력할 수 있다.

3D 비디오를 재생하기 위해 복수의 뷰(view)를 처리하는 경우, 비트스트림은 각 뷰 별로 입력될 수 있다. 혹은, 비트스트림 내에서 각 뷰에 대한 정보가 멀티플렉싱되어 있을 수 있다. 이 경우, 엔트로피 디코딩부(310)는 비트스트림을 역다중화(de-multiplixing)하여 뷰 별로 파싱(parsing)할 수도 있다.

재정렬부(320)는 양자화되어 있는 변환 계수들을 2차원의 블록 형태로 재정렬할 수 있다. 재정렬부(320)는 인코딩 장치에서 수행된 계수 스캐닝에 대응하여 재정렬을 수행할 수 있다.

역양자화부(330)는 양자화되어 있는 변환 계수들을 (역)양자화 파라미터를 기반으로 역양자화하여 변환 계수를 출력할 수 있다. 이 때, 양자화 파라미터를 유도하기 위한 정보는 인코딩 장치로부터 시그널링될 수 있다.

역변환부(340)는 변환 계수들을 역변환하여 레지듀얼 샘플들을 유도할 수 있다.

예측부(350)는 현재 블록에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측 블록을 생성할 수 있다. 예측부(350)에서 수행되는 예측의 단위는 코딩 블록일 수도 있고, 변환 블록일 수도 있고, 예측 블록일 수도 있다.

예측부(350)는 인트라 예측을 적용할 것인지 인터 예측을 적용할 것인지를 결정할 수 있다. 이 때, 인트라 예측과 인터 예측 중 어느 것을 적용할 것인지를 결정하는 단위와 예측 샘플을 생성하는 단위는 상이할 수 있다. 아울러, 인터 예측과 인트라 예측에 있어서 예측 샘플을 생성하는 단위 또한 상이할 수 있다. 예를 들어, 인터 예측과 인트라 예측 중 어느 것을 적용할 것인지는 CU 단위로 결정할 수 있다. 또한 예를 들어, 인터 예측에 있어서 PU 단위로 예측 모드를 결정하고 예측 샘플을 생성할 수 있고, 인트라 예측에 있어서 PU 단위로 예측 모드를 결정하고 TU 단위로 예측 샘플을 생성할 수도 있다.

인트라 예측의 경우에, 예측부(350)는 현재 픽처 내의 주변 참조 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(350)는 현재 블록의 주변 참조 샘플을 기반으로 방향성 모드 또는 비방향성 모드를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이 때, 주변 블록의 인트라 예측 모드를 이용하여 현재 블록에 적용할 예측 모드가 결정될 수도 있다.

인터 예측의 경우에, 예측부(350)는 참조 픽처 상에서 움직임 벡터에 의해 참조 픽처 상에서 특정되는 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(350)는 스킵(skip) 모드, 머지(merge) 모드 및 MVP 모드 중 어느 하나를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다.

스킵 모드와 머지 모드의 경우에, 주변 블록의 움직임 정보가 현재 블록의 움직임 정보로 이용될 수 있다. 이 때, 주변 블록은 공간적 주변 블록과 시간적 주변 블록을 포함할 수 있다.

예측부(350)는 가용한 주변 블록의 움직임 정보로 머지 후보 리스트를 구성하고, 머지 인덱스가 머지 후보 리스트 상에서 지시하는 정보를 현재 블록의 움직임 벡터로 사용할 수 있다. 머지 인덱스는 인코딩 장치로부터 시그널링될 수 있다. 움직임 정보는 움직임 벡터와 참조 픽처를 포함할 수 있다. 스킵 모드와 머지 모드에서 시간적 주변 블록의 움직임 정보가 이용되는 경우에, 참조 픽처 리스트 상의 최상위 픽처가 참조 픽처로서 이용될 수 있다.

스킵 모드의 경우, 머지 모드와 달리 예측 샘플과 원본 샘플 사이의 차이(레지듀얼)이 전송되지 않는다.

MVP 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하여 현재 블록의 움직임 벡터가 유도될 수 있다. 이 때, 주변 블록은 공간적 주변 블록과 시간적 주변 블록을 포함할 수 있다.

종속 뷰(dependent view)에 대한 경우에, 예측부(350)는 인터 뷰 예측을 수행할 수 있다. 이 때, 예측부(350)는 다른 뷰의 픽처를 포함하여 참조 픽처 리스트를 구성할 수 있다.

인터 뷰 예측을 위해, 예측부(350)는 디스패리티 벡터를 유도할 수 있다. 예측부(350)는 디스패리티 벡터를 기반으로, 뎁스 뷰(depth view) 내의 뎁스 블록을 특정할 수도 있고, 머지 리스트의 구성, 인터 뷰 움직임 예측(inter-view motion prediction), 레지듀얼 예측, IC(illumination compensation), 뷰 합성 등을 수행할 수 있다.

현재 블록에 대한 디스패리티 벡터는 카메라 파라미터를 이용하여 뎁스 값으로부터 유도되거나, 현재 또는 다른 뷰 내 주변 블록의 움직임 벡터 또는 디스패리티 벡터로부터 유도될 수 있다. 카메라 파라미터는 인코딩 장치로부터 시그널링될 수 있다.

종속 뷰의 현재 블록에 머지 모드를 적용하는 경우에, 예측부(350)는 c마조 뷰(refernece view)의 시간적 움직임 정보에 대응하는 IvMC, 디스패리티 벡터에 대응하는 IvDC, 디스패리티 벡터의 쉬프트(shift)에 의해 유도되는 쉬프티드 IvMC, 현재 블록이 뎁스 맵 상의 블록인 경우에 대응하는 텍스처 픽처로부터 유도되는 텍스처 머지 후보(T), 텍스처 머지 후보로부터 디스패리티를 이용하여 유도되는 디스패리티 유도 머지 후보(D), 뷰 합성에 기반해서 유도되는 뷰 합성 예측 머지 후보(VSP) 등을 머지 후보 리스트에 추가할 수 있다.

또한, 예측부(350)는 인터 뷰 움직임 벡터 예측을 적용하여, 디스패리티 벡터를 기반으로 현재 블록의 움직임 벡터를 예측할 수도 있다. 이 때, 예측부(350)는 디스패리티 벡터에 의해서 특정되는 참조 뷰 내 블록을 참조 블록으로 이용할 수 있다. 예측부(350)는 참조 블록의 움직임 벡터를 현재 블록의 후보 움직임 파라미터 혹은 움짐익 벡터 예측자 후보로 이용할 수 있으며, 상기 디스패리티 벡터를 디스패리티 보상 예측(disparity compensated prediction: DCP)을 위한 후보 디스패리티 벡터로 이용할 수 있다.

가산부(360)는 레지듀얼 샘플과 예측 샘플을 더하여 현재 블록 혹은 현재 픽처를 복원할 수 있다. 가산부(360)는 레지듀얼 샘플과 예측 샘플을 블록 단위로 더하여 현재 픽처를 복원할 수도 있다. 스킵 모드가 적용된 경우에는 레지듀얼이 전송되지 않으므로, 예측 샘플이 복원 샘플이 될 수 있다. 여기서는 가산부(360)를 별도의 구성으로 설명하였으나, 가산부(360)는 예측부(350)의 일부일 수도 있다.

필터부(370)는 복원된 픽처에 디블록킹 필터링 및/또는 샘플 적응적 오프셋을 적용할 수 있다. 이 때, 샘플 적응적 오프셋은 샘플 단위로 적용될 수 있으며, 디블록킹 필터링 이후 적용될 수도 있다.

메모리(380)는 복원 픽처 또는 디코딩에 필요한 정보를 저장할 수 있다. 예컨대, 메모리(380)는 인터 예측/인터 뷰 예측에 사용되는 픽처들을 저장할 수 있다. 이 때, 인터 예측/인터 뷰 예측에 사용되는 픽처들은 참조 픽처 세트 혹은 참조 픽처 리스트에 의해 지정될 수도 있다. 복원된 픽처는 다른 픽처에 대한 참조 픽처로서 이용될 수 있다.

또한, 메모리(380)는 복원된 픽처를 출력 순서에 따라서 출력할 수도 있다. 도시되지는 않았으나, 3D 영상을 재생하기 위해, 출력부는 복수의 서로 다른 뷰를 디스플레이할 수 있다.

도 3의 예에서는, 하나의 디코딩 장치에서 독립 뷰(independent view)와 종속 뷰(dependent view)가 디코딩되는 것으로 설명하였으나, 이는 설명의 편의를 위한 것으로서 본 발명은 이에 한정되지 않는다. 예컨대, 뷰 별로 각각의 디코딩 장치가 동작할 수도 있고, 하나의 디코딩 장치 내의 각 뷰에 대응하는 내부 모듈(예컨대, 예측 모듈)이 구비될 수도 있다.

멀티 뷰 비디오 코딩은 현재 픽처와 동일한 AU(access unit)에 속하는 다른 뷰의 디코딩 데이터를 이용하여 현재 픽처를 코딩함으로써 현재 뷰에 대한 비디오 코딩 효율을 높일 수 있다.

멀티 뷰 비디오 코딩에서는 AU 단위로 뷰들을 코딩할 수 있고, 뷰 단위로 픽처들을 코딩할 수도 있다. 뷰들 간에는 정해진 순서에 따라서 코딩이 진행된다. 다른 뷰의 참조 없이 코딩될 수 있는 뷰를 베이스 뷰(base view) 또는 독립 뷰라고 할 수 있다. 또한 독립 뷰가 코딩된 뒤에 독립 뷰 또는 다른 뷰를 참조해서 코딩될 수 있는 뷰를 종속 뷰 또는 확장 뷰라고 할 수 있다. 또한, 현재 뷰가 종속 뷰인 경우, 현재 뷰의 코딩에 참조되는 뷰를 참조 뷰라고 할 수도 있다. 여기서 뷰를 코딩한다 함은 해당 뷰에 속하는 텍스처 픽처, 뎁스 픽처 등을 코딩함을 포함한다.

도 4는 본 발명이 적용될 수 있는 멀티 뷰 비디오 코딩의 일 예를 개략적으로 설명하기 위한 도면이다.

멀티 뷰 비디오를 코딩하는 경우, 하나의 AU 내 뷰 ID가 다르고 POC가 같은 픽처들은 미리 정의된 뷰 코딩 순서(view coding order)에 따라 코딩된다.

예컨대, 도 4에 도시된 바와 같이, 두 개의 뷰(뷰 V0 및 뷰 V1)를 코딩하고, 뷰 코딩 순서가 뷰 V0, 뷰 V1 순인 경우라 하자. 이 때, AU 내 가장 먼저 코딩되는 뷰인 V0는 다른 뷰의 참조 없이 코딩될 수 있으며, 상기 V0는 베이스 뷰 혹은 독립 뷰가 되며, 다음으로 코딩되는 뷰인 V1은 종속 뷰가 된다.

베이스 뷰는 다른 뷰를 참조하지 않고 베이스 뷰에 속한 픽처를 참조하여 코딩된다. 종속 뷰는 베이스 뷰 다음에 코딩되면서 이미 코딩된 다른 뷰를 참조하여 코딩된다.

멀티 뷰 비디오 코딩에서 종속 뷰에 속한 CU는 이미 코딩된 픽처를 참조하여 인터 예측을 수행할 수 있다. 이 때, 뷰 ID가 동일한 픽처를 참조하여 예측을 수행하는 방법은 움직임 보상 예측(motion compensated prediction, MCP)라고 하고, 동일 AU 내 뷰 ID가 다른 픽처를 참조하여 예측을 수행하는 방법을 디스패리티 보상 예측(disparity compensated prediction, DCP)라고 한다.

예컨대, 도 4를 참조하면, A 블록은 자신과 같은 뷰(V1)에 속하는 픽처를 참조하여 움직임 벡터를 기반으로 MCP를 수행하여 예측 샘플들을 유도할 수 있다. B 블록은 동일 AU 내 자신과 다른 뷰(V0)의 픽처를 참조하여 디스패리티 벡터를 기반으로 DCP를 수행하여 예측 샘플들을 유도할 수 있다. 멀티 뷰 비디오를 코딩할 때, 다른 뷰의 픽처를 이용할 수 있고, 동일 뷰의 뎁스 픽처를 이용할 수도 있다.

예를 들어, DCP를 수행하여 예측 샘플들을 유도하는 경우, 현재 블록 내 예측 샘플의 위치 (x, y)에 대응하는 참조 뷰 내 대응 픽처의 샘플의 위치(x, y)에 디스패리티 벡터를 더하여, 참조 뷰 내 대응 픽처의 참조 샘플의 위치를 결정할 수 있다. 상기 참조 뷰 내 상기 참조 샘플을 기반으로 상기 예측 샘플을 유도할 수 있다. 일 예로, 디스패리티 벡터는 x축 성분만을 가지고 있을 수 있다. 이 경우 디스패리티 벡터는 (disp, 0)일 수 있으며, 참조 샘플의 위치 (xr, y)는 (x+disp,y)로 결정될 수 있다. 여기서 disp는 상기 디스패리티 벡터의 값을 나타낸다.

한편, 3D 비디오는 일반적인 컬러 영상 정보를 가지는 텍스처 픽처(또는 비디오 픽처)와, 텍스처 픽처에 대한 깊이 정보를 가지는 뎁스 픽처를 포함한다. 3D 비디오에서는 동일한 POC에 서로 다른 시점을 갖는 복수 개의 텍스처 픽처가 존재할 수 있으며, 상기 복수 개의 텍스처 픽처에 각각 대응하는 뎁스 픽처가 존재할 수 있다. 또한, 상기 복수 개의 텍스처 픽처는 서로 다른 시점을 갖는 복수의 카메라로부터 획득될 수 있다.

뎁스 픽처는 영상의 각 픽셀이 가지는 거리를 그레이 스케일(gray scale)로 저장하고 있으며, 하나의 블록 내에서는 각 픽셀 간의 세밀한 깊이 차이가 심하지 않고 전경(foreground)와 배경(background)의 두 가지로 나누어 표현할 수 있는 경우가 많다. 또한, 깊이 맵 비디오는 물체의 경계에서는 강한(strong) 엣지를 가지며 경계가 아닌 위치에서는 거의 일정한 값(상수 값)을 갖는 특성을 보인다.

뎁스 픽처는 텍스처 픽처와 유사한 방법으로 인트라 예측(intra prediction), 움직임 보상(motion compensation), 디스패리티 보상(disparity compensation), 변환(transform) 등을 사용하여 인코딩 및 디코딩될 수 있다. 하지만, 뎁스 픽처는 텍스처 픽처와 달리 픽셀 값의 변화가 크지 않고 강한 엣지를 가지는 특성을 가지고 있기 때문에, 뎁스 픽처의 특성을 반영하는 새로운 인트라 예측 모드가 사용될 수 있다.

이러한 뎁스 픽처를 위한 인트라 예측 모드에서는 블록(혹은 뎁스 블록)을 두 개의 사각형이 아닌(non-rectangular) 영역으로 분할(partitioning)하는 모델(model)로 표현하고, 분할된 각 영역은 상수 값으로 나타낼 수 있다.

이와 같이, 뎁스 픽처 내 블록을 모델링하여 예측하는 인트라 예측 모드를 뎁스 모델링 모드(DMM: Depth Modelling Mode)라고 한다. DMM에서는 뎁스 픽처 내 블록이 어떻게 분할되는지에 대한 파티션 정보와 각 파티션이 어떤 값으로 채워지는지에 대한 정보를 기반으로 뎁스 픽처를 예측할 수 있다.

예를 들어, DMM는 분할(partitioning)하는 방식에 따라 Wedgelet 모드와 Contour 모드로 구분될 수 있다.

도 5는 Wedgelet 모드를 개략적으로 나타내는 도면이다.

도 5를 참조하면, Wedgelet 모드는 블록(혹은 뎁스 블록, 현재 블록) 내의 두 영역이 직선에 의해서 분할될 수 있다. 즉, 직선 SE에 의하여 상기 블록은 P1 영역 및 P2 영역으로 분할된다. 분할된 영역은 각각 하나의 상수 값으로 예측 값이 생성될 수 있다.

도 6은 Contour 모드를 개략적으로 나타내는 도면이다.

도 6을 참조하면, Contour 모드는 블록(혹은 뎁스 블록, 현재 블록) 내의 두 영역이 임의의 곡선 형태로 분할될 수 있다. Contour 모드에서 상기 블록 내의 두 영역은 하나의 기하학적인(geometric) 함수에 의하여 쉽게 표현되지 않으며, 두 영역은 임의의 모양을 가질 수 있다. 여기서 도 5에서 보이는 바와 같이 각 영역은 하나의 덩어리가 아닌 분할된 형태가 될 수도 있다. Contour 모드에서 영역 분할은 뎁스 픽처 내 현재 블록(뎁스 블록)에 대응되는 텍스처 픽처 내 대응 블록(텍스처 블록)을 기반으로 수행될 수 있다. Contour 모드에서도 분할된 영역은 각각 하나의 상수 값으로 예측 값이 생성될 수 있다.

블록에 대한 예측 값을 생성한 이후에는 기존의 인트라 예측 모드와 유사하게, 원본 샘플과 예측 샘플 간의 차이를 나타내는 레지듀얼(혹은 레지듀얼 신호)를 계산하고, 변환(transform) 및 양자화(quantization)을 통하여 상기 레지듀얼 신호를 전송할 수 있다.

한편, SDC(segment-wise DC coding) 방법이 뎁스 픽처를 위하여 사용될 수 있다. SDC에서는 분할된 영역에 대해 예측 값의 평균을 이용하여 레지듀얼 신호를 생성할 수 있다. SDC에서 레지듀얼 데이터는 변환 및 양자화 절차가 없이 코딩될 수 있다. 일반적으로 뎁스 픽처의 샘플(픽셀) 값은 최소값(ex. 0)부터 최대값(ex. 255)까지 고르게 분포하지 않고 특정 영역에 집중적으로 분포하며, 블록 단위에서 값의 변화가 크지 않은 특성이 있다. 이러한 특성을 고려하여 뎁스 룩업 테이블(depth lookup table, DLT)을 생성하고, 뎁스 룩업 테이블을 사용하여 뎁스 픽처의 깊이 값을 뎁스 룩업 테이블의 인덱스 값으로 변환하여 부호화를 수행할 경우, 부호화할 비트 수를 줄일 수 있다. 뎁스 룩업 테이블을 이용하여 생성된 레지듀얼 블록은 변환과 양자화 과정 없이 엔트로피 코딩될 수 있다. 즉, SDC는 원본 픽처의 평균 밝기 값과 예측 픽처의 평균 밝기 값의 차이만을 전송하는 레지듀얼 코딩 방법으로 볼 수 있다.

이하, SDC 방법에 대해 보다 구체적으로 설명한다.

뎁스 픽처의 뎁스 값은 시퀀스 파라미터 세트(sequence parameter set, SPS) 또는 슬라이스(slice) 단위에서 전송된다. 이 경우 뎁스 픽처의 뎁스 값은 DLT에 기반하여 전송될 수 있다. 이 경우, 각각의 CU 또는 PU 블록 단위로 SDC를 위한 예측을 수행한다.

예를 들어 현재 블록 내 분할된 각 영역에 대해 (DMM의 경우는 두 개의 영역, 플래너 모드의 경우는 한 개의 영역) 인트라 예측된 뎁스 값의 평균(DC_pred)과 원래 뎁스 값의 평균(DC_org)을 계산하고, 계산된 각각의 평균 값을 DLT에 가장 오차가 적은 값으로 매핑하여 각 인덱스 값을 찾을 수 있다. 그리고, 원래 뎁스 값과 예측된 뎁스 값 간의 차분 값을 부호화하는 대신, DLT로 매핑된 원래 뎁스 값의 평균(DC_org)에 대한 인덱스와 예측된 뎁스 값의 평균(DC_pred)에 대한 인덱스 간의 차이 값(SDC_residual)이 부호화될 수 있다. SDC는 CU 블록 단위로 플래그 정보에 의하여 선택적으로 사용될 수 있다. SDC가 적용되는 블록에 대해서는 SDC 모드 정보가 전송된다. SDC 모드 정보가 전송된 이후에는 원래 뎁스 값의 평균(DC_org)에 대한 인덱스와 예측된 뎁스 값의 평균(DC_pred)에 대한 인덱스 차분 값(SDC_residual)이 전송된다.

아래 수학식 1은 SDC 방법으로 현재 블록에 대한 차분 인덱스 값을 생성하는 과정을 나타낸 것이다.

수학식 1에서, Value2Idx(x)는 DLT에서 입력되는 x값에 가장 가까운 값을 갖는 인덱스를 나타낸다.

도 7은 SDC 부호화 방법을 개략적으로 나타내는 도면이다.

도 7을 참조하면, 부호화하는 원본 블록에 대해 DC_org를 구하고, 화면 내 예측에 의해 생성된 예측 블록에 대해 DC_pred를 구한 후, DC_org 와DC_pred를 각각 가장 가까운 DLT 값을 가지는 인덱스로 매핑한다. 도 6에서는 DC_org는 DLT 인덱스 2로 매핑되고, DC_pred는 DLT 인덱스 4에 매핑된다. 따라서 부호화 과정에서는 상기 두 DLT 인덱스들의 차에 해당하는 값 2가 부호화되어 전송된다. 한편, DC_org 와DC_pred의 매핑 후 인덱스 차이가 없는 경우가 빈번히 발생하며, 효율적인 처리를 위하여 인덱스 차이가 존재하는지 여부를 나타내는 플래그를 먼저 전송할 수 있다. 플래그 값이 0인 경우, DC_org 와DC_pred 간 차이가 없는 것을 의미하며, 디코더는 예측 블록의 평균 값(DC_pred)으로 복원 영상을 생성할 수 있다. 만약 상기 플래그 값이 1인 경우, DC_org 와DC_pred 간 차이가 존재하는 것을 의미하며, 이 경우 상기 인덱스 차분 값이 전송된다. 인덱스 차분 값은 양수 혹은 음수가 존재할 수 있으므로, 인덱스 차분 값의 부호(sign)와 크기(magnitude)가 각각 전송될 수 있다.

한편, 뎁스 픽처가 종속 뷰에 속하는 경우, 텍스처 픽처와 유사하게 참조 뷰의 대응 블록에 있는 움직임 벡터 등의 움직임 정보를 기반으로 현재 블록의 움직임 정보를 도출하는 인터-뷰 움직임 예측(inter-view motion prediction, IVMP)이 사용될 수 있다.

도 8은 IVMP 방법을 개략적으로 나타내는 도면이다.

도 8을 참조하면, 현재 픽처(810) 내의 현재 블록(820)이 코딩(인코딩/디코딩)되는 경우를 가정한다. 여기서 현재 픽처(810)는 뎁스 픽처일 수 있다. 또한, 여기서 현재 블록(820)은 예측 블록일 수 있으며, MCP 기반으로 코딩된 블록일 수 있다. IVMP를 적용하는 경우에, 인터-뷰 참조 픽처(830) 내 대응 블록(840)의 움직임 정보를 기반으로 현재 블록(820)의 움직임 정보를 도출할 수 있다. 대응 블록(840)은 디스패리티 벡터를 기반으로 유도될 수 있다.

본 발명에 따르면, 뎁스 픽처를 위한 인트라 예측, 디스패리티 도출 및 SDC를 효율적으로 수행하기 위한 시그널링 방법이 제공된다.

일반적으로 인트라 예측에 사용되는 예측 유닛(PU) 크기의 범위는 인코더에서 결정될 수 있다. 하지만 변환 유닛(TU)의 크기에 따라서 실제로 예측되는 PU 크기가 달라질 수 있다. 즉, 블록 정보 및 예측 모드의 전송은 PU 단위로 수행되지만, 인트라 예측 과정은 TU 단위로 수행된다. 인트라 예측에서는 부호화하려는 현재 블록의 주변 블록의 픽셀이 이용되기 때문에 PU 크기와는 별도로 TU 크기에 따라 예측을 수행한다. 즉, 인트라 예측 과정에서는 TU 단위 블록의 복원된 주변 샘플을 이용하여 인트라 예측이 수행된다. 이는 복원된 주변 픽셀을 사용하여 압축 및 코딩 효율을 높이기 위함이다. 따라서, 인트라 예측이 수행되는 블록의 크기는 TU 크기에 의하여 제한된다. 반면, 뎁스 픽처를 위한 상술한 SDC 방법에서는 변환 및 양자화가 사용되지 않기 때문에, PU에 대하여 TU 크기에 상관없이 예측이 수행될 수 있다. 하지만 경우에 따라 인코더에서 제시하는 최대 TU 크기보다 큰 크기의 블록에 대한 인트라 예측이 필요할 수 있으며, 이를 위하여 SDC 방법이 적용된 블록이라 할지라도 TU 크기에 따라 PU 예측을 수행하도록 제한할 수 있다. 한편, DMM의 경우에는 모드의 특성상 PU 크기가 TU 크기보다 크더라도 블록을 분할하여 예측을 수행할 수 없다. 따라서, TU 크기보다 PU 크기가 큰 경우에는 DMM이 적용되지 않도록 제한되어야 한다. 이러한 제한을 통하여 인코더에서 설정한 TU 크기보다 더 큰 블록에 대한 예측 과정은 제외될 수 있다.

한편, 상술한 바와 같이 종속 뷰의 현재 (뎁스) 픽처의 현재 블록에 대한 IVMP를 수행하기 위하여, 디스패리티 벡터가 필요하다. 텍스처 뷰 또는 텍스처 픽처를 위하여 NBDV(disparity vector from neighboring blocks) 또는 DoNBDV(Depth-oriented disparity vector derivation)가 사용되는 것과 다르게, 뎁스 뷰 또는 뎁스 픽처를 위한 디스패리티는 주변에 복호화된 뎁스 값으로부터 유도되거나 소정의 (뎁스) 값으로부터 유도될 수 있다. 상기 소정의 (뎁스) 값은 뎁스 값 범위(depth value range)의 중간 값(middle value)일 수 있다. 또한, 상기 소정의 값은 "1 << (비트심도(BitDepth)-1)"일 수 있다. 여기서 상기 비트심도는 루마 샘플에 대하여 설정된 비트심도일 수 있다.

IVMP에서는, 참조 뷰의 대응 블록으로부터 움직임 벡터를 가져올 수 있으므로, 디스패리티 백터를 유도할 때 상기 움직임 벡터를 가져오기 위한 상기 참조 뷰를 고려하여야 한다. 일 예로, 상기 참조 뷰는 베이스 뷰로 고정되지 않고, 참조 픽처 리스트 내의 가용한 참조 픽처의 뷰로 설정될 수 있다. 또한, 상기 디스패리티 벡터를 유도하기 위한 참조 뷰와 상기 움직임 벡터를 가져오기 위한 참조 뷰는 서로 동일하게 설정될 수도 있다.

예를 들어, 상기 디스패리티 벡터는 다음 수학식 2와 같이 유도될 수 있다.

여기서, DepthToDisparityB[j][d]는 현재 뷰와 뎁스 값 d에 상응하는 뷰 인덱스(ViewIdx)가 j인 뷰 사이의 디스패리티 벡터의 수평 성분을 나타낸다(the horizontal component of a disparity vector between the current view and the view with ViewIdx equal j corresponding to the depth value d in the view with ViewIdx equal to j). 즉, 여기서 DefaultRefViewIdx는 상기 디스패리티 벡터를 유도하기 위한 참조 뷰의 인덱스를 나타낸다. 이 경우 상기 움직임 벡터를 가져오기 위한 참조 뷰의 참조 뷰 순서 인덱스(reference view order index, RefViewIdx)는 상기 DefaultRefViewIdx와 같을 수 있다.

한편, 상술한 바와 같이 SDC에 따르면, 현재 블록에 대한 차분 인덱스 값이 전송되며, 이 경우 상기 차분 인덱스 값은 두 단계로 나누어서 전송될 수 있고, 또는 바로 차이 값으로 전송될 수도 있다. 일 예로, 인덱스 차분 값의 존재 여부를 나타내는 플래그 정보가 먼저 전송되고, 플래그 값이 1일 때 상기 인덱스 차분 값이 전송될 수 있다. 이 경우 차분 값은 0을 가질 수 없다. 따라서, 이 경우 상기 인덱스 차분 값에 대한 부호는 항상 전송될 수 있다. 다른 예로, 상기 인덱스 차분 값의 존재 유무를 나타내는 플래그 정보 없이 바로 상기 인덱스 차분 값이 전송될 수 있다. 이 경우 상기 인덱스 차분 값은 0을 가질 수 있으며, 상기 인덱스 차분 값에 대한 부호는 상기 인덱스 차분 값이 0이 아닌 경우에만 전송될 수 있다.

도 9는 본 발명의 실시예에 따른 3D 비디오 인코딩 방법을 개략적으로 나타낸 순서도이다. 도 9의 방법은 상술한 도 2의 비디오 인코딩 장치에 의해 수행될 수 있다.

도 9을 참조하면, 인코딩 장치는 디스패리티 벡터를 도출한다(S900). 상기 디스패리티 벡터는 뎁스 뷰의 현재 픽처의 현재 블록에 대한 디스패리티 벡터일 수 있다. 인코딩 장치는 상술한 바와 같이 주변에 복호화된 뎁스 값으로부터 상기 디스패리티 벡터를 도출하거나 소정의 값으로부터 도출할 수 있다. 상기 소정의 값은 뎁스 값 범위(depth value range)의 중간 값(middle value)일 수 있다. 또한, 상기 소정의 값은 "1 << (비트심도(BitDepth)-1)"일 수 있다. 여기서 상기 비트심도는 루마 샘플에 대하여 설정된 비트심도일 수 있다.

인코딩 장치는 상기 현재 블록에 대한 움직임 정보를 도출한다(S910). 인코딩 장치는 참조 픽처의 정해진 영역 내에서 움직임 정보 추정(motion information estimation) 절차에 따라 현재 블록과 유사한 블록을 서치하고, 상기 현재 블록에 대한 움직임 정보를 도출할 수 있다.

인코딩 장치는 상기 현재 블록에 대한 예측 샘플을 생성한다(S920). 인코딩 장치는 상기 예측 샘플과 레지듀얼 샘플(신호)을 기반으로 현재 픽처를 복원할 수 있으며, 상기 복원된 픽처는 다른 픽처의 코딩을 위한 참조 픽처로 활용될 수 있다.

인코딩 장치는 비디오 디코딩을 위한 비디오 정보를 인코딩할 수 있다(S930). 인코딩 장치는 비디오 정보를 엔트로피 인코딩하여 비트스트림으로 출력할 수 있다. 출력된 비트스트림은 네트워크를 통해 전송되거나 저장매체에 저장될 수 있다. 상기 비디오 정보는 현재 블록을 복원하기 위한 정보(예를 들어 예측 모드 정보 및 레지듀얼 신호)를 포함할 수 있다. 상기 비디오 정보는 현재 블록을 복원하기 위한 신택스 엘리먼트의 값들을 포함할 수 있다.

도 10은 본 발명의 실시예에 따른 3D 비디오 디코딩 방법을 개략적으로 나타낸 순서도이다. 도 10의 방법은 상술한 도 3의 비디오 디코딩 장치에 의해 수행될 수 있다.

도 10을 참조하면, 디코딩 장치는 디스패리티 값을 도출한다(S700). 디코딩 장치는 비트스트림에 포함된 비디오 정보를 엔트로피 디코딩하고, 참조 뷰(view) 및 소정의 값을 기반으로 뎁스 뷰 내 현재 픽처의 현재 블록에 대한 디스패리티 값을 획득할 수 있다.

디코딩 장치는 상술한 바와 같이 주변에 복호화된 뎁스 값으로부터 상기 디스패리티 벡터를 도출하거나 소정의 값으로부터 도출할 수 있다. 상기 소정의 값은 뎁스 값 범위(depth value range)의 중간 값(middle value)일 수 있다. 또한, 상기 소정의 값은 "1 << (비트심도(BitDepth)-1)"일 수 있다. 여기서 상기 비트심도는 루마 샘플에 대하여 설정된 비트심도일 수 있다. 상기 디코딩 장치는 상술한 수학식 2를 기반으로 상기 디스패리티 벡터를 도출할 수 있다.

상기 참조 뷰는 참조 픽처 리스트 내의 참조 픽처의 뷰일 수 있다. 일 예로, 상기 참조 뷰는 상기 참조 픽처 리스트 내의 첫번째 참조 픽처의 뷰일 수 있다.

디코딩 장치는 상기 디스패리티 값을 기반으로 상기 현재 블록의 움직임 정보를 도출한다(S1010). 디코딩 장치는 상술한 IVMP 방법을 기반으로 현재 블록의 움직임 정보를 도출할 수 있다. 이 경우 상기 현재 블록의 움직임 정보는 상기 디스패리티 값을 이용하여 인터-뷰 참조 픽처 상에서 도출되는 대응 블록의 움직임 정보를 기반으로 도출될 수 있다. 여기서 상기 대응 블록의 움직임 정보가 현재 블록의 움직임 정보로 사용될 수 있다. 상기 움직임 정보는 움직임 벡터를 포함한다. 여기서 상기 인터-뷰 참조 픽처가 속하는 뷰는 상기 참조 뷰와 동일할 수 있다.

디코딩 장치는 상기 움직임 정보를 기반으로 상기 현재 블록의 예측 샘플을 생성한다(S1020). 디코딩 장치는 상기 움직임 정보 및 상기 뎁스 뷰(현재 뷰) 내의 참조 픽처를 기반으로 상기 현재 블록의 예측 샘플을 생성할 수 있다. 즉, 디코딩 장치는 상기 뎁스 뷰 내의 참조 픽처 상에서 상기 움직임 정보를 기반으로 도출된 블록을 기반으로 상기 예측 샘플을 생성할 수 있다.

디코딩 장치는 수신한 비트스트림으로부터 현재 블록에 대한 레지듀얼 샘플을 생성할 수 있으며, 생성한 예측 샘플과 레지듀얼 샘플을 기반으로 복원 샘플을 유도하여 현재 픽처를 복원할 수 있다. 샘플의 복원은 블록 단위 또는 픽처 단위로 수행될 수 있다.

이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시 예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 할 것이다.

본 발명에서 실시예들이 소프트웨어로 구현될 때, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리에 저장되고, 프로세서에 의해 실행될 수 있다. 메모리는 프로세서 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서와 연결될 수 있다.

Claims

3D 비디오 디코딩 방법으로,
참조 뷰(view) 및 소정의 값을 기반으로 디스패리티 값을 획득하는 단계;
상기 디스패리티 값을 기반으로 뎁스 픽처 내 현재 블록의 움직임 정보를 도출하는 단계; 및
상기 움직임 정보를 기반으로 상기 현재 블록의 예측 샘플을 생성하는 단계를 포함하되,
상기 참조 뷰는 참조 픽처 리스트 내의 참조 픽처의 뷰임을 특징으로 하는, 3D 비디오 디코딩 방법.
제 1항에 있어서,
상기 참조 뷰는 상기 참조 픽처 리스트 내의 첫번째 참조 픽처의 뷰인 것을 특징으로 하는, 3D 비디오 디코딩 방법.
제 1항에 있어서,
상기 현재 블록의 움직임 정보는, 상기 디스패리티 값을 이용하여 인터-뷰 참조 픽처 상에서 도출되는 대응 블록의 움직임 정보를 기반으로 도출됨을 특징으로 하는, 3D 비디오 디코딩 방법.
제 3항에 있어서,
상기 참조 뷰는 상기 인터-뷰 참조 픽처가 속하는 뷰와 동일한 것을 특징으로 하는, 3D 비디오 디코딩 방법.
제 4항에 있어서,
상기 예측 샘플은 상기 현재 뷰 내의 참조 픽처 상에서 상기 움직임 정보를 기반으로 도출된 블록을 기반으로 생성됨을 특징으로 하는,
제 1항에 있어서,
상기 소정의 값은 뎁스 값 범위(depth value range)의 중간 값(middle value)인 것을 특징으로 하는, 3D 비디오 디코딩 방법.
제 1항에 있어서,
상기 소정의 값은 "1 << (비트심도(BitDepth)-1)"인 것을 특징으로 하는, 3D 비디오 디코딩 방법.
제 7항에 있어서,
상기 비트심도는 루마 샘플에 대하여 설정된 비트심도인 것을 특징으로 하는, 3D 비디오 디코딩 방법.