説明

動画像符号化装置及びそのプログラム

【課題】フィルタを設計する際の処理負荷を低減することで、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐ。
【解決手段】設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、フィルタバッファ40に保存されている過去フィルタ情報を用いて、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_1を、過去フィルタ情報に含まれる過去フィルタの新しさTi_1に基づいて算出する。フィルタバッファ評価判定手段12は、フィルタタイプ評価値Vi_1の小さい順に、予め設定されたL個(<N)のフィルタタイプを選定する。フィルタ設計部20は、設計フィルタタイプ選定部10により選定されたL個のフィルタタイプに対し、現フレームにてフィルタを設計する。これにより、新たに設計するフィルタの数を削減することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画像を符号化する際にループ内フィルタの情報を生成する動画像符号化装置及びそのプログラムに関する。
【背景技術】
【0002】
一般に、符号化側の動画像符号化装置では、入力した動画像のフレーム1枚ずつを原画像として符号化し、符号化処理によって生成したデータを符号化データとして出力する。復号側の動画像復号装置では、符号化側の動画像符号化装置により出力された符号化データを入力し、符号化データを復号して復号画像を生成する。
【0003】
動画像符号化装置は、それ以前に処理した過去のフレームを参照し、現フレームを符号化する。また、過去のフレームを参照するために、復号側と同様の復号処理を行う。このような、符号化側において復号画像を生成し、生成した復号画像を参照して符号化する処理を符号化ループと呼び、その符号化ループ内で使用されるフィルタをループ内フィルタと呼ぶ。
【0004】
動画像符号化の標準規格であるH.264/MPEG−4 AVCでは、デブロッキングフィルタと呼ばれるループ内フィルタが利用される。デブロッキングフィルタは、符号化側において、基本的な復号処理(例えば、逆量子化、逆直交変換、予測等の処理)の後に、生成された復号画像に対して適用される。また、復号側においても、生成された復号画像に対して適用される。H.264/MPEG−4 AVCの標準規格のようにブロック単位で処理する符号化方式では、ブロックの境界に歪みが生じやすい。そこで、デブロッキングフィルタを適用することにより、ブロック間の歪みを低減することができる。
【0005】
デブロッキングフィルタ以外にも、復号画像またはデブロッキングフィルタを適用した後の画像に対して、適応的にループ内フィルタ(ALF:Adaptive Loop Filter)を適用する符号化方式が提案されている(例えば非特許文献1)。
【0006】
図7は、従来の、ALFを利用した動画像符号化装置の構成を示すブロック図である。この動画像符号化装置101は、符号化基本部111、局所復号部112、フィルタ設計部113、フィルタリング処理最適化部114及び伝送データ生成部115を備えている。尚、復号画像に対してデブロッキングフィルタを適用する場合、デブロッキングフィルタは局所復号部112の後段に設けられるが、図7では、説明を簡単にするために、それを省略してある。以下、便宜上、デブロッキングフィルタを適用した後の画像も復号画像という。
【0007】
符号化基本部111は、原画像(動画像のフレーム)を入力し、H.264/MPEG−4 AVC等の符号化方式に基づいた基本的な符号化処理を行い、符号化データを生成し、生成した符号化データを局所復号部112及び伝送データ生成部115に出力する。具体的には、符号化基本部111は、フレーム内予測またはフレーム間予測等の予測処理、直交変換処理、量子化処理等を行う。
【0008】
局所復号部112は、符号化基本部111から符号化データを入力し、入力した符号化データを復号して復号画像を生成し、生成した復号画像をフィルタ設計部113に出力する。尚、局所復号部112は、生成した復号画像をフィルタ設計部113にそのまま出力するようにしたが、デブロッキングフィルタ(局所復号部112の後段に設けられたデブロッキングフィルタ)を介してフィルタ設計部113へ出力するようにしてもよい。この場合、デブロッキングフィルタは、局所復号部112から復号画像を入力し、フィルタ処理によりブロック間の歪みを低減し、フィルタ処理後の復号画像をフィルタ設計部113に出力する。
【0009】
一般に、ALFを利用する符号化方式では、フィルタ設計部113及びフィルタリング処理最適化部114を備える点を特徴とする。フィルタ設計部113は、原画像を入力すると共に、局所復号部112から復号画像を入力し、これら2つの画像に基づいて、現在のフレームについてALFにて使用するフィルタを設計し、設計したフィルタの情報を新規フィルタ情報としてフィルタリング処理最適化部114に出力する。具体的には、フィルタ設計部113は、フィルタを復号画像に適用した後の画像と原画像との間の差分が小さくなるように、予め設定されたフィルタタイプのフィルタ係数値を決定することでフィルタを設計し、フィルタタイプ及びフィルタ係数値を含む新規フィルタ情報をフィルタリング処理最適化部114に出力する。この場合、異なるフィルタタイプ、すなわち異なる形状及び/またはサイズのフィルタを利用することで、複数のフィルタを設計してもよい。
【0010】
図8は、フィルタタイプを説明する図である。フィルタタイプは、フィルタの形状及びサイズにより特定される。図8に示すように、フィルタの形状には、例えば正方形、十字型、菱形があり、フィルタのサイズには、例えば3×3=9画素、5×5=25画素等がある。これらのフィルタタイプの形状及びサイズは、フィルタ処理の単位に対応しており、それぞれの形状及びサイズを単位にしてフィルタ処理が行われる。具体的には、その形状の中心に位置する画素におけるフィルタ適用後の値を算出するために、その周囲の画素が用いられる。例えば、図8の左上に示した、フィルタの形状が正方形であってフィルタのサイズが3×3=9画素であるフィルタタイプでは、中心の画素におけるフィルタ適用後の値を算出するために、その画素及び周囲8画素を含めた合計9画素が用いられる。
【0011】
このように、フィルタ設計部113は、図8に示した異なるフィルタタイプを利用することで複数のフィルタを設計し、すなわち、異なるフィルタタイプのフィルタ毎に、フィルタを復号画像に適用した後の画像と原画像との間の差分が小さくなるようにフィルタ係数値をそれぞれ決定し、フィルタタイプ毎のフィルタ係数値を含む新規フィルタ情報を生成する。
【0012】
フィルタリング処理最適化部114は、フィルタ設計部113から新規フィルタ情報(フィルタタイプ毎のフィルタ係数値等)を入力し、RD(Rate Distortion:レート歪み)基準にて画像の領域毎に、復号画像に対するフィルタリングの有無、フィルタリング有りの場合のフィルタ情報(適用するフィルタタイプ(フィルタの形状及びサイズ)及びフィルタ係数値等)の最適な選択を行うことで、フィルタリング処理を最適化し、選択した情報(画像の領域毎のフィルタリングの有無、フィルタタイプ及びフィルタ係数値等)をフィルタリング情報として伝送データ生成部115に出力する。
【0013】
RD基準とは、ある選択(例えばフィルタタイプの選択)をしたときに発生する符号化ビット量(レート)、及びそのときに生成される復号画像と原画像との間の差分(歪み)を考慮して、その選択の効果を評価する基準である。一般に、符号化処理においては、符号化ビット量を大きくした場合、そのときに生成される復号画像と原画像との間の差分が小さくなることから、RD基準では、符号化ビット量を大きくする程度と、これに伴って差分が小さくなる程度とが考慮される。具体的には、フィルタリング処理最適化部114は、画像の領域毎に、新規フィルタ情報に含まれる各フィルタタイプについて、発生する符号化ビット量を算出し、そのときに生成される復号画像と原画像との間の差分を算出し、符号化ビット量と差分との加重和を算出する。その一方で、フィルタリング処理最適化部114は、フィルタを適用しない場合についても、発生する符号化ビット量を算出し、そのときに生成される復号画像と原画像との間の差分を算出し、符号化ビット量と差分との加重和を算出する。そして、フィルタリング処理最適化部114は、新規フィルタ情報に含まれる各フィルタタイプについて算出した加重和と、フィルタを適用しない場合について算出した加重和とを含めて、最小となる設定を選択する。すなわち、フィルタを適用しない場合について算出した加重和が最小となる場合は、その領域についてはフィルタリング無しを判定する。また、そうでない場合は、その領域についてはフィルタリング有りを判定し、加重和が最小となるフィルタタイプとそのときのフィルタ係数値等を選択する。このようなRD基準により、フィルタリング情報(画像の領域毎のフィルタリングの有無、フィルタタイプ及びフィルタ係数値等)が生成される。
【0014】
伝送データ生成部115は、符号化基本部111から符号化データを入力すると共に、フィルタリング処理最適化部114からフィルタリング情報を入力し、符号化データとフィルタリング情報とを統合して伝送データを生成し、生成した伝送データを出力する。このようにして出力された伝送データは、動画像符号化装置101から動画像復号装置へ伝送される。
【0015】
非特許文献1の手法では、ALFに利用するフィルタを動画像のフレーム毎に設計する。符号化側は、設計したフィルタの情報を復号側へ伝送するため、伝送するデータ量が増加する。このため、非特許文献1の手法では、フィルタ情報の伝送に伴う伝送データ量の増加を抑制することが課題となる。そこで、設計したフィルタの情報を保存するフィルタバッファを導入し、フィルタ情報の代わりに、フィルタバッファに保存されているフィルタ情報を指定するフィルタインデックスを伝送することにより、伝送データ量の増加を抑制している(例えば非特許文献2)。
【0016】
図9は、従来の、フィルタバッファを備えた動画像符号化装置の構成を示すブロック図である。この動画像符号化装置102は、符号化基本部111、局所復号部112、フィルタ設計部113、伝送データ生成部115、フィルタリング処理最適化部116及びフィルタバッファ117を備えている。図7に示した動画像符号化装置101と図9に示す動画像符号化装置102とを比較すると、動画像符号化装置102が、フィルタバッファ117を備えている点、及び動画像符号化装置101のフィルタリング処理最適化部114とは異なるフィルタリング処理最適化部116を備えている点で相違する。図9において、図7と共通する部分には図7と同一の符号を付し、その詳しい説明は省略する。
【0017】
図10は、図9に示した従来のフィルタバッファ117の構成を示す図である。フィルタバッファ117は、N個のフィルタタイプのそれぞれに対して、フィルタ設計部113により過去のフレームで設計され、かつフィルタリング処理最適化部116により最適なフィルタリング処理として選択された最大M個のフィルタに関する情報を過去フィルタ情報として保存する。具体的には、フィルタタイプ「Type1」に対し、フィルタインデックス#1〜#Mにて特定されるM個のフィルタに関する情報Fprev11(k1)〜Fprev1M(k1)を保存する。同様に、フィルタタイプ「TypeN」に対し、フィルタインデックス#1〜#Mにて特定されるM個のフィルタに関する情報FprevN1(kN)〜FprevNM(kN)を保存する。ここで、フィルタに関する情報Fprevij(kA)は、例えば、フィルタタイプ「Typei」及びフィルタインデックス#jのフィルタに関するkA番目のフィルタ係数値を示す。これらのフィルタタイプ、フィルタインデックス及びフィルタ情報は、フィルタリング処理最適化部116により、過去フィルタ情報として書き込まれ、読み出される。尚、復号側の動画像復号装置においても、フィルタバッファ117と同様のバッファを備えているものとする。また、フィルタタイプには、フィルタの形状及びサイズが含まれるものとし、フィルタに関する情報には、フィルタ係数値が含まれるものとする。
【0018】
図9に戻って、フィルタリング処理最適化部116は、フィルタ設計部113から新規フィルタ情報(フィルタタイプ毎のフィルタ係数値等)を入力すると共に、フィルタバッファ117から過去フィルタ情報(フィルタタイプ毎のフィルタ係数値等及びフィルタインデックス)を読み出し、新規フィルタ情報及び過去フィルタ情報を用いて、図7に示したフィルタリング処理最適化部114と同様に、RD基準にて画像の領域毎に、フィルタリングの有無、適用するフィルタタイプ及びフィルタ係数値等の最適な選択を行うことで、フィルタリング処理を最適化する。そして、フィルタリング処理最適化部116は、選択したフィルタタイプ及びフィルタ係数値等の情報がフィルタ設計部113から入力した新規フィルタ情報の一部である場合、画像の領域毎のフィルタリングの有無、フィルタタイプ及びフィルタ係数値等をフィルタリング情報として伝送データ生成部115に出力する。一方、フィルタリング処理最適化部116は、選択したフィルタタイプ及びフィルタ係数値等の情報がフィルタバッファ117から読み出した過去フィルタ情報の一部である場合、画像の領域毎のフィルタリングの有無、選択したフィルタタイプ、及び、過去フィルタ情報に含まれるそのフィルタタイプ及びフィルタ係数値等に対応するフィルタインデックスをフィルタリング情報として伝送データ生成部115に出力する。
【0019】
また、フィルタリング処理最適化部116は、最適なフィルタリング処理として新規フィルタを選択した場合、そのフィルタタイプ及びフィルタ係数値等をフィルタバッファ117に書き込む。この場合、フィルタバッファ117は、フィルタ係数値等を、対応するフィルタタイプの箇所に保存する。フィルタリング処理最適化部116は、新たなフィルタ係数値等を書き込む際に、フィルタバッファ117に保存されているフィルタ係数値等がその上限(フィルタタイプ毎に最大M個)を超える場合、そのフィルタタイプについて保存されているフィルタ係数値等のうち最も古いフィルタ係数値等を削除した後、新たなフィルタ係数値等を書き込む。
【0020】
伝送データ生成部115は、符号化基本部111から符号化データを入力すると共に、フィルタリング処理最適化部116からフィルタリング情報を入力し、符号化データとフィルタリング情報とを統合して伝送データを生成し、動画像復号装置へ伝送する。このように、フィルタリング処理最適化部116において過去フィルタ情報が選択された場合、伝送データ生成部115は、フィルタ係数値等の代わりに、フィルタタイプ及びそのフィルタを特定するためのフィルタインデックスのみを伝送すればよい。したがって、フィルタ係数値の伝送が不要となるため、伝送データ量の増加を抑制することができる。
【先行技術文献】
【非特許文献】
【0021】
【非特許文献1】Marta Karczewicz, Peisong Chen, Rajan Joshi, Xianglin Wang, Wei-Jung Chien, Rahul Panchal, “Video coding technology proposal by Qualcomm Inc,”JCTVC Contribution JCTVC-A121, p.12, Dresden, Apr. 2010.
【非特許文献2】Chia-Yang Tsai, Chih-Ming Fu, Ching-Yeh Chen, Yu-Wen Huang, and Shawmin Lei, “TE10 Subtest2: Coding Unit Synchronous Picture Quadtree-based Adaptive Loop Filter,” JCTVC Contribution JCTVC-C143, Guangzhou, Oct. 2010.
【発明の概要】
【発明が解決しようとする課題】
【0022】
従来のALFを利用する符号化手法では、異なる形状及び異なるサイズのフィルタ、すなわち異なるフィルタタイプのフィルタが複数用いられ、フィルタはフレーム毎に設計される。そのため、処理コストが大きくなるという問題があった。
【0023】
また、設計したフィルタに対しては、RD基準に基づいてフィルタリング処理を最適化する。最適化処理では、各フィルタリングの設定(フィルタリングの有無、フィルタタイプ及びフィルタ係数値等の設定)において、発生する符号化ビット量と、そのときに生成される復号画像の歪み量(原画像との間の差分)を算出し、フィルタリングの効果を評価する。
【0024】
しかしながら、この最適化処理は計算量が多く、メモリアクセスの回数も多い。そのため、従来の動画像符号化装置101,102では、伝送遅延が増加したり、回路及び装置が大型化したりする等の問題があった。
【0025】
図9に示した、フィルタバッファ117を備えた動画像符号化装置102では、新たに設計したフィルタの情報に加えて、フィルタバッファ117に保存されている過去のフィルタ情報も、最適化処理の対象としてフィルタリング処理の評価を行う。フィルタバッファ117には複数のフィルタタイプの情報が保存されているため、その各々に対してフィルタリング処理の評価を行う必要がある。その結果、処理コストが大きく増加する。例えば、非特許文献2の手法では、7個のフィルタタイプを利用している。そのため、フレーム毎に7個のフィルタを設計する必要がある。また、フィルタバッファ117には、7個のフィルタタイプのそれぞれに対して、最大で8個のフィルタ情報が保存されている。そのため、動画像符号化装置102のフィルタリング処理最適化部116では、最大で56個の過去のフィルタ情報、及び新たに設計した7個のフィルタ情報(7個のフィルタタイプに対応した新規のフィルタ情報)のそれぞれに対してフィルタリングの効果の評価が必要となる。
【0026】
このように、従来のALFを利用する符号化手法では、複数のフィルタを用いたときにこれらのフィルタを設計する際の処理コストが増大すると共に、フィルタバッファ117を備えることによって処理コストが増大するという問題があった。
【0027】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、フィルタを設計する際の処理負荷を低減することで、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能な動画像符号化装置及びそのプログラムを提供することにある。
【課題を解決するための手段】
【0028】
前記目的を達成するために、本発明による動画像符号化装置は、動画像を符号化し、該符号化された動画像を復号した復号画像に適用するフィルタのフィルタリング情報を動画像符号化データと共に伝送する動画像符号化装置において、前記動画像の原画像を入力して符号化し、符号化データを生成する符号化基本部と、前記符号化データを復号し、復号画像を生成する局所復号部と、複数のフィルタタイプのフィルタを前記復号画像にそれぞれ適用した後の画像と前記原画像との間の差分に基づいて、前記複数のフィルタタイプのそれぞれに対するフィルタ係数値を決定し、前記フィルタタイプ及びフィルタ係数値を含む情報を新規フィルタの情報として生成するフィルタ設計部と、フィルタタイプ及びフィルタ係数値を含むフィルタに関する情報を、過去フィルタの情報として保存するフィルタバッファと、前記フィルタバッファに保存された過去フィルタ情報を用いて、前記フィルタタイプのそれぞれに対する有効性の評価値を算出し、前記評価値の大きさに基づいて、前記フィルタ設計部にてフィルタ係数値を決定する際のフィルタタイプを選定する設計フィルタタイプ選定部と、前記設計フィルタタイプ選定部により選定されたフィルタタイプについての、前記フィルタ設計部により生成された新規フィルタの情報と、前記フィルタバッファに保存された過去フィルタの情報とを用いて、前記復号画像に対するフィルタリングの有無、フィルタリング有りの場合は適用するフィルタタイプ及びフィルタ係数値を含む情報をフィルタリング情報として選択するフィルタリング処理最適化部と、前記符号化基本部により生成された符号化データと、前記フィルタリング処理最適化部により選択されたフィルタリング情報とを統合し、伝送データを生成する伝送データ生成部と、を備えることを特徴とする。
【0029】
また、本発明による動画像符号化装置は、前記設計フィルタタイプ選定部が、前記原画像のフレームと前記過去フィルタが設計されたフレームとの間の時間差を示す前記過去フィルタの新しさを求め、前記過去フィルタが新しいほど、前記過去フィルタのフィルタタイプに対する有効性の評価値が大きくなるように、前記評価値を算出することを特徴とする。
【0030】
また、本発明による動画像符号化装置は、前記設計フィルタタイプ選定部が、前記原画像のフレーム以前のフレームについて、前記フィルタリング処理最適化部により選択されたフィルタタイプの回数が多いほど、そのフィルタタイプに対する有効性の評価値が大きくなるように、前記評価値を算出することを特徴とする。
【0031】
また、本発明による動画像符号化装置は、前記設計フィルタタイプ選定部が、前記原画像のフレーム以前のフレームについて、前記フィルタ設計部にて用いる復号画像及び原画像における前記復号画像と前記原画像との間の差分、及び前記フィルタタイプのフィルタを前記復号画像に適用した後の画像と前記原画像との間の差分から得られる画質改善幅が大きいほど、そのフィルタタイプに対する有効性の評価値が大きくなるように、前記評価値を算出することを特徴とする。
【0032】
また、本発明による動画像符号化装置は、前記設計フィルタタイプ選定部が、前記評価値が小さい順に、所定数のフィルタタイプを選定することを特徴とする。
【0033】
また、本発明による動画像符号化装置は、前記設計フィルタタイプ選定部が、前記評価値と所定の閾値とを比較し、前記閾値よりも小さい評価値のフィルタタイプを選定することを特徴とする。
【0034】
また、本発明による動画像符号化装置は、前記設計フィルタタイプ選定部が、前記評価値が小さい順に、所定数のフィルタタイプを選び、前記所定数のフィルタタイプの評価値と所定の閾値とをそれぞれ比較し、前記閾値よりも小さい評価値のフィルタタイプを選定することを特徴とする。
【0035】
さらに、本発明による動画像符号化プログラムは、コンピュータを、前記動画像符号化装置として機能させることを特徴とする。
【発明の効果】
【0036】
以上のように、本発明によれば、フレーム毎にフィルタを設計する際のフィルタ数を削減するようにした。これにより、複数のフィルタを用いてフィルタを設計する際の処理負荷を低減することができる。また、フィルタリング処理の最適化対象となるフィルタ数を削減することができるため、最適化処理の負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【図面の簡単な説明】
【0037】
【図1】本発明の実施形態による動画像符号化装置の構成を示すブロック図である。
【図2】実施例1のフィルタバッファの構成を示す図である。
【図3】実施例1による設計フィルタタイプ選定部の処理を示すフローチャートである。
【図4】実施例2のフィルタバッファの構成を示す図である。
【図5】実施例2による設計フィルタタイプ選定部の処理を示すフローチャートである。
【図6】実施例3による設計フィルタタイプ選定部の処理を示すフローチャートである。
【図7】従来の、ALFを利用した動画像符号化装置の構成を示すブロック図である。
【図8】フィルタタイプを説明する図である。
【図9】従来の、フィルタバッファを備えた動画像符号化装置の構成を示すブロック図である。
【図10】従来のフィルタバッファの構成を示す図である。
【発明を実施するための形態】
【0038】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。本発明は、ALFを利用し、フィルタバッファを導入して動画像の符号化を行う動画像符号化装置において、フィルタバッファに保存されている過去のフィルタ情報を活用することにより、現フレームで新たに設計するフィルタの数を削減する。また、新たに設計するフィルタの数を削減することにより、フィルタリング処理を最適化する際の処理負荷も低減する。
【0039】
フィルタバッファには、過去のフレームで設計された複数のフィルタの情報が保存されている。それらの情報を用いて、フィルタタイプ毎にフィルタバッファの有効性を評価する。この有効性は、フィルタの新しさ(当該フィルタが設計されたときのフレームと現フレームとの間の時間差)、フィルタの適用された回数、適用したときの効果(画質改善幅)等に基づいて評価する。ここで、有効性が高いと評価されたフィルタタイプに関しては、現フレームにおいてフィルタを新たに設計しない。現フレームでは有効性が低いと評価されたフィルタタイプのフィルタのみを設計する。これにより、フレーム毎に設計するフィルタの数を削減することができる。
【0040】
フィルタバッファの有効性を評価するために、フィルタバッファに保存されている過去フィルタ情報において過去フィルタの新しさ(当該過去フィルタが設計されたときのフレームと現フレームとの間の時間差)を考慮する。フレームは時間と共に変化し、異なった画像となる。しかし、フレーム間の時間差が小さい範囲では、互いの画像が類似している可能性が高く、それらの画像から設計したフィルタも類似の効果が得られると期待される。そこで、現フレームとの間の時間差の小さいフレームから設計した過去フィルタは、フィルタバッファの有効性が高いものであると評価し、その過去フィルタのフィルタタイプについては、現フレームの設計対象から除外する。
【0041】
また、フィルタバッファの有効性を評価するために、フィルタバッファに保存されている過去フィルタ情報において過去フィルタが現フレーム以前に復号画像に適用された回数を考慮する。フィルタが適用されるのは、フィルタリング処理の最適化により選択されたときである。すなわち、そのフィルタを適用することにより効果が得られたときである。したがって、適用された回数の多いフィルタほど、以前のフレームにおける効果が多く得られ、現フレーム以降でも適用効果が得られるものと期待される。そこで、適用された回数の多い過去フィルタは、フィルタバッファの有効性が高いものであると評価し、その過去フィルタのフィルタタイプについては、現フレームの設計対象から除外する。
【0042】
また、フィルタバッファの有効性を評価するために、現フレーム以前のフレームにおいて、過去フィルタを適用したときに得られた効果(画質改善幅)を考慮する。前述の過去フィルタの適用回数と同様に、現フレーム以降でもその適用効果が期待される。そこで、過去フィルタのそれまでの適用効果が大きい過去フィルタは、フィルタバッファの有効性が高いものであると評価し、その過去フィルタのフィルタタイプについては、現フレームの設計対象から除外する。
【0043】
このように、本発明では、過去フィルタ情報が保存されたフィルタバッファの有効性(過去フィルタにおけるフィルタタイプ毎の有効性)を評価し、現フレームにて設計するフィルタのフィルタタイプを選定する手段を設ける。
【0044】
〔動画像符号化装置〕
まず、本発明の実施形態による動画像符号化装置について説明する。図1は、動画像符号化装置の構成を示すブロック図である。この動画像符号化装置1は、符号化基本部111、局所復号部112、伝送データ生成部115、設計フィルタタイプ選定部10、フィルタ設計部20、フィルタリング処理最適化部30及びフィルタバッファ40を備えている。動画像符号化装置1は、ALFを利用する装置であり、原画像を入力し、原画像の符号化データとフィルタリング情報とを統合した伝送データを生成し、生成した伝送データを出力する。
【0045】
図9に示した従来の動画像符号化装置102と図1に示す動画像符号化装置1とを比較すると、両動画像符号化装置1,102共に、符号化基本部111、局所復号部112及び伝送データ生成部115を備えている点で同一である。これに対し、動画像符号化装置1は、動画像符号化装置102のフィルタ設計部113、フィルタリング処理最適化部116及びフィルタバッファ117とは異なるフィルタ設計部20、フィルタリング処理最適化部30及びフィルタバッファ40を備え、さらに設計フィルタタイプ選定部10を備えている点で相違する。
【0046】
以下、本発明の実施形態による動画像符号化装置1において特徴を有する設計フィルタタイプ選定部10及びフィルタ設計部20の概略について説明する。フィルタリング処理最適化部30及びフィルタバッファ40については、後述する実施例にて具体的に説明する。設計フィルタタイプ選定部10は、フィルタバッファ評価手段11及びフィルタバッファ評価判定手段12を備えており、フィルタバッファ40に保存されている過去フィルタ情報に含まれる過去のフレーム番号等を用いて、フィルタタイプ毎の評価値を算出し、フィルタタイプ各々に対して、後段のフィルタ設計部20において設計処理を適用するか否かを決定する。
【0047】
フィルタバッファ評価手段11は、フィルタバッファ40から過去のフレームにて設計された過去フィルタの情報である過去フィルタ情報(フィルタタイプ毎のフィルタ係数値等)を読み出し、各フィルタタイプに対する有効性を評価し、フィルタタイプ毎の評価値(フィルタタイプ評価値)をフィルタバッファ評価判定手段12に出力する。例えば、新しい過去フィルタ、適用回数の多い過去フィルタ、または適用効果の大きかった過去フィルタのフィルタタイプについては有効性の度合いが高くなるように評価値を算出する。
【0048】
フィルタバッファ評価判定手段12は、フィルタバッファ評価手段11からフィルタタイプ毎の評価値(フィルタタイプ評価値)を入力し、フィルタタイプ評価値に基づいて、後段のフィルタ設計部20の設計対象となるフィルタタイプを選定し、フィルタタイプ選定結果をフィルタ設計部20に出力する。例えば、設計対象となるフィルタの数が予め設定されている場合は、フィルタタイプ評価値が小さい順に所定数のフィルタタイプを選定する。また、設計対象となるフィルタの数ではなく、フィルタタイプ評価値を判定する閾値が予め設定されている場合は、その閾値よりも小さいフィルタタイプ評価値のフィルタタイプを選定する。
【0049】
フィルタ設計部20は、原画像を入力すると共に、局所復号部112から復号画像を入力し、さらに、設計フィルタタイプ選定部10からフィルタタイプ選定結果を入力し、フィルタタイプ選定結果が示す、現フレームにおいて新規フィルタを設計すると判定されたフィルタタイプに対し、原画像及び復号画像に基づいてフィルタを設計する。具体的には、フィルタ設計部20は、フィルタを復号画像に適用した後の画像と原画像との間の差分が小さくなるように、フィルタタイプ選定結果が示すフィルタタイプについてのみ、フィルタ係数値を決定することでフィルタを設計し、フィルタタイプ及びフィルタ係数値を含む新規フィルタ情報をフィルタリング処理最適化部30に出力する。
【0050】
例えば、フィルタ設計部20は、設計するフィルタを復号画像に適用した後の画像と原画像との間の二乗誤差を最小化するようにフィルタ係数値を決定する。
【0051】
そして、フィルタ設計部20は、フィルタタイプ選定結果が示す、現フレームにおいて新規フィルタを設計すると判定されたフィルタタイプについて、フィルタタイプ毎のフィルタ係数値を含む情報を新規フィルタ情報としてフィルタリング処理最適化部30に出力する。
【0052】
このように、動画像符号化装置1のフィルタ設計部20は、全てのフィルタタイプのフィルタを設計対象とするのではなく、設計フィルタタイプ選定部10により選定されたフィルタタイプのみを設計対象とし、フィルタを設計するようにした。これにより、フレーム毎にフィルタを設計する際のフィルタ数を削減することができ、処理負荷を低減することができる。また、フィルタリング処理最適化部30では、フィルタ設計部20により設計された新規フィルタをフィルタリング処理の最適化対象とするため、最適化対象のフィルタ数を削減することができ、最適化処理の負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【0053】
〔実施例1〕
次に、実施例1の動画像符号化装置1について説明する。実施例1は、フィルタバッファ40に保存された過去フィルタ情報を用いて、現フレームに近いフレームにて処理された過去フィルタに対し、有効性の度合いが高くなるように評価値を算出し、評価値の小さい所定数のフィルタタイプの新規フィルタのみを、フィルタ設計部20の設計対象とする。
【0054】
図1を参照して、実施例1による動画像符号化装置1の符号化基本部111、局所復号部112及び伝送データ生成部115は、図7及び図9に示したこれらの構成部と同様の処理を行う。
【0055】
図2は、実施例1におけるフィルタバッファ40の構成を示す図である。実施例1のフィルタバッファ40は、N個のフィルタタイプのそれぞれに対して、フィルタ設計部20により過去のフレームで設計され、かつフィルタリング処理最適化部30により最適なフィルタリング処理として選択された最大M個のフィルタに関する情報を過去フィルタ情報として保存する。具体的には、フィルタタイプ「Type1」に対し、フィルタインデックス#1〜#Mにて特定されるM個のフィルタに関するフィルタ係数値Fprev11(k1)〜Fprev1M(k1)、及び当該過去フィルタが設計されたときのフレーム番号FN1_1〜FN1_Mを保存する。同様に、フィルタタイプ「TypeN」に対し、フィルタインデックス#1〜#Mにて特定されるM個のフィルタ係数値FprevN1(kN)〜FprevNM(kN)、及び当該過去フィルタが設計されたときのフレーム番号FNN_1〜FNN_Mを保存する。ここで、フィルタ係数値Fprevij(ki)は、フィルタタイプ「Typei」及びフィルタインデックス#jのフィルタに関するki番目のフィルタ係数値を示し、フレーム番号FNi_jは、フィルタタイプ「Typei」及びフィルタインデックス#jのフィルタがフィルタ設計部20にて設計され、フィルタリング処理最適化部30にて選択されたときのフレーム番号を示す。これらのフィルタタイプ、フィルタインデックス、フィルタ係数値及びフレーム番号は、フィルタリング処理最適化部30により、過去フィルタ情報として書き込まれ、読み出される。尚、復号側の動画像復号装置においても、フィルタバッファ40と同様のバッファを備えているものとする。また、フィルタタイプには、フィルタの形状及びサイズが含まれるものとする。
【0056】
図3は、実施例1による設計フィルタタイプ選定部10の処理を示すフローチャートである。設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、前述のとおり、フィルタバッファ40に保存されている過去フィルタ情報を参照し、各フィルタタイプに対して有効性を示す評価値を算出する。図3において、設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、フィルタバッファ40から過去フィルタ情報を読み出し(ステップS301)、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_1を、過去フィルタ情報に含まれる過去のフレーム番号(過去フィルタが設計されたときのフレーム番号)FNi_jに基づいて算出する。
【0057】
具体的には、フィルタバッファ評価手段11は、現在処理しているフレーム番号からフレーム番号FNi_jを減算し、両フレーム番号の差Ti_j(現在処理しているフレームとフレーム番号FNi_jにおける過去フレームとの間に挟まれるフレームの数)を求め(ステップS302)、以下の式によりフィルタタイプ評価値Vi_1を算出する(ステップS303)。両フレーム番号の差Ti_jは、両フレームの時間差に相当し、過去フィルタの新しさを示す指標である。
【数1】

【0058】
ここで、jは、過去フィルタを指定するインデックスを示し、Miは、フィルタバッファ40に保存されている過去フィルタ情報におけるフィルタタイプiの過去フィルタの個数を示し、Ti_jは、過去フィルタの新しさ(両フレームとの時間差)を示す。前記式(1)により算出されるフィルタバッファ40の有効性を示すフィルタタイプ評価値Vi_1は、新しい過去フィルタが多いほど(過去フィルタが設計されたときのフレームが新しい(現フレームに近い)ほど)大きくなる。
【0059】
フィルタバッファ評価判定手段12は、フィルタバッファ評価手段11により算出されたフィルタタイプ評価値Vi_1に基づいて、フィルタ設計部20の設計対象となるフィルタタイプを選定する。具体的には、フィルタバッファ評価判定手段12は、予め設定された設計するフィルタタイプの個数のみ、フィルタタイプ評価値Vi_1が小さい順にフィルタタイプを選定する(ステップS304)。例えば、設計するフィルタタイプの個数をL個(Lは正の整数、かつL<N)とした場合、フィルタタイプ評価値Vi_1が小さい順にL個のフィルタタイプを選定する。Lの値は、フィルタバッファ評価判定手段12においてフィルタタイプを選定する前に予め設定されていればよく、処理の途中で値を変化させることも可能である。フィルタバッファ評価判定手段12は、このようにして選定したフィルタタイプをフィルタタイプ選定結果としてフィルタ設計部20に出力する(ステップS305)。
【0060】
フィルタ設計部20は、設計フィルタタイプ選定部10により選定されたフィルタタイプに対し、原画像及び復号画像に基づいて、現フレームにてフィルタを設計し、新規フィルタ情報(選定されたフィルタタイプ毎のフィルタ係数値等)をフィルタリング処理最適化部30に出力する。設計したフィルタには、後段のフィルタリング処理最適化部30においてフィルタリングの最適化処理が適用される。
【0061】
フィルタリング処理最適化部30は、フィルタ設計部20から新規フィルタ情報(選定されたフィルタタイプ毎のフィルタ係数値等)を入力すると共に、フィルタバッファ40から過去フィルタ情報(過去フィルタにおけるフィルタタイプ毎のフィルタ係数値等及びフィルタインデックス)を入力し、フィルタリング処理の最適化を行う。フィルタリング処理最適化部30による処理では、図9に示したフィルタリング処理最適化部116の処理に比べ、処理対象とする新規フィルタの数が減少する。フィルタリング処理最適化部30は、設計フィルタタイプ選定部10により選定されたフィルタタイプの新規フィルタに関する新規フィルタ情報及びフィルタバッファ40から読み出した過去フィルタ情報を用いて、RD基準にて画像の領域毎に、フィルタリングの有無、適用するフィルタタイプ及びフィルタ係数値等の最適な選択を行うことで、フィルタリング処理を最適化する。そして、フィルタリング処理最適化部30は、フィルタリング処理の最適化の際に、新規フィルタを選択した場合、画像の領域毎のフィルタリングの有無、フィルタタイプ及びフィルタ係数値等をフィルタリング情報として伝送データ生成部115に出力する。一方、過去フィルタを選択した場合は、画像の領域毎のフィルタリングの有無、選択したフィルタタイプ、及び、過去フィルタ情報に含まれるそのフィルタタイプ及びフィルタ係数値等に対応するフィルタインデックスを伝送データ生成部115に出力する。また、フィルタを適用しないことを選択した場合は、フィルタリング無しを伝送データ生成部115に出力する。フィルタリング処理最適化部30は、新規フィルタを最適なフィルタリング処理として選択した場合、そのフィルタタイプ及びフィルタ係数値等を、フィルタバッファ40に書き込むと共に、フィルタリング処理の最適化を行ったときの現在のフレーム番号を、過去フィルタが設計されたときのフレーム番号FNi_jとしてフィルタバッファ40に書き込む。この場合、フィルタリング処理最適化部30は、新たなフィルタ係数値及びフレーム番号FNi_j等を書き込む際に、フィルタバッファ40に保存されているフィルタ係数値等がその上限(フィルタタイプ毎に最大M個)を超えないときには、新たなフィルタインデックスの領域に追加して書き込み、その上限を超えるときには、そのフィルタタイプについて保存されているフィルタ係数値等のうち最も古いフィルタ係数値等を削除した後、新たなフィルタ係数値等を書き込む。尚、動画像復号装置においても動画像符号化装置1と同様に、新規フィルタが選択されフィルタリング情報が伝送されたときは、フィルタバッファの同じ場所にその情報が書き込まれる。
【0062】
以上のように、実施例1の動画像符号化装置1によれば、設計フィルタタイプ選定部10のフィルタバッファ評価手段11が、フィルタバッファ40に保存されている過去フィルタ情報を用いて、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_1を、過去フィルタの新しさTi_1に基づいて、前記式(1)により算出するようにした。そして、フィルタバッファ評価判定手段12が、フィルタタイプ評価値Vi_1の小さい順に、予め設定されたL個(<N)のフィルタタイプを選定するようにした。そして、フィルタ設計部20が、設計フィルタタイプ選定部10により選定されたL個のフィルタタイプに対し、現フレームにてフィルタを設計するようにした。これにより、フレーム毎にフィルタを設計する際のフィルタ数を削減することができ、処理負荷を低減することができる。また、フィルタリング処理最適化部30では、フィルタ設計部20により設計された新規フィルタをフィルタリング処理の最適化対象とするため、最適化対象のフィルタ数を削減することができ、最適化処理の負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【0063】
〔実施例2〕
次に、実施例2の動画像符号化装置1について説明する。実施例2は、フィルタバッファ40に保存された過去フィルタ情報を用いて、フィルタリング処理最適化部30にて現フレーム以前に適用された回数の多い過去フィルタについては有効性の度合いが高くなるように評価値を算出し、評価値の小さい所定数のフィルタタイプの新規フィルタのみを、フィルタ設計部20の設計対象とする。
【0064】
図1を参照して、実施例2による動画像符号化装置1の符号化基本部111、局所復号部112、伝送データ生成部115、設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12及びフィルタ設計部20は、実施例1と同様である。実施例2による設計フィルタタイプ選定部10のフィルタバッファ評価手段11、フィルタリング処理最適化部30及びフィルタバッファ40は、実施例1とは異なる処理を行う。
【0065】
図4は、実施例2におけるフィルタバッファ40の構成を示す図である。実施例2のフィルタバッファ40は、N個のフィルタタイプのそれぞれに対して、フィルタ設計部20により過去のフレームで設計され、かつフィルタリング処理最適化部30により最適なフィルタリング処理として選択された最大M個のフィルタに関する情報を過去フィルタ情報として保存する。具体的には、実施例1と同様のフィルタ係数値及びフレーム番号に加え、適用回数も保存する。すなわち、フィルタタイプ「Type1」に対し、フィルタインデックス#1〜#Mにて特定されるM個のフィルタに関するフィルタ係数値Fprev11(k1)〜Fprev1M(k1)、当該過去フィルタが設計されたときのフレーム番号FN1_1〜FN1_M、及び現フレーム以前に当該過去フィルタが適用された回数C1_1〜C1_Mを保存する。同様に、フィルタタイプ「TypeN」に対し、フィルタインデックス#1〜#Mにて特定されるM個のフィルタに関するフィルタ係数FprevN1(kN)〜FprevNM(kN)、当該過去フィルタが設計されたときのフレーム番号FNN_1〜FNN_M、及び現フレーム以前に当該過去フィルタが適用された回数CN_1〜CN_Mを保存する。ここで、現フレーム以前に当該過去フィルタが適用された回数Ci_jは、フィルタタイプ「Typei」及びフィルタインデックス#jのフィルタがフィルタ設計部20にて設計され、フィルタリング処理最適化部30にて選択(適用)されたときの選択回数(適用回数)を示す。これらのフィルタタイプ、フィルタインデックス、フィルタ係数値、フレーム番号及び適用回数は、フィルタリング処理最適化部30により、過去フィルタ情報として書き込まれ、読み出される。
【0066】
図5は、実施例2による設計フィルタタイプ選定部10の処理を示すフローチャートである。設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、フィルタバッファ40から過去フィルタ情報を読み出し(ステップS501)、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_2を、過去フィルタ情報に含まれる、過去フィルタが設計されたときのフレーム番号FNi_j及び現フレーム以前に過去フィルタが適用された回数Ci_jに基づいて算出する。
【0067】
具体的には、フィルタバッファ評価手段11は、現在処理しているフレーム番号からフレーム番号FNi_jを減算し、両フレーム番号の差を示す過去フィルタの新しさTi_jを求める(ステップS502)。そして、フィルタバッファ評価手段11は、以下の式によりフィルタタイプ評価値Vi_2を算出する(ステップS503)。
【数2】

【0068】
ここで、jは、過去フィルタを指定するフィルタインデックスを示し、Miは、フィルタバッファ40に保存されている過去フィルタ情報におけるフィルタタイプiの過去フィルタの個数を示し、Ci_jは、フィルタインデックスjで指定される過去フィルタが現フレーム以前に適用された回数を示し、Ti_jは、過去フィルタの新しさを示す。前記式(2)により算出されるフィルタバッファ40の有効性を示すフィルタタイプ評価値Vi_2は、新しい過去フィルタが多く、適用された回数が多いほど大きくなる。
【0069】
フィルタバッファ評価判定手段12は、フィルタバッファ評価手段11により算出されたフィルタタイプ評価値Vi_2に基づいて、フィルタ設計部20の設計対象となるフィルタタイプを選定する。具体的には、フィルタバッファ評価判定手段12は、実施例1と同様に、設計するフィルタタイプ数をL個(Lは正の整数、かつL<N)とした場合、フィルタタイプ評価値Vi_2が小さい順にL個のフィルタタイプを選定する(ステップS504)。そして、フィルタバッファ評価判定手段12は、このようにして選定したフィルタタイプをフィルタタイプ選定結果としてフィルタ設計部20に出力する(ステップS505)。
【0070】
フィルタリング処理最適化部30は、実施例1の処理に加え、最適なフィルタリング処理として選択した過去フィルタについて、現フレーム以前にその過去フィルタが適用された回数Ci_jを算出し、その適用回数Ci_jもフィルタ係数値等と共にフィルタバッファ40に書き込む。
【0071】
尚、設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、過去フィルタの新しさTi_jを用いない場合、現フレーム以前に過去フィルタが適用された回数Ci_jのみを用いて、以下の式により、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_2’を算出するようにしてもよい。
【数3】

この式は、前記式(2)において、過去フィルタの新しさをTi_j=1に固定する場合と同じである。この場合、フィルタバッファ40は、過去フィルタが設計されたときのフレーム番号FNi_jを保存する必要がなく、このフレーム番号FNi_j及び過去フィルタの新しさTi_jの値を管理する必要もない。したがって、これらの値を増減、保存、読み出し、書き込む等の機能が不要となり、装置及び処理を簡素にすることができる。
【0072】
以上のように、実施例2の動画像符号化装置1によれば、設計フィルタタイプ選定部10のフィルタバッファ評価手段11が、フィルタバッファ40に保存されている過去フィルタ情報を用いて、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_2,Vi_2’を、現フレーム以前に過去フィルタが適用された回数Ci_jに基づいて、前記式(2)または前記式(3)により算出するようにした。そして、フィルタバッファ評価判定手段12が、フィルタタイプ評価値Vi_2,Vi_2’の小さい順に、予め設定されたL個(<N)のフィルタタイプを選定するようにした。そして、フィルタ設計部20が、設計フィルタタイプ選定部10により選定されたL個のフィルタタイプに対し、現フレームにてフィルタを設計するようにした。これにより、実施例1と同様に、フレーム毎にフィルタを設計する際のフィルタ数を削減すると共に、フィルタリング処理最適化部30における最適化対象のフィルタ数を削減し、処理負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【0073】
〔実施例3〕
次に、実施例3の動画像符号化装置1について説明する。実施例3は、フィルタバッファ40に保存された過去フィルタ情報を用いて、現フレーム以前の過去フレームに対する適用効果が高い過去フィルタについては有効性の度合いが高くなるように評価値を算出し、評価値の小さい所定数のフィルタタイプの新規フィルタのみを、フィルタ設計部20の設計対象とする。
【0074】
図1を参照して、実施例3による動画像符号化装置1の符号化基本部111、局所復号部112、伝送データ生成部115、設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12及びフィルタ設計部20は、実施例1,2と同様である。また、実施例3のフィルタリング処理最適化部30は、図9に示した従来のフィルタリング処理最適化部116と同様である。実施例3による設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、実施例1,2とは異なる処理を行う。
【0075】
フィルタバッファ40は、図2に示した過去フィルタ情報(フィルタタイプ、フィルタインデックス、フィルタ係数値及びフレーム番号)を保存する。
【0076】
図6は、実施例3による設計フィルタタイプ選定部10の処理を示すフローチャートである。設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、フィルタバッファ40から過去フィルタ情報を読み出し(ステップS601)、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_3を、過去フィルタの新しさTi_jに加えて、現フレーム以前における過去フィルタの適用効果Zi_jを用いることで算出する。
【0077】
具体的には、フィルタバッファ評価手段11は、現在処理しているフレーム番号から過去フィルタ情報に含まれるフレーム番号FNi_jを減算し、両フレーム番号の差を示す過去フィルタの新しさTi_jを求める(ステップS602)。そして、フィルタバッファ評価手段11は、過去フィルタ適用前の復号画像Ri_jと原画像Oi_jとの間の誤差、及び、復号画像Ri_jに過去フィルタを適用した後の画像Ri_j’と原画像Oi_jとの間の誤差を算出し、前者の誤差から後者の誤差を減算することで、現フレーム以前における過去フィルタによる画質改善幅を示す過去フィルタの適用効果Zi_jを求め(ステップS603)、以下の式によりフィルタタイプ評価値Vi_3を算出する(ステップS604)。
【数4】

【0078】
ここで、

は、過去フィルタ適用前の復号画像Ri_jと原画像Oi_jとの間の誤差を示し、

は、復号画像Ri_jに過去フィルタを適用した後の画像Ri_j’と原画像Oi_jとの間の誤差を示す。jは、過去フィルタを指定するフィルタインデックスを示し、Miは、フィルタバッファ40に保存されている過去フィルタ情報におけるフィルタタイプiの過去フィルタの個数を示し、Ti_jは、過去フィルタの新しさを示し、Zi_jは、現フレーム以前における、フィルタタイプiのインデックスjで指定される過去フィルタの適用効果を示す。この適用効果Zi_jである画質改善幅は、過去フィルタを適用する前の復号画像Ri_jと原画像Oi_jとの間の誤差と、過去フィルタを適用した後の画像Ri_j’と原画像Oi_jとの間の誤差の差分として算出される。前記式(4)により算出されるフィルタタイプ評価値Vi_3は、新しい過去フィルタが多く、現フレーム以前における過去フィルタの適用効果が高いほど大きくなる。
【0079】
フィルタバッファ評価判定手段12は、フィルタバッファ評価手段11により算出されたフィルタタイプ評価値Vi_3に基づいて、フィルタ設計部20の設計対象となるフィルタタイプを選定する。具体的には、フィルタバッファ評価判定手段12は、実施例1,2と同様に、設計するフィルタタイプ数をL個(Lは正の整数、かつL<N)とした場合、フィルタタイプ評価値Vi_3が小さい順にL個のフィルタタイプを選定する(ステップS605)。そして、フィルタバッファ評価判定手段12は、このようにして選定したフィルタタイプをフィルタタイプ選定結果としてフィルタ設計部20に出力する(ステップS606)。
【0080】
尚、フィルタバッファ評価手段11は、過去フィルタの新しさTi_jを用いない場合、現フレーム以前における過去フィルタの適用効果Zi_jのみを用いて、以下の式により、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_3’を算出するようにしてもよい。
【数5】

この式は、前記式(4)において、過去フィルタの新しさをTi_j=1に固定する場合と同じである。この場合、フィルタバッファ40は、過去フィルタが設計されたときのフレーム番号FNi_jを保存する必要がなく、このフレーム番号FNi_j及び過去フィルタの新しさTi_jの値を管理する必要もない。したがって、これらの値を増減、保存、読み出し、書き込む等の機能が不要となり、装置及び処理を簡素にすることができる。
【0081】
以上のように、実施例3の動画像符号化装置1によれば、設計フィルタタイプ選定部10のフィルタバッファ評価手段11が、フィルタバッファ40に保存されている過去フィルタ情報を用いて、フィルタタイプi(=1・・・N)毎のフィルタバッファ40に対する有効性を示すフィルタタイプ評価値Vi_3,Vi_3’を、現フレーム以前における過去フィルタの適用効果Zi_jに基づいて、前記式(4)または前記式(5)により算出するようにした。そして、フィルタバッファ評価判定手段12が、フィルタタイプ評価値Vi_3,Vi_3’の小さい順に、予め設定されたL個(<N)のフィルタタイプを選定するようにした。そして、フィルタ設計部20が、設計フィルタタイプ選定部10により選定されたL個のフィルタタイプに対し、現フレームにてフィルタを設計するようにした。これにより、実施例1,2と同様に、フレーム毎にフィルタを設計する際のフィルタ数を削減すると共に、フィルタリング処理最適化部30における最適化対象のフィルタ数を削減し、処理負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【0082】
〔実施例4〕
次に、実施例4の動画像符号化装置1について説明する。実施例1〜3では、設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12が、後段のフィルタ設計部20の設計対象となるフィルタタイプを選定する際に、予め設定されたフィルタタイプ数Lを用いて、フィルタタイプ評価値が小さいL個のフィルタタイプを選定する。これに対し、実施例4では、予め設定された閾値Thを用いて、フィルタタイプ評価値が閾値Thよりも小さいフィルタタイプの選定を行い、フィルタ設計部20の設計対象とする。
【0083】
図1を参照して、実施例4による動画像符号化装置1の符号化基本部111、局所復号部112、伝送データ生成部115、設計フィルタタイプ選定部10のフィルタバッファ評価手段11、フィルタ設計部20、フィルタリング処理最適化部30及びフィルタバッファ40は、実施例1〜3と同様である。実施例4による設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12は、実施例1〜3とは異なる処理を行う。
【0084】
設計フィルタタイプ選定部10のフィルタバッファ評価手段12は、前述のとおり、フィルタバッファ評価手段11から入力したフィルタタイプ毎の評価値(フィルタタイプ評価値)に基づいて、後段のフィルタ設計部20の設計対象となるフィルタタイプを選定する。
【0085】
実施例4において、フィルタバッファ評価判定手段12は、フィルタバッファ評価手段11からフィルタタイプ毎のフィルタタイプ評価値を入力し、フィルタタイプ毎のフィルタタイプ評価値と予め設定された閾値Thとを比較し、フィルタタイプ評価値が閾値Th以上の場合、そのフィルタタイプはフィルタ設計部20の設計対象にならず、現フレームでは設計しないと判定し、そのフィルタタイプをフィルタタイプの選定結果に含めない。一方、フィルタバッファ評価判定手段12は、フィルタタイプ評価値が閾値Thよりも小さい場合、そのフィルタタイプはフィルタ設計部20の設計対象になり、現フレームで設計すると判定し、そのフィルタタイプをフィルタタイプの選定結果に含める。閾値Thの値は、フィルタバッファ評価判定手段12においてフィルタタイプを選定する前に予め設定されていればよく、処理の途中で値を変化させることも可能である。フィルタバッファ評価判定手段12は、フィルタタイプ選定結果をフィルタ設計部20に出力する。このような閾値Thを用いたフィルタタイプの選定は、実施例1〜3に対して同様に適用することができる。
【0086】
以上のように、実施例4の動画像符号化装置1によれば、設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12が、フィルタバッファ評価手段11により算出されたフィルタタイプ評価値が予め設定された閾値Thよりも小さい場合、そのフィルタタイプをフィルタタイプの選定結果に含めるようにした。そして、フィルタ設計部20が、設計フィルタタイプ選定部10により選定されたフィルタタイプに対し、現フレームにてフィルタを設計するようにした。これにより、実施例1〜3と同様に、フレーム毎にフィルタを設計する際のフィルタ数を削減すると共に、フィルタリング処理最適化部30における最適化対象のフィルタ数を削減し、処理負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【0087】
〔実施例5〕
次に、実施例5の動画像符号化装置1について説明する。実施例1〜3では、設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12が、後段のフィルタ設計部20の設計対象となるフィルタタイプを選定する際に、予め設定されたフィルタタイプ数Lを用いて、フィルタタイプ評価値が小さいL個のフィルタタイプを選定し、実施例4では、予め設定された閾値Thを用いて、フィルタタイプ評価値が閾値Thよりも小さいフィルタタイプの選定を行う。これに対し、実施例5では、実施例1〜3のフィルタタイプ数L及び実施例4の閾値Thの両方を用いて、フィルタタイプの選定を行い、フィルタ設計部20の設計対象とする。
【0088】
図1を参照して、実施例5による動画像符号化装置1の符号化基本部111、局所復号部112、伝送データ生成部115、設計フィルタタイプ選定部10のフィルタバッファ評価手段11、フィルタ設計部20、フィルタリング処理最適化部30及びフィルタバッファ40は、実施例1〜4と同様である。実施例5による設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12は、実施例1〜4とは異なる処理を行う。
【0089】
設計フィルタタイプ選定部10のフィルタバッファ評価手段12は、前述のとおり、フィルタバッファ評価手段11から入力したフィルタタイプ毎の評価値(フィルタタイプ評価値)に基づいて、後段のフィルタ設計部20の設計対象となるフィルタタイプを選定する。
【0090】
実施例5において、フィルタバッファ評価判定手段12は、フィルタバッファ評価手段11からフィルタタイプ毎のフィルタタイプ評価値を入力し、まず、予め設定されたフィルタタイプ数Lの個数のみ、フィルタタイプ評価値が小さい順にフィルタタイプを選ぶ。そして、フィルタバッファ評価判定手段12は、L個のフィルタタイプのフィルタタイプ評価値と予め設定された閾値Thとを比較し、フィルタタイプ評価値が閾値Th以上の場合、そのフィルタタイプはフィルタ設計部20の設計対象にならず、現フレームでは設計しないと判定し、そのフィルタタイプをフィルタタイプの選定結果に含めない。一方、フィルタバッファ評価判定手段12は、フィルタタイプ評価値が閾値Thよりも小さい場合、そのフィルタタイプはフィルタ設計部20の設計対象になり、現フレームで設計すると判定し、そのフィルタタイプをフィルタタイプの選定結果に含める。フィルタタイプ数L及び閾値Thの値は、実施例1〜4と同様に、フィルタバッファ評価判定手段12においてフィルタタイプを選定する前に予め設定されていればよく、処理の途中で値を変化させることも可能である。フィルタバッファ評価判定手段12は、フィルタタイプ選定結果をフィルタ設計部20に出力する。このようなフィルタタイプ数L及び閾値Thを用いたフィルタタイプの選定は、実施例1〜3に対して同様に適用することができる。
【0091】
以上のように、実施例5の動画像符号化装置1によれば、設計フィルタタイプ選定部10のフィルタバッファ評価判定手段12が、フィルタバッファ評価手段11により算出されたフィルタタイプ評価値の小さい順に、予め設定されたL個のフィルタタイプを選び、さらに、L個のフィルタタイプについて、そのフィルタタイプ評価値が予め設定された閾値Thよりも小さい場合、そのフィルタタイプをフィルタタイプの選定結果に含めるようにした。そして、フィルタ設計部20が、設計フィルタタイプ選定部10により選定されたフィルタタイプに対し、現フレームにてフィルタを設計するようにした。これにより、実施例1〜4と同様に、フレーム毎にフィルタを設計する際のフィルタ数を削減すると共に、フィルタリング処理最適化部30における最適化対象のフィルタ数を削減し、処理負荷を低減することができる。したがって、伝送遅延の増加をなくすと共に、回路及び装置規模の大型化を防ぐことが可能となる。
【0092】
以上、実施例1〜5を挙げて本発明を説明したが、本発明は前記実施例1〜5に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。前記実施例1〜5では、設計フィルタタイプ選定部10のフィルタバッファ評価手段11は、前記式(1)〜(5)を用いてフィルタタイプ評価値を算出するようにしたが、前記式(1)〜(5)は例示であり、本発明はこれらの式に限定されるものではない。本発明においてフィルタタイプ評価値を算出する式は、各フィルタタイプに対する有効性を示す値が算出できればよい。
【0093】
尚、本発明の実施例1〜5による動画像符号化装置1のハードウェア構成としては、通常のコンピュータを使用することができる。動画像符号化装置1は、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。動画像符号化装置1に備えた符号化基本部111、局所復号部112、伝送データ生成部115、設計フィルタタイプ選定部10、フィルタ設計部20、フィルタリング処理最適化部30及びフィルタバッファ40の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。また、これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもできる。
【符号の説明】
【0094】
1,101,102 動画像符号化装置
10 設計フィルタタイプ選定部
11 フィルタバッファ評価手段
12 フィルタバッファ評価判定手段
20,113 フィルタ設計部
30,114,116 フィルタリング処理最適化部
40,117 フィルタバッファ
111 符号化基本部
112 局所復号部
115 伝送データ生成部

【特許請求の範囲】
【請求項1】
動画像を符号化し、該符号化された動画像を復号した復号画像に適用するフィルタのフィルタリング情報を動画像符号化データと共に伝送する動画像符号化装置において、
前記動画像の原画像を入力して符号化し、符号化データを生成する符号化基本部と、
前記符号化データを復号し、復号画像を生成する局所復号部と、
複数のフィルタタイプのフィルタを前記復号画像にそれぞれ適用した後の画像と前記原画像との間の差分に基づいて、前記複数のフィルタタイプのそれぞれに対するフィルタ係数値を決定し、前記フィルタタイプ及びフィルタ係数値を含む情報を新規フィルタの情報として生成するフィルタ設計部と、
フィルタタイプ及びフィルタ係数値を含むフィルタに関する情報を、過去フィルタの情報として保存するフィルタバッファと、
前記フィルタバッファに保存された過去フィルタ情報を用いて、前記フィルタタイプのそれぞれに対する有効性の評価値を算出し、前記評価値の大きさに基づいて、前記フィルタ設計部にてフィルタ係数値を決定する際のフィルタタイプを選定する設計フィルタタイプ選定部と、
前記設計フィルタタイプ選定部により選定されたフィルタタイプについての、前記フィルタ設計部により生成された新規フィルタの情報と、前記フィルタバッファに保存された過去フィルタの情報とを用いて、前記復号画像に対するフィルタリングの有無、フィルタリング有りの場合は適用するフィルタタイプ及びフィルタ係数値を含む情報をフィルタリング情報として選択するフィルタリング処理最適化部と、
前記符号化基本部により生成された符号化データと、前記フィルタリング処理最適化部により選択されたフィルタリング情報とを統合し、伝送データを生成する伝送データ生成部と、を備えることを特徴とする動画像符号化装置。
【請求項2】
請求項1に記載の動画像符号化装置において、
前記設計フィルタタイプ選定部は、
前記原画像のフレームと前記過去フィルタが設計されたフレームとの間の時間差を示す前記過去フィルタの新しさを求め、前記過去フィルタが新しいほど、前記過去フィルタのフィルタタイプに対する有効性の評価値が大きくなるように、前記評価値を算出することを特徴とする動画像符号化装置。
【請求項3】
請求項1に記載の動画像符号化装置において、
前記設計フィルタタイプ選定部は、
前記原画像のフレーム以前のフレームについて、前記フィルタリング処理最適化部により選択されたフィルタタイプの回数が多いほど、そのフィルタタイプに対する有効性の評価値が大きくなるように、前記評価値を算出することを特徴とする動画像符号化装置。
【請求項4】
請求項1に記載の動画像符号化装置において、
前記設計フィルタタイプ選定部は、
前記原画像のフレーム以前のフレームについて、前記フィルタ設計部にて用いる復号画像及び原画像における前記復号画像と前記原画像との間の差分、及び前記フィルタタイプのフィルタを前記復号画像に適用した後の画像と前記原画像との間の差分から得られる画質改善幅が大きいほど、そのフィルタタイプに対する有効性の評価値が大きくなるように、前記評価値を算出することを特徴とする動画像符号化装置。
【請求項5】
請求項1から4に記載の動画像符号化装置において、
前記設計フィルタタイプ選定部は、
前記評価値が小さい順に、所定数のフィルタタイプを選定することを特徴とする動画像符号化装置。
【請求項6】
請求項1から4に記載の動画像符号化装置において、
前記設計フィルタタイプ選定部は、
前記評価値と所定の閾値とを比較し、前記閾値よりも小さい評価値のフィルタタイプを選定することを特徴とする動画像符号化装置。
【請求項7】
請求項1から4に記載の動画像符号化装置において、
前記設計フィルタタイプ選定部は、
前記評価値が小さい順に、所定数のフィルタタイプを選び、前記所定数のフィルタタイプの評価値と所定の閾値とをそれぞれ比較し、前記閾値よりも小さい評価値のフィルタタイプを選定することを特徴とする動画像符号化装置。
【請求項8】
コンピュータを、請求項1から7までのいずれか一項に記載の動画像符号化装置として機能させるための動画像符号化プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2013−62768(P2013−62768A)
【公開日】平成25年4月4日(2013.4.4)
【国際特許分類】
【出願番号】特願2011−201614(P2011−201614)
【出願日】平成23年9月15日(2011.9.15)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】