説明

データ外挿方法、データ外挿装置、及びデータ外挿プログラム

【課題】 ブロックノイズを発生させることなく各種データを解析して外挿することができ、且つ、外挿後のデータを大幅に自然なものとすることができるデータ外挿装置を提供する。
【解決手段】 データ外挿装置は、処理対象となる元画像データを入力すると、その元画像データの2次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような周波数f’、振幅A’、及び初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、画像データを再構成するために必要な所定本数のスペクトルを抽出し、抽出したスペクトルによって構成される画像データに対して任意の定数kを乗算して画像データのダイナミックレンジを拡張しながら画像データの外挿処理を行い、再構成画像データを求める。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データ等の各種データを解析して外挿するデータ外挿方法、データ外挿装置、及びデータ外挿プログラムに関する。
【背景技術】
【0002】
例えば、被写体を撮像した場合において、得られた画像データ内の明度が高い領域については、撮像装置の過度の絞り等に起因していわゆる「白とび」が発生し、また、その逆の原因により、画像データ内の明度が低い領域については、いわゆる「黒つぶれ」等が発生し、本来有している情報を失ってしまうことがある。また、特に画像処理技術においては、圧縮符号化の際に、隣接するマクロブロックに基づいて欠落した情報を補間して予測画像等を生成したり、様々な画像補正を行ったりする処理が行われている。
【0003】
このような補間技術としては、例えば特許文献1乃至特許文献8等に記載された技術のように外挿法を適用したものがある。
【0004】
特許文献1には、フレーム全体の総符号量を効率よく制御可能な画像圧縮を実現するために、量子化ステップ毎に演算された総符号量を外挿によって線形補間する技術が開示されている。
【0005】
また、特許文献2には、外挿法を適用して画面内予測信号を生成する際に、複雑な絵柄を有する画像に対する予測信号を効率よく生成する技術が開示されている。
【0006】
さらに、特許文献3には、入力画像をブロック単位に分割し、イントラ予測を行って選択される予測モードにしたがって生成される予測画像との差分を符号化する際に、画素値を外挿して予測画像を生成する技術が開示されている。
【0007】
さらにまた、特許文献4には、RGB信号処理系の画像情報をYMCK信号処理系の画像情報に色変換する3次元色情報変換テーブルを作成する際に、外挿法を適用する技術が開示されている。
【0008】
また、特許文献5には、外挿によって圧縮画像からブロックアーティファクトを除去する技術が開示されている。
【0009】
さらに、特許文献6には、テクスチャ画像をマッピングする際に、使用可能でないミップマップの代わりに外挿を用いてテクスチャマップ値を求める技術が開示されている。
【0010】
さらにまた、特許文献7には、テクスチャ画像をマッピングして画像の補正処理を行う際に、外挿処理を行う技術が開示されている。
【0011】
また、特許文献8には、テクスチャ画像の周縁を平滑化する際に、外挿法を適用する技術が開示されている。
【0012】
さらに、被写体を撮像した場合において、ダイナミックレンジが小さいことに起因して不自然な画像が得られてしまうことがある。現在市販されているアプリケーションプログラム等においては、このような画像の不自然さを補正するためにガンマ補正を用いているのが一般的である。また、現存する規格の多くは、1色あたり8ビットで画像を記述したものであるが、近年では、JPEG XR等、8ビット以上を有する規格が登場しており、そのような規格に合わせて、既に撮像された画像のダイナミックレンジを拡張することも要求されつつある。
【先行技術文献】
【特許文献】
【0013】
【特許文献1】特開2008−42943号公報
【特許文献2】特開2007−300380号公報
【特許文献3】特開2006−295408号公報
【特許文献4】特開2005−354219号公報
【特許文献5】特表平11−504173号公報
【特許文献6】特開2008−305408号公報
【特許文献7】特開2004−206672号公報
【特許文献8】特表2003−504697号公報
【発明の概要】
【発明が解決しようとする課題】
【0014】
しかしながら、上述した特許文献1乃至特許文献5に記載された従来の技術は、2次線形外挿やそれ以外の関数を用いた外挿法を適用したものであることから、外挿可能な範囲が限定的であるという問題があった。
【0015】
また、上述した特許文献6乃至特許文献8に記載された従来の技術は、高い解像度を得るために周波数領域で高い周波成分を外挿する技術であり、また、符号化する際の性能を高めるために、隣接するマクロブロックから予測し、その誤差を符号化するといったものであり、広範囲を予測するには適さず、ブロックノイズが発生するという問題があった。
【0016】
ここで、画像データをフーリエ変換して得られるスペクトルを補正することにより、ブロックノイズを低減する手法もあり、工学分野において広く用いられている離散フーリエ変換(Discrete Fourier Transform;DFT)や離散コサイン変換(Discrete Cosine Transform;DCT)を適用した外挿処理に応用されている。また、特開2007−188721号公報に記載された技術のように、フーリエ変換を行って最適周波数成分を抽出し、得られた像に逆フーリエ変換を施す技術も存在する。
【0017】
しかしながら、このようなフーリエ変換に基づく処理においては、f/k(fはサンプリング周波数、kは解析窓長)の整数倍の周波数を有する信号しか正確な解析を行うことができず、それ以外の周波数を有する信号を解析した場合には、スペクトル漏れによって誤差が発生するという問題があった。また、フーリエ変換に基づく処理においては、解析するフレームが無限に繰り返されることを仮定していることから、隣接するフレームにも解析したフレームと全く同じ情報が外挿される。そのため、かかる技術においては、外挿する際にフレーム間で誤差が発生するという問題があった。
【0018】
本発明は、このような実情に鑑みてなされたものであり、ブロックノイズを発生させることなく各種データを解析して外挿することができ、且つ、外挿後のデータを大幅に自然なものとすることができるデータ外挿方法、データ外挿装置、及びデータ外挿プログラムを提供することを目的とする。
【課題を解決するための手段】
【0019】
本願発明者の一部は、国際公開第2009/038056号において、新たな周波数解析手法として、非周期信号の解析手法であるNon-Harmonic Analysis(NHA)を開示している。このNHAは、解析対象信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような周波数f’、振幅A’、及び初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして算出するものである。本発明は、このような周波数分解能が高く且つ解析窓長の影響が少ないNHAを利用することにより、切り出したデータのスペクトルを正確に抽出して外挿し、この技術分野の問題を本質的に解決する技術を確立したものである。
【0020】
すなわち、上述した目的を達成する本発明にかかるデータ外挿方法は、各種データを解析して外挿するデータ外挿方法であって、処理対象となる元データをデータ外挿装置に入力し、メモリに記憶させるデータ入力工程と、前記データ外挿装置の演算手段が、前記データ入力工程にて入力されて前記メモリに記憶された前記元データを読み出し、当該元データの任意次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような前記周波数f’、前記振幅A’、及び前記初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、データを再構成するために必要な所定本数のスペクトルを抽出するスペクトル抽出工程と、前記演算手段が、前記スペクトル抽出工程にて抽出されたスペクトルによって構成されるデータに対して任意の定数kを乗算してデータのダイナミックレンジを拡張しながらデータの外挿処理を行い、再構成データを求める外挿工程とを備えることを特徴としている。
【0021】
また、上述した目的を達成する本発明にかかるデータ外挿装置は、各種データを解析して外挿するデータ外挿装置であって、処理対象となる元データを入力するデータ入力手段と、前記データ入力手段を介して入力された前記元データの任意次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような前記周波数f’、前記振幅A’、及び前記初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、データを再構成するために必要な所定本数のスペクトルを抽出するスペクトル抽出手段と、前記スペクトル抽出手段によって抽出されたスペクトルによって構成されるデータに対して任意の定数kを乗算してデータのダイナミックレンジを拡張しながらデータの外挿処理を行い、再構成データを求める外挿手段とを備えることを特徴としている。
【0022】
さらに、上述した目的を達成する本発明にかかるデータ外挿プログラムは、各種データを解析して外挿するコンピュータ実行可能なデータ外挿プログラムであって、前記コンピュータを、処理対象となる元データを入力するデータ入力手段、前記データ入力手段を介して入力された前記元データの任意次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような前記周波数f’、前記振幅A’、及び前記初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、データを再構成するために必要な所定本数のスペクトルを抽出するスペクトル抽出手段、及び、前記スペクトル抽出手段によって抽出されたスペクトルによって構成されるデータに対して任意の定数kを乗算してデータのダイナミックレンジを拡張しながらデータの外挿処理を行い、再構成データを求める外挿手段として機能させることを特徴としている。
【0023】
このような本発明にかかるデータ外挿方法、データ外挿装置、及びデータ外挿プログラムが実装された装置においては、高い周波数分解能を有し且つ解析窓長による影響が少ない周波数解析手法を適用していることから、元データの特徴を損なうことなく、また、フレーム間で誤差が発生することなく、元データに基づいた外挿を行うことができる。
【発明の効果】
【0024】
本発明においては、いかなるデータであっても、また、データのどの部分を切り出しても、ブロックノイズを発生させることなく高精度に未知の情報を外挿することができる。また、本発明においては、データの再構成時のダイナミックレンジを拡張することにより、保存するデータの規格に合わせて丸め込むことができることから「ボケ」を低減することができる。したがって、本発明においては、「ボケ」が除去されたデータを再構成するために少量のスペクトルのみを保持すればよく、周囲の未知の情報を外挿することにより、少ない情報で広範囲のデータを表現することが可能となる。
【図面の簡単な説明】
【0025】
【図1】本発明の実施の形態として示すデータ外挿装置の構成を示すブロック図である。
【図2】本周波数解析手法とDFTとGHAとの違いを説明するための図であり、各手法の誤差を求めた結果を示す図である。
【図3】本発明の実施の形態として示すデータ外挿装置において、元画像データに基づく外挿によって画像データの再構成を行う際の一連の処理を示すフローチャートである。
【図4】本発明の実施の形態として示すデータ外挿装置の有効性を検証するために使用した画像データを示す図である。
【図5】図4に示す画像データのうち矩形枠線で囲った部分を切り出した元画像データを示す図である。
【図6】図5に示す元画像データに基づいてFFTを適用して再構成した画像データを示す図である。
【図7】図5に示す元画像データに基づいて本周波数解析手法を適用して再構成した画像データを示す図である。
【図8】他の元画像データに基づいて本周波数解析手法を適用して再構成した画像データを示す図である。
【図9】図5に示す元画像データに基づいて本周波数解析手法を適用して再構成した画像データを示す図であり、(a)は、図5に示す元画像データと同一の画像データを示し、(b)は、(a)に示す画像データを本周波数解析手法によって解析して抽出した50本のスペクトルに基づいて再構成した画像データを示し、(c)は、定数を(a)に示す画像データから差し引いた後に、本周波数解析手法によって解析して抽出した50本のスペクトルに基づいて再構成した画像データを示し、(d)は、(c)に示す画像データを再構成する際のダイナミックレンジを拡張して再構成した画像データを示す。
【発明を実施するための形態】
【0026】
以下、本発明を適用した具体的な実施の形態について図面を参照しながら詳細に説明する。
【0027】
この実施の形態は、画像データ等の各種データを解析して外挿するデータ外挿装置である。特に、このデータ外挿装置は、非線形方程式を解くことでフーリエ係数を推定することによって周波数分解能が解析窓長に依存しない新たな周波数解析手法を適用してデータの外挿を行うものである。なお、ここでは、主として、外挿処理を行うことによって元画像データに基づいて補間して再構成する場合について説明する。
【0028】
[データ外挿装置の構成]
データ外挿装置は、例えばコンピュータ等から構成され、図1に示すように、各部を統括的に制御するCPU(Central Processing Unit)11と、各種プログラムを含む各種情報を格納する読み取り専用のROM(Read Only Memory)12と、ワークエリアとして機能するRAM(Random Access Memory)13と、各種情報を読み出し及び/又は書き込み可能に記憶する記憶部14と、ユーザインターフェースとしての図示しない所定の操作デバイスを介した入力操作の処理及び制御を行う入力操作制御部15と、各種情報を表示する表示部16とを備える。
【0029】
CPU11は、記憶部14等に格納されている各種アプリケーションプログラムをはじめとする各種プログラムを実行し、各部を統括的に制御する。
【0030】
ROM12は、各種プログラムをはじめとする各種情報を格納している。このROM12に格納されている情報は、CPU11の制御のもとに読み出される。
【0031】
RAM13は、CPU11が各種プログラムを実行する際のワークエリアとして機能し、CPU11の制御のもとに、各種情報を一時記憶するとともに、記憶している各種情報を読み出す。
【0032】
記憶部14は、本発明にかかるデータ外挿プログラム等のアプリケーションプログラムの他、処理対象となる元画像データをはじめとする各種情報を記憶する。この記憶部14としては、例えば、ハードディスクや不揮発性メモリ等を用いることができる。また、記憶部14には、本体に対して着脱可能とされるフレキシブルディスクやメモリカード等の記憶媒体に対して、各種情報の読み出し及び/又は書き込みを行うドライブ装置も含まれる。この記憶部14に記憶されている各種情報は、CPU11の制御のもとに読み出される。
【0033】
入力操作制御部15は、例えば、キーボード、マウス、キーパッド、赤外線リモートコントローラ、スティックキー、又はプッシュボタンといった、ユーザインターフェースとしての図示しない所定の操作デバイスを介した入力操作を受け付け、操作内容を示す制御信号をCPU11に対して供給する。
【0034】
表示部16は、例えば、液晶ディスプレイ(Liquid Crystal Display;LCD)、プラズマ・ディスプレイ・パネル(Plasma Display Panel;PDP)、有機エレクトロルミネッセンス(Organic ElectroLuminescent)ディスプレイ、又はCRT(Cathode Ray Tube)といった、各種表示デバイスであり、CPU11の制御のもとに各種情報を表示する。例えば、表示部16は、CPU11によってデータ外挿プログラムが起動されると、その画面を表示し、入力された処理対象としての元画像データや外挿結果としての補間後の画像データ等を表示する。
【0035】
このような各部を備えるデータ外挿装置は、CPU11の制御のもとに、データ外挿プログラムを実行すると、CPU11の制御のもとに、入力された画像データの周波数解析を行うことによってスペクトルを抽出し、得られたスペクトルに基づいて画像データを再構成する。なお、周波数解析の対象となる信号、すなわち、処理対象となる画像データは、図示しないデータ入力部を介してCPU11に入力される。例えば、データ外挿装置は、ディジタルカメラ等の撮像装置によって撮像された画像データを外挿処理によって補間する場合には、当該データ外挿装置と撮像装置とを接続する所定のインターフェースを介して処理対象信号としての画像データを記憶部14に記憶させることによって入力する。その他、データ外挿装置は、ユーザが作成した任意のデータを処理対象信号として記憶部14に記憶させることによって入力するようにしてもよい。すなわち、データ入力部は、処理対象としての画像データをCPU11に入力させる機能を有する部位である。なお、データ入力部は、アナログ信号を入力した場合には、A/D変換を行ってディジタル信号に変換する機能をあわせ持つことはいうまでもない。このとき、データ入力部は、必要に応じてアンチエイリアシングフィルタを含むA/D変換器としてもよい。データ外挿装置は、CPU11の制御のもとに、このようにして入力された処理対象としての画像データの周波数解析を行うことによって外挿処理を行い、再構成した画像データ等を、図示しない出力部を介して記憶部14に記憶させたり、その他の機器に出力したりする。
【0036】
[周波数解析アルゴリズム]
まず、データ外挿装置における一連のデータ外挿アルゴリズムの説明に先立って、データ外挿を行う際に利用する周波数解析アルゴリズムについて詳述する。なお、画像データは2次元信号であることはいうまでもないが、ここでは、説明の便宜上、1次元の解析対象信号に対する周波数解析アルゴリズムについて説明するものとする。
【0037】
データ外挿装置に適用する周波数解析手法(以下、本周波数解析手法という。)においては、次式(1)に示す非周期信号のフーリエ変換式の周波数パラメータを求める問題を非線形方程式の最適解を求める問題に置き換えている。
【0038】
【数1】

【0039】
具体的には、本周波数解析手法においては、次式(2)に示すように、解析対象信号x(n)と正弦波モデル信号との差の二乗和で表される非線形方程式の最適解として、この非線形方程式の右辺が最小値になるような周波数f’、振幅A’、及び初期位相φ’を求める。なお、次式(2)において、Lはフレーム長(解析窓長)であり、fはサンプリング周波数[Hz]である。本周波数解析手法においては、このような最小二乗法によって非線形方程式の最適解を求める問題に帰着させることにより、解析窓の影響やエイリアシングの影響がなくなり、解析窓長が、1周期未満であってもよく、周期の整数倍でなくてもよく、さらには、不等間隔であってもよい等、柔軟な周波数解析処理を実現することが可能となる。
【0040】
【数2】

【0041】
さて、上式(2)に示す非線形方程式の最適解を実際に求めるにあたっては、以下のような方法をとることができる。
【0042】
本周波数解析手法においては、振幅A’、周波数f’、及び初期位相φ’のそれぞれについて適切な初期値を求め、これら初期値から非線形方程式の解法を用いて最適解に収束させる。この非線形問題では、上式(2)をコスト関数とする最小化問題とする。なお、適切な初期値は、離散フーリエ変換(Discrete Fourier Transform;DFT)やウェーブレット変換等の任意の周波数変換を行ったり、フィルタリングを行うことによっておおよその見当をつけたりする等、既存の任意の方法を適用して求めることができる。
【0043】
まず、本周波数解析手法においては、上式(2)における正弦波モデル信号の位相を構成する周波数パラメータf’,φ’について、いわゆる最急降下法を適用し、周波数パラメータf’,φ’を次式(3)及び次式(4)によって求める。
【0044】
【数3】

【数4】

【0045】
なお、上式(3)及び上式(4)においては、次式(5)と略している。また、μは、いわゆる減速法に基づく重み係数であり、各漸化式によって求められるコスト関数を単調減少数列にするために、適時0〜1の値をとる。
【0046】
【数5】

【0047】
周波数パラメータf’,φ’を求めることができれば、上式(2)における正弦波モデル信号の係数としての周波数パラメータA’を一意に求めることができるため、本周波数解析手法においては、次式(6)によって周波数パラメータA’を収束させる。
【0048】
【数6】

【0049】
本周波数解析手法においては、これら一連の計算を反復して行うことにより、振幅A’、周波数f’、及び初期位相φ’を高精度に収束させることができる。特に、本周波数解析手法においては、上式(2)における正弦波モデル信号の位相を構成する周波数パラメータf’,φ’と、係数としての周波数パラメータA’とを別個に求めることにより、計算を簡便に行うことができる。
【0050】
しかしながら、最急降下法は、比較的広い範囲から収束するものの、1回の反復では精度が低く、収束するまでに時間を要する。
【0051】
そこで、本周波数解析手法においては、最急降下法を適用して周波数パラメータf’,φ’をある程度まで収束させた後、さらに、いわゆるニュートン法を適用して高精度に収束させるのが望ましい。具体的には、本周波数解析手法においては、ニュートン法として、次式(7)及び次式(8)に示す漸化式によって周波数パラメータf’,φ’を求める。
【0052】
【数7】

【数8】

【0053】
ただし、上式(7)及び上式(8)において、Jは次式(9)とし、次式(10)と略している。また、νもμと同様に減速法に基づく重み係数であり、適時0〜1の値をとる。
【0054】
【数9】

【数10】

【0055】
本周波数解析手法においては、上式(7)及び上式(8)によって周波数パラメータf’,φ’を求めた後、最急降下法と同様に、上式(6)によって周波数パラメータA’を収束させ、この一連の計算をさらに反復して行う。
【0056】
このように、本周波数解析手法においては、最急降下法とニュートン法とを組み合わせたハイブリッド型の解法を用いることにより、高速に且つ高精度に周波数パラメータA’,f’,φ’を推定することができる。
【0057】
また、本周波数解析手法においては、解析対象信号x(n)が複合正弦波の場合であっても、逐次減算処理することにより、近似的にスペクトルパラメータを導出することができる。ここで、解析対象信号x(n)が複数の正弦波の和であり、次式(11)のように表されているとする。
【0058】
【数11】

【0059】
パーセヴァル(Parseval)の定理より、解析対象信号x(n)の周波数fと正弦波モデル信号の周波数パラメータf’とが全く一致しない場合、すなわち、次式(12)である場合には、上式(2)に示す非線形方程式は次式(13)となる。また、周波数パラメータf’,φ’の組が、周波数f及び初期位相φの組のいずれかに一致する場合には、上式(2)に示す非線形方程式は次式(14)となる。さらに、振幅Aが周波数パラメータA’とも一致した場合には、解析対象信号から推定スペクトルに関する周波数成分を完全に消去することができる。そのため、最適解を求める問題は、周波数に対して独立であり、解析対象信号から順次個別に推定すれば、複数の正弦波で表される信号にも応用することができる。
【0060】
【数12】

【数13】

【数14】

【0061】
すなわち、本周波数解析手法においては、解析対象信号x(n)が複合正弦波の場合であっても、逐次残差信号に対して同様に処理を行い、複数の正弦波を抽出することができる。
【0062】
音声信号や音響信号等の信号を複合正弦波によって表現するためには、これまで多くのスペクトル数(正弦波の数)が必要であったが、本周波数解析手法においては、そのような信号であっても僅かなスペクトル数で誤差なく表現することができる。すなわち、信号をより少ないスペクトル数で表現可能であることは、情報圧縮の用途に有効であることを示している。
【0063】
[本周波数解析手法の有効性]
以下、本周波数解析手法の有効性について具体的に説明する。
【0064】
本周波数解析手法は、非線形方程式の最適解を求めることにより、正弦波モデル信号の周波数f’、振幅A’、及び初期位相φ’を高速に且つ高精度に求めることができる。具体的な精度を立証するために、本願発明者は、DFTと、DFTの発展型のうち最も解析精度が高いといわれているGHA(Generalized Harmonic Analysis)とを比較対象として精度の検証を行った。
【0065】
なお、DFTやGHAは、1つの解析窓長に見かけ上複数の窓長を持たせていることから、周波数分解能が解析窓長に依存するが、その分解周波数が有限長であり、解析対象信号の周波数が分解周波数以外の周波数となった場合には解析することができず、解析対象信号が正確に解析できる周波数と異なる場合には、最も近い分解周波数の他に、その周辺に小さなスペクトルの周波数(側帯波成分)が現れ、複数の周波数が出現してしまう。
【0066】
このような現象が本周波数解析手法においても生じるか否かについて、すなわち、本周波数解析手法の周波数分解能を検証するために、解析窓長を1秒(1024サンプル)とした1次元の非常に短い単一正弦波を解析し、各手法によって正弦波を1本抽出して元の信号との二乗誤差を調べた。その結果を図2に示す。
【0067】
図2に示すように、DFTにおいては、基本周波数の整数倍以外の周波数における解析精度の悪化がみられた。また、GHAにおいては、1Hz以上の周波数ではDFTと比べて2〜5桁程度の精度向上がみられた。これに対して、本周波数解析手法においては、1Hz以上の周波数ではDFTと比べて10桁以上、GHAと比べて5桁以上の精度向上がみられた。すなわち、本周波数解析手法は、既存の周波数解析手法と比べて10万〜100億倍以上の精度向上がみられた。特に、1Hz以下の周波数を正確に推定することができるということは、解析窓長を超えた長い周期信号であっても解析可能であることを示している。
【0068】
このように、本周波数解析手法は、最も解析精度が高いといわれているGHAと比べても驚くべき高精度に解析を行うことができるものである。データ外挿装置は、2次元信号である元画像データに基づく外挿によって画像データの再構成を行う場合には、このような本周波数解析手法を適用して、図3に示すような一連の処理を行う。
【0069】
[解析段階]
まず、データ外挿装置は、図3に示すように、解析段階において、CPU11の制御のもとに、図示しないデータ入力部を介して元画像データxorg(n,n)を入力してRAM13等のメモリに記憶すると、ステップS1において、元画像データxorg(n,n)から定数Cを差し引く。すなわち、データ外挿装置は、情報量を削減するために、視覚的に劣化の少ない高周波数成分を量子化によって除去する。
【0070】
そして、データ外挿装置は、ステップS2及びステップS3において、CPU11の制御のもとに、次式(15)に示すように、2次元信号からなるステップS1にて得られた画像データx(n,n)(=xorg(n,n)−C)に対して上述した本周波数解析手法を適用し、画像データを再構成するために最低限必要となるL本のスペクトル(A’,fxl’,fyl’,φ’;l=1〜L)を抽出する。次式(15)において、fxs,fysは、それぞれ、画像データの横軸方向、縦軸方向のサンプリング周波数[Hz]であり、A’,fxl’,fyl’,φ’は、それぞれ、抽出するスペクトルの振幅、画像データの各軸に対応する周波数、初期位相である。データ外挿装置は、2次元信号である画像データを次式(15)に示すような正弦波モデル関数を用いて表し、実際の信号と、次式(15)に示す正弦波モデル信号との差が最小となるように、次式(16)を用いてパラメータを変化させ、各周波数を求める。
【0071】
【数15】

【数16】

【0072】
[合成段階]
データ外挿装置においては、このようにしてL本のスペクトルを抽出すると、これらのスペクトルに基づいて画像データを再構成する合成段階へと移行する。具体的には、データ外挿装置は、ステップS4において、CPU11の制御のもとに、l本目のスペクトルについて、次式(17)に示すように画像データの外挿処理を行う。なお、本周波数解析手法を適用して少ない本数のスペクトルのみを抽出した場合には、その情報に基づいて再構成される画像データの高周波数成分が不足し、いわゆる「ボケ」が発生しやすくなる。そこで、データ外挿装置は、画像データを再構成する際のダイナミックレンジを拡張することにより、テクスチャ画像の「ボケ」の除去を行う。すなわち、データ外挿装置は、解析段階にて抽出されたスペクトルによって構成される画像データに対して任意の定数kを乗算することにより、画像データのダイナミックレンジを拡張しながら画像データの再構成を行う。
【0073】
【数17】

【0074】
続いて、データ外挿装置は、ステップS5において、CPU11の制御のもとに、L本の全てのスペクトルについて処理を行ったか否かを判定し、行っていない場合には、ステップS6を経て、次のスペクトルについての処理を行う。そして、データ外挿装置は、L本の全てのスペクトルについて処理を行った場合には、ステップS7において、L本のスペクトルに基づいて再構成した画像データに対して、除去した量子化ビット数分の定数Cを加算することにより、再構成画像データx’(n’,n’)を求め、一連の処理を終了する。
【0075】
データ外挿装置は、このような一連の処理を行うことにより、元画像データxorg(n,n)に基づいて、画像データx’(n’,n’)を再構成することができる。再構成された画像データx’(n’,n’)のダイナミックレンジは、画像データの規格に合わせて丸め込まれるため、「ボケ」を低減することができる。また、データ外挿装置は、(n’,n’)のとり得る範囲を広げることにより、外挿処理を行うことが可能となる。
【0076】
[データ外挿装置の有効性]
本願発明者は、このようなデータ外挿装置を用いて実際に画像データを解析し、外挿処理を行った。具体的には、図4に示すような同じパターンが連続する画像データを用意し、このうち矩形枠線で囲った部分(図5)を切り出して解析対象、すなわち、元画像データとし、この元画像データに基づいて、その周囲の未知の情報を外挿することによって再構成画像データを求めた。なお、図5に示す元画像データの大きさは、140ピクセル×140ピクセルであり、これに基づいて、420ピクセル×420ピクセルの大きさの再構成画像データを求めた。
【0077】
また、従来の外挿法は、2次線形予測やそれ以外の関数等を用いて未知の情報を外挿したり、テクスチャ画像が有する周期性に着目して離散フーリエ変換等の周波数解析手法を適用してスペクトルを抽出し、その周囲の未知の情報を外挿したりするものである。そこで、本願発明者は、比較のため、本周波数解析手法の代わりに高速フーリエ変換(Fast Fourier Transform;FFT)を用いて同一の元画像データを解析して再構成画像データを求めた。
【0078】
これらの結果を図6及び図7に示す。まず、FFTを適用した場合には、図6に示すように、元画像データの解析結果と全く同じ情報が周囲においても繰り返し外挿されることから、フレーム間で不自然な再構成画像データとなる。なお、解析を行う際に、窓関数を用いることによってフレーム間の誤差を小さくすることもできるが、この場合においても、画像データの再構成時に元の信号を得ることはできない。すなわち、FFT等の従来の周波数解析手法を適用した外挿法においては、解析区間、すなわち、テクスチャ画像のどの部分を切り出して解析するかといった事項や、フレーム長をどのように決めるかが問題となり、これを解決することは非常に困難である。
【0079】
これに対して、高い周波数分解能を有し且つ解析窓長による影響が少ない解析が可能である本周波数解析手法を適用したデータ外挿装置においては、図7に示すように、元画像データの特徴を損なうことなく、また、フレーム間で誤差が発生することなく、元画像データに基づいた外挿が行われている。また、他の元画像データとして図8における矩形枠線で囲った部分を切り出し、本周波数解析手法を適用したデータ外挿装置によって周囲の未知の情報を外挿した場合においても、元画像データの特徴を損なうことなく、また、フレーム間で誤差が発生することなく、元画像データに基づいた外挿を行うことができた。すなわち、データ外挿装置においては、いかなるテクスチャ画像であっても、また、テクスチャ画像のどの部分を切り出しても、元画像データの特徴を損なうことなく正確な解析を行うことができ、その未知の情報を外挿する際にもフレーム間で誤差を発生させることがない。
【0080】
また、本願発明者は、本周波数解析手法を適用した場合において、上述した図3中ステップS1における高周波数成分の除去及びステップS4におけるダイナミックレンジの拡張による影響についても調べた。
【0081】
図9(a)に、図5に示したものと同一の140ピクセル×140ピクセルからなる元画像データを示す。この元画像データを本周波数解析手法によって解析して抽出した50本のスペクトルに基づいて再構成した画像データは、図9(b)に示すように、高周波数成分が不足して「ボケ」が発生したものとなる。
【0082】
また、図3中ステップS1に示したように、量子化ビット数/2の定数Cを元画像データから差し引いた後に、本周波数解析手法によって解析して抽出した50本のスペクトルに基づいて再構成し、差し引いた定数Cを加算して求めると、図9(c)に示すように、画像のエッジ部分において「ボケ」が発生した画像データが得られた。
【0083】
これに対して、図3中ステップS4に示したように、図9(c)に示す画像データを再構成する際のダイナミックレンジを拡張した場合には、図9(d)に示すように、「ボケ」が低減した画像データが得られた。このことから、データ外挿装置においては、画像データを再構成する際のダイナミックレンジを拡張することにより、保存する画像データの規格に合わせて丸め込むことができ、周波数解析によって抽出したスペクトルの本数の少なさに起因する高周波数成分の不足による「ボケ」、及び、量子化による高周波数成分の除去による「ボケ」の双方とも低減した画像データを得ることができることがわかる。
【0084】
このように、本周波数解析手法を適用したデータ外挿装置は、従来の周波数解析手法の適用ではなし得なかったブロックノイズの発生をなくした外挿処理を行い、大幅に自然な再構成画像データを得ることが可能である。
【0085】
[データ外挿装置の効果]
以上説明したように、本周波数解析手法を適用したデータ外挿装置は、いかなるテクスチャ画像であっても、また、テクスチャ画像のどの部分を切り出しても、ブロックノイズを発生させることなく高精度に未知の情報を外挿することができる。また、このデータ外挿装置は、データの再構成時のダイナミックレンジを拡張することにより、保存するデータの規格に合わせて丸め込むことができることから「ボケ」を低減することができる。これにより、このデータ外挿装置においては、「ボケ」が除去されたテクスチャ画像を再構成するために少量のスペクトルのみを保持すればよく、周囲の未知の情報を外挿することにより、少ない情報で広範囲のテクスチャ画像を表現することが可能となる。
【0086】
このようなデータ外挿装置は、撮像した画像データの「白とび」や「黒つぶれ」等によって失われた未知の情報を周囲の情報に基づいて高精度に補間する用途に適用して極めて好適であり、また、1色あたり8ビットで表現されている画像を任意のダイナミックレンジに変換することも可能である。したがって、このデータ外挿装置は、近年のディジタルカメラ市場の拡大傾向に照らして極めて有益なものである。
【0087】
さらに、近年では、映画やゲームの製作等にコンピュータ・グラフィックス技術が欠かせないものとなっており、より現実的なコンピュータ・グラフィックスによる表現が求められている。そのためには、3次元オブジェクト表面に貼り付けられる模様であるテクスチャ等もより現実的なものである必要があり、当該分野の研究が多く行われている。このような背景を考慮すると、本周波数解析手法を適用したデータ外挿装置は、3次元モデリングソフトウェアや画像加工ソフトウェア等において用いられるテクスチャを生成する際に、ユーザが、ディジタルカメラ等によって撮像された写真内に含まれる任意の部分を自由に切り出してテクスチャとして3次元オブジェクト表面等に貼り付けて使用するのを可能とし、より現実に近いテクスチャの表現をもたらすことができる。また、このデータ外挿装置は、切り出したテクスチャが小さい場合であっても、外挿処理を施すことによって任意の大きさに拡張することができ、任意の面にマッピングすることも可能である。このように、このデータ外挿装置は、コンピュータ・グラフィックス市場の要求に照らしても極めて有益なものである。
【0088】
なお、本発明は、上述した実施の形態に限定されるものではない。例えば、上述した実施の形態では、画像データの外挿処理について説明したが、本発明は、音声データ等の1次元データは勿論のこと、3次元データである動画像データ等、任意のデータの外挿処理に適用することができる。
【0089】
また、上述した実施の形態では、データ外挿装置によってソフトウェアによる周波数解析を行うものとして説明したが、本発明は、本周波数解析手法を含むデータ外挿処理のアルゴリズムを実装したDSP(Digital Signal Processor)等、積和演算を行うことが可能であればハードウェアによっても実現することができる。
【0090】
このように、本発明は、その趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
【符号の説明】
【0091】
11 CPU
12 ROM
13 RAM
14 記憶部
15 入力操作制御部
16 表示部

【特許請求の範囲】
【請求項1】
各種データを解析して外挿するデータ外挿方法であって、
処理対象となる元データをデータ外挿装置に入力し、メモリに記憶させるデータ入力工程と、
前記データ外挿装置の演算手段が、前記データ入力工程にて入力されて前記メモリに記憶された前記元データを読み出し、当該元データの任意次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような前記周波数f’、前記振幅A’、及び前記初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、データを再構成するために必要な所定本数のスペクトルを抽出するスペクトル抽出工程と、
前記演算手段が、前記スペクトル抽出工程にて抽出されたスペクトルによって構成されるデータに対して任意の定数kを乗算してデータのダイナミックレンジを拡張しながらデータの外挿処理を行い、再構成データを求める外挿工程とを備えること
を特徴とするデータ外挿方法。
【請求項2】
前記演算手段が、前記データ入力工程にて入力されて前記メモリに記憶された前記データから定数Cを差し引いて高周波数成分を量子化によって除去する高周波数成分除去工程を備え、
前記スペクトル抽出工程では、前記演算手段が、前記高周波数成分除去工程にて定数Cが差し引かれたデータについて、前記周波数f’、前記振幅A’、及び前記初期位相φ’を求めてスペクトルを抽出し、
前記外挿工程では、前記演算手段が、前記スペクトル抽出工程にて抽出されたスペクトルに基づいて再構成したデータに対して前記定数Cを加算して前記再構成データを求めること
を特徴とする請求項1記載のデータ外挿方法。
【請求項3】
前記データは、2次元信号である画像データであること
を特徴とする請求項1又は請求項2記載のデータ外挿方法。
【請求項4】
各種データを解析して外挿するデータ外挿装置であって、
処理対象となる元データを入力するデータ入力手段と、
前記データ入力手段を介して入力された前記元データの任意次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような前記周波数f’、前記振幅A’、及び前記初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、データを再構成するために必要な所定本数のスペクトルを抽出するスペクトル抽出手段と、
前記スペクトル抽出手段によって抽出されたスペクトルによって構成されるデータに対して任意の定数kを乗算してデータのダイナミックレンジを拡張しながらデータの外挿処理を行い、再構成データを求める外挿手段とを備えること
を特徴とするデータ外挿装置。
【請求項5】
各種データを解析して外挿するコンピュータ実行可能なデータ外挿プログラムであって、
前記コンピュータを、
処理対象となる元データを入力するデータ入力手段、
前記データ入力手段を介して入力された前記元データの任意次元信号と、周波数f’及び初期位相φ’を用いた位相と振幅A’とによって表される正弦波モデル信号との差の二乗和が最小値になるような前記周波数f’、前記振幅A’、及び前記初期位相φ’を、非周期信号のフーリエ変換式のパラメータとして求め、データを再構成するために必要な所定本数のスペクトルを抽出するスペクトル抽出手段、及び、
前記スペクトル抽出手段によって抽出されたスペクトルによって構成されるデータに対して任意の定数kを乗算してデータのダイナミックレンジを拡張しながらデータの外挿処理を行い、再構成データを求める外挿手段として機能させること
を特徴とするデータ外挿プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−84019(P2013−84019A)
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願番号】特願2010−6234(P2010−6234)
【出願日】平成22年1月14日(2010.1.14)
【出願人】(305060567)国立大学法人富山大学 (194)
【Fターム(参考)】