説明

ノイズ低減装置

【課題】フレーム巡回型ノイズ低減を行ったときに、画面に被写体である移動体の輪郭状に現れる残像を低減する。
【解決手段】動き判定部104は、注目画素から左右方向にそれぞれ複数画素離れた二つの代替画素の内、フレーム間差分値の大きい方の代替画素を動き判定対象の画素として選択する。動き判定部104は、選ばれた代替画素のフレーム間差分値が大きいほど乗算部105に供給する巡回係数(1−K)の値を大とし、かつ、乗算部106に供給する巡回係数Kの値を小とする。これにより、乗算部105からの現フレームの乗算後信号に対して、加算部107において加算される乗算部106からの前フレームの乗算後信号の割合を、注目画素の動きが大きいほど小なる割合とすることで残像を抑え、注目画素の動きが小さいほど大なる割合とすることでノイズを低減することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明はノイズ低減装置に係り、特に映像信号におけるノイズを低減する装置に関する。
【背景技術】
【0002】
映像信号におけるランダムノイズを取り除く技術として、3次元ノイズ低減装置が知られている。この3次元ノイズ低減装置は、映像信号におけるノイズ成分がフレーム間に相関関係がないことに着目し、入力される映像信号の複数のフレーム間の平均を求めて出力することでノイズを低減する。
【0003】
この種の3次元ノイズ低減装置のうち、現在の入力映像信号とフレームメモリからの1フレーム前の映像信号との差分をとり、その差分に巡回係数を乗算した信号と入力映像信号を加減算して、ノイズの低減された映像信号を出力すると共に上記フレームメモリに供給する構成のものがフレーム巡回型ノイズ低減装置である。
【0004】
しかし、このノイズ低減装置は、入力映像信号中の静止画部分においてはノイズを低減できるが、動画部分においては、単純に平均を求めると残像が残ってしまう。そこで、従来は入力映像信号と1フレーム前の出力映像信号間のフレーム間差分値によって動き判定を行い、動画部分に対しては巡回量を減らして残像を抑え、静止画部分においては巡回量を増やしてノイズを低減するようにしている。
【0005】
ここで、上記のフレーム間差分値には動きによる差分とノイズによる差分とが含まれる。このため、フレーム間差分値によって巡回量を制御するノイズ低減装置では、動きの視認性を良くするとノイズによる差分を動きとして誤検出する割合が増える結果ノイズが目立ち、他方、ノイズの抑制を強めると、動きによる差分をノイズとして誤検出する割合が増える結果動きの残像が目立つというトレードオフの関係がある。
【0006】
このため、ノイズと動きを区別する手法が重要である。そこで、特許文献1記載のノイズ低減装置では、まず、図20に示すような注目画素を中心とする15画素のエリア内において、フレーム間差分値の動き画素数とフレーム間差分値の静止画素数をそれぞれ求める。続いて、上記のノイズ低減装置は、それら動き画素数と静止画素数を別々のしきい値と比較して得た比較結果を多数決判定して動きかノイズかを判定し、その判定結果から得た動き度合いを示す信号に応じてノイズに対する係数を設定してノイズ除去を行っている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2007−274067号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、特許文献1記載の周辺画素による多数決判定を用いたノイズ低減装置では、移動体の輪郭状に残像が目立ち、見苦しい映像になってしまう課題がある。その課題の原理を、図21を用いて説明する。
【0009】
図21(a)は、撮像装置により背景1002に対して輝度の高い物体1001が撮影された撮像画面を示す。物体1001はほぼ均一の輝度であり、背景1002もほぼ均一の輝度であるとする。次に、図21(a)の位置にある物体1001は画面上で右に動き始め、図21(b)に示す画面の状態を経て1フレーム後に図21(c)の位置に移動したとする。ここで、図21(b)は、図21(c)の状態からx秒前(xは、1フレーム間隔より短い)の瞬間の物体1001の位置を表しており、点線から分かるように、図21(c)より画面上で左側に位置している。
【0010】
今、撮像装置のシャッタースピードがx秒であるとする。図21(d)に示す画面において、領域#1では、図21(b)〜図21(c)のx秒間に背景1002から物体1001へと移り変わり、領域#2では物体1001から背景1002へと移り変わる。これに対し、領域#3は、x秒間、ほぼ同一の物体1001の輝度にある。このように、シャッタースピードと物体の動く速度との関係に起因する画素に対する露出の違いにより、撮像信号すなわちノイズ低減装置の入力映像信号は、図21(d)に示すように領域#1と領域#2とにおいて、背景1002と物体1001の中間の輝度として表される。
【0011】
従って、図21(a)に示す画面と1フレーム後の図21(d)に示す画面との輝度差は、領域#3に比べ領域#1、領域#2では小さくなる。このため、従来のフレーム巡回ノイズ低減装置では、領域#3を動画部、領域#1及び領域#2を静止部(又は静止と動画の中間部)と判定し、出力される映像信号は図21(e)に示すように、領域#1及び領域#2の画像部分1003が、入力映像信号(図21(d))の物体1001と背景1002の各画像の中間輝度になる。
【0012】
さらに物体1001は動き続けると、1フレーム後、輝度信号すなわちノイズ低減装置への入力映像信号による画像は、上記と同じ理由で図21(f)に示すようになる。ここで、ノイズ低減装置は、図21(e)に示す1フレーム前の映像信号と図21(f)に示す現在のフレームの映像信号とのフレーム間差分値から、領域#1及び領域#2を静止部(又は静止と動画の中間部)と判定すると、図21(g)に示すように輪郭状の残像1004が現れた映像信号を出力する。
【0013】
一旦、輪郭状の残像1004となった領域(画素)は、次フレーム以降も背景に近づきながらも収束するまで静止画として残ってしまうため、見苦しく不快な映像の原因となっている。
【0014】
なお、図21では、モノクロームで説明したが、色差がある場合、色差成分についても同様である。また、領域#1と領域#2を均一の輝度で表現したが、領域#1と領域#2内に複数の画素がある場合、実際には背景輝度から物体輝度内でのグラデーションになる。
【0015】
このように、特許文献1記載の周辺画素による多数決判定を用いたノイズ低減装置では、周辺画素が移動体の輪郭部内に入ってしまうため適切な判定が行えず、輪郭状の残像に対しては効果がない。
【0016】
本発明は以上の点に鑑みなされたもので、注目画素の動き判定結果に応じて巡回係数を増減させて入力映像信号のノイズを低減するフレーム巡回型のノイズ低減を行うときに、画面に被写体である移動体の輪郭状に現れる残像を低減し得るノイズ低減装置を提供することを目的とする。
【課題を解決するための手段】
【0017】
上記の目的を達成するため、第1の発明のノイズ低減装置は、撮像装置から入力される入力映像信号のノイズ低減対象の注目画素に対して、所定方向と所定方向の逆方向とにそれぞれ複数の画素数だけ離れた位置にある二つの代替画素又は代替画素領域のフレーム間差分値をそれぞれ算出するフレーム間差分値算出手段と、二つの代替画素又は代替画素領域のフレーム間差分値のうち大きい方のフレーム間差分値を選択し、その選択したフレーム間差分値が大きいほど大なる値の第1の巡回係数と、選択したフレーム間差分値が小さいほど大なる値の第2の巡回係数とをそれぞれ算出する巡回係数算出手段と、入力映像信号と第1の巡回係数とを乗算して第1の乗算後信号を生成する第1の乗算手段と、入力映像信号より1フレーム前の出力映像信号と第2の巡回係数とを乗算して第2の乗算後信号を生成する第2の乗算手段と、第1及び第2の乗算後信号を加算して出力映像信号を生成する加算手段と、出力映像信号を1フレーム遅延して1フレーム前の出力映像信号を生成する遅延手段とを有することを特徴とする。
【0018】
また、上記の目的を達成するため、第2の発明のノイズ低減装置は、入力映像信号と1フレーム前の入力映像信号の各画素毎のフレーム間差分値の絶対値と動き判定用閾値との比較結果に基づいて入力映像信号中の動き画素を判定する処理を入力映像信号の各フレーム毎に行い、各フレームにおいて動き画素と判定された各画素の重心画素の位置の差に基づいて、撮像素子の被写体である移動体の移動速度を算出する移動体速度算出手段を更に有し、フレーム間差分値算出手段は、注目画素と代替画素又は代替画素領域との間の画素数を、移動体速度算出手段により算出された移動体の移動速度が速いほど大に可変することを特徴とする。
【0019】
更に、上記の目的を達成するため、第3の発明のノイズ低減装置は、ズーム機能を有する撮像手段と、撮像手段から入力される入力映像信号のノイズ低減対象の注目画素に対して、所定方向と所定方向の逆方向とにそれぞれ複数の画素数だけ離れた位置にある二つの代替画素又は代替画素領域のフレーム間差分値をそれぞれ算出するフレーム間差分値算出手段と、入力映像信号と1フレーム前の入力映像信号の各画素毎のフレーム間差分値の絶対値と動き判定用閾値との比較結果に基づいて入力映像信号中の動き画素を判定する処理を入力映像信号の各フレーム毎に行い、各フレームにおいて動き画素と判定された各画素の重心画素の位置の差に基づいて、撮像素子の被写体である移動体の移動速度を算出する移動体速度算出手段と、撮像手段から得たシャッタースピード値及びズーム値のどちらか一方の情報、又はシャッタースピード値とズーム値の両方の情報、又はシャッタースピード値と移動体の移動速度との両方の情報に基づいて、注目画素と代替画素又は代替画素領域との間の画素数を可変する画素数可変手段と、二つの代替画素又は代替画素領域のフレーム間差分値のうち大きい方のフレーム間差分値を選択し、その選択したフレーム間差分値が大きいほど大なる値の第1の巡回係数と、選択したフレーム間差分値が小さいほど大なる値の第2の巡回係数とを算出する巡回係数算出手段と、入力映像信号と第1の巡回係数とを乗算して第1の乗算後信号を生成する第1の乗算手段と、入力映像信号より1フレーム前の出力映像信号と第2の巡回係数とを乗算して第2の乗算後信号を生成する第2の乗算手段と、第1及び第2の乗算後信号を加算して出力映像信号を生成する加算手段と、出力映像信号を1フレーム遅延して1フレーム前の出力映像信号を生成する遅延手段とを有することを特徴とする。
【発明の効果】
【0020】
本発明によれば、注目画素に対して複数の画素数だけ離れた位置にある代替画素又は代替画素領域のフレーム間差分値に基づいて注目画素の動き判定を行うことで、フレーム巡回型のノイズ低減を行うときに、画面に被写体である移動体の輪郭状に現れる残像を低減することができる。
【図面の簡単な説明】
【0021】
【図1】本発明のノイズ低減装置の第1の実施の形態のブロック図である。
【図2】図1中の動き判定部で動き判定に用いる注目画素と代替画素との間の画素数の一例を示す図である。
【図3】図1中の動き判定部におけるフレーム間差分値対巡回係数特性の一例を示す図である。
【図4】撮影状況の一例を示す上面図である。
【図5】図1中の動き判定部で動き判定に用いる注目画素と代替画素領域との間の画素数の一例を示す図である。
【図6】図1中の動き判定部におけるフレーム間差分値対巡回係数特性の他の例を示す図である。
【図7】本発明のノイズ低減装置の第1の実施の形態における動き判定部の一例の動作説明用フローチャートである。
【図8】本発明のノイズ低減装置の第1の実施の形態における動き判定部の他の例の動作説明用フローチャートである。
【図9】本発明のノイズ低減装置の第2の実施の形態のブロック図である。
【図10】本発明のノイズ低減装置の第3の実施の携帯のブロック図である。
【図11】1フレームの画素構成を示す図である。
【図12】本発明のノイズ低減装置の第3の実施の形態における動き判定部の動作説明用フローチャートである。
【図13】本発明のノイズ低減装置の第3の実施の形態の変形例における動き判定部の動作説明用フローチャートである。
【図14】1フレームの画面のブロック分割の一例を示す図である。
【図15】2つの移動体の移動履歴の一例を示す図である。
【図16】図15の2つの移動体を例に、図13による動作の説明を補足する図(その1)である。
【図17】図15の2つの移動体を例に、図13による動作の説明を補足する図(その2)である。
【図18】図14中の一つのブロックB(1,4)の画素構成を示す図である。
【図19】図14と異なるブロック分割における画素構成例を示す図である。
【図20】特許文献1を説明する図である。
【図21】従来のフレーム巡回型ノイズ低減装置の課題説明図である。
【発明を実施するための形態】
【0022】
次に、本発明の各実施の形態について、図面を参照して説明する。
【0023】
(第1の実施の形態)
図1は、本発明になるノイズ低減装置の第1の実施の形態のブロック図を示す。同図において、本実施の形態のノイズ低減装置100は、撮像素子(図示せず)により撮像して得られたランダムノイズの含まれた映像信号が入力される入力端子101と、減算部102と、フレームメモリ103と、動き判定部104と、乗算部105及び106と、加算部107と、映像信号の出力端子108とより構成される。
【0024】
減算部102は、入力端子101を介して入力される映像信号とフレームメモリ103に記憶された1フレーム前の出力映像信号との輝度又は色差成分の差分をとり、その差分信号を動き判定部104へ送出する。動き判定部104は、減算部102から入力される差分信号を基に後述の方法で動き量を判定し、動き量に基づいて巡回係数K(0以上1以下)を発生する。
【0025】
乗算部105は、入力端子101を介して入力される映像信号に動き判定部104で発生された第1の巡回係数(1−K)を乗じる。また、乗算部106は、1フレーム前の映像信号に動き判定部104で発生された第2の巡回係数Kを乗じる。加算部107は、乗算部105及び106からそれぞれ出力される乗算後信号を加算して出力映像信号を映像信号出力端子108に出力すると共にフレームメモリ103へ供給して1フレーム分を記憶する。フレームメモリ103は映像信号出力端子108への出力映像信号を1フレーム期間遅延して乗算部106へ供給する。
【0026】
本実施の形態のノイズ低減装置100は、動き判定部104による動き判定による巡回係数の決定方法に特徴があり、以下その特徴について説明する。
【0027】
まず、動き判定部104における動き判定方法を図2〜図8を用いて説明する。
【0028】
動き判定部104は、図2に示す注目画素150について動き判定を行う場合、この注目画素150自身の動きを判定するのではなく、注目画素150から左方向に(p+1)画素離れた代替画素L、または右方向に(p+1)画素離れた代替画素Rのどちらかの代替画素におけるフレーム間差分値に基づいて動き判定を行う。ここでは、左右の代替画素L,Rの内、フレーム間差分値の大きい方の代替画素を動き判定対象の画素として選択する。フレーム間差分値の大きい代替画素の方が、被写体の動きをより確実に判定できるからである。なお、画素数pは後述するように設定された値であるとする。
【0029】
図3は、動き判定部104におけるフレーム間差分値対巡回係数特性の一例を示す。動き判定部104は、選ばれた代替画素のフレーム間差分値により、注目画素150の巡回係数Kを図3に示したフレーム間差分値対巡回係数特性に従って決定する。これにより、動き判定部104は、選ばれた代替画素のフレーム間差分値が大きいほど注目画素の動きが大きいと判断して乗算部105に供給する第1の巡回係数(1−K)の値を大とし、かつ、乗算部106に供給する第2の巡回係数Kの値を小とする。他方、動き判定部104は、選ばれた代替画素のフレーム間差分値が小さいほど注目画素の動きが小さいと判断して乗算部105に供給する第1の巡回係数(1−K)の値を小とし、かつ、乗算部106に供給する第2の巡回係数Kの値を大とする。
【0030】
これにより、本実施の形態のノイズ低減装置100は、入力端子101を介して入力される撮像素子からの映像信号と第1の巡回係数(1−K)を乗算した現フレームの乗算後信号に対して、加算部107において加算される乗算部106からの前フレームの映像信号に第2の巡回係数Kを乗算した前フレームの乗算後信号の割合を、動き判定部104による動き判定結果が注目画素の動きが大きいほど小なる割合とする(巡回量を減らす)ことで残像を抑え、注目画素の動きが小さいほど大なる割合とする(巡回量を増やす)ことでノイズを低減することができる。
【0031】
前述の通り、従来のノイズ低減装置では、被写体として撮影された移動体の映像信号の輪郭部分は背景との中間輝度となるため動き量の判定が正しく行えない。これに対し、本実施の形態の動き判定部104は、注目画素の左右のどちらかには現れる、中間輝度から外れたフレーム間差分値の大きい方の画素を動き判定対象の画素として使用することで、注目画素の動き判定を精度良く行うことができる。
【0032】
次に、図2の画素数pの設定方法について説明する。画素数pは、撮影状況に応じて適切な値に予め設定される。例えば、図1の入力端子101に映像信号を供給する撮像素子が監視カメラの撮像素子の場合は、画素数pは次のような条件に基づいて設定される。
【0033】
図4の上面図に示すように、水平画素数1280画素、シャッタースピード1/60秒の監視カメラ1101から5メートル離れた被写体を、監視カメラ1101が水平画角60°の撮影範囲1102で撮像しているものとする。ここで、被写体は、例えば、想定移動速度2メートル/秒(急歩程度)で図4に矢印1103で示す方向に移動する移動体であるものとする。
【0034】
図4に示した監視カメラ1101の撮影範囲1102は、実距離約5.77(=2×5×tan30°)メートルである。また、監視カメラ1101の水平画素数は1280画素である。従って、撮影範囲1102内の2メートルは約443(=2×1280÷5.77)画素に相当するため、被写体である移動体が撮影範囲1102内を移動方向1103に進むときの移動速度(以下、移動体速度ともいう)は、443画素/秒になる。
【0035】
今、シャッタースピードが1/60秒であるので、中間輝度となる領域は、約7画素(=443画素/60)となる。図2に示した代替画素Lと代替画素Rとの間は(2p+1)画素である。従って、画素数pは「3」と設定される。
【0036】
なお、代替画素は、図2に示したように、1画素とは限らず、図5に示すように注目画素150から左方向に(p+1)画素離れた位置のn画素(nは2以上の自然数)からなる代替画素領域151、または右方向に(p+1)画素離れた位置のn画素からなる代替画素領域152のような水平方向に並ぶn個の画素としてもよい。
【0037】
次に、図5に示すように代替画素領域を複数画素とした場合の巡回係数の決定方法について説明する。図6は、この場合の動き判定部104におけるフレーム間差分値対巡回係数特性の一例を示す。また、図7は、この場合の動き判定部104による巡回係数の決定方法の一例の説明用フローチャートである。
【0038】
図1の動き判定部104は、図5の代替画素領域151または152において、代替画素領域を構成するn画素のうち予め設定されたm画素(mはn以下の自然数)以上において、フレーム間差分値が最大の閾値TH1以上であるか否かを判定する(ステップS1)。フレーム間差分値が閾値TH1以上の画素がm画素以上ある場合は、動き判定部104は、注目画素150は大きな動きのある画素と判定して巡回係数Kを「0」とする(ステップS2)。
【0039】
n画素のうちフレーム間差分値が閾値TH1以上の画素がm画素以上ない場合は、代替画素領域151または152において、代替画素領域を構成するn画素のうち予め設定されたm画素以上において、フレーム間差分値が閾値TH2(TH2<TH1)以上であるか否かを判定する(ステップS3)。フレーム間差分値が閾値TH2以上の画素がm画素以上ある場合は、動き判定部104は、注目画素150は比較的大きな動きのある画素と判定して巡回係数Kを図6に示した小さな値K1とする(ステップS4)。
【0040】
以下同様に続け、代替画素領域151または152において、代替画素領域を構成するn画素のうち予め設定されたm画素以上のフレーム間差分値が最小の閾値THj(THj<・・・<TH2<TH1)以上であるか否かを判定する(ステップS5)。フレーム間差分値が閾値THj以上の画素がm画素以上ある場合は、動き判定部104は、注目画素150は比較的小さな動きのある画素と判定して巡回係数Kを図6に示した大きな値Kiとする(ステップS6)。他方、ステップS5において、フレーム間差分値が閾値THj以上の画素がm画素以上ないと判定した場合は、動き判定部104は、注目画素150は殆ど動きのない画素と判定して巡回係数Kを図6に示した最大値Kjとする(ステップS7)。
【0041】
このように、動き判定部104は、複数画素の多数決判定結果を動き判定に用いるようにしているため、代替画素領域151、152にランダムノイズが現れるような場合でも、ランダムノイズの影響を排除することができ、精度良く動きの大きさを判定することができる。
【0042】
なお、代替画素と代替画素領域の取り方は、図2、図5に限ったものではない、例えば注目画素と別のラインの画素を代替画素または代替画素領域に入れてもよい。
【0043】
ところで、以上説明した方法では、空間サイズが(2p+1)画素以下の移動体があった場合、静止部と判定されたり、単なる静止部分を動きと判定してしまう可能性もある。
【0044】
そこで、このような可能性をなくすため、本実施の形態の変形例では、動き判定部104は代替画素または代替画素領域だけで判定するのでなく、例えば図8のフローチャートに示す手順に従い、注目画素の結果と併せて判定する。
【0045】
図8において、動き判定部104は、注目画素150におけるフレーム間差分値が、THx以上であるか否かを判定する(ステップS11)。閾値THxは、注目画素150のフレーム間差分値の結果だけで動き部分であると判定できる十分大きな値である。動き判定部104は、注目画素150におけるフレーム間差分値が閾値の最大値THx以上であると判定したときは、注目画素150は動き部分であると判断して巡回係数Kを「0」に設定する(ステップS12)。
【0046】
一方、動き判定部104は、ステップS11において注目画素150におけるフレーム間差分値が閾値の最大値THx以上でないと判定したときは、注目画素150におけるフレーム間差分値が、最小の閾値THy以下であるか否かを判定する(ステップS12)。閾値THyは、注目画素150のフレーム間差分値の結果だけで静止部であると判断できる十分小さな値である。
【0047】
動き判定部104は、注目画素150におけるフレーム間差分値が最小の閾値THy以下であると判定したときは、注目画素150は静止部であると判断して巡回係数Kを「1」に近い大きな値Kj(例えば0.8)に設定する(ステップS14)。動き判定部104は、注目画素150におけるフレーム間差分値が最小の閾値THy以下でないと判定したときは、注目画素150は注目画素のフレーム間差分値だけでは注目画素が静止部か動き部分か判断できないので、代替画素または代替画素領域により巡回係数を決定する(ステップS15)。ステップS15では図2に示した代替画素を用いる場合は図3に示したフレーム間差分値対巡回係数特性に従い巡回係数を決定し、図5に示した代替画素領域151、152を用いる場合は図7に示したフローチャートと図6に示したフレーム間差分値対巡回係数特性に従い巡回係数を決定する。
【0048】
なお、図8のフローチャートにおいて、注目画素による判定を、注目画素の周辺における(2p+1)画素での判定を用いてもよい。ただし、この場合は、図8に示したステップS11、S13を以下の処理を行うステップに置き換える必要がある。すなわち、ステップS11は、注目画素の水平方向周辺の(2p+1)画素のうち予め設定されたs画素(sは2p+1以下の自然数)以上のフレーム間差分値が閾値THx以上であるかを判定するステップに置き換える。また、図8に示したステップS13は、注目画素周辺の(2p+1)画素のうち予め設定されたs画素以上のフレーム間差分値が閾値THy以下であるかを判定するステップに置き換える。
【0049】
このように、本実施の形態によれば、注目画素150から画素数pだけ水平方向に隔てた代替画素又は代替画素領域のフレーム間差分値に基づいて注目画素150の動き量を判定するようにしているため、撮像画面に輪郭状に現れる移動体の残像を低減することができる。
【0050】
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。図9は、本発明になるノイズ低減装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
【0051】
図9に示すように、本実施の形態のノイズ低減装置200は、撮像素子(図示せず)により撮像して得られたランダムノイズの含まれた映像信号が入力される入力端子101と、減算部102と、フレームメモリ103と、乗算部105及び106と、加算部107と、映像信号の出力端子108と、撮像設定値取得部201と、動き判定部204とより構成される。
【0052】
撮像設定値取得部201は、撮像部(図示せず)のシャッタースピードを取得するシャッタースピード取得手段202と、撮像部のズーム値を取得するズーム値取得手段203とからなる。動き判定部204は、減算部102からのフレーム間差分値だけでなく、撮像設定値取得部201により取得されたシャッタースピード及びズーム値に応じて、前述した画素数pを適応的に可変設定して巡回係数Kを算出する。
【0053】
前述した第1の実施の形態のノイズ低減装置100では、画素数pが固定値であるため、移動体速度によっては画素数pが少なすぎて代替画素(又は代替画素領域)が中間輝度の領域に入ってしまい正しく動き量を判定できなかったり、他方、画素数pが多すぎて代替画素(又は代替画素領域)が移動体から外れてしまう可能性もある。そこで、本実施の形態のノイズ低減装置200は、動き量の判定精度を向上するために、画素数pを適応的に変化させることを特徴とする。
【0054】
前述した通り、画面において被写体である移動体と背景との中間輝度となる残像は、シャッタースピードと移動体の移動速度との関係に起因する画素に対する露出の違いにより生じるものである。従って、移動体の移動速度(画面上で単位時間に進む画素数)が同じであれば、シャッタースピードが速いほど中間輝度領域は狭くなる。そこで、本実施の形態における動き判定部204は、シャッタースピードが速くなるに従って画素数pを小さくするよう制御する。
【0055】
また、移動体速度は、実際には同じ速さで動いている移動体でも、ズーム値が大きいほど、単位時間に進む画素数は増える。そこで、本実施の形態における動き判定部204は、ズーム値が大きくなるに従って画素数pを大きくするよう制御する。
【0056】
例えば、第1の実施の形態の条件、被写体とカメラの距離が5メートル、カメラの水平画素数が1280画素、想定移動体速度が2メートル/秒(急歩程度)において、シャッタースピードがx秒に変化し、ズーム値が前条件時のy倍に変化したとすると、動き判定部204は画素数pを次式に基づいて設定する。
【0057】
p=443・x・y/2 (小数点以下切捨て) (1)
ここで、上式の「443」は前述した移動体が移動する1秒当たりの画素数の「443」である。これにより、例えば、シャッタースピードxが1/100秒に、ズーム値yが3倍に変化した場合、上式から画素数pは「6」に設定される。
【0058】
このように、本実施の形態によれば、動き判定部204がフレーム間差分値に基づいて算出した画素数pを、シャッタースピード取得手段202で取得されたシャッタースピードが速いほど画素数pを小さな値に可変調整し、ズーム値取得手段203で取得されたズーム値が大きいほど画素数pを大きな値に可変調整することで、画素数pをより適切な値に設定することができるため、移動体速度やズーム値に応じて巡回係数をより適切に決定し、残像を精度良く低減することができる。
【0059】
(第3の実施の形態)
次に、本発明の第3の実施の形態について説明する。図10は、本発明になるノイズ低減装置の第3の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
【0060】
図10に示すように、本実施の形態のノイズ低減装置300は、撮像素子(図示せず)により撮像して得られたランダムノイズの含まれた映像信号が入力される入力端子101と、減算部102と、フレームメモリ103と、乗算部105及び106と、加算部107と、映像信号の出力端子108と、シャッタースピード取得手段301と、輪郭画素数算出部302と、重心画素記録部303と、動き判定部304とより構成される。
【0061】
シャッタースピード取得手段301は、撮像部(図示せず)のシャッタースピードを取得する。輪郭画素数算出部302は、後述するように減算部102から供給されるフレーム間差分信号から1フレーム内の動き画素の水平方向の重心画素を求めた後、その重心画素に基づいて移動体速度を算出し、更にその移動体速度から画素数pを求める。輪郭画素数算出部302は、算出した画素数pを動き判定部304に供給すると共に、算出した重心画素を重心画素記録部303に記録し、移動体速度算出時に重心画素記録部303から記録されている重心画素を読み出す。
【0062】
動き判定部304は、減算部102から供給されるフレーム間差分信号と、輪郭画素数算出部302から供給される画素数pとに基づいて、巡回係数Kを図1の動き検出部104と同様の動作により巡回係数Kを算出し、その巡回係数Kを乗算部106へ出力し、巡回係数(1−K)を乗算部105へ出力する。
【0063】
次に、輪郭画素数算出部302における移動体の速度と画素数pの算出方法を図11及び図12のフローチャートを参照して説明する。図11は、入力映像信号の1フレーム(水平n画素、垂直m画素)の全画素を表す。図12は、画素数pを求める手順の一例を示すフローチャートである。
【0064】
輪郭画素数算出部302は、まず、図11に示す入力映像信号の1フレームの垂直方向i番目(iはm以下の自然数)、水平方向j番目(jはn以下の自然数)の画素X(i,j)と、1フレーム前の同じ位置の画素Y(i,j)(図示せず)との差分の絶対値|X(i,j)−Y(i,j)|が、予め設定された閾値THより大きいか否かを判断する。大きい場合は、その画素を動きがあった画素(以後、動き画素)と判断し、否の場合は、その画素を静止画素と判断する(ステップS21)。輪郭画素数算出部302は、上記のステップS21の処理を、1フレームの全画素が終了するまで繰り返す(ステップS22)。
【0065】
次に、輪郭画素数算出部302は、1フレーム内の動き画素について、次式により水平方向の重心画素を求め、その重心画素を重心画素記録部303に記録する(ステップS23)。
【0066】
重心画素=(動き画素の水平方向の座標値jの合計)/動き画素の全数 (2)
続いて、輪郭画素数算出部302は、1フレーム前の動き画素の重心画素を重心画素記録部303から読み出し、次式により、移動体速度(単位:画素/秒)を算出する(ステップS24)。
【0067】
移動体速度=(現フレームの重心画素−1フレーム前の重心画素)/フレーム間隔
(3)
ただし、現フレームに動き画素がない場合は、中間輝度領域が存在しないので移動体速度は「0」とする。また、1フレーム前のみ動き画素がない場合は、次式により、移動体速度を算出する。
【0068】
移動体速度=(n/2)−|現フレームの重心画素−(n/2)| (4)
すなわち、1フレームの左右近いほうの端から重心画素までの移動距離を基に移動体速度を当てはめる。
【0069】
続いて、輪郭画素数算出部302は、シャッタースピード取得手段301から得られるシャッタースピードと、ステップS24で算出した移動体速度とにより、次式に基づいて画素数pを算出する(ステップS25)。
【0070】
p=(移動体速度×シャッタースピード)/2 (小数点以下切捨て) (5)
例えば、移動体速度が400(画素/秒)、シャッタースピードが1/60(秒)であった場合、画素数pは(5)式から3画素となる。
【0071】
最後に、輪郭画素数算出部302は、画素数pを動き判定部304へ送出する(ステップS26)。
【0072】
動き判定部304は、輪郭画素数算出部302において算出された画素数pを、次のフレームで参照して動き判定して巡回係数Kを算出することとなる。この動き判定部304の動作は、図2〜図8で述べた動き判定部104と同じであるので、その説明は省略する。
【0073】
なお、上記の説明において、輪郭画素数算出部302は画素数pを毎フレーム算出して最新の値を動き判定部304へ送出しているが、例えば3フレーム分等幾つかの値の平均を採用してもよい。
【0074】
以上のようにして、移動体速度を算出し画素数pを求めることができる。ただし、移動体が一画面内に複数個存在する場合は、動き画素の重心では移動体速度が正しく求められない。
【0075】
図15は、異なる方向に進む2つの移動体A及びBの1フレーム毎の移動履歴の一例を表す。図15に示すように、異なる方向に進む2つの移動体A及びBが存在する場合、図12に示したフローチャートによる方法では移動体速度が相殺されてしまい、正しく画素数pを算出することができない。
【0076】
そこで、以下図13〜図18と共に説明する第3の実施の形態の変形例では、計算量は多くなるが、移動体が複数ある場合でも正確に画素数pを算出する。
【0077】
図13は、上記変形例における画素数pを求める手順の一例を示すフローチャートである。輪郭画素数算出部302は、まず、ブロック内の各画素の動き判定を行う(ステップS31)。ステップS31におけるブロックは、例えば図14に示すように、入力映像信号の1フレームを水平方向4ブロック、垂直方向4ブロックに分割した計16個の矩形領域B(1,1)〜B(4,4)である。
【0078】
そして、輪郭画素数算出部302は、ステップS31において、上記の16個のブロックのうち最初の一つのブロックB(1,1)において、1フレームの垂直方向g番目(gはm/4以下の自然数)、水平方向h番目(hはn/4以下の自然数)の画素X(g,h)と、1フレーム前の同じ位置の画素Y(g,h)(図示せず)との差分の絶対値|X(g,h)−Y(g,h)|が、予め設定された閾値THより大きいか否かを判断する。大きい場合は、その画素を動きがあった画素(以後、動き画素)と判断し、否の場合は、その画素を静止画素と判断する。輪郭画素数算出部302は、上記のステップS31の処理を、1つのブロックの全画素が終了するまで繰り返す(ステップS32)。つまり、画素が、X(1,1)、X(1,2)、・・・、X(1,n)、X(2,1)、X(2,2)、・・・の順に入力されるとき、画素X(m/4,n/4)までが最初のブロックB(1,1)の全画素である。
【0079】
次に、輪郭画素数算出部302は、1ブロック内の動き画素について、次式により水平方向の重心画素を算出し、算出した重心画素を重心画素記録部303に記録する(ステップS33)。
【0080】
重心画素=(1ブロック内の動き画素の水平方向の座標値hの合計)/(1ブロック内
の動き画素の全数) (6)
続いて、輪郭画素数算出部302は、1フレーム前の該当ブロックにおける動き画素の重心画素を重心画素記録部303から読み出し、次式により、移動体速度(単位:画素/秒)を算出する(ステップS34)。
【0081】
移動体速度=|現フレームの重心画素−1フレーム前の重心画素|/フレーム間隔
(7)
ただし、1フレーム前もしくは現フレームの該当ブロックのどちらかに動き画素がない場合は、移動体速度を「0」とする。
【0082】
続いて、輪郭画素数算出部302は、シャッタースピード取得手段301から得られるシャッタースピードと、ステップS34で算出した移動体速度とにより、次式に基づいて画素数pを算出する(ステップS35)。
【0083】
p=(移動体速度×シャッタースピード)/2 (小数点以下切捨て) (8)
そして、輪郭画素数算出部302は、画素数pを動き判定部304へ送出する(ステップS36)。ステップS35で算出した画素数pは一つのブロックについての画素数であるので、続いて輪郭画素数算出部302は、1フレームの残りのブロックのすべてについて画素数pの算出が終了するまで、上記のステップS31〜ステップS36の処理を繰り返す(ステップS37)。1フレームの全ブロックについて画素数pの算出が終わると、処理完了となる。
【0084】
次に、図15に示した2つの移動体A及びBを例に、図16及び図17を用いて、動作の説明を補足する。図16、図17は、それぞれフレーム2、フレーム3における動きが検出された領域とブロック内の重心位置を示す。
【0085】
すなわち、フレーム2において、領域2aは、フレーム1からフレーム2までの期間に移動体Aが移動したことによって、背景から移動体Aが新たに現れた差分による動き検出領域であり、領域1aは移動体Aがいなくなった差分による動き検出領域である。間の白部分は、フレーム間で移動体A自身しか通過していないので差分が少なく、動き検出領域とはならない。×印は、ブロックB(2,4)とブロックB(3,4)のブロック内重心位置を示している。
【0086】
また、フレーム2において、領域2bは、フレーム1からフレーム2までの期間に移動体Bが移動したことによって、背景から移動体Bが新たに現れた差分による動き検出領域であり、領域1bは移動体Bがいなくなった差分による動き検出領域である。×印は、ブロックB(1,1)とブロックB(1,2)のブロック内重心位置を示している。
【0087】
同様に、フレーム3において、領域3aは、フレーム2からフレーム3までの期間に移動体Aが移動したことによって、背景から移動体Aが新たに現れた差分による動き検出領域であり、領域2aは移動体Aがいなくなった差分による動き検出領域である。間の白部分は、フレーム間で移動体A自身しか通過していないので差分が少なく、動き検出領域とはならない。×印は、ブロックB(2,4)とブロックB(3,4)のブロック内重心位置を示している。
【0088】
また、フレーム3において、領域3bは、フレーム2からフレーム3までの期間に移動体Bが移動したことによって、背景から移動体Bが新たに現れた差分による動き検出領域であり、領域2bは移動体Bがいなくなった差分による動き検出領域である。×印は、ブロックB(1,1)とブロックB(1,2)のブロック内重心位置を示している。
【0089】
このように、図16及び図17から分かる通り、ブロックB(1,1)、B(1,2)、B(2,4)、B(3,4)のそれぞれで、2つの移動体の動きが検出された領域が干渉することなく移動体速度と画素数pを求めることができる。
【0090】
動き判定部304は、上記のように求まったブロック毎の画素数pを、該当ブロック内のすべての画素の動き判定に用いる。例えばブロックB(1,4)には、図18に示すn・m/16個の画素X(1,(3n/4)+1)〜画素X(m/4,n)が存在する。このブロックB(1,4)における移動体速度は、ブロック内の最後の画素X(m/4,n)が入力された以降に求まる。
【0091】
従って、最初の画素X(1,(3n/4)+1)から動き判定を行うためには、動き判定部304は、m/4ライン分データをメモリに保存しておけば、移動体速度が求まった後に動き判定を行うことができる。また、メモリを持たない構成とする場合は、求まった画素数pを次のフレームで採用してもよい。動き判定部304の動作は、図2〜図8で説明した動き判定部104の動作と同じである。
【0092】
なお、上記では分割ブロックは固定であるが、動き判定する画素毎に変動してもよい。例えば、図18に表されたブロックB(1,4)内の画素のうち、ブロックB(1,3)及びブロックB(2,4)にそれぞれ隣接する画素X(m/4,(3n/4)+1)について動き判定を行う場合、図19に示すようにその画素X(m/4,(3n/4)+1)を中心とした水平方向n/4画素、垂直方向m/4画素の一つのブロックを構成し、そのブロック内で求められた画素数pを採用してもよい。
【0093】
なお、本発明は以上の実施の形態及び変形例に限定されるものではなく、例えば、図9や図10に示した第2及び第3の実施の形態ではシャッタースピードに応じて、注目画素と代替画素又は代替画素領域との間の水平方向の画素数pを算出するように説明したが、シャッタースピードを予め標準値に固定しておき、移動体速度のみで画素数pを算出するようにしてもよい。また、図9に示した第2の実施の形態では、画素数pをズーム値のみ、又はシャッタースピードのみに応じて変更するようにしてもよい。更に、図10に示した第3の実施の形態では、(5)式によりシャッタースピードと移動体速度に応じて画素数pを決定したが、本発明は、画素数pをズーム値と移動体速度とにより変更する方法も包含するものである。また、更に、巡回係数Kは、フレーム間差分値に対して図3又は図6に示す特性とは逆の特性でもよい。ただし、その場合は、動き判定部104、204、304は乗算部105には第1の巡回係数Kを供給し、乗算部106には第2の巡回係数(1−K)を供給する必要がある。
【0094】
なお、上記各実施例は、説明を簡単にするために、水平方向におけるノイズ低減の例を主に説明したが、本発明は、垂直方向や斜め方向に対してももちろん適用可能である。
【0095】
また、本発明は上記した装置の機能をコンピュータに実現させるためのプログラムを含むものである。これらのプログラムは、記録媒体から読み取られてコンピュータに取り込まれてもよいし、通信ネットワークを介して伝送されてコンピュータに取り込まれてもよい。
【符号の説明】
【0096】
100、200、300 ノイズ低減装置
101 映像信号入力端子
102 減算部
103 フレームメモリ
104、204、304 動き判定部
105、106 乗算部
107 加算部
108 映像信号出力端子
150 注目画素
151、152 代替画素領域
201 撮像設定値取得部
202、301 シャッタースピード取得手段
203 ズーム値取得手段
302 輪郭画素数算出部
303 重心画素記録部
1101 監視カメラ



【特許請求の範囲】
【請求項1】
撮像装置から入力される入力映像信号のノイズ低減対象の注目画素に対して、所定方向と前記所定方向の逆方向とにそれぞれ複数の画素数だけ離れた位置にある二つの代替画素又は代替画素領域のフレーム間差分値をそれぞれ算出するフレーム間差分値算出手段と、
前記二つの代替画素又は代替画素領域の前記フレーム間差分値のうち大きい方のフレーム間差分値を選択し、その選択したフレーム間差分値が大きいほど大なる値の第1の巡回係数と、前記選択したフレーム間差分値が小さいほど大なる値の第2の巡回係数とをそれぞれ算出する巡回係数算出手段と、
前記入力映像信号と前記第1の巡回係数とを乗算して第1の乗算後信号を生成する第1の乗算手段と、
前記入力映像信号より1フレーム前の出力映像信号と前記第2の巡回係数とを乗算して第2の乗算後信号を生成する第2の乗算手段と、
前記第1及び第2の乗算後信号を加算して出力映像信号を生成する加算手段と、
前記出力映像信号を1フレーム遅延して前記1フレーム前の出力映像信号を生成する遅延手段と
を有することを特徴とするノイズ低減装置。
【請求項2】
前記入力映像信号と1フレーム前の前記入力映像信号の各画素毎のフレーム間差分値の絶対値と動き判定用閾値との比較結果に基づいて前記入力映像信号中の動き画素を判定する処理を前記入力映像信号の各フレーム毎に行い、各フレームにおいて動き画素と判定された各画素の重心画素の位置の差に基づいて、前記撮像素子の被写体である移動体の移動速度を算出する移動体速度算出手段を更に有し、
前記フレーム間差分値算出手段は、前記注目画素と前記代替画素又は前記代替画素領域との間の前記画素数を、前記移動体速度算出手段により算出された前記移動体の移動速度が速いほど大に可変することを特徴とする請求項1記載のノイズ低減装置。
【請求項3】
ズーム機能を有する撮像手段と、
前記撮像手段から入力される入力映像信号のノイズ低減対象の注目画素に対して、所定方向と前記所定方向の逆方向とにそれぞれ複数の画素数だけ離れた位置にある二つの代替画素又は代替画素領域のフレーム間差分値をそれぞれ算出するフレーム間差分値算出手段と、
前記入力映像信号と1フレーム前の前記入力映像信号の各画素毎のフレーム間差分値の絶対値と動き判定用閾値との比較結果に基づいて前記入力映像信号中の動き画素を判定する処理を前記入力映像信号の各フレーム毎に行い、各フレームにおいて動き画素と判定された各画素の重心画素の位置の差に基づいて、前記撮像素子の被写体である移動体の移動速度を算出する移動体速度算出手段と、
前記撮像手段から得たシャッタースピード値及びズーム値のどちらか一方の情報、又は前記シャッタースピード値と前記ズーム値の両方の情報、又は前記シャッタースピード値と前記移動体の移動速度との両方の情報に基づいて、前記注目画素と前記代替画素又は前記代替画素領域との間の前記画素数を可変する画素数可変手段と、
前記二つの代替画素又は代替画素領域の前記フレーム間差分値のうち大きい方のフレーム間差分値を選択し、その選択したフレーム間差分値が大きいほど大なる値の第1の巡回係数と、前記選択したフレーム間差分値が小さいほど大なる値の第2の巡回係数とを算出する巡回係数算出手段と、
前記入力映像信号と前記第1の巡回係数とを乗算して第1の乗算後信号を生成する第1の乗算手段と、
前記入力映像信号より1フレーム前の出力映像信号と前記第2の巡回係数とを乗算して第2の乗算後信号を生成する第2の乗算手段と、
前記第1及び第2の乗算後信号を加算して出力映像信号を生成する加算手段と、
前記出力映像信号を1フレーム遅延して前記1フレーム前の出力映像信号を生成する遅延手段と
を有することを特徴とするノイズ低減装置。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図21】
image rotate


【公開番号】特開2011−171795(P2011−171795A)
【公開日】平成23年9月1日(2011.9.1)
【国際特許分類】
【出願番号】特願2010−31050(P2010−31050)
【出願日】平成22年2月16日(2010.2.16)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】