画像処理方法及び装置
【課題】
シンプルな構成で空間分解能を向上させることができ、低コストで汎用性を備えたイメージング手法を提供する。
【解決手段】
対象の位置を固定して、対象の 画像をベース画像として取得するステップと、対象あるいは/および画像取得装置の測定系を移動させることで、前記ベース画像に対して結像面内で所定量シフトしたN枚のシフト画像(N≧1)を取得するステップと、前記ベース画像と各シフト画像の同じ座標の画素同士の差分からN枚の差分画像(N≧1)を取得するステップと、前記N枚の差分画像を加算して対象の差分積算画像を取得するステップと、からなる。
シンプルな構成で空間分解能を向上させることができ、低コストで汎用性を備えたイメージング手法を提供する。
【解決手段】
対象の位置を固定して、対象の 画像をベース画像として取得するステップと、対象あるいは/および画像取得装置の測定系を移動させることで、前記ベース画像に対して結像面内で所定量シフトしたN枚のシフト画像(N≧1)を取得するステップと、前記ベース画像と各シフト画像の同じ座標の画素同士の差分からN枚の差分画像(N≧1)を取得するステップと、前記N枚の差分画像を加算して対象の差分積算画像を取得するステップと、からなる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理方法及び装置に係り、より詳しくは、対象の情報(位置、明るさ、色、磁化等の物理的情報)を、画像化、視覚化する、計測技術としてのイメージング分野に関するものである。
【背景技術】
【0002】
ナノスケール、マイクロスケールといった微細な構造からの信号や、マクロなスケールであっても、微弱な信号の変化を捉えるためには、特殊な光学系や検出器を組み合わせる必要がある。例えば、一原子層の炭素膜であるグラフェンは、マイクロメートルのサイズスケールであり、さらに反射率が低いことから、高倍率、高精度の光学顕微鏡やCCDカメラ、特殊なフィルタ等を組み合わせることにより、はじめて観察が可能となる。
【0003】
すなわち、通常、見えないものを見えるようにする、いわゆるイメージング技術は、概して高価で特殊な装置に頼らざるを得ない状況にある。このことは、経済性の面で問題が多く、既存の装置に組み込む等の柔軟性や、新たな分野への利用する際の汎用性にも課題がある。
【0004】
本発明は、計測対象と測定系との相対的位置をシフトさせて取得した複数の画像を用いてかかる課題に対処しようとするものである。従来、デジタルカメラの手ぶれ補正等に代表されるように、対象を精密に測定するためには対象ないし測定系をしっかりと固定させるという固定観念があった。本発明は、計測対象と測定系との相対的位置をシフトさせて画像を取得するという、従来の固定観念とは逆の発想に基づくものである。
【0005】
対象や画像取得装置の測定系を移動させることで、シフトした画像を得ること自体は、例えば、いわゆる画素ずらし手法(特許文献1〜3)においても行われている。画素ずらし手法は、CCDカメラやCMOSカメラ等の、受光セルを敷き詰めたイメージセンサを用いて画像を取得する際に、本来セルの大きさや配置で左右される解像度を向上させるべく、画素の位置を例えば半画素分ずらして撮像し、取得された画像を加算処理する手法である。本発明と画素ずらし手法とが互いに異質の技術思想であることは、本明細書を読み進めて行くことで明らかになる。
【0006】
画像解析において、微分フィルタを用いたエッジ検出が知られている。微分フィルタとしては、1次微分(差分)フィルタとしてソーベルフィルタや、2次微分(差分)フィルタとしてラプラシアンフィルタが知られている。ソーベルフィルタは、1つの画像に基づいて着目画素の近傍画素(2方向や6方向)の画素値、ラプラシアンフィルタは、1つの画像に基づいて着目画素の近傍画素(4方向や8方向)の画素値をそれぞれ用いる数値演算である。本発明の1つの態様でも、対象の輪郭を検出することができるが、本発明と微分フィルタを用いたエッジ検出とは互いに異質の技術思想であることは、本明細書を読み進めて行くことで明らかになる。
【0007】
一般に空間分解能が高い顕微鏡として走査型顕微鏡が知られており、光学顕微鏡においても走査型のものがある(特許文献4)。走査型光学顕微鏡では、例えば、スポット光の照射位置に対して試料ステージをXY平面内で移動させながら得られた2次元マッピングデータから2次元画像を取得するものであり、つまり、走査型顕微鏡における走査は、1枚の2次元画像を取得するために行われるものである。本発明の1つの態様においても、XY平面内で移動可能な試料ステージを用いるが、本発明における試料ステージの移動が、走査型顕微鏡における試料ステージの移動と技術思想において異なるものであることは、本明細書を読み進めて行くことで明らかになる。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開平7−212660号
【特許文献2】特開平8−95153号
【特許文献3】特開2001−251491号
【特許文献4】特開2003−255231号
【発明の開示】
【発明が解決しようとする課題】
【0009】
上述のように、通常では観測が困難な微弱な画像情報を得るために、光学系や検出器は、とかく特殊で高価なものにならざるを得ない状況にある。このことが、コストの問題を生み、また、新たな観測システムへの応用を阻害する要因となっている。
本発明は、シンプルな構成で空間分解能を向上させることができ、低コストで汎用性を備えたイメージング手法を提供することを目的とするものである。
【課題を解決するための手段】
【0010】
かかる課題を解決するべく本発明が採用した技術手段は、
対象の画像を取得する画像取得装置を用いた画像処理方法であって、
対象の画像をベース画像として取得するステップと、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得するステップと、
前記ベース画像と各シフト画像の同じ座標の 画素同士の差分からN枚の差分画像(N≧1)を取得するステップと、
前記N枚の差分画像を加算して対象の差分積算画像を取得するステップと、
からなる画像処理方法、である。
【0011】
1つの態様では、前記差分積算画像は、各シフト画像からベース画像を減算して積算することで得られる。
1つの態様では、前記画像処理方法は、さらに、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得するステップを備える。
鮮鋭化画像を取得する際に、ベース画像に重みを付けてもよい。重みは、例えば、1倍〜20倍の範囲から選択される。
【0012】
シフト画像からベース画像を引いて積算して得られた差分積算画像が2次微分画像となる。そして、ベース画像からこの2次微分画像を引くことにより、高強度はより強く、弱強度はより弱くなり、輪郭が強調され、鮮鋭化された画像が得られる。
なお、差分画像のみを用いる場合、ある対象の輪郭のみを抽出するのであれば、差分画像の各画素の値の符号は問わない(白で強調するか、黒で強調するかの違い)ので、差分画像の符号反転を行い得ることが当業者に理解される。同様に、鮮鋭化画像の符号反転を適宜行い得ることも当業者に理解される。本明細書、特許請求の範囲の記載において、「加算すること」と「減算すること」は符号反転に応じて置換可能であることが当業者に理解される。
【0013】
1つの態様では、前記所定量は、前記画像取得装置の空間分解能の1/10〜2倍の範囲の量である。
1つの態様では、前記所定量は、前記画像取得装置の空間分解能の1/5〜1倍の範囲の量である。
画像取得装置の空間分解能は、重要なスペックであり、既知ないし当該装置の構成から見積もることができる。例えば、実験で用いた光ファイバーイメージング装置では、ファイバ素線の直径である2〜3μmが空間分解能であると考えられ、実験で用いたノマルスキ微分干渉 光学顕微鏡(BX60)では、ほぼ1μmと見積もることができる。
【0014】
1つの態様では、前記シフト画像は、対象あるいは/および画像取得装置の測定系を移動させることで取得される。
対象の移動は、典型的には移動機構(例えば、ピエゾ駆動ステージ、ベルトコンベア)上の対象を当該移動機構により移動させるものであるが、対象自身が機械的な移動手段や振動手段を有している場合、対象(典型的には生物)が自己運動する場合も含む。
画像取得装置の測定系を移動させる場合には、測定系全体を移動させる場合、測定系の一部を移動させる場合を含む。例えば、光学系の画像取得装置の測定系が、光学系と検出器を備えている場合に、「光学系+検出器」を移動させる場合、「検出器」を移動させる場合がある。
1つの態様では、前記N枚のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向、斜め方向に4方向シフトした8つの画像である。
1つの態様では、前記N枚のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向シフトした4つの画像である。
1つの態様では、前記N枚のシフト画像は、ベース画像に対してx方向あるいはy方向の2方向にシフトした2つの画像である。
シフト方向は、反対方向のペア(x方向に2方向のように)の場合に限定されるものではなく、1方向を含む奇数方向でもよく、また、回転も含む。
【0015】
本発明は、対象の画像を取得する画像取得装置を用いた画像処理装置としても実現され、当該画像処理装置は、
対象の画像をベース画像として取得する手段と、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得する手段と、
画像処理部と、を備え、
前記画像処理部は、前記ベース画像と各シフト画像の同じ座標の画素同士の差分からN枚の差分画像(N≧1)を取得し、前記N枚の差分画像を加算して対象の差分積算画像を取得する。
【0016】
1つの態様では、前記画像処理部は、各シフト画像からベース画像を減算して積算することで差分積算画像を取得し、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得する。
【0017】
本発明において、対象の画像を取得する画像取得装置は、対象のベース画像およびシフト画像を取得できるものであればよく、具体的には、光学顕微鏡(実体顕微鏡、位相差顕微鏡、微分干渉顕微鏡、偏光顕微鏡、蛍光顕微鏡を含む)、透過型電子顕微鏡、超音波顕微鏡、デジタルカメラ、ファイバースコープ、サーモグラフィ、磁気共鳴(MR)イメージング装置、超音波イメージング装置、光超音波イメージング装置、ラマン分光装置、顕微ラマン分光装置、放射線イメージング装置(X線、アルファ線、ベータ線、ガンマ線、中性子線を含む)が例示される。
後述する実施形態では、光ファイバーイメージング装置、ノマルスキ微分干渉光学顕微鏡の2種類の画像取得装置を用いて実験を行った。本手法を光ファイバーイメージング装置、ノマルスキ微分干渉光学顕微鏡以外の他の画像取得装置に適用することは、当業者において適宜実行できることが理解される。
本発明における、対象あるいは/および画像取得装置の測定系のシフト方向は、結像面に対して平行する方向である。すなわち、対象を移動させる場合において、シフト方向は、光学的な画像取得装置においては光軸に対して垂直方向、電子線や放射線を用いた画像取得装置においてはビーム軸に対して垂直方向である。
【発明の効果】
【0018】
本発明では、対象の位置を測定系に対して相対的にシフトさせて撮影してシフト画像を取得し、ベース画像とシフト画像の差分画像を取得する(シフト画像からベース画像を差し引く)という簡便な演算操作で、検出すべき信号以外のノイズのかなりの部分(測定系の時間的・空間的揺らぎ、より具体的には、光源の揺らぎ、光学系の揺らぎ、検出器の揺らぎ等)を除去することができ、信号強度の試料位置依存性のみを差分画像として高感度に検出できる。得られた差分画像を加算してなる差分積算画像は、対象の空間2次微分イメージであり、空間2次微分イメージをベース画像から減算することで、空間分解能が向上された画像を得ることができる。
【0019】
既存のイメージング装置(各種顕微鏡、カメラ、検査装置等)の試料ステージの位置をシフトしながら撮影し、演算するという簡便な方法で空間分解能を向上させることができる。既に可動ステージを備えている装置においては、撮影プロセスや演算方法を変更するのみでよく、また、可動ステージを備えていない既存の装置に本発明を適用する場合であっても、可動ステージを追加するだけでよく、低コストでイメージング装置を実現することができる。
【0020】
本発明の効果は上記記載に限定されるものではなく、その他の効果は、本明細書の記載から明らかになる。
【図面の簡単な説明】
【0021】
【図1】本発明の実施形態を示すブロック図である。
【図2】本発明の概念を説明する図である。
【図3】シフト画像の取得(空間2次微分イメージングプロセス)を示す図である。ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。画像は、中央にグレースケールの印(画素値0.9)を備えた白色(画素値1)の十字形であり、シフト量は1画素である。
【図4】図3を画素値で表示した図である。
【図5】イメージングプロセス例(1方向の場合)を示す図であり、上図はベース画像、中央図は差分画像、下図は鮮鋭化画像である。
【図6】イメージングプロセス例(2方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。
【図7】イメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。
【図8】鮮鋭化画像におけるベース画像の重みの効果を示す図である。
【図9】シフト量が1/5画素の場合のシフト画像の取得(4方向の場合)示す図である。ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。
【図10】シフト量が1/5画素の場合のイメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。
【図11】鮮鋭化画像におけるベース画像の重みの効果を示す図である。シフト量は1/5画素分である。
【図12】実験に用いた光ファイバーイメージング装置を示す図である。
【図13】8方向のシフト画像の取得を示す図である。
【図14】差分積算画像と鮮鋭化画像のシフト量依存性(シフト量:0μm、0.25μm、0.5μm)を示す図である。
【図15】差分積算画像と鮮鋭化画像のシフト量依存性(シフト量:1μm、2μm、3μm)を示す図である。
【図16】差分積算画像と鮮鋭化画像のシフト量依存性(シフト量:4μm、5μm)を示す図である。
【図17】グラフェンホールバーの観測結果を示す図である。
【図18】単層グラフェン/グラファイトの観察結果を示す図である。
【図19】単層/二層グラフェンの観察結果を示す図である。
【図20】単層/多層グラフェンの観察結果を示す図である。
【図21】単層/多層グラフェンの観察結果を示す図である。
【図22】単層/多層グラフェンの観察結果を示す図である。
【図23】単層/多層グラフェンの観察結果を示す図である。
【図24】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図25】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図26】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図27】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図28】観察対象(Olympus Microscope BX-60により取得されたもの)を示す図である。
【図29】ベルトコンベアを用いた検査装置としての実施形態(適用1)を示す図である。
【図30】ベルトコンベアを用いた検査装置としての実施形態(適用2)を示す図である。
【図31】ベルトコンベアを用いた検査装置としての実施形態(適用3)を示す図である。
【発明を実施するための形態】
【0022】
[A]イメージング装置
[A−1]イメージング装置における画像処理の概要
本発明の画像処理装置(イメージング装置)の実施形態のブロック図を図1に示す。画像処理装置は、対象の画像を取得する画像取得部(測定系)と、測定系に対して対象を相対的に移動させる手段と、を備えている。以下の説明においては、光学的な画像取得装置に基づいて本発明の実施形態を説明するが、本発明に適用され得る画像取得装置は、光学的な画像取得装置に限定されない。
【0023】
画像取得部と移動手段とによって、ベース画像と、シフト画像と、が取得される。すなわち、画像取得部と移動手段とから、対象の位置を固定して、対象の画像をベース画像として取得する手段と、対象あるいは/および画像取得装置の測定系を移動させることで、前記ベース画像に対して結像面内で当該対象が所定量シフトしたN枚のシフト画像(N≧1)を取得する手段と、が構成される。
【0024】
画像処理装置は、画像処理部を備えている。画像処理部は、ベース画像と各シフト画像の同じ座標の 画素同士の画素値(信号強度)の差分からN枚の差分画像(N≧1)を取得し、当該N枚の差分画像の同じ座標の画素同士の画素値(信号強度)を加算して対象の差分積算画像を取得する。N=1の場合は、差分画像=差分積算画像となる。画像処理部は、各シフト画像からベース画像を減算して積算することで差分積算画像を取得し、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得する。
【0025】
画像処理装置は、表示部を備えており、取得した画像(すなわち、ベース画像、シフト画像)、取得した画像を用いて計算したデータ等は表示部に適宜表示可能となっている。
【0026】
画像処理部は、汎用コンピュータ(入力部、出力部、演算部、記憶部、表示部等を備える)から構成することができる。取得した画像データ、計算データは記憶部に記憶され、各種計算は演算部によって実行される。画像処理装置の表示部は、汎用コンピュータの表示部から構成することができる。
【0027】
本実施形態に係る画像処理方法は、対象の位置を固定して、対象の画像をベース画像として取得するステップと、対象あるいは/および画像取得装置の測定系を移動させることで、前記ベース画像に対して結像面内で当該対象が所定量シフトした1つあるいは複数のシフト画像を取得するステップと、前記ベース画像と各シフト画像の同じ座標の画素同士の差分から1つあるいは複数の差分画像を取得するステップと、前記1つあるいは複数の差分画像の同じ座標の画素同士を加算して対象の差分積算画像を取得するステップと、を備えている。
【0028】
各ステップにおいて取得された画像は、画像データとして数値で取得されていればよく、必ずしも表示装置に表示される必要はない。例えば、最終的に得られる差分積算画像のみを表示し、他の画像は表示しなくてもよい。
【0029】
各ステップは、必ずしも時系列を特定するものではなく、 一部のステップが同時に実行されてもよい。例えば、複数の差分画像を取得するステップと、対象の差分積算画像を取得するステップとは、同時に実行されてもよい。複数の差分画像を取得するステップと、対象の差分積算画像を取得するステップと、差分積算画像にベース画像を加算するステップと、を同時に実行してもよい。また、時系列的にベース画像の取得の前にシフト画像を取得してもよい。例えば、1方向に移動する対象を連続的に撮影し、連続する3枚の画像のセットにおいて、画像tをベース画像とし、画像t−1、画像t+1をそれぞれシフト画像としてもよい。これについては、後述するベルトコンベアを用いた検査装置への適用1、2を参照することができる。
【0030】
本発明の概念図を図2に示す。図2に示すように、ベース画像は、真の信号と試料位置に依存しないノイズとからなる。シフト画像もまた、試料位置に依存しないノイズを含んでいる。シフト画像が、ベース画像に対して左側にシフトした第1シフト画像と、ベース画像に対して右側にシフトした第2シフト画像と、からなるとすると、ベース画像から第1シフト画像を減算した差分画像と、ベース画像から第2シフト画像を減算した差分画像とを加算することで、差分積算画像を取得する。差分積算画像が、シフト方向における光強度の空間2次微分マッピングとなっている。差分積算画像は、対象の輪郭の情報である。
【0031】
本実施形態の特徴は、光学系と検出器を含めた測定系全部を、試料に対して相対的に微少量シフトすることで、信号強度の試料位置依存性のみを抽出できる(差分法)こと、この操作により生成される差分積算画像が空間2次微分イメージとなること、にある。イメージング装置において、対象の位置をシフトして撮影し、画像間の演算(足し引き)を行うと、差分法による観測装置となる。ここで、装置の空間分解能に相当する程度の距離だけ対象をシフトさせると、検出すべき信号以外のノイズのかなりの部分(光源の揺らぎ、光学系の揺らぎ、検出器の揺らぎ等)を除去することができ、装置の空間分解能を向上できる。すなわち、「信号の揺らぎ(ノイズ)」=「光源の揺らぎ」+「光学系の揺らぎ」+「スキャニングの揺らぎ」+「検出器の揺らぎ」+「その他の揺らぎ」とすると、位置シフトにより変化しないノイズは、ほぼキャンセルできる。
【0032】
図2の下側に、微分フィルタによる処理を比較のために示す。微分フィルタが、着目画素の近傍画素の画素値を用いる数値演算であるのに対して、本発明では、対象に対して光学系、検出器を含む測定系を、あるいは結像に対して検出器を、所定量シフトし、実際に取得した複数の画像の同じ 座標の画素間の画素値を用いるものであり、両者は全く異なる。これらの手法によって得られる結果が全く異なるものであることは、後述する実験結果から明らかである。
【0033】
典型的には、上記画像処理方法は、さらに、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得するステップを備えている。すなわち、差分積算画像にベース画像を加算する。この場合、ベース画像に重み(例えば、1〜20倍)を付けてもよい。シフト画像からベース画像を引いて積算すると差分積算画像が2次微分画像となる。そして、ベース画像からこの2次微分画像を引くことにより、高強度はより強く、弱強度はより弱くなり、輪郭が強調され、鮮鋭化された画像が得られる。なお、差分画像のみを用いる場合、ある対象の輪郭のみを抽出するのであれば、 差分画像の符号反転を行い得ることが当業者に理解される。同様に、鮮鋭化画像の符号反転を適宜行い得ることも当業者に理解される。2次微分画像は数学的には、シフト画像からベース画像を差し引くことで得られ、その意味において、差分積算画像は、シフト画像からベース画像を引いたものを積算したものと定義することができ、鮮鋭化画像は、ベース画像からこの差分積算画像を引くことにより得られる。この定義に従うと、差分積算画像では、輪郭の明るい側が暗く、暗い側が明るくなってしまい、不自然な印象となる。実際の実験データの差分積算画像では、符号反転して、明るい側をより明るく、暗い側を暗くし、見やすくしている。
【0034】
[A−2]画像処理部における演算
画像処理部が実行する画像の足し引きについて説明する。本実施形態において、複数の画像の足し引きは、各画像の同じ座標の画素の画素値(信号強度)同士の足し引きである。試料を載置したステージを移動させる前の画像(すなわち取得したい画像)をベース画像0として、ステージを上下左右斜めの8方向に移動した際に取得した画像をシフト画像1〜8とすると、差分積算画像の計算は2次元画像の足し引きになる。式で表せば、(シフト画像1+シフト画像2+シフト画像3+シフト画像4+シフト画像5+シフト画像6+シフト画像7+シフト画像8)−ベース画像0×8、となる。例えば、画素(M5,N5)に着目すると、{シフト画像1の画素(M5,N5)の値+シフト画像2の画素(M5,N5)の値+シフト画像3の画素(M5,N5)の値+シフト画像4の画素(M5,N5)の値+シフト画像5の画素(M5,N5)の値+シフト画像6の画素(M5,N5)の値+シフト画像7の画素(M5,N5)の値+シフト画像8の画素(M5,N5)の値}−ベース画像0の画素(M5,N5)の値×8、となる。このように、数値演算(ラプラシアンフィルタ)が、近接する画素間の演算であるのに対して、本実施形態では、複数の画像上の同じ位置(座標)の画素間の演算となる。
【0035】
画像処理部が実行する処理を、図3〜図11に示す画像データに基づいて説明する。図3は、シフト画像の取得(空間2次微分イメージングプロセス)を示す図であり、ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。画像は、中央にグレースケールの印(画素値0.9)を備えた白色(画素値1)の十字形であり、十字形の周囲の画素値は0となっている。処理を簡略化するべく、便宜上、シフト量は1画素とした。図4は、図3を画素値で表示した図である。ベース画像C0、4つのシフト画像C1〜4の各座標の画素の値を比較することで、シフト画像C1〜4が、それぞれ、ベース画像C0を左方向、右方向、上方、下方に1画素分シフトさせた画像であることが読み取れる。ベース画像C0がXY平面内にあるとすると、シフト画像C1、C2はX方向に2方向シフトした画像、シフト画像C3、C4はY方向に2方向シフトした画像ということができる。
【0036】
図5は、イメージングプロセス例(1方向の場合)を示す図であり、上図はベース画像、中央図は差分画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向に1画素分シフトさせたシフト画像C1である。差分画像は、シフト画像C1からベース画像C0を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分画像を減算することで得られる。
【0037】
図6は、イメージングプロセス例(2方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向に1画素分シフトさせたシフト画像C1、ベース画像C0を右方向に1画素分シフトさせたシフト画像C2である。差分積算画像は、シフト画像C1、C2を加算し、ベース画像C0×2を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分積算画像を減算することで得られる。
【0038】
図7は、イメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向、右方向、上方向、下方向にそれぞれ1画素分シフトさせてなるシフト画像C1〜4である。差分積算画像は、シフト画像C1、C2、C3、C4を加算し、ベース画像C0×4を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分積算画像を減算することで得られる。
【0039】
図8は、鮮鋭化画像の取得におけるベース画像C0の重みの効果を示す図である。左から順に、重みが、−1、−0.5、1、10、20となっている。
【0040】
シフト量が画素の整数倍でない場合は、面積比で信号強度を分割する。図9は、シフト量が1/5画素の場合のシフト画像の取得(4方向の場合)を示す図である。ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。
【0041】
図10は、シフト量が1/5画素の場合のイメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向、右方向、上方向、下方向にそれぞれ1/5画素分シフトさせてなるシフト画像C1〜4である。差分積算画像は、シフト画像C1、C2、C3、C4を加算し、ベース画像C0×4を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分積算画像を減算することで得られる。シフト量が小さくなった分、差分積算画像、鮮鋭化画像の各画素の値の絶対値は小さくなっているが、シフト量=1の場合と同様の画像パターンが得られた。
【0042】
図11は、鮮鋭化画像におけるベース画像の重みの効果を示す図である。シフト量は1/5画素分である。左から順に、重みが、−1、−0.5、1、10、20となっている。シフト量=1の場合に比べると、ベース画像に重みを加えると、輪郭が目立たなくなる傾向がある。
【0043】
[A−3] 対象/画像取得装置の測定系の移動
対象を移動させる手段としては、典型的には、ピエゾ素子を用いたピエゾ駆動ステージを例示することができる。このようなピエゾ駆動ステージは、光学顕微鏡において、試料を探索したり、見やすい位置に移動させる等の目的で広く 使用されている。また、ピエゾ駆動ステージは、特許文献4に例示されるように走査型顕微鏡において、2次元画像を取得するための走査ステージとしても用いられている。しかしながら、これらのピエゾ駆動ステージの利用は、本実施形態における複数のシフトした画像を処理し、 画像の鮮鋭化に利用するための移動とは技術思想が異なる。
【0044】
対象や画像取得装置の測定系を移動させること自体は、特許文献1〜3においても行われており、本発明におけるシフト画像を取得する際に、これらの文献に開示された手法を採用してもよい。しかしながら、画素ずらし手法は、CCDカメラやCMOSカメラ等の、セルを敷き詰めたイメージセンサを用いて画像を取得する際に、本来、受光セルの大きさや配置で左右される空間分解能を向上させるべく、画素の位置を例えば半画素分ずらして撮像し、取得された画像を加算処理する手法であり、したがって、ノイズも加算されるものであり、本願発明とは異なる点に留意されたい。特許文献2、3にもピエゾ駆動ステージが開示されているが、特許文献2、3に開示された画素ずらし法は、取得された画像を加算処理するものであり、本発明における差分画像の取得、差分積算画像の取得という構成を備えておらず、両者は全く異質の技術思想に基づくものである。本発明と画素ずらし法とは、前者がシフト量として空間分解能を基準としているのに対して、後者の移動量は画素サイズを基準としているという点において異なる。画素ずらし法は、CCDカメラやCMOSカメラ等の、受光セルを敷き詰めてなるイメージセンサを備えた画像取得装置に有効に適用されるものであり、例えば、空間分解能がファイバ素線の直径で決まっている光ファイバーイメージング装置や、レンズの収差、光の波長で決まっている光学装置では、画素ずらし手法を適用する意義は無い。測定系の空間分解能が画素サイズで決まっている場合、結果的に本発明と画素ずらし法における移動量はオーバーラップし得るが、両者の全体構成が異なることは上述の通りである。
【0045】
対象を移動させることに代えて、あるいは、それに加えて、画像取得装置の測定系を移動させてもよい。例えば、先端が周期的に振動したイメージングファイバと、それに同期して画像を取得するようにしてもよい。画像取得装置の測定系を移動させることには、測定系全体を移動させる場合、測定系の一部の要素のみを移動させる場合が含まれる。より具体的には、測定系が光学系と検出器を備えている場合に、測定系全部を対象に対して微少量シフトする場合、あるいは、光学系による結像に対して、検出器を微少量シフトする場合が含まれる。
【0046】
対象あるいは/および画像取得装置の測定系(光学系+検出器)の移動について、さらに、説明を加える。画像取得装置を、対象+光学系+検出器として捉えると、まず、光学系と検出器が固定された、「対象」+「光学系+検出器」については、シフトは相対的であり、「対象」、「光学系+検出器」どちらをシフトさせても効果は同じである。また、対象と光学系が固定された、「対象+光学系」+「検出器」についても、「検出器」のみをシフトさせても、「対象+光学系」をシフトさせても同じ効果が得られる。
【0047】
ここで、光学系と検出器が固定された場合と、対象と光学系が固定された場合では、除去できるノイズが異なる点に留意されたい。前者は主に光学系と検出器によるノイズを除去できるのに対して、後者は、主に検出器によるノイズのみを除去できると考えられる。例えば、画像取得装置としてデジタルカメラを用いた場合、後者の手法を用いることが考えられ、「対象+光学系」と「検出器」の相対的な位置のシフトにより本発明を実現でき、対象と光学系が固定されていれば、対象の光学系による結像を新たな対象とし、検出器に転写する装置とみなすことができる。カメラ内のイメージセンサを微少量シフトさせつつ連続的に撮像し、内部演算して記録・表示する装置が考えられる。シャッタースピードに対して、通常の対象は動いていないと見なせるので、移動させるのは測定系のイメージセンサのみとなる。このとき、対象、カメラ内部のレンズ系に対して、CCDあるいはCMOSイメージセンサのみが動くことになる。シフト量は空間分解能、すなわちイメージセンサのセルサイズ程度である。デジタルカメラのノイズの多くを占めているCCDあるいはCMOSイメージセンサの素子の不均一による感度のばらつき等を改善できると考えられる。
【0048】
[A−4]ベース画像とシフト画像との距離
ベース画像に対するシフト画像の移動量は、画像取得装置の空間分解能程度が望ましいと考えられる。しかしながら、空間分解能の定義自体が識別可能な2点間の距離という曖昧なものであり、「見える」・「見えない」の判断は、脳の高度の計算により行われ、画像として輪郭をどの程度強調した方が見やすいか、物の質感を損なわないかは、見る側の個人差があり、また、画像となっている対象によっても異なる。したがって、本実施形態で採用し得る移動量には幅があり、1つの態様では、ベース画像に対するシフト画像の移動量は、画像取得装置の空間分解能の1/10〜2倍である。さらに好ましい範囲では、空間分解能の1/5〜1倍である。移動量のかかる範囲は、後述する実験結果から裏付けられる範囲である。空間分解能の1/10程度では実際に、微弱であるもののエッジ情報が得られている。一方、移動量は、空間分解能よりも大きな値の場合も含まれ、空間分解能の数倍、例えば2倍程度までであれば、ベース画像に比べてより明瞭に見える場合もあり得る。
【0049】
画像取得装置の空間分解能は、重要なスペックであり、既知ないし当該装置の構成から見積もることができる。例えば、実験で用いた光ファイバーイメージング装置では、ファイバ素線の直径である2〜3μmが空間分解能であると考えられ、実験で用いたノマルスキ微分干渉光学顕微鏡(BX60)では、ほぼ1μmと見積もることができる。したがって、当業者であれば、用いられる画像取得装置の空間分解能に基づいて当該空間分解能の1/10〜2倍の範囲から適当なシフト量(典型的には、空間分解能程度)を設定することができる。
【0050】
典型的には、移動量は、各方向において実質的に同じ量(なるべく誤差を最小とする)に設定される。例えば、4方向の4つのシフト画像において、ベース画像に対する各シフト画像の移動量は実質的に同じである。なお、通常、イメージング装置は定量的な解析に用いるというより、見えるか見えないかの判断に用いられているため、シフト画像間で移動量にばらつきがあっても、移動量が上記所定の範囲に入っていれば効果はある。なお、移動量が異なる場合に、輪郭の強度を合わせるために移動量に応じて差分画像に重みを付けてもよい。
【0051】
[A−5]画像の重み付け
差分積算画像を取得する際、特定の差分画像のみ加算する、あるいは重み付けをしてもよい。例えば、ベース画像0と上下左右斜めの8方向の8枚のシフト画像1〜8がある場合に、8枚の差分画像の一部のみを選択して加算してもよい(この場合、選択されなかった差分画像の重みは0である。)。また、例えば、4方向シフト画像において、シフト量が上下左右で異なる場合等に、差分画像に重みを付けてもよい。厳密には、(画像1−画像0)/(画像1のシフト量)+(画像2−画像0)/(画像2のシフト量)+・・・とすることで、輪郭の強度(画素強度の傾き)を同じにすることができる。また、特殊な用途で、たとえば縦方向の輪郭のみを強調したいというような場合に、重みを変えてもよい。どのように重みを付けるかは、目的や用途等に応じて当業者において適宜設定し得る。
【0052】
差分積算画像にベース画像を加算して対象の鮮鋭化画像を取得する際に、ベース画像に重み付けをしてもよい。どのように重み付けを行うかは、目的や用途等に応じて、例えば1倍〜20倍の範囲から当業者において適宜選択し得る。
【0053】
[A―6]ベース画像に対するシフト画像の移動方向
1つの態様では、複数のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向、斜め方向に4方向にシフトした8つの画像である。この場合、8方向2次微分イメージが得られ、全角度の変化をほぼ均等に強調することができる。なお、1つのベース画像に対して9つ以上のシフト画像を取得してもよい。
【0054】
1つの態様では、複数のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向シフトした4つの画像である。この場合、4方向2次微分イメージが得られ、縦、横の変化を強調することができる。
【0055】
1つの態様では、複数のシフト画像は、ベース画像に対してx方向あるいはy方向の2方向にシフトした2つの画像である。この場合、2方向2次微分イメージが得られ、縦あるいは横の変化を強調することができる。
【0056】
単に輪郭を強調したい場合には、特に、対象の輪郭の一部だけ抽出したいという用途においては、1方向のみのシフト画像を用いて、1枚のベース画像と1枚のシフト画像から差分画像(=差分積算画像)を求めてもよい。実際には、左右にシフトするとして、例えば対象の左がプラス(白)、右がマイナス(黒)となって強調される。つまり、斜めから日が指して、より立体的に見えるような効果もある。1方向シフト画像の計算例を図5に示す。
【0057】
シフト画像は、ベース画像に対して回転するものでもよい。例えば、ある角速度で等速円運動している対象に対しては、撮像のタイミングを調整することによって、「装置の空間分解能」程度(所定量の範囲内)でシフトしている対象の領域のみ、有効になると考えられる。すなわち、撮像のタイミングを制御することによって、すべての領域におけるイメージングが可能となる。この時、2次微分されるのはあくまで接線方向のみであり、特定のパターンのみ観測したいというような用途に用いられ得るものである点に留意されたい。撮像のタイミングの調整については、たとえば、ステッピングモータやサーボモータを用いて、一定の角度で回転を止めて撮像し、また次の角度にシフトして撮像するという方法と、一定速度で回転する対象を連続撮影する方法がある。後者の場合、検出器の露光時間(検出時間)内では、対象がほぼ静止していると考えられるくらいに低速で回転させるか、あるいは、検出時間を短くする必要がある。ここで言う静止とは、検出時間内では、空間分解能程度で規定されるシフト量に対して、無視できる範囲内でしか、対象が移動しない、という意味である。検出時間を短くするためには、シャッタースピードを上げ、露光時間を短くしても良いし、シャッターが開いた状態で充分に短いパルス光を照射することで、実際上の露光時間を短くしても良い。ステッピングモータ等で一定の角度で回転を止めて撮像する方法であれば、ベース画像とその両側の2つのシフト画像をとれば良いので、回転方向としては、ベース画像を取得した後、2方向に往復回転して、両側のシフト画像を取得する(ベース画像→右シフト画像→左シフト画像)場合、1方向で連続的に取得する(右シフト画像→ベース画像→左シフト画像)の場合がある。また、一定速度で回転する対象を連続的に撮像する場合は、低速であれば1方向に回転しつつ、ベース画像とその両側の2つのシフト画像を連続的に取得すればよい。
[A―7]他の実施形態
【0058】
光学的に2次元画像を取得する方法としては、大きく分けて、
1.センサ部を1個(0次元)もつ検出器(光電子増倍管等)を用い、2次元面で走査する手法、
2.1次元のセンサアレイを用いて、アレイ(長軸)に対して垂直方向に走査する手法、
3.2次元イメージセンサをもつ検出器(CCDなど)を用いて、一度に画像を取得する方法、などがあり、本実施形態は、典型的には手法3に適用される。しかしながら、本発明の他の実施形態は、手法2にも適用し得る。具体的には、センサアレイをアレイ(長軸)方向に空間分解能程度シフトし、その後、垂直方向に対象物をアレイによる検出幅程度一方向にシフトする、この動作を繰り返すことで、上下方向のみ2次微分された2次元イメージが取得できる。これに関連して、後述するベルトコンベアを用いた検査装置への適用3を参照することができる。
【0059】
本発明の画像処理装置を、ベルトコンベアを用いた検査装置としての実施形態に基づいて説明する。このような検査装置は、液晶パネルやシリコン基板、電子デバイスなど、およそベルトコンベアに乗る対象の形状や表面のデリケートな傷の有無等を検査することに用いられ得る。例えば、ベース画像およびシフト画像を取得する速度に対して、ベルトコンベアが十分に遅いのであれば、単に対象をベルトコンベアで検査装置の画像取得部の直下に運び、それを静止している物として、画像取得部の「光学系+検出器」をシフトし、取得した画像を差分積算することができる。以下に、より具体的に説明する。
【0060】
ベルトコンベアを用いた検査装置への適用1において、シフト画像の取得のためのシフトは、ベルトコンベアの移動(移動方向をXとする)により行う。適用1について、図29に基づいて説明する。対象をベルトコンベア上に載置して搬送し、検査装置の画像取得部の直下でベルトコンベアの移動を停止して対象を静止させ、2次元画像を撮像する。次いで、対象をベルトコンベアで空間分解能程度一方向にシフトし、静止、撮像する。これを繰り返しおこない、ベース画像とシフト画像(1枚または2枚)を取得する。あるいは、対象が静止していると見なせる程度に撮像を高速でおこなうことにより、ベルトコンベア上を移動している対象を連続的に撮像し、ベース画像とシフト画像(1枚または2枚)を取得する。ベース画像とシフト画像の差分画像を取得することで、左右方向(X方向)のみ2次微分された2次元イメージが取得できる。
【0061】
ベルトコンベアを用いた検査装置への適用2において、シフト画像の取得のためのシフトは、ベルトコンベアの移動(X方向)及び2次元イメージセンサのシフト(Y方向)により行う。適用2について、図30に基づいて説明する。適用1と同様に、対象をベルトコンベア上に載置して搬送し、検査装置の画像取得部の直下でベルトコンベアの移動を停止して対象を静止させ、2次元画像を撮像する。次いで、対象をベルトコンベアで空間分解能程度一方向にシフトし、静止、撮像する。次いで、静止した対象に対して、画像取得部の2次元イメージセンサをベルトコンベアの進行方向に対して垂直方向(Y方向)に空間分解能程度の微少量シフトしつつ当該対象を撮像したのち、ベルトコンベアで対象を空間解像度程度一方向にシフトし、ベース画像とシフト画像(4枚)を取得する。あるいは、2次元イメージセンサのシフトと撮像を高速でおこなうことにより、ベルトコンベア上を移動している対象を連続的に撮像し、ベース画像とシフト画像(4枚)を取得する。これにより、XY方向に2次微分された2次元イメージが取得できる。
【0062】
ベルトコンベアを用いた検査装置への適用3において、シフト画像の取得のためのシフトは、センサアレイの長軸方向のシフト(Y方向)により行う。適用3について、図31に基づいて説明する。センサアレイを空間分解能程度アレイの長軸方向にシフトしつつ対象の部分を撮像し、ベース画像とシフト画像(1枚または2枚)を取得する。さらに、アレイに対し垂直方向にベルトコンベアで対象をアレイによる検出幅程度一方向にシフトし、同様の操作を繰り返す。あるいは、センサアレイのシフトと撮像を高速でおこなうことにより、ベルトコンベア上を移動している対象を連続的に撮像し、複数枚のベース画像とシフト画像を取得する。これにより、Y方向のみ2次微分された2次元イメージが取得できる。適用3において、ベース画像、シフト画像は、センサアレイに対応する細幅画像である。センサアレイによるベース細幅画像と、アレイ方向に片側あるいは両側シフトして得られたシフト細幅画像の差分積算画像は、シフト方向の2次微分細幅画像となる。この操作を、ベルトコンベヤをセンサアレイによる検出幅分動かして、繰り返し行い、2次微分細幅画像をつなぎあわせることで、2次元の差分積算画像(アレイ方向の2次微分イメージ)が得られる。センサアレイの幅は、1列あるいは複数列である。適用3では、細幅画像をつなぎ合わせるためだけにベルトコンベアによる対象のシフトを行っている。特に、長尺の対象の検査等において有利であると考えられる。
【0063】
次に、対象が移動している場合(例えば、生物が運動している場合)について考察する。本発明の移動する対象への適用については、2通りのアプローチが考えられる。第1のアプローチは、生物の移動速度に対して、充分速く、シフト画像を取得する方法である。この方法は、「光学系+検出器」をシフトさせることになるが、対象の速さに対して、シフト及び撮像の速さが充分速く、対象がほぼ静止していると見なせることが重要である。第2のアプローチは、対象の運動を、シフト量に置き換える方法である。この場合、対象のシフトは当該対象の自己運動によって実現され、装置のシフトは必要がなく、検出のタイミングを制御し、取得画像の演算(方向という概念がなくなるので、異なる時間に取得した画像間の演算)を行うことになる。ただし、対象の静止画像が取得出来る程度に検出時間(露光時間)は短い必要がある。この方法を応用すれば、無秩序に動いている複数の生物の中から、ある一定範囲の速度で動いている物だけの輪郭を強調し、抽出することができる。この場合の速度は、シフト画像の時間間隔により、間隔が短ければ、速く動くもの、長ければ、ゆっくり動く物の輪郭が強調される。静止している物は、差分積算画像で見ると、完全に消去される。すなわち、ある時間間隔で撮像を行い、差分画像をとると、その時間間隔でちょうど装置の空間分解能程度移動した物の輪郭のみ強調され、それより速い物はボケた背景となり、遅い物は消去されることになる。
【0064】
[B]実験例1
[B−1]実験概要
ピエゾ駆動ステージを用いた空間2次微分イメージング装置を製作した。図12に実験装置を示す。CCDカメラ、イメージファイバ光学系、ピエゾ素子駆動ステージを結合させて、試料表面からの光信号の変化を二次元画像として高感度に検出するための装置である。イメージファイバは、非整列タイプであるが、整列タイプのイメージファイバを用いてもよい。駆動ステージとして、フォーカス調整のZ軸を加えた、高精度3軸ピエゾ素子駆動ステージ、およびコントローラを選定した。また、検出器として、ノイズの少ない天体観測用のペルチェ冷却CCDカメラを採用した。光源は、ハロゲンランプを選定し、バンドパスフィルタにより赤色光を選択、照射した。イメージファイバ直下の試料の位置をピエゾ素子駆動ステージにより微少量変化させ、取得イメージの差分をとることにより、光源、ファイバ光学系、検出器の時間的・空間的揺らぎをほぼキャンセルしつつ、試料からの光信号の位置依存性のみを高感度に検出する。
【0065】
光学系と検出器を含めた測定系全部を、試料に対して相対的に微少量シフトすることで、信号強度の試料位置依存性のみを抽出する。この操作により生成される差分積算画像が空間2次微分イメージとなる。試料はピエゾ駆動ステージ上にあり、ピエゾ駆動ステージによってXY面内を微少量移動させることができる。光学系、検出器に対して、試料のみを4回(あるいは8回)一定量シフトし、それぞれの画像データ(4回シフトの場合は4枚のシフト画像、8回シフトの場合は8枚のシフト画像)を取得する。図13に、ベース画像C0と上下左右斜めの8方向の8枚のシフト画像C1〜8を示す。ベース画像C0がXY平面内にあるとすると、シフト画像C1、C2はX方向に2方向シフトした画像、シフト画像C3、C4はY方向に2方向シフトした画像、シフト画像C5〜8は斜め方向に4方向シフトした画像であるということができる。図13におけるハニーカム状を構成する各六角形はファイバ素線を示す。図13におけるシフト量は、イメージファイバのファイバ素線の直径に相当する量である。ベース画像の信号強度を、4枚のシフト画像の場合は4倍(あるいは、8枚のシフト画像の場合は8倍)し、シフトして得られた4枚(あるいは8枚)のシフト画像の信号強度の積算から差し引くことにより、ベース画像の空間2次微分イメージが得られる。
【0066】
[B−2]実験結果
差分積算画像と鮮鋭化画像のシフト量依存性を、図14(シフト量:0μm、0.25μm、0.5μm)、図15(シフト量:1μm、2μm、3μm)、図16(シフト量:4μm、5μm)に示す。図14〜図16において、上図(−2nd derivative)は、差分積算画像、下図(0th−2nd derivative)は鮮鋭化画像である。空間分解能の1/10程度(0.25μm)のシフト量でも、エッジの情報が得られている。2または3μm あたりが最適だと思われる。それ以上のシフト量(4μm、5μm)では、輪郭が太くなり、やや不自然な印象を受けるものの、中央部グラフェンは判別出来る。最適なシフト量は分解能程度2−3μm(ファイバ素線の直径)であると考えられる。
【0067】
図17のグラフェンホールバーの観測結果に示すように、ファイバの直径と同程度の幅の単層グラフェンが識別できた。ラプラシアンフィルタを用いた数値演算では、当該単層グラフェンは判別不能である。
【0068】
図18の単層グラフェン/グラファイトの観察結果に示すように、単層グラフェンや、複雑な積層状態が明瞭に観察できた。マーカーも判別できた。ラプラシアンフィルタを用いた数値演算では、当該マーカーは判別不能である。
【0069】
図19の単層/二層グラフェンの観察結果に示すように、単層および2層グラフェンの積層状態が明瞭に観察できた。ラプラシアンフィルタを用いた数値演算では、当該積層状態は判別不能である。
【0070】
[B−3]まとめ
・ピエゾ駆動ステージを用いた空間2次微分イメージング装置を製作した。
・単層および多層グラフェン試料を用いて、反射光による観察を行った。
・その結果、本手法による明らかな解像度の向上が確認された。
・駆動ステージの最適なシフト量は、本装置では空間分解能を決めているイメージングファイバのファイバ素線の直径程度であった。
・この解像度の向上は、数値演算による2次微分画像処理(ラプラシアンフィルタ)では実現されないことを確認した。
【0071】
[C]実験例2
[C−1]実験概要
位置シフトによる空間2次微分イメージング手法を一般的な光学顕微鏡に適用した。光学顕微鏡としては、オリンパスBX60を用いた。ネジ式手動ステージのために、厳密なシフトは出来ない。今回のシフト量は、おおよそ1±0.5μm程度である。
【0072】
今回使用した顕微鏡の分解能を見積もると、CCDのRGB出力のR成分(赤)を用いたこと、対物レンズの開口数が0.4であること、から、
となり、ほぼ1μm程度であると考えられる。
【0073】
[C−2]実験結果
図20、図21に、単層/多層グラフェンの観察を示す。
・単層グラフェンはベース画像と比較してより明瞭に観察できた。
・多層グラフェンについては、積層状態がベース画像と比較してより明瞭になった。
・多層グラフェン中のマーカーが明瞭に観察できた。従来の方法では、ラプラシアンフィルタを用いた数値演算を実行してようやく、見える程度である。
・ラプラシアンフィルタを用いた数値演算よりも、明らかに明瞭なイメージが得られた。
【0074】
図22、図23に、単層/多層グラフェンの観察を示す。
・単層/2層グラフェンはベース画像と比較してより明瞭に観察できた。
・多層グラフェンについては、積層によると思われる模様が見えた。従来の方法では、ラプラシアンフィルタを用いた数値演算しても、ほとんど見えない。
・ラプラシアンフィルタを用いた数値演算よりも、明らかに明瞭なイメージが得られた。
【0075】
[C−3]まとめ
・位置シフトによる空間2次微分イメージング手法を光学顕微鏡に適用した。
・ネジ式手動ステージを用いたため、正確なシフトは出来なかったにもかかわらず(おおよそ1±0.5μm)、本手法による明らかな解像度の向上が確認された。
・ラプラシアンフィルタを用いた数値演算では得られない情報が、確かに得られることを確認した。
・装置の空間分解能程度で正確にシフトすれば、より解像度が向上すると考えられる。
【0076】
[D]実験例3
鮮鋭化画像Cを取得する際(C=kC0−C差分積算)のベース画像C0の重みkについて比較実験を行った。実験結果を図24〜図27に示す。
1≦k:k=20程度までは輪郭が強調され、それ以上では位置シフトの効果があまりない。
0≦k<1:差分積算画像と大きな違いは見られなかった。
k<0:画素強度が相対的に変化し、凸凹の形状も変化する。有効性はあまりないと考えられる。
本発明を限定するものではないが、1≦k≦20が適当であると考えられる。
【技術分野】
【0001】
本発明は、画像処理方法及び装置に係り、より詳しくは、対象の情報(位置、明るさ、色、磁化等の物理的情報)を、画像化、視覚化する、計測技術としてのイメージング分野に関するものである。
【背景技術】
【0002】
ナノスケール、マイクロスケールといった微細な構造からの信号や、マクロなスケールであっても、微弱な信号の変化を捉えるためには、特殊な光学系や検出器を組み合わせる必要がある。例えば、一原子層の炭素膜であるグラフェンは、マイクロメートルのサイズスケールであり、さらに反射率が低いことから、高倍率、高精度の光学顕微鏡やCCDカメラ、特殊なフィルタ等を組み合わせることにより、はじめて観察が可能となる。
【0003】
すなわち、通常、見えないものを見えるようにする、いわゆるイメージング技術は、概して高価で特殊な装置に頼らざるを得ない状況にある。このことは、経済性の面で問題が多く、既存の装置に組み込む等の柔軟性や、新たな分野への利用する際の汎用性にも課題がある。
【0004】
本発明は、計測対象と測定系との相対的位置をシフトさせて取得した複数の画像を用いてかかる課題に対処しようとするものである。従来、デジタルカメラの手ぶれ補正等に代表されるように、対象を精密に測定するためには対象ないし測定系をしっかりと固定させるという固定観念があった。本発明は、計測対象と測定系との相対的位置をシフトさせて画像を取得するという、従来の固定観念とは逆の発想に基づくものである。
【0005】
対象や画像取得装置の測定系を移動させることで、シフトした画像を得ること自体は、例えば、いわゆる画素ずらし手法(特許文献1〜3)においても行われている。画素ずらし手法は、CCDカメラやCMOSカメラ等の、受光セルを敷き詰めたイメージセンサを用いて画像を取得する際に、本来セルの大きさや配置で左右される解像度を向上させるべく、画素の位置を例えば半画素分ずらして撮像し、取得された画像を加算処理する手法である。本発明と画素ずらし手法とが互いに異質の技術思想であることは、本明細書を読み進めて行くことで明らかになる。
【0006】
画像解析において、微分フィルタを用いたエッジ検出が知られている。微分フィルタとしては、1次微分(差分)フィルタとしてソーベルフィルタや、2次微分(差分)フィルタとしてラプラシアンフィルタが知られている。ソーベルフィルタは、1つの画像に基づいて着目画素の近傍画素(2方向や6方向)の画素値、ラプラシアンフィルタは、1つの画像に基づいて着目画素の近傍画素(4方向や8方向)の画素値をそれぞれ用いる数値演算である。本発明の1つの態様でも、対象の輪郭を検出することができるが、本発明と微分フィルタを用いたエッジ検出とは互いに異質の技術思想であることは、本明細書を読み進めて行くことで明らかになる。
【0007】
一般に空間分解能が高い顕微鏡として走査型顕微鏡が知られており、光学顕微鏡においても走査型のものがある(特許文献4)。走査型光学顕微鏡では、例えば、スポット光の照射位置に対して試料ステージをXY平面内で移動させながら得られた2次元マッピングデータから2次元画像を取得するものであり、つまり、走査型顕微鏡における走査は、1枚の2次元画像を取得するために行われるものである。本発明の1つの態様においても、XY平面内で移動可能な試料ステージを用いるが、本発明における試料ステージの移動が、走査型顕微鏡における試料ステージの移動と技術思想において異なるものであることは、本明細書を読み進めて行くことで明らかになる。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開平7−212660号
【特許文献2】特開平8−95153号
【特許文献3】特開2001−251491号
【特許文献4】特開2003−255231号
【発明の開示】
【発明が解決しようとする課題】
【0009】
上述のように、通常では観測が困難な微弱な画像情報を得るために、光学系や検出器は、とかく特殊で高価なものにならざるを得ない状況にある。このことが、コストの問題を生み、また、新たな観測システムへの応用を阻害する要因となっている。
本発明は、シンプルな構成で空間分解能を向上させることができ、低コストで汎用性を備えたイメージング手法を提供することを目的とするものである。
【課題を解決するための手段】
【0010】
かかる課題を解決するべく本発明が採用した技術手段は、
対象の画像を取得する画像取得装置を用いた画像処理方法であって、
対象の画像をベース画像として取得するステップと、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得するステップと、
前記ベース画像と各シフト画像の同じ座標の 画素同士の差分からN枚の差分画像(N≧1)を取得するステップと、
前記N枚の差分画像を加算して対象の差分積算画像を取得するステップと、
からなる画像処理方法、である。
【0011】
1つの態様では、前記差分積算画像は、各シフト画像からベース画像を減算して積算することで得られる。
1つの態様では、前記画像処理方法は、さらに、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得するステップを備える。
鮮鋭化画像を取得する際に、ベース画像に重みを付けてもよい。重みは、例えば、1倍〜20倍の範囲から選択される。
【0012】
シフト画像からベース画像を引いて積算して得られた差分積算画像が2次微分画像となる。そして、ベース画像からこの2次微分画像を引くことにより、高強度はより強く、弱強度はより弱くなり、輪郭が強調され、鮮鋭化された画像が得られる。
なお、差分画像のみを用いる場合、ある対象の輪郭のみを抽出するのであれば、差分画像の各画素の値の符号は問わない(白で強調するか、黒で強調するかの違い)ので、差分画像の符号反転を行い得ることが当業者に理解される。同様に、鮮鋭化画像の符号反転を適宜行い得ることも当業者に理解される。本明細書、特許請求の範囲の記載において、「加算すること」と「減算すること」は符号反転に応じて置換可能であることが当業者に理解される。
【0013】
1つの態様では、前記所定量は、前記画像取得装置の空間分解能の1/10〜2倍の範囲の量である。
1つの態様では、前記所定量は、前記画像取得装置の空間分解能の1/5〜1倍の範囲の量である。
画像取得装置の空間分解能は、重要なスペックであり、既知ないし当該装置の構成から見積もることができる。例えば、実験で用いた光ファイバーイメージング装置では、ファイバ素線の直径である2〜3μmが空間分解能であると考えられ、実験で用いたノマルスキ微分干渉 光学顕微鏡(BX60)では、ほぼ1μmと見積もることができる。
【0014】
1つの態様では、前記シフト画像は、対象あるいは/および画像取得装置の測定系を移動させることで取得される。
対象の移動は、典型的には移動機構(例えば、ピエゾ駆動ステージ、ベルトコンベア)上の対象を当該移動機構により移動させるものであるが、対象自身が機械的な移動手段や振動手段を有している場合、対象(典型的には生物)が自己運動する場合も含む。
画像取得装置の測定系を移動させる場合には、測定系全体を移動させる場合、測定系の一部を移動させる場合を含む。例えば、光学系の画像取得装置の測定系が、光学系と検出器を備えている場合に、「光学系+検出器」を移動させる場合、「検出器」を移動させる場合がある。
1つの態様では、前記N枚のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向、斜め方向に4方向シフトした8つの画像である。
1つの態様では、前記N枚のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向シフトした4つの画像である。
1つの態様では、前記N枚のシフト画像は、ベース画像に対してx方向あるいはy方向の2方向にシフトした2つの画像である。
シフト方向は、反対方向のペア(x方向に2方向のように)の場合に限定されるものではなく、1方向を含む奇数方向でもよく、また、回転も含む。
【0015】
本発明は、対象の画像を取得する画像取得装置を用いた画像処理装置としても実現され、当該画像処理装置は、
対象の画像をベース画像として取得する手段と、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得する手段と、
画像処理部と、を備え、
前記画像処理部は、前記ベース画像と各シフト画像の同じ座標の画素同士の差分からN枚の差分画像(N≧1)を取得し、前記N枚の差分画像を加算して対象の差分積算画像を取得する。
【0016】
1つの態様では、前記画像処理部は、各シフト画像からベース画像を減算して積算することで差分積算画像を取得し、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得する。
【0017】
本発明において、対象の画像を取得する画像取得装置は、対象のベース画像およびシフト画像を取得できるものであればよく、具体的には、光学顕微鏡(実体顕微鏡、位相差顕微鏡、微分干渉顕微鏡、偏光顕微鏡、蛍光顕微鏡を含む)、透過型電子顕微鏡、超音波顕微鏡、デジタルカメラ、ファイバースコープ、サーモグラフィ、磁気共鳴(MR)イメージング装置、超音波イメージング装置、光超音波イメージング装置、ラマン分光装置、顕微ラマン分光装置、放射線イメージング装置(X線、アルファ線、ベータ線、ガンマ線、中性子線を含む)が例示される。
後述する実施形態では、光ファイバーイメージング装置、ノマルスキ微分干渉光学顕微鏡の2種類の画像取得装置を用いて実験を行った。本手法を光ファイバーイメージング装置、ノマルスキ微分干渉光学顕微鏡以外の他の画像取得装置に適用することは、当業者において適宜実行できることが理解される。
本発明における、対象あるいは/および画像取得装置の測定系のシフト方向は、結像面に対して平行する方向である。すなわち、対象を移動させる場合において、シフト方向は、光学的な画像取得装置においては光軸に対して垂直方向、電子線や放射線を用いた画像取得装置においてはビーム軸に対して垂直方向である。
【発明の効果】
【0018】
本発明では、対象の位置を測定系に対して相対的にシフトさせて撮影してシフト画像を取得し、ベース画像とシフト画像の差分画像を取得する(シフト画像からベース画像を差し引く)という簡便な演算操作で、検出すべき信号以外のノイズのかなりの部分(測定系の時間的・空間的揺らぎ、より具体的には、光源の揺らぎ、光学系の揺らぎ、検出器の揺らぎ等)を除去することができ、信号強度の試料位置依存性のみを差分画像として高感度に検出できる。得られた差分画像を加算してなる差分積算画像は、対象の空間2次微分イメージであり、空間2次微分イメージをベース画像から減算することで、空間分解能が向上された画像を得ることができる。
【0019】
既存のイメージング装置(各種顕微鏡、カメラ、検査装置等)の試料ステージの位置をシフトしながら撮影し、演算するという簡便な方法で空間分解能を向上させることができる。既に可動ステージを備えている装置においては、撮影プロセスや演算方法を変更するのみでよく、また、可動ステージを備えていない既存の装置に本発明を適用する場合であっても、可動ステージを追加するだけでよく、低コストでイメージング装置を実現することができる。
【0020】
本発明の効果は上記記載に限定されるものではなく、その他の効果は、本明細書の記載から明らかになる。
【図面の簡単な説明】
【0021】
【図1】本発明の実施形態を示すブロック図である。
【図2】本発明の概念を説明する図である。
【図3】シフト画像の取得(空間2次微分イメージングプロセス)を示す図である。ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。画像は、中央にグレースケールの印(画素値0.9)を備えた白色(画素値1)の十字形であり、シフト量は1画素である。
【図4】図3を画素値で表示した図である。
【図5】イメージングプロセス例(1方向の場合)を示す図であり、上図はベース画像、中央図は差分画像、下図は鮮鋭化画像である。
【図6】イメージングプロセス例(2方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。
【図7】イメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。
【図8】鮮鋭化画像におけるベース画像の重みの効果を示す図である。
【図9】シフト量が1/5画素の場合のシフト画像の取得(4方向の場合)示す図である。ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。
【図10】シフト量が1/5画素の場合のイメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。
【図11】鮮鋭化画像におけるベース画像の重みの効果を示す図である。シフト量は1/5画素分である。
【図12】実験に用いた光ファイバーイメージング装置を示す図である。
【図13】8方向のシフト画像の取得を示す図である。
【図14】差分積算画像と鮮鋭化画像のシフト量依存性(シフト量:0μm、0.25μm、0.5μm)を示す図である。
【図15】差分積算画像と鮮鋭化画像のシフト量依存性(シフト量:1μm、2μm、3μm)を示す図である。
【図16】差分積算画像と鮮鋭化画像のシフト量依存性(シフト量:4μm、5μm)を示す図である。
【図17】グラフェンホールバーの観測結果を示す図である。
【図18】単層グラフェン/グラファイトの観察結果を示す図である。
【図19】単層/二層グラフェンの観察結果を示す図である。
【図20】単層/多層グラフェンの観察結果を示す図である。
【図21】単層/多層グラフェンの観察結果を示す図である。
【図22】単層/多層グラフェンの観察結果を示す図である。
【図23】単層/多層グラフェンの観察結果を示す図である。
【図24】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図25】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図26】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図27】鮮鋭化画像におけるベース画像の重みの効果(観察結果)を示す図である。
【図28】観察対象(Olympus Microscope BX-60により取得されたもの)を示す図である。
【図29】ベルトコンベアを用いた検査装置としての実施形態(適用1)を示す図である。
【図30】ベルトコンベアを用いた検査装置としての実施形態(適用2)を示す図である。
【図31】ベルトコンベアを用いた検査装置としての実施形態(適用3)を示す図である。
【発明を実施するための形態】
【0022】
[A]イメージング装置
[A−1]イメージング装置における画像処理の概要
本発明の画像処理装置(イメージング装置)の実施形態のブロック図を図1に示す。画像処理装置は、対象の画像を取得する画像取得部(測定系)と、測定系に対して対象を相対的に移動させる手段と、を備えている。以下の説明においては、光学的な画像取得装置に基づいて本発明の実施形態を説明するが、本発明に適用され得る画像取得装置は、光学的な画像取得装置に限定されない。
【0023】
画像取得部と移動手段とによって、ベース画像と、シフト画像と、が取得される。すなわち、画像取得部と移動手段とから、対象の位置を固定して、対象の画像をベース画像として取得する手段と、対象あるいは/および画像取得装置の測定系を移動させることで、前記ベース画像に対して結像面内で当該対象が所定量シフトしたN枚のシフト画像(N≧1)を取得する手段と、が構成される。
【0024】
画像処理装置は、画像処理部を備えている。画像処理部は、ベース画像と各シフト画像の同じ座標の 画素同士の画素値(信号強度)の差分からN枚の差分画像(N≧1)を取得し、当該N枚の差分画像の同じ座標の画素同士の画素値(信号強度)を加算して対象の差分積算画像を取得する。N=1の場合は、差分画像=差分積算画像となる。画像処理部は、各シフト画像からベース画像を減算して積算することで差分積算画像を取得し、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得する。
【0025】
画像処理装置は、表示部を備えており、取得した画像(すなわち、ベース画像、シフト画像)、取得した画像を用いて計算したデータ等は表示部に適宜表示可能となっている。
【0026】
画像処理部は、汎用コンピュータ(入力部、出力部、演算部、記憶部、表示部等を備える)から構成することができる。取得した画像データ、計算データは記憶部に記憶され、各種計算は演算部によって実行される。画像処理装置の表示部は、汎用コンピュータの表示部から構成することができる。
【0027】
本実施形態に係る画像処理方法は、対象の位置を固定して、対象の画像をベース画像として取得するステップと、対象あるいは/および画像取得装置の測定系を移動させることで、前記ベース画像に対して結像面内で当該対象が所定量シフトした1つあるいは複数のシフト画像を取得するステップと、前記ベース画像と各シフト画像の同じ座標の画素同士の差分から1つあるいは複数の差分画像を取得するステップと、前記1つあるいは複数の差分画像の同じ座標の画素同士を加算して対象の差分積算画像を取得するステップと、を備えている。
【0028】
各ステップにおいて取得された画像は、画像データとして数値で取得されていればよく、必ずしも表示装置に表示される必要はない。例えば、最終的に得られる差分積算画像のみを表示し、他の画像は表示しなくてもよい。
【0029】
各ステップは、必ずしも時系列を特定するものではなく、 一部のステップが同時に実行されてもよい。例えば、複数の差分画像を取得するステップと、対象の差分積算画像を取得するステップとは、同時に実行されてもよい。複数の差分画像を取得するステップと、対象の差分積算画像を取得するステップと、差分積算画像にベース画像を加算するステップと、を同時に実行してもよい。また、時系列的にベース画像の取得の前にシフト画像を取得してもよい。例えば、1方向に移動する対象を連続的に撮影し、連続する3枚の画像のセットにおいて、画像tをベース画像とし、画像t−1、画像t+1をそれぞれシフト画像としてもよい。これについては、後述するベルトコンベアを用いた検査装置への適用1、2を参照することができる。
【0030】
本発明の概念図を図2に示す。図2に示すように、ベース画像は、真の信号と試料位置に依存しないノイズとからなる。シフト画像もまた、試料位置に依存しないノイズを含んでいる。シフト画像が、ベース画像に対して左側にシフトした第1シフト画像と、ベース画像に対して右側にシフトした第2シフト画像と、からなるとすると、ベース画像から第1シフト画像を減算した差分画像と、ベース画像から第2シフト画像を減算した差分画像とを加算することで、差分積算画像を取得する。差分積算画像が、シフト方向における光強度の空間2次微分マッピングとなっている。差分積算画像は、対象の輪郭の情報である。
【0031】
本実施形態の特徴は、光学系と検出器を含めた測定系全部を、試料に対して相対的に微少量シフトすることで、信号強度の試料位置依存性のみを抽出できる(差分法)こと、この操作により生成される差分積算画像が空間2次微分イメージとなること、にある。イメージング装置において、対象の位置をシフトして撮影し、画像間の演算(足し引き)を行うと、差分法による観測装置となる。ここで、装置の空間分解能に相当する程度の距離だけ対象をシフトさせると、検出すべき信号以外のノイズのかなりの部分(光源の揺らぎ、光学系の揺らぎ、検出器の揺らぎ等)を除去することができ、装置の空間分解能を向上できる。すなわち、「信号の揺らぎ(ノイズ)」=「光源の揺らぎ」+「光学系の揺らぎ」+「スキャニングの揺らぎ」+「検出器の揺らぎ」+「その他の揺らぎ」とすると、位置シフトにより変化しないノイズは、ほぼキャンセルできる。
【0032】
図2の下側に、微分フィルタによる処理を比較のために示す。微分フィルタが、着目画素の近傍画素の画素値を用いる数値演算であるのに対して、本発明では、対象に対して光学系、検出器を含む測定系を、あるいは結像に対して検出器を、所定量シフトし、実際に取得した複数の画像の同じ 座標の画素間の画素値を用いるものであり、両者は全く異なる。これらの手法によって得られる結果が全く異なるものであることは、後述する実験結果から明らかである。
【0033】
典型的には、上記画像処理方法は、さらに、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得するステップを備えている。すなわち、差分積算画像にベース画像を加算する。この場合、ベース画像に重み(例えば、1〜20倍)を付けてもよい。シフト画像からベース画像を引いて積算すると差分積算画像が2次微分画像となる。そして、ベース画像からこの2次微分画像を引くことにより、高強度はより強く、弱強度はより弱くなり、輪郭が強調され、鮮鋭化された画像が得られる。なお、差分画像のみを用いる場合、ある対象の輪郭のみを抽出するのであれば、 差分画像の符号反転を行い得ることが当業者に理解される。同様に、鮮鋭化画像の符号反転を適宜行い得ることも当業者に理解される。2次微分画像は数学的には、シフト画像からベース画像を差し引くことで得られ、その意味において、差分積算画像は、シフト画像からベース画像を引いたものを積算したものと定義することができ、鮮鋭化画像は、ベース画像からこの差分積算画像を引くことにより得られる。この定義に従うと、差分積算画像では、輪郭の明るい側が暗く、暗い側が明るくなってしまい、不自然な印象となる。実際の実験データの差分積算画像では、符号反転して、明るい側をより明るく、暗い側を暗くし、見やすくしている。
【0034】
[A−2]画像処理部における演算
画像処理部が実行する画像の足し引きについて説明する。本実施形態において、複数の画像の足し引きは、各画像の同じ座標の画素の画素値(信号強度)同士の足し引きである。試料を載置したステージを移動させる前の画像(すなわち取得したい画像)をベース画像0として、ステージを上下左右斜めの8方向に移動した際に取得した画像をシフト画像1〜8とすると、差分積算画像の計算は2次元画像の足し引きになる。式で表せば、(シフト画像1+シフト画像2+シフト画像3+シフト画像4+シフト画像5+シフト画像6+シフト画像7+シフト画像8)−ベース画像0×8、となる。例えば、画素(M5,N5)に着目すると、{シフト画像1の画素(M5,N5)の値+シフト画像2の画素(M5,N5)の値+シフト画像3の画素(M5,N5)の値+シフト画像4の画素(M5,N5)の値+シフト画像5の画素(M5,N5)の値+シフト画像6の画素(M5,N5)の値+シフト画像7の画素(M5,N5)の値+シフト画像8の画素(M5,N5)の値}−ベース画像0の画素(M5,N5)の値×8、となる。このように、数値演算(ラプラシアンフィルタ)が、近接する画素間の演算であるのに対して、本実施形態では、複数の画像上の同じ位置(座標)の画素間の演算となる。
【0035】
画像処理部が実行する処理を、図3〜図11に示す画像データに基づいて説明する。図3は、シフト画像の取得(空間2次微分イメージングプロセス)を示す図であり、ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。画像は、中央にグレースケールの印(画素値0.9)を備えた白色(画素値1)の十字形であり、十字形の周囲の画素値は0となっている。処理を簡略化するべく、便宜上、シフト量は1画素とした。図4は、図3を画素値で表示した図である。ベース画像C0、4つのシフト画像C1〜4の各座標の画素の値を比較することで、シフト画像C1〜4が、それぞれ、ベース画像C0を左方向、右方向、上方、下方に1画素分シフトさせた画像であることが読み取れる。ベース画像C0がXY平面内にあるとすると、シフト画像C1、C2はX方向に2方向シフトした画像、シフト画像C3、C4はY方向に2方向シフトした画像ということができる。
【0036】
図5は、イメージングプロセス例(1方向の場合)を示す図であり、上図はベース画像、中央図は差分画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向に1画素分シフトさせたシフト画像C1である。差分画像は、シフト画像C1からベース画像C0を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分画像を減算することで得られる。
【0037】
図6は、イメージングプロセス例(2方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向に1画素分シフトさせたシフト画像C1、ベース画像C0を右方向に1画素分シフトさせたシフト画像C2である。差分積算画像は、シフト画像C1、C2を加算し、ベース画像C0×2を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分積算画像を減算することで得られる。
【0038】
図7は、イメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向、右方向、上方向、下方向にそれぞれ1画素分シフトさせてなるシフト画像C1〜4である。差分積算画像は、シフト画像C1、C2、C3、C4を加算し、ベース画像C0×4を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分積算画像を減算することで得られる。
【0039】
図8は、鮮鋭化画像の取得におけるベース画像C0の重みの効果を示す図である。左から順に、重みが、−1、−0.5、1、10、20となっている。
【0040】
シフト量が画素の整数倍でない場合は、面積比で信号強度を分割する。図9は、シフト量が1/5画素の場合のシフト画像の取得(4方向の場合)を示す図である。ベース画像C0と、4方向にシフトした4つのシフト画像C1〜4を示す。ノイズ成分はゼロである。
【0041】
図10は、シフト量が1/5画素の場合のイメージングプロセス例(4方向の場合)を示す図であり、上図はベース画像、中央図は差分積算画像、下図は鮮鋭化画像である。シフト画像は、ベース画像C0を左方向、右方向、上方向、下方向にそれぞれ1/5画素分シフトさせてなるシフト画像C1〜4である。差分積算画像は、シフト画像C1、C2、C3、C4を加算し、ベース画像C0×4を減算することで得られる。鮮鋭化画像は、ベース画像C0から上記差分積算画像を減算することで得られる。シフト量が小さくなった分、差分積算画像、鮮鋭化画像の各画素の値の絶対値は小さくなっているが、シフト量=1の場合と同様の画像パターンが得られた。
【0042】
図11は、鮮鋭化画像におけるベース画像の重みの効果を示す図である。シフト量は1/5画素分である。左から順に、重みが、−1、−0.5、1、10、20となっている。シフト量=1の場合に比べると、ベース画像に重みを加えると、輪郭が目立たなくなる傾向がある。
【0043】
[A−3] 対象/画像取得装置の測定系の移動
対象を移動させる手段としては、典型的には、ピエゾ素子を用いたピエゾ駆動ステージを例示することができる。このようなピエゾ駆動ステージは、光学顕微鏡において、試料を探索したり、見やすい位置に移動させる等の目的で広く 使用されている。また、ピエゾ駆動ステージは、特許文献4に例示されるように走査型顕微鏡において、2次元画像を取得するための走査ステージとしても用いられている。しかしながら、これらのピエゾ駆動ステージの利用は、本実施形態における複数のシフトした画像を処理し、 画像の鮮鋭化に利用するための移動とは技術思想が異なる。
【0044】
対象や画像取得装置の測定系を移動させること自体は、特許文献1〜3においても行われており、本発明におけるシフト画像を取得する際に、これらの文献に開示された手法を採用してもよい。しかしながら、画素ずらし手法は、CCDカメラやCMOSカメラ等の、セルを敷き詰めたイメージセンサを用いて画像を取得する際に、本来、受光セルの大きさや配置で左右される空間分解能を向上させるべく、画素の位置を例えば半画素分ずらして撮像し、取得された画像を加算処理する手法であり、したがって、ノイズも加算されるものであり、本願発明とは異なる点に留意されたい。特許文献2、3にもピエゾ駆動ステージが開示されているが、特許文献2、3に開示された画素ずらし法は、取得された画像を加算処理するものであり、本発明における差分画像の取得、差分積算画像の取得という構成を備えておらず、両者は全く異質の技術思想に基づくものである。本発明と画素ずらし法とは、前者がシフト量として空間分解能を基準としているのに対して、後者の移動量は画素サイズを基準としているという点において異なる。画素ずらし法は、CCDカメラやCMOSカメラ等の、受光セルを敷き詰めてなるイメージセンサを備えた画像取得装置に有効に適用されるものであり、例えば、空間分解能がファイバ素線の直径で決まっている光ファイバーイメージング装置や、レンズの収差、光の波長で決まっている光学装置では、画素ずらし手法を適用する意義は無い。測定系の空間分解能が画素サイズで決まっている場合、結果的に本発明と画素ずらし法における移動量はオーバーラップし得るが、両者の全体構成が異なることは上述の通りである。
【0045】
対象を移動させることに代えて、あるいは、それに加えて、画像取得装置の測定系を移動させてもよい。例えば、先端が周期的に振動したイメージングファイバと、それに同期して画像を取得するようにしてもよい。画像取得装置の測定系を移動させることには、測定系全体を移動させる場合、測定系の一部の要素のみを移動させる場合が含まれる。より具体的には、測定系が光学系と検出器を備えている場合に、測定系全部を対象に対して微少量シフトする場合、あるいは、光学系による結像に対して、検出器を微少量シフトする場合が含まれる。
【0046】
対象あるいは/および画像取得装置の測定系(光学系+検出器)の移動について、さらに、説明を加える。画像取得装置を、対象+光学系+検出器として捉えると、まず、光学系と検出器が固定された、「対象」+「光学系+検出器」については、シフトは相対的であり、「対象」、「光学系+検出器」どちらをシフトさせても効果は同じである。また、対象と光学系が固定された、「対象+光学系」+「検出器」についても、「検出器」のみをシフトさせても、「対象+光学系」をシフトさせても同じ効果が得られる。
【0047】
ここで、光学系と検出器が固定された場合と、対象と光学系が固定された場合では、除去できるノイズが異なる点に留意されたい。前者は主に光学系と検出器によるノイズを除去できるのに対して、後者は、主に検出器によるノイズのみを除去できると考えられる。例えば、画像取得装置としてデジタルカメラを用いた場合、後者の手法を用いることが考えられ、「対象+光学系」と「検出器」の相対的な位置のシフトにより本発明を実現でき、対象と光学系が固定されていれば、対象の光学系による結像を新たな対象とし、検出器に転写する装置とみなすことができる。カメラ内のイメージセンサを微少量シフトさせつつ連続的に撮像し、内部演算して記録・表示する装置が考えられる。シャッタースピードに対して、通常の対象は動いていないと見なせるので、移動させるのは測定系のイメージセンサのみとなる。このとき、対象、カメラ内部のレンズ系に対して、CCDあるいはCMOSイメージセンサのみが動くことになる。シフト量は空間分解能、すなわちイメージセンサのセルサイズ程度である。デジタルカメラのノイズの多くを占めているCCDあるいはCMOSイメージセンサの素子の不均一による感度のばらつき等を改善できると考えられる。
【0048】
[A−4]ベース画像とシフト画像との距離
ベース画像に対するシフト画像の移動量は、画像取得装置の空間分解能程度が望ましいと考えられる。しかしながら、空間分解能の定義自体が識別可能な2点間の距離という曖昧なものであり、「見える」・「見えない」の判断は、脳の高度の計算により行われ、画像として輪郭をどの程度強調した方が見やすいか、物の質感を損なわないかは、見る側の個人差があり、また、画像となっている対象によっても異なる。したがって、本実施形態で採用し得る移動量には幅があり、1つの態様では、ベース画像に対するシフト画像の移動量は、画像取得装置の空間分解能の1/10〜2倍である。さらに好ましい範囲では、空間分解能の1/5〜1倍である。移動量のかかる範囲は、後述する実験結果から裏付けられる範囲である。空間分解能の1/10程度では実際に、微弱であるもののエッジ情報が得られている。一方、移動量は、空間分解能よりも大きな値の場合も含まれ、空間分解能の数倍、例えば2倍程度までであれば、ベース画像に比べてより明瞭に見える場合もあり得る。
【0049】
画像取得装置の空間分解能は、重要なスペックであり、既知ないし当該装置の構成から見積もることができる。例えば、実験で用いた光ファイバーイメージング装置では、ファイバ素線の直径である2〜3μmが空間分解能であると考えられ、実験で用いたノマルスキ微分干渉光学顕微鏡(BX60)では、ほぼ1μmと見積もることができる。したがって、当業者であれば、用いられる画像取得装置の空間分解能に基づいて当該空間分解能の1/10〜2倍の範囲から適当なシフト量(典型的には、空間分解能程度)を設定することができる。
【0050】
典型的には、移動量は、各方向において実質的に同じ量(なるべく誤差を最小とする)に設定される。例えば、4方向の4つのシフト画像において、ベース画像に対する各シフト画像の移動量は実質的に同じである。なお、通常、イメージング装置は定量的な解析に用いるというより、見えるか見えないかの判断に用いられているため、シフト画像間で移動量にばらつきがあっても、移動量が上記所定の範囲に入っていれば効果はある。なお、移動量が異なる場合に、輪郭の強度を合わせるために移動量に応じて差分画像に重みを付けてもよい。
【0051】
[A−5]画像の重み付け
差分積算画像を取得する際、特定の差分画像のみ加算する、あるいは重み付けをしてもよい。例えば、ベース画像0と上下左右斜めの8方向の8枚のシフト画像1〜8がある場合に、8枚の差分画像の一部のみを選択して加算してもよい(この場合、選択されなかった差分画像の重みは0である。)。また、例えば、4方向シフト画像において、シフト量が上下左右で異なる場合等に、差分画像に重みを付けてもよい。厳密には、(画像1−画像0)/(画像1のシフト量)+(画像2−画像0)/(画像2のシフト量)+・・・とすることで、輪郭の強度(画素強度の傾き)を同じにすることができる。また、特殊な用途で、たとえば縦方向の輪郭のみを強調したいというような場合に、重みを変えてもよい。どのように重みを付けるかは、目的や用途等に応じて当業者において適宜設定し得る。
【0052】
差分積算画像にベース画像を加算して対象の鮮鋭化画像を取得する際に、ベース画像に重み付けをしてもよい。どのように重み付けを行うかは、目的や用途等に応じて、例えば1倍〜20倍の範囲から当業者において適宜選択し得る。
【0053】
[A―6]ベース画像に対するシフト画像の移動方向
1つの態様では、複数のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向、斜め方向に4方向にシフトした8つの画像である。この場合、8方向2次微分イメージが得られ、全角度の変化をほぼ均等に強調することができる。なお、1つのベース画像に対して9つ以上のシフト画像を取得してもよい。
【0054】
1つの態様では、複数のシフト画像は、ベース画像に対してx方向に2方向、y方向に2方向シフトした4つの画像である。この場合、4方向2次微分イメージが得られ、縦、横の変化を強調することができる。
【0055】
1つの態様では、複数のシフト画像は、ベース画像に対してx方向あるいはy方向の2方向にシフトした2つの画像である。この場合、2方向2次微分イメージが得られ、縦あるいは横の変化を強調することができる。
【0056】
単に輪郭を強調したい場合には、特に、対象の輪郭の一部だけ抽出したいという用途においては、1方向のみのシフト画像を用いて、1枚のベース画像と1枚のシフト画像から差分画像(=差分積算画像)を求めてもよい。実際には、左右にシフトするとして、例えば対象の左がプラス(白)、右がマイナス(黒)となって強調される。つまり、斜めから日が指して、より立体的に見えるような効果もある。1方向シフト画像の計算例を図5に示す。
【0057】
シフト画像は、ベース画像に対して回転するものでもよい。例えば、ある角速度で等速円運動している対象に対しては、撮像のタイミングを調整することによって、「装置の空間分解能」程度(所定量の範囲内)でシフトしている対象の領域のみ、有効になると考えられる。すなわち、撮像のタイミングを制御することによって、すべての領域におけるイメージングが可能となる。この時、2次微分されるのはあくまで接線方向のみであり、特定のパターンのみ観測したいというような用途に用いられ得るものである点に留意されたい。撮像のタイミングの調整については、たとえば、ステッピングモータやサーボモータを用いて、一定の角度で回転を止めて撮像し、また次の角度にシフトして撮像するという方法と、一定速度で回転する対象を連続撮影する方法がある。後者の場合、検出器の露光時間(検出時間)内では、対象がほぼ静止していると考えられるくらいに低速で回転させるか、あるいは、検出時間を短くする必要がある。ここで言う静止とは、検出時間内では、空間分解能程度で規定されるシフト量に対して、無視できる範囲内でしか、対象が移動しない、という意味である。検出時間を短くするためには、シャッタースピードを上げ、露光時間を短くしても良いし、シャッターが開いた状態で充分に短いパルス光を照射することで、実際上の露光時間を短くしても良い。ステッピングモータ等で一定の角度で回転を止めて撮像する方法であれば、ベース画像とその両側の2つのシフト画像をとれば良いので、回転方向としては、ベース画像を取得した後、2方向に往復回転して、両側のシフト画像を取得する(ベース画像→右シフト画像→左シフト画像)場合、1方向で連続的に取得する(右シフト画像→ベース画像→左シフト画像)の場合がある。また、一定速度で回転する対象を連続的に撮像する場合は、低速であれば1方向に回転しつつ、ベース画像とその両側の2つのシフト画像を連続的に取得すればよい。
[A―7]他の実施形態
【0058】
光学的に2次元画像を取得する方法としては、大きく分けて、
1.センサ部を1個(0次元)もつ検出器(光電子増倍管等)を用い、2次元面で走査する手法、
2.1次元のセンサアレイを用いて、アレイ(長軸)に対して垂直方向に走査する手法、
3.2次元イメージセンサをもつ検出器(CCDなど)を用いて、一度に画像を取得する方法、などがあり、本実施形態は、典型的には手法3に適用される。しかしながら、本発明の他の実施形態は、手法2にも適用し得る。具体的には、センサアレイをアレイ(長軸)方向に空間分解能程度シフトし、その後、垂直方向に対象物をアレイによる検出幅程度一方向にシフトする、この動作を繰り返すことで、上下方向のみ2次微分された2次元イメージが取得できる。これに関連して、後述するベルトコンベアを用いた検査装置への適用3を参照することができる。
【0059】
本発明の画像処理装置を、ベルトコンベアを用いた検査装置としての実施形態に基づいて説明する。このような検査装置は、液晶パネルやシリコン基板、電子デバイスなど、およそベルトコンベアに乗る対象の形状や表面のデリケートな傷の有無等を検査することに用いられ得る。例えば、ベース画像およびシフト画像を取得する速度に対して、ベルトコンベアが十分に遅いのであれば、単に対象をベルトコンベアで検査装置の画像取得部の直下に運び、それを静止している物として、画像取得部の「光学系+検出器」をシフトし、取得した画像を差分積算することができる。以下に、より具体的に説明する。
【0060】
ベルトコンベアを用いた検査装置への適用1において、シフト画像の取得のためのシフトは、ベルトコンベアの移動(移動方向をXとする)により行う。適用1について、図29に基づいて説明する。対象をベルトコンベア上に載置して搬送し、検査装置の画像取得部の直下でベルトコンベアの移動を停止して対象を静止させ、2次元画像を撮像する。次いで、対象をベルトコンベアで空間分解能程度一方向にシフトし、静止、撮像する。これを繰り返しおこない、ベース画像とシフト画像(1枚または2枚)を取得する。あるいは、対象が静止していると見なせる程度に撮像を高速でおこなうことにより、ベルトコンベア上を移動している対象を連続的に撮像し、ベース画像とシフト画像(1枚または2枚)を取得する。ベース画像とシフト画像の差分画像を取得することで、左右方向(X方向)のみ2次微分された2次元イメージが取得できる。
【0061】
ベルトコンベアを用いた検査装置への適用2において、シフト画像の取得のためのシフトは、ベルトコンベアの移動(X方向)及び2次元イメージセンサのシフト(Y方向)により行う。適用2について、図30に基づいて説明する。適用1と同様に、対象をベルトコンベア上に載置して搬送し、検査装置の画像取得部の直下でベルトコンベアの移動を停止して対象を静止させ、2次元画像を撮像する。次いで、対象をベルトコンベアで空間分解能程度一方向にシフトし、静止、撮像する。次いで、静止した対象に対して、画像取得部の2次元イメージセンサをベルトコンベアの進行方向に対して垂直方向(Y方向)に空間分解能程度の微少量シフトしつつ当該対象を撮像したのち、ベルトコンベアで対象を空間解像度程度一方向にシフトし、ベース画像とシフト画像(4枚)を取得する。あるいは、2次元イメージセンサのシフトと撮像を高速でおこなうことにより、ベルトコンベア上を移動している対象を連続的に撮像し、ベース画像とシフト画像(4枚)を取得する。これにより、XY方向に2次微分された2次元イメージが取得できる。
【0062】
ベルトコンベアを用いた検査装置への適用3において、シフト画像の取得のためのシフトは、センサアレイの長軸方向のシフト(Y方向)により行う。適用3について、図31に基づいて説明する。センサアレイを空間分解能程度アレイの長軸方向にシフトしつつ対象の部分を撮像し、ベース画像とシフト画像(1枚または2枚)を取得する。さらに、アレイに対し垂直方向にベルトコンベアで対象をアレイによる検出幅程度一方向にシフトし、同様の操作を繰り返す。あるいは、センサアレイのシフトと撮像を高速でおこなうことにより、ベルトコンベア上を移動している対象を連続的に撮像し、複数枚のベース画像とシフト画像を取得する。これにより、Y方向のみ2次微分された2次元イメージが取得できる。適用3において、ベース画像、シフト画像は、センサアレイに対応する細幅画像である。センサアレイによるベース細幅画像と、アレイ方向に片側あるいは両側シフトして得られたシフト細幅画像の差分積算画像は、シフト方向の2次微分細幅画像となる。この操作を、ベルトコンベヤをセンサアレイによる検出幅分動かして、繰り返し行い、2次微分細幅画像をつなぎあわせることで、2次元の差分積算画像(アレイ方向の2次微分イメージ)が得られる。センサアレイの幅は、1列あるいは複数列である。適用3では、細幅画像をつなぎ合わせるためだけにベルトコンベアによる対象のシフトを行っている。特に、長尺の対象の検査等において有利であると考えられる。
【0063】
次に、対象が移動している場合(例えば、生物が運動している場合)について考察する。本発明の移動する対象への適用については、2通りのアプローチが考えられる。第1のアプローチは、生物の移動速度に対して、充分速く、シフト画像を取得する方法である。この方法は、「光学系+検出器」をシフトさせることになるが、対象の速さに対して、シフト及び撮像の速さが充分速く、対象がほぼ静止していると見なせることが重要である。第2のアプローチは、対象の運動を、シフト量に置き換える方法である。この場合、対象のシフトは当該対象の自己運動によって実現され、装置のシフトは必要がなく、検出のタイミングを制御し、取得画像の演算(方向という概念がなくなるので、異なる時間に取得した画像間の演算)を行うことになる。ただし、対象の静止画像が取得出来る程度に検出時間(露光時間)は短い必要がある。この方法を応用すれば、無秩序に動いている複数の生物の中から、ある一定範囲の速度で動いている物だけの輪郭を強調し、抽出することができる。この場合の速度は、シフト画像の時間間隔により、間隔が短ければ、速く動くもの、長ければ、ゆっくり動く物の輪郭が強調される。静止している物は、差分積算画像で見ると、完全に消去される。すなわち、ある時間間隔で撮像を行い、差分画像をとると、その時間間隔でちょうど装置の空間分解能程度移動した物の輪郭のみ強調され、それより速い物はボケた背景となり、遅い物は消去されることになる。
【0064】
[B]実験例1
[B−1]実験概要
ピエゾ駆動ステージを用いた空間2次微分イメージング装置を製作した。図12に実験装置を示す。CCDカメラ、イメージファイバ光学系、ピエゾ素子駆動ステージを結合させて、試料表面からの光信号の変化を二次元画像として高感度に検出するための装置である。イメージファイバは、非整列タイプであるが、整列タイプのイメージファイバを用いてもよい。駆動ステージとして、フォーカス調整のZ軸を加えた、高精度3軸ピエゾ素子駆動ステージ、およびコントローラを選定した。また、検出器として、ノイズの少ない天体観測用のペルチェ冷却CCDカメラを採用した。光源は、ハロゲンランプを選定し、バンドパスフィルタにより赤色光を選択、照射した。イメージファイバ直下の試料の位置をピエゾ素子駆動ステージにより微少量変化させ、取得イメージの差分をとることにより、光源、ファイバ光学系、検出器の時間的・空間的揺らぎをほぼキャンセルしつつ、試料からの光信号の位置依存性のみを高感度に検出する。
【0065】
光学系と検出器を含めた測定系全部を、試料に対して相対的に微少量シフトすることで、信号強度の試料位置依存性のみを抽出する。この操作により生成される差分積算画像が空間2次微分イメージとなる。試料はピエゾ駆動ステージ上にあり、ピエゾ駆動ステージによってXY面内を微少量移動させることができる。光学系、検出器に対して、試料のみを4回(あるいは8回)一定量シフトし、それぞれの画像データ(4回シフトの場合は4枚のシフト画像、8回シフトの場合は8枚のシフト画像)を取得する。図13に、ベース画像C0と上下左右斜めの8方向の8枚のシフト画像C1〜8を示す。ベース画像C0がXY平面内にあるとすると、シフト画像C1、C2はX方向に2方向シフトした画像、シフト画像C3、C4はY方向に2方向シフトした画像、シフト画像C5〜8は斜め方向に4方向シフトした画像であるということができる。図13におけるハニーカム状を構成する各六角形はファイバ素線を示す。図13におけるシフト量は、イメージファイバのファイバ素線の直径に相当する量である。ベース画像の信号強度を、4枚のシフト画像の場合は4倍(あるいは、8枚のシフト画像の場合は8倍)し、シフトして得られた4枚(あるいは8枚)のシフト画像の信号強度の積算から差し引くことにより、ベース画像の空間2次微分イメージが得られる。
【0066】
[B−2]実験結果
差分積算画像と鮮鋭化画像のシフト量依存性を、図14(シフト量:0μm、0.25μm、0.5μm)、図15(シフト量:1μm、2μm、3μm)、図16(シフト量:4μm、5μm)に示す。図14〜図16において、上図(−2nd derivative)は、差分積算画像、下図(0th−2nd derivative)は鮮鋭化画像である。空間分解能の1/10程度(0.25μm)のシフト量でも、エッジの情報が得られている。2または3μm あたりが最適だと思われる。それ以上のシフト量(4μm、5μm)では、輪郭が太くなり、やや不自然な印象を受けるものの、中央部グラフェンは判別出来る。最適なシフト量は分解能程度2−3μm(ファイバ素線の直径)であると考えられる。
【0067】
図17のグラフェンホールバーの観測結果に示すように、ファイバの直径と同程度の幅の単層グラフェンが識別できた。ラプラシアンフィルタを用いた数値演算では、当該単層グラフェンは判別不能である。
【0068】
図18の単層グラフェン/グラファイトの観察結果に示すように、単層グラフェンや、複雑な積層状態が明瞭に観察できた。マーカーも判別できた。ラプラシアンフィルタを用いた数値演算では、当該マーカーは判別不能である。
【0069】
図19の単層/二層グラフェンの観察結果に示すように、単層および2層グラフェンの積層状態が明瞭に観察できた。ラプラシアンフィルタを用いた数値演算では、当該積層状態は判別不能である。
【0070】
[B−3]まとめ
・ピエゾ駆動ステージを用いた空間2次微分イメージング装置を製作した。
・単層および多層グラフェン試料を用いて、反射光による観察を行った。
・その結果、本手法による明らかな解像度の向上が確認された。
・駆動ステージの最適なシフト量は、本装置では空間分解能を決めているイメージングファイバのファイバ素線の直径程度であった。
・この解像度の向上は、数値演算による2次微分画像処理(ラプラシアンフィルタ)では実現されないことを確認した。
【0071】
[C]実験例2
[C−1]実験概要
位置シフトによる空間2次微分イメージング手法を一般的な光学顕微鏡に適用した。光学顕微鏡としては、オリンパスBX60を用いた。ネジ式手動ステージのために、厳密なシフトは出来ない。今回のシフト量は、おおよそ1±0.5μm程度である。
【0072】
今回使用した顕微鏡の分解能を見積もると、CCDのRGB出力のR成分(赤)を用いたこと、対物レンズの開口数が0.4であること、から、
となり、ほぼ1μm程度であると考えられる。
【0073】
[C−2]実験結果
図20、図21に、単層/多層グラフェンの観察を示す。
・単層グラフェンはベース画像と比較してより明瞭に観察できた。
・多層グラフェンについては、積層状態がベース画像と比較してより明瞭になった。
・多層グラフェン中のマーカーが明瞭に観察できた。従来の方法では、ラプラシアンフィルタを用いた数値演算を実行してようやく、見える程度である。
・ラプラシアンフィルタを用いた数値演算よりも、明らかに明瞭なイメージが得られた。
【0074】
図22、図23に、単層/多層グラフェンの観察を示す。
・単層/2層グラフェンはベース画像と比較してより明瞭に観察できた。
・多層グラフェンについては、積層によると思われる模様が見えた。従来の方法では、ラプラシアンフィルタを用いた数値演算しても、ほとんど見えない。
・ラプラシアンフィルタを用いた数値演算よりも、明らかに明瞭なイメージが得られた。
【0075】
[C−3]まとめ
・位置シフトによる空間2次微分イメージング手法を光学顕微鏡に適用した。
・ネジ式手動ステージを用いたため、正確なシフトは出来なかったにもかかわらず(おおよそ1±0.5μm)、本手法による明らかな解像度の向上が確認された。
・ラプラシアンフィルタを用いた数値演算では得られない情報が、確かに得られることを確認した。
・装置の空間分解能程度で正確にシフトすれば、より解像度が向上すると考えられる。
【0076】
[D]実験例3
鮮鋭化画像Cを取得する際(C=kC0−C差分積算)のベース画像C0の重みkについて比較実験を行った。実験結果を図24〜図27に示す。
1≦k:k=20程度までは輪郭が強調され、それ以上では位置シフトの効果があまりない。
0≦k<1:差分積算画像と大きな違いは見られなかった。
k<0:画素強度が相対的に変化し、凸凹の形状も変化する。有効性はあまりないと考えられる。
本発明を限定するものではないが、1≦k≦20が適当であると考えられる。
【特許請求の範囲】
【請求項1】
対象の画像を取得する画像取得装置を用いた画像処理方法であって、
対象の画像をベース画像として取得するステップと、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得するステップと、
前記ベース画像と各シフト画像の同じ座標の 画素同士の差分からN枚の差分画像(N≧1)を取得するステップと、
前記N枚の差分画像を加算して対象の差分積算画像を取得するステップと、
からなる画像処理方法。
【請求項2】
前記差分積算画像は、各シフト画像からベース画像を減算して積算することで得られる、請求項1に記載の画像処理方法。
【請求項3】
さらに、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得するステップを備える、請求項2に記載の画像処理方法。
【請求項4】
前記所定量は、前記画像取得装置の空間分解能の1/10〜2倍の範囲の量である、請求項1〜3いずれか1項に記載の画像処理方法。
【請求項5】
前記所定量は、前記画像取得装置の空間分解能の1/5〜1倍の範囲の量である、請求項4に記載の画像処理方法。
【請求項6】
前記シフト画像は、対象あるいは/および画像取得装置の測定系を移動させることで取得される、請求項1〜5いずれか1項に記載の画像処理方法。
【請求項7】
前記N枚のシフト画像は、
ベース画像に対してx方向に2方向、y方向に2方向、斜め方向に4方向シフトした8つの画像、あるいは、
ベース画像に対してx方向に2方向、y方向に2方向シフトした4つの画像、あるいは、
ベース画像に対してx方向に2方向あるいはy方向に2方向シフトした2つの画像、あるいは、
ベース画像に対してx方向に1方向あるいはy方向に1方向シフトした1つの画像、である、請求項1〜6いずれか1項に記載の画像処理方法。
【請求項8】
前記シフト画像は、ベース画像を回転させた画像である、請求項1〜4いずれか1項に記載の画像処理方法。
【請求項9】
対象の画像を取得する画像取得装置を用いた画像処理装置であって、
対象の画像をベース画像として取得する手段と、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得する手段と、
画像処理部と、を備え、
前記画像処理部は、前記ベース画像と各シフト画像の同じ座標の画素同士の差分からN枚の差分画像(N≧1)を取得し、前記N枚の差分画像を加算して対象の差分積算画像を取得する、画像処理装置。
【請求項10】
前記画像処理部は、各シフト画像からベース画像を減算して積算することで差分積算画像を取得する、請求項9に記載の画像処理装置。
【請求項11】
前記画像処理部は、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得する、請求項10に記載の画像処理装置。
【請求項12】
前記所定量は、前記画像取得装置の空間分解能の1/10〜2倍の範囲の量である、請求項9〜11いずれか1項に記載の画像処理装置。
【請求項13】
前記所定量は、前記画像取得装置の空間分解能の1/5〜1倍の範囲の量である、請求項12に記載の画像処理装置。
【請求項1】
対象の画像を取得する画像取得装置を用いた画像処理方法であって、
対象の画像をベース画像として取得するステップと、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得するステップと、
前記ベース画像と各シフト画像の同じ座標の 画素同士の差分からN枚の差分画像(N≧1)を取得するステップと、
前記N枚の差分画像を加算して対象の差分積算画像を取得するステップと、
からなる画像処理方法。
【請求項2】
前記差分積算画像は、各シフト画像からベース画像を減算して積算することで得られる、請求項1に記載の画像処理方法。
【請求項3】
さらに、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得するステップを備える、請求項2に記載の画像処理方法。
【請求項4】
前記所定量は、前記画像取得装置の空間分解能の1/10〜2倍の範囲の量である、請求項1〜3いずれか1項に記載の画像処理方法。
【請求項5】
前記所定量は、前記画像取得装置の空間分解能の1/5〜1倍の範囲の量である、請求項4に記載の画像処理方法。
【請求項6】
前記シフト画像は、対象あるいは/および画像取得装置の測定系を移動させることで取得される、請求項1〜5いずれか1項に記載の画像処理方法。
【請求項7】
前記N枚のシフト画像は、
ベース画像に対してx方向に2方向、y方向に2方向、斜め方向に4方向シフトした8つの画像、あるいは、
ベース画像に対してx方向に2方向、y方向に2方向シフトした4つの画像、あるいは、
ベース画像に対してx方向に2方向あるいはy方向に2方向シフトした2つの画像、あるいは、
ベース画像に対してx方向に1方向あるいはy方向に1方向シフトした1つの画像、である、請求項1〜6いずれか1項に記載の画像処理方法。
【請求項8】
前記シフト画像は、ベース画像を回転させた画像である、請求項1〜4いずれか1項に記載の画像処理方法。
【請求項9】
対象の画像を取得する画像取得装置を用いた画像処理装置であって、
対象の画像をベース画像として取得する手段と、
前記ベース画像に対して結像面内で前記対象が所定量シフトしたN枚のシフト画像(N≧1)を取得する手段と、
画像処理部と、を備え、
前記画像処理部は、前記ベース画像と各シフト画像の同じ座標の画素同士の差分からN枚の差分画像(N≧1)を取得し、前記N枚の差分画像を加算して対象の差分積算画像を取得する、画像処理装置。
【請求項10】
前記画像処理部は、各シフト画像からベース画像を減算して積算することで差分積算画像を取得する、請求項9に記載の画像処理装置。
【請求項11】
前記画像処理部は、ベース画像から前記差分積算画像を減算して対象の鮮鋭化画像を取得する、請求項10に記載の画像処理装置。
【請求項12】
前記所定量は、前記画像取得装置の空間分解能の1/10〜2倍の範囲の量である、請求項9〜11いずれか1項に記載の画像処理装置。
【請求項13】
前記所定量は、前記画像取得装置の空間分解能の1/5〜1倍の範囲の量である、請求項12に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【公開番号】特開2013−114360(P2013−114360A)
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願番号】特願2011−258337(P2011−258337)
【出願日】平成23年11月25日(2011.11.25)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2011年5月31日 http://kaken.nii.ac.jp/ja/p/21540316/2009/3/jaを通じて発表、2011年8月29日〜9月2日 公益社団法人応用物理学会主催の「第72回応用物理学会学術講演会」において文書をもって発表
【出願人】(504137912)国立大学法人 東京大学 (1,942)
【Fターム(参考)】
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願日】平成23年11月25日(2011.11.25)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2011年5月31日 http://kaken.nii.ac.jp/ja/p/21540316/2009/3/jaを通じて発表、2011年8月29日〜9月2日 公益社団法人応用物理学会主催の「第72回応用物理学会学術講演会」において文書をもって発表
【出願人】(504137912)国立大学法人 東京大学 (1,942)
【Fターム(参考)】
[ Back to top ]