診断支援装置およびその制御方法、診断支援システム、プログラム
【課題】符号化されたデータから診断に有効な領域を優先的に読み出すことを可能とし、必要な画像を迅速に取得可能とする。
【解決手段】初期ストリーム設定部18及び入力制御部14の制御により、画像入力部11は、符号化画像データストリームのうち、まず、診断支援処理を可能とする低画質画像を再生可能な分を取り込む。懲り込まれたデータストリームは、復号化部12で復号化され、得られた2次元画像13が診断支援部16で解析されて陽性領域17が決定される。そして、入力制御部14が陽性領域17の部分を優先して取り込むべく画像入力部11を制御することにより、診断に有効な領域が優先的に取り込まれ、詳細に再生される。
【解決手段】初期ストリーム設定部18及び入力制御部14の制御により、画像入力部11は、符号化画像データストリームのうち、まず、診断支援処理を可能とする低画質画像を再生可能な分を取り込む。懲り込まれたデータストリームは、復号化部12で復号化され、得られた2次元画像13が診断支援部16で解析されて陽性領域17が決定される。そして、入力制御部14が陽性領域17の部分を優先して取り込むべく画像入力部11を制御することにより、診断に有効な領域が優先的に取り込まれ、詳細に再生される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理方法及び装置に関し、特にX線医療用画像の処理に好適な画像処理方法及び装置に関する。
【背景技術】
【0002】
ある種の蛍光体に放射線(X線、α線、β線、γ線、電子線、紫外線等)を照射すると、この放射線エネルギーの一部が蛍光体中に蓄積され、この蛍光体に可視光等の励起光を照射すると、蓄積されたエネルギーに応じて蛍光体が輝尽発光を示すことが知られており、このような性質を示す蛍光体は蓄積性蛍光体(輝尽性蛍光体)呼ばれる。この蓄積性蛍光体を利用した放射線画像情報記録再生システムが本出願人により提案されている(特開昭55−12429号、特開昭56−11395号等)。このシステムによれば、人体等の被写体の放射線画像情報を一旦蓄積性蛍光体のシートに記録し、この蓄積性蛍光体シートをレーザ光等の励起光で走査して輝尽発光光を生ぜしめ、得られた輝尽発光光を光電的に読み取って画像信号を得、この画像信号に基づき写真感光材料等の記録材料、CRT等の表示装置に表示させて、被写体の放射線画像を可視像として得る。
【0003】
また、近年においては半導体のセンサを使用して同様にX線画像を撮影する装置が開発されている。これらのシステムは、従来の銀塩写真を用いる放射線写真システムと比較して極めて広い放射線露出域にわたって画像を記録し得るという実用的な利点を有している。すなわち、非常に広いダイナミックレンジのX線を光電変換手段により読み取って電気信号に変換し、この電気信号を用いて写真感光材料等の記録材料、CRT等の表示装置に出力させることによって、放射線露光量の変動に影響されない放射線画像を可視像として得ることができる。
【0004】
また、上記のようにして得られた電気信号はデジタル情報に変換可能であり、得られたデジタル情報はメモリ等の記憶媒体に蓄積することができる。そして、そのようなデジタル情報を情報処理装置に提供することで、デジタル画像処理を施し、種々の診断支援を行なうことも提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開昭55−12429号公報
【特許文献2】特開昭56−11395号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、X線画像は非常に多くの情報を含んでおり、その画像を蓄積・伝送する際にはデ−タ量が膨大になってしまうという問題がある。このため画像の蓄積・伝送に際しては、画像の持つ冗長性を除く、或いは画質の劣化が視覚的に認識し難い程度で画像の内容を変更することによってデ−タ量を削減する高能率符号化が用いられる。
【0007】
例えば、静止画像の国際標準符号化方式としてISOとITU−Tにより勧告されたJPEGでは、可逆圧縮に関してはDPCMが採用され、非可逆圧縮に於いては離散的コサイン変換(DCT)が使用されている。JPEGについての詳細は、勧告書ITU−T Recommendation T.81、ISO/IEC 10918−1等に記載されているのでここでは詳細な説明を省略する。
【0008】
また、近年では離散的ウェーブレット変換(DWT)を使用した圧縮方法に関する研究が多く行われている。DWTを使用した圧縮方法の特徴は、離散コサイン変換(DCT)で見られるブロッキングアーティファクトがおきないことである。
【0009】
他方、X線画像の圧縮に際しては、圧縮率を効率的に向上させる手段として関心領域(重要な領域)を設定して、関心領域の圧縮率を落として画質を他の領域よりも優先させることが考えられる。また、画像を無損失(LOSSLESS)で符号化する場合も、関心領域を優先的に符号化することにより、読み出しの際に関心領域を先行して復号化して表示することが可能になる。しかし、画像中のどこを関心領域に設定するかは医療の診断学的な意味もあり簡単ではなかった。
【0010】
このような状況から出願人は、画像圧縮時に入力画像を解析してX線の照射野領域を抽出し、抽出された照射野領域からX線の素抜け領域をさらに抽出して、照射野領域から素抜け領域を除いた部分を関心領域として、この関心領域に相当する画像をレベルシフトして符号化することにより関心領域を優先的に符号化する方法および装置を提案している。この方法の問題点は、切り出し画像(照射野領域)中での素抜け領域の割合は20%程度であり、圧縮率の向上に際しては更なる関心領域の絞込みが必要となることである。
【0011】
他方、圧縮された画像ファイルの内容を表示する際にも関心領域の設定は有効な場合が多い。例えば1000×1000画素のモニタに2000×2000画素から構成される画像を1枚あるいは複数枚表示する場合を考えると、画像の一部分を表示するか、縮小表示するかを選択しなければならない。もちろん、マウスやトラックボールで画像をスクロールする手法も考えられるが、これでは複数枚を同時に表示する目的が達せられない。画像をファイリングする際に各画像で関心領域が設定されている場合は関心領域のみを表示することが可能であるが、関心領域の設定がない場合や、関心領域の設定があっても表示割り当て領域をオーバーしてしまう場合もあり、一部分を表示するにしろ、全体を表示するにしろ、縮小表示が必要になる。
【0012】
また、画像を縮小表示した場合の問題点として、空間分解能が悪いことにより詳細の観察(一次診断が終わった画像に対する参照という意味で診断と区別する)が出来ない可能性がある。これを補償する技術としては、CRT上で動く矩形や円形の拡大鏡を設定して、オペレータ(医師)が適宜拡大鏡を移動し、部分的に原画表示することが提案されている。しかしながら、空間分解能が悪い画像で拡大領域を適切に選択することが可能であるかという問題点を残している。
【0013】
また、X線画像はデータ容量を削減するために符号化して保存される場合があるが、この符号化された画像を迅速に表示することが望まれている。符号化された画像を迅速に表示することは、符号化された画像データから診断に有効な領域を優先して表示することでも実現できる。
【0014】
従って、本発明の目的は、符号化されたデータから診断に有効な領域を優先的に読み出し可能とすることにある。
【0015】
また、本発明の他の目的は、診断支援手段によって決定された、診断あるいは観察に重要な関心領域を優先的に読みこみ、その領域の画質を向上させることにより、効率的に診断支援の精度を高めることにある。
【0016】
また本発明の他の目的は、診断支援の診断目的に応じて必要となる画質で画像データを取り込むことを可能とし、効率的な画像転送を実現可能とすることにある。
【課題を解決するための手段】
【0017】
上記の目的を達成するための本発明による画像処理装置は以下の構成を備える。すなわち、
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込手段と、
前記第1取込手段により取り込まれたデータストリームを復号化して2次元画像を得る復号手段と、
前記復号手段によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析手段と、
前記解析手段によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込手段とを備える。
【0018】
また、上記の目的を達成するための本発明による画像処理方法は以下の構成を備える。すなわち、
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込工程と、
前記第1取込工程により取り込まれたデータストリームを復号化して2次元画像を得る復号工程と、
前記復号工程によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析工程と、
前記解析工程によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込工程とを備える。
【発明の効果】
【0019】
本発明によれば、符号化されたデータから診断に有効な領域を優先的に読み出すことが可能となり、必要な画像を迅速に取得することが可能となる。
【0020】
また、本発明によれば、医療診断支援によって決定された、診断あるいは観察にとって重要な関心領域を優先的に読みこみ、その領域の画質を向上させることが可能となり、効率的に診断支援の精度を高めることができる。
【0021】
更に、本発明によれば、診断支援の診断目的に応じて必要となる画質で画像データを取り込むことが可能となり、効率的な画像転送が実現可能となる。
【図面の簡単な説明】
【0022】
【図1】本実施形態による画像処理装置の機能構成を示すブロック図である。
【図2】本実施形態による画像処理装置の動作概要を説明するフローチャートである。
【図3】陰影診断支援処理を説明するフローチャートである。
【図4】陰影抽出部の内部構成を示すブロック図である。
【図5】陰影抽出部の特性を説明する図である。
【図6】陰影抽出された部位が陽性であるか否かを判定するためのニューラルネットワークを示す図である。
【図7】以上の陰影診断支援部のプロセスを説明する図である。
【図8】テクスチャ疾患診断支援処理を説明するフローチャートである。
【図9】テクスチャ疾患抽出処理の機能構成を示すブロック図である。
【図10】セグメンテーション部91の詳細な機能構成を示すブロック図である。
【図11】学習フェーズにおけるセグメンテーション部の機能構成を説明する図である。
【図12】利用フェーズにおけるセグメンテーション部91の機能構成を説明する図である。
【図13】セグメンテーションを説明する図である。
【図14】具体的例を示す図である。
【図15】画像入力部11と画像サーバ151の間で符号列を動的に生成する場合の構成を示した図である。
【図16】画像をタイルに分割して符号化した場合の符号列伝送を示した図である。
【図17】画像をDWTによって符号化した場合の符号列伝送を示した図である。
【図18】このときのレイヤ構成の様子を示した図である。
【図19】符号化データにおけるレイヤ配置を説明する図である。
【図20】本実施形態による画像処理装置の概略の構成を説明するブロック図である。
【図21】コードブロックと関心領域との関連を説明する図である。
【発明を実施するための形態】
【0023】
以下、添付の図面を参照して本発明の好適な実施形態を説明する。
【0024】
以下の実施形態では、記憶媒体から符号化されたX線医療画像を読み出す際に、診断に有効な領域を自動決定して、その領域に係わるデータを優先的に読み出し、表示する画像処理装置について説明する。
【0025】
図20は本実施形態による画像処理装置の概略の構成を説明するブロック図である。21はCPUであり、ROM22に格納された制御プログラム、或いは外部記憶装置25からRAM23にロードされた制御プログラムを実行することで、図1等を参照して以下に説明する各種処理を実現する。22はROMであり、CPU21が実行する制御プログラムや各種データを格納する。23はRAMであり、制御プログラムのロード領域やCPU21の作業領域を提供する。
【0026】
24はディスプレイであり、CPU21の制御の下で各種表示を行なう。25は外部記憶装置であり、ハードディスク等で構成され、制御プログラムや画像データ等を格納する。26は入力装置であり、操作者の操作入力を取り込む。27はネットワークインターフェースであり、ネットワーク28と通信可能に接続する。20はバスであり、上記各構成を接続する。
【0027】
28は、LAN、インターネット等のネットワークである。29は符号化画像データを格納するサーバである。29は、系列変換され、符号化された画像データのデータストリームを提供する画像サーバである。
【0028】
図1は、本実施形態による画像処理装置の機能構成を示すブロック図である。図1において、画像入力部11は、符号化された画像データの入力を前提としている。以下の説明ではDWT変換された画像が符号化ストリームに変換されて入力されることを前提にしているが、DWT変換に限定されるものでなくDCT、KL変換等の系列変換された画像に対して符号化する応用例も考えることができる。情報源符号化においてはDCT、KL変換、DWT等を総称して系列変換と呼ぶ。なお、DCT、KL変換に関しては、「ANIL K. JAIN著、Fundamental Of Digital Image Processing、1989、Prentice-Hall Inc.」に記載されているように、一般的な技術である。
【0029】
符号化された画像データは通常ネットワーク接続した画像サーバ(29)から転送されるが、画像入力部11により入力されたデータは復号化部12に転送される。DWT画像を復号化する復号化部に関しては、ISO/IEC 15444(以降JPEG2000)によるものを使用するが、その詳細はJPEG2000の規格文書等に公開されている。復号化部12の出力である画像13は、画像表示部15によりディスプレイ24上に表示されるともに、診断支援部16に提供される。もちろん、画像13を診断支援部16が取り込むように構成してもよい。
【0030】
ここで注目すべき点は、診断支援部16に使用する初期画像は、目標としている診断支援に最小限必要な画質でよく、診断支援のために変換されているデータストリームを全て読みこむ必要はないことである。目標としている診断支援に必要な画質、つまり符号化の際のレイヤの構成は、初期ストリーム設定部に設定される。
【0031】
以下の説明では胸部正面画像の腫溜陰影の検出支援を例に示すが、この診断支援には比較的低解像度の縮小画像で十分である。従って、初期画像として対象画像に対応するデータが部分的に転送されるように、初期ストリーム設定部18により設定される。前提条件として、診断支援には複数種類のものが考えられ、その診断支援の種類によって必要とされる画質が決定される。たとえば、腫溜陰影では比較的大きな対象物の検出になるために精細な分解能は必要なく、空間分解能5分の1、濃度分解能2分の1程度の画質が初期画像に設定される。他方、すりガラス状の陰影の場合は、比較的精細な分解能が必要とされるので、空間分解能2分の1、濃度分解能3分の1程度の画質が初期画像として設定される。これらの初期設定値は、診断支援アルゴリズム内部で設定されるパラメータとの関連が強く、経験的に決められる。こうして設定された条件を満たす画像が入力された時点で、診断支援部16は診断支援プロセスを開始する。そして、診断支援の過程で更なるデータストリームが必要になれば、入力制御部14を介して必要な領域のデータ入力を行う。診断支援部16によって決定した陽性領域17は、輪郭情報として画像表示部15に表示された縮小画像にオーバレイ表示されるとともに、入力制御部14に提供される。
【0032】
以上の動作をまとめると、次のようになる。図2は本実施形態による画像処理装置の動作概要を説明するフローチャートである。まずステップS21において、初期ストリーム設定部18により、目的とする診断支援に適した初期ストリームが設定される。ステップS22では、画像入力部11が、符号化画像データを取り込み、復号化部12へ提供する。このとき、入力制御部14は、初期ストリーム設定部18によって設定された内容に従って画像データの入力が行なわれるように画像入力部11を制御する。
【0033】
続いて、ステップS23では、画像入力部11より入力された符号化画像データを復号し、得られた画像データ13を画像表示部15により表示する。また、ステップS24において、診断支援部16はこの復号された画像データ13を解析して疾患部位を検出し、陽性領域データ17を出力する。ステップS25において、入力制御部14は、診断支援部16から出力された陽性領域データ17に基づいて、ステップS21で入力した符号化画像中の優先的に取り込むべき領域を設定する。ステップS26において、当該画像データの取り込みが終了していない場合はステップS22に戻る。そして、入力制御部14は、設定された領域に従って符号化画像を取り込むべく画像入力部11を制御する。こうして画像入力部11より入力された符号化画像は復号化部12により順次復号され、画像表示部15に表示される。また、符号化画像データの取り込みの進行は、ステップS24における診断支援処理の精度向上や、ステップS23における画像表示の詳細化に寄与する。
【0034】
以上のように動作することにより、符号化されたデータから診断に有効な領域が自動的に選択され、その領域が優先的に読み出されるので、診断に有効な情報を優先して表示することが可能となる。このように診断に有効な情報を優先して表示するので、X線画像を迅速に表示するのと同等の効果が得られる。
【0035】
次に、診断支援部16について説明する。診断支援部16は、診断支援の目的に応じて異なる処理が必要になるが、大きくは陰影診断処理とテクスチャ疾患診断処理に分類できる。陰影診断処理は、胸部画像中の石灰化、腫溜状の癌、あるいはマンモグラム画像中の腫溜(MASS)の検出に使用されるプロセスである。一方、テクスチャ疾患診断処理は、胸部画像中に発見される間質性肺炎などの診断支援に使用される。
【0036】
まず、陰影診断支援について図3〜図7を用いて説明する。
【0037】
図3は陰影診断支援処理を説明するフローチャートである。まず、ステップS31において、復号された画像データ13が陰影抽出部に入力され、陰影抽出が行なわれる。
【0038】
図4は陰影抽出部の内部構成を示すブロック図である。入力された画像データ13から、High-Passフィルタ41とLow-Passフィルタ部42により高周波画像と低周波画像が作成される。演算部43では、これら2つの画像の差分をとり、陰影候補画像データ44が作成される。High-Passフィルタ41とLow-Passフィルタ42の特性例を図5の(A)、(B)に示す。また、高周波画像と低周波画像の差分により形成される特性は、図5(C)に示すが、これは画像中からある大きさの円形パターンを検出するマッチドフィルタと考えることが出きる(図5(C)に示されるように、画像中のある周波数に対応する領域のみを抽出するフィルタは、実効的には画像中のある大きさのものだけを抽出すると解することができる)。
【0039】
以上の説明から分かるように、陰影抽出処理においてHigh-Passフィルタ41とLow-Passフィルタ42の特性を調整することにより、抽出する円形パターンのサイズを調整することが可能である。一般的に、胸部正面画像の場合であれば、画像中から5mm直径以下の腫溜を選別して抽出することは非常に困難である。理由は画像中には同等サイズの信号が数多く含まれて、その多くは病気の信号ではないからである。そこで、ここでは直径としては10mm程度のマッチドフィルタを想定している。しかし、マッチドフィルタで抽出を試みる円形パターンの直径が1種類である限定はなく、複数種類の円形パターンを用いてもよい。例えば、円形パターンの直径が8mm、12mm、16mmの3種類のフィルタを順序適用して、それぞれのフィルタが抽出した陰影候補を以後のプロセスに流すことも可能である。
【0040】
次に、ステップS32において、以上の陰影抽出処理(S31)で抽出された陰影候補に対して(複数ある場合はそれぞれに対して)、病理特徴量抽出処理により特徴量が計算される。ここで計算される特徴量は、面積、円形度、閾値感度である。それぞれの特徴量を以下に説明する。ただし、面積と円形度を計算する際には陰影候補を2値化する必要がある。2値化の閾値は、経験的にマッチドフィルタ出力画像のヒストグラムの10%値とする。
(1)面積S=[陰影候補に含まれる画素数]×[1画素の面積]
(2)円形度C=A/S:ここで、Aは実効直径Dの円を陰影候補の重心に配置したときに、その円と陰影候補がオーバーラップする(重なる)面積
(3)閾値感度=|2×S10−S5−S15|:なお、閾値感度とは閾値を変化させた場合の陰影面積変化であり、S5、S10、S15はそれぞれ閾値を5%、10%、15%と変化させたときの面積を、“||”は絶対値を表す。
【0041】
ステップS33では、以上のように計算された特徴量をベースに、ステップS31で抽出された各陰影に対して陽性か 偽陽性であるかの判定を行う。ここで、偽陽性とは陽性ではない陰影のことである。なお、本実施形態においては、特徴量は上記3種類を用いるものとするが、これら3種類に限定されるものではない。
【0042】
なお、ステップS33における判定は、ニューラルネットワークにより構成される判定部を用いて行なう。以下、判定部について学習フェーズと利用フェーズに分けて説明する。本実施形態においては、判定部にニューラルネットワークを使用しているが、これに限定されるものではなく診断支援の目的によっては線形で分離が可能な場合もあり、その場合はより簡便で計算量の少ない線形分離を使用してもよい。
【0043】
学習フェーズは、陽性か偽陽性かの結果が分かっている陰影に対して、結果を提示しながら特徴量を入力してニューラルネットワークの内部係数を学習させるものである。ニューラルネットワークは、さまざまなものが開発されている。例をあげるとランメルハートが開発したFeed Forward型の誤差逆伝播ニューラルネットワーク(参考文献:D. E. Rumelhart and J. L. McCelland, Parallel Distributed Processing: Explorations in the Microstructure of Cognition, Vol. 1: Foundation. Cambridge: The MIT Press, 1986.)、Radial Basis Functionニューラルネットワーク(簡単にRBF-NN)(参考文献:C. Bishop, "Improving the Generalization Properties of Radial Basis Function Neural Networks," Neural Comp., vol. 3, pp. 579-588, 1991.)があげられる。
【0044】
本実施形態においては、図6に示すような3入力のRBF−NNを使用する。構造的にはFeed Forward型を採用して、入力層、中間層1層、出力層の3層構造を有する。入力層には、ステップS32の病理特徴量抽出処理で抽出した特徴量の数に相当する入力Nodeを配置する。中間層に配置するRBFニューロンは、非線型要素としてガウス分布を持つような出力特性を具備させる。RBFニューロンの数は、学習のケース数と問題の複雑さに依存するが、計算時間を妥当に設定するためには100程度が適当である。ニューラルネットワークの出力数は1であり、陽性であれば1、陰性であればゼロが出力される。本実施形態において、ニューラルネットワークは診断支援の目的毎に用意されるが、ニューラルネットワークはソフトウェアで構成されるので、実際は診断支援毎の係数を保存しておいて、使用の際には診断支援毎の係数をセットすることになる。
【0045】
利用フェーズは、診断目的に対応して学習した内部係数をニューラルネットに設定した後に、判定結果が未知の陰影に対する3種類の特徴量を提示して、ネットワーク出力を得る。陽性出力が1、陰性出力が0で学習されれば、出力が0.5以上の場合は陽性、0.5以下であれば陰性の判定が出力される。陽性と判定された円形パターン(陰影)は、それぞれ陽性領域決定処理(ステップS34)
に用いられる。
【0046】
ステップS34における陽性領域決定処理の目的は、陽性と判定された複数の陰影パターンが近接する場合にはひとつの陽性領域とすること、および符号化された領域を指定するために陽性領域を矩形化することである。ただし、陽性領域の指定を矩形状に限定する制約は本質的なものではなく、JPEG2000ではMAXSHIFTを使用すれば円形の関心領域(陽性領域)を設定することが可能である。
【0047】
図7は、以上の陰影診断支援処理のプロセスを説明する図である。図7の(A)は、画像データ513として入力された胸部正面画像であり、この画像に対してステップS31の陰影抽出処理を適用した結果を(B)に示す。次に、ステップS32の病理特徴量抽出処理は、(B)に示された4個の陰影候補のそれぞれに対して病理特徴量を抽出する。そして、ステップS33において、抽出した特徴量をもとにニューラルネットワークで各陰影が陽性か否かを判定した結果が図7(C)である。(C)では、(A)に示した右肺の矩形の陰影パターンが陰性として排除されている。更に、ステップS34の陽性領域決定処理において、(C)の陽性陰影パターンに対して陽性領域が決定された結果が(D)である。このようにすべての陽性陰影を含むように陽性領域が設定され、しかも左肺の陰影に関しては一つに統合されて陽性領域が設定されている。なお、統合の条件としては、ある陽性領域から所定の範囲内に他の陽性領域が存在すれば、それらは一つの陽性領域として最終的には取り扱われる。領域統合のアルゴリズム例としては、図7(C)の画像に対して、所定回数の形態学的なDilationを行ったのちに、ラベリングの個別領域の数をカウントし、個別領域の数が減少していれば領域の接合が発生したと判断される。そして、結合され領域に含まれるオリジナルの陽性領域をすべて包含するようにROI(関心領域)が決定されて、図7(D)が出力されることになる。
【0048】
次に図8〜図14を用いてテクスチャ疾患診断支援を説明する。但し、以下の説明においては、胸部正面画像に対する間質性肺疾患を例にとって説明する。
【0049】
図8はテクスチャ疾患診断支援処理を説明するフローチャートである。図8において、ステップS81で、復号化部12から出力された画像データ13に対して、テクスチャ疾患抽出処理が適用され、テクスチャ疾患候補関心領域(ROI)が抽出される。図9はテクスチャ疾患抽出処理の機能構成を示すブロック図である。入力画像としての画像データ13はセグメンテーション部91に入力されて肺野領域がセグメンテーションされる。間質性肺疾患は縦隔領域が対象外になることと、陰影パターンを検索するのとはことなり、局所的な領域で判断する疾患であるので、肺野の局所領域を定義するために肺野の抽出が必要になる。
【0050】
セグメンテーション部91について図10を参照して更に説明する。図10はセグメンテーション部91の詳細な機能構成を示すブロック図である。101はセグメント特徴量抽出部であり、画像データ13の各画素に対して特徴量の計算を行なう。102は判別部であり、ニューラルネットワークを用いて疾患候補領域を判定する。
【0051】
セグメンテーション部91は、学習フェーズと利用フェーズにより構成が異なる。本実施形態のセグメンテーション部91はニューラルネットワークにより構成されているので、学習データを入力してニューラルネットワーク内部の係数を形成するフェーズを学習フェーズと呼び、入力された画像データに対してセグメンテーションを実施するフェーズを利用フェーズと呼ぶ。以下のフェーズでは画素単位のセグメンテーションを行っているが、セグメンテーションの手法としては画素単位のものに限定されず、画像中から輪郭を追跡する手法によりセグメンテーションを行うことも可能である。輪郭を追跡するタイプのセグメンテーションに関しては、文献:O.Tsujii, M. T. Freedman, and S. K. Mun, "Lung contour detection in chest radiographs using 1-D convolution neural networks," Electronic Imaging, 8(1), pp. 46-53, January 1999.に記載されている。
【0052】
図11は学習フェーズにおけるセグメンテーション部の機能構成を説明する図である。入力画像の各画素に対してセグメント特徴抽出部101により特徴量の計算が行われる。計算される特徴量は、画素値をベースに計算されるもの、テクスチャをベースに計算されるもの、解剖学的構造からの相対アドレスで計算するものなどがある。詳しくは、本発明者による論文(O. Tsujii, M. T. Freedman, and S. K. Mun, "Automated Segmentation of Anatomic Regions in Chest Radiographs using Adaptive-Sized Hybrid Neural Network," Med. Phys., 25(6), pp. 998-1007, June 1998.)を参照のこと。
【0053】
なお、使用される特徴量は、以上の例や論文で示されるものに限定されるものでなく、その他の論文M. F. McNitt-Gray, H. K. Huang and J. W. Sayre, "Feature Selection in the Pattern Classification Problem of Digital Chest Radiograph Segmentation," IEEE Trans. Med. Imag., 14, 537-547 (1995).などに記載される確率的な特徴量も使用され得る。
【0054】
次に判別部(以下ではニューラルネットワーク部とも呼ぶ)102に関して説明する。ニューラルネットワーク102は、前述したようにさまざまなものが開発されている。本実施形態においては、RBF−NNを使用する。構造的にはFeed Forward型を採用して、図6に示したように入力層、中間層1層、出力層の3層構造とする。ただし、便宜的に入力NODE数は3、中間ニューロンは4、出力NODE数は1としている。
【0055】
入力層には、セグメント特徴量抽出部101で抽出した特徴量の数に相当する入力Nodeを配置する。中間層に配置するRBFニューロンは、非線型要素としてガウス分布を持つような出力特性を具備させる。RBFニューロンの数は、学習のケース数と問題の複雑さに依存するが、計算時間を妥当に設定するためには5000程度は適当である。ニューラルネットワークの出力数は、各部位に対するセグメント数に相当する。例えば、図13の(A)に示すような胸部正面の画像であれば、図13の(B)に示すように2つの解剖学的セグメントがあるので、2つの出力NODEが用意される。
【0056】
なお、本実施形態において、ニューラルネットワークは撮影部位毎(対象画像毎)に用意されるが、ニューラルネットワークはソフトウェアで構成されるので、実際には部位毎の係数を保存しておいて、使用の際には部位毎の係数をセットするようにする。
【0057】
学習フェーズにおいては、各画素に対する特徴量とともに、セグメンテーション結果である回答例(教師出力画像)がニューラルネットワーク102に提示される。入力画像に対する教師出力画像は、人手によるセグメンテーション処理部111から提供される。図13の(A)に示した入力胸部画像に対応する教師画像を図13の(B)に示す。胸部正面画像に対応するセグメント分類に対応するように、セグメンテーション処理部111では、出力値1と2を持つように教師画像が作られる。ただし、セグメントの対象とならない領域は、それ以外の数、たとえばゼロがセットされる。セグメンテーション処理部111による教師画像の作成は、画像中の領域を指定できるグラフィックソフトで行うことが出きるが、市販されているPhotoshop(米国Adobe社製)などを使用しても可能である。ニューラルネットワークの学習は、RBF−NNの場合は出力エラーを最小にする最小2乗法で行えば、解析的に求めることができ、内部係数の計算は短時間で行える。
【0058】
次に、利用フェーズに関して説明する。図12は利用フェーズにおけるセグメンテーション部91の機能構成を説明する図である。
【0059】
セグメント特徴量抽出部101による、画像中の各画素に対する特徴量の抽出は、学習フェーズと同様に行われる。ニューラルネットワーク102に対する内部係数は、対象の撮影部位に対する係数が利用前にロードされる。各画素に対する特徴量がニューラルネットワークに提示されて、ネットワークは出力NODEに出力値を出力する。胸部正面画像の場合では、出力NODEは2つであり、それらの出力NODEで最もYESに近い出力をしたNODEに対応するセグメントに、入力画素は分類される。なお、上記においてロードされる係数とは、ニューラルネットワークにおいて撮影部位毎に学習され、学習の結果としてニューラルネットワーク内部に形成された係数である。これらの係数はもともとは、適当な初期値から出発して、特定の撮影部位、診断支援に合わせて、学習の過程で収斂して行く。この収斂された係数が、ニューラルネットワークの挙動を決定し、通常は複数の係数から構成される。なお、係数の数は、使用するニューラルネットワークの種類、大きさに依存して決まる。
【0060】
このようにして画像中のすべての画素に対する分類が完了したセグメント画像例を図13の(C)に示す。一般的にニューラルネットワーク部102が出力したセグメント画像にはノイズが含まれる。例えば、肺野の領域から分離して小さい面積の肺野領域が発生する場合がある。このようなノイズ的な小領域は、後処理過程で除去されるが、この技術に関しては前述の文献:O.Tsujii, M. T. Freedman, and S. K. Mun, "Lung contour detection in chest radiographs using 1-D convolution neural networks," Electronic Imaging, 8(1), pp. 46-53, January 1999.を参照のこと。
【0061】
図10の判別部(ニューラルネットワーク部)102の出力がセグメンテーション出力画像103である。胸部正面画像の場合は肺野部分であり、その例を図13の(C)に示す。
【0062】
次に、このセグメンテーション出力画像103に対して領域分割処理92(図9)が適用される。 領域分割処理とは、テクスチャ疾患パラメータを計算するための局所的な領域を定義する処理である。具体的例を図14に示す。図14の(A)は胸部正面画像であり、これを画像データ13として入力したセグメンテーション部91は、(B)に示すごとき画像をセグメンテーション出力画像103として出力する。(B)のセグメンテーション出力画像103に領域分割処理92を適用すると、図14の(C)の如く領域分割された画像が得られる。すなわち、分割処理は、セグメンテーション出力画像の対象領域(この場合は肺野)を一定値以下の面積に成るように矩形状に分割する処理である。このようにして定義された概略矩形の関心領域をテクスチャ疾患候補ROI(93)と呼ぶ。
【0063】
以上説明したように、ステップ81によるテクスチャ疾患抽出処理の出力がテクスチャ疾患候補ROI93である。ステップS82では、この複数のテクスチャ疾患候補ROI93のそれぞれに対して病理特徴量の抽出(病理特徴量の計算)を行ない、得られた特徴量をもとに各候補が陽性か陰性かを判断する。
【0064】
特徴量計算以降の過程は、陰影診断支援処理(図3)と同様である。すなわち、陽性と判定されたテクスチャ疾患候補ROI(図14の(C)においてハッチングを施した領域)を含む矩形状の陽性領域を定義し(S83、S84)、この陽性領域を出力する(S85)。ただし、特徴量計算は診断支援の目的に応じてなされる。テクスチャ疾患診断支援に使用される特徴量に関しては、
(1) 桂川茂彦、他:間質性疾患のコンピュータ診断支援の可能性、日本医学表さy線学会誌、50:753−766、1990.
(2) 佐々木康夫、他:じん肺標準写真のテクスチャ解析による定量評価、日本医学表車線学会、52:1385−1393、1992.
等の文献を参照されたい。
【0065】
以上説明したようにして、診断支援部16により陽性領域17が出力されると、この出力は入力制御部14に入力され、画像入力部11による画像入力の制御に使用される。入力制御部14の目的は、陽性領域17(以下では関心領域ともよぶ)に対してのデータを読み込むことにあり、それは陽性領域の画像を詳細にして診断支援の精度を向上させ、あるいは詳細な画像表示に寄与する。診断支援の精度向上を行う際には、精度向上された入力画像をもとに診断支援部16が再度適用される。以下、入力制御部14について説明する。
【0066】
入力制御部14は、関心領域に対するタイル領域、あるいはコードブロック領域を指定して優先的にデータを転送するように画像サーバに指定を行う。画像サーバへの選択的なデータの要求は、画像入力部11を介して行われるが、画像サーバの構成によってはLOSSLESSの全符号を保存しておき、画像入力部11からの要求に応じて動的(ダイナミック)にレイヤなどのストリームを構成することが可能である。
【0067】
図15は画像入力部11と画像サーバ151の間で符号列を動的に生成する場合の構成を示した図である。同図において画像入力部11は画像サーバ151に対し画像内の関心領域の位置と当該部分の伝送要求を送信する。画像サーバ151は予め符号化され外部記憶装置152に保存されている符号列から必要な部分を画像入力部11に対して伝送する。以下に、この構成において関心領域に係る符号列の出力形態例を説明する。
【0068】
図16は画像をタイルに分割して符号化した場合の符号列伝送を示した図である。同図において、画像は矩形領域であるタイルに分割され、各タイルは独立に符号化されて外部記憶装置152に記憶されている。画像入力部11からの伝送要求は画像サーバ151内のパーサ161に入力される。パーサ161は入力した関心領域の位置情報から、当該領域にかかるタイルの符号列を外部記憶装置152から読み出し出力する。
【0069】
ここで、各タイルの符号列は前述したように複数のレイヤ(図16ではLayer0〜Layer9の10個のレイヤ)から構成されており、出力されるタイルの符号列は必要なレイヤの符号化データのみでもよいし、又は全てのレイヤであってもよい。出力される符号列は1つにまとめられ、各タイルの符号化データの先頭にはタイルの開始およびタイルの番号を表すマーカコードが挿入される。
【0070】
図16において、その時点以前に全く符号列が伝送されていない場合は、初期ストリーム設定部18によって設定された情報量に従ってデータストリームを入力するよう入力制御部14が画像入力部11を制御する。これにより、画像入力部11は、たとえば全タイルのレイヤ9,8を入力するよう伝送要求をパーサ161に発行する。パーサ161はタイル1からタイル16までの各タイルの符号化データのレイヤ9,8をまとめて符号列を構成し出力する。続いて、診断支援部16による解析の結果、要請領域(関心領域)がタイル5であったとすると、入力制御部14はタイル5を優先的に入力するよう画像入力部11を制御する。これにより、画像入力部11は、タイル5について更に伝送要求を行う。これを受けたパーサ161は、タイル5の残りの全レイヤ(レイヤ7〜0)をまとめて符号列を構成し、出力する。こうして、要請領域として指定されたタイル5については全てのレイヤが、それ以外のタイルについては必要最小限のレイヤが伝送されることになる。このようにすることで、符号化が可逆で行われていれば、復号された画像は関心領域であるタイル5の部分に関しては可逆で(オリジナルと同一の画質)、それ以外の部分については観察に十分な程度の画質で画像が再生されることになる。
【0071】
一方異なる符号列構成方法を取ることも可能であり、以下に図17を参照して説明する。図17は画像をDWTによって符号化した場合の符号列伝送を示した図である。JPEG2000においてはDWTにより生成されたサブバンドの係数又は量子化インデックスはコードブロックを単位としてビットプレーン符号化される。本例においては、各コードブロックの符号化データが符号列に構成されない形で外部記憶装置152に保存される。
【0072】
ここで、図17に示される外部記憶装置152に記憶されている各コードブロックの符号化データにおいて、診断目的に応じて初期ストリーム設定部18により設定された符号化データ部分は既に伝送が行われている。例えば、最上位から所定のビットプレーン又はレイヤに相当するデータについては、既に初期ストリーム設定部18により伝送されており、伝送された符号化データを復号した画像により、診断支援部16は処理を行っているものとする。
【0073】
次に、診断支援部16により図21(A)に示すように関心領域が出力された場合、入力制御部14は同図(B)に示すように、関心領域を含むコードブロックを特定し、これらのコードブロックの符号化データをさらに伝送するよう、パーサ171に対して伝送要求を出力する。
【0074】
パーサ171は画像入力部11からの伝送要求に応じ、関心領域に係るコードブロックの符号化データを符号列に構成して出力する。このとき、例えば図21に示すように選択されたコードブロックに対しては、全ての符号化データを伝送し、先に伝送済みとなっている符号化データと共に復号することにより、関心領域部分については高い画質を持つ画像を構成することが出来る。
【0075】
図18はJPEG2000の符号列におけるレイヤの構成例を示したものであるが、上述の例においては、同図に示す符号列のLayer9において、既に伝送済みとなっていない下位ビットプレーンに係る符号化データのみを新たな符号列に構成して伝送することと同じである。或いは、関心領域周辺のコードブロックから構成される付加レイヤを構成して同時に伝送することにより、関心領域とその周辺部分の画質が改善された画像を得ることが出来る。
【0076】
こうしてパーサ171は画像入力部11からの伝送要求に応じ、関心領域に係るコードブロックの符号化データを図18に示すように上位レイヤに配置した符号列を生成し、出力する。このように符号列構成前の中間状態の符号化データを外部記憶装置152に保存し、外部からの要求に応じて最適な符号列を動的に生成することで、前述したタイル分割を行わない場合であっても、画像表示側の要求に応じて関心領域を高画質とした符号列を生成し出力することが出来る。
【0077】
なお、JPEG2000におけるレイヤに関して符号化を例にとって補足説明を加える。JPEG2000ではレイヤと呼ばれる階層化された符号化データ構成により、前述の関心領域を優先的に符号化することも出来る。図18はこのときのレイヤ構成の様子を示した図である。同図においてコードブロック3および4が関心領域に含まれている。符号列構成部5は入力した関心領域の情報に基づき、関心領域に含まれるコードブロックの符号のみをLayer9に含めて符号列を構成する。
【0078】
ここでプログレッシブ形態をJPEG2000におけるLayer-Resolution level-Component-Positionとすると、符号列全体におけるレイヤの配置は図19に示すような形態となり、符号列先頭に位置するLayer9には関心領域の符号化データのみが含まれる。
【0079】
また、符号化処理の量子化過程において量子化を行わないようし、所定の上位レイヤに関しては、予め定められた圧縮率に対応する符号化データ量となるよう構成することにより、図19に示すように、各レイヤに対し圧縮率を対応させつつ、全体では可逆符号化とすることも可能である。ただし、最上位レイヤ(Layer9)に対しては関心領域のみを含むため、その領域の大きさが異なれば、符号化データ長は異なる。
【0080】
医療画像は大きいので限られた画素数のモニタで観察するにはその細部を常に表示することができない。この問題に対して、関心領域を決めてそこだけ大きく表示することが考えられる。しかし、小さい画像から関心領域を適切に決めることは難しく、関心領域を人間に代わって決める手段が必要となる。上記実施形態では、診断支援技術によって決定された関心領域を使用して、その領域を自動的に高精細で表示することを提供している。
【0081】
すなわち、上記実施形態によれば、医療画像に対して診断支援を行う際に、すべての画像を読みこまずに最低限必要な画像で診断支援を行い、診断支援手段により陽性と判断された部分に対して、その領域の詳細な画像が選択的に取り込まれる。このため、効率的なデータ転送が行えて、また重要な部分に対して詳細な画像表示を迅速に行なえる。
【0082】
また、画像の診断目的に応じて、適切な初期画像の取りこみが可能になり、大まかな画像しか必要としない診断支援手段に対して不必要なデータ転送が発生しないので、ネットワークのトラフィックを軽減させることが可能である。
【0083】
なお、診断支援手段の結果、要請領域が無いものに関しては、発明者が既に出願しているような照射野領域から素抜け部分を削除した領域を関心領域とすることが考えられる。また、関心領域を故意に設定(表示)しないことにより画像を見ている医師に対して無所見であること明示する効果が生じる。
【0084】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
【0085】
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0086】
プログラムコードを供給するための記憶媒体としては、例えば、フロッピディスク,ハードディスク,光ディスク,光磁気ディスク,CD−ROM,CD−R,磁気テープ,不揮発性のメモリカード,ROMなどを用いることができる。
【0087】
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0088】
さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【技術分野】
【0001】
本発明は、画像処理方法及び装置に関し、特にX線医療用画像の処理に好適な画像処理方法及び装置に関する。
【背景技術】
【0002】
ある種の蛍光体に放射線(X線、α線、β線、γ線、電子線、紫外線等)を照射すると、この放射線エネルギーの一部が蛍光体中に蓄積され、この蛍光体に可視光等の励起光を照射すると、蓄積されたエネルギーに応じて蛍光体が輝尽発光を示すことが知られており、このような性質を示す蛍光体は蓄積性蛍光体(輝尽性蛍光体)呼ばれる。この蓄積性蛍光体を利用した放射線画像情報記録再生システムが本出願人により提案されている(特開昭55−12429号、特開昭56−11395号等)。このシステムによれば、人体等の被写体の放射線画像情報を一旦蓄積性蛍光体のシートに記録し、この蓄積性蛍光体シートをレーザ光等の励起光で走査して輝尽発光光を生ぜしめ、得られた輝尽発光光を光電的に読み取って画像信号を得、この画像信号に基づき写真感光材料等の記録材料、CRT等の表示装置に表示させて、被写体の放射線画像を可視像として得る。
【0003】
また、近年においては半導体のセンサを使用して同様にX線画像を撮影する装置が開発されている。これらのシステムは、従来の銀塩写真を用いる放射線写真システムと比較して極めて広い放射線露出域にわたって画像を記録し得るという実用的な利点を有している。すなわち、非常に広いダイナミックレンジのX線を光電変換手段により読み取って電気信号に変換し、この電気信号を用いて写真感光材料等の記録材料、CRT等の表示装置に出力させることによって、放射線露光量の変動に影響されない放射線画像を可視像として得ることができる。
【0004】
また、上記のようにして得られた電気信号はデジタル情報に変換可能であり、得られたデジタル情報はメモリ等の記憶媒体に蓄積することができる。そして、そのようなデジタル情報を情報処理装置に提供することで、デジタル画像処理を施し、種々の診断支援を行なうことも提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開昭55−12429号公報
【特許文献2】特開昭56−11395号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、X線画像は非常に多くの情報を含んでおり、その画像を蓄積・伝送する際にはデ−タ量が膨大になってしまうという問題がある。このため画像の蓄積・伝送に際しては、画像の持つ冗長性を除く、或いは画質の劣化が視覚的に認識し難い程度で画像の内容を変更することによってデ−タ量を削減する高能率符号化が用いられる。
【0007】
例えば、静止画像の国際標準符号化方式としてISOとITU−Tにより勧告されたJPEGでは、可逆圧縮に関してはDPCMが採用され、非可逆圧縮に於いては離散的コサイン変換(DCT)が使用されている。JPEGについての詳細は、勧告書ITU−T Recommendation T.81、ISO/IEC 10918−1等に記載されているのでここでは詳細な説明を省略する。
【0008】
また、近年では離散的ウェーブレット変換(DWT)を使用した圧縮方法に関する研究が多く行われている。DWTを使用した圧縮方法の特徴は、離散コサイン変換(DCT)で見られるブロッキングアーティファクトがおきないことである。
【0009】
他方、X線画像の圧縮に際しては、圧縮率を効率的に向上させる手段として関心領域(重要な領域)を設定して、関心領域の圧縮率を落として画質を他の領域よりも優先させることが考えられる。また、画像を無損失(LOSSLESS)で符号化する場合も、関心領域を優先的に符号化することにより、読み出しの際に関心領域を先行して復号化して表示することが可能になる。しかし、画像中のどこを関心領域に設定するかは医療の診断学的な意味もあり簡単ではなかった。
【0010】
このような状況から出願人は、画像圧縮時に入力画像を解析してX線の照射野領域を抽出し、抽出された照射野領域からX線の素抜け領域をさらに抽出して、照射野領域から素抜け領域を除いた部分を関心領域として、この関心領域に相当する画像をレベルシフトして符号化することにより関心領域を優先的に符号化する方法および装置を提案している。この方法の問題点は、切り出し画像(照射野領域)中での素抜け領域の割合は20%程度であり、圧縮率の向上に際しては更なる関心領域の絞込みが必要となることである。
【0011】
他方、圧縮された画像ファイルの内容を表示する際にも関心領域の設定は有効な場合が多い。例えば1000×1000画素のモニタに2000×2000画素から構成される画像を1枚あるいは複数枚表示する場合を考えると、画像の一部分を表示するか、縮小表示するかを選択しなければならない。もちろん、マウスやトラックボールで画像をスクロールする手法も考えられるが、これでは複数枚を同時に表示する目的が達せられない。画像をファイリングする際に各画像で関心領域が設定されている場合は関心領域のみを表示することが可能であるが、関心領域の設定がない場合や、関心領域の設定があっても表示割り当て領域をオーバーしてしまう場合もあり、一部分を表示するにしろ、全体を表示するにしろ、縮小表示が必要になる。
【0012】
また、画像を縮小表示した場合の問題点として、空間分解能が悪いことにより詳細の観察(一次診断が終わった画像に対する参照という意味で診断と区別する)が出来ない可能性がある。これを補償する技術としては、CRT上で動く矩形や円形の拡大鏡を設定して、オペレータ(医師)が適宜拡大鏡を移動し、部分的に原画表示することが提案されている。しかしながら、空間分解能が悪い画像で拡大領域を適切に選択することが可能であるかという問題点を残している。
【0013】
また、X線画像はデータ容量を削減するために符号化して保存される場合があるが、この符号化された画像を迅速に表示することが望まれている。符号化された画像を迅速に表示することは、符号化された画像データから診断に有効な領域を優先して表示することでも実現できる。
【0014】
従って、本発明の目的は、符号化されたデータから診断に有効な領域を優先的に読み出し可能とすることにある。
【0015】
また、本発明の他の目的は、診断支援手段によって決定された、診断あるいは観察に重要な関心領域を優先的に読みこみ、その領域の画質を向上させることにより、効率的に診断支援の精度を高めることにある。
【0016】
また本発明の他の目的は、診断支援の診断目的に応じて必要となる画質で画像データを取り込むことを可能とし、効率的な画像転送を実現可能とすることにある。
【課題を解決するための手段】
【0017】
上記の目的を達成するための本発明による画像処理装置は以下の構成を備える。すなわち、
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込手段と、
前記第1取込手段により取り込まれたデータストリームを復号化して2次元画像を得る復号手段と、
前記復号手段によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析手段と、
前記解析手段によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込手段とを備える。
【0018】
また、上記の目的を達成するための本発明による画像処理方法は以下の構成を備える。すなわち、
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込工程と、
前記第1取込工程により取り込まれたデータストリームを復号化して2次元画像を得る復号工程と、
前記復号工程によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析工程と、
前記解析工程によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込工程とを備える。
【発明の効果】
【0019】
本発明によれば、符号化されたデータから診断に有効な領域を優先的に読み出すことが可能となり、必要な画像を迅速に取得することが可能となる。
【0020】
また、本発明によれば、医療診断支援によって決定された、診断あるいは観察にとって重要な関心領域を優先的に読みこみ、その領域の画質を向上させることが可能となり、効率的に診断支援の精度を高めることができる。
【0021】
更に、本発明によれば、診断支援の診断目的に応じて必要となる画質で画像データを取り込むことが可能となり、効率的な画像転送が実現可能となる。
【図面の簡単な説明】
【0022】
【図1】本実施形態による画像処理装置の機能構成を示すブロック図である。
【図2】本実施形態による画像処理装置の動作概要を説明するフローチャートである。
【図3】陰影診断支援処理を説明するフローチャートである。
【図4】陰影抽出部の内部構成を示すブロック図である。
【図5】陰影抽出部の特性を説明する図である。
【図6】陰影抽出された部位が陽性であるか否かを判定するためのニューラルネットワークを示す図である。
【図7】以上の陰影診断支援部のプロセスを説明する図である。
【図8】テクスチャ疾患診断支援処理を説明するフローチャートである。
【図9】テクスチャ疾患抽出処理の機能構成を示すブロック図である。
【図10】セグメンテーション部91の詳細な機能構成を示すブロック図である。
【図11】学習フェーズにおけるセグメンテーション部の機能構成を説明する図である。
【図12】利用フェーズにおけるセグメンテーション部91の機能構成を説明する図である。
【図13】セグメンテーションを説明する図である。
【図14】具体的例を示す図である。
【図15】画像入力部11と画像サーバ151の間で符号列を動的に生成する場合の構成を示した図である。
【図16】画像をタイルに分割して符号化した場合の符号列伝送を示した図である。
【図17】画像をDWTによって符号化した場合の符号列伝送を示した図である。
【図18】このときのレイヤ構成の様子を示した図である。
【図19】符号化データにおけるレイヤ配置を説明する図である。
【図20】本実施形態による画像処理装置の概略の構成を説明するブロック図である。
【図21】コードブロックと関心領域との関連を説明する図である。
【発明を実施するための形態】
【0023】
以下、添付の図面を参照して本発明の好適な実施形態を説明する。
【0024】
以下の実施形態では、記憶媒体から符号化されたX線医療画像を読み出す際に、診断に有効な領域を自動決定して、その領域に係わるデータを優先的に読み出し、表示する画像処理装置について説明する。
【0025】
図20は本実施形態による画像処理装置の概略の構成を説明するブロック図である。21はCPUであり、ROM22に格納された制御プログラム、或いは外部記憶装置25からRAM23にロードされた制御プログラムを実行することで、図1等を参照して以下に説明する各種処理を実現する。22はROMであり、CPU21が実行する制御プログラムや各種データを格納する。23はRAMであり、制御プログラムのロード領域やCPU21の作業領域を提供する。
【0026】
24はディスプレイであり、CPU21の制御の下で各種表示を行なう。25は外部記憶装置であり、ハードディスク等で構成され、制御プログラムや画像データ等を格納する。26は入力装置であり、操作者の操作入力を取り込む。27はネットワークインターフェースであり、ネットワーク28と通信可能に接続する。20はバスであり、上記各構成を接続する。
【0027】
28は、LAN、インターネット等のネットワークである。29は符号化画像データを格納するサーバである。29は、系列変換され、符号化された画像データのデータストリームを提供する画像サーバである。
【0028】
図1は、本実施形態による画像処理装置の機能構成を示すブロック図である。図1において、画像入力部11は、符号化された画像データの入力を前提としている。以下の説明ではDWT変換された画像が符号化ストリームに変換されて入力されることを前提にしているが、DWT変換に限定されるものでなくDCT、KL変換等の系列変換された画像に対して符号化する応用例も考えることができる。情報源符号化においてはDCT、KL変換、DWT等を総称して系列変換と呼ぶ。なお、DCT、KL変換に関しては、「ANIL K. JAIN著、Fundamental Of Digital Image Processing、1989、Prentice-Hall Inc.」に記載されているように、一般的な技術である。
【0029】
符号化された画像データは通常ネットワーク接続した画像サーバ(29)から転送されるが、画像入力部11により入力されたデータは復号化部12に転送される。DWT画像を復号化する復号化部に関しては、ISO/IEC 15444(以降JPEG2000)によるものを使用するが、その詳細はJPEG2000の規格文書等に公開されている。復号化部12の出力である画像13は、画像表示部15によりディスプレイ24上に表示されるともに、診断支援部16に提供される。もちろん、画像13を診断支援部16が取り込むように構成してもよい。
【0030】
ここで注目すべき点は、診断支援部16に使用する初期画像は、目標としている診断支援に最小限必要な画質でよく、診断支援のために変換されているデータストリームを全て読みこむ必要はないことである。目標としている診断支援に必要な画質、つまり符号化の際のレイヤの構成は、初期ストリーム設定部に設定される。
【0031】
以下の説明では胸部正面画像の腫溜陰影の検出支援を例に示すが、この診断支援には比較的低解像度の縮小画像で十分である。従って、初期画像として対象画像に対応するデータが部分的に転送されるように、初期ストリーム設定部18により設定される。前提条件として、診断支援には複数種類のものが考えられ、その診断支援の種類によって必要とされる画質が決定される。たとえば、腫溜陰影では比較的大きな対象物の検出になるために精細な分解能は必要なく、空間分解能5分の1、濃度分解能2分の1程度の画質が初期画像に設定される。他方、すりガラス状の陰影の場合は、比較的精細な分解能が必要とされるので、空間分解能2分の1、濃度分解能3分の1程度の画質が初期画像として設定される。これらの初期設定値は、診断支援アルゴリズム内部で設定されるパラメータとの関連が強く、経験的に決められる。こうして設定された条件を満たす画像が入力された時点で、診断支援部16は診断支援プロセスを開始する。そして、診断支援の過程で更なるデータストリームが必要になれば、入力制御部14を介して必要な領域のデータ入力を行う。診断支援部16によって決定した陽性領域17は、輪郭情報として画像表示部15に表示された縮小画像にオーバレイ表示されるとともに、入力制御部14に提供される。
【0032】
以上の動作をまとめると、次のようになる。図2は本実施形態による画像処理装置の動作概要を説明するフローチャートである。まずステップS21において、初期ストリーム設定部18により、目的とする診断支援に適した初期ストリームが設定される。ステップS22では、画像入力部11が、符号化画像データを取り込み、復号化部12へ提供する。このとき、入力制御部14は、初期ストリーム設定部18によって設定された内容に従って画像データの入力が行なわれるように画像入力部11を制御する。
【0033】
続いて、ステップS23では、画像入力部11より入力された符号化画像データを復号し、得られた画像データ13を画像表示部15により表示する。また、ステップS24において、診断支援部16はこの復号された画像データ13を解析して疾患部位を検出し、陽性領域データ17を出力する。ステップS25において、入力制御部14は、診断支援部16から出力された陽性領域データ17に基づいて、ステップS21で入力した符号化画像中の優先的に取り込むべき領域を設定する。ステップS26において、当該画像データの取り込みが終了していない場合はステップS22に戻る。そして、入力制御部14は、設定された領域に従って符号化画像を取り込むべく画像入力部11を制御する。こうして画像入力部11より入力された符号化画像は復号化部12により順次復号され、画像表示部15に表示される。また、符号化画像データの取り込みの進行は、ステップS24における診断支援処理の精度向上や、ステップS23における画像表示の詳細化に寄与する。
【0034】
以上のように動作することにより、符号化されたデータから診断に有効な領域が自動的に選択され、その領域が優先的に読み出されるので、診断に有効な情報を優先して表示することが可能となる。このように診断に有効な情報を優先して表示するので、X線画像を迅速に表示するのと同等の効果が得られる。
【0035】
次に、診断支援部16について説明する。診断支援部16は、診断支援の目的に応じて異なる処理が必要になるが、大きくは陰影診断処理とテクスチャ疾患診断処理に分類できる。陰影診断処理は、胸部画像中の石灰化、腫溜状の癌、あるいはマンモグラム画像中の腫溜(MASS)の検出に使用されるプロセスである。一方、テクスチャ疾患診断処理は、胸部画像中に発見される間質性肺炎などの診断支援に使用される。
【0036】
まず、陰影診断支援について図3〜図7を用いて説明する。
【0037】
図3は陰影診断支援処理を説明するフローチャートである。まず、ステップS31において、復号された画像データ13が陰影抽出部に入力され、陰影抽出が行なわれる。
【0038】
図4は陰影抽出部の内部構成を示すブロック図である。入力された画像データ13から、High-Passフィルタ41とLow-Passフィルタ部42により高周波画像と低周波画像が作成される。演算部43では、これら2つの画像の差分をとり、陰影候補画像データ44が作成される。High-Passフィルタ41とLow-Passフィルタ42の特性例を図5の(A)、(B)に示す。また、高周波画像と低周波画像の差分により形成される特性は、図5(C)に示すが、これは画像中からある大きさの円形パターンを検出するマッチドフィルタと考えることが出きる(図5(C)に示されるように、画像中のある周波数に対応する領域のみを抽出するフィルタは、実効的には画像中のある大きさのものだけを抽出すると解することができる)。
【0039】
以上の説明から分かるように、陰影抽出処理においてHigh-Passフィルタ41とLow-Passフィルタ42の特性を調整することにより、抽出する円形パターンのサイズを調整することが可能である。一般的に、胸部正面画像の場合であれば、画像中から5mm直径以下の腫溜を選別して抽出することは非常に困難である。理由は画像中には同等サイズの信号が数多く含まれて、その多くは病気の信号ではないからである。そこで、ここでは直径としては10mm程度のマッチドフィルタを想定している。しかし、マッチドフィルタで抽出を試みる円形パターンの直径が1種類である限定はなく、複数種類の円形パターンを用いてもよい。例えば、円形パターンの直径が8mm、12mm、16mmの3種類のフィルタを順序適用して、それぞれのフィルタが抽出した陰影候補を以後のプロセスに流すことも可能である。
【0040】
次に、ステップS32において、以上の陰影抽出処理(S31)で抽出された陰影候補に対して(複数ある場合はそれぞれに対して)、病理特徴量抽出処理により特徴量が計算される。ここで計算される特徴量は、面積、円形度、閾値感度である。それぞれの特徴量を以下に説明する。ただし、面積と円形度を計算する際には陰影候補を2値化する必要がある。2値化の閾値は、経験的にマッチドフィルタ出力画像のヒストグラムの10%値とする。
(1)面積S=[陰影候補に含まれる画素数]×[1画素の面積]
(2)円形度C=A/S:ここで、Aは実効直径Dの円を陰影候補の重心に配置したときに、その円と陰影候補がオーバーラップする(重なる)面積
(3)閾値感度=|2×S10−S5−S15|:なお、閾値感度とは閾値を変化させた場合の陰影面積変化であり、S5、S10、S15はそれぞれ閾値を5%、10%、15%と変化させたときの面積を、“||”は絶対値を表す。
【0041】
ステップS33では、以上のように計算された特徴量をベースに、ステップS31で抽出された各陰影に対して陽性か 偽陽性であるかの判定を行う。ここで、偽陽性とは陽性ではない陰影のことである。なお、本実施形態においては、特徴量は上記3種類を用いるものとするが、これら3種類に限定されるものではない。
【0042】
なお、ステップS33における判定は、ニューラルネットワークにより構成される判定部を用いて行なう。以下、判定部について学習フェーズと利用フェーズに分けて説明する。本実施形態においては、判定部にニューラルネットワークを使用しているが、これに限定されるものではなく診断支援の目的によっては線形で分離が可能な場合もあり、その場合はより簡便で計算量の少ない線形分離を使用してもよい。
【0043】
学習フェーズは、陽性か偽陽性かの結果が分かっている陰影に対して、結果を提示しながら特徴量を入力してニューラルネットワークの内部係数を学習させるものである。ニューラルネットワークは、さまざまなものが開発されている。例をあげるとランメルハートが開発したFeed Forward型の誤差逆伝播ニューラルネットワーク(参考文献:D. E. Rumelhart and J. L. McCelland, Parallel Distributed Processing: Explorations in the Microstructure of Cognition, Vol. 1: Foundation. Cambridge: The MIT Press, 1986.)、Radial Basis Functionニューラルネットワーク(簡単にRBF-NN)(参考文献:C. Bishop, "Improving the Generalization Properties of Radial Basis Function Neural Networks," Neural Comp., vol. 3, pp. 579-588, 1991.)があげられる。
【0044】
本実施形態においては、図6に示すような3入力のRBF−NNを使用する。構造的にはFeed Forward型を採用して、入力層、中間層1層、出力層の3層構造を有する。入力層には、ステップS32の病理特徴量抽出処理で抽出した特徴量の数に相当する入力Nodeを配置する。中間層に配置するRBFニューロンは、非線型要素としてガウス分布を持つような出力特性を具備させる。RBFニューロンの数は、学習のケース数と問題の複雑さに依存するが、計算時間を妥当に設定するためには100程度が適当である。ニューラルネットワークの出力数は1であり、陽性であれば1、陰性であればゼロが出力される。本実施形態において、ニューラルネットワークは診断支援の目的毎に用意されるが、ニューラルネットワークはソフトウェアで構成されるので、実際は診断支援毎の係数を保存しておいて、使用の際には診断支援毎の係数をセットすることになる。
【0045】
利用フェーズは、診断目的に対応して学習した内部係数をニューラルネットに設定した後に、判定結果が未知の陰影に対する3種類の特徴量を提示して、ネットワーク出力を得る。陽性出力が1、陰性出力が0で学習されれば、出力が0.5以上の場合は陽性、0.5以下であれば陰性の判定が出力される。陽性と判定された円形パターン(陰影)は、それぞれ陽性領域決定処理(ステップS34)
に用いられる。
【0046】
ステップS34における陽性領域決定処理の目的は、陽性と判定された複数の陰影パターンが近接する場合にはひとつの陽性領域とすること、および符号化された領域を指定するために陽性領域を矩形化することである。ただし、陽性領域の指定を矩形状に限定する制約は本質的なものではなく、JPEG2000ではMAXSHIFTを使用すれば円形の関心領域(陽性領域)を設定することが可能である。
【0047】
図7は、以上の陰影診断支援処理のプロセスを説明する図である。図7の(A)は、画像データ513として入力された胸部正面画像であり、この画像に対してステップS31の陰影抽出処理を適用した結果を(B)に示す。次に、ステップS32の病理特徴量抽出処理は、(B)に示された4個の陰影候補のそれぞれに対して病理特徴量を抽出する。そして、ステップS33において、抽出した特徴量をもとにニューラルネットワークで各陰影が陽性か否かを判定した結果が図7(C)である。(C)では、(A)に示した右肺の矩形の陰影パターンが陰性として排除されている。更に、ステップS34の陽性領域決定処理において、(C)の陽性陰影パターンに対して陽性領域が決定された結果が(D)である。このようにすべての陽性陰影を含むように陽性領域が設定され、しかも左肺の陰影に関しては一つに統合されて陽性領域が設定されている。なお、統合の条件としては、ある陽性領域から所定の範囲内に他の陽性領域が存在すれば、それらは一つの陽性領域として最終的には取り扱われる。領域統合のアルゴリズム例としては、図7(C)の画像に対して、所定回数の形態学的なDilationを行ったのちに、ラベリングの個別領域の数をカウントし、個別領域の数が減少していれば領域の接合が発生したと判断される。そして、結合され領域に含まれるオリジナルの陽性領域をすべて包含するようにROI(関心領域)が決定されて、図7(D)が出力されることになる。
【0048】
次に図8〜図14を用いてテクスチャ疾患診断支援を説明する。但し、以下の説明においては、胸部正面画像に対する間質性肺疾患を例にとって説明する。
【0049】
図8はテクスチャ疾患診断支援処理を説明するフローチャートである。図8において、ステップS81で、復号化部12から出力された画像データ13に対して、テクスチャ疾患抽出処理が適用され、テクスチャ疾患候補関心領域(ROI)が抽出される。図9はテクスチャ疾患抽出処理の機能構成を示すブロック図である。入力画像としての画像データ13はセグメンテーション部91に入力されて肺野領域がセグメンテーションされる。間質性肺疾患は縦隔領域が対象外になることと、陰影パターンを検索するのとはことなり、局所的な領域で判断する疾患であるので、肺野の局所領域を定義するために肺野の抽出が必要になる。
【0050】
セグメンテーション部91について図10を参照して更に説明する。図10はセグメンテーション部91の詳細な機能構成を示すブロック図である。101はセグメント特徴量抽出部であり、画像データ13の各画素に対して特徴量の計算を行なう。102は判別部であり、ニューラルネットワークを用いて疾患候補領域を判定する。
【0051】
セグメンテーション部91は、学習フェーズと利用フェーズにより構成が異なる。本実施形態のセグメンテーション部91はニューラルネットワークにより構成されているので、学習データを入力してニューラルネットワーク内部の係数を形成するフェーズを学習フェーズと呼び、入力された画像データに対してセグメンテーションを実施するフェーズを利用フェーズと呼ぶ。以下のフェーズでは画素単位のセグメンテーションを行っているが、セグメンテーションの手法としては画素単位のものに限定されず、画像中から輪郭を追跡する手法によりセグメンテーションを行うことも可能である。輪郭を追跡するタイプのセグメンテーションに関しては、文献:O.Tsujii, M. T. Freedman, and S. K. Mun, "Lung contour detection in chest radiographs using 1-D convolution neural networks," Electronic Imaging, 8(1), pp. 46-53, January 1999.に記載されている。
【0052】
図11は学習フェーズにおけるセグメンテーション部の機能構成を説明する図である。入力画像の各画素に対してセグメント特徴抽出部101により特徴量の計算が行われる。計算される特徴量は、画素値をベースに計算されるもの、テクスチャをベースに計算されるもの、解剖学的構造からの相対アドレスで計算するものなどがある。詳しくは、本発明者による論文(O. Tsujii, M. T. Freedman, and S. K. Mun, "Automated Segmentation of Anatomic Regions in Chest Radiographs using Adaptive-Sized Hybrid Neural Network," Med. Phys., 25(6), pp. 998-1007, June 1998.)を参照のこと。
【0053】
なお、使用される特徴量は、以上の例や論文で示されるものに限定されるものでなく、その他の論文M. F. McNitt-Gray, H. K. Huang and J. W. Sayre, "Feature Selection in the Pattern Classification Problem of Digital Chest Radiograph Segmentation," IEEE Trans. Med. Imag., 14, 537-547 (1995).などに記載される確率的な特徴量も使用され得る。
【0054】
次に判別部(以下ではニューラルネットワーク部とも呼ぶ)102に関して説明する。ニューラルネットワーク102は、前述したようにさまざまなものが開発されている。本実施形態においては、RBF−NNを使用する。構造的にはFeed Forward型を採用して、図6に示したように入力層、中間層1層、出力層の3層構造とする。ただし、便宜的に入力NODE数は3、中間ニューロンは4、出力NODE数は1としている。
【0055】
入力層には、セグメント特徴量抽出部101で抽出した特徴量の数に相当する入力Nodeを配置する。中間層に配置するRBFニューロンは、非線型要素としてガウス分布を持つような出力特性を具備させる。RBFニューロンの数は、学習のケース数と問題の複雑さに依存するが、計算時間を妥当に設定するためには5000程度は適当である。ニューラルネットワークの出力数は、各部位に対するセグメント数に相当する。例えば、図13の(A)に示すような胸部正面の画像であれば、図13の(B)に示すように2つの解剖学的セグメントがあるので、2つの出力NODEが用意される。
【0056】
なお、本実施形態において、ニューラルネットワークは撮影部位毎(対象画像毎)に用意されるが、ニューラルネットワークはソフトウェアで構成されるので、実際には部位毎の係数を保存しておいて、使用の際には部位毎の係数をセットするようにする。
【0057】
学習フェーズにおいては、各画素に対する特徴量とともに、セグメンテーション結果である回答例(教師出力画像)がニューラルネットワーク102に提示される。入力画像に対する教師出力画像は、人手によるセグメンテーション処理部111から提供される。図13の(A)に示した入力胸部画像に対応する教師画像を図13の(B)に示す。胸部正面画像に対応するセグメント分類に対応するように、セグメンテーション処理部111では、出力値1と2を持つように教師画像が作られる。ただし、セグメントの対象とならない領域は、それ以外の数、たとえばゼロがセットされる。セグメンテーション処理部111による教師画像の作成は、画像中の領域を指定できるグラフィックソフトで行うことが出きるが、市販されているPhotoshop(米国Adobe社製)などを使用しても可能である。ニューラルネットワークの学習は、RBF−NNの場合は出力エラーを最小にする最小2乗法で行えば、解析的に求めることができ、内部係数の計算は短時間で行える。
【0058】
次に、利用フェーズに関して説明する。図12は利用フェーズにおけるセグメンテーション部91の機能構成を説明する図である。
【0059】
セグメント特徴量抽出部101による、画像中の各画素に対する特徴量の抽出は、学習フェーズと同様に行われる。ニューラルネットワーク102に対する内部係数は、対象の撮影部位に対する係数が利用前にロードされる。各画素に対する特徴量がニューラルネットワークに提示されて、ネットワークは出力NODEに出力値を出力する。胸部正面画像の場合では、出力NODEは2つであり、それらの出力NODEで最もYESに近い出力をしたNODEに対応するセグメントに、入力画素は分類される。なお、上記においてロードされる係数とは、ニューラルネットワークにおいて撮影部位毎に学習され、学習の結果としてニューラルネットワーク内部に形成された係数である。これらの係数はもともとは、適当な初期値から出発して、特定の撮影部位、診断支援に合わせて、学習の過程で収斂して行く。この収斂された係数が、ニューラルネットワークの挙動を決定し、通常は複数の係数から構成される。なお、係数の数は、使用するニューラルネットワークの種類、大きさに依存して決まる。
【0060】
このようにして画像中のすべての画素に対する分類が完了したセグメント画像例を図13の(C)に示す。一般的にニューラルネットワーク部102が出力したセグメント画像にはノイズが含まれる。例えば、肺野の領域から分離して小さい面積の肺野領域が発生する場合がある。このようなノイズ的な小領域は、後処理過程で除去されるが、この技術に関しては前述の文献:O.Tsujii, M. T. Freedman, and S. K. Mun, "Lung contour detection in chest radiographs using 1-D convolution neural networks," Electronic Imaging, 8(1), pp. 46-53, January 1999.を参照のこと。
【0061】
図10の判別部(ニューラルネットワーク部)102の出力がセグメンテーション出力画像103である。胸部正面画像の場合は肺野部分であり、その例を図13の(C)に示す。
【0062】
次に、このセグメンテーション出力画像103に対して領域分割処理92(図9)が適用される。 領域分割処理とは、テクスチャ疾患パラメータを計算するための局所的な領域を定義する処理である。具体的例を図14に示す。図14の(A)は胸部正面画像であり、これを画像データ13として入力したセグメンテーション部91は、(B)に示すごとき画像をセグメンテーション出力画像103として出力する。(B)のセグメンテーション出力画像103に領域分割処理92を適用すると、図14の(C)の如く領域分割された画像が得られる。すなわち、分割処理は、セグメンテーション出力画像の対象領域(この場合は肺野)を一定値以下の面積に成るように矩形状に分割する処理である。このようにして定義された概略矩形の関心領域をテクスチャ疾患候補ROI(93)と呼ぶ。
【0063】
以上説明したように、ステップ81によるテクスチャ疾患抽出処理の出力がテクスチャ疾患候補ROI93である。ステップS82では、この複数のテクスチャ疾患候補ROI93のそれぞれに対して病理特徴量の抽出(病理特徴量の計算)を行ない、得られた特徴量をもとに各候補が陽性か陰性かを判断する。
【0064】
特徴量計算以降の過程は、陰影診断支援処理(図3)と同様である。すなわち、陽性と判定されたテクスチャ疾患候補ROI(図14の(C)においてハッチングを施した領域)を含む矩形状の陽性領域を定義し(S83、S84)、この陽性領域を出力する(S85)。ただし、特徴量計算は診断支援の目的に応じてなされる。テクスチャ疾患診断支援に使用される特徴量に関しては、
(1) 桂川茂彦、他:間質性疾患のコンピュータ診断支援の可能性、日本医学表さy線学会誌、50:753−766、1990.
(2) 佐々木康夫、他:じん肺標準写真のテクスチャ解析による定量評価、日本医学表車線学会、52:1385−1393、1992.
等の文献を参照されたい。
【0065】
以上説明したようにして、診断支援部16により陽性領域17が出力されると、この出力は入力制御部14に入力され、画像入力部11による画像入力の制御に使用される。入力制御部14の目的は、陽性領域17(以下では関心領域ともよぶ)に対してのデータを読み込むことにあり、それは陽性領域の画像を詳細にして診断支援の精度を向上させ、あるいは詳細な画像表示に寄与する。診断支援の精度向上を行う際には、精度向上された入力画像をもとに診断支援部16が再度適用される。以下、入力制御部14について説明する。
【0066】
入力制御部14は、関心領域に対するタイル領域、あるいはコードブロック領域を指定して優先的にデータを転送するように画像サーバに指定を行う。画像サーバへの選択的なデータの要求は、画像入力部11を介して行われるが、画像サーバの構成によってはLOSSLESSの全符号を保存しておき、画像入力部11からの要求に応じて動的(ダイナミック)にレイヤなどのストリームを構成することが可能である。
【0067】
図15は画像入力部11と画像サーバ151の間で符号列を動的に生成する場合の構成を示した図である。同図において画像入力部11は画像サーバ151に対し画像内の関心領域の位置と当該部分の伝送要求を送信する。画像サーバ151は予め符号化され外部記憶装置152に保存されている符号列から必要な部分を画像入力部11に対して伝送する。以下に、この構成において関心領域に係る符号列の出力形態例を説明する。
【0068】
図16は画像をタイルに分割して符号化した場合の符号列伝送を示した図である。同図において、画像は矩形領域であるタイルに分割され、各タイルは独立に符号化されて外部記憶装置152に記憶されている。画像入力部11からの伝送要求は画像サーバ151内のパーサ161に入力される。パーサ161は入力した関心領域の位置情報から、当該領域にかかるタイルの符号列を外部記憶装置152から読み出し出力する。
【0069】
ここで、各タイルの符号列は前述したように複数のレイヤ(図16ではLayer0〜Layer9の10個のレイヤ)から構成されており、出力されるタイルの符号列は必要なレイヤの符号化データのみでもよいし、又は全てのレイヤであってもよい。出力される符号列は1つにまとめられ、各タイルの符号化データの先頭にはタイルの開始およびタイルの番号を表すマーカコードが挿入される。
【0070】
図16において、その時点以前に全く符号列が伝送されていない場合は、初期ストリーム設定部18によって設定された情報量に従ってデータストリームを入力するよう入力制御部14が画像入力部11を制御する。これにより、画像入力部11は、たとえば全タイルのレイヤ9,8を入力するよう伝送要求をパーサ161に発行する。パーサ161はタイル1からタイル16までの各タイルの符号化データのレイヤ9,8をまとめて符号列を構成し出力する。続いて、診断支援部16による解析の結果、要請領域(関心領域)がタイル5であったとすると、入力制御部14はタイル5を優先的に入力するよう画像入力部11を制御する。これにより、画像入力部11は、タイル5について更に伝送要求を行う。これを受けたパーサ161は、タイル5の残りの全レイヤ(レイヤ7〜0)をまとめて符号列を構成し、出力する。こうして、要請領域として指定されたタイル5については全てのレイヤが、それ以外のタイルについては必要最小限のレイヤが伝送されることになる。このようにすることで、符号化が可逆で行われていれば、復号された画像は関心領域であるタイル5の部分に関しては可逆で(オリジナルと同一の画質)、それ以外の部分については観察に十分な程度の画質で画像が再生されることになる。
【0071】
一方異なる符号列構成方法を取ることも可能であり、以下に図17を参照して説明する。図17は画像をDWTによって符号化した場合の符号列伝送を示した図である。JPEG2000においてはDWTにより生成されたサブバンドの係数又は量子化インデックスはコードブロックを単位としてビットプレーン符号化される。本例においては、各コードブロックの符号化データが符号列に構成されない形で外部記憶装置152に保存される。
【0072】
ここで、図17に示される外部記憶装置152に記憶されている各コードブロックの符号化データにおいて、診断目的に応じて初期ストリーム設定部18により設定された符号化データ部分は既に伝送が行われている。例えば、最上位から所定のビットプレーン又はレイヤに相当するデータについては、既に初期ストリーム設定部18により伝送されており、伝送された符号化データを復号した画像により、診断支援部16は処理を行っているものとする。
【0073】
次に、診断支援部16により図21(A)に示すように関心領域が出力された場合、入力制御部14は同図(B)に示すように、関心領域を含むコードブロックを特定し、これらのコードブロックの符号化データをさらに伝送するよう、パーサ171に対して伝送要求を出力する。
【0074】
パーサ171は画像入力部11からの伝送要求に応じ、関心領域に係るコードブロックの符号化データを符号列に構成して出力する。このとき、例えば図21に示すように選択されたコードブロックに対しては、全ての符号化データを伝送し、先に伝送済みとなっている符号化データと共に復号することにより、関心領域部分については高い画質を持つ画像を構成することが出来る。
【0075】
図18はJPEG2000の符号列におけるレイヤの構成例を示したものであるが、上述の例においては、同図に示す符号列のLayer9において、既に伝送済みとなっていない下位ビットプレーンに係る符号化データのみを新たな符号列に構成して伝送することと同じである。或いは、関心領域周辺のコードブロックから構成される付加レイヤを構成して同時に伝送することにより、関心領域とその周辺部分の画質が改善された画像を得ることが出来る。
【0076】
こうしてパーサ171は画像入力部11からの伝送要求に応じ、関心領域に係るコードブロックの符号化データを図18に示すように上位レイヤに配置した符号列を生成し、出力する。このように符号列構成前の中間状態の符号化データを外部記憶装置152に保存し、外部からの要求に応じて最適な符号列を動的に生成することで、前述したタイル分割を行わない場合であっても、画像表示側の要求に応じて関心領域を高画質とした符号列を生成し出力することが出来る。
【0077】
なお、JPEG2000におけるレイヤに関して符号化を例にとって補足説明を加える。JPEG2000ではレイヤと呼ばれる階層化された符号化データ構成により、前述の関心領域を優先的に符号化することも出来る。図18はこのときのレイヤ構成の様子を示した図である。同図においてコードブロック3および4が関心領域に含まれている。符号列構成部5は入力した関心領域の情報に基づき、関心領域に含まれるコードブロックの符号のみをLayer9に含めて符号列を構成する。
【0078】
ここでプログレッシブ形態をJPEG2000におけるLayer-Resolution level-Component-Positionとすると、符号列全体におけるレイヤの配置は図19に示すような形態となり、符号列先頭に位置するLayer9には関心領域の符号化データのみが含まれる。
【0079】
また、符号化処理の量子化過程において量子化を行わないようし、所定の上位レイヤに関しては、予め定められた圧縮率に対応する符号化データ量となるよう構成することにより、図19に示すように、各レイヤに対し圧縮率を対応させつつ、全体では可逆符号化とすることも可能である。ただし、最上位レイヤ(Layer9)に対しては関心領域のみを含むため、その領域の大きさが異なれば、符号化データ長は異なる。
【0080】
医療画像は大きいので限られた画素数のモニタで観察するにはその細部を常に表示することができない。この問題に対して、関心領域を決めてそこだけ大きく表示することが考えられる。しかし、小さい画像から関心領域を適切に決めることは難しく、関心領域を人間に代わって決める手段が必要となる。上記実施形態では、診断支援技術によって決定された関心領域を使用して、その領域を自動的に高精細で表示することを提供している。
【0081】
すなわち、上記実施形態によれば、医療画像に対して診断支援を行う際に、すべての画像を読みこまずに最低限必要な画像で診断支援を行い、診断支援手段により陽性と判断された部分に対して、その領域の詳細な画像が選択的に取り込まれる。このため、効率的なデータ転送が行えて、また重要な部分に対して詳細な画像表示を迅速に行なえる。
【0082】
また、画像の診断目的に応じて、適切な初期画像の取りこみが可能になり、大まかな画像しか必要としない診断支援手段に対して不必要なデータ転送が発生しないので、ネットワークのトラフィックを軽減させることが可能である。
【0083】
なお、診断支援手段の結果、要請領域が無いものに関しては、発明者が既に出願しているような照射野領域から素抜け部分を削除した領域を関心領域とすることが考えられる。また、関心領域を故意に設定(表示)しないことにより画像を見ている医師に対して無所見であること明示する効果が生じる。
【0084】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
【0085】
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0086】
プログラムコードを供給するための記憶媒体としては、例えば、フロッピディスク,ハードディスク,光ディスク,光磁気ディスク,CD−ROM,CD−R,磁気テープ,不揮発性のメモリカード,ROMなどを用いることができる。
【0087】
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0088】
さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【特許請求の範囲】
【請求項1】
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込手段と、
前記第1取込手段により取り込まれたデータストリームを復号化して2次元画像を得る復号手段と、
前記復号手段によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析手段と、
前記解析手段によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込手段と、を備えることを特徴とする画像処理装置。
【請求項2】
前記第1取込手段で取り込む第1の部分のデータストリームは、前記解析手段による解析の実行を可能とする最低限の画質を保証するものであることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記解析手段は、前記符号手段によって得られた2次元画像について医療診断支援を行なうことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第1取込手段で取り込む前記第1の部分のデータ量を、診断目的に応じて設定する設定手段を更に備えることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記関心領域は、前記医療診断支援の結果、陽性と判定された領域であることを特徴とする請求項3に記載の画像処理装置。
【請求項6】
前記第2取込手段は、前記解析手段が出力する関心領域に対応する画像の詳細を表すデータストリームを取り込むことを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記第2取込手段は、データストリームを提供する装置に対して、前記画像の詳細を表すデータストリームの提供を要求することを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記第2取込手段は、前記関心領域に対応する領域が、前記第1取込手段で取り込まれたデータストリームによって得られる画質よりも高画質になるようにデータストリームを取り込むことを特徴とする請求項1に記載の画像処理装置。
【請求項9】
前記第2取込手段で取り込まれたデータストリームについて前記復号手段と前記解析手段を実行することを特徴とする請求項1に記載の画像処理装置。
【請求項10】
前記復号手段で復号された2次元画像を表示するとともに、当該表示において前記解析手段で決定された関心領域を明示する表示を行なう表示手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
【請求項11】
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込工程と、
前記第1取込工程により取り込まれたデータストリームを復号化して2次元画像を得る復号工程と、
前記復号工程によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析工程と、
前記解析工程によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込工程と、を備えることを特徴とする画像処理方法。
【請求項12】
前記第1取込工程で取り込む第1の部分のデータストリームは、前記解析工程による解析の実行を可能とする最低限の画質を保証するものであることを特徴とする請求項11に記載の画像処理方法。
【請求項13】
前記解析工程は、前記符号工程によって得られた2次元画像について医療診断支援を行なうことを特徴とする請求項11に記載の画像処理方法。
【請求項14】
前記第1取込工程で取り込む前記第1の部分のデータ量を、診断目的に応じて設定する設定工程を更に備えることを特徴とする請求項13に記載の画像処理方法。
【請求項15】
前記関心領域は、前記医療診断支援の結果、陽性と判定された領域であることを特徴とする請求項13に記載の画像処理方法。
【請求項16】
前記第2取込工程は、前記解析工程が出力する関心領域に対応する画像の詳細を表すデータストリームを取り込むことを特徴とする請求項11に記載の画像処理方法。
【請求項17】
前記第2取込工程は、データストリームを提供する装置に対して、前記画像の詳細を表すデータストリームの提供を要求することを特徴とする請求項16に記載の画像処理方法。
【請求項18】
前記第2取込工程は、前記関心領域に対応する領域が、前記第1取込工程で取り込まれたデータストリームによって得られる画質よりも高画質になるようにデータストリームを取り込むことを特徴とする請求項11に記載の画像処理方法。
【請求項19】
前記第2取込工程で取り込まれたデータストリームについて前記復号工程と前記解析工程を実行することを特徴とする請求項11に記載の画像処理方法。
【請求項20】
前記復号工程で復号された2次元画像を表示するとともに、当該表示において前記解析工程で決定された関心領域を明示する表示を行なう表示工程を更に備えることを特徴とする請求項11に記載の画像処理方法。
【請求項21】
請求項11乃至20のいずれかに記載の画像処理方法をコンピュータによって実現するための制御プログラムを格納する記憶媒体。
【請求項22】
請求項11乃至20のいずれかに記載の画像処理方法をコンピュータによって実現するための制御プログラム。
【請求項1】
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込手段と、
前記第1取込手段により取り込まれたデータストリームを復号化して2次元画像を得る復号手段と、
前記復号手段によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析手段と、
前記解析手段によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込手段と、を備えることを特徴とする画像処理装置。
【請求項2】
前記第1取込手段で取り込む第1の部分のデータストリームは、前記解析手段による解析の実行を可能とする最低限の画質を保証するものであることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記解析手段は、前記符号手段によって得られた2次元画像について医療診断支援を行なうことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第1取込手段で取り込む前記第1の部分のデータ量を、診断目的に応じて設定する設定手段を更に備えることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記関心領域は、前記医療診断支援の結果、陽性と判定された領域であることを特徴とする請求項3に記載の画像処理装置。
【請求項6】
前記第2取込手段は、前記解析手段が出力する関心領域に対応する画像の詳細を表すデータストリームを取り込むことを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記第2取込手段は、データストリームを提供する装置に対して、前記画像の詳細を表すデータストリームの提供を要求することを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記第2取込手段は、前記関心領域に対応する領域が、前記第1取込手段で取り込まれたデータストリームによって得られる画質よりも高画質になるようにデータストリームを取り込むことを特徴とする請求項1に記載の画像処理装置。
【請求項9】
前記第2取込手段で取り込まれたデータストリームについて前記復号手段と前記解析手段を実行することを特徴とする請求項1に記載の画像処理装置。
【請求項10】
前記復号手段で復号された2次元画像を表示するとともに、当該表示において前記解析手段で決定された関心領域を明示する表示を行なう表示手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
【請求項11】
画像データを系列変換し、符号化して得られたデータストリームの第1の部分を取り込む第1取込工程と、
前記第1取込工程により取り込まれたデータストリームを復号化して2次元画像を得る復号工程と、
前記復号工程によって得られた2次元画像を解析し、該2次元画像中の関心領域を決定する解析工程と、
前記解析工程によって決定された関心領域に基づいて前記データストリームより選択される第2の部分を取り込む第2取込工程と、を備えることを特徴とする画像処理方法。
【請求項12】
前記第1取込工程で取り込む第1の部分のデータストリームは、前記解析工程による解析の実行を可能とする最低限の画質を保証するものであることを特徴とする請求項11に記載の画像処理方法。
【請求項13】
前記解析工程は、前記符号工程によって得られた2次元画像について医療診断支援を行なうことを特徴とする請求項11に記載の画像処理方法。
【請求項14】
前記第1取込工程で取り込む前記第1の部分のデータ量を、診断目的に応じて設定する設定工程を更に備えることを特徴とする請求項13に記載の画像処理方法。
【請求項15】
前記関心領域は、前記医療診断支援の結果、陽性と判定された領域であることを特徴とする請求項13に記載の画像処理方法。
【請求項16】
前記第2取込工程は、前記解析工程が出力する関心領域に対応する画像の詳細を表すデータストリームを取り込むことを特徴とする請求項11に記載の画像処理方法。
【請求項17】
前記第2取込工程は、データストリームを提供する装置に対して、前記画像の詳細を表すデータストリームの提供を要求することを特徴とする請求項16に記載の画像処理方法。
【請求項18】
前記第2取込工程は、前記関心領域に対応する領域が、前記第1取込工程で取り込まれたデータストリームによって得られる画質よりも高画質になるようにデータストリームを取り込むことを特徴とする請求項11に記載の画像処理方法。
【請求項19】
前記第2取込工程で取り込まれたデータストリームについて前記復号工程と前記解析工程を実行することを特徴とする請求項11に記載の画像処理方法。
【請求項20】
前記復号工程で復号された2次元画像を表示するとともに、当該表示において前記解析工程で決定された関心領域を明示する表示を行なう表示工程を更に備えることを特徴とする請求項11に記載の画像処理方法。
【請求項21】
請求項11乃至20のいずれかに記載の画像処理方法をコンピュータによって実現するための制御プログラムを格納する記憶媒体。
【請求項22】
請求項11乃至20のいずれかに記載の画像処理方法をコンピュータによって実現するための制御プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2013−52256(P2013−52256A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2012−263659(P2012−263659)
【出願日】平成24年11月30日(2012.11.30)
【分割の表示】特願2001−132930(P2001−132930)の分割
【原出願日】平成13年4月27日(2001.4.27)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願日】平成24年11月30日(2012.11.30)
【分割の表示】特願2001−132930(P2001−132930)の分割
【原出願日】平成13年4月27日(2001.4.27)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]