内視鏡
【課題】光電変換手段において提案されている特性の撮像・観察・記録機器への好適な活用を提案する。
【解決手段】それぞれ可視光域および赤外光域において60%以上の量子効率を有するCIGS系薄膜よりなり規則的に配列された複数の光電変換部と、時分割で輪番発光する赤、緑、青、赤外LEDとによりそれぞれの色の画像を分離して取得する。赤、緑、青の1つが新たに発光して画像データが取得される毎に先行して取得済みの他の2色の画像データと組み合わせて動画1フレーム分のカラー画像を作る。可視3色のデータが揃う際に赤外LEDの発光が介在しているものは補間動画データとする。可視光域照明光源と赤外光域照明光源の一方の照明下で電荷蓄積中に他方の発光下で取得読出し済みの信号をAD変換し送信する。体内カプセルで取得したRAWデータを体外で受信して画像処理する。
【解決手段】それぞれ可視光域および赤外光域において60%以上の量子効率を有するCIGS系薄膜よりなり規則的に配列された複数の光電変換部と、時分割で輪番発光する赤、緑、青、赤外LEDとによりそれぞれの色の画像を分離して取得する。赤、緑、青の1つが新たに発光して画像データが取得される毎に先行して取得済みの他の2色の画像データと組み合わせて動画1フレーム分のカラー画像を作る。可視3色のデータが揃う際に赤外LEDの発光が介在しているものは補間動画データとする。可視光域照明光源と赤外光域照明光源の一方の照明下で電荷蓄積中に他方の発光下で取得読出し済みの信号をAD変換し送信する。体内カプセルで取得したRAWデータを体外で受信して画像処理する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像センサとその活用に関する。
【背景技術】
【0002】
光電変換手段としては、日々、種々の特性のものが提案されている。また、従来から、カラー画像のための撮像センサや赤外画像のための撮像センサも種々提案されている。さらにこれらの撮像センサを活用した内視鏡等の撮像・観察・記録機器も種々提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平10−192893号公報
【特許文献2】特開2007−117192号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、光電変換手段において提案されている種々の特性はまだ充分活用されているとは言えず、さらに検討すべき課題が多い。
【0005】
本発明の課題は、上記に鑑み、光電変換手段において提案されている特性の撮像・観察・記録機器への好適な活用を提案することにある。
【課題を解決するための手段】
【0006】
上記課題を達成するため、本発明は、それぞれ可視光域および赤外光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、可視光域照明光源と、赤外光域照明光源と、可視光域照明光源による照明下で光電変換部が受光する画像を可視光画像データとして取得するとともに赤外光域照明光源による照明下で光電変換部が受光する画像を赤外光画像データとして取得する制御部とを有する内視鏡が提供される。これによって、共通の光電変換部を用い、照明光源の切換えで可視光画像データおよび赤外光画像データを取得することが可能となる。
【0007】
本発明の他の特徴によれば、可視光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、3つの異なる単色可視光照明光源と、これら3つの異なる単色可視光照明光源による照明下でそれぞれ光電変換部が受光する画像をそれぞれ3つの異なる単色可視光画像データとして取得する制御部とを有する内視鏡が提供される。これによって、共通の光電変換部を用い、照明光源の切換えで3つの異なる単色可視光画像データを分離して取得することが可能となる。
【0008】
以上のような本発明の具体的な特徴によれば、制御部は、3つの異なる単色可視光照明光源および赤外光域照明光源または3つの異なる単色可視光照明光源を輪番で時分割発光させる。また、より具体的な特徴によれば、制御部は、3つの単色可視光照明光源の1つの新たな発光下で単色可視光画像データが取得される毎に、他の2つの単色可視光照明光源による照明下でそれぞれ取得済みの単色可視光画像データと組み合わせるべきカラー画像データとして提供する。これによってスムーズな動画データの取得が可能となる。
【0009】
本発明のさらに具体的な特徴によれば、赤外光域照明光源を用いる場合において、制御部は、3つの単色可視光画像データの取得のための3つの異なる単色可視光照明光源の発光タイミング中に赤外光域照明光源の発光タイミングを含む場合と含まない場合とで3つの単色可視光画像データを組み合わせたカラー画像の取り扱いを変える。これによって、3つの単色可視光画像データが不等間隔で揃う場合を補間画像として用い、等間隔で揃う場合を本画像として用いるなど、カラー画像の取り扱いを適切に変えることができる。
【0010】
本発明の他の特徴によれば、可視光域照明光源と赤外光域照明光源の一方の照明下で光電変換部が画像を受光しているとき、他方の照明下で前記光電変換部が画像した画像を処理する内視鏡が提供される。これによって、可視光画像データおよび赤外光画像データを近接したタイミングで取得することが可能となる。処理の具体例は、AD変換であり、他の具体例はデータの送信である。これらはいずれも比較的時間を要する処理であり、光電変換部による受光と並行処理することで可視光画像データおよび赤外光画像データを効果的に近接したタイミングで取得することが可能となる。
【0011】
本発明の他の特徴によれば、規則的に配列された複数の光電変換部、照明光源、照明光源による照明下で光電変換部が受光する画像をRAWデータとして取得する制御部およびRAWデータを送信する無線送信部を含むカプセル部と、無線送信部からのRAWデータを受信する無線受信部、受信したRAWデータを処理する画像処理部および画像処理部が処理した画像を表示する表示部を含む体外モニタ部とを有する内視鏡が提供される。これにより、例えばカラー画像の作成を体外で行うことができ、体内に飲み込まれるカプセルの構成の負担を軽減することができる。
【発明の効果】
【0012】
上記のように、本発明によれば、光電変換手段において提案されている種々の特性を生かした内視鏡を提供することができる。
【図面の簡単な説明】
【0013】
【図1】本発明の第1実施例を示すブロック図である。(実施例1)
【図2】図1の測光兼用AFセンサおよびライブビューセンサの構成を関連する部分とともに詳細に示したブロック図である
【図3】図2のCIGS撮像センサおよびCIGSAFセンサに用いられるCIGSセンサの分光感度をシリコンのCMOSセンサと比較したグラフである。
【図4】第1実施例におけるカメラ制御部の動作のフローチャートである。
【図5】本発明の第2実施例を示すブロック図である。(実施例2)
【図6】第2実施例におけるカメラ制御部の動作のフローチャートである。
【図7】図2または図5のライブビューセンサに用いられるCIGS撮像センサのカラーフィルタ配列の第1例である。
【図8】CIGS撮像センサのフィルタ配列の第2例である。
【図9】図8のフィルタ配列を採用したCIGSセンサの模式断面図である。
【図10】CIGS撮像センサのフィルタ配列の第3例である。
【図11】図5の第2実施例においてライブビューセンサの画像を記録する際のカメラ制御部の動作を示すフローチャートである。
【図12】図11のステップS108およびステップS114に共通して利用できる処理の詳細を示すフローチャートである。
【図13】本発明の第3実施例を示すブロック図である。(実施例3)
【図14】第3実施例に採用可能なLEDの配置の第1の例を示す正面図である。
【図15】第3実施例に採用可能なLEDの配置の第2の例を示す正面図である。
【図16】第3実施例に採用可能なLEDの配置の第3の例を示す正面図である。
【図17】第3実施例に採用可能なLEDの配置の第4の例を示す正面図である。
【図18】第3実施例のカラー・赤外モードでの動作タイミングチャートである。
【図19】図18の動作とカラー画像作成の関係を示すタイミングチャートである。
【図20】第3実施例の精細カラーモードでの動作タイミングチャートである。
【図21】図20の動作とカラー画像作成の関係を示すタイミングチャートである。
【図22】第3実施例の赤外モードでの動作タイミングチャートである。
【図23】第3実施例における内視鏡制御部の動作のフローチャートである。
【図24】図23のステップS170の詳細を示すフローチャートである。
【図25】図24のステップS208の詳細を示すフローチャートである。
【図26】図23のステップS172の詳細を示すフローチャートである。
【図27】第3実施例におけるモニタ制御部の動作を示すフローチャートである。
【図28】本発明の第4実施例のカラー・赤外モードでの動作タイミングチャートである。(実施例4)
【図29】第4実施例の精細カラーモードでの動作タイミングチャートである。
【発明を実施するための形態】
【実施例1】
【0014】
図1は、本発明の実施の形態に係るオートフォーカスデジタル一眼レフカメラの第1実施例を示すブロック図である。オートフォーカスデジタル一眼レフカメラはカメラボディ2およびこれに交換可能に着脱される交換レンズ4を有している。交換レンズ4のレンズ光学系6から入射した被写体光は、観察位置にあるミラー8で上方に反射され、焦点板10の位置に結像する。この像はペンタリズム12で反射された後、アイピース14で観察され、撮像ための構図決めなどが行われる。
【0015】
撮影の際には、操作部15のシャッタレリーズボタンを操作することによって、ミラー8がオートフォーカス用サブミラー16とともに撮影位置に退避するとともにフォーカルプレーンシャッタ18が開き、交換レンズ4のレンズ光学系6から入射した被写体光が撮像部20に結像して撮像される。撮像部20によって撮像された画像情報は、画像処理部22で画像処理された後、カメラ制御部24の制御により画像記憶部26に記憶される。画像記憶部26に記憶された画像情報は、適宜媒体スロット28に挿入されたメモリーカードなどの記憶媒体に転送される。また、画像記憶部26に記憶された画像情報は、カメラ制御部24の制御により、適宜入出力部30から外部に転送することができる。なお、撮影直後の画像情報は、カメラ制御部24から表示部32に送られて自動的に表示されるので、操作者は撮像した画像を確認することができる。
【0016】
画像再生の際には、操作部15の操作により、画像記憶部26または媒体スロット28に記憶された画像情報がカメラ制御部24によって読み出され、カメラボディ2の背面に設けられた液晶等からなる表示部32に表示される。以上が、図1のオートフォーカスデジタル一眼レフカメラにおける撮像および再生に関する基本構成および基本機能である。なお、上記から明らかなように、ミラー8が観察位置にあるときは、撮像部20による被写体像の撮像は行われないので、以上の構成だけではアイピース14で観察できるリアルタイムの被写体像は表示部32に表示されることはなく、撮影後に確認ができるだけである。この点が、デジタル一眼レフカメラの特殊性であり、表示部32の画像を観察しながら構図決めができる通常のコンパクトデジタルカメラと異なるところである。
【0017】
次に、図1のオートフォーカスデジタル一眼レフカメラにおけるオートフォーカスに関する構成と機能について説明する。交換レンズ4のレンズ光学系6から入射した被写体光の一部は、観察位置にあるミラー8中央にある半透過部を透過し、サブミラー16で下方に反射されて測光兼用オートフォーカス(以下「AF」)センサに導かれる。測光兼用AFセンサ34はサブミラー16から入射する光をAFセンサ上に再結像して分析し結果をカメラ制御部24に送る。この分析は、例えば、よく知られている瞳分割による位相差検出方式などによって撮像部20の撮像面とレンズ光学系6による結像位置のずれ方向およびその程度を分析することによって行われる。カメラ制御部24は、測光兼用AFセンサ34から得られたレンズ光学系6による結像位置のずれ方向およびその程度の情報に基づき、結像位置のずれを解消するためのレンズ光学系6の駆動量および駆動方向の情報を、AF制御部36に送る。AF駆動部38は、カメラボディ2と交換レンズ4との機械的または電気的インターフェースによってAF制御部36から伝えられる駆動量および駆動方向の情報に基づいてレンズ光学系6を駆動し、自動焦点合わせを行う。なお、測光兼用AFセンサ34の構成の詳細については後述する。
【0018】
ライブビューセンサ40は、デジタル一眼レフカメラにおいて、通常のコンパクトデジタルカメラと同様にして、表示部32の画像を観察しながら構図決めができるようにするための「ライブビュー」機能のための構成である。ペンタプリズム12の反射面12a全体が半透過性になっており、ライブビューセンサ40は、焦点板10の画像をCIGS撮像センサ上に再結像させることにより、焦点版10の画像全体を撮像できるようになっている。CIGS撮像センサは、銅(Cu)、インジウム(In)、ガリウム(Ga)およびセレン(Se)を材料とする光センサであり、その詳細は後述する。
【0019】
ペンタプリズム12の反射面12aは、可視光領域以外はほぼ全面的に光を透過させるとともに、可視光領域では、わずかに光を透過させるだけで大半が反射する分光透過特性になっており、アイピース14で焦点版10の像を観察する際に実質的に像が暗くなることはない。また、ライブビューセンサ40に採用されているCIGS撮像センサは、後述するように可視光領域において高い感度を有しているので、可視光領域での反射面12aの光透過率がわずかであっても、可視光領域における焦点版10の像を充分撮像することが可能である。このライブビューセンサ40への可視光の配分は、アイピース14により光学的に被写体を観察し難い暗さになったとき、CIGS撮像センサによるライブビュー用の撮像についても光量不足となるレベルとする。CIGS撮像センサを用いたライブビューセンサ40の詳細については後述する。ライブビューセンサ40で撮像された画像はカメラ制御部24に送られ、これが表示部32で表示されるので、図1のオートフォーカスデジタル一眼レフカメラは、被写体が通常の明るさである限り、通常のコンパクトデジタルカメラと同様にして、表示部32の画像を観察しながら構図決めが可能である。
【0020】
図2は、図1のオートフォーカスデジタル一眼レフカメラの第1実施例における測光兼用AFセンサ34およびライブビューセンサ40の構成を関連する部分とともに詳細に示したブロック図である。ペンタプリズム12の反射面12aは、すでに述べたように可視光領域以外はほぼ全面的に光を透過させるとともに、可視光領域では、わずかに光を透過させるだけで大半が反射する分光透過特性を有するが、多層膜52はこのような分光透過特性を実現するために反射面12aにコーティングされたものである。
【0021】
ライブビューセンサ40は、このような多層膜52を透過した焦点面10からの光束をCIGS撮像センサ54の撮像面に再結像させるための再結像レンズ56を備えている。赤外光カットフィルタ58は、多層膜52を透過してきた可視光領域以外の光を実質的にカットしてCIGS撮像センサ54の波長感度特性を撮像部20の波長感度特性に近似させるものであり、視感度に一致した被写体像を撮像してカメラ制御部24に送り、図1の表示部32でのライブビューを可能にする。なお、本発明にいう「赤外光」とは主に「近赤外光」と称される比較的可視光に近い領域の赤外光線を指すが、学会により定義が必ずしも一定でないので、以下「赤外光」と略称する。
【0022】
ライブビューセンサ40は、さらに焦点板10における明るさを測定する全画面測光を可能にしている。つまり、CIGS撮像センサ54から出力される画像情報は、全画面にわたる測光情報としてもカメラ制御部24で処理され、必要に応じAF対応部分測光センサ72の出力と組合せ慮利される。そして、これら処理結果に基づいて交換レンズ4の絞り径、フォーカルプレーンシャッタ18によるシャッタ速度、および撮像部20の感度などをコントロールする自動露出制御が行われる。
【0023】
可視光カットフィルタ60は赤外光カットフィルタ58と差し替えてCIGS撮像センサ54への光路中に挿入されるもので、「長波長モード」にて使用されるものである。多層膜52からは可視光領域以外がほぼ全面的に透過してくるので、長波長モードの設定で赤外光カットフィルタ58に替えて可視光カットフィルタ60が光路に挿入された場合は、可視光よりも長波長側域の光がCIGS撮像センサ54に入射するようになる。CIGS撮像センサ54は、後述するように、長波長側が1300nmにおよぶ分光感度を持っている。従って、可視光カットフィルタ60の挿入によってライブビューセンサ40はこれら長波長域の光での撮影に好適な撮像センサとなる。そして、このような長波長域の画像出力を表示部32でリアルタイムに観察したり、画像記憶部26に記録したりすることが可能となる。
【0024】
ミラー/フィルタ駆動部62は、操作部15によるモード切換に応じたカメラ制御部24の制御により、上記の可視光カットフィルタ60と赤外光カットフィルタ58の差し替えを駆動する。なお、図2では、撮影位置に退避したミラー8aおよびサブミラー16aが二点鎖線で図示されているが、このようなミラー8とサブミラー16における観察位置と撮影位置の間の駆動も、カメラ制御部24の制御によりラー/フィルタ駆動部62が行う。
【0025】
測光兼用AFセンサ34の再結像レンズ64は、交換レンズ4から入射して観察位置にあるミラー8中央にある半透過部を透過し、サブミラー16で下方に反射される被写体光を再結像させるためのものである。再結像レンズ64からの光束は、波長選択性のない可動半透ミラー66および赤外光カットフィルタ68を透過してCIGSAFセンサ70上に結像する。CIGSAFセンサも、後述するように可視光領域において高い感度を有しており、暗い被写体であっても補助光なしに自動焦点検出が可能である。なお、赤外光カットフィルタ68は、CIGSAFセンサ70をAFセンサとして働かせるために有害な赤外光領域の波長をカットするものであり、CIGS撮像センサ54のための赤外光カットフィルタ58とは必ずしも特性が同じものではない。例えば、赤外光カットフィルタ8は赤外光カットフィルタ58よりも狭い透過分光特性に設定される。
【0026】
このため、被写体が通常の明るさのときに減光のために可動半透ミラー66を図示の位置に挿入し、CIGSAFセンサへの入射光量をCIGSAFセンサの感度ダイナミックレンジに合わせこむ。一方、被写体が通常のAFセンサでは補助光を必要とするような暗さになったときには可動半透ミラーを64aの位置に退避させ、減光なしに被写体像をCIGSセンサに結像させる。なお、このとき可動半透ミラー66の有無による光路長の補償が必要である。例えば、可動半透ミラー66を退避させたときには、これと光路長が等しい全透過性の並行平板を代わりに光路中に挿入する。また、当然ながら、可動半透ミラーが64aの位置に退避した状態では、AF対応部分測光センサ72による測光はできなくなる。
【0027】
CIGSAFセンサ70への減光のために再結像光路中に可動半透ミラー66が挿入されている時、これを反射した光は、AF対応部分測光センサ72に入射する。AF対応部分測光センサ72は、CIGSAFセンサによって焦点検出が行われている部分の明るさを測光するものであり、全画面のうちで焦点検出の対象となっている部分の明るさを選択的に測光することにより、撮影において関心の高い部分が適正露出になるよう自動露出制御するための情報として用いられる。このように、被写体が明るい時に過剰となるCIGSAFセンサ70への減光部分は、捨てられるのではなく、測光情報として有効に利用される。
【0028】
AF対応部分測光センサ72からの部分測光情報は、ライブビューセンサ40のCIGS撮像センサ54からの全画面に関する測光情報と組合せてカメラ制御部24で処理され、最終的に、交換レンズ4の絞り径、フォーカルプレーンシャッタ18によるシャッタ速度、および撮像部20の感度などがコントロールされる。
【0029】
センサ制御部74は、可動半透ミラー66が挿入されている時および退避しているときのいずれの場合においても、CIGSAFセンサ70の受光積分時間やゲインコントロールなどを行って、自動焦点調節を制御する。この受光積分時間やゲインコントロールを混乱なく行うためには、可動半透ミラー66が挿入されているのか退避しているのかの情報も用いられる。センサ制御部74は、また、CIGSAFセンサ70およびAF対応部分測光センサ72に指示を出し、全画面のうちで焦点検出の対象とすべき部分と選択的に測光する部分を一致させる制御を行い、それぞれ対応する焦点検出情報と測光情報をカメラ制御部24に出力させる。
【0030】
一方、ライブビューセンサ40が「長波長モード」に設定され、多層膜52からCIGS撮像センサ54への光路に赤外光カットフィルタ58に替えて可視光カットフィルタ60が光路に挿入された場合は、測光兼用AFセンサ34でも、これに対応したフィルタの差し替え等が行われる。具体的には、「長波長モード」の場合、半透ミラー66の退避を前提として赤外光カットフィルタ68が可視光カットフィルタ76に差し替えられる。これによって、CIGS撮像センサ54による長波長域での撮像のための焦点検出が、減光なしに、CIGSAFセンサ70によって行われるようになる。なお、このとき、波長感度域あわせだけでなく、波長の違いによる光路長の変化および焦点検出の際の色収差の違い等の補償を行う。
【0031】
以上のような可動半透ミラー66の移動および赤外光カットフィルタ68と可視光カットフィルタ76との差し替えは、操作部15によるモード切換操作に基づくカメラ制御部24の制御により、ミラー/フィルタ駆動部78が司る。
【0032】
図1および図2の第1実施例は、上記のような基本機能に加え、「複合AF機能」が可能である。操作部15の操作により、「複合AF機能」が選択されると、ライブビュー機能が停止され、「複合AF機能」の開始が指示される。具体的には、操作部15の操作により、「複合AF機能」が選択されると、カメラ制御部24は、赤外光カットフィルタ58に替えて可視光カットフィルタ60をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に対して行うとともにCIGS撮像センサ54の出力に基づく表示部32でのライブビュー表示を停止する。
【0033】
これに替わり、可視光カットフィルタ60により長波長側の感度域となったCIGS撮像センサ54の画像信号は、赤外光カットフィルタ68により可視光の感度域にあるCIGSAFセンサの出力と組み合わされ、「複合AF機能」が実行される。具体的には、CIGS撮像センサ54の画像信号に基づく画像処理により被写体の画像分析が行われ、その結果に基づいて、CIGSAFセンサによる焦点検出領域が決定される。
【0034】
図3は、図2のCIGS撮像センサ54およびCIGSAFセンサに用いられるCIGSセンサの分光感度(量子効率)をシリコンのCMOSセンサと比較したものである。図3(A)は、各波長におけるCIGSセンサの量子効率(%)を示すものであり、図3(B)におけるシリコンのCMOSセンサについての同様の量子効率(%)と比較して、明らかな高感度および広帯域の特性を示している。具体的には、図3(A)のCIGSセンサは、波長1300nm近くにわたる広い感度域を持つ。さらに、400nm付近から1200nm付近の広い波長域に渡り量子効率50%を超える分光感度を有しており、可視光およびこれに隣接する赤外光領域では特に顕著な高量子効率を示している。このような可視光域および赤外光域において60%以上の量子効率を有する高感度および広帯域の分光感度特性は、図3(B)におけるようなシリコンのCMOSセンサでは期待できないものである。
【0035】
図4は、図1および図2の第1実施例におけるカメラ制御部24の動作のフローチャートである。操作部15によってカメラのメインスイッチがオンになるとフローがスタートし、ステップS2においてオートフォーカスデジタル一眼レフカメラが操作部15によって再生モードに設定されているかどうかチェックする。再生モード設定が検出されなければ撮影モードなのでステップS4に進み、可動半透ミラー66をCIGSAFセンサ70への光路内に設定して入射光量を減光する指示をミラー/フィルタ駆動部78に行う。
【0036】
なお、ステップS4の指示に応答するミラー/フィルタ駆動部78による可動半透ミラー66設定の機械的実行には遅延期間が設けられており、例えば可動半透ミラー66がCIGSAFセンサ70への光路にセットされている状態で可動半透ミラー66を光路から退避させる減光解除の指示が行われ、その後遅延時間内に、これを取り消す関係にある可動半透ミラー66を光路内にセットする指示が続いて行われたような場合には、ミラー/フィルタ駆動部78は実際には可動半透ミラー66の駆動を実行せず、可動半透ミラー66が光路内に設定されている状態が継続する。換言すれば、ミラー/フィルタ駆動部78は遅延時間内に可動半透ミラー66を異なる状態に駆動する指示が繰返し行われて初めて可動半透ミラー66の駆動を実行することになる。なお、既に可動半透ミラー66がCIGSAFセンサ70の光路に設定されている状態でステップS4の指示が行われた時は、当然ながら、ミラー/フィルタ駆動部78は可動半透ミラー66に対する何の駆動も行わない。これらのことは、以下の各ステップにおける種々の「指示」に共通である。
【0037】
次いでステップS6に進み、ライブビュー用の赤外光フィルタ58をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に行う。なお、ミラー/フィルタ駆動部62のミラー差し替え動作についても、上記でミラー/フィルタ駆動部78において説明したのど同様の指示に対する駆動実行への遅延時間が設けられている。
【0038】
次いで、ステップS8でAF用の赤外光カットフィルタ68をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に行う。そして、ステップS10に進み、CIGSAFセンサ70の出力に基づき、減光を解除すべきレベルまで被写体が暗いかどうかのチェックを行う。該当すればステップS12に進んで、可動半透ミラー66を光路から退避させる減光解除の指示を行ってステップS14に移行する。一方、被写体が充分明るい場合は直接ステップS14に移行する。
【0039】
ステップS14では、操作部15によって「複合AFモード」が選択されたかどうかのチェックを行う。そして選択があればステップS16に進み、複合AFを行うために赤外光フィルタ58に替えて可視光カットフィルタ60をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に対して行う。さらに、ステップS18でCIGS撮像センサ54の出力に基づく表示部32でのライブビュー表示を停止するとともに、長波長側の感度域のCIGS撮像センサ54の画像信号と可視光の感度域にあるCIGSAFセンサの出力とを組み合わせる「複合AF機能」の開始が指示してステップS20に移行する。一方、ステップS14で「AFモード」の選択が検出されない場合は、直接ステップS20に移行する。
【0040】
ステップS20では、撮像部20による撮像が光量不足となるほど暗いかどうかのチェックを行う。通常、このレベルまで被写体が暗くなるとフラッシュなどの補助光を用いた撮影が必要となる。ステップS20で光量不足が検知されるとステップS22に進み、操作部15の操作によって「長波長モード」が選択されているかどうかチェックする。そして該当すればステップS24に進み、赤外光フィルタ58に替えてライブビュー用の可視光カットフィルタ60をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に対して行う。さらに、ステップS26で、赤外光カットフィルタ68に替えてAF用の可視光カットフィルタ76をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行ってステップS28に移行する。
【0041】
一方、ステップS20で撮像部の光量不足が検出されない場合は、直接ステップS28に移行する。このように、撮像部の光量不足となるような暗さでない場合、通常はステップS22に進むことができず、「長波長モード」は禁止される。これは設定の混乱を防止するためである。なお、被写体が明るい場合でも特に「長波長モード」を選択したい場合は、操作部15で特別の操作を行うことによってステップS22に進むことも可能である。また、ステップS22で「長波長モード」設定が検出されない場合も、直接ステップS28に移行する。
【0042】
ステップS28では、操作部15のシャッタレリーズボタンによるレリーズ操作が行われたかどうかチェックする。レリーズ操作が検知できなければステップS30に進み、操作部15によってカメラのメインスイッチをオフする操作が行われたかどうかチェックする。そしてカメラオフ操作が検出されなければフローはステップS2に戻り、以下、ステップS2で再生モード操作が検出されるかステップS28でレリーズ操作が検出されない限り、ステップS2からステップS30を繰り返す。
【0043】
上記の繰返しは充分高速で行われ、上記したミラー/フィルタ駆動部62、78に設けられる遅延時間内に何度も繰り返される。従って、ステップS10、ステップS14、ステップS20およびステップS22に基づく検知結果が変化するとミラー/フィルタ駆動部62、78の遅延時間内にこの変化基づく同一の指示が繰返し行われ、ミラー/フィルタ駆動部62、78による適切な指示の実行が行われる。これによって、被写体の明るさの変化に基づく減光の設定/解除と波長域カットフィルタの切り替え、およびモード切り替えに基づく波長域カットフィルタの切り替えがスムーズに実行される。
【0044】
なお、ステップS2で操作部15による再生モード設定操作が検出された時はステップS32の再生モード処理に移行する。そして、再生モード処理内部の機能によって撮影モードが選択されたときには、フローはステップS4に戻る。また、再生モード処理内部の機能によってカメラオフ操作が検出されたときにはフローを終了する。
【実施例2】
【0045】
一方、ステップS28で操作部15のシャッタレリーズボタンによるレリーズ定操作が検出された時はステップS34の撮像記録処理に移行する。そして、撮像記録および表示部での撮像結果表示が終わると、フローは自動的にステップS2に戻る。なお、ステップS30でカメラオフ操作が検出されたときは、図4のフローが終了となる。
【0046】
図5は、本発明の実施の形態に係るオートフォーカスデジタル一眼レフカメラの第2実施例を示すブロック図である。その構成の大部分は図1の第1実施例と同様なので、共通する部分には同一の番号を付し、特に必要がない限り説明を省略する。図5の第2実施例が図1の第1実施例と異なるのは、カメラボディ100であり、特にそのライブビューセンサ102およびこれに関連する構成および機能が第1実施例と異なる。
【0047】
第1実施例のライブビューセンサ40では、半透過性の反射面12aを介して光を受けるよう構成され、反射面12aを透過する可視光領域の光が抑えられている。これは、アイピース14で光学的に被写体像を支障なく観察することができるようにするとともに、同時にライブビューも常に可能とするためである。ライブビューセンサ40にはCIGS撮像センサが用いられているので、反射面12aを透過する可視光領域の光が抑えられていても、通常の明るさの被写体をライブビューするには充分である。しかしながら、アイピース14で充分観察できないような暗い被写体の場合は、ライブビューセンサ40でも光量が不足する。これに対し、図5の第2実施例は、アイピース14で充分観察できないような暗い被写体の場合でも、ライブビューセンサ102に採用したcIGS撮像センサによってライブビューが可能となるよう構成している。なお、図5のライブビューセンサ102の詳細構造は、図2におけるライブビューセンサ40と基本的には同様であって、再結像光学系およびCIGS撮像センサを有する。但し、ペンタプリズム104に対するライブビューセンサ102の配置場所が異なるので、その再結像光学系は図2の再結像レンズ56とは異なったものとなる。
【0048】
上記の考え方に基づき、第2実施例では、通常のペンタプリズム104が採用されており、ライブビューモードに設定しない場合は、ペンタプリズム104からの光はすべてアイピースに向かう。このとき可動全反射ミラー106は図5のようにアイピース14への光路から退避している。従ってこの状態ではライブビューができない。
【0049】
操作部15の操作によってライブピューモードを選択すると、可動全反射ミラーが106aの位置に下がり、ペンタプリズム104からの光を全てライブビューセンサ102の方向に反射する。従って、アイピース14による光学的なファインダー像の観察はできなくなる。可動減光フィルタ108は、被写体が通常の明るさのときに図5のようにライブビューセンサへの光路中に挿入され、ライブピューセンサ102への入射光量をCIGS撮像センサの感度ダイナミックレンジに合わせこむ。一方、被写体がアイピースでは観察し難い程度の暗さになったときには可動減光フィルタ108がライブビューセンサ102への光路から退避し、減光なしに被写体像をライブビューセンサに導く。なお、このとき可動減光フィルタ108の有無による光路長の補償が必要であり、例えば、可動減光フィルタを退避させたときには、これと光路長が等しい全透過性の並行平板を代わりに光路中に挿入する。このようにして、光学的には観察し難い暗い被写体の場合でも、図5の第2実施例の場合にはCIGS撮像センサによりライブビューが可能となる。このライブビューセンサ102からの可視光域の画像は表示部32でのライブビューだけでなく、画像記憶部26に記録することも可能である。したりすることが可能となる。
【0050】
赤外光カットフィルタ110は、ライブビューモードにおいて可動全反射ミラー106aから反射される可視光領域以外の光をカットし、CIGS撮像センサの波長感度特性を撮像部20の波長感度特性に近似させるものであり、視感度に一致した被写体像を撮像してカメラ制御部116に送り、自然なライブビューを可能にする。
【0051】
可視光カットフィルタ112は、赤外光カットフィルタ110と差し替えてライブビューセンサ102への光路中に挿入されるもので、「長波長モード」にて使用されるものである。可動全反射ミラー106aからは可視光領域以外もほぼ全面的に反射されてくるので、長波長モードの設定で赤外光カットフィルタ110に替えて可視光カットフィルタ112がライブビューセンサ102への光路に挿入された場合は、可視光よりも長波長側域の光がライブビューセンサ102のCIGS撮像センサに入射するようになる。従って、第1実施例と同様、長波長域の画像についてその画像出力を表示部32でリアルタイムに観察したり、画像記憶部26に記録したりすることが可能となる。なお、可視光カットフィルタ112を用いる長波長モードにおいては、可動減光フィルタ108をライブビューセンサへの光路から退避させる。以上のような可動全反射ミラーが106、可動減光フィルタ108、赤外光カットフィルタ110および可視光カットフィルタ112の駆動は、カメラ制御部116によって制御されるミラー/フィルタ駆動部114によって行われる。
【0052】
図6は、図5の第2実施例におけるカメラ制御部116の動作のフローチャートである。第1実施例と同様にして操作部15によってカメラのメインスイッチがオンになるとフローがスタートし、ステップS42においてオートフォーカスデジタル一眼レフカメラが操作部15によって再生モードに設定されているかどうかチェックする。再生モード設定が検出されなければ撮影モードなのでステップS44に進み、光学ファインダ光路に設定する指示を行う。具体的には、可動全反射ミラー106がアイピース14への光路中から退避するようミラー/フィルタ駆動部114に指示する。ステップS44ではさらに、可動減光フィルタ108をライブビューセンサ102への光路中に挿入して入射光量を減光する指示をミラー/フィルタ駆動部114に行とともに、図2における可動半透ミラー66をCIGSAFセンサ70への光路内に設定して入射光量を減光する指示をミラー/フィルタ駆動部78に行う。
【0053】
次いでステップS46に進み、操作部15によって「ライブピューモード」が設定されているかどうかチェックする。該当すればステップS48に進み、ライブビューへの光路切り替えの指示が行われる。具体的には、可動全反射ミラー106をアイピース14への光路中に進出させるようミラー/フィルタ駆動部114に指示してステップS50に移行する。この指示が実行されると、ファインダ像をアイピース14から光学的に観察することはできなくなり、代わりにライブビューセンサ102の出力に基づく表示部32でのライブビューが可能となる。ステップS48ではさらに、ライブビュー用の赤外光カットフィルタ110をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に行う。なお、ミラー/フィルタ駆動部114についても、第1実施例で説明したのと同様の、指示に対する駆動実行への遅延時間が設けられている。一方、ステップS46で「ライブビューモード」への設定が検知されない場合は、直接ステップS50に移行する。
【0054】
ステップS50では、AF用の赤外光カットフィルタ68をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に行う。そして、ステップS52に進み、CIGSAFセンサ70の出力に基づき、減光を解除すべきレベルまで被写体が暗いかどうかのチェックを行う。該当すればステップS54に進み、操作部15によって「ライブピューモード」が設定されているかどうかチェックする。該当すればステップS56に進み、可動減光フィルタ108をライブビューセンサ102への光路から退避させる減光解除の指示を行ってステップS58に移行する。一方、ステップS54で「ライブビューモード」の設定が検知されなければ直接ステップS58に移行する。そして、ステップS58では、可動半透ミラー66をCIGSAFセンサ70への光路から退避させてAF用の減光を解除する指示を行う。このように、ステップS52で被写体が暗いことが検知された場合は、「ライブビューモード」の設定如何にかかわらずAF用の減光を解除する。
【0055】
次いで、ステップS60では、撮像部20による撮像が光量不足となるほど暗いかどうかのチェックを行う。そして該当すればステップS62に進み、操作部15の操作によって長波長モードが選択されているかどうかチェックする。そして該当すればステップS64に進み、赤外光フィルタ110に替えてライブビュー用の可視光カットフィルタ112をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に対して行う。さらに、ステップS66で、赤外光カットフィルタ68に替えてAF用の可視光カットフィルタ76をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行う。
【0056】
以上のステップを経て、フローはステップS68に進む。一方、ステップS52で減光を解除すべきレベルまで被写体が暗いことが検知されなかった場合、ステップS60で撮像部20による撮像が光量不足となるほど被写体が暗いことが検知されなかった場合、およびステップS62で長波長モードへの選択が検知されなかった場合は、いずれも直接ステップS68に移行する。
【0057】
ステップS68では、操作部15のシャッタレリーズボタンによるレリーズ操作が行われたかどうかチェックする。レリーズ操作が検知できなければステップS70に進み、操作部15によってカメラのメインスイッチをオフする操作が行われたかどうかチェックする。そしてカメラオフ操作が検出されなければフローはステップS42に戻り、以下、ステップS42で再生モード操作が検出されるかステップS68でレリーズ操作が検出されない限り、ステップS42からステップS70を繰り返す。
【0058】
第1実施例と同様にして、上記の繰返しは充分高速で行われ、上記したミラー/フィルタ駆動部78、114に設けられる遅延時間内に何度も繰り返される。従って、ステップS46、ステップS52、ステップS54、ステップS60およびステップS62に基づく検知結果が変化するとミラー/フィルタ駆動部78、114の遅延時間内にこの変化基づく同一の指示が繰返し行われ、ミラー/フィルタ駆動部78、114による適切な指示の実行が行われる。これによって、被写体の明るさの変化に基づく減光の設定/解除と波長域カットフィルタの切り替え、およびモード切り替えに基づく波長域カットフィルタの切り替えがスムーズに実行される。
【0059】
なお、第1実施例と同様にして、ステップS42で操作部15による再生モード設定操作が検出された時はステップS72の再生モード処理に移行する。そして、再生モード処理内部の機能によって撮影モードが選択されたときには、フローはステップS44に戻る。また、再生モード処理内部の機能によってカメラオフ操作が検出されたときにはフローを終了する。
【0060】
また、ステップS68で操作部15のシャッタレリーズボタンによるレリーズ定操作が検出された時はステップS74の撮像記録処理に移行する。そして、撮像記録および表示部での撮像結果表示が終わると、フローは自動的にステップS42に戻る。なお、ステップS70でカメラオフ操作が検出されたとき、図6のフローは終了となる。
【0061】
上記における本発明の種々の特徴は、実施例に限らず、広く活用できるものである。例えば、第1実施例においては、可視光カットフィルタ60により長波長域に感度を有するCIGS撮像センサ54と赤外光カットフィルタ68により可視光に感度域を有するCIGSAFセンサの出力とを組合せて「複合AF機能」は実施するものとして説明した。しかしながら、「複合AF機能」の実施はこのようなものに限るものではない。例えば、図2における波長選択性のない可動半透ミラー66をダイクロイックミラーで構成し、可視光透過させてCIGSAFセンサ70上に導くとともに、長波長域を反射させてAF対応部分測光センサ72に導くようにする。そして、AF対応部分測光センサ72にも、CIGSセンサを用いるようにする。なお、この場合、赤外光カットフィルタ68は不要となる。
【0062】
以上のように構成すれば、長波長域に感度を有するAF対応部分測光センサ72によりAF対応部分のうちのどこに人物が存在するかの推定が可能となり、その部分に対してCIGSAFセンサ70による焦点検出を行うことが可能となる。
【0063】
さらに「複合AF機能」の実施は以上のように二つのCIGSセンサを用いるものに限るものではない。例えば図2において、可視光カットフィルタ76がCIGSAFセンサの光路中に挿入された状態においてCIGSAFセンサ自体でAF対応部分のうちのどこに人物が存在するかの推定を行うとともに、赤外光カットフィルタ18が光路中に挿入された状態においてその部分に対してCIGSAFセンサ70による焦点検出を行うことも可能である。このように広い感度領域を有する一つのCIGSを時分割で異なる感度領域にて使い分け、それらの出力を組合せることによって「複合AF機能」を実現することも可能である。
【0064】
また、以上の実施例では、減光のために可動半透ミラーまたはフィルタを光路中に出し入れするものとして説明したが、入射光量の調節はこのような二段階のものに限るものではない。例えば、透過率が段階的に異なる複数の減光フィルタを用意し、これらの一つを光路に挿入することにより、減光の度合いをきめ細かく段階的に変化させるよう構成してもよい、また、透過率が連続的に変化する減光手段を用い、減光の度合いを連続的に変化させるよう構成してもよい。
【0065】
上記の実施例においては、可視光域および赤外光域において60%以上の量子効率を有する高感度および広帯域の分光感度特性をもつセンサとしてCIGSセンサを用いている。CIGSセンサは銅、インジウム、ガリウムおよびセレンよりなる多結晶のCIGS系薄膜を用いた光電センサであるが、その組成制御によりバンドギャップを変化させることで吸収波長域を制御することができる。このうちガリウムの含有率をゼロとしたものは「CIS系薄膜」とも称されるが、本明細書で「CIGSセンサ」という場合は、このようなガリウムを含まない「CIS系薄膜」を用いた光電センサをも意味するものとする。
【0066】
図7は、図2の第1実施例におけるライブビューセンサ40または図5の第2実施例におけるライブビューセンサ102に用いられるCIGS撮像センサのカラーフィルタ配列の第1例である。この第1例においては、赤外光透過フィルタR11、青透過フィルタB12、緑透過フィルタG22および赤透過フィルタR21が図示のように配列され、これを一つの単位として繰り返す配列となっている。本発明のCIGS撮像センサは、図3のように可視光域から赤外光にわたる広い分光感度域をもつため、このように一つのセンサに可視光および赤外光のカラーフィルタを設けることができる。なお、図7の配列は、原色カラーフィルタに赤外光透過フィルタを加えたものであり、原色カラーフィルタにおいて代表的なベイヤー配列と異なり緑の受光面積が青および青と同じになっているが、この点については後の回路処理で補正することができる。
【0067】
ここで、赤外光透過フィルタが配置されていない画素に関する赤外光画像の補間について説明する。まず、青透過フィルタB12に対応する画素については、基本的にはその両側にある赤外光透過フィルタIR11に対応する画素のデータと赤外光透過フィルタIR13に対応する画素のデータの平均値によって補間が行われる。他の青透過フィルに対応する画素における赤外光画像の補間も同様である。一方、赤透過フィルタR21に対応する画素については、同様にその上下にある赤外光透過フィルタIR11に対応する画素のデータと赤外光透過フィルタIR31に対応する画素のデータの平均値によって補間される。他の赤透過フィルタに対応する画素における赤外光画像の補間も同様である。また、緑透過フィルタG22に対応する画素については、その周囲にある赤外光透過フィルタIR11に対応する画素のデータ、赤外光透過フィルタIR13に対応する画素のデータ、赤外光透過フィルタIR33に対応する画素のデータおよび赤外光透過フィルタIR31に対応する画素のデータの平均値によって補間される。他の緑透過フィルタに対応する画素における赤外光画像の補間も同様である。
【0068】
なお、上記のような単純な補間では、実際の被写体とは異なる赤外光画像が得られる可能性がある。これを防止するには、単に近傍の赤外光透過フィルタに対応するデータのみに基づいて赤外光画像の補間を行うのではなく、補間しようとしている画素に影響している可視光のデータも加味して補間を行うのが有効である。例えば、赤透過フィルタR21に対応する画素の赤外光画像の補間において、赤透過フィルタR21に対応する画素が実際に受けている赤色光のデータも加味する。このような可視光データの加味の有無および加味する場合の度合いについては、可視光データと赤外光データとの相互関係または周囲の画素の他の可視光データとの相互関係に基づいて決定する。
【0069】
図8は、図2の第1実施例におけるライブビューセンサ40または図5の第2実施例におけるライブビューセンサ102に用いられるCIGS撮像センサのフィルタ配列の第2例である。この第2例にでは、カラーフィルタ配列自体は図7の第1例と共通であるが、各カラーフィルタの受光面積が異なっている。つまり、赤外光透過フィルタIR11および緑透過フィルタG22については、画素に許される最大の受光面積を確保しているが、青透過フィルタB12は遮光部202を設けることにより、受光面積が緑透過フィルタG22の約半分になっている。同様に赤透過フィルタR21についても、遮光部204を設けることにより、受光面積が緑透過フィルタG22の約半分になっている。これは、人間の目の赤および青に対する視感度が緑に対する視感度の約半分であることに対応している。
【0070】
本発明のCIGS撮像センサは、図3のように可視光域において高感度を有するため、上記のように青透過フィルタB12と赤透過フィルタR21の受光面積を減らしても充分対応できる。また、遮光部によって画素毎の受光面積自体を変えるので、ベイヤー配列のように画素数の割合によって人間の視感度への近似を行うのに比べてよりきめ細かな調節を行うことができ、必要に応じ、青透過フィルタB12と赤透過フィルタR21の受光面積比を変えることも可能である。
【0071】
図9は、図8のフィルタ配列の第2例を採用したCIGSセンサの模式断面図である。図9(A)に示すように、本発明のCIGS撮像センサはLSI400の上にCIGS系薄膜402を積層した構造となっており、1画素分の開口率が非常に大きい。そしてこの上にカラーフィルタ404が乗せられている。この図9(A)の模式断面図における基本構造自体は、フィルタ配列の第2例に限られるものでなく、本発明のCIGSセンサに共通である。
【0072】
図9(B)は、図9(A)の部分406を拡大した模式断面図であり、図8のフィルタ配列の第2例の断面を概念的に示している。なお、図8および図9(A)では対応する部分には同じ番号を付す。図9(B)に明らかなように、CIGS系薄膜402はそれぞれ画素をなすフォトダイオード408、410等に区分されており、フォトダイオード408の上には、赤外光透過フィルタIR11が載せられている。そして、フォトダイオード410の上には、受光面積を減らすための遮光部202および青透過フィルタB12が載せられている。
【0073】
図10は、図2の第1実施例におけるライブビューセンサ40または図5の第2実施例におけるライブビューセンサ102に用いられるCIGS撮像センサのフィルタ配列の第3例である。この例は、ベイヤー配列における緑透過フィルタの全数の4分の1を規則的に赤外光透過フィルタIR11、IR33、IR51等に置き換えたものである。残りの4分の3は、ベイヤー配列と同様に緑透過フィルタG13、G22,G31、G42、G44、G35、G24等となっている。
【0074】
この結果、緑透過フィルタG13等の全数の割合は、赤透過フィルタR23や、青透過フィルタB32の全数の割合の1.5倍となっている。これによって、ベイヤー配列と同様にして緑透過フィルタに対応する画素の数を増やすことにより、緑透過フィルタの受光面積を増やして人間の目の視感度への近似を図っている。なお、図10のフィルタ配列においても、図8のフィルタ配列の考え方を加味し、赤透過フィルタR23等と青透過フィルタB32等に遮光部を設けてこれらの受光面積を減じることにより視感度への近似のための受光面積の調整を行うことも可能である。
【0075】
一方、赤外光透過フィルタIR11等は上記のように配列したので、配置は疎らであるとともにその全数の割合も、赤透過フィルタR23や、青透過フィルタB32の全数の割合の半分となっている。本発明のCIGS撮像センサは、図3のように赤外光域において高感度を有するため、画素全数の割合が少なくても充分対応できるとともに、赤外光は波長が長いので画素配置を可視光に比べて疎らにしても対応可能である。
【0076】
次に、図10のフィルタ配列における赤外光透過フィルタが配置されていない画素に関する赤外光画像の補間について説明する。まず、緑透過フィルタG35に対応する画素については、その二つ上方にある赤外光透過フィルタIR15に対応する画素のデータ、二つ左方にある赤外光透過フィルタIR33に対応する画素のデータ、二つ下方にある赤外光透過フィルタIR55に対応する画素のデータおよび二つ右方にある赤外光透過フィルタIR37に対応する画素のデータの平均値によって補間が行われる。また、緑透過フィルタG24に対応する画素については、その右上方にある赤外光透過フィルタIR15に対応する画素のデータと左下方にある赤外光透過フィルタIR33に対応する画素のデータの平均値によって補間が行われる。さらに緑透過フィルタG26に対応する画素については、その左上方にある赤外光透過フィルタIR15に対応する画素のデータと右下方にある赤外光透過フィルタIR37に対応する画素のデータの平均値によって補間が行われる。
【0077】
そして、赤透過フィルタR25に対応する画素について、上記のように補間して求めた緑透過フィルタG35、G24、G26にそれぞれ対応する画像の赤外光画像データと赤外光透過フィルタIR15に対応する画素のデータの平均値によって補間する。これを整理すると、次のようにIR15、IR33、IR55およびIR37に対応する赤外光画像データの重み付け平均となる。
{(IR15+IR33+IR55+IR37)/4+(IR15+IR33)/2
+(IR15+IR37)/2+IR15}/4
=(9IR15+3IR33+IR55+3IR37)/16
以下同様にして各可視光フィルタに対応する画素の赤外光画像データを補完していく。
【0078】
緑透過フィルタが配置されていない画素に関する緑画像の補間については、まず、赤外光透過フィルタIR33に対応する画像をその周囲の緑透過フィルタG22、G42、G44、G24に対応する画素の平均をとって補間する。そして、上記のように補間して求めた赤外光透過フィルタIR33に対応する画像の緑画像データと、緑透過フィルタG22、G31およびG42の緑画像データの平均をとって、これらの中心にある赤透過フィルタB32に対応する画像も緑画像データを補間する。これを整理すると、次のようにG22、G31、G42、G44およびG24の重み付け平均となる。
{(G22+G42+G44+G24)/4+G22+G31+G42}/4
=(5G22+4G31+5G42+G44+G24)/16
以下同様にして赤外光透過フィルタ、赤透過フィルタおおび青透過フィルタに対応する画素の緑画像データを補完していく。なお、赤画像および青画像の補間については、図7と同様である。
【0079】
なお、上記の赤透過フィルタのように配置が疎らな場合に補間を繰り返す場合、または、上記の緑透過フィルタのように配置が非対称なデータを用いて補間を行う場合には、上記のように補間で作ったデータを用いてさらに補間を行うことになり、実際とは異なる画像が得られてしまう可能性もある。このような場合においても、上記のような赤外光透過フィルタに対応する画素のデータのみによる補間、または、緑透過フィルタに対応する画像のデータのみによる補間に加え、図7で述べたように、補間しようとしている画素に影響している他の色のデータも加味して補間を行うのが有効である。
【0080】
図11は、第2実施例においてライブビューセンサ102の画像を画像記憶部26に記録する際のカメラ制御部116の動作を示すフローチャートである。操作部15によってこの機能を選択する操作を行うとことによってフローがスタートすると、まずステップS82で可動全反射ミラーを106aの位置に下げ、ペンタプリズム104からの光を全てライブビューセンサ102の方向に反射するよう光路切り替えを指示する。そしてステップS84においてミラー8を観察位置に固定し、レリーズを行っても撮影位置にアップしないようにする。さらにステップS86で表示部32による表示を行わせる。
【0081】
次いでステップS88で赤外光モードが選択されているかどうかチェックし、該当すればステップS90に進み、AF用の可視光カットフィルタ76をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行う。さらに、ステップS92で、ライブビュー用の可視光カットフィルタ112をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に対して行い、ステップS94に移行する。
【0082】
一方、ステップS88で、赤外光モードが選択されていないことが検知されるとステップS96に進み、AF用の赤外光カットフィルタ68をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行う。そしてステップS98に進み、「画像融合モード」が選択されているかどうかチェックする。同一の被写体についての赤外光画像と可視光画像を融合処理することによって植物の埴生分析や病害虫被害の検出を行うことは知られているが、「画像融合モード」は、ほぼ同時に同一被写体に対して赤外光画像と可視光画像を取得することを可能にするもので、動きのある被写体についても互いにずれのない赤外光画像と可視光画像を得ることができる。
【0083】
ステップS98で画像融合モードへの設定が検出ない場合は、可視光モードが選択されていることを意味するからステップS100に進み、ライブビュー用の赤外光カットフィルタ110をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に対して行い、ステップS94に移行する。
【0084】
これに対し、ステップS98で画像融合モードへの設定が検出されると、ステップS102に進み、ライブビューセンサ102への光路から赤外光カットフィルタ110および可視光カットフィルタ112を両者とも除去する指示をミラー/フィルタ駆動部114に対して行う。これは、ライブビューセンサ102によって赤外光画像と可視光画像の両者をほぼ同時に取得するためである。
【0085】
次いでステップS104で表示部32によるライブビュー表示を禁止する指示を出してステップS94に移行する。これは交換レンズ4による可視光と赤外光の結像位置が異なるので赤外光画像と可視光画像をそのまま表示部32に表示するとピントがあった像と合わない像が重なり、見づらい表示になるからである。なお、ステップS104においては、表示部32による表示を全面的に禁止する代わりに、赤外光画像と可視光画像のうちピントの合っている方(通常は可視光像)の画素情報のみを抽出して表示する指示を行ってもよい。この場合、フィルタを外しているので、これらの画素にもピントの合っていない画像情報の光が入射入しているが、ピントの合っている画像情報の光の強度が優勢なので表示は可能である。また上記のような表示の全面禁止かまたはピントの合っていない画像用の画素情報のみの表示禁止かを予め選択可能としておき、ステップS104で選択された方の指示を出すようにしてもよい。
【0086】
ステップS94では、レリーズ操作が行われたかどうかをチェックする。そしてレリーズ操作がなければステップS86に戻り、以下、レリーズ操作が検出されるまでステップS86からステップS104を繰り返す。これによって、操作部15によるモード切り替えに対応する。なお、図4で述べたように、「指示」の機械的実行には遅延期間が設けられているので、図11においても、実際にモード切り替えが行われない限り、ステップS86からステップS104の繰返しの中でフィルタの駆動が生じるわけではない。これは、ステップS86およびステップS104による表示部32の表示と禁止の切り替えについても同様である。
【0087】
ステップS94では、レリーズ操作が検出されるとステップS106に進み、レンズ光学系6のAF駆動が行われ、これによってピンとが合うとステップS108のライブビュー記録処理を行う。このAF駆動は赤外光画像に対するものである場合と可視光画像に対するものである場合がある。次いでステップS110で画像融合モードが設定されているかどうかを検出し、該当しなければ直ちにフローを終了する。
【0088】
一方、ステップS110で画像融合モードの設定が検出されるとステップS112に進み、AF制御部36によってレンズ光学系6を赤外光補正駆動する。換言すると、画像融合モードが設定されている場合、ステップS106におけるAF駆動およびステップS108におけるライブビュー記録処理は可視光像に対するものであるが、ステップS112では、可視光についてのピント位置から赤外光についてのピント位置までの所定の補正駆動をAF駆動部38によってレンズ光学系6に行わせるものである。この赤外光補正駆動は極めて短時間に行われ、直ちにステップS114のライブビュー赤外光記録処理に入る。そして処理が完了するとフローを終了する。以上のような機能の詳細は後述するが、基本的には画像融合モードにおいては、ステップS108にて可視光画像の記録を行い、引き続いてほぼ同時にステップS114において赤外光画像の記録を行うものである。
【0089】
図12は、図11のステップS108におけるライブビュー記録処理およびステップS114におけるライブビュー赤外光記録処理の詳細を示すフローチャートであり、いずれにも共通して利用できるものである。フローがスタートするとステップS122で赤外光撮影モードに設定されているかどうかのチェックが行われる。そして該当しなければステップS124に進み、RGBの画素のデータを読み出すことにより可視光画像の画素情報を得る。そしてステップS126でRGBの補間処理を行う。次いで、ステップS128では、画像融合モードに設定されているかどうかのチェックを行い、該当しなければステップS130に進んでRGBの可視光カラー画像について画像処理を行う。そしてステップS132に進み、その画像を画像記録部26に記録してフローを終了する。
【0090】
一方、ステップS122で赤外光モードへの設定が検出されるとステップS134に進み、IRの画素のデータを読み出すことにより赤外光画像の画素情報を得る。そしてステップS136でIRの補間処理を行う。次いで、ステップS138では、画像融合モードに設定されているかどうかのチェックを行うが、この場合は赤外光モードであって該当しないのでステップS140に進み、赤外光画像について画像処理を行う。そしてステップS132に進み、その画像を画像記録部26に記録してフローを終了する。
【0091】
さらにステップS128で画像融合モードへの設定が検出された場合、ステップS134に進んでIRの画素のデータを読み出すことにより赤外光画像の画素情報を得る。そしてステップS136でIRの補間処理を行う。これらによって、ステップS124、126による可視光画像情報に加えて赤外光画像情報も得ることができる。次いで、ステップS138で、画像融合モードに設定されているかどうかのチェックを行うが、この場合は画像融合モードなのでステップS142に進み、ステップS134およびステップS136の処理によって得られた赤外光画像が赤外光補正駆動後のものであるかどうかのチェックを行う。
【0092】
ここで、ステップS142に該当するか否かがどのような意味を持つかについて補足する。まず、ステップS142に該当しない場合は、図12のフローが図11のステップS108で実行されている場合に相当する。そしてステップS124およびステップS126で得られる可視光画像は図11のステップS106における可視光に対するAF駆動によりピントが合ったものであり、ステップS134およびステップS136で得られる赤外光画像はピントがずれたものとなっている。一方、ステップS142に該当する場合は、図12のフローが図11のステップS114で実行されている場合に相当する。そしてステップS134およびステップS136で得られる赤外光画像は図11のステップS112における赤外光補正駆動によりピントが合ったものであり、ステップS124およびステップS126で得られる可視光画像はピントがずれたものとなっている。
【0093】
そこで、得られた画像が赤外光補正駆動後の画像に該当しないとステップS142で判断された場合はステップS144に進み、ピントの合っているRGBの可視光画像について画像処理をおこなう。次いでステップS146においてピントの合っていない赤外光画像について補助的に画像処理を行う。そしてステップS148において、可視光画像を赤外光画像情報で補正した画像を作成する。この画像は基本的には可視光画像であるが、ピントがずれてデフォーカス状態にある赤外光画像の情報を加味することにより、ローパスフィルタ効果等で可視光画像の画質を改善するものである。以上の処理を経てステップS132に進み、ステップS144、ステップS146およびステップS148で得られたそれぞれの画像を記録してフローを終了する。
【0094】
一方、得られた画像が赤外光補正駆動後の画像に該当するとステップS142で判断された場合はステップS150に進み、ピントの合っている赤外光画像について画像処理をおこなう。次いでステップS152においてピントの合っていないRGBの可視光画像について補助的に画像処理を行う。そしてステップS156において、赤外光画像を可視光画像情報で補正した画像を作成する。この画像は基本的には赤外光画像であるが、ピントがずれてデフォーカス状態にある可視光画像の情報を加味することにより、ローパスフィルタ効果等で赤外光画像の画質を改善するものである。
【0095】
さらに、ステップS156では、図11のステップS108で記録された赤外光補正駆動前画像を読み出す。これによって、ピントの合った赤外光画像、ピントの合った可視光画像、ピントの外れた赤外光画像、ピントの外れた可視光画像、補正赤外光画像および補正可視光画像が揃うことになり、次のステップS158でこれらの画像に基づく画像融合処理が行われる。
【0096】
ステップS158の画像融合処理の内容は基本的にはピントの合った赤外光画像とピントの合った可視光画像の融合であり、これによって一方のみでは判断できない画像診断が可能となる。また、これに代えて、補正赤外光画像および補正可視光画像の融合による画像診断も可能である。さらに、ピントの合った可視光画像と、ピントの外れた可視光画像の融合により、核の締まったソフトフォーカス可視光画像を得ることもできる。同様に、ピントの合った赤外光画像と、ピントの外れた赤外光画像によりソフトフォーカス赤外光画像を得ることもできる。さらに、ピントの合った可視光画像を、ピントの合った赤外光画像で補正することにより、赤外光カットフィルタをかけて得た可視光画像に準じた画像を得ることもできる。その逆に、ピントの合った赤外光画像をピントの合った可視光画像で補正することにより、可視光カットフィルタをかけて得た赤外光画像に準じた画像を得ることもできる。これらの処理のどれを選ぶかは操作部15により設定できるが、被写体に応じ自動的に選択することも可能である。
【0097】
以上のようなステップS158の処理が終了すると、ステップS132に至り、処理により得られた画像が記録されてフローを終了する。なお、ステップS132において記録する画像は、ステップS158で処理した全ての画像であってもよく、またはステップS158の処理の中で選択されて最終的に必要と判断された画像であってもよい。この選択についても、操作部15により設定できるが、処理結果に応じてステップS158の中で自動的に選択するよう構成することも可能である。
【0098】
上記の図11および図12の画像記録機能に関するフローチャートの適用対象は、第2実施例におけるような一眼レフカメラのライブビューセンサ102の画像記録に限るものではなく、例えば、CIGSセンサへの画像記録専用に構成した可視光/赤外光画像記録カメラにも適用可能である。このような可視光/赤外光画像記録カメラは、例えば図5において焦点板10、ペンタプリズム104およびアイピース14などの光学ファインダ系を除去するとともに、撮像部20に代えてその位置にCIGS撮像センサを配置することによって構成可能である。その際、レンズ光学系6からCIGS撮像センサに向かって直進する光路中に出し入れできるよう赤外光カットフィルタ110および可視光カットフィルタ112を設ける。また、可動ミラー8に代え、入射光の大半が透過成分として直進するとともに反射光が下方の測光兼用AFセンサ34に向かう固定のハーフミラーを設ける。
【実施例3】
【0099】
図13は、本発明の第3実施例のブロック図であり、内視鏡システムを構成している。内視鏡システムは体内に飲み込まれて消化器内部を撮影し画像データを体外に送信するカプセル内視鏡502と、送信されて画像データを体外で受信してモニタする体外モニタ504を有する。カプセル内視鏡502は、透明な保護窓506を有する密閉構造になっており、保護窓506を通り撮像レンズ508によって結像される消化器内部の画像がCIGS撮像センサ510で撮像される。CIGS画像センサ510は、図3で説明したとおりの分光感度を持ち、高感度で可視光域の撮像が可能であるともに赤外光においても高感度での撮像が可能なものである。撮像レンズ508は、レンズ駆動部512によってその画角およびピント位置が調節可能である。
【0100】
第3実施例のCIGSセンサ510は、図7から図10に示したようなカラーフィルタを持っておらず、全ての画素に可視光域から赤外光域にわたる広範囲の光が入射しうる。つまり、第3実施例での撮像における光の分解は、受光側でのカラーフィルタによるのではなく、光源側での光の切換えによって行うようにしている。具体的には、光源として赤、緑、青および赤外の発光ダイオード(以下適宜「LED」と称する)が用いられ、これらが時分割で順次発光することにより各発光タイミングにおけるCIGSセンサ510撮像出力が、各色での画像データとなる。
【0101】
LEDは撮像レンズ508の光軸まわりに同心的に多数設けられているが、図13では、簡単のため、例として緑LED514および赤外LED516をそれぞれ一つ図示している。例えば緑LED514が発光しているときのCIGS撮像センサ510の撮像出力が緑画像データとなるとともに、赤外LED516が発光しているときのCIGS撮像センサ510の撮像出力が赤外画像データとなる。なお、可視光と赤外光では結像位置にズレがあるので必要に応じレンズ駆動部512が結像位置を調節する。第3実施例は内視鏡であり、撮影対象である体内は充分暗いのでこのように光源光の時分割による光の分解が可能となる。光源、撮像、および撮像レンズ等の関係については後に詳述する。
【0102】
LEDドライバ518は、内視鏡制御部520の指示に基づいてLED514、516の点灯タイミングを制御する。内視鏡制御部520はカプセル内視鏡502全体を制御するもので、その機能は記憶部522に記憶されたプログラムに従う。記憶部522は、さらに内視鏡制御部520の機能に必要なデータ等を必要に応じ一時的に記憶する。
【0103】
センサドライバ524は内視鏡制御部520の指示に基づいてCIGS撮像センサ510を制御するとともにCIGS撮像センサからの各色別画像RAWデータを画像バッファ526に格納する。画像バッファ526は所定撮像回数分の各色別画像RAWデータを格納可能であり、無線通信部528は画像バッファ526の各色別画像RAWデータをFIFOで取り出してアンテナ530から体外に送信する。電池532はボタン電池などで構成され、カプセル内視鏡502全体に電力を供給する。
【0104】
体外モニタ504は、無線通信部534を有し、カプセル内視鏡502から送信された各色別画像RAWデータをアンテナ536で受信して画像バッファ538に格納する。これらの機能はモニタ制御部540によって制御される。モニタ制御部540は記憶部542に記憶されたプログラムに従って体外モニタ504全体を制御する。記憶部542は、さらにモニタ制御部540の機能に必要なデータ等を必要に応じ一時的に記憶する。
【0105】
画像処理部544は、モニタ制御部540の指示に基づき画像バッファ548に格納されている各色別RAWデータを画像信号に画像処理するとともに、赤画像信号、緑画像信号および青画像信号からカラー画像信号を作成しレコーダ546に記憶する。また、赤外画像信号についてもこれをレコーダ546に記録する。記録されたデータは適宜表示部548でモニタすることができる。また、画像処理部からのカラー画像信号または赤外画像信号はリアルタイムで表示部548により直接モニタすることもできる。
【0106】
図14は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第1の例を示す正面図である。図13と対応する部分には同一番号を付す。図14から明らかなように、透明の保護窓506の内側の撮像レンズ508の周囲には緑LED514が互いに90度ずつ隔てた回転対象に4個設けられている。これらを結んだ線550は正方形である。また、緑LED514から45度回転した正方形552の頂点部分には、赤外LED516が互いに90度ずつ隔てた回転対象に4個設けられている。さらに、縦長長方形554の頂点部分には赤LED556が4個設けられているとともに、横長長方形558の頂点部分には青LED560が4個設けられている。この結果、赤、緑および青の各LEDは図14図で見て垂直方向および水平方向のいずれにも線対称の配置となり、各色について垂直方向と水平方向のいずれにも照明の対称性が保たれる。
【0107】
図15は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第2の例を示す正面図である。図15においても、図13と対応する部分には同一番号を付す。図15における緑LED514および赤外LED516の配置は、図14と共通である。これに対し、赤LED562は、緑LED514から左に22.5度回転した正方形564の頂点部分に互いに90度ずつ隔てた回転対象に4個設けられている。また、青ダイオード566は、緑LED514から右に22.5度回転した正方形568の頂点部分に互いに90度ずつ隔てた回転対象に4個設けられている。この結果、赤、緑および青の各LEDは図14図で見てそれぞれ上下左右の四方向にそれぞれ密集して配置されることになり、各色のLEDがずれて配置されていることによる照明影色ムラが軽減される。さらに、各色とも正方形の頂点部分に配されているので撮像レンズ508の光軸まわりに互いに回転対象の配置となる。
【0108】
図16は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第3の例を示す正面図である。図16においても、図13と対応する部分には同一番号を付す。図16における緑LED514および赤外LED516の配置は、図14と共通である。これに対し、左に45度傾いた縦長長方形570の頂点部分には赤LED572が4個設けられているとともに、右に45度傾いた縦長長方形574の頂点部分には青LED576が4個設けられている。この結果、赤、緑および青の各LEDは図16図で見て対抗する赤外LEDを結ぶ左45度傾いた線および右45度傾いた線のいずれについても線対称の配置となり、各色についてこれらのいずれの方向についても照明の対称性が保たれる。さらに、赤、緑および青の各LEDは図16図で見てそれぞれ上下左右の四方向にそれぞれ密集して配置されることになり、各色のLEDがずれて配置されていることによる照明影色ムラが軽減される。
【0109】
以上、図14から図16に示したLEDの配置例は、各図において緑LEDが上下左右に配置され、赤外LEDがこれから45度回転した位置に配されているが、全体の配置はこれに限るものではなく、CIGS撮像センサの画素配置の升目方向との関係で適宜全体を回転させて配置してもよい。例えば、図14から図16に示したLEDの配置例は、CIGS撮像センサの画素配置の升目の上下左右方向を基準として緑LEDが上下左右に配置したものであるが、これを全体に45度回転させ、赤外LEDが画素配置の升目方向に合わせて上下左右に配置されるようにしてもよい。この場合、緑LEDがこれから45度回転した位置に配置されることになる。
【0110】
図17は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第4の例を示す正面図である。赤、緑、青および赤外のLEDを撮像レンズ508の光軸まわりに配置する場合、全ての色のLEDを互いに同数とすることに限るものではない。図17はこのようなものの例として、4個の緑LED514、2個の赤LED578および2個の青LED580を採用している。緑LED514の数が赤LED578および青LED580の倍あるのは、緑の発光量を相対的に多くして視感度に合わせるためである。また、図17では8個の赤外LED582を配置して赤外光量を増加させ、赤外光による体内観察能力を充実している。
【0111】
なお、図14から図17ではすべて合計16個のLEDを採用しているが、これに限られるものではない。配置が可能な場合、LEDの合計数をさらに増加して照明ムラを軽減することができる。また、最低限の照明の対称性を維持するため、各色各一対のLEDを採用し合計8個のLEDを採用して構成を簡単にすることも可能である。この場合、緑LEDの対を結ぶ線と赤外LEDの対を結ぶ線を90度で交差させるとともに、赤LEDの対と青LEDの対については、それらを結ぶ線が緑LEDの対を結ぶ線の左右にそれぞれ45度回転した状態の配置として、赤と青のLEDが緑LEDの両側に隣接するようにするのが望ましい。なお、配置スペースの事情が許せば、このように8個のLEDを等間隔に配置するのに代えて、赤と青のLEDを緑LEDの両側に密接させ、赤、緑、青LED相互の位置ズレができるだけ少なくなるようにした配置も可能である。
【0112】
図18は、第3実施例のカプセル内視鏡502におけるカラー・赤外モードでの動作の各色LEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。カラー・赤外モードでは、可視光のカラー画像および赤外画像が並行して取得される。図18から明らかなように、すべての赤LEDはt1からちt2、全ての緑LEDはt3からt4、すべての青LEDはt5からt6、すべての赤外LEDはt7からt8のタイミングで互いに重なることなく時分割でそれぞれ点灯する。そして、4色のLEDの点灯が一巡すると、再び全ての赤LEDがt9からt10のタイミングで点灯し、以下同様にして緑、青、赤外のLEDが点灯して同様の循環で時分割点灯を繰り返す。t1からt8までの時間は通常のカラー動画の1フレーム時間程度であり、各色の発光量は時分割しない場合の4分の1以下となるが、図3に示すようにCIGSセンサは通常のCMOSセンサに比べて高感度および広帯域の特性なので、短時間の発光量でも充分な光源光となる。
【0113】
図18のように、カラー・赤外モードにおいて可視光と赤外光を時分割でほぼ同時に発光させる場合、図13の撮像レンズ508の画角はレンズ駆動部512の制御により広角に設定され、焦点深度が深くなるように設定されるとともに、そのピント位置もレンズ駆動部512の制御により可視光から赤外光をカバーするパンフォーカス状態となるよう設定される。このようにカラー・赤外モードは体内の状態を全体的に粗く観察するのに適している。
【0114】
図18の光電変換部のタイミングチャートから明らかなように、光電変換部は赤LEDの発光開始直後から赤の露光を開始して電荷蓄積を行う。電荷蓄積時間は赤LEDの発光終了直前に設定されているのでここで露光を終了し、電荷の読出しを行う。さらに電荷の読出しが終了すると残留電荷の掃捨を行う。そして電荷の掃捨が終了すると次の緑の露光を開始する。なお図18から明らかなように緑の露光直前に緑ダイオードの発光が開始している。緑の露光についても電荷蓄積時間が終了の後、電荷の読出および残留電化の掃捨が後続している。以下同様にして、青LEDの発光および赤外LEDの発光にそれぞれ同期して、青および赤外の電荷蓄積、電荷読出、および残留電荷掃捨が行われる。そしてこれらの動作が循環する。なお、上記では、光電変換部の機能を各色について説明したが、光電変換部自体に各色を分離して光電変換する機能があるわけではなく、光電変換部自体は単に電荷蓄積、電荷読出、および残留電荷掃捨の同じ動作を繰り返しているだけである。読み出された電荷量が各色の情報を持つのは専ら電荷蓄積の際の光源色に依存する。
【0115】
図18のAD変換部のタイミングチャートから明らかなように、光電変換部は各色の電荷読出直後からAD変換を開始する。例えば、赤のAD変換は赤の電荷読出完了直後に開始される。そして次の緑の露光中の時間帯も利用し、これと並行して赤のAD変換を継続する。図18の無線通信部のタイミングチャート(A)から明らかなように、無線通信部は、各色の光電変換完了直後からその結果の色のデジタル信号の通信を開始可能である。例えば、赤のデジタル信号の通信は赤のAD変換終了直後に開始される。そして次の緑のAD変換の時間帯も利用し、これと並行して赤の通信を継続する。以下同様にして緑、青、赤外についてAD変換および通信が行われる。
【0116】
なお、通信に関しては、カプセル内視鏡502と体外モニタ504との関係によっては、AD変換直後に成功裏に実施することができない場合も考えられる。このような場合は、図18の無線通信部のタイミングチャート(B)のように通信環境が充分となったタイミングで通信を実行する。例えば、IRデータの送信592はタイミングチャート(A)に比べて遅く実行されており、次のRデータの直前で実行されている。また、Gデータの送信594およびBデータの送信596も遅れて実行されているが、これらの通信時間の調整は、図13の画像バッファ526の容量が満杯となってFIFOに破綻を来たさない限り可能である。
【0117】
図19は、図18で示したカラー・赤外モードにおける第3実施例のカプセル内視鏡502の動作での各色LEDの発光タイミングとカラー画像作成の関係を示すタイミングチャートである。図19に示すように、t1で開始される赤LEDの発光に基づく赤画像、t3で開始される緑LEDの発光に基づく緑画像、およびt5で開始される青LEDの発光に基づく青画像によって、F1で示す1フレームのカラー画像が作成される。厳密に言えば各色の発光に時間差があるので各色の画像は同一時間のものではないが、時間差は僅少なので高速で動く被写体でない限りこのような時分割による各色画像の取得でも問題はない。同様にして、t9で開始される赤LEDの発光に基づく赤画像、t11で開始される緑LEDの発光に基づく緑画像、およびt13で開始される青LEDの発光に基づく青画像によって、F2で示す1フレームのカラー画像が作成される。以下同様にして1フレームのカラー画像が作成され、個々のカラー動画は静止画としても記録できるとともに、これらを繋げてカラー動画としても記録できる。なお、これらのカラー処理は、図13に示した体外モニタ504の画像処理部544で行われる。また、図18の無線通信部のタイミングチャート(B)で示したように体外モニタ504による各色データの受信は必ずしも等間隔ではないが、画像取得タイミングは各色LEDの発光タイミングによって決まるので図19の関係が成り立つ。
【0118】
また、図19に示すように、t3で開始される緑LEDの発光に基づく緑画像、t5で開始される青LEDの発光に基づく青画像、およびにt9で開始される赤LEDの発光に基づく赤画像によってもRGB三色のデータが揃うので、これらによってI1で示す1フレームのカラー補間画像が作成される。同様にして、t5で開始される青LEDの発光に基づく青画像、t9で開始される赤LEDの発光に基づく赤画像、およびt11で開始される緑LEDの発光に基づく緑画像によって、I2で示す1フレームのカラー補間画像が作成される。これらの補間画像はRGBの各色が揃うまでに赤外LEDの発光が介在しており、RGBが揃うまでの時間が若干長くなるとともにRGBの発光も等間隔でないのでカラー画像としては画質が悪くなる。従って、あくまでスムーズな動画を得るための補間画像として採用される。
【0119】
一方、赤外画像については、図19に示すように、t7で開始される赤外LEDの発光に基づく画像IR1、t15で開始される赤外LEDの発光に基づく画像IR2等がそれぞれ静止画として記録できるとともに、これらを繋げてカラー動画としても記録できる。カラー・赤外モードでは上記のようにカラー画像と赤外画像が並行して取得できるので、両画像を並行して内視鏡診断にもといることができるとともに、両画像を合成することも可能となる。また、静止画として量画像を合成する際、赤外画像の取得時間がカラー補間画像の取得時間帯の中に含まれているので、カラー補間画像を赤外画像とを合成のために採用することも可能である。具体的には、カラー補間画像I2およびI2の取得時間帯が共に赤外画像IR1の取得時間を含んでいるので、カラー補間画像I1およびI2またなその平均を赤外画像IR1と合成することが可能である。
【0120】
図20は、第3実施例のカプセル内視鏡502における精細カラーモードでの動作の各色LEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。精細カラーモードでは、可視光のカラー画像のみの取得が行われ、赤外LEDは発光しない。図20から明らかなように、すべての赤LEDはt1からちt2、全ての緑LEDはt3からt4、すべての青LEDはt5からt6のタイミングで互いに重なることなく時分割でそれぞれ点灯する。そして、RGB3色のLEDの点灯が一巡すると、再び全ての赤LEDがt7からt8のタイミングで点灯し、以下同様にして緑、青、LEDが点灯して同様の循環で時分割点灯を繰り返す。この場合一回の循環に必要なt1からt6までの時間は図18のt1からt8よりも短くなり。動画が精細になる。図20の無線通信部(B)のタイミングチャートには、しばらく通信環境が整わなかった後、連続して通信が行われている様子を示す。
【0121】
図20のように、精細カラーモードにおいて可視光のみを時分割でほぼ同時に発光させる場合、図13の撮像レンズ508の画角はレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により可視光の焦点が撮像面に結像するよう設定される。これは赤、緑、青の焦点位置のずれは小さくまた撮像レンズの設計における収差補正でも対応できるので最適の焦点位置あわせが可能となるからである。このように精細カラーモードは体内の状態を詳細に高精細で観察するのに適している。
【0122】
図21は、図20で示した精細カラーモードにおける第3実施例のカプセル内視鏡502の動作での各色LEDの発光タイミングとカラー画像作成の関係を示すタイミングチャートである。図21に示すように、t1で開始される赤LEDの発光に基づく赤画像、t3で開始される緑LEDの発光に基づく緑画像、およびt5で開始される青LEDの発光に基づく青画像によって、F1で示す1フレームのカラー画像が作成される。次に、t3で開始される緑LEDの発光に基づく緑画像、t5で開始される青LEDの発光に基づく青画像、およびにt7で開始される赤LEDの発光に基づく赤画像によってF2で示す1フレームのカラー画像が作成される。同様にt5で開始される青LEDの発光に基づく青画像、t7で開始される赤LEDの発光に基づく赤画像、およびt9で開始される緑LEDの発光に基づく緑画像によってF3で示す1フレームのカラー画像が作成される。以下同様にしてF4で示す1フレームのカラー画像以下が作成されていく。このように、精細カラーモードでは各色のLEDが新たに発光する毎に輪番で新たに1フレームのカラー画像が作成されるのでスムーズな精細動画の記録が可能となる。
【0123】
図22は、第3実施例のカプセル内視鏡502における赤外モードでの動作の赤外LEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。赤外カラーモードでは、赤外画像のみの取得が行われ、赤外LED以外のLEDは発光しない。図22から明らかなように、すべての赤外LEDはt1からちt2、t3からt4のごとく光電変換部における毎回の露光の都度に発光する。そしてこれに対応して毎回1フレームの赤外画像が作成される。これによって、スムーズな赤外動画の記録が可能となる。
【0124】
図22のように、赤外モードにおいて赤外光のみを発光させる場合も、図13の撮像レンズ508の画角はレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により赤外光の焦点が撮像面に結像するよう設定される。このように赤外モードも体内の状態を詳細に高精細で観察するのに適している。
【0125】
図23は、図13の第3実施例における内視鏡制御部520の動作のフローチャートである。カプセル内視鏡502に電池532がセットされるとフローがスタートし、ステップS162で、カラー・赤外モードが初期設定される。そしてこれに対応し、ステップS154で撮像レンズ508が広角およびパンフォーカス状態に設定される。次いでステップS166では、赤、緑、青および赤外の全てのLEDが所定の順所で順次輪番で発光するよう設定される。そしてステップS168でこれらの設定が行われている状態であることを外部送信し、体外モニタ504に報告する。
【0126】
次にステップS170で撮像処理、ステップS172で送信処理をそれぞれ実行する。その詳細は後述する。送信処理が終わるとステップS174に進み、動作停止信号を体外モニタ504から受信しているかどうかチェックする。受信があれば直ちにフローを終了する。一方、停止信号の受信がなければステップS176に進み、モード変更信号を受信しているかどうかチェックする。そして受信があればステップS178に進み、変更されたモードがカラー・赤外モードかどうかチェックする。カラー・赤外モードであれば、ステップS164に戻り、レンズを広角およびパンフォーカス状態に設定して、以下既に説明したステップS166以下の動作に進む。
【0127】
一方、ステップS178で変更されたモードがカラー・赤外モードでなかったときはステップS180に進み、精細カラーモードかどうかチェックする。そして精細カラーモードであればステップS182でレンズの画角を狭角(望遠)にするとともに可視光フォーカス状態に設定するとともに、ステップS184で可視光のLEDのみが順次輪番で発光するよう設定する。そして、ステップS186でこれらの設定状態を外部に送信した後、ステップS170に戻る。
【0128】
また、ステップS180で変更されたモードが精細カラーモードでなかったときは、変更されたモードが赤外モードであることを意味するからステップS188に移行し、レンズの画角を狭角(望遠)にするとともに赤外光フォーカス状態に設定する。さらにステップS190で赤外LEDのみが発光するよう設定する。そして、ステップS186に移行し、これらの設定状態を外部に送信した後、ステップS170に戻る。
【0129】
図24は、図23のステップS170における撮像処理の詳細を示すフローチャートである。フローがスタートすると、ステップS192でモードの選択または変更があったかどうかチェックする。モード選択または変更がなかったときは、ステップS194に進み、露光時間が完了しているかどうかチェックする。そして完了を検出すればステップS196に進み、蓄積電荷の読出し開始処理を行う。さらにステップS198でLEDの発光停止を指示する。さらにステップS200で蓄積電荷読出しが完了したかどうかをチェックし、未完ならステップS200を繰り返しながら完了を待つ。
【0130】
ステップS200で読出し完了が検知されるとステップS206に進み残留電荷の掃捨て開始処理を行ってステップS208のLED選択処理に移行する。これは次に発光すべきLEDを選択する処理であるがその詳細は後述する。さらにステップS210ではステップS208で選択されたLEDの発光開始を指示する。次にステップS212では蓄積電荷の掃捨てが完了したかどうかをチェックし、未完ならステップS212を繰り返しながら完了を待つ。
【0131】
ステップS212で蓄積電荷の掃捨て完了が検知されるとステップS214に移行し、露光を開始するとともにステップS216で露光時間のカウントを開始し、フローを終了する。一方、ステップS194で露光時間が完了していなければ直ちにフローを終了する。また、ステップS192でモードの選択または変更が検出されるとステップS218に移行し、撮像処理のイニシャライズを行ってステップS208のLED選択処理に進む。
【0132】
図25は、図24のステップS208におけるLED選択処理の詳細を示すフローチャートである。フローがスタートすると、ステップS222で赤外モードであるかどうかチェックする。該当しなければカラー・赤外モードまたは精細カラーモードであることを意味する。この場合はステップS224に進み、図24のステップS218によって撮像処理のイニシャライズが行われたかどうかチェックする。これも該当しなければステップS226に進み、前回に選択されたLED記憶を読み出す。そしてステップS228で読み出された記憶に基づき前回発光したのが赤LEDであったかどうかチェックする。該当しなければ、さらにステップS230で前回したのが緑LEDであったかどうかチェックする。
【0133】
ステップS230で前回発光が緑LEDでなかったときはステップS232に進み、精細カラーモードであるかどうかチェックする。該当する場合は、赤、緑および青のLEDが輪番で発光していることになる。そしてこの場合、前回発発光が赤でも緑でもなければ青であったことを意味するからステップS232からステップS234に進み、次の順番に当たる赤LEDを選択する。そしてこの選択結果をステップS236で記憶してフローを終了する。
【0134】
一方、ステップS232で精細カラーモードであることが検知されない場合はカラー・赤外モードであることを意味する。この場合は、赤、緑、青および赤外のLEDが輪番で発光していることになる。そしてこの場合、前回発発光が赤でも緑でもなければ青であったことを意味するからステップS232からステップS238に進み、次の順番に当たる赤外LEDを選択する。そしてこの選択結果をステップS236で記憶してフローを終了する。
【0135】
また、ステップS228で前回発光したのが赤LEDであったときはステップS242に進み、次の順番にあたる緑LEDを選択する。そしてこの選択結果をステップS236で記憶してフローを終了する。さらに、ステップS222で赤外モードであったときはステップS244に進み、赤外LEDを選択する。そして赤外モードの場合は選択されるのは常に赤外LEDであるから選択結果の記憶は特に行う必要がなく直ちにフローを終了する。なお、ステップS224で撮像処理のイニシャライズが行われていたときはステップS242に進み最初の発光LEDとして緑LEDを選択する。
【0136】
図26は、図23のステップS172における送信処理の詳細を示すフローチャートである。フローがスタートすると、ステップS252でデータの送信中かどうかのチェックを行う。送信中でなければステップS254に進み、送信に成功したデータがあるかどうかチェックする。そして該当するものがあればステップS256でこれを画像バッファより消去してステップS258に移行する。一方、ステップS254で送信成功データがなければ直接ステップS258に移行する。
【0137】
ステップS258では、AD変換が完了したかどうかチェックし、該当すればAD変換したデータを画像バッファに格納してステップS262に移行する。一方、AD変換が終了していなければ直接ステップS262に移行する。ステップS262では画像バッファに格納されているデータがあるかどうかチェックし、データがあればステップS264で通信状態がOKかどうかチェックする。そしてOKであればステップS266で画像バッファからFIFO(先入れ先出し)でデータを読出し、ステップS268で読み出したデータの送信開始を指示してフローを終了する。なお、ステップS252でデータ送信中であったとき、ステップS262で画像バッファにデータの格納がなかったとき、またはステップS264で通信状態がOKでなかったときはそれぞれ直ちにフローを終了する。
【0138】
図27は、図13の第3実施例における体外モニタ504のモニタ制御部540の動作を示すフローチャートであり、カプセル内視鏡502との通信開始でフローがスタートする。フローがスタートするとステップS272で画像データの新着の有無をチェックする。新着データがあればステップS274に進み、新着データが完全かどうかチェックする。そして完全であればステップS276に進んでこれを画像バッファ538に格納するよう支持してステップS278に移行する。なお、ステップS272でデータの新着がないか、またはステップS274で新着データが完全でなかったときはいずれもステップS272に戻る。
【0139】
ステップS278では、赤外モードであるかどうかチェックし、該当しなければステップS280でカラー・赤外モードであるかどうかチェックする。そしてカラー・赤外モードであればステップS282に進み、新着データが赤外画像データであるかどうかチェックする。該当しなければ赤、緑、青のいずれかの画像データであることを意味するからステップS284に進み、これらのデータから赤外画像の補間補助画像を作成するよう指示してステップS286に移行する。ステップS284の指示は、赤外のスムーズな動画を得るために赤外画像データに基づいて補間を行う際、赤外画像の間のタイミングで得られる可視光画像データの情報を補助的に利用するための指示である。
【0140】
ステップS286では、新逆データが青画像データであるかどうかチェックする。そして該当しなければ赤画像データまたは緑画像データであることを意味するからステップS290に進み、新着データ直前の可視2色のデータが格納されているかどうかチェックする。そして格納されていれば、新着データとともに赤、緑、青の3色が揃うからステップS292に進み、保管カラー画像を作成する指示をしてステップS272に戻る。ステップS292の指示によって作成される画像は、図19のカラー補間画像I1またはI2に相当する。
【0141】
ステップS278で赤外モードであったときは新着データは赤外画像データであるからステップS294に移行し、赤外画像の作成を指示してステップS272に戻る。また、ステップS282で新着データが赤外画像データであったときもステップS294に移行する。一方、ステップS286で新着データが青画像データであったときはステップS296に進み、直前の2色(この場合は赤および緑)の画像データが画像バッファに格納されているかどうかチェックする。そしてこれらの格納があれば連続する3色が揃うのでステップS298に進み、カラー画像作成の指示を行ってステップS272に戻る。この指示によって作成される画像は、図19のカラー画像F1またはF2に該当する。
【0142】
また、ステップS280でカラー・赤外モードでなかったときは精細カラーモードであることを意味するのでやはりステップS296に移行し、直前の可視2色データが格納されているかどうかのチェックに入り、直前2色があればステップS298のカラー画像作成を指示する。この指示によって作成される画像は、図21のカラー画像F1、F2、F3等に該当する。なお、ステップS290またはステップS296で直前の可視2色データの格納がなかったときは直ちにステップS272に戻る。
【実施例4】
【0143】
図28は、本発明の第4実施例の動作タイミングの関係を示すタイミングチャートである。第4実施例は基本的には図13から図17に示す内視鏡システムと共通の構成なので、以下の説明では、図13のブロック図の符号を適宜用いて説明する。第4実施例が第3実施例と異なるのは、CIGS撮像センサの構成およびLEDの発光タイミングである。すなわち、第3実施例のCIGSセンサ510はカラーフィルタを有さず、色の分解はLEDの時分割発光によっていたが、第4実施例のCIGS撮像センサ510は、図7から図10に示すようなカラーフィルタを有し、第1実施例および第2実施例と同様にしてCIGS撮像センサ自体で色分解を行う。そして、LEDの発光は時分割ではなく全色同時に行われる。
【0144】
図28は、このような第4実施例のカプセル内視鏡502におけるカラー・赤外モードでの動作のLEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。先に述べたように、すべての赤LED、全ての緑LED、すべての青LEDおよびすべての赤外LEDは、光電変換部の露光タイミングにおいてすべて同時に発光する。なお、各LEDは、図28のように点滅発光するかわりに連続発光しても差し支えない。なお、図28のカラー・赤外モードにおいては、撮像レンズ508の画角はレンズ駆動部512の制御により広角に設定され、焦点深度が深くなるように設定されるとともに、そのピント位置もレンズ駆動部512の制御により可視光から赤外光をカバーするパンフォーカス状態となるよう設定される。このような撮像レンズ制御は、図18のカラー・赤外モードの場合と共通である。
【0145】
図29は、第4実施例のカプセル内視鏡502における精細カラーモードでの動作のLEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。図29に明らかなように、すべての赤LED、全ての緑LEDおよびすべての青LEDが、光電変換部の露光タイミングにおいてすべて同時に発光する。なお、赤外LEDは発光しない。図29のように、精細カラーモードにおいて可視光のみを同時に発光させる場合、図13の撮像レンズ508の画角はレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により可視光の焦点が撮像面に結像するよう設定される。このような撮像レンズ制御は、図20の精細カラーモードの場合と共通である。
【0146】
第4実施例における赤外モードのタイミングチャートは、第3実施例における図22と共通である。また、赤外モードにおける撮像レンズ508の画角がレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により赤外光の焦点が撮像面に結像するよう設定される点についても、図22の赤外モードと共通である。第4実施例におけるカラー・赤外モードが体内の状態を全体的に粗く観察するのに適し、一方、精細カラーモードおよび赤外モードが体内の状態を詳細に高精細で観察するのに適している点についても第3実施例と共通である。
【0147】
なお、上記第3実施例および第4実施例における内視鏡システムはカプセル内視鏡と体外モニタを有するものとして構成したが、本発明の実施はこれに限るものではない。例えば、体内と体外をチューブで結んだ通常の内視鏡として構成することも可能である。この場合、図13のアンテナ530および546による無線通信をチューブ内のケーブルによる有線通信とするとともにこのチューブ内に公知の通気管や導水管およびチューブ屈曲メカなどを設ける。また、体内と体外の間の画像情報伝達を電気信号で行うのに代え、ファイバーなどによる光学手段により体内で取得した画像を体外に取り出すようにしてもよい。この場合、CIGS画像センサは体外に設けられることになる。また、光源についても発光部を体外に設け、ライトガイドでこれを体内に導くことも可能である。このような構成では、図14から図17の光源配置は、発光部分の配置ではなく、光源光射出部の配置として理解するものとする。さらに、ライトガイドを用いる場合には、必ずしも光源光射出部を各色別にする必要はなく、各色発光部からの光を共通のライトガイドを用いて体内に導き共通の射出口から照射するようにしてもよい。また、上記第3実施例および第4実施例において示した本発明の種々の特徴の実施は、内視鏡に限らず、種々の撮像センサを活用した撮像・観察・記録機器に適宜活用することも可能である。
【産業上の利用可能性】
【0148】
本発明は、体内画像の観察・記録・診断等が可能な内視鏡を提供するものである。
【符号の説明】
【0149】
510 光電変換部
514、562、566 可視光域照明光源
516 赤外光域照明光源
520、540 制御部
528、530 無線送信部
502 カプセル部
534、536 無線受信部
544 画像処理部
548 表示部
【技術分野】
【0001】
本発明は、撮像センサとその活用に関する。
【背景技術】
【0002】
光電変換手段としては、日々、種々の特性のものが提案されている。また、従来から、カラー画像のための撮像センサや赤外画像のための撮像センサも種々提案されている。さらにこれらの撮像センサを活用した内視鏡等の撮像・観察・記録機器も種々提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平10−192893号公報
【特許文献2】特開2007−117192号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、光電変換手段において提案されている種々の特性はまだ充分活用されているとは言えず、さらに検討すべき課題が多い。
【0005】
本発明の課題は、上記に鑑み、光電変換手段において提案されている特性の撮像・観察・記録機器への好適な活用を提案することにある。
【課題を解決するための手段】
【0006】
上記課題を達成するため、本発明は、それぞれ可視光域および赤外光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、可視光域照明光源と、赤外光域照明光源と、可視光域照明光源による照明下で光電変換部が受光する画像を可視光画像データとして取得するとともに赤外光域照明光源による照明下で光電変換部が受光する画像を赤外光画像データとして取得する制御部とを有する内視鏡が提供される。これによって、共通の光電変換部を用い、照明光源の切換えで可視光画像データおよび赤外光画像データを取得することが可能となる。
【0007】
本発明の他の特徴によれば、可視光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、3つの異なる単色可視光照明光源と、これら3つの異なる単色可視光照明光源による照明下でそれぞれ光電変換部が受光する画像をそれぞれ3つの異なる単色可視光画像データとして取得する制御部とを有する内視鏡が提供される。これによって、共通の光電変換部を用い、照明光源の切換えで3つの異なる単色可視光画像データを分離して取得することが可能となる。
【0008】
以上のような本発明の具体的な特徴によれば、制御部は、3つの異なる単色可視光照明光源および赤外光域照明光源または3つの異なる単色可視光照明光源を輪番で時分割発光させる。また、より具体的な特徴によれば、制御部は、3つの単色可視光照明光源の1つの新たな発光下で単色可視光画像データが取得される毎に、他の2つの単色可視光照明光源による照明下でそれぞれ取得済みの単色可視光画像データと組み合わせるべきカラー画像データとして提供する。これによってスムーズな動画データの取得が可能となる。
【0009】
本発明のさらに具体的な特徴によれば、赤外光域照明光源を用いる場合において、制御部は、3つの単色可視光画像データの取得のための3つの異なる単色可視光照明光源の発光タイミング中に赤外光域照明光源の発光タイミングを含む場合と含まない場合とで3つの単色可視光画像データを組み合わせたカラー画像の取り扱いを変える。これによって、3つの単色可視光画像データが不等間隔で揃う場合を補間画像として用い、等間隔で揃う場合を本画像として用いるなど、カラー画像の取り扱いを適切に変えることができる。
【0010】
本発明の他の特徴によれば、可視光域照明光源と赤外光域照明光源の一方の照明下で光電変換部が画像を受光しているとき、他方の照明下で前記光電変換部が画像した画像を処理する内視鏡が提供される。これによって、可視光画像データおよび赤外光画像データを近接したタイミングで取得することが可能となる。処理の具体例は、AD変換であり、他の具体例はデータの送信である。これらはいずれも比較的時間を要する処理であり、光電変換部による受光と並行処理することで可視光画像データおよび赤外光画像データを効果的に近接したタイミングで取得することが可能となる。
【0011】
本発明の他の特徴によれば、規則的に配列された複数の光電変換部、照明光源、照明光源による照明下で光電変換部が受光する画像をRAWデータとして取得する制御部およびRAWデータを送信する無線送信部を含むカプセル部と、無線送信部からのRAWデータを受信する無線受信部、受信したRAWデータを処理する画像処理部および画像処理部が処理した画像を表示する表示部を含む体外モニタ部とを有する内視鏡が提供される。これにより、例えばカラー画像の作成を体外で行うことができ、体内に飲み込まれるカプセルの構成の負担を軽減することができる。
【発明の効果】
【0012】
上記のように、本発明によれば、光電変換手段において提案されている種々の特性を生かした内視鏡を提供することができる。
【図面の簡単な説明】
【0013】
【図1】本発明の第1実施例を示すブロック図である。(実施例1)
【図2】図1の測光兼用AFセンサおよびライブビューセンサの構成を関連する部分とともに詳細に示したブロック図である
【図3】図2のCIGS撮像センサおよびCIGSAFセンサに用いられるCIGSセンサの分光感度をシリコンのCMOSセンサと比較したグラフである。
【図4】第1実施例におけるカメラ制御部の動作のフローチャートである。
【図5】本発明の第2実施例を示すブロック図である。(実施例2)
【図6】第2実施例におけるカメラ制御部の動作のフローチャートである。
【図7】図2または図5のライブビューセンサに用いられるCIGS撮像センサのカラーフィルタ配列の第1例である。
【図8】CIGS撮像センサのフィルタ配列の第2例である。
【図9】図8のフィルタ配列を採用したCIGSセンサの模式断面図である。
【図10】CIGS撮像センサのフィルタ配列の第3例である。
【図11】図5の第2実施例においてライブビューセンサの画像を記録する際のカメラ制御部の動作を示すフローチャートである。
【図12】図11のステップS108およびステップS114に共通して利用できる処理の詳細を示すフローチャートである。
【図13】本発明の第3実施例を示すブロック図である。(実施例3)
【図14】第3実施例に採用可能なLEDの配置の第1の例を示す正面図である。
【図15】第3実施例に採用可能なLEDの配置の第2の例を示す正面図である。
【図16】第3実施例に採用可能なLEDの配置の第3の例を示す正面図である。
【図17】第3実施例に採用可能なLEDの配置の第4の例を示す正面図である。
【図18】第3実施例のカラー・赤外モードでの動作タイミングチャートである。
【図19】図18の動作とカラー画像作成の関係を示すタイミングチャートである。
【図20】第3実施例の精細カラーモードでの動作タイミングチャートである。
【図21】図20の動作とカラー画像作成の関係を示すタイミングチャートである。
【図22】第3実施例の赤外モードでの動作タイミングチャートである。
【図23】第3実施例における内視鏡制御部の動作のフローチャートである。
【図24】図23のステップS170の詳細を示すフローチャートである。
【図25】図24のステップS208の詳細を示すフローチャートである。
【図26】図23のステップS172の詳細を示すフローチャートである。
【図27】第3実施例におけるモニタ制御部の動作を示すフローチャートである。
【図28】本発明の第4実施例のカラー・赤外モードでの動作タイミングチャートである。(実施例4)
【図29】第4実施例の精細カラーモードでの動作タイミングチャートである。
【発明を実施するための形態】
【実施例1】
【0014】
図1は、本発明の実施の形態に係るオートフォーカスデジタル一眼レフカメラの第1実施例を示すブロック図である。オートフォーカスデジタル一眼レフカメラはカメラボディ2およびこれに交換可能に着脱される交換レンズ4を有している。交換レンズ4のレンズ光学系6から入射した被写体光は、観察位置にあるミラー8で上方に反射され、焦点板10の位置に結像する。この像はペンタリズム12で反射された後、アイピース14で観察され、撮像ための構図決めなどが行われる。
【0015】
撮影の際には、操作部15のシャッタレリーズボタンを操作することによって、ミラー8がオートフォーカス用サブミラー16とともに撮影位置に退避するとともにフォーカルプレーンシャッタ18が開き、交換レンズ4のレンズ光学系6から入射した被写体光が撮像部20に結像して撮像される。撮像部20によって撮像された画像情報は、画像処理部22で画像処理された後、カメラ制御部24の制御により画像記憶部26に記憶される。画像記憶部26に記憶された画像情報は、適宜媒体スロット28に挿入されたメモリーカードなどの記憶媒体に転送される。また、画像記憶部26に記憶された画像情報は、カメラ制御部24の制御により、適宜入出力部30から外部に転送することができる。なお、撮影直後の画像情報は、カメラ制御部24から表示部32に送られて自動的に表示されるので、操作者は撮像した画像を確認することができる。
【0016】
画像再生の際には、操作部15の操作により、画像記憶部26または媒体スロット28に記憶された画像情報がカメラ制御部24によって読み出され、カメラボディ2の背面に設けられた液晶等からなる表示部32に表示される。以上が、図1のオートフォーカスデジタル一眼レフカメラにおける撮像および再生に関する基本構成および基本機能である。なお、上記から明らかなように、ミラー8が観察位置にあるときは、撮像部20による被写体像の撮像は行われないので、以上の構成だけではアイピース14で観察できるリアルタイムの被写体像は表示部32に表示されることはなく、撮影後に確認ができるだけである。この点が、デジタル一眼レフカメラの特殊性であり、表示部32の画像を観察しながら構図決めができる通常のコンパクトデジタルカメラと異なるところである。
【0017】
次に、図1のオートフォーカスデジタル一眼レフカメラにおけるオートフォーカスに関する構成と機能について説明する。交換レンズ4のレンズ光学系6から入射した被写体光の一部は、観察位置にあるミラー8中央にある半透過部を透過し、サブミラー16で下方に反射されて測光兼用オートフォーカス(以下「AF」)センサに導かれる。測光兼用AFセンサ34はサブミラー16から入射する光をAFセンサ上に再結像して分析し結果をカメラ制御部24に送る。この分析は、例えば、よく知られている瞳分割による位相差検出方式などによって撮像部20の撮像面とレンズ光学系6による結像位置のずれ方向およびその程度を分析することによって行われる。カメラ制御部24は、測光兼用AFセンサ34から得られたレンズ光学系6による結像位置のずれ方向およびその程度の情報に基づき、結像位置のずれを解消するためのレンズ光学系6の駆動量および駆動方向の情報を、AF制御部36に送る。AF駆動部38は、カメラボディ2と交換レンズ4との機械的または電気的インターフェースによってAF制御部36から伝えられる駆動量および駆動方向の情報に基づいてレンズ光学系6を駆動し、自動焦点合わせを行う。なお、測光兼用AFセンサ34の構成の詳細については後述する。
【0018】
ライブビューセンサ40は、デジタル一眼レフカメラにおいて、通常のコンパクトデジタルカメラと同様にして、表示部32の画像を観察しながら構図決めができるようにするための「ライブビュー」機能のための構成である。ペンタプリズム12の反射面12a全体が半透過性になっており、ライブビューセンサ40は、焦点板10の画像をCIGS撮像センサ上に再結像させることにより、焦点版10の画像全体を撮像できるようになっている。CIGS撮像センサは、銅(Cu)、インジウム(In)、ガリウム(Ga)およびセレン(Se)を材料とする光センサであり、その詳細は後述する。
【0019】
ペンタプリズム12の反射面12aは、可視光領域以外はほぼ全面的に光を透過させるとともに、可視光領域では、わずかに光を透過させるだけで大半が反射する分光透過特性になっており、アイピース14で焦点版10の像を観察する際に実質的に像が暗くなることはない。また、ライブビューセンサ40に採用されているCIGS撮像センサは、後述するように可視光領域において高い感度を有しているので、可視光領域での反射面12aの光透過率がわずかであっても、可視光領域における焦点版10の像を充分撮像することが可能である。このライブビューセンサ40への可視光の配分は、アイピース14により光学的に被写体を観察し難い暗さになったとき、CIGS撮像センサによるライブビュー用の撮像についても光量不足となるレベルとする。CIGS撮像センサを用いたライブビューセンサ40の詳細については後述する。ライブビューセンサ40で撮像された画像はカメラ制御部24に送られ、これが表示部32で表示されるので、図1のオートフォーカスデジタル一眼レフカメラは、被写体が通常の明るさである限り、通常のコンパクトデジタルカメラと同様にして、表示部32の画像を観察しながら構図決めが可能である。
【0020】
図2は、図1のオートフォーカスデジタル一眼レフカメラの第1実施例における測光兼用AFセンサ34およびライブビューセンサ40の構成を関連する部分とともに詳細に示したブロック図である。ペンタプリズム12の反射面12aは、すでに述べたように可視光領域以外はほぼ全面的に光を透過させるとともに、可視光領域では、わずかに光を透過させるだけで大半が反射する分光透過特性を有するが、多層膜52はこのような分光透過特性を実現するために反射面12aにコーティングされたものである。
【0021】
ライブビューセンサ40は、このような多層膜52を透過した焦点面10からの光束をCIGS撮像センサ54の撮像面に再結像させるための再結像レンズ56を備えている。赤外光カットフィルタ58は、多層膜52を透過してきた可視光領域以外の光を実質的にカットしてCIGS撮像センサ54の波長感度特性を撮像部20の波長感度特性に近似させるものであり、視感度に一致した被写体像を撮像してカメラ制御部24に送り、図1の表示部32でのライブビューを可能にする。なお、本発明にいう「赤外光」とは主に「近赤外光」と称される比較的可視光に近い領域の赤外光線を指すが、学会により定義が必ずしも一定でないので、以下「赤外光」と略称する。
【0022】
ライブビューセンサ40は、さらに焦点板10における明るさを測定する全画面測光を可能にしている。つまり、CIGS撮像センサ54から出力される画像情報は、全画面にわたる測光情報としてもカメラ制御部24で処理され、必要に応じAF対応部分測光センサ72の出力と組合せ慮利される。そして、これら処理結果に基づいて交換レンズ4の絞り径、フォーカルプレーンシャッタ18によるシャッタ速度、および撮像部20の感度などをコントロールする自動露出制御が行われる。
【0023】
可視光カットフィルタ60は赤外光カットフィルタ58と差し替えてCIGS撮像センサ54への光路中に挿入されるもので、「長波長モード」にて使用されるものである。多層膜52からは可視光領域以外がほぼ全面的に透過してくるので、長波長モードの設定で赤外光カットフィルタ58に替えて可視光カットフィルタ60が光路に挿入された場合は、可視光よりも長波長側域の光がCIGS撮像センサ54に入射するようになる。CIGS撮像センサ54は、後述するように、長波長側が1300nmにおよぶ分光感度を持っている。従って、可視光カットフィルタ60の挿入によってライブビューセンサ40はこれら長波長域の光での撮影に好適な撮像センサとなる。そして、このような長波長域の画像出力を表示部32でリアルタイムに観察したり、画像記憶部26に記録したりすることが可能となる。
【0024】
ミラー/フィルタ駆動部62は、操作部15によるモード切換に応じたカメラ制御部24の制御により、上記の可視光カットフィルタ60と赤外光カットフィルタ58の差し替えを駆動する。なお、図2では、撮影位置に退避したミラー8aおよびサブミラー16aが二点鎖線で図示されているが、このようなミラー8とサブミラー16における観察位置と撮影位置の間の駆動も、カメラ制御部24の制御によりラー/フィルタ駆動部62が行う。
【0025】
測光兼用AFセンサ34の再結像レンズ64は、交換レンズ4から入射して観察位置にあるミラー8中央にある半透過部を透過し、サブミラー16で下方に反射される被写体光を再結像させるためのものである。再結像レンズ64からの光束は、波長選択性のない可動半透ミラー66および赤外光カットフィルタ68を透過してCIGSAFセンサ70上に結像する。CIGSAFセンサも、後述するように可視光領域において高い感度を有しており、暗い被写体であっても補助光なしに自動焦点検出が可能である。なお、赤外光カットフィルタ68は、CIGSAFセンサ70をAFセンサとして働かせるために有害な赤外光領域の波長をカットするものであり、CIGS撮像センサ54のための赤外光カットフィルタ58とは必ずしも特性が同じものではない。例えば、赤外光カットフィルタ8は赤外光カットフィルタ58よりも狭い透過分光特性に設定される。
【0026】
このため、被写体が通常の明るさのときに減光のために可動半透ミラー66を図示の位置に挿入し、CIGSAFセンサへの入射光量をCIGSAFセンサの感度ダイナミックレンジに合わせこむ。一方、被写体が通常のAFセンサでは補助光を必要とするような暗さになったときには可動半透ミラーを64aの位置に退避させ、減光なしに被写体像をCIGSセンサに結像させる。なお、このとき可動半透ミラー66の有無による光路長の補償が必要である。例えば、可動半透ミラー66を退避させたときには、これと光路長が等しい全透過性の並行平板を代わりに光路中に挿入する。また、当然ながら、可動半透ミラーが64aの位置に退避した状態では、AF対応部分測光センサ72による測光はできなくなる。
【0027】
CIGSAFセンサ70への減光のために再結像光路中に可動半透ミラー66が挿入されている時、これを反射した光は、AF対応部分測光センサ72に入射する。AF対応部分測光センサ72は、CIGSAFセンサによって焦点検出が行われている部分の明るさを測光するものであり、全画面のうちで焦点検出の対象となっている部分の明るさを選択的に測光することにより、撮影において関心の高い部分が適正露出になるよう自動露出制御するための情報として用いられる。このように、被写体が明るい時に過剰となるCIGSAFセンサ70への減光部分は、捨てられるのではなく、測光情報として有効に利用される。
【0028】
AF対応部分測光センサ72からの部分測光情報は、ライブビューセンサ40のCIGS撮像センサ54からの全画面に関する測光情報と組合せてカメラ制御部24で処理され、最終的に、交換レンズ4の絞り径、フォーカルプレーンシャッタ18によるシャッタ速度、および撮像部20の感度などがコントロールされる。
【0029】
センサ制御部74は、可動半透ミラー66が挿入されている時および退避しているときのいずれの場合においても、CIGSAFセンサ70の受光積分時間やゲインコントロールなどを行って、自動焦点調節を制御する。この受光積分時間やゲインコントロールを混乱なく行うためには、可動半透ミラー66が挿入されているのか退避しているのかの情報も用いられる。センサ制御部74は、また、CIGSAFセンサ70およびAF対応部分測光センサ72に指示を出し、全画面のうちで焦点検出の対象とすべき部分と選択的に測光する部分を一致させる制御を行い、それぞれ対応する焦点検出情報と測光情報をカメラ制御部24に出力させる。
【0030】
一方、ライブビューセンサ40が「長波長モード」に設定され、多層膜52からCIGS撮像センサ54への光路に赤外光カットフィルタ58に替えて可視光カットフィルタ60が光路に挿入された場合は、測光兼用AFセンサ34でも、これに対応したフィルタの差し替え等が行われる。具体的には、「長波長モード」の場合、半透ミラー66の退避を前提として赤外光カットフィルタ68が可視光カットフィルタ76に差し替えられる。これによって、CIGS撮像センサ54による長波長域での撮像のための焦点検出が、減光なしに、CIGSAFセンサ70によって行われるようになる。なお、このとき、波長感度域あわせだけでなく、波長の違いによる光路長の変化および焦点検出の際の色収差の違い等の補償を行う。
【0031】
以上のような可動半透ミラー66の移動および赤外光カットフィルタ68と可視光カットフィルタ76との差し替えは、操作部15によるモード切換操作に基づくカメラ制御部24の制御により、ミラー/フィルタ駆動部78が司る。
【0032】
図1および図2の第1実施例は、上記のような基本機能に加え、「複合AF機能」が可能である。操作部15の操作により、「複合AF機能」が選択されると、ライブビュー機能が停止され、「複合AF機能」の開始が指示される。具体的には、操作部15の操作により、「複合AF機能」が選択されると、カメラ制御部24は、赤外光カットフィルタ58に替えて可視光カットフィルタ60をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に対して行うとともにCIGS撮像センサ54の出力に基づく表示部32でのライブビュー表示を停止する。
【0033】
これに替わり、可視光カットフィルタ60により長波長側の感度域となったCIGS撮像センサ54の画像信号は、赤外光カットフィルタ68により可視光の感度域にあるCIGSAFセンサの出力と組み合わされ、「複合AF機能」が実行される。具体的には、CIGS撮像センサ54の画像信号に基づく画像処理により被写体の画像分析が行われ、その結果に基づいて、CIGSAFセンサによる焦点検出領域が決定される。
【0034】
図3は、図2のCIGS撮像センサ54およびCIGSAFセンサに用いられるCIGSセンサの分光感度(量子効率)をシリコンのCMOSセンサと比較したものである。図3(A)は、各波長におけるCIGSセンサの量子効率(%)を示すものであり、図3(B)におけるシリコンのCMOSセンサについての同様の量子効率(%)と比較して、明らかな高感度および広帯域の特性を示している。具体的には、図3(A)のCIGSセンサは、波長1300nm近くにわたる広い感度域を持つ。さらに、400nm付近から1200nm付近の広い波長域に渡り量子効率50%を超える分光感度を有しており、可視光およびこれに隣接する赤外光領域では特に顕著な高量子効率を示している。このような可視光域および赤外光域において60%以上の量子効率を有する高感度および広帯域の分光感度特性は、図3(B)におけるようなシリコンのCMOSセンサでは期待できないものである。
【0035】
図4は、図1および図2の第1実施例におけるカメラ制御部24の動作のフローチャートである。操作部15によってカメラのメインスイッチがオンになるとフローがスタートし、ステップS2においてオートフォーカスデジタル一眼レフカメラが操作部15によって再生モードに設定されているかどうかチェックする。再生モード設定が検出されなければ撮影モードなのでステップS4に進み、可動半透ミラー66をCIGSAFセンサ70への光路内に設定して入射光量を減光する指示をミラー/フィルタ駆動部78に行う。
【0036】
なお、ステップS4の指示に応答するミラー/フィルタ駆動部78による可動半透ミラー66設定の機械的実行には遅延期間が設けられており、例えば可動半透ミラー66がCIGSAFセンサ70への光路にセットされている状態で可動半透ミラー66を光路から退避させる減光解除の指示が行われ、その後遅延時間内に、これを取り消す関係にある可動半透ミラー66を光路内にセットする指示が続いて行われたような場合には、ミラー/フィルタ駆動部78は実際には可動半透ミラー66の駆動を実行せず、可動半透ミラー66が光路内に設定されている状態が継続する。換言すれば、ミラー/フィルタ駆動部78は遅延時間内に可動半透ミラー66を異なる状態に駆動する指示が繰返し行われて初めて可動半透ミラー66の駆動を実行することになる。なお、既に可動半透ミラー66がCIGSAFセンサ70の光路に設定されている状態でステップS4の指示が行われた時は、当然ながら、ミラー/フィルタ駆動部78は可動半透ミラー66に対する何の駆動も行わない。これらのことは、以下の各ステップにおける種々の「指示」に共通である。
【0037】
次いでステップS6に進み、ライブビュー用の赤外光フィルタ58をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に行う。なお、ミラー/フィルタ駆動部62のミラー差し替え動作についても、上記でミラー/フィルタ駆動部78において説明したのど同様の指示に対する駆動実行への遅延時間が設けられている。
【0038】
次いで、ステップS8でAF用の赤外光カットフィルタ68をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に行う。そして、ステップS10に進み、CIGSAFセンサ70の出力に基づき、減光を解除すべきレベルまで被写体が暗いかどうかのチェックを行う。該当すればステップS12に進んで、可動半透ミラー66を光路から退避させる減光解除の指示を行ってステップS14に移行する。一方、被写体が充分明るい場合は直接ステップS14に移行する。
【0039】
ステップS14では、操作部15によって「複合AFモード」が選択されたかどうかのチェックを行う。そして選択があればステップS16に進み、複合AFを行うために赤外光フィルタ58に替えて可視光カットフィルタ60をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に対して行う。さらに、ステップS18でCIGS撮像センサ54の出力に基づく表示部32でのライブビュー表示を停止するとともに、長波長側の感度域のCIGS撮像センサ54の画像信号と可視光の感度域にあるCIGSAFセンサの出力とを組み合わせる「複合AF機能」の開始が指示してステップS20に移行する。一方、ステップS14で「AFモード」の選択が検出されない場合は、直接ステップS20に移行する。
【0040】
ステップS20では、撮像部20による撮像が光量不足となるほど暗いかどうかのチェックを行う。通常、このレベルまで被写体が暗くなるとフラッシュなどの補助光を用いた撮影が必要となる。ステップS20で光量不足が検知されるとステップS22に進み、操作部15の操作によって「長波長モード」が選択されているかどうかチェックする。そして該当すればステップS24に進み、赤外光フィルタ58に替えてライブビュー用の可視光カットフィルタ60をCIGS撮像センサ54への光路に設定する指示をミラー/フィルタ駆動部62に対して行う。さらに、ステップS26で、赤外光カットフィルタ68に替えてAF用の可視光カットフィルタ76をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行ってステップS28に移行する。
【0041】
一方、ステップS20で撮像部の光量不足が検出されない場合は、直接ステップS28に移行する。このように、撮像部の光量不足となるような暗さでない場合、通常はステップS22に進むことができず、「長波長モード」は禁止される。これは設定の混乱を防止するためである。なお、被写体が明るい場合でも特に「長波長モード」を選択したい場合は、操作部15で特別の操作を行うことによってステップS22に進むことも可能である。また、ステップS22で「長波長モード」設定が検出されない場合も、直接ステップS28に移行する。
【0042】
ステップS28では、操作部15のシャッタレリーズボタンによるレリーズ操作が行われたかどうかチェックする。レリーズ操作が検知できなければステップS30に進み、操作部15によってカメラのメインスイッチをオフする操作が行われたかどうかチェックする。そしてカメラオフ操作が検出されなければフローはステップS2に戻り、以下、ステップS2で再生モード操作が検出されるかステップS28でレリーズ操作が検出されない限り、ステップS2からステップS30を繰り返す。
【0043】
上記の繰返しは充分高速で行われ、上記したミラー/フィルタ駆動部62、78に設けられる遅延時間内に何度も繰り返される。従って、ステップS10、ステップS14、ステップS20およびステップS22に基づく検知結果が変化するとミラー/フィルタ駆動部62、78の遅延時間内にこの変化基づく同一の指示が繰返し行われ、ミラー/フィルタ駆動部62、78による適切な指示の実行が行われる。これによって、被写体の明るさの変化に基づく減光の設定/解除と波長域カットフィルタの切り替え、およびモード切り替えに基づく波長域カットフィルタの切り替えがスムーズに実行される。
【0044】
なお、ステップS2で操作部15による再生モード設定操作が検出された時はステップS32の再生モード処理に移行する。そして、再生モード処理内部の機能によって撮影モードが選択されたときには、フローはステップS4に戻る。また、再生モード処理内部の機能によってカメラオフ操作が検出されたときにはフローを終了する。
【実施例2】
【0045】
一方、ステップS28で操作部15のシャッタレリーズボタンによるレリーズ定操作が検出された時はステップS34の撮像記録処理に移行する。そして、撮像記録および表示部での撮像結果表示が終わると、フローは自動的にステップS2に戻る。なお、ステップS30でカメラオフ操作が検出されたときは、図4のフローが終了となる。
【0046】
図5は、本発明の実施の形態に係るオートフォーカスデジタル一眼レフカメラの第2実施例を示すブロック図である。その構成の大部分は図1の第1実施例と同様なので、共通する部分には同一の番号を付し、特に必要がない限り説明を省略する。図5の第2実施例が図1の第1実施例と異なるのは、カメラボディ100であり、特にそのライブビューセンサ102およびこれに関連する構成および機能が第1実施例と異なる。
【0047】
第1実施例のライブビューセンサ40では、半透過性の反射面12aを介して光を受けるよう構成され、反射面12aを透過する可視光領域の光が抑えられている。これは、アイピース14で光学的に被写体像を支障なく観察することができるようにするとともに、同時にライブビューも常に可能とするためである。ライブビューセンサ40にはCIGS撮像センサが用いられているので、反射面12aを透過する可視光領域の光が抑えられていても、通常の明るさの被写体をライブビューするには充分である。しかしながら、アイピース14で充分観察できないような暗い被写体の場合は、ライブビューセンサ40でも光量が不足する。これに対し、図5の第2実施例は、アイピース14で充分観察できないような暗い被写体の場合でも、ライブビューセンサ102に採用したcIGS撮像センサによってライブビューが可能となるよう構成している。なお、図5のライブビューセンサ102の詳細構造は、図2におけるライブビューセンサ40と基本的には同様であって、再結像光学系およびCIGS撮像センサを有する。但し、ペンタプリズム104に対するライブビューセンサ102の配置場所が異なるので、その再結像光学系は図2の再結像レンズ56とは異なったものとなる。
【0048】
上記の考え方に基づき、第2実施例では、通常のペンタプリズム104が採用されており、ライブビューモードに設定しない場合は、ペンタプリズム104からの光はすべてアイピースに向かう。このとき可動全反射ミラー106は図5のようにアイピース14への光路から退避している。従ってこの状態ではライブビューができない。
【0049】
操作部15の操作によってライブピューモードを選択すると、可動全反射ミラーが106aの位置に下がり、ペンタプリズム104からの光を全てライブビューセンサ102の方向に反射する。従って、アイピース14による光学的なファインダー像の観察はできなくなる。可動減光フィルタ108は、被写体が通常の明るさのときに図5のようにライブビューセンサへの光路中に挿入され、ライブピューセンサ102への入射光量をCIGS撮像センサの感度ダイナミックレンジに合わせこむ。一方、被写体がアイピースでは観察し難い程度の暗さになったときには可動減光フィルタ108がライブビューセンサ102への光路から退避し、減光なしに被写体像をライブビューセンサに導く。なお、このとき可動減光フィルタ108の有無による光路長の補償が必要であり、例えば、可動減光フィルタを退避させたときには、これと光路長が等しい全透過性の並行平板を代わりに光路中に挿入する。このようにして、光学的には観察し難い暗い被写体の場合でも、図5の第2実施例の場合にはCIGS撮像センサによりライブビューが可能となる。このライブビューセンサ102からの可視光域の画像は表示部32でのライブビューだけでなく、画像記憶部26に記録することも可能である。したりすることが可能となる。
【0050】
赤外光カットフィルタ110は、ライブビューモードにおいて可動全反射ミラー106aから反射される可視光領域以外の光をカットし、CIGS撮像センサの波長感度特性を撮像部20の波長感度特性に近似させるものであり、視感度に一致した被写体像を撮像してカメラ制御部116に送り、自然なライブビューを可能にする。
【0051】
可視光カットフィルタ112は、赤外光カットフィルタ110と差し替えてライブビューセンサ102への光路中に挿入されるもので、「長波長モード」にて使用されるものである。可動全反射ミラー106aからは可視光領域以外もほぼ全面的に反射されてくるので、長波長モードの設定で赤外光カットフィルタ110に替えて可視光カットフィルタ112がライブビューセンサ102への光路に挿入された場合は、可視光よりも長波長側域の光がライブビューセンサ102のCIGS撮像センサに入射するようになる。従って、第1実施例と同様、長波長域の画像についてその画像出力を表示部32でリアルタイムに観察したり、画像記憶部26に記録したりすることが可能となる。なお、可視光カットフィルタ112を用いる長波長モードにおいては、可動減光フィルタ108をライブビューセンサへの光路から退避させる。以上のような可動全反射ミラーが106、可動減光フィルタ108、赤外光カットフィルタ110および可視光カットフィルタ112の駆動は、カメラ制御部116によって制御されるミラー/フィルタ駆動部114によって行われる。
【0052】
図6は、図5の第2実施例におけるカメラ制御部116の動作のフローチャートである。第1実施例と同様にして操作部15によってカメラのメインスイッチがオンになるとフローがスタートし、ステップS42においてオートフォーカスデジタル一眼レフカメラが操作部15によって再生モードに設定されているかどうかチェックする。再生モード設定が検出されなければ撮影モードなのでステップS44に進み、光学ファインダ光路に設定する指示を行う。具体的には、可動全反射ミラー106がアイピース14への光路中から退避するようミラー/フィルタ駆動部114に指示する。ステップS44ではさらに、可動減光フィルタ108をライブビューセンサ102への光路中に挿入して入射光量を減光する指示をミラー/フィルタ駆動部114に行とともに、図2における可動半透ミラー66をCIGSAFセンサ70への光路内に設定して入射光量を減光する指示をミラー/フィルタ駆動部78に行う。
【0053】
次いでステップS46に進み、操作部15によって「ライブピューモード」が設定されているかどうかチェックする。該当すればステップS48に進み、ライブビューへの光路切り替えの指示が行われる。具体的には、可動全反射ミラー106をアイピース14への光路中に進出させるようミラー/フィルタ駆動部114に指示してステップS50に移行する。この指示が実行されると、ファインダ像をアイピース14から光学的に観察することはできなくなり、代わりにライブビューセンサ102の出力に基づく表示部32でのライブビューが可能となる。ステップS48ではさらに、ライブビュー用の赤外光カットフィルタ110をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に行う。なお、ミラー/フィルタ駆動部114についても、第1実施例で説明したのと同様の、指示に対する駆動実行への遅延時間が設けられている。一方、ステップS46で「ライブビューモード」への設定が検知されない場合は、直接ステップS50に移行する。
【0054】
ステップS50では、AF用の赤外光カットフィルタ68をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に行う。そして、ステップS52に進み、CIGSAFセンサ70の出力に基づき、減光を解除すべきレベルまで被写体が暗いかどうかのチェックを行う。該当すればステップS54に進み、操作部15によって「ライブピューモード」が設定されているかどうかチェックする。該当すればステップS56に進み、可動減光フィルタ108をライブビューセンサ102への光路から退避させる減光解除の指示を行ってステップS58に移行する。一方、ステップS54で「ライブビューモード」の設定が検知されなければ直接ステップS58に移行する。そして、ステップS58では、可動半透ミラー66をCIGSAFセンサ70への光路から退避させてAF用の減光を解除する指示を行う。このように、ステップS52で被写体が暗いことが検知された場合は、「ライブビューモード」の設定如何にかかわらずAF用の減光を解除する。
【0055】
次いで、ステップS60では、撮像部20による撮像が光量不足となるほど暗いかどうかのチェックを行う。そして該当すればステップS62に進み、操作部15の操作によって長波長モードが選択されているかどうかチェックする。そして該当すればステップS64に進み、赤外光フィルタ110に替えてライブビュー用の可視光カットフィルタ112をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に対して行う。さらに、ステップS66で、赤外光カットフィルタ68に替えてAF用の可視光カットフィルタ76をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行う。
【0056】
以上のステップを経て、フローはステップS68に進む。一方、ステップS52で減光を解除すべきレベルまで被写体が暗いことが検知されなかった場合、ステップS60で撮像部20による撮像が光量不足となるほど被写体が暗いことが検知されなかった場合、およびステップS62で長波長モードへの選択が検知されなかった場合は、いずれも直接ステップS68に移行する。
【0057】
ステップS68では、操作部15のシャッタレリーズボタンによるレリーズ操作が行われたかどうかチェックする。レリーズ操作が検知できなければステップS70に進み、操作部15によってカメラのメインスイッチをオフする操作が行われたかどうかチェックする。そしてカメラオフ操作が検出されなければフローはステップS42に戻り、以下、ステップS42で再生モード操作が検出されるかステップS68でレリーズ操作が検出されない限り、ステップS42からステップS70を繰り返す。
【0058】
第1実施例と同様にして、上記の繰返しは充分高速で行われ、上記したミラー/フィルタ駆動部78、114に設けられる遅延時間内に何度も繰り返される。従って、ステップS46、ステップS52、ステップS54、ステップS60およびステップS62に基づく検知結果が変化するとミラー/フィルタ駆動部78、114の遅延時間内にこの変化基づく同一の指示が繰返し行われ、ミラー/フィルタ駆動部78、114による適切な指示の実行が行われる。これによって、被写体の明るさの変化に基づく減光の設定/解除と波長域カットフィルタの切り替え、およびモード切り替えに基づく波長域カットフィルタの切り替えがスムーズに実行される。
【0059】
なお、第1実施例と同様にして、ステップS42で操作部15による再生モード設定操作が検出された時はステップS72の再生モード処理に移行する。そして、再生モード処理内部の機能によって撮影モードが選択されたときには、フローはステップS44に戻る。また、再生モード処理内部の機能によってカメラオフ操作が検出されたときにはフローを終了する。
【0060】
また、ステップS68で操作部15のシャッタレリーズボタンによるレリーズ定操作が検出された時はステップS74の撮像記録処理に移行する。そして、撮像記録および表示部での撮像結果表示が終わると、フローは自動的にステップS42に戻る。なお、ステップS70でカメラオフ操作が検出されたとき、図6のフローは終了となる。
【0061】
上記における本発明の種々の特徴は、実施例に限らず、広く活用できるものである。例えば、第1実施例においては、可視光カットフィルタ60により長波長域に感度を有するCIGS撮像センサ54と赤外光カットフィルタ68により可視光に感度域を有するCIGSAFセンサの出力とを組合せて「複合AF機能」は実施するものとして説明した。しかしながら、「複合AF機能」の実施はこのようなものに限るものではない。例えば、図2における波長選択性のない可動半透ミラー66をダイクロイックミラーで構成し、可視光透過させてCIGSAFセンサ70上に導くとともに、長波長域を反射させてAF対応部分測光センサ72に導くようにする。そして、AF対応部分測光センサ72にも、CIGSセンサを用いるようにする。なお、この場合、赤外光カットフィルタ68は不要となる。
【0062】
以上のように構成すれば、長波長域に感度を有するAF対応部分測光センサ72によりAF対応部分のうちのどこに人物が存在するかの推定が可能となり、その部分に対してCIGSAFセンサ70による焦点検出を行うことが可能となる。
【0063】
さらに「複合AF機能」の実施は以上のように二つのCIGSセンサを用いるものに限るものではない。例えば図2において、可視光カットフィルタ76がCIGSAFセンサの光路中に挿入された状態においてCIGSAFセンサ自体でAF対応部分のうちのどこに人物が存在するかの推定を行うとともに、赤外光カットフィルタ18が光路中に挿入された状態においてその部分に対してCIGSAFセンサ70による焦点検出を行うことも可能である。このように広い感度領域を有する一つのCIGSを時分割で異なる感度領域にて使い分け、それらの出力を組合せることによって「複合AF機能」を実現することも可能である。
【0064】
また、以上の実施例では、減光のために可動半透ミラーまたはフィルタを光路中に出し入れするものとして説明したが、入射光量の調節はこのような二段階のものに限るものではない。例えば、透過率が段階的に異なる複数の減光フィルタを用意し、これらの一つを光路に挿入することにより、減光の度合いをきめ細かく段階的に変化させるよう構成してもよい、また、透過率が連続的に変化する減光手段を用い、減光の度合いを連続的に変化させるよう構成してもよい。
【0065】
上記の実施例においては、可視光域および赤外光域において60%以上の量子効率を有する高感度および広帯域の分光感度特性をもつセンサとしてCIGSセンサを用いている。CIGSセンサは銅、インジウム、ガリウムおよびセレンよりなる多結晶のCIGS系薄膜を用いた光電センサであるが、その組成制御によりバンドギャップを変化させることで吸収波長域を制御することができる。このうちガリウムの含有率をゼロとしたものは「CIS系薄膜」とも称されるが、本明細書で「CIGSセンサ」という場合は、このようなガリウムを含まない「CIS系薄膜」を用いた光電センサをも意味するものとする。
【0066】
図7は、図2の第1実施例におけるライブビューセンサ40または図5の第2実施例におけるライブビューセンサ102に用いられるCIGS撮像センサのカラーフィルタ配列の第1例である。この第1例においては、赤外光透過フィルタR11、青透過フィルタB12、緑透過フィルタG22および赤透過フィルタR21が図示のように配列され、これを一つの単位として繰り返す配列となっている。本発明のCIGS撮像センサは、図3のように可視光域から赤外光にわたる広い分光感度域をもつため、このように一つのセンサに可視光および赤外光のカラーフィルタを設けることができる。なお、図7の配列は、原色カラーフィルタに赤外光透過フィルタを加えたものであり、原色カラーフィルタにおいて代表的なベイヤー配列と異なり緑の受光面積が青および青と同じになっているが、この点については後の回路処理で補正することができる。
【0067】
ここで、赤外光透過フィルタが配置されていない画素に関する赤外光画像の補間について説明する。まず、青透過フィルタB12に対応する画素については、基本的にはその両側にある赤外光透過フィルタIR11に対応する画素のデータと赤外光透過フィルタIR13に対応する画素のデータの平均値によって補間が行われる。他の青透過フィルに対応する画素における赤外光画像の補間も同様である。一方、赤透過フィルタR21に対応する画素については、同様にその上下にある赤外光透過フィルタIR11に対応する画素のデータと赤外光透過フィルタIR31に対応する画素のデータの平均値によって補間される。他の赤透過フィルタに対応する画素における赤外光画像の補間も同様である。また、緑透過フィルタG22に対応する画素については、その周囲にある赤外光透過フィルタIR11に対応する画素のデータ、赤外光透過フィルタIR13に対応する画素のデータ、赤外光透過フィルタIR33に対応する画素のデータおよび赤外光透過フィルタIR31に対応する画素のデータの平均値によって補間される。他の緑透過フィルタに対応する画素における赤外光画像の補間も同様である。
【0068】
なお、上記のような単純な補間では、実際の被写体とは異なる赤外光画像が得られる可能性がある。これを防止するには、単に近傍の赤外光透過フィルタに対応するデータのみに基づいて赤外光画像の補間を行うのではなく、補間しようとしている画素に影響している可視光のデータも加味して補間を行うのが有効である。例えば、赤透過フィルタR21に対応する画素の赤外光画像の補間において、赤透過フィルタR21に対応する画素が実際に受けている赤色光のデータも加味する。このような可視光データの加味の有無および加味する場合の度合いについては、可視光データと赤外光データとの相互関係または周囲の画素の他の可視光データとの相互関係に基づいて決定する。
【0069】
図8は、図2の第1実施例におけるライブビューセンサ40または図5の第2実施例におけるライブビューセンサ102に用いられるCIGS撮像センサのフィルタ配列の第2例である。この第2例にでは、カラーフィルタ配列自体は図7の第1例と共通であるが、各カラーフィルタの受光面積が異なっている。つまり、赤外光透過フィルタIR11および緑透過フィルタG22については、画素に許される最大の受光面積を確保しているが、青透過フィルタB12は遮光部202を設けることにより、受光面積が緑透過フィルタG22の約半分になっている。同様に赤透過フィルタR21についても、遮光部204を設けることにより、受光面積が緑透過フィルタG22の約半分になっている。これは、人間の目の赤および青に対する視感度が緑に対する視感度の約半分であることに対応している。
【0070】
本発明のCIGS撮像センサは、図3のように可視光域において高感度を有するため、上記のように青透過フィルタB12と赤透過フィルタR21の受光面積を減らしても充分対応できる。また、遮光部によって画素毎の受光面積自体を変えるので、ベイヤー配列のように画素数の割合によって人間の視感度への近似を行うのに比べてよりきめ細かな調節を行うことができ、必要に応じ、青透過フィルタB12と赤透過フィルタR21の受光面積比を変えることも可能である。
【0071】
図9は、図8のフィルタ配列の第2例を採用したCIGSセンサの模式断面図である。図9(A)に示すように、本発明のCIGS撮像センサはLSI400の上にCIGS系薄膜402を積層した構造となっており、1画素分の開口率が非常に大きい。そしてこの上にカラーフィルタ404が乗せられている。この図9(A)の模式断面図における基本構造自体は、フィルタ配列の第2例に限られるものでなく、本発明のCIGSセンサに共通である。
【0072】
図9(B)は、図9(A)の部分406を拡大した模式断面図であり、図8のフィルタ配列の第2例の断面を概念的に示している。なお、図8および図9(A)では対応する部分には同じ番号を付す。図9(B)に明らかなように、CIGS系薄膜402はそれぞれ画素をなすフォトダイオード408、410等に区分されており、フォトダイオード408の上には、赤外光透過フィルタIR11が載せられている。そして、フォトダイオード410の上には、受光面積を減らすための遮光部202および青透過フィルタB12が載せられている。
【0073】
図10は、図2の第1実施例におけるライブビューセンサ40または図5の第2実施例におけるライブビューセンサ102に用いられるCIGS撮像センサのフィルタ配列の第3例である。この例は、ベイヤー配列における緑透過フィルタの全数の4分の1を規則的に赤外光透過フィルタIR11、IR33、IR51等に置き換えたものである。残りの4分の3は、ベイヤー配列と同様に緑透過フィルタG13、G22,G31、G42、G44、G35、G24等となっている。
【0074】
この結果、緑透過フィルタG13等の全数の割合は、赤透過フィルタR23や、青透過フィルタB32の全数の割合の1.5倍となっている。これによって、ベイヤー配列と同様にして緑透過フィルタに対応する画素の数を増やすことにより、緑透過フィルタの受光面積を増やして人間の目の視感度への近似を図っている。なお、図10のフィルタ配列においても、図8のフィルタ配列の考え方を加味し、赤透過フィルタR23等と青透過フィルタB32等に遮光部を設けてこれらの受光面積を減じることにより視感度への近似のための受光面積の調整を行うことも可能である。
【0075】
一方、赤外光透過フィルタIR11等は上記のように配列したので、配置は疎らであるとともにその全数の割合も、赤透過フィルタR23や、青透過フィルタB32の全数の割合の半分となっている。本発明のCIGS撮像センサは、図3のように赤外光域において高感度を有するため、画素全数の割合が少なくても充分対応できるとともに、赤外光は波長が長いので画素配置を可視光に比べて疎らにしても対応可能である。
【0076】
次に、図10のフィルタ配列における赤外光透過フィルタが配置されていない画素に関する赤外光画像の補間について説明する。まず、緑透過フィルタG35に対応する画素については、その二つ上方にある赤外光透過フィルタIR15に対応する画素のデータ、二つ左方にある赤外光透過フィルタIR33に対応する画素のデータ、二つ下方にある赤外光透過フィルタIR55に対応する画素のデータおよび二つ右方にある赤外光透過フィルタIR37に対応する画素のデータの平均値によって補間が行われる。また、緑透過フィルタG24に対応する画素については、その右上方にある赤外光透過フィルタIR15に対応する画素のデータと左下方にある赤外光透過フィルタIR33に対応する画素のデータの平均値によって補間が行われる。さらに緑透過フィルタG26に対応する画素については、その左上方にある赤外光透過フィルタIR15に対応する画素のデータと右下方にある赤外光透過フィルタIR37に対応する画素のデータの平均値によって補間が行われる。
【0077】
そして、赤透過フィルタR25に対応する画素について、上記のように補間して求めた緑透過フィルタG35、G24、G26にそれぞれ対応する画像の赤外光画像データと赤外光透過フィルタIR15に対応する画素のデータの平均値によって補間する。これを整理すると、次のようにIR15、IR33、IR55およびIR37に対応する赤外光画像データの重み付け平均となる。
{(IR15+IR33+IR55+IR37)/4+(IR15+IR33)/2
+(IR15+IR37)/2+IR15}/4
=(9IR15+3IR33+IR55+3IR37)/16
以下同様にして各可視光フィルタに対応する画素の赤外光画像データを補完していく。
【0078】
緑透過フィルタが配置されていない画素に関する緑画像の補間については、まず、赤外光透過フィルタIR33に対応する画像をその周囲の緑透過フィルタG22、G42、G44、G24に対応する画素の平均をとって補間する。そして、上記のように補間して求めた赤外光透過フィルタIR33に対応する画像の緑画像データと、緑透過フィルタG22、G31およびG42の緑画像データの平均をとって、これらの中心にある赤透過フィルタB32に対応する画像も緑画像データを補間する。これを整理すると、次のようにG22、G31、G42、G44およびG24の重み付け平均となる。
{(G22+G42+G44+G24)/4+G22+G31+G42}/4
=(5G22+4G31+5G42+G44+G24)/16
以下同様にして赤外光透過フィルタ、赤透過フィルタおおび青透過フィルタに対応する画素の緑画像データを補完していく。なお、赤画像および青画像の補間については、図7と同様である。
【0079】
なお、上記の赤透過フィルタのように配置が疎らな場合に補間を繰り返す場合、または、上記の緑透過フィルタのように配置が非対称なデータを用いて補間を行う場合には、上記のように補間で作ったデータを用いてさらに補間を行うことになり、実際とは異なる画像が得られてしまう可能性もある。このような場合においても、上記のような赤外光透過フィルタに対応する画素のデータのみによる補間、または、緑透過フィルタに対応する画像のデータのみによる補間に加え、図7で述べたように、補間しようとしている画素に影響している他の色のデータも加味して補間を行うのが有効である。
【0080】
図11は、第2実施例においてライブビューセンサ102の画像を画像記憶部26に記録する際のカメラ制御部116の動作を示すフローチャートである。操作部15によってこの機能を選択する操作を行うとことによってフローがスタートすると、まずステップS82で可動全反射ミラーを106aの位置に下げ、ペンタプリズム104からの光を全てライブビューセンサ102の方向に反射するよう光路切り替えを指示する。そしてステップS84においてミラー8を観察位置に固定し、レリーズを行っても撮影位置にアップしないようにする。さらにステップS86で表示部32による表示を行わせる。
【0081】
次いでステップS88で赤外光モードが選択されているかどうかチェックし、該当すればステップS90に進み、AF用の可視光カットフィルタ76をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行う。さらに、ステップS92で、ライブビュー用の可視光カットフィルタ112をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に対して行い、ステップS94に移行する。
【0082】
一方、ステップS88で、赤外光モードが選択されていないことが検知されるとステップS96に進み、AF用の赤外光カットフィルタ68をCIGSAFセンサ70への光路に設定する指示をミラー/フィルタ駆動部78に対して行う。そしてステップS98に進み、「画像融合モード」が選択されているかどうかチェックする。同一の被写体についての赤外光画像と可視光画像を融合処理することによって植物の埴生分析や病害虫被害の検出を行うことは知られているが、「画像融合モード」は、ほぼ同時に同一被写体に対して赤外光画像と可視光画像を取得することを可能にするもので、動きのある被写体についても互いにずれのない赤外光画像と可視光画像を得ることができる。
【0083】
ステップS98で画像融合モードへの設定が検出ない場合は、可視光モードが選択されていることを意味するからステップS100に進み、ライブビュー用の赤外光カットフィルタ110をライブビューセンサ102への光路に設定する指示をミラー/フィルタ駆動部114に対して行い、ステップS94に移行する。
【0084】
これに対し、ステップS98で画像融合モードへの設定が検出されると、ステップS102に進み、ライブビューセンサ102への光路から赤外光カットフィルタ110および可視光カットフィルタ112を両者とも除去する指示をミラー/フィルタ駆動部114に対して行う。これは、ライブビューセンサ102によって赤外光画像と可視光画像の両者をほぼ同時に取得するためである。
【0085】
次いでステップS104で表示部32によるライブビュー表示を禁止する指示を出してステップS94に移行する。これは交換レンズ4による可視光と赤外光の結像位置が異なるので赤外光画像と可視光画像をそのまま表示部32に表示するとピントがあった像と合わない像が重なり、見づらい表示になるからである。なお、ステップS104においては、表示部32による表示を全面的に禁止する代わりに、赤外光画像と可視光画像のうちピントの合っている方(通常は可視光像)の画素情報のみを抽出して表示する指示を行ってもよい。この場合、フィルタを外しているので、これらの画素にもピントの合っていない画像情報の光が入射入しているが、ピントの合っている画像情報の光の強度が優勢なので表示は可能である。また上記のような表示の全面禁止かまたはピントの合っていない画像用の画素情報のみの表示禁止かを予め選択可能としておき、ステップS104で選択された方の指示を出すようにしてもよい。
【0086】
ステップS94では、レリーズ操作が行われたかどうかをチェックする。そしてレリーズ操作がなければステップS86に戻り、以下、レリーズ操作が検出されるまでステップS86からステップS104を繰り返す。これによって、操作部15によるモード切り替えに対応する。なお、図4で述べたように、「指示」の機械的実行には遅延期間が設けられているので、図11においても、実際にモード切り替えが行われない限り、ステップS86からステップS104の繰返しの中でフィルタの駆動が生じるわけではない。これは、ステップS86およびステップS104による表示部32の表示と禁止の切り替えについても同様である。
【0087】
ステップS94では、レリーズ操作が検出されるとステップS106に進み、レンズ光学系6のAF駆動が行われ、これによってピンとが合うとステップS108のライブビュー記録処理を行う。このAF駆動は赤外光画像に対するものである場合と可視光画像に対するものである場合がある。次いでステップS110で画像融合モードが設定されているかどうかを検出し、該当しなければ直ちにフローを終了する。
【0088】
一方、ステップS110で画像融合モードの設定が検出されるとステップS112に進み、AF制御部36によってレンズ光学系6を赤外光補正駆動する。換言すると、画像融合モードが設定されている場合、ステップS106におけるAF駆動およびステップS108におけるライブビュー記録処理は可視光像に対するものであるが、ステップS112では、可視光についてのピント位置から赤外光についてのピント位置までの所定の補正駆動をAF駆動部38によってレンズ光学系6に行わせるものである。この赤外光補正駆動は極めて短時間に行われ、直ちにステップS114のライブビュー赤外光記録処理に入る。そして処理が完了するとフローを終了する。以上のような機能の詳細は後述するが、基本的には画像融合モードにおいては、ステップS108にて可視光画像の記録を行い、引き続いてほぼ同時にステップS114において赤外光画像の記録を行うものである。
【0089】
図12は、図11のステップS108におけるライブビュー記録処理およびステップS114におけるライブビュー赤外光記録処理の詳細を示すフローチャートであり、いずれにも共通して利用できるものである。フローがスタートするとステップS122で赤外光撮影モードに設定されているかどうかのチェックが行われる。そして該当しなければステップS124に進み、RGBの画素のデータを読み出すことにより可視光画像の画素情報を得る。そしてステップS126でRGBの補間処理を行う。次いで、ステップS128では、画像融合モードに設定されているかどうかのチェックを行い、該当しなければステップS130に進んでRGBの可視光カラー画像について画像処理を行う。そしてステップS132に進み、その画像を画像記録部26に記録してフローを終了する。
【0090】
一方、ステップS122で赤外光モードへの設定が検出されるとステップS134に進み、IRの画素のデータを読み出すことにより赤外光画像の画素情報を得る。そしてステップS136でIRの補間処理を行う。次いで、ステップS138では、画像融合モードに設定されているかどうかのチェックを行うが、この場合は赤外光モードであって該当しないのでステップS140に進み、赤外光画像について画像処理を行う。そしてステップS132に進み、その画像を画像記録部26に記録してフローを終了する。
【0091】
さらにステップS128で画像融合モードへの設定が検出された場合、ステップS134に進んでIRの画素のデータを読み出すことにより赤外光画像の画素情報を得る。そしてステップS136でIRの補間処理を行う。これらによって、ステップS124、126による可視光画像情報に加えて赤外光画像情報も得ることができる。次いで、ステップS138で、画像融合モードに設定されているかどうかのチェックを行うが、この場合は画像融合モードなのでステップS142に進み、ステップS134およびステップS136の処理によって得られた赤外光画像が赤外光補正駆動後のものであるかどうかのチェックを行う。
【0092】
ここで、ステップS142に該当するか否かがどのような意味を持つかについて補足する。まず、ステップS142に該当しない場合は、図12のフローが図11のステップS108で実行されている場合に相当する。そしてステップS124およびステップS126で得られる可視光画像は図11のステップS106における可視光に対するAF駆動によりピントが合ったものであり、ステップS134およびステップS136で得られる赤外光画像はピントがずれたものとなっている。一方、ステップS142に該当する場合は、図12のフローが図11のステップS114で実行されている場合に相当する。そしてステップS134およびステップS136で得られる赤外光画像は図11のステップS112における赤外光補正駆動によりピントが合ったものであり、ステップS124およびステップS126で得られる可視光画像はピントがずれたものとなっている。
【0093】
そこで、得られた画像が赤外光補正駆動後の画像に該当しないとステップS142で判断された場合はステップS144に進み、ピントの合っているRGBの可視光画像について画像処理をおこなう。次いでステップS146においてピントの合っていない赤外光画像について補助的に画像処理を行う。そしてステップS148において、可視光画像を赤外光画像情報で補正した画像を作成する。この画像は基本的には可視光画像であるが、ピントがずれてデフォーカス状態にある赤外光画像の情報を加味することにより、ローパスフィルタ効果等で可視光画像の画質を改善するものである。以上の処理を経てステップS132に進み、ステップS144、ステップS146およびステップS148で得られたそれぞれの画像を記録してフローを終了する。
【0094】
一方、得られた画像が赤外光補正駆動後の画像に該当するとステップS142で判断された場合はステップS150に進み、ピントの合っている赤外光画像について画像処理をおこなう。次いでステップS152においてピントの合っていないRGBの可視光画像について補助的に画像処理を行う。そしてステップS156において、赤外光画像を可視光画像情報で補正した画像を作成する。この画像は基本的には赤外光画像であるが、ピントがずれてデフォーカス状態にある可視光画像の情報を加味することにより、ローパスフィルタ効果等で赤外光画像の画質を改善するものである。
【0095】
さらに、ステップS156では、図11のステップS108で記録された赤外光補正駆動前画像を読み出す。これによって、ピントの合った赤外光画像、ピントの合った可視光画像、ピントの外れた赤外光画像、ピントの外れた可視光画像、補正赤外光画像および補正可視光画像が揃うことになり、次のステップS158でこれらの画像に基づく画像融合処理が行われる。
【0096】
ステップS158の画像融合処理の内容は基本的にはピントの合った赤外光画像とピントの合った可視光画像の融合であり、これによって一方のみでは判断できない画像診断が可能となる。また、これに代えて、補正赤外光画像および補正可視光画像の融合による画像診断も可能である。さらに、ピントの合った可視光画像と、ピントの外れた可視光画像の融合により、核の締まったソフトフォーカス可視光画像を得ることもできる。同様に、ピントの合った赤外光画像と、ピントの外れた赤外光画像によりソフトフォーカス赤外光画像を得ることもできる。さらに、ピントの合った可視光画像を、ピントの合った赤外光画像で補正することにより、赤外光カットフィルタをかけて得た可視光画像に準じた画像を得ることもできる。その逆に、ピントの合った赤外光画像をピントの合った可視光画像で補正することにより、可視光カットフィルタをかけて得た赤外光画像に準じた画像を得ることもできる。これらの処理のどれを選ぶかは操作部15により設定できるが、被写体に応じ自動的に選択することも可能である。
【0097】
以上のようなステップS158の処理が終了すると、ステップS132に至り、処理により得られた画像が記録されてフローを終了する。なお、ステップS132において記録する画像は、ステップS158で処理した全ての画像であってもよく、またはステップS158の処理の中で選択されて最終的に必要と判断された画像であってもよい。この選択についても、操作部15により設定できるが、処理結果に応じてステップS158の中で自動的に選択するよう構成することも可能である。
【0098】
上記の図11および図12の画像記録機能に関するフローチャートの適用対象は、第2実施例におけるような一眼レフカメラのライブビューセンサ102の画像記録に限るものではなく、例えば、CIGSセンサへの画像記録専用に構成した可視光/赤外光画像記録カメラにも適用可能である。このような可視光/赤外光画像記録カメラは、例えば図5において焦点板10、ペンタプリズム104およびアイピース14などの光学ファインダ系を除去するとともに、撮像部20に代えてその位置にCIGS撮像センサを配置することによって構成可能である。その際、レンズ光学系6からCIGS撮像センサに向かって直進する光路中に出し入れできるよう赤外光カットフィルタ110および可視光カットフィルタ112を設ける。また、可動ミラー8に代え、入射光の大半が透過成分として直進するとともに反射光が下方の測光兼用AFセンサ34に向かう固定のハーフミラーを設ける。
【実施例3】
【0099】
図13は、本発明の第3実施例のブロック図であり、内視鏡システムを構成している。内視鏡システムは体内に飲み込まれて消化器内部を撮影し画像データを体外に送信するカプセル内視鏡502と、送信されて画像データを体外で受信してモニタする体外モニタ504を有する。カプセル内視鏡502は、透明な保護窓506を有する密閉構造になっており、保護窓506を通り撮像レンズ508によって結像される消化器内部の画像がCIGS撮像センサ510で撮像される。CIGS画像センサ510は、図3で説明したとおりの分光感度を持ち、高感度で可視光域の撮像が可能であるともに赤外光においても高感度での撮像が可能なものである。撮像レンズ508は、レンズ駆動部512によってその画角およびピント位置が調節可能である。
【0100】
第3実施例のCIGSセンサ510は、図7から図10に示したようなカラーフィルタを持っておらず、全ての画素に可視光域から赤外光域にわたる広範囲の光が入射しうる。つまり、第3実施例での撮像における光の分解は、受光側でのカラーフィルタによるのではなく、光源側での光の切換えによって行うようにしている。具体的には、光源として赤、緑、青および赤外の発光ダイオード(以下適宜「LED」と称する)が用いられ、これらが時分割で順次発光することにより各発光タイミングにおけるCIGSセンサ510撮像出力が、各色での画像データとなる。
【0101】
LEDは撮像レンズ508の光軸まわりに同心的に多数設けられているが、図13では、簡単のため、例として緑LED514および赤外LED516をそれぞれ一つ図示している。例えば緑LED514が発光しているときのCIGS撮像センサ510の撮像出力が緑画像データとなるとともに、赤外LED516が発光しているときのCIGS撮像センサ510の撮像出力が赤外画像データとなる。なお、可視光と赤外光では結像位置にズレがあるので必要に応じレンズ駆動部512が結像位置を調節する。第3実施例は内視鏡であり、撮影対象である体内は充分暗いのでこのように光源光の時分割による光の分解が可能となる。光源、撮像、および撮像レンズ等の関係については後に詳述する。
【0102】
LEDドライバ518は、内視鏡制御部520の指示に基づいてLED514、516の点灯タイミングを制御する。内視鏡制御部520はカプセル内視鏡502全体を制御するもので、その機能は記憶部522に記憶されたプログラムに従う。記憶部522は、さらに内視鏡制御部520の機能に必要なデータ等を必要に応じ一時的に記憶する。
【0103】
センサドライバ524は内視鏡制御部520の指示に基づいてCIGS撮像センサ510を制御するとともにCIGS撮像センサからの各色別画像RAWデータを画像バッファ526に格納する。画像バッファ526は所定撮像回数分の各色別画像RAWデータを格納可能であり、無線通信部528は画像バッファ526の各色別画像RAWデータをFIFOで取り出してアンテナ530から体外に送信する。電池532はボタン電池などで構成され、カプセル内視鏡502全体に電力を供給する。
【0104】
体外モニタ504は、無線通信部534を有し、カプセル内視鏡502から送信された各色別画像RAWデータをアンテナ536で受信して画像バッファ538に格納する。これらの機能はモニタ制御部540によって制御される。モニタ制御部540は記憶部542に記憶されたプログラムに従って体外モニタ504全体を制御する。記憶部542は、さらにモニタ制御部540の機能に必要なデータ等を必要に応じ一時的に記憶する。
【0105】
画像処理部544は、モニタ制御部540の指示に基づき画像バッファ548に格納されている各色別RAWデータを画像信号に画像処理するとともに、赤画像信号、緑画像信号および青画像信号からカラー画像信号を作成しレコーダ546に記憶する。また、赤外画像信号についてもこれをレコーダ546に記録する。記録されたデータは適宜表示部548でモニタすることができる。また、画像処理部からのカラー画像信号または赤外画像信号はリアルタイムで表示部548により直接モニタすることもできる。
【0106】
図14は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第1の例を示す正面図である。図13と対応する部分には同一番号を付す。図14から明らかなように、透明の保護窓506の内側の撮像レンズ508の周囲には緑LED514が互いに90度ずつ隔てた回転対象に4個設けられている。これらを結んだ線550は正方形である。また、緑LED514から45度回転した正方形552の頂点部分には、赤外LED516が互いに90度ずつ隔てた回転対象に4個設けられている。さらに、縦長長方形554の頂点部分には赤LED556が4個設けられているとともに、横長長方形558の頂点部分には青LED560が4個設けられている。この結果、赤、緑および青の各LEDは図14図で見て垂直方向および水平方向のいずれにも線対称の配置となり、各色について垂直方向と水平方向のいずれにも照明の対称性が保たれる。
【0107】
図15は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第2の例を示す正面図である。図15においても、図13と対応する部分には同一番号を付す。図15における緑LED514および赤外LED516の配置は、図14と共通である。これに対し、赤LED562は、緑LED514から左に22.5度回転した正方形564の頂点部分に互いに90度ずつ隔てた回転対象に4個設けられている。また、青ダイオード566は、緑LED514から右に22.5度回転した正方形568の頂点部分に互いに90度ずつ隔てた回転対象に4個設けられている。この結果、赤、緑および青の各LEDは図14図で見てそれぞれ上下左右の四方向にそれぞれ密集して配置されることになり、各色のLEDがずれて配置されていることによる照明影色ムラが軽減される。さらに、各色とも正方形の頂点部分に配されているので撮像レンズ508の光軸まわりに互いに回転対象の配置となる。
【0108】
図16は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第3の例を示す正面図である。図16においても、図13と対応する部分には同一番号を付す。図16における緑LED514および赤外LED516の配置は、図14と共通である。これに対し、左に45度傾いた縦長長方形570の頂点部分には赤LED572が4個設けられているとともに、右に45度傾いた縦長長方形574の頂点部分には青LED576が4個設けられている。この結果、赤、緑および青の各LEDは図16図で見て対抗する赤外LEDを結ぶ左45度傾いた線および右45度傾いた線のいずれについても線対称の配置となり、各色についてこれらのいずれの方向についても照明の対称性が保たれる。さらに、赤、緑および青の各LEDは図16図で見てそれぞれ上下左右の四方向にそれぞれ密集して配置されることになり、各色のLEDがずれて配置されていることによる照明影色ムラが軽減される。
【0109】
以上、図14から図16に示したLEDの配置例は、各図において緑LEDが上下左右に配置され、赤外LEDがこれから45度回転した位置に配されているが、全体の配置はこれに限るものではなく、CIGS撮像センサの画素配置の升目方向との関係で適宜全体を回転させて配置してもよい。例えば、図14から図16に示したLEDの配置例は、CIGS撮像センサの画素配置の升目の上下左右方向を基準として緑LEDが上下左右に配置したものであるが、これを全体に45度回転させ、赤外LEDが画素配置の升目方向に合わせて上下左右に配置されるようにしてもよい。この場合、緑LEDがこれから45度回転した位置に配置されることになる。
【0110】
図17は、第3実施例のカプセル内視鏡502に採用可能なLEDの配置の第4の例を示す正面図である。赤、緑、青および赤外のLEDを撮像レンズ508の光軸まわりに配置する場合、全ての色のLEDを互いに同数とすることに限るものではない。図17はこのようなものの例として、4個の緑LED514、2個の赤LED578および2個の青LED580を採用している。緑LED514の数が赤LED578および青LED580の倍あるのは、緑の発光量を相対的に多くして視感度に合わせるためである。また、図17では8個の赤外LED582を配置して赤外光量を増加させ、赤外光による体内観察能力を充実している。
【0111】
なお、図14から図17ではすべて合計16個のLEDを採用しているが、これに限られるものではない。配置が可能な場合、LEDの合計数をさらに増加して照明ムラを軽減することができる。また、最低限の照明の対称性を維持するため、各色各一対のLEDを採用し合計8個のLEDを採用して構成を簡単にすることも可能である。この場合、緑LEDの対を結ぶ線と赤外LEDの対を結ぶ線を90度で交差させるとともに、赤LEDの対と青LEDの対については、それらを結ぶ線が緑LEDの対を結ぶ線の左右にそれぞれ45度回転した状態の配置として、赤と青のLEDが緑LEDの両側に隣接するようにするのが望ましい。なお、配置スペースの事情が許せば、このように8個のLEDを等間隔に配置するのに代えて、赤と青のLEDを緑LEDの両側に密接させ、赤、緑、青LED相互の位置ズレができるだけ少なくなるようにした配置も可能である。
【0112】
図18は、第3実施例のカプセル内視鏡502におけるカラー・赤外モードでの動作の各色LEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。カラー・赤外モードでは、可視光のカラー画像および赤外画像が並行して取得される。図18から明らかなように、すべての赤LEDはt1からちt2、全ての緑LEDはt3からt4、すべての青LEDはt5からt6、すべての赤外LEDはt7からt8のタイミングで互いに重なることなく時分割でそれぞれ点灯する。そして、4色のLEDの点灯が一巡すると、再び全ての赤LEDがt9からt10のタイミングで点灯し、以下同様にして緑、青、赤外のLEDが点灯して同様の循環で時分割点灯を繰り返す。t1からt8までの時間は通常のカラー動画の1フレーム時間程度であり、各色の発光量は時分割しない場合の4分の1以下となるが、図3に示すようにCIGSセンサは通常のCMOSセンサに比べて高感度および広帯域の特性なので、短時間の発光量でも充分な光源光となる。
【0113】
図18のように、カラー・赤外モードにおいて可視光と赤外光を時分割でほぼ同時に発光させる場合、図13の撮像レンズ508の画角はレンズ駆動部512の制御により広角に設定され、焦点深度が深くなるように設定されるとともに、そのピント位置もレンズ駆動部512の制御により可視光から赤外光をカバーするパンフォーカス状態となるよう設定される。このようにカラー・赤外モードは体内の状態を全体的に粗く観察するのに適している。
【0114】
図18の光電変換部のタイミングチャートから明らかなように、光電変換部は赤LEDの発光開始直後から赤の露光を開始して電荷蓄積を行う。電荷蓄積時間は赤LEDの発光終了直前に設定されているのでここで露光を終了し、電荷の読出しを行う。さらに電荷の読出しが終了すると残留電荷の掃捨を行う。そして電荷の掃捨が終了すると次の緑の露光を開始する。なお図18から明らかなように緑の露光直前に緑ダイオードの発光が開始している。緑の露光についても電荷蓄積時間が終了の後、電荷の読出および残留電化の掃捨が後続している。以下同様にして、青LEDの発光および赤外LEDの発光にそれぞれ同期して、青および赤外の電荷蓄積、電荷読出、および残留電荷掃捨が行われる。そしてこれらの動作が循環する。なお、上記では、光電変換部の機能を各色について説明したが、光電変換部自体に各色を分離して光電変換する機能があるわけではなく、光電変換部自体は単に電荷蓄積、電荷読出、および残留電荷掃捨の同じ動作を繰り返しているだけである。読み出された電荷量が各色の情報を持つのは専ら電荷蓄積の際の光源色に依存する。
【0115】
図18のAD変換部のタイミングチャートから明らかなように、光電変換部は各色の電荷読出直後からAD変換を開始する。例えば、赤のAD変換は赤の電荷読出完了直後に開始される。そして次の緑の露光中の時間帯も利用し、これと並行して赤のAD変換を継続する。図18の無線通信部のタイミングチャート(A)から明らかなように、無線通信部は、各色の光電変換完了直後からその結果の色のデジタル信号の通信を開始可能である。例えば、赤のデジタル信号の通信は赤のAD変換終了直後に開始される。そして次の緑のAD変換の時間帯も利用し、これと並行して赤の通信を継続する。以下同様にして緑、青、赤外についてAD変換および通信が行われる。
【0116】
なお、通信に関しては、カプセル内視鏡502と体外モニタ504との関係によっては、AD変換直後に成功裏に実施することができない場合も考えられる。このような場合は、図18の無線通信部のタイミングチャート(B)のように通信環境が充分となったタイミングで通信を実行する。例えば、IRデータの送信592はタイミングチャート(A)に比べて遅く実行されており、次のRデータの直前で実行されている。また、Gデータの送信594およびBデータの送信596も遅れて実行されているが、これらの通信時間の調整は、図13の画像バッファ526の容量が満杯となってFIFOに破綻を来たさない限り可能である。
【0117】
図19は、図18で示したカラー・赤外モードにおける第3実施例のカプセル内視鏡502の動作での各色LEDの発光タイミングとカラー画像作成の関係を示すタイミングチャートである。図19に示すように、t1で開始される赤LEDの発光に基づく赤画像、t3で開始される緑LEDの発光に基づく緑画像、およびt5で開始される青LEDの発光に基づく青画像によって、F1で示す1フレームのカラー画像が作成される。厳密に言えば各色の発光に時間差があるので各色の画像は同一時間のものではないが、時間差は僅少なので高速で動く被写体でない限りこのような時分割による各色画像の取得でも問題はない。同様にして、t9で開始される赤LEDの発光に基づく赤画像、t11で開始される緑LEDの発光に基づく緑画像、およびt13で開始される青LEDの発光に基づく青画像によって、F2で示す1フレームのカラー画像が作成される。以下同様にして1フレームのカラー画像が作成され、個々のカラー動画は静止画としても記録できるとともに、これらを繋げてカラー動画としても記録できる。なお、これらのカラー処理は、図13に示した体外モニタ504の画像処理部544で行われる。また、図18の無線通信部のタイミングチャート(B)で示したように体外モニタ504による各色データの受信は必ずしも等間隔ではないが、画像取得タイミングは各色LEDの発光タイミングによって決まるので図19の関係が成り立つ。
【0118】
また、図19に示すように、t3で開始される緑LEDの発光に基づく緑画像、t5で開始される青LEDの発光に基づく青画像、およびにt9で開始される赤LEDの発光に基づく赤画像によってもRGB三色のデータが揃うので、これらによってI1で示す1フレームのカラー補間画像が作成される。同様にして、t5で開始される青LEDの発光に基づく青画像、t9で開始される赤LEDの発光に基づく赤画像、およびt11で開始される緑LEDの発光に基づく緑画像によって、I2で示す1フレームのカラー補間画像が作成される。これらの補間画像はRGBの各色が揃うまでに赤外LEDの発光が介在しており、RGBが揃うまでの時間が若干長くなるとともにRGBの発光も等間隔でないのでカラー画像としては画質が悪くなる。従って、あくまでスムーズな動画を得るための補間画像として採用される。
【0119】
一方、赤外画像については、図19に示すように、t7で開始される赤外LEDの発光に基づく画像IR1、t15で開始される赤外LEDの発光に基づく画像IR2等がそれぞれ静止画として記録できるとともに、これらを繋げてカラー動画としても記録できる。カラー・赤外モードでは上記のようにカラー画像と赤外画像が並行して取得できるので、両画像を並行して内視鏡診断にもといることができるとともに、両画像を合成することも可能となる。また、静止画として量画像を合成する際、赤外画像の取得時間がカラー補間画像の取得時間帯の中に含まれているので、カラー補間画像を赤外画像とを合成のために採用することも可能である。具体的には、カラー補間画像I2およびI2の取得時間帯が共に赤外画像IR1の取得時間を含んでいるので、カラー補間画像I1およびI2またなその平均を赤外画像IR1と合成することが可能である。
【0120】
図20は、第3実施例のカプセル内視鏡502における精細カラーモードでの動作の各色LEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。精細カラーモードでは、可視光のカラー画像のみの取得が行われ、赤外LEDは発光しない。図20から明らかなように、すべての赤LEDはt1からちt2、全ての緑LEDはt3からt4、すべての青LEDはt5からt6のタイミングで互いに重なることなく時分割でそれぞれ点灯する。そして、RGB3色のLEDの点灯が一巡すると、再び全ての赤LEDがt7からt8のタイミングで点灯し、以下同様にして緑、青、LEDが点灯して同様の循環で時分割点灯を繰り返す。この場合一回の循環に必要なt1からt6までの時間は図18のt1からt8よりも短くなり。動画が精細になる。図20の無線通信部(B)のタイミングチャートには、しばらく通信環境が整わなかった後、連続して通信が行われている様子を示す。
【0121】
図20のように、精細カラーモードにおいて可視光のみを時分割でほぼ同時に発光させる場合、図13の撮像レンズ508の画角はレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により可視光の焦点が撮像面に結像するよう設定される。これは赤、緑、青の焦点位置のずれは小さくまた撮像レンズの設計における収差補正でも対応できるので最適の焦点位置あわせが可能となるからである。このように精細カラーモードは体内の状態を詳細に高精細で観察するのに適している。
【0122】
図21は、図20で示した精細カラーモードにおける第3実施例のカプセル内視鏡502の動作での各色LEDの発光タイミングとカラー画像作成の関係を示すタイミングチャートである。図21に示すように、t1で開始される赤LEDの発光に基づく赤画像、t3で開始される緑LEDの発光に基づく緑画像、およびt5で開始される青LEDの発光に基づく青画像によって、F1で示す1フレームのカラー画像が作成される。次に、t3で開始される緑LEDの発光に基づく緑画像、t5で開始される青LEDの発光に基づく青画像、およびにt7で開始される赤LEDの発光に基づく赤画像によってF2で示す1フレームのカラー画像が作成される。同様にt5で開始される青LEDの発光に基づく青画像、t7で開始される赤LEDの発光に基づく赤画像、およびt9で開始される緑LEDの発光に基づく緑画像によってF3で示す1フレームのカラー画像が作成される。以下同様にしてF4で示す1フレームのカラー画像以下が作成されていく。このように、精細カラーモードでは各色のLEDが新たに発光する毎に輪番で新たに1フレームのカラー画像が作成されるのでスムーズな精細動画の記録が可能となる。
【0123】
図22は、第3実施例のカプセル内視鏡502における赤外モードでの動作の赤外LEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。赤外カラーモードでは、赤外画像のみの取得が行われ、赤外LED以外のLEDは発光しない。図22から明らかなように、すべての赤外LEDはt1からちt2、t3からt4のごとく光電変換部における毎回の露光の都度に発光する。そしてこれに対応して毎回1フレームの赤外画像が作成される。これによって、スムーズな赤外動画の記録が可能となる。
【0124】
図22のように、赤外モードにおいて赤外光のみを発光させる場合も、図13の撮像レンズ508の画角はレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により赤外光の焦点が撮像面に結像するよう設定される。このように赤外モードも体内の状態を詳細に高精細で観察するのに適している。
【0125】
図23は、図13の第3実施例における内視鏡制御部520の動作のフローチャートである。カプセル内視鏡502に電池532がセットされるとフローがスタートし、ステップS162で、カラー・赤外モードが初期設定される。そしてこれに対応し、ステップS154で撮像レンズ508が広角およびパンフォーカス状態に設定される。次いでステップS166では、赤、緑、青および赤外の全てのLEDが所定の順所で順次輪番で発光するよう設定される。そしてステップS168でこれらの設定が行われている状態であることを外部送信し、体外モニタ504に報告する。
【0126】
次にステップS170で撮像処理、ステップS172で送信処理をそれぞれ実行する。その詳細は後述する。送信処理が終わるとステップS174に進み、動作停止信号を体外モニタ504から受信しているかどうかチェックする。受信があれば直ちにフローを終了する。一方、停止信号の受信がなければステップS176に進み、モード変更信号を受信しているかどうかチェックする。そして受信があればステップS178に進み、変更されたモードがカラー・赤外モードかどうかチェックする。カラー・赤外モードであれば、ステップS164に戻り、レンズを広角およびパンフォーカス状態に設定して、以下既に説明したステップS166以下の動作に進む。
【0127】
一方、ステップS178で変更されたモードがカラー・赤外モードでなかったときはステップS180に進み、精細カラーモードかどうかチェックする。そして精細カラーモードであればステップS182でレンズの画角を狭角(望遠)にするとともに可視光フォーカス状態に設定するとともに、ステップS184で可視光のLEDのみが順次輪番で発光するよう設定する。そして、ステップS186でこれらの設定状態を外部に送信した後、ステップS170に戻る。
【0128】
また、ステップS180で変更されたモードが精細カラーモードでなかったときは、変更されたモードが赤外モードであることを意味するからステップS188に移行し、レンズの画角を狭角(望遠)にするとともに赤外光フォーカス状態に設定する。さらにステップS190で赤外LEDのみが発光するよう設定する。そして、ステップS186に移行し、これらの設定状態を外部に送信した後、ステップS170に戻る。
【0129】
図24は、図23のステップS170における撮像処理の詳細を示すフローチャートである。フローがスタートすると、ステップS192でモードの選択または変更があったかどうかチェックする。モード選択または変更がなかったときは、ステップS194に進み、露光時間が完了しているかどうかチェックする。そして完了を検出すればステップS196に進み、蓄積電荷の読出し開始処理を行う。さらにステップS198でLEDの発光停止を指示する。さらにステップS200で蓄積電荷読出しが完了したかどうかをチェックし、未完ならステップS200を繰り返しながら完了を待つ。
【0130】
ステップS200で読出し完了が検知されるとステップS206に進み残留電荷の掃捨て開始処理を行ってステップS208のLED選択処理に移行する。これは次に発光すべきLEDを選択する処理であるがその詳細は後述する。さらにステップS210ではステップS208で選択されたLEDの発光開始を指示する。次にステップS212では蓄積電荷の掃捨てが完了したかどうかをチェックし、未完ならステップS212を繰り返しながら完了を待つ。
【0131】
ステップS212で蓄積電荷の掃捨て完了が検知されるとステップS214に移行し、露光を開始するとともにステップS216で露光時間のカウントを開始し、フローを終了する。一方、ステップS194で露光時間が完了していなければ直ちにフローを終了する。また、ステップS192でモードの選択または変更が検出されるとステップS218に移行し、撮像処理のイニシャライズを行ってステップS208のLED選択処理に進む。
【0132】
図25は、図24のステップS208におけるLED選択処理の詳細を示すフローチャートである。フローがスタートすると、ステップS222で赤外モードであるかどうかチェックする。該当しなければカラー・赤外モードまたは精細カラーモードであることを意味する。この場合はステップS224に進み、図24のステップS218によって撮像処理のイニシャライズが行われたかどうかチェックする。これも該当しなければステップS226に進み、前回に選択されたLED記憶を読み出す。そしてステップS228で読み出された記憶に基づき前回発光したのが赤LEDであったかどうかチェックする。該当しなければ、さらにステップS230で前回したのが緑LEDであったかどうかチェックする。
【0133】
ステップS230で前回発光が緑LEDでなかったときはステップS232に進み、精細カラーモードであるかどうかチェックする。該当する場合は、赤、緑および青のLEDが輪番で発光していることになる。そしてこの場合、前回発発光が赤でも緑でもなければ青であったことを意味するからステップS232からステップS234に進み、次の順番に当たる赤LEDを選択する。そしてこの選択結果をステップS236で記憶してフローを終了する。
【0134】
一方、ステップS232で精細カラーモードであることが検知されない場合はカラー・赤外モードであることを意味する。この場合は、赤、緑、青および赤外のLEDが輪番で発光していることになる。そしてこの場合、前回発発光が赤でも緑でもなければ青であったことを意味するからステップS232からステップS238に進み、次の順番に当たる赤外LEDを選択する。そしてこの選択結果をステップS236で記憶してフローを終了する。
【0135】
また、ステップS228で前回発光したのが赤LEDであったときはステップS242に進み、次の順番にあたる緑LEDを選択する。そしてこの選択結果をステップS236で記憶してフローを終了する。さらに、ステップS222で赤外モードであったときはステップS244に進み、赤外LEDを選択する。そして赤外モードの場合は選択されるのは常に赤外LEDであるから選択結果の記憶は特に行う必要がなく直ちにフローを終了する。なお、ステップS224で撮像処理のイニシャライズが行われていたときはステップS242に進み最初の発光LEDとして緑LEDを選択する。
【0136】
図26は、図23のステップS172における送信処理の詳細を示すフローチャートである。フローがスタートすると、ステップS252でデータの送信中かどうかのチェックを行う。送信中でなければステップS254に進み、送信に成功したデータがあるかどうかチェックする。そして該当するものがあればステップS256でこれを画像バッファより消去してステップS258に移行する。一方、ステップS254で送信成功データがなければ直接ステップS258に移行する。
【0137】
ステップS258では、AD変換が完了したかどうかチェックし、該当すればAD変換したデータを画像バッファに格納してステップS262に移行する。一方、AD変換が終了していなければ直接ステップS262に移行する。ステップS262では画像バッファに格納されているデータがあるかどうかチェックし、データがあればステップS264で通信状態がOKかどうかチェックする。そしてOKであればステップS266で画像バッファからFIFO(先入れ先出し)でデータを読出し、ステップS268で読み出したデータの送信開始を指示してフローを終了する。なお、ステップS252でデータ送信中であったとき、ステップS262で画像バッファにデータの格納がなかったとき、またはステップS264で通信状態がOKでなかったときはそれぞれ直ちにフローを終了する。
【0138】
図27は、図13の第3実施例における体外モニタ504のモニタ制御部540の動作を示すフローチャートであり、カプセル内視鏡502との通信開始でフローがスタートする。フローがスタートするとステップS272で画像データの新着の有無をチェックする。新着データがあればステップS274に進み、新着データが完全かどうかチェックする。そして完全であればステップS276に進んでこれを画像バッファ538に格納するよう支持してステップS278に移行する。なお、ステップS272でデータの新着がないか、またはステップS274で新着データが完全でなかったときはいずれもステップS272に戻る。
【0139】
ステップS278では、赤外モードであるかどうかチェックし、該当しなければステップS280でカラー・赤外モードであるかどうかチェックする。そしてカラー・赤外モードであればステップS282に進み、新着データが赤外画像データであるかどうかチェックする。該当しなければ赤、緑、青のいずれかの画像データであることを意味するからステップS284に進み、これらのデータから赤外画像の補間補助画像を作成するよう指示してステップS286に移行する。ステップS284の指示は、赤外のスムーズな動画を得るために赤外画像データに基づいて補間を行う際、赤外画像の間のタイミングで得られる可視光画像データの情報を補助的に利用するための指示である。
【0140】
ステップS286では、新逆データが青画像データであるかどうかチェックする。そして該当しなければ赤画像データまたは緑画像データであることを意味するからステップS290に進み、新着データ直前の可視2色のデータが格納されているかどうかチェックする。そして格納されていれば、新着データとともに赤、緑、青の3色が揃うからステップS292に進み、保管カラー画像を作成する指示をしてステップS272に戻る。ステップS292の指示によって作成される画像は、図19のカラー補間画像I1またはI2に相当する。
【0141】
ステップS278で赤外モードであったときは新着データは赤外画像データであるからステップS294に移行し、赤外画像の作成を指示してステップS272に戻る。また、ステップS282で新着データが赤外画像データであったときもステップS294に移行する。一方、ステップS286で新着データが青画像データであったときはステップS296に進み、直前の2色(この場合は赤および緑)の画像データが画像バッファに格納されているかどうかチェックする。そしてこれらの格納があれば連続する3色が揃うのでステップS298に進み、カラー画像作成の指示を行ってステップS272に戻る。この指示によって作成される画像は、図19のカラー画像F1またはF2に該当する。
【0142】
また、ステップS280でカラー・赤外モードでなかったときは精細カラーモードであることを意味するのでやはりステップS296に移行し、直前の可視2色データが格納されているかどうかのチェックに入り、直前2色があればステップS298のカラー画像作成を指示する。この指示によって作成される画像は、図21のカラー画像F1、F2、F3等に該当する。なお、ステップS290またはステップS296で直前の可視2色データの格納がなかったときは直ちにステップS272に戻る。
【実施例4】
【0143】
図28は、本発明の第4実施例の動作タイミングの関係を示すタイミングチャートである。第4実施例は基本的には図13から図17に示す内視鏡システムと共通の構成なので、以下の説明では、図13のブロック図の符号を適宜用いて説明する。第4実施例が第3実施例と異なるのは、CIGS撮像センサの構成およびLEDの発光タイミングである。すなわち、第3実施例のCIGSセンサ510はカラーフィルタを有さず、色の分解はLEDの時分割発光によっていたが、第4実施例のCIGS撮像センサ510は、図7から図10に示すようなカラーフィルタを有し、第1実施例および第2実施例と同様にしてCIGS撮像センサ自体で色分解を行う。そして、LEDの発光は時分割ではなく全色同時に行われる。
【0144】
図28は、このような第4実施例のカプセル内視鏡502におけるカラー・赤外モードでの動作のLEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。先に述べたように、すべての赤LED、全ての緑LED、すべての青LEDおよびすべての赤外LEDは、光電変換部の露光タイミングにおいてすべて同時に発光する。なお、各LEDは、図28のように点滅発光するかわりに連続発光しても差し支えない。なお、図28のカラー・赤外モードにおいては、撮像レンズ508の画角はレンズ駆動部512の制御により広角に設定され、焦点深度が深くなるように設定されるとともに、そのピント位置もレンズ駆動部512の制御により可視光から赤外光をカバーするパンフォーカス状態となるよう設定される。このような撮像レンズ制御は、図18のカラー・赤外モードの場合と共通である。
【0145】
図29は、第4実施例のカプセル内視鏡502における精細カラーモードでの動作のLEDの発光タイミング、光電変換部の動作タイミング、AD編幹部の動作タイミングおよび無線通信部の動作タイミングの関係を示すタイミングチャートである。図29に明らかなように、すべての赤LED、全ての緑LEDおよびすべての青LEDが、光電変換部の露光タイミングにおいてすべて同時に発光する。なお、赤外LEDは発光しない。図29のように、精細カラーモードにおいて可視光のみを同時に発光させる場合、図13の撮像レンズ508の画角はレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により可視光の焦点が撮像面に結像するよう設定される。このような撮像レンズ制御は、図20の精細カラーモードの場合と共通である。
【0146】
第4実施例における赤外モードのタイミングチャートは、第3実施例における図22と共通である。また、赤外モードにおける撮像レンズ508の画角がレンズ駆動部512の制御により狭角(望遠)に設定され、そのピント位置もレンズ駆動部512の制御により赤外光の焦点が撮像面に結像するよう設定される点についても、図22の赤外モードと共通である。第4実施例におけるカラー・赤外モードが体内の状態を全体的に粗く観察するのに適し、一方、精細カラーモードおよび赤外モードが体内の状態を詳細に高精細で観察するのに適している点についても第3実施例と共通である。
【0147】
なお、上記第3実施例および第4実施例における内視鏡システムはカプセル内視鏡と体外モニタを有するものとして構成したが、本発明の実施はこれに限るものではない。例えば、体内と体外をチューブで結んだ通常の内視鏡として構成することも可能である。この場合、図13のアンテナ530および546による無線通信をチューブ内のケーブルによる有線通信とするとともにこのチューブ内に公知の通気管や導水管およびチューブ屈曲メカなどを設ける。また、体内と体外の間の画像情報伝達を電気信号で行うのに代え、ファイバーなどによる光学手段により体内で取得した画像を体外に取り出すようにしてもよい。この場合、CIGS画像センサは体外に設けられることになる。また、光源についても発光部を体外に設け、ライトガイドでこれを体内に導くことも可能である。このような構成では、図14から図17の光源配置は、発光部分の配置ではなく、光源光射出部の配置として理解するものとする。さらに、ライトガイドを用いる場合には、必ずしも光源光射出部を各色別にする必要はなく、各色発光部からの光を共通のライトガイドを用いて体内に導き共通の射出口から照射するようにしてもよい。また、上記第3実施例および第4実施例において示した本発明の種々の特徴の実施は、内視鏡に限らず、種々の撮像センサを活用した撮像・観察・記録機器に適宜活用することも可能である。
【産業上の利用可能性】
【0148】
本発明は、体内画像の観察・記録・診断等が可能な内視鏡を提供するものである。
【符号の説明】
【0149】
510 光電変換部
514、562、566 可視光域照明光源
516 赤外光域照明光源
520、540 制御部
528、530 無線送信部
502 カプセル部
534、536 無線受信部
544 画像処理部
548 表示部
【特許請求の範囲】
【請求項1】
それぞれ可視光域および赤外光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、可視光域照明光源と、赤外光域照明光源と、前記可視光域照明光源による照明下で前記光電変換部が受光する画像を可視光画像データとして取得するとともに前記赤外光域照明光源による照明下で前記光電変換部が受光する画像を赤外光画像データとして取得する制御部とを有することを特徴とする内視鏡。
【請求項2】
前記可視光域照明光源は3つの異なる単色可視光照明光源を含み、前記制御部は、前記3つの異なる単色可視光照明光源による照明下でそれぞれ前記光電変換部が受光する画像をそれぞれ3つの異なる単色可視光画像データとして取得することを特徴とする請求項1記載の内視鏡。
【請求項3】
前記制御部は、前記3つの異なる単色可視光照明光源および赤外光域照明光源を輪番で時分割発光させることを特徴とする請求項2記載の内視鏡。
【請求項4】
前記制御部は、前記3つの単色可視光照明光源の1つの新たな発光下で単色可視光画像データが取得される毎に、他の2つの単色可視光照明光源による照明下でそれぞれ取得済みの単色可視光画像データと組み合わせるべきカラー画像データとして提供することを特徴とする請求項3記載の内視鏡。
【請求項5】
前記制御部は、3つの単色可視光画像データの取得のための前記3つの異なる単色可視光照明光源の発光タイミング中に前記赤外光域照明光源の発光タイミングを含む場合と含まない場合とで3つの単色可視光画像データを組み合わせたカラー画像の取り扱いを変えることを特徴とする請求項4記載の内視鏡。
【請求項6】
前記制御部は、前記可視光域照明光源と前記赤外光域照明光源の一方の照明下で前記光電変換部が画像を受光しているとき、他方の照明下で前記光電変換部が画像した画像を処理することを特徴とする請求項1から5のいずれかに記載の内視鏡。
【請求項7】
前記制御部の処理はAD変換であることを特徴とする請求項6記載の内視鏡。
【請求項8】
前記制御部の処理はデータの送信であることを特徴とする請求項6または7記載の内視鏡。
【請求項9】
可視光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、3つの異なる単色可視光照明光源と、前記3つの異なる単色可視光照明光源による照明下でそれぞれ前記光電変換部が受光する画像をそれぞれ3つの異なる単色可視光画像データとして取得する制御部とを有することを特徴とする内視鏡。
【請求項10】
前記制御部は、前記3つの異なる単色可視光照明光源を輪番で時分割発光させることを特徴とする請求項9記載の内視鏡。
【請求項11】
前記制御部は、前記3つの単色可視光照明光源の1つの新たな発光下で単色可視光画像データが取得される毎に、他の2つの単色可視光照明光源による照明下でそれぞれ取得済みの単色可視光画像データと組み合わせるべきカラー画像データとして提供することを特徴とする請求項10記載の内視鏡。
【請求項12】
規則的に配列された複数の光電変換部、照明光源、前記照明光源による照明下で前記光電変換部が受光する画像をRAWデータとして取得する制御部および前記RAWデータを送信する無線送信部を含むカプセル部と、前記無線送信部からのRAWデータを受信する無線受信部、受信したRAWデータを処理する画像処理部および画像処理部が処理した画像を表示する表示部を含む体外モニタ部とを有することを特徴とする内視鏡。
【請求項1】
それぞれ可視光域および赤外光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、可視光域照明光源と、赤外光域照明光源と、前記可視光域照明光源による照明下で前記光電変換部が受光する画像を可視光画像データとして取得するとともに前記赤外光域照明光源による照明下で前記光電変換部が受光する画像を赤外光画像データとして取得する制御部とを有することを特徴とする内視鏡。
【請求項2】
前記可視光域照明光源は3つの異なる単色可視光照明光源を含み、前記制御部は、前記3つの異なる単色可視光照明光源による照明下でそれぞれ前記光電変換部が受光する画像をそれぞれ3つの異なる単色可視光画像データとして取得することを特徴とする請求項1記載の内視鏡。
【請求項3】
前記制御部は、前記3つの異なる単色可視光照明光源および赤外光域照明光源を輪番で時分割発光させることを特徴とする請求項2記載の内視鏡。
【請求項4】
前記制御部は、前記3つの単色可視光照明光源の1つの新たな発光下で単色可視光画像データが取得される毎に、他の2つの単色可視光照明光源による照明下でそれぞれ取得済みの単色可視光画像データと組み合わせるべきカラー画像データとして提供することを特徴とする請求項3記載の内視鏡。
【請求項5】
前記制御部は、3つの単色可視光画像データの取得のための前記3つの異なる単色可視光照明光源の発光タイミング中に前記赤外光域照明光源の発光タイミングを含む場合と含まない場合とで3つの単色可視光画像データを組み合わせたカラー画像の取り扱いを変えることを特徴とする請求項4記載の内視鏡。
【請求項6】
前記制御部は、前記可視光域照明光源と前記赤外光域照明光源の一方の照明下で前記光電変換部が画像を受光しているとき、他方の照明下で前記光電変換部が画像した画像を処理することを特徴とする請求項1から5のいずれかに記載の内視鏡。
【請求項7】
前記制御部の処理はAD変換であることを特徴とする請求項6記載の内視鏡。
【請求項8】
前記制御部の処理はデータの送信であることを特徴とする請求項6または7記載の内視鏡。
【請求項9】
可視光域において60%以上の量子効率を有し規則的に配列された複数の光電変換部と、3つの異なる単色可視光照明光源と、前記3つの異なる単色可視光照明光源による照明下でそれぞれ前記光電変換部が受光する画像をそれぞれ3つの異なる単色可視光画像データとして取得する制御部とを有することを特徴とする内視鏡。
【請求項10】
前記制御部は、前記3つの異なる単色可視光照明光源を輪番で時分割発光させることを特徴とする請求項9記載の内視鏡。
【請求項11】
前記制御部は、前記3つの単色可視光照明光源の1つの新たな発光下で単色可視光画像データが取得される毎に、他の2つの単色可視光照明光源による照明下でそれぞれ取得済みの単色可視光画像データと組み合わせるべきカラー画像データとして提供することを特徴とする請求項10記載の内視鏡。
【請求項12】
規則的に配列された複数の光電変換部、照明光源、前記照明光源による照明下で前記光電変換部が受光する画像をRAWデータとして取得する制御部および前記RAWデータを送信する無線送信部を含むカプセル部と、前記無線送信部からのRAWデータを受信する無線受信部、受信したRAWデータを処理する画像処理部および画像処理部が処理した画像を表示する表示部を含む体外モニタ部とを有することを特徴とする内視鏡。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【公開番号】特開2010−227200(P2010−227200A)
【公開日】平成22年10月14日(2010.10.14)
【国際特許分類】
【出願番号】特願2009−76335(P2009−76335)
【出願日】平成21年3月26日(2009.3.26)
【出願人】(000116024)ローム株式会社 (3,539)
【Fターム(参考)】
【公開日】平成22年10月14日(2010.10.14)
【国際特許分類】
【出願日】平成21年3月26日(2009.3.26)
【出願人】(000116024)ローム株式会社 (3,539)
【Fターム(参考)】
[ Back to top ]