撮像システム
【課題】1つの撮像素子を用いて立体画像を撮影する場合でも、より効果的な立体画像を撮影することができる撮像システムを提供する。
【解決手段】撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、主被写体を選択する被写体選択部と、単位画素あたりに2つ以上の光電変換部を有する撮像素子と、主被写体か否かに応じて、それぞれの単位画素の光電変換部を選択する光電変換部選択部と、選択された光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成部とを有する。
【解決手段】撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、主被写体を選択する被写体選択部と、単位画素あたりに2つ以上の光電変換部を有する撮像素子と、主被写体か否かに応じて、それぞれの単位画素の光電変換部を選択する光電変換部選択部と、選択された光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成部とを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は両眼視差を利用した立体的な画像を得るための撮像システムに関する。
【背景技術】
【0002】
3次元映像に関する需要は高く、長きに渡って研究開発が成されている。人間の目は左右それぞれが2次元画像を取得するが、水平方向に約6〜7cm離れており、右目による画像と左目による画像との間には対象物までの距離によって視差がある。この2つの画像を脳が処理して3次元立体画像を形成する。従来の立体映像を撮影するための装置としては、人間の目と同様に、カメラあるいは撮像素子を2つ用意したシステムが多い。左右のカメラで撮影した映像をそれぞれの目に分離して呈示することにより、奥行き感を得ることができる。
【0003】
ところで、撮影レンズの焦点状態を検出する方式の一つとして、センサの各画素にマイクロレンズが形成された2次元のセンサを用いて瞳分割方式の焦点検出を行う装置が特許文献1に開示されている。特許文献1の装置では、センサを構成する各画素の光電変換部が複数に分割され、分割された光電変換部がマイクロレンズを介して撮影レンズの瞳の異なる領域を受光するように構成されている。各マイクロレンズ下の左側の受光部出力と右側の受光部出力の像ズレ量から結像光学系の焦点状態を検出することができる。
【0004】
また、特許文献1では、この装置を用いた立体映像撮影の実現についても言及している。全ての画素の左側受光部の出力から第1の映像を作成し、全ての画素の右側受光部の出力から第2の映像を作成する。第1、第2の映像を立体映像再生装置で再生することにより、立体映像を得ることができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開昭58−24105号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、鑑賞者が感じる被写体の立体感は、前述の第1の映像と第2の映像の視差が小さくなるほど薄れ、視差が大きくなるほどより立体感を感じることができる。
【0007】
しかし、上述の従来技術では、立体映像を撮影できるものの、撮影者が立体感を選択できなかった。また、立体映像撮影時において、所望の被写体のみを強調して立体的に見えるようにしたい、近い被写体はより近くに遠い被写体はより遠くに見えるようにしたい、といった撮影者の多様な好みには対応していなかった。また、アプリなどで撮影した画像を立体処理する技術も開発されているが、撮影者の意図を反映することは難しかった。
【0008】
そこで、本発明は、1つの撮像素子を用いて立体画像を撮影する場合でも、より効果的な立体画像を撮影することができる撮像システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明に係わる撮像システムは、撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、主被写体を選択する被写体選択手段と、単位画素あたりに2つ以上の光電変換部を有する撮像素子と、前記主被写体か否かに応じて、それぞれの前記単位画素の前記光電変換部を選択する光電変換部選択手段と、選択された前記光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、を有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、1つの撮像素子を用いて立体画像を撮影する場合でも、より効果的な立体画像を撮影することができる撮像システムを提供することが可能となる。
【図面の簡単な説明】
【0011】
【図1】本発明の第1の実施形態に係る固体撮像装置のブロック図。
【図2】本発明の第1の実施形態に係る撮像素子の構成を説明するための図。
【図3】本発明の第1の実施形態に係る撮像素子の単位画素の構成を説明するための図。
【図4】本発明の第1の実施形態の撮像素子の構成図。
【図5】本発明の第1の実施形態の撮像素子の構成図。
【図6】本発明の第1の実施形態の撮像素子の構成図。
【図7】本発明の第1の実施形態の撮像素子の駆動タイミングチャート。
【図8】本発明の第1の実施形態の撮像素子を利用した立体画像撮影の原理を説明するための図。
【図9】本発明の第1の実施形態の撮像素子を利用した立体画像撮影の原理を説明するための図。
【図10】本発明の第1の実施形態の動作を説明するためのフローチャート。
【図11】立体画像撮影を説明するための構図例。
【図12】立体画像撮影によって得られた画像例。
【図13】第1の実施形態の変形例で用いられる光電変換部選択スイッチを示す図。
【図14】図13の光電変換部選択スイッチを用いた場合の撮像素子の構成を示す図。
【図15】本発明の第2の実施形態に係る撮像システムのブロック図。
【図16】本発明の第2の実施形態の動作を説明するためのフローチャート。
【図17】本発明の第3の実施形態に係る固体撮像装置のブロック図。
【図18】本発明の第3の実施形態の動作を説明するためのフローチャート。
【図19】第3の実施形態の立体画像撮影を説明するための構図例。
【図20】立体画像撮影によって得られた画像の距離マップの例。
【図21】立体画像撮影によって得られた画像例。
【図22】本発明の第4の実施形態の動作を説明するためのフローチャート。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態について、図面を参照して詳細に説明する。
【0013】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る撮像装置の全体構成を示すブロック図である。図1において、撮像素子101は、CMOS型の撮像素子であり、不図示の撮影レンズで結像された画像を取り込む。AFE(Analog Front End)102は、撮像素子からの信号の増幅や黒レベルの調整(OBクランプ)などを行う信号処理回路である。AFE102は、タイミング発生回路110からOBクランプタイミングやOBクランプ目標レベルなどを受け取り、それに従って処理を行う。そして、処理を行ったアナログ信号をデジタル信号に変換する。DFE(Digital Front End)103は、AFE102で変換された各画素のデジタル信号を受けて画像信号の補正や画素の並び替え等のデジタル処理などを行っている。画像処理装置105は、現像処理を行って表示回路108に画像を表示する、制御回路106を介して記録媒体109に記録する、といった処理を行う。なお、制御回路106はその他、操作部107からの指示を受けて、タイミング発生回路110に命令を送るなどの制御も行う。また、記録媒体109にはコンパクトフラッシュ(登録商標)メモリなどがある。メモリ回路(記憶部)104は、画像処理装置105の現像段階での作業用メモリに使用される。また、撮像が続いて行われて現像が間に合わないときのバッファメモリとしても使用される。操作部107には、デジタルカメラを起動させるための電源スイッチ、及び測光処理、測距処理などの撮影準備動作開始やミラー、シャッターを駆動して撮像素子101から読み出した信号を処理して記録媒体109に書き込む一連の撮像動作の開始を指示するシャッタースイッチなどが含まれる。
【0014】
図2及び図3は、撮像素子101の構成を説明するための図である。図2は撮像素子101の一部の画素を図示したものである。図2では、6行×6列の画素のみを図示したのみであるが、実際には数千行×数千列と多画素である。
【0015】
撮像素子101は、光電変換部(PD)上にR(赤)、G(緑)およびB(青)のそれぞれの波長帯域を透過するカラーフィルタが設けられたR画素、G画素、B画素を有する。R、G、Bをベイヤー状に配置し、1画素毎に1つのマイクロレンズ(ML)が配されている。各画素は破線で示されているように、水平方向に1つの画素内が4つに分割されている。
【0016】
図3は、撮像素子101の1画素(単位画素)の構造を表す図である。撮像素子101の単位画素30には、図のように水平方向に沿って4つの光電変換部(PD)301〜304が配列されている。本実施形態では1画素あたりの分割数は4つで説明しているが、これに限らない。水平方向だけでなく、垂直方向にも分割していても良い。
【0017】
図4は、本実施形態の撮像素子101の回路の一例を示す図である。図4の回路は、図3に示した単位画素30の回路であり、4つの光電変換部から構成されている。PD(フォトダイオード)401は、撮影レンズによって結像された光画像を受けて電荷を発生し、蓄積する。転送スイッチ402は、MOSトランジスタで構成されている。PD401で蓄積された電荷は転送スイッチ402を介してFD(フローティングディフュージョン部)404に転送されて電荷が電圧に変換され、ソースフォロワアンプ405から出力される。選択スイッチ406は、一行分の画素信号を一括して垂直出力線407に出力する。リセットスイッチ403は、FD404の電位、及び転送スイッチ402を介してPD401の電位をVDDにリセットする。このような構成の回路が水平方向に4つ並んで、単位画素を構成している。
【0018】
図5は、撮像素子の構成例を示すブロック図である。図5では、2×2画素分しか図示していないが、実際には数千×数千画素と多画素で構成される。垂直シフトレジスタ501は、行選択線Pres1、Ptx1、Psel1等の信号を画素領域508に出力する。画素領域508は単位画素509が格子状に配置された構成になっており、単位画素509は4つの光電変換部510から構成されている。単位画素509の回路構成は、図4に示した通りである。
【0019】
電流源507は、各垂直出力線407に接続される。読み出し回路502は、垂直出力線上の画素信号を入力し、画素信号をnチャネルMOSトランジスタ503を介して差動増幅器505に出力する。また、ノイズ信号をnチャネルMOSトランジスタ504を介して差動増幅器505に出力する。水平シフトレジスタ506は、トランジスタ503及び504のオン/オフを制御し、差動増幅器505は、画素信号とノイズ信号との差分を出力する。
【0020】
図4の転送スイッチ402のゲートは、横方向に延長して配置される第1の行選択線Ptx1(図5)に接続される。同じ行に配置された他の同様な転送スイッチ402のゲートも上記第1の行選択線Ptx1に共通に接続される。図4のリセットスイッチ403のゲートは、横方向に延長して配置される第2の行選択線Pres1(図5)に接続される。同じ行に配置された他の同様なリセットスイッチ403のゲートも上記第2の行選択線Pres1に共通に接続される。図4の選択スイッチ406のゲートは、横方向に延長して配置される第3の行選択線Psel1(図5)に接続される。同じ行に配置された他の同様な選択スイッチ406のゲートも上記第3の行選択線Psel1に共通に接続される。これら第1〜第3の行選択線Ptx1、Pres1、Psel1は、垂直シフトレジスタ501に接続されて駆動される。図5に示されている残りの行においても同様な構成の画素と、行選択線が設けられる。これらの行選択線は、上記垂直シフトレジスタ501に接続された行選択線Ptx2、Pres2、Psel2などである。
【0021】
上記選択スイッチ406のソースは、縦方向に延長して配置される垂直出力線の端子Voutに接続される。同じ列に配置される光電変換部の同様な選択スイッチ406のソースも上記垂直出力線の端子Voutに接続される。図5において、上記垂直出力線の端子Voutは負荷手段である定電流源507に接続される。
【0022】
図6は、図5に示した読み出し回路502のブロック1列分の回路例を示した図である。破線で囲った部分が列分(水平方向の光電変換部の数)だけあり、各垂直出力線には端子Voutが接続される。
【0023】
図7は、CMOS型の撮像素子の動作例を示すタイミングチャートである。フォトダイオード401からの光信号電荷の読み出しに先立って、リセットスイッチ403のゲート線Pres1がハイレベルとなる。これによって、増幅MOSトランジスタのゲートがリセット電源電圧にリセットされる。リセットスイッチ403のゲート線Pres1がローレベルに復帰すると同時にクランプスイッチのゲート線Pc0r(図6)がハイレベルになった後に、選択スイッチ406のゲート線Psel1がハイレベルとなる。これによって、リセットノイズが重畳されたリセット信号(ノイズ信号)が垂直出力線Voutに読み出され、各列のクランプ容量C0にクランプされる。次に、クランプスイッチのゲート線Pc0rがローレベルに復帰した後、ノイズ信号側転送スイッチのゲート線Pctnがハイレベルとなり、各列に設けられたノイズ保持容量Ctnにリセット信号が保持される。次に、画素信号側転送スイッチのゲート線Pctsをハイレベルにした後、転送スイッチ402のゲート線Ptx1がハイレベルとなり、フォトダイオード401の光信号電荷が、アンプ405のゲートに転送されると同時に光信号が垂直出力線Voutに読み出される。次に転送スイッチ402のゲート線Ptx1がローレベルに復帰した後、画素信号側転送スイッチのゲート線Pctsがローレベルとなる。これによって、リセット信号からの変化分(光信号)が各列に設けられた信号保持容量Ctsに読み出される。ここまでの動作で、第1行目に接続された光電変換部510の光信号がそれぞれの列に接続された信号保持容量Ctn、Ctsに保持される。
【0024】
この後、水平シフトレジスタ506から供給される信号Phによって、各列の水平転送スイッチゲートが順次ハイレベルとなる。信号保持容量Ctn,Ctsに保持されていた電圧は、順次水平出力線Chn,Chsに読み出され、出力アンプで差分処理されて出力端子OUTに順次出力される。各列の信号読み出しの合間でリセットスイッチによって水平出力線Chn,Chsがリセット電圧VCHRN、VCHRSにリセットされる。以上で、第1行目に接続された画素の読み出しが完了する。
【0025】
以下同様に、垂直シフトレジスタ501からの信号によって第2行目以降に接続された光電変換部の信号が順次読み出され、全画素(全光電変換部に蓄積された信号)の読み出しが完了する。なお、本実施形態の撮像素子は、1画素あたり水平方向に4つの光電変換部を配する構成になっている。各光電変換部で蓄積された電荷をそれぞれ読み出しており、1画素あたり4つの信号データを保持することになる。この信号データは、画像処理装置105で処理され、画像として表示回路108で表示、または記録媒体109に書き込まれる。もちろん、信号データを全て記録媒体109に書き込み、PC等で画像処理を行っても良い。また、2次元撮影モードの場合などには、4つの信号データの加算信号を1画素として画像生成しても良い。
【0026】
図4〜図7を用いて説明した本発明の第1の実施形態においては、光電変換部1つに対し垂直出力線1本としたが、本発明はこれに限定されず、複数の光電変換部で垂直出力線を共有する構成でも良い。この場合、垂直出力線を共有する複数の光電変換部の信号は、それぞれ読み出す時刻を変え、順に読み出す。
次に、図2のような画素構造を持つ撮像素子101を利用した立体画像撮影の原理について説明する。図8及び図9は、撮像素子101を利用した立体画像撮影の原理を説明するための図である。図8の単位画素30は図3と同様に撮像素子101の1画素を表したものであり、4つの光電変換部301〜304からなる。また、視差803は、撮影レンズ804における光電変換部302の瞳重心801と光電変換部303の瞳重心802との距離である。図8に示すように、射出瞳801を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部302に結像する。一方、射出瞳802を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部303に結像する。得られた情報は光電変換部302と光電変換部303とでは視差803に相当するずれが生じる。なお、対象物が手前にあるほど、視差803は大きくなる。
【0027】
図8に対し、図9は光電変換部301と光電変換部304を使用した場合を模式的に表している。視差903は、撮影レンズ804における光電変換部301の瞳重心901と光電変換部304の瞳重心902との距離である。射出瞳901を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部301に結像する。一方、射出瞳902を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部304に結像する。内側の光電変換部302と303を使った場合に比べ、外側の光電変換部301と304を使った場合の方が、ずれ量(視差 903)が大きくなる。つまり、同じ位置にある被写体を撮影し、同じように立体再生を行った場合、光電変換部302と光電変換部303から得られた信号から得られる立体像よりも、光電変換部301と光電変換部304から得られた信号から得られる立体像の方が、手前に位置しているように見える。
【0028】
図10は、本実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、図1の撮像装置を用いて撮影を実施する(ステップS1001)。操作部107での操作により、撮像装置を起動させ、所望の被写体に対し、測光・測距処理を行い、シャッターを押して撮影する。なお、この撮影動作の際に、撮影者が画面内の被写体位置を選択しても良い。
【0029】
続いて、撮像素子101の光電変換部(PD)に蓄積された電荷を前述の読み出し方法に従って読み出す(ステップS1002)。ここでは、各画素4つのPD全ての電荷がそれぞれ読み出される。読み出された信号はメモリ回路104に格納される。
【0030】
読み出された信号情報から主被写体の抽出(被写体選択)を行う(ステップS1003)。主被写体の抽出は、撮影時に撮影者が画面内の位置を選択しておいても良いし、読み出された信号から距離情報を算出して一番距離が短い位置にある被写体を主被写体としても良い。被写体までの距離の算出は色々な方法があるが、本実施形態の撮像素子101は各座標において視差を持った信号を得ることができるという特徴を持っており、視差を利用した三角測量法が好適である。例えば、画面を複数の画素からなる所定のブロックに分割し、各ブロックで距離を算出するといった方法がある。そして、所望の主被写体の抽出は、算出された距離情報から求めることができる。例えば、主被写体の座標を中心とし、その周囲の領域の距離と主被写体の中心座標における距離とを比較し、類似していたら周囲領域も主被写体として選択していくという方法がある。これを繰り返し、中心座標における距離と周囲領域の距離とにある閾値以上の差があった場合は、その領域は主被写体ではないとし、主被写体の抽出を終了する。また、撮影された画像において、選択された主被写体輪郭を形成するエッジを検出し、その内側領域を主被写体領域として抽出する方法もある。その他の公知技術によっても主被写体の抽出は実施可能である。
【0031】
図11は、撮影した画像の一例である。例えば、ステップS1001の撮影時に、主被写体1101を選択しておいたとする。まず、選択された座標(Xc,Yc)の距離dcを撮影されたデータから算出する。距離dcを基準として、周囲の領域の距離を比較してdcと一致すれば、その座標の画素は主被写体領域として抽出していく。主被写体までの距離dcと一致しているかの判定は、例えば0.90×dc〜1.10×dcの範囲内であれば一致、といった閾値を設定して行っても良い。また、距離分布をクラスタ分析し、統計的に判定を行っても良い。上記のような処理を行い、主被写体として抽出された領域に相当する座標情報をメモリ回路104に格納しておく(ステップS1004)。
【0032】
ステップS1005から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、画素データを順次読み出していく。ステップS1005からステップS1009の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0033】
読み出した画素(X,Y)に対し、主被写体領域か否かを判定する(ステップS1006)。ステップS1003とステップS1004で処理された主被写体領域情報と照合し、主被写体領域であればステップS1007に、そうでなければステップS1008に進む。
【0034】
主被写体の領域であった場合、外側PDからの信号を用いて(第1の方向に視差を有する)画像データとする。具体的には、図9を用いて説明すると、左目画像用にPD304のデータを読み出し、右目画像用にPD301のデータを読み出す(ステップS1007)。一方、主被写体の領域でなかった(主被写体に対応する画素以外の画素の)場合、内側PDからの信号を用いて画像データとする。すなわち、左目画像用にPD303のデータを読み出し、右目画像用にPD302のデータを読み出す(ステップS1008)。
【0035】
主被写体か否かに応じて選択されたPDのデータを当該画素のデータとして書き込む(ステップS1009)。なお、1画素あたり4つの光電変換部からなるため、1つの光電変換部に入射する光量は1/4になり、ここで得られる信号出力はほぼ1/4の光信号となる。光電変換部の分割分を考慮し、得られた信号出力に対し、画像処理装置105でゲイン補正を行う。ステップS1005からS1009を全画素終了まで繰り返す(ステップS1010)。
【0036】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置105にて現像処理をし、記録媒体109に保存する。図12に、保存された左目用画像1201と右目用画像1202の一例を示す。左目用画像の主被写体1203はPD304から読み出された信号からなり、それ以外の領域1205はPD303から読み出された信号からなる。一方、右目用画像の主被写体1204はPD301から読み出された信号からなり、それ以外の領域1206はPD302から読み出された信号からなる。このようにして得られ、記録媒体109により保存された左目用画像1201と右目用画像1202は、立体画像再生装置で再生すれば、主被写体をより立体的に見ることができる。
【0037】
なお、本実施形態では、撮像素子101で蓄積された電荷データを全PD分読み出したが、撮像素子101からの電荷読み出しの際に、主被写体の抽出と使用するPDの選択処理を行っても良い。その場合、例えば図13のような構成の光電変換部選択スイッチ130を設けることで実施可能である。図13の端子1301には、光電変換選択手段より制御される光電変換選択信号が入力される。端子1302は垂直出力線とつながっており、光電変換部からの電荷が入力される。そして、光電変換選択信号の制御により選択された光電変換部からの電荷を読み出すことができる。また、出力端Voutには、電流源1303が接続される。
【0038】
図14は、図13の光電変換部選択スイッチ130を用いた場合の撮像素子の構成を示す図である。垂直出力線407、垂直シフトレジスタ501から水平シフトレジスタ506、及び画素領域508から光電変換部510までの各構成は、図5と同様である。図5で各垂直出力線に設置していた電流源507は、光電変換部選択スイッチ130の中の電流源1303に置き換えられており、図14の構成では必要ない。垂直出力線407と読み出し回路60との間に光電変換部選択スイッチ130を配する。なお、図14の読み出し回路60は図6の読み出し回路の一部である。図14の場合、単位画素あたり4つのPDを水平に配し、左側2つのPDのうち1つを選択して読み出し、右側2つのPDのうち1つを選択して読み出すという構成になる。選択されたPDのみを読み出すため、読み出し回路を少なくすることが可能となる。また、電流源も同様に減らすことが可能となる。
【0039】
また、本実施形態では1画素あたりのPD数は4つであったが、分割数はそれ以上でも良い。特に、水平方向の分割数が多いほど、視差に差をつけることができる。例えば、被写体によって選択するPDを変えたり、撮影者の好みによって、使用するPDの組み合わせを選んだりすることができる。
【0040】
また、主被写体でない領域の画素について、PDは、左目用にPD302や301を、右目用にPD303や304を選択し、前述の視差とは異なる逆方向(第2の方向)の視差をつけて画像データを作成してもよい。このようにPDを選択することにより、主被写体とそうでない領域について視差情報のコントラストをつけることができ、より効果的に立体画像を作成することができる。
【0041】
本実施形態では、静止画撮影についてのみ説明したが、動画撮影においても好適である。なお動画の場合、主被写体の選択は前フレームで行い、それを追尾することで処理を高速化することも可能である。
【0042】
なお、本実施形態の撮像素子を用いて2次元画像撮影と3次元画像撮影の両方を実施することが可能である。2次元画像撮影の場合、1画素内の全てのPDからの電荷を加算して1画素の出力とする。加算処理は、全PDの電荷を読み出した後に画像処理装置などで行っても良い。図2のような1画素あたり4つのPDを持つ構成の画素の場合、その出力は4倍になる。一方、3次元画像撮影の場合には、左目画像用、右目画像用ともに1画素あたり1つのPD分の電荷から出力を得るため、2次元画像に対して出力が約1/4になる。そこで、3次元画像用に分割画素1つのみを読み出した場合は、ゲイン補正をかける。ゲイン補正をかけることによって、2次元画像撮影と3次元画像撮影とで画像の明るさを揃えることができる。
【0043】
また、撮像素子内に加算回路を持たせることにより、2次元画像撮影の場合には撮像素子内で1画素分の出力信号を算出して読み出しを行うこともできる。加算方法は、FDで加算する方法や読み出し回路で加算する方法などがある。この場合も、加算(2次元画像撮影)と非加算(3次元画像撮影)とで生じる出力レベル差をなくすようにゲイン補正を行うことが望ましい。
【0044】
(第2の実施形態)
本発明の第2の実施形態による撮像システムについて図面を参照して説明する。図15は、本発明の第2の実施形態に係る撮像システムの構成を示す図である。第2の実施形態は、複数の撮像装置1501〜1504からなる。撮像装置1501〜1504はそれぞれ、撮像素子を1つ有している。なお、この撮像素子は瞳分割していなくて良い。撮像装置1501〜1504がそれぞれ有する撮像素子で蓄積された電荷は画像処理装置1505で処理され、画像データは記録媒体1507にて保存される。また、この撮像システムは測距システム1508を備え、画面を複数の画素からなる所定のブロックに分割し、画面内のブロック毎の距離の検出が可能な機能を有する。
【0045】
図16は、第2の実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、撮影を実施する(ステップS1601)。ここでは、図示していないが、制御回路により、撮像装置1501〜1504が同期して撮影が行われるように制御して撮影する。また、この撮影動作時に、撮影者が主被写体を選択しても良い。
【0046】
続いて、各撮像装置の撮像素子に蓄積された電荷を読み出し、メモリ回路1506に格納する(ステップS1602)。各撮像装置の電荷を読み出すことにより、各画素について異なる視差情報を持つ4つの電荷データがメモリ回路1506に格納されることになる。
【0047】
読み出された信号情報から主被写体の抽出、及び主被写体領域データの格納を行う(ステップS1603、ステップS1604)。主被写体の抽出方法は、第1の実施形態と同様の方法で行うことができる。抽出された主被写体領域情報はメモリ回路1506に格納しておく。
【0048】
ステップS1605から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、メモリ回路1506に格納された画素データを順次読み出していく。ステップS1605からステップS1609の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0049】
読み出した画素(X,Y)に対し、主被写体領域か否かを判定する(ステップS1606)。ステップS1603とステップS1604で処理された主被写体領域情報と照合し、主被写体領域であればステップS1607に、そうでなければステップS1608に進む。
【0050】
主被写体の領域であった場合、外側カメラ(撮像装置)からの信号を用いて画像データとする(撮像装置選択)。すなわち、左目画像用に撮像装置1504のデータを読み出し、右目画像用に撮像装置1501のデータを読み出す(ステップS1607)。一方、主被写体の領域でなかった場合、内側カメラからの信号を用いて画像データとする。すなわち、左目画像用に撮像装置1503のデータを読み出し、右目画像用に撮像装置1502のデータを読み出す(ステップS1608)。主被写体か否かに応じて選択された撮像装置のデータを当該画素のデータとして書き込む(ステップS1609)。ステップS1605からS1609を全画素終了まで繰り返す(ステップS1610)。
【0051】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置1505にて現像処理をし、記録媒体1507に保存する。
【0052】
このようにして得られ、記録媒体1507により保存された左目用画像と右目用画像を立体画像再生装置で再生すれば、主被写体をより立体的に見ることができる。また、主被写体でない領域の画素については、左目用に撮像装置1502や1501を、右目用に撮像装置1503や1504を選択して画像データを作成してもよい。このように撮像装置を選択することにより、主被写体とそうでない領域について視差情報のコントラストをつけることができ、より効果的に立体画像を作成することができる。
【0053】
(第3の実施形態)
以下、第3の実施形態について説明する。図17に示す第3の実施形態の撮像システムの構成は、第1の実施形態を示す図1の撮像システムの構成とほとんど同じであり、測距システム111を有する点のみが異なる。また、第1の実施形態において図2〜図9を用いて説明した内容は、第3の実施形態においても同じである。
【0054】
図17は、第3の実施形態の撮像システムの構成を示す図である。図17において、測距システム111は、被写体までの距離を検出するシステムであり、ファインダ内の被写体情報全てに対して距離を検出する。検出された距離情報は、各画素単位に被写体との距離計測値を信号処理し、距離マップとして保持される。なお、測距方法としては、専用の外測AFモジュールを用いても良い。また、本実施形態で使用される撮像素子101は、各画素の光電変換部が複数に分割された構造になっており、各座標において視差を持った信号を得ることができる。この視差情報を利用して三角測量法により距離情報を得ても良い。距離マップについては、後で詳細に説明する。
【0055】
また、前述したように、撮像素子を構成する各画素の光電変換部が複数に分割され、分割された光電変換部がマイクロレンズを介して撮影レンズの瞳の異なる領域を受光するように構成されている。各マイクロレンズ下の左側の受光部出力と右側の受光部出力の像ズレ量から結像光学系の焦点状態を検出(焦点検出)することができる。
【0056】
ところで、視差は合焦位置では視差ゼロになり、それより前ピンでは画像が飛び出す方向、後ピンでは画像が後退する方向に生じる。この現象は、内側の光電変換部(図3のPD302,303)を使用する場合に比べて外側の光電変換部(図3のPD301,304)を使用すると強調される。
【0057】
図18は、本実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、図17の撮像装置を用いて撮影を実施する(ステップS1801)。操作部107での操作により、撮像装置を起動させ、所望の被写体に対し、測光・測距処理を行い、シャッターを押して撮影する。
【0058】
続いて、撮像素子101の光電変換部(PD)に蓄積された電荷を前述の読み出し方法に従って読み出す(ステップS1802)。ここでは、各画素4つのPD全ての電荷がそれぞれ読み出される。読み出された信号はメモリ回路104に格納される。
【0059】
読み出された信号情報から被写体距離を算出し、距離マップを作成する(ステップS1803)。被写体までの距離の算出は色々な方法があるが、本実施形態の撮像素子101は各座標において視差を持った信号を得ることができるという特徴を持っており、視差を利用した三角測量法が好適である。ステップS1802で読み出した、各画素4つのPDの電荷信号のうち最外郭のPD301とPD304の信号を用いて相関演算を行うなど公知の技術により距離を求めるのが好適である。このようにして算出された各画素の距離情報を距離マップとしてメモリ回路104に格納する。各画素の距離情報は、算出された距離をそのまま格納しても良いし、量子化して格納しても良い。例えば、至近から無限大までを4分割し、至近〜d1だったら0、d1〜d2だったら1、d2〜d3だったら2、d3〜無限大だったら3というように量子化し、メモリ回路104に格納すればメモリ容量を削減することができる。ここで、距離dnは任意の値であり、d1<d2<d3の関係にある(n=1,2,3,…,k)。また、ファインダ内の被写体を全て画像処理により抽出し、類似距離にある被写体ごとに、グループ分けして量子化してもよい。
【0060】
図19は撮影した画像の一例である。ステップS1802で読み出された、各画素の電荷信号より、各画素の距離情報を算出する。距離算出結果をもとに、距離マップを作成する。例えば、被写体1901が距離daで最も近く、0≦da<d1であれば、被写体1901に対応する画素の距離情報は0として格納する。また、被写体1901よりも遠く、背景よりは近い位置にいる被写体1902は距離dbで、d1≦db<d2であれば、被写体1902に対応する画素の距離情報は1として格納する。そして、被写体1903(背景)の距離がd3〜無限大であれば、対応する画素の距離情報は3を格納する。
【0061】
図19の点線のように、画像をブロック分割し、各ブロックにおいて距離情報を取得する。本実施形態では、水平方向7分割、垂直方向4分割の計28ブロックに分割したが、この限りではない。更に細かく、単位画素ごとに距離情報を持たせても良い。各々のブロックに対し、被写体までの距離を算出し、距離マップとしたものが図20である。図19の被写体1901に対応したブロックは距離情報0、被写体1902に対応したブロックは距離情報1、被写体1903に対応したブロックは距離情報3が格納されている。
【0062】
ここで、ブロックによっては、同一ブロック内に異なる距離に位置する被写体が混在している場合がある。その場合、後述するPDの選択の際に、実際に選択されるべきPDとは異なるPDが選択される領域が生じてしまう。すなわち、同じ被写体であっても領域によって異なるPDが選択されてしまうということが起こりうる。そのため、被写体抽出を行い、同一距離にある被写体に対しては、同じ距離情報を格納することが望ましい。例えば、図19のような画像情報を元に被写体抽出を行い、図20のブロック単位の距離マップを拡張して、単位画素ごとの距離を求め、単位画素ごとに距離マップを作成するのが好適である。例えば、図19の座標(Xk,Yk)の画素は、被写体1902内にあり、本来距離情報は1が格納されるべきであるが、図20のブロックごとの距離マップでは、3となっている。このような不具合は、被写体抽出を行うことで、同一被写体に関しては同じ距離情報、すなわち1を格納することができ、解消できる。上記のような処理を行い、撮影された画像の距離情報を距離マップとしてメモリ回路104に格納しておく(ステップS1804)。
【0063】
ステップS1805から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、画素データを順次読み出していく。ステップS1805からステップS1809の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0064】
読み出した画素(X,Y)に対し、選択するPDを決定する(ステップS1806)。ステップS1804で作成された距離マップから画素(X,Y)に対応した距離情報を読み出し、その値に応じてPD対を選択する。例えば、距離情報が0であった場合、外側PDからの信号を用いて画像データとする。具体的には、図9を用いて説明すると、左目画像用にPD304のデータを読み出し、右目画像用にPD301のデータを読み出す。また、距離情報が1であった場合、内側PDからの信号を用いて画像データとする。すなわち、左目画像用にPD303のデータを読み出し、右目画像用にPD302のデータを読み出す。距離情報が2であった場合、内側PDからの信号を用いるが、左右のPDを入れ替えて読み出す。すなわち、左目画像用にPD302のデータを読み出し、右目画像用にPD303のデータを読み出す。距離情報が3であった場合、左右のPDを入れ替えて外側PDからの信号を読み出す。つまり、左目画像用にPD301のデータを読み出し、右目画像用にPD304のデータを読み出す。
【0065】
被写体の距離に応じて選択されたPDのデータを当該画素のデータとして書き込む(ステップS1807)。なお、1画素あたり4つの光電変換部からなるため、ここで得られる信号出力はほぼ1/4の光信号となる。光電変換部の分割分を考慮し、得られた信号出力に対し、画像処理装置105でゲイン補正を行う。ステップS1805からS1807を全画素終了まで繰り返す(ステップS1808)。
【0066】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置105にて現像処理をし、記録媒体109に保存する。図21に、保存された左目用画像2101と右目用画像2102の一例を示す。ここで、最も近い位置にいた被写体1901は、左目用画像2101では被写体2103、右目用画像2102では被写体2104に相当する。同様に被写体1902は、被写体2105、被写体2106に相当し、被写体(背景)1903は、被写体2107、被写体2108に相当する。左目用画像2101の被写体2103はPD304から読み出された信号からなり、被写体2105はPD303から読み出された信号、被写体2107はPD301から読み出された信号からなる。一方、右目用画像2102の被写体2104はPD301から読み出された信号からなり、被写体2106はPD302から読み出された信号、被写体2108はPD304から読み出された信号からなる。このようにして得られ、記録媒体109により保存された左目用画像2101と右目用画像2102は、立体画像再生装置で再生すれば、被写体1901がより近くに、被写体1903がより遠方に見え、効果的な立体画像を見ることができる。
【0067】
なお、本実施形態では、撮像素子101で蓄積された電荷データを全PD分読み出した。しかし、予め専用の外測AFモジュールを用いて距離マップを別途取得しておけば、撮像素子101からの電荷読み出しの際に、被写体の距離に応じて使用するPDの選択を行って必要な電荷のみを読み出しても良い。その場合の構成、及び動作は、図13及び図14を用いて説明した第1の実施形態と同様である。
【0068】
また、本実施形態では1画素あたりのPD数は4つであったが、分割数はそれ以上でも良い。特に、水平方向の分割数が多いほど、視差に差をつけることができる。その場合、分割数に応じて距離マップの距離情報も細かく保持しておくと好適である。すなわち、本実施形態では、距離マップが保持する距離情報は0、1、2、3の4種類で説明したが、それ以上に増やしてもよい。または、撮影者の好みに応じて、距離によって使用するPDの組み合わせを選んでも良い。
【0069】
(第4の実施形態)
この第4の実施形態の撮像システムの構成は、図15に示した第2の実施形態の撮像システムの構成と同じであるので、その構成についての説明は省略し、動作についてのみ説明する。
【0070】
図22は、本発明の第4の実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、撮影を実施する(ステップS2201)。ここでは、図示していないが、制御回路により、撮像装置1501〜1504が同期して撮影が行われるように制御して撮影する。
【0071】
続いて、各撮像装置の撮像素子に蓄積された電荷を読み出し、メモリ回路1506に格納する(ステップS2202)。各撮像装置の電荷を読み出すことにより、各画素について異なる視差情報を持つ4つの電荷データがメモリ回路1506に格納されることになる。
【0072】
読み出された信号情報から被写体距離を算出し、距離マップを作成する(ステップS2203、ステップS2204)。被写体の距離情報取得方法は、第3の実施形態と同様の方法で行うことができる。作成された距離マップはメモリ回路1506に格納しておく。
【0073】
ステップS2205から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、メモリ回路1506に格納された画素データを順次読み出していく。ステップS2205からステップS2208の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0074】
読み出した画素(X,Y)に対し、選択するPDを決定する(ステップS2206)。ステップS2204で作成された距離マップから画素(X,Y)に対応した距離情報を読み出し、その値に応じてデータを使用するカメラ対を選択する。例えば、距離情報が0であった場合、外側カメラ(撮像装置)からの信号を用いて画像データとする。具体的には、左目画像用に撮像装置1504のデータを読み出し、右目画像用に撮像装置1501のデータを読み出す。また、距離情報が1であった場合、内側カメラ(撮像装置)からの信号を用いて画像データとする。すなわち、左目画像用に撮像装置1503のデータを読み出し、右目画像用に撮像装置1502のデータを読み出す。距離情報が2であった場合、内側の撮像装置からの信号を用いるが、左右の撮像装置を入れ替えて読み出す。すなわち、左目画像用に撮像装置1502のデータを読み出し、右目画像用に撮像装置1503のデータを読み出す。距離情報が3であった場合、左右の撮像装置を入れ替えて外側撮像装置からの信号を読み出す。つまり、左目画像用に撮像装置1501のデータを読み出し、右目画像用に撮像装置1504のデータを読み出す。
【0075】
被写体の距離に応じて選択されたPDのデータを当該画素のデータとして書き込む(ステップS2207)。ステップS2205からS2207を全画素終了まで繰り返す(ステップS2208)。
【0076】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置1505にて現像処理をし、記録媒体1507に保存する。このようにして得られ、記録媒体1507により保存された左目用画像と右目用画像は、立体画像再生装置で再生すれば、近い被写体はより近くに、遠い被写体はより遠くに、効果的な立体画像を見ることができる。
【0077】
(第5の実施形態)
第5の実施形態の撮像素子は、第3の実施形態と同じ構成であるので説明は省略する。第3の実施形態では、被写体の距離に応じて選択するPDを変えたが、本実施形態では、焦点が合っている被写体か否かで選択するPDを変える。撮影時に撮像装置のAF機能を使用すれば、どの被写体に焦点が合っているかがわかる。また、撮影者が焦点を合わせた被写体を入力しても良い。被写体に対し、焦点が合っているか否かの情報を、距離マップに持たせる。そして、焦点が合っている被写体の場合、内側のPDを選択する。なぜなら、焦点が合っている場合は全ての分割画素に同じ信号が入る。つまり、視差は生じない。ただし、より斜めに光が入射する外側のPDの方が入ってくる光が少ないため、外側のPDからの電荷を読み出した場合、内側のPDからの電荷を読み出して画像を取得するよりも暗い画像になる。そのため、焦点が合っている被写体は内側のPDを選択すると良い。
【0078】
その他の焦点が合っていない被写体に関しては、第3の実施形態と同様の方法でPDを選択すればよい。ただし、焦点が合っている被写体の距離を基準とし、それよりも近い被写体は外側のPDを選択し、焦点が合っている被写体よりも遠い被写体は左右を入れ替えてPDを選択するのが好ましい。例えば、図19のようなシーンを撮影した場合について説明する。被写体1901に焦点を合わせた場合、被写体1901に対しては、左目用画像にはPD303のデータを読み出し、右目用画像にはPD302のデータを読み出す。そして、被写体1901よりも遠い被写体1902は、内側のPDを左右入れ替えて選択し、左目用画像にはPD302のデータを、右目用画像にはPD303のデータを読み出す。更に遠い被写体1903は、左目用画像にはPD301を、右目用画像にはPD304のデータを読み出す。また、被写体1902に焦点を合わせた場合には、被写体1902に対して、左目用画像にはPD303のデータを、右目用画像にはPD302のデータを読み出す。被写体1902よりも近い距離にある被写体1901に対しては、左目用画像にはPD304のデータを、右目用画像にはPD301のデータを読み出す。そして、遠い距離にある被写体1903に対しては、左目用画像にPD301のデータを、右目用画像にPD304のデータを読み出す。
【0079】
このように、被写体のフォーカス情報を考慮してPDを選択することにより、より明るい画像を得ることができ、なおかつ効果的な立体画像を取得することができる。また、撮影時に絞りを絞っている時も外側のPDには光があまり入ってこない。そこで、絞って撮影した場合には、最外郭のPDは使用しない方が明るい画像を得ることができる。このように、撮影時の絞り値に応じて使用するPDを変えても良い。もしくは、最外郭のPDを使用した場合、その時の絞り値に応じてゲインをかけて補正を行っても良い。
【技術分野】
【0001】
本発明は両眼視差を利用した立体的な画像を得るための撮像システムに関する。
【背景技術】
【0002】
3次元映像に関する需要は高く、長きに渡って研究開発が成されている。人間の目は左右それぞれが2次元画像を取得するが、水平方向に約6〜7cm離れており、右目による画像と左目による画像との間には対象物までの距離によって視差がある。この2つの画像を脳が処理して3次元立体画像を形成する。従来の立体映像を撮影するための装置としては、人間の目と同様に、カメラあるいは撮像素子を2つ用意したシステムが多い。左右のカメラで撮影した映像をそれぞれの目に分離して呈示することにより、奥行き感を得ることができる。
【0003】
ところで、撮影レンズの焦点状態を検出する方式の一つとして、センサの各画素にマイクロレンズが形成された2次元のセンサを用いて瞳分割方式の焦点検出を行う装置が特許文献1に開示されている。特許文献1の装置では、センサを構成する各画素の光電変換部が複数に分割され、分割された光電変換部がマイクロレンズを介して撮影レンズの瞳の異なる領域を受光するように構成されている。各マイクロレンズ下の左側の受光部出力と右側の受光部出力の像ズレ量から結像光学系の焦点状態を検出することができる。
【0004】
また、特許文献1では、この装置を用いた立体映像撮影の実現についても言及している。全ての画素の左側受光部の出力から第1の映像を作成し、全ての画素の右側受光部の出力から第2の映像を作成する。第1、第2の映像を立体映像再生装置で再生することにより、立体映像を得ることができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開昭58−24105号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、鑑賞者が感じる被写体の立体感は、前述の第1の映像と第2の映像の視差が小さくなるほど薄れ、視差が大きくなるほどより立体感を感じることができる。
【0007】
しかし、上述の従来技術では、立体映像を撮影できるものの、撮影者が立体感を選択できなかった。また、立体映像撮影時において、所望の被写体のみを強調して立体的に見えるようにしたい、近い被写体はより近くに遠い被写体はより遠くに見えるようにしたい、といった撮影者の多様な好みには対応していなかった。また、アプリなどで撮影した画像を立体処理する技術も開発されているが、撮影者の意図を反映することは難しかった。
【0008】
そこで、本発明は、1つの撮像素子を用いて立体画像を撮影する場合でも、より効果的な立体画像を撮影することができる撮像システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明に係わる撮像システムは、撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、主被写体を選択する被写体選択手段と、単位画素あたりに2つ以上の光電変換部を有する撮像素子と、前記主被写体か否かに応じて、それぞれの前記単位画素の前記光電変換部を選択する光電変換部選択手段と、選択された前記光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、を有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、1つの撮像素子を用いて立体画像を撮影する場合でも、より効果的な立体画像を撮影することができる撮像システムを提供することが可能となる。
【図面の簡単な説明】
【0011】
【図1】本発明の第1の実施形態に係る固体撮像装置のブロック図。
【図2】本発明の第1の実施形態に係る撮像素子の構成を説明するための図。
【図3】本発明の第1の実施形態に係る撮像素子の単位画素の構成を説明するための図。
【図4】本発明の第1の実施形態の撮像素子の構成図。
【図5】本発明の第1の実施形態の撮像素子の構成図。
【図6】本発明の第1の実施形態の撮像素子の構成図。
【図7】本発明の第1の実施形態の撮像素子の駆動タイミングチャート。
【図8】本発明の第1の実施形態の撮像素子を利用した立体画像撮影の原理を説明するための図。
【図9】本発明の第1の実施形態の撮像素子を利用した立体画像撮影の原理を説明するための図。
【図10】本発明の第1の実施形態の動作を説明するためのフローチャート。
【図11】立体画像撮影を説明するための構図例。
【図12】立体画像撮影によって得られた画像例。
【図13】第1の実施形態の変形例で用いられる光電変換部選択スイッチを示す図。
【図14】図13の光電変換部選択スイッチを用いた場合の撮像素子の構成を示す図。
【図15】本発明の第2の実施形態に係る撮像システムのブロック図。
【図16】本発明の第2の実施形態の動作を説明するためのフローチャート。
【図17】本発明の第3の実施形態に係る固体撮像装置のブロック図。
【図18】本発明の第3の実施形態の動作を説明するためのフローチャート。
【図19】第3の実施形態の立体画像撮影を説明するための構図例。
【図20】立体画像撮影によって得られた画像の距離マップの例。
【図21】立体画像撮影によって得られた画像例。
【図22】本発明の第4の実施形態の動作を説明するためのフローチャート。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態について、図面を参照して詳細に説明する。
【0013】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る撮像装置の全体構成を示すブロック図である。図1において、撮像素子101は、CMOS型の撮像素子であり、不図示の撮影レンズで結像された画像を取り込む。AFE(Analog Front End)102は、撮像素子からの信号の増幅や黒レベルの調整(OBクランプ)などを行う信号処理回路である。AFE102は、タイミング発生回路110からOBクランプタイミングやOBクランプ目標レベルなどを受け取り、それに従って処理を行う。そして、処理を行ったアナログ信号をデジタル信号に変換する。DFE(Digital Front End)103は、AFE102で変換された各画素のデジタル信号を受けて画像信号の補正や画素の並び替え等のデジタル処理などを行っている。画像処理装置105は、現像処理を行って表示回路108に画像を表示する、制御回路106を介して記録媒体109に記録する、といった処理を行う。なお、制御回路106はその他、操作部107からの指示を受けて、タイミング発生回路110に命令を送るなどの制御も行う。また、記録媒体109にはコンパクトフラッシュ(登録商標)メモリなどがある。メモリ回路(記憶部)104は、画像処理装置105の現像段階での作業用メモリに使用される。また、撮像が続いて行われて現像が間に合わないときのバッファメモリとしても使用される。操作部107には、デジタルカメラを起動させるための電源スイッチ、及び測光処理、測距処理などの撮影準備動作開始やミラー、シャッターを駆動して撮像素子101から読み出した信号を処理して記録媒体109に書き込む一連の撮像動作の開始を指示するシャッタースイッチなどが含まれる。
【0014】
図2及び図3は、撮像素子101の構成を説明するための図である。図2は撮像素子101の一部の画素を図示したものである。図2では、6行×6列の画素のみを図示したのみであるが、実際には数千行×数千列と多画素である。
【0015】
撮像素子101は、光電変換部(PD)上にR(赤)、G(緑)およびB(青)のそれぞれの波長帯域を透過するカラーフィルタが設けられたR画素、G画素、B画素を有する。R、G、Bをベイヤー状に配置し、1画素毎に1つのマイクロレンズ(ML)が配されている。各画素は破線で示されているように、水平方向に1つの画素内が4つに分割されている。
【0016】
図3は、撮像素子101の1画素(単位画素)の構造を表す図である。撮像素子101の単位画素30には、図のように水平方向に沿って4つの光電変換部(PD)301〜304が配列されている。本実施形態では1画素あたりの分割数は4つで説明しているが、これに限らない。水平方向だけでなく、垂直方向にも分割していても良い。
【0017】
図4は、本実施形態の撮像素子101の回路の一例を示す図である。図4の回路は、図3に示した単位画素30の回路であり、4つの光電変換部から構成されている。PD(フォトダイオード)401は、撮影レンズによって結像された光画像を受けて電荷を発生し、蓄積する。転送スイッチ402は、MOSトランジスタで構成されている。PD401で蓄積された電荷は転送スイッチ402を介してFD(フローティングディフュージョン部)404に転送されて電荷が電圧に変換され、ソースフォロワアンプ405から出力される。選択スイッチ406は、一行分の画素信号を一括して垂直出力線407に出力する。リセットスイッチ403は、FD404の電位、及び転送スイッチ402を介してPD401の電位をVDDにリセットする。このような構成の回路が水平方向に4つ並んで、単位画素を構成している。
【0018】
図5は、撮像素子の構成例を示すブロック図である。図5では、2×2画素分しか図示していないが、実際には数千×数千画素と多画素で構成される。垂直シフトレジスタ501は、行選択線Pres1、Ptx1、Psel1等の信号を画素領域508に出力する。画素領域508は単位画素509が格子状に配置された構成になっており、単位画素509は4つの光電変換部510から構成されている。単位画素509の回路構成は、図4に示した通りである。
【0019】
電流源507は、各垂直出力線407に接続される。読み出し回路502は、垂直出力線上の画素信号を入力し、画素信号をnチャネルMOSトランジスタ503を介して差動増幅器505に出力する。また、ノイズ信号をnチャネルMOSトランジスタ504を介して差動増幅器505に出力する。水平シフトレジスタ506は、トランジスタ503及び504のオン/オフを制御し、差動増幅器505は、画素信号とノイズ信号との差分を出力する。
【0020】
図4の転送スイッチ402のゲートは、横方向に延長して配置される第1の行選択線Ptx1(図5)に接続される。同じ行に配置された他の同様な転送スイッチ402のゲートも上記第1の行選択線Ptx1に共通に接続される。図4のリセットスイッチ403のゲートは、横方向に延長して配置される第2の行選択線Pres1(図5)に接続される。同じ行に配置された他の同様なリセットスイッチ403のゲートも上記第2の行選択線Pres1に共通に接続される。図4の選択スイッチ406のゲートは、横方向に延長して配置される第3の行選択線Psel1(図5)に接続される。同じ行に配置された他の同様な選択スイッチ406のゲートも上記第3の行選択線Psel1に共通に接続される。これら第1〜第3の行選択線Ptx1、Pres1、Psel1は、垂直シフトレジスタ501に接続されて駆動される。図5に示されている残りの行においても同様な構成の画素と、行選択線が設けられる。これらの行選択線は、上記垂直シフトレジスタ501に接続された行選択線Ptx2、Pres2、Psel2などである。
【0021】
上記選択スイッチ406のソースは、縦方向に延長して配置される垂直出力線の端子Voutに接続される。同じ列に配置される光電変換部の同様な選択スイッチ406のソースも上記垂直出力線の端子Voutに接続される。図5において、上記垂直出力線の端子Voutは負荷手段である定電流源507に接続される。
【0022】
図6は、図5に示した読み出し回路502のブロック1列分の回路例を示した図である。破線で囲った部分が列分(水平方向の光電変換部の数)だけあり、各垂直出力線には端子Voutが接続される。
【0023】
図7は、CMOS型の撮像素子の動作例を示すタイミングチャートである。フォトダイオード401からの光信号電荷の読み出しに先立って、リセットスイッチ403のゲート線Pres1がハイレベルとなる。これによって、増幅MOSトランジスタのゲートがリセット電源電圧にリセットされる。リセットスイッチ403のゲート線Pres1がローレベルに復帰すると同時にクランプスイッチのゲート線Pc0r(図6)がハイレベルになった後に、選択スイッチ406のゲート線Psel1がハイレベルとなる。これによって、リセットノイズが重畳されたリセット信号(ノイズ信号)が垂直出力線Voutに読み出され、各列のクランプ容量C0にクランプされる。次に、クランプスイッチのゲート線Pc0rがローレベルに復帰した後、ノイズ信号側転送スイッチのゲート線Pctnがハイレベルとなり、各列に設けられたノイズ保持容量Ctnにリセット信号が保持される。次に、画素信号側転送スイッチのゲート線Pctsをハイレベルにした後、転送スイッチ402のゲート線Ptx1がハイレベルとなり、フォトダイオード401の光信号電荷が、アンプ405のゲートに転送されると同時に光信号が垂直出力線Voutに読み出される。次に転送スイッチ402のゲート線Ptx1がローレベルに復帰した後、画素信号側転送スイッチのゲート線Pctsがローレベルとなる。これによって、リセット信号からの変化分(光信号)が各列に設けられた信号保持容量Ctsに読み出される。ここまでの動作で、第1行目に接続された光電変換部510の光信号がそれぞれの列に接続された信号保持容量Ctn、Ctsに保持される。
【0024】
この後、水平シフトレジスタ506から供給される信号Phによって、各列の水平転送スイッチゲートが順次ハイレベルとなる。信号保持容量Ctn,Ctsに保持されていた電圧は、順次水平出力線Chn,Chsに読み出され、出力アンプで差分処理されて出力端子OUTに順次出力される。各列の信号読み出しの合間でリセットスイッチによって水平出力線Chn,Chsがリセット電圧VCHRN、VCHRSにリセットされる。以上で、第1行目に接続された画素の読み出しが完了する。
【0025】
以下同様に、垂直シフトレジスタ501からの信号によって第2行目以降に接続された光電変換部の信号が順次読み出され、全画素(全光電変換部に蓄積された信号)の読み出しが完了する。なお、本実施形態の撮像素子は、1画素あたり水平方向に4つの光電変換部を配する構成になっている。各光電変換部で蓄積された電荷をそれぞれ読み出しており、1画素あたり4つの信号データを保持することになる。この信号データは、画像処理装置105で処理され、画像として表示回路108で表示、または記録媒体109に書き込まれる。もちろん、信号データを全て記録媒体109に書き込み、PC等で画像処理を行っても良い。また、2次元撮影モードの場合などには、4つの信号データの加算信号を1画素として画像生成しても良い。
【0026】
図4〜図7を用いて説明した本発明の第1の実施形態においては、光電変換部1つに対し垂直出力線1本としたが、本発明はこれに限定されず、複数の光電変換部で垂直出力線を共有する構成でも良い。この場合、垂直出力線を共有する複数の光電変換部の信号は、それぞれ読み出す時刻を変え、順に読み出す。
次に、図2のような画素構造を持つ撮像素子101を利用した立体画像撮影の原理について説明する。図8及び図9は、撮像素子101を利用した立体画像撮影の原理を説明するための図である。図8の単位画素30は図3と同様に撮像素子101の1画素を表したものであり、4つの光電変換部301〜304からなる。また、視差803は、撮影レンズ804における光電変換部302の瞳重心801と光電変換部303の瞳重心802との距離である。図8に示すように、射出瞳801を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部302に結像する。一方、射出瞳802を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部303に結像する。得られた情報は光電変換部302と光電変換部303とでは視差803に相当するずれが生じる。なお、対象物が手前にあるほど、視差803は大きくなる。
【0027】
図8に対し、図9は光電変換部301と光電変換部304を使用した場合を模式的に表している。視差903は、撮影レンズ804における光電変換部301の瞳重心901と光電変換部304の瞳重心902との距離である。射出瞳901を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部301に結像する。一方、射出瞳902を通過した光束がマイクロレンズ(ML)及びカラーフィルタ(CF)を透過して光電変換部304に結像する。内側の光電変換部302と303を使った場合に比べ、外側の光電変換部301と304を使った場合の方が、ずれ量(視差 903)が大きくなる。つまり、同じ位置にある被写体を撮影し、同じように立体再生を行った場合、光電変換部302と光電変換部303から得られた信号から得られる立体像よりも、光電変換部301と光電変換部304から得られた信号から得られる立体像の方が、手前に位置しているように見える。
【0028】
図10は、本実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、図1の撮像装置を用いて撮影を実施する(ステップS1001)。操作部107での操作により、撮像装置を起動させ、所望の被写体に対し、測光・測距処理を行い、シャッターを押して撮影する。なお、この撮影動作の際に、撮影者が画面内の被写体位置を選択しても良い。
【0029】
続いて、撮像素子101の光電変換部(PD)に蓄積された電荷を前述の読み出し方法に従って読み出す(ステップS1002)。ここでは、各画素4つのPD全ての電荷がそれぞれ読み出される。読み出された信号はメモリ回路104に格納される。
【0030】
読み出された信号情報から主被写体の抽出(被写体選択)を行う(ステップS1003)。主被写体の抽出は、撮影時に撮影者が画面内の位置を選択しておいても良いし、読み出された信号から距離情報を算出して一番距離が短い位置にある被写体を主被写体としても良い。被写体までの距離の算出は色々な方法があるが、本実施形態の撮像素子101は各座標において視差を持った信号を得ることができるという特徴を持っており、視差を利用した三角測量法が好適である。例えば、画面を複数の画素からなる所定のブロックに分割し、各ブロックで距離を算出するといった方法がある。そして、所望の主被写体の抽出は、算出された距離情報から求めることができる。例えば、主被写体の座標を中心とし、その周囲の領域の距離と主被写体の中心座標における距離とを比較し、類似していたら周囲領域も主被写体として選択していくという方法がある。これを繰り返し、中心座標における距離と周囲領域の距離とにある閾値以上の差があった場合は、その領域は主被写体ではないとし、主被写体の抽出を終了する。また、撮影された画像において、選択された主被写体輪郭を形成するエッジを検出し、その内側領域を主被写体領域として抽出する方法もある。その他の公知技術によっても主被写体の抽出は実施可能である。
【0031】
図11は、撮影した画像の一例である。例えば、ステップS1001の撮影時に、主被写体1101を選択しておいたとする。まず、選択された座標(Xc,Yc)の距離dcを撮影されたデータから算出する。距離dcを基準として、周囲の領域の距離を比較してdcと一致すれば、その座標の画素は主被写体領域として抽出していく。主被写体までの距離dcと一致しているかの判定は、例えば0.90×dc〜1.10×dcの範囲内であれば一致、といった閾値を設定して行っても良い。また、距離分布をクラスタ分析し、統計的に判定を行っても良い。上記のような処理を行い、主被写体として抽出された領域に相当する座標情報をメモリ回路104に格納しておく(ステップS1004)。
【0032】
ステップS1005から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、画素データを順次読み出していく。ステップS1005からステップS1009の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0033】
読み出した画素(X,Y)に対し、主被写体領域か否かを判定する(ステップS1006)。ステップS1003とステップS1004で処理された主被写体領域情報と照合し、主被写体領域であればステップS1007に、そうでなければステップS1008に進む。
【0034】
主被写体の領域であった場合、外側PDからの信号を用いて(第1の方向に視差を有する)画像データとする。具体的には、図9を用いて説明すると、左目画像用にPD304のデータを読み出し、右目画像用にPD301のデータを読み出す(ステップS1007)。一方、主被写体の領域でなかった(主被写体に対応する画素以外の画素の)場合、内側PDからの信号を用いて画像データとする。すなわち、左目画像用にPD303のデータを読み出し、右目画像用にPD302のデータを読み出す(ステップS1008)。
【0035】
主被写体か否かに応じて選択されたPDのデータを当該画素のデータとして書き込む(ステップS1009)。なお、1画素あたり4つの光電変換部からなるため、1つの光電変換部に入射する光量は1/4になり、ここで得られる信号出力はほぼ1/4の光信号となる。光電変換部の分割分を考慮し、得られた信号出力に対し、画像処理装置105でゲイン補正を行う。ステップS1005からS1009を全画素終了まで繰り返す(ステップS1010)。
【0036】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置105にて現像処理をし、記録媒体109に保存する。図12に、保存された左目用画像1201と右目用画像1202の一例を示す。左目用画像の主被写体1203はPD304から読み出された信号からなり、それ以外の領域1205はPD303から読み出された信号からなる。一方、右目用画像の主被写体1204はPD301から読み出された信号からなり、それ以外の領域1206はPD302から読み出された信号からなる。このようにして得られ、記録媒体109により保存された左目用画像1201と右目用画像1202は、立体画像再生装置で再生すれば、主被写体をより立体的に見ることができる。
【0037】
なお、本実施形態では、撮像素子101で蓄積された電荷データを全PD分読み出したが、撮像素子101からの電荷読み出しの際に、主被写体の抽出と使用するPDの選択処理を行っても良い。その場合、例えば図13のような構成の光電変換部選択スイッチ130を設けることで実施可能である。図13の端子1301には、光電変換選択手段より制御される光電変換選択信号が入力される。端子1302は垂直出力線とつながっており、光電変換部からの電荷が入力される。そして、光電変換選択信号の制御により選択された光電変換部からの電荷を読み出すことができる。また、出力端Voutには、電流源1303が接続される。
【0038】
図14は、図13の光電変換部選択スイッチ130を用いた場合の撮像素子の構成を示す図である。垂直出力線407、垂直シフトレジスタ501から水平シフトレジスタ506、及び画素領域508から光電変換部510までの各構成は、図5と同様である。図5で各垂直出力線に設置していた電流源507は、光電変換部選択スイッチ130の中の電流源1303に置き換えられており、図14の構成では必要ない。垂直出力線407と読み出し回路60との間に光電変換部選択スイッチ130を配する。なお、図14の読み出し回路60は図6の読み出し回路の一部である。図14の場合、単位画素あたり4つのPDを水平に配し、左側2つのPDのうち1つを選択して読み出し、右側2つのPDのうち1つを選択して読み出すという構成になる。選択されたPDのみを読み出すため、読み出し回路を少なくすることが可能となる。また、電流源も同様に減らすことが可能となる。
【0039】
また、本実施形態では1画素あたりのPD数は4つであったが、分割数はそれ以上でも良い。特に、水平方向の分割数が多いほど、視差に差をつけることができる。例えば、被写体によって選択するPDを変えたり、撮影者の好みによって、使用するPDの組み合わせを選んだりすることができる。
【0040】
また、主被写体でない領域の画素について、PDは、左目用にPD302や301を、右目用にPD303や304を選択し、前述の視差とは異なる逆方向(第2の方向)の視差をつけて画像データを作成してもよい。このようにPDを選択することにより、主被写体とそうでない領域について視差情報のコントラストをつけることができ、より効果的に立体画像を作成することができる。
【0041】
本実施形態では、静止画撮影についてのみ説明したが、動画撮影においても好適である。なお動画の場合、主被写体の選択は前フレームで行い、それを追尾することで処理を高速化することも可能である。
【0042】
なお、本実施形態の撮像素子を用いて2次元画像撮影と3次元画像撮影の両方を実施することが可能である。2次元画像撮影の場合、1画素内の全てのPDからの電荷を加算して1画素の出力とする。加算処理は、全PDの電荷を読み出した後に画像処理装置などで行っても良い。図2のような1画素あたり4つのPDを持つ構成の画素の場合、その出力は4倍になる。一方、3次元画像撮影の場合には、左目画像用、右目画像用ともに1画素あたり1つのPD分の電荷から出力を得るため、2次元画像に対して出力が約1/4になる。そこで、3次元画像用に分割画素1つのみを読み出した場合は、ゲイン補正をかける。ゲイン補正をかけることによって、2次元画像撮影と3次元画像撮影とで画像の明るさを揃えることができる。
【0043】
また、撮像素子内に加算回路を持たせることにより、2次元画像撮影の場合には撮像素子内で1画素分の出力信号を算出して読み出しを行うこともできる。加算方法は、FDで加算する方法や読み出し回路で加算する方法などがある。この場合も、加算(2次元画像撮影)と非加算(3次元画像撮影)とで生じる出力レベル差をなくすようにゲイン補正を行うことが望ましい。
【0044】
(第2の実施形態)
本発明の第2の実施形態による撮像システムについて図面を参照して説明する。図15は、本発明の第2の実施形態に係る撮像システムの構成を示す図である。第2の実施形態は、複数の撮像装置1501〜1504からなる。撮像装置1501〜1504はそれぞれ、撮像素子を1つ有している。なお、この撮像素子は瞳分割していなくて良い。撮像装置1501〜1504がそれぞれ有する撮像素子で蓄積された電荷は画像処理装置1505で処理され、画像データは記録媒体1507にて保存される。また、この撮像システムは測距システム1508を備え、画面を複数の画素からなる所定のブロックに分割し、画面内のブロック毎の距離の検出が可能な機能を有する。
【0045】
図16は、第2の実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、撮影を実施する(ステップS1601)。ここでは、図示していないが、制御回路により、撮像装置1501〜1504が同期して撮影が行われるように制御して撮影する。また、この撮影動作時に、撮影者が主被写体を選択しても良い。
【0046】
続いて、各撮像装置の撮像素子に蓄積された電荷を読み出し、メモリ回路1506に格納する(ステップS1602)。各撮像装置の電荷を読み出すことにより、各画素について異なる視差情報を持つ4つの電荷データがメモリ回路1506に格納されることになる。
【0047】
読み出された信号情報から主被写体の抽出、及び主被写体領域データの格納を行う(ステップS1603、ステップS1604)。主被写体の抽出方法は、第1の実施形態と同様の方法で行うことができる。抽出された主被写体領域情報はメモリ回路1506に格納しておく。
【0048】
ステップS1605から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、メモリ回路1506に格納された画素データを順次読み出していく。ステップS1605からステップS1609の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0049】
読み出した画素(X,Y)に対し、主被写体領域か否かを判定する(ステップS1606)。ステップS1603とステップS1604で処理された主被写体領域情報と照合し、主被写体領域であればステップS1607に、そうでなければステップS1608に進む。
【0050】
主被写体の領域であった場合、外側カメラ(撮像装置)からの信号を用いて画像データとする(撮像装置選択)。すなわち、左目画像用に撮像装置1504のデータを読み出し、右目画像用に撮像装置1501のデータを読み出す(ステップS1607)。一方、主被写体の領域でなかった場合、内側カメラからの信号を用いて画像データとする。すなわち、左目画像用に撮像装置1503のデータを読み出し、右目画像用に撮像装置1502のデータを読み出す(ステップS1608)。主被写体か否かに応じて選択された撮像装置のデータを当該画素のデータとして書き込む(ステップS1609)。ステップS1605からS1609を全画素終了まで繰り返す(ステップS1610)。
【0051】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置1505にて現像処理をし、記録媒体1507に保存する。
【0052】
このようにして得られ、記録媒体1507により保存された左目用画像と右目用画像を立体画像再生装置で再生すれば、主被写体をより立体的に見ることができる。また、主被写体でない領域の画素については、左目用に撮像装置1502や1501を、右目用に撮像装置1503や1504を選択して画像データを作成してもよい。このように撮像装置を選択することにより、主被写体とそうでない領域について視差情報のコントラストをつけることができ、より効果的に立体画像を作成することができる。
【0053】
(第3の実施形態)
以下、第3の実施形態について説明する。図17に示す第3の実施形態の撮像システムの構成は、第1の実施形態を示す図1の撮像システムの構成とほとんど同じであり、測距システム111を有する点のみが異なる。また、第1の実施形態において図2〜図9を用いて説明した内容は、第3の実施形態においても同じである。
【0054】
図17は、第3の実施形態の撮像システムの構成を示す図である。図17において、測距システム111は、被写体までの距離を検出するシステムであり、ファインダ内の被写体情報全てに対して距離を検出する。検出された距離情報は、各画素単位に被写体との距離計測値を信号処理し、距離マップとして保持される。なお、測距方法としては、専用の外測AFモジュールを用いても良い。また、本実施形態で使用される撮像素子101は、各画素の光電変換部が複数に分割された構造になっており、各座標において視差を持った信号を得ることができる。この視差情報を利用して三角測量法により距離情報を得ても良い。距離マップについては、後で詳細に説明する。
【0055】
また、前述したように、撮像素子を構成する各画素の光電変換部が複数に分割され、分割された光電変換部がマイクロレンズを介して撮影レンズの瞳の異なる領域を受光するように構成されている。各マイクロレンズ下の左側の受光部出力と右側の受光部出力の像ズレ量から結像光学系の焦点状態を検出(焦点検出)することができる。
【0056】
ところで、視差は合焦位置では視差ゼロになり、それより前ピンでは画像が飛び出す方向、後ピンでは画像が後退する方向に生じる。この現象は、内側の光電変換部(図3のPD302,303)を使用する場合に比べて外側の光電変換部(図3のPD301,304)を使用すると強調される。
【0057】
図18は、本実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、図17の撮像装置を用いて撮影を実施する(ステップS1801)。操作部107での操作により、撮像装置を起動させ、所望の被写体に対し、測光・測距処理を行い、シャッターを押して撮影する。
【0058】
続いて、撮像素子101の光電変換部(PD)に蓄積された電荷を前述の読み出し方法に従って読み出す(ステップS1802)。ここでは、各画素4つのPD全ての電荷がそれぞれ読み出される。読み出された信号はメモリ回路104に格納される。
【0059】
読み出された信号情報から被写体距離を算出し、距離マップを作成する(ステップS1803)。被写体までの距離の算出は色々な方法があるが、本実施形態の撮像素子101は各座標において視差を持った信号を得ることができるという特徴を持っており、視差を利用した三角測量法が好適である。ステップS1802で読み出した、各画素4つのPDの電荷信号のうち最外郭のPD301とPD304の信号を用いて相関演算を行うなど公知の技術により距離を求めるのが好適である。このようにして算出された各画素の距離情報を距離マップとしてメモリ回路104に格納する。各画素の距離情報は、算出された距離をそのまま格納しても良いし、量子化して格納しても良い。例えば、至近から無限大までを4分割し、至近〜d1だったら0、d1〜d2だったら1、d2〜d3だったら2、d3〜無限大だったら3というように量子化し、メモリ回路104に格納すればメモリ容量を削減することができる。ここで、距離dnは任意の値であり、d1<d2<d3の関係にある(n=1,2,3,…,k)。また、ファインダ内の被写体を全て画像処理により抽出し、類似距離にある被写体ごとに、グループ分けして量子化してもよい。
【0060】
図19は撮影した画像の一例である。ステップS1802で読み出された、各画素の電荷信号より、各画素の距離情報を算出する。距離算出結果をもとに、距離マップを作成する。例えば、被写体1901が距離daで最も近く、0≦da<d1であれば、被写体1901に対応する画素の距離情報は0として格納する。また、被写体1901よりも遠く、背景よりは近い位置にいる被写体1902は距離dbで、d1≦db<d2であれば、被写体1902に対応する画素の距離情報は1として格納する。そして、被写体1903(背景)の距離がd3〜無限大であれば、対応する画素の距離情報は3を格納する。
【0061】
図19の点線のように、画像をブロック分割し、各ブロックにおいて距離情報を取得する。本実施形態では、水平方向7分割、垂直方向4分割の計28ブロックに分割したが、この限りではない。更に細かく、単位画素ごとに距離情報を持たせても良い。各々のブロックに対し、被写体までの距離を算出し、距離マップとしたものが図20である。図19の被写体1901に対応したブロックは距離情報0、被写体1902に対応したブロックは距離情報1、被写体1903に対応したブロックは距離情報3が格納されている。
【0062】
ここで、ブロックによっては、同一ブロック内に異なる距離に位置する被写体が混在している場合がある。その場合、後述するPDの選択の際に、実際に選択されるべきPDとは異なるPDが選択される領域が生じてしまう。すなわち、同じ被写体であっても領域によって異なるPDが選択されてしまうということが起こりうる。そのため、被写体抽出を行い、同一距離にある被写体に対しては、同じ距離情報を格納することが望ましい。例えば、図19のような画像情報を元に被写体抽出を行い、図20のブロック単位の距離マップを拡張して、単位画素ごとの距離を求め、単位画素ごとに距離マップを作成するのが好適である。例えば、図19の座標(Xk,Yk)の画素は、被写体1902内にあり、本来距離情報は1が格納されるべきであるが、図20のブロックごとの距離マップでは、3となっている。このような不具合は、被写体抽出を行うことで、同一被写体に関しては同じ距離情報、すなわち1を格納することができ、解消できる。上記のような処理を行い、撮影された画像の距離情報を距離マップとしてメモリ回路104に格納しておく(ステップS1804)。
【0063】
ステップS1805から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、画素データを順次読み出していく。ステップS1805からステップS1809の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0064】
読み出した画素(X,Y)に対し、選択するPDを決定する(ステップS1806)。ステップS1804で作成された距離マップから画素(X,Y)に対応した距離情報を読み出し、その値に応じてPD対を選択する。例えば、距離情報が0であった場合、外側PDからの信号を用いて画像データとする。具体的には、図9を用いて説明すると、左目画像用にPD304のデータを読み出し、右目画像用にPD301のデータを読み出す。また、距離情報が1であった場合、内側PDからの信号を用いて画像データとする。すなわち、左目画像用にPD303のデータを読み出し、右目画像用にPD302のデータを読み出す。距離情報が2であった場合、内側PDからの信号を用いるが、左右のPDを入れ替えて読み出す。すなわち、左目画像用にPD302のデータを読み出し、右目画像用にPD303のデータを読み出す。距離情報が3であった場合、左右のPDを入れ替えて外側PDからの信号を読み出す。つまり、左目画像用にPD301のデータを読み出し、右目画像用にPD304のデータを読み出す。
【0065】
被写体の距離に応じて選択されたPDのデータを当該画素のデータとして書き込む(ステップS1807)。なお、1画素あたり4つの光電変換部からなるため、ここで得られる信号出力はほぼ1/4の光信号となる。光電変換部の分割分を考慮し、得られた信号出力に対し、画像処理装置105でゲイン補正を行う。ステップS1805からS1807を全画素終了まで繰り返す(ステップS1808)。
【0066】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置105にて現像処理をし、記録媒体109に保存する。図21に、保存された左目用画像2101と右目用画像2102の一例を示す。ここで、最も近い位置にいた被写体1901は、左目用画像2101では被写体2103、右目用画像2102では被写体2104に相当する。同様に被写体1902は、被写体2105、被写体2106に相当し、被写体(背景)1903は、被写体2107、被写体2108に相当する。左目用画像2101の被写体2103はPD304から読み出された信号からなり、被写体2105はPD303から読み出された信号、被写体2107はPD301から読み出された信号からなる。一方、右目用画像2102の被写体2104はPD301から読み出された信号からなり、被写体2106はPD302から読み出された信号、被写体2108はPD304から読み出された信号からなる。このようにして得られ、記録媒体109により保存された左目用画像2101と右目用画像2102は、立体画像再生装置で再生すれば、被写体1901がより近くに、被写体1903がより遠方に見え、効果的な立体画像を見ることができる。
【0067】
なお、本実施形態では、撮像素子101で蓄積された電荷データを全PD分読み出した。しかし、予め専用の外測AFモジュールを用いて距離マップを別途取得しておけば、撮像素子101からの電荷読み出しの際に、被写体の距離に応じて使用するPDの選択を行って必要な電荷のみを読み出しても良い。その場合の構成、及び動作は、図13及び図14を用いて説明した第1の実施形態と同様である。
【0068】
また、本実施形態では1画素あたりのPD数は4つであったが、分割数はそれ以上でも良い。特に、水平方向の分割数が多いほど、視差に差をつけることができる。その場合、分割数に応じて距離マップの距離情報も細かく保持しておくと好適である。すなわち、本実施形態では、距離マップが保持する距離情報は0、1、2、3の4種類で説明したが、それ以上に増やしてもよい。または、撮影者の好みに応じて、距離によって使用するPDの組み合わせを選んでも良い。
【0069】
(第4の実施形態)
この第4の実施形態の撮像システムの構成は、図15に示した第2の実施形態の撮像システムの構成と同じであるので、その構成についての説明は省略し、動作についてのみ説明する。
【0070】
図22は、本発明の第4の実施形態の撮像システムで行う立体画像取得の流れを説明するフローチャートである。まず、撮影を実施する(ステップS2201)。ここでは、図示していないが、制御回路により、撮像装置1501〜1504が同期して撮影が行われるように制御して撮影する。
【0071】
続いて、各撮像装置の撮像素子に蓄積された電荷を読み出し、メモリ回路1506に格納する(ステップS2202)。各撮像装置の電荷を読み出すことにより、各画素について異なる視差情報を持つ4つの電荷データがメモリ回路1506に格納されることになる。
【0072】
読み出された信号情報から被写体距離を算出し、距離マップを作成する(ステップS2203、ステップS2204)。被写体の距離情報取得方法は、第3の実施形態と同様の方法で行うことができる。作成された距離マップはメモリ回路1506に格納しておく。
【0073】
ステップS2205から左目用画像、及び右目用画像作成処理を行う。画像データ作成のために、メモリ回路1506に格納された画素データを順次読み出していく。ステップS2205からステップS2208の処理を全画素終了まで繰り返す。画素データの読み出しは、例えば画像の左上をスタートとし、水平方向に読み出し、1行終了したら次の行の読み出し、といったように走査していく。
【0074】
読み出した画素(X,Y)に対し、選択するPDを決定する(ステップS2206)。ステップS2204で作成された距離マップから画素(X,Y)に対応した距離情報を読み出し、その値に応じてデータを使用するカメラ対を選択する。例えば、距離情報が0であった場合、外側カメラ(撮像装置)からの信号を用いて画像データとする。具体的には、左目画像用に撮像装置1504のデータを読み出し、右目画像用に撮像装置1501のデータを読み出す。また、距離情報が1であった場合、内側カメラ(撮像装置)からの信号を用いて画像データとする。すなわち、左目画像用に撮像装置1503のデータを読み出し、右目画像用に撮像装置1502のデータを読み出す。距離情報が2であった場合、内側の撮像装置からの信号を用いるが、左右の撮像装置を入れ替えて読み出す。すなわち、左目画像用に撮像装置1502のデータを読み出し、右目画像用に撮像装置1503のデータを読み出す。距離情報が3であった場合、左右の撮像装置を入れ替えて外側撮像装置からの信号を読み出す。つまり、左目画像用に撮像装置1501のデータを読み出し、右目画像用に撮像装置1504のデータを読み出す。
【0075】
被写体の距離に応じて選択されたPDのデータを当該画素のデータとして書き込む(ステップS2207)。ステップS2205からS2207を全画素終了まで繰り返す(ステップS2208)。
【0076】
以上より、本実施形態の撮像システムにおける画像撮影から画像データ作成までの一連の処理は終了である。書き出された左目用画像データと右目用画像データは、画像処理装置1505にて現像処理をし、記録媒体1507に保存する。このようにして得られ、記録媒体1507により保存された左目用画像と右目用画像は、立体画像再生装置で再生すれば、近い被写体はより近くに、遠い被写体はより遠くに、効果的な立体画像を見ることができる。
【0077】
(第5の実施形態)
第5の実施形態の撮像素子は、第3の実施形態と同じ構成であるので説明は省略する。第3の実施形態では、被写体の距離に応じて選択するPDを変えたが、本実施形態では、焦点が合っている被写体か否かで選択するPDを変える。撮影時に撮像装置のAF機能を使用すれば、どの被写体に焦点が合っているかがわかる。また、撮影者が焦点を合わせた被写体を入力しても良い。被写体に対し、焦点が合っているか否かの情報を、距離マップに持たせる。そして、焦点が合っている被写体の場合、内側のPDを選択する。なぜなら、焦点が合っている場合は全ての分割画素に同じ信号が入る。つまり、視差は生じない。ただし、より斜めに光が入射する外側のPDの方が入ってくる光が少ないため、外側のPDからの電荷を読み出した場合、内側のPDからの電荷を読み出して画像を取得するよりも暗い画像になる。そのため、焦点が合っている被写体は内側のPDを選択すると良い。
【0078】
その他の焦点が合っていない被写体に関しては、第3の実施形態と同様の方法でPDを選択すればよい。ただし、焦点が合っている被写体の距離を基準とし、それよりも近い被写体は外側のPDを選択し、焦点が合っている被写体よりも遠い被写体は左右を入れ替えてPDを選択するのが好ましい。例えば、図19のようなシーンを撮影した場合について説明する。被写体1901に焦点を合わせた場合、被写体1901に対しては、左目用画像にはPD303のデータを読み出し、右目用画像にはPD302のデータを読み出す。そして、被写体1901よりも遠い被写体1902は、内側のPDを左右入れ替えて選択し、左目用画像にはPD302のデータを、右目用画像にはPD303のデータを読み出す。更に遠い被写体1903は、左目用画像にはPD301を、右目用画像にはPD304のデータを読み出す。また、被写体1902に焦点を合わせた場合には、被写体1902に対して、左目用画像にはPD303のデータを、右目用画像にはPD302のデータを読み出す。被写体1902よりも近い距離にある被写体1901に対しては、左目用画像にはPD304のデータを、右目用画像にはPD301のデータを読み出す。そして、遠い距離にある被写体1903に対しては、左目用画像にPD301のデータを、右目用画像にPD304のデータを読み出す。
【0079】
このように、被写体のフォーカス情報を考慮してPDを選択することにより、より明るい画像を得ることができ、なおかつ効果的な立体画像を取得することができる。また、撮影時に絞りを絞っている時も外側のPDには光があまり入ってこない。そこで、絞って撮影した場合には、最外郭のPDは使用しない方が明るい画像を得ることができる。このように、撮影時の絞り値に応じて使用するPDを変えても良い。もしくは、最外郭のPDを使用した場合、その時の絞り値に応じてゲインをかけて補正を行っても良い。
【特許請求の範囲】
【請求項1】
撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、
主被写体を選択する被写体選択手段と、
単位画素あたりに2つ以上の光電変換部を有する撮像素子と、
前記主被写体か否かに応じて、それぞれの前記単位画素の前記光電変換部を選択する光電変換部選択手段と、
選択された前記光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項2】
前記撮像素子のそれぞれの前記単位画素は、同一のマイクロレンズに対し、2つ以上の前記光電変換部を有することを特徴とする請求項1に記載の撮像システム。
【請求項3】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記主被写体に対応する画素については、第1の方向に視差をつけるように、かつ、視差が最も大きくなるように前記光電変換部の組み合わせを選択することを特徴とする請求項1または2に記載の撮像システム。
【請求項4】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記主被写体に対応する画素以外の画素については、第1の方向に視差をつけるように、かつ、前記主被写体に対応する画素について選択される前記光電変換部の組み合わせよりも内側となるように、前記光電変換部の組み合わせを選択することを特徴とする請求項3に記載の撮像システム。
【請求項5】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記主被写体に対応する画素以外の画素については、前記第1の方向とは逆の第2の方向に視差をつけるように、前記光電変換部の組み合わせを選択することを特徴とする請求項3に記載の撮像システム。
【請求項6】
前記単位画素あたりの、電荷信号を読み出す前記光電変換部の数に応じて、前記光電変換部の出力信号にゲイン補正をかけることを特徴とする請求項1に記載の撮像システム。
【請求項7】
撮影レンズにより結像された被写体の像を撮像する複数の撮像装置を含む撮像システムであって、
主被写体を選択する被写体選択手段と、
前記主被写体か否かに応じて、前記複数の撮像装置から2つの撮像装置を選択する撮像装置選択手段と、
選択された前記2つの撮像装置からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項8】
撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、
被写体までの距離を検出する検出手段と、
単位画素あたりに2つ以上の光電変換部を有する撮像素子と、
前記被写体までの距離に応じて、それぞれの前記単位画素の前記光電変換部を選択する光電変換部選択手段と、
選択された前記光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項9】
前記撮像素子のそれぞれの前記単位画素は、同一のマイクロレンズに対し、2つ以上の前記光電変換部を有することを特徴とする請求項8に記載の撮像システム。
【請求項10】
前記被写体までの距離の情報である距離情報を、前記撮像素子の画面を複数の領域に分割したブロックごとに記憶することを特徴とする請求項8または9に記載の撮像システム。
【請求項11】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記検出手段により、近い距離に位置すると判定された被写体に対応する画素については、第1の方向に視差をつけるように、かつ、視差が最も大きくなるように前記光電変換部の組み合わせを選択することを特徴とする請求項8乃至10のいずれか1項に記載の撮像システム。
【請求項12】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記検出手段により、遠い距離に位置すると判定された被写体に対応する画素については、第1の方向に視差をつけるように、かつ、前記近い距離に位置すると判定された被写体に対応する画素について選択された光電変換部の組み合わせよりも内側となるように、前記光電変換部の組み合わせを選択することを特徴とする請求項11に記載の撮像システム。
【請求項13】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記検出手段により、遠い距離に位置すると判定された被写体に対応する画素については、前記第1の方向とは逆の第2の方向に視差をつけるように、前記光電変換部の組み合わせを選択することを特徴とする請求項11に記載の撮像システム。
【請求項14】
前記被写体に合焦しているか否かを検出する焦点検出手段をさらに備えるとともに、前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記焦点検出手段により合焦していると判定された被写体に対応する画素については、前記光電変換部のうちの内側に位置する前記光電変換部の組み合わせを選択することを特徴とする請求項8乃至10のいずれか1項に記載の撮像システム。
【請求項15】
撮影レンズにより結像された被写体の像を撮像する複数の撮像装置を含む撮像システムであって、
被写体までの距離を検出する検出手段と、
前記被写体までの距離に応じて、前記複数の撮像装置から2つの撮像装置を選択する撮像装置選択手段と、
選択された前記2つの撮像装置からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項1】
撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、
主被写体を選択する被写体選択手段と、
単位画素あたりに2つ以上の光電変換部を有する撮像素子と、
前記主被写体か否かに応じて、それぞれの前記単位画素の前記光電変換部を選択する光電変換部選択手段と、
選択された前記光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項2】
前記撮像素子のそれぞれの前記単位画素は、同一のマイクロレンズに対し、2つ以上の前記光電変換部を有することを特徴とする請求項1に記載の撮像システム。
【請求項3】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記主被写体に対応する画素については、第1の方向に視差をつけるように、かつ、視差が最も大きくなるように前記光電変換部の組み合わせを選択することを特徴とする請求項1または2に記載の撮像システム。
【請求項4】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記主被写体に対応する画素以外の画素については、第1の方向に視差をつけるように、かつ、前記主被写体に対応する画素について選択される前記光電変換部の組み合わせよりも内側となるように、前記光電変換部の組み合わせを選択することを特徴とする請求項3に記載の撮像システム。
【請求項5】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記主被写体に対応する画素以外の画素については、前記第1の方向とは逆の第2の方向に視差をつけるように、前記光電変換部の組み合わせを選択することを特徴とする請求項3に記載の撮像システム。
【請求項6】
前記単位画素あたりの、電荷信号を読み出す前記光電変換部の数に応じて、前記光電変換部の出力信号にゲイン補正をかけることを特徴とする請求項1に記載の撮像システム。
【請求項7】
撮影レンズにより結像された被写体の像を撮像する複数の撮像装置を含む撮像システムであって、
主被写体を選択する被写体選択手段と、
前記主被写体か否かに応じて、前記複数の撮像装置から2つの撮像装置を選択する撮像装置選択手段と、
選択された前記2つの撮像装置からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項8】
撮影レンズにより結像された被写体の像を撮像する撮像装置を含む撮像システムであって、
被写体までの距離を検出する検出手段と、
単位画素あたりに2つ以上の光電変換部を有する撮像素子と、
前記被写体までの距離に応じて、それぞれの前記単位画素の前記光電変換部を選択する光電変換部選択手段と、
選択された前記光電変換部からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【請求項9】
前記撮像素子のそれぞれの前記単位画素は、同一のマイクロレンズに対し、2つ以上の前記光電変換部を有することを特徴とする請求項8に記載の撮像システム。
【請求項10】
前記被写体までの距離の情報である距離情報を、前記撮像素子の画面を複数の領域に分割したブロックごとに記憶することを特徴とする請求項8または9に記載の撮像システム。
【請求項11】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記検出手段により、近い距離に位置すると判定された被写体に対応する画素については、第1の方向に視差をつけるように、かつ、視差が最も大きくなるように前記光電変換部の組み合わせを選択することを特徴とする請求項8乃至10のいずれか1項に記載の撮像システム。
【請求項12】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記検出手段により、遠い距離に位置すると判定された被写体に対応する画素については、第1の方向に視差をつけるように、かつ、前記近い距離に位置すると判定された被写体に対応する画素について選択された光電変換部の組み合わせよりも内側となるように、前記光電変換部の組み合わせを選択することを特徴とする請求項11に記載の撮像システム。
【請求項13】
前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記検出手段により、遠い距離に位置すると判定された被写体に対応する画素については、前記第1の方向とは逆の第2の方向に視差をつけるように、前記光電変換部の組み合わせを選択することを特徴とする請求項11に記載の撮像システム。
【請求項14】
前記被写体に合焦しているか否かを検出する焦点検出手段をさらに備えるとともに、前記光電変換部は視差をつける方向に1列に並んでおり、前記光電変換部選択手段は、前記焦点検出手段により合焦していると判定された被写体に対応する画素については、前記光電変換部のうちの内側に位置する前記光電変換部の組み合わせを選択することを特徴とする請求項8乃至10のいずれか1項に記載の撮像システム。
【請求項15】
撮影レンズにより結像された被写体の像を撮像する複数の撮像装置を含む撮像システムであって、
被写体までの距離を検出する検出手段と、
前記被写体までの距離に応じて、前記複数の撮像装置から2つの撮像装置を選択する撮像装置選択手段と、
選択された前記2つの撮像装置からの信号をもとに視差を有する2つの画像信号を生成する生成手段と、
を有することを特徴とする撮像システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図20】
【図22】
【図11】
【図12】
【図19】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図20】
【図22】
【図11】
【図12】
【図19】
【図21】
【公開番号】特開2013−55425(P2013−55425A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2011−191069(P2011−191069)
【出願日】平成23年9月1日(2011.9.1)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願日】平成23年9月1日(2011.9.1)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]