説明

立体画像撮像位置調整装置、立体画像撮像位置調整方法およびそのプログラムならびに立体画像撮影システム

【課題】2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらす処理を撮影中であっても行うことができる技術を提供する。
【解決手段】立体画像撮像位置調整装置3は、レンズアレイの位置を示す位置検出用パターンと被写体とを共に、撮像装置に備えられた2つの撮像素子11によって撮像することで取得された各画像から位置検出用パターンの画像を抽出する画像抽出手段331と、抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別する画素ずれ判別手段341と、半画素ずれていない場合に、位置検出用パターンの画像が互いに半画素ずれるように撮像素子11の位置をシフトするための移動量を算出する移動量算出手段342と、算出された移動量に基づいて、撮像素子11を移動させる撮像素子移動手段12に駆動信号を出力する駆動制御手段351とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被写体の立体情報を取得する立体画像撮影装置に係り、特に被写体を撮影する際に撮像素子の位置を調整する技術に関する。
【背景技術】
【0002】
一般に、レンズアレイ(微小な光学素子アレイ)や空間フィルタ(微小な開口アレイ)を通して被写体の立体情報を取得する手法、いわゆるインテグラルフォトグラフィ(Integral Photography)方式(以下、IP方式という)の立体画像撮影装置が知られている。この立体画像撮影装置で取得された画像を再生する立体画像表示装置を用いると、任意の視点から自由に立体像(立体再生像)を見ることが可能な立体テレビジョン方式を実現することができる。
【0003】
lP方式に基づいてレンズアレイを用いて行う通常の立体画像撮影について図16を参照して説明する。図16は、従来のlP方式による立体画像の撮影および再生を模式的に示す説明図であり、(a)は立体画像撮影装置、(b)は立体画像表示装置をそれぞれ示している。図16(a)に示すように、立体画像撮影装置100は、レンズ群(レンズアレイ)101と、撮像板102とを備えている。レンズ群101は、同一平面上に配置された複数のレンズ(凸レンズ)Lからなる。撮像板102は、基板上に配設された複数の撮像素子を備えて構成された情報取得デバイスである。各撮像素子は、例えば、CCD(Charge Coupled Device)撮像素子である。また、図16(b)に示すように、立体画像表示装置200は、レンズ群201と、表示素子202とを備えている。レンズ群201は、同一平面上に配置された複数のレンズ(凸レンズ)L′からなる。表示素子202は、例えば液晶パネル等の情報表示デバイスから構成されている。
【0004】
図16(a)に示した立体画像撮影装置100は、矢印で示す撮影方向141からレンズ群101を介して被写体121,122を撮影する。ここで、撮影方向141は、立体画像撮影装置100がレンズ群101の前方(図16(a)では左方)に配置された被写体121,122を撮影する方向である。このとき、レンズ群101の後方(図16(a)では右方)の撮像板102には、レンズ群101を構成するレンズLの個数と同じ個数だけ被写体121,122の像、例えば、像161,162等が結像する。
【0005】
図16(b)に示した立体画像表示装置200は、立体画像撮影装置100によって取得された像261,262を表示素子202に表示する。ここで、奥行きが反転してしまう逆視像を回避するために、像261,262は、立体画像撮影装置100のレンズ群101を構成する各レンズLで結像される像161,162を点対称の位置に変換したものである。この立体画像表示装置200において、表示素子202は、撮影時に撮像板102を配置した位置に置かれ、レンズ群201は撮影時と同じ位置に置かれる。このようにレンズ群201と表示素子202とが配置された状態で、観察者が矢印で示す観察方向241からレンズ群201を眺めると、立体像221,222を観察することができる。ここで、観察方向241は、観察者がレンズ群201の前方(図16(b)では左方)から表示素子202を眺める方向である。
【0006】
IP方式では、高精細な立体画像を表示(再生)するために、一般に、撮影時において、画素数の非常に大きい撮像素子を用いなければならないが、そのようなデバイスは一般に高価である。高精細な立体画像の表示に関連して、2次元画像の表示技術の分野では、従来、撮像素子の画素数を変えることなく高解像度を実現する技術が知られている(非特許文献1参照)。
【0007】
非特許文献1に記載された映像システムにおいて、撮影側のビデオカメラ内には、赤波長用(R)、緑波長用(G1,G2)および青波長用(B)の4つの撮像素子が互いに異なる位置に配置されて備えられている。また、表示側のプロジェクタ内には、赤波長用(R)および青波長用(B)の2つの撮像素子と、緑波長用(G1,G2)の2つの撮像素子とに、別々に信号が入力するように構成され、いわゆる「斜め画素ずらし」によって、高精細画像の表示を可能としている。なお、「斜め画素ずらし」は、緑波長用(G1,G2)の2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらすものである。これにより、等価的に走査線の本数が増加することとなる。本明細書では、この半画素ずらす処理を「画像シフト処理」と呼ぶ場合がある。
【0008】
このような高解像度をIP方式の立体像で実現する場合には、撮影時および再生時において、正確な位置合わせがなされていることを前提とする。なお、本明細書では、このような位置合わせのことを、前記した画像シフト処理と区別するために、「撮像位置調整処理」と呼ぶ場合がある。例えば、図16(a)に示したレンズ群101と撮像板102との位置関係と、図16(b)に示したレンズ群201と表示素子202との位置関係とが一致せずに、相対的な位置ずれがある場合には、立体像を再生する際に、撮影時の被写体の位置に立体像を正しく再生することができない。このような撮像位置調整処理に関連して、従来、テレビジョンカメラの位置を機械的に補正したり、あるいは取得画像を電気的に処理したりすることで、このような相対的な位置ずれを調整、補正する技術が知られている(特許文献1参照)。なお、特許文献1に記載の立体撮像装置では、テレビジョンカメラ内に複数の撮像素子が備えられている場合に、各撮像素子の相対位置のずれを解消することができない。また、立体撮像装置では、各撮像素子の相対位置が異なるためにフォーカス状態が悪い場合に、電気信号の補正では相対位置のずれを解消することが困難である。
【特許文献1】特開平9−55961号公報(段落0016−0017、図3)
【非特許文献1】M.Sugawara et al.,Proc. SPIE, vol. 3653, p.1404-1411, 1999
【発明の開示】
【発明が解決しようとする課題】
【0009】
IP方式において高精細な立体画像を再生するために、撮影時において、高精細なテレビジョンカメラを使用してレンズアレイや空間フィルタを通して被写体の立体情報を実時間で取得することが要望されている。しかしながら、非特許文献1に記載の映像システムは、被写体の情報を実時間で取得するものでない。この映像システムでは、予め撮影された位置検出用パターンがディスプレイに表示され、これに基づいて、2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を正確に半画素ずらすように表示素子の位置合わせが行われる。そして、位置合わせが完了した後で被写体が撮影される。つまり、非特許文献1に記載の映像システムでは、撮影中には、半画素ずらす処理(画像シフト処理)を行うことができないという問題がある。
【0010】
本発明は、以上のような問題点に鑑みてなされたものであり、2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらす処理を撮影中であっても行うことができる技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明は、前記目的を達成するために創案されたものであり、まず、請求項1に記載の立体画像撮像位置調整装置は、結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置に備えられた2つの撮像素子でそれぞれ取得された各画像を互いに半画素ずらす立体画像撮像位置調整装置であって、画像抽出手段と、画素ずれ判別手段と、移動量算出手段と、駆動制御手段とを備えることとした。
【0012】
かかる構成によれば、立体画像撮像位置調整装置は、画像抽出手段によって、前記結像手段群の位置を示す位置検出用パターンと前記被写体とを共に前記各撮像素子によって撮像することで取得された各画像から前記位置検出用パターンの画像をそれぞれ抽出する。ここで、結像手段群を構成する結像手段は、レンズまたは空間フィルタ(微小開口)である。例えば、結像手段がレンズの場合には、結像手段群であるレンズアレイは、平面状あるいは曲面状に配列される。また、撮像素子は、例えば、CCD撮像素子である。また、位置検出用パターンは、結像手段群と撮像装置との位置合わせ、各撮像素子間の位置合わせ、撮像用レンズの位置合わせのうちの少なくとも1つを実行するために利用されるものである。この位置検出用パターンは、例えば、結像手段群の配設された領域の外側や、結像手段群を構成する結像手段の配置されていない領域に設けられている。あるいは、結像手段群を構成する結像手段のうち最も外側に配置された結像手段に設けたとしても、被写体の立体情報を取得するときには実質的に妨げとはならないので、このように構成してもよい。さらに、位置検出用パターンは、その形状や個数が限定されるものではない。かかる構成の立体画像撮像位置調整装置は、撮像装置によって、被写体の立体情報と位置検出用パターンの画像情報とを取得する。
【0013】
そして、立体画像撮像位置調整装置は、画素ずれ判別手段によって、前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別し、移動量算出手段によって、前記各位置検出用パターンの画像が互いに半画素ずれていない場合に、前記抽出された位置検出用パターンの画像が互いに半画素ずれるように前記撮像素子の位置をシフトするための移動量を算出する。そして、立体画像撮像位置調整装置は、駆動制御手段によって、前記算出された移動量に基づいて、前記撮像素子を移動させる撮像素子移動手段に駆動信号を出力する。これにより、各撮像素子で抽出された位置検出用パターンの画像が互いに半画素ずれるように撮像素子が移動する。位置検出用パターンは、結像手段群の位置を示すものであって、被写体の立体情報を取得するときには実質的に妨げとはならない領域に配置されるので、2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらす処理を撮影中であっても行うことができる。
【0014】
また、請求項2に記載の立体画像撮像位置調整装置は、請求項1に記載の立体画像撮像位置調整装置において、シフト量信号処理手段をさらに備えることとした。
【0015】
かかる構成によれば、立体画像撮像位置調整装置は、シフト量信号処理手段によって、前記移動量算出手段で算出された情報に基づいて、前記撮像素子から出力される撮像された画像を示す画像信号を処理することで、前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれるように調整する。したがって、立体画像撮像位置調整装置は、撮像素子移動手段によって機械的な処理をさせるだけではなく、各撮像素子から出力される画像信号を電気的に処理することで、微細な位置合わせを精度よく実行できる。
【0016】
また、請求項3に記載の立体画像撮像位置調整装置は、請求項1または請求項2に記載の立体画像撮像位置調整装置において、前記撮像手段が、色の3原色である赤色、緑色および青色のうちのいずれか1つの色に対応する同色用撮像素子を2つ有すると共に、前記3原色のうちの他の色に対応する色用の撮像素子を1つずつ有し、前記同色用撮像素子でそれぞれ取得された各画像を互いに半画素ずらすこととした。
【0017】
かかる構成によれば、立体画像撮像位置調整装置は、撮像手段が、赤、緑および青のいずれかに対応する同色用撮像素子を2つ有しており、これら同色用撮像素子でそれぞれ取得された各画像を互いに半画素ずらすことで、高解像度を実現することができる。ここで、画像をずらす方向は、垂直方向でも水平方向でもよく、あるいは、その両方向でもよい。また、同色用撮像素子による画像を例えば垂直方向にずらすと共に、他の撮像素子による画像を水平方向に半画素ずらすようにしてもよい。
【0018】
また、前記目的を達成するために、請求項4に記載の立体画像撮像位置調整方法は、結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置に備えられた2つの撮像素子でそれぞれ取得された各画像を互いに半画素ずらす立体画像撮像位置調整装置の立体画像撮像位置調整方法であって、画像抽出ステップと、画素ずれ判別ステップと、移動量算出ステップと、駆動制御ステップとを有することとした。
【0019】
かかる手順によれば、立体画像撮像位置調整装置は、画像抽出ステップにて、前記結像手段群の位置を示す位置検出用パターンと前記被写体とを共に前記各撮像素子によって撮像することで取得された各画像から前記位置検出用パターンの画像をそれぞれ抽出する。そして、立体画像撮像位置調整装置は、画素ずれ判別ステップにて、前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別し、移動量算出ステップにて、前記各位置検出用パターンの画像が互いに半画素ずれていない場合に、前記抽出された位置検出用パターンの画像が互いに半画素ずれるように前記撮像素子の位置をシフトするための移動量を算出する。そして、立体画像撮像位置調整装置は、駆動制御ステップにて、前記算出された移動量に基づいて、前記撮像素子を移動させる撮像素子移動手段に駆動信号を出力する。
【0020】
また、請求項5に記載の立体画像撮像位置調整プログラムは、結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置に備えられた2つの撮像素子でそれぞれ取得された各画像を互いに半画素ずらすために、コンピュータを、画像抽出手段、画素ずれ判別手段、移動量算出手段、駆動制御手段、として機能させることとした。
【0021】
かかる構成によれば、立体画像撮像位置調整プログラムは、画像抽出手段によって、前記結像手段群の位置を示す位置検出用パターンと前記被写体とを共に前記各撮像素子によって撮像することで取得された各画像から前記位置検出用パターンの画像をそれぞれ抽出する。そして、立体画像撮像位置調整プログラムは、画素ずれ判別手段によって、前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別し、移動量算出手段によって、前記各位置検出用パターンの画像が互いに半画素ずれていない場合に、前記抽出された位置検出用パターンの画像が互いに半画素ずれるように前記撮像素子の位置をシフトするための移動量を算出する。そして、立体画像撮像位置調整プログラムは、駆動制御手段によって、前記算出された移動量に基づいて、前記撮像素子を移動させる撮像素子移動手段に駆動信号を出力する。
【0022】
また、請求項6に記載の立体画像撮影システムは、結像手段群と、この結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置とを備える立体画像撮影装置と、前記撮像装置に備えられた撮像素子を移動させる撮像素子移動手段と、前記結像手段群の位置を示す位置検出用パターンと、請求項1ないし請求項3のいずれか一項に記載の立体画像撮像位置調整装置とを備えることを特徴とする。
【0023】
かかる構成によれば、立体画像撮影システムでは、立体画像撮像位置調整装置によって、結像手段群と撮像装置との位置合わせ、各撮像素子間の位置合わせ、撮像用レンズの位置合わせのうちの少なくとも1つが実行されるので、立体画像撮影システムで取得された被写体の立体情報を再生するときに立体再生像のボケを低減させることができる。また、立体画像撮影システムでは、位置検出用パターンは、結像手段群の位置を示すものであって、被写体の立体情報を取得するときには実質的に妨げとはならない領域に配置されるので、2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらす処理を撮影中であっても行うことができる。
【0024】
また、請求項7に記載の立体画像撮影システムは、請求項6に記載の立体画像撮影システムにおいて、前記結像手段群の配設された領域の外側に外枠が設けられており、前記位置検出用パターンが、前記外枠に設けられていることとした。
【0025】
かかる構成によれば、立体画像撮影システムでは、位置検出用パターンが、結像手段群の配設された領域の外側に設けられた外枠に設けられているので、被写体の立体情報を取得する際に、位置検出用パターンが妨げにならない。ここで、位置検出用パターンは、例えば、外枠に固着されるシート状の部材で形成されるか、印刷によって外枠に形成されるか、あるいは外枠に刻設されて形成される。
【0026】
また、請求項8に記載の立体画像撮影システムは、請求項6に記載の立体画像撮影システムにおいて、前記外枠に表示装置が設けられており、前記位置検出用パターンが前記表示装置に表示されることとした。
【0027】
かかる構成によれば、立体画像撮影システムでは、位置検出用パターンが、結像手段群の外枠に設けられた表示装置に表示されるので、被写体の立体情報を取得する際に、位置検出用パターンが妨げにならない。このように外枠に設けられた表示装置を用いることで、位置検出用パターンの形状や個数を容易に変更することができる。また、表示装置を用いることで、位置検出用パターンが必要ではないときには、位置検出用パターンの表示を取りやめたり、あるいは、他の必要な情報を表示したりすることが可能である。
【0028】
また、請求項9に記載の立体画像撮影システムは、請求項6に記載の立体画像撮影システムにおいて、前記位置検出用パターンが、位置検出用光学系によって形成されていることとした。この位置検出用光学系は、前記結像手段群を構成する結像手段のうち最も外側に配置された結像手段の前記被写体側に予め接続され、前記接続された結像手段を透過する光が光軸に対して直交する方向に向かって輝度分布が変化するように構成されている。
【0029】
かかる構成によれば、立体画像撮影システムでは、位置検出用パターンが、結像手段群を構成する結像手段のうち最も外側に配置された結像手段の被写体側に予め接続され位置検出用光学系によって形成されているので、結像手段群の配設された領域の外側に外枠を設ける必要がない。また、位置検出用光学系は、当該位置検出用光学系が接続された結像手段を透過する光が光軸に対して直交する方向に向かって輝度分布が変化するように構成されているので、位置検出用光学系からなる位置検出用パターンとして複雑な模様を実現することができる。ここで、輝度分布の変化の仕方は、例えば、中心位置で輝度値が最も高く、周辺に行くにしたがって二乗特性で輝度値が減少するようにしてもよいし、輝度分布が正弦波状に変化するようにしてもよい。仮に、点状のパターンあるいは一様な輝度を有したパターンといった単純なパターンを用いたとしたら、2つの撮像素子で抽出された位置検出用パターンの画像が互いに半画素ずれるように制御することはできない。しかしながら、このような輝度分布を有した位置検出用光学系を撮像した画像情報を用いれば、2つの撮像素子で抽出された位置検出用パターンの画像を互いに半画素ずらすことができる。したがって、位置検出用光学系によって、2つの撮像素子で抽出された位置検出用パターンの画像を互いに半画素ずらすときに必要な位置検出用パターンと、例えば、結像手段群と撮像装置との位置合わせといった単純な位置合わせ処理をするときに必要な位置検出用パターンとを兼務させることができる。その結果、位置検出用パターンの種類や個数を低減させることができる。
【発明の効果】
【0030】
請求項1、請求項4、請求項5および請求項6に記載の発明によれば、結像手段群の位置を示す位置検出用パターンが、被写体の立体情報を取得するときには実質的に妨げとはならない領域に配置されるので、2つの撮像素子で取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらす処理を撮影中であっても行うことができる。
【0031】
請求項2に記載の発明によれば、機械的な処理に加えて、各撮像素子から出力される画像信号を電気的に処理することで、微細な位置合わせを精度よく実行できる。
請求項3に記載の発明によれば、高解像度を実現することができる。
【0032】
請求項7または請求項8に記載の発明によれば、被写体の立体情報を取得する際に、位置検出用パターンが妨げにならない。
請求項9に記載の発明によれば、2つの撮像素子で抽出された位置検出用パターンの画像を互いに半画素ずらすときに必要な位置検出用パターンと、単純な位置合わせをするときに必要な位置検出用パターンとを兼務させることができる。
【発明を実施するための最良の形態】
【0033】
以下、図面を参照して本発明の立体画像撮像位置調整装置および立体画像撮影システムを実施するための最良の形態(以下「実施形態」という)について詳細に説明する。
【0034】
(第1実施形態)
[立体画像撮影システムの概要]
図1は、本発明の第1実施形態にかかる立体画像撮影システムの一例を模式的に示す構成図である。立体画像撮影システム1は、図1に示すように、立体画像撮影装置2と、立体画像撮像位置調整装置3と、結像手段群移動手段4とを備えている。
立体画像撮影装置2は、レンズアレイ(結像手段群)5と、撮像装置6と、撮像用レンズ7とを備え、レンズアレイ5を用いて、被写体の立体情報を実時間で取得する。
立体画像撮像位置調整装置3は、後記するように、撮像装置6に備えられた2つの撮像素子11a,11bでそれぞれ取得された各画像を互いに正確に半画素ずらすために、2つの撮像素子11a,11bの相対的な位置を調整するものである。また、そのために、立体画像撮像位置調整装置3は、例えば、レンズアレイ5と撮像装置6との相対的な位置関係等を調整する。
結像手段群移動手段4は、レンズアレイ(結像手段群)5を移動させるものであり、例えば、圧電素子やステッピングモータなどを用いた電気制御可能なステージから構成される。
【0035】
レンズアレイ(結像手段群)5は、図1に示すように、被写体(撮像対象物)を要素画像としてそれぞれ結像する複数(例えば、1千〜数万個)のレンズ(結像手段)5aを平面状に配列して構成されている。なお、図1では、説明の都合上、レンズ5aの配列を簡略化した形で表示している。
【0036】
図1では、レンズアレイ5として、円形のレンズ5aが千鳥配列されたレンズアレイを図示したが、レンズ形状は正方形あるいは六角形など他の形状でもよい。また、レンズ5aの配列は、図示したように俵状に積む形式でもよいし、縦横に揃えた正方配列でもよい。また、結像手段群として、レンズアレイ5の代わりに、ピンホールが二次元状に配列されたピンホールアレイ(空間フィルタ)を用いてもよい。また、レンズアレイ5において互いに隣接するレンズ5aの間に、隣接するレンズ5aからクロスオーバーする余計な光の影響を受けないように、例えば、金属または合成樹脂からなる光学遮蔽部を配置するようにしてもよい。
【0037】
撮像装置6は、レンズアレイ5により結像された被写体の各要素画像を撮像用レンズ7を介して撮像するものである。この撮像装置6は、レンズアレイ5を介して被写体を撮像するので、被写体の各要素画像を被写体の立体情報として取得すると共に、レンズアレイ5の外枠9等に設けられた位置検出用パターンの画像も取得する。
撮像用レンズ7は、撮像用レンズ移動手段8によって移動可能に構成されている。撮像用レンズ移動手段8は、撮像用レンズ7を移動させるものであり、例えば、圧電素子やステッピングモータなどを用いた電気制御可能なステージから構成される。
【0038】
レンズアレイ5の配設された領域の外側には、外枠9が設けられている。この外枠9には、位置検出用パターンが設けられている。位置検出用パターンは、レンズアレイ5の位置を示すものであり、例えば、レンズアレイ5と撮像装置6との位置合わせや、撮像装置6内の後記する撮像素子11間の位置合わせ、撮像用レンズ7の位置合わせのうちの少なくとも1つを実行するために利用されるものである。この位置検出用パターンは、後記するように、レンズアレイ5を構成するレンズ5aの配置されていない領域(例えば、前記した光学遮蔽部等)に設けられている。
【0039】
[撮像装置の構成]
撮像装置6は、例えば、高精細なテレビジョンカメラであり、RGBに対応した4個の撮像素子11a〜11dと、撮像素子移動手段12a〜12dとを備えている。撮像素子11は、レンズアレイ5により結像された被写体の各要素画像をそれぞれ撮影するものであって、例えば、CCD(Charge Coupled Device)撮像素子で構成される。この撮像素子11は、解像度の比較的高い動画での立体画像の撮影に充分である高精細な画素数で構成されている。
【0040】
撮像素子11aは、緑波長用(G1)の撮像素子であり、撮像素子11bは、緑波長用(G2)の撮像素子である。撮像素子11a,11bは、緑色に対応する同色用撮像素子である。撮像素子11a,11bは、それぞれの撮影画像が半画素ずれるように、空間的な相対位置を正確にずらした状態で配置されている。なお、一般に撮像素子11a,11bの空間的な相対位置は、温度等の影響で微妙にずれることがある。また、撮像素子11cは、赤波長用(R)の撮像素子であり、撮像素子11dは、青波長用(B)の撮像素子である。以下、区別しない場合には、撮像素子11と表記する。
【0041】
撮像素子移動手段12は、撮像素子11を移動させるものであり、例えば、圧電素子やステッピングモータなどを用いた電気制御可能なステージから構成される。撮像素子移動手段12aは、撮像素子11aを移動させるものであり、撮像素子移動手段12bは、撮像素子11bを移動させる。また、撮像素子移動手段12cは、撮像素子11cを移動させるものであり、撮像素子移動手段12dは、撮像素子11dを移動させる。以下、区別しない場合には、撮像素子移動手段12と表記する。なお、本実施形態では、撮像素子移動手段12をすべての撮像素子11にそれぞれ配置するものとしているが、これに限定されるものではない。仮に、撮像素子移動手段12が設けられていない場合には、対応する撮像素子11を固定して移動不可能な状態に保持するようにしてもよい。また、撮像素子11および撮像素子移動手段12の個数はこの限りではない。
【0042】
[位置検出用パターンの例]
図2は、図1に示したレンズアレイと撮像素子との位置合わせ等に利用される位置検出用パターンの一例を示す図である。
<楔形パターン>
図2に示すように、外枠9において、レンズアレイ5との境界の各頂点には、楔形パターン(位置検出用パターン)21a〜21hが設けられている。楔形パターン21a〜21hは、撮像素子11とレンズアレイ5との微少な位置ずれを検出するための位置検出用パターンである。
【0043】
楔形パターン21aは、2つの楔形からなる。これらの楔形の一方は、鋭角の頂点が左方からレンズアレイ5の左上の頂点に重なり、他方の楔形は、鋭角の頂点が上方からレンズアレイ5の左上の頂点に重なっている。つまり、レンズアレイ5の左上の頂点が、2つの楔形の交点22aになっている。同様に、楔形パターン21bは、2つの楔形の互いの鋭角の頂点が重なった交点22bを有している。これらの楔形の一方は、鋭角の頂点が右方からレンズアレイ5の右上の頂点に重なり、他方の楔形は、鋭角の頂点が上方からレンズアレイ5の右上の頂点に重なっている。
【0044】
また、同様に、楔形パターン21cは、2つの楔形の互いの鋭角の頂点が重なった交点22cを有している。これらの楔形の一方は、鋭角の頂点が右方からレンズアレイ5の右下の頂点に重なり、他方の楔形は、鋭角の頂点が下方からレンズアレイ5の右下の頂点に重なっている。また、同様に、楔形パターン21dは、2つの楔形の互いの鋭角の頂点が重なった交点22dを有している。これらの楔形の一方は、鋭角の頂点が左方からレンズアレイ5の左下の頂点に重なり、他方の楔形は、鋭角の頂点が下方からレンズアレイ5の左下の頂点に重なっている。
【0045】
楔形パターン21eは、1つの楔形から成り、この楔形の鋭角の頂点が上方からレンズアレイ5の上辺の中点22eに重なっている。
楔形パターン21fは、1つの楔形から成り、この楔形の鋭角の頂点が左方からレンズアレイ5の左辺の中点22fに重なっている。
楔形パターン21gは、1つの楔形から成り、この楔形の鋭角の頂点が右方からレンズアレイ5の右辺の中点22gに重なっている。
楔形パターン21hは、1つの楔形から成り、この楔形の鋭角の頂点が下方からレンズアレイ5の下辺の中点22hに重なっている。
【0046】
楔形パターン21a〜21eは、外枠9の位置検出用パターンの配置領域に、例えば、合成樹脂等のシート状の部材を接着または融着して貼り付けたり、あるいは、印刷されたり、直接彫刻されたりして固定される。ただし、これに限定されるものではなく、外枠9に、画像表示ディスプレイ等の表示装置を設けて、これら楔形パターン21a〜21eのような位置検出用パターンを表示装置に表示するように構成してもよい。なお、本実施形態は、好ましい実施形態として、これら楔形パターン21a〜21eを備えるものとして説明するが、これらを外枠9に必ずしも設ける必要はない。
【0047】
<歪み検出パターン>
図2に示すように、レンズアレイ5内のレンズ5aが形成されていない部分(隣り合ったレンズ5a間の部分)には、歪み検出パターン(位置検出用パターン)23が設けられている。歪み検出パターン23は、撮像用レンズ7の歪みを検出するための位置検出用パターンである。本実施形態では、歪み検出パターン23は、図2に示すように、レンズアレイ5内の各レンズ5aを取り囲む正六角形の形状を網目の一単位とした網目状にレンズアレイ5の全体を覆うように形成されている。歪み検出パターン23の一単位の形状は、正六角形で限定されるものなく、その他の多角形でもよく、レンズアレイ5の中央などその一部分だけを覆うものでもよい。この歪み検出パターン23は、例えば、合成樹脂等のシート状の部材を接着または融着して貼り付けたり、あるいは、印刷されたりして、レンズアレイ5に固定される。
【0048】
<中央位置検出パターン>
図2に示すように、レンズアレイ5内のレンズ5aが形成されていない部分のうち、レンズアレイ5のほぼ中央部分には、中央位置検出パターン(位置検出用パターン)24が設けられている。中央位置検出パターン24は、撮像素子11とレンズアレイ5との位置ずれを検出するための位置検出用パターンである。本実施形態では、中央位置検出パターン24は、一点から放射状に伸びた長さの等しい3本の線分で示されている。これら3本の線分のうちの隣り合う2本のなす角度は120度である。この中央位置検出パターン24の3本の線分の交点によって、レンズアレイ5の中央が特定される。なお、中央位置検出パターン24の形状は、これに限定されるものなく、例えば、レンズ5aが正方配列される場合には4本の線分の交点によってレンズアレイ5の中央が特定されるように構成してもよい。この中央位置検出パターン24は、例えば、合成樹脂等のシート状の部材を接着または融着して貼り付けたり、あるいは、印刷されたりして、レンズアレイ5に固定される。なお、中央位置検出パターン24は、レンズアレイ5の中心に配置されることが好ましいが、それができない場合には、中心の近くで配置可能な位置に配置されていればよい。
【0049】
図3は、図1に示した撮像素子間の位置合わせに利用される位置検出用パターンの一例を示す図である。ただし、図3には、図2を参照して説明した各位置検出用パターンが図示されていない。これは、視認性を考慮して図示を省略したためであって、図3には、前記した各位置検出用パターンも配置されているものとする。
【0050】
<位置ずれ検出パターン>
図3に示すように、外枠9のレンズアレイ5の周辺部には、位置ずれ検出パターン(位置検出用パターン)25a〜25hが設けられている。位置ずれ検出パターン25a〜25hは、撮像素子11a〜11d間の位置ずれを検出するためのパターンである。本実施形態では、位置ずれ検出パターン25a〜25hは、円形であり、円形の領域の中心で輝度値が最も高く、円形の領域の中心から半径に沿って離間していくにしたがって、輝度値が二乗特性で減少する。なお、輝度値が減少する変化の仕方はこれに限定されるものではなく、線形特性で減少するようにしてもよい。
【0051】
位置ずれ検出パターン25a,25bは、外枠9の上辺をほぼ3等分にする位置にそれぞれ設けられている。
位置ずれ検出パターン25c,25dは、外枠9の左辺または右辺をほぼ3等分にした位置のうちの上方にそれぞれ設けられている。
位置ずれ検出パターン25e,25fは、外枠9の左辺または右辺をほぼ3等分にした位置のうちの下方にそれぞれ設けられている。
位置ずれ検出パターン25g,25hは、外枠9の下辺をほぼ3等分にする位置にそれぞれ設けられている。
【0052】
位置ずれ検出パターン25a〜21hは、外枠9の位置検出用パターンの配置領域に、例えば、合成樹脂等のシート状の部材を接着または融着して貼り付けたり、あるいは、印刷されたりして固定される。ただし、これに限定されるものではなく、外枠9に、画像表示ディスプレイ等の表示装置を設けて、これら位置ずれ検出パターン25a〜21hのような位置検出用パターンを表示装置に表示するように構成してもよい。
【0053】
図4は、図1に示した2つの撮像素子による画像を半画素ずらすために利用される位置検出用パターンの一例を示す図である。ただし、図4には、図2及び図3を参照して説明した各位置検出用パターンが図示されていない。これは、視認性を考慮して図示を省略したためであって、図4には、前記した各位置検出用パターンも配置されているものとする。
【0054】
<画素ずれ検出パターン>
図4に示すように、外枠9のレンズアレイ5の周辺部には、画素ずれ検出パターン(位置検出用パターン)26a〜26hが設けられている。画素ずれ検出パターン26a〜26hは、撮像素子11aによって撮影された画像と、撮像素子11bによって撮影された画像とを半画素ずらすために利用される位置検出用パターンである。本実施形態では、画素ずれ検出パターン26a〜26hは、2つの正弦波パターンから成る。各正弦波パターンは、長方形の形状であり、長方形の領域の長手方向に、輝度値が正弦波の振幅のように周期的に変化するパターンが設けられている。すなわち、正弦波パターンは、長方形の領域の長辺を位相θラジアン(0<θ<2π)に割り当てたときに、長方形の領域の長手方向の輝度値がsinθに対応している。
【0055】
画素ずれ検出パターン26a〜26dは、2つの正弦波パターンを長手方向に所定間隔を空けて1列に並べた組を水平方向に配置して構成される。
外枠9の上辺において、画素ずれ検出パターン26aは、位置ずれ検出パターン25a(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成り、画素ずれ検出パターン26bは、位置ずれ検出パターン25b(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成る。
また、外枠9の下辺において、画素ずれ検出パターン26cは、位置ずれ検出パターン25g(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成り、画素ずれ検出パターン26dは、位置ずれ検出パターン25h(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成る。
これら画素ずれ検出パターン26a〜26dは、撮像素子11aと撮像素子11bとの空間的な水平方向の相対位置をずらす場合に利用される。
【0056】
また、画素ずれ検出パターン26e〜26hは、2つの正弦波パターンを長手方向に所定間隔を空けて1列に並べた組を垂直方向に配置して構成される。
画素ずれ検出パターン26eは、外枠9の左辺において、位置ずれ検出パターン25c(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成る。
画素ずれ検出パターン26fは、外枠9の右辺において、位置ずれ検出パターン25d(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成る。
画素ずれ検出パターン26gは、外枠9の左辺において、位置ずれ検出パターン25e(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成る。
画素ずれ検出パターン26hは、外枠9の右辺において、位置ずれ検出パターン25f(図3参照)を挟む位置にそれぞれ設けられた2つの正弦波パターンから成る。
これら画素ずれ検出パターン26e〜26hは、撮像素子11aと撮像素子11bとの空間的な垂直方向の相対位置をずらす場合に利用される。
【0057】
画素ずれ検出パターン26a〜26hは、外枠9の位置検出用パターンの配置領域に、例えば、合成樹脂等のシート状の部材を接着または融着して貼り付けたり、あるいは、印刷されたりして固定される。ただし、これに限定されるものではなく、外枠9に、画像表示ディスプレイ等の表示装置を設けて、これら画素ずれ検出パターン26a〜26hのような位置検出用パターンを表示装置に表示するように構成してもよい。なお、画素ずれ検出パターン26a〜26hの個数、配置場所、輝度分布特性はこの限りではない。
【0058】
[立体画像撮像位置調整装置の構成]
図5は、第1実施形態に係る立体画像撮像位置調整装置の構成を示すブロック図である。立体画像撮像位置調整装置3は、例えば、CPU(Central Processing Unit)と、RAM(Random Access Memory)と、ROM(Read Only Memory)と、HDD(Hard Disk Drive)等から構成されており、図5に示すように、大別して、入出力手段31と、記憶手段32と、制御手段33とを備える。
【0059】
入出力手段31は、所定の入出力インタフェースや通信インタフェース等から構成され、所定の情報やコマンドを入力したり、所定の情報を出力したりするものである。この入出力手段31は、例えば、通信ケーブル等を介して、撮像素子11で取得された画像情報を入力する。また、入出力手段31は、結像手段群移動手段4、撮像用レンズ移動手段8および撮像素子移動手段12にそれぞれの駆動信号を出力する。
【0060】
記憶手段32は、RAM321と、ROM322と、抽出条件記憶手段323と、基準画像位置情報記憶手段324と、立体画像情報記憶手段325とを備える。
RAM321は、制御手段33による演算処理等に利用されると共に、入出力手段31を介して取得した情報等を記憶し、ROM322は、所定のプログラム等を記憶する。
抽出条件記憶手段323は、撮像素子11で取得される情報の中から、被写体の立体情報や所定の位置検出用パターンの画像情報等を抽出する条件を示す抽出条件を記憶するものであり、一般的なハードディスク等から構成される。
【0061】
基準画像位置情報記憶手段324は、予め取得された位置検出用パターンの画像に対応するアドレスを示す基準画像位置情報等を記憶するものであり、一般的なメモリやハードディスク等から構成される。また、基準画像位置情報として、例えば、位置ずれ検出パターン25a〜25h(図3参照)の輝度分布特性等が含まれる。
【0062】
ここで、基準画像位置情報としてのアドレスとは、撮像素子11a〜11d上でのアドレスであって、処理に応じて複数種類設けられている。
第1に、レンズアレイ5と撮像装置6との位置合わせ、撮像用レンズ7の位置合わせ、および撮像素子11間の位置合わせを含む位置合わせ処理(以下、撮像位置調整処理という)に用いられるアドレス値を基準アドレスとして含んでいる。すなわち、レンズアレイ5と撮像装置6との間の位置ずれが無い場合に取得されるべきアドレス値、撮像用レンズ7による歪みが無い場合に取得されるべきアドレス値、撮像素子11間の位置ずれが無い場合に取得されるべきアドレス値等を含む。
【0063】
また、第2に、2つの撮像素子11a,11bによって取得された各画像を正確に半画素ずらす処理(以下、画像シフト処理という)に用いられるアドレス値を基準アドレスとして含んでいる。すなわち、撮像素子11a,11bでそれぞれ取得される画素ずれ検出パターン(位置検出用パターン)26a〜26hの画像が半画素ずれるように撮像素子11a,11bが相対的に正確に配置された状態において撮像素子11a,11bでそれぞれ取得されるべきアドレス値を含む。
【0064】
立体画像情報記憶手段325は、撮像素子11で取得されて入出力手段31を介して入力する立体情報(立体画像情報)を記憶するものであり、一般的なハードディスク等から構成される。この立体情報に基づいて、表示手段40によって、被写体の立体像が再生される。
【0065】
制御手段33は、例えば、CPU等から構成され、入出力手段31および記憶手段32を制御すると共に、図5に示すように、画像抽出手段331と、立体画像情報管理手段332と、一致判別手段333と、補正量算出手段334と、配置情報信号処理手段335と、画素ずれ判別手段341と、移動量算出手段342と、シフト量信号処理手段343と、駆動制御手段351とを備える。
【0066】
画像抽出手段331は、抽出条件記憶手段323に記憶された抽出条件にしたがって、撮像素子11で取得されて入出力手段31を介して入力する情報(撮像情報)の中から必要な情報を抽出するものであって、立体画像情報抽出手段331aと、パターン画像抽出手段331bと、シフト用画像抽出手段331cとを備えている。
立体画像情報抽出手段331aは、撮像情報の中から、被写体の立体情報を抽出するものである。
【0067】
パターン画像抽出手段331bは、撮像情報の中から、撮像位置調整処理に必要な位置検出用パターンの画像情報(入力画像情報ともいう)を抽出するものである。ここで、撮像位置調整処理に必要な位置検出用パターンとしては、図2および図3を参照してそれぞれ説明した、楔形パターン21a〜21hと、歪み検出パターン23と、中央位置検出パターン24と、位置ずれ検出パターン25a〜25hとが含まれる。
【0068】
シフト用画像抽出手段331cは、撮像情報の中から、画像シフト処理に必要な位置検出用パターンの画像情報を抽出するものである。ここで、画像シフト処理に必要な位置検出用パターンは、図4を参照して説明した画素ずれ検出パターン26a〜26hが含まれる。以下では、シフト用画像抽出手段331cで抽出された位置検出用パターンの画像をシフト用画像という。
【0069】
立体画像情報管理手段332は、立体画像情報抽出手段331aで抽出された立体情報を立体画像情報記憶手段325に格納すると共に、立体画像情報記憶手段325に記憶された立体情報を読み出して入出力手段31を介して表示手段40に出力するものである。
【0070】
一致判別手段333は、パターン画像抽出手段331bで抽出された位置検出用パターンの抽出画像のアドレスと、基準画像位置情報記憶手段324に記憶された当該位置検出用パターンの基準アドレスとが一致するか否かを判別するものである。また、一致判別手段333は、抽出画像のアドレスと基準アドレスとの間の差が所定範囲内であるか否かを判別する。
【0071】
補正量算出手段334は、抽出画像のアドレスと基準アドレスとが一致しない場合に、抽出画像のアドレスと基準アドレスとが一致するように補正するための位置ずれ補正量を算出するものである。
配置情報信号処理手段335は、抽出画像のアドレスと基準アドレスとの間の差が所定範囲内である場合に、撮像素子11の出力信号において、抽出画像のアドレスを微調整するものである。
【0072】
画素ずれ判別手段341は、基準画像位置情報記憶手段324に記憶された画素ずれ検出パターン26a〜26hの基準アドレスに基づいて、シフト用画像抽出手段331cでそれぞれ抽出されたシフト用画像が互いに半画素ずれているか否かを判別するものである。また、画素ずれ判別手段341は、2つのシフト用画像の画素ずれ量が所定範囲内であるか否かを判別する。
【0073】
本実施形態では、画素ずれ判別手段341は、撮像素子11a,11bでそれぞれ取得された画像情報を合成し、2つのシフト用画像が半画素ずれるように、撮像素子11a,11bの空間的な相対位置を調整する。具体的には、画素ずれ判別手段341は、撮像素子11a,11bでそれぞれ取得された画像情報の合成波の折返し成分が最小となる位相を求めることで、撮像素子11a,11bの空間的な相対位置を調整する。
【0074】
ここで、2つのシフト用画像が半画素ずれるように調整する方法として、2つの表示素子(G1,G2)の空間的な相対位置を検出する方法(以下、表示素子位置検出法という)を適用することができる。表示素子位置検出法については、「日下部他、映像情報メディア学会誌、vol.60, no.2, pp.234-241, 2006」に記載されている。この表示素子位置検出法は、2枚の線画像表示素子の位置検出法であり、周期構造の輝度分布を持つパターンを投射し、相対位置のずれにより生じる画像の折り返し成分を検出することで、2つの表示素子の空間的な相対位置を検出する。具体的には、この表示素子位置検出法では、第1表示素子に第1正弦波パターンの画像を表示し、第2表示素子に第2正弦波パターン(第1正弦波パターンの画像と比較して所定の量だけ位相がずれたパターン)の画像を表示する。そして、表示素子位置検出法では、第1表示素子および第2表示素子によりそれぞれ投射された第1正弦波パターンおよび第2正法波パターンの合成波の折返し成分が最小となる位相を求めることで、第1表示素子と第2表示素子との空間的な相対位置が所望の画素ずれ量となる状態に調整している。本実施形態との関係で言えば、図4に示した画素ずれ検出パターン26a〜26hは、表示素子位置検出法における第1正弦波パターンと正弦波パターンの画像に相当するパターンである。なお、高精細映像表示手法として、録画像用の表示素子を2枚使用し、半画素ずらして合成する方法については、「M. Kanazawa et al., J. of SID, vol.12, no.1, pp.93-103, 2004」に記載されている。
【0075】
移動量算出手段342は、シフト用画像抽出手段331cでそれぞれ抽出されたシフト用画像が互いに半画素ずれていない場合に、抽出されたシフト用画像が互いに半画素ずれるように撮像素子11a(または11b)の位置をシフトするための移動量を算出するものである。
【0076】
シフト量信号処理手段343は、移動量算出手段342で算出された移動量に基づいて、撮像素子11a,11bから出力される画像信号を処理することで、それぞれ抽出されたシフト用画像が互いに半画素ずれるように調整するものである。このシフト量信号処理手段343は、画素ずれ量が所定範囲内である場合に、撮像素子11a,11bの出力信号において画素ずれを微調整する。
【0077】
駆動制御手段351は、結像手段群移動手段4、撮像用レンズ移動手段8および撮像素子移動手段12(以下、特に限定しない場合には単に移動手段という場合もある)に駆動信号を出力するものである。この駆動制御手段351は、補正量算出手段334で算出された補正量に基づいて、駆動信号を移動手段に出力する。また、駆動制御手段351は、移動量算出手段342で算出された移動量に基づいて、撮像素子移動手段12a(または12b)に駆動信号を出力する。
【0078】
[立体画像撮像システムの一般的な動作]
立体画像撮像システムの一般的な動作を図1を参照して説明する。この立体画像撮影システム1では、レンズアレイ5の前方(図中左側)に配置された被写体を撮影する。このとき、各撮像素子11には、レンズアレイ5を構成する各レンズ5aにより生じる要素画像(光学像)が結像する。なお、各要素撮像画像は、被写体の奥行きが反転した状態の画像である。そして、立体画像撮像位置調整装置3は、撮像素子11から出力された信号に含まれる撮像情報(画像)を点対称に反転させた情報として立体画像情報記憶手段325(図5参照)に格納する。この立体画像情報記憶手段325(図5参照)に格納された情報を、撮影時に撮像装置6を配置した位置で表示させ、撮影時と同じ位置に配置されたレンズアレイ5の前方から眺めると、被写体と比較して奥行きが等しい立体像を再生できる。このように立体像を正しく再生できるように、立体画像撮像位置調整装置3では、前記したように、正しい配置において各位置検出用パターンの画像を予め取得し、取得された各位置検出用パターンの画像情報を基準アドレスとして、基準画像位置情報記憶手段324(図5参照)に格納している。
【0079】
[立体画像撮像位置調整装置の動作]
<撮像位置調整処理>
図5に示した立体画像撮像位置調整装置3の動作について図6を参照(適宜図5参照)して説明する。図6は、第1実施形態に係る立体画像撮像位置調整装置による撮像位置調整処理を示すフローチャートである。撮像位置調整処理において、立体画像撮像位置調整装置3は、パターン画像抽出手段331bによって、撮像素子11で撮像された画像から、位置検出用パターンの画像を抽出する(ステップS1)。そして、立体画像撮像位置調整装置3は、一致判別手段333によって、抽出画像のアドレスと基準アドレスとが一致するか否かを判別する(ステップS2)。抽出画像のアドレスと基準アドレスとが一致する場合(ステップS2:Yes)、立体画像撮像位置調整装置3は、撮像位置調整処理を終了する。
【0080】
一方、例えば、図7に示すように、撮像素子11aで取得された画像51aと、基準アドレスに対応する画像51bとが一致しない場合、すなわち、抽出画像のアドレスと基準アドレスとが一致しない場合(ステップS2:No)、立体画像撮像位置調整装置3は、補正量算出手段334によって、位置ずれ補正量を算出する(ステップS3)。そして、立体画像撮像位置調整装置3は、駆動制御手段351によって、算出された補正量に基づいて、駆動信号を移動手段に出力する(ステップS4)。そして、立体画像撮像位置調整装置3は、一致判別手段333によって、アドレス間の差が所定範囲内であるか否かを判別する(ステップS5)。アドレス間の差が所定範囲内ではない場合(ステップS5:No)、立体画像撮像位置調整装置3は、ステップS1に戻る。一方、アドレス間の差が所定範囲内である場合(ステップS5:Yes)、立体画像撮像位置調整装置3は、配置情報信号処理手段335によって、撮像素子11の出力信号において、抽出画像のアドレスを微調整し(ステップS6)、撮像位置調整処理を終了する。
【0081】
<画像シフト処理>
図8は、立体画像撮像位置調整装置による画像シフト処理を示すフローチャートである。この画像シフト処理は、図6に示した撮像位置調整処理が完了していることを前提に実行される処理である。画像シフト処理において、立体画像撮像位置調整装置3は、シフト用画像抽出手段331cによって、2つの撮像素子11a,11bで同一の画素ずれ検出パターン(例えば、26a)を撮像することで取得されたそれぞれの画像をシフト用画像としてそれぞれ抽出する(ステップS11:画像抽出ステップ)。そして、立体画像撮像位置調整装置3は、画素ずれ判別手段341によって、2つのシフト用画像が半画素ずれているか否かを判別する(ステップS12:画素ずれ判別ステップ)。2つのシフト用画像が半画素ずれている場合(ステップS12:Yes)、立体画像撮像位置調整装置3は、画像シフト処理を終了する。
【0082】
一方、例えば、図7に示すように、撮像素子11aで取得された画像52aが、撮像素子11bで取得された画像52bと一致しない場合、すなわち、2つのシフト用画像が半画素ずれていない場合(ステップS12:No)、立体画像撮像位置調整装置3は、移動量算出手段342によって、2つのシフト用画像を互いに半画素ずらすための撮像素子11a(または11b)の移動量を算出する(ステップS13:移動量算出ステップ)。なお、本実施形態では、図7を、撮像位置調整処理の説明と、画像シフト処理の両方の説明で用いているが、それぞれの説明において図7は異なる意味を有しており、図7では、そのことを符号で区別して示している。
【0083】
そして、ステップS13に続いて、立体画像撮像位置調整装置3は、駆動制御手段351によって、算出された移動量に基づいて、駆動信号を撮像素子移動手段12aに出力する(ステップS14:駆動制御ステップ)。続いて、立体画像撮像位置調整装置3は、画素ずれ判別手段341によって、画素ずれが所定範囲内であるか否かを判別する(ステップS15)。画素ずれが所定範囲内ではない場合(ステップS15:No)、立体画像撮像位置調整装置3は、ステップS11に戻る。一方、画素ずれが所定範囲内である場合(ステップS15:Yes)、立体画像撮像位置調整装置3は、シフト量信号処理手段343によって、撮像素子11a(または11b)の出力信号において、画素ずれを微調整し(ステップS16:シフト量信号処理ステップ)、画像シフト処理を終了する。なお、ステップS14において、立体画像撮像位置調整装置3は、駆動制御手段351によって、駆動信号を撮像素子移動手段12aに出力する代わりに、撮像素子移動手段12bに出力するようにしてもよいし、両方に出力するようにしてもよい。
【0084】
<立体画像撮像位置調整装置の動作の一連の具体的な流れ>
図9は、図6に示した撮像位置調整処理と図8に示した画像シフト処理との具体的な一例を示すフローチャートである。ここでは、撮像位置調整処理において、まず、撮像素子11(あるいは撮像装置6)とレンズアレイ5との位置ずれ検出および補正を行い、次に、撮像用レンズ7の歪み検出および補正を行い、続いて、撮像装置6内の撮像素子11間の位置ずれ検出および補正を行うこととする。また、一例として撮像素子11a(図1参照)により取得される情報を用いて、撮像用レンズ7の歪み検出および補正を行う手順を説明する。なお、図1に示した他の撮像素子11b〜11dのいずれかを用いたとしても同様に処理することができる。
【0085】
この場合、立体画像撮像位置調整装置3は、まず、中央位置検出パターン24(図2参照)から撮像素子11とレンズアレイ5との位置ずれを検出し、結像手段群移動手段4を用いて、位置ずれを補正する(ステップS21)。すなわち、立体画像撮像位置調整装置3は、基準画像位置情報記憶手段324(図5参照)に保存されている、中央位置検出パターン24が取得されるべき撮像素子11a上のアドレスと、中央位置検出パターン24が実際に取得される撮像素子11a上のアドレスとが一致するように、結像手段群移動手段4を用いて調整する。
【0086】
このステップS21において、結像手段群移動手段4の代わりに撮像素子移動手段12を用いて調整するようにしてもよい。また、特に、立体画像撮像位置調整装置3に保存されている、中央位置検出パターン24が取得されるべき撮像素子11a〜11dのアドレスと、中央位置検出パターン24が実際に取得される撮像素子11a〜11d上のアドレスとの相対的な位置のずれが、すべての撮像素子11a〜11dにおいて同じずれである場合には、撮像用レンズ移動手段8により撮像用レンズ7を移動させることで、一度に位置ずれを解消するようにしてもよい。なお、ステップS21で示す機械的な補正処理は省略可能である。すなわち、立体画像撮像位置調整装置3は、撮像装置6により取得した情報に基づいて、機械的に補正する代わりに、画像信号を電気的に補正するようにしてもよい。
【0087】
ステップS21に続いて、立体画像撮像位置調整装置3は、図2に示した楔形パターン21a〜21hから撮像素子11とレンズアレイ5との微小な位置ずれを検出し、撮像素子11の出力信号において、抽出画像のアドレスを微調整する(ステップS22)。すなわち、立体画像撮像位置調整装置3は、基準画像位置情報記憶手段324(図5参照)に保存されている、楔形パターン21a〜21hにおける交点22a〜22hが取得されるべき撮像素子11a上のアドレスと、楔形パターン21a〜21hが実際に取得される撮像素子11a上のアドレスとが一致するように、配置情報信号処理手段335によって、撮像素子11aで取得された画像を電気的に処理する。なお、外枠9に楔形パターン21を備えない場合には、このステップS22の処理は省略されることとなる。
【0088】
ステップS22に続いて、立体画像撮像位置調整装置3は、歪み検出パターン23から撮像用レンズ7の歪みを検出し、撮像素子11の出力信号において、抽出画像のアドレスを微調整する(ステップS23)。すなわち、立体画像撮像位置調整装置3は、基準画像位置情報記憶手段324(図5参照)に保存されている、歪み検出パターン23が取得されるべき撮像素子11a上のアドレスと、歪み検出パターン23が実際に取得される撮像素子11a上のアドレスとが一致するように、配置情報信号処理手段335によって、撮像素子11aで取得された画像を電気的に処理する。
【0089】
なお、ステップS21ないしS23の処理において、撮像素子11a上のアドレスとして、各位置検出用パターンが存在するアドレスを補正するものとして説明したが、撮像素子11a上のアドレスとして、各位置検出用パターンが存在しないアドレスを補正するようにすることもできる。この場合には、例えば、各位置検出用パターンが存在するアドレスから、各位置検出用パターンが存在しない所定のアドレスまでの距離を係数として、補正情報を線形内挿することで算出したアドレスが、基準アドレスと一致するか否かに基づいて補正する。
【0090】
ここでは、ステップS21〜S23の処理が、撮像素子11aに対してのみ実施された場合を想定しているので、続けて、撮像素子11間の位置ずれ検出および補正について説明する。撮像素子11間の配置が正しい位置からずれている場合には、画像の色ずれ、いわゆるレジずれ(registrationのずれ)が生じてしまう。以下のステップS24およびS25の処理は、これを防ぐための処理である。なお、ステップS21〜S23の処理において、すべての撮像素子11a〜11dと、レンズアレイ5とが厳密に位置調整されていれば、ステップS24およびS25の処理は不要である。
【0091】
ステップS23に続いて、立体画像撮像位置調整装置3は、位置ずれ検出パターン25a〜25h(図3参照)から、撮像装置6内の撮像素子11間の位置ずれを検出し、撮像素子移動手段12を用いて、位置ずれを補正する(ステップS24)。すなわち、立体画像撮像位置調整装置3は、一致判別手段333によって、各撮像素子11a〜11dで取得された画像から、各位置ずれ検出パターン25a〜25hの中心位置を検出し、各撮像素子11a〜11dで取得される各位置ずれ検出パターン25a〜25hの中心位置のアドレスが、基準画像位置情報記憶手段324(図5参照)に保存されているアドレスと一致するように、撮像素子移動手段12によって撮像素子11の位置を調整する。なお、ステップS24において、撮像素子移動手段12によって撮像素子11の位置を調整する代わりに、結像手段群移動手段4によりレンズアレイ5の位置を調整するようにしてもよい。
【0092】
ステップS24に続いて、立体画像撮像位置調整装置3は、撮像素子11の出力信号において、撮像素子11間の位置ずれを微調整する(ステップS25)。すなわち、撮像素子移動手段12による機械的な調整の後に残存する位置ずれについては、立体画像撮像位置調整装置3は、配置情報信号処理手段335によって、撮像素子11a〜11dでそれぞれ取得された画像に対応する信号を電気的に処理することで補正する。これにより、撮像位置調整処理が完了する。
【0093】
ステップS25が完了している前提において、立体画像撮像位置調整装置3は、画像シフト処理を実行する。まず、立体画像撮像位置調整装置3は、画素ずれ検出パターン(例えば26a)に基づいて、2つの撮像素子11a,11bの位置関係を検出し、撮像素子移動手段12a(あるいは12b)を用いて、2つのシフト用画像を半画素シフトする(ステップS26)。そして、立体画像撮像位置調整装置3は、撮像素子11a,11bの出力信号において、2つのシフト用画像が半画素ずれるように微調整する(ステップS27)。なお、ステップS21ないしS27の処理において、必要に応じて、立体画像撮像位置調整装置3から、補正情報等が撮像素子移動手段12(または結像手段群移動手段4や撮像用レンズ移動手段8)にフィードバックされる。
【0094】
第1実施形態によれば、レンズアレイ5の位置を示す各位置検出用パターンが、被写体の立体情報を取得するときには実質的に妨げとはならない領域に配置されるので、2つの撮像素子11a,11bで取得されるそれぞれの撮影画像の空間的な相対位置を半画素ずらす処理を撮影中であっても行うことができる。
【0095】
(第2実施形態)
第2実施形態の立体画像撮影システムは、図1に示したものと同じ構成であり、また、立体画像撮像位置調整装置は、2つの撮像素子11a,11bによって取得された各画像を半画素ずらす処理(画像シフト処理)において、撮像素子11aと撮像素子11bとの空間的な相対位置をずらす手法が第1実施形態のものと異なるだけで、図5に示したものと同様な構成である。そのため、以下では、構成の図面を省略し、同じ符号を用いて第1実施形態と異なる機能だけを説明する。
【0096】
第2実施形態の立体画像撮像位置調整装置3は、画像シフト処理において、第1実施形態と同様に画素ずれ検出パターン26a〜26h(図4参照)を用いる。ここでは、説明を簡単にするために、水平方向の画素ずれを検出するための画素ずれ検出パターン26aを用いた画像シフト処理について図10を参照して説明する。図10は、第2実施形態に係る立体画像撮像位置調整装置による画像シフト処理の説明図である。
【0097】
図10には、仮想凸レンズ60と、撮像素子11aが画素ずれ検出パターン26aを撮像することで取得される入力画像情報61aと、撮像素子11bが画素ずれ検出パターン26aを撮像することで取得される入力画像情報61bとが示されている。
【0098】
画素ずれ判別手段341は、撮像素子11a,11bによりそれぞれ取得される入力画像情報61a、61bを、仮想凸レンズ60から充分離れた位置に合焦状態で結像させ、像の光強度分布62a、62bをそれぞれ算出する。また、画素ずれ判別手段341は、それぞれの光強度分布62a、62bをフーリエ変換し、その位相スペクトルから、光強度分布62aと光強度分布62bとの位相差(算出位相差)PCを算出する。この画素ずれ判別手段341によって仮想凸レンズ60を用いた処理を実行する前の位相差(入力位相差)PINは、撮像素子11aと撮像素子11bとの空間的な相対位置に応じて異なる。図10に示すように、入力画像情報61aと入力画像情報61bにおいては微小な位相差(入力位相差)PINであった情報が、仮想凸レンズ60から充分離れた位置で結像された像の光強度分布62aと光強度分布62bにおいては大きな位相差PCとなる。
【0099】
ここで、入力画像情報61a,61bおよび光強度分布62a,62bは、二次元的な情報から構成されるものであるが、図10においては、視認性を考慮して、入力画像情報61a,61bおよび光強度分布62a,62bのある一断面を図示した。なお、入力画像情報61a、61bを入力画像とし、仮想凸レンズ60により結像される像の光強度分布62a,62bを算出する手法については、例えば、「小山、西原、“光波電子工学”、コロナ社、1978」に記載されている。
【0100】
基準画像位置情報記憶手段324は、基準画像位置情報として、以下の位相差を記憶する。すなわち、この位相差は、画素ずれ検出パターン26aを撮像することで2つの撮像素子11a,11bによって取得される各画像が半画素ずれた状態となるときに対応した、撮像素子11aと撮像素子11bとの空間的な相対位置が実現する配置において、仮想凸レンズ60を用いて算出されるそれぞれの光強度分布の位相差である。
【0101】
移動量算出手段342は、画素ずれ判別手段341によって算出される、光強度分布62aと光強度分布62bとの位相差PCと、基準画像位置情報記憶手段324に記憶された基準画像位置情報としての位相差とが、一致するように、撮像素子11a(または11b)の移動量を算出する。
【0102】
以上の説明では、水平方向の画素ずれを検出するための画素ずれ検出パターン26aを用いて説明したが、水平方向の画素ずれを検出するための画素ずれ検出パターン26b〜26dや、垂直方向の画素ずれを検出するための画素ずれ検出パターン26e〜26hを用いて調整することで、より精度の高い位置調整を行うことができる。
【0103】
第2実施形態によれば、2つの撮像素子11a,11bによって取得される各画像が正確に半画素ずれた状態となるときに対応した、撮像素子11aと撮像素子11bとの空間的な相対位置が実現する配置を実現するための画像情報における微小なずれを、仮想凸レンズ60を用いて拡大させることで、撮像素子移動手段12の制御が容易で、かつ精度の高い制御が可能となる。
【0104】
(第3実施形態)
第3実施形態の立体画像撮影システムは、図1に示したものと同じ構成であり、また、立体画像撮像位置調整装置は、画像シフト処理において、撮像素子11aと撮像素子11bとの空間的な相対位置をずらす手法が第2実施形態のものと異なるだけなので、以下では、第2実施形態と異なる機能だけ説明する。
【0105】
第3実施形態の立体画像撮像位置調整装置3は、画素ずれ検出パターン26a〜26h(図4参照)を利用しない。したがって、第3実施形態の立体画像撮影システムでは、画素ずれ検出パターン26a〜26h(図4参照)を備えていなくてもよい。その代わり、画像シフト処理において、2つの撮像素子11a,11bによる撮影画像を半画素ずらすために利用される位置検出用パターンとして、図3に示した位置ずれ検出パターン25a〜25hを用いる。なお、図3に示した位置ずれ検出パターン25a〜25hは、撮像位置調整処理にも用いられる。第3実施形態では、画素ずれ検出パターン26a〜26hの機能を位置ずれ検出パターン25a〜25hで代替するので、この意味において、位置ずれ検出パターン25a〜25hのことを、以下では、画素ずれ検出パターン25a〜25hと呼称する。なお、同じ符号を用いている。また、画素ずれ検出パターン25a〜25hの図示は省略する。ここでは、説明を簡単にするために、画素ずれ検出パターン25aを用いた画像シフト処理について図10を参照して説明する。
【0106】
図10に示す入力画像情報61a,61bは、第3実施形態では、撮像素子11a,11bが画素ずれ検出パターン25aをそれぞれ撮像することで取得される画像情報を意味する。なお、画素ずれ判別手段341によって仮想凸レンズ60を用いた処理を実行する前の位相差(入力位相差)PINは、撮像素子11aと撮像素子11bとの空間的な相対位置に応じて異なる。
【0107】
画素ずれ判別手段341は、第2実施形態と同様にして、取得した入力画像情報61a,61bについての光強度分布62a,62bを算出し、仮想凸レンズ60によって拡大された位相差を求める。
基準画像位置情報記憶手段324は、基準画像位置情報として、以下の位相差を記憶する。すなわち、この位相差は、画素ずれ検出パターン25aを撮像することで2つの撮像素子11a,11bによって取得される各画像が半画素ずれた状態となるときに対応した、撮像素子11aと撮像素子11bとの空間的な相対位置が実現する配置において、仮想凸レンズ60を用いて算出されるそれぞれの光強度分布の位相差である。
移動量算出手段342は、画素ずれ判別手段341によって算出される、光強度分布62aと光強度分布62bとの位相差PCと、基準画像位置情報記憶手段324に記憶された基準画像位置情報としての位相差とが一致するように、撮像素子11a(または11b)の移動量を算出する。
【0108】
以上の説明では、画素ずれ検出パターン25aを用いて説明したが、画素ずれ検出パターン25b〜25hを用いて調整することで、より精度の高い位置調整を行うことができる。このように精度の高い位置検出を行う場合に、第2実施形態で用いた画素ずれ検出パターン26a〜26hでは、水平方向の画素ずれを検出する専用のパターンと、垂直方向の画素ずれを検出する専用のパターンとを用意しておかなければならなかった。
しかしながら、第3実施形態で用いる画素ずれ検出パターン25a〜25hは、それぞれ形状が同一であり、輝度値が二次元状に変化するパターンであるので、水平方向の画素ずれを検出する場合に利用できると共に、垂直方向の画素ずれを検出する場合にも利用できる。
【0109】
(第4実施形態)
図11は、本発明の立体画像撮像システムの他の例を模式的に示す構成図である。図11に示すように、第4実施形態の立体画像撮影システム1Cでは、レンズアレイ5に外枠が設けられておらず、レンズアレイ5の外周部に位置検出用光学系70a〜70dを備え、立体画像撮像位置調整装置3Cの機能が異なる点を除いて、図1に示した第1実施形態のシステムと同様なので、同じ構成には同じ符号を付して説明を省略する。
【0110】
位置検出用光学系70a〜70dは、位置検出用パターンとして機能するものである。これら位置検出用光学系70a〜70dは、レンズアレイ5を構成するレンズ5aのうち最も外側に配置されたレンズ5aの被写体側に予め接続され、接続されたレンズ5aを透過する光が光軸に対して直交する方向に向かって輝度分布が変化するように構成されている。また、位置検出用光学系70a,70b,70c,70dは、レンズアレイ5の左上隅、右上隅、右下隅、左下隅にそれぞれ配置されたレンズ5aに対応するように接続されている。
【0111】
なお、位置検出用光学系70の個数や配置は、これに限定されるものではなく、例えば、レンズアレイ5の外周部のうち四隅を除く、四辺の所定位置に配置されるように構成してもよい。また、レンズアレイ5には縦横に例えば1千〜数万個のレンズ5aが配列されるので、被写体の立体情報を取得するときに実質的に妨げとならなければ、位置検出用光学系70a〜70dはレンズアレイ5のうち最も外側から数えて2番目,3番目,…等に配置されたレンズ5aに設けても構わない。また、位置検出用光学系70a〜70dを移動させる移動手段を備えるように構成してもよい。以下、区別しない場合には、位置検出用光学系70と表記する。
【0112】
図12は、図11に示した位置検出用光学系の一例を模式的に示す構成図である。図12では、位置検出用光学系70およびレンズ5aの断面が示されている。レンズ5aは、レンズアレイ5を構成する要素である。位置検出用光学系70は、ピンホール71とコリメータレンズ72とを備える。ピンホール71とコリメータレンズ72との間の距離Fは、コリメータレンズ72の焦点距離(あるいは、略焦点距離)に設定される。このような配置では、被写体側(図12中左側)から入射する光は、レンズ5aを通過後に、図3に示した位置ずれ検出パターン25a〜25hと同様の、領域の中心位置で輝度値が最も高く、周辺に行くにしたがって二乗特性で輝度値が減少するパターンが生成され、このパターンを撮像装置6で取得することができる。
【0113】
したがって、立体画像撮像位置調整装置3Cは、図3に示した位置ずれ検出パターン25a〜25hを、位置検出用光学系70に置き換えるだけで、第1実施形態と同様にして撮像位置調整処理を行うことができる。また、第3実施形態で説明したように、図3に示した位置ずれ検出パターン25a〜25hを、画素ずれ検出パターンとして利用することができるので、画素ずれ検出パターン25a〜25hを、位置検出用光学系70に置き換えるだけで、第3実施形態と同様にして画像シフト処理を行うことができる。
【0114】
図13は、図11に示したレンズアレイと撮像素子との位置合わせ等の撮像位置調整処理に利用される位置検出用パターンの一例を示す図である。図13に示すように、レンズアレイ5のレンズ5aが配置されていない領域に、図2に示した歪み検出パターン23および中央位置検出パターン24が配置されている。本実施形態では外枠9(図2参照)が存在しないため、図2に示した楔形パターン21a〜21dも存在しない。なお、図2に示した楔形パターン21a〜21dの機能は、位置検出用光学系70が代替することができる。
【0115】
次に、立体画像撮像位置調整装置3Cの動作について図14を参照して説明する。図14は、第4実施形態に係る立体画像撮像位置調整装置の動作の具体例を示すフローチャートである。立体画像撮像位置調整装置3Cが実行するステップS31〜S37は、図9に示したステップS21〜S27と実質的に同様なので詳細な説明を省略する。ただし、ステップS32において、立体画像撮像位置調整装置3Cは、楔形パターン21a〜21h(図2参照)の代わりに、位置検出用光学系70の画像情報から、抽出画像の微調整を行う。
【0116】
また、ステップS34において、立体画像撮像位置調整装置3Cは、位置ずれ検出パターン25a〜25h(図3参照)の代わりに、位置検出用光学系70の画像情報から、撮像素子11間の位置ずれを検出し、撮像素子移動手段12を用いて、位置ずれを補正する。さらに、ステップS36において、立体画像撮像位置調整装置3Cは、画素ずれ検出パターン26a〜26h(図4参照)の代わりに、位置検出用光学系70の画像情報から、撮像素子11a,11b間の画素ずれを検出し、撮像素子移動手段12を用いて、半画素ずれるように補正する。
【0117】
これらステップS32,S34およびS36の処理で用いられる位置検出用光学系70の画像情報の一例を図15に示す。図15は、撮像装置6が、レンズアレイ5を介して被写体を撮影するときに撮像素子11で取得される、レンズアレイ5の画像情報の一例を示している。図15に示すように、レンズアレイ5を構成するレンズ5aのうち、最外周の四隅に配置されたレンズ5aは、位置検出用光学系70を反映した撮影画像81a〜81dとなる。なお、図15では、撮影画像81a〜81dをハッチングで簡略化して示したが、撮影画像81a〜81dは、図3に示す位置ずれ検出パターン25a〜25dのような輝度分布を有している。
【0118】
第4実施形態によれば、撮像位置調整処理を行うための位置検出用パターンが位置検出用光学系70によって形成されているので、レンズアレイ5に、位置検出用パターンを貼り付ける外枠等を設ける必要がない。また、位置検出用光学系70が輝度分布を有しているので、位置検出用光学系70の画像情報を画像シフト処理にも利用することができる。したがって、位置検出用光学系70に2種類の機能を持たせることで、位置検出用パターンの種類や個数を低減させることができる。
【0119】
以上、各実施形態について説明したが、本発明はこれらに限定されるものではなく、その趣旨を変えない範囲でさまざまに実施することができる。例えば、各実施形態では、撮像素子11間の位置ずれを検出するための位置検出用パターンとして図3を参照して位置ずれ検出パターン25a〜25hを用いて説明したが、本発明は、位置ずれ検出パターン25a〜25hの形状、個数、配置場所、輝度分布特性に限定されるものではない。例えば、形状として、V字やX字等の文字や楔形の二値パターンを利用することもできる。この場合には、一致判別手段333は、円形の位置ずれ検出パターン25a〜25hのように中心位置を検出するのではなく、V字やX字等の文字や楔形の2値パターンの形状に合わせて、例えば、その形状の下底部の中央、上底部の中央、上底部の左端や右端、下底部の左端や右端等のポイント位置のアドレスを検出することで、対応する基準アドレスとの一致判定を行うこともできる。これにより、同等の効果を奏することができる。
【0120】
また、各実施形態では、4つの撮像素子11のうち、撮像素子11a,11bが緑色に対応する同色用撮像素子であるものとして説明したが、これは一例であって、2つの同色用撮像素子に対応する色は、例えば、青でも赤でもよい。
【0121】
また、各実施形態では、レンズアレイ5を構成する各レンズ5aを同一平面上に配置するものとしたが、同一曲面上に配置してもよい。また、レンズアレイ5を構成するレンズ5aは、特に限定されるものではなく、凸レンズ、ボールレンズ、屈折率分布レンズ、回折光学素子、凹レンズ、あるいは、これらの組み合せでもよい。ここで、屈折率分布レンズは、例えば、中心から外周に向かって屈折率が異なるGRIN(Gradient-index)レンズである。また、回折光学素子は、例えばフレネルレンズである。なお、凹レンズは、他のレンズと適宜組み合わせて用いられる。
【図面の簡単な説明】
【0122】
【図1】本発明の第1実施形態に係る立体画像撮影システムの一例を模式的に示す構成図である。
【図2】図1に示したレンズアレイと撮像素子との位置合わせ等に利用される位置検出用パターンの一例を示す図である。
【図3】図1に示した撮像素子間の位置合わせに利用される位置検出用パターンの一例を示す図である。
【図4】図1に示した2つの撮像素子による画像を半画素ずらすために利用される位置検出用パターンの一例を示す図である。
【図5】第1実施形態に係る立体画像撮像位置調整装置の構成を示すブロック図である。
【図6】第1実施形態に係る立体画像撮像位置調整装置による撮像位置調整処理を示すフローチャートである。
【図7】位置ずれや画素ずれを説明するための位置検出用パターンの画像の一例を示す図である。
【図8】第1実施形態に係る立体画像撮像位置調整装置による画像シフト処理を示すフローチャートである。
【図9】図6に示した撮像位置調整処理の具体的な一例を示すフローチャートである。
【図10】第2実施形態に係る立体画像撮像位置調整装置による画像シフト処理の説明図である。
【図11】本発明の立体画像撮像システムの他の例を模式的に示す構成図である。
【図12】図11に示した位置検出用光学系の一例を模式的に示す構成図である。
【図13】図11に示したレンズアレイと撮像素子との位置合わせ等に利用される位置検出用パターンの一例を示す図である。
【図14】第4実施形態に係る立体画像撮像位置調整装置の動作の具体例を示すフローチャートである。
【図15】位置検出用光学系の画像情報の一例を示す図である。
【図16】従来のlP方式による立体画像の撮影および再生を模式的に示す説明図であり、(a)は立体画像撮影装置、(b)は立体画像表示装置をそれぞれ示している。
【符号の説明】
【0123】
1,1C 立体画像撮影システム
2 立体画像撮影装置
3,3C 立体画像撮像位置調整装置
4 結像手段群移動手段
5 レンズアレイ(結像手段群)
5a レンズ(結像手段)
6 撮像装置
7 撮像用レンズ
8 撮像用レンズ移動手段
9 外枠
11(11c,11d) 撮像素子
11a,11b 撮像素子(同色用撮像素子)
12(12a〜12d) 撮像素子移動手段
21a〜21h 楔形パターン(位置検出用パターン)
23 歪み検出パターン(位置検出用パターン)
24 中央位置検出パターン(位置検出用パターン)
25a〜25d 位置ずれ検出パターン(位置検出用パターン)
26a〜26h 画素ずれ検出パターン(位置検出用パターン)
323 抽出条件記憶手段
324 基準画像位置情報記憶手段
325 立体画像情報記憶手段
331 画像抽出手段
331a 立体画像情報抽出手段
331b パターン画像抽出手段
331c シフト用画像抽出手段
332 立体画像情報管理手段
333 一致判別手段
334 補正量算出手段
335 配置情報信号処理手段
341 画素ずれ判別手段
342 移動量算出手段
343 シフト量信号処理手段
351 駆動制御手段
70(70a〜70d) 位置検出用光学系
71 ピンホール
72 コリメータレンズ

【特許請求の範囲】
【請求項1】
結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置に備えられた2つの撮像素子でそれぞれ取得された各画像を互いに半画素ずらす立体画像撮像位置調整装置であって、
前記結像手段群の位置を示す位置検出用パターンと前記被写体とを共に前記各撮像素子によって撮像することで取得された各画像から前記位置検出用パターンの画像をそれぞれ抽出する画像抽出手段と、
前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別する画素ずれ判別手段と、
前記各位置検出用パターンの画像が互いに半画素ずれていない場合に、前記抽出された位置検出用パターンの画像が互いに半画素ずれるように前記撮像素子の位置をシフトするための移動量を算出する移動量算出手段と、
前記算出された移動量に基づいて、前記撮像素子を移動させる撮像素子移動手段に駆動信号を出力する駆動制御手段と、
を備えることを特徴とする立体画像撮像位置調整装置。
【請求項2】
前記移動量算出手段で算出された情報に基づいて、前記撮像素子から出力される撮像された画像を示す画像信号を処理することで、前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれるように調整するシフト量信号処理手段をさらに備えることを特徴とする請求項1に記載の立体画像撮像位置調整装置。
【請求項3】
前記撮像手段は、色の3原色である赤色、緑色および青色のうちのいずれか1つの色に対応する同色用撮像素子を2つ有すると共に、前記3原色のうちの他の色に対応する色用の撮像素子を1つずつ有し、
前記同色用撮像素子でそれぞれ取得された各画像を互いに半画素ずらすことを特徴とする請求項1または請求項2に記載の立体画像撮像位置調整装置。
【請求項4】
結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置に備えられた2つの撮像素子でそれぞれ取得された各画像を互いに半画素ずらす立体画像撮像位置調整装置の立体画像撮像位置調整方法であって、
画像抽出手段によって、前記結像手段群の位置を示す位置検出用パターンと前記被写体とを共に前記各撮像素子によって撮像することで取得された各画像から前記位置検出用パターンの画像をそれぞれ抽出する画像抽出ステップと、
画素ずれ判別手段によって、前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別する画素ずれ判別ステップと、
移動量算出手段によって、前記各位置検出用パターンの画像が互いに半画素ずれていない場合に、前記抽出された位置検出用パターンの画像が互いに半画素ずれるように前記撮像素子の位置をシフトするための移動量を算出する移動量算出ステップと、
駆動制御手段によって、前記算出された移動量に基づいて、前記撮像素子を移動させる撮像素子移動手段に駆動信号を出力する駆動制御ステップと、
を有することを特徴とする立体画像撮像位置調整方法。
【請求項5】
結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置に備えられた2つの撮像素子でそれぞれ取得された各画像を互いに半画素ずらすために、コンピュータを、
前記結像手段群の位置を示す位置検出用パターンと前記被写体とを共に前記各撮像素子によって撮像することで取得された各画像から前記位置検出用パターンの画像をそれぞれ抽出する画像抽出手段、
前記それぞれ抽出された位置検出用パターンの画像が互いに半画素ずれているか否かを判別する画素ずれ判別手段、
前記各位置検出用パターンの画像が互いに半画素ずれていない場合に、前記抽出された位置検出用パターンの画像が互いに半画素ずれるように前記撮像素子の位置をシフトするための移動量を算出する移動量算出手段、
前記算出された移動量に基づいて、前記撮像素子を移動させる撮像素子移動手段に駆動信号を出力する駆動制御手段、
として機能させることを特徴とする立体画像撮像位置調整プログラム。
【請求項6】
結像手段群と、この結像手段群により結像された被写体の各要素画像を撮像用レンズを介して撮像する撮像装置とを備える立体画像撮影装置と、
前記撮像装置に備えられた撮像素子を移動させる撮像素子移動手段と、
前記結像手段群の位置を示す位置検出用パターンと、
請求項1ないし請求項3のいずれか一項に記載の立体画像撮像位置調整装置とを備えることを特徴とする立体画像撮影システム。
【請求項7】
前記結像手段群の配設された領域の外側に外枠が設けられており、
前記位置検出用パターンは、前記外枠に設けられていることを特徴とする請求項6に記載の立体画像撮影システム。
【請求項8】
前記外枠に表示装置が設けられており、
前記位置検出用パターンは、前記表示装置に表示されることを特徴とする請求項6に記載の立体画像撮影システム。
【請求項9】
前記位置検出用パターンは、位置検出用光学系によって形成され、
前記位置検出用光学系は、
前記結像手段群を構成する結像手段のうち最も外側に配置された結像手段の前記被写体側に予め接続され、前記接続された結像手段を透過する光が光軸に対して直交する方向に向かって輝度分布が変化するように構成されていることを特徴とする請求項6に記載の立体画像撮影システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2008−177725(P2008−177725A)
【公開日】平成20年7月31日(2008.7.31)
【国際特許分類】
【出願番号】特願2007−7713(P2007−7713)
【出願日】平成19年1月17日(2007.1.17)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成18年度、総務省、情報通信研究機構委託研究「多並列・像再生型立体テレビシステムに関する研究開発」(H18−H22)、産業活力再生特別措置法第30条の適用を受ける特許出願
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】