ステレオ撮像装置
【課題】単一のカメラによってステレオ撮像が可能であり、且つオクルージョンの発生領域を低減させることが可能なステレオ撮像装置の提供。
【解決手段】ステレオ撮像装置は、1台のカメラ4と、カメラ4の前方左右に配置された一対の反射鏡5,6と、を備える。カメラ4の撮像面24は、反射鏡5,6を介さない実像が結像される中央領域と、左の反射鏡5を介した鏡像が結像される右領域35と、右の反射鏡6を介した鏡像が結像される左領域36とを有する。
【解決手段】ステレオ撮像装置は、1台のカメラ4と、カメラ4の前方左右に配置された一対の反射鏡5,6と、を備える。カメラ4の撮像面24は、反射鏡5,6を介さない実像が結像される中央領域と、左の反射鏡5を介した鏡像が結像される右領域35と、右の反射鏡6を介した鏡像が結像される左領域36とを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ステレオ撮像装置に関する。
【背景技術】
【0002】
左右一対の視差画像を撮像するステレオ撮像装置が知られている。
【0003】
【特許文献1】特開2002−300603号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上記従来のステレオ撮像装置では、同一時刻の同一の被写体を2台のカメラによって撮像した際の視差を用いたステレオ視法により、カメラから被写体までの距離を計測することができる。
【0005】
例えば、図12に示すように、左右(図中では上下)に配置された2台のカメラ101,102の間隔(レンズ103,104間の距離)をLab、カメラ焦点距離をf、被写体Qの撮像面Ga,G2での各座標位置をそれぞれPa(Xa,Ya)、Pb(Xb,Yb)とすると、YaとYbとがほぼ等しい場合、カメラ101,102(レンズ103,104)から被写体Qまでの距離dは、次式によって算出される。
【0006】
d=Lab×f/(Xa−Xb)
【0007】
なお、撮像面Ga,Gbでの座標位置は、各光軸OAa,OAbと各撮像面Ga,Gbとの交点Oa,Obを原点とし、左方向(図中上方向)をx軸の正方向とし、鉛直方向上方をy軸の正方向とした各平面座標系における座標値である。図12の例では、Xaは正の値となり、Xbは負の値となる。
【0008】
しかし、上記従来のステレオ撮像装置では、一つの被写体を2台のカメラによって同時に撮像しなければならない。すなわち、2台のカメラが必要であり、且つ両者の撮像タイミングを合わせる必要がある。
【0009】
また、一方のカメラと被写体との間に障害物が存在してオクルージョン(不可視領域)が生じると、一方のカメラでは被写体を撮像できなくなり、被写体までの距離を計測することができない。このような不都合を回避するためには、カメラの台数を増やしてオクルージョンの発生領域を減少させなければならず、3台以上のカメラが必要となる。
【0010】
そこで、本発明は、単一のカメラによってステレオ撮像が可能であり、且つオクルージョンの発生領域を低減させることが可能なステレオ撮像装置の提供を目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成すべく、本発明に係るステレオ撮像装置は、1台のカメラと、カメラの前方左右に配置された一対の反射鏡と、を備える。カメラの撮像面は、反射鏡を介さない実像が結像される第1の領域と、左の反射鏡を介した鏡像が結像される第2の領域と、右の反射鏡を介した鏡像が結像される第3の領域とを有する。
【0012】
上記構成では、第1の領域に結像された第1画像と、第2の領域に結像された第2画像と、第3の領域に結像された第3画像とは、相互に視差を有している。すなわち、単一のカメラによって、ステレオ撮像が可能であり、これらの画像を用いることにより、ステレオマッチング処理を行うことができる。
【0013】
また、相互に視差を有する3つの画像(第1〜第3画像)を得ることができるので、オクルージョンを低減させることができる。
【発明の効果】
【0014】
本発明によれば、単一のカメラによってステレオ撮像が可能であり、且つオクルージョンの発生領域を低減させることができる。
【発明を実施するための最良の形態】
【0015】
以下、本発明の一実施形態を図面に基づいて説明する。図1は本実施形態のステレオ撮像装置の機能的構成を示すブロック図、図2は図1のカメラユニットの配置例を模式的に示す斜視図、図3は図1のステレオ撮像装置の光学的な構成を模式的に示す平面図、図4は図3の部分的な拡大図、図5は図3の側面図、図6は図1のカメラユニットの全体構成を模式的に示す平面図、図7(a)は図3の撮像面を説明するための平面図、図7(b)は図7(a)の正面図、図8は画像の歪みを説明するための模式図、図9は画像の歪み補正を説明するための光学的な構成を模式的に示す平面図、図10は図1のカメラユニットの撮像範囲を示す平面図、図11は図1の画像演算装置が実行する処理を示すフローチャートである。
【0016】
図1に示すように、本実施形態のステレオ撮像装置1は、カメラユニット2と画像演算装置3とを備える。
【0017】
カメラユニット2は、1台のカメラ4と、カメラ4の撮像方向前方に固定された左右一対の反射鏡5,6とを備える。画像演算装置3は、カメラ4から撮像データを受信する受信部7と、受信した撮像データを一時的に記憶する記憶部8と、記憶した撮像データを用いてステレオ視法による距離演算処理を実行する画像処理演算部9とを備える。
【0018】
カメラユニット2は、例えば、図2に示すように、トラック10のキャブ11のルーフ上の空間内に固定される。カメラ4は、所定時間毎に車両前方を撮像して、その撮像データを画像演算装置3に送信する。
【0019】
図3に示すように、カメラ4のレンズ鏡筒内には、レンズ20を備える撮像光学系21が配置され、撮像光学系21の光軸(第1の光軸)22上には撮像素子(例えばCCD)23の撮像面24が光軸22に垂直に配置される。左右の反射鏡5,6の反射面(鏡面)12,13は、光軸22を中心として左右対称で、光軸22に対して所定の傾斜角度θとなるように各外端12a,13aが外側に傾いた外開き状態で、且つ撮像光学系21の画角(カメラ4の本来の画角)2φ内に含まれるように、撮像光学系21に対して固定されている。本実施形態の画角2φの境界(図3において光軸22から左右に片側画角φ傾斜した直線25,26)は、反射面12,13の内端12b,13b又はその近傍を通る。
【0020】
画角2φの範囲のうち、反射面12,13を介さずに撮像される範囲は、撮像光学系21の視点(光軸22が通るレンズ20の中心点)Vを中心として光軸22から左右方向に角度φ1までの範囲(画角2φ1の範囲)である。撮像光学系21の視点Vを中央視点と称し、中央視点Vを中心とした画角2φ1の範囲を中央視野と称する。また、画角2φの範囲のうち、反射面12,13を介して撮像される範囲は、撮像光学系21の視点Vを中心として光軸22に対し左右方向に角度φ1から角度φまでの範囲(画角2φ2=φ−φ1の範囲)であり、この範囲から各反射面12,13で反射して撮像方向前方へ向かう範囲をそれぞれ左視野及び右視野と称する。中央視野と左視野及び右視野との境界(図3において光軸22から左右に片側画角φ1傾斜した直線27,28)は、反射面12,13の外端12a,13aを通る。
【0021】
左視野及び右視野の各光軸25,26は、撮像光学系21の視点Vから光軸22に対して左右にそれぞれ角度(φ1+φ2)傾斜した方向を指向し、反射面12,13で反射して撮像方向前方に屈曲する。本実施形態では、反射面12,13で屈曲して撮像方向前方へ指向する左視野及び右視野の各光軸25,26が中央視野の光軸22と平行になるように、反射面12,13の位置及び傾斜角度θが設定されている。これら左視野及び右視野は、左右の仮想視点VL,VRから中央視野の光軸22と平行な光軸(第3の光軸)29及び光軸(第2の光軸)30を中心とした画角2φ2の範囲にそれぞれ設定される。この状態は、図6に示すように、中央視野内の被写体を撮像するカメラ4に加えて、左視野内の被写体を撮像する左側のカメラ31と右視野内の被写体を撮像する右側のカメラ32とを仮想的に設けた状態に等しい。なお、実際のカメラ4と左右の仮想的なカメラ31,32との前後距離の差(後述するr−D)は、カメラ4と被写体との距離に比べて極めて小さく、無視することが可能である。
【0022】
図7に示すように、撮像素子23の撮像面24は、中央視野内の被写体の実像の画像(第1画像)が結像される中央領域(第1の領域)33と、中央領域33の右側で左視野内の被写体の鏡像の画像(第2画像)が結像される右領域(第2の領域)34と、中央領域33の左側で右視野内の被写体の鏡像の画像(第3画像)が結像される左領域(第3の領域)35とに分かれる。
【0023】
次に、図3〜図5を参照し、カメラ4の内部構造の幾何学的な位置関係について説明する。
【0024】
焦点距離(レンズ20から撮像面24までの距離)をf、撮像面24の左右方向の横幅をwとすると、撮像光学系21の片側画角(カメラ4の本来の片側画角)φは、次式(1)によって表される。
【0025】
φ=tan−1(w/2f)・・・(1)
【0026】
仮想視点VL,VRの片側画角をφ2とすると、中央視点の片側画角φ1と、撮像面24における右領域34及び左領域35の左右方向の各横幅(撮像面24の右端から右側の視野境界位置36までの距離、及び撮像面24の左端から左側の視野境界位置37までの距離)w1と、反射面12,13の傾斜角度θとは、それぞれ次式(2)〜(4)によって表される。
【0027】
φ1=φ−2φ2・・・(2)
w1=w/2−f×tanφ1・・・(3)
θ=(φ−φ2)/2・・・(4)
【0028】
左の反射面12の鏡基準点(反射面12と左視野の光軸29との交点)38と右の反射面13の鏡基準点(反射面13と右視野の光軸30との交点)39との距離をベースラインBとすると、レンズ中心VからベースラインBの中点までの距離Dと、レンズ中心Vから各鏡基準点38,39までの距離rと、鏡基準点38,39より内側の鏡長さ(鏡基準点38,39と内端12b,13bとの距離)M1と、鏡基準点38,39より外側の鏡長さ(鏡基準点38,39と外端12a,13aとの距離)M2と、鏡長さMとは、それぞれ次式(5)〜(9)によって表される。
【0029】
【数1】
【0030】
【数2】
【0031】
【数3】
【0032】
【数4】
【0033】
M=M1+M2・・・(9)
【0034】
カメラ4を含まない装置全長Lと、装置全幅Wとは、それぞれ次式(10),(11)によって表される。
【0035】
L=M2×cosθ+D・・・(10)
W=2M2×sinθ+B=L×w/f・・・(11)
【0036】
撮像面24の上下方向の縦幅をhとすると、装置全高Hは、次式(12)によって表される。
【0037】
H=L×h/f・・・(12)
【0038】
例えば、焦点距離fを6mm、撮像面24の横幅wを6.4mm、撮像面24の縦幅hを4.8mm、ベースラインBを30cm、仮想視点VL,VRの片側画角φ2を5°とした場合、上式(1)〜(12)により、撮像光学系21の片側画角φは約28°、中央視点の片側画角φ1は約18°、反射面12,13の傾斜角度θは約11.5°、レンズ中心VからベースラインBの中点までの距離Dは約35.2cm、レンズ中心Vから各鏡基準点38,39までの距離rは約38.3cm、鏡基準点38,39より内側の鏡長さM1は約11.7cm、鏡基準点38,39より外側の鏡長さM2は約29.3cm、鏡長さMは約41.0cm、装置全長Lは約63.9cm、装置全幅Wは約41.7cm、装置全高Hは約51.1cm、撮像面24における右領域34及び左領域35の左右方向の各横幅w1は約1.24mmとなる。
【0039】
次に、撮像面24の右領域34及び左領域35における画像の補正処理について説明する。なお、右領域34と左領域35とは左右対称であり、両者の補正処理は共通するため、両者を代表して左領域35について説明する。
【0040】
右視野の光軸30は、撮像面24の左領域35に対して斜め方向から入射し、図8(b)に示すように、画像が台形に歪む。従って、左領域35の画像と中央領域33の画像との間でマッチングを行うためには、左領域35の歪みを補正する必要がある。なお、右領域34と左領域35との間においても、マッチングを行うためには、各領域の歪みを補正する必要がある。
【0041】
歪み補正では、図9に示すように、光軸30と直交し、且つ視点Vからの距離が焦点距離fとなる仮想撮像面40を仮想的に設定する。この仮想撮像面40は、左領域35の歪みを補正した撮像面である。撮像面24上の画像を仮想撮像面40上に投影することにより、歪みが補正された画像を得ることができ、中央領域33とのマッチングを行うことが可能となる。
【0042】
例えば、撮像面24上の左領域35中の任意の点をP(x、y)とすると、点Pと視点Vとを結ぶ直線41と光軸30との角度φp、及び視点Vと点Pとの距離VPは、それぞれ次式(13)及び(14)によって表される。なお、点Pの座標値(x,y)は、撮像面24の中心(光軸22と撮像面24との交点)を原点とし、水平方向にx軸、上下方向にy軸を設定した座標系における値である。
【0043】
φp=φ−φ2−tan−1(x/f)・・・(13)
【0044】
【数5】
【0045】
仮想撮像面40と平行で且つ点Pを通る平面42と光軸30との交点をPaとすると、点Pと点Paとの距離X、及び視点Vと点Paとの距離Zは、それぞれ次式(15)及び(16)によって表される。
【0046】
X=VP×sinφp・・・(15)
Z=VP×cosφp・・・(16)
【0047】
光軸30と仮想撮像面40との交点をP0を原点とし、水平方向にx軸、上下方向にy軸を設定した座標系における仮想撮像面40上の投影点Ppの座標値(xp,yp)は、次式(17)及び(18)によって求めることができる。
【0048】
xp=f×X/Z・・・(17)
yp=f×y/Z・・・(18)
【0049】
なお、xpを次式(19)によって求めてもよい。
【0050】
xp=f×tanφp・・・(19)
【0051】
すなわち、右領域34及び左領域35の画像(第2及び第3画像)に対して上記歪み補正を施すことによって、中央領域の第1画像と補正後の第2画像とを用いて、又は第1画像と補正後の第3画像とを用いて、ステレオマッチング処理を行うことができる。なお、ステレオマッチング処理には、ステレオ視法において、視差のある複数の画像について、被写体における同一部位に対応した画素の対を見つける対応点探索処理や、対応点について、三角測量の原理を適応して被写体までの距離を求める距離計測処理などが含まれる。
【0052】
次に、画像演算装置3が実行する処理について、図10に基づき説明する。
【0053】
画像処理演算部9は、カメラ4から受信部7が受信して記憶部8に一時的に記憶された画像(画像データ)を取り込み(ステップS1)、取り込んだ画像を、中央領域33に対応する画像(第1画像)と、右領域34に対応する画像(第2画像)と、左領域35に対応する画像(第3画像)とに切り分ける(ステップS2)。
【0054】
次に、第2画像及び第3画像に歪み補正を施し(ステップS3)、第1画像と、歪み補正を施した第2及び第3画像とを用いて、上記ステレオマッチング処理を実行する(ステップS4)。
【0055】
本実施形態によれば、中央領域33に結像された第1画像と、右領域34に結像された第2画像と、左領域35に結像された第3画像とは、相互に視差を有している。すなわち、単一のカメラ4によって、ステレオ撮像が可能であり、これら第1〜第3画像を用いることにより、ステレオマッチング処理を行うことができる。
【0056】
また、図11に示すように、カメラ4の中心から撮像方向前方に指向する光軸22の両側には、中央視野と左視野と右視野とが重なる領域50が発生する。この領域50では、例えば左視野のオクルージョンに被写体が存在している場合であっても、中央視野と右視野とによって被写体が撮像可能な場合がある。すなわち、相互に視差を有する3つの画像(第1〜第3画像)を得ることができるので、全体としてオクルージョンを低減させることができる。
【産業上の利用可能性】
【0057】
本発明のステレオ撮像装置は、ステレオ視法を用いた画像処理に有用である。
【図面の簡単な説明】
【0058】
【図1】本発明の一実施形態のステレオ撮像装置の機能的構成を示すブロック図である。
【図2】図1のカメラユニットの配置例を模式的に示す斜視図である。
【図3】図1のステレオ撮像装置の光学的な構成を模式的に示す平面図である。
【図4】図3の部分的な拡大図である。
【図5】図3の側面図である。
【図6】図1のカメラユニットの全体構成を模式的に示す平面図である。
【図7】図3の撮像面を説明するための模式図であり、(a)は平面図、(b)は正面図である。
【図8】画像の歪みを説明するための模式図であり、(a)は補正後の状態を示し、(b)は補正前の状態を示している。
【図9】画像の歪み補正を説明するための光学的な構成を模式的に示す平面図である。
【図10】図1の画像処理装置が実行する処理を示すフローチャートである。
【図11】図1のカメラユニットの撮像範囲を示す平面図である。
【図12】ステレオ視法による距離の計測を説明するための光学的な構成を模式的に示す平面図である。
【符号の説明】
【0059】
1:ステレオ撮像装置
2:カメラユニット
3:画像演算装置
4:カメラ
5,6:一対の反射鏡
22:光軸(第1の光軸)
24:撮像面
29:光軸(第2の光軸)
30:光軸(第3の光軸)
33:中央領域(第1の領域)
34:右領域(第2の領域)
35:左領域(第3の領域)
【技術分野】
【0001】
本発明は、ステレオ撮像装置に関する。
【背景技術】
【0002】
左右一対の視差画像を撮像するステレオ撮像装置が知られている。
【0003】
【特許文献1】特開2002−300603号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上記従来のステレオ撮像装置では、同一時刻の同一の被写体を2台のカメラによって撮像した際の視差を用いたステレオ視法により、カメラから被写体までの距離を計測することができる。
【0005】
例えば、図12に示すように、左右(図中では上下)に配置された2台のカメラ101,102の間隔(レンズ103,104間の距離)をLab、カメラ焦点距離をf、被写体Qの撮像面Ga,G2での各座標位置をそれぞれPa(Xa,Ya)、Pb(Xb,Yb)とすると、YaとYbとがほぼ等しい場合、カメラ101,102(レンズ103,104)から被写体Qまでの距離dは、次式によって算出される。
【0006】
d=Lab×f/(Xa−Xb)
【0007】
なお、撮像面Ga,Gbでの座標位置は、各光軸OAa,OAbと各撮像面Ga,Gbとの交点Oa,Obを原点とし、左方向(図中上方向)をx軸の正方向とし、鉛直方向上方をy軸の正方向とした各平面座標系における座標値である。図12の例では、Xaは正の値となり、Xbは負の値となる。
【0008】
しかし、上記従来のステレオ撮像装置では、一つの被写体を2台のカメラによって同時に撮像しなければならない。すなわち、2台のカメラが必要であり、且つ両者の撮像タイミングを合わせる必要がある。
【0009】
また、一方のカメラと被写体との間に障害物が存在してオクルージョン(不可視領域)が生じると、一方のカメラでは被写体を撮像できなくなり、被写体までの距離を計測することができない。このような不都合を回避するためには、カメラの台数を増やしてオクルージョンの発生領域を減少させなければならず、3台以上のカメラが必要となる。
【0010】
そこで、本発明は、単一のカメラによってステレオ撮像が可能であり、且つオクルージョンの発生領域を低減させることが可能なステレオ撮像装置の提供を目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成すべく、本発明に係るステレオ撮像装置は、1台のカメラと、カメラの前方左右に配置された一対の反射鏡と、を備える。カメラの撮像面は、反射鏡を介さない実像が結像される第1の領域と、左の反射鏡を介した鏡像が結像される第2の領域と、右の反射鏡を介した鏡像が結像される第3の領域とを有する。
【0012】
上記構成では、第1の領域に結像された第1画像と、第2の領域に結像された第2画像と、第3の領域に結像された第3画像とは、相互に視差を有している。すなわち、単一のカメラによって、ステレオ撮像が可能であり、これらの画像を用いることにより、ステレオマッチング処理を行うことができる。
【0013】
また、相互に視差を有する3つの画像(第1〜第3画像)を得ることができるので、オクルージョンを低減させることができる。
【発明の効果】
【0014】
本発明によれば、単一のカメラによってステレオ撮像が可能であり、且つオクルージョンの発生領域を低減させることができる。
【発明を実施するための最良の形態】
【0015】
以下、本発明の一実施形態を図面に基づいて説明する。図1は本実施形態のステレオ撮像装置の機能的構成を示すブロック図、図2は図1のカメラユニットの配置例を模式的に示す斜視図、図3は図1のステレオ撮像装置の光学的な構成を模式的に示す平面図、図4は図3の部分的な拡大図、図5は図3の側面図、図6は図1のカメラユニットの全体構成を模式的に示す平面図、図7(a)は図3の撮像面を説明するための平面図、図7(b)は図7(a)の正面図、図8は画像の歪みを説明するための模式図、図9は画像の歪み補正を説明するための光学的な構成を模式的に示す平面図、図10は図1のカメラユニットの撮像範囲を示す平面図、図11は図1の画像演算装置が実行する処理を示すフローチャートである。
【0016】
図1に示すように、本実施形態のステレオ撮像装置1は、カメラユニット2と画像演算装置3とを備える。
【0017】
カメラユニット2は、1台のカメラ4と、カメラ4の撮像方向前方に固定された左右一対の反射鏡5,6とを備える。画像演算装置3は、カメラ4から撮像データを受信する受信部7と、受信した撮像データを一時的に記憶する記憶部8と、記憶した撮像データを用いてステレオ視法による距離演算処理を実行する画像処理演算部9とを備える。
【0018】
カメラユニット2は、例えば、図2に示すように、トラック10のキャブ11のルーフ上の空間内に固定される。カメラ4は、所定時間毎に車両前方を撮像して、その撮像データを画像演算装置3に送信する。
【0019】
図3に示すように、カメラ4のレンズ鏡筒内には、レンズ20を備える撮像光学系21が配置され、撮像光学系21の光軸(第1の光軸)22上には撮像素子(例えばCCD)23の撮像面24が光軸22に垂直に配置される。左右の反射鏡5,6の反射面(鏡面)12,13は、光軸22を中心として左右対称で、光軸22に対して所定の傾斜角度θとなるように各外端12a,13aが外側に傾いた外開き状態で、且つ撮像光学系21の画角(カメラ4の本来の画角)2φ内に含まれるように、撮像光学系21に対して固定されている。本実施形態の画角2φの境界(図3において光軸22から左右に片側画角φ傾斜した直線25,26)は、反射面12,13の内端12b,13b又はその近傍を通る。
【0020】
画角2φの範囲のうち、反射面12,13を介さずに撮像される範囲は、撮像光学系21の視点(光軸22が通るレンズ20の中心点)Vを中心として光軸22から左右方向に角度φ1までの範囲(画角2φ1の範囲)である。撮像光学系21の視点Vを中央視点と称し、中央視点Vを中心とした画角2φ1の範囲を中央視野と称する。また、画角2φの範囲のうち、反射面12,13を介して撮像される範囲は、撮像光学系21の視点Vを中心として光軸22に対し左右方向に角度φ1から角度φまでの範囲(画角2φ2=φ−φ1の範囲)であり、この範囲から各反射面12,13で反射して撮像方向前方へ向かう範囲をそれぞれ左視野及び右視野と称する。中央視野と左視野及び右視野との境界(図3において光軸22から左右に片側画角φ1傾斜した直線27,28)は、反射面12,13の外端12a,13aを通る。
【0021】
左視野及び右視野の各光軸25,26は、撮像光学系21の視点Vから光軸22に対して左右にそれぞれ角度(φ1+φ2)傾斜した方向を指向し、反射面12,13で反射して撮像方向前方に屈曲する。本実施形態では、反射面12,13で屈曲して撮像方向前方へ指向する左視野及び右視野の各光軸25,26が中央視野の光軸22と平行になるように、反射面12,13の位置及び傾斜角度θが設定されている。これら左視野及び右視野は、左右の仮想視点VL,VRから中央視野の光軸22と平行な光軸(第3の光軸)29及び光軸(第2の光軸)30を中心とした画角2φ2の範囲にそれぞれ設定される。この状態は、図6に示すように、中央視野内の被写体を撮像するカメラ4に加えて、左視野内の被写体を撮像する左側のカメラ31と右視野内の被写体を撮像する右側のカメラ32とを仮想的に設けた状態に等しい。なお、実際のカメラ4と左右の仮想的なカメラ31,32との前後距離の差(後述するr−D)は、カメラ4と被写体との距離に比べて極めて小さく、無視することが可能である。
【0022】
図7に示すように、撮像素子23の撮像面24は、中央視野内の被写体の実像の画像(第1画像)が結像される中央領域(第1の領域)33と、中央領域33の右側で左視野内の被写体の鏡像の画像(第2画像)が結像される右領域(第2の領域)34と、中央領域33の左側で右視野内の被写体の鏡像の画像(第3画像)が結像される左領域(第3の領域)35とに分かれる。
【0023】
次に、図3〜図5を参照し、カメラ4の内部構造の幾何学的な位置関係について説明する。
【0024】
焦点距離(レンズ20から撮像面24までの距離)をf、撮像面24の左右方向の横幅をwとすると、撮像光学系21の片側画角(カメラ4の本来の片側画角)φは、次式(1)によって表される。
【0025】
φ=tan−1(w/2f)・・・(1)
【0026】
仮想視点VL,VRの片側画角をφ2とすると、中央視点の片側画角φ1と、撮像面24における右領域34及び左領域35の左右方向の各横幅(撮像面24の右端から右側の視野境界位置36までの距離、及び撮像面24の左端から左側の視野境界位置37までの距離)w1と、反射面12,13の傾斜角度θとは、それぞれ次式(2)〜(4)によって表される。
【0027】
φ1=φ−2φ2・・・(2)
w1=w/2−f×tanφ1・・・(3)
θ=(φ−φ2)/2・・・(4)
【0028】
左の反射面12の鏡基準点(反射面12と左視野の光軸29との交点)38と右の反射面13の鏡基準点(反射面13と右視野の光軸30との交点)39との距離をベースラインBとすると、レンズ中心VからベースラインBの中点までの距離Dと、レンズ中心Vから各鏡基準点38,39までの距離rと、鏡基準点38,39より内側の鏡長さ(鏡基準点38,39と内端12b,13bとの距離)M1と、鏡基準点38,39より外側の鏡長さ(鏡基準点38,39と外端12a,13aとの距離)M2と、鏡長さMとは、それぞれ次式(5)〜(9)によって表される。
【0029】
【数1】
【0030】
【数2】
【0031】
【数3】
【0032】
【数4】
【0033】
M=M1+M2・・・(9)
【0034】
カメラ4を含まない装置全長Lと、装置全幅Wとは、それぞれ次式(10),(11)によって表される。
【0035】
L=M2×cosθ+D・・・(10)
W=2M2×sinθ+B=L×w/f・・・(11)
【0036】
撮像面24の上下方向の縦幅をhとすると、装置全高Hは、次式(12)によって表される。
【0037】
H=L×h/f・・・(12)
【0038】
例えば、焦点距離fを6mm、撮像面24の横幅wを6.4mm、撮像面24の縦幅hを4.8mm、ベースラインBを30cm、仮想視点VL,VRの片側画角φ2を5°とした場合、上式(1)〜(12)により、撮像光学系21の片側画角φは約28°、中央視点の片側画角φ1は約18°、反射面12,13の傾斜角度θは約11.5°、レンズ中心VからベースラインBの中点までの距離Dは約35.2cm、レンズ中心Vから各鏡基準点38,39までの距離rは約38.3cm、鏡基準点38,39より内側の鏡長さM1は約11.7cm、鏡基準点38,39より外側の鏡長さM2は約29.3cm、鏡長さMは約41.0cm、装置全長Lは約63.9cm、装置全幅Wは約41.7cm、装置全高Hは約51.1cm、撮像面24における右領域34及び左領域35の左右方向の各横幅w1は約1.24mmとなる。
【0039】
次に、撮像面24の右領域34及び左領域35における画像の補正処理について説明する。なお、右領域34と左領域35とは左右対称であり、両者の補正処理は共通するため、両者を代表して左領域35について説明する。
【0040】
右視野の光軸30は、撮像面24の左領域35に対して斜め方向から入射し、図8(b)に示すように、画像が台形に歪む。従って、左領域35の画像と中央領域33の画像との間でマッチングを行うためには、左領域35の歪みを補正する必要がある。なお、右領域34と左領域35との間においても、マッチングを行うためには、各領域の歪みを補正する必要がある。
【0041】
歪み補正では、図9に示すように、光軸30と直交し、且つ視点Vからの距離が焦点距離fとなる仮想撮像面40を仮想的に設定する。この仮想撮像面40は、左領域35の歪みを補正した撮像面である。撮像面24上の画像を仮想撮像面40上に投影することにより、歪みが補正された画像を得ることができ、中央領域33とのマッチングを行うことが可能となる。
【0042】
例えば、撮像面24上の左領域35中の任意の点をP(x、y)とすると、点Pと視点Vとを結ぶ直線41と光軸30との角度φp、及び視点Vと点Pとの距離VPは、それぞれ次式(13)及び(14)によって表される。なお、点Pの座標値(x,y)は、撮像面24の中心(光軸22と撮像面24との交点)を原点とし、水平方向にx軸、上下方向にy軸を設定した座標系における値である。
【0043】
φp=φ−φ2−tan−1(x/f)・・・(13)
【0044】
【数5】
【0045】
仮想撮像面40と平行で且つ点Pを通る平面42と光軸30との交点をPaとすると、点Pと点Paとの距離X、及び視点Vと点Paとの距離Zは、それぞれ次式(15)及び(16)によって表される。
【0046】
X=VP×sinφp・・・(15)
Z=VP×cosφp・・・(16)
【0047】
光軸30と仮想撮像面40との交点をP0を原点とし、水平方向にx軸、上下方向にy軸を設定した座標系における仮想撮像面40上の投影点Ppの座標値(xp,yp)は、次式(17)及び(18)によって求めることができる。
【0048】
xp=f×X/Z・・・(17)
yp=f×y/Z・・・(18)
【0049】
なお、xpを次式(19)によって求めてもよい。
【0050】
xp=f×tanφp・・・(19)
【0051】
すなわち、右領域34及び左領域35の画像(第2及び第3画像)に対して上記歪み補正を施すことによって、中央領域の第1画像と補正後の第2画像とを用いて、又は第1画像と補正後の第3画像とを用いて、ステレオマッチング処理を行うことができる。なお、ステレオマッチング処理には、ステレオ視法において、視差のある複数の画像について、被写体における同一部位に対応した画素の対を見つける対応点探索処理や、対応点について、三角測量の原理を適応して被写体までの距離を求める距離計測処理などが含まれる。
【0052】
次に、画像演算装置3が実行する処理について、図10に基づき説明する。
【0053】
画像処理演算部9は、カメラ4から受信部7が受信して記憶部8に一時的に記憶された画像(画像データ)を取り込み(ステップS1)、取り込んだ画像を、中央領域33に対応する画像(第1画像)と、右領域34に対応する画像(第2画像)と、左領域35に対応する画像(第3画像)とに切り分ける(ステップS2)。
【0054】
次に、第2画像及び第3画像に歪み補正を施し(ステップS3)、第1画像と、歪み補正を施した第2及び第3画像とを用いて、上記ステレオマッチング処理を実行する(ステップS4)。
【0055】
本実施形態によれば、中央領域33に結像された第1画像と、右領域34に結像された第2画像と、左領域35に結像された第3画像とは、相互に視差を有している。すなわち、単一のカメラ4によって、ステレオ撮像が可能であり、これら第1〜第3画像を用いることにより、ステレオマッチング処理を行うことができる。
【0056】
また、図11に示すように、カメラ4の中心から撮像方向前方に指向する光軸22の両側には、中央視野と左視野と右視野とが重なる領域50が発生する。この領域50では、例えば左視野のオクルージョンに被写体が存在している場合であっても、中央視野と右視野とによって被写体が撮像可能な場合がある。すなわち、相互に視差を有する3つの画像(第1〜第3画像)を得ることができるので、全体としてオクルージョンを低減させることができる。
【産業上の利用可能性】
【0057】
本発明のステレオ撮像装置は、ステレオ視法を用いた画像処理に有用である。
【図面の簡単な説明】
【0058】
【図1】本発明の一実施形態のステレオ撮像装置の機能的構成を示すブロック図である。
【図2】図1のカメラユニットの配置例を模式的に示す斜視図である。
【図3】図1のステレオ撮像装置の光学的な構成を模式的に示す平面図である。
【図4】図3の部分的な拡大図である。
【図5】図3の側面図である。
【図6】図1のカメラユニットの全体構成を模式的に示す平面図である。
【図7】図3の撮像面を説明するための模式図であり、(a)は平面図、(b)は正面図である。
【図8】画像の歪みを説明するための模式図であり、(a)は補正後の状態を示し、(b)は補正前の状態を示している。
【図9】画像の歪み補正を説明するための光学的な構成を模式的に示す平面図である。
【図10】図1の画像処理装置が実行する処理を示すフローチャートである。
【図11】図1のカメラユニットの撮像範囲を示す平面図である。
【図12】ステレオ視法による距離の計測を説明するための光学的な構成を模式的に示す平面図である。
【符号の説明】
【0059】
1:ステレオ撮像装置
2:カメラユニット
3:画像演算装置
4:カメラ
5,6:一対の反射鏡
22:光軸(第1の光軸)
24:撮像面
29:光軸(第2の光軸)
30:光軸(第3の光軸)
33:中央領域(第1の領域)
34:右領域(第2の領域)
35:左領域(第3の領域)
【特許請求の範囲】
【請求項1】
1台のカメラと、
前記カメラの前方左右に配置された一対の反射鏡と、を備え、
前記カメラの撮像面は、反射鏡を介さない実像が結像される第1の領域と、前記左の反射鏡を介した鏡像が結像される第2の領域と、前記右の反射鏡を介した鏡像が結像される第3の領域とを有する
ことを特徴とするステレオ撮像装置。
【請求項2】
請求項1に記載のステレオ撮像装置であって、
前記第1の領域に実像を結像する第1の光軸と、前記第2の領域に鏡像を結像するように前記左の反射鏡に入射する第2の光軸と、前記第3の領域に鏡像を結像するように前記右の反射鏡に入射する第3の光軸とが平行となるように、前記一対の反射鏡が前記カメラに対して固定されている
ことを特徴とするステレオ撮像装置。
【請求項3】
請求項1又は請求項2に記載のステレオ撮像装置であって、
前記第2の領域に結像された第2画像と前記第3の領域に結像された第3画像とに対して所定の歪み補正を施し、歪み補正を施した前記第2画像及び前記第3画像の少なくとも一方と前記第1領域に結像された第1画像とを用いて、ステレオマッチング処理を行う画像処理演算部を備えた
ことを特徴とするステレオ撮像装置。
【請求項1】
1台のカメラと、
前記カメラの前方左右に配置された一対の反射鏡と、を備え、
前記カメラの撮像面は、反射鏡を介さない実像が結像される第1の領域と、前記左の反射鏡を介した鏡像が結像される第2の領域と、前記右の反射鏡を介した鏡像が結像される第3の領域とを有する
ことを特徴とするステレオ撮像装置。
【請求項2】
請求項1に記載のステレオ撮像装置であって、
前記第1の領域に実像を結像する第1の光軸と、前記第2の領域に鏡像を結像するように前記左の反射鏡に入射する第2の光軸と、前記第3の領域に鏡像を結像するように前記右の反射鏡に入射する第3の光軸とが平行となるように、前記一対の反射鏡が前記カメラに対して固定されている
ことを特徴とするステレオ撮像装置。
【請求項3】
請求項1又は請求項2に記載のステレオ撮像装置であって、
前記第2の領域に結像された第2画像と前記第3の領域に結像された第3画像とに対して所定の歪み補正を施し、歪み補正を施した前記第2画像及び前記第3画像の少なくとも一方と前記第1領域に結像された第1画像とを用いて、ステレオマッチング処理を行う画像処理演算部を備えた
ことを特徴とするステレオ撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2010−118716(P2010−118716A)
【公開日】平成22年5月27日(2010.5.27)
【国際特許分類】
【出願番号】特願2008−288323(P2008−288323)
【出願日】平成20年11月11日(2008.11.11)
【出願人】(000000170)いすゞ自動車株式会社 (1,721)
【Fターム(参考)】
【公開日】平成22年5月27日(2010.5.27)
【国際特許分類】
【出願日】平成20年11月11日(2008.11.11)
【出願人】(000000170)いすゞ自動車株式会社 (1,721)
【Fターム(参考)】
[ Back to top ]