説明

車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、当該校正指標を用いた車載カメラの校正装置のためのプログラム

【課題】車載カメラの校正において、誤検出がない校正指標と、このような校正指標を用いた車載カメラの校正方法を提供する。
【解決手段】車載カメラの校正に用いられる校正指標10は、所定の領域を囲む曲線により形成された曲線図形2と、当該曲線図形2に囲まれた領域内に交点8を形成する少なくとも2本の直線4a、4bからなる直線図形4と、が同一平面状に形成され、曲線図形2を形成する曲線と、直線図形4を形成する直線4a、4bと、により区切られる領域12が、チェック模様で彩色されている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、当該校正指標を用いた車載カメラの校正装置のためのプログラムに関する。
【背景技術】
【0002】
近年、車両の運転者が車両の側方や後方等の情景を車内のモニタを介して視認できるようにカメラが搭載された車両が増加している。更に、このカメラにより取得された撮像画像を利用して画像処理等を行い、駐車等の運転を支援する装置も開発されている。このような装置において車両の位置決め等に利用される情報を演算するためのベースとなる撮像画像を取得するカメラは、特に高い光軸精度が要求される。このような高い光軸精度はその取り付け時に容易に得られるものではなく、カメラを車両に取り付けた後、高い精度で光軸を校正することにより実現される。このような校正を行うための技術として、例えば下記に出典を示す特許文献1に記載のものがある。
【0003】
特許文献1に記載される車載カメラの校正装置は、車載カメラの視野内に白黒の市松模様のパターンを有するマーカ(校正指標)を配設し、当該マーカを撮影して得られた撮像画像を画像認識処理してマーカの中心点(校正点)を検出する。この検出されたマーカの中心点を用いて、車載カメラの校正を行っている。このマーカには市松模様が彩色され、車載カメラで取得された撮像画像に含まれるエッジから市松模様により形成される校正点を特定し、当該校正点を用いて車載カメラの校正を行っている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−131250号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述のように、特許文献1に記載される車載カメラの校正には、市松模様で彩色された校正用マーカが用いられ、校正用マーカのエッジに基づいて校正点(校正用マーカの中心点)が検出される。しかしながら、このような車載カメラの校正は一般的に工場で行われ、このような工場の中には作業員が歩行可能な場所を規定する歩行帯や白線や柵等が多数存在している。これらの歩行帯や白線や柵等は、一般的に直線形状が多数用いられて構成されることから校正用マーカの直線を誤検出する可能性がある。
【0006】
本発明の目的は、上記問題に鑑み、車載カメラの校正において、誤検出がない校正指標(マーカ)と、このような校正指標を用いた車載カメラの校正方法を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するための本発明に係る車載カメラの校正に用いられる校正指標の特徴構成は、所定の領域を囲む曲線により形成された曲線図形と、前記曲線図形に囲まれた領域内に交点を形成する少なくとも2本の直線からなる直線図形と、が同一平面状に形成され、前記曲線図形を形成する曲線と、前記直線図形を形成する直線と、により区切られる領域が、チェック模様で彩色されてある点にある。
【0008】
このような特徴構成とすれば、車載カメラの校正を行う場所において、同様の形状が少ない曲線図形で囲まれた領域を検出し、更に当該囲まれた領域内の2本の直線図形を検出して校正点を特定するので、校正指標の誤検出を防止できる。また、チェック模様は、画像認識において境界検出が容易であるので、校正装置の演算負荷を軽くすることができる。したがって、演算負荷を軽くした上で、校正指標により規定される校正点の検出精度を高めることが可能となる。
【0009】
また、前記曲線図形及び前記直線図形が、他の輪郭を有する図形で囲まれていると好適である。
【0010】
このような構成とすれば、曲線図形及び直線図形の周囲の領域を含めてチェック模様の彩色を行うことが可能となる。したがって、校正点の検出精度を高め、校正指標の誤検出を防止できる。
【0011】
また、前記直線図形を形成する直線は、車載カメラの視野の水平面及び当該水平面に垂直な垂直面に対して角度を設けてあると好適である。
【0012】
このような校正とすれば、車載カメラで撮影した場合に、車載カメラの位置や角度に拘らず、交差する2本の直線による境界線の長さが近くなる。したがって、直線の検出精度が高まり、直線の交点である校正点の検出精度を向上させることが可能となる。
【0013】
また、前記2本の直線が、前記水平面及び前記垂直面に対して略45度の角度を有し、互いに直交して形成されてあると好適である。
【0014】
このような校正とすれば、略45度の角度を有するものが、車載カメラの校正を行う場所で存在することが少ないので、校正点の検出精度を高めることが可能となる。
【0015】
また、本発明に係る車載カメラの校正方法は、前記車載カメラと対向し、夫々が離間して配設される一対の車載カメラの校正に用いられる校正指標を、当該車載カメラで撮像して(する撮像工程と、前記撮像工程で)得られた撮像画像を受け取って記憶部に記憶する画像受け取り工程と、前記記憶部に記憶された撮像画像に含まれるエッジを検出するエッジ検出工程と、前記検出されたエッジに基づいて前記曲線図形を検出する曲線図形検出工程と、前記直線図形を検出する直線図形検出工程と、前記検出された直線図形の交点を検出し、当該交点と前記曲線図形とに基づいて、当該交点を前記車載カメラの校正に用いられる校正点として設定する校正点設定工程と、前記一対の校正指標から設定された一対の校正点に対応し、前記車載カメラの搭載位置に応じて予め設定される一対の設定点と、前記撮像画像に含まれる前記一対の校正点とに基づいて前記車載カメラを車両に搭載した際に含まれる光軸のずれを補正する補正カメラパラメータを演算する補正カメラパラメータ演算工程と、を備える点にある。
【0016】
このような方法によれば、校正指標により規定される校正点を確実に検出し、当該校正点を用いて、適切に車載カメラの校正を行うことが可能となる。
【0017】
更に、本発明では、本願発明に係る校正指標を用いて車載カメラを構成する校正装置に好適に用いられるプログラムも権利範囲としており、そのプログラムの特徴構成は、前記車載カメラと対向し、夫々が離間して配設される一対の校正指標を、当該車載カメラで撮像する撮像機能と、前記撮像機能で得られた撮像画像を受け取って記憶部に記憶する画像受け取り機能と、前記記憶部に記憶された撮像画像に含まれるエッジを検出するエッジ検出機能と、前記検出されたエッジに基づいて曲線図形を検出する曲線図形検出機能と、直線図形を検出する直線図形検出機能と、前記検出された直線図形の交点を検出し、当該交点と前記曲線図形とに基づいて、当該交点を前記車載カメラの校正に用いられる校正点として設定する校正点設定機能と、前記一対の校正指標から設定された一対の校正点に対応し、前記車載カメラの搭載位置に応じて予め設定される一対の設定点と、前記撮像画像に含まれる前記一対の校正点とに基づいて前記車載カメラを車両に搭載した際に含まれる光軸のずれを補正する補正カメラパラメータを演算する補正カメラパラメータ演算機能と、をコンピュータに実行させる点にある。
【0018】
このような校正装置のためのプログラムも、上述した本発明の対象としての車載カメラの校正方法と同様に、上述した作用効果を得ることが可能であり、上述した種々の付加的な特徴構成を備えることができる。
【図面の簡単な説明】
【0019】
【図1】本実施形態に係る校正指標を示す図である。
【図2】車両と校正指標との位置関係を示す図である。
【図3】本実施形態に係る校正指標を用いて車載カメラの校正を行う車載カメラの校正装置の概略を示すブロック図である。
【図4】その他の実施形態に係る校正指標の一例を示す図である。
【図5】その他の実施形態に係る校正指標の一例を示す図である。
【図6】その他の実施形態に係る車両と校正指標との位置関係を示す鳥瞰図である。
【図7】その他の実施形態に係る校正指標の一例を示す図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態について、詳細に説明する。車両100に搭載される車載カメラ20は、例えば後退走行する際や、ユーザの駐車操作を支援する場合等に利用される車両100の後方画像を取得するのに用いられる。このような後方画像は車載カメラ20により撮像画像として取得されるが、画像認識処理を用いて車両100と撮像画像に含まれる障害物との距離を求める演算にも用いられる。しかしながら、車載カメラ20の光軸が予め設定される設定値(例えば設計値)からずれている場合には、車両100から障害物までの距離を演算して求めた結果と実際の距離との間でも、ずれが発生してしまう。このような状況において、前記演算に基づいて車両100を走行させると障害物に衝突してしまうおそれがある。
【0021】
そこで、車載カメラ20を車両100に取り付けた後、工場において光軸の校正が行われる。本発明に係る校正指標10は、そのような工場における車載カメラ20の校正を行う際に用いられる。以下、図面を用いて説明する。なお、本実施形態における車載カメラ20の校正とは、車載カメラ20の物理的な位置(実空間上での位置)を変更して校正するものではなく、車載カメラ20が配設された位置や角度と、予め設定された設定値との差分に基づいて車載カメラ20の光軸のずれを演算により校正(補正)するものである。
【0022】
図1は、本実施形態に係る校正指標10を示す図である。校正指標10は、曲線図形2と直線図形4と外囲図形6とからなり、同一平面状に形成される。曲線図形2は、所定の領域を囲む曲線により形成される。所定の領域とは、特に限定されるものではなく、曲線により囲まれる領域である。図1に示される校正指標10においては、曲線図形2は円2aが相当する。したがって、本実施形態においては、曲線図形2は所定の領域を囲む円2aが相当する。なお、このような所定の領域を囲む曲線とは、円2aを用いる場合には一つの閉じた曲線(閉曲線)と考えると理解が容易である。詳細は後述するが、所定の領域を囲む曲線とは、一つの閉じた曲線のみに限定されるものではない。
【0023】
直線図形4は、曲線図形2に囲まれた領域内に交点を形成する少なくとも2本の直線からなる。曲線図形2に囲まれた領域とは、上述のように円2aで囲まれた領域が相当する。図1に示される校正指標10においては、直線図形4は2本の直線4a、4bが相当する。ここで、本発明に係る校正指標10が有する直線図形4は少なくとも2本であれば良く、本実施形態においては、直線図形4は2本からなるとして説明する。このような2本の直線4a、4bは、円2aで囲まれた領域内で交差するように配設され交点8を形成する。
【0024】
ここで、このような直線図形4を形成する直線4a、4bは、車載カメラ20の視野の水平面及び当該水平面に垂直な垂直面に対して角度を設けて形成される。例えば、図1に示されるように2本の直線4a、4bが、水平面及び垂直面に対して略45度の角度を有し、互いに直交するように形成すると好適である。
【0025】
外囲図形6は、曲線図形2及び直線図形4が、他の輪郭を有する図形で囲まれるように配設される。本実施形態では、他の輪郭を有する図形とは四角形6aが相当する。したがって、外囲図形6は、曲線図形2及び直線図形4が四角形6aで囲まれるように配設される。
【0026】
また、外囲図形6に囲まれ、曲線図形2を形成する曲線と、直線図形4を形成する直線4a、4bと、により区切られる領域12が、チェック模様で彩色される。すなわち、チェック模様とは、線で分割された隣り合う領域が異なる色(本例では白と黒との2色)で彩色されていることである。本実施形態においては、外囲図形6は四角形6aである。つまり、外囲図形6に囲まれるとは、四角形6aに囲まれることを意味する。また、曲線図形2は円2aである。つまり、曲線図形2を形成する曲線とは、円2aを形成する曲線が相当する。したがって、外囲図形6に囲まれ、曲線図形2を形成する曲線と、直線図形4を形成する直線4a、4bと、により区切られる領域12とは、四角形6aに囲まれ、円2aと、直線4a、4bとに区切られる領域12が相当する。図1においては、領域12は、8つの領域12a−12hに区切られる。これらの領域12a−12hは、図1に示されるように夫々隣接する領域と異なる色となるようにチェック模様で彩色される。このチェック模様は、特に限定されるものではないが、例えば白と黒との組み合わせや青と赤との組み合わせのように濃淡が明確な色を組み合わせて用いると好適である。もちろん、他の色を組み合わせて彩色することも当然に可能である。
【0027】
このように構成される校正指標10は、詳細は後述するが、車載カメラ20で撮影して使用される。そして、撮影により取得された撮像画像の画像処理が行われ、当該画像処理の結果を用いて車載カメラ20の校正が行われる。したがって、校正指標10は、適度な大きさであると良い。例えば、外囲図形6を校正する四角形6aの一辺の長さが400mm程度で構成すると好適である。
【0028】
次に、本実施形態に係る校正指標10を用いた車載カメラ20の校正方法に関して説明する。図2(a)は、車両100と校正指標10との位置関係を示す鳥瞰図である。また、図2(b)は、車両100と校正指標10との位置関係を示す立面図である。ここで、本実施形態において構成される車載カメラ20は、車両100の後方を撮影するバックカメラである。このような車載カメラ20は、図2に示されるように、車両100の外側後部に備えられるライセンスププレートの近傍、或いは車両100の外側後部に備えられるエンブレムの近傍等に配設される。なお、図2においては、本発明に係る校正指標10をより明確に明示するために、車両100と校正指標10とのサイズの比率は無視して記載している。
【0029】
校正指標10は、車載カメラ20と対向し、夫々が離間して一対で配設される。即ち、図2(a)及び(b)に示されるように、車載カメラ20の視野範囲内に2つ配設される。このような校正指標10は、校正指標10a、10bの一対で車両100の後端面100aからの直交距離が所定距離L1、L2となるように仮想平面上に配設される。例えば、衝立状で配設すると好適である。また、校正指標10a、10bは、夫々が離間して配設される。本実施形態においては、校正指標10a、10bは、その中心が車両100の中心線100bから夫々W1、W2だけ離間して配設される。更に、校正指標10a、10bは、その中心が、車両100が駐車される床面100cから夫々H1、H2だけ離間して配設される。
【0030】
車載カメラ20の校正を行うにあたり、校正指標10a、10bは、上述のように配設される。なお、W1及びW2、L1及びL2、H1及びH2は夫々同じ値となるように配設することも可能であるし、夫々異なる値となるように配設することも可能である。このような校正指標10を用いることにより、車載カメラ20の校正を行う場合に校正点を誤検出することなく検出することが可能となる。
【0031】
図3は、本発明に係る校正指標10を用いた車載カメラ20の構成を行うことが可能な校正装置200の構成を模式的に示すブロック図である。校正装置200は、画像受け取り部40、画像出力部30、システム制御部50、入力I/F部60、出力I/F部70、画像処理部80の各機能部を備えて構成される。このように構成される校正装置200は、CPUを中核部材として車載カメラ20の校正を行う種々の処理を行うための上述の機能部をハードウェア又はソフトウェア或いはその両方で構築されている。
【0032】
画像受け取り部40は、一対の校正指標10a、10bを車載カメラ20で撮像して得られた撮像画像を受け取って記憶部40aに記憶する。記憶部40aは、本実施形態においては画像メモリ40aが相当する。したがって、画像受け取り部40は、車載カメラ20により取得された撮像画像を画像メモリ40aに格納する。ここで、校正指標10a、10bを、車載カメラ20で撮像する工程は撮像工程と称され、また、撮像工程で得られた撮像画像を受け取って画像メモリ40aに格納する工程は画像受け取り工程と称される。
【0033】
画像出力部30は、表示コントローラ30aと描画部30bとを備えて構成され、撮像画像をディスプレイ25等に表示するための映像信号を生成する。描画部30bは、後述する画像処理の結果に基づいて校正精度の検証結果等をスーパーインポーズで描画する。表示コントローラ30aは、撮像画像に当該スーパーインポーズを重畳させて映像信号を出力する。
【0034】
入力I/F部60は、車載カメラ20の校正を開始する指示等の入力信号を本校正装置200よりも上位のシステムから受け取り、システム制御部50に伝達する。ここで、上位のシステムとは、車両100の組み立て調整システムや、車両100のバックモニタシステム等が相当する。システム制御部50は、校正装置200の全般を制御するものであり、上述の校正を開始する指示等に基づいて後述する画像処理部80等を制御する。出力I/F部70は、システム制御部50を介して画像処理結果等を受け取り、上位のシステム等に出力信号を出力する。
【0035】
画像処理部80は、画像取得部80a、領域設定部80b、校正指標検出部80c、校正点特定部80d、補正カメラ角度演算部80eを備えて構成される。画像取得部80aは、上述のシステム制御部50から校正指示を受けると、その指示に応じた撮像画像を画像メモリ40aから取得する。
【0036】
領域設定部80bは、既知である車載カメラ20の搭載位置、車載カメラ20の搭載角度の設定値、及び校正指標10a、10bの配設位置と、既知である車載カメラ20の搭載位置、及び車載カメラ20の搭載角度のばらつき、から校正指標が存在すると予測される校正指標存在領域を校正指標10a、10b毎に演算し、校正指標10a、10b毎の画像処理領域を設定する。
【0037】
校正指標検出部80cは、領域設定部80bにより設定された画像処理領域のエッジ(輪郭線)に基づいて構成指標10a、10bを構成する曲線図形2を検出する。この検出は、エッジ検出工程、曲線図形検出工程の順に行われる。以下、夫々の工程について説明する。
【0038】
エッジ検出工程では、画像メモリ40aに記憶された撮像画像に含まれるエッジを検出する。ここで、上述のように領域設定部80bにより画像処理領域が設定される。エッジ検出工程では、当該画像処理領域に対してエッジフィルタを用いてエッジの検出が行われる。エッジ検出は公知技術であるため詳細説明は省略するが、検出精度をあげるために画像処理領域に対して水平走査と垂直走査とを行うと好適である。エッジ検出工程により検出されたエッジは、エッジを示す点の集合でありエッジ点群と称される。
【0039】
曲線図形検出工程では、検出されたエッジに基づいて曲線図形2を検出する。本実施形態では、曲線図形2は円2aである。したがって、曲線図形検出工程においては、エッジ検出工程により検出されたエッジに基づいて円2aを検出する。ここで、円2aは正面視が真円であっても撮像された位置と車載カメラ20の位置との関係によっては、撮像画像上では楕円に近い形となることがある。このため、曲線図形工程においては、円2aの検出は楕円の検出手法を用いて行われる。このような楕円の検出手法として、本実施形態ではRANSAC(Random Sample Consensus)手法による楕円当てはめ処理が用いられる。RANSAC手法は、公知技術であるため以下には簡単に説明する。
【0040】
まず、エッジ検出工程により検出されたエッジを示すエッジ点群からランダムに5点を選択する。次に、選択された5点を通る楕円式を演算し、これを楕円モデルとして設定する。そして、エッジ点群のうち楕円モデルの設定に用いられた5点以外の点が、当該楕円モデルに対してどの程度フィットするかを評価(フィット性評価)する。このような5点の選択、楕円モデルの設定、フィット性評価を繰り返して行う。このように繰り返して行われた結果に対して、最もフィットした楕円モデルにより規定される楕円が、当該エッジ点群が示す形状であるとして決定される。このような曲線図形検出工程により、曲線図形2が検出される。
【0041】
校正点特定部80dは、曲線図形検出工程により当てはめられた楕円の内部に存在するエッジ点群から2本の直線を検出し、検出した直線の交点を校正点として検出する。この検出は、歪補正工程、直線図形検出工程、校正点設定工程の順に行われる。以下、夫々の工程について説明する。
【0042】
歪み補正工程では、撮像画像の歪みを補正する。撮像画像は、上述のように車載カメラ20により取得されるが、撮像直後の撮像画像(以下、生撮像画像とする)には、車載カメラ20のレンズのレンズ歪みにより歪みが含まれる。例えば、被写体が直線であったとしても、生撮像画像では曲線に歪んだ形状となる。このため、直線形状のみならず被写体を正しく表示するために歪み補正処理が行われる。本実施形態では、演算処理負荷を軽減するために、直線形状の検出対象となるエッジ検出工程により検出された曲線図形2に囲まれた領域内のエッジ点群の歪みを補正する。歪み補正は、周知技術であるので詳細説明は省略する。
【0043】
直線図形検出工程では、検出された曲線図形2に囲まれた領域内の直線図形4を検出する。即ち、校正指標10上の曲線図形2と直線図形4との配置関係は既知であり、校正装置200は、その既知の配置関係に基づいて直線図形4の検出を行う。ここで、「配置関係は既知である」とは、単なる配置関係(例えば閉曲線の中にあるという配置関係)でも良いし、所定の数値で相対位置関係が規定されていても良い。検出された曲線図形2とは、上述の歪み補正処理が行われた曲線図形2である。また、本実施形態では直線図形4は、2本の直線4a、4bである。したがって、直線図形検出工程では、歪み補正処理が行われた曲線図形2に囲まれた領域内の2本の直線4a、4bの検出が行われる。このようにすることで、直線4a、4bの探索領域を限定することができ、演算コストを低減しつつ、確実に検出することができる。
【0044】
この直線図形検出工程においても、上述の曲線図形検出工程と同様に、RANSAC手法が用いられる。以下、簡単に説明する。
まず、一方の直線4aの検出が行われる。歪み補正処理が行われたエッジ点群の中からランダムに2点を選択する。次に、選択された2点を通る直線式を演算し、これを直線モデルとして設定する。そして、エッジ点群のうち直線モデルの設定に用いられた2点以外の点が、当該直線モデルに対してどの程度フィットするか評価(フィット性評価)する。このような2点の選択、直線モデルの設定、フィット性評価を繰り返して行う。このように繰り返して行われた結果に対して、最もフィットした直線モデルにより規定される直線が、一方の直線4aとして決定される。
【0045】
次に、他方の直線4bの検出が行われる。ここで、他方の直線4bの検出においては、歪み補正処理が行われたエッジ点群の中から、一方の直線4aとして決定する際に用いられたエッジ点群が除かれた残りのエッジ点群が対象となる。まず、対象のエッジ点群の中からランダムに2点を選択する。次に、選択された2点を通る直線式を演算し、これを直線モデルとして設定する。そして、対象となるエッジ点群のうち直線モデルの設定に用いられた2点以外の点が、当該直線モデルに対してどの程度フィットするか評価(フィット性評価)する。このような2点の選択、直線モデルの設定、フィット性評価を繰り返して行う。このように繰り返して行われた結果に対して、最もフィットした直線モデルにより規定される直線が、他方の直線4bとして決定される。このような直線図形検出工程により、直線図形4が検出される。
【0046】
校正点設定工程では、検出された直線図形4の交点を検出し、当該交点を車載カメラ20の校正に用いられる校正点として設定する。検出された直線図形4とは、上述の直線図形検出工程により検出された2本の直線4a、4bが相当する。校正点設定工程では2本の直線4a、4bの交点を検出し、当該交点を校正点として設定する。このようにして、校正点特定部80dは車載カメラ20を校正する際に用いる校正点を設定する。
【0047】
補正カメラ角度演算部80eは、既知である車載カメラ20の搭載位置と車載カメラ20を搭載する搭載角度の設定値と校正指標10a、10bの配設位置とから、仮想画像上での左右の校正点に対応する対応点を演算し、上述の校正点特定部80dにより設定された校正点との差分から補正カメラパラメータを演算する。この演算は、補正カメラパラメータ演算工程により行われる。なお、補正カメラパラメータは、カメラパラメータにおいて、設計値と実際の値との差を意味している。したがって、補正カメラパラメータで設計値を補正することで実際の値に補正されることになる。以下、説明する。
【0048】
補正カメラ角度演算工程では、一対の校正指標から設定された一対の校正点に対応し、車載カメラ20の搭載位置に応じて予め設定される一対の設定点と、撮像画像に含まれる一対の校正点とに基づいて車載カメラ20を車両100に搭載した際に含まれる光軸のずれを補正する補正カメラ角度を演算する。一対の校正指標から設定された一対の校正点に対応し、車載カメラ20の搭載位置に応じて予め設定される一対の設定点とは、仮想画像上での左右の校正点に対応する一対の対応点が相当する。この一対の対応点と、一対の校正点との差分を演算し、当該差分に基づいて車載カメラ20を車両100に搭載した際に含まれる光軸のずれを補正する補正カメラ角度を演算する。
【0049】
補正カメラ角度は、車載カメラ20の角度を補正するのに利用する。ここでは、この補正カメラ角度は、車載カメラ20により取得された撮像画像をディスプレイ25に表示し、当該撮像画像に所定の描画(例えば、車両100を駐車スペースに駐車させたり、後退走行をさせたりする際にドライバの運転を支援する公知の駐車支援装置や運転支援装置等における車両100の進路を予想した予想進路線等)を重畳する際に好適に利用される。すなわち、車載カメラ20の角度が設計値からずれていた場合に、その車載カメラ20の撮像画像と、前記設計値から描画する描画を重畳させると、撮像画像と描画にずれが生じ、運転者が誤認してしまう。係る場合に、この補正カメラ角度に基づいて実際の撮像画像(設計値からずれていたカメラ角度で設置された車載カメラ20で撮影された撮像画像)に適した描画に補正する。このため、車載カメラ20により取得された撮像画像に、前記所定の描画を正確に重畳することが可能となる。
【0050】
また、補正カメラ角度は、車載カメラ20の角度を補正する角度を演算して撮像画像を補正するのに利用することも可能である。車載カメラ20の角度とは、車載カメラ20のレンズの鉛直方向に沿った車載カメラ20の角度(回転角)、車載カメラ20の鉛直方向の角度(仰角)、車載カメラ20の水平方向の角度(方位角)が相当する。したがって、車載カメラ20の角度を補正する角度とは、車載カメラ20のレンズの鉛直方向に沿った車載カメラ20の角度を補正する回転角(Roll角)、車載カメラ20の鉛直方向の角度を補正する仰角(Tilt角)、車載カメラ20の水平方向の角度を補正する方位角(Pan角)とからなり、補正カメラ角度を用いると、車載カメラ20の各角度を補正することが可能である。即ち、車載カメラ20により撮像された撮像画像をRoll角に合わせて回転(面回転)し、当該Roll角に合わせて回転された撮像画像をTilt角に合わせて仰角を調整し、当該Tilt角に合わせて水平方向の角度を調整する。撮像画像を補正することにより、上述のように撮像画像に前記所定の描画を正確に重畳することも可能であるし、また、製品毎に撮像範囲がばらつくことを抑制することも可能となる。このように本校正装置200によれば、本発明に係る校正指標10を用いた上述の各工程からなる校正方法により、車載カメラ20を車両100に搭載した際に含まれる光軸のずれを好適に校正(補正)することも可能である。
【0051】
更に、上記所定の描画の補正を行う以外の利用例として、上記の車載カメラ20の角度を補正する回転角、仰角、方位角を用いて、車載カメラ20により取得された撮像画像そのものを補正してディスプレイ25に表示することも可能である。或いは、車載カメラ20で取得された撮像画像に含まれる表示物(例えば、車線や物体等)の位置を上記のカメラ20の角度を補正する回転角、仰角、方位角を用いて補正することにより、正確な位置の特定に利用することも可能である。
【0052】
〔その他の実施形態〕
上記実施形態では、曲線図形2が円2aからなり、直線図形4が2本の直線4a、4bからなるとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。曲線図形2は円2a以外の図形でも良いし、直線図形4は少なくとも2本の直線、即ち3本以上の直線でも良い。例えば、曲線図形2が円形2a以外の図形を用いた場合の校正指標10の一例を図4に示す。曲線図形2は、四角形6aの外囲図形6の中心方向に対して、凸型形状からなる曲線2b−2eからなるものとすることも可能である。図4では、直線形状4は、2本の直線4a、4bからなる。そして、曲線2b−2eと2本の直線4a、4bとが同一平面状に形成され、これらにより区切られた領域12i−12pをチェック模様で彩色することにより校正指標10を校正することも可能である。このような校正指標10を用いた場合であっても、曲線図形2に囲まれた領域内に、2本の直線4a、4bにより形成される交点8を、車載カメラ20を校正する校正点として用いることも当然に可能である。
【0053】
このように、本願発明に係る「曲線図形2に囲まれた領域」とは、曲線図形2により完全に閉じられた領域のみを意味するものではなく、図4に示されるような曲線図形2により完全に閉じられていない領域も含むものである。したがって、図4に示される校正指標10であっても、本願発明に係る「所定の領域を囲む曲線により形成された曲線図形2と、当該曲線図形2に囲まれた領域内に交点を形成する少なくとも2本の直線からなる直線図形4と、が同一平面状に形成される」ということに当然に含まれるものである。なお、図4に示される校正指標10にあっては、例えば曲線図形2と外囲図形6とにより完全に閉じられた領域が形成されるとして考えることも可能である。
【0054】
更に、校正指標10の他の例として、図5のように構成することも可能である。図5に示される校正指標10のように、複数の曲線図形2により閉じられた領域を形成するように構成することも可能である。したがって、図5に示される校正指標10であっても、本願発明に係る「所定の領域を囲む曲線により形成された曲線図形2と、当該曲線図形2に囲まれた領域内に交点を形成する少なくとも2本の直線からなる直線図形4と、が同一平面状に形成される」ということに当然に含まれるものである。
【0055】
上記実施形態では、特に図1において、円形2aの中心に交点8が配置されるように図示した。しかしながら、本発明の適用範囲は、これに限定されるものではない。図1における交点8の配置場所は、単なる例示であり、円形2aの中心でない位置(中心からずれた位置)に交点8を配置して校正指標10を形成することも当然に可能である。
【0056】
上記実施形態では、校正指標10は図2に示されるように車両100に対向するように衝立状で配設されるとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。図6に示されるように車両100が駐車される床面100cに校正指標10を配設しても良いし、床面100cにペイントしても良い。このような位置に校正指標10を配設しても、校正対象である車載カメラ20が校正指標10を撮像可能であれば、当該車載カメラ20を校正することは当然に可能である。
【0057】
上記実施形態では、歪み補正処理は直線形状の検出対象となるエッジ検出工程により検出された曲線図形2に囲まれた領域内のエッジ点群の歪みを補正するとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。車載カメラ20により撮像された直後の撮像画像(生撮像画像)の全面にわたって歪み補正処理を行うことも当然に可能である。
【0058】
上記実施形態では、曲線図形2及び直線図形4が、四角形6aからなる外囲形状6で囲まれているとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。外囲形状6は四角形6aに限定されるものではなく、円形や多角形等の他の形状とすることも当然に可能である。また、外囲形状6で曲線図形2及び直線図形4の周囲を囲まない構成とすることも当然に可能である。このように校正される校正指標10であっても、好適に車載カメラ20の校正を行うことは当然に可能である。
【0059】
上記実施形態では、直線図形4を形成する直線4a、4bは、車載カメラ20の視野の水平面及び当該水平面に垂直な垂直面に対して角度を設けてあり、2本の直線4a、4bが、水平面及び垂直面に対して略45度の角度を有し、互いに直交するとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。図7に示されるように、2本の直線4a、4bを夫々水平面及び垂直面に沿って配設することも可能である。或いは、図示はしないが、45度以外の角度で配設することも可能である。また、2本の直線4a、4bは直交でなくても、交点8を形成するものであれば良い。このような校正指標10であっても、好適に車載カメラ20を校正することは当然に可能である。
【0060】
上記実施形態では、撮像画像の歪みを補正するために歪み補正工程が行われるとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。歪み補正工程を省くことも当然に可能である。係る場合には、RANSAC手法での直線図形4の検出において、当該歪みを考慮して検出すると好適である。また、歪み補正工程は、直線図形検出工程の前に行われるとして説明したが、エッジ検出工程や、曲線図形検出工程の前に行うように構成することも当然に可能である。
【0061】
上記実施形態では、校正対象となる車載カメラ20が車両100の後方に備えられるバックカメラであるとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。車両100の前方を撮影するフロントカメラを校正対象とすることも可能であるし、車両100の側方を撮影するサイドカメラを校正対象とすることも当然に可能である。
【0062】
上記実施形態では、直線図形検出工程では、曲線図形2に囲まれた領域内に2本の直線4a、4bの検出を行い、当該検出された直線4a、4bの交点を校正点として設定するとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。例えば、曲線図形2と直線4a、4b若しくは交点を別々に検出し、曲線図形2と直線4a、4b若しくは交点との配置関係を比較して直線4a、4b若しくは交点の妥当性をチェックする構成とすることも当然に可能である。即ち、曲線図形検出工程により、エッジ検出工程により検出されたエッジに基づいて曲線図形2を検出する。一方、直線図形検出工程により、直線図形4を検出する。そして、校正点設定工程により、直線図形検出工程により検出された直線図形4(の交点)が、曲線図形検出工程により検出された曲線図形2により囲まれた領域内にある場合に校正点として設定する構成とすることも当然に可能である。
【0063】
また、直線図形検出工程により直線4a、4bを検出し、当該直線4a、4bの交点を検出した後、当該交点の周囲の曲線図形2を検出する構成とすることも当然に可能である。即ち、校正点設定工程により、検出された交点の周囲に曲線図形2が検出された場合にのみ、当該交点を校正点に設定する構成としても、上記同様の効果を得ることが可能である。
【0064】
上記実施形態では、補正カメラパラメータ演算工程において、車載カメラ20のレンズの鉛直方向に沿った車載カメラ20の角度を補正する回転角(Roll角)、車載カメラ20の鉛直方向の角度を補正する仰角(Tilt角)、車載カメラ20の水平方向の角度を補正する方位角(Pan角)を演算するとして説明した。しかしながら、本発明の適用範囲は、これに限定されるものではない。車載カメラ20の外部パラメータとして、3次元空間における車載カメラ20の並進量(車載カメラ20の水平方向、鉛直方向、奥行方向における物理的な位置ずれ)を演算することも当然に可能である。
【0065】
上記実施形態では、車載カメラ20の校正に用いられる校正指標10と、当該校正指標10を用いた車載カメラ20の校正方法と、当該校正指標10を用いた校正装置200のためのプログラムに関して説明した。これら以外に、上述の校正指標10を用いた車載カメラ20の校正を行う校正装置200も本願発明の権利範囲とすることは当然に可能である。
【0066】
即ち、車載カメラ20と対向し、夫々が離間して配設される一対の校正指標10と、車載カメラ20が撮像して得られた撮像画像を受け取って記憶部40aに記憶する画像受け取り部40と、記憶部40aに記憶された撮像画像に含まれるエッジを検出するエッジ検出部と、当該検出されたエッジに基づいて曲線図形2を検出する曲線図形検出部と、直線図形4を検出する直線図形検出部と、検出された直線図形4の交点を検出し、当該交点と曲線図形2とに基づいて、当該交点を車載カメラ20の校正に用いられる校正点として設定する校正点設定部と、一対の校正指標20から設定された一対の校正点に対応し、車載カメラ20の搭載位置に応じて予め設定される一対の設定点と、撮像画像に含まれる一対の校正点とに基づいて車載カメラ20を車両100に搭載した際に含まれる光軸のずれを補正する補正カメラパラメータを演算する補正カメラパラメータ演算部と、を備える校正装置20を構成することも可能である。
【0067】
係る場合、校正指標10として、所定の領域を囲む曲線により形成された曲線図形2と、当該曲線図形2に囲まれた領域内に交点を形成する少なくとも2本の直線からなる直線図形4と、が同一平面状に形成され、曲線図形2を形成する曲線と、直線図形4を形成する直線4a、4bと、により区切られる領域が、チェック模様で彩色されてあるものを用いると好適である。また、補正カメラパラメータ演算部として、上述の補正カメラ角度演算部80eを用いることも当然に可能である。
【産業上の利用可能性】
【0068】
本発明は、車載カメラの校正において、誤検出がない校正指標(マーカ)と、このような校正指標を用いた車載カメラの校正方法に用いることが可能である。
【符号の説明】
【0069】
2:曲線図形
2a:円形
4:直線図形
4a、4b:直線
6:外囲図形
6a:四角形
8:交点
10:校正指標
12:領域
12a−12h:領域

【特許請求の範囲】
【請求項1】
所定の領域を囲む曲線により形成された曲線図形と、
前記曲線図形に囲まれた領域内に交点を形成する少なくとも2本の直線からなる直線図形と、が同一平面状に形成され、
前記曲線図形を形成する曲線と、前記直線図形を形成する直線と、により区切られる領域が、チェック模様で彩色されてある車載カメラの校正に用いられる校正指標。
【請求項2】
前記曲線図形及び前記直線図形が、他の輪郭を有する図形で囲まれている請求項1に記載の車載カメラの校正に用いられる校正指標。
【請求項3】
前記直線図形を形成する直線は、車載カメラの視野の水平面及び当該水平面に垂直な垂直面に対して角度を設けてある請求項1又は2に記載の車載カメラの校正に用いられる校正指標。
【請求項4】
前記2本の直線が、前記水平面及び前記垂直面に対して略45度の角度を有し、互いに直交して形成されてある請求項3に記載の車載カメラの校正に用いられる校正指標。
【請求項5】
前記車載カメラと対向し、夫々が離間して配設される一対の請求項1から4のいずれか一項に記載の車載カメラの校正に用いられる校正指標を、当該車載カメラで撮像する撮像工程と、
前記撮像工程で得られた撮像画像を受け取って記憶部に記憶する画像受け取り工程と、
前記記憶部に記憶された撮像画像に含まれるエッジを検出するエッジ検出工程と、
前記検出されたエッジに基づいて前記曲線図形を検出する曲線図形検出工程と、
前記直線図形を検出する直線図形検出工程と、
前記検出された直線図形の交点を検出し、当該交点と前記曲線図形とに基づいて、当該交点を前記車載カメラの校正に用いられる校正点として設定する校正点設定工程と、
前記一対の校正指標から設定された一対の校正点に対応し、前記車載カメラの搭載位置に応じて予め設定される一対の設定点と、前記撮像画像に含まれる前記一対の校正点とに基づいて前記車載カメラを車両に搭載した際に含まれる光軸のずれを補正する補正カメラパラメータを演算する補正カメラパラメータ演算工程と、
を備える車載カメラの校正方法。
【請求項6】
車載カメラの校正を行う校正装置のためのプログラムであって、
前記車載カメラと対向し、夫々が離間して配設される一対の校正指標を、当該車載カメラで撮像する撮像機能と、
前記撮像機能で得られた撮像画像を受け取って記憶部に記憶する画像受け取り機能と、
前記記憶部に記憶された撮像画像に含まれるエッジを検出するエッジ検出機能と、
前記検出されたエッジに基づいて曲線図形を検出する曲線図形検出機能と、
直線図形を検出する直線図形検出機能と、
前記検出された直線図形の交点を検出し、当該交点と前記曲線図形とに基づいて、当該交点を前記車載カメラの校正に用いられる校正点として設定する校正点設定機能と、
前記一対の校正指標から設定された一対の校正点に対応し、前記車載カメラの搭載位置に応じて予め設定される一対の設定点と、前記撮像画像に含まれる前記一対の校正点とに基づいて前記車載カメラを車両に搭載した際に含まれる光軸のずれを補正する補正カメラパラメータを演算する補正カメラパラメータ演算機能と、
をコンピュータに実行させる校正装置のためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2010−239411(P2010−239411A)
【公開日】平成22年10月21日(2010.10.21)
【国際特許分類】
【出願番号】特願2009−85536(P2009−85536)
【出願日】平成21年3月31日(2009.3.31)
【出願人】(000000011)アイシン精機株式会社 (5,421)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】