撮像装置及び視点検出装置
【課題】視点を良好な精度で検出するための画像を取得できる撮像装置及びこれを備える視点検出装置を提供する。
【解決手段】撮像装置60は、視点検出のために用いられる撮像装置であって、人物である被写体2を撮像し、撮像画像を取得する撮像部20と、被写体2に向けて光を射出する光源10と、光源10の光の射出側に配置され、光源10からの光を平行光として被写体2に射出する平行光束光学系11と、を備え、撮像部20の撮像光軸と前記平行光の射出方向とが実質的に平行である。
【解決手段】撮像装置60は、視点検出のために用いられる撮像装置であって、人物である被写体2を撮像し、撮像画像を取得する撮像部20と、被写体2に向けて光を射出する光源10と、光源10の光の射出側に配置され、光源10からの光を平行光として被写体2に射出する平行光束光学系11と、を備え、撮像部20の撮像光軸と前記平行光の射出方向とが実質的に平行である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、視点検出のために用いられる撮像装置及びこれを備える視点検出装置に関する。
【背景技術】
【0002】
撮像部が撮像した被写体の画像から、人物の視点を検出する技術が知られている。例えば、特許文献1には、撮像部で撮像した画像に対して、予め用意したテンプレートと相関演算を行うことで、被写体であるユーザの目の領域を検出する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平06−255388号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に開示された技術では、撮像時の照明環境等が原因で、鮮明な画像を得ることができない場合があった。この場合、テンプレートマッチングによる視点検出に失敗する蓋然性が高まる。つまり、特許文献1に開示された技術は、必ずしも検出精度が良好なものとは言えなかった。
【0005】
本発明は上記実状に鑑みてなされたものであり、視点を良好な精度で検出するための画像を取得できる撮像装置及びこれを備える視点検出装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明の第1の観点に係る撮像装置は、
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を平行光として前記被写体に射出する平行光束光学系と、を備え、
前記撮像部の撮像光軸と前記平行光の射出方向とが実質的に平行である、
ことを特徴とする。
【0007】
上記目的を達成するため、本発明の第2の観点に係る撮像装置は、
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を通過させ、通過前の光よりも開口数を低減させた光を前記被写体に射出する開口数低減素子と、を備え、
前記撮像部の撮像光軸と前記開口数低減素子から射出された光の中心軸とが実質的に平行である、
ことを特徴とする。
【0008】
上記目的を達成するため、本発明の第3の観点に係る視点検出装置は、
上記第1又は第2の観点に係る撮像装置と、
前記撮像部が取得した撮像画像に基づき、この撮像画像に写った被写体像における視点の位置を検出する制御部と、を備える、
ことを特徴とする。
【発明の効果】
【0009】
本発明によれば、視点を良好な精度で検出するための画像を取得できる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1実施形態に係る視点検出装置の概略構成を示すブロック図である。
【図2】制御装置の構成を説明するためのブロック図である。
【図3】(a)は、光照射部と撮像部との配置関係を説明するための図である。(b)は、光照射部からの光がブリュースター角で被写体の眼に入射する場合を示した図である。
【図4】被写体の像がフレーム画像として結像される過程を説明するための図である。
【図5】(a)〜(c)は、光源制御処理における光源制御信号の送信タイミングを説明するためのタイミングチャートである。
【図6】光源制御処理のフローチャートである。
【図7】視点検出処理のフローチャートである。
【図8】視点検出処理において制御装置が取得するフレーム画像の一例を示した図である。
【図9】(a)は、奇数フィールド画像の一例を示した図であり、(b)は、偶数フィールド画像の一例を示した図である。
【図10】(a)は、補間奇数フレーム画像の一例を示した図であり、(b)は、補間偶数フレーム画像の一例を示した図である。
【図11】被写体検出画像の一例を示した図である。
【図12】(a)、(b)は、ある人物を被写体として、視点検出処理を実行した場合に、どのような被写体検出画像が得られるかを説明するための図である。
【図13】視点検出処理におけるテンプレートマッチングを説明するための概念図である。
【図14】表示装置に表示される視点検出結果画像の一例である。
【図15】本発明の第2実施形態に係る視点検出処理のフローチャートである。
【図16】第2実施形態に係る視点検出処理における重心検出処理を説明するための図である。
【図17】第2実施形態に係るデータ選択処理のフローチャートである。
【図18】(a)は、データ選択画面の一例を示す図である。(b)は、視点テーブルの一例を示す図である。
【図19】第1実施形態の変形例に係る撮像装置を説明するための図である。
【図20】(a)及び(b)は、第2実施形態の変形例を示す図であり、(a)は、データ選択画面の変形例を示す図である。(b)は、視点テーブルの変形例を示す図である。
【図21】(a)及び(b)は、第2実施形態の変形例を示す図であり、(a)は、データ選択画面の変形例を示す図である。(b)は、視点テーブルの変形例を示す図である。
【図22】(a)は、変形例に係る視点検出装置を説明するためのブロック図である。(b)は、光源制御信号と撮像制御信号の送信タイミングを説明するためのタイミングチャートである。
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態を図面を参照して詳細に説明する。
【0012】
1.第1実施形態
第1実施形態に係る視点検出装置は、図1に示す視点検出装置1である。
視点検出装置1は、車両に搭載されるものであり、図1に示すように、表示装置30と、入力装置40と、制御装置50と、撮像装置60と、を備える。
撮像装置60は、光源10及び平行光束光学系11から構成される光照射部100と、撮像部20と、偏光フィルタ12及び22と、を備える。
【0013】
視点検出装置1は、制御装置50の制御の下、撮像部20に人物(本実施形態では、車両の運転者)である被写体2(図2参照)を撮像させると共に、予め設定された点灯時間で光源10を点灯させる。そして、後述の視点検出処理を実行することで、撮像画像における被写体2が写っている領域(以下、「被写体領域」と言う。)を検出し、被写体2の視点を検出する。
【0014】
光照射部100は、図1に示すように、被写体2に平行光を照射するものであり、前記のように光源10及び平行光束光学系11から構成される。
【0015】
光源10は、被写体2に向けて光を射出するものであり、例えば、赤外線LED(Light Emitting Diode)から構成される。光源10は、制御装置50から出力される光源制御信号に基づいて点灯・消灯する。
【0016】
平行光束光学系11は、光源10が射出した光を平行光にする光学系であり、光源10の前方(光の射出側)に配置されている。平行光束光学系11は、例えば、コリメートレンズであり、その焦点に光源10の射出点が位置するように配置されている。
つまり、平行光束光学系11は、光源10からの光を平行光として被写体2に射出する。
【0017】
撮像部20は、被写体2を撮像するものであり、例えば、複数のレンズと、電子シャッター機能を有するCCD(Charged Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子とを含むビデオカメラである。
撮像部20は、シャッターが開いているときにレンズを用いて固体撮像素子の受光面に被写体2の像を結像させ、結像させた像の光の強弱を電気信号に変換し、その電気信号に基づいた映像信号を含むビデオ信号を、制御装置50に出力する。
【0018】
光照射部100と撮像部20とは、図3(a)に示すように、被写体2の顔(具体的には、座席に座った運転者の顔)を被写体2である運転者から見て正面上方から狙う位置(例えば、ルームミラー近傍の位置)に配置されている。また、光照射部100と撮像部20とは、互いに隣り合うように配置され、且つ、光照射部100が有するレンズの光軸100aと撮像部20が有するレンズ光軸(撮像光軸)20aとが略平行(丁度、平行も含む)となるように配置されている。
つまり、撮像装置60においては、撮像部20の撮像光軸20aと平行光束光学系11からの平行光の射出方向とが実質的に平行である。
【0019】
ここで、図3(a)を参照して、撮像装置60において、上記のように光照射部100(ないしは光源10)と撮像部20とを配置した理由を説明する。
【0020】
被写体2を狙って設けられた光照射部100が射出した光は、被写体2の顔に到達し、その大部分の光は肌2b(つまり、皮膚の表面)で拡散反射し、残りの光は、被写体2の眼2aにおいて、眼球表面の涙等による水分の膜において、一部が鏡面反射する。
光照射部100からの光L1は平行光であるため、ほぼ一様な入射角をもって斜め上方から眼2aの界面に入射する。入射した光L1の一部は、眼2aで鏡面反射し、斜め下方に向かう反射光R1となる。このため、反射光R1は、撮像部20にほとんど到達しない。一方、肌2bに到達する光源からの光L2は、肌2bで拡散反射するため、反射光の一部の光R2は、撮像部20へと向かう光となる。
このように被写体2の像を表す光は撮像部20に到達するため、得られる撮像画像においては、眼2aに対応する領域のほうが肌2bに対応する領域よりも暗くなる。眼2aの領域のコントラストが強調された撮像画像が得られれば、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。また、光照射部100(ないしは光源10)と撮像部20とを被写体2の正面上方に配置すれば、光照射部100からの光の被写体2への入射角と、フロントガラスやサイドガラスを透過して車内に入り込む正面及び側面からの外光の被写体2への入射角とをずらすことができるため、撮像における外光の影響を低減することもできる。
このような理由により、本願発明者は、撮像装置60において、光照射部100と撮像部20とを上記のように配置した。
【0021】
偏光フィルタ12及び22は、それぞれ、到達した光のうちp偏光成分の光(p偏光)のみを通過させるp偏光板から構成されている。これらは、眼2aでの反射の影響及び外光の影響を低減するために設けられる。
【0022】
偏光フィルタ12は、光照射部100の前方(射出方向)に配置されている。このため、偏光フィルタ12を通過した光照射部100からの光は、p偏光として、被写体2を照射する。
p偏光の反射率は、どの入射角でもs偏光成分の光(s偏光)の反射率以下であるため、このように偏光フィルタ12を設けることにより、眼2aでの反射光R1をさらに低減することができる。
【0023】
ここで、上記の通り、光照射部100は、被写体2を前方斜め上から狙う位置に配置されているが、理想的には、図3(b)に示すように、光照射部100は、射出した光が運転者が正面を向いているときの眼2aの界面に、ブリュースター角θBで入射するように配置されるのがよい。このようにすれば、理論上は、p偏光として眼2aに到達する光の反射率を0(ゼロ)に近づけることができ、撮像画像における眼2a領域と肌2b領域とのコントラストをさらに稼ぐことができる。但し、実際には、眼球は曲面であることや、運転者の体格、座席の位置等の諸条件により、眼2aでのp偏光の反射率を0とすることは不可能である。
よって、前記諸条件を考慮して、なるだけ、光照射部100からの光がブリュースター角θBに近い角度で眼2aに入射するように光照射部100の位置を調整すればよい。光照射部100は、平行光を照射するため、入射角を踏まえて調整しやすい。
【0024】
なお、入射側の屈折率をn1、透過側の屈折率をn2とすれば、ブリュースター角θBは、以下のように表せる。
【数1】
【0025】
ここで、入射側の屈折率n1を空気の屈折率1とし、透過側の屈折率n2を眼球表面が水の膜(涙)で覆われているとして、簡単に、水の屈折率1.33とすれば、上記(数1)式より、ブリュースター角θBは、約53度となる。
この場合、被写体2が正面を向いた場合の視線V(図3(b)参照)から約53度上方の位置に光照射部100を配置すればよい。撮像部20も視線Vから同様な角度をもって配置すればよい。例えば、このようにして、光照射部100(ないしは光源10)と撮像部20とは、各々の光軸である光軸100aと光軸(撮像光軸)20aとが略平行となるように配置される。
【0026】
偏光フィルタ22は、撮像部20の前方(撮像対象である被写体方向)に配置されている。このため、撮像部20に到達した光は、p偏光として、固体撮像素子の受光面に到達する。
上記のように、p偏光の反射率は、どの入射角でもs偏光の反射率以下である。したがって、反射光はs偏光の成分の光の割合が多くなる。そのため、このように偏光フィルタ22を配置することで、被写体2で反射した光(特に、眼2aで反射した光)のうち強く反射するs偏光の光を遮断することができる。
【0027】
なお、偏光フィルタ12及び22は、眼2aに比べて明るく撮像したい肌2bにおける反射光も低減してしまうが、撮像画像に与える影響としては、眼2aでの反射光が与える影響のほうが大きい。そのため、偏光フィルタ12及び22を設けることにより、眼2aの領域が強調された撮像画像を得ることができる。
【0028】
以上のように、本実施形態では、平行光を照射する光照射部100、光照射部100及び撮像部20の配設位置、及び、s偏光を遮断する偏光フィルタ12及び22により、眼2aでの反射光を効果的に抑制している。
本願発明者は、被写体2の眼2aで光の反射特性(到達した光の一部が鏡面反射する)と、肌2bでの光の反射特性(到達した光が拡散反射する)との違いに着目し、これらの特性を利用して、撮像装置60を構成すれば、以上に説明した理由により、眼2aの領域のコントラストが強調された撮像画像を得られ、結果として、視点検出装置1の検出対象である視点の位置を良好な精度で検出することができることを見出した。
【0029】
ここからは、撮像部20の固体撮像素子の受光面に、被写体2の像が、図4に示すような例えば2M行N列の画素から成るフレーム画像Aとして結像される過程(撮像部20が撮像画像を取得するまでの過程)を説明する。
この場合、固体撮像素子を構成するマトリックス状に配置されたフォトダイオード(前記の各画素に1対1で対応するように配置されている。)は、シャッターが開いているときに受光した光量に応じた電荷を生成する。そして、撮像部20は、シャッターが閉じた後に、同期信号発生回路(図示せず)により出力される垂直同期信号及び水平同期信号に同期して、各ラインのフォトダイオードの電荷を電気信号として読み取る。
【0030】
ここで、ラインを上から順に数えたときの番号をライン番号と言う(つまり、2M行N列のフレーム画像において、ライン番号1は1行目を示し、ライン番号2Mは2M行目を示す)。
そして、奇数番号のラインから構成されるライン群を「奇数フィールド」といい、偶数番号のラインから構成されるライン群を「偶数フィールド」と言う。また、あるフレーム画像において、奇数フィールドに対応する画像を「奇数フィールド画像」といい、偶数フィールドに対応する画像を「偶数フィールド画像」と言う。
つまり、フレーム画像は、奇数フィールド画像と偶数フィールド画像とで構成されており、フレーム画像において、奇数フィールド画像に係るラインと偶数フィールド画像に係るラインとは各々隣り合う。
【0031】
撮像部20は、1つのフレーム画像Aの撮像において、奇数フィールドの撮像と偶数フィールドの撮像とを行う。撮像部20は、各撮像において、シャッターを開閉し、受光素子に電荷を蓄積する。
撮像部20は、フォトダイオードの電荷を読み取る際に、奇数フィールド画像の撮像では、奇数フィールドの各電荷を読み取り、偶数フィールド画像の撮像では、偶数フィールドの各電荷を読み取る。撮像部20は、このような読み取りを、水平同期信号に同期して行う。
【0032】
具体的には、撮像部20は、以下の手順で電荷の読み取りを行う。
1)垂直同期信号に同期して、フレーム画像Aにおけるライン番号が奇数のラインの電荷の読み取りを開始し、全ての奇数ラインの電荷を読み取る。すなわち、撮像部20は、ライン番号1,3,…,2M−1の順で水平同期信号に同期して各ラインの電荷を読み取る。このようにして、撮像部20は、奇数フィールドの電荷を読み取ることになる。
2)次の垂直同期信号に同期して、フレーム画像Aにおけるライン番号が偶数のラインの電荷の読み取りを開始し、全ての偶数ラインの電荷を読み取る。すなわち、撮像部20は、ライン番号2,4,…,2Mの順で水平同期信号に同期して各ラインの電荷を読み取る。このようにして、撮像部20は、偶数フィールドの電荷を読み取ることになる。
つまり、撮像部20は、被写体2の撮像を偶数フィールドと奇数フィールドの撮像に分けて行う。
【0033】
このような1つのフレームを構成する奇数フィールドと偶数フィールドを表す電荷の読み取りは、それぞれ、例えば1/60秒の間隔で行われる。つまり、1つのフレーム当たりの電荷の読み取りは、1/30秒間隔で行われる。よって、撮像部20は、1秒当たり30フレームの画像を撮影することになる。
そして、撮像部20は、読み取った電荷が表す電気信号である映像信号と、垂直同期信号と、水平同期信号とを重畳した信号を、ビデオ信号として制御装置50に出力する。
【0034】
図1及び図2に戻って、表示装置30は、制御装置50の制御の下、後述の出力画像データが表す画像(例えば、後述の被写体検出結果画像F)を表示する。表示装置30は、例えばLCD(Liquid Crystal Display)から構成される。
【0035】
入力装置40は、ユーザの所定の入力操作を受け付けるものであり、例えばユーザの数値入力や上下左右の方向指示を受け付けるキーボード、マウス、タッチパネル等から構成される。入力装置40が受け付けた入力操作を示すデータは、制御装置50に出力される。
【0036】
制御装置50は、例えばマイクロコンピュータから構成され、図2に示すように、CPU(Central Processing Unit)51と、ROM(Read-Only Memory)52と、汎用メモリ53と、ビデオメモリ54と、同期分離回路55と、フィールド識別回路56と、外部デバイスインターフェイス(I/F)57と、を備える。
【0037】
CPU51は、ROM52内に予め記憶された、後述する光源制御処理、視点検出処理等を実行するための所定プログラムを読み出し、実行する。そして、CPU51は、撮像部20から取得したビデオ信号、処理後の演算結果、画像データ等を汎用メモリ53に一時的に記憶させる。
また、CPU51は、汎用メモリ53に記憶された出力画像データをビデオメモリ54に転送し、転送した出力画像データに基づき表示装置30に出力画像データが表す画像を表示させる。
また、CPU51は、計時可能なタイマ(図示せず)を内蔵し、適宜、計時を行う。
【0038】
ROM52には、前記所定プログラムの他、光源制御処理において参照される光源10の点灯時間を規定するためのTOFF及びTON(図5(c)参照)の値を示すデータが記憶されている(TOFF及びTONについては後述する)。また、汎用メモリ53には、視点検出処理におけるテンプレートマッチングで用いられるテンプレートTEを示すデータが予め記憶されている。
【0039】
同期分離回路55は、撮像部20からのビデオ信号を、映像信号と垂直同期信号(図5(a)参照)と水平信号とに分離する回路である。
【0040】
フィールド識別回路56は、同期分離回路55により分離された、垂直同期信号及び水平同期信号から、ビデオ信号に含まれる映像信号が奇数フィールド画像と偶数フィールド画像の何れであるかを示すフィールド識別信号を生成する。
フィールド識別信号は、一例として、図5(b)に示すように構成され、このようなフィールド識別信号に基づいて、CPU51は、撮像部20から取得した映像信号が、奇数フィールド画像を示すものであるか、偶数フィールド画像を示すものであるかを判別することができる。
【0041】
外部デバイスI/F57は、光源10、撮像部20、表示装置30、入力装置40の各々と、制御装置50の各部とを導通接続する。
【0042】
次に、所望のタイミングで、予め設定された点灯時間の間、光源10を点灯させるための光源制御処理を、図6等を参照して説明する。
光源制御処理は、制御装置50のCPU51により実行され、例えば制御装置50の起動を条件に開始される。
【0043】
(光源制御処理)
CPU51は、光源制御処理を開始すると、まず、ステップS101で、垂直同期信号の立ち下がり(図5(a)参照)を検出した否かを判別する。この垂直同期信号は、前述のように、撮像部20からのビデオ信号を、映像信号と垂直同期信号と水平信号とに分離する同期分離回路55から出力される。
【0044】
CPU51は、垂直同期信号の立ち下がりを検出していないと判別した場合(ステップS101;No)、ステップS104に処理を進める。
一方、CPU51は、垂直同期信号の立ち下がりを検出したと判別した場合(ステップS101;Yes)、ステップS102に処理を進める。
【0045】
ステップS102で、CPU51は、フィールド識別回路56から取得したフィールド識別信号(図5(b)参照)が、奇数フィールド画像を示しているか否かを判別する。具体的には、CPU51は、フィールド識別信号の立ち上がりを検出した場合に、フィールド識別信号が奇数フィールド画像を示していると判別する。
【0046】
フィールド識別信号が奇数フィールド画像を示していない(つまり、偶数フィールド画像を示している)と判別した場合(ステップS102;No)、CPU51は、ステップS101に処理を戻す。一方、フィールド識別信号が奇数フィールド画像を示していると判別した場合(ステップS102;Yes)、CPU51は、ステップS103に処理を進める。
【0047】
ステップS103で、CPU51は、タイマの時刻tをt=0に設定し、計時を開始する。
【0048】
続いて、ステップS104で、CPU51は、タイマの時刻tがTON≦t≦TOFFを満たすか否かを判別する。
ここで、TON及びTOFFは、撮像部20の固体撮像素子を構成するフォトダイオードのうち、奇数フィールドのフォトダイオードが受光している光量に応じた電荷の蓄積開始時刻及び終了時刻に対応する。なお、TONとTOFFは、予めROM52にデフォルト値として記憶されているか、ユーザにより入力装置40を介して設定され記憶される。
【0049】
タイマの時刻tがTON≦t≦TOFFを満たすと判別した場合(ステップS104;Yes)、CPU51は、点灯を示す光源制御信号(図5(c)参照)を光源10に出力する(ステップS105)。そして、処理をステップS101に戻す。
一方、時刻tがTON≦t≦TOFFを満たさないと判別した場合(ステップS104;No)、CPU51は、消灯を示す光源制御信号を光源10に出力する(ステップS106)。そして、処理をステップS101に戻す。
【0050】
以上の処理からなる光源制御処理を、CPU51は、例えば、制御装置50の電源がオフされるまで繰り返す。本処理により、撮像部20が奇数フィールド画像を撮像しているタイミングで光源10を点灯させ、偶数フィールド画像を撮像しているタイミングで光源10を消灯させることができる。
【0051】
次に、制御装置50のCPU51が実行する視点検出処理を、図7等を参照して説明する。この処理は、例えば制御装置50の起動を条件に開始される。
【0052】
(視点検出処理)
CPU51は、視点検出処理を開始すると、まず、ステップS201で、撮像部20が出力するビデオ信号から、垂直同期信号に基づいて1フレーム分の画像データ(1つの撮像画像を表すデータ)を取得する。
具体的には、CPU51は、垂直同期信号に同期して、撮像部20から出力されたビデオ信号から、1つの奇数フィールド画像を示す映像信号と1つの偶数フィールド画像を示す映像信号とにより構成される1フレーム分の映像信号を取得する。
【0053】
例えば、撮像部20が、被写体2(図2参照)を撮像した場合、CPU51が取得するフレーム画像は、図8に示すようなフレーム画像B(撮像画像の一例)である。
フレーム画像Bでは、奇数フィールド画像における被写体2の像は明るく、偶数フィールド画像における被写体2の像は暗く撮像される。これは、撮像部20の撮像中において、CPU51が前述の光源制御処理を実行することで、撮像部20が奇数フィールド画像を撮像しているタイミングで光源10を点灯させ、偶数フィールド画像を撮像しているタイミングで光源10を消灯させているためである。
一方、背景3(図2参照)は、光源10から十分離れており、光源10の影響をほとんど受けないため、フレーム画像Bにおける背景3の像の明るさは、奇数フィールド画像と偶数フィールド画像とで、光源10の照光に起因しては変化しない。
【0054】
続いて、ステップS202で、CPU51は、ステップS201で取得したフレーム画像を奇数フィールド画像と偶数フィールド画像とに分け、各々を取得する。
具体的には、例えばフレーム画像B(図8参照)を取得した場合、CPU51は、図9(a)に示す奇数フィールド画像C1と、図9(b)に示す偶数フィールド画像C2と、を取得する。なお、奇数フィールド画像C1と偶数フィールド画像C2の各々を構成するライン数は、フレーム画像Bを構成するライン数の半分となっている。
【0055】
続いて、ステップS203で、CPU51は、ステップS202で取得した奇数フィールド画像と偶数フィールド画像から、補間奇数フレーム画像と補間偶数フレーム画像を生成し、取得する(ステップS203)。
【0056】
ここで、補間奇数フレーム画像とは、奇数フィールド画像を構成する各ラインの間に新たにラインを補間したフレーム画像であり、補間偶数フレーム画像とは、偶数フィールド画像を構成する各ラインの間に新たにラインを補間したフレーム画像である。
具体的には、CPU51は、奇数フィールド画像C1と偶数フィールド画像C2について各々がフレーム画像Bと同じライン数となるように各ラインの間に新たにラインを補間することで、奇数フィールド画像C1からは図10(a)に示すような補間奇数フレーム画像D1を生成し、偶数フィールド画像C2からは図10(b)に示すような補間偶数フレーム画像D2を生成し、各々を取得する。
【0057】
一例として、補間奇数フレーム画像D1は、奇数フィールド画像C1の各ラインの間に、輝度値として上下の画素の輝度値の平均値を有するラインを補間することで生成される。同様に、補間偶数フレーム画像D2は、偶数フィールド画像C2の各ラインの間に、輝度値として上下の画素の輝度値の平均値を有するラインを補間することで生成される。
例えば、フレーム画像Bが、2M行N列の画像数を有し、i行j列目の画素の輝度値がIi,jで表される場合、フレーム画像Bを取得した制御装置50は、以下の(式1)に示す輝度値IOi,jを有する補間奇数フレーム画像D1と、以下の(式2)に示す輝度値IEi,jを有する補間フレーム画像D2と、を生成し、取得する。なお、Iminは、フレーム画像Bの輝度値Iの最小値を表す。
【0058】
【数2】
【0059】
図7に戻って、補間奇数フレーム画像と補間偶数フレーム画像とを取得すると、ステップS204で、CPU51は、補間奇数フレーム画像と補間偶数フレーム画像との比較に基づいて、被写体領域を示す被写体検出画像を取得する。
【0060】
例えば、CPU51は、補間奇数フレーム画像D1(図10(a)参照)と、補間偶数フレーム画像D2(図10(b)参照)とについて、対応する位置にある画素の輝度値を比較し、その画素の輝度値の差が所定値θよりも大きい場合に、その位置にある画素は被写体領域内の画素であると判別する。
そして、CPU51は、この判別処理を補間奇数フレーム画像D1及び補間偶数フレーム画像D2の全域に対して行い、被写体領域内の画素であると判別した画素についてはフレーム画像Bの輝度値の最小値Iminを輝度値とし、それ以外の画素についてはフレーム画像Bの輝度値の最大値Imaxを輝度値として有する被写体検出画像E(図11参照)を取得する。
このような被写体検出画像Eの輝度値IDi,jは以下の(式3)のように表すことができる。
【0061】
【数3】
【0062】
ここで、本処理において取得できる被写体検出画像のより具体的な例を示せば、車両に乗車した人物を撮像部20で撮像し、図12(a)に示すようなフレーム画像B1(撮像画像の一例)が得られた場合、CPU51が取得する被写体検出画像は、図12(b)に示すような被写体検出画像E1となる。
このように、本処理によれば、被写体領域(被写体2である人物の領域)を表す被写体検出画像を取得することができる。
本実施形態に係る視点検出装置1では、上記のように、光照射部100、撮像部20、及び偏光フィルタ12,22が配置されているため、拡散反射する肌2bに対応する領域が明るく、到達した光の一部が鏡面反射する眼2aに対応する領域が暗い撮像画像、つまり、図12(a)に示すような、眼2aの領域のコントラストが強調されたフレーム画像B1が得られる。
なお、ここで得られるフレーム画像B1も、厳密には、図8に示すフレーム画像Bのように、奇数フィールド画像における被写体2の像は明るく、偶数フィールド画像における被写体2の像は暗く撮像されるものとなるが、実際に画像を視認する際には、フレーム画像を構成する各ラインは微細なものであるため、概観としては、図12(a)に示すようになる。
図12(a)では、眼2aの領域のコントラストが強調された撮像画像が得られる、という本実施形態に特有の効果の理解を容易にするためフレーム画像B1をこのように表した。
【0063】
続いて、ステップS205で、CPU51は、ステップS204で得た被写体検出画像上の被写体領域に対して、周知の画像処理技術であるテンプレートマッチングを実行することで、視点座標を検出する(視点を検出する)。CPU51は、汎用メモリ53に記憶されているテンプレートTEを読み出し、このテンプレートTEに最も近い領域を画像中でサーチすることによって、視点座標を検出する。
具体的には、CPU51は、以下の(数4)式で与えられる座標(i,j)における絶対値差分SADijを算出し、それが最小となる座標をサーチし(図13に概念的に示した)、最小となる座標を視点座標(iE,jE)として検出する。なお、Tmnは、B行B列サイズのテンプレートTEにおけるm行n列目の画素値である。
【数4】
【0064】
続いて、ステップS206で、CPU51は、ステップS201で撮像部20から取得したフレーム画像に、図14に示すように、取得した視点座標(つまり、CPU51が検出した視点の位置)を示す指標Inを描画した視点検出結果画像Fを表示装置30に表示させる。
なお、取得した視点座標を示す指標Inは、図示する十字印の指標に限られない。ユーザが視点の位置を認識できるものであれば、指標Inの形状は任意であり、点や丸印等であってもよい。また、図14に示す例では、被写体の人物の両目の中心を視点としているが、これに限られず、左右一方の目の位置を視点としてもよいし、左右双方の位置を各々求めて、その各々を視点としてもよい。視点をどのようにするかは、目的に応じて適宜変更できる。
【0065】
以上の処理からなる視点検出処理を、CPU51は、例えば制御装置50の電源がオフされるまで繰り返し実行する。
【0066】
(変形例)
以上の実施形態では、被写体2に光を照射する光照射部を平行光を照射する光照射部100としたが、これに限られない。変形例として、図19に示すように、光源10と開口数低減素子211とから構成される光照射部200であってもよい。
【0067】
開口数低減素子211は、光源10の光の射出側に配置され、光源10が射出した光の中心軸近傍の光のみを通過させるものである。開口数低減素子211は、光源10からの光を通過させ、通過前の光よりも開口数を低減させた光を被写体2に射出する。
開口数低減素子211は、ルーバー、ピンホール板、等から構成される。
ルーバーは、板状の部材(板材)であり、特定の入射角よりも大きい角度で入射した光を吸収する遮光層と、前記特定の入射角以下の角度で入射した光を透過させる透過層を前記板材の面内方向に交互に積層して構成されるものである。この積層ピッチを変えれば、任意に開口数を低減できる。
ピンホール板は、開口孔が形成された板状の部材であり、例えば、開口の中心が光源10の射出する光の中心軸と一致するように配置される。開口径を変えれば、任意に開口数を低減できる。
【0068】
光照射部200と撮像部20とは、互いに隣り合うように配置され、且つ、光照射部200が射出する光の中心軸(光束の中心に位置する光の光軸)と撮像部20の光軸(撮像光軸)20aとが略平行(丁度、平行も含む)となるように配置されている。
つまり、変形例に係る撮像装置260においては、撮像部20の撮像光軸20aと開口数低減素子211から射出された光の中心軸とが実質的に平行である。
【0069】
このような開口数低減素子211を有する光照射部200によれば、光源10からの光の開口数を低減することで、被写体2に入射する光の入射角をある程度は制御できるため、眼2aの領域のコントラストが強調された撮像画像が得られ、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。
【0070】
また、以上の実施形態では、視点検出装置1が偏光フィルタ12及び偏光フィルタ22を備えるものとしたが、これに限られない。
偏光フィルタ12又は偏光フィルタ22のいずれか一方のみ設けても、特に、眼2aでの反射光を効果的に低減することができる。また、偏光フィルタ12及び22を設けず、光照射部100(又は光照射部200)と撮像部20との配置関係のみによっても眼2aでの反射光を低減することができる。つまり、偏光フィルタ12及び/又は偏光フィルタ22は、あったほうがより好ましいが、設けられていなくともよい。
【0071】
また、以上では、光源10と撮像部20とを、被写体2である運転者の正面上方から狙う位置に配置したが、正面下方から狙う位置に配置してもよい。この場合においても、なるだけ、光照射部100又は200からの光がブリュースター角θBに近い角度で眼2aに入射するように光照射部100又は200の位置を調整すればよい。
【0072】
また、偏光フィルタ12は、平行光束光学系11又は開口数低減素子211よりも、光源10側に配置されていてもよい。
【0073】
以上のように、第1実施形態に係る撮像装置60は、視点検出のために用いられる撮像装置であって、人物である被写体2を撮像し、撮像画像を取得する撮像部20と、被写体2に向けて光を射出する光源10と、光源10の光の射出側に配置され、光源10からの光を平行光として被写体2に射出する平行光束光学系11と、を備え、撮像部20の撮像光軸20aと前記平行光の射出方向とが実質的に平行である。
この撮像装置60によれば、被写体2に射出する光を平行光にでき、被写体2の特に眼2aへの光の入射角を容易に調整できるため、眼2aでの反射光を低減することができる。眼2aでの反射光を低減することができれば、眼2aの領域のコントラストが強調された撮像画像が得られるため、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。つまり、撮像装置60によれば、視点を良好な精度で検出するための画像を取得できる。
【0074】
第1実施形態の変形例に係る撮像装置260は、視点検出のために用いられる撮像装置であって、人物である被写体2を撮像し、撮像画像を取得する撮像部20と、被写体2に向けて光を射出する光源10と、光源10の光の射出側に配置され、光源10からの光を通過させ、通過前の光よりも開口数を低減させた光を被写体2に射出する開口数低減素子211と、を備え、撮像部20の撮像光軸20aと前記開口数低減素子から射出された光の中心軸とが実質的に平行である。
この撮像装置260によれば、被写体2に向かった射出された光源10からの光の開口数を低減することで、被写体2の特に眼2aへの光の入射角を調整しやすくなるため、眼2aでの反射光を低減することができる。眼2aでの反射光を低減することができれば、眼2aの領域のコントラストが強調された撮像画像が得られるため、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。つまり、撮像装置260によっても、視点を良好な精度で検出するための画像を取得できる。
【0075】
また、撮像装置60又は260では、撮像部20の撮像対象側と光源10の光の射出側の少なくとも一方には、到達した光のうちp偏光方向成分の光のみを通過させる偏光フィルタ12又は22が設けられている。
このように偏光フィルタ12,22を設ければ、上述したように、さらに、眼2aでの反射の影響及び外光の影響を低減することができるため、より好ましい。
【0076】
また、撮像装置60又は260では、撮像部20と光源10とは、被写体2を被写体2の正面上方又は正面下方から狙う位置に配置されている。
このようにすれば、眼2aに到達した光のうち一部が鏡面反射することによる反射光が撮像部20に到達しにくくなるため、眼2aの領域のコントラストが強調された撮像画像が得やすくなる。
【0077】
また、撮像装置60又は260は、車両(乗り物の一例)に搭載される。
このように撮像装置60又は260が車両に搭載され、被写体2が車両の運転者(運転席に座っている運転者)である場合、運転者と車両の操舵装置とはほぼ一定の位置関係にある場合が多いため、特に、運転者の視点の位置を良好な精度で検出しやすい。
なお、撮像装置60又は260は、他の乗り物(航空機、船舶等)に搭載されてもよく、この場合も同様に運転者の視点の位置を良好な精度で検出しやすい。
【0078】
また、視点検出装置1は、撮像装置60又は260と、撮像部20が取得した撮像画像に基づき、この撮像画像に写った被写体2の像における視点の位置を検出する制御装置50(制御部の一例)と、を備える、
視点検出装置1によれば、眼2aの領域のコントラストが強調された撮像画像が得られるため、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。
【0079】
2.第2実施形態
第2実施形態に係る視点検出装置は、被写体2の視点を検出する装置として機能するのみならず、被写体2が視点を動かすだけで所定の入力操作を可能とするデータ入力装置として機能する。この装置は、視点検出装置1と同様の構成により実現される。そのため、以下では、同一の構成については、同じ符号を用いて説明し、第1実施形態と異なる点を中心に説明する。
【0080】
第2実施形態に係る視点検出装置1は、視点検出処理において視点座標を求めるのみならず、得られた被写体領域画像の被写体領域における重心の位置(重心座標)をさらに求める。そして、視点座標と重心座標とを利用することで、被写体2が視点を動かすだけで入力操作を可能とする。つまり、第2実施形態に係る視点検出装置1によれば、ハンズフリーでの入力操作が可能となる。
【0081】
まず、視点の位置(視点座標)のみならず重心の位置(重心座標)を取得する第2実施形態に係る視点検出処理を図15のフローチャートを参照して説明する。この処理は、例えば制御装置50の起動を条件に開始される。
【0082】
(視点検出処理)
第2実施形態に係る視点検出処理では、ステップS305において、重心を検出する点と、前述のステップS206のように視点検出結果画像を表示装置30に表示させない点が、第1実施形態に係る視点検出処理と異なる。 よって、以下では、ステップS305の処理について説明する。なお、ステップS301〜ステップS304は、第1実施形態に係る視点検出処理のステップS201〜ステップS204と同様であり、ステップS306は、第1実施形態に係る視点検出処理のステップS205と同様である。
【0083】
ステップS305で、CPU51は、重心検出処理を実行し、ステップS304で取得した被写体検出画像上における被写体領域内の重心位置を検出する。
具体的には、CPU51は、ステップS304で被写体領域内と判別された全画素の座標の平均をとり、重心座標(iG,jG)を算出する。例えば、重心座標(iG,jG)は、以下の(式4)により算出される。
【数5】
【0084】
例えば、図12(b)に示す被写体検出画像E1における被写体領域に対して、CPU51が(式4)を用いて算出する重心座標は、図16に示す点Gの座標(iG,jG)となる。
このように、ステップS305における重心検出処理によれば、撮像部20で撮影したフレーム画像中の被写体領域を代表する位置座標としての重心座標を取得できる。
【0085】
続いて、CPU51は、第1実施形態のステップS205と同様のステップS306を実行し、視点座標(iE,jE)を検出し、取得する。
以上の処理からなる視点検出処理を、CPU51は、例えば制御装置50の電源がオフされるまで繰り返し実行する。
【0086】
次に、第2実施形態に特有の処理であるデータ選択処理を図17等を参照して説明する。データ選択処理を実行するためのプログラムは、ROM52内に予め記憶されており、CPU51は、これを読み出し、実行する。
データ選択処理は、例えば、ユーザによる選択操作が必要な情報を制御装置50が取得したことを条件に開始される。
【0087】
(データ選択処理)
CPU51は、データ選択処理を開始すると、まず、画面を初期化し、データ選択画面を表示装置30に表示させる(ステップS401)。このデータ選択画面のデータは、例えば、汎用メモリ53に予め記憶されている。
データ選択画面の一例は、図18(a)に示す、画面H1である。この画面H1のように、ユーザ(主に車両運転者)に対して、選択項目(ここでは、図示するように「はい」か「いいえ」)が列挙される。
また、ステップS401で、CPU51は、前回の視点ベクトルを初期化する。この前回の視点ベクトルは、後述するステップS407で保存されたものである。
【0088】
続いて、CPU51は、タイマの時刻tをt=0に設定し、ユーザの入力操作時間を計時するためのタイマをスタートさせる(ステップS402)。
【0089】
続いて、CPU51は、次の(式5)で与えられる視点ベクトル(Δi,Δj)を取得する。
【数6】
ここでの(iG,jG)は、視点検出処理のステップS305でCPU51が取得した重心座標であり、(iE,jE)は、同処理のステップS306でCPU51が取得した視点座標である。
つまり、視点検出処理は、データ選択処理と並行して実行されており、CPU51は、データ選択処理のステップS403で、現在の重心座標(iG,jG)、視点座標(iE,jE)から上記(式5)に基づいて、重心座標に対する視点座標の位置を表す視点ベクトル(Δi,Δj)を取得する。
【0090】
続いて、CPU11は、後述のステップS407で保存した前回の視点ベクトルと、先のステップS403で取得した視点ベクトルとを比較し、視点ベクトルが変化した否かについて判別する(ステップS404)。
【0091】
視点ベクトルが変化していないと判別した場合(ステップS404;No)、CPU51は処理をステップS409に進める。例えば、前回の視点ベクトルが保存されていない場合も同様に、CPU51は処理をステップS409に進める。
一方、視点ベクトルが変化したと判別した場合(ステップS404;Yes)、CPU51は、視点テーブルを検索し、選択値を検知する(ステップS405)。視点テーブルは、例えば、図18(b)に示すような、テーブルTA1であり、汎用メモリ53に予め格納されている。
テーブルTA1は、図示するように、視点ベクトルの要素であるΔi及びΔjの各々の範囲と、項目番号(「1」または「2」)とが対応するように構成され、且つ、項目番号「1」が画像H1(図18(a)参照)に示す選択項目「はい」と、項目番号「2」が画像H1に示す選択項目「いいえ」と対応するように構成されている。
項目番号「1」に対応するΔiの範囲「190〜289」及びΔj「50〜269」は、画像H1における選択項目「はい」の領域(図で、「はい」が矩形の枠で囲まれた領域)を囲むボックスの位置を示す座標の範囲に対応するものであり、項目番号「2」に対応するΔiの範囲「190〜289」及びΔj「370〜589」は、画像H1における選択項目「いいえ」の領域(図で、「いいえ」が矩形の枠で囲まれた領域)を囲むボックスの位置を示す座標の範囲に対応するものである。ここでの座標は、例えば、画面H1において紙面左上端の点を(i,j)=(0,0)と原点とした場合の座標である。
CPU51は、このようなテーブルTA1をサーチし、変化した視点ベクトルが、例えば、(Δi,Δj)=(200,100)である場合は、項目番号「1」の範囲に入るため、選択値が「はい」であると検知する。なお、図17では示していないが、このステップS405で、選択値が検知できなかった場合は、CPU51は、例えば、ステップS403に処理を戻す。
【0092】
CPU51は、選択値を検知すると、検知した選択値に基づいて、画面を更新する(ステップS406)。
ここでの画面更新処理は、ユーザが現在どの選択項目を選択しているかを認識させるための処理であり、例えば、ユーザが現在選択している選択項目を反転表示することによって、ユーザに現在選択している項目を報知する。
【0093】
続いて、CPU51は、ステップS403で取得した視点ベクトルを、前回の視点ベクトルとして例えば汎用メモリ53に保存する(ステップS407)。
ここで保存された視点ベクトルは、次回のステップS404で、CPU5151が視点ベクトルが変化した否かを判別する際に用いられる。
【0094】
続いて、CPU51は、ユーザの操作時間を計時するためのタイマをリセットし、再び時刻t=0からタイマをスタートさせる(ステップS408)。
【0095】
続いて、CPU51は、計時時間の積算時間が所定の入力期間に達したか(タイムアウトしたか)否かを判別する(ステップS409)。
具体的には、前記所定の入力期間は、例えば予め汎用メモリ53に記憶されており、この入力期間と積算時間とを比較することで、CPU51は、タイムアウトしたか否かを判別する。ここでの積算時間は、タイマをスタートしてからタイムアウトするまで(ステップS409でYesになるまで)の計時時間の合計である。したがって、積算時間が予め定められた入力期間に達するまでは、CPU51は、ステップS403〜ステップS409の処理を繰り返すことになる。
【0096】
タイムアウトしていないと判別した場合(ステップS409;No)、CPU51は、処理をステップS403に戻す。
一方、タイムアウトしたと判別した場合(ステップS409;Yes)、CPU51は、ステップS408で選択されている選択値を、入力値として決定し、決定した選択値に応じた処理を行い(ステップS410)、データ選択処理を終了させる。
以上が、データ選択処理である。
【0097】
(変形例)
第2実施形態におけるデータ選択処理では、データ選択画面として画面H1を、視点テーブルとしてテーブルTA1を用い、ユーザが選択対象として「はい」または「いいえ」を選択する例を示したがこれに限られない。第2実施形態に係る視点検出装置1において、データ選択画面と視点テーブルとを適宜変更すれば、様々なデータ選択操作が可能となる。一例を以下に示す。
【0098】
例えば、データ選択画像として、図20(a)に示すように文字や数値を選択できるように構成された画像H2であってもよいし、図21(a)に示すように一定区間中の1点を選択できるように構成された画像H3(画像H3は、ユーザからの入力操作により音量を示す図形の形状が紙面左右方向に可変するボリュームバー表示を示している)であってもよい。
【0099】
データ選択画像として、画像H2を採用した場合には、視点テーブルとして図20(b)に示すようなテーブルTA2を汎用メモリ53に予め格納しておけばよい。
テーブルTA2は、図示するように、視点ベクトルの要素であるΔi及びΔjの各々の範囲と、項目番号(「1」、「2」、「3」、…)とが対応するように構成され、且つ、項目番号「1」が画像H2に示す「1」と、項目番号「2」が画像H2に示す「2」と、項目番号「3」が画像H2に示す「3」と、・・・というふうに対応するように構成されている。
テーブルTA2は、テーブルTA1と同様に、Δi及びΔjの各範囲が、選択項目(画像H2における「1」、「*」、「#」等)の各々の位置を示す座標の範囲に対応するように構成されており、CPU51は、このようなテーブルTA2をサーチし、変化した視点ベクトルが、例えば、(Δi,Δj)=(150,150)である場合は、項目番号「1」の範囲に入るため、選択値が「1」であると検知する。
【0100】
データ選択画像として、画像H3を採用した場合には、視点テーブルとして図21(b)に示すようなテーブルTA3を汎用メモリ53に予め格納しておけばよい。テーブルTA3の構成も、テーブルTA1、TA2と同様に、Δi及びΔjの各範囲が、選択項目(画像H3における音量を示す図形(白抜きの長方形の紙面における右端部))の各々の位置を示す座標の範囲に対応するように構成されている。
【0101】
以上に説明した第2実施形態及びその変形例によれば、被写体領域の重心位置(重心座標)と視点の位置(視点座標)との相対的な位置関係を利用することで、被写体2であるユーザは、視点の位置を変えるだけで、ハンズフリーのデータ入力操作を行うことができる。この技術によれば、被写体2であるユーザが表情を変えたり、顔の向きを変えたりしても、被写体領域の重心位置の変化は、視点の位置の変化に比べて少ないため、入力結果が安定する。
【0102】
なお、本発明は上記第1及び第2実施形態及びそれらの変形例によって限定されるものではない。上記第1及び第2実施形態及びそれらの変形例に変更(構成要素の削除も含む)を加えることができるのはもちろんである。
【0103】
例えば、以上の説明では、制御装置50(CPU51)が、垂直同期信号の立ち下がりを検出し、かつフィールド識別信号が奇数フィールド画像を示すときに、時刻t=0としてタイマを設定するものとしたが、制御装置50は、垂直同期信号の立ち上りを検出し且つフィールド識別信号が奇数フィールド画像を示すときに、時刻t=0としてタイマを設定してもよい。
【0104】
また、以上の説明では、上記の実施形態に係る制御装置50は、撮像部20が奇数フィールド画像を撮像しているときに光源10を点灯させ、撮像部20が偶数フィールドを撮像しているときに光源10を消灯させたがこれに限られない。撮像部20が偶数フィールド画像を撮像しているときに光源10を点灯させ、撮像部20が奇数フィールドを撮像しているときに光源10を消灯させてもよい。
【0105】
また、以上では、視点検出装置1が、奇数フィールド又は偶数フィールドの撮像タイミングで光源10を点滅させ、被写体検出画像を取得ないしは、視点を検出する例を説明したがこれに限られない。
図22(a)に示すような、撮像制御信号と光源制御信号とを生成する制御装置250と、制御装置250が供給した撮像制御信号(図22(b)参照)に同期して撮像する撮像部220と、制御装置250が供給した光源制御信号(図22(b)参照)に同期して点灯・消灯する光源210と、を少なくとも備える視点検出装置201が被写体検出画像を取得してもよい。この場合、光源ON時のタイミングでの撮像画像と光源OFF時のタイミングでの撮像画像との差分をとり、これを閾値処理によって2値化することで、被写体領域画像を取得する、という手順になる。なお、図22(a)では、表示装置、入力装置、平行光光学系又は開口数低減素子、偏光フィルタ等を省略した。また、光源210、撮像部220、及び制御装置250は、前記した光源10、撮像部20、及び制御装置50とほぼ同一の構成からなる。
【0106】
また、光源制御処理、視点検出処理、データ選択処理を制御装置50が実行するためのプログラムは、ROM52に予め記憶されているものとして説明したが、このような動作プラグラム及び各種データは、視点検出装置1に含まれるコンピュータに対して、着脱自在の記録媒体により配布・提供されてもよい。さらに、動作プログラム及び各種データは、電気通信ネットワーク等を介して接続された他の機器からダウンロードすることによって配布されるようにしてもよい。
【0107】
そして、各処理の実行形態も、着脱自在の記録媒体を装着することにより実行するものだけではなく、電気通信ネットワーク等を介してダウンロードした動作プログラム及び各種データを内蔵の記憶装置に一旦格納することにより実行可能としてもよいし、電気通信ネットワーク等を介して接続された他の機器側のハードウェア資源を用いて直接実行してもよい。さらには、他の機器と電気通信ネットワーク等を介して各種データの交換を行うことにより各処理を実行してもよい。
【0108】
以上の説明では、本発明の理解を容易にするために、重要でない公知の技術的事項の説明を適宜省略した。
【符号の説明】
【0109】
1…視点検出装置
100,200…光照射部
10…光源
11…平行光光学系
211…開口数低減素子
12,22…偏光フィルタ
20…撮像部
30…表示装置
40…入力装置
50…制御装置
51…CPU
52…ROM
53…汎用メモリ
54…ビデオメモリ
55…同期分離回路
56…フィールド識別回路
57…外部デバイスI/F
60,260…撮像装置
2…被写体
3…背景
【技術分野】
【0001】
本発明は、視点検出のために用いられる撮像装置及びこれを備える視点検出装置に関する。
【背景技術】
【0002】
撮像部が撮像した被写体の画像から、人物の視点を検出する技術が知られている。例えば、特許文献1には、撮像部で撮像した画像に対して、予め用意したテンプレートと相関演算を行うことで、被写体であるユーザの目の領域を検出する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平06−255388号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に開示された技術では、撮像時の照明環境等が原因で、鮮明な画像を得ることができない場合があった。この場合、テンプレートマッチングによる視点検出に失敗する蓋然性が高まる。つまり、特許文献1に開示された技術は、必ずしも検出精度が良好なものとは言えなかった。
【0005】
本発明は上記実状に鑑みてなされたものであり、視点を良好な精度で検出するための画像を取得できる撮像装置及びこれを備える視点検出装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明の第1の観点に係る撮像装置は、
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を平行光として前記被写体に射出する平行光束光学系と、を備え、
前記撮像部の撮像光軸と前記平行光の射出方向とが実質的に平行である、
ことを特徴とする。
【0007】
上記目的を達成するため、本発明の第2の観点に係る撮像装置は、
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を通過させ、通過前の光よりも開口数を低減させた光を前記被写体に射出する開口数低減素子と、を備え、
前記撮像部の撮像光軸と前記開口数低減素子から射出された光の中心軸とが実質的に平行である、
ことを特徴とする。
【0008】
上記目的を達成するため、本発明の第3の観点に係る視点検出装置は、
上記第1又は第2の観点に係る撮像装置と、
前記撮像部が取得した撮像画像に基づき、この撮像画像に写った被写体像における視点の位置を検出する制御部と、を備える、
ことを特徴とする。
【発明の効果】
【0009】
本発明によれば、視点を良好な精度で検出するための画像を取得できる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1実施形態に係る視点検出装置の概略構成を示すブロック図である。
【図2】制御装置の構成を説明するためのブロック図である。
【図3】(a)は、光照射部と撮像部との配置関係を説明するための図である。(b)は、光照射部からの光がブリュースター角で被写体の眼に入射する場合を示した図である。
【図4】被写体の像がフレーム画像として結像される過程を説明するための図である。
【図5】(a)〜(c)は、光源制御処理における光源制御信号の送信タイミングを説明するためのタイミングチャートである。
【図6】光源制御処理のフローチャートである。
【図7】視点検出処理のフローチャートである。
【図8】視点検出処理において制御装置が取得するフレーム画像の一例を示した図である。
【図9】(a)は、奇数フィールド画像の一例を示した図であり、(b)は、偶数フィールド画像の一例を示した図である。
【図10】(a)は、補間奇数フレーム画像の一例を示した図であり、(b)は、補間偶数フレーム画像の一例を示した図である。
【図11】被写体検出画像の一例を示した図である。
【図12】(a)、(b)は、ある人物を被写体として、視点検出処理を実行した場合に、どのような被写体検出画像が得られるかを説明するための図である。
【図13】視点検出処理におけるテンプレートマッチングを説明するための概念図である。
【図14】表示装置に表示される視点検出結果画像の一例である。
【図15】本発明の第2実施形態に係る視点検出処理のフローチャートである。
【図16】第2実施形態に係る視点検出処理における重心検出処理を説明するための図である。
【図17】第2実施形態に係るデータ選択処理のフローチャートである。
【図18】(a)は、データ選択画面の一例を示す図である。(b)は、視点テーブルの一例を示す図である。
【図19】第1実施形態の変形例に係る撮像装置を説明するための図である。
【図20】(a)及び(b)は、第2実施形態の変形例を示す図であり、(a)は、データ選択画面の変形例を示す図である。(b)は、視点テーブルの変形例を示す図である。
【図21】(a)及び(b)は、第2実施形態の変形例を示す図であり、(a)は、データ選択画面の変形例を示す図である。(b)は、視点テーブルの変形例を示す図である。
【図22】(a)は、変形例に係る視点検出装置を説明するためのブロック図である。(b)は、光源制御信号と撮像制御信号の送信タイミングを説明するためのタイミングチャートである。
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態を図面を参照して詳細に説明する。
【0012】
1.第1実施形態
第1実施形態に係る視点検出装置は、図1に示す視点検出装置1である。
視点検出装置1は、車両に搭載されるものであり、図1に示すように、表示装置30と、入力装置40と、制御装置50と、撮像装置60と、を備える。
撮像装置60は、光源10及び平行光束光学系11から構成される光照射部100と、撮像部20と、偏光フィルタ12及び22と、を備える。
【0013】
視点検出装置1は、制御装置50の制御の下、撮像部20に人物(本実施形態では、車両の運転者)である被写体2(図2参照)を撮像させると共に、予め設定された点灯時間で光源10を点灯させる。そして、後述の視点検出処理を実行することで、撮像画像における被写体2が写っている領域(以下、「被写体領域」と言う。)を検出し、被写体2の視点を検出する。
【0014】
光照射部100は、図1に示すように、被写体2に平行光を照射するものであり、前記のように光源10及び平行光束光学系11から構成される。
【0015】
光源10は、被写体2に向けて光を射出するものであり、例えば、赤外線LED(Light Emitting Diode)から構成される。光源10は、制御装置50から出力される光源制御信号に基づいて点灯・消灯する。
【0016】
平行光束光学系11は、光源10が射出した光を平行光にする光学系であり、光源10の前方(光の射出側)に配置されている。平行光束光学系11は、例えば、コリメートレンズであり、その焦点に光源10の射出点が位置するように配置されている。
つまり、平行光束光学系11は、光源10からの光を平行光として被写体2に射出する。
【0017】
撮像部20は、被写体2を撮像するものであり、例えば、複数のレンズと、電子シャッター機能を有するCCD(Charged Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子とを含むビデオカメラである。
撮像部20は、シャッターが開いているときにレンズを用いて固体撮像素子の受光面に被写体2の像を結像させ、結像させた像の光の強弱を電気信号に変換し、その電気信号に基づいた映像信号を含むビデオ信号を、制御装置50に出力する。
【0018】
光照射部100と撮像部20とは、図3(a)に示すように、被写体2の顔(具体的には、座席に座った運転者の顔)を被写体2である運転者から見て正面上方から狙う位置(例えば、ルームミラー近傍の位置)に配置されている。また、光照射部100と撮像部20とは、互いに隣り合うように配置され、且つ、光照射部100が有するレンズの光軸100aと撮像部20が有するレンズ光軸(撮像光軸)20aとが略平行(丁度、平行も含む)となるように配置されている。
つまり、撮像装置60においては、撮像部20の撮像光軸20aと平行光束光学系11からの平行光の射出方向とが実質的に平行である。
【0019】
ここで、図3(a)を参照して、撮像装置60において、上記のように光照射部100(ないしは光源10)と撮像部20とを配置した理由を説明する。
【0020】
被写体2を狙って設けられた光照射部100が射出した光は、被写体2の顔に到達し、その大部分の光は肌2b(つまり、皮膚の表面)で拡散反射し、残りの光は、被写体2の眼2aにおいて、眼球表面の涙等による水分の膜において、一部が鏡面反射する。
光照射部100からの光L1は平行光であるため、ほぼ一様な入射角をもって斜め上方から眼2aの界面に入射する。入射した光L1の一部は、眼2aで鏡面反射し、斜め下方に向かう反射光R1となる。このため、反射光R1は、撮像部20にほとんど到達しない。一方、肌2bに到達する光源からの光L2は、肌2bで拡散反射するため、反射光の一部の光R2は、撮像部20へと向かう光となる。
このように被写体2の像を表す光は撮像部20に到達するため、得られる撮像画像においては、眼2aに対応する領域のほうが肌2bに対応する領域よりも暗くなる。眼2aの領域のコントラストが強調された撮像画像が得られれば、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。また、光照射部100(ないしは光源10)と撮像部20とを被写体2の正面上方に配置すれば、光照射部100からの光の被写体2への入射角と、フロントガラスやサイドガラスを透過して車内に入り込む正面及び側面からの外光の被写体2への入射角とをずらすことができるため、撮像における外光の影響を低減することもできる。
このような理由により、本願発明者は、撮像装置60において、光照射部100と撮像部20とを上記のように配置した。
【0021】
偏光フィルタ12及び22は、それぞれ、到達した光のうちp偏光成分の光(p偏光)のみを通過させるp偏光板から構成されている。これらは、眼2aでの反射の影響及び外光の影響を低減するために設けられる。
【0022】
偏光フィルタ12は、光照射部100の前方(射出方向)に配置されている。このため、偏光フィルタ12を通過した光照射部100からの光は、p偏光として、被写体2を照射する。
p偏光の反射率は、どの入射角でもs偏光成分の光(s偏光)の反射率以下であるため、このように偏光フィルタ12を設けることにより、眼2aでの反射光R1をさらに低減することができる。
【0023】
ここで、上記の通り、光照射部100は、被写体2を前方斜め上から狙う位置に配置されているが、理想的には、図3(b)に示すように、光照射部100は、射出した光が運転者が正面を向いているときの眼2aの界面に、ブリュースター角θBで入射するように配置されるのがよい。このようにすれば、理論上は、p偏光として眼2aに到達する光の反射率を0(ゼロ)に近づけることができ、撮像画像における眼2a領域と肌2b領域とのコントラストをさらに稼ぐことができる。但し、実際には、眼球は曲面であることや、運転者の体格、座席の位置等の諸条件により、眼2aでのp偏光の反射率を0とすることは不可能である。
よって、前記諸条件を考慮して、なるだけ、光照射部100からの光がブリュースター角θBに近い角度で眼2aに入射するように光照射部100の位置を調整すればよい。光照射部100は、平行光を照射するため、入射角を踏まえて調整しやすい。
【0024】
なお、入射側の屈折率をn1、透過側の屈折率をn2とすれば、ブリュースター角θBは、以下のように表せる。
【数1】
【0025】
ここで、入射側の屈折率n1を空気の屈折率1とし、透過側の屈折率n2を眼球表面が水の膜(涙)で覆われているとして、簡単に、水の屈折率1.33とすれば、上記(数1)式より、ブリュースター角θBは、約53度となる。
この場合、被写体2が正面を向いた場合の視線V(図3(b)参照)から約53度上方の位置に光照射部100を配置すればよい。撮像部20も視線Vから同様な角度をもって配置すればよい。例えば、このようにして、光照射部100(ないしは光源10)と撮像部20とは、各々の光軸である光軸100aと光軸(撮像光軸)20aとが略平行となるように配置される。
【0026】
偏光フィルタ22は、撮像部20の前方(撮像対象である被写体方向)に配置されている。このため、撮像部20に到達した光は、p偏光として、固体撮像素子の受光面に到達する。
上記のように、p偏光の反射率は、どの入射角でもs偏光の反射率以下である。したがって、反射光はs偏光の成分の光の割合が多くなる。そのため、このように偏光フィルタ22を配置することで、被写体2で反射した光(特に、眼2aで反射した光)のうち強く反射するs偏光の光を遮断することができる。
【0027】
なお、偏光フィルタ12及び22は、眼2aに比べて明るく撮像したい肌2bにおける反射光も低減してしまうが、撮像画像に与える影響としては、眼2aでの反射光が与える影響のほうが大きい。そのため、偏光フィルタ12及び22を設けることにより、眼2aの領域が強調された撮像画像を得ることができる。
【0028】
以上のように、本実施形態では、平行光を照射する光照射部100、光照射部100及び撮像部20の配設位置、及び、s偏光を遮断する偏光フィルタ12及び22により、眼2aでの反射光を効果的に抑制している。
本願発明者は、被写体2の眼2aで光の反射特性(到達した光の一部が鏡面反射する)と、肌2bでの光の反射特性(到達した光が拡散反射する)との違いに着目し、これらの特性を利用して、撮像装置60を構成すれば、以上に説明した理由により、眼2aの領域のコントラストが強調された撮像画像を得られ、結果として、視点検出装置1の検出対象である視点の位置を良好な精度で検出することができることを見出した。
【0029】
ここからは、撮像部20の固体撮像素子の受光面に、被写体2の像が、図4に示すような例えば2M行N列の画素から成るフレーム画像Aとして結像される過程(撮像部20が撮像画像を取得するまでの過程)を説明する。
この場合、固体撮像素子を構成するマトリックス状に配置されたフォトダイオード(前記の各画素に1対1で対応するように配置されている。)は、シャッターが開いているときに受光した光量に応じた電荷を生成する。そして、撮像部20は、シャッターが閉じた後に、同期信号発生回路(図示せず)により出力される垂直同期信号及び水平同期信号に同期して、各ラインのフォトダイオードの電荷を電気信号として読み取る。
【0030】
ここで、ラインを上から順に数えたときの番号をライン番号と言う(つまり、2M行N列のフレーム画像において、ライン番号1は1行目を示し、ライン番号2Mは2M行目を示す)。
そして、奇数番号のラインから構成されるライン群を「奇数フィールド」といい、偶数番号のラインから構成されるライン群を「偶数フィールド」と言う。また、あるフレーム画像において、奇数フィールドに対応する画像を「奇数フィールド画像」といい、偶数フィールドに対応する画像を「偶数フィールド画像」と言う。
つまり、フレーム画像は、奇数フィールド画像と偶数フィールド画像とで構成されており、フレーム画像において、奇数フィールド画像に係るラインと偶数フィールド画像に係るラインとは各々隣り合う。
【0031】
撮像部20は、1つのフレーム画像Aの撮像において、奇数フィールドの撮像と偶数フィールドの撮像とを行う。撮像部20は、各撮像において、シャッターを開閉し、受光素子に電荷を蓄積する。
撮像部20は、フォトダイオードの電荷を読み取る際に、奇数フィールド画像の撮像では、奇数フィールドの各電荷を読み取り、偶数フィールド画像の撮像では、偶数フィールドの各電荷を読み取る。撮像部20は、このような読み取りを、水平同期信号に同期して行う。
【0032】
具体的には、撮像部20は、以下の手順で電荷の読み取りを行う。
1)垂直同期信号に同期して、フレーム画像Aにおけるライン番号が奇数のラインの電荷の読み取りを開始し、全ての奇数ラインの電荷を読み取る。すなわち、撮像部20は、ライン番号1,3,…,2M−1の順で水平同期信号に同期して各ラインの電荷を読み取る。このようにして、撮像部20は、奇数フィールドの電荷を読み取ることになる。
2)次の垂直同期信号に同期して、フレーム画像Aにおけるライン番号が偶数のラインの電荷の読み取りを開始し、全ての偶数ラインの電荷を読み取る。すなわち、撮像部20は、ライン番号2,4,…,2Mの順で水平同期信号に同期して各ラインの電荷を読み取る。このようにして、撮像部20は、偶数フィールドの電荷を読み取ることになる。
つまり、撮像部20は、被写体2の撮像を偶数フィールドと奇数フィールドの撮像に分けて行う。
【0033】
このような1つのフレームを構成する奇数フィールドと偶数フィールドを表す電荷の読み取りは、それぞれ、例えば1/60秒の間隔で行われる。つまり、1つのフレーム当たりの電荷の読み取りは、1/30秒間隔で行われる。よって、撮像部20は、1秒当たり30フレームの画像を撮影することになる。
そして、撮像部20は、読み取った電荷が表す電気信号である映像信号と、垂直同期信号と、水平同期信号とを重畳した信号を、ビデオ信号として制御装置50に出力する。
【0034】
図1及び図2に戻って、表示装置30は、制御装置50の制御の下、後述の出力画像データが表す画像(例えば、後述の被写体検出結果画像F)を表示する。表示装置30は、例えばLCD(Liquid Crystal Display)から構成される。
【0035】
入力装置40は、ユーザの所定の入力操作を受け付けるものであり、例えばユーザの数値入力や上下左右の方向指示を受け付けるキーボード、マウス、タッチパネル等から構成される。入力装置40が受け付けた入力操作を示すデータは、制御装置50に出力される。
【0036】
制御装置50は、例えばマイクロコンピュータから構成され、図2に示すように、CPU(Central Processing Unit)51と、ROM(Read-Only Memory)52と、汎用メモリ53と、ビデオメモリ54と、同期分離回路55と、フィールド識別回路56と、外部デバイスインターフェイス(I/F)57と、を備える。
【0037】
CPU51は、ROM52内に予め記憶された、後述する光源制御処理、視点検出処理等を実行するための所定プログラムを読み出し、実行する。そして、CPU51は、撮像部20から取得したビデオ信号、処理後の演算結果、画像データ等を汎用メモリ53に一時的に記憶させる。
また、CPU51は、汎用メモリ53に記憶された出力画像データをビデオメモリ54に転送し、転送した出力画像データに基づき表示装置30に出力画像データが表す画像を表示させる。
また、CPU51は、計時可能なタイマ(図示せず)を内蔵し、適宜、計時を行う。
【0038】
ROM52には、前記所定プログラムの他、光源制御処理において参照される光源10の点灯時間を規定するためのTOFF及びTON(図5(c)参照)の値を示すデータが記憶されている(TOFF及びTONについては後述する)。また、汎用メモリ53には、視点検出処理におけるテンプレートマッチングで用いられるテンプレートTEを示すデータが予め記憶されている。
【0039】
同期分離回路55は、撮像部20からのビデオ信号を、映像信号と垂直同期信号(図5(a)参照)と水平信号とに分離する回路である。
【0040】
フィールド識別回路56は、同期分離回路55により分離された、垂直同期信号及び水平同期信号から、ビデオ信号に含まれる映像信号が奇数フィールド画像と偶数フィールド画像の何れであるかを示すフィールド識別信号を生成する。
フィールド識別信号は、一例として、図5(b)に示すように構成され、このようなフィールド識別信号に基づいて、CPU51は、撮像部20から取得した映像信号が、奇数フィールド画像を示すものであるか、偶数フィールド画像を示すものであるかを判別することができる。
【0041】
外部デバイスI/F57は、光源10、撮像部20、表示装置30、入力装置40の各々と、制御装置50の各部とを導通接続する。
【0042】
次に、所望のタイミングで、予め設定された点灯時間の間、光源10を点灯させるための光源制御処理を、図6等を参照して説明する。
光源制御処理は、制御装置50のCPU51により実行され、例えば制御装置50の起動を条件に開始される。
【0043】
(光源制御処理)
CPU51は、光源制御処理を開始すると、まず、ステップS101で、垂直同期信号の立ち下がり(図5(a)参照)を検出した否かを判別する。この垂直同期信号は、前述のように、撮像部20からのビデオ信号を、映像信号と垂直同期信号と水平信号とに分離する同期分離回路55から出力される。
【0044】
CPU51は、垂直同期信号の立ち下がりを検出していないと判別した場合(ステップS101;No)、ステップS104に処理を進める。
一方、CPU51は、垂直同期信号の立ち下がりを検出したと判別した場合(ステップS101;Yes)、ステップS102に処理を進める。
【0045】
ステップS102で、CPU51は、フィールド識別回路56から取得したフィールド識別信号(図5(b)参照)が、奇数フィールド画像を示しているか否かを判別する。具体的には、CPU51は、フィールド識別信号の立ち上がりを検出した場合に、フィールド識別信号が奇数フィールド画像を示していると判別する。
【0046】
フィールド識別信号が奇数フィールド画像を示していない(つまり、偶数フィールド画像を示している)と判別した場合(ステップS102;No)、CPU51は、ステップS101に処理を戻す。一方、フィールド識別信号が奇数フィールド画像を示していると判別した場合(ステップS102;Yes)、CPU51は、ステップS103に処理を進める。
【0047】
ステップS103で、CPU51は、タイマの時刻tをt=0に設定し、計時を開始する。
【0048】
続いて、ステップS104で、CPU51は、タイマの時刻tがTON≦t≦TOFFを満たすか否かを判別する。
ここで、TON及びTOFFは、撮像部20の固体撮像素子を構成するフォトダイオードのうち、奇数フィールドのフォトダイオードが受光している光量に応じた電荷の蓄積開始時刻及び終了時刻に対応する。なお、TONとTOFFは、予めROM52にデフォルト値として記憶されているか、ユーザにより入力装置40を介して設定され記憶される。
【0049】
タイマの時刻tがTON≦t≦TOFFを満たすと判別した場合(ステップS104;Yes)、CPU51は、点灯を示す光源制御信号(図5(c)参照)を光源10に出力する(ステップS105)。そして、処理をステップS101に戻す。
一方、時刻tがTON≦t≦TOFFを満たさないと判別した場合(ステップS104;No)、CPU51は、消灯を示す光源制御信号を光源10に出力する(ステップS106)。そして、処理をステップS101に戻す。
【0050】
以上の処理からなる光源制御処理を、CPU51は、例えば、制御装置50の電源がオフされるまで繰り返す。本処理により、撮像部20が奇数フィールド画像を撮像しているタイミングで光源10を点灯させ、偶数フィールド画像を撮像しているタイミングで光源10を消灯させることができる。
【0051】
次に、制御装置50のCPU51が実行する視点検出処理を、図7等を参照して説明する。この処理は、例えば制御装置50の起動を条件に開始される。
【0052】
(視点検出処理)
CPU51は、視点検出処理を開始すると、まず、ステップS201で、撮像部20が出力するビデオ信号から、垂直同期信号に基づいて1フレーム分の画像データ(1つの撮像画像を表すデータ)を取得する。
具体的には、CPU51は、垂直同期信号に同期して、撮像部20から出力されたビデオ信号から、1つの奇数フィールド画像を示す映像信号と1つの偶数フィールド画像を示す映像信号とにより構成される1フレーム分の映像信号を取得する。
【0053】
例えば、撮像部20が、被写体2(図2参照)を撮像した場合、CPU51が取得するフレーム画像は、図8に示すようなフレーム画像B(撮像画像の一例)である。
フレーム画像Bでは、奇数フィールド画像における被写体2の像は明るく、偶数フィールド画像における被写体2の像は暗く撮像される。これは、撮像部20の撮像中において、CPU51が前述の光源制御処理を実行することで、撮像部20が奇数フィールド画像を撮像しているタイミングで光源10を点灯させ、偶数フィールド画像を撮像しているタイミングで光源10を消灯させているためである。
一方、背景3(図2参照)は、光源10から十分離れており、光源10の影響をほとんど受けないため、フレーム画像Bにおける背景3の像の明るさは、奇数フィールド画像と偶数フィールド画像とで、光源10の照光に起因しては変化しない。
【0054】
続いて、ステップS202で、CPU51は、ステップS201で取得したフレーム画像を奇数フィールド画像と偶数フィールド画像とに分け、各々を取得する。
具体的には、例えばフレーム画像B(図8参照)を取得した場合、CPU51は、図9(a)に示す奇数フィールド画像C1と、図9(b)に示す偶数フィールド画像C2と、を取得する。なお、奇数フィールド画像C1と偶数フィールド画像C2の各々を構成するライン数は、フレーム画像Bを構成するライン数の半分となっている。
【0055】
続いて、ステップS203で、CPU51は、ステップS202で取得した奇数フィールド画像と偶数フィールド画像から、補間奇数フレーム画像と補間偶数フレーム画像を生成し、取得する(ステップS203)。
【0056】
ここで、補間奇数フレーム画像とは、奇数フィールド画像を構成する各ラインの間に新たにラインを補間したフレーム画像であり、補間偶数フレーム画像とは、偶数フィールド画像を構成する各ラインの間に新たにラインを補間したフレーム画像である。
具体的には、CPU51は、奇数フィールド画像C1と偶数フィールド画像C2について各々がフレーム画像Bと同じライン数となるように各ラインの間に新たにラインを補間することで、奇数フィールド画像C1からは図10(a)に示すような補間奇数フレーム画像D1を生成し、偶数フィールド画像C2からは図10(b)に示すような補間偶数フレーム画像D2を生成し、各々を取得する。
【0057】
一例として、補間奇数フレーム画像D1は、奇数フィールド画像C1の各ラインの間に、輝度値として上下の画素の輝度値の平均値を有するラインを補間することで生成される。同様に、補間偶数フレーム画像D2は、偶数フィールド画像C2の各ラインの間に、輝度値として上下の画素の輝度値の平均値を有するラインを補間することで生成される。
例えば、フレーム画像Bが、2M行N列の画像数を有し、i行j列目の画素の輝度値がIi,jで表される場合、フレーム画像Bを取得した制御装置50は、以下の(式1)に示す輝度値IOi,jを有する補間奇数フレーム画像D1と、以下の(式2)に示す輝度値IEi,jを有する補間フレーム画像D2と、を生成し、取得する。なお、Iminは、フレーム画像Bの輝度値Iの最小値を表す。
【0058】
【数2】
【0059】
図7に戻って、補間奇数フレーム画像と補間偶数フレーム画像とを取得すると、ステップS204で、CPU51は、補間奇数フレーム画像と補間偶数フレーム画像との比較に基づいて、被写体領域を示す被写体検出画像を取得する。
【0060】
例えば、CPU51は、補間奇数フレーム画像D1(図10(a)参照)と、補間偶数フレーム画像D2(図10(b)参照)とについて、対応する位置にある画素の輝度値を比較し、その画素の輝度値の差が所定値θよりも大きい場合に、その位置にある画素は被写体領域内の画素であると判別する。
そして、CPU51は、この判別処理を補間奇数フレーム画像D1及び補間偶数フレーム画像D2の全域に対して行い、被写体領域内の画素であると判別した画素についてはフレーム画像Bの輝度値の最小値Iminを輝度値とし、それ以外の画素についてはフレーム画像Bの輝度値の最大値Imaxを輝度値として有する被写体検出画像E(図11参照)を取得する。
このような被写体検出画像Eの輝度値IDi,jは以下の(式3)のように表すことができる。
【0061】
【数3】
【0062】
ここで、本処理において取得できる被写体検出画像のより具体的な例を示せば、車両に乗車した人物を撮像部20で撮像し、図12(a)に示すようなフレーム画像B1(撮像画像の一例)が得られた場合、CPU51が取得する被写体検出画像は、図12(b)に示すような被写体検出画像E1となる。
このように、本処理によれば、被写体領域(被写体2である人物の領域)を表す被写体検出画像を取得することができる。
本実施形態に係る視点検出装置1では、上記のように、光照射部100、撮像部20、及び偏光フィルタ12,22が配置されているため、拡散反射する肌2bに対応する領域が明るく、到達した光の一部が鏡面反射する眼2aに対応する領域が暗い撮像画像、つまり、図12(a)に示すような、眼2aの領域のコントラストが強調されたフレーム画像B1が得られる。
なお、ここで得られるフレーム画像B1も、厳密には、図8に示すフレーム画像Bのように、奇数フィールド画像における被写体2の像は明るく、偶数フィールド画像における被写体2の像は暗く撮像されるものとなるが、実際に画像を視認する際には、フレーム画像を構成する各ラインは微細なものであるため、概観としては、図12(a)に示すようになる。
図12(a)では、眼2aの領域のコントラストが強調された撮像画像が得られる、という本実施形態に特有の効果の理解を容易にするためフレーム画像B1をこのように表した。
【0063】
続いて、ステップS205で、CPU51は、ステップS204で得た被写体検出画像上の被写体領域に対して、周知の画像処理技術であるテンプレートマッチングを実行することで、視点座標を検出する(視点を検出する)。CPU51は、汎用メモリ53に記憶されているテンプレートTEを読み出し、このテンプレートTEに最も近い領域を画像中でサーチすることによって、視点座標を検出する。
具体的には、CPU51は、以下の(数4)式で与えられる座標(i,j)における絶対値差分SADijを算出し、それが最小となる座標をサーチし(図13に概念的に示した)、最小となる座標を視点座標(iE,jE)として検出する。なお、Tmnは、B行B列サイズのテンプレートTEにおけるm行n列目の画素値である。
【数4】
【0064】
続いて、ステップS206で、CPU51は、ステップS201で撮像部20から取得したフレーム画像に、図14に示すように、取得した視点座標(つまり、CPU51が検出した視点の位置)を示す指標Inを描画した視点検出結果画像Fを表示装置30に表示させる。
なお、取得した視点座標を示す指標Inは、図示する十字印の指標に限られない。ユーザが視点の位置を認識できるものであれば、指標Inの形状は任意であり、点や丸印等であってもよい。また、図14に示す例では、被写体の人物の両目の中心を視点としているが、これに限られず、左右一方の目の位置を視点としてもよいし、左右双方の位置を各々求めて、その各々を視点としてもよい。視点をどのようにするかは、目的に応じて適宜変更できる。
【0065】
以上の処理からなる視点検出処理を、CPU51は、例えば制御装置50の電源がオフされるまで繰り返し実行する。
【0066】
(変形例)
以上の実施形態では、被写体2に光を照射する光照射部を平行光を照射する光照射部100としたが、これに限られない。変形例として、図19に示すように、光源10と開口数低減素子211とから構成される光照射部200であってもよい。
【0067】
開口数低減素子211は、光源10の光の射出側に配置され、光源10が射出した光の中心軸近傍の光のみを通過させるものである。開口数低減素子211は、光源10からの光を通過させ、通過前の光よりも開口数を低減させた光を被写体2に射出する。
開口数低減素子211は、ルーバー、ピンホール板、等から構成される。
ルーバーは、板状の部材(板材)であり、特定の入射角よりも大きい角度で入射した光を吸収する遮光層と、前記特定の入射角以下の角度で入射した光を透過させる透過層を前記板材の面内方向に交互に積層して構成されるものである。この積層ピッチを変えれば、任意に開口数を低減できる。
ピンホール板は、開口孔が形成された板状の部材であり、例えば、開口の中心が光源10の射出する光の中心軸と一致するように配置される。開口径を変えれば、任意に開口数を低減できる。
【0068】
光照射部200と撮像部20とは、互いに隣り合うように配置され、且つ、光照射部200が射出する光の中心軸(光束の中心に位置する光の光軸)と撮像部20の光軸(撮像光軸)20aとが略平行(丁度、平行も含む)となるように配置されている。
つまり、変形例に係る撮像装置260においては、撮像部20の撮像光軸20aと開口数低減素子211から射出された光の中心軸とが実質的に平行である。
【0069】
このような開口数低減素子211を有する光照射部200によれば、光源10からの光の開口数を低減することで、被写体2に入射する光の入射角をある程度は制御できるため、眼2aの領域のコントラストが強調された撮像画像が得られ、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。
【0070】
また、以上の実施形態では、視点検出装置1が偏光フィルタ12及び偏光フィルタ22を備えるものとしたが、これに限られない。
偏光フィルタ12又は偏光フィルタ22のいずれか一方のみ設けても、特に、眼2aでの反射光を効果的に低減することができる。また、偏光フィルタ12及び22を設けず、光照射部100(又は光照射部200)と撮像部20との配置関係のみによっても眼2aでの反射光を低減することができる。つまり、偏光フィルタ12及び/又は偏光フィルタ22は、あったほうがより好ましいが、設けられていなくともよい。
【0071】
また、以上では、光源10と撮像部20とを、被写体2である運転者の正面上方から狙う位置に配置したが、正面下方から狙う位置に配置してもよい。この場合においても、なるだけ、光照射部100又は200からの光がブリュースター角θBに近い角度で眼2aに入射するように光照射部100又は200の位置を調整すればよい。
【0072】
また、偏光フィルタ12は、平行光束光学系11又は開口数低減素子211よりも、光源10側に配置されていてもよい。
【0073】
以上のように、第1実施形態に係る撮像装置60は、視点検出のために用いられる撮像装置であって、人物である被写体2を撮像し、撮像画像を取得する撮像部20と、被写体2に向けて光を射出する光源10と、光源10の光の射出側に配置され、光源10からの光を平行光として被写体2に射出する平行光束光学系11と、を備え、撮像部20の撮像光軸20aと前記平行光の射出方向とが実質的に平行である。
この撮像装置60によれば、被写体2に射出する光を平行光にでき、被写体2の特に眼2aへの光の入射角を容易に調整できるため、眼2aでの反射光を低減することができる。眼2aでの反射光を低減することができれば、眼2aの領域のコントラストが強調された撮像画像が得られるため、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。つまり、撮像装置60によれば、視点を良好な精度で検出するための画像を取得できる。
【0074】
第1実施形態の変形例に係る撮像装置260は、視点検出のために用いられる撮像装置であって、人物である被写体2を撮像し、撮像画像を取得する撮像部20と、被写体2に向けて光を射出する光源10と、光源10の光の射出側に配置され、光源10からの光を通過させ、通過前の光よりも開口数を低減させた光を被写体2に射出する開口数低減素子211と、を備え、撮像部20の撮像光軸20aと前記開口数低減素子から射出された光の中心軸とが実質的に平行である。
この撮像装置260によれば、被写体2に向かった射出された光源10からの光の開口数を低減することで、被写体2の特に眼2aへの光の入射角を調整しやすくなるため、眼2aでの反射光を低減することができる。眼2aでの反射光を低減することができれば、眼2aの領域のコントラストが強調された撮像画像が得られるため、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。つまり、撮像装置260によっても、視点を良好な精度で検出するための画像を取得できる。
【0075】
また、撮像装置60又は260では、撮像部20の撮像対象側と光源10の光の射出側の少なくとも一方には、到達した光のうちp偏光方向成分の光のみを通過させる偏光フィルタ12又は22が設けられている。
このように偏光フィルタ12,22を設ければ、上述したように、さらに、眼2aでの反射の影響及び外光の影響を低減することができるため、より好ましい。
【0076】
また、撮像装置60又は260では、撮像部20と光源10とは、被写体2を被写体2の正面上方又は正面下方から狙う位置に配置されている。
このようにすれば、眼2aに到達した光のうち一部が鏡面反射することによる反射光が撮像部20に到達しにくくなるため、眼2aの領域のコントラストが強調された撮像画像が得やすくなる。
【0077】
また、撮像装置60又は260は、車両(乗り物の一例)に搭載される。
このように撮像装置60又は260が車両に搭載され、被写体2が車両の運転者(運転席に座っている運転者)である場合、運転者と車両の操舵装置とはほぼ一定の位置関係にある場合が多いため、特に、運転者の視点の位置を良好な精度で検出しやすい。
なお、撮像装置60又は260は、他の乗り物(航空機、船舶等)に搭載されてもよく、この場合も同様に運転者の視点の位置を良好な精度で検出しやすい。
【0078】
また、視点検出装置1は、撮像装置60又は260と、撮像部20が取得した撮像画像に基づき、この撮像画像に写った被写体2の像における視点の位置を検出する制御装置50(制御部の一例)と、を備える、
視点検出装置1によれば、眼2aの領域のコントラストが強調された撮像画像が得られるため、結果として、被写体検出装置1の検出対象である視点の位置を精度良く検出できる。
【0079】
2.第2実施形態
第2実施形態に係る視点検出装置は、被写体2の視点を検出する装置として機能するのみならず、被写体2が視点を動かすだけで所定の入力操作を可能とするデータ入力装置として機能する。この装置は、視点検出装置1と同様の構成により実現される。そのため、以下では、同一の構成については、同じ符号を用いて説明し、第1実施形態と異なる点を中心に説明する。
【0080】
第2実施形態に係る視点検出装置1は、視点検出処理において視点座標を求めるのみならず、得られた被写体領域画像の被写体領域における重心の位置(重心座標)をさらに求める。そして、視点座標と重心座標とを利用することで、被写体2が視点を動かすだけで入力操作を可能とする。つまり、第2実施形態に係る視点検出装置1によれば、ハンズフリーでの入力操作が可能となる。
【0081】
まず、視点の位置(視点座標)のみならず重心の位置(重心座標)を取得する第2実施形態に係る視点検出処理を図15のフローチャートを参照して説明する。この処理は、例えば制御装置50の起動を条件に開始される。
【0082】
(視点検出処理)
第2実施形態に係る視点検出処理では、ステップS305において、重心を検出する点と、前述のステップS206のように視点検出結果画像を表示装置30に表示させない点が、第1実施形態に係る視点検出処理と異なる。 よって、以下では、ステップS305の処理について説明する。なお、ステップS301〜ステップS304は、第1実施形態に係る視点検出処理のステップS201〜ステップS204と同様であり、ステップS306は、第1実施形態に係る視点検出処理のステップS205と同様である。
【0083】
ステップS305で、CPU51は、重心検出処理を実行し、ステップS304で取得した被写体検出画像上における被写体領域内の重心位置を検出する。
具体的には、CPU51は、ステップS304で被写体領域内と判別された全画素の座標の平均をとり、重心座標(iG,jG)を算出する。例えば、重心座標(iG,jG)は、以下の(式4)により算出される。
【数5】
【0084】
例えば、図12(b)に示す被写体検出画像E1における被写体領域に対して、CPU51が(式4)を用いて算出する重心座標は、図16に示す点Gの座標(iG,jG)となる。
このように、ステップS305における重心検出処理によれば、撮像部20で撮影したフレーム画像中の被写体領域を代表する位置座標としての重心座標を取得できる。
【0085】
続いて、CPU51は、第1実施形態のステップS205と同様のステップS306を実行し、視点座標(iE,jE)を検出し、取得する。
以上の処理からなる視点検出処理を、CPU51は、例えば制御装置50の電源がオフされるまで繰り返し実行する。
【0086】
次に、第2実施形態に特有の処理であるデータ選択処理を図17等を参照して説明する。データ選択処理を実行するためのプログラムは、ROM52内に予め記憶されており、CPU51は、これを読み出し、実行する。
データ選択処理は、例えば、ユーザによる選択操作が必要な情報を制御装置50が取得したことを条件に開始される。
【0087】
(データ選択処理)
CPU51は、データ選択処理を開始すると、まず、画面を初期化し、データ選択画面を表示装置30に表示させる(ステップS401)。このデータ選択画面のデータは、例えば、汎用メモリ53に予め記憶されている。
データ選択画面の一例は、図18(a)に示す、画面H1である。この画面H1のように、ユーザ(主に車両運転者)に対して、選択項目(ここでは、図示するように「はい」か「いいえ」)が列挙される。
また、ステップS401で、CPU51は、前回の視点ベクトルを初期化する。この前回の視点ベクトルは、後述するステップS407で保存されたものである。
【0088】
続いて、CPU51は、タイマの時刻tをt=0に設定し、ユーザの入力操作時間を計時するためのタイマをスタートさせる(ステップS402)。
【0089】
続いて、CPU51は、次の(式5)で与えられる視点ベクトル(Δi,Δj)を取得する。
【数6】
ここでの(iG,jG)は、視点検出処理のステップS305でCPU51が取得した重心座標であり、(iE,jE)は、同処理のステップS306でCPU51が取得した視点座標である。
つまり、視点検出処理は、データ選択処理と並行して実行されており、CPU51は、データ選択処理のステップS403で、現在の重心座標(iG,jG)、視点座標(iE,jE)から上記(式5)に基づいて、重心座標に対する視点座標の位置を表す視点ベクトル(Δi,Δj)を取得する。
【0090】
続いて、CPU11は、後述のステップS407で保存した前回の視点ベクトルと、先のステップS403で取得した視点ベクトルとを比較し、視点ベクトルが変化した否かについて判別する(ステップS404)。
【0091】
視点ベクトルが変化していないと判別した場合(ステップS404;No)、CPU51は処理をステップS409に進める。例えば、前回の視点ベクトルが保存されていない場合も同様に、CPU51は処理をステップS409に進める。
一方、視点ベクトルが変化したと判別した場合(ステップS404;Yes)、CPU51は、視点テーブルを検索し、選択値を検知する(ステップS405)。視点テーブルは、例えば、図18(b)に示すような、テーブルTA1であり、汎用メモリ53に予め格納されている。
テーブルTA1は、図示するように、視点ベクトルの要素であるΔi及びΔjの各々の範囲と、項目番号(「1」または「2」)とが対応するように構成され、且つ、項目番号「1」が画像H1(図18(a)参照)に示す選択項目「はい」と、項目番号「2」が画像H1に示す選択項目「いいえ」と対応するように構成されている。
項目番号「1」に対応するΔiの範囲「190〜289」及びΔj「50〜269」は、画像H1における選択項目「はい」の領域(図で、「はい」が矩形の枠で囲まれた領域)を囲むボックスの位置を示す座標の範囲に対応するものであり、項目番号「2」に対応するΔiの範囲「190〜289」及びΔj「370〜589」は、画像H1における選択項目「いいえ」の領域(図で、「いいえ」が矩形の枠で囲まれた領域)を囲むボックスの位置を示す座標の範囲に対応するものである。ここでの座標は、例えば、画面H1において紙面左上端の点を(i,j)=(0,0)と原点とした場合の座標である。
CPU51は、このようなテーブルTA1をサーチし、変化した視点ベクトルが、例えば、(Δi,Δj)=(200,100)である場合は、項目番号「1」の範囲に入るため、選択値が「はい」であると検知する。なお、図17では示していないが、このステップS405で、選択値が検知できなかった場合は、CPU51は、例えば、ステップS403に処理を戻す。
【0092】
CPU51は、選択値を検知すると、検知した選択値に基づいて、画面を更新する(ステップS406)。
ここでの画面更新処理は、ユーザが現在どの選択項目を選択しているかを認識させるための処理であり、例えば、ユーザが現在選択している選択項目を反転表示することによって、ユーザに現在選択している項目を報知する。
【0093】
続いて、CPU51は、ステップS403で取得した視点ベクトルを、前回の視点ベクトルとして例えば汎用メモリ53に保存する(ステップS407)。
ここで保存された視点ベクトルは、次回のステップS404で、CPU5151が視点ベクトルが変化した否かを判別する際に用いられる。
【0094】
続いて、CPU51は、ユーザの操作時間を計時するためのタイマをリセットし、再び時刻t=0からタイマをスタートさせる(ステップS408)。
【0095】
続いて、CPU51は、計時時間の積算時間が所定の入力期間に達したか(タイムアウトしたか)否かを判別する(ステップS409)。
具体的には、前記所定の入力期間は、例えば予め汎用メモリ53に記憶されており、この入力期間と積算時間とを比較することで、CPU51は、タイムアウトしたか否かを判別する。ここでの積算時間は、タイマをスタートしてからタイムアウトするまで(ステップS409でYesになるまで)の計時時間の合計である。したがって、積算時間が予め定められた入力期間に達するまでは、CPU51は、ステップS403〜ステップS409の処理を繰り返すことになる。
【0096】
タイムアウトしていないと判別した場合(ステップS409;No)、CPU51は、処理をステップS403に戻す。
一方、タイムアウトしたと判別した場合(ステップS409;Yes)、CPU51は、ステップS408で選択されている選択値を、入力値として決定し、決定した選択値に応じた処理を行い(ステップS410)、データ選択処理を終了させる。
以上が、データ選択処理である。
【0097】
(変形例)
第2実施形態におけるデータ選択処理では、データ選択画面として画面H1を、視点テーブルとしてテーブルTA1を用い、ユーザが選択対象として「はい」または「いいえ」を選択する例を示したがこれに限られない。第2実施形態に係る視点検出装置1において、データ選択画面と視点テーブルとを適宜変更すれば、様々なデータ選択操作が可能となる。一例を以下に示す。
【0098】
例えば、データ選択画像として、図20(a)に示すように文字や数値を選択できるように構成された画像H2であってもよいし、図21(a)に示すように一定区間中の1点を選択できるように構成された画像H3(画像H3は、ユーザからの入力操作により音量を示す図形の形状が紙面左右方向に可変するボリュームバー表示を示している)であってもよい。
【0099】
データ選択画像として、画像H2を採用した場合には、視点テーブルとして図20(b)に示すようなテーブルTA2を汎用メモリ53に予め格納しておけばよい。
テーブルTA2は、図示するように、視点ベクトルの要素であるΔi及びΔjの各々の範囲と、項目番号(「1」、「2」、「3」、…)とが対応するように構成され、且つ、項目番号「1」が画像H2に示す「1」と、項目番号「2」が画像H2に示す「2」と、項目番号「3」が画像H2に示す「3」と、・・・というふうに対応するように構成されている。
テーブルTA2は、テーブルTA1と同様に、Δi及びΔjの各範囲が、選択項目(画像H2における「1」、「*」、「#」等)の各々の位置を示す座標の範囲に対応するように構成されており、CPU51は、このようなテーブルTA2をサーチし、変化した視点ベクトルが、例えば、(Δi,Δj)=(150,150)である場合は、項目番号「1」の範囲に入るため、選択値が「1」であると検知する。
【0100】
データ選択画像として、画像H3を採用した場合には、視点テーブルとして図21(b)に示すようなテーブルTA3を汎用メモリ53に予め格納しておけばよい。テーブルTA3の構成も、テーブルTA1、TA2と同様に、Δi及びΔjの各範囲が、選択項目(画像H3における音量を示す図形(白抜きの長方形の紙面における右端部))の各々の位置を示す座標の範囲に対応するように構成されている。
【0101】
以上に説明した第2実施形態及びその変形例によれば、被写体領域の重心位置(重心座標)と視点の位置(視点座標)との相対的な位置関係を利用することで、被写体2であるユーザは、視点の位置を変えるだけで、ハンズフリーのデータ入力操作を行うことができる。この技術によれば、被写体2であるユーザが表情を変えたり、顔の向きを変えたりしても、被写体領域の重心位置の変化は、視点の位置の変化に比べて少ないため、入力結果が安定する。
【0102】
なお、本発明は上記第1及び第2実施形態及びそれらの変形例によって限定されるものではない。上記第1及び第2実施形態及びそれらの変形例に変更(構成要素の削除も含む)を加えることができるのはもちろんである。
【0103】
例えば、以上の説明では、制御装置50(CPU51)が、垂直同期信号の立ち下がりを検出し、かつフィールド識別信号が奇数フィールド画像を示すときに、時刻t=0としてタイマを設定するものとしたが、制御装置50は、垂直同期信号の立ち上りを検出し且つフィールド識別信号が奇数フィールド画像を示すときに、時刻t=0としてタイマを設定してもよい。
【0104】
また、以上の説明では、上記の実施形態に係る制御装置50は、撮像部20が奇数フィールド画像を撮像しているときに光源10を点灯させ、撮像部20が偶数フィールドを撮像しているときに光源10を消灯させたがこれに限られない。撮像部20が偶数フィールド画像を撮像しているときに光源10を点灯させ、撮像部20が奇数フィールドを撮像しているときに光源10を消灯させてもよい。
【0105】
また、以上では、視点検出装置1が、奇数フィールド又は偶数フィールドの撮像タイミングで光源10を点滅させ、被写体検出画像を取得ないしは、視点を検出する例を説明したがこれに限られない。
図22(a)に示すような、撮像制御信号と光源制御信号とを生成する制御装置250と、制御装置250が供給した撮像制御信号(図22(b)参照)に同期して撮像する撮像部220と、制御装置250が供給した光源制御信号(図22(b)参照)に同期して点灯・消灯する光源210と、を少なくとも備える視点検出装置201が被写体検出画像を取得してもよい。この場合、光源ON時のタイミングでの撮像画像と光源OFF時のタイミングでの撮像画像との差分をとり、これを閾値処理によって2値化することで、被写体領域画像を取得する、という手順になる。なお、図22(a)では、表示装置、入力装置、平行光光学系又は開口数低減素子、偏光フィルタ等を省略した。また、光源210、撮像部220、及び制御装置250は、前記した光源10、撮像部20、及び制御装置50とほぼ同一の構成からなる。
【0106】
また、光源制御処理、視点検出処理、データ選択処理を制御装置50が実行するためのプログラムは、ROM52に予め記憶されているものとして説明したが、このような動作プラグラム及び各種データは、視点検出装置1に含まれるコンピュータに対して、着脱自在の記録媒体により配布・提供されてもよい。さらに、動作プログラム及び各種データは、電気通信ネットワーク等を介して接続された他の機器からダウンロードすることによって配布されるようにしてもよい。
【0107】
そして、各処理の実行形態も、着脱自在の記録媒体を装着することにより実行するものだけではなく、電気通信ネットワーク等を介してダウンロードした動作プログラム及び各種データを内蔵の記憶装置に一旦格納することにより実行可能としてもよいし、電気通信ネットワーク等を介して接続された他の機器側のハードウェア資源を用いて直接実行してもよい。さらには、他の機器と電気通信ネットワーク等を介して各種データの交換を行うことにより各処理を実行してもよい。
【0108】
以上の説明では、本発明の理解を容易にするために、重要でない公知の技術的事項の説明を適宜省略した。
【符号の説明】
【0109】
1…視点検出装置
100,200…光照射部
10…光源
11…平行光光学系
211…開口数低減素子
12,22…偏光フィルタ
20…撮像部
30…表示装置
40…入力装置
50…制御装置
51…CPU
52…ROM
53…汎用メモリ
54…ビデオメモリ
55…同期分離回路
56…フィールド識別回路
57…外部デバイスI/F
60,260…撮像装置
2…被写体
3…背景
【特許請求の範囲】
【請求項1】
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を平行光として前記被写体に射出する平行光束光学系と、を備え、
前記撮像部の撮像光軸と前記平行光の射出方向とが実質的に平行である、
ことを特徴とする撮像装置。
【請求項2】
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を通過させ、通過前の光よりも開口数を低減させた光を前記被写体に射出する開口数低減素子と、を備え、
前記撮像部の撮像光軸と前記開口数低減素子から射出された光の中心軸とが実質的に平行である、
ことを特徴とする撮像装置。
【請求項3】
前記撮像部の撮像対象側と前記光源の光の射出側の少なくとも一方には、到達した光のうちp偏光方向成分の光のみを通過させる偏光フィルタが設けられている、
ことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記撮像部と前記光源とは、前記被写体を前記被写体の正面上方又は正面下方から狙う位置に配置されている、
ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
乗り物に搭載されることを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
【請求項6】
請求項1乃至5のいずれか1項に記載の撮像装置と、
前記撮像部が取得した撮像画像に基づき、この撮像画像に写った被写体像における視点の位置を検出する制御部と、を備える、
ことを特徴とする視点検出装置。
【請求項1】
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を平行光として前記被写体に射出する平行光束光学系と、を備え、
前記撮像部の撮像光軸と前記平行光の射出方向とが実質的に平行である、
ことを特徴とする撮像装置。
【請求項2】
視点検出のために用いられる撮像装置であって、
人物である被写体を撮像し、撮像画像を取得する撮像部と、
前記被写体に向けて光を射出する光源と、
前記光源の光の射出側に配置され、前記光源からの光を通過させ、通過前の光よりも開口数を低減させた光を前記被写体に射出する開口数低減素子と、を備え、
前記撮像部の撮像光軸と前記開口数低減素子から射出された光の中心軸とが実質的に平行である、
ことを特徴とする撮像装置。
【請求項3】
前記撮像部の撮像対象側と前記光源の光の射出側の少なくとも一方には、到達した光のうちp偏光方向成分の光のみを通過させる偏光フィルタが設けられている、
ことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記撮像部と前記光源とは、前記被写体を前記被写体の正面上方又は正面下方から狙う位置に配置されている、
ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
乗り物に搭載されることを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
【請求項6】
請求項1乃至5のいずれか1項に記載の撮像装置と、
前記撮像部が取得した撮像画像に基づき、この撮像画像に写った被写体像における視点の位置を検出する制御部と、を備える、
ことを特徴とする視点検出装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2013−115744(P2013−115744A)
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願番号】特願2011−262613(P2011−262613)
【出願日】平成23年11月30日(2011.11.30)
【出願人】(000231512)日本精機株式会社 (1,561)
【Fターム(参考)】
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願日】平成23年11月30日(2011.11.30)
【出願人】(000231512)日本精機株式会社 (1,561)
【Fターム(参考)】
[ Back to top ]