説明

オートフォーカスシステム

【課題】パターンマッチングで人物を追尾する際、画面内で複数の人物同士が交差しても確実に追尾対象を追尾する。
【解決手段】撮像手段と、光学系のフォーカス調整を行うオートフォーカス手段と、前記撮像手段によって撮像された画像範囲内の被写体の移動に合わせて前記AFエリアを移動させる追尾手段と、前記撮像手段により所定周期で撮像された撮影画像の中からピントを合わせる対象の画像を基準パターンとして複数登録する基準パターン登録手段と、前記撮像手段により撮像された撮影画像の中から、前記基準パターンに最も合致する画像を検出する合致画像検出手段とを備え、前記基準パターンに対する合致の度合いを示す相関値が所定の閾値より大きい場合には、前記基準パターンの一つを更新するとともに、相関値が所定の閾値より大きくない場合には、追尾を中止する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、オートフォーカスシステムに係り、特に、パターンマッチングで撮影画像中の人物をピント合わせの対象として追尾し、AF枠を自動追尾するシステムに関する。
【背景技術】
【0002】
従来、カメラのフォーカスを自動的に合わせるオートフォーカス(AF)システムにおいては、どこにフォーカスを合わせるか(どこにピントを合わせるか)をカメラに対して指示しなければならない。このとき、一般のカメラなどでは、フォーカスを合わせる位置は撮影範囲のセンターに固定されていて、例えば撮影範囲の中央にいる人物等にフォーカスが合うようになっていた。そして、オートフォーカス(AF)の方式としては、撮像素子により取り込まれた画像信号から被写体画像のコントラストを検出し、そのコントラストが最も高くなるように撮影レンズのフォーカスを制御することによって最良ピント状態に自動でピント合わせをするコントラスト方式が採用されていた。
【0003】
なお、カメラの撮影範囲のうちAFの対象とする被写体の範囲、又はカメラの撮影画像を再生した場合の撮影画像の画面のうちAFの対象とする被写体の画面上での範囲をAFエリアといい、そのAFエリアの輪郭を示す枠をAF枠という。
【0004】
ところで、動いている被写体を撮影する場合などにおいては、このようにフォーカスを合わせる位置が固定されていては都合が悪い。そこで、例えば、テレビカメラなどで、スポーツのように被写体の動きの激しいシーンを撮影する場合において、撮影画像中からピントを合わせる対象被写体を検出して追尾するために、フォーカス対象(合焦対象)の被写体の画像を基準パターンとして記憶し、新たに取り込んだフレームの撮影画像においてその基準パターン画像と最も合致する画像をパターンマッチングにより検出し、対象被写体の位置を検出するようにしたものが知られている(例えば、特許文献1等参照)。
【特許文献1】特開2006−258944号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記従来のように、AF枠を自動追尾するシステムにおいて、パターンマッチングで人物を追尾した場合、画面内に複数の人物が存在して、その人物同士が互いに交差したようなときに、追尾不能となってしまう虞れがあるという問題がある。
【0006】
本発明は、このような事情に鑑みてなされたもので、AF枠を自動追尾するシステムにおいて、パターンマッチングで人物を追尾する際、画面内で複数の人物同士が交差しても確実に追尾対象を追尾することができるオートフォーカスシステムを提供することを目的とする。
【課題を解決するための手段】
【0007】
前記目的を達成するために、請求項1に記載の発明は、光学系により結像された被写体像を撮像する撮像手段と、前記撮像手段により撮像された撮影画像のうち、所定のAFエリア内の被写体にピントが合うように前記光学系のフォーカス調整を行うオートフォーカス手段と、前記撮像手段によって撮像された画像範囲内の被写体の移動に合わせて前記AFエリアを移動させる追尾手段と、前記撮像手段により所定周期で撮像された撮影画像の中からピントを合わせる対象の画像を基準パターンとして複数登録する基準パターン登録手段と、前記撮像手段により撮像された撮影画像の中から、前記基準パターンに最も合致する画像を検出する合致画像検出手段と、を備え、前記合致画像検出手段により検出された画像の、前記基準パターンに対する合致の度合いを示す相関値が所定の閾値より大きい場合には、前記合致画像検出手段により検出された画像により前記基準パターンの一つを更新するとともに、前記合致画像検出手段により検出された画像の、前記基準パターンに対するいずれの相関値も所定の閾値より大きくない場合には、前記追尾手段は前記撮影画像中の被写体の追尾を中止することを特徴とするオートフォーカスシステムを提供する。
【0008】
これにより、AF枠を自動追尾するシステムにおいて、パターンマッチングで人物を追尾する際、画面内で複数の人物同士が交差しても確実に追尾対象を追尾することが可能となる。
【0009】
また、請求項2に示すように、請求項1に記載のオートフォーカスシステムであって、前記基準パターンは、少なくとも、最初に登録された画像をずっと保持する基準パターンと、前記相関値が所定の閾値より大きくないことが検出された場合に、その直前に前記合致画像検出手段により検出された画像で更新される基準パターンの2つを有することを特徴とする。
【0010】
これにより、最初に登録された画像がずっと保持されるので、一方の更新される基準パターンが当初の追尾対象の画像からかけ離れてしまった場合でも、常に最初の画像とパターンマッチングを行うことができ、最初に登録された画像の被写体を追尾することができる。
【0011】
また、請求項3に示すように、請求項1または2に記載のオートフォーカスシステムであって、前記追尾手段が前記撮影画像中の被写体の追尾を中止したときは、その後、前記撮像手段により撮像された撮影画像の中から、前記いずれかの基準パターンに最も合致する画像が合致画像検出手段により検出された場合には、前記追尾手段は該検出された画像中の被写体の追尾を再開することを特徴とする。
【0012】
これにより、追尾を中止しても、その後追尾を再開することができる。
【0013】
また、請求項4に示すように、請求項1〜3において、前記最新の画像による基準パターンの更新は、一定の周期で行われることを特徴とする。
【0014】
これにより、パターンマッチングの1サイクルが速過ぎた場合に人物が交差しても相関値が下がらずに追尾対象が変わってしまい追尾を失敗することを防止することができる。
【発明の効果】
【0015】
以上説明したように、本発明によれば、AF枠を自動追尾するシステムにおいて、パターンマッチングで人物を追尾する際、画面内で複数の人物同士が交差しても確実に追尾対象を追尾することが可能となる。
【発明を実施するための最良の形態】
【0016】
以下、添付図面を参照して、本発明に係るオートフォーカスシステムについて詳細に説明する。
【0017】
図1は、本発明に係るオートフォーカスシステムが適用されたビデオカメラシステムの一実施形態の全体構成を示したブロック図である。このビデオカメラシステムは、例えば、放送用テレビカメラでの撮影に用いられる撮像システムである。
【0018】
図1に示すように、本実施形態のビデオカメラシステム1は、テレビカメラ10、画像処理ユニット18等を有して構成されている。
【0019】
テレビカメラ10は、ハイビジョンテレビ[HD(High Definition)TV]方式に対応したHDカメラからなるカメラ本体12と、カメラ本体12のレンズマウントに装着される撮影レンズ(光学系)を備えたレンズ装置14とから構成される。なお、図示は省略するが、カメラ本体12は雲台上に旋回方向(パン)及び上下傾動方向(チルト)に移動可能に支承されている。
【0020】
カメラ本体12には、撮像素子(例えばCCD)や所要の信号処理回路等が搭載されており、レンズ装置14の撮影レンズにより結像された像は、撮像素子により光電変換された後、信号処理回路によって所要の信号処理が施されてHDTV方式の映像信号(HDTV信号)として、カメラ本体12の映像信号出力端子等から外部に出力される。
【0021】
また、カメラ本体12は、ビューファインダ13を備えており、テレビカメラ10により現在撮影されている映像等がビューファインダ13に表示されるようになっている。また、ビューファインダ13には、各種情報が表示されるようになっており、例えば、後述のオートフォーカスにおいてピント合わせの対象範囲となるAF枠が撮影映像に重畳されて表示されるようになっている。
【0022】
レンズ装置14は、カメラ本体12のレンズマウントに装着される撮影レンズ(ズームレンズ)24を備えている。撮影レンズ24により、被写体16がカメラ本体12の撮像素子の撮像面に結像されるようになっている。撮影レンズ24には、図示を省略するが、その構成部としてフォーカスレンズ群、ズームレンズ群、絞りなどの撮影条件を調整するための可動部が設けられており、それらの可動部は、モータ(サーボ機構)によって電動駆動されるようになっている。例えば、フォーカスレンズ群やズームレンズ群は光軸方向に移動し、フォーカスレンズ群が移動することによってフォーカス(被写体距離)調整が行われ、またズームレンズ群が移動することによって焦点距離(ズーム倍率)調整が行われる。
【0023】
なお、オートフォーカス(AF)に関するシステムにおいては、少なくともフォーカスレンズ群が電動で駆動できればよく、その他の可動部は手動でのみ駆動可能であってもよい。また、所定の可動部を操作者の操作に従って電動駆動する場合には、図示しない操作手段(レンズ装置14に接続されるコントローラの操作手段等)から操作者の操作に従って出力されるコントール信号に基づいて可動部の動作が制御されるが詳細は省略する。
【0024】
また、レンズ装置14には、AFユニット26及び図示しないレンズCPU等が搭載されている。レンズCPUはレンズ装置14全体を統括制御するものである。また、AFユニット26は、AFによるフォーカス制御(自動ピント調整)を行うために必要な情報を取得するための処理部であり、図示を省略するが、AF処理部、AF用撮像回路等から構成されている。AF用撮像回路はAF処理用の映像信号を取得するためにレンズ装置14に配置されており、撮像素子CCD等の撮像素子(AF用撮像素子という)やAF用撮像素子の出力信号を所定形式の映像信号として出力する処理回路等を備えている。なお、AF用撮像回路から出力される映像信号は輝度信号である。
【0025】
AF用撮像素子の撮像面には、撮影レンズ24の光路上に配置されたハーフミラー等によってカメラ本体12の撮像素子に入射する被写体光から分岐された被写体光が結像するようになっている。AF用撮像素子の撮像エリアに対する撮影範囲及び被写体距離(ピントが合う被写体の距離)は、カメラ本体12の撮像素子の撮像エリアに対する撮影範囲及び被写体距離に一致するように構成されており、AF用撮像素子により取り込まれる被写体画像は、カメラ本体12の撮像素子により取り込まれる被写体画像と一致している。なお、両者の撮影範囲に関しては完全に一致している必要はなく、例えば、AF用撮像素子の撮影範囲の方がカメラ本体12の撮像素子の撮影範囲を包含する大きな範囲であってもよい。
【0026】
AF処理部は、AF用撮像回路から映像信号を取得し、その映像信号に基づいて被写体画像のコントラストの高低を示す焦点評価値を算出する。例えば、AF用撮像素子から得られた映像信号の高域周波数成分の信号をハイパスフィルタによって抽出した後、その高域周波数成分の信号のうちAFの対象とするAFエリアに対応する範囲の信号を1画面(1フレーム)分ずつ積算する。このようにして1画面分ごとに得られる積算値は被写体画像のコントラストの高低を示し、焦点評価値としてレンズCPUに与えられる。
【0027】
レンズCPUは、AFエリアの範囲(輪郭)を示すAF枠の情報(AF枠情報)を、後述するように画像処理ユニット18から取得し、そのAF枠情報により指定されたAF枠内の範囲をAFエリアとしてAF処理部に指定する。そして、そのAFエリア内の画像(映像信号)により求められる焦点評価値をAF処理部から取得する。
【0028】
このようにしてAF用撮像回路から1画面分の映像信号が取得されるごとに(AF処理部で焦点評価値が求められるごとに)AF処理部から焦点評価値を取得すると共に、取得した焦点評価値が最大(極大)、即ち、AF枠内の被写体画像のコントラストが最大となるようにフォーカスレンズ群を制御する。例えば、焦点評価値に基づくフォーカスレンズ群の制御方式として山登り方式が一般的に知られており、フォーカスレンズ群を焦点評価値が増加する方向に移動させて行き、焦点評価値が減少し始める点を検出すると、その位置にフォーカスレンズ群を設定する。これにより、AF枠内の被写体に自動でピントが合わせられる。
【0029】
なお、上述のAF処理部は、焦点評価値を算出するためにレンズ装置に搭載されたAF用撮像素子から映像信号を取得しているが、カメラ本体12の撮像素子より撮影された映像の映像信号をカメラ本体12から取得するような構成としてもよい。また、AF枠内の被写体に自動でピントを合わせるためのAF手段はどのようなものであってもよい。
【0030】
また、カメラ本体12とレンズ装置14、レンズ装置14と後述の画像処理ユニット18とは、各装置に設けられたシリアル通信コネクタが直接的又はケーブル等を介して接続される。これによって、カメラ本体12とレンズ装置14とが、それぞれに設けられたシリアル通信インターフェイス(SCI)12a及び14aを介して様々な情報の送受信をシリアル通信により行うようになっている。また、レンズ装置14と画像処理ユニット18とが、それぞれに設けられたシリアル通信インターフェイス14a及び30aとの間で様々な情報の送受信をシリアル通信により行うようになっている。
【0031】
また、カメラ本体12の映像出力コネクタと画像処理ユニット18の映像入力コネクタとが、ダウンコンバータ28を介してケーブルで接続される。これによって、カメラ本体12の映像出力コネクタから出力されたHDTV信号は、ダウンコンバータ28によって、標準テレビ[NTSC(National Television System Committee)]方式の映像信号(SDTV信号)に変換(ダウンコンバート)されて、画像処理ユニット18に入力されるようになっている。
【0032】
詳しくは後述するが、画像処理ユニット18は、撮像された被写体画像中の被写体人物について顔認証を行い、それがオートフォーカスをかけて自動追尾するように設定された被写体(フォーカス対象)であると認定された場合には、AFユニット26を通じてレンズ装置14をオートフォーカス制御するものである。
【0033】
また、顔認証を行い、現在撮影中の被写体がオートフォーカスをかけて自動追尾する対象であるか否かを判定するためには、HDTV信号による高精細な画像である必要はなく、標準テレビ方式の映像信号(SDTV信号)の画像で充分であるので、上述したように、カメラ本体12から出力されたHDTV信号をダウンコンバータ28によってSDTV信号に変換するようにしたものである。
【0034】
画像処理ユニット18は、上記のようにレンズ装置14のAFユニット26によりAFによるフォーカス制御を実施する際のAF枠の範囲(位置、大きさ、形状(縦横比))の指定を行うための装置であり、テレビカメラ10の撮影画像(撮影画面)内でのAF枠の範囲を指定するAF枠情報が画像処理ユニット18からレンズ装置14に上記シリアル通信により与えられるようになっている。AFユニット26では、画像処理ユニット18からのAF枠情報に基づいてAF枠の範囲を設定して上記のようにAFの処理を実行する。
【0035】
画像処理ユニット18は、主としてメインボード30、パターンマッチング処理演算ボード32、顔認証処理演算ボード34から構成されている。メインボード30、パターンマッチング処理演算ボード32、顔認証処理演算ボード34の各々にはCPU38、50、52が搭載されており、各ボード毎に個別の演算処理が行われると共に、各CPU38、50、52は、バスや制御線で接続され、相互にデータのやり取りや、演算処理の同期等が図られるようになっている。また、画像処理ユニット18は、顔認証処理を行うための顔認証データを格納した顔認証データカード74を有している。
【0036】
画像処理ユニット18における処理は、メインボード30において統括的に行われるようになっている。そのメインボード30には、演算処理を行う上記CPU38の他に、SCI30a、デコーダ(A/D変換器)36、スーパーインポーザ42、RAM40等が搭載されている。
【0037】
SCI30aは、上述のようにレンズ装置14のSCI14aとの間でシリアル通信を行うためのインターフェイス回路であり、上記AF枠情報等をレンズ装置14に送信する。
【0038】
デコーダ36は、上記ダウンコンバータ28から画像処理ユニット18に入力されるテレビカメラ10において撮影映像の映像信号(SDTV信号)を、画像処理ユニット18においてデジタル処理可能なデータに変換するための回路であり、アナログのSDTV信号をデジタルデータの映像信号に変換するA/D変換処理等を行っている。
【0039】
RAM40は、CPU38の演算処理において使用するデータを一時的に格納するメモリである。
【0040】
一方、パターンマッチング処理演算ボード32や顔認証処理演算ボード34は、パターンマッチングと顔検出・認証処理を個別に行うための演算ボードであり、各々、演算処理を行うCPU50、52の他に画像データを一時的に格納するVRAM54、56等を備えている。
【0041】
また、画像処理ユニット18には、操作部20が一体的に設けられ、又は、操作部20の一部又は全ての操作部材が画像処理ユニット18とは別体の装置に設けられてケーブル等で接続されている。
【0042】
詳細は省略するが、操作部20には、AF枠の位置をユーザの手動操作により上下左右に移動させるための位置操作部材60(例えば、ジョイスティックやトラックボール)、AF枠の大きさを手動操作により変更するためのサイズ操作部材62(例えば、ツマミ)、AF枠の形状を手動操作により変更するための形状操作部材64(例えば、ツマミ)、自動追尾の開始を指示する追尾開始スイッチ68、自動追尾の停止を指示する追尾停止スイッチ70が設けられており、これらの操作部材60、62、64、68、70の設定状態が、画像処理ユニット18におけるメインボード30のCPU38により読み取られるようになっている。
【0043】
なお、タッチパネル付LCD66は、AF枠の自動追尾に関するモード等の設定をタッチ操作で入力できるようにしたもので、画像処理ユニット18のCPU38によりLCD66に表示される画像は、設定内容に応じて適宜切り換えられるようになっている。
【0044】
また、タッチパネル付LCD66に表示される画像は、メインボード30のスーパーインポーザ42を介して与えられるようになっており、そのスーパーインポーザ42では、デコーダ36から与えられるテレビカメラ10の撮影映像の映像信号と、CPU38で生成される画像信号の合成が行えるようになっている。これによって、カメラ本体12に設定されているビューファインダ13と同様にテレビカメラ10で撮影されている撮影映像と現在設定されているAF枠の画像とを重畳させた映像をタッチパネル付LCD66に表示させることが可能であり、この画面上でのタッチ操作により、ユーザは、上記操作部材60、62、64、68、70で行うのと同様の操作を行うことができるようになっている。
【0045】
また、操作部20には、タッチパネル付LCD66の他に、外部モニタ72が設けられており、タッチパネル付LCD66に表示されるのと同じ画像が表示されるようになっている。そして、外部モニタ72は、カメラマン以外の例えばフォーカスマンなどがこれを見て、そのタッチパネル機能により適宜指示を入力することができるようになっている。
【0046】
本実施形態は、AF枠を自動追尾するシステムにおいて、パターンマッチングで人物を追尾した場合に、画面内に複数の人物がいて、その人物同士が交差したときにも追尾不能とはならずに、追尾対象を確実に追尾することができるようにしたものである。
【0047】
次に、フローチャートに沿って本発明に係るオートフォーカスシステムの作用について説明する。
【0048】
図2は、本発明の一実施形態の作用を示すフローチャートである。
【0049】
まず、図2のステップS100において、カメラマンは撮影を開始するにあたり、ビューファインダ13あるいはタッチパネル付LCD66の画面に表示された映像及びAF枠を見ながら操作部20の位置操作部材60、サイズ操作部材62、形状操作部材64等の操作部材を操作し、ピント合わせの対象として追尾する対象物がAF枠の範囲に収まるようにAF枠の範囲を設定する。これによって、レンズ装置14のレンズCPUにおけるAFの処理によりその対象物にピントが合わせられる。
【0050】
ステップS102において追尾がスタートすると、ステップS104において、画像処理ユニット18のCPU38は、レンズ装置14のAFユニット26(AF処理部)から与えられる映像信号から1画面分(1フレーム分)の撮影画像を取り込む。
【0051】
そして、ステップS106、S108、S110において、それぞれ後でパターンマッチングに用いられる基準パターンを登録するためのバッファを確保して、当初取り込まれた撮影画像から得られた追尾対象である同じ画像をそれぞれに格納し、基準パターンA、基準パターンB、基準パターンCとする。ここで基準パターンBや基準パターンCは今後取り込まれた画像に応じて、基準パターンCは最新の画像として、また基準パターンBはその次に最新の画像に近い画像としてそれぞれ更新されるが、基準パターンAは最初に登録した基準パターンとしてずっと保存される。
【0052】
次にステップS112において、画像処理ユニット18は、前回の画像取り込みから所定時間経過した後に1画面分の撮影画像を前回と同様に取り込む。
【0053】
次にステップS114において、今取り込んだ撮影画像と、最新の画像として登録された基準パターンCとに対して、パターンマッチング処理演算ボード50においてパターンマッチング処理を行い、いわば2つの画像の類似度を表す相関値を算出する。
【0054】
ここで一般に、2つの確率変数X、Yの相関値(相関係数)γxyとは、これらの共分散μxyと、各確率変数の標準偏差σx、及びσyの積σx・σyとの比を言う。
【0055】
すなわち、相関値γxy=μxy/σx・σyである。
【0056】
従ってこの場合には、相関値cは、例えば以下のように定義される。すなわち、座標(x,y)における基準パターン画像の画素値がf(x,y)であり、これと比較される撮影画像の画素値がg(x,y)であるとする。また、撮影画像を基準パターン画像からx方向にm、及びy方向にnだけずらした画素値をg(m+x,n+y)とし、f(x,y)及びg(m+x,n+y)を確率変数と考えて、この撮影画像を基準パターン画像に重ねたときの両者の相関値をc(m,n)とする。
【0057】
所定の領域における基準パターン画像及び撮影画像の画素値の平均値をそれぞれfav、gavとすると、相関値c(m,n)は、以下の式(1)で定義される。
【0058】
c(m,n)
={ Σ(|f(x,y)−fav|×|g(m+x,n+y)−gav|)
/(Σ|f(x,y)−fav|×Σ|g(m+x,n+y)−gav|1/2
・・・(1)
ここで、式(1)中のΣは、所定領域におけるx及びyについての和を表す。
【0059】
相関値は0と1との間の値をとり、相関が高い(すなわち2つの画像が類似している程)1に近い値をとる。
【0060】
次にステップS116において、今求めた相関値cが90%より大きい(すなわち、相関値cが0.9より大)か否か判断する。
【0061】
その結果相関値cが90%より大のとき、すなわち今取り込んだ撮影画像が基準パターンCとよく類似している場合には、次のステップS118において、この撮影画像で基準パターンBを更新する。もしこれが基準パターンBのはじめての更新である場合には、それまで基準パターンBには、基準パターンAに登録されているものと同じ最初の撮影画像が登録されており、それをより新しい画像で置き換えることとなる。
【0062】
次に、ステップS120において、上で算出された相関値c(m,n)により、追尾対象が移動したか否か判断する。m、nが0でないところで相関値c(m,n)が高くなっている場合には、追尾対象が画像上で、いままでの(x,y)の位置から(m+x,n+y)の位置まで移動したことになる。
【0063】
追尾対象が移動していると判断された場合には、次のステップS122において、この最新の画像によって基準パターンCを更新する。
【0064】
そして、追尾対象が移動している場合には、次のステップS124において、移動後の追尾対象に合わせてAF枠を更新する。
【0065】
また追尾対象が移動していない場合には、基準パターンCもAF枠も更新せずに、ステップS112に戻り次の画像を取り込み、同様の処理を繰り返す。
【0066】
また一方、ステップS116において、相関値c(m,n)が90%より大きくないと判断された場合には、次にステップS126において、今度は相関値c(m,n)が80%より大きいか否か判断する。
【0067】
そして相関値c(m,n)が80%より大きいと判断された場合には、基準パターンBを更新することなく、ステップS120へ進み、追尾対象が移動したか否か判断し、移動している場合には、その次のステップS122において、この撮影画像で基準パターンCを更新する。
【0068】
また、ステップS116において、相関値c(m,n)が80%より大きくないと判断された場合には、ステップS128において、この撮影画像を基準パターンAとパターンマッチングを行い、このときの相関値を計算する。
【0069】
ステップS130において、この撮影画像と基準パターンAとの相関値が80%より大きいか否か判断する。
【0070】
このとき、この相関値が80%より大きい場合には、次のステップS132において、この撮影画像で基準パターンBを更新する。その後はステップS120へ進み、撮影画像が移動したか否か判断する。
【0071】
また、ステップS130において、相関値が80%より大きくないと判断された場合には、ステップ134において、この撮影画像と基準パターンBとでパターンマッチングを行い、このときの相関値を算出する。
【0072】
そして、この撮影画像と基準パターンBとの相関値が80%より大きい場合には、ステップS132に進み、この撮影画像で基準パターンBを更新する。このように、相関値が下がる前の画像を記憶しておくようにする。その後ステップS120へ進み、追尾対象が移動したか否か判断する。
【0073】
また、ステップS136において、この撮影画像と基準パターンBとの相関値が80%より大きくない場合には、もうこの撮影画像は追尾対象ではないと判断して、このように相関値が下がったら追尾を中止するとともに、ステップS112に戻り、次の画像取り込みを行い、最初と相関値が下がる前に格納した基準パターンとのパターンマッチングを繰り返していく。そして、相関値が上がったら画面中から追尾対象が再び検出されたとして追尾を再開するようにする。
【0074】
結局、基準パターンB、Cには、相関値が所定値以上に下がる直前の画像が常に登録され、特に基準パターンCには、常に、最初の登録画像とある程度の類似度を有する最新の画像が登録されることとなる。
【0075】
以上フローチャートに沿って説明したが、これを図3に示す具体例に即して説明することとする。
【0076】
まず図3(a)に示すように、今撮影画面中の人物Pを追尾しているものとし、人物Pの顔の部分にAF枠90が表示されている。この顔の画像が最初の基準パターンとして登録されている。その後パターンマッチングに使用する基準パターンは、一定の周期で更新される。
【0077】
なお、ここで一定の周期とは、パターンマッチングの1サイクルが速すぎると相関値が下がらないため、人物が交差しても追尾してしまうので、数サイクルにつき、1回更新するぐらいの程度が好ましい。
【0078】
次に図3(b)に示すように、人物Pが移動して人物Qと交差するような状況が生じたとする。このとき、AF枠90には人物P以外の物体も入ってきて、このAF枠90内の画像を最初の基準パターンとパターンマッチングした場合には、相関値が1(100%)よりもかなり低くなってしまう。そして人物Pがさらに移動して人物Qの陰に隠れると相関値は0に近い値となり、追尾が中止される。
【0079】
そして、相関値が下がる前の基準パターンを記憶しておき、その後は相関値が下がる前に記憶した基準パターンとのパターンマッチングを繰り返すようにする。
【0080】
そして、図3(c)に示すように、さらに人物Pが移動して人物Qの向こう側に再び姿を現し、相関値が下がる前に記憶した基準パターンとパターンマッチングを行った結果、相関値がまた上がった場合には、人物Pの顔に対してAF枠90を再度設定して追尾を再開する。
【0081】
このように本実施形態においては、相関値が所定値より下がった場合には、追尾を中止するようにしたため、人物が交差したような場合に、今まで追尾していた人物とは違う人物の追尾を始めてしまうというような追尾の失敗を防止することができる。
【0082】
次に、本発明の他の実施形態について説明する。上で説明した実施形態においては、3つの基準パターンA、B、Cを用いたが、これから説明する実施形態は、2つの基準パターンA、Cのみを用いるものである。
【0083】
図4は、本発明の他の実施形態の作用を示すフローチャートであり、以下このフローチャートに沿って説明する。
【0084】
まず図4のステップS200において、カメラマンはAF枠を設定する。そして、ステップS202で追尾をスタートし、ステップS204で画像を取り込む。そして、ステップS206、S208において、この取り込んだ撮影画像を基準パターンA及び基準パターンCとして登録する。
【0085】
前述した実施形態と同様に、基準パターンAは追尾対象を示す最初の画像であり、更新されることなくこのままずっと保存される。一方基準パターンCは、最新の画像が格納されるように常に更新される。
【0086】
ステップS210において、一定の時間間隔で撮影画像が取り込まれる。そして、ステップS212において、今取り込まれた撮影画像と基準パターンCとでパターンマッチング処理が行われ、相関値が算出される。
【0087】
そして、ステップS214において、算出された相関値が90%より大きいか否か判断される。
【0088】
その結果、相関値が90%よりも大きいと判断された場合には、ステップS216において、追尾対象が撮影画面内で移動したか否か判断する。
【0089】
そして、追尾対象が移動したと判断された場合には、ステップS218において、現在の撮影画像で基準パターンCを更新する。このように、相関値が下がる前の画像を基準パターンCとして記憶するようにする。さらに、ステップS220において、撮影画面内で移動した追尾対象に合わせてAF枠も更新する。その後、ステップS210に戻り次の画像を取り込み、上と同様の処理を繰り返す。
【0090】
また、追尾対象が移動していない場合には、基準パターンCもAF枠も更新することなく、ステップS210に戻り次の画像を取り込み、上の処理を繰り返す。
【0091】
一方、ステップS214で相関値が90%よりも大きくないと判断された場合には、ステップS222において、撮影画像と最初に登録された基準パターンAとの間でパターンマッチングが行われる。
【0092】
これは、ステップS214における判断で、すでに更新され最新のものとなっている基準パターンCとではマッチングせず、追尾対象を見失ったと判断して、再度追尾開始当初の画像と比較することで追尾対象を再発見して追尾を再開しようとするものである。
【0093】
そして、ステップS224において、上で撮影画像と基準パターンAとをパターンマッチングして算出した相関値が80%より大きいか否か判断する。
【0094】
この相関値が80%より大きい場合には、ステップS216に進み、追尾対象が撮影画面内で移動したか否か判断し、以下前と同じ処理を行う。
【0095】
また、相関値が80%より大きくない場合には、例えば、追尾していた人物の前に他の人物が交差するなどして相関値が下がってしまったような場合で、このような場合には追尾を中止して、ステップS210に戻り次の画像を取り込み、再び最初の基準パターンAが検出されたら追尾を再開し、上の処理を繰り返すようにする。
【0096】
以上説明した本発明の実施形態においては、最初の登録画像をずっと保持する基準パターンと常に最新の画像を記憶する基準パターンの少なくとも2つの基準パターンを持ち、通常は最新の基準パターンと撮影画像とでパターンマッチングを行い、追尾対象を追尾して行く。そしてパターンマッチングにより相関値を算出し、この相関値が一定値より大きい場合には、そのときの画像で基準パターンを更新することにより、常に一つの基準パターンには最新の画像が記憶される。また、相関値が一定値より小さくなった場合には、追尾を中止する。そして、次の撮影画像を取り込み、最初の基準パターンとパターンマッチングを行い、最初の追尾対象が検出された場合に、再び追尾を開始するようにする。
【0097】
このようにして、結局、相関値が一定値より小さくなって追尾を中止するときの直前の画像が一つの基準パターンに記憶されるようになっている。
【0098】
これにより、人物が交差して追尾対象を見失ってしまうような場合でも、一旦追尾を中止し、その後最初の追尾対象が検出されたら追尾を再開することで、追尾対象でないものを追尾してしまうような追尾の失敗を防止することができる。
【0099】
以上、本発明のオートフォーカスシステムについて詳細に説明したが、本発明は、以上の例には限定されず、本発明の要旨を逸脱しない範囲において、各種の改良や変形を行ってもよいのはもちろんである。
【図面の簡単な説明】
【0100】
【図1】本発明に係るオートフォーカスシステムが適用されたビデオカメラシステムの一実施形態の全体構成を示したブロック図である。
【図2】本発明の一実施形態の作用を示すフローチャートである。
【図3】(a)〜(c)は、本実施形態の作用を具体例で示す説明図である。
【図4】本発明の他の実施形態の作用を示すフローチャートである。
【符号の説明】
【0101】
1…ビデオカメラシステム、10…テレビカメラ、12…カメラ本体、13…ビューファインダ、14…レンズ装置、16…被写体、18…画像処理ユニット、20…操作部、24…撮影レンズ、26…AFユニット、28…ダウンコンバータ、30…メインボード、32…パターンマッチング処理演算ボード、34…顔認証処理演算ボード、66…タッチパネル付LCD、72…外部モニタ

【特許請求の範囲】
【請求項1】
光学系により結像された被写体像を撮像する撮像手段と、
前記撮像手段により撮像された撮影画像のうち、所定のAFエリア内の被写体にピントが合うように前記光学系のフォーカス調整を行うオートフォーカス手段と、
前記撮像手段によって撮像された画像範囲内の被写体の移動に合わせて前記AFエリアを移動させる追尾手段と、
前記撮像手段により所定周期で撮像された撮影画像の中からピントを合わせる対象の画像を基準パターンとして複数登録する基準パターン登録手段と、
前記撮像手段により撮像された撮影画像の中から、前記基準パターンに最も合致する画像を検出する合致画像検出手段と、
を備え、前記合致画像検出手段により検出された画像の、前記基準パターンに対する合致の度合いを示す相関値が所定の閾値より大きい場合には、前記合致画像検出手段により検出された画像により前記基準パターンの一つを更新するとともに、前記合致画像検出手段により検出された画像の、前記基準パターンに対するいずれの相関値も所定の閾値より大きくない場合には、前記追尾手段は前記撮影画像中の被写体の追尾を中止することを特徴とするオートフォーカスシステム。
【請求項2】
請求項1に記載のオートフォーカスシステムであって、前記基準パターンは、少なくとも、最初に登録された画像をずっと保持する基準パターンと、前記相関値が所定の閾値より大きくないことが検出された場合に、その直前に前記合致画像検出手段により検出された画像で更新される基準パターンの2つを有することを特徴とするオートフォーカスシステム。
【請求項3】
請求項1または2に記載のオートフォーカスシステムであって、前記追尾手段が前記撮影画像中の被写体の追尾を中止したときは、その後、前記撮像手段により撮像された撮影画像の中から、前記いずれかの基準パターンに最も合致する画像が合致画像検出手段により検出された場合には、前記追尾手段は該検出された画像中の被写体の追尾を再開することを特徴とするオートフォーカスシステム。
【請求項4】
前記最新の画像による基準パターンの更新は、一定の周期で行われることを特徴とする請求項1〜3のいずれかに記載のオートフォーカスシステム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公開番号】特開2010−145965(P2010−145965A)
【公開日】平成22年7月1日(2010.7.1)
【国際特許分類】
【出願番号】特願2008−326185(P2008−326185)
【出願日】平成20年12月22日(2008.12.22)
【出願人】(000005430)フジノン株式会社 (2,231)
【Fターム(参考)】