説明

映像分析を用いた標的の地理参照方法

【課題】標的システムのサブシステム間において標的を地理参照するための方法を提供する。
【解決手段】送信側のサブシステム位置407において形成される標的画像を受信することと、標的画像の第1の選定された一部215に関する標的記述子を生成することと、標的位置情報及び標的記述子を標的システムの送信側のサブシステム100から標的システムの受信側のサブシステム300へ送信することと、受信側のサブシステム300のカメラの光軸322を送信側のサブシステム100から受信される標的位置情報に基づいて標的に向けることと、光軸322が標的210に向けられたとき、受信側のサブシステム位置409において標的画像を形成することと、及び送信側のサブシステム位置407において形成される標的画像の第1の選定された一部215と相関性がある、受信側のサブシステム位置409において形成される標的画像の第2の選定された一部を特定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、標的システムに関連し、具体的には標的システムのサブシステム間において標的地理を参照するための方法に関連する。
【背景技術】
【0002】
軍事アプリケーションは、多くの場合、標的位置を決めるために斥候を使用する。斥候は、標的位置に関する情報を、必要な火力が配置されている発射基地へ送信する。通常、斥候は、発射基地から遠く離れて配置されている。一旦、標的が斥候によって発見され、調査されると、標的位置が特定され、標的位置が発射基地へ送信される。発射基地は、斥候からの入力に基づいて、標的を特定することを試みる。
【0003】
一旦、標的の正確な位置が、斥候によって認識されると、正確な位置を標的システムの別の一部と共有することが望まれる。場合によっては、斥候が、発射基地のために標的を正確に特定するための十分な情報を送信することが困難なこともある。例えば、建築物の特定の窓が、標的であり得るが、斥候が標的位置を正確で精密に知ったとしても、特定の窓が、必ずしも発射基地によって知られているか又は特定可能であるとは限らない。
【0004】
多くの場合、発射基地は、斥候から受信される情報に基づいて、標的を正確に特定できない。場合によっては、斥候及び発射基地からの標的の視野角における相違によって混乱することがある。例えば、斥候によって目撃されるような標的の見え方が、明確であっても、発射基地によって目撃される表示が、斥候から送信される標的の周囲の詳細を曖昧にする太陽からの反射を有する場合、標的が発射基地によって正確に特定され得ない。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の目的は、標的システムのサブシステム間において標的位置を正確で精密に共有するように作動可能な、標的位置を地理参照するための標的システムを提供することである。
【課題を解決するための手段】
【0006】
本出願は、標的システムのサブシステム間において標的を地理参照するための方法に関する。本方法は、送信側のサブシステム位置において形成される標的画像を受信することと、標的画像の受信に応答して標的画像の第1の選定された一部に関する標的記述子を生成することと、を含む。本方法は更に、標的位置情報及び標的記述子を、標的システムの送信側のサブシステムから標的システムの受信側のサブシステムへ送信することを含む。本方法は、送信側のサブシステムから受信される標的位置情報に基づいて受信側のサブシステムのカメラの光軸を標的に向けることと、光軸が標的に向けられていたとき、受信側のサブシステムの位置における標的画像を形成することと、及び送信側のサブシステム位置において形成される標的画像の第1の選定された一部と相関性がある、受信側のサブシステム位置において形成される標的画像の第2の選定された一部を特定することと、を含む。標的画像の第2の選定された一部の特定は、送信側のサブシステムから受信される標的記述子に基づく。
【図面の簡単な説明】
【0007】
【図1】本発明の実施形態による標的位置を、地理参照するための標的システムのブロック図である。
【図2】図2Aは第1の位置及び第2の位置において形成される例示的な標的画像並びに第1の位置において形成される標的画像の選定された一部の内部の例示的なセグメント表現を示す。図2Bは第1の位置及び第2の位置において形成される例示的な標的画像並びに第1の位置において形成される標的画像の選定された一部の内部の例示的なセグメント表現を示す。図2Cは第1の位置及び第2の位置において形成される例示的な標的画像並びに第1の位置において形成される標的画像の選定された一部の中の例示的なセグメント表現を示す。
【図3】図3Aは本発明の実施形態による例示的な標的に対して標的の方位決定を使用する場面レンダリングの例示である。図3Bは本発明の実施形態による例示的な標的に対して標的の方位決定を使用する場面レンダリングの例示である。図3Cは本発明の実施形態による例示的な標的に対して標的の方位決定を使用する場面レンダリングの例示である。図3Dは本発明の実施形態による例示的な標的に対して標的の方位決定を使用する場面レンダリングの例示である。
【図4A】本発明による標的システムのサブシステム間において標的を地理参照するための方法の一実施形態の流れ図である。
【図4B】本発明による標的システムのサブシステム間において標的を地理参照するための方法の一実施形態の流れ図である。
【図5】本発明の実施形態による場面レンダリング機能を実装するための方法の流れ図である。
【図6】通信リンクの帯域幅が制限されているとき、本発明の実施形態による標的位置情報及び標的記述子を送信するための方法の流れ図である。
【発明を実施するための形態】
【0008】
一般的な実施によって説明される様々な特徴を、拡大するように描かないで、本発明に関連する特徴を強調するように描いている。同一の参照文字は、図面及びテキストの初めから終わりまで同一の要素を示す。
【0009】
以下の詳細な記載において、本明細書の一部を形成する添付の図面を参照し、本発明において実施され得る例示的な特定の実施形態を図示することによって示す。当業者が本発明を実施可能なように、これらの実施形態を十分に詳細に説明し、別の実施形態が利用され得、論理的、機械的及び電気的な変更が、本発明の範囲から逸脱せずに実行され得ることが理解されよう。したがって、以下詳細な説明を限定する意味に取るべきではない。
【0010】
本明細書に説明されている標的位置を地理参照するための標的システムは、標的システムのサブシステム間において、標的位置を正確で精密に共有するように作動可能である。用語「位置」及び「地理的位置」を、本明細書においては互換可能に使用する。当業者に知られているように、精度(accuracy)は、量、表現などに関する正確性の程度であって、すなわち、測定の精度(accuracy)は、測定の結果が真の値にどれくらい近いかに関する尺度である。当業者に知られているように、精度(precision)は、量の正確性が表現される程度であって、すなわち、測定の精度(precision)は、結果がその真の値との合意性を参照せずにどれくらい良好に決定されたかに関する測定である。
【0011】
前述されたように、(大建築物の特定の窓のような)標的を正確で精密に位置付けることと、標的システムのサブシステムへ情報を送信することと、データを交換するメディアの帯域幅が、必ずしも高帯域でないときであっても、サブシステムが、標的を正確で精密に位置付けし得ることも望まれる。本明細書に記載されているラスター又はベクトル画像を確立する地理参照を使用し、標的位置において少なくとも1つの固有識別子が、第1のサブシステムによって標的画像の選定された一部の内部で認識される。第1のサブシステムが、少なくとも1つの固有識別子を第2のサブシステムへ送信する。第2のサブシステムが、第2のサブシステムにおいて標的画像の選定された一部を認識するために、少なくとも1つの固有識別子を使用する。第1及び第2のサブシステムが、別々の位置において存在し得る。
【0012】
図1は、本発明の実施形態による標的位置(405)を地理参照するための標的システム(10)のブロック図である。標的システム(10)は、第1の位置(407)に位置付けられた送信側のサブシステム(100)及び第2の位置(409)に位置付けられた受信側のサブシステム(300)を含む。受信側のサブシステム(300)は、無線リンクとして示されているが、有線リンクであり得る通信リンク(270)によって送信側のサブシステム(100)と通信可能に接続される。この実施形態の一実装において、標的位置(405)は、地理的な位置であって、標的位置(405)を示す情報は、緯度、経度及び高度を含む。例示のために、標的位置が標的(211)においてXとして示されている。
【0013】
送信側のサブシステム(100)は、第1のカメラ(120)、第1のディスプレイ(160)、第1のプロセッサー(110)、第1の距離計(130)、第1の全地球測位システム受信機(GPS RX)(140)、送信機(TX)(170)、及び記憶媒体(166)を含む。記憶媒体(166)は、メモリー(165)、映像分析(VA)機能(150)、及び場面レンダリング(SR)機能(152)を含む。第1のカメラ(120)は、第1の可動式カメラ台(124)に位置付けられ、光軸(122)を有する。第1のカメラ台(124)は、3つの直交軸の周囲で光軸(122)の方向を合わせるように調整され得る。
【0014】
受信側のサブシステム(300)は、第2のカメラ(320)、第2のディスプレイ(360)、第2のプロセッサー(310)、第2の距離計(330)、第2の全地球測位システム受信機(GPS RX)(340)、受信機(RX)(370)、及び記憶媒体(366)を含む。記憶媒体(366)は、メモリー(365)及び映像分析(VA)機能(350)を含む。第2のカメラ(320)は、第2の可動式カメラ台(324)に配置され、光軸(322)を有する。第2のカメラ台(324)は、3つの直交軸(322)の周囲で光軸の方向を合わせるように調整され得、第1のカメラ台(124)の周囲の3つの直交軸と異なるように調整できる。
【0015】
標的位置(405)を地理参照するための標的システム(10)の動作の実施形態を、ここで説明する。第1のプロセッサー(110)が、標的画像を示す情報を受信し、標的画像の第1の選定された一部に関する標的記述子を生成する。この実施形態の一実装において、標的画像は、標的(211)が配置されている標的領域(201)の画像である。図1に示されているように、標的領域(201)は、標的(211)のすべてを含む。(本明細書において「選定された一部(215)」としても参照されている)標的画像の第1の選定された一部(215)を、標的(211)のサブセットとして図1に示す。ボックス(215A)は、第1の標的の選定された一部のサブセットの表現である。この実施形態の一実装において、送信側のサブシステム位置(407)において形成される標的画像の第1の選定された一部が、標的画像の第1の選定された一部のサブセット画像(215)に縮小される。サブセット画像は、画像のサブセット(215A)である。この実施形態の別の実装において、第1の選定された一部(215)は、標的領域(201)の一部及び標的(211)の一部を含む。
【0016】
例示的な事例に関しては、標的(211)が、駐車場に駐車された乗り物の場合、第1のカメラ(120)の焦点面に焦点を合わせられている標的領域(201)の画像が、駐車場における標的(211)に隣接する別の乗り物を含み得る。例示的な別の事例においては、第1のカメラ(120)の焦点面に焦点を合わせられている標的領域(201)の画像は、全部の標的(211)に満たないものを含む。例えば、標的(211)が建物の場合、標的画像(すなわち標的領域(201))は、建物の1つの壁の中心部だけを含み得、選定された一部(215)は、標的領域(201)のサブセットである。このように、標的領域(201)のボックスの表現、標的(211)及び標的(211)の選定された一部(215)の相対的サイズは、図1に示されているものと変化し得、本発明の範囲を限定することを意図していないことが理解されよう。第1の選定された一部(215)のサブセット(215A)は、常に第1の選定された一部(215)の領域よりも小さい領域を包含する。
【0017】
標的画像の第1の選定された一部(215)の内部の標的記述子を生成するための映像分析機能(150)が、第1のプロセッサー(110)によって実行可能である。場面レンダリング機能(152)が、第1のプロセッサー(110)によって実行可能であって、場面レンダリング機能(152)からの出力が、標的記述子を生成するための映像分析機能(150)によって使用される。この実施形態の一実装において、場面レンダリング機能(152)は、標的記述子を生成するように要求されない。このように第1のプロセッサー(110)が、標的画像の第1(211)の選定された一部(215)に関する標的記述子を生成する。
【0018】
第1のプロセッサー(110)が、標的位置(405)も生成する。第1のプロセッサー(110)が、航法解決を使用することによって標的(211)の地理的位置、及び標的(211)への測定範囲(R)を測定する。送信機(170)が、標的記述子及び標的位置(405)を示す情報を受信側のサブシステム(300)へ送信する。この情報は、受信側のサブシステム(300)へ送信され、受信側のサブシステム(300)が、部分的な画像だけを解析要求する対象領域(すなわち、選定された一部(215)又は選定された一部(215)のサブセット(215A))へ速やかに光軸(322)を向けることができる。具体的には受信機(370)は、標的記述子及び標的位置(405)を示す情報を受信する。その後、第2のプロセッサー(310)が、第2のカメラ(320)の光軸(322)を標的位置(405)に向ける。第2のプロセッサー(310)が、受信される標的記述子に基づいて標的画像の第1の選定された一部(215)と相関性がある標的の一部(211)を特定する。
【0019】
第1のカメラ台(124)は、第1のプロセッサー(110)からの命令を受信するために第1のプロセッサー(110)と通信可能に接続され、第1のカメラ台(124)の方位は、第1のプロセッサー(110)によって制御される。第1のカメラ台(124)は、第1のカメラ台(124)が、受信される命令に基づいた適切な向きに変えるまで、3つの直交軸の周囲で回転し、及び/又は3つの直交軸に沿って移動する。第1のカメラ台(124)は、光軸(122)が標的位置(405)において標的(211)に向くように調整されたとき、第1のカメラ(120)が、第1のカメラ(120)の焦点面において(本明細書において「標的画像」としても参照されている)標的(211)の画像を形成する。本明細書に定義されているように、光軸(122)は、標的(211)の画像が第1のカメラ(120)の焦点面上のどこかに収まったとき、標的位置(405)において標的(211)に向いている。標的画像を示す情報が、通信可能に接続された第1のディスプレイ(160)に送信され、標的(211)の画像(又は選定された一部(215)を含む標的(211)の画像の一部)が、送信側のサブシステム(100)のユーザーに表示される。
【0020】
この実施形態の一実装においては、送信側のサブシステム(100)のユーザーが、第1のカメラ(120)を標的(211)に向ける。そのような一実装においては、標的のおおよその位置が、知られていて、第1のカメラ台(124)の方位は要求されない。別のそのような実装においては、第1のカメラ台(124)の方位が(第1のカメラ台(124)上の測定装置の方位角及び/又は姿勢によって)決定され、第1のカメラ台(124)の方位を示すこの情報が、標的位置(405)を決定する際に使用するために、第1のプロセッサー(110)へ送信される。
【0021】
第1のプロセッサー(110)が、第1のカメラ(120)から標的画像を示す情報を受信するために、通信可能に接続される。第1のプロセッサー(110)は、第1の全地球測位システム受信機(GPS RX)(140)から(本明細書において「第1の位置(407)を示す情報」としても参照されている)第1の位置(407)を受信するために、第1の全地球測位システム受信機(GPS RX)(140)と通信可能に接続される。第1のプロセッサー(110)は、第1の位置(407)と標的位置(405)の間の距離(R)を示す情報を受信するために、第1の距離計(130)と通信可能に接続される。第1のプロセッサー(110)は、(本明細書において「標的位置(405)を示す情報」としても参照されている)標的位置(405)を生成するために、第1の全地球測位システム受信機(GPS RX)(140)及び第1の距離計(130)から受信される情報を使用する。
【0022】
選定された一部(215)は、第1のディスプレイ(160)に表示されている標的画像の一部を選択するために、第1のディスプレイ(160)における(又はそれと接続されている)グラフィカルユーザーインターフェース(162)を使用する送信側のサブシステム(110)のユーザーによって、選択される。この実施形態の一実装において、グラフィカルユーザーインターフェース(162)は、マウスのような装置である。この実施形態の別の実装において、ユーザーは、最初に標的(211)を特定し、その後、標的領域(201)の選定された一部(215)を選択するために、グラフィカルユーザーインターフェース(162)を使用する。この実施形態の更に別の実装において、ユーザーが、最初に標的(211)を特定するためにグラフィカルユーザーインターフェース(162)を使用し、第1のプロセッサー(110)が、標的領域(201)を分析し、知覚品質の異なる境界を決定する支援をする標的領域(201)の知覚特性(例えばエントロピー)に基づいて、(少なくとも標的(211)の画像の一部を含む)標的領域(201)の選定された一部(215)を選択する。この実施形態の更に別の実装において、グラフィカルユーザーインターフェース以外のインターフェースが、(標的(211)の画像の少なくとも一部を含む)標的領域(201)の選定された一部(215)を選択するために、ユーザーによって使用される。
【0023】
送信機(170)が、第1のプロセッサー(110)から標的記述子及び標的位置(405)を示す情報を受信するために、通信可能に接続される。送信機(170)が、標的記述子及び標的位置(405)を、通信リンク(270)を介し受信側のサブシステム(300)へ送信する。所望の標的システム(10)の応答時間に基づいた許容され得る通信遅延が、受信側のサブシステム(300)へ標的記述子及び標的位置(405)を送信する前に決定される。映像分析機能(150)は、標的(211)の小さい領域(すなわち、選定された一部(215)又は選定された一部(215)のサブセット(215A)ためだけに)データを送信し、標的記述子又はグレースケール画像のうち、より最小のデータを必要とするいずれかに動的に送信することによって、通信リンク(270)に関して小さい帯域幅要件を記述する。
【0024】
受信側のサブシステム(300)における受信機(370)が、送信機(170)から標的記述子及び標的位置(405)を受信する。標的位置(405)を示す情報に応答して第2のプロセッサー(310)が、地理的なおおよその位置を使用し、第2のカメラ台(324)を調整することによって、第2のカメラ(320)の光軸(322)を標的位置(405)に向ける。本明細書に定義されているように、標的(211)の画像が、第2のカメラ(320)の焦点面上のどこかに収まったとき、光軸(322)は、標的位置(405)の方又はその位置へ向いている。受信側のサブシステム(300)が、その後、第2の距離計(330)及び第2のカメラ(320)から範囲及び映像データを収集する。受信側のサブシステム(300)の映像分析機能(350)がその後、引き継ぐ。標的(211)の測定された位置の周囲において第2の選定された一部(215)が、選択される。第2の選定された領域(215)に関する標的記述子が、受信側のサブシステム(300)において決定され、送信側のサブシステム(100)から受信される第1の選定された領域(215)に関する標的記述子と比較される。グレースケール画像が、帯域幅の制限によって、標的記述子の代わりに送信された場合、受信側のサブシステム(300)の映像分析機能(350)が、(受信され生成された)表示双方に関する標的記述子を決定し、それらを比較する。
【0025】
一致が見出された場合、受信側のサブシステム(300)は、標的が特定されていると見なす。本明細書に定義されているように、第2の選定された領域(215)が、第1の選定された領域(215)に一致したとき、第2の選定された領域(215)は、第1の選定された領域(215)と相関している。このように第2のプロセッサー(310)は、受信される標的記述子に基づいて、標的画像の第1の選定された一部(215)に相関性がある(本明細書において「第2の選定された一部(215)」としても参照されている)標的の選定された一部(215)を特定する。かくして、第1のディスプレイ(160)上に視察される第1の画像の選定された一部(215)が、第2のディスプレイ(360)上に視察される第2の選定された一部(215)の画像からの外観と異なり得るが、受信側のサブシステム(300)のユーザーは、送信側のサブシステム(100)のユーザーによって選定された第1の選定された一部(215)と本質的に同一である、第2の選定された一部(215)を選択する。この外観における相違は、遠近法による相違、及び/又は第1の位置(407)及び第2の位置(409)から目撃される標的(211)の選定された一部(215)から反射された光の条件の相違のためであり得る。この実施形態の一実装においては、一致が見出された場合、第2のディスプレイ(360)のアイコンが、色を変更する。この実施形態の別の実装においては、一致が見出された場合、標的を特定するアイコンが、第2のディスプレイ(360)上の第2の選定された領域(215)に現れる。
【0026】
映像分析機能(350)は、送信側のサブシステム(300)が、標的(210)を地図配置し、その画像を取得する事実による。第2のレーザー距離測定器(330)と、第2のカメラ(320)と、第2の全地球測位システム受信機(340)(及び/又は慣性計測装置)との間の調整不良が、潜在的に誤った標的認識の原因となる。この実施形態の一実装において、カルマンフィルターが、ランタイム中の調整不良を測定するために使用される。
【0027】
送信側のサブシステム(100)の様々なコンポーネントが、適切な(例えば、バス、トレース、ケーブル、有線、ポート、無線送受信装置などを使用する)インターフェースを使用し、必要に応じて相互と通信可能に接続される。第1のカメラ台(124)が、第1のプロセッサー(110)から受信される命令に応答して作動する適切な(例えば、ギヤ、ギヤボックス、チェーン、カム、電磁装置、水力、ガス圧力装置、及び圧電性、化学的及び/又は熱的装置)インターフェースによって機械的に制御される。この実施形態の一実装において、第1の距離計(130)及び第1のカメラ(120)双方が、第1のプロセッサー(110)と配線される。この実施形態の別の実装において、第1の距離計(130)及び第1のカメラ(120)が、無線リンクによって通信可能に接続される。同様に受信側のサブシステム(300)の様々なコンポーネントが、適切なインターフェースを使用し、必要に応じて相互と通信可能に接続され、第2のカメラ台(324)が、適切なインターフェースによって機械的に制御される。
【0028】
メモリー(165)は、例えば、ランダムアクセスメモリー(RAM)、読み出し専用メモリー(ROM)、及び/又は第1のプロセッサー(110)内のレジスターのような現在知られているか又は後に開発される適切な任意のメモリーを含む。一実装において、第1のプロセッサー(110)は、マイクロプロセッサー又はマイクロコントローラーを含む。更に、図1に第1のプロセッサー(110)及びメモリー(165)を別々の要素として示すが、一実装において第1のプロセッサー(110)及びメモリー(165)は、単一の装置(例えば単一の集積回路装置)に実装される。一実装において、第1のプロセッサー(110)は、プロセッサーサポートチップ、及び/又は特定用途集積回路(ASIC)のようなシステムサポートチップを含む。
【0029】
この実施形態の一実装において、映像分析機能(150)及び場面レンダリング機能(152)は、第1のプロセッサー(110)にストアされている。第1のプロセッサー(110)は、映像分析機能(150)、場面レンダリング機能(152)、及び本明細書に記載された第1のプロセッサー(110)によって実行される処理の少なくともいくつかを第1のプロセッサー(110)に実行させる他のソフトウェア及び/又はファームウェアを実行する。少なくとも映像分析機能(150)の一部、場面レンダリング機能(152)、及び/又は第1のプロセッサー(110)によって実行されるファームウェア、及び関連する任意のデータ構造は、実行中に記憶媒体(166)にストアされている。
【0030】
メモリー(365)は、例えば、ランダムアクセスメモリー(RAM)、読み出し専用メモリー(ROM)、及び/又は第2のプロセッサー(310)内のレジスターのような現在知られているか又は後に開発される適切な任意のメモリーを含む。この実施形態の別の実装において、映像分析機能(350)が、第2のプロセッサー(310)にストアされている。第2のプロセッサー(310)は、本明細書において説明された第2のプロセッサー(310)によって実行される処理の少なくともいくつかを映像分析機能(350)、及び第2のプロセッサー(310)に実行させる他のソフトウェア及び/又はファームウェアを実行する。少なくとも映像分析機能(350)及び/又は第2のプロセッサー(310)によって実行されるファームウェアの一部、及び関連する任意のデータ構造が実行中に記憶媒体(366)にストアされている。
【0031】
システム(10)の実装を、ここで図2A〜2C及び図3A〜3Dを参照して説明する。図2A〜2Cは、(図2Aの)第1の位置において形成される例示的な標的画像及び第2の位置(図2C)、及び第1の位置において形成される標的画像の選定された一部(215)の内部の(図2B)(217)において一般に表される例示的なセグメントの表現を示す。図2Aに示されているように、標的領域(201)がすべての画像(215)であるが、中心にプラス符号(+)がある破線の円は、少なくとも標的(211)の一部を含む第1の選定された一部である。この例示的な実施形態において、選定された一部(215)は、標的(211)より大きいが、標的(211)の画像は、比較的小さい標的領域(201)の一部である。
【0032】
映像分析機能(150)は、送信側のサブシステム(100)における第1のカメラ(120)の焦点面上に視察されるような標的画像の第1の選定された一部(215)の場面符号化をオンデマンドで実行する。第1のプロセッサー(110)によって実行される映像分析機能(150)は、以下の主要な特性及び機能を有する。
【0033】
1)同一場面の異なる表示を介し確実に特定可能な標的記述子を決定すること
2)送信側のサブシステム(100)及び受信側のサブシステム(300)によって目撃される標的(211)の透視表示が劇的に異なったとき、場面レンダリング機能(152)から生成された標的記述子への入力を受信すること
3)送信される情報を最小化し、情報の時間感度を制限することによって、(通信リンク(270)の帯域幅に従った)送信機(170)と受信機(370)の間において通信するために要求される帯域幅を制限すること
4)受信側のサブシステム(300)のユーザーに第2のカメラ(320)を介し標的(211)をすぐに位置づけ、視察させるために、第1のカメラ(120)からの画像データと一緒に第1の距離計(130)からの距離情報を使用すること
送信側のサブシステム(100)の映像分析アルゴリズム(150)が、標的画像の第1の選定された一部(215)を選択する。この第1の選定された一部(215)に関する視覚的な範囲情報がキャプチャされ、記録される。その後、第1の選定された一部(215)に関する少なくとも1つの標的記述子が、決定される。標的記述子が、標的(211)が、受信側のサブシステム(300)の第2のカメラ(320)の表示中に正しく検出され得るように、標的(211)の周囲において標的領域(201)を確実に記載する。確実性を達するために、標的記述子は、標的(211)の周囲の第1の選定された一部(215)において抽出された複数の特徴及び測定された地理的位置に関する情報を含む。
【0034】
映像分析法の動作図を図2Bに示す。図2Bにおいて、点線の中心にそれぞれ存在するセグメント(217)は、生成される標的記述子の対象の表示領域である。この例示的な事例において、楕円として示されたセグメント(217)は、特定の特徴を撮像する複数の画素を取り巻いている。この実施形態の一実装において、セグメント(217)のサブセットが、ハイコントラスト、ポイントからの高い反射率、1つ以上の選定された放射率値、エントロピーなどのような特定のタイプの物理的特性に関して生成される。標的記述子は、画像の選定された一部(215)内部領域だけに関して生成される。セグメント(217)は、生成される標的記述子が対象とする特徴を囲むために、使用され得る任意の形の例示である。
【0035】
この実施形態の一実装において、符号化された場面情報は、アイコン(ICON)の配置に関する命令として受信機(370)に送信される。この場合、第2のカメラ(320)の光軸(322)が、標的位置(405)に向けられ、第2のカメラ(320)が、標的(211)に焦点を合わせられたとき、(図2Cの(219)としてラベリングされたボックスのような)アイコンが、生成された標的(211)の画像上に挿入される。
【0036】
一旦、第1のプロセッサー(110)が、第1の位置(407)、第2の位置(409)及び標的位置(405)の地理的な位置を決定(又はメモリー(165)からリトリーブ)すると、第1のプロセッサー(110)が、第1の位置(407)における受信側のサブシステム(300)と、第2の位置(409)における送信側のサブシステム(100)と、標的位置(405)との相対的な位置を決定する。プロセッサーが、2つの表示の間の相違を決定するために、記憶媒体(166)におけるソフトウェアを実行する。2つの表示が、所定の閾値と異なる場合、それらは、実質的に異なるものとして宣言される。
【0037】
(スケール不変特性変換(SIFT)によって計算される)テクスチャ記述子が、同一の場面に関する2つのいくらか異なる表示にわたってマッチングされ得るが、それらは、2つの表示が劇的に異なる場合、失敗し得る。かくして、2つの表示が実質的に異なっているとき、場面レンダリングが、そのデータに対して実行される。場面レンダリングは、誤り一致を減少させる。そのような状況において、映像分析アルゴリズム(150)が、最初に受信機の表示が提供する場面をレンダリングし、その後、標的記述子を決定する。場面レンダリングの一実装において、形状及びテクスチャの結合された記述子が、特徴それぞれに関して生成される。この実施形態の別の実装において、エッジが、標的記述子を生成するために使用される。この実施形態の更に別の実装において、スケルトンが、標的記述子を生成するために使用される。結合記述子は、照明における変化に対してより確実であって、様々な撮像条件下で、高度な性能を提供する。この実施形態の別の実装において、場面レンダリングは、(ベロダインライダー(Velodyne Lidar)のような)操舵可能なレーザー距離測定器が提供する3次元の場面情報を用いたセンサー入力を増大させることによって実行される。
【0038】
図2A〜2Cに示されている映像分析技術は、送信側のサブシステム(100)及び受信側のサブシステム(300)双方による標的(211)の視界(LOS)に依存する。視界がないとき又は形状及びテクスチャ記述子が、標的を固有に特定できない困難な標的領域に関しては、標的方位決定システム(TODS)が、選定された一部(215)のマッチング処理において、映像分析機能(150)及び映像分析機能(350)を支援する。TODSは、送信側のサブシステム(300)によって正確な標的特定の確率を改善するために、標的領域(201)に関する地図参照される方位を計算する。標的の方位決定は、場面レンダリングを実行する方法の1つであって、映像分析機能(150)、場面レンダリング機能(152)、及び映像分析機能(350)の実行によって実装される。TODSは、標的領域(201)の方位又はプレーンを測定し、受信側のサブシステム(300)に送信する前に、標的領域記述子にそれを追加する。このようにTODSは、受信側のサブシステム(300)における表示が、地図参照された幾何学図形において正しく定義され得る構造によって閉塞される動作中に正確な標的特定の確率を改善する。
【0039】
図3A〜3Dは、本発明の実施形態による、例示的な標的に対する標的の方位決定を使用する場面レンダリングの例示である。標的の方位決定は、グラフベースの方法を使用する標的領域の画像分割、標的領域のセグメントそれぞれの地図参照の測距、及び標的領域におけるセグメントそれぞれのプレーン及び方位の決定から成る。図3Aは、標的領域(201)(市街路)における例示的な標的(211)(乗用車)を示す。図3Bは、図3Aの標的領域(201)の選定された一部(215)(前席の同乗者のウインドウ及び街路及び建物の背景の一部)を示す。図3Cは、選定された一部(215)の内部の(この実施形態において円形として表示されている)セグメント(217)を示す。地図参照の測距は、標的領域(201)における選定された領域(215)のセグメント(217)それぞれに関して実行される。図3Dに、図3Cのセグメント(217)グループに関して決定される(218−(1〜N))に一般に表されるプレーン及び(222−(1〜N))に一般に表される(矢印として示されている)プレーン方位を示す。
【0040】
例えば、プレーン(218−1)は、選定された領域(215)において、ダクトの画像の内部のセグメント(217)から生成され、プレーン(218−2)は、選定された領域(215)において、客席のウインドウ画像の内部のセグメント(217)から生成される。(図1の)プレーン(218−(1〜N))及び関連するプレーン方位(222−(1〜N))が、場面レンダリング機能(152)の実施中に生成される。異なる知覚品質の境界の決定を援助する標的領域(201)の知覚特性(例えばエントロピー)が、場面レンダリング機能(152)によって決定される。
【0041】
画像分割の難しさは、計算時間と、場面に関連する大域的な性質を知覚的にキャプチャする機能との間のトレードオフである。グラフベースの方法は、非常に多角的であって、知覚的に意味のある方法で、場面をセグメント分割するための機能をずっと維持している間、もっと高速になるように調整され得る。これらの方法は、画素それぞれをノードとして扱う。2つの画素間の選定された相違インデックスが、連結領域を潜在的に分解定義された閾値よりも小さい場合、2つのノード間のエッジが確立される。標的領域におけるセグメントそれぞれのプレーン及び方位決定が、送信側のサブシステム(100)から送信された標的領域記述子に追加される。受信側のサブシステム(300)の映像分析機能(350)が、形状及びテクスチャ記述子に追加した記述子内の標的の方位情報に基づいたマッチングを実行するように修正される。
【0042】
この実施形態の一実装において、第1のプロセッサー(110)は、標的(211)が移動中であって、第1のカメラ(120)から受信される情報を使用していることを認知し、第1の距離計(130)は、標的(211)が移動速度を決定する。この場合、第1のプロセッサー(110)は、標的位置(405)を示す情報及び標的記述子に伴って送信機(170)を介し、標的(210)の速度を示す情報を受信側のサブシステム(300)に送信する。
【0043】
図4は、本発明による標的システムのサブシステムの間において標的を地理参照するための方法(400)の一実施形態の流れ図である。この実施形態の一実装において標的システムは、図1、2A〜2D及び3A〜3Dを参照して前述されたような標的システム(10)である。本方法(400)を図1に示されている標的システム(10)を参照して説明するが、本方法(400)が、本明細書を読む当業者によって理解され得るように別の仮想ネットワークの実施形態を使用して実装され得ることが理解されよう。
【0044】
ブロック(402)において、第1のプロセッサー(100)が、送信側のサブシステム位置(407)において形成される標的画像を受信する。標的画像は、第1のカメラ(120)の光軸(122)が、標的(211)に向けられたとき、第1のカメラ(120)の焦点面において形成される。ブロック(404)において、標的画像の第1の選定された一部(215)が、送信側のサブシステム位置(407)において形成される標的画像から選定される。
【0045】
ブロック(406)において、標的記述子が、標的画像の受信に応答して標的画像の第1の選定された一部(215)に関して生成される。第1のプロセッサー(110)が、標的記述子を生成するために、映像分析機能(150)又は、場面レンダリング機能(150)及び映像分析機能(150)を実行する。
【0046】
ブロック(408)において、送信側のサブシステム位置(407)と標的位置(201)の間の標的距離(R)が決定される。この実施形態の一実装において、標的位置(405)を決定することは、最初に全地球測位システム受信機(140)から第1のプロセッサー(110)において、送信側のサブシステム位置(すなわち第1の位置(407))を示す情報を受信することと、第1の距離計(130)から第1のプロセッサー(110)において受信される情報に基づいて、送信側のサブシステム(100)と標的(211)の間の標的距離R(図1)を決定することと、第1のカメラ台(124)の方位(すなわち第1のカメラ(120)の光軸(122)の方位)に基づいて、送信側のサブシステム(100)と標的(211)の間の高度角を決定することと、送信側のサブシステム位置(407)、及び決定された距離(R)、及び送信側のサブシステム(100)と標的(211)の間の高度角度に基づいて、標的位置(405)を決定することと、を含む。このようにして標的記述子が、標的位置(405)において標的の異なる表示から確実に特定可能である。
【0047】
ブロック(410)において、送信側のサブシステム(100)と受信側のサブシステム(200)の間の通信リンク(270)の帯域幅が、決定される。この実施形態の一実装において、第1のプロセッサー(110)が、通信リンク(270)の帯域幅を決定する。
【0048】
ブロック(412)において、場面レンダリングが必要とされるか決定される。この実施形態の一実装において、第1のプロセッサー(110)は、第1の位置(407)における送信側のサブシステム(100)、第2の位置(409)における受信側のサブシステム(300)、及び標的位置(409)における標的(211)の相対的な位置に基づいて、場面レンダリングが、要求されるか決定する。場面レンダリングが要求される場合、方法(400)のフローは、ブロック(414)へ進む。ブロック(414)において、フローは、図5のブロック(502)へ進む。図5は、本発明の実施形態による場面レンダリング機能を実装するための方法(500)の流れ図である。方法(500)のフローを以下に説明する。
【0049】
場面レンダリングが、要求されない場合、方法(400)のフローは、ブロック(416)へ進む。ブロック(416)において、通信リンク(270)の帯域幅が、選定された帯域幅よりも小さいか決定される。この実施形態の一実装において、選定された帯域幅は、11MBpsである。この実施形態の別の実装において、選定された帯域幅は、100MBpsである。帯域幅が選定された帯域幅よりも小さい場合、フローはブロック(418)へ進む。
【0050】
ブロック(418)において、方法(400)のフローは、図6のブロック(602)へ進む。図6は、通信リンク(280)の帯域幅が、制限されたとき、本発明の実施形態による標的位置情報及び標的記述子を送信するための方法の流れ図である。方法(600)のフローを以下に説明する。
【0051】
通信リンク(270)の帯域幅が、選定された帯域幅よりも大きい場合、方法(400)のフローはブロック(420)へ進む。ブロック(420)において、標的位置情報及び標的記述子が、標的システム(10)の送信側のサブシステム(100)から標的システム(10)の受信側のサブシステム(300)へ送信される。ブロック(422)において、受信側のサブシステム(300)のカメラ(320)(すなわち第2のカメラ(320))の光軸(320)が、送信側のサブシステム(100)から受信される標的位置情報に基づいて、標的(211)に向けられる。ブロック(424)において、標的画像は、光軸(322)が標的(211)へ向けられたとき、受信側のサブシステム位置(409)において形成される。ブロック(426)において、受信側のサブシステム位置(409)において形成される標的画像の第2の選定された一部(215)が特定される。標的画像の第2の選定された一部(215)は、送信側のサブシステム位置(407)において形成される標的画像の第1の選定された一部(215)と相関している。本特定は、送信側のサブシステム(100)から受信される標的記述子に基づく。
【0052】
同一の場面の異なる表示を介して確実に特定可能な標的記述子を決定するための方法を、ここで図5に示されている方法(500)のフローを参照して説明する。ブロック(502)は、フローが図4のブロック(414)から進むことを示す。ブロック(504)において、送信側のサブシステム位置において形成される標的画像の第1の選定された一部(215)が、セグメントに分割される。ブロック(506)において、送信側のサブシステム位置において形成される標的画像の第1の選定された一部(215)の並べられたセグメント(217)が、地理参照される。ブロック(508)において、並べられたセグメント(217)の地理参照それぞれに関するプレーン及びプレーン方位が決定される。ブロック(510)において、形状記述子が、標的画像の第1の選定された一部(215)の少なくとも1つの特徴に関する標的記述子を生成するために、テクスチャ記述子と結合される。ブロック(510)は任意である。ブロック(512)において、フローは、図4の方法(400)のブロック(416)へ進む。
【0053】
通信リンク(270)の帯域幅が制限されているとき、標的位置情報及び標的記述子を送信するための方法を、ここで図6に示されている方法(600)のフローを参照して説明する。ブロック(602)は、フローが、図4のブロック(418)から続いていることを示す。ブロック(604)において、送信側のサブシステム位置(407)において形成される標的画像の第1の選定された一部(215)が、標的画像の第1の選定された一部のサブセット画像に縮小される。例えば、標的画像の第1の選定された一部のサブセット画像は、第1の標的(211)の選定された一部(215)のサブセット(215A)の画像であり得る。
【0054】
ブロック(606)において、標的記述子が、標的画像の第1の選定された一部(215)のサブセット画像に関してだけ生成される。ブロック(608)において、サブセット画像又はサブセット画像に関するグレースケール画像に関する標的記述子が、通信リンク(270)を介し、送信側のサブシステム(100)から受信側のサブシステム(300)へ送信される。送信機(170)は、サブセット画像のグレースケールが必要とするよりも更に小さい送信帯域幅を、サブセット画像に関する標的記述子が要求するとき、サブセット画像に関する標的記述子を送信する。同様に、送信機(170)は、サブセット画像に関する標的記述子の送信が必要とするよりも更に小さい帯域幅を、サブセット画像のグレースケール画像の送信が要求するとき、サブセット画像のグレースケール画像を送信する。第1のプロセッサー(110)が、それを決定するソフトウェアを実行する。ブロック(610)において、フローは、図4の方法(400)のブロック(420)へ進む。
【0055】
この実施形態の一実装において、送信側のサブシステム(100)の少なくとも一部が、送信側のサブシステム(100)のユーザーによって使われる。
特定の実施形態が本明細書において例示され記載されているが、同一目的を達するように計算実行される任意の処理が、示されている特定の実施形態の代替になり得ることが当業者によって十分に理解されよう。本出願は、本発明の任意の適用又は変形を含めるように意図されている。したがって、本発明が請求項及びその同等物によってのみ限定されることを、明確に意図している。
【符号の説明】
【0056】
10 標的システム
100 送信側のサブシステム
110 第1のプロセッサー
120 第1のカメラ
122 光軸
124 第1のカメラ台
130 第1の距離計
140 第1の全地球測位システム受信機
150 映像分析機能
152 場面レンダリング機能
160 第1のディスプレイ
162 グラフィカルユーザーインターフェース
165 記憶媒体
166 記憶媒体
170 送信機
201 標的領域
210 標的
211 標的
215 標的画像の第1の選定された一部
215A 第1の標的の選定された一部のサブセット
217 セグメント
218−N プレーン
219 アイコン
222−N プレーン方位
270 通信リンク
300 受信側のサブシステム
310 第2のプロセッサー
320 第2のカメラ
322 光軸
324 第2のカメラ台
330 第2の距離計
340 第2の全地球測位システム受信機
350 映像分析機能
360 第2のディスプレイ
362 グラフィカルユーザーインターフェース
365 メモリー
366 記憶媒体
370 受信機
405 標的位置
407 第1の位置
409 第2の位置

【特許請求の範囲】
【請求項1】
標的システム(10)のサブシステム間において標的(211)を地理参照するための方法であって、
送信側のサブシステム位置(407)において形成される標的画像を受信するステップと、
前記標的画像の受信に応答して前記標的画像の第1の選定された一部(215)に関する標的記述子を生成するステップと、
標的位置情報及び前記標的記述子を、前記標的システムの送信側のサブシステム(100)から前記標的システムの受信側のサブシステム(300)へ送信するステップと、
前記送信側のサブシステムから受信される前記標的位置情報に基づいて、前記受信側のサブシステムのカメラ(320)の光軸(322)を前記標的に向けるステップと、
前記光軸が前記標的に向けられたとき、受信側のサブシステム位置において標的画像を形成するステップと、
前記送信側のサブシステム位置において形成される前記標的画像の前記第1の選定された一部と相関性がある、前記受信側のサブシステム位置において形成される前記標的画像の第2の選定された一部(215)を特定するステップであって、前記特定するステップが、前記送信側のサブシステムから受信される前記標的記述子に基づくものと、を含む方法。
【請求項2】
更に、
前記送信側のサブシステム位置(407)と前記標的位置(405)の間の標的距離(R)を決定するステップと、
前記送信側のサブシステム位置において形成される前記標的画像の受信に応答して、前記送信側のサブシステム(100)において場面レンダリング機能(152)を実装するステップであって、前記実装が、第1の位置における前記送信側のサブシステムと、第2の位置(409)における前記受信側のサブシステム(300)と、前記標的位置における前記標的(211)と、の相対的な位置に基づくものであって、前記標的記述子の生成が、前記場面レンダリング機能からの出力に基づくことを特徴とする請求項1記載の方法。
【請求項3】
更に、
前記送信側のサブシステム(100)と前記受信側のサブシステム(300)の間の通信リンクの帯域幅を決定するステップと、
前記決定された帯域幅が選定された帯域幅よりも小さいとき、
送信側のサブシステム位置(407)において形成される前記標的画像の前記第1の選定された一部を、前記標的画像の前記第1の選定された一部(215)のサブセット画像へ縮小するステップと、
前記標的画像の前記第1の選定された一部の前記サブセット画像だけに関する標的記述子を生成するステップと、
送信するためにより小さい帯域幅を要求する、前記サブセット画像に関する前記標的記述子又は前記サブセット画像のグレースケール画像に関する前記標的記述子のいずれか1つを送信するステップと、を含む請求項1記載の方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4A】
image rotate

【図4B】
image rotate

【図5】
image rotate

【図6】
image rotate