改善された仮想ウィンドウ作成方法
【課題】改善された仮想ウィンドウ作成方法の提供。
【解決手段】本明細書に記載されるシステムおよび方法は、特に、複数の視野を有する遠隔センサーヘッドからリアルタイムで画像を送信する技術を含む。一局面では、本発明は、外側のハウジングと、内側のセンサーボディと、センサーボディの表面に配置された複数の画像センサーであって、各画像センサーは視野を有し、それぞれの視野の画像を記録し、1場面に1つ以上の画像が組み合わされており、場面は解像度を有しているセンサーと、場面の少なくとも一部分の解像度を選択的に調整するためのプロセッサとを備える携帯型の画像装置を提供する。
【解決手段】本明細書に記載されるシステムおよび方法は、特に、複数の視野を有する遠隔センサーヘッドからリアルタイムで画像を送信する技術を含む。一局面では、本発明は、外側のハウジングと、内側のセンサーボディと、センサーボディの表面に配置された複数の画像センサーであって、各画像センサーは視野を有し、それぞれの視野の画像を記録し、1場面に1つ以上の画像が組み合わされており、場面は解像度を有しているセンサーと、場面の少なくとも一部分の解像度を選択的に調整するためのプロセッサとを備える携帯型の画像装置を提供する。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の参照)
本出願は、米国仮特許出願第60/680,121号(2005年5月12日出願)の利益を主張する。上記出願の教示は、その全体が本明細書において参照により援用される。
【背景技術】
【0002】
(背景)
現在、画像データなどのデータを収集でき、そのデータをコンピュータが読み取り可能な形式で保管できる安価なセンサーが存在する。このようなセンサーの一例はCCD画像センサーである。そして、ソフトウェアプログラムが保管したデータにアクセスして、有用な情報を抽出するためにデータを操作し処理することができる。
【0003】
これらのセンサーが安価であることと、これらのセンサーから生成されたデータを処理するコンピュータプログラムが容易に利用可能であることから、ビデオ電話に適したあまり高価ではないビデオカメラや画像キャプチャアプリケーションなど、多数の新しいアプリケーションや装置が生まれることになった。
【0004】
これらの安価な装置の不利な点は、視野(FOV)範囲が限定されていることであった。安価なことから、技術者は、視野を広げるために複数のセンサーを使用しようとした。それぞれのセンサーが別々の視野をキャプチャするので、複数のセンサーを採用するシステムは、1つの画像または1つのデータのセットを作成するために、異なる視野を統合するシステムも有する必要がある。データセットは、ユーザーが見ることができる単独の合成データセットに統合される。一部のアプリケーションでは、これらのセンサーシステムは、遠隔地に配置され、キャプチャされた画像データは、多くの場合ワイヤレス送信などにより、ユーザーに送信される。これらのシステムは画像データをキャプチャするためにかなり高性能で機能するが、データセットが大型であると、高解像度の画像には一般的な問題が存在する可能性がある。特に、送信速度は、リアルタイムでデータを送信するために不十分な場合がある。このように、ユーザーは、リアルタイムの観測に十分なデータ速度で場面を見ることができない場合がある。一部のアプリケーションでは、リアルタイムのデータ観測は非常に重要である。特許文献1に開示されているような一部の従来技術のシステムは、パノラマ式の視界を蓄積的に提供し、この場合、画像送信の帯域幅を減少させるように画像が大幅に削減される複数の画像センサーを含む。しかしながら、例えば、軍用または法執行の活動など、一部の偵察状況では、さらに、衝撃力に耐えうる強固な装置を必要とする場合がある。
【0005】
さらに、その他の従来技術のシステムは、画像処理操作により修正される非常に広角のレンズを含む。このようにして、パノラマ式の視界を作成することができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】米国特許出願公開第2005/0141607号明細書
【発明の概要】
【発明が解決しようとする課題】
【0007】
技術的には、データをリアルタイムのデータ速度で遠隔地に提供するように改善された強固な画像センサーシステムに対する必要性が存在する。さらに、複数のセンサーが協力して拡大された視野を表現する合成画像を提供することができる効率的であまり高価ではないシステムへの必要性が存在する。
【課題を解決するための手段】
【0008】
本発明は、改善された画像センサーシステムを提供することにより、従来技術の欠陥に対応する。さらに特定すると、さまざまな局面で、本発明は、複数の視野を有する遠隔の携帯画像装置からリアルタイムで画像を送信するための技術を提供する。
【0009】
一局面では、本発明は、外側のハウジング、内側のセンサーボディ、センサーボディの表面に配置された複数の画像センサーであって、各画像センサーは視野を有して、それぞれの視野の画像を記録し、1場面には1つ以上の画像が組み合わされており、場面は解像度を有しているセンサーと、場面の少なくとも一部分の解像度を選択的に調整するためのプロセッサを備える携帯型の画像装置を提供する。
【0010】
一実装では、携帯型の画像装置は、画像データを遠隔地に転送するために、プロセッサに接続する受信機も備える。受信機は、プロセッサから、またはメモリから画像データを受信することができる。
【0011】
一特徴では、複数の画像センサーは、視野が重なり合うように配置される。複数の画像センサーは、複数の画像センサーの視野内に少なくとも1つの半球状の領域をキャプチャするように配置され得る。その他の実施例では、複数の画像センサーは、複数の画像センサーの視野内で360度の視界をキャプチャするように配置することができる。
【0012】
一構成では、装置は、画面からの複数画像ポイントのそれぞれを少なくとも1つの画像センサーのピクセルにマッピングするテーブルを含むメモリをさらに備えることができる。装置は、ディスプレイドライバも備えることができる。このディスプレイドライバは、画面の選択部分を表示するためにどの画像センサーからのどのピクセルを使用するかを決定するために、テーブルを参照する。
【0013】
一実装では、複数の画像センサーは、高解像度で画像を記録する。プロセッサは、画像センサーによりキャプチャされた場面の解像度を選択的に減少させることができる。あるいは、プロセッサは、場面の一部分の解像度を選択的に減少させることができる。プロセッサは、条件に基づいて場面または場面の一部分の解像度を選択的に調整することができる。この条件には、場面の動きやユーザーの選択が含まれる。一実装では、プロセッサは、実質的に静的である場面の一部分の解像度を減少させて、場面の変化部分をもっと高解像度で送信する。別の実装では、ユーザーが場面の一領域を選択し、プロセッサが場面の選択されていない部分の解像度を減少させる。別の実施例では、複数の画像センサーは、低解像度で画像を記録する。
【0014】
さまざまな構成に応じて、装置は、さらに、画像センサーにより記録された画像を受信するための画像マルチプレクサを含む。一特徴に応じて、画像マルチプレクサは、画像を合成して場面を作成する。装置は、さらに、画像マルチプレクサにより受信された画像を保管するためのメモリを含む。
【0015】
一構成では、装置は、センサーにより記録された画像を保管するためのメモリを含む。
【0016】
一特徴に応じて、外側のハウジングは、硬い表面との衝撃にも元のままであるように、強固である。
【0017】
別の局面では、本発明は、外側のハウジングと、内側のセンサーボディと、内側のセンサーの表面上に配置される少なくとも1つの画像センサーであって、画像センサーは視野を有して、視野内の画像を記録し、画像は解像度を有する画像センサーと、画像の少なくとも一部分の解像度を選択的に調整するためのプロセッサとを備える画像化装置を提供する。
【0018】
一実装に従い、画像センサーは、画像を高解像度で記録する。プロセッサは、画像の解像度を減少させ得る。または、プロセッサは、画像の一部分の解像度を減少させ得る。一構成に従い、プロセッサは、実質的に静的な画像の一部分の解像度を選択的に減少する。別の実装に従い、ユーザーが画像の一領域を選択し、プロセッサが画像の選択されていない部分の解像度を減少させる。プロセッサは、画像データがリアルタイムで送信できるように解像度を選択的に調整し得る。
例えば、本願発明は以下の項目を提供する。
(項目1)
画像化装置であって、
外側のハウジングと、
内側のセンサーボディと、
該内側のセンサーボディの表面に配置される複数の画像センサーであって、各画像センサーは、視野を有し、それぞれの視野内の画像を記録し、該画像は場面を形成するように1つ以上のその他の画像と組み合わせ可能であり、該場面は解像度を有している、画像センサーと、
該場面の少なくとも一部分の該解像度を選択的に調整するためのプロセッサと
を備えている、画像化装置。
(項目2)
画像データを遠隔地に転送するために、前記プロセッサに接続する受信機をさらに備える、項目1に記載の装置。
(項目3)
前記複数の画像センサーは視野が重なるように配置されている、項目1に記載の装置。
(項目4)
前記場面からの複数の画像ポイントのそれぞれを少なくとも1つの画像センサーのピクセルにマッピングするテーブルを含むメモリをさらに備える、項目1に記載の装置。
(項目5)
ディスプレイドライバをさらに備え、該ディスプレイドライバは、前記場面の選択された区画を表示するためにどの画像センサーからのどのピクセルを使用するかを決定するために、前記テーブルを参照する、項目4に記載の装置。
(項目6)
前記複数の画像センサーは、前記複数の画像センサーの前記視野内の少なくとも1つの半球状の領域をキャプチャするような位置に置かれている、項目1に記載の装置。
(項目7)
前記複数の画像センサーが高解像度で画像を記録する、項目1に記載の装置。
(項目8)
前記プロセッサは前記場面の前記解像度を減少させる、項目1に記載の装置。
(項目9)
前記プロセッサは前記場面の一部分の前記解像度を減少させる、項目1に記載の装置。
(項目10)
前記プロセッサは、実質的に静止している前記場面の一部分の前記解像度を選択的に減少させる、項目9に記載の装置。
(項目11)
ユーザーが前記場面の一領域を選択して、前記プロセッサが該場面の選択されていない部分の前記解像度を減少させる、項目9に記載の装置。
(項目12)
前記画像センサーにより記録された前記画像を受信するための画像マルチプレクサをさらに備えている、項目1に記載の装置。
(項目13)
前記画像マルチプレクサは前記画像を合わせて場面を作成する、項目12に記載の装置。
(項目14)
前記画像マルチプレクサにより受信された前記画像を保管するためのメモリをさらに備えている、項目12に記載の装置。
(項目15)
前記センサーにより記録された前記画像を保管するためのメモリをさらに備えている、項目1に記載の装置。
(項目16)
前記外側のハウジングは、硬い表面とぶつかっても元のままであるように、強固である、項目1に記載の装置。
(項目17)
前記プロセッサは、画像データのリアルタイム送信を可能にするように前記解像度を選択的に調整する、項目1に記載の装置。
(項目18)
前記外側のハウジングは、人の手にちょうど収まるような寸法に調整されているハウジングを備える、項目1に記載の装置。
(項目19)
前記ハウジングを構造物に取り付けるための取り付け具をさらに備えている、項目1に記載の装置。
(項目20)
前記プロセッサは、状況認識に応じた十分な解像度をユーザーに提供するように、前記画像の部分の解像度を減少するための手段を含む、項目8に記載の装置。
(項目21)
少なくとも2つのセンサーの視野内に配置されている格子パターンをさらに備え、該少なくとも2つのセンサーは、それぞれの視野に現われている該格子パターンの画像をキャプチャできる、項目1に記載の装置。
(項目22)
複数のセンサーの前記視野内の重複している領域を特定するために前記キャプチャした画像を処理し、該複数のセンサーのピクセルとパノラマ式画像のピクセルとを相互に関連付ける参照テーブルを生成するための較正メカニズムをさらに備えている、項目21の装置。
(項目23)
画像化装置であって、
外側のハウジングと、
内側のセンサーボディと、
該内側のセンサーボディの表面に配置された少なくとも1つの画像センサーであって、該画像センサーは、視野を有し、該視野内の画像を記録し、該画像は解像度を有している、画像センサーと、
該画像の少なくとも一部分の該解像度を選択的に調整するためのプロセッサと
を備えている、画像化装置。
(項目24)
前記画像センサーが高解像度で画像を記録する、項目23に記載の装置。
(項目25)
前記プロセッサは前記画像の前記解像度を減少させる、項目23に記載の装置。
(項目26)
前記プロセッサは前記画像の一部分の前記解像度を減少させる、項目23に記載の装置。
(項目27)
前記プロセッサは、実質的に静止している前記画像の一部分の前記解像度を選択的に減少させる、項目26に記載の装置。
(項目28)
ユーザーが前記画像の一領域を選択して、前記プロセッサが該画像の選択されていない部分の前記解像度を減少させる、項目26に記載の装置。
(項目29)
前記プロセッサは、画像データのリアルタイム送信を可能にするように前記解像度を選択的に調整する、項目23に記載の装置。
(項目30)
前記外側のハウジングは、硬い表面とぶつかっても元のままであるように、強固である、項目29に記載の装置。
【図面の簡単な説明】
【0019】
【図1】図1は、パノラマ式の視界を提供するための従来技術のシステムを表す。
【図2】図2は、パノラマ式の視界を提供するための従来技術のシステムを表す。
【図3】図3は、本発明に従うシステムの第一の実施例を表す。
【図4】図4は、グラフィック場面を表す。
【図5】図5は、2つの別々の視野に分けられた図4のグラフィック場面を表す。
【図6】図6は、視野内に配置された格子を備える本発明に従うシステムを表す。
【図7】図7は、視野内に配置された格子を備える本発明に従うシステムを表す。
【図8】図8は、視野内に配置された格子を備える本発明に従うシステムを表す。
【図9】図9は、2つの別々の視野の交差部分にある画像内の場所を表す。
【図10】図10は、高度なセンサーヘッドのさまざまな要素を示す機能ブロック図を表す。
【図11A】図11A〜図11Cは、本発明に従うシステムのさまざまな実施例を表す。
【図11B】図11A〜図11Cは、本発明に従うシステムのさまざまな実施例を表す。
【図11C】図11A〜図11Cは、本発明に従うシステムのさまざまな実施例を表す。
【図12A】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12B】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12C】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12D】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12E】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12F】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12G】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図13A】図13Aと図13Bは、本発明に従うシステムを表す。
【図13B】図13Aと図13Bは、本発明に従うシステムを表す。
【図14】図14は、図4に表された場面など、グラフィック場面を表すために、本発明に従い、システムを採用しているユーザーのディスプレイを表す。
【図15】図15は、廊下の壁に取り付けられて移動する物体を検出する、本発明に従うシステムを表す。
【図16A】図16Aは、本発明に従い、画像内に位置する移動している物体の画像に関する、システムの参照テーブル内のピクセルの範囲をグラフィカルに表す。
【図16B】図16Bは、本発明に従い、画像内の選択された視覚内に位置する移動している物体の画像に関する、システムの参照テーブル内のピクセルの範囲をグラフィカルに表す。
【図16C】図16Cは、本発明に従い、システムのディスプレイ上の画像を表す。
【図17】図17は、本発明に従い、兵士の集団がシステムを配備する都市部の戦闘地域をグラフィカルに表す。
【図18】図18は、固定地点の周囲で配備される、本発明に従う一連のシステムを表す。
【発明を実施するための形態】
【0020】
本発明の上記の内容やその他の目的と利点は、添付の図面を参照して、以下の詳細からさらによく理解される。
【0021】
パノラマのような表示は、極めて有用であり、このような表示を生成するための数々の既存のシステムが存在する。図1と2は、このようなパノラマのような景色を提供するための先行技術のシステムを表す。特に、図1は、画像を収集できるセンサー2が、図4に表された場面のようなパノラマのような視界を生成するために、機械的な旋回軸に取り付けられて、弧3,4を移動することができることを表す。図2は、魚眼レンズなど、非移動型センサーを表す。魚眼レンズは典型的にかなり高価である。
【0022】
図3は、複数のセンサー21がボディに静的に取り付けられて、それぞれのセンサー21が図5や図13Bに表されているように、パノラマのような場面の部分に向けられている場合の本明細書で説明されるシステムや方法の一実施例を表す。表された実施例において、複数のセンサー21は、ブロック上に取り付けられているので、それぞれの視野23、24、25は重なり合い、合同で、半球26全体を対象とする。ブロックは、図6に表されているように半球状のドーム51の内側に配置されて、一実施例では、レーザー光線が、格子のようなパターン52をなぞるように、ドームの内側表面にあてられる。レーザーのドライバはコンピュータと調整されているので、例えば、レーザーの点がセンサーブロックの直ぐ上に向けられている場合、コンピュータは、そのポイントのレーザースポットをどのセンサーのどのピクセルが「見ている」かの情報を参照テーブルに入力する。
【0023】
レーザー光線がドーム51の内側周辺を移動すると、参照テーブルは構築され、ドームの各スポットに対して、テーブルはどのセンサーのどのピクセルがそれを「見ている」かがわかる。その後、この参照テーブルは、センサーブロックと共に存在するメモリ装置に書き入れられる。このように、センサーは、低精度/低コストのやり方で取り付けられて、高精度の較正が為され得る。ハードウェアではなくソフトウェアの較正方法は低コストである。
【0024】
レーザー点は、ドーム内の各スポットを実質的にカバーするように作成することが可能であることに注意する(レーザー点の半径と十分な時間が与えられた場合)。つまり、参照テーブルは、1つ以上のセンサーの1つ以上のピクセルに対するドームの内側の各ピクセルの直接相関により入力することができる。あるいは、レーザーは、もっと間隔の広い格子またはその他のパターンをなぞるようにすることが可能で、これらの格子ポイント間の相関は、コンピュータにより補完され得る。
【0025】
ユーザーが、(例えば)、一定の方位角および高さで、幅40度、高さ20度のセンサーの半球状視界の区画を見たい場合、このリクエストはコンピュータに入力される。コンピュータは、この視界の四角形の左上隅が参照テーブルのどこにあるかを計算する。そして、ディスプレイドライバは、左から右、および上から下にディスプレイ画面をペイントする場合にどのセンサーのどのピクセルを使用すべきかを参照する。
【0026】
ユーザーが周辺に視野を移動すると、ディスプレイドライバは、ディルプレイをペイントするための情報を収集する参照テーブル内で、開始ポイントを移す。これは、図4に表されている場面30のようなグラフィック場面を介するユーザーの移動を表している図14に図説されている。一つの特徴に応じて、図14のディスプレイ110の視界は、ユーザー制御装置111を使用して周辺を移動することができる。ユーザー制御装置111は、任意の選択した方向に、ディスプレイ110の視界を移すために使用することができる。
【0027】
ある一つの較正ポイントに複数のピクセルがあれば(図9に示されているようにセンサーのフィールドが重なり合う場合に発生するように)、コンピュータは、ディスプレイを描く方法を選択するために、いくつかのさまざまな戦略を使用することが可能である。コンピュータは、
1つのピクセルを無作為に抽出する、
そのポイントにあるピクセルすべての値を平均化する、
最も暗いピクセルを排除して、明るいほうをディスプレイする(ピクセルのエラーモードがオフの場合)、
最近の変化を示すピクセルを使用する(破壊されたピクセル、またはレンズの汚れやその他の破損により視界が妨害されたピクセルを検出する別のやり方、つまり、自己修正メカニズムを備える)、または、
複数の選択肢を選択または組み合わせるためのその他任意の適切な技法を適用することができる。
【0028】
ユーザーが画面を「拡大」したい場合、ドライバは参照テーブルの格子のうちのより狭く短いほうのセクションを選択してディスプレイすることができる。この参照テーブルセクションのピクセル数が画面の幅いっぱいにペイントするために必要なピクセル数よりも少ない場合は、既存のカメラの「デジタルズーム」やPhotoshopなどのプログラムに一般的に存在するように、その間のピクセルを計算することができる。
【0029】
ユーザーが広い視野を得るために「縮小」し、参照テーブルのピクセルが画面の幅と高さ内のピクセルを超える場合は、コンピュータは、余分なピクセルを平均化し画面に表示される各ピクセルでペイントされるような平均値を得ることができる。
【0030】
複数の周波数感度のセンサー(例えば、可視光センサーや温度センサー)は、層状の参照テーブルに組み合わせることができる。これにより、ユーザーは、さまざまな種類の視覚から選択すること、または、さまざまなピクセル値をあわせて、センサー融合効果を得ることができる(これは、ターゲットの認識や特定の目的で軍事環境では一定の利点を持つことができる)。センサーは、任意の適切なタイプにすることが可能で、CCD画像センサーを含むことができる。センサーは、X11 Window Systemを稼働しているワークステーションや端末上に生データ、GIF、JPEG、TIFF、PBM、PGM、PPM、EPSF、X11ビットマップ、Utah Raster Toolkit RLE、PDS/VICAR、Sun Rasterfile、BMP、PCX、PNG、IRIS RGB、XPM、Targa、XWD、たぶんPostScript、およびPMフォーマットなど、任意のフォーマットのファイル、またはデータ処理システムへのインポートに適した任意の画像ファイルを生成することができる。さらに、.AVI、.MPGフォーマットのデジタルビデオ画像などのビデオ画像を生成するためのシステムを採用することができる。
【0031】
オプションで、システムは、システムに組み込まれたマイクロコントローラを備えることができる。マイクロコントローラは、8051や6811クラスのコントローラなど市販されている任意のマイクロコントローラを備えることができる。マイクロコントローラは、画像処理機能や較正機能を実装するために、さらに、画像キャプチャ操作など個別のシステムを制御するためにプログラムを実行できる。オプションで、マイクロコントローラは、画像フィルタリング、画像向上の画像処理を実施するためと複数の視野を組み合わせるための信号処理機能を含むことができる。これらのシステムは、テキサス州オースチンのTexas Instruments Companyにより製造販売されているTMS320コアに基づくDSPなど、本明細書に説明される画像処理機能を実装することができるデジタル信号プロセッサ(DSP)をすべて含むことができる。
【0032】
オプションで、システムのセンサーヘッドとディスプレイの間の帯域幅を削減することが必要な場合は、参照テーブルのデジタルストレージと関連するプロセッサをセンサーヘッド内に配置して、「高度なセンサーヘッド」を作成することができる。このように、ユーザーが参照テーブルのピクセル内の一定の視界のフレームを呼び出す場合には、センサーヘッドは、センサーヘッドの視野全体を構成する大きいデータセットではなく、その特定の情報だけを送信しなければならない。この構成は、例えば、センサーヘッドとディスプレイの間にワイヤレス接続を使用する場合、望ましい。ワイヤレス接続のほかに、センサーヘッドは、有線、光ファイバー接続または光の手段(例えば、赤外線発光装置/検出装置の組み合わせ)により、ディスプレイユニットと通信する場合がある。
【0033】
また、システムは、センサーヘッドの視野の区画のピクセルに一定の変化がある場合に(つまり動きがあった場合にだけ)、「高度なセンサーヘッド」が画像をシステムのディスプレイに送信するように構成することもできる。ある方法では、参照テーブルを管理するプロセッサは、例えば、視野内のピクセルの一定の数が一定の設定量以上に変化するけれども、これらの変化しているピクセルの周囲のその他のピクセルは変化していないかどうかを注意するようにプログラムされることにより、動きを検出することができる。そして、「高度なセンサーヘッド」は、これらの変化しているピクセル(動いている物体)がフレームの中央になるように、視界のフレームを選択して、その画像をディスプレイに送信する可能性がある。あるいは、センサーヘッドは、規定のセットの視界フレームの中から最高に変化しているピクセルを含むフレームを選択して、そのフレームをディスプレイに送信する可能性がある(これにより、可能なフレームのセットに慣れたユーザーは、大きい視野内で、動きが発生している場所を識別することがより容易になる)。
【0034】
図10から12Gは、高度なセンサーヘッドの特定の実施例を詳細に表す。特に、それぞれの区画がそれぞれの解像度を有する、複数の区画がある画像を提供するために十分な知能を持つセンサーヘッドを表す。後述するように、このような高度なセンサーヘッドは、このような画像アプリケーションにおいて典型である大量のデータが、キャプチャされて、リアルタイムで遠隔地に送信されることができるタイプのデータ圧縮フォーマットを実現する。
【0035】
図10を参照すると、機能概略図200は、高解像度画像として送信する画像の部分を選択的に選択して、残りの部分を低解像度画像として送信することにより、データ圧縮ができる高度なセンサーヘッドのさまざまな要素を示す。特に、図10は、センサー204a−204nなど、センサー配列上で画像に焦点を合わせる複数のレンズ202a−202nを示す。表されているレンズ202a−202nは、図3に示されているレンズと同様に、センサーヘッドの外側表面上に配置することができる。センサー配列は、画像のデジタル信号表現を生成するために、業界で普通に使用されているタイプのCCD配列であり得る。CCDは、描かれているマルチプレクサ210にフィードできるデジタル出力を持つことができる。描かれたマルチプレクサ210は、CCD配列の複数のセンサー204a〜204nからデータ信号を受信するが、この場合、マルチプレクサ210により受信されるそれぞれの信号は、装置によりキャプチャされている画像全体の一区画を構成する高解像度画像を備えることができる。代わりの実施例では、マルチプレクサ210に送信される信号は、装置によりキャプチャされている画像全体の一区画を構成する低解像度画像を備えることができる。この画像データは、マルチプレクサ210により、システムバス214を通って、システムバス214上にあるビデオメモリ218に送信することができる。また、一実施例では、このビデオメモリは、センサー204a〜204nからキャプチャされたデータの高解像度画像を保管することができる。
【0036】
一実施例では、マイクロプロセッサ220またはデジタル信号プロセッサは、ビデオメモリ218のデータにアクセスして、遠隔地に送信されるデータを受信装置/送信装置222にフィードすることができる。受信装置/送信装置222は、データを送信するためのトランシーバーを含み得る。この実施例では、それぞれ特定のセンサー204a−204nは、それぞれのセンサーに関連付けられたメモリアドレスの範囲内でビデオメモリ218にその視野(FOV)データを保管する。このように、ビデオメモリに保管されたデータは、少なくとも論理的に、特定のセンサーと関連のFOVに関連付けられることができ、従って高度なセンサーヘッドによりキャプチャされている画像の特定の区画に関連付けられることができる。ある操作では、マイクロプロセッサ220は、メモリ218に保管された画像データにアクセスして、そのデータを送信装置222から遠隔地に送信する。マイクロプロセッサ220は、画像メモリ218から読み出す場合にデータの解像度を調整することが可能なので、高解像度で送信するように選択されたセクション以外は、送信される画像の各セクションの解像度を減少させることができる。
【0037】
一実施例では、画像データに保管されたデータは、1024x1024ピクセルのCCD配列センサーに関連付けられた16ビットデータである。操作では、マイクロプロセッサ220は、1024x1024のピクセル範囲のデータの一部だけを転送するように選択できるので、4ビットのような小さいビットで転送するように選択することもできる。送信するように選択される一部は、関連付けられたFOVに解像度を減少させた画像を与えるデータの低減されたサブセットを選択することにより、選択することができる。一部は、例えば、ビデオメモリ218に保管されたデータを4番目ごとにピクセル値を取ることにより選択することができる。このように、送信される大部分の画像を低解像度で持つことにより、大量のデータ圧縮が、実現される。
【0038】
代わりの実施例では、マイクロプロセッサ220は、センサー204a〜204nに接続する制御線を持つことができる。制御線により、マイクロプロセッサ220は、個別のセンサー204a〜204nの解像度、または、センサー204a〜204nにより生成された画像データの解像度を制御できるようになる。この代わりの実施例では、マイクロプロセッサ220は、遠隔地のユーザーから送信された制御信号に応答することができる。図10に描かれた受信装置/送信装置222は、制御信号を受信できて、システムバス214からマイクロプロセッサ220に送ることができる。制御信号は、マイクロプロセッサ220に、さまざまなセンサー204a〜204nの解像度を選択するように命令するので、1つ以上のセンサー204a〜204nは、ある解像度でデータを生成し、その他は別の解像度でデータを生成する。
【0039】
別の実施例に従い、高度なセンサーヘッドはセンサー204a1つだけを備えることもできる。マイクロプロセッサ220は、センサー204aに接続する制御線を有することがあり、制御線は、マイクロプロセッサ220がセンサー204aの解像度またはセンサー204aにより生成される画像データの解像度を制御できるようにすることができる。この代わりの実施例では、マイクロプロセッサ220は、遠隔地のユーザーから送信された制御信号に応答することができる。一つの特徴によれば、マイクロプロセッサ220は、センサー204aにより生成される画像データの一部分の解像度を調整することができる。例えば、センサー204aは、高解像度の画像を記録することができ、マイクロプロセッサ220は、記録された画像の選択部分以外のすべての解像度を減少させることができる。図10に描かれた受信装置/送信装置222は、制御信号を受信できて、システムバス214からマイクロプロセッサ220に送ることができる。制御信号は、マイクロプロセッサ220に、センサー204aにより記録される画像のさまざまな部分の解像度を選択するように命令するので、センサー204aは、ある解像度で画像の1つ以上の部分を、別の解像度でその他の部分を生成する。
【0040】
上記の実施例では、センサーヘッドは、高または低解像度でデータを送信できるとして検討した。しかしながら、当業者には、解像度は、本発明の範囲を逸脱することなく、必要に応じて、または手持ちのアプリケーションにより許可されているように変えることができること、さらに、複数の解像度が採用できることが明らかである。さらに、高解像度で送信されるFOVの数も変えることができる。これらおよびその他の変形は、すべて、図10に描かれた実施例内に包含されると理解される。
【0041】
一実施例に従い、高解像度の画像データは、インチあたり約150ピクセルを超える解像度を有する。この解像度は、インチあたり約150、約300、約500、約750、約1000、約1250、約1500、約1750、約2000、または約2500にできる。一部の実施例では、低解像度の画像データは、インチあたり約150ピクセル未満の解像度を有する。この解像度は、インチあたり約5、約10、約20、約30、約40、約50、約75、約100、約125、または約150にできる。
【0042】
一部の実施例に従い、画像データは、状況認識に十分な解像度を有する。一つの特徴では、状況認識とは、画像の物体を概略的に認識することである。観察者は、これらの物体の詳細を識別し得ることなく、画像内の物体の状況認識ができる。例えば、観察者は、画像の中の物体が建物であると判断できるが、建物の窓を特定することはできない場合がある。または、観察者は、物体が車であると判断できるが、車の種類を判断することはできない場合がある。別の例では、観察者は物体が人であると判断できるが、人の性別や顔の特徴など人の特徴を特定することはできない場合がある。このように、観察者が画像に表された場面の状況認識をすると、観察者は、場面の詳細を区別することはできなくても画面が描くものを概略的に理解する。さらに、場面の状況認識のある観察者は、場面の物体の動きを検出できる。
【0043】
その他の実施例では、状況認識は、環境または場面の重要な要素に気づくことを含む。状況認識は、場面で何が発生しているかについての情報の重要な要素を特定し、処理して理解する能力、さらに、場面が変わるにつれて、あるいは場面の物体が動くに連れて何が発生しているかを理解することを含むことができる。
【0044】
データ圧縮は、任意の適切な技法を使用して実現することができる。例えば、センサーにより生成されるデータは、画像のピクセル数を減少させるために、対数マッピングテーブルから再サンプリングすることができる。画像の中央から遠ざかるにつれ連続的にサイズが大きくなり、つまり解像度が減少するセルを有する点対称なパターンである再サンプリング形態を使用することができる。また、らせんサンプリング技法も使用することができる。サンプリングパターンは、高解像度データを提供するセンサー以外の、3つのセンサーすべての視野に渡ってパノラマ式に広がることができる。最高の解像度を有する位置は、後述するように、操作者が選択することができる。カラーデータ圧縮も適用できる。
【0045】
図11A−11Cは、強固な外側のハウジング231、234、237をそれぞれ有する携帯装置230、233、236の一部として形成された高度なセンサーヘッドのさまざまな実施例を表す。強固な外側のハウジング231、234、237により、装置230、233、236は、ユーザーにより放り投げられて、地面または遠くに落ちることが可能である。ハウジング231、234、237は、携帯できるように小型で、ポリプロピレンまたはPMMAなどのプラスチックから作成することができ、軽量である。装置230、233および236は、複数のレンズ232、235および238を含む。レンズ234、235、238は、プラスチックのフレネルレンズであり、ハウジング231、234および237に形成される開口部に配置される。代わりの実施例では、レンズ234、235、238は、例えば標準レンズ、広角レンズ、および魚眼レンズなど、任意の適したタイプのレンズにできる。ハウジング231、234および237は、約10,000ニュートンの衝撃力に耐えることができるように強固であり得る。さまざまな実施例では、ハウジング231、234および237は、約250N、約500N、約1000N、約2500N、約5000N、約7500N、約15000N、約25000N、50000N、または100000Nの衝撃力に耐えられるように設計され得る。落下して安定するとすぐに写真を撮り始めるように、装置230、233、236に命令する起動スイッチを押すことができる。実際には、法執行官または兵士は、センサー装置230、233または236を遠くへまたは壁の向こうに放り投げる可能性がある。それで、センサーヘッドは、部屋内部または壁の向こう側の場面の画像を生成でき、これらの画像を、執行官または兵士により持ち運びされる携帯型受信機/ディスプレイユニットに送り返すことができる。
【0046】
さらに特定すると、図11Aは、円状または多角形のヘッド部分と、ヘッド部分の平面に実質的に垂直な平面内に広がっているタブ部分239を含む装置230を示す。ヘッド部分はレンズ232を含む。一つの特徴に従い、タブ部分239は、装置230が落下後に装置を安定化させる。
【0047】
図11Bは、装置233を示す。装置233は、実質的に楕円−球状でエッジにテーパーがつけられている。一つの特徴に従い、レンズ235は、外側のハウジング234の表面の実質的にすべての部分をカバーする。装置233は、さらに、装置233の上面に実質的に垂直になるように配置されるワイパー229を含む。一つの特徴に従い、ワイパー229は、装置233のまわりを回転することができ、レンズ235の水または汚れを清掃する。
【0048】
図11Cは、装置236を示す。装置236は、多角形のプリズムで、その断面には10辺を有する。一つの特徴に従い、装置の幅は、装置の高さよりも大きい。その他の実施例では、装置236は、任意の適した数の側面を有することができる。あるいは、実質的に円筒状にできる。装置236は、装置236の側面に配置することができるレンズ238を含む。
【0049】
図12Aは、図11A−11Cに描かれたシステムのいずれかが撮影できる高解像度画像240の一例を表す。次の図12Bは、同じ場面の低解像度画像242を表す。この画像242は、ユーザーに送信され低減された一連の画像データを表しているので、濃淡のむらがある。図12Cの画像244は、図12Bと同じ画面を表すが、画像データを平滑化する平滑化処理を実行することにより、図12Bに示された最初の濃淡のむらがある画像242から派生した画面である。一実施例に従い、図12Bの濃淡のむらのある低解像度の画像242は、高度なセンサーヘッドから遠隔地に送信され、遠隔地で、この画像は図12Cに示されるような平滑化された画像244として表示される。242と244の両方の画像は、同じ情報を含むが、平滑化された画像244は、人のユーザーにもっとわかりやすい。さらに、平滑化された画像244の解像度は、一般的に、人のユーザーが、場面の一定の形状や物体を理解して特定できるためには十分である。画像の解像度は低く、画像244は詳細を欠いているが、頭脳は必要な詳細をうめようとする。
【0050】
人の視覚システムでは、視野の中央にある小さい区画(約5度、眼窩)だけが高解像度の能力を持つ。観察者の視野のこの部分以外はすべて、低解像度で認識される。観察者の注意が、高解像度視野の外側にある物体に向かうと、観察者の眼は、関心の新しい物体上に焦点をあわせるように素早く動き、新しい物体は眼窩に置かれ、高解像度で認識されてはっきりと見える。
【0051】
さらに、観察者が物体を「見る」と、眼は、多くの場合、観察者が物体を認識できるために十分な情報だけを送信し、脳がメモリから適切な詳細を追加する。例えば、観察者が顔を見るとき、脳はまつげを「追加」し得る。このように、平滑化された低解像度画像は、実際に持っているよりも多くの詳細を持っているように見えるので、平滑化された低解像度画像内の物体は容易に特定されることができる。
【0052】
平滑化処理は有用な利点を示すが、オプションの補足的な処理であり、説明したシステムや方法の操作には必ずしも必要ではない。
【0053】
次の図、図12Dは、画像250を示す。ユーザーの入力に対する応答の一時的なシーケンスの一部として、または、無作為のいずれかで、システムは、高解像フォーマットで送信する画像250のさまざまな区画の選択を開始し得る。これは、場面の右側に示される画像250の高解像度区画252により、図12Dに表される。次の図、図12Eは、画像260を示すが、車とその隣の木の上に中央寄せされている解像度区画258を例示する。送信される画像260は、ユーザーが興味を持たない画像の部分では比較的低解像度である。しかしながら、車とその隣の木の画像をキャプチャしているセンサー配列は、特定され得るので、そのセンサーにより生成される画像データも、特定されて、高解像フォーマットで遠隔地に送信されることが可能になる。これにより、図に描かれた合成画像260が提供される。
【0054】
図12Fは、場面のある区画に配置されたユーザーの制御ボックス264と画像262を示す。この場合、この区画は低解像区画である。ユーザーは、高解像度で見たいセクションを選択することができる。そして、ユーザーは、高解像度で表されている画像の区画を、区画268から、ユーザーにより選択されているユーザー制御ボックス264の下の区画に変更するように、高度なセンサーに命令する制御信号を生成することができる。一実施例に従い、図14のユーザー制御装置111と同様なユーザー制御装置は、ユーザー制御ボックス264をシフトするために使用することができる。
【0055】
代わりの実施例では、システムは場面の動きを検出して、高解像度ウィンドウを検出した動きを含む視野に向け直す。
【0056】
図12Gは、高解像セクション278で見ることができる家272を示す新しい画像270を表す。さらに、この画像270は、先に表した車274も示す。この車274は、今は低解像フォーマットで示されているが、先に高解像フォーマットを使用したことにより、ユーザーは、この物体を車として識別でき、いったん識別すると、この画像を高解像フォーマットで実際に表す必要性は少ない。観察者の脳は、以前に車を認識しているので、車の外観の過去の記憶に基づいて、適切な詳細をうめる。したがって、図10から12Gを参照して説明したシステムおよび方法は、遠隔ユーザーに高速の画像送信を提供する目的において、データを圧縮する機能を有する高度なセンサーヘッドを提供する。
【0057】
図11A−11Cに示された装置230、233および236のような高度なセンサーヘッド装置は、手榴弾のように投げることができるが、別の実施例では、装置は、取付金具またはその他の取り付けメカニズムを有することができ、敵対する都市環境で戦う兵士のグループは、通過したばかりの交差点にある建物の角にセンサーヘッドを取り付けることが可能である。高度なセンサーヘッドが視野に動きを検出すると、その視野のフレームから兵士に、動いている物体を中心とする画像を送信することが可能である。例えば、敵の戦車が兵士の後ろ側の道路から現れようとすれば、装置は、戦車を含む場面の画像を送信して、兵士に敵が近づいていることを警告する。このようなセンサーがあれば、交差点を監視するために兵士を残すことが不必要になり、センサーのほうが、兵士よりも敵に気づかれることは少ない。
【0058】
本発明に従う別の例では、一時的に固定された場所にいる兵士のグループは、周辺を防御できるように、場所の周囲に高度なセンサーヘッドをいくつか設定する可能性がある。センサーヘッドの1つが視野に動きを検出すると、その視野のフレームから兵士に、動いている物体を中心とする画像を送信するようになる。一実施例に従い、ディスプレイは、兵士に新しく受信する画像を警告する。複数の場所で動いている物体があれば、センサーヘッドは、ディスプレイに連続して画像を表示し、画像をタイル状に表示するか、または、複数の画像を表示するための別の適切な方法を採用することが可能である。オプションで、ユーザーは、ワイヤレスコントローラにより、装置を制御するための携帯型リモートを持つことができる。リモートのディスプレイは、装置によりキャプチャされ送信されたデータを表示することができる。携帯型リモートは、ディスプレイ上に画像を適応させるなど、画像処理機能を実行するためのデジタル信号プロセッサを含む。例えば、場面データが、上下逆のような角度でキャプチャされると、デジタル信号プロセッサは画像を回転することができる。また、デジタルズーム効果も提供することができる。装置は低コストで、比較的低解像度のセンサーを採用することができるが、装置のピクセル数全体は、複数のセンサーがあることから、かなり高くすることができることを当業者は認識するであろう。このように、システムは場面内の1つのFOV専用のセンサーによりキャプチャされたデータをデジタル的にズームできるので、ズーム効果は、かなりの拡大観察を可能にし得る。
【0059】
本発明に従う別の例では、センサーヘッドは、建物の壁に貼り付けることができるように構成することができる。あるいは、センサーヘッドは、ユーザーが送信元にしたい場所に投げることができるように構成することができる。であるから、画像の正しい上下方向は、ユーザーがセンサーヘッドを正確に取り付けまたは配置することを必要としないやり方で、ディスプレイユニットで実現される。センサーヘッドは、プロセッサがディスプレイに送信する正しい画像の方向を判断する場合に使用できる、重力方向センサーを含むことができる。
【0060】
説明されたシステムと方法は、本発明の例として示すだけであって、数々の変更や追加が可能である。例えば、センサーは1つのブロック上にあることは必要ではなく、車の表面周囲、またはトンネルやパイプの側面に配置される場合がある。センサーの視野が重なり合えば合うほど、システムに構築される冗長が増える。また、較正格子は、図7や図8に表されているように、電灯、LCDまたはCRT画面の固定パターンでもあり得る。センサーブロックは、ほぼ環境の半球状を範囲とすることができる。
【0061】
この方法により、正確ではない、つまり安価なセンサーヘッドの製造や、各センサーの正確な機械的較正に代わり、センサーヘッド全体の製造後のソフトウェア較正が可能になる。各センサーヘッドの取り付けが比較的正確でなければならない場合は、汎用の較正をユニットの参照テーブルに焼きいれることが可能である。これは、各車両を較正施設に輸送する必要がないように車の周囲にセンサーを取り付けるなどの状況において適用がある。広角レンズに比較すると、狭い視野を有する複数の30センサーにより使用される光線は、広角レンズの視野の端の光よりも、光学軸にもっと並行であることがわかる。垂直な光線は、収束させることがより容易であるので、安価でより高い解像度を得ることができる。
【0062】
説明した技法は、パイプ(金属性または消化管)の検査に使用することが可能である。プローブ全体が「見る」場合、視野の移動/角度調節メカニズムを構築する必要がない。その他の実施例では、装置は、大型の電球表面周囲に取り付けられたセンサーを有する可能性がある。装置の方向を決める重力(上下)センサーにより、風の中で地形をころげまわって、360度の視野のビデオを送り返すことができる移動装置を作成することができる。説明されたシステム製造の一実践では、センサーは、鋳造Lexan(耐圧)に設けて、深海探査機に配置される。この装置では、カメラのために、重い、高価で大型の防水ドームを必要としない。これらの安価な装置は、機密や軍事用途など、多数の用途で使用することができる。一実施例では、ユニットは、潜水艦の司令塔の上に配置することができる。これにより、潜水艦が衝突した浮上テスト中に日本の船が沈んだような真珠湾沖での最近の衝突を防ぐことができたはずである。
【0063】
説明したシステムは、複数のセンサーがその上に取り付けられる装置に合わせた大きさの半球状のドームを備える製造システムを含む。図13Aに示されているように、ドームの内側の光点を追跡するレーザーまたはその他の光源を含むことができる。あるいは、電灯やLCDまたはCRT画面の固定のパターンを採用するなど、較正格子を提供するためのその他の方法を提供することができる。どの場合にも、複数のセンサーと、レーザードライバーに連結されたコンピュータが、光点の場所を判断して、その場所に関連付けられるセンサーに対するピクセルまたはピクセルのグループを選択する。
【0064】
図15に示されているように、上から見ると、センサーヘッド100は、その視野122全体がほとんどの廊下をカバーするように、廊下120の壁に取り付けられる。また、廊下120を歩いてくる人126が視野122内にいる。
【0065】
図16Aに図式的に示されるように、参照テーブル130は、本発明に従い、装置の視野を備えるピクセル132から構成される。ある時刻におけるこれらのピクセル内で、ピクセル134の小さいサブセットは、センサーヘッドの視野内で動いている物体を表す。図16Bに示されるように、センサーヘッドのプロセッサは、動いている物体を表すピクセル134を中心にした、センサーヘッドの視野全体130内の視界フレーム136を選択するようにプログラムすることができる。図16Cに示されるように、この視界フレームに含まれたこのピクセルが装置のディスプレイに送信されると、検出された動いている物体126の画像が中央となる画像138になる。
【0066】
図17に示されるように、都市環境142で戦っている兵士のグループ140が、高度なセンサーヘッド100を、通りがヘッドの視野122に入るように取り付けて、後ろの建物の壁144に残すと、センサーヘッドは、兵士が持っているディスプレイへのワイヤレス接続を経由して、戦車146のような敵が後ろから来ていて、引き続き脅威の可能性があることを示すことができる。
【0067】
図18に示されるように、位置150を占領している兵士のグループは、視野154が重なるように、その位置の周囲に複数の高度なセンサーヘッド152を配備することができる。このように、兵士は、脅威や可能な攻撃を検出するために、その位置周辺の偵察を容易に維持することができる。
【0068】
システムは、さらに、ボディ表面に配置された複数のセンサーを含むセンサー装置や、特定の場所からのデータ、あるいは特定の場所を通過しているデータに関する情報をどのセンサーが提供すべきかを判断するためにセンサーを選択するためのメカニズムを含む。ボディは、任意の形状または大きさにすることができて、選択される形状や大きさは、用途に応じる。さらに、ボディは、車、戦車、飛行機、潜水艦やその他の車両を含む車両のような装置のボディを含むことができる。さらに、表面は、折り畳み可能なボディの表面を含むことができるので、画像をキャプチャするための固体センサーを採用する潜望鏡を提供することができる。これらの実施例では、システムは、センサーに複数の較正設定を提供する較正システムを含むことができる。それぞれの較正設定は、表面が有し得る別の形状に対応することができる。このように、折り畳み位置にある潜望鏡の較正設定は、潜望鏡が伸びた位置にある場合や、表面が細長くなり、潜望鏡の表面に配置されたセンサーの間隔がさらに広がる場合に採用される較正設定とは別にすることができる。
【0069】
システムは、画像センサー、CCDセンサー、赤外線センサー、温度撮像センサー、音センサーや磁気センサーのグループから選択されるセンサーを含むことができる。
【0070】
上記のように、これらのセンサーにより、組み込まれたプロセッサ上またはUnix(登録商標)ワークステーションのような従来のデータ処理システム上で稼働するソフトウェアコンポーネントを含むハードウェア装置やシステムを実現できる。この実施例では、ソフトウエアメカニズムは、C言語のコンピュータプログラム、または、C++、Fortran、Java(登録商標)またはBasicなど、任意の高レベルの言語で作成されたコンピュータプログラムとして実装できる。さらに、マイクロコントローラまたはDSPが採用されている実施例では、ソフトウェアシステムは、採用されたプラットフォーム上で実行可能であるマイクロコードに作成された、あるいは高レベル言語で作成されて、マイクロコードにコンパイルされたコンピュータプログラムとして実現することができる。このような画像処理システムの開発は、当業者には知られており、このような技法は、Digital Signal Processing Applications with the TMS320 Family、第I巻、第II巻および第III巻、Texas Instruments(1990)に記載されている。さらに、高レベルのプログラムの一般的な技法は知られており、例えば、Stephen G. Kochan,Programming in C,Hayden Publishing(1983)に記載されている。DSPは、特に、コントラスト、エッジ識別や明度の調整による画像向上などのプリプロセス機能など、信号処理機能の実装に適している。DSPやマイクロコントローラシステムのコード開発は、技術分野ではよく知られた原則に従う。
【0071】
当業者は、本明細書において説明された実施例や実践例に相当する多くの均等物を決まりきった実験を何ら用いることなく、理解し、または確信することができる。従って、本発明は開示された実施例に限定されないことが理解されるだけではなく、以下の請求項から法により許される限り広範囲に解釈されるべきことが理解される。
【技術分野】
【0001】
(関連出願の参照)
本出願は、米国仮特許出願第60/680,121号(2005年5月12日出願)の利益を主張する。上記出願の教示は、その全体が本明細書において参照により援用される。
【背景技術】
【0002】
(背景)
現在、画像データなどのデータを収集でき、そのデータをコンピュータが読み取り可能な形式で保管できる安価なセンサーが存在する。このようなセンサーの一例はCCD画像センサーである。そして、ソフトウェアプログラムが保管したデータにアクセスして、有用な情報を抽出するためにデータを操作し処理することができる。
【0003】
これらのセンサーが安価であることと、これらのセンサーから生成されたデータを処理するコンピュータプログラムが容易に利用可能であることから、ビデオ電話に適したあまり高価ではないビデオカメラや画像キャプチャアプリケーションなど、多数の新しいアプリケーションや装置が生まれることになった。
【0004】
これらの安価な装置の不利な点は、視野(FOV)範囲が限定されていることであった。安価なことから、技術者は、視野を広げるために複数のセンサーを使用しようとした。それぞれのセンサーが別々の視野をキャプチャするので、複数のセンサーを採用するシステムは、1つの画像または1つのデータのセットを作成するために、異なる視野を統合するシステムも有する必要がある。データセットは、ユーザーが見ることができる単独の合成データセットに統合される。一部のアプリケーションでは、これらのセンサーシステムは、遠隔地に配置され、キャプチャされた画像データは、多くの場合ワイヤレス送信などにより、ユーザーに送信される。これらのシステムは画像データをキャプチャするためにかなり高性能で機能するが、データセットが大型であると、高解像度の画像には一般的な問題が存在する可能性がある。特に、送信速度は、リアルタイムでデータを送信するために不十分な場合がある。このように、ユーザーは、リアルタイムの観測に十分なデータ速度で場面を見ることができない場合がある。一部のアプリケーションでは、リアルタイムのデータ観測は非常に重要である。特許文献1に開示されているような一部の従来技術のシステムは、パノラマ式の視界を蓄積的に提供し、この場合、画像送信の帯域幅を減少させるように画像が大幅に削減される複数の画像センサーを含む。しかしながら、例えば、軍用または法執行の活動など、一部の偵察状況では、さらに、衝撃力に耐えうる強固な装置を必要とする場合がある。
【0005】
さらに、その他の従来技術のシステムは、画像処理操作により修正される非常に広角のレンズを含む。このようにして、パノラマ式の視界を作成することができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】米国特許出願公開第2005/0141607号明細書
【発明の概要】
【発明が解決しようとする課題】
【0007】
技術的には、データをリアルタイムのデータ速度で遠隔地に提供するように改善された強固な画像センサーシステムに対する必要性が存在する。さらに、複数のセンサーが協力して拡大された視野を表現する合成画像を提供することができる効率的であまり高価ではないシステムへの必要性が存在する。
【課題を解決するための手段】
【0008】
本発明は、改善された画像センサーシステムを提供することにより、従来技術の欠陥に対応する。さらに特定すると、さまざまな局面で、本発明は、複数の視野を有する遠隔の携帯画像装置からリアルタイムで画像を送信するための技術を提供する。
【0009】
一局面では、本発明は、外側のハウジング、内側のセンサーボディ、センサーボディの表面に配置された複数の画像センサーであって、各画像センサーは視野を有して、それぞれの視野の画像を記録し、1場面には1つ以上の画像が組み合わされており、場面は解像度を有しているセンサーと、場面の少なくとも一部分の解像度を選択的に調整するためのプロセッサを備える携帯型の画像装置を提供する。
【0010】
一実装では、携帯型の画像装置は、画像データを遠隔地に転送するために、プロセッサに接続する受信機も備える。受信機は、プロセッサから、またはメモリから画像データを受信することができる。
【0011】
一特徴では、複数の画像センサーは、視野が重なり合うように配置される。複数の画像センサーは、複数の画像センサーの視野内に少なくとも1つの半球状の領域をキャプチャするように配置され得る。その他の実施例では、複数の画像センサーは、複数の画像センサーの視野内で360度の視界をキャプチャするように配置することができる。
【0012】
一構成では、装置は、画面からの複数画像ポイントのそれぞれを少なくとも1つの画像センサーのピクセルにマッピングするテーブルを含むメモリをさらに備えることができる。装置は、ディスプレイドライバも備えることができる。このディスプレイドライバは、画面の選択部分を表示するためにどの画像センサーからのどのピクセルを使用するかを決定するために、テーブルを参照する。
【0013】
一実装では、複数の画像センサーは、高解像度で画像を記録する。プロセッサは、画像センサーによりキャプチャされた場面の解像度を選択的に減少させることができる。あるいは、プロセッサは、場面の一部分の解像度を選択的に減少させることができる。プロセッサは、条件に基づいて場面または場面の一部分の解像度を選択的に調整することができる。この条件には、場面の動きやユーザーの選択が含まれる。一実装では、プロセッサは、実質的に静的である場面の一部分の解像度を減少させて、場面の変化部分をもっと高解像度で送信する。別の実装では、ユーザーが場面の一領域を選択し、プロセッサが場面の選択されていない部分の解像度を減少させる。別の実施例では、複数の画像センサーは、低解像度で画像を記録する。
【0014】
さまざまな構成に応じて、装置は、さらに、画像センサーにより記録された画像を受信するための画像マルチプレクサを含む。一特徴に応じて、画像マルチプレクサは、画像を合成して場面を作成する。装置は、さらに、画像マルチプレクサにより受信された画像を保管するためのメモリを含む。
【0015】
一構成では、装置は、センサーにより記録された画像を保管するためのメモリを含む。
【0016】
一特徴に応じて、外側のハウジングは、硬い表面との衝撃にも元のままであるように、強固である。
【0017】
別の局面では、本発明は、外側のハウジングと、内側のセンサーボディと、内側のセンサーの表面上に配置される少なくとも1つの画像センサーであって、画像センサーは視野を有して、視野内の画像を記録し、画像は解像度を有する画像センサーと、画像の少なくとも一部分の解像度を選択的に調整するためのプロセッサとを備える画像化装置を提供する。
【0018】
一実装に従い、画像センサーは、画像を高解像度で記録する。プロセッサは、画像の解像度を減少させ得る。または、プロセッサは、画像の一部分の解像度を減少させ得る。一構成に従い、プロセッサは、実質的に静的な画像の一部分の解像度を選択的に減少する。別の実装に従い、ユーザーが画像の一領域を選択し、プロセッサが画像の選択されていない部分の解像度を減少させる。プロセッサは、画像データがリアルタイムで送信できるように解像度を選択的に調整し得る。
例えば、本願発明は以下の項目を提供する。
(項目1)
画像化装置であって、
外側のハウジングと、
内側のセンサーボディと、
該内側のセンサーボディの表面に配置される複数の画像センサーであって、各画像センサーは、視野を有し、それぞれの視野内の画像を記録し、該画像は場面を形成するように1つ以上のその他の画像と組み合わせ可能であり、該場面は解像度を有している、画像センサーと、
該場面の少なくとも一部分の該解像度を選択的に調整するためのプロセッサと
を備えている、画像化装置。
(項目2)
画像データを遠隔地に転送するために、前記プロセッサに接続する受信機をさらに備える、項目1に記載の装置。
(項目3)
前記複数の画像センサーは視野が重なるように配置されている、項目1に記載の装置。
(項目4)
前記場面からの複数の画像ポイントのそれぞれを少なくとも1つの画像センサーのピクセルにマッピングするテーブルを含むメモリをさらに備える、項目1に記載の装置。
(項目5)
ディスプレイドライバをさらに備え、該ディスプレイドライバは、前記場面の選択された区画を表示するためにどの画像センサーからのどのピクセルを使用するかを決定するために、前記テーブルを参照する、項目4に記載の装置。
(項目6)
前記複数の画像センサーは、前記複数の画像センサーの前記視野内の少なくとも1つの半球状の領域をキャプチャするような位置に置かれている、項目1に記載の装置。
(項目7)
前記複数の画像センサーが高解像度で画像を記録する、項目1に記載の装置。
(項目8)
前記プロセッサは前記場面の前記解像度を減少させる、項目1に記載の装置。
(項目9)
前記プロセッサは前記場面の一部分の前記解像度を減少させる、項目1に記載の装置。
(項目10)
前記プロセッサは、実質的に静止している前記場面の一部分の前記解像度を選択的に減少させる、項目9に記載の装置。
(項目11)
ユーザーが前記場面の一領域を選択して、前記プロセッサが該場面の選択されていない部分の前記解像度を減少させる、項目9に記載の装置。
(項目12)
前記画像センサーにより記録された前記画像を受信するための画像マルチプレクサをさらに備えている、項目1に記載の装置。
(項目13)
前記画像マルチプレクサは前記画像を合わせて場面を作成する、項目12に記載の装置。
(項目14)
前記画像マルチプレクサにより受信された前記画像を保管するためのメモリをさらに備えている、項目12に記載の装置。
(項目15)
前記センサーにより記録された前記画像を保管するためのメモリをさらに備えている、項目1に記載の装置。
(項目16)
前記外側のハウジングは、硬い表面とぶつかっても元のままであるように、強固である、項目1に記載の装置。
(項目17)
前記プロセッサは、画像データのリアルタイム送信を可能にするように前記解像度を選択的に調整する、項目1に記載の装置。
(項目18)
前記外側のハウジングは、人の手にちょうど収まるような寸法に調整されているハウジングを備える、項目1に記載の装置。
(項目19)
前記ハウジングを構造物に取り付けるための取り付け具をさらに備えている、項目1に記載の装置。
(項目20)
前記プロセッサは、状況認識に応じた十分な解像度をユーザーに提供するように、前記画像の部分の解像度を減少するための手段を含む、項目8に記載の装置。
(項目21)
少なくとも2つのセンサーの視野内に配置されている格子パターンをさらに備え、該少なくとも2つのセンサーは、それぞれの視野に現われている該格子パターンの画像をキャプチャできる、項目1に記載の装置。
(項目22)
複数のセンサーの前記視野内の重複している領域を特定するために前記キャプチャした画像を処理し、該複数のセンサーのピクセルとパノラマ式画像のピクセルとを相互に関連付ける参照テーブルを生成するための較正メカニズムをさらに備えている、項目21の装置。
(項目23)
画像化装置であって、
外側のハウジングと、
内側のセンサーボディと、
該内側のセンサーボディの表面に配置された少なくとも1つの画像センサーであって、該画像センサーは、視野を有し、該視野内の画像を記録し、該画像は解像度を有している、画像センサーと、
該画像の少なくとも一部分の該解像度を選択的に調整するためのプロセッサと
を備えている、画像化装置。
(項目24)
前記画像センサーが高解像度で画像を記録する、項目23に記載の装置。
(項目25)
前記プロセッサは前記画像の前記解像度を減少させる、項目23に記載の装置。
(項目26)
前記プロセッサは前記画像の一部分の前記解像度を減少させる、項目23に記載の装置。
(項目27)
前記プロセッサは、実質的に静止している前記画像の一部分の前記解像度を選択的に減少させる、項目26に記載の装置。
(項目28)
ユーザーが前記画像の一領域を選択して、前記プロセッサが該画像の選択されていない部分の前記解像度を減少させる、項目26に記載の装置。
(項目29)
前記プロセッサは、画像データのリアルタイム送信を可能にするように前記解像度を選択的に調整する、項目23に記載の装置。
(項目30)
前記外側のハウジングは、硬い表面とぶつかっても元のままであるように、強固である、項目29に記載の装置。
【図面の簡単な説明】
【0019】
【図1】図1は、パノラマ式の視界を提供するための従来技術のシステムを表す。
【図2】図2は、パノラマ式の視界を提供するための従来技術のシステムを表す。
【図3】図3は、本発明に従うシステムの第一の実施例を表す。
【図4】図4は、グラフィック場面を表す。
【図5】図5は、2つの別々の視野に分けられた図4のグラフィック場面を表す。
【図6】図6は、視野内に配置された格子を備える本発明に従うシステムを表す。
【図7】図7は、視野内に配置された格子を備える本発明に従うシステムを表す。
【図8】図8は、視野内に配置された格子を備える本発明に従うシステムを表す。
【図9】図9は、2つの別々の視野の交差部分にある画像内の場所を表す。
【図10】図10は、高度なセンサーヘッドのさまざまな要素を示す機能ブロック図を表す。
【図11A】図11A〜図11Cは、本発明に従うシステムのさまざまな実施例を表す。
【図11B】図11A〜図11Cは、本発明に従うシステムのさまざまな実施例を表す。
【図11C】図11A〜図11Cは、本発明に従うシステムのさまざまな実施例を表す。
【図12A】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12B】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12C】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12D】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12E】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12F】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図12G】図12A〜図12Gは、さまざまな解像度のグラフィック場面を表す。
【図13A】図13Aと図13Bは、本発明に従うシステムを表す。
【図13B】図13Aと図13Bは、本発明に従うシステムを表す。
【図14】図14は、図4に表された場面など、グラフィック場面を表すために、本発明に従い、システムを採用しているユーザーのディスプレイを表す。
【図15】図15は、廊下の壁に取り付けられて移動する物体を検出する、本発明に従うシステムを表す。
【図16A】図16Aは、本発明に従い、画像内に位置する移動している物体の画像に関する、システムの参照テーブル内のピクセルの範囲をグラフィカルに表す。
【図16B】図16Bは、本発明に従い、画像内の選択された視覚内に位置する移動している物体の画像に関する、システムの参照テーブル内のピクセルの範囲をグラフィカルに表す。
【図16C】図16Cは、本発明に従い、システムのディスプレイ上の画像を表す。
【図17】図17は、本発明に従い、兵士の集団がシステムを配備する都市部の戦闘地域をグラフィカルに表す。
【図18】図18は、固定地点の周囲で配備される、本発明に従う一連のシステムを表す。
【発明を実施するための形態】
【0020】
本発明の上記の内容やその他の目的と利点は、添付の図面を参照して、以下の詳細からさらによく理解される。
【0021】
パノラマのような表示は、極めて有用であり、このような表示を生成するための数々の既存のシステムが存在する。図1と2は、このようなパノラマのような景色を提供するための先行技術のシステムを表す。特に、図1は、画像を収集できるセンサー2が、図4に表された場面のようなパノラマのような視界を生成するために、機械的な旋回軸に取り付けられて、弧3,4を移動することができることを表す。図2は、魚眼レンズなど、非移動型センサーを表す。魚眼レンズは典型的にかなり高価である。
【0022】
図3は、複数のセンサー21がボディに静的に取り付けられて、それぞれのセンサー21が図5や図13Bに表されているように、パノラマのような場面の部分に向けられている場合の本明細書で説明されるシステムや方法の一実施例を表す。表された実施例において、複数のセンサー21は、ブロック上に取り付けられているので、それぞれの視野23、24、25は重なり合い、合同で、半球26全体を対象とする。ブロックは、図6に表されているように半球状のドーム51の内側に配置されて、一実施例では、レーザー光線が、格子のようなパターン52をなぞるように、ドームの内側表面にあてられる。レーザーのドライバはコンピュータと調整されているので、例えば、レーザーの点がセンサーブロックの直ぐ上に向けられている場合、コンピュータは、そのポイントのレーザースポットをどのセンサーのどのピクセルが「見ている」かの情報を参照テーブルに入力する。
【0023】
レーザー光線がドーム51の内側周辺を移動すると、参照テーブルは構築され、ドームの各スポットに対して、テーブルはどのセンサーのどのピクセルがそれを「見ている」かがわかる。その後、この参照テーブルは、センサーブロックと共に存在するメモリ装置に書き入れられる。このように、センサーは、低精度/低コストのやり方で取り付けられて、高精度の較正が為され得る。ハードウェアではなくソフトウェアの較正方法は低コストである。
【0024】
レーザー点は、ドーム内の各スポットを実質的にカバーするように作成することが可能であることに注意する(レーザー点の半径と十分な時間が与えられた場合)。つまり、参照テーブルは、1つ以上のセンサーの1つ以上のピクセルに対するドームの内側の各ピクセルの直接相関により入力することができる。あるいは、レーザーは、もっと間隔の広い格子またはその他のパターンをなぞるようにすることが可能で、これらの格子ポイント間の相関は、コンピュータにより補完され得る。
【0025】
ユーザーが、(例えば)、一定の方位角および高さで、幅40度、高さ20度のセンサーの半球状視界の区画を見たい場合、このリクエストはコンピュータに入力される。コンピュータは、この視界の四角形の左上隅が参照テーブルのどこにあるかを計算する。そして、ディスプレイドライバは、左から右、および上から下にディスプレイ画面をペイントする場合にどのセンサーのどのピクセルを使用すべきかを参照する。
【0026】
ユーザーが周辺に視野を移動すると、ディスプレイドライバは、ディルプレイをペイントするための情報を収集する参照テーブル内で、開始ポイントを移す。これは、図4に表されている場面30のようなグラフィック場面を介するユーザーの移動を表している図14に図説されている。一つの特徴に応じて、図14のディスプレイ110の視界は、ユーザー制御装置111を使用して周辺を移動することができる。ユーザー制御装置111は、任意の選択した方向に、ディスプレイ110の視界を移すために使用することができる。
【0027】
ある一つの較正ポイントに複数のピクセルがあれば(図9に示されているようにセンサーのフィールドが重なり合う場合に発生するように)、コンピュータは、ディスプレイを描く方法を選択するために、いくつかのさまざまな戦略を使用することが可能である。コンピュータは、
1つのピクセルを無作為に抽出する、
そのポイントにあるピクセルすべての値を平均化する、
最も暗いピクセルを排除して、明るいほうをディスプレイする(ピクセルのエラーモードがオフの場合)、
最近の変化を示すピクセルを使用する(破壊されたピクセル、またはレンズの汚れやその他の破損により視界が妨害されたピクセルを検出する別のやり方、つまり、自己修正メカニズムを備える)、または、
複数の選択肢を選択または組み合わせるためのその他任意の適切な技法を適用することができる。
【0028】
ユーザーが画面を「拡大」したい場合、ドライバは参照テーブルの格子のうちのより狭く短いほうのセクションを選択してディスプレイすることができる。この参照テーブルセクションのピクセル数が画面の幅いっぱいにペイントするために必要なピクセル数よりも少ない場合は、既存のカメラの「デジタルズーム」やPhotoshopなどのプログラムに一般的に存在するように、その間のピクセルを計算することができる。
【0029】
ユーザーが広い視野を得るために「縮小」し、参照テーブルのピクセルが画面の幅と高さ内のピクセルを超える場合は、コンピュータは、余分なピクセルを平均化し画面に表示される各ピクセルでペイントされるような平均値を得ることができる。
【0030】
複数の周波数感度のセンサー(例えば、可視光センサーや温度センサー)は、層状の参照テーブルに組み合わせることができる。これにより、ユーザーは、さまざまな種類の視覚から選択すること、または、さまざまなピクセル値をあわせて、センサー融合効果を得ることができる(これは、ターゲットの認識や特定の目的で軍事環境では一定の利点を持つことができる)。センサーは、任意の適切なタイプにすることが可能で、CCD画像センサーを含むことができる。センサーは、X11 Window Systemを稼働しているワークステーションや端末上に生データ、GIF、JPEG、TIFF、PBM、PGM、PPM、EPSF、X11ビットマップ、Utah Raster Toolkit RLE、PDS/VICAR、Sun Rasterfile、BMP、PCX、PNG、IRIS RGB、XPM、Targa、XWD、たぶんPostScript、およびPMフォーマットなど、任意のフォーマットのファイル、またはデータ処理システムへのインポートに適した任意の画像ファイルを生成することができる。さらに、.AVI、.MPGフォーマットのデジタルビデオ画像などのビデオ画像を生成するためのシステムを採用することができる。
【0031】
オプションで、システムは、システムに組み込まれたマイクロコントローラを備えることができる。マイクロコントローラは、8051や6811クラスのコントローラなど市販されている任意のマイクロコントローラを備えることができる。マイクロコントローラは、画像処理機能や較正機能を実装するために、さらに、画像キャプチャ操作など個別のシステムを制御するためにプログラムを実行できる。オプションで、マイクロコントローラは、画像フィルタリング、画像向上の画像処理を実施するためと複数の視野を組み合わせるための信号処理機能を含むことができる。これらのシステムは、テキサス州オースチンのTexas Instruments Companyにより製造販売されているTMS320コアに基づくDSPなど、本明細書に説明される画像処理機能を実装することができるデジタル信号プロセッサ(DSP)をすべて含むことができる。
【0032】
オプションで、システムのセンサーヘッドとディスプレイの間の帯域幅を削減することが必要な場合は、参照テーブルのデジタルストレージと関連するプロセッサをセンサーヘッド内に配置して、「高度なセンサーヘッド」を作成することができる。このように、ユーザーが参照テーブルのピクセル内の一定の視界のフレームを呼び出す場合には、センサーヘッドは、センサーヘッドの視野全体を構成する大きいデータセットではなく、その特定の情報だけを送信しなければならない。この構成は、例えば、センサーヘッドとディスプレイの間にワイヤレス接続を使用する場合、望ましい。ワイヤレス接続のほかに、センサーヘッドは、有線、光ファイバー接続または光の手段(例えば、赤外線発光装置/検出装置の組み合わせ)により、ディスプレイユニットと通信する場合がある。
【0033】
また、システムは、センサーヘッドの視野の区画のピクセルに一定の変化がある場合に(つまり動きがあった場合にだけ)、「高度なセンサーヘッド」が画像をシステムのディスプレイに送信するように構成することもできる。ある方法では、参照テーブルを管理するプロセッサは、例えば、視野内のピクセルの一定の数が一定の設定量以上に変化するけれども、これらの変化しているピクセルの周囲のその他のピクセルは変化していないかどうかを注意するようにプログラムされることにより、動きを検出することができる。そして、「高度なセンサーヘッド」は、これらの変化しているピクセル(動いている物体)がフレームの中央になるように、視界のフレームを選択して、その画像をディスプレイに送信する可能性がある。あるいは、センサーヘッドは、規定のセットの視界フレームの中から最高に変化しているピクセルを含むフレームを選択して、そのフレームをディスプレイに送信する可能性がある(これにより、可能なフレームのセットに慣れたユーザーは、大きい視野内で、動きが発生している場所を識別することがより容易になる)。
【0034】
図10から12Gは、高度なセンサーヘッドの特定の実施例を詳細に表す。特に、それぞれの区画がそれぞれの解像度を有する、複数の区画がある画像を提供するために十分な知能を持つセンサーヘッドを表す。後述するように、このような高度なセンサーヘッドは、このような画像アプリケーションにおいて典型である大量のデータが、キャプチャされて、リアルタイムで遠隔地に送信されることができるタイプのデータ圧縮フォーマットを実現する。
【0035】
図10を参照すると、機能概略図200は、高解像度画像として送信する画像の部分を選択的に選択して、残りの部分を低解像度画像として送信することにより、データ圧縮ができる高度なセンサーヘッドのさまざまな要素を示す。特に、図10は、センサー204a−204nなど、センサー配列上で画像に焦点を合わせる複数のレンズ202a−202nを示す。表されているレンズ202a−202nは、図3に示されているレンズと同様に、センサーヘッドの外側表面上に配置することができる。センサー配列は、画像のデジタル信号表現を生成するために、業界で普通に使用されているタイプのCCD配列であり得る。CCDは、描かれているマルチプレクサ210にフィードできるデジタル出力を持つことができる。描かれたマルチプレクサ210は、CCD配列の複数のセンサー204a〜204nからデータ信号を受信するが、この場合、マルチプレクサ210により受信されるそれぞれの信号は、装置によりキャプチャされている画像全体の一区画を構成する高解像度画像を備えることができる。代わりの実施例では、マルチプレクサ210に送信される信号は、装置によりキャプチャされている画像全体の一区画を構成する低解像度画像を備えることができる。この画像データは、マルチプレクサ210により、システムバス214を通って、システムバス214上にあるビデオメモリ218に送信することができる。また、一実施例では、このビデオメモリは、センサー204a〜204nからキャプチャされたデータの高解像度画像を保管することができる。
【0036】
一実施例では、マイクロプロセッサ220またはデジタル信号プロセッサは、ビデオメモリ218のデータにアクセスして、遠隔地に送信されるデータを受信装置/送信装置222にフィードすることができる。受信装置/送信装置222は、データを送信するためのトランシーバーを含み得る。この実施例では、それぞれ特定のセンサー204a−204nは、それぞれのセンサーに関連付けられたメモリアドレスの範囲内でビデオメモリ218にその視野(FOV)データを保管する。このように、ビデオメモリに保管されたデータは、少なくとも論理的に、特定のセンサーと関連のFOVに関連付けられることができ、従って高度なセンサーヘッドによりキャプチャされている画像の特定の区画に関連付けられることができる。ある操作では、マイクロプロセッサ220は、メモリ218に保管された画像データにアクセスして、そのデータを送信装置222から遠隔地に送信する。マイクロプロセッサ220は、画像メモリ218から読み出す場合にデータの解像度を調整することが可能なので、高解像度で送信するように選択されたセクション以外は、送信される画像の各セクションの解像度を減少させることができる。
【0037】
一実施例では、画像データに保管されたデータは、1024x1024ピクセルのCCD配列センサーに関連付けられた16ビットデータである。操作では、マイクロプロセッサ220は、1024x1024のピクセル範囲のデータの一部だけを転送するように選択できるので、4ビットのような小さいビットで転送するように選択することもできる。送信するように選択される一部は、関連付けられたFOVに解像度を減少させた画像を与えるデータの低減されたサブセットを選択することにより、選択することができる。一部は、例えば、ビデオメモリ218に保管されたデータを4番目ごとにピクセル値を取ることにより選択することができる。このように、送信される大部分の画像を低解像度で持つことにより、大量のデータ圧縮が、実現される。
【0038】
代わりの実施例では、マイクロプロセッサ220は、センサー204a〜204nに接続する制御線を持つことができる。制御線により、マイクロプロセッサ220は、個別のセンサー204a〜204nの解像度、または、センサー204a〜204nにより生成された画像データの解像度を制御できるようになる。この代わりの実施例では、マイクロプロセッサ220は、遠隔地のユーザーから送信された制御信号に応答することができる。図10に描かれた受信装置/送信装置222は、制御信号を受信できて、システムバス214からマイクロプロセッサ220に送ることができる。制御信号は、マイクロプロセッサ220に、さまざまなセンサー204a〜204nの解像度を選択するように命令するので、1つ以上のセンサー204a〜204nは、ある解像度でデータを生成し、その他は別の解像度でデータを生成する。
【0039】
別の実施例に従い、高度なセンサーヘッドはセンサー204a1つだけを備えることもできる。マイクロプロセッサ220は、センサー204aに接続する制御線を有することがあり、制御線は、マイクロプロセッサ220がセンサー204aの解像度またはセンサー204aにより生成される画像データの解像度を制御できるようにすることができる。この代わりの実施例では、マイクロプロセッサ220は、遠隔地のユーザーから送信された制御信号に応答することができる。一つの特徴によれば、マイクロプロセッサ220は、センサー204aにより生成される画像データの一部分の解像度を調整することができる。例えば、センサー204aは、高解像度の画像を記録することができ、マイクロプロセッサ220は、記録された画像の選択部分以外のすべての解像度を減少させることができる。図10に描かれた受信装置/送信装置222は、制御信号を受信できて、システムバス214からマイクロプロセッサ220に送ることができる。制御信号は、マイクロプロセッサ220に、センサー204aにより記録される画像のさまざまな部分の解像度を選択するように命令するので、センサー204aは、ある解像度で画像の1つ以上の部分を、別の解像度でその他の部分を生成する。
【0040】
上記の実施例では、センサーヘッドは、高または低解像度でデータを送信できるとして検討した。しかしながら、当業者には、解像度は、本発明の範囲を逸脱することなく、必要に応じて、または手持ちのアプリケーションにより許可されているように変えることができること、さらに、複数の解像度が採用できることが明らかである。さらに、高解像度で送信されるFOVの数も変えることができる。これらおよびその他の変形は、すべて、図10に描かれた実施例内に包含されると理解される。
【0041】
一実施例に従い、高解像度の画像データは、インチあたり約150ピクセルを超える解像度を有する。この解像度は、インチあたり約150、約300、約500、約750、約1000、約1250、約1500、約1750、約2000、または約2500にできる。一部の実施例では、低解像度の画像データは、インチあたり約150ピクセル未満の解像度を有する。この解像度は、インチあたり約5、約10、約20、約30、約40、約50、約75、約100、約125、または約150にできる。
【0042】
一部の実施例に従い、画像データは、状況認識に十分な解像度を有する。一つの特徴では、状況認識とは、画像の物体を概略的に認識することである。観察者は、これらの物体の詳細を識別し得ることなく、画像内の物体の状況認識ができる。例えば、観察者は、画像の中の物体が建物であると判断できるが、建物の窓を特定することはできない場合がある。または、観察者は、物体が車であると判断できるが、車の種類を判断することはできない場合がある。別の例では、観察者は物体が人であると判断できるが、人の性別や顔の特徴など人の特徴を特定することはできない場合がある。このように、観察者が画像に表された場面の状況認識をすると、観察者は、場面の詳細を区別することはできなくても画面が描くものを概略的に理解する。さらに、場面の状況認識のある観察者は、場面の物体の動きを検出できる。
【0043】
その他の実施例では、状況認識は、環境または場面の重要な要素に気づくことを含む。状況認識は、場面で何が発生しているかについての情報の重要な要素を特定し、処理して理解する能力、さらに、場面が変わるにつれて、あるいは場面の物体が動くに連れて何が発生しているかを理解することを含むことができる。
【0044】
データ圧縮は、任意の適切な技法を使用して実現することができる。例えば、センサーにより生成されるデータは、画像のピクセル数を減少させるために、対数マッピングテーブルから再サンプリングすることができる。画像の中央から遠ざかるにつれ連続的にサイズが大きくなり、つまり解像度が減少するセルを有する点対称なパターンである再サンプリング形態を使用することができる。また、らせんサンプリング技法も使用することができる。サンプリングパターンは、高解像度データを提供するセンサー以外の、3つのセンサーすべての視野に渡ってパノラマ式に広がることができる。最高の解像度を有する位置は、後述するように、操作者が選択することができる。カラーデータ圧縮も適用できる。
【0045】
図11A−11Cは、強固な外側のハウジング231、234、237をそれぞれ有する携帯装置230、233、236の一部として形成された高度なセンサーヘッドのさまざまな実施例を表す。強固な外側のハウジング231、234、237により、装置230、233、236は、ユーザーにより放り投げられて、地面または遠くに落ちることが可能である。ハウジング231、234、237は、携帯できるように小型で、ポリプロピレンまたはPMMAなどのプラスチックから作成することができ、軽量である。装置230、233および236は、複数のレンズ232、235および238を含む。レンズ234、235、238は、プラスチックのフレネルレンズであり、ハウジング231、234および237に形成される開口部に配置される。代わりの実施例では、レンズ234、235、238は、例えば標準レンズ、広角レンズ、および魚眼レンズなど、任意の適したタイプのレンズにできる。ハウジング231、234および237は、約10,000ニュートンの衝撃力に耐えることができるように強固であり得る。さまざまな実施例では、ハウジング231、234および237は、約250N、約500N、約1000N、約2500N、約5000N、約7500N、約15000N、約25000N、50000N、または100000Nの衝撃力に耐えられるように設計され得る。落下して安定するとすぐに写真を撮り始めるように、装置230、233、236に命令する起動スイッチを押すことができる。実際には、法執行官または兵士は、センサー装置230、233または236を遠くへまたは壁の向こうに放り投げる可能性がある。それで、センサーヘッドは、部屋内部または壁の向こう側の場面の画像を生成でき、これらの画像を、執行官または兵士により持ち運びされる携帯型受信機/ディスプレイユニットに送り返すことができる。
【0046】
さらに特定すると、図11Aは、円状または多角形のヘッド部分と、ヘッド部分の平面に実質的に垂直な平面内に広がっているタブ部分239を含む装置230を示す。ヘッド部分はレンズ232を含む。一つの特徴に従い、タブ部分239は、装置230が落下後に装置を安定化させる。
【0047】
図11Bは、装置233を示す。装置233は、実質的に楕円−球状でエッジにテーパーがつけられている。一つの特徴に従い、レンズ235は、外側のハウジング234の表面の実質的にすべての部分をカバーする。装置233は、さらに、装置233の上面に実質的に垂直になるように配置されるワイパー229を含む。一つの特徴に従い、ワイパー229は、装置233のまわりを回転することができ、レンズ235の水または汚れを清掃する。
【0048】
図11Cは、装置236を示す。装置236は、多角形のプリズムで、その断面には10辺を有する。一つの特徴に従い、装置の幅は、装置の高さよりも大きい。その他の実施例では、装置236は、任意の適した数の側面を有することができる。あるいは、実質的に円筒状にできる。装置236は、装置236の側面に配置することができるレンズ238を含む。
【0049】
図12Aは、図11A−11Cに描かれたシステムのいずれかが撮影できる高解像度画像240の一例を表す。次の図12Bは、同じ場面の低解像度画像242を表す。この画像242は、ユーザーに送信され低減された一連の画像データを表しているので、濃淡のむらがある。図12Cの画像244は、図12Bと同じ画面を表すが、画像データを平滑化する平滑化処理を実行することにより、図12Bに示された最初の濃淡のむらがある画像242から派生した画面である。一実施例に従い、図12Bの濃淡のむらのある低解像度の画像242は、高度なセンサーヘッドから遠隔地に送信され、遠隔地で、この画像は図12Cに示されるような平滑化された画像244として表示される。242と244の両方の画像は、同じ情報を含むが、平滑化された画像244は、人のユーザーにもっとわかりやすい。さらに、平滑化された画像244の解像度は、一般的に、人のユーザーが、場面の一定の形状や物体を理解して特定できるためには十分である。画像の解像度は低く、画像244は詳細を欠いているが、頭脳は必要な詳細をうめようとする。
【0050】
人の視覚システムでは、視野の中央にある小さい区画(約5度、眼窩)だけが高解像度の能力を持つ。観察者の視野のこの部分以外はすべて、低解像度で認識される。観察者の注意が、高解像度視野の外側にある物体に向かうと、観察者の眼は、関心の新しい物体上に焦点をあわせるように素早く動き、新しい物体は眼窩に置かれ、高解像度で認識されてはっきりと見える。
【0051】
さらに、観察者が物体を「見る」と、眼は、多くの場合、観察者が物体を認識できるために十分な情報だけを送信し、脳がメモリから適切な詳細を追加する。例えば、観察者が顔を見るとき、脳はまつげを「追加」し得る。このように、平滑化された低解像度画像は、実際に持っているよりも多くの詳細を持っているように見えるので、平滑化された低解像度画像内の物体は容易に特定されることができる。
【0052】
平滑化処理は有用な利点を示すが、オプションの補足的な処理であり、説明したシステムや方法の操作には必ずしも必要ではない。
【0053】
次の図、図12Dは、画像250を示す。ユーザーの入力に対する応答の一時的なシーケンスの一部として、または、無作為のいずれかで、システムは、高解像フォーマットで送信する画像250のさまざまな区画の選択を開始し得る。これは、場面の右側に示される画像250の高解像度区画252により、図12Dに表される。次の図、図12Eは、画像260を示すが、車とその隣の木の上に中央寄せされている解像度区画258を例示する。送信される画像260は、ユーザーが興味を持たない画像の部分では比較的低解像度である。しかしながら、車とその隣の木の画像をキャプチャしているセンサー配列は、特定され得るので、そのセンサーにより生成される画像データも、特定されて、高解像フォーマットで遠隔地に送信されることが可能になる。これにより、図に描かれた合成画像260が提供される。
【0054】
図12Fは、場面のある区画に配置されたユーザーの制御ボックス264と画像262を示す。この場合、この区画は低解像区画である。ユーザーは、高解像度で見たいセクションを選択することができる。そして、ユーザーは、高解像度で表されている画像の区画を、区画268から、ユーザーにより選択されているユーザー制御ボックス264の下の区画に変更するように、高度なセンサーに命令する制御信号を生成することができる。一実施例に従い、図14のユーザー制御装置111と同様なユーザー制御装置は、ユーザー制御ボックス264をシフトするために使用することができる。
【0055】
代わりの実施例では、システムは場面の動きを検出して、高解像度ウィンドウを検出した動きを含む視野に向け直す。
【0056】
図12Gは、高解像セクション278で見ることができる家272を示す新しい画像270を表す。さらに、この画像270は、先に表した車274も示す。この車274は、今は低解像フォーマットで示されているが、先に高解像フォーマットを使用したことにより、ユーザーは、この物体を車として識別でき、いったん識別すると、この画像を高解像フォーマットで実際に表す必要性は少ない。観察者の脳は、以前に車を認識しているので、車の外観の過去の記憶に基づいて、適切な詳細をうめる。したがって、図10から12Gを参照して説明したシステムおよび方法は、遠隔ユーザーに高速の画像送信を提供する目的において、データを圧縮する機能を有する高度なセンサーヘッドを提供する。
【0057】
図11A−11Cに示された装置230、233および236のような高度なセンサーヘッド装置は、手榴弾のように投げることができるが、別の実施例では、装置は、取付金具またはその他の取り付けメカニズムを有することができ、敵対する都市環境で戦う兵士のグループは、通過したばかりの交差点にある建物の角にセンサーヘッドを取り付けることが可能である。高度なセンサーヘッドが視野に動きを検出すると、その視野のフレームから兵士に、動いている物体を中心とする画像を送信することが可能である。例えば、敵の戦車が兵士の後ろ側の道路から現れようとすれば、装置は、戦車を含む場面の画像を送信して、兵士に敵が近づいていることを警告する。このようなセンサーがあれば、交差点を監視するために兵士を残すことが不必要になり、センサーのほうが、兵士よりも敵に気づかれることは少ない。
【0058】
本発明に従う別の例では、一時的に固定された場所にいる兵士のグループは、周辺を防御できるように、場所の周囲に高度なセンサーヘッドをいくつか設定する可能性がある。センサーヘッドの1つが視野に動きを検出すると、その視野のフレームから兵士に、動いている物体を中心とする画像を送信するようになる。一実施例に従い、ディスプレイは、兵士に新しく受信する画像を警告する。複数の場所で動いている物体があれば、センサーヘッドは、ディスプレイに連続して画像を表示し、画像をタイル状に表示するか、または、複数の画像を表示するための別の適切な方法を採用することが可能である。オプションで、ユーザーは、ワイヤレスコントローラにより、装置を制御するための携帯型リモートを持つことができる。リモートのディスプレイは、装置によりキャプチャされ送信されたデータを表示することができる。携帯型リモートは、ディスプレイ上に画像を適応させるなど、画像処理機能を実行するためのデジタル信号プロセッサを含む。例えば、場面データが、上下逆のような角度でキャプチャされると、デジタル信号プロセッサは画像を回転することができる。また、デジタルズーム効果も提供することができる。装置は低コストで、比較的低解像度のセンサーを採用することができるが、装置のピクセル数全体は、複数のセンサーがあることから、かなり高くすることができることを当業者は認識するであろう。このように、システムは場面内の1つのFOV専用のセンサーによりキャプチャされたデータをデジタル的にズームできるので、ズーム効果は、かなりの拡大観察を可能にし得る。
【0059】
本発明に従う別の例では、センサーヘッドは、建物の壁に貼り付けることができるように構成することができる。あるいは、センサーヘッドは、ユーザーが送信元にしたい場所に投げることができるように構成することができる。であるから、画像の正しい上下方向は、ユーザーがセンサーヘッドを正確に取り付けまたは配置することを必要としないやり方で、ディスプレイユニットで実現される。センサーヘッドは、プロセッサがディスプレイに送信する正しい画像の方向を判断する場合に使用できる、重力方向センサーを含むことができる。
【0060】
説明されたシステムと方法は、本発明の例として示すだけであって、数々の変更や追加が可能である。例えば、センサーは1つのブロック上にあることは必要ではなく、車の表面周囲、またはトンネルやパイプの側面に配置される場合がある。センサーの視野が重なり合えば合うほど、システムに構築される冗長が増える。また、較正格子は、図7や図8に表されているように、電灯、LCDまたはCRT画面の固定パターンでもあり得る。センサーブロックは、ほぼ環境の半球状を範囲とすることができる。
【0061】
この方法により、正確ではない、つまり安価なセンサーヘッドの製造や、各センサーの正確な機械的較正に代わり、センサーヘッド全体の製造後のソフトウェア較正が可能になる。各センサーヘッドの取り付けが比較的正確でなければならない場合は、汎用の較正をユニットの参照テーブルに焼きいれることが可能である。これは、各車両を較正施設に輸送する必要がないように車の周囲にセンサーを取り付けるなどの状況において適用がある。広角レンズに比較すると、狭い視野を有する複数の30センサーにより使用される光線は、広角レンズの視野の端の光よりも、光学軸にもっと並行であることがわかる。垂直な光線は、収束させることがより容易であるので、安価でより高い解像度を得ることができる。
【0062】
説明した技法は、パイプ(金属性または消化管)の検査に使用することが可能である。プローブ全体が「見る」場合、視野の移動/角度調節メカニズムを構築する必要がない。その他の実施例では、装置は、大型の電球表面周囲に取り付けられたセンサーを有する可能性がある。装置の方向を決める重力(上下)センサーにより、風の中で地形をころげまわって、360度の視野のビデオを送り返すことができる移動装置を作成することができる。説明されたシステム製造の一実践では、センサーは、鋳造Lexan(耐圧)に設けて、深海探査機に配置される。この装置では、カメラのために、重い、高価で大型の防水ドームを必要としない。これらの安価な装置は、機密や軍事用途など、多数の用途で使用することができる。一実施例では、ユニットは、潜水艦の司令塔の上に配置することができる。これにより、潜水艦が衝突した浮上テスト中に日本の船が沈んだような真珠湾沖での最近の衝突を防ぐことができたはずである。
【0063】
説明したシステムは、複数のセンサーがその上に取り付けられる装置に合わせた大きさの半球状のドームを備える製造システムを含む。図13Aに示されているように、ドームの内側の光点を追跡するレーザーまたはその他の光源を含むことができる。あるいは、電灯やLCDまたはCRT画面の固定のパターンを採用するなど、較正格子を提供するためのその他の方法を提供することができる。どの場合にも、複数のセンサーと、レーザードライバーに連結されたコンピュータが、光点の場所を判断して、その場所に関連付けられるセンサーに対するピクセルまたはピクセルのグループを選択する。
【0064】
図15に示されているように、上から見ると、センサーヘッド100は、その視野122全体がほとんどの廊下をカバーするように、廊下120の壁に取り付けられる。また、廊下120を歩いてくる人126が視野122内にいる。
【0065】
図16Aに図式的に示されるように、参照テーブル130は、本発明に従い、装置の視野を備えるピクセル132から構成される。ある時刻におけるこれらのピクセル内で、ピクセル134の小さいサブセットは、センサーヘッドの視野内で動いている物体を表す。図16Bに示されるように、センサーヘッドのプロセッサは、動いている物体を表すピクセル134を中心にした、センサーヘッドの視野全体130内の視界フレーム136を選択するようにプログラムすることができる。図16Cに示されるように、この視界フレームに含まれたこのピクセルが装置のディスプレイに送信されると、検出された動いている物体126の画像が中央となる画像138になる。
【0066】
図17に示されるように、都市環境142で戦っている兵士のグループ140が、高度なセンサーヘッド100を、通りがヘッドの視野122に入るように取り付けて、後ろの建物の壁144に残すと、センサーヘッドは、兵士が持っているディスプレイへのワイヤレス接続を経由して、戦車146のような敵が後ろから来ていて、引き続き脅威の可能性があることを示すことができる。
【0067】
図18に示されるように、位置150を占領している兵士のグループは、視野154が重なるように、その位置の周囲に複数の高度なセンサーヘッド152を配備することができる。このように、兵士は、脅威や可能な攻撃を検出するために、その位置周辺の偵察を容易に維持することができる。
【0068】
システムは、さらに、ボディ表面に配置された複数のセンサーを含むセンサー装置や、特定の場所からのデータ、あるいは特定の場所を通過しているデータに関する情報をどのセンサーが提供すべきかを判断するためにセンサーを選択するためのメカニズムを含む。ボディは、任意の形状または大きさにすることができて、選択される形状や大きさは、用途に応じる。さらに、ボディは、車、戦車、飛行機、潜水艦やその他の車両を含む車両のような装置のボディを含むことができる。さらに、表面は、折り畳み可能なボディの表面を含むことができるので、画像をキャプチャするための固体センサーを採用する潜望鏡を提供することができる。これらの実施例では、システムは、センサーに複数の較正設定を提供する較正システムを含むことができる。それぞれの較正設定は、表面が有し得る別の形状に対応することができる。このように、折り畳み位置にある潜望鏡の較正設定は、潜望鏡が伸びた位置にある場合や、表面が細長くなり、潜望鏡の表面に配置されたセンサーの間隔がさらに広がる場合に採用される較正設定とは別にすることができる。
【0069】
システムは、画像センサー、CCDセンサー、赤外線センサー、温度撮像センサー、音センサーや磁気センサーのグループから選択されるセンサーを含むことができる。
【0070】
上記のように、これらのセンサーにより、組み込まれたプロセッサ上またはUnix(登録商標)ワークステーションのような従来のデータ処理システム上で稼働するソフトウェアコンポーネントを含むハードウェア装置やシステムを実現できる。この実施例では、ソフトウエアメカニズムは、C言語のコンピュータプログラム、または、C++、Fortran、Java(登録商標)またはBasicなど、任意の高レベルの言語で作成されたコンピュータプログラムとして実装できる。さらに、マイクロコントローラまたはDSPが採用されている実施例では、ソフトウェアシステムは、採用されたプラットフォーム上で実行可能であるマイクロコードに作成された、あるいは高レベル言語で作成されて、マイクロコードにコンパイルされたコンピュータプログラムとして実現することができる。このような画像処理システムの開発は、当業者には知られており、このような技法は、Digital Signal Processing Applications with the TMS320 Family、第I巻、第II巻および第III巻、Texas Instruments(1990)に記載されている。さらに、高レベルのプログラムの一般的な技法は知られており、例えば、Stephen G. Kochan,Programming in C,Hayden Publishing(1983)に記載されている。DSPは、特に、コントラスト、エッジ識別や明度の調整による画像向上などのプリプロセス機能など、信号処理機能の実装に適している。DSPやマイクロコントローラシステムのコード開発は、技術分野ではよく知られた原則に従う。
【0071】
当業者は、本明細書において説明された実施例や実践例に相当する多くの均等物を決まりきった実験を何ら用いることなく、理解し、または確信することができる。従って、本発明は開示された実施例に限定されないことが理解されるだけではなく、以下の請求項から法により許される限り広範囲に解釈されるべきことが理解される。
【特許請求の範囲】
【請求項1】
本願明細書に記載された発明。
【請求項1】
本願明細書に記載された発明。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11A】
【図11B】
【図11C】
【図12A】
【図12B】
【図12C】
【図12D】
【図12E】
【図12F】
【図12G】
【図13A】
【図13B】
【図14】
【図15】
【図16A】
【図16B】
【図16C】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11A】
【図11B】
【図11C】
【図12A】
【図12B】
【図12C】
【図12D】
【図12E】
【図12F】
【図12G】
【図13A】
【図13B】
【図14】
【図15】
【図16A】
【図16B】
【図16C】
【図17】
【図18】
【公開番号】特開2013−30177(P2013−30177A)
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【外国語出願】
【出願番号】特願2012−203150(P2012−203150)
【出願日】平成24年9月14日(2012.9.14)
【分割の表示】特願2008−511455(P2008−511455)の分割
【原出願日】平成18年5月12日(2006.5.12)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.PHOTOSHOP
2.PostScript
3.Lexan
【出願人】(507373531)テネブラックス コーポレイション (4)
【Fターム(参考)】
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願番号】特願2012−203150(P2012−203150)
【出願日】平成24年9月14日(2012.9.14)
【分割の表示】特願2008−511455(P2008−511455)の分割
【原出願日】平成18年5月12日(2006.5.12)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.PHOTOSHOP
2.PostScript
3.Lexan
【出願人】(507373531)テネブラックス コーポレイション (4)
【Fターム(参考)】
[ Back to top ]