画像処理装置、画像処理方法及びプログラム
【課題】鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることができる。
【解決手段】撮像画像取得部62は、オブジェクトOBが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数のカメラ11の各々によって撮像された複数の撮像画像のデータを取得する。位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を取得する。視点変換画像加工部74は、取得された位置に基づいて、撮像画像取得部62により取得された撮像画像のデータを視点変換の加工をすることで、オブジェクトOBに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。表示制御部65は、生成された視点変換画像のデータを表示出力する制御を実行する。
【解決手段】撮像画像取得部62は、オブジェクトOBが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数のカメラ11の各々によって撮像された複数の撮像画像のデータを取得する。位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を取得する。視点変換画像加工部74は、取得された位置に基づいて、撮像画像取得部62により取得された撮像画像のデータを視点変換の加工をすることで、オブジェクトOBに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。表示制御部65は、生成された視点変換画像のデータを表示出力する制御を実行する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることを可能にする、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来、サッカー等のスポーツ競技における放送に用いる映像の撮影では、定点カメラや、報道席のカメラマンが保持するカメラ等が用いられている。即ち、これらのカメラによって、遠方から望遠撮影されたスポーツ競技の映像が放送等されている。
【0003】
しかしながら、このような遠方から撮像された映像では、たとえ望遠撮影等を織り交ぜたとしても、迫力に乏しいという印象を鑑賞者に与えてしまう。
【0004】
そこで、サッカー等の球技について、より迫力のある映像を得るために、球技用のボールの中に、カメラやセンサを内蔵する技術が提案されている(例えば、特許文献1〜特許文献3参照)。このような技術を適用することで、ボール内のセンサが衝撃や加速度を検出したら、ボール内のカメラが所定の瞬間の画像を撮影することができるので、ボール視点とした画像の再生が可能になる。ただし、ボールは回転したり振動するので、落下するボール自体の姿勢制御を行うことで画像を安定化する技術も特許文献1に記載されている。
【0005】
なお、サッカーや格闘技等、スポーツを模擬したゲーム機器も近年開発されている(例えば、特許文献4参照)。このようなゲーム機器では、所定のシーンを模擬した3次元CG(Computer Graphics)を再構成して、リプレイ表示することができるようになっている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−104254号公報
【特許文献2】特開2001−042420号公報
【特許文献3】特開2007−104234号公報
【特許文献4】特開平07−116343号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1〜3の従来の技術を適用してボール視点の画像を得るためには、ボールは逐次姿勢変化していることから、当該ボール自身又は内蔵されたカメラの姿勢制御を逐次的確に行わなければならない。このためには、複雑な構造の大掛かりな設備が必要となり、ボール視点の画像を容易に得ることができなかった。
【0008】
また、鑑賞者の中には、ボールだけではなく、選手等他のオブジェクトを視点とした画像を得ることを要求するものも多く存在するが、特許文献1〜3の従来の技術では当該要求に十分に応えることはできない。
【0009】
また、特許文献4の従来の技術は、あくまでもゲームという仮想現実に適用可能な技術であり、現実のスポーツ等を撮像する技術にはそのまま適用することは困難である。
【0010】
本発明は、このような状況に鑑みてなされたものであり、鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するため、本発明の一態様の画像処理装置は、オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得手段と、前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得手段と、前記位置取得手段により取得された前記位置に基づいて、前記画像取得手段により取得された前記複数の撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工手段と、前記画像加工手段により生成された前記視点変換画像のデータを出力する制御を実行する出力制御手段と、を備える。
【発明の効果】
【0012】
本発明によれば、鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることができる。
【図面の簡単な説明】
【0013】
【図1】本発明の第1実施形態に係る画像処理システムの概略的な構成を示す模式図である。
【図2】図1の画像処理装置によって生成される視点変換画像の元画像の各種具体例を示す模式図である。
【図3】図1の画像処理装置で生成される視点変換画像の具体例を示している。
【図4】本実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。
【図5】図4の画像処理装置の機能的構成のうち、視点変換画像生成処理を実行するための機能的構成を示す機能ブロック図である。
【図6】図5の機能的構成を有する図4の画像処理装置が実行する、第1実施形態に係る視点変換画像生成処理の流れを説明するフローチャートである。
【図7】本発明の第1実施形態の第1変形例に係る画像処理システムの概略的な構成を示す模式図であって、選手のオブジェクトが視点として選択された場合における概略構成を示す模式図である。
【図8】図1の画像処理装置で生成される視点変換画像の具体例を示している。
【図9】選択オブジェクトの位置情報の取得手法の一例を示す模式図である。
【図10】選択オブジェクトの位置情報の取得手法の一例を示す模式図である。
【図11】選択オブジェクトの位置情報の取得手法の一例を示す模式図である。
【図12】図5の機能的構成を有する図4の画像処理装置が実行する、第2実施形態に係る視点変換画像生成処理の流れを説明するフローチャートである。
【発明を実施するための形態】
【0014】
[第1実施形態]
以下、本発明の第1実施形態について、図面を用いて説明する。
【0015】
図1は、本発明の第1実施形態に係る画像処理システムの概略的な構成を示す模式図である。
本実施形態に係る画像処理システム10は、競技場Fで開催されるサッカーの試合を撮像する用途で設定されている。
このため、サッカーボール(以下、「ボール」と略記する)や選手等から、鑑賞者に提供される画像の視点となり得るオブジェクトがm個採用されるものとする。ここで、mは、1以上の任意の整数値であるが、本実施形態ではボール及び選手数と同一の値である「7」とする。
【0016】
具体的には、図1は、ボールのオブジェクトに配置された仮想視点が選択された場合における、本実施形態に係る画像処理システムの概略構成を示している。
なお、本明細書では、実空間を実際に撮像する撮像部(カメラ等)の視点を「実際の視点」と呼び、この実際の視点に対する概念として「仮想視点」が記載されている。即ち、「仮想視点」とは、撮像部以外の物体(実物体又は仮想物体)に可変可能に配置される仮想的な視点をいう。
【0017】
図1に示すように、本実施形態に係る画像処理システム10においては、ボールであるオブジェクトOB1及び各選手のそれぞれであるオブジェクトOB2〜OB7と、競技場Fを周囲から撮影するカメラ11a〜11hと、画像処理装置12と、中継装置13と、n台の外部端末14−1〜14−nと、がネットワークNを介して相互に接続されている。ネットワークNは、LAN(Local Area Network)やインターネット等の任意のネットワークである。
以下、外部端末14−1〜14−nを個々に区別する必要がない場合、これらをまとめて、「外部端末14」と単に呼ぶ。また、外部端末14と呼んでいる場合には、その構成要素の符号についても、1〜nを省略して説明する。
また、以下、オブジェクトOB1〜OB7を個々に区別する必要がない場合、これらをまとめて、「オブジェクトOB」と単に呼ぶ。また、オブジェクトOBと呼んでいる場合には、その構成要素の符号についても、1〜7を省略して説明する。
オブジェクトOBは、詳細については、図5を参照し後述するがセンサ部111及び送信部112を備えており、オブジェクトOBの位置情報のデータを画像処理装置12に逐次送信する。
また、以下、カメラ11a〜11hを個々に区別する必要がない場合、これらをまとめて、「カメラ11」と単に呼ぶ。また、カメラ11と呼んでいる場合には、その構成要素の符号についても、a〜hを省略して説明する。
【0018】
図1に示すように、画像処理装置12は、各オブジェクトOB1〜OB7のうち、ボールのオブジェクトOB1を、仮想視点を配置するためのオブジェクトOBとして選択することができる。このように仮想視点となるように選択されたオブジェクトをOB、以下、「選択オブジェクト」と呼ぶ。
【0019】
ここで、本実施形態では、競技場F内の任意の1点はカメラ11a〜11hのうちの少なくとも1つの撮像画像に含まれるように、カメラ11a〜11hの各々は競技場Fの周囲の各位置(定点)に配置されている。従って、本実施形態では、選択オブジェクトOBが映り込んだ画像は、カメラ11a〜11hのうちの少なくとも1つによって常に撮像されているものとする。
そこで、画像処理装置12は、カメラ11a〜11hにより撮像された撮像画像のデータのうち少なくとも1つを、移動方向A1に移動している選択オブジェクトOB1から逐次送信されてくる位置情報に基づいて加工することによって、当該選択オブジェクトOB1に配置された仮想視点がブレや回転をすることなく移動方向A1に移動していくような一連の画像(動画像、連写画像或いは静止画)のデータを生成する。即ち、この場合、画像処理装置12は、選択オブジェクトOB1の移動方向A1に基づく画像(動画像、連写画像或いは静止画)のデータを生成する。
具体的には、選択オブジェクトOB1は、ボールであるために本来ブレや回転が生ずるが、仮想視点は、ブレや回転をすることなく移動方向A1に移動していくように、選択オブジェクトOB1に可変配置される。即ち、図1の例では、仮想視点は、選択オブジェクトOB1から眺望するものであるが、固定的に配置されてブレや回転が生じるのではなく、水平方向は常に一定方向を眺望できるように(その結果回転することなく移動方向A1に移動していくように)選択オブジェクトOB1に可変配置される。ここで、選択オブジェクトOB1からの仮想視点が眺める所定の方向を、以下、「眺望方向」と呼ぶ。
一方で、カメラ11a〜11hにより撮像された撮像画像のデータとは、実際の視点から選択オブジェクトOB1を含む競技場Fを周囲から眺めた様子を表わす画像のデータである。
従って、画像処理装置12は、競技場Fの周囲(外部)の実際の視点から眺めた様子を表わす画像のデータを、競技場F内において選択オブジェクトOB1の移動方向A1に移動する仮想視点が、当該移動方向A1を眺望方向として眺めた様子を表わす画像のデータに変換している、と把握することもできる。
なお、以下、競技場Fの周囲(外部)のカメラ11a〜11h等における実際の視点から眺めた様子を表わす画像のデータを、即ち、変換の元になる画像のデータを、「元画像のデータ」と呼ぶ。一方、元画像のデータから変換した画像のデータ、即ち、競技場Fの内部において選択オブジェクトOB1の移動方向A1に移動する仮想視点が、当該移動方向A1を眺望方向として眺めた様子を表わす画像のデータを、「視点変換画像のデータ」と呼ぶ。
【0020】
図2は、カメラ11a〜11hにより撮像された撮像画像、即ち元画像の候補の各種具体例を示している。
【0021】
図2(a)の元画像の候補は、競技場Fの周囲(図1中、左下の隅)に設置されたカメラ11aにより、競技場Fの手前左側コーナーから右斜め45度の方向で撮像された撮像画像である。
図2(b)の元画像の候補は、競技場Fの周囲(図1中、中央下)に設置されたカメラ11bにより、競技場Fの手前センターラインから正面に向かう方向で撮像された撮像画像である。
図2(c)の元画像の候補は、競技場Fの周囲(図1中、右下の隅)に設置されたカメラ11cにより、競技場Fの手前右側コーナーから左斜め45度の方向で撮像された撮像画像である。
図2(d)の元画像の候補は、競技場Fの周囲(図1中、左上の隅)に設置されたカメラ11dにより、競技場Fの奥左側コーナーから右斜め45度の方向で撮像された撮像画像である。
図2(e)の元画像の候補は、競技場Fの周囲(図1中、中央上)に設置されたカメラ11eにより、競技場Fの奥センターラインから正面に向かう方向で撮像された撮像画像である。
図2(f)の元画像の候補は、競技場Fの周囲(図1中、右上の隅)に設置されたカメラ11fにより、競技場Fの奥右側コーナーから左斜め45度の方向で撮像された撮像画像である。
図2(g)の元画像の候補は、競技場Fの周囲(図1中、左の隅)に設置されたカメラ11gにより、ゴールG1の裏側からゴールG2に向かう方向で撮像された撮像画像である。
図2(h)の元画像の候補は、競技場Fの周囲(図1中、右の隅)に設置されたカメラ11hにより、ゴールG2の裏側からゴールG1に向かう方向で撮像された撮像画像である。
【0022】
本実施形態では、このようにして、カメラ11a〜11hの各々の撮像画像のデータが元画像の候補のデータとなり、これらの候補のデータの中から、選択オブジェクトOBの位置情報に基づいて選択された1つが、元画像のデータとして採用される。
【0023】
ここで、選択オブジェクトOBからの位置情報の取得手法として、本実施形態では次のような手法が採用されている。
即ち、選択オブジェクトOBになり得るオブジェクトOB1〜OB7には、位置情報を取得可能なセンサが取り付けられており、時間の経過と共に位置情報が逐次送信されるので、画像処理装置12が当該位置情報を取得する、という手法が採用されている。
具体的には例えば、ボールのオブジェクトOB1には、位置情報を取得可能なセンサとして、複数の移動位置センサユニットが内蔵されている。移動位置センサユニットは、具体的には、3軸加速度センサ等の3次元位置計測手段や高精度の測位手段と、時間経過毎に3次元位置情報を外部端末14に送信する無線送信手段と、測位手段や無線送信手段に電力を供給する電力供給手段等により構成される。
そこで、本手法では、画像処理装置12は、移動位置センサユニットの無線送信手段から、無線LANやbluetooth(登録商標)等の形態で送信された位置情報を受信することで、当該位置情報を取得する。
【0024】
画像処理装置12は、このようにして選択オブジェクトOBの位置情報を取得すると、当該位置情報に基づいて、カメラ11a〜11hの各撮像画像のデータの中から、視点変換画像のデータの生成に必要な元画像のデータを選択する。
詳細には、画像処理装置12は、選択オブジェクトOBの位置情報が取得された時間帯と同時間帯にカメラ11a〜11hの各々により撮像された撮像画像のデータを取得する。画像処理装置12は、これらの撮像画像のデータの中から、元画像のデータとして使用する1つを、選択オブジェクトの位置情報に基づいて選択する。
【0025】
画像処理装置12は、このようにして選択した1つの元画像のデータから、所定の移動方向に移動する選択オブジェクトOBの眺望方向の様子を表わす視点変換画像のデータを生成する。
画像処理装置12は、例えば、選択オブジェクトの移動方向と同一方向を眺望方向として仮想視点が眺める様子を示す視点変換画像のデータを生成することができる。
また、画像処理装置12は、選択オブジェクトの移動速度に対応した大きさとなる視点変換画像のデータを生成することができる。画像処理装置12は、例えば、選択オブジェクトの移動速度が速い場合には、通常の視点変換画像のデータとは異なる広角な視点変換画像のデータを生成する。
【0026】
図3は、視点変換画像の具体例を示している。
【0027】
図3の例では、複数台のカメラ11a〜11hの各々により撮像された複数の撮像画像のデータ、即ち図2(a)〜図2(h)の各々に示す複数の撮像画像のデータのうち、図2(h)に示す撮像画像のデータが元画像のデータとして選択されている。
そして、図2(h)に示す撮像画像のデータが、所定の手法に基づいて変換されることによって、図3に示す視点変換画像のデータが生成される。
【0028】
この場合、視点変換画像のデータへの変換に適用される所定の手法は、特に限定されないが、本実施形態では、例えば、アフィン変換を用いた手法を利用することにより実現可能となる。
このようなアフィン変換を用いた手法を適用することにより、各種オブジェクトOB等を、形状を変形させないで、平行移動や回転をさせたり、縦方向と横方向とで拡大又は縮小の倍率を変化させることが可能になる。
アフィン変換を用いた手法としては、公知又は今後登場するであろう任意の手法、例えば特開2007−133843号公報等に開示されている手法等を採用することができるが、本実施形態では次のような手法が採用されている。
【0029】
具体的には、アフィン変換では、元画像の座標をローカル座標からワールド座標に変換する変換行列が用いられる。この際、アフィン変換では、ローカル座標からワールド座標に移行する際に、オブジェクトの拡大縮小・回転・平行移動等が行わる。なお、「ローカル座標」とは、個々のオブジェクトの中心位置を(X,Y,Z)=(0,0,0)とする座標系で、オブジェクトの頂点情報等を表わした座標である。
また、「ワールド座標」とは、個々のオブジェクトを共通の3次元仮想空間内に、相対的な位置関係に基づいて配置したときの座標系で表わした座標である。この「ワールド座標」にはオブジェクトだけでなく、光源・視点も配置される。
次いで、アフィン変換では、ワールド座標からビュー座標に変換する変換行列が用いられ、ビュー座標からパースペクティブ座標に変換する変換行列が用いられる。その結果、3次元情報が表示装置の表示部に表示可能な2次元情報に変換される。この際、表示の中心が(X,Y)=(0,0)となる座標系となる。また、「ビュー(視点)座標」は、「ワールド座標」の座標系を視点位置から視点方向を見たときの座標、即ち、視点位置を(X,Y,Z)=(0,0,0)で、視点方向がZ軸のプラス方向となる座標系で表わした座標である。また、「パースペクティブ(透視)座標」は、3次元情報を2次元の座標系で表わした座標である。この「パースペクティブ(透視)座標」は、「スクリーン座標」ともいう。
最後に、アフィン変換では、パースペクティブ座標からディスプレイ座標に変換する変換行列が用いられる。「ディスプレイ座標」は、表示部における描画領域のサイズに対応した座標系で表わした座標である。「ディスプレイ座標」では、パースペクティブ座標で表示の中心を(X,Y)=(0,0)としていたが、表示部における描画領域に対応させるべく、描画領域の左上の点を(X,Y)=(0,0)とする変換が行われる。
画像処理装置12は、このようなアフィン変換を用いることにより、元画像のデータを、所定の移動方向に移動する選択オブジェクトOBの眺望方向を仮想視点とする視点変換画像のデータに変換することができる。
【0030】
図1に戻り、中継装置13は、ネットワークNを介して接続される画像処理装置12と、外部端末14との間で授受される各種情報、例えば視点変換画像のデータを中継する。
【0031】
外部端末14は、例えばスマートフォン等で構成されおり、例えば画像処理装置12から中継装置13を経由して送信されてきた視点変換画像のデータを受信すると、当該視点変換画像をディスプレイ等に表示する。
ここで、ネットワークNがインターネットであるならば、外部端末14は、視点変換画像のデータの取得要求等の指示を、例えばHTTP(Hypertext Transfer Protocol)によるURL(Uniform Resource Locator)要求により行うことができる。
さらに、外部端末14は、各種制御信号を中継装置13を介して画像処理装置12に送信することで、選択オブジェクトの変更指示等の遠隔制御を実行できる。
【0032】
次に、このような本実施形態の画像処理システム10のうち、主要構成要素たる画像処理装置12の構成について説明する。
[画像処理装置]
図4は、本実施形態に係る画像処理装置12のハードウェアの構成を示すブロック図である。
【0033】
画像処理装置12は、CPU(Central Processing Unit)31と、ROM(Read Only Memory)32と、RAM(Random Access Memory)33と、画像処理部34と、バス35と、入出力インターフェース36と、入力部37と、表示部38と、計時部39と、記憶部40と、通信部41と、ドライブ42と、を備えている。
【0034】
CPU31は、ROM32に記録されているプログラム、又は、記憶部40からRAM33にロードされたプログラムに従って各種の処理を実行する。
【0035】
RAM33には、CPU31が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0036】
画像処理部34は、DSP(Digital Signal Processor)や、VRAM(Video Random Access Memory)等から構成されており、CPU31と協働して、画像のデータに対して各種画像処理を施す。
【0037】
CPU31、ROM32、RAM33及び画像処理部34は、バス35を介して相互に接続されている。このバス35にはまた、入出力インターフェース36も接続されている。入出力インターフェース36には、入力部37、表示部38、計時部39、記憶部40、通信部41及びドライブ42が接続されている。
【0038】
入力部37は、キーボードやマウス等で構成され、ユーザの指示操作に応じて各種情報を入力する。
表示部38は、ディスプレイにより構成され、各種画像、例えば上述の視点変換画像を表示する。
計時部39は、計時動作を行い、現在時刻を取得する。
記憶部40は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像、例えば上述の視点変換画像のデータを記憶する。
通信部41は、インターネットを含むネットワークNを介して他の装置、例えば画像処理システム10内のオブジェクトOB(図1参照)やカメラ11(図1参照)や外部端末14(図1参照)との間で行う通信を制御する。
【0039】
ドライブ42には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア51が適宜装着される。ドライブ42によってリムーバブルメディア51から読み出されたプログラムは、必要に応じて記憶部40にインストールされる。また、リムーバブルメディア51は、記憶部40に記憶されている画像のデータ等の各種データも、記憶部40と同様に記憶することができる。
【0040】
図5は、このような各構成要素を含む画像処理装置12の機能的構成のうち、視点変換画像生成処理を実行するための機能的構成を示す機能ブロック図である。
本明細書における視点変換画像生成処理とは、次のような一連の処理をいう。即ち、画像処理装置12は、選択オブジェクトOBの位置情報から、複数のカメラ11から送信された複数の撮像画像のデータのうち1つを元画像のデータとして選択する。画像処理装置12は、元画像のデータに対して画像変換処理を施すことにより、選択オブジェクトOBの眺望方向を仮想視点が眺める様子を示す視点変換画像のデータを生成する。
【0041】
ここで、画像処理装置12の機能的構成の理解を容易なものとすべく、その詳細な説明の前に、カメラ11及びオブジェクトOBについて説明する。
【0042】
図5に示すように、カメラ11は、撮像部101と、送信部102と、を備える。
【0043】
撮像部101は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【0044】
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【0045】
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部101の出力信号として出力される。
このような撮像部101の出力信号は、送信部102に適宜供給される。即ち、撮像部101は、周囲の空間を連続撮影し、その結果得られる動画像、静止画或いは連写画像のデータ、即ち上述の撮像画像のデータを、バッファ(図示せず)に一次記憶しながら順次圧縮符号化する。
送信部102は、撮像部101から出力された撮像画像のデータを画像処理装置12へ無線送信する。
【0046】
オブジェクトOBには、センサ部111と、送信部112とが取り付けられる。
センサ部111は、本実施形態では3軸加速度センサとして構成され、ピエゾ抵抗型もしくは静電容量型の検出機構を備える3軸加速度センサにより構成され、当該検出機構を用いて、加速度の3軸(X,Y,Z)成分を検出し、その検出結果を示すデータを出力する。なお、センサ部111の検出結果を示すデータを、以下、「位置情報のデータ」と呼ぶ。位置情報のデータは、送信部112に適宜供給される。
ここで、位置情報のデータのうち、X成分はオブジェクトOBの垂直方向の振動周期に、Y成分はオブジェクトOBの水平方向の振動周期に、Z成分はオブジェクトOBの進行方向の振動周期に、それぞれ対応する。
また、センサ部111は、任意の姿勢(傾斜角度)状態においても、傾斜角度に応じて補正した3軸加速度データを出力することができる。従って、センサ部111は、傾斜角度に応じて補正された3軸加速度データに対応して、ジャイロセンサを用いた傾斜センサ(図示せず)等から出力するデータを補正するようにする。これによって、オブジェクトOBに遠心力等の外力がかかる動状態で使用するような場合、例えば移動中に被写体を撮像するような場合でも、各種データの正確な取得及び正確な測位演算が実行可能になる。
【0047】
送信部112は、センサ部111により出力された位置情報のデータを画像処理装置12へ無線送信する。
なお、本実施形態においては、センサ部111及び送信部112は、上述した移動位置センサユニットとしてユニット化されて、ボールのオブジェクトOB1内に内蔵されたり、選手のオブジェクトOB2〜OB7に取り付けられる。
【0048】
このようなオブジェクトOBが存在する状態で視点変換画像生成処理が実行される場合には、図5に示すように、画像処理装置12のCPU31において、主制御部61と、撮像画像取得部62と、位置情報取得部63と、記憶制御部64と、表示制御部65と、通信制御部66と、が機能する。また、画像処理部34において、移動方向算出部71と、移動速度算出部72と、元画像選択部73と、視点変換画像加工部74と、が機能する。
ただし、図5は例示であり、画像処理部34の機能の少なくとも一部をCPU31に委譲してもよいし、逆に、CPU31の機能の少なくとも一部を画像処理部34に委譲してもよい。
また、画像処理装置12の記憶部40の一領域として、元画像候補データ記憶部81と、オブジェクトデータ記憶部82と、表示データ記憶部83と、が設けられている。なお、元画像候補データ記憶部81、オブジェクトデータ記憶部82及び表示データ記憶部83が記憶部40の一領域として設けられていることは例示であって、その他例えばリムーバブルメディア51の一領域として設けられるようにしてもよい。
【0049】
元画像候補データ記憶部81は、カメラ11から逐次送信されて画像処理装置12に受信された、元画像の候補となる撮像画像のデータを逐次記憶する。撮像画像のデータは、取得した時間と共に元画像候補データ記憶部81に記憶される。
【0050】
オブジェクトデータ記憶部82は、オブジェクトOBから逐次送信されて画像処理装置12に受信された位置情報のデータを記憶する。位置情報のデータは、取得した時間と共にオブジェクトデータ記憶部82に記憶される。
【0051】
表示データ記憶部83は、表示部38に表示するための、画像処理部34の後述する視点変換画像加工部74により生成された視点変換画像のデータを記憶する。
【0052】
主制御部61は、画像処理装置12の各部における各種処理の実行を制御する。具体的には、主制御部61は、入力部37や外部端末14からの指示を受けて、選択オブジェクトの設定やカメラ11における撮像の制御等の各種の制御を行う。
【0053】
撮像画像取得部62は、カメラ11a〜11hから送信される撮像画像のデータを、通信部41を介して取得し、当該撮像画像のデータを、計時部39から取得した時刻のデータを付帯情報として付加して元画像候補データ記憶部81に記憶させる制御を実行する。
【0054】
位置情報取得部63は、オブジェクトOB1〜OB7から送信される位置情報のデータを、通信部41を介して取得する。その後、位置情報取得部63は、オブジェクトOB1〜OB7の位置情報のデータを記憶制御部64に供給する。
【0055】
記憶制御部64は、各種データを記憶部40に記憶させる制御を実行する。具体的には、記憶制御部64は、位置情報取得部63により取得された位置情報のデータを、計時部39から取得した時刻のデータを付帯情報として付加してオブジェクトデータ記憶部82に記憶させる制御を実行する。
【0056】
表示制御部65は、各種の画像を表示部38に表示出力させる制御を実行する。具体的には、表示制御部65は、画像処理部34で生成される視点変換画像を表示部38に表示させる制御を実行する。
【0057】
通信制御部66は、カメラ11及び外部端末14と無線通信を行う制御を実行する。具体的には、通信制御部66は、通信部41及びネットワークNを中継する中継装置17を介してカメラ11及び外部端末14と接続して、各種情報を授受するための制御を実行する。
【0058】
移動方向算出部71は、オブジェクトデータ記憶部82に記憶される位置情報のデータに基づいて、選択オブジェクトの移動方向を算出する。即ち、移動方向算出部71は、オブジェクトデータ記憶部82に記憶される位置情報のデータの履歴から位置情報のデータ間の位置関係を割り出して、移動方向を算出する。
【0059】
移動速度算出部72は、オブジェクトデータ記憶部82に記憶される位置情報のデータに基づいて、選択オブジェクトOBの移動速度を算出する。即ち、移動方向算出部71は、オブジェクトデータ記憶部82に記憶される位置情報のデータの履歴から、位置情報のデータ間の時間における移動距離を割り出して、移動速度を算出する。
【0060】
元画像選択部73は、オブジェクトデータ記憶部82に記憶される位置情報、並びに移動速度算出部72により算出された移動方向及び移動速度に基づいて、元画像候補データ記憶部81に記憶されている、同時刻に撮像された撮像画像のデータの中から、所定の1枚を元画像のデータとして選択する。具体的には、元画像選択部73は、オブジェクトOB1〜OB7のうち仮想視点が可変配置されるオブジェクトの移動方向と、カメラ11の光軸の方向(実際の視点)とが最も近似した撮像画像のデータを、元画像のデータとして選択する。
【0061】
視点変換画像加工部74は、元画像のデータを画像変換することにより、視点変換の加工をして、選択オブジェクトOBに可変配置された仮想視点が、当該選択オブジェクトOBの移動方向を眺望方向から眺めた様子を表わす視点変換画像のデータを生成する。
詳細には、視点変換画像加工部74は、移動方向算出部71により算出された移動方向や移動速度算出部72により算出された移動速度に基づいて、元画像選択部73により選択された元画像のデータを画像変換して、視点変換画像のデータを生成する。
視点変換画像加工部74は、画像変換に関しては、本実施形態においては、元画像選択部73により選択された1つの撮像画像のデータを上述したアフィン変換することで、選択オブジェクトOBに可変配置された仮想視点が、選択オブジェクトOBに可変配置された仮想視点が、当該選択オブジェクトOBの移動方向を眺望方向から眺めた様子を表わす点変換画像のデータを生成する。
【0062】
以上、本実施形態の画像処理装置12の機能的構成について説明した。続いて、図6を参照して、このような機能的構成を有する画像処理装置12が実行する視点変換画像生成処理について説明する。
図6は、図5の機能的構成を有する画像処理装置12が実行する視点変換画像生成処理の流れを説明するフローチャートである。
【0063】
画像処理装置12の入力部37を操作するユーザは、視点変換画像生成処理の開始を指示する所定の操作をすることができる。
視点変換画像生成処理は、このようなユーザによる入力部37への所定の操作を契機として開始され、次のような処理が実行される。
【0064】
ステップS11において、主制御部61は、オブジェクトの設定(初期設定)を行う。即ち、主制御部61は、ユーザによる入力部37への所定の操作により、選択オブジェクトの初期設定として、図1に示すボールのオブジェクトOB1及び選手のオブジェクトOB2〜OB7のうち、ボールのオブジェクトOB1を、選択オブジェクトOBとして設定する。
【0065】
ステップS12において、撮像画像取得部62は、複数のカメラから出力された複数の撮像画像のデータを取得する。即ち、撮像画像取得部62は、図1に示すように、ボールのオブジェクトOB1及び選手のオブジェクトOB2〜OB7を含む競技場Fを周囲から撮影している複数のカメラ11a〜11hによって撮像された撮像画像のデータを、通信部41を介して取得する。撮像画像取得部62は、例えば、複数のカメラ11a〜11hにより競技場Fを異なる方向から撮像した図2(a)〜(h)に示すような撮像画像のデータを取得する。その後、撮像画像取得部62は、取得した撮像画像のデータを、計時部39から取得した時刻のデータを付帯情報として付加して元画像候補データ記憶部81に記憶させる。
【0066】
ステップS13において、位置情報取得部63は、選択オブジェクトOBの位置情報のデータを取得する。即ち、位置情報取得部63は、選択オブジェクトOBのセンサ部111により計測された位置情報のデータを、通信部41を介して取得する。
【0067】
ステップS14において、記憶制御部64は、選択オブジェクトOBの位置情報と時刻とを対応付けて記憶させる。即ち、記憶制御部64は、位置情報取得部63により取得された位置情報に、計時部39で計時された現在の時刻を対応付けて、オブジェクトデータ記憶部82に記憶させる。
【0068】
ステップS15において、移動方向算出部71は、選択オブジェクトOBの位置情報のデータの履歴から選択オブジェクトOBの移動方向を算出する。即ち、移動方向算出部71は、オブジェクトデータ記憶部82に記憶される選択オブジェクトOBの位置情報のデータの履歴を取得して、各位置の推移に基づいて移動方向を算出する。
【0069】
ステップS16において、移動速度算出部72は、選択オブジェクトOBの位置情報のデータの履歴から選択オブジェクトOBの移動速度を算出する。即ち、移動速度算出部72は、オブジェクトデータ記憶部82に記憶される選択オブジェクトOBの位置情報のデータの履歴を取得して、単位時間当たりの移動距離を移動速度として算出する。
【0070】
ステップS17において、元画像選択部73は、選択オブジェクトOBについての、位置、移動方向、及び移動速度に基づいて、元画像のデータを複数の撮像画像のデータから選択する。即ち、元画像選択部73は、視点変換画像のデータを生成するのに最適な撮像画像のデータを元画像のデータとして選択する。
【0071】
ステップS18において、視点変換画像加工部74は、選択された元画像のデータに基づいて、視点変換画像のデータを生成する。即ち、視点変換画像加工部74は、元画像選択部73により選択された元画像のデータを画像変換(本実施形態においてはアフィン変換)することで、選択オブジェクトに可変配置された仮想視点が、選択オブジェクトの移動方向に移動しながら、当該移動方向を眺望方向として眺めた様子を表わす視点変換画像のデータを生成する。なお、視点変換画像のデータは、記憶制御部64の制御により、表示データ記憶部83に記憶される。
【0072】
ステップS19において、表示制御部65は、ステップS18の処理で生成された視点変換画像のデータを表示部38に表示出力させる制御を実行する。即ち視点変換画像が表示部38に表示される。
【0073】
ステップS20において、通信制御部66は、外部端末14に視点変換画像のデータを、通信部41を介して送信する。
【0074】
ステップS21において、主制御部61は、選択オブジェクトを変更する指示をするための操作(以下、「選択オブジェクト変更指示操作」と呼ぶ)を受け付けたか否かを判定する。
選択オブジェクト変更指示操作が受け付けられた場合には、ステップS21においてYESであると判定されて、処理はステップS22に進む。
【0075】
ステップS22において、主制御部61は、選択オブジェクトOBとして、複数のオブジェクトOB2〜OB7の中から選択した別のオブジェクトOBに変更する。この処理が終了すると、処理はステップS23に進む。
【0076】
これに対して、選択オブジェクト変更指示操作が受け付けられていない場合には、ステップS21においてNOであると判定されて、処理はステップS23に進む。
【0077】
ステップS23において、主制御部61は、視点変換画像生成処理の終了指示を受けたか否かを判定する。
終了指示を受けていない場合には、ステップS23においてNOであると判定されて、処理はステップS12に戻される。即ち、視点変換画像生成処理の終了指示が受け付けられるまでの間、ステップS12乃至ステップS23の処理が繰り返し実行される。そして、視点変換画像生成処理の終了指示が受け付けられると、ステップS23においてYESであると判定されて、視点変換画像生成処理は終了となる。
【0078】
[第1実施形態の第1変形例]
上述した第1実施形態では、選択オブジェクトをボールとした場合の例について説明したが、本変形例は、ボールに代えて、選手を選択オブジェクトとした場合の例について図7及び図8を用いて説明する。なお、上述の実施形態と同様の部分は、同一の符号をもって詳細な説明を省略し、異なる箇所のみ説明する。
【0079】
図7は、本発明の第1実施形態の第1変形例に係る画像処理システムの概略的な構成を示す模式図であって、選手のオブジェクトOB2〜OB7が視点として選択された場合の図である。
画像処理装置12は、図7に示すように、各オブジェクトOB1〜OB7のうち、選手の選択オブジェクトOB3を、仮想視点とするためのオブジェクト、即ち仮想視点を用いた処理の対象として選択オブジェクトOBとして選択することができる。
【0080】
画像処理装置12は、カメラ11a〜11hにより撮像された図2(a)〜(h)に示すような撮像画像のデータのうち少なくとも1つの元画像のデータと、移動方向A2に移動している選択オブジェクトOB3から逐次送信されてくる位置情報とに基づいて、移動方向A2に移動する選択オブジェクトOB3の眺望方向の仮想視点から眺めた様子を示す一連の視点変換画像(動画像、連写画像或いは静止画)のデータを生成する。
【0081】
図8は、画像処理装置12で生成される視点変換画像の他の具体例を示している。
画像処理装置12は、図8に示すように、選択オブジェクトOB3が選手であるために、生成される眺めた一連の視点変換画像を、選手の目線の高さから移動方向A2を眺めた視点の画像のデータを生成する。従って、画像処理装置12は、カメラ11a〜11hの実際の視点から競技場Fを周囲から(外部から)眺めた様子を表わす画像のデータを、競技場Fの内部において移動方向A2に移動していくオブジェクトOB3の眺望方向の仮想視点(選手の目線となる仮想視点)から眺めた様子を表わす画像のデータに変換して視点変換画像のデータを生成する。
【0082】
[第1実施形態の第2変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサを搭載した移動位置センサユニットから送信される位置情報を画像処理装置12が取得する場合の例を説明したが、本変形例は、移動位置センサユニットから送信される位置情報をカメラ11と同位置又は異なる位置に配置された受信装置により取得する例について説明する。なお、上述の実施形態と同様の部分は、同一の符号をもって詳細な説明を省略し、異なる箇所のみ説明する。
【0083】
図9は、選択オブジェクトOBの位置情報の取得手法の一例を示す模式図である。
図9に示す例では、カメラ11の近傍に受信装置15が設置されている。受信装置15は、ボールに内蔵された移動位置センサユニットから無線LANやbluetooth(登録商標)等により送信された位置情報のデータを受信し、画像処理装置12に送信する。
また、受信装置15は、競技場Fの全範囲をカバーするために、カメラ11a〜11cに対応して3つの受信装置15−1〜15−3が設けられる。
このように構成される画像処理システムでは、移動位置センサユニットのセンサ部により測定された選択オブジェクトOBの位置情報のデータが移動位置センサユニットの送信部から受信装置15に送信される。その後、受信装置15から受信した位置情報のデータを画像処理装置12は、カメラ11から取得した撮像画像のデータと共に、視点変換画像のデータの生成に用いる。
なお、本変形例では、カメラ11の近傍、即ち、カメラ11a〜11cと同位置に受信装置15−1〜15−3を配置したがこれに限られず、カメラ11の位置に関係のない、カメラ11と異なる位置に受信装置を配置するように構成してもよい。
[第1実施形態の第3変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、本変形例は、オブジェクトに測位センサを設けずに電磁界を利用して選択オブジェクトOBからの位置情報を取得する。なお、上述の実施形態と同様の部分は、同一の符号をもって詳細な説明を省略し、異なる箇所のみ説明する。
図10は、選択オブジェクトOBの位置情報の取得手法の一例を示す模式図である。
図10に示す例では、磁界発生源16と、受信手段17とを備える。
磁界発生源16は、アンテナコイル等で構成され、電磁界を発生させる。この磁界発生源16は、競技場Fの全範囲をカバーするために、3つの磁界発生源16−1〜16−3がカメラ11a〜11cに対応して設けられる。
受信手段17は、磁界発生源16により発生させられた電磁界を受信検出して、受信した磁気強度の組み合わせから3次元位置を測位する、「ヒポポヒマスセンサ」等で構成される。
また、受信手段17は、磁界発生源16−1〜16−3に対応して3つの受信手段17−1〜17−3がカメラ11d〜11fに設けられる。
このように構成される画像処理システムでは、磁界発生源16−1〜16−3により電磁界を発生させて、受信手段17−1〜17−3により受信される電磁界の受信強度の組み合わせから選択オブジェクトOBの3次元位置を測位する。
【0084】
[第1実施形態の第4変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、本変形例は、オブジェクトに測位センサを設けずにドップラー効果を利用して選択オブジェクトOBからの位置情報を取得する。
【0085】
画像処理システム10は、ビーコン電波アンテナを備える。
ビーコン電波アンテナは、カメラに対応して複数設けられ、それぞれ周波数の異なる無線電波を送信する。
【0086】
このように構成される画像処理システム10では、周波数の異なる複数のビーコン電波アンテナからの無線電波を送信する。画像処理装置12は、ビーコン電波アンテナから受信した周波数の遷移等から選択オブジェクトの3次元位置や相対位置を算出する、いわゆる、「電波ドップラーセンサ」等で構成される。
【0087】
なお、本変形例では、カメラ11の近傍、即ち、カメラ11と同位置に受信装置を配置したがこれに限られず、カメラ11の位置に関係のない、カメラ11と異なる位置に受信装置を配置するように構成してもよい。
【0088】
[第1実施形態の第5変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、本変形例は、オブジェクトOBに測位のためのセンサを設けずに、カメラ11から取得した撮像画像を画像処理することにより選択オブジェクトを特定して位置情報を取得する。
【0089】
図11は、選択オブジェクトOBの位置情報の取得手法の一例を示す模式図である。
具体的には、選択オブジェクトOBの位置情報は、図11に示すように、ボール等の選択オブジェクトの表面に複数の特定のマークM1〜M4(例えば、星印)を付して、当該マークM1〜M4を撮像画像からボールを検出すると共に、連続して撮像された撮像画像での選択オブジェクトの表面のマークM1〜M4(以下、マークM1〜M4を個々に区別する必要がない場合、これらをまとめて、「マークM」と単に呼ぶ。)の相対位置や撮像画像間の変化を移動位置から、選択オブジェクトの3次元位置や相対位置を算出するように構成してもよい。
なお、本変形例では、識別情報となるマークMにより選択オブジェクトOBを得していたが、これに限られず、オブジェクトの外観を特定することで、位置情報を算出するように構成することができる。即ち、ボールを選択オブジェクトOBとする場合には、ボールの形状を撮像画像から特定して、特定したボールの位置を撮像画像から割り出すようにしてボールの位置情報のデータを取得する。
[第1実施形態の他の変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、その他にも、選択オブジェクトの位置情報は、例えば、レンズの焦点法、パッシブ又はアクティブの三角測量ステレオ法、光レーザ法、照度差ステレオ法、スリット光投影法その他の電磁界式、ワイヤレス式の3次元測定装置等の種々の3次元測定方法や測定方法を採用してもよい。
【0090】
以上説明したように、本実施形態の画像処理装置12は、撮像画像取得部62と、位置情報取得部63と、視点変換画像加工部74と、表示制御部65と、を備える。
撮像画像取得部62は、オブジェクトOBが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数のカメラ11の各々によって撮像された複数の撮像画像のデータを取得する。
位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を取得する。
視点変換画像加工部74は、位置情報取得部63により取得された位置に基づいて、撮像画像取得部62により取得された複数の撮像画像のデータを視点変換の加工をすることで、オブジェクトOBに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
表示制御部65は、視点変換画像加工部74により生成された視点変換画像のデータを表示出力する制御を実行する。
【0091】
画像処理装置12は、位置情報取得部63により取得された位置に基づいて、撮像画像取得部62により取得された撮像画像のデータを視点変換の加工をすることで、オブジェクトOBに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
この場合、画像処理装置12は、鑑賞者が所望する視点で撮像されたのと等価な視点変換画像を容易に得ることができる。
また、画像処理装置12は、生成された視点変換画像のデータを表示するようにしたことで、移動する選択オブジェクトOBにカメラ等の撮像装置を設けることなく、移動するオブジェクトOBを視点とした臨場感あふれる画像が得られる。
また、画像処理装置12は、移動するオブジェクトOBに撮像手段を設ける必要がなく撮像の制約を受けないため高画質の画像を得ることができる。
【0092】
位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を任意のタイミングで取得する。
視点変換画像加工部74は、位置情報取得部63により任意のタイミングで取得されたオブジェクトの位置に基づいて、撮像画像取得部62により取得された撮像画像のデータを加工する。
この場合、画像処理装置12は、位置情報取得部63により取得された任意のタイミングの位置に基づいて撮像画像を加工するために、例えば、ユーザの指定した任意のタイミングの位置での視点変換画像のデータを生成することができる。
【0093】
位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を逐次取得する。
視点変換画像加工部74は、撮像画像取得部62により逐次取得された撮像画像のデータを逐次加工する。
この場合、画像処理装置12は、逐次取得された所定の空間を移動するオブジェクトOBの位置に基づいて、撮像画像のデータを逐次加工するために、予め記憶した画像(録画した画像)ではなく、リアルタイムで取得した撮像画像のデータを処理して視点変換画像のデータを生成することができる。
【0094】
また、画像処理装置12は、撮像画像取得部62により取得された複数の撮像画像のデータの中から、オブジェクトに配置された仮想視点から眺めた様子を表わす画像の生成の元になる元画像のデータを、位置情報取得部63により取得された前記位置に基づいて選択する元画像選択部73と、を備える。
視点変換画像加工部74は、元画像選択部73により取得された元画像のデータを視点変換の加工をすることで、オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
この場合、画像処理装置12は、元画像選択部73により複数の撮像画像のデータの中から選択された元画像のデータに基づいて、視点変換画像のデータの生成を行うために、複数の撮像画像のデータのうちから視点変換画像のデータの生成に好適な撮像画像のデータを選択すれば、加工処理の処理負担の軽減や精度の高い視点変換画像のデータの生成等を行うことができる。
【0095】
また、画像処理装置12は、オブジェクトOBの移動方向を算出する移動方向算出部71を備える。
元画像選択部73は、移動方向算出部71により取得されたオブジェクトOBの移動方向に基づいて元画像のデータを選択する。
視点変換画像加工部74は、移動方向算出部71により算出されたオブジェクトOBの移動方向に基づいて元画像のデータを選択し、オブジェクトOBの移動方向に基づいて元画像のデータを加工することで、オブジェクトOBの仮想視点が移動方向を眺望方向として眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
【0096】
この場合、画像処理装置12は、移動方向算出部71により算出された移動方向に基づいて元画像のデータを加工することで、移動方向に移動するオブジェクトOBに配置された仮想視点が移動方向を眺望方向として眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成するようにしたことで、より臨場感の高い画像が得られる。
【0097】
また、画像処理装置12は、オブジェクトOBの移動速度を算出する移動速度算出部72を備える。
視点変換画像加工部74は、視点変換画像のデータとして、移動速度算出部72により取得された移動速度に応じた画角の画像のデータを生成する。
【0098】
この場合、画像処理装置12は、視点変換画像のデータとして、移動速度算出部72により取得された移動速度に応じた画角の画像のデータを生成することができるために、さらに速度感を追加された臨場感の高い画像が得られる。
【0099】
視点変換画像加工部74は、視点変換画像のデータとして、移動速度に反比例して広角となる画像のデータを生成する。このため、画像処理装置12は、自然な速度感となる視点変換画像を得ることができる。
【0100】
また、オブジェクトOBは、自己の状態を示すデータを取得して発信する。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、オブジェクトOBから発信されたデータを取得し、当該データに基づいてオブジェクトの位置、移動方向、或いは移動速度を取得或いは算出する。
この場合、画像処理装置12は、移動するオブジェクトOBの位置情報を受信することによりオブジェクトOBの位置、移動方向、或いは移動速度を取得することができ、単純な構成でオブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0101】
また、画像処理装置12は、オブジェクトOBから発信された、オブジェクトOBの位置、移動方向、或いは移動速度を示すデータを受信する受信装置が、外部に設けられている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、オブジェクトOBの位置、移動方向、或いは移動速度を示すデータを、受信装置を介して取得する。
この場合、画像処理装置12は、オブジェクトOBの位置、移動方向、或いは移動速度を示すデータを、受信装置を介して取得できるために、精度の高いオブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0102】
また、画像処理装置12は、電磁界を発生させる発生源と、電磁界を受信検出する受信手段と、が外部に設けられている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、受信手段の受信検出の結果に基づいて、オブジェクトOBの位置、移動方向、或いは移動速度を取得する。
また、画像処理装置12は、相異なる周波数の無線電波を送信するビーコン電波アンテナが、外部に設けられている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、ビーコン電波アンテナから送信された無線電波によるドップラー効果を利用して、オブジェクトOBの位置、移動方向、或いは移動速度を取得する。
従って、画像処理装置12は、上述したようにオブジェクトOBの位置、移動方向、或いは移動速度を取得するようにしたことで、オブジェクトOBに個別に位置情報を取得するための装置等を搭載しない、即ち、オブジェクトOBに位置情報の取得に係る構成を備える必要がない。
【0103】
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、撮像画像取得部62により取得された複数の撮像画像のデータのうちオブジェクトOBが写った撮像画像のデータに対して画像処理を施し、当該画像処理の結果に基づいて、オブジェクトOBの位置、移動方向、或いは移動速度を取得する。
この場合、画像処理装置12は、画像処理した撮像画像をからオブジェクトOBの位置、移動方向、或いは移動速度を取得することができるために、オブジェクトOBに別途装置等を搭載せずに、オブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0104】
また、オブジェクトOBには識別情報(マークM)が付されている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、画像処理により識別情報(マークM)を認識し、当該識別情報(マークM)を利用してオブジェクトOBの位置、移動方向、或いは移動速度を取得する。
この場合、画像処理装置12は、オブジェクトOBに記された識別情報となるマークMからオブジェクトOBの位置、移動方向、或いは移動速度を取得することができるために、オブジェクトOBに別途装置等を搭載せず、かつ、軽い画像処理により、オブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0105】
また、位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、画像処理によりオブジェクトOBの外観を認識し、当該外観に基づいてオブジェクトOBの状態(位置、移動方向、或いは移動速度)を取得する。
この場合、画像処理装置12は、オブジェクトOBの外観を認識し、検出することによりオブジェクトOBの位置、移動方向、或いは移動速度を取得することができるため、オブジェクトOBに別途装置等を搭載せず、かつ軽い画像処理によりオブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0106】
また、画像処理装置12においては、複数のカメラ11が撮像する空間には、複数のオブジェクトが存在する。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、複数のオブジェクトの各々の位置、移動方向、或いは移動速度を取得する。
視点変換画像加工部74は、位置情報取得部63、移動方向算出部71或いは移動速度算出部72により取得された複数のオブジェクトの位置、移動方向、或いは移動速度のうち、選択したオブジェクトの位置、移動方向、或いは移動速度に基づいて、視点変換画像のデータを生成する。
この場合、画像処理装置12は、複数のオブジェクトOBの位置、移動方向、或いは移動速度のうち、選択したオブジェクトの位置、移動方向、或いは移動速度に基づいて、視点変換画像のデータを生成するようにしたことで、好みに合わせた画像を得ることができる。
【0107】
また、表示制御部65は、視点変換画像のデータを表示出力する制御を実行する。
この場合、画像処理装置12は、視点変換画像のデータを表示出力する制御を実行するようにしたことで、画像処理装置で生成された視点変換画像を確認することができる。
【0108】
また、表示制御部65は、視点変換画像加工部74により生成された視点変換画像のデータを外部機器に送信する送信手段として機能する。
この場合、画像処理装置以外の外部端末14で生成された視点変換画像を確認することができ、離れた場所でも視点変換画像を楽しむことができる。
【0109】
また、画像処理装置12は、外部端末14からの制御信号を受信する制御受信手段をさらに備える。
視点変換画像加工部74は、視点変換画像のデータとして、制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成する。
この場合、画像処理装置12は、制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成するために、外部端末14の使用者が要求する視点での視点変換画像のデータを生成することができる。
【0110】
また、撮像画像取得部62は、複数の撮像画像のデータの各々として、動画像のデータを夫々取得する。
視点変換画像加工部74は、撮像画像取得部62により取得された動画像のデータに基づいて、視点変換画像のデータとして動画像のデータを生成する。
この場合、画像処理装置12は、動きのある動画像を提供することができるために、さらに臨場感のある映像を提供することができる。
なお、視点変換画像加工部74は、視点変換画像のデータとして動画像のデータを生成するように構成したが、連写画像のデータ或いは静止画のデータも生成するように構成してもよい。
【0111】
以上、本発明の第1実施形態に係る画像処理装置12について説明した。
次に、本発明の第2実施形態に係る画像処理装置12について説明する。
【0112】
[第2実施形態]
上述した第1実施形態では、視点変換画像のデータの生成に際して、複数の撮像画像のデータうち、1つの撮像画像のデータを用いる場合の例を説明したが、本実施形態では、複数の撮像画像のデータを用いて視点変換画像のデータを生成する例について説明する。
本発明の第2実施形態に係る画像処理装置12は、第1実施形態に係る画像処理装置12と基本的に同様のハードウェア構成及び機能的構成を取ることができる。
従って、図4は、第2実施形態に係る画像処理装置12のハードウェアの構成を示すブロック図でもある。
また、図5は、第2実施形態に係る画像処理装置12の機能的構成を示す機能ブロック図でもあるが、第2実施形態では、元画像選択部73及び視点変換画像加工部74が異なる。
即ち、第2実施形態では、複数の撮像画像のデータから視点変換画像のデータが生成されるために、元画像選択部73は、複数の撮像画像のデータのうち、最適な撮像画像のデータを選択せず、複数の撮像画像のデータのうち、選択オブジェクトが映り込んだ撮像画像のデータや、視点変換画像のデータの生成に好適な撮像画像のデータを選択する。
また、視点変換画像加工部74は、複数の撮像画像のデータの差分から変換したり、複数の撮像画像のデータを変換して合成したりすることで、視点変換画像を生成する。この場合の視点変換画像の生成は、公知の任意の手法を採用することができる。公知の任意の手法とは、例えば特開2011−77982公報等に開示されている。
【0113】
図12は、図5の機能的構成を有する図4の画像処理装置12が実行する、第2実施形態に係る視点変換画像生成処理の流れを説明するフローチャートである。
【0114】
上述した第1実施形態における図6の視点変換画像生成処理では、複数の撮像画像データのうち、元画像のデータとなる1つの撮像画像データを選択し、元画像のデータを変換することで視点変換画像のデータを生成しているのに対して、第2実施形態における図12の視点変換画像生成処理では、複数の撮像画像データを用いて、それぞれの撮像画像のデータを変換して合成することで、視点変換画像のデータを生成している点が差異点である。詳細には、第2実施形態では、第1実施形態に係るステップS15乃至S18の処理に代えて、ステップS45の処理が実行される点が差異点である。
そこで、以下、このような差異点について主に説明し、一致点の説明は適宜省略する。
【0115】
ステップS45において、視点変換画像加工部74は、位置情報に基づいて、複数の元画像のデータから視点変換画像を生成する。即ち、視点変換画像加工部74は、複数の撮像画像のデータの差分から変換したり、複数の撮像画像のデータを変換して合成したりすることで、視点変換画像を生成する。
この際、元画像選択部73は、複数の撮像画像のデータのうち、視点変換画像のデータに好適な撮像画像のデータを元画像として事前に選択するように構成してもよい。
【0116】
なお、上述の第2実施形態においては、第1実施形態の選択オブジェクトOBからの位置情報の取得手法を採用することもできるが、第1実施形態の第2変形例乃至第5変形例の手法も適宜採用することができる。
【0117】
以上のように構成される画像処理装置12において、元画像選択部73は、複数のカメラ11により撮像された複数の撮像画像のデータの中から、複数の元画像のデータを選択する。
視点変換画像加工部74は、元画像選択部73により選択された複数の元画像のデータ(より具体的には、複数の元画像のデータの差分の画像データ)に基づいて、視点変換画像のデータを生成する。
【0118】
この場合、画像処理装置12は、選択された複数の元画像のデータに基づいて、視点変換画像のデータを生成するようにしたことで、よりリアルな視点変換画像を得ることができる。
【0119】
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0120】
上述の実施形態では、本発明が適用される上述の実施形態では、ボール等の競技用品や選手を選択オブジェクトとして選択する例について説明したがこれに限定されない。例えば、審判員、解説者、お客等の競技会場にいる人物や、競技会場にある物を選択オブジェクトとして選択することができる。
【0121】
また、上述の実施形態では、撮像部101は、連続撮影した画像の画像データを逐次送信部102を通じて画像処理装置12へ送信しているがこれに限られない。例えば、大容量のメモリ(図示せず)に記憶した後、所定の時間毎、容量毎、又は通信速度に応じて分割して、画像処理装置12へ送信することができる。
【0122】
また、上述の実施形態では、カメラ11は、競技場Fの全域を撮像可能に複数台設けたがこれに限られず、例えば、通常の撮像範囲よりも広い範囲を撮像可能な広角カメラ、パノラマカメラ、全天周カメラにより構成してもよい。また、カメラ11は、設置場所や視角の異なる複数の広角カメラ、パノラマカメラ、全天周カメラにより構成してもよい。
【0123】
また、上述の実施形態では、本発明が適用される画像処理装置12が使用される画像処理システム10は、スポーツが行われる競技場で用いられる例について説明したがこれに限定されない。例えば、舞台中継等に適用可能である。
【0124】
また、上述の実施形態では、画像処理装置12での指示により、選択オブジェクトOBの設定を行い視点変換画像のデータを生成するように構成したがこれに限られない。例えば、外部端末からの指示により、選択オブジェクトOBの設定を行い視点変換画像のデータを生成するように構成してもよい。
【0125】
また、上述の実施形態では、画像処理装置12から視点変換画像のデータを外部端末14に送信するように構成したがこれに限られない。例えば、ネットワーク上に接続されたサーバに視点変換画像のデータを保存し、事後的又はリアルタイムに視点変換画像のデータを外部端末で取得するように構成してもよい。
【0126】
また、上述の実施形態では、取得した位置情報のデータから逐次視点変換画像のデータを生成するように構成したがこれに限られない。例えば、位置情報のデータの履歴から、所定の時間を指定して、当該指定された時間帯の視点変換画像のデータを生成するように構成してもよい。
【0127】
また、上述の実施形態では、画像処理装置12は、例えば、選択オブジェクトの移動速度が速い場合には、通常の視点変換画像のデータとは異なる広角な視点変換画像のデータ等の選択オブジェクトOBの移動速度に対応した大きさとなる視点変換画像のデータを生成するように構成したこれに限られない。画像処理装置12は、選択オブジェクトの移動速度が視覚的に伝わるような効果を施して、選択オブジェクトの移動速度を表現してもよく、例えば、選択オブジェクトの移動速度が速い場合には、眺望方向の中心付近に焦点を合わせて、周囲をぼかすような視点変換画像のデータを生成するように構成してもよい。
【0128】
また、上述の実施形態では、本発明が適用される画像処理装置12は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、視点変換画像生成処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
【0129】
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置12に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
【0130】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0131】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図4のリムーバブルメディア51により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア51は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図4のROM32や、図4の記憶部40に含まれるハードディスク等で構成される。
【0132】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
【0133】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれる共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0134】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得手段と、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得手段と、
前記位置取得手段により取得された前記位置に基づいて、前記画像取得手段により取得された前記複数の撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工手段と、
前記画像加工手段により生成された前記視点変換画像のデータを出力する制御を実行する出力制御手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を任意のタイミングで取得し、
前記画像加工手段は、前記位置取得手段により任意のタイミングで取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを加工する、
ことを特徴とする付記1に記載の画像処理装置。
[付記3]
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を逐次取得し、
前記画像加工手段は、前記位置取得手段により逐次取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを逐次加工する、
ことを特徴とする付記2に記載の画像処理装置。
[付記4]
前記画像取得手段により取得された前記複数の撮像画像のデータの中から、前記オブジェクトに配置された仮想視点から眺めた様子を表わす画像の生成の元になる元画像のデータを、前記位置取得手段により取得された前記位置に基づいて選択する元画像選択手段を備え、
前記画像加工手段は、前記元画像選択手段により取得された前記元画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する、
ことを特徴とする付記1乃至3の何れか1つに記載の画像処理装置。
[付記5]
前記位置取得手段は、前記オブジェクトの移動方向をさらに取得し、
前記元画像選択手段は、前記位置取得手段により取得された前記オブジェクトの移動方向に基づいて前記元画像のデータを選択し、
前記画像加工手段は、さらに前記位置取得手段により取得された前記移動方向に基づいて前記元画像のデータを加工することで、前記移動方向に移動する前記オブジェクトに配置された仮想視点が前記移動方向を前記眺望方向として眺めた様子を表わす画像のデータを、前記視点変換画像のデータとして生成する、
ことを特徴とする付記4に記載の画像処理装置。
[付記6]
前記位置取得手段は、オブジェクトの移動速度をさらに取得し、
前記画像加工手段は、前記視点変換画像のデータとして、前記位置取得手段により取得された前記移動速度に応じた画角の画像のデータを生成する、
ことを特徴とする付記4又は5に記載の画像処理装置。
[付記7]
前記画像加工手段は、前記視点変換画像のデータとして、前記移動速度に反比例して広角となる画像のデータを生成する、
ことを特徴とする付記6に記載の画像処理装置。
[付記8]
前記元画像選択手段は、前記複数の撮像手段により撮像された前記複数の撮像画像のデータの中から、複数の元画像のデータを選択し、
前記画像加工手段は、前記元画像選択手段により選択された前記複数の元画像のデータに基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする付記4乃至7の何れか1つに記載の画像処理装置。
[付記9]
前記オブジェクトは、自己の状態を示すデータを取得して発信し、
前記位置取得手段は、前記オブジェクトから発信された前記データを取得し、当該データに基づいて前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記10]
前記オブジェクトから発信された、前記オブジェクトの状態を示す前記データを受信する受信装置が、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記オブジェクトの状態を示す前記データを、前記受信装置を介して取得する、
ことを特徴とする付記9に記載の画像処理装置。
[付記11]
電磁界を発生させる発生源と、前記電磁界を受信検出する受信手段と、が前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記受信手段の受信検出の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記12]
相異なる周波数の無線電波を送信するビーコン電波アンテナが、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記ビーコン電波アンテナから送信された前記無線電波によるドップラー効果を利用して、前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記13]
前記位置取得手段は、前記画像取得手段により取得された前記複数の撮像画像のデータのうち前記オブジェクトが写った撮像画像のデータに対して画像処理を施し、当該画像処理の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記14]
前記オブジェクトには識別情報が付されており、
前記位置取得手段は、前記画像処理により前記識別情報を認識し、当該識別情報を利用して前記オブジェクトの状態を取得する、
ことを特徴とする付記13に記載の画像処理装置。
[付記15]
前記位置取得手段は、前記画像処理により前記オブジェクトの外観を認識し、当該外観に基づいて前記オブジェクトの状態を取得する、
ことを特徴とする付記13に記載の画像処理装置。
[付記16]
前記複数の撮像装置が撮像する前記空間には、複数のオブジェクトが存在し、
前記位置取得手段は、前記複数のオブジェクトの各々の状態を取得し、
前記画像加工手段は、前記位置取得手段により取得された前記複数のオブジェクトの状態のうち、選択したオブジェクトの状態に基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする付記1乃至15の何れか1つに記載の画像処理装置。
[付記17]
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを表示出力する制御を実行する、
ことを特徴とする付記1乃至16の何れか1つに記載の画像処理装置。
[付記18]
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを外部機器に送信する送信手段として機能する、
ことを特徴とする付記1乃至17の何れか1つに記載の画像処理装置。
[付記19]
外部機器からの制御信号を受信する制御受信手段をさらに備え、
前記画像加工手段は、前記視点変換画像のデータとして、前記制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成する、
ことを特徴とする付記1乃至18の何れか1つに記載の画像処理装置。
[付記20]
視点変換画像のデータを出力する制御を実行する画像処理装置が実行する画像処理方法であって、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得ステップと、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得ステップと、
前記位置取得ステップにより取得された前記位置に基づいて、前記画像取得ステップにより取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工ステップと、
前記画像加工ステップにより生成された前記視点変換画像のデータを出力する制御を実行する出力制御ステップと、
を含む画像処理方法。
[付記21]
視点変換画像のデータを出力する制御を実行する画像処理装置を制御するコンピュータに、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得機能、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得機能、
前記位置取得機能により取得された前記位置に基づいて、前記画像取得機能により取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工機能、
前記画像加工機能により生成された前記視点変換画像のデータを出力する制御を実行する出力制御機能、
を含む機能を実現させるプログラム。
【符号の説明】
【0135】
10・・・画像処理システム、11a〜11h・・・カメラ、12・・・画像処理装置、13・・・中継装置、14−1〜14−N・・・外部端末、15−1〜15−3・・・受信装置、16−1〜16−3・・・磁界発生源、17−1〜17−3・・・受信手段、31・・・CPU、32・・・ROM、33・・・RAM、34・・・画像処理部、35・・・バス、36・・・入出力インターフェース、37・・・入力部、38・・・表示部、39・・・計時部、40・・・記憶部、41・・・通信部、42・・・ドライブ、51・・・リムーバブルメディア、61・・・主制御部、62・・・撮像画像取得部、63・・・位置情報取得部、64・・・記憶制御部、65・・・表示制御部、66・・・通信制御部、71・・・移動方向算出部、72・・・移動速度算出部、73・・・元画像選択部、74・・・視点変換画像加工部、81・・・元画像候補データ記憶部、82・・・オブジェクトデータ記憶部、83・・・表示データ記憶部、101・・・撮像部、102・・・送信部、111・・・センサ部、112・・・送信部、A1、A2・・・移動方向、F・・・競技場、G1、G2・・・ゴール、M1〜M7・・・マーク、N・・・ネットワーク、OB1〜OB7・・・オブジェクト
【技術分野】
【0001】
本発明は、鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることを可能にする、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来、サッカー等のスポーツ競技における放送に用いる映像の撮影では、定点カメラや、報道席のカメラマンが保持するカメラ等が用いられている。即ち、これらのカメラによって、遠方から望遠撮影されたスポーツ競技の映像が放送等されている。
【0003】
しかしながら、このような遠方から撮像された映像では、たとえ望遠撮影等を織り交ぜたとしても、迫力に乏しいという印象を鑑賞者に与えてしまう。
【0004】
そこで、サッカー等の球技について、より迫力のある映像を得るために、球技用のボールの中に、カメラやセンサを内蔵する技術が提案されている(例えば、特許文献1〜特許文献3参照)。このような技術を適用することで、ボール内のセンサが衝撃や加速度を検出したら、ボール内のカメラが所定の瞬間の画像を撮影することができるので、ボール視点とした画像の再生が可能になる。ただし、ボールは回転したり振動するので、落下するボール自体の姿勢制御を行うことで画像を安定化する技術も特許文献1に記載されている。
【0005】
なお、サッカーや格闘技等、スポーツを模擬したゲーム機器も近年開発されている(例えば、特許文献4参照)。このようなゲーム機器では、所定のシーンを模擬した3次元CG(Computer Graphics)を再構成して、リプレイ表示することができるようになっている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−104254号公報
【特許文献2】特開2001−042420号公報
【特許文献3】特開2007−104234号公報
【特許文献4】特開平07−116343号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1〜3の従来の技術を適用してボール視点の画像を得るためには、ボールは逐次姿勢変化していることから、当該ボール自身又は内蔵されたカメラの姿勢制御を逐次的確に行わなければならない。このためには、複雑な構造の大掛かりな設備が必要となり、ボール視点の画像を容易に得ることができなかった。
【0008】
また、鑑賞者の中には、ボールだけではなく、選手等他のオブジェクトを視点とした画像を得ることを要求するものも多く存在するが、特許文献1〜3の従来の技術では当該要求に十分に応えることはできない。
【0009】
また、特許文献4の従来の技術は、あくまでもゲームという仮想現実に適用可能な技術であり、現実のスポーツ等を撮像する技術にはそのまま適用することは困難である。
【0010】
本発明は、このような状況に鑑みてなされたものであり、鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するため、本発明の一態様の画像処理装置は、オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得手段と、前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得手段と、前記位置取得手段により取得された前記位置に基づいて、前記画像取得手段により取得された前記複数の撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工手段と、前記画像加工手段により生成された前記視点変換画像のデータを出力する制御を実行する出力制御手段と、を備える。
【発明の効果】
【0012】
本発明によれば、鑑賞者が所望する視点で撮影されたのと等価な画像を容易に得ることができる。
【図面の簡単な説明】
【0013】
【図1】本発明の第1実施形態に係る画像処理システムの概略的な構成を示す模式図である。
【図2】図1の画像処理装置によって生成される視点変換画像の元画像の各種具体例を示す模式図である。
【図3】図1の画像処理装置で生成される視点変換画像の具体例を示している。
【図4】本実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。
【図5】図4の画像処理装置の機能的構成のうち、視点変換画像生成処理を実行するための機能的構成を示す機能ブロック図である。
【図6】図5の機能的構成を有する図4の画像処理装置が実行する、第1実施形態に係る視点変換画像生成処理の流れを説明するフローチャートである。
【図7】本発明の第1実施形態の第1変形例に係る画像処理システムの概略的な構成を示す模式図であって、選手のオブジェクトが視点として選択された場合における概略構成を示す模式図である。
【図8】図1の画像処理装置で生成される視点変換画像の具体例を示している。
【図9】選択オブジェクトの位置情報の取得手法の一例を示す模式図である。
【図10】選択オブジェクトの位置情報の取得手法の一例を示す模式図である。
【図11】選択オブジェクトの位置情報の取得手法の一例を示す模式図である。
【図12】図5の機能的構成を有する図4の画像処理装置が実行する、第2実施形態に係る視点変換画像生成処理の流れを説明するフローチャートである。
【発明を実施するための形態】
【0014】
[第1実施形態]
以下、本発明の第1実施形態について、図面を用いて説明する。
【0015】
図1は、本発明の第1実施形態に係る画像処理システムの概略的な構成を示す模式図である。
本実施形態に係る画像処理システム10は、競技場Fで開催されるサッカーの試合を撮像する用途で設定されている。
このため、サッカーボール(以下、「ボール」と略記する)や選手等から、鑑賞者に提供される画像の視点となり得るオブジェクトがm個採用されるものとする。ここで、mは、1以上の任意の整数値であるが、本実施形態ではボール及び選手数と同一の値である「7」とする。
【0016】
具体的には、図1は、ボールのオブジェクトに配置された仮想視点が選択された場合における、本実施形態に係る画像処理システムの概略構成を示している。
なお、本明細書では、実空間を実際に撮像する撮像部(カメラ等)の視点を「実際の視点」と呼び、この実際の視点に対する概念として「仮想視点」が記載されている。即ち、「仮想視点」とは、撮像部以外の物体(実物体又は仮想物体)に可変可能に配置される仮想的な視点をいう。
【0017】
図1に示すように、本実施形態に係る画像処理システム10においては、ボールであるオブジェクトOB1及び各選手のそれぞれであるオブジェクトOB2〜OB7と、競技場Fを周囲から撮影するカメラ11a〜11hと、画像処理装置12と、中継装置13と、n台の外部端末14−1〜14−nと、がネットワークNを介して相互に接続されている。ネットワークNは、LAN(Local Area Network)やインターネット等の任意のネットワークである。
以下、外部端末14−1〜14−nを個々に区別する必要がない場合、これらをまとめて、「外部端末14」と単に呼ぶ。また、外部端末14と呼んでいる場合には、その構成要素の符号についても、1〜nを省略して説明する。
また、以下、オブジェクトOB1〜OB7を個々に区別する必要がない場合、これらをまとめて、「オブジェクトOB」と単に呼ぶ。また、オブジェクトOBと呼んでいる場合には、その構成要素の符号についても、1〜7を省略して説明する。
オブジェクトOBは、詳細については、図5を参照し後述するがセンサ部111及び送信部112を備えており、オブジェクトOBの位置情報のデータを画像処理装置12に逐次送信する。
また、以下、カメラ11a〜11hを個々に区別する必要がない場合、これらをまとめて、「カメラ11」と単に呼ぶ。また、カメラ11と呼んでいる場合には、その構成要素の符号についても、a〜hを省略して説明する。
【0018】
図1に示すように、画像処理装置12は、各オブジェクトOB1〜OB7のうち、ボールのオブジェクトOB1を、仮想視点を配置するためのオブジェクトOBとして選択することができる。このように仮想視点となるように選択されたオブジェクトをOB、以下、「選択オブジェクト」と呼ぶ。
【0019】
ここで、本実施形態では、競技場F内の任意の1点はカメラ11a〜11hのうちの少なくとも1つの撮像画像に含まれるように、カメラ11a〜11hの各々は競技場Fの周囲の各位置(定点)に配置されている。従って、本実施形態では、選択オブジェクトOBが映り込んだ画像は、カメラ11a〜11hのうちの少なくとも1つによって常に撮像されているものとする。
そこで、画像処理装置12は、カメラ11a〜11hにより撮像された撮像画像のデータのうち少なくとも1つを、移動方向A1に移動している選択オブジェクトOB1から逐次送信されてくる位置情報に基づいて加工することによって、当該選択オブジェクトOB1に配置された仮想視点がブレや回転をすることなく移動方向A1に移動していくような一連の画像(動画像、連写画像或いは静止画)のデータを生成する。即ち、この場合、画像処理装置12は、選択オブジェクトOB1の移動方向A1に基づく画像(動画像、連写画像或いは静止画)のデータを生成する。
具体的には、選択オブジェクトOB1は、ボールであるために本来ブレや回転が生ずるが、仮想視点は、ブレや回転をすることなく移動方向A1に移動していくように、選択オブジェクトOB1に可変配置される。即ち、図1の例では、仮想視点は、選択オブジェクトOB1から眺望するものであるが、固定的に配置されてブレや回転が生じるのではなく、水平方向は常に一定方向を眺望できるように(その結果回転することなく移動方向A1に移動していくように)選択オブジェクトOB1に可変配置される。ここで、選択オブジェクトOB1からの仮想視点が眺める所定の方向を、以下、「眺望方向」と呼ぶ。
一方で、カメラ11a〜11hにより撮像された撮像画像のデータとは、実際の視点から選択オブジェクトOB1を含む競技場Fを周囲から眺めた様子を表わす画像のデータである。
従って、画像処理装置12は、競技場Fの周囲(外部)の実際の視点から眺めた様子を表わす画像のデータを、競技場F内において選択オブジェクトOB1の移動方向A1に移動する仮想視点が、当該移動方向A1を眺望方向として眺めた様子を表わす画像のデータに変換している、と把握することもできる。
なお、以下、競技場Fの周囲(外部)のカメラ11a〜11h等における実際の視点から眺めた様子を表わす画像のデータを、即ち、変換の元になる画像のデータを、「元画像のデータ」と呼ぶ。一方、元画像のデータから変換した画像のデータ、即ち、競技場Fの内部において選択オブジェクトOB1の移動方向A1に移動する仮想視点が、当該移動方向A1を眺望方向として眺めた様子を表わす画像のデータを、「視点変換画像のデータ」と呼ぶ。
【0020】
図2は、カメラ11a〜11hにより撮像された撮像画像、即ち元画像の候補の各種具体例を示している。
【0021】
図2(a)の元画像の候補は、競技場Fの周囲(図1中、左下の隅)に設置されたカメラ11aにより、競技場Fの手前左側コーナーから右斜め45度の方向で撮像された撮像画像である。
図2(b)の元画像の候補は、競技場Fの周囲(図1中、中央下)に設置されたカメラ11bにより、競技場Fの手前センターラインから正面に向かう方向で撮像された撮像画像である。
図2(c)の元画像の候補は、競技場Fの周囲(図1中、右下の隅)に設置されたカメラ11cにより、競技場Fの手前右側コーナーから左斜め45度の方向で撮像された撮像画像である。
図2(d)の元画像の候補は、競技場Fの周囲(図1中、左上の隅)に設置されたカメラ11dにより、競技場Fの奥左側コーナーから右斜め45度の方向で撮像された撮像画像である。
図2(e)の元画像の候補は、競技場Fの周囲(図1中、中央上)に設置されたカメラ11eにより、競技場Fの奥センターラインから正面に向かう方向で撮像された撮像画像である。
図2(f)の元画像の候補は、競技場Fの周囲(図1中、右上の隅)に設置されたカメラ11fにより、競技場Fの奥右側コーナーから左斜め45度の方向で撮像された撮像画像である。
図2(g)の元画像の候補は、競技場Fの周囲(図1中、左の隅)に設置されたカメラ11gにより、ゴールG1の裏側からゴールG2に向かう方向で撮像された撮像画像である。
図2(h)の元画像の候補は、競技場Fの周囲(図1中、右の隅)に設置されたカメラ11hにより、ゴールG2の裏側からゴールG1に向かう方向で撮像された撮像画像である。
【0022】
本実施形態では、このようにして、カメラ11a〜11hの各々の撮像画像のデータが元画像の候補のデータとなり、これらの候補のデータの中から、選択オブジェクトOBの位置情報に基づいて選択された1つが、元画像のデータとして採用される。
【0023】
ここで、選択オブジェクトOBからの位置情報の取得手法として、本実施形態では次のような手法が採用されている。
即ち、選択オブジェクトOBになり得るオブジェクトOB1〜OB7には、位置情報を取得可能なセンサが取り付けられており、時間の経過と共に位置情報が逐次送信されるので、画像処理装置12が当該位置情報を取得する、という手法が採用されている。
具体的には例えば、ボールのオブジェクトOB1には、位置情報を取得可能なセンサとして、複数の移動位置センサユニットが内蔵されている。移動位置センサユニットは、具体的には、3軸加速度センサ等の3次元位置計測手段や高精度の測位手段と、時間経過毎に3次元位置情報を外部端末14に送信する無線送信手段と、測位手段や無線送信手段に電力を供給する電力供給手段等により構成される。
そこで、本手法では、画像処理装置12は、移動位置センサユニットの無線送信手段から、無線LANやbluetooth(登録商標)等の形態で送信された位置情報を受信することで、当該位置情報を取得する。
【0024】
画像処理装置12は、このようにして選択オブジェクトOBの位置情報を取得すると、当該位置情報に基づいて、カメラ11a〜11hの各撮像画像のデータの中から、視点変換画像のデータの生成に必要な元画像のデータを選択する。
詳細には、画像処理装置12は、選択オブジェクトOBの位置情報が取得された時間帯と同時間帯にカメラ11a〜11hの各々により撮像された撮像画像のデータを取得する。画像処理装置12は、これらの撮像画像のデータの中から、元画像のデータとして使用する1つを、選択オブジェクトの位置情報に基づいて選択する。
【0025】
画像処理装置12は、このようにして選択した1つの元画像のデータから、所定の移動方向に移動する選択オブジェクトOBの眺望方向の様子を表わす視点変換画像のデータを生成する。
画像処理装置12は、例えば、選択オブジェクトの移動方向と同一方向を眺望方向として仮想視点が眺める様子を示す視点変換画像のデータを生成することができる。
また、画像処理装置12は、選択オブジェクトの移動速度に対応した大きさとなる視点変換画像のデータを生成することができる。画像処理装置12は、例えば、選択オブジェクトの移動速度が速い場合には、通常の視点変換画像のデータとは異なる広角な視点変換画像のデータを生成する。
【0026】
図3は、視点変換画像の具体例を示している。
【0027】
図3の例では、複数台のカメラ11a〜11hの各々により撮像された複数の撮像画像のデータ、即ち図2(a)〜図2(h)の各々に示す複数の撮像画像のデータのうち、図2(h)に示す撮像画像のデータが元画像のデータとして選択されている。
そして、図2(h)に示す撮像画像のデータが、所定の手法に基づいて変換されることによって、図3に示す視点変換画像のデータが生成される。
【0028】
この場合、視点変換画像のデータへの変換に適用される所定の手法は、特に限定されないが、本実施形態では、例えば、アフィン変換を用いた手法を利用することにより実現可能となる。
このようなアフィン変換を用いた手法を適用することにより、各種オブジェクトOB等を、形状を変形させないで、平行移動や回転をさせたり、縦方向と横方向とで拡大又は縮小の倍率を変化させることが可能になる。
アフィン変換を用いた手法としては、公知又は今後登場するであろう任意の手法、例えば特開2007−133843号公報等に開示されている手法等を採用することができるが、本実施形態では次のような手法が採用されている。
【0029】
具体的には、アフィン変換では、元画像の座標をローカル座標からワールド座標に変換する変換行列が用いられる。この際、アフィン変換では、ローカル座標からワールド座標に移行する際に、オブジェクトの拡大縮小・回転・平行移動等が行わる。なお、「ローカル座標」とは、個々のオブジェクトの中心位置を(X,Y,Z)=(0,0,0)とする座標系で、オブジェクトの頂点情報等を表わした座標である。
また、「ワールド座標」とは、個々のオブジェクトを共通の3次元仮想空間内に、相対的な位置関係に基づいて配置したときの座標系で表わした座標である。この「ワールド座標」にはオブジェクトだけでなく、光源・視点も配置される。
次いで、アフィン変換では、ワールド座標からビュー座標に変換する変換行列が用いられ、ビュー座標からパースペクティブ座標に変換する変換行列が用いられる。その結果、3次元情報が表示装置の表示部に表示可能な2次元情報に変換される。この際、表示の中心が(X,Y)=(0,0)となる座標系となる。また、「ビュー(視点)座標」は、「ワールド座標」の座標系を視点位置から視点方向を見たときの座標、即ち、視点位置を(X,Y,Z)=(0,0,0)で、視点方向がZ軸のプラス方向となる座標系で表わした座標である。また、「パースペクティブ(透視)座標」は、3次元情報を2次元の座標系で表わした座標である。この「パースペクティブ(透視)座標」は、「スクリーン座標」ともいう。
最後に、アフィン変換では、パースペクティブ座標からディスプレイ座標に変換する変換行列が用いられる。「ディスプレイ座標」は、表示部における描画領域のサイズに対応した座標系で表わした座標である。「ディスプレイ座標」では、パースペクティブ座標で表示の中心を(X,Y)=(0,0)としていたが、表示部における描画領域に対応させるべく、描画領域の左上の点を(X,Y)=(0,0)とする変換が行われる。
画像処理装置12は、このようなアフィン変換を用いることにより、元画像のデータを、所定の移動方向に移動する選択オブジェクトOBの眺望方向を仮想視点とする視点変換画像のデータに変換することができる。
【0030】
図1に戻り、中継装置13は、ネットワークNを介して接続される画像処理装置12と、外部端末14との間で授受される各種情報、例えば視点変換画像のデータを中継する。
【0031】
外部端末14は、例えばスマートフォン等で構成されおり、例えば画像処理装置12から中継装置13を経由して送信されてきた視点変換画像のデータを受信すると、当該視点変換画像をディスプレイ等に表示する。
ここで、ネットワークNがインターネットであるならば、外部端末14は、視点変換画像のデータの取得要求等の指示を、例えばHTTP(Hypertext Transfer Protocol)によるURL(Uniform Resource Locator)要求により行うことができる。
さらに、外部端末14は、各種制御信号を中継装置13を介して画像処理装置12に送信することで、選択オブジェクトの変更指示等の遠隔制御を実行できる。
【0032】
次に、このような本実施形態の画像処理システム10のうち、主要構成要素たる画像処理装置12の構成について説明する。
[画像処理装置]
図4は、本実施形態に係る画像処理装置12のハードウェアの構成を示すブロック図である。
【0033】
画像処理装置12は、CPU(Central Processing Unit)31と、ROM(Read Only Memory)32と、RAM(Random Access Memory)33と、画像処理部34と、バス35と、入出力インターフェース36と、入力部37と、表示部38と、計時部39と、記憶部40と、通信部41と、ドライブ42と、を備えている。
【0034】
CPU31は、ROM32に記録されているプログラム、又は、記憶部40からRAM33にロードされたプログラムに従って各種の処理を実行する。
【0035】
RAM33には、CPU31が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0036】
画像処理部34は、DSP(Digital Signal Processor)や、VRAM(Video Random Access Memory)等から構成されており、CPU31と協働して、画像のデータに対して各種画像処理を施す。
【0037】
CPU31、ROM32、RAM33及び画像処理部34は、バス35を介して相互に接続されている。このバス35にはまた、入出力インターフェース36も接続されている。入出力インターフェース36には、入力部37、表示部38、計時部39、記憶部40、通信部41及びドライブ42が接続されている。
【0038】
入力部37は、キーボードやマウス等で構成され、ユーザの指示操作に応じて各種情報を入力する。
表示部38は、ディスプレイにより構成され、各種画像、例えば上述の視点変換画像を表示する。
計時部39は、計時動作を行い、現在時刻を取得する。
記憶部40は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像、例えば上述の視点変換画像のデータを記憶する。
通信部41は、インターネットを含むネットワークNを介して他の装置、例えば画像処理システム10内のオブジェクトOB(図1参照)やカメラ11(図1参照)や外部端末14(図1参照)との間で行う通信を制御する。
【0039】
ドライブ42には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア51が適宜装着される。ドライブ42によってリムーバブルメディア51から読み出されたプログラムは、必要に応じて記憶部40にインストールされる。また、リムーバブルメディア51は、記憶部40に記憶されている画像のデータ等の各種データも、記憶部40と同様に記憶することができる。
【0040】
図5は、このような各構成要素を含む画像処理装置12の機能的構成のうち、視点変換画像生成処理を実行するための機能的構成を示す機能ブロック図である。
本明細書における視点変換画像生成処理とは、次のような一連の処理をいう。即ち、画像処理装置12は、選択オブジェクトOBの位置情報から、複数のカメラ11から送信された複数の撮像画像のデータのうち1つを元画像のデータとして選択する。画像処理装置12は、元画像のデータに対して画像変換処理を施すことにより、選択オブジェクトOBの眺望方向を仮想視点が眺める様子を示す視点変換画像のデータを生成する。
【0041】
ここで、画像処理装置12の機能的構成の理解を容易なものとすべく、その詳細な説明の前に、カメラ11及びオブジェクトOBについて説明する。
【0042】
図5に示すように、カメラ11は、撮像部101と、送信部102と、を備える。
【0043】
撮像部101は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【0044】
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【0045】
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部101の出力信号として出力される。
このような撮像部101の出力信号は、送信部102に適宜供給される。即ち、撮像部101は、周囲の空間を連続撮影し、その結果得られる動画像、静止画或いは連写画像のデータ、即ち上述の撮像画像のデータを、バッファ(図示せず)に一次記憶しながら順次圧縮符号化する。
送信部102は、撮像部101から出力された撮像画像のデータを画像処理装置12へ無線送信する。
【0046】
オブジェクトOBには、センサ部111と、送信部112とが取り付けられる。
センサ部111は、本実施形態では3軸加速度センサとして構成され、ピエゾ抵抗型もしくは静電容量型の検出機構を備える3軸加速度センサにより構成され、当該検出機構を用いて、加速度の3軸(X,Y,Z)成分を検出し、その検出結果を示すデータを出力する。なお、センサ部111の検出結果を示すデータを、以下、「位置情報のデータ」と呼ぶ。位置情報のデータは、送信部112に適宜供給される。
ここで、位置情報のデータのうち、X成分はオブジェクトOBの垂直方向の振動周期に、Y成分はオブジェクトOBの水平方向の振動周期に、Z成分はオブジェクトOBの進行方向の振動周期に、それぞれ対応する。
また、センサ部111は、任意の姿勢(傾斜角度)状態においても、傾斜角度に応じて補正した3軸加速度データを出力することができる。従って、センサ部111は、傾斜角度に応じて補正された3軸加速度データに対応して、ジャイロセンサを用いた傾斜センサ(図示せず)等から出力するデータを補正するようにする。これによって、オブジェクトOBに遠心力等の外力がかかる動状態で使用するような場合、例えば移動中に被写体を撮像するような場合でも、各種データの正確な取得及び正確な測位演算が実行可能になる。
【0047】
送信部112は、センサ部111により出力された位置情報のデータを画像処理装置12へ無線送信する。
なお、本実施形態においては、センサ部111及び送信部112は、上述した移動位置センサユニットとしてユニット化されて、ボールのオブジェクトOB1内に内蔵されたり、選手のオブジェクトOB2〜OB7に取り付けられる。
【0048】
このようなオブジェクトOBが存在する状態で視点変換画像生成処理が実行される場合には、図5に示すように、画像処理装置12のCPU31において、主制御部61と、撮像画像取得部62と、位置情報取得部63と、記憶制御部64と、表示制御部65と、通信制御部66と、が機能する。また、画像処理部34において、移動方向算出部71と、移動速度算出部72と、元画像選択部73と、視点変換画像加工部74と、が機能する。
ただし、図5は例示であり、画像処理部34の機能の少なくとも一部をCPU31に委譲してもよいし、逆に、CPU31の機能の少なくとも一部を画像処理部34に委譲してもよい。
また、画像処理装置12の記憶部40の一領域として、元画像候補データ記憶部81と、オブジェクトデータ記憶部82と、表示データ記憶部83と、が設けられている。なお、元画像候補データ記憶部81、オブジェクトデータ記憶部82及び表示データ記憶部83が記憶部40の一領域として設けられていることは例示であって、その他例えばリムーバブルメディア51の一領域として設けられるようにしてもよい。
【0049】
元画像候補データ記憶部81は、カメラ11から逐次送信されて画像処理装置12に受信された、元画像の候補となる撮像画像のデータを逐次記憶する。撮像画像のデータは、取得した時間と共に元画像候補データ記憶部81に記憶される。
【0050】
オブジェクトデータ記憶部82は、オブジェクトOBから逐次送信されて画像処理装置12に受信された位置情報のデータを記憶する。位置情報のデータは、取得した時間と共にオブジェクトデータ記憶部82に記憶される。
【0051】
表示データ記憶部83は、表示部38に表示するための、画像処理部34の後述する視点変換画像加工部74により生成された視点変換画像のデータを記憶する。
【0052】
主制御部61は、画像処理装置12の各部における各種処理の実行を制御する。具体的には、主制御部61は、入力部37や外部端末14からの指示を受けて、選択オブジェクトの設定やカメラ11における撮像の制御等の各種の制御を行う。
【0053】
撮像画像取得部62は、カメラ11a〜11hから送信される撮像画像のデータを、通信部41を介して取得し、当該撮像画像のデータを、計時部39から取得した時刻のデータを付帯情報として付加して元画像候補データ記憶部81に記憶させる制御を実行する。
【0054】
位置情報取得部63は、オブジェクトOB1〜OB7から送信される位置情報のデータを、通信部41を介して取得する。その後、位置情報取得部63は、オブジェクトOB1〜OB7の位置情報のデータを記憶制御部64に供給する。
【0055】
記憶制御部64は、各種データを記憶部40に記憶させる制御を実行する。具体的には、記憶制御部64は、位置情報取得部63により取得された位置情報のデータを、計時部39から取得した時刻のデータを付帯情報として付加してオブジェクトデータ記憶部82に記憶させる制御を実行する。
【0056】
表示制御部65は、各種の画像を表示部38に表示出力させる制御を実行する。具体的には、表示制御部65は、画像処理部34で生成される視点変換画像を表示部38に表示させる制御を実行する。
【0057】
通信制御部66は、カメラ11及び外部端末14と無線通信を行う制御を実行する。具体的には、通信制御部66は、通信部41及びネットワークNを中継する中継装置17を介してカメラ11及び外部端末14と接続して、各種情報を授受するための制御を実行する。
【0058】
移動方向算出部71は、オブジェクトデータ記憶部82に記憶される位置情報のデータに基づいて、選択オブジェクトの移動方向を算出する。即ち、移動方向算出部71は、オブジェクトデータ記憶部82に記憶される位置情報のデータの履歴から位置情報のデータ間の位置関係を割り出して、移動方向を算出する。
【0059】
移動速度算出部72は、オブジェクトデータ記憶部82に記憶される位置情報のデータに基づいて、選択オブジェクトOBの移動速度を算出する。即ち、移動方向算出部71は、オブジェクトデータ記憶部82に記憶される位置情報のデータの履歴から、位置情報のデータ間の時間における移動距離を割り出して、移動速度を算出する。
【0060】
元画像選択部73は、オブジェクトデータ記憶部82に記憶される位置情報、並びに移動速度算出部72により算出された移動方向及び移動速度に基づいて、元画像候補データ記憶部81に記憶されている、同時刻に撮像された撮像画像のデータの中から、所定の1枚を元画像のデータとして選択する。具体的には、元画像選択部73は、オブジェクトOB1〜OB7のうち仮想視点が可変配置されるオブジェクトの移動方向と、カメラ11の光軸の方向(実際の視点)とが最も近似した撮像画像のデータを、元画像のデータとして選択する。
【0061】
視点変換画像加工部74は、元画像のデータを画像変換することにより、視点変換の加工をして、選択オブジェクトOBに可変配置された仮想視点が、当該選択オブジェクトOBの移動方向を眺望方向から眺めた様子を表わす視点変換画像のデータを生成する。
詳細には、視点変換画像加工部74は、移動方向算出部71により算出された移動方向や移動速度算出部72により算出された移動速度に基づいて、元画像選択部73により選択された元画像のデータを画像変換して、視点変換画像のデータを生成する。
視点変換画像加工部74は、画像変換に関しては、本実施形態においては、元画像選択部73により選択された1つの撮像画像のデータを上述したアフィン変換することで、選択オブジェクトOBに可変配置された仮想視点が、選択オブジェクトOBに可変配置された仮想視点が、当該選択オブジェクトOBの移動方向を眺望方向から眺めた様子を表わす点変換画像のデータを生成する。
【0062】
以上、本実施形態の画像処理装置12の機能的構成について説明した。続いて、図6を参照して、このような機能的構成を有する画像処理装置12が実行する視点変換画像生成処理について説明する。
図6は、図5の機能的構成を有する画像処理装置12が実行する視点変換画像生成処理の流れを説明するフローチャートである。
【0063】
画像処理装置12の入力部37を操作するユーザは、視点変換画像生成処理の開始を指示する所定の操作をすることができる。
視点変換画像生成処理は、このようなユーザによる入力部37への所定の操作を契機として開始され、次のような処理が実行される。
【0064】
ステップS11において、主制御部61は、オブジェクトの設定(初期設定)を行う。即ち、主制御部61は、ユーザによる入力部37への所定の操作により、選択オブジェクトの初期設定として、図1に示すボールのオブジェクトOB1及び選手のオブジェクトOB2〜OB7のうち、ボールのオブジェクトOB1を、選択オブジェクトOBとして設定する。
【0065】
ステップS12において、撮像画像取得部62は、複数のカメラから出力された複数の撮像画像のデータを取得する。即ち、撮像画像取得部62は、図1に示すように、ボールのオブジェクトOB1及び選手のオブジェクトOB2〜OB7を含む競技場Fを周囲から撮影している複数のカメラ11a〜11hによって撮像された撮像画像のデータを、通信部41を介して取得する。撮像画像取得部62は、例えば、複数のカメラ11a〜11hにより競技場Fを異なる方向から撮像した図2(a)〜(h)に示すような撮像画像のデータを取得する。その後、撮像画像取得部62は、取得した撮像画像のデータを、計時部39から取得した時刻のデータを付帯情報として付加して元画像候補データ記憶部81に記憶させる。
【0066】
ステップS13において、位置情報取得部63は、選択オブジェクトOBの位置情報のデータを取得する。即ち、位置情報取得部63は、選択オブジェクトOBのセンサ部111により計測された位置情報のデータを、通信部41を介して取得する。
【0067】
ステップS14において、記憶制御部64は、選択オブジェクトOBの位置情報と時刻とを対応付けて記憶させる。即ち、記憶制御部64は、位置情報取得部63により取得された位置情報に、計時部39で計時された現在の時刻を対応付けて、オブジェクトデータ記憶部82に記憶させる。
【0068】
ステップS15において、移動方向算出部71は、選択オブジェクトOBの位置情報のデータの履歴から選択オブジェクトOBの移動方向を算出する。即ち、移動方向算出部71は、オブジェクトデータ記憶部82に記憶される選択オブジェクトOBの位置情報のデータの履歴を取得して、各位置の推移に基づいて移動方向を算出する。
【0069】
ステップS16において、移動速度算出部72は、選択オブジェクトOBの位置情報のデータの履歴から選択オブジェクトOBの移動速度を算出する。即ち、移動速度算出部72は、オブジェクトデータ記憶部82に記憶される選択オブジェクトOBの位置情報のデータの履歴を取得して、単位時間当たりの移動距離を移動速度として算出する。
【0070】
ステップS17において、元画像選択部73は、選択オブジェクトOBについての、位置、移動方向、及び移動速度に基づいて、元画像のデータを複数の撮像画像のデータから選択する。即ち、元画像選択部73は、視点変換画像のデータを生成するのに最適な撮像画像のデータを元画像のデータとして選択する。
【0071】
ステップS18において、視点変換画像加工部74は、選択された元画像のデータに基づいて、視点変換画像のデータを生成する。即ち、視点変換画像加工部74は、元画像選択部73により選択された元画像のデータを画像変換(本実施形態においてはアフィン変換)することで、選択オブジェクトに可変配置された仮想視点が、選択オブジェクトの移動方向に移動しながら、当該移動方向を眺望方向として眺めた様子を表わす視点変換画像のデータを生成する。なお、視点変換画像のデータは、記憶制御部64の制御により、表示データ記憶部83に記憶される。
【0072】
ステップS19において、表示制御部65は、ステップS18の処理で生成された視点変換画像のデータを表示部38に表示出力させる制御を実行する。即ち視点変換画像が表示部38に表示される。
【0073】
ステップS20において、通信制御部66は、外部端末14に視点変換画像のデータを、通信部41を介して送信する。
【0074】
ステップS21において、主制御部61は、選択オブジェクトを変更する指示をするための操作(以下、「選択オブジェクト変更指示操作」と呼ぶ)を受け付けたか否かを判定する。
選択オブジェクト変更指示操作が受け付けられた場合には、ステップS21においてYESであると判定されて、処理はステップS22に進む。
【0075】
ステップS22において、主制御部61は、選択オブジェクトOBとして、複数のオブジェクトOB2〜OB7の中から選択した別のオブジェクトOBに変更する。この処理が終了すると、処理はステップS23に進む。
【0076】
これに対して、選択オブジェクト変更指示操作が受け付けられていない場合には、ステップS21においてNOであると判定されて、処理はステップS23に進む。
【0077】
ステップS23において、主制御部61は、視点変換画像生成処理の終了指示を受けたか否かを判定する。
終了指示を受けていない場合には、ステップS23においてNOであると判定されて、処理はステップS12に戻される。即ち、視点変換画像生成処理の終了指示が受け付けられるまでの間、ステップS12乃至ステップS23の処理が繰り返し実行される。そして、視点変換画像生成処理の終了指示が受け付けられると、ステップS23においてYESであると判定されて、視点変換画像生成処理は終了となる。
【0078】
[第1実施形態の第1変形例]
上述した第1実施形態では、選択オブジェクトをボールとした場合の例について説明したが、本変形例は、ボールに代えて、選手を選択オブジェクトとした場合の例について図7及び図8を用いて説明する。なお、上述の実施形態と同様の部分は、同一の符号をもって詳細な説明を省略し、異なる箇所のみ説明する。
【0079】
図7は、本発明の第1実施形態の第1変形例に係る画像処理システムの概略的な構成を示す模式図であって、選手のオブジェクトOB2〜OB7が視点として選択された場合の図である。
画像処理装置12は、図7に示すように、各オブジェクトOB1〜OB7のうち、選手の選択オブジェクトOB3を、仮想視点とするためのオブジェクト、即ち仮想視点を用いた処理の対象として選択オブジェクトOBとして選択することができる。
【0080】
画像処理装置12は、カメラ11a〜11hにより撮像された図2(a)〜(h)に示すような撮像画像のデータのうち少なくとも1つの元画像のデータと、移動方向A2に移動している選択オブジェクトOB3から逐次送信されてくる位置情報とに基づいて、移動方向A2に移動する選択オブジェクトOB3の眺望方向の仮想視点から眺めた様子を示す一連の視点変換画像(動画像、連写画像或いは静止画)のデータを生成する。
【0081】
図8は、画像処理装置12で生成される視点変換画像の他の具体例を示している。
画像処理装置12は、図8に示すように、選択オブジェクトOB3が選手であるために、生成される眺めた一連の視点変換画像を、選手の目線の高さから移動方向A2を眺めた視点の画像のデータを生成する。従って、画像処理装置12は、カメラ11a〜11hの実際の視点から競技場Fを周囲から(外部から)眺めた様子を表わす画像のデータを、競技場Fの内部において移動方向A2に移動していくオブジェクトOB3の眺望方向の仮想視点(選手の目線となる仮想視点)から眺めた様子を表わす画像のデータに変換して視点変換画像のデータを生成する。
【0082】
[第1実施形態の第2変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサを搭載した移動位置センサユニットから送信される位置情報を画像処理装置12が取得する場合の例を説明したが、本変形例は、移動位置センサユニットから送信される位置情報をカメラ11と同位置又は異なる位置に配置された受信装置により取得する例について説明する。なお、上述の実施形態と同様の部分は、同一の符号をもって詳細な説明を省略し、異なる箇所のみ説明する。
【0083】
図9は、選択オブジェクトOBの位置情報の取得手法の一例を示す模式図である。
図9に示す例では、カメラ11の近傍に受信装置15が設置されている。受信装置15は、ボールに内蔵された移動位置センサユニットから無線LANやbluetooth(登録商標)等により送信された位置情報のデータを受信し、画像処理装置12に送信する。
また、受信装置15は、競技場Fの全範囲をカバーするために、カメラ11a〜11cに対応して3つの受信装置15−1〜15−3が設けられる。
このように構成される画像処理システムでは、移動位置センサユニットのセンサ部により測定された選択オブジェクトOBの位置情報のデータが移動位置センサユニットの送信部から受信装置15に送信される。その後、受信装置15から受信した位置情報のデータを画像処理装置12は、カメラ11から取得した撮像画像のデータと共に、視点変換画像のデータの生成に用いる。
なお、本変形例では、カメラ11の近傍、即ち、カメラ11a〜11cと同位置に受信装置15−1〜15−3を配置したがこれに限られず、カメラ11の位置に関係のない、カメラ11と異なる位置に受信装置を配置するように構成してもよい。
[第1実施形態の第3変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、本変形例は、オブジェクトに測位センサを設けずに電磁界を利用して選択オブジェクトOBからの位置情報を取得する。なお、上述の実施形態と同様の部分は、同一の符号をもって詳細な説明を省略し、異なる箇所のみ説明する。
図10は、選択オブジェクトOBの位置情報の取得手法の一例を示す模式図である。
図10に示す例では、磁界発生源16と、受信手段17とを備える。
磁界発生源16は、アンテナコイル等で構成され、電磁界を発生させる。この磁界発生源16は、競技場Fの全範囲をカバーするために、3つの磁界発生源16−1〜16−3がカメラ11a〜11cに対応して設けられる。
受信手段17は、磁界発生源16により発生させられた電磁界を受信検出して、受信した磁気強度の組み合わせから3次元位置を測位する、「ヒポポヒマスセンサ」等で構成される。
また、受信手段17は、磁界発生源16−1〜16−3に対応して3つの受信手段17−1〜17−3がカメラ11d〜11fに設けられる。
このように構成される画像処理システムでは、磁界発生源16−1〜16−3により電磁界を発生させて、受信手段17−1〜17−3により受信される電磁界の受信強度の組み合わせから選択オブジェクトOBの3次元位置を測位する。
【0084】
[第1実施形態の第4変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、本変形例は、オブジェクトに測位センサを設けずにドップラー効果を利用して選択オブジェクトOBからの位置情報を取得する。
【0085】
画像処理システム10は、ビーコン電波アンテナを備える。
ビーコン電波アンテナは、カメラに対応して複数設けられ、それぞれ周波数の異なる無線電波を送信する。
【0086】
このように構成される画像処理システム10では、周波数の異なる複数のビーコン電波アンテナからの無線電波を送信する。画像処理装置12は、ビーコン電波アンテナから受信した周波数の遷移等から選択オブジェクトの3次元位置や相対位置を算出する、いわゆる、「電波ドップラーセンサ」等で構成される。
【0087】
なお、本変形例では、カメラ11の近傍、即ち、カメラ11と同位置に受信装置を配置したがこれに限られず、カメラ11の位置に関係のない、カメラ11と異なる位置に受信装置を配置するように構成してもよい。
【0088】
[第1実施形態の第5変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、本変形例は、オブジェクトOBに測位のためのセンサを設けずに、カメラ11から取得した撮像画像を画像処理することにより選択オブジェクトを特定して位置情報を取得する。
【0089】
図11は、選択オブジェクトOBの位置情報の取得手法の一例を示す模式図である。
具体的には、選択オブジェクトOBの位置情報は、図11に示すように、ボール等の選択オブジェクトの表面に複数の特定のマークM1〜M4(例えば、星印)を付して、当該マークM1〜M4を撮像画像からボールを検出すると共に、連続して撮像された撮像画像での選択オブジェクトの表面のマークM1〜M4(以下、マークM1〜M4を個々に区別する必要がない場合、これらをまとめて、「マークM」と単に呼ぶ。)の相対位置や撮像画像間の変化を移動位置から、選択オブジェクトの3次元位置や相対位置を算出するように構成してもよい。
なお、本変形例では、識別情報となるマークMにより選択オブジェクトOBを得していたが、これに限られず、オブジェクトの外観を特定することで、位置情報を算出するように構成することができる。即ち、ボールを選択オブジェクトOBとする場合には、ボールの形状を撮像画像から特定して、特定したボールの位置を撮像画像から割り出すようにしてボールの位置情報のデータを取得する。
[第1実施形態の他の変形例]
上述した第1実施形態では、選択オブジェクトOBからの位置情報の取得手法として、3軸加速度センサからの位置情報を用いる場合の例を説明したが、その他にも、選択オブジェクトの位置情報は、例えば、レンズの焦点法、パッシブ又はアクティブの三角測量ステレオ法、光レーザ法、照度差ステレオ法、スリット光投影法その他の電磁界式、ワイヤレス式の3次元測定装置等の種々の3次元測定方法や測定方法を採用してもよい。
【0090】
以上説明したように、本実施形態の画像処理装置12は、撮像画像取得部62と、位置情報取得部63と、視点変換画像加工部74と、表示制御部65と、を備える。
撮像画像取得部62は、オブジェクトOBが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数のカメラ11の各々によって撮像された複数の撮像画像のデータを取得する。
位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を取得する。
視点変換画像加工部74は、位置情報取得部63により取得された位置に基づいて、撮像画像取得部62により取得された複数の撮像画像のデータを視点変換の加工をすることで、オブジェクトOBに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
表示制御部65は、視点変換画像加工部74により生成された視点変換画像のデータを表示出力する制御を実行する。
【0091】
画像処理装置12は、位置情報取得部63により取得された位置に基づいて、撮像画像取得部62により取得された撮像画像のデータを視点変換の加工をすることで、オブジェクトOBに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
この場合、画像処理装置12は、鑑賞者が所望する視点で撮像されたのと等価な視点変換画像を容易に得ることができる。
また、画像処理装置12は、生成された視点変換画像のデータを表示するようにしたことで、移動する選択オブジェクトOBにカメラ等の撮像装置を設けることなく、移動するオブジェクトOBを視点とした臨場感あふれる画像が得られる。
また、画像処理装置12は、移動するオブジェクトOBに撮像手段を設ける必要がなく撮像の制約を受けないため高画質の画像を得ることができる。
【0092】
位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を任意のタイミングで取得する。
視点変換画像加工部74は、位置情報取得部63により任意のタイミングで取得されたオブジェクトの位置に基づいて、撮像画像取得部62により取得された撮像画像のデータを加工する。
この場合、画像処理装置12は、位置情報取得部63により取得された任意のタイミングの位置に基づいて撮像画像を加工するために、例えば、ユーザの指定した任意のタイミングの位置での視点変換画像のデータを生成することができる。
【0093】
位置情報取得部63は、所定の空間を移動するオブジェクトOBの位置を逐次取得する。
視点変換画像加工部74は、撮像画像取得部62により逐次取得された撮像画像のデータを逐次加工する。
この場合、画像処理装置12は、逐次取得された所定の空間を移動するオブジェクトOBの位置に基づいて、撮像画像のデータを逐次加工するために、予め記憶した画像(録画した画像)ではなく、リアルタイムで取得した撮像画像のデータを処理して視点変換画像のデータを生成することができる。
【0094】
また、画像処理装置12は、撮像画像取得部62により取得された複数の撮像画像のデータの中から、オブジェクトに配置された仮想視点から眺めた様子を表わす画像の生成の元になる元画像のデータを、位置情報取得部63により取得された前記位置に基づいて選択する元画像選択部73と、を備える。
視点変換画像加工部74は、元画像選択部73により取得された元画像のデータを視点変換の加工をすることで、オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
この場合、画像処理装置12は、元画像選択部73により複数の撮像画像のデータの中から選択された元画像のデータに基づいて、視点変換画像のデータの生成を行うために、複数の撮像画像のデータのうちから視点変換画像のデータの生成に好適な撮像画像のデータを選択すれば、加工処理の処理負担の軽減や精度の高い視点変換画像のデータの生成等を行うことができる。
【0095】
また、画像処理装置12は、オブジェクトOBの移動方向を算出する移動方向算出部71を備える。
元画像選択部73は、移動方向算出部71により取得されたオブジェクトOBの移動方向に基づいて元画像のデータを選択する。
視点変換画像加工部74は、移動方向算出部71により算出されたオブジェクトOBの移動方向に基づいて元画像のデータを選択し、オブジェクトOBの移動方向に基づいて元画像のデータを加工することで、オブジェクトOBの仮想視点が移動方向を眺望方向として眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する。
【0096】
この場合、画像処理装置12は、移動方向算出部71により算出された移動方向に基づいて元画像のデータを加工することで、移動方向に移動するオブジェクトOBに配置された仮想視点が移動方向を眺望方向として眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成するようにしたことで、より臨場感の高い画像が得られる。
【0097】
また、画像処理装置12は、オブジェクトOBの移動速度を算出する移動速度算出部72を備える。
視点変換画像加工部74は、視点変換画像のデータとして、移動速度算出部72により取得された移動速度に応じた画角の画像のデータを生成する。
【0098】
この場合、画像処理装置12は、視点変換画像のデータとして、移動速度算出部72により取得された移動速度に応じた画角の画像のデータを生成することができるために、さらに速度感を追加された臨場感の高い画像が得られる。
【0099】
視点変換画像加工部74は、視点変換画像のデータとして、移動速度に反比例して広角となる画像のデータを生成する。このため、画像処理装置12は、自然な速度感となる視点変換画像を得ることができる。
【0100】
また、オブジェクトOBは、自己の状態を示すデータを取得して発信する。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、オブジェクトOBから発信されたデータを取得し、当該データに基づいてオブジェクトの位置、移動方向、或いは移動速度を取得或いは算出する。
この場合、画像処理装置12は、移動するオブジェクトOBの位置情報を受信することによりオブジェクトOBの位置、移動方向、或いは移動速度を取得することができ、単純な構成でオブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0101】
また、画像処理装置12は、オブジェクトOBから発信された、オブジェクトOBの位置、移動方向、或いは移動速度を示すデータを受信する受信装置が、外部に設けられている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、オブジェクトOBの位置、移動方向、或いは移動速度を示すデータを、受信装置を介して取得する。
この場合、画像処理装置12は、オブジェクトOBの位置、移動方向、或いは移動速度を示すデータを、受信装置を介して取得できるために、精度の高いオブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0102】
また、画像処理装置12は、電磁界を発生させる発生源と、電磁界を受信検出する受信手段と、が外部に設けられている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、受信手段の受信検出の結果に基づいて、オブジェクトOBの位置、移動方向、或いは移動速度を取得する。
また、画像処理装置12は、相異なる周波数の無線電波を送信するビーコン電波アンテナが、外部に設けられている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、ビーコン電波アンテナから送信された無線電波によるドップラー効果を利用して、オブジェクトOBの位置、移動方向、或いは移動速度を取得する。
従って、画像処理装置12は、上述したようにオブジェクトOBの位置、移動方向、或いは移動速度を取得するようにしたことで、オブジェクトOBに個別に位置情報を取得するための装置等を搭載しない、即ち、オブジェクトOBに位置情報の取得に係る構成を備える必要がない。
【0103】
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、撮像画像取得部62により取得された複数の撮像画像のデータのうちオブジェクトOBが写った撮像画像のデータに対して画像処理を施し、当該画像処理の結果に基づいて、オブジェクトOBの位置、移動方向、或いは移動速度を取得する。
この場合、画像処理装置12は、画像処理した撮像画像をからオブジェクトOBの位置、移動方向、或いは移動速度を取得することができるために、オブジェクトOBに別途装置等を搭載せずに、オブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0104】
また、オブジェクトOBには識別情報(マークM)が付されている。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、画像処理により識別情報(マークM)を認識し、当該識別情報(マークM)を利用してオブジェクトOBの位置、移動方向、或いは移動速度を取得する。
この場合、画像処理装置12は、オブジェクトOBに記された識別情報となるマークMからオブジェクトOBの位置、移動方向、或いは移動速度を取得することができるために、オブジェクトOBに別途装置等を搭載せず、かつ、軽い画像処理により、オブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0105】
また、位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、画像処理によりオブジェクトOBの外観を認識し、当該外観に基づいてオブジェクトOBの状態(位置、移動方向、或いは移動速度)を取得する。
この場合、画像処理装置12は、オブジェクトOBの外観を認識し、検出することによりオブジェクトOBの位置、移動方向、或いは移動速度を取得することができるため、オブジェクトOBに別途装置等を搭載せず、かつ軽い画像処理によりオブジェクトOBの位置、移動方向、或いは移動速度を取得することができる。
【0106】
また、画像処理装置12においては、複数のカメラ11が撮像する空間には、複数のオブジェクトが存在する。
位置情報取得部63、移動方向算出部71或いは移動速度算出部72は、複数のオブジェクトの各々の位置、移動方向、或いは移動速度を取得する。
視点変換画像加工部74は、位置情報取得部63、移動方向算出部71或いは移動速度算出部72により取得された複数のオブジェクトの位置、移動方向、或いは移動速度のうち、選択したオブジェクトの位置、移動方向、或いは移動速度に基づいて、視点変換画像のデータを生成する。
この場合、画像処理装置12は、複数のオブジェクトOBの位置、移動方向、或いは移動速度のうち、選択したオブジェクトの位置、移動方向、或いは移動速度に基づいて、視点変換画像のデータを生成するようにしたことで、好みに合わせた画像を得ることができる。
【0107】
また、表示制御部65は、視点変換画像のデータを表示出力する制御を実行する。
この場合、画像処理装置12は、視点変換画像のデータを表示出力する制御を実行するようにしたことで、画像処理装置で生成された視点変換画像を確認することができる。
【0108】
また、表示制御部65は、視点変換画像加工部74により生成された視点変換画像のデータを外部機器に送信する送信手段として機能する。
この場合、画像処理装置以外の外部端末14で生成された視点変換画像を確認することができ、離れた場所でも視点変換画像を楽しむことができる。
【0109】
また、画像処理装置12は、外部端末14からの制御信号を受信する制御受信手段をさらに備える。
視点変換画像加工部74は、視点変換画像のデータとして、制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成する。
この場合、画像処理装置12は、制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成するために、外部端末14の使用者が要求する視点での視点変換画像のデータを生成することができる。
【0110】
また、撮像画像取得部62は、複数の撮像画像のデータの各々として、動画像のデータを夫々取得する。
視点変換画像加工部74は、撮像画像取得部62により取得された動画像のデータに基づいて、視点変換画像のデータとして動画像のデータを生成する。
この場合、画像処理装置12は、動きのある動画像を提供することができるために、さらに臨場感のある映像を提供することができる。
なお、視点変換画像加工部74は、視点変換画像のデータとして動画像のデータを生成するように構成したが、連写画像のデータ或いは静止画のデータも生成するように構成してもよい。
【0111】
以上、本発明の第1実施形態に係る画像処理装置12について説明した。
次に、本発明の第2実施形態に係る画像処理装置12について説明する。
【0112】
[第2実施形態]
上述した第1実施形態では、視点変換画像のデータの生成に際して、複数の撮像画像のデータうち、1つの撮像画像のデータを用いる場合の例を説明したが、本実施形態では、複数の撮像画像のデータを用いて視点変換画像のデータを生成する例について説明する。
本発明の第2実施形態に係る画像処理装置12は、第1実施形態に係る画像処理装置12と基本的に同様のハードウェア構成及び機能的構成を取ることができる。
従って、図4は、第2実施形態に係る画像処理装置12のハードウェアの構成を示すブロック図でもある。
また、図5は、第2実施形態に係る画像処理装置12の機能的構成を示す機能ブロック図でもあるが、第2実施形態では、元画像選択部73及び視点変換画像加工部74が異なる。
即ち、第2実施形態では、複数の撮像画像のデータから視点変換画像のデータが生成されるために、元画像選択部73は、複数の撮像画像のデータのうち、最適な撮像画像のデータを選択せず、複数の撮像画像のデータのうち、選択オブジェクトが映り込んだ撮像画像のデータや、視点変換画像のデータの生成に好適な撮像画像のデータを選択する。
また、視点変換画像加工部74は、複数の撮像画像のデータの差分から変換したり、複数の撮像画像のデータを変換して合成したりすることで、視点変換画像を生成する。この場合の視点変換画像の生成は、公知の任意の手法を採用することができる。公知の任意の手法とは、例えば特開2011−77982公報等に開示されている。
【0113】
図12は、図5の機能的構成を有する図4の画像処理装置12が実行する、第2実施形態に係る視点変換画像生成処理の流れを説明するフローチャートである。
【0114】
上述した第1実施形態における図6の視点変換画像生成処理では、複数の撮像画像データのうち、元画像のデータとなる1つの撮像画像データを選択し、元画像のデータを変換することで視点変換画像のデータを生成しているのに対して、第2実施形態における図12の視点変換画像生成処理では、複数の撮像画像データを用いて、それぞれの撮像画像のデータを変換して合成することで、視点変換画像のデータを生成している点が差異点である。詳細には、第2実施形態では、第1実施形態に係るステップS15乃至S18の処理に代えて、ステップS45の処理が実行される点が差異点である。
そこで、以下、このような差異点について主に説明し、一致点の説明は適宜省略する。
【0115】
ステップS45において、視点変換画像加工部74は、位置情報に基づいて、複数の元画像のデータから視点変換画像を生成する。即ち、視点変換画像加工部74は、複数の撮像画像のデータの差分から変換したり、複数の撮像画像のデータを変換して合成したりすることで、視点変換画像を生成する。
この際、元画像選択部73は、複数の撮像画像のデータのうち、視点変換画像のデータに好適な撮像画像のデータを元画像として事前に選択するように構成してもよい。
【0116】
なお、上述の第2実施形態においては、第1実施形態の選択オブジェクトOBからの位置情報の取得手法を採用することもできるが、第1実施形態の第2変形例乃至第5変形例の手法も適宜採用することができる。
【0117】
以上のように構成される画像処理装置12において、元画像選択部73は、複数のカメラ11により撮像された複数の撮像画像のデータの中から、複数の元画像のデータを選択する。
視点変換画像加工部74は、元画像選択部73により選択された複数の元画像のデータ(より具体的には、複数の元画像のデータの差分の画像データ)に基づいて、視点変換画像のデータを生成する。
【0118】
この場合、画像処理装置12は、選択された複数の元画像のデータに基づいて、視点変換画像のデータを生成するようにしたことで、よりリアルな視点変換画像を得ることができる。
【0119】
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0120】
上述の実施形態では、本発明が適用される上述の実施形態では、ボール等の競技用品や選手を選択オブジェクトとして選択する例について説明したがこれに限定されない。例えば、審判員、解説者、お客等の競技会場にいる人物や、競技会場にある物を選択オブジェクトとして選択することができる。
【0121】
また、上述の実施形態では、撮像部101は、連続撮影した画像の画像データを逐次送信部102を通じて画像処理装置12へ送信しているがこれに限られない。例えば、大容量のメモリ(図示せず)に記憶した後、所定の時間毎、容量毎、又は通信速度に応じて分割して、画像処理装置12へ送信することができる。
【0122】
また、上述の実施形態では、カメラ11は、競技場Fの全域を撮像可能に複数台設けたがこれに限られず、例えば、通常の撮像範囲よりも広い範囲を撮像可能な広角カメラ、パノラマカメラ、全天周カメラにより構成してもよい。また、カメラ11は、設置場所や視角の異なる複数の広角カメラ、パノラマカメラ、全天周カメラにより構成してもよい。
【0123】
また、上述の実施形態では、本発明が適用される画像処理装置12が使用される画像処理システム10は、スポーツが行われる競技場で用いられる例について説明したがこれに限定されない。例えば、舞台中継等に適用可能である。
【0124】
また、上述の実施形態では、画像処理装置12での指示により、選択オブジェクトOBの設定を行い視点変換画像のデータを生成するように構成したがこれに限られない。例えば、外部端末からの指示により、選択オブジェクトOBの設定を行い視点変換画像のデータを生成するように構成してもよい。
【0125】
また、上述の実施形態では、画像処理装置12から視点変換画像のデータを外部端末14に送信するように構成したがこれに限られない。例えば、ネットワーク上に接続されたサーバに視点変換画像のデータを保存し、事後的又はリアルタイムに視点変換画像のデータを外部端末で取得するように構成してもよい。
【0126】
また、上述の実施形態では、取得した位置情報のデータから逐次視点変換画像のデータを生成するように構成したがこれに限られない。例えば、位置情報のデータの履歴から、所定の時間を指定して、当該指定された時間帯の視点変換画像のデータを生成するように構成してもよい。
【0127】
また、上述の実施形態では、画像処理装置12は、例えば、選択オブジェクトの移動速度が速い場合には、通常の視点変換画像のデータとは異なる広角な視点変換画像のデータ等の選択オブジェクトOBの移動速度に対応した大きさとなる視点変換画像のデータを生成するように構成したこれに限られない。画像処理装置12は、選択オブジェクトの移動速度が視覚的に伝わるような効果を施して、選択オブジェクトの移動速度を表現してもよく、例えば、選択オブジェクトの移動速度が速い場合には、眺望方向の中心付近に焦点を合わせて、周囲をぼかすような視点変換画像のデータを生成するように構成してもよい。
【0128】
また、上述の実施形態では、本発明が適用される画像処理装置12は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、視点変換画像生成処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
【0129】
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置12に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
【0130】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0131】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図4のリムーバブルメディア51により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア51は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図4のROM32や、図4の記憶部40に含まれるハードディスク等で構成される。
【0132】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
【0133】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれる共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0134】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得手段と、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得手段と、
前記位置取得手段により取得された前記位置に基づいて、前記画像取得手段により取得された前記複数の撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工手段と、
前記画像加工手段により生成された前記視点変換画像のデータを出力する制御を実行する出力制御手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を任意のタイミングで取得し、
前記画像加工手段は、前記位置取得手段により任意のタイミングで取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを加工する、
ことを特徴とする付記1に記載の画像処理装置。
[付記3]
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を逐次取得し、
前記画像加工手段は、前記位置取得手段により逐次取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを逐次加工する、
ことを特徴とする付記2に記載の画像処理装置。
[付記4]
前記画像取得手段により取得された前記複数の撮像画像のデータの中から、前記オブジェクトに配置された仮想視点から眺めた様子を表わす画像の生成の元になる元画像のデータを、前記位置取得手段により取得された前記位置に基づいて選択する元画像選択手段を備え、
前記画像加工手段は、前記元画像選択手段により取得された前記元画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する、
ことを特徴とする付記1乃至3の何れか1つに記載の画像処理装置。
[付記5]
前記位置取得手段は、前記オブジェクトの移動方向をさらに取得し、
前記元画像選択手段は、前記位置取得手段により取得された前記オブジェクトの移動方向に基づいて前記元画像のデータを選択し、
前記画像加工手段は、さらに前記位置取得手段により取得された前記移動方向に基づいて前記元画像のデータを加工することで、前記移動方向に移動する前記オブジェクトに配置された仮想視点が前記移動方向を前記眺望方向として眺めた様子を表わす画像のデータを、前記視点変換画像のデータとして生成する、
ことを特徴とする付記4に記載の画像処理装置。
[付記6]
前記位置取得手段は、オブジェクトの移動速度をさらに取得し、
前記画像加工手段は、前記視点変換画像のデータとして、前記位置取得手段により取得された前記移動速度に応じた画角の画像のデータを生成する、
ことを特徴とする付記4又は5に記載の画像処理装置。
[付記7]
前記画像加工手段は、前記視点変換画像のデータとして、前記移動速度に反比例して広角となる画像のデータを生成する、
ことを特徴とする付記6に記載の画像処理装置。
[付記8]
前記元画像選択手段は、前記複数の撮像手段により撮像された前記複数の撮像画像のデータの中から、複数の元画像のデータを選択し、
前記画像加工手段は、前記元画像選択手段により選択された前記複数の元画像のデータに基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする付記4乃至7の何れか1つに記載の画像処理装置。
[付記9]
前記オブジェクトは、自己の状態を示すデータを取得して発信し、
前記位置取得手段は、前記オブジェクトから発信された前記データを取得し、当該データに基づいて前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記10]
前記オブジェクトから発信された、前記オブジェクトの状態を示す前記データを受信する受信装置が、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記オブジェクトの状態を示す前記データを、前記受信装置を介して取得する、
ことを特徴とする付記9に記載の画像処理装置。
[付記11]
電磁界を発生させる発生源と、前記電磁界を受信検出する受信手段と、が前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記受信手段の受信検出の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記12]
相異なる周波数の無線電波を送信するビーコン電波アンテナが、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記ビーコン電波アンテナから送信された前記無線電波によるドップラー効果を利用して、前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記13]
前記位置取得手段は、前記画像取得手段により取得された前記複数の撮像画像のデータのうち前記オブジェクトが写った撮像画像のデータに対して画像処理を施し、当該画像処理の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする付記1乃至8の何れか1つに記載の画像処理装置。
[付記14]
前記オブジェクトには識別情報が付されており、
前記位置取得手段は、前記画像処理により前記識別情報を認識し、当該識別情報を利用して前記オブジェクトの状態を取得する、
ことを特徴とする付記13に記載の画像処理装置。
[付記15]
前記位置取得手段は、前記画像処理により前記オブジェクトの外観を認識し、当該外観に基づいて前記オブジェクトの状態を取得する、
ことを特徴とする付記13に記載の画像処理装置。
[付記16]
前記複数の撮像装置が撮像する前記空間には、複数のオブジェクトが存在し、
前記位置取得手段は、前記複数のオブジェクトの各々の状態を取得し、
前記画像加工手段は、前記位置取得手段により取得された前記複数のオブジェクトの状態のうち、選択したオブジェクトの状態に基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする付記1乃至15の何れか1つに記載の画像処理装置。
[付記17]
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを表示出力する制御を実行する、
ことを特徴とする付記1乃至16の何れか1つに記載の画像処理装置。
[付記18]
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを外部機器に送信する送信手段として機能する、
ことを特徴とする付記1乃至17の何れか1つに記載の画像処理装置。
[付記19]
外部機器からの制御信号を受信する制御受信手段をさらに備え、
前記画像加工手段は、前記視点変換画像のデータとして、前記制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成する、
ことを特徴とする付記1乃至18の何れか1つに記載の画像処理装置。
[付記20]
視点変換画像のデータを出力する制御を実行する画像処理装置が実行する画像処理方法であって、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得ステップと、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得ステップと、
前記位置取得ステップにより取得された前記位置に基づいて、前記画像取得ステップにより取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工ステップと、
前記画像加工ステップにより生成された前記視点変換画像のデータを出力する制御を実行する出力制御ステップと、
を含む画像処理方法。
[付記21]
視点変換画像のデータを出力する制御を実行する画像処理装置を制御するコンピュータに、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得機能、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得機能、
前記位置取得機能により取得された前記位置に基づいて、前記画像取得機能により取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工機能、
前記画像加工機能により生成された前記視点変換画像のデータを出力する制御を実行する出力制御機能、
を含む機能を実現させるプログラム。
【符号の説明】
【0135】
10・・・画像処理システム、11a〜11h・・・カメラ、12・・・画像処理装置、13・・・中継装置、14−1〜14−N・・・外部端末、15−1〜15−3・・・受信装置、16−1〜16−3・・・磁界発生源、17−1〜17−3・・・受信手段、31・・・CPU、32・・・ROM、33・・・RAM、34・・・画像処理部、35・・・バス、36・・・入出力インターフェース、37・・・入力部、38・・・表示部、39・・・計時部、40・・・記憶部、41・・・通信部、42・・・ドライブ、51・・・リムーバブルメディア、61・・・主制御部、62・・・撮像画像取得部、63・・・位置情報取得部、64・・・記憶制御部、65・・・表示制御部、66・・・通信制御部、71・・・移動方向算出部、72・・・移動速度算出部、73・・・元画像選択部、74・・・視点変換画像加工部、81・・・元画像候補データ記憶部、82・・・オブジェクトデータ記憶部、83・・・表示データ記憶部、101・・・撮像部、102・・・送信部、111・・・センサ部、112・・・送信部、A1、A2・・・移動方向、F・・・競技場、G1、G2・・・ゴール、M1〜M7・・・マーク、N・・・ネットワーク、OB1〜OB7・・・オブジェクト
【特許請求の範囲】
【請求項1】
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得手段と、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得手段と、
前記位置取得手段により取得された前記位置に基づいて、前記画像取得手段により取得された前記複数の撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工手段と、
前記画像加工手段により生成された前記視点変換画像のデータを出力する制御を実行する出力制御手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を任意のタイミングで取得し、
前記画像加工手段は、前記位置取得手段により任意のタイミングで取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを加工する、
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を逐次取得し、
前記画像加工手段は、前記位置取得手段により逐次取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを逐次加工する、
ことを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記画像取得手段により取得された前記複数の撮像画像のデータの中から、前記オブジェクトに配置された仮想視点から眺めた様子を表わす画像の生成の元になる元画像のデータを、前記位置取得手段により取得された前記位置に基づいて選択する元画像選択手段を備え、
前記画像加工手段は、前記元画像選択手段により取得された前記元画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する、
ことを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
【請求項5】
前記位置取得手段は、前記オブジェクトの移動方向をさらに取得し、
前記元画像選択手段は、前記位置取得手段により取得された前記オブジェクトの移動方向に基づいて前記元画像のデータを選択し、
前記画像加工手段は、さらに前記位置取得手段により取得された前記移動方向に基づいて前記元画像のデータを加工することで、前記移動方向に移動する前記オブジェクトに配置された仮想視点が前記移動方向を前記眺望方向として眺めた様子を表わす画像のデータを、前記視点変換画像のデータとして生成する、
ことを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記位置取得手段は、オブジェクトの移動速度をさらに取得し、
前記画像加工手段は、前記視点変換画像のデータとして、前記位置取得手段により取得された前記移動速度に応じた画角の画像のデータを生成する、
ことを特徴とする請求項4又は5に記載の画像処理装置。
【請求項7】
前記画像加工手段は、前記視点変換画像のデータとして、前記移動速度に反比例して広角となる画像のデータを生成する、
ことを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記元画像選択手段は、前記複数の撮像手段により撮像された前記複数の撮像画像のデータの中から、複数の元画像のデータを選択し、
前記画像加工手段は、前記元画像選択手段により選択された前記複数の元画像のデータに基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする請求項4乃至7の何れか1項に記載の画像処理装置。
【請求項9】
前記オブジェクトは、自己の状態を示すデータを取得して発信し、
前記位置取得手段は、前記オブジェクトから発信された前記データを取得し、当該データに基づいて前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項10】
前記オブジェクトから発信された、前記オブジェクトの状態を示す前記データを受信する受信装置が、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記オブジェクトの状態を示す前記データを、前記受信装置を介して取得する、
ことを特徴とする請求項9に記載の画像処理装置。
【請求項11】
電磁界を発生させる発生源と、前記電磁界を受信検出する受信手段と、が前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記受信手段の受信検出の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項12】
相異なる周波数の無線電波を送信するビーコン電波アンテナが、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記ビーコン電波アンテナから送信された前記無線電波によるドップラー効果を利用して、前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項13】
前記位置取得手段は、前記画像取得手段により取得された前記複数の撮像画像のデータのうち前記オブジェクトが写った撮像画像のデータに対して画像処理を施し、当該画像処理の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項14】
前記オブジェクトには識別情報が付されており、
前記位置取得手段は、前記画像処理により前記識別情報を認識し、当該識別情報を利用して前記オブジェクトの状態を取得する、
ことを特徴とする請求項13に記載の画像処理装置。
【請求項15】
前記位置取得手段は、前記画像処理により前記オブジェクトの外観を認識し、当該外観に基づいて前記オブジェクトの状態を取得する、
ことを特徴とする請求項13に記載の画像処理装置。
【請求項16】
前記複数の撮像装置が撮像する前記空間には、複数のオブジェクトが存在し、
前記位置取得手段は、前記複数のオブジェクトの各々の状態を取得し、
前記画像加工手段は、前記位置取得手段により取得された前記複数のオブジェクトの状態のうち、選択したオブジェクトの状態に基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする請求項1乃至15の何れか1項に記載の画像処理装置。
【請求項17】
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを表示出力する制御を実行する、
ことを特徴とする請求項1乃至16の何れか1項に記載の画像処理装置。
【請求項18】
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを外部機器に送信する送信手段として機能する、
ことを特徴とする請求項1乃至17の何れか1項に記載の画像処理装置。
【請求項19】
外部機器からの制御信号を受信する制御受信手段をさらに備え、
前記画像加工手段は、前記視点変換画像のデータとして、前記制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成する、
ことを特徴とする請求項1乃至18の何れか1項に記載の画像処理装置。
【請求項20】
視点変換画像のデータを出力する制御を実行する画像処理装置が実行する画像処理方法であって、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得ステップと、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得ステップと、
前記位置取得ステップにより取得された前記位置に基づいて、前記画像取得ステップにより取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工ステップと、
前記画像加工ステップにより生成された前記視点変換画像のデータを出力する制御を実行する出力制御ステップと、
を含む画像処理方法。
【請求項21】
視点変換画像のデータを出力する制御を実行する画像処理装置を制御するコンピュータに、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得機能、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得機能、
前記位置取得機能により取得された前記位置に基づいて、前記画像取得機能により取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工機能、
前記画像加工機能により生成された前記視点変換画像のデータを出力する制御を実行する出力制御機能、
を含む機能を実現させるプログラム。
【請求項1】
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得手段と、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得手段と、
前記位置取得手段により取得された前記位置に基づいて、前記画像取得手段により取得された前記複数の撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工手段と、
前記画像加工手段により生成された前記視点変換画像のデータを出力する制御を実行する出力制御手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を任意のタイミングで取得し、
前記画像加工手段は、前記位置取得手段により任意のタイミングで取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを加工する、
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記位置取得手段は、前記所定の空間を移動する前記オブジェクトの位置を逐次取得し、
前記画像加工手段は、前記位置取得手段により逐次取得された前記オブジェクトの位置に基づいて、前記画像取得手段により取得された前記撮像画像のデータを逐次加工する、
ことを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記画像取得手段により取得された前記複数の撮像画像のデータの中から、前記オブジェクトに配置された仮想視点から眺めた様子を表わす画像の生成の元になる元画像のデータを、前記位置取得手段により取得された前記位置に基づいて選択する元画像選択手段を備え、
前記画像加工手段は、前記元画像選択手段により取得された前記元画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する、
ことを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
【請求項5】
前記位置取得手段は、前記オブジェクトの移動方向をさらに取得し、
前記元画像選択手段は、前記位置取得手段により取得された前記オブジェクトの移動方向に基づいて前記元画像のデータを選択し、
前記画像加工手段は、さらに前記位置取得手段により取得された前記移動方向に基づいて前記元画像のデータを加工することで、前記移動方向に移動する前記オブジェクトに配置された仮想視点が前記移動方向を前記眺望方向として眺めた様子を表わす画像のデータを、前記視点変換画像のデータとして生成する、
ことを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記位置取得手段は、オブジェクトの移動速度をさらに取得し、
前記画像加工手段は、前記視点変換画像のデータとして、前記位置取得手段により取得された前記移動速度に応じた画角の画像のデータを生成する、
ことを特徴とする請求項4又は5に記載の画像処理装置。
【請求項7】
前記画像加工手段は、前記視点変換画像のデータとして、前記移動速度に反比例して広角となる画像のデータを生成する、
ことを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記元画像選択手段は、前記複数の撮像手段により撮像された前記複数の撮像画像のデータの中から、複数の元画像のデータを選択し、
前記画像加工手段は、前記元画像選択手段により選択された前記複数の元画像のデータに基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする請求項4乃至7の何れか1項に記載の画像処理装置。
【請求項9】
前記オブジェクトは、自己の状態を示すデータを取得して発信し、
前記位置取得手段は、前記オブジェクトから発信された前記データを取得し、当該データに基づいて前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項10】
前記オブジェクトから発信された、前記オブジェクトの状態を示す前記データを受信する受信装置が、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記オブジェクトの状態を示す前記データを、前記受信装置を介して取得する、
ことを特徴とする請求項9に記載の画像処理装置。
【請求項11】
電磁界を発生させる発生源と、前記電磁界を受信検出する受信手段と、が前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記受信手段の受信検出の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項12】
相異なる周波数の無線電波を送信するビーコン電波アンテナが、前記画像処理装置の外部に設けられており、
前記位置取得手段は、前記ビーコン電波アンテナから送信された前記無線電波によるドップラー効果を利用して、前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項13】
前記位置取得手段は、前記画像取得手段により取得された前記複数の撮像画像のデータのうち前記オブジェクトが写った撮像画像のデータに対して画像処理を施し、当該画像処理の結果に基づいて、前記オブジェクトの状態を取得する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
【請求項14】
前記オブジェクトには識別情報が付されており、
前記位置取得手段は、前記画像処理により前記識別情報を認識し、当該識別情報を利用して前記オブジェクトの状態を取得する、
ことを特徴とする請求項13に記載の画像処理装置。
【請求項15】
前記位置取得手段は、前記画像処理により前記オブジェクトの外観を認識し、当該外観に基づいて前記オブジェクトの状態を取得する、
ことを特徴とする請求項13に記載の画像処理装置。
【請求項16】
前記複数の撮像装置が撮像する前記空間には、複数のオブジェクトが存在し、
前記位置取得手段は、前記複数のオブジェクトの各々の状態を取得し、
前記画像加工手段は、前記位置取得手段により取得された前記複数のオブジェクトの状態のうち、選択したオブジェクトの状態に基づいて、前記視点変換画像のデータを生成する、
ことを特徴とする請求項1乃至15の何れか1項に記載の画像処理装置。
【請求項17】
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを表示出力する制御を実行する、
ことを特徴とする請求項1乃至16の何れか1項に記載の画像処理装置。
【請求項18】
前記出力制御手段は、前記画像加工手段により生成された前記視点変換画像のデータを外部機器に送信する送信手段として機能する、
ことを特徴とする請求項1乃至17の何れか1項に記載の画像処理装置。
【請求項19】
外部機器からの制御信号を受信する制御受信手段をさらに備え、
前記画像加工手段は、前記視点変換画像のデータとして、前記制御受信手段により受信された制御信号により指示された仮想視点から眺めた様子を表わす画像のデータを生成する、
ことを特徴とする請求項1乃至18の何れか1項に記載の画像処理装置。
【請求項20】
視点変換画像のデータを出力する制御を実行する画像処理装置が実行する画像処理方法であって、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得ステップと、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得ステップと、
前記位置取得ステップにより取得された前記位置に基づいて、前記画像取得ステップにより取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工ステップと、
前記画像加工ステップにより生成された前記視点変換画像のデータを出力する制御を実行する出力制御ステップと、
を含む画像処理方法。
【請求項21】
視点変換画像のデータを出力する制御を実行する画像処理装置を制御するコンピュータに、
オブジェクトが移動し得る所定の空間をそれぞれ異なる位置から撮像する複数の撮像装置の各々によって撮像された複数の撮像画像のデータを取得する画像取得機能、
前記所定の空間を移動する前記オブジェクトの位置を取得する位置取得機能、
前記位置取得機能により取得された前記位置に基づいて、前記画像取得機能により取得された前記撮像画像のデータを視点変換の加工をすることで、前記オブジェクトに配置された仮想視点が所定の眺望方向を眺めた様子を表わす画像のデータを、視点変換画像のデータとして生成する画像加工機能、
前記画像加工機能により生成された前記視点変換画像のデータを出力する制御を実行する出力制御機能、
を含む機能を実現させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−106324(P2013−106324A)
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願番号】特願2011−251094(P2011−251094)
【出願日】平成23年11月16日(2011.11.16)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願日】平成23年11月16日(2011.11.16)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
[ Back to top ]