画像処理装置、画像処理方法、及びプログラム
【課題】画像処理装置の近傍に多量のオブジェクトが存在する場合、そのオブジェクトに対する情報を取得するために多大な処理負荷が生じていた。
【解決手段】画像処理装置は、設定した画角の画像を取得し、画像処理装置の周囲に存在するオブジェクトから、無線通信を介してそのオブジェクトを識別する識別子を検出し、識別子に対応するオブジェクトが画像に含まれているかを、画角と識別子を検出した位置とに基づいて判定し、識別子に対応するオブジェクトが画像に含まれていると判定された場合、識別子に基づいてオブジェクトの情報を取得し、オブジェクトの情報を、取得した画像に合成して出力する。
【解決手段】画像処理装置は、設定した画角の画像を取得し、画像処理装置の周囲に存在するオブジェクトから、無線通信を介してそのオブジェクトを識別する識別子を検出し、識別子に対応するオブジェクトが画像に含まれているかを、画角と識別子を検出した位置とに基づいて判定し、識別子に対応するオブジェクトが画像に含まれていると判定された場合、識別子に基づいてオブジェクトの情報を取得し、オブジェクトの情報を、取得した画像に合成して出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被写体の情報を撮影した画像と合成して撮影装置に表示する画像処理装置、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
近年、カメラ等で撮影した現実環境の画像に、その現実環境中の物体の属性情報や、CGを用いたバーチャルな物体を付加し、合成する拡張現実(AR、Augmented Reality)技術が実現されている。例えば、空間へカメラをかざすと、GPSによる位置情報に基づいて、画像に含まれる現実環境に関連するタグ情報を画像合成により重ね合わせて表示する、携帯電話用の拡張現実ソフトウェアなどがある(非特許文献1)。
【0003】
このような拡張現実システムにおいて、被写体に関連した情報を、画像中においてその被写体の近傍に表示することが望まれている。すなわち、撮影画像中に様々な被写体が含まれている場合、それらの被写体に関連するそれぞれの情報が、どの被写体の情報であるのかユーザがわかるような形で表示することが望ましい。
【0004】
特許文献1には、撮影した画像に対し、画像中の被写体の人物に関連した情報を合成して表示するカメラに関する技術が記載されている。これは、被写体の人物が所持する携帯情報機器等から、その被写体の顔情報等を取得して、取得した情報に基づいて画像処理を行うことで撮影画像中の被写体を特定する。被写体を撮影画像中において特定することにより、その近傍にその被写体に関連した情報を表示することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2002−305717号公報
【非特許文献】
【0006】
【非特許文献1】http://sekaicamera.com
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1では、カメラの近傍に、被写体の人物が大量にいる場合、その被写体の人物のそれぞれが所持する携帯情報機器から顔情報等を取得しなければならなかった。そのため、近傍に被写体が多く存在した場合、近傍に存在する被写体の情報を全て取得することによる、処理負荷およびネットワーク負荷が大きくなるという課題があった。
【0008】
本発明は上記課題に鑑みてなされたものであり、取得した画像に関して適切な情報を選択して取得し、合成して出力する画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため、本発明による画像処理装置は、設定した画角の画像を取得する画像取得手段と、前記画像処理装置の周囲に存在するオブジェクトから、無線通信を介して当該オブジェクトを識別する識別子を検出する検出手段と、前記識別子に対応するオブジェクトが前記画像に含まれているかを、前記画角と前記識別子を検出した位置とに基づいて判定する判定手段と、前記識別子に対応するオブジェクトが前記画像に含まれていると判定された場合、前記識別子に基づいて前記オブジェクトの情報を取得する情報取得手段と、前記オブジェクトの情報を、前記画像に合成して出力する出力手段と、を有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、画像に含まれるオブジェクトに関する情報を適切に選択して取得し、合成して出力する画像処理技術を提供することができる。
【図面の簡単な説明】
【0011】
【図1】画像処理システムの構成例を示す図。
【図2】画像表示装置の機能構成例を示すブロック図。
【図3】画像処理サーバの機能構成例を示すブロック図。
【図4】無線タグの機能構成例を示すブロック図。
【図5】画像表示装置における画像表示時の処理を示すフローチャート。
【図6】画角に応じた識別子の検索する範囲を示す図。
【図7】識別子の検索範囲の選択方法の例を示す図。
【図8】画像における識別子の検出位置および画像領域を示す図。
【図9】画像解析サーバにおける処理を示すフローチャート。
【図10】識別子とその関連する特徴情報および属性情報を表すテーブルの図。
【図11】画像表示装置と画像解析サーバとの間の処理シーケンス図。
【図12】識別子の位置と優先度との関係を示す図。
【図13】情報を取得する領域を選択する状態を示す図。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して本発明の実施の形態を詳細に説明する。
【0013】
<<実施形態1>>
(画像処理システムの構成)
図1は、本実施形態に係る画像処理システムの構成例を示す図である。画像処理システムは、ネットワーク100、画像表示装置101、画像解析サーバ102、及び無線タグ103を含む。本実施形態では、画像表示装置101、画像解析サーバ102および無線タグ103が協働して画像処理を実行する。
【0014】
本実施形態では、ネットワーク100は、例えば、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)であり、またはこれらの組み合わせである。画像表示装置101は、画像を取得するとともに、周囲の所定の範囲に無線タグ103a〜103cが存在するかをセンシングする。そして、画像表示装置101は、無線タグ103の識別子に基づく属性情報を画像解析サーバ102から取得し、画像にその属性情報を合成して表示する。画像解析サーバ102は、無線タグ103a〜103cの識別子に応じた被写体画像の特徴情報と被写体の属性情報とを保持する。画像解析サーバ102は、画像表示装置101が要求する処理の指示を受け付け、被写体画像の特徴情報を用いて画像の解析を行い、処理結果を画像表示装置101に提供する。
【0015】
無線タグ103a〜103cは、被写体(人や建物などのオブジェクト)が保持し、又は被写体に付属しているものとする。無線タグ103a〜103cのそれぞれには、別々の識別子が付与されている。すなわち、無線タグ103の識別子は、オブジェクトを識別する識別子である。無線タグ103a〜103cは、既知の無線通信技術(無線LAN、ミリ波帯通信技術、RFIDなど)を用いて、画像表示装置101から識別子の要求を受信し、それに応じて自らに付与された識別子を送信する。また、無線タグ103a〜103cは、上述のように画像表示装置101からの識別子の要求に応答して識別子を送信するパッシブタグであってもよく、また、識別子の要求によらず定期的に識別子を送信するアクティブタグであってもよい。
【0016】
(画像表示装置の構成)
図2は、画像表示装置101の機能構成の例を示すブロック図である。200は、各機能ブロック(モジュール)を接続するバスである。201は、光学ズームやデジタルズームを用いて画角の調整及び設定を行い、画像を取得する画像取得部である。202は、液晶パネルなどに画像を表示して出力する表示部である。203は、無線タグ103a〜103cから識別子の情報を検出する識別子検出部である。204は、画像取得部201で取得した画像上において、無線タグ103が存在する画像領域の位置を判定する位置判定部である。205は、画像解析サーバ102から無線タグ103の識別子に応じた画像の特徴情報を取得する特徴情報取得部である。206は、画像解析サーバ102から無線タグ103の識別子に応じた被写体の属性情報を取得する属性情報取得部である。207は、画像解析サーバ102とのメッセージの送受信を行うメッセージ送受信部である。208は、画像解析サーバ102から取得した属性情報を画像を合成する画像合成部である。209は、通信プロトコルの処理を行うTCP/IP処理部である。210は、無線通信技術(無線LAN、ミリ波帯通信技術、RFIDなど)で無線タグとの間で無線信号の送受信を行うためのアンテナや回路の制御を行うRF部である。
【0017】
(画像解析サーバの構成)
図3は、画像解析サーバ102の機能構成の例を示すブロック図である。300は、各モジュールを接続するバスである。301は、被写体が有する無線タグ103の識別子と被写体画像の特徴情報とを関連付けて保持する特徴情報保持部である。302は、被写体が有する無線タグ103の識別子と被写体の属性情報とを関連付けて保持する属性情報保持部である。303は、画像表示装置101から取得した画像領域に対して、特徴情報保持部に保存された特徴情報を用いて、被写体(オブジェクト)の特定を行うオブジェクト特定部である。304は、画像表示装置101とのメッセージの送受信を行うメッセージ送受信部である。305は、通信プロトコル処理を行うTCP/IP制御部である。
【0018】
(無線タグの構成)
図4は、無線タグ103の機能構成の例を示すブロック図である。401は、既知の無線通信技術(無線LAN、ミリ波帯通信技術、RFIDなど)で画像表示装置101との間で無線信号の送受信を行うために、アンテナ403や回路の制御を行うRF部である。402は、RF部401を制御することで、識別情報を送信する識別情報発信部である。識別情報は、たとえば、IEEE802.11に則ったビーコン・フレームのInformation Elementの一要素として付与され、送信される。
【0019】
なお、無線タグ103は無線信号により識別情報を送信できる装置であればどのようなものであってもよく、タグに限られない。なお、識別情報発信部402は、画像表示装置101から識別子の送信リクエストを受けて識別情報を送信してもよいし、一定の時間間隔で識別情報を送信し続けてもよい。
【0020】
(画像表示装置の動作)
図5は、画像表示装置101における画像表示時の処理を示すフローチャートである。処理が開始されると、画像取得部201は、光学ズームやデジタルズームを用いて画角の調整及び設定を行い、画像を撮影する(S501)。続いて、識別子検出部203は、RF部210を介して、周囲に無線タグ103が存在するかを検出するため周辺環境をセンシングする(S502)。そして、識別子検出部203は、センシングによりいずれかの無線タグ103から識別子を検出できたか否かの判定を行う(S503)。ここで、無線タグ103から識別子を検出できなかったと識別子検出部203が判定した場合(S503でNo)、画像表示装置101は画像表示処理を終了する。
【0021】
一方、無線タグ103から識別子を検出できたと識別子検出部203が判定した場合(S503でYes)、位置判定部204は、検出された無線タグ103の識別子が画像取得部201で設定された画角内にあるか否かの判定を行う(S504)。例えば、位置判定部204は、図6のような例の場合、無線タグ103aと無線タグ103bの識別子は画角の範囲内にあり、無線タグ103cの識別子は画角の範囲外であるものと判定する。このように、位置判定部204は、画角と識別子を検出した位置とから、画角の範囲内で識別子が発見されたかを判定する。なお、例えばRF部210が指向性アンテナを用いてセンシングを行うことにより無線タグ103がそれぞれどの位置で検出されたかを特定し、その特定された位置の情報を用いてS504の判定を実行してもよい。これにより、容易に無線タグ103の位置を特定でき、容易に画角内にその無線タグ103が存在するかを判定することができる。また、無線タグ103が送信する情報に無線タグ103の位置情報を含め、その位置情報と、画像表示装置101の位置及び姿勢とから、無線タグ103が画像取得部201の画角内に存在するか否かを特定してもよい。
【0022】
なお、S502においては、RF部210は、予めユーザの操作に応じて画角内の所定の範囲を指定しておき、その範囲内において無線タグ103をセンシングしてもよい。ここで、図7(a)を用いて、ユーザの操作に応じて画角内の指定した範囲にある識別子を検索する方法について説明する。1101は、ユーザの指である。1102は、タッチパネルによる入力によって設定された範囲である。ユーザの指1101は、画像表示装置101の画面にタッチし、例えば、範囲1102の左上と右下の位置を決定することにより範囲1102を定める。そして、この場合、識別子検出部203は、画角内の範囲1102のみを対象にRF部210を介して無線タグ103の検出動作を行う。具体的には、例えば無線タグ103がパッシブタグである場合、RF部210は、範囲1102に対して送信アンテナのビームを向けて識別子の要求信号を送出する。そして、同様に、RF部210は、受信アンテナのビームを範囲1102の方向へ向けて識別子を受信するようにする。また、例えば無線タグがアクティブタグである場合は、RF部210は、受信アンテナのビームを範囲1102の方向へ向けて、所定期間受信動作を行い、識別子を検出する。これにより、ユーザの操作に基づいて、ユーザがオブジェクトに関する情報を知りたい範囲でのみ識別子を検出することにより、十分に低い処理量でユーザの要求を満足することが可能となる。
【0023】
また、S504の判定において、図7(a)のように範囲を指定して、その範囲内で無線タグ103の識別子が発見されたか否かを判定するようにしてもよい。その場合、画像表示装置101は、センシングにより検出された無線タグ103のうち、指定された範囲で検出された無線タグ103の識別子のみが発見されたものとして、以後の処理を実行する。これにより、ユーザがオブジェクトに関する情報を知りたい範囲でのみ情報を取得することにより、十分に低い処理量でユーザの要求を満足することが可能となる。
【0024】
画像取得部201において設定された画角内で無線タグ103の識別子が発見されなかった場合(S504でNo)、画像表示装置101は画像表示処理を終了する。一方、画像取得部201により決定された画角内で無線タグ103の識別子が発見された場合(S504でYes)、位置判定部204は、識別子が検出された位置に対応する画像における位置を特定する。そして、位置判定部204は、その位置を含む画像の一部である画像領域を抽出する(S505)。
【0025】
図8は、取得した画像における識別子の検出位置および画像領域を示す図である。図8(a)は、画角内の画像における識別子の検出位置を示す。1001は、無線タグ103aの検出位置である。1002は、無線タグ103bの検出位置である。なお、無線タグ103が存在する位置は、例えば識別子を含む信号が最も強く受信される方向に基づいて、画面上の一点で表現することができる。しかしながら、本実施形態では、アンテナの指向方向の分解能や誤差などを考慮して、無線タグ103の位置を1001や1002などのような所定の範囲によって表現するようにしている。また、オブジェクトはその大きさによって画像上で所定の範囲を占めることとなる。このため、所定の範囲によって、オブジェクトが含まれ得る範囲を特定するようにしてもよい。図8(b)は、識別子に対応した画角内の画像領域を示す。本実施形態では、画像をブロックごとに分割し、識別子の検出位置を含む範囲を画像領域として抽出している。なお、ここでは、識別子の検出範囲の楕円を含む最小の範囲を画像領域として抽出しているが、識別子の検出位置を含む所定の範囲を画像領域として抽出してもよい。1003は、無線タグ103aに対応した画角内の画像領域である。1004は、無線タグ103bに対応した画角内の画像領域である。
【0026】
なお、図8(b)の例では、識別子に対応する画像領域を矩形状の領域としているがこれに限られず、検出範囲1001および検出範囲1002をそのまま識別子に対応する画像領域として用いてもよい。S505においては、位置判定部204は、無線タグ103aおよび無線タグ103bの識別子に対応する画像領域1003および1004を取得する。なお、S502でユーザの操作により識別子を検索する範囲を図7(a)のように指定した場合、無線タグ103bは検出されなくなるため、図7(b)のように、範囲1102に含まれる無線タグ103aに対応する画像領域1103のみが検出される。
【0027】
無線タグ103に対応する画像領域を取得後、特徴情報取得部205は、無線タグ103a及び無線タグ103bの識別子と画像領域1003及び1004とをそれぞれ関連付け、それを画像解析サーバ102に送信して処理を依頼する(S506)。すなわち、画像取得部201で取得した画像の一部である画像領域1003および1004と、無線タグ103aおよび無線タグ103bの識別子とを関連付けて画像解析サーバに送信する。また同時に、属性情報取得部206は、無線タグ103aおよび無線タグ103bの識別子に関連付けられた属性情報を画像解析サーバ102に要求する。この際、メッセージ送受信部207が作成したメッセージをTCP/IP処理部209、RF部210を介して画像解析サーバ102へ送信し、その後、画像解析サーバ102からRF部210とTCP/IP処理部209を介してメッセージを受信する。
【0028】
特徴情報取得部205は、画像解析サーバ102から受信したメッセージから、オブジェクトを特定できたかの結果を取得する(S507)。そして、オブジェクトを特定できなかったと判定した場合(S507でNo)、画像表示装置101は画像表示処理を終了する。一方、オブジェクトを特定できたと判定した場合(S507でYes)、画像合成部208は画像中の解析対象のオブジェクトの近傍に属性情報を合成する(S508)。そして、表示部202は、属性情報が合成された画像を画像表示装置101の画面に表示し(S509)、画像表示装置101は画像表示処理を終了する。
【0029】
なお、上述の説明では、無線タグ103をセンシングした結果、無線タグ103の識別子を得られなかった場合(S503でNo)、画像表示装置101は画像表示処理を終了する、と説明したがこれに限られない。例えば、識別子が検出されなかった場合は、S509へ処理を進め、属性情報の合成等を行わず、撮像したままの画像を表示してもよい。同様に、画角内で無線タグ103の識別子が発見されなかった場合(S504でNo)や、オブジェクトを特定できなかった場合(S507でNo)にも、処理をS509へ進めて撮像したままの画像を表示してもよい。
【0030】
(画像解析サーバの動作)
図9は、画像解析サーバ102において、画像表示装置101から要求を受け付けた時の処理を示すフローチャートである。処理が開始されると、メッセージ送受信部304は、TCP/IP制御部305を介して、画像表示装置101からの依頼のメッセージを受信する(S601)。このとき、メッセージ中には、画像表示装置101が取得した無線タグ103の識別子と、その無線タグ103の識別子に対応する画像領域が含まれているため、これを取得する。
【0031】
続いて、特徴情報保持部301は、記憶されている識別子とそれに対応する特徴情報とから、受信した識別子を鍵として、特徴情報を取得する(S602)。ここで、特徴情報の取得について、図10を用いて説明する。図10は、識別子に関連付けられた特徴情報および属性情報のテーブルである。特徴情報保持部301は、無線タグ103aの識別子(00:00:85:00:00:01)を鍵として、103aの特徴情報(城)を取得する。同様に、特徴情報保持部301は、無線タグ103bの識別子(00:00:85:00:00:02)の鍵として、103bの特徴情報(人)を取得する。
【0032】
その後、オブジェクト特定部303は、無線タグ103aの識別子に関連付けられた画像領域1003に対して、無線タグ103aの識別子に対応する特徴情報を用いて解析を行い、オブジェクトを特定する(S603)。具体的には、例えば、無線タグ103aの特徴情報に基づいて、画像領域1003に対する画像認識技術を用いて、画像領域1003が無線タグ103aを有するオブジェクトの特徴を含んでいるかを判定する。そして、オブジェクト特定部303は、そのオブジェクトの特徴を含んでいる場合は、画像領域1003に無線タグ103aに対応するオブジェクトが存在するものと判定する。さらに、オブジェクトの特徴を含んでいる場合は、そのオブジェクトが画像領域のどの位置にあるかを判定してもよい。画像領域内での位置を特定して画像表示装置101へ通知することにより、画像内でオブジェクトが存在する正確な位置において、そのオブジェクトに関連する情報を表示することが可能となる。
【0033】
続いて、オブジェクト特定部303は、オブジェクトを特定できたかどうかの判定を行う(S604)。オブジェクト特定部303は、オブジェクトが特定できたと判定すると(S604でYes)、処理をS605に進める。一方、オブジェクト特定部303は、オブジェクトが特定できなかったと判定すると(S604でNo)、処理をS607に進める。なお、S604の処理は識別子と画像領域とのペアごとに行ってもよく、オブジェクトを特定できた画像領域についてはS605へ処理を進め、オブジェクトを特定できなかった画像領域についてはS607へ処理を進めてもよい。
【0034】
S605では、属性情報保存部302が、無線タグ103の識別子を鍵として、それぞれの属性情報を取得する(S605)。ここで、属性情報の取得について、図10を用いて説明する。属性情報保存部302は、無線タグ103aについては、その識別子(00:00:85:00:00:01)を鍵として、103aの属性情報(名前、大きさ、築年数)を取得する。同様に、属性情報保存部302は、無線タグ103bについては、その識別子(00:00:85:00:00:02)を鍵として、103bの属性情報(名前、趣味、所属)を取得する。属性情報を取得すると、メッセージ送受信部304は、オブジェクトを特定できたことと、無線タグ103の識別子に関連する属性情報とを画像表示装置101に通知し(S606)、画像解析サーバ102は処理を終了する。
【0035】
画像領域内でオブジェクトを特定できなかった場合は(S604でNo)、メッセージ送受信部304は、オブジェクトを特定できなかったことを画像表示装置101に通知する(S607)。その後、画像解析サーバ102は処理を終了する。なお、本実施形態では、画像表示装置101が取得した画像の一部である画像領域内にオブジェクトが存在するかを判定しているが、取得した画像そのものに対してオブジェクトが存在するかを判定してもよい。その場合、画像表示装置101は、画像解析サーバ102へ画像と画角内で検出された無線タグ103の識別子とを送信する。そして、画像解析サーバ102は、その識別子に応じて特徴情報を取得し、画像全体において、オブジェクトの特徴を有する部分が存在するかを判定する。これにより、画像表示装置101での処理を簡略化することが可能となる。また、オブジェクトが大きい場合などで、画像領域を限定することによりオブジェクトの特定が困難となる場合には、画像の全体を判定に用いるのが有効となる。一方、画像領域を特定することにより、画像解析サーバ102の処理を簡略化し、全体の処理を高速化することができる。
【0036】
(処理シーケンス)
図11は、実施形態1に係る画像表示装置101と画像解析サーバ102との間の処理を示すシーケンス図である。まず、画像表示装置101は、画像を撮影して取得する(M701)。続いて、画像表示装置101は、無線タグ103のセンシングを行う(M702)。なお、センシングの範囲は撮影画像の画角と合致させてもよい。無線タグ103のセンシングにおいて、画像表示装置101は、無線タグ103a〜103cへ識別子の取得のリクエストのメッセージを送信する(M703〜M705)。なお、RF部210においてビーム幅の狭い指向性アンテナを用いて撮影画像の画角に合致させてセンシングする場合、例えばM705の取得メッセージは無線タグ103cへ届かないこととなる。この場合、無線タグ103cの識別子を検出することができない。一方、無指向性アンテナやビーム幅が十分に広いアンテナを用いて全方位でセンシングしている場合は、無線タグ103cの識別子を検出することができる。ここでは、無線タグ103cの識別子を検出できないものとして説明する。
【0037】
無線タグ103aおよび無線タグ103bは、画像表示装置101からの識別子の取得のリクエストのメッセージを受信すると、それぞれ固有の識別子を画像表示装置101へ送信する(M706、M707)。画像表示装置101の位置判定部204は、検出した無線タグ103のうち、撮影した画像の画角内にある無線タグ103を選択する(M708)。なお、本シーケンスでは、撮影画像の画角に合致させてセンシングしているため、検出した全ての無線タグ103aと103bを選択することとなる。なお、ユーザの操作により画角内の所定の範囲を指定して選択する場合は、この限りではなく、いずれか片方の無線タグ103のみが選択される場合や、何も選択されない場合がある。さらに、画像表示装置101は、撮影した画像から、検出した無線タグ103に対応する画像領域を取得する(M708)。そして、画像表示装置101は、選択された無線タグ103の識別子と、その識別子に対応する画像領域とを含む画像領域の解析の要求のメッセージを画像解析サーバ102へ送信する(M709)。
【0038】
画像解析サーバ102は、受信したメッセージに含まれる識別子から特徴情報を取得し、同様にメッセージに含まれる画像領域の解析を行い、当該画像領域に含まれるオブジェクトを特定する(M710)。そして、画像解析サーバ102は、オブジェクトが画像領域に含まれている場合に、識別子に基づいて属性情報を取得する(M711)。画像解析サーバ102は、属性情報を取得すると、オブジェクトの特定結果と取得した属性情報とを含むメッセージを画像表示装置101へ送信する(M712)。
【0039】
画像表示装置101は、受信したメッセージから属性情報を取得し、取得した属性情報をM701で撮影した画像に合成する(M713)。そして、画像表示装置101は、属性情報を合成した画像を画面に表示する(M714)。
【0040】
本実施形態では、画像表示装置101と画像解析サーバ102で分散して画像処理を行ったが、処理の一部または全部を画像表示装置101で行ってもよい。また、画像表示装置101の機能の一部を画像解析サーバ102で行ってもよい。本実施形態によれば、画角外に多量な無線タグ103を発見した場合でも、無線タグ103に対応する情報を画角に合わせて選択的に検索することで、撮影した画像に含まれるオブジェクトに対する属性情報を短時間で表示することができる。
【0041】
<<実施形態2>>
続いて、本発明の第2の実施形態について、実施形態1との差異を中心に図面を参照して説明する。図12は、識別子の位置と優先度との関係を示す図である。本実施形態では、全方位にセンシングを行うものとする。801の領域は、画角と同一の範囲であって、焦点距離までの範囲を示す領域である。領域801は、焦点距離に応じて範囲が可変する。そして、領域801は、特徴情報取得部205および属性情報取得部206において、最も高い優先順位でオブジェクトの特定および属性情報の取得の依頼が行われる領域である。なお、図ではこの最も高い優先順位の領域を「優先度1」として表している。なお、図では、優先順位の高い領域から、優先度1、優先度2、と表し、最も優先順位の低い領域を優先度4と表している。
【0042】
802は、画角と同一の範囲であって、焦点距離よりも遠い範囲である。領域802は、優先度2であり、特徴情報取得部205および属性情報取得部206において、2番目に優先してオブジェクトの特定および属性情報の取得の取得の依頼が行われる。803は、画角外の範囲であって、優先度3である。804は、画像表示装置101の画像取得部201の反対側の範囲であって、優先度4である。本実施形態では、図12に示すように、画像表示装置101からの相対的な方位と距離とによって、優先順位を設定している。
【0043】
本実施形態では、全範囲でセンシングを行った後、画像解析サーバ102に対するオブジェクトの特定および属性情報の取得(S506、および、M708)の制限を行う。すなわち、優先順位の高い領域で検出された無線タグ103に対応する識別子とそれに対応する画像領域を優先して画像解析サーバ102へ送信し、優先順位の低いものは後で送信するか、又は送信しない。なお、オブジェクトの特定及び属性情報の取得ではなく、無線タグ103のセンシングを行う順番を図12に記載する優先順位にしたがって決定してもよい。センシングの範囲は、RF部210において指向性アンテナを用いることで限定することが可能となる。
【0044】
なお、画像表示装置101からの距離は、無線タグ103から受信する信号の強度や、識別子の要求信号の送信から、識別子を含む信号の受信までにかかるラウンド・トリップ・タイムなどにより判定することが可能である。例えば、センシングにおいて焦点距離より近い領域について無線タグ103を検出する場合は、焦点距離に基づいて、識別子の要求信号の送信時から焦点距離に存在する無線タグ103からの信号が返ってくるまでの時間を算出する。そして、その時間より前に到来した無線タグ103からの信号のみを検出することにより、焦点距離より近い位置にある無線タグ103からのみ識別子を取得することが可能となる。
【0045】
本実施形態によれば、画像表示装置101が首振りやズームアウトした場合、動く可能性の高い領域の情報を優先的に取得しておくことで属性情報を短時間で表示できる。また、本実施形態によれば、撮影した画像に含まれる蓋然性の高いオブジェクトについての処理のみを優先して迅速に実行することにより、画像を出力するまでの処理時間を短縮することが可能となる。
【0046】
<<実施形態3>>
以下、本発明の第3の実施形態について、実施形態1との差異を中心に図面を参照して説明する。図13(a)は、画角内で無線タグ103の識別子を検出したとき(図5のS504でYes)の様子を示した図である。図の例では、画面上に識別子が表示されているが、無線タグ103がオブジェクトの名前などを識別子と共に送信し、画像表示装置101は識別子以外の名前などを表示してもよい。
【0047】
図13(b)は、検出された識別子をユーザインターフェースを用いてユーザの操作により選択し、画像領域を決定する様子を示した図である。本実施形態では、無線タグ103aに対応する識別子をユーザの指1204で選択することで画像領域を決定する。なお、画像領域の領域計算自体は、図8(b)と同様に行ってもよく、識別子1201が表示されている領域をタッチすることで、計算された領域が自動的に選択されるようにしてもよい。また、識別子1201を含む矩形の例えば左上と右下を指定することで領域をユーザが定めてもよい。また、本実施形態では、タッチパネルを用いたが、ペン型のユーザインターフェースや、座標コマンドの入力、識別子の指定などを用いてもよい。画像表示装置101は、選択された画像領域とそれに対応する識別子とを画像解析サーバへ送信し、その画像領域についてのみオブジェクトの解析および識別子に対応する属性情報の受信を行う。
【0048】
本発明によれば、ユーザが選択した情報のみについてオブジェクトの特定と属性情報の受信を行うようになるため、不必要な情報を取得しなくなり、検索や画像合成にかかる処理量を低減することができる。
【0049】
<<その他の実施形態>>
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【技術分野】
【0001】
本発明は、被写体の情報を撮影した画像と合成して撮影装置に表示する画像処理装置、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
近年、カメラ等で撮影した現実環境の画像に、その現実環境中の物体の属性情報や、CGを用いたバーチャルな物体を付加し、合成する拡張現実(AR、Augmented Reality)技術が実現されている。例えば、空間へカメラをかざすと、GPSによる位置情報に基づいて、画像に含まれる現実環境に関連するタグ情報を画像合成により重ね合わせて表示する、携帯電話用の拡張現実ソフトウェアなどがある(非特許文献1)。
【0003】
このような拡張現実システムにおいて、被写体に関連した情報を、画像中においてその被写体の近傍に表示することが望まれている。すなわち、撮影画像中に様々な被写体が含まれている場合、それらの被写体に関連するそれぞれの情報が、どの被写体の情報であるのかユーザがわかるような形で表示することが望ましい。
【0004】
特許文献1には、撮影した画像に対し、画像中の被写体の人物に関連した情報を合成して表示するカメラに関する技術が記載されている。これは、被写体の人物が所持する携帯情報機器等から、その被写体の顔情報等を取得して、取得した情報に基づいて画像処理を行うことで撮影画像中の被写体を特定する。被写体を撮影画像中において特定することにより、その近傍にその被写体に関連した情報を表示することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2002−305717号公報
【非特許文献】
【0006】
【非特許文献1】http://sekaicamera.com
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1では、カメラの近傍に、被写体の人物が大量にいる場合、その被写体の人物のそれぞれが所持する携帯情報機器から顔情報等を取得しなければならなかった。そのため、近傍に被写体が多く存在した場合、近傍に存在する被写体の情報を全て取得することによる、処理負荷およびネットワーク負荷が大きくなるという課題があった。
【0008】
本発明は上記課題に鑑みてなされたものであり、取得した画像に関して適切な情報を選択して取得し、合成して出力する画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため、本発明による画像処理装置は、設定した画角の画像を取得する画像取得手段と、前記画像処理装置の周囲に存在するオブジェクトから、無線通信を介して当該オブジェクトを識別する識別子を検出する検出手段と、前記識別子に対応するオブジェクトが前記画像に含まれているかを、前記画角と前記識別子を検出した位置とに基づいて判定する判定手段と、前記識別子に対応するオブジェクトが前記画像に含まれていると判定された場合、前記識別子に基づいて前記オブジェクトの情報を取得する情報取得手段と、前記オブジェクトの情報を、前記画像に合成して出力する出力手段と、を有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、画像に含まれるオブジェクトに関する情報を適切に選択して取得し、合成して出力する画像処理技術を提供することができる。
【図面の簡単な説明】
【0011】
【図1】画像処理システムの構成例を示す図。
【図2】画像表示装置の機能構成例を示すブロック図。
【図3】画像処理サーバの機能構成例を示すブロック図。
【図4】無線タグの機能構成例を示すブロック図。
【図5】画像表示装置における画像表示時の処理を示すフローチャート。
【図6】画角に応じた識別子の検索する範囲を示す図。
【図7】識別子の検索範囲の選択方法の例を示す図。
【図8】画像における識別子の検出位置および画像領域を示す図。
【図9】画像解析サーバにおける処理を示すフローチャート。
【図10】識別子とその関連する特徴情報および属性情報を表すテーブルの図。
【図11】画像表示装置と画像解析サーバとの間の処理シーケンス図。
【図12】識別子の位置と優先度との関係を示す図。
【図13】情報を取得する領域を選択する状態を示す図。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して本発明の実施の形態を詳細に説明する。
【0013】
<<実施形態1>>
(画像処理システムの構成)
図1は、本実施形態に係る画像処理システムの構成例を示す図である。画像処理システムは、ネットワーク100、画像表示装置101、画像解析サーバ102、及び無線タグ103を含む。本実施形態では、画像表示装置101、画像解析サーバ102および無線タグ103が協働して画像処理を実行する。
【0014】
本実施形態では、ネットワーク100は、例えば、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)であり、またはこれらの組み合わせである。画像表示装置101は、画像を取得するとともに、周囲の所定の範囲に無線タグ103a〜103cが存在するかをセンシングする。そして、画像表示装置101は、無線タグ103の識別子に基づく属性情報を画像解析サーバ102から取得し、画像にその属性情報を合成して表示する。画像解析サーバ102は、無線タグ103a〜103cの識別子に応じた被写体画像の特徴情報と被写体の属性情報とを保持する。画像解析サーバ102は、画像表示装置101が要求する処理の指示を受け付け、被写体画像の特徴情報を用いて画像の解析を行い、処理結果を画像表示装置101に提供する。
【0015】
無線タグ103a〜103cは、被写体(人や建物などのオブジェクト)が保持し、又は被写体に付属しているものとする。無線タグ103a〜103cのそれぞれには、別々の識別子が付与されている。すなわち、無線タグ103の識別子は、オブジェクトを識別する識別子である。無線タグ103a〜103cは、既知の無線通信技術(無線LAN、ミリ波帯通信技術、RFIDなど)を用いて、画像表示装置101から識別子の要求を受信し、それに応じて自らに付与された識別子を送信する。また、無線タグ103a〜103cは、上述のように画像表示装置101からの識別子の要求に応答して識別子を送信するパッシブタグであってもよく、また、識別子の要求によらず定期的に識別子を送信するアクティブタグであってもよい。
【0016】
(画像表示装置の構成)
図2は、画像表示装置101の機能構成の例を示すブロック図である。200は、各機能ブロック(モジュール)を接続するバスである。201は、光学ズームやデジタルズームを用いて画角の調整及び設定を行い、画像を取得する画像取得部である。202は、液晶パネルなどに画像を表示して出力する表示部である。203は、無線タグ103a〜103cから識別子の情報を検出する識別子検出部である。204は、画像取得部201で取得した画像上において、無線タグ103が存在する画像領域の位置を判定する位置判定部である。205は、画像解析サーバ102から無線タグ103の識別子に応じた画像の特徴情報を取得する特徴情報取得部である。206は、画像解析サーバ102から無線タグ103の識別子に応じた被写体の属性情報を取得する属性情報取得部である。207は、画像解析サーバ102とのメッセージの送受信を行うメッセージ送受信部である。208は、画像解析サーバ102から取得した属性情報を画像を合成する画像合成部である。209は、通信プロトコルの処理を行うTCP/IP処理部である。210は、無線通信技術(無線LAN、ミリ波帯通信技術、RFIDなど)で無線タグとの間で無線信号の送受信を行うためのアンテナや回路の制御を行うRF部である。
【0017】
(画像解析サーバの構成)
図3は、画像解析サーバ102の機能構成の例を示すブロック図である。300は、各モジュールを接続するバスである。301は、被写体が有する無線タグ103の識別子と被写体画像の特徴情報とを関連付けて保持する特徴情報保持部である。302は、被写体が有する無線タグ103の識別子と被写体の属性情報とを関連付けて保持する属性情報保持部である。303は、画像表示装置101から取得した画像領域に対して、特徴情報保持部に保存された特徴情報を用いて、被写体(オブジェクト)の特定を行うオブジェクト特定部である。304は、画像表示装置101とのメッセージの送受信を行うメッセージ送受信部である。305は、通信プロトコル処理を行うTCP/IP制御部である。
【0018】
(無線タグの構成)
図4は、無線タグ103の機能構成の例を示すブロック図である。401は、既知の無線通信技術(無線LAN、ミリ波帯通信技術、RFIDなど)で画像表示装置101との間で無線信号の送受信を行うために、アンテナ403や回路の制御を行うRF部である。402は、RF部401を制御することで、識別情報を送信する識別情報発信部である。識別情報は、たとえば、IEEE802.11に則ったビーコン・フレームのInformation Elementの一要素として付与され、送信される。
【0019】
なお、無線タグ103は無線信号により識別情報を送信できる装置であればどのようなものであってもよく、タグに限られない。なお、識別情報発信部402は、画像表示装置101から識別子の送信リクエストを受けて識別情報を送信してもよいし、一定の時間間隔で識別情報を送信し続けてもよい。
【0020】
(画像表示装置の動作)
図5は、画像表示装置101における画像表示時の処理を示すフローチャートである。処理が開始されると、画像取得部201は、光学ズームやデジタルズームを用いて画角の調整及び設定を行い、画像を撮影する(S501)。続いて、識別子検出部203は、RF部210を介して、周囲に無線タグ103が存在するかを検出するため周辺環境をセンシングする(S502)。そして、識別子検出部203は、センシングによりいずれかの無線タグ103から識別子を検出できたか否かの判定を行う(S503)。ここで、無線タグ103から識別子を検出できなかったと識別子検出部203が判定した場合(S503でNo)、画像表示装置101は画像表示処理を終了する。
【0021】
一方、無線タグ103から識別子を検出できたと識別子検出部203が判定した場合(S503でYes)、位置判定部204は、検出された無線タグ103の識別子が画像取得部201で設定された画角内にあるか否かの判定を行う(S504)。例えば、位置判定部204は、図6のような例の場合、無線タグ103aと無線タグ103bの識別子は画角の範囲内にあり、無線タグ103cの識別子は画角の範囲外であるものと判定する。このように、位置判定部204は、画角と識別子を検出した位置とから、画角の範囲内で識別子が発見されたかを判定する。なお、例えばRF部210が指向性アンテナを用いてセンシングを行うことにより無線タグ103がそれぞれどの位置で検出されたかを特定し、その特定された位置の情報を用いてS504の判定を実行してもよい。これにより、容易に無線タグ103の位置を特定でき、容易に画角内にその無線タグ103が存在するかを判定することができる。また、無線タグ103が送信する情報に無線タグ103の位置情報を含め、その位置情報と、画像表示装置101の位置及び姿勢とから、無線タグ103が画像取得部201の画角内に存在するか否かを特定してもよい。
【0022】
なお、S502においては、RF部210は、予めユーザの操作に応じて画角内の所定の範囲を指定しておき、その範囲内において無線タグ103をセンシングしてもよい。ここで、図7(a)を用いて、ユーザの操作に応じて画角内の指定した範囲にある識別子を検索する方法について説明する。1101は、ユーザの指である。1102は、タッチパネルによる入力によって設定された範囲である。ユーザの指1101は、画像表示装置101の画面にタッチし、例えば、範囲1102の左上と右下の位置を決定することにより範囲1102を定める。そして、この場合、識別子検出部203は、画角内の範囲1102のみを対象にRF部210を介して無線タグ103の検出動作を行う。具体的には、例えば無線タグ103がパッシブタグである場合、RF部210は、範囲1102に対して送信アンテナのビームを向けて識別子の要求信号を送出する。そして、同様に、RF部210は、受信アンテナのビームを範囲1102の方向へ向けて識別子を受信するようにする。また、例えば無線タグがアクティブタグである場合は、RF部210は、受信アンテナのビームを範囲1102の方向へ向けて、所定期間受信動作を行い、識別子を検出する。これにより、ユーザの操作に基づいて、ユーザがオブジェクトに関する情報を知りたい範囲でのみ識別子を検出することにより、十分に低い処理量でユーザの要求を満足することが可能となる。
【0023】
また、S504の判定において、図7(a)のように範囲を指定して、その範囲内で無線タグ103の識別子が発見されたか否かを判定するようにしてもよい。その場合、画像表示装置101は、センシングにより検出された無線タグ103のうち、指定された範囲で検出された無線タグ103の識別子のみが発見されたものとして、以後の処理を実行する。これにより、ユーザがオブジェクトに関する情報を知りたい範囲でのみ情報を取得することにより、十分に低い処理量でユーザの要求を満足することが可能となる。
【0024】
画像取得部201において設定された画角内で無線タグ103の識別子が発見されなかった場合(S504でNo)、画像表示装置101は画像表示処理を終了する。一方、画像取得部201により決定された画角内で無線タグ103の識別子が発見された場合(S504でYes)、位置判定部204は、識別子が検出された位置に対応する画像における位置を特定する。そして、位置判定部204は、その位置を含む画像の一部である画像領域を抽出する(S505)。
【0025】
図8は、取得した画像における識別子の検出位置および画像領域を示す図である。図8(a)は、画角内の画像における識別子の検出位置を示す。1001は、無線タグ103aの検出位置である。1002は、無線タグ103bの検出位置である。なお、無線タグ103が存在する位置は、例えば識別子を含む信号が最も強く受信される方向に基づいて、画面上の一点で表現することができる。しかしながら、本実施形態では、アンテナの指向方向の分解能や誤差などを考慮して、無線タグ103の位置を1001や1002などのような所定の範囲によって表現するようにしている。また、オブジェクトはその大きさによって画像上で所定の範囲を占めることとなる。このため、所定の範囲によって、オブジェクトが含まれ得る範囲を特定するようにしてもよい。図8(b)は、識別子に対応した画角内の画像領域を示す。本実施形態では、画像をブロックごとに分割し、識別子の検出位置を含む範囲を画像領域として抽出している。なお、ここでは、識別子の検出範囲の楕円を含む最小の範囲を画像領域として抽出しているが、識別子の検出位置を含む所定の範囲を画像領域として抽出してもよい。1003は、無線タグ103aに対応した画角内の画像領域である。1004は、無線タグ103bに対応した画角内の画像領域である。
【0026】
なお、図8(b)の例では、識別子に対応する画像領域を矩形状の領域としているがこれに限られず、検出範囲1001および検出範囲1002をそのまま識別子に対応する画像領域として用いてもよい。S505においては、位置判定部204は、無線タグ103aおよび無線タグ103bの識別子に対応する画像領域1003および1004を取得する。なお、S502でユーザの操作により識別子を検索する範囲を図7(a)のように指定した場合、無線タグ103bは検出されなくなるため、図7(b)のように、範囲1102に含まれる無線タグ103aに対応する画像領域1103のみが検出される。
【0027】
無線タグ103に対応する画像領域を取得後、特徴情報取得部205は、無線タグ103a及び無線タグ103bの識別子と画像領域1003及び1004とをそれぞれ関連付け、それを画像解析サーバ102に送信して処理を依頼する(S506)。すなわち、画像取得部201で取得した画像の一部である画像領域1003および1004と、無線タグ103aおよび無線タグ103bの識別子とを関連付けて画像解析サーバに送信する。また同時に、属性情報取得部206は、無線タグ103aおよび無線タグ103bの識別子に関連付けられた属性情報を画像解析サーバ102に要求する。この際、メッセージ送受信部207が作成したメッセージをTCP/IP処理部209、RF部210を介して画像解析サーバ102へ送信し、その後、画像解析サーバ102からRF部210とTCP/IP処理部209を介してメッセージを受信する。
【0028】
特徴情報取得部205は、画像解析サーバ102から受信したメッセージから、オブジェクトを特定できたかの結果を取得する(S507)。そして、オブジェクトを特定できなかったと判定した場合(S507でNo)、画像表示装置101は画像表示処理を終了する。一方、オブジェクトを特定できたと判定した場合(S507でYes)、画像合成部208は画像中の解析対象のオブジェクトの近傍に属性情報を合成する(S508)。そして、表示部202は、属性情報が合成された画像を画像表示装置101の画面に表示し(S509)、画像表示装置101は画像表示処理を終了する。
【0029】
なお、上述の説明では、無線タグ103をセンシングした結果、無線タグ103の識別子を得られなかった場合(S503でNo)、画像表示装置101は画像表示処理を終了する、と説明したがこれに限られない。例えば、識別子が検出されなかった場合は、S509へ処理を進め、属性情報の合成等を行わず、撮像したままの画像を表示してもよい。同様に、画角内で無線タグ103の識別子が発見されなかった場合(S504でNo)や、オブジェクトを特定できなかった場合(S507でNo)にも、処理をS509へ進めて撮像したままの画像を表示してもよい。
【0030】
(画像解析サーバの動作)
図9は、画像解析サーバ102において、画像表示装置101から要求を受け付けた時の処理を示すフローチャートである。処理が開始されると、メッセージ送受信部304は、TCP/IP制御部305を介して、画像表示装置101からの依頼のメッセージを受信する(S601)。このとき、メッセージ中には、画像表示装置101が取得した無線タグ103の識別子と、その無線タグ103の識別子に対応する画像領域が含まれているため、これを取得する。
【0031】
続いて、特徴情報保持部301は、記憶されている識別子とそれに対応する特徴情報とから、受信した識別子を鍵として、特徴情報を取得する(S602)。ここで、特徴情報の取得について、図10を用いて説明する。図10は、識別子に関連付けられた特徴情報および属性情報のテーブルである。特徴情報保持部301は、無線タグ103aの識別子(00:00:85:00:00:01)を鍵として、103aの特徴情報(城)を取得する。同様に、特徴情報保持部301は、無線タグ103bの識別子(00:00:85:00:00:02)の鍵として、103bの特徴情報(人)を取得する。
【0032】
その後、オブジェクト特定部303は、無線タグ103aの識別子に関連付けられた画像領域1003に対して、無線タグ103aの識別子に対応する特徴情報を用いて解析を行い、オブジェクトを特定する(S603)。具体的には、例えば、無線タグ103aの特徴情報に基づいて、画像領域1003に対する画像認識技術を用いて、画像領域1003が無線タグ103aを有するオブジェクトの特徴を含んでいるかを判定する。そして、オブジェクト特定部303は、そのオブジェクトの特徴を含んでいる場合は、画像領域1003に無線タグ103aに対応するオブジェクトが存在するものと判定する。さらに、オブジェクトの特徴を含んでいる場合は、そのオブジェクトが画像領域のどの位置にあるかを判定してもよい。画像領域内での位置を特定して画像表示装置101へ通知することにより、画像内でオブジェクトが存在する正確な位置において、そのオブジェクトに関連する情報を表示することが可能となる。
【0033】
続いて、オブジェクト特定部303は、オブジェクトを特定できたかどうかの判定を行う(S604)。オブジェクト特定部303は、オブジェクトが特定できたと判定すると(S604でYes)、処理をS605に進める。一方、オブジェクト特定部303は、オブジェクトが特定できなかったと判定すると(S604でNo)、処理をS607に進める。なお、S604の処理は識別子と画像領域とのペアごとに行ってもよく、オブジェクトを特定できた画像領域についてはS605へ処理を進め、オブジェクトを特定できなかった画像領域についてはS607へ処理を進めてもよい。
【0034】
S605では、属性情報保存部302が、無線タグ103の識別子を鍵として、それぞれの属性情報を取得する(S605)。ここで、属性情報の取得について、図10を用いて説明する。属性情報保存部302は、無線タグ103aについては、その識別子(00:00:85:00:00:01)を鍵として、103aの属性情報(名前、大きさ、築年数)を取得する。同様に、属性情報保存部302は、無線タグ103bについては、その識別子(00:00:85:00:00:02)を鍵として、103bの属性情報(名前、趣味、所属)を取得する。属性情報を取得すると、メッセージ送受信部304は、オブジェクトを特定できたことと、無線タグ103の識別子に関連する属性情報とを画像表示装置101に通知し(S606)、画像解析サーバ102は処理を終了する。
【0035】
画像領域内でオブジェクトを特定できなかった場合は(S604でNo)、メッセージ送受信部304は、オブジェクトを特定できなかったことを画像表示装置101に通知する(S607)。その後、画像解析サーバ102は処理を終了する。なお、本実施形態では、画像表示装置101が取得した画像の一部である画像領域内にオブジェクトが存在するかを判定しているが、取得した画像そのものに対してオブジェクトが存在するかを判定してもよい。その場合、画像表示装置101は、画像解析サーバ102へ画像と画角内で検出された無線タグ103の識別子とを送信する。そして、画像解析サーバ102は、その識別子に応じて特徴情報を取得し、画像全体において、オブジェクトの特徴を有する部分が存在するかを判定する。これにより、画像表示装置101での処理を簡略化することが可能となる。また、オブジェクトが大きい場合などで、画像領域を限定することによりオブジェクトの特定が困難となる場合には、画像の全体を判定に用いるのが有効となる。一方、画像領域を特定することにより、画像解析サーバ102の処理を簡略化し、全体の処理を高速化することができる。
【0036】
(処理シーケンス)
図11は、実施形態1に係る画像表示装置101と画像解析サーバ102との間の処理を示すシーケンス図である。まず、画像表示装置101は、画像を撮影して取得する(M701)。続いて、画像表示装置101は、無線タグ103のセンシングを行う(M702)。なお、センシングの範囲は撮影画像の画角と合致させてもよい。無線タグ103のセンシングにおいて、画像表示装置101は、無線タグ103a〜103cへ識別子の取得のリクエストのメッセージを送信する(M703〜M705)。なお、RF部210においてビーム幅の狭い指向性アンテナを用いて撮影画像の画角に合致させてセンシングする場合、例えばM705の取得メッセージは無線タグ103cへ届かないこととなる。この場合、無線タグ103cの識別子を検出することができない。一方、無指向性アンテナやビーム幅が十分に広いアンテナを用いて全方位でセンシングしている場合は、無線タグ103cの識別子を検出することができる。ここでは、無線タグ103cの識別子を検出できないものとして説明する。
【0037】
無線タグ103aおよび無線タグ103bは、画像表示装置101からの識別子の取得のリクエストのメッセージを受信すると、それぞれ固有の識別子を画像表示装置101へ送信する(M706、M707)。画像表示装置101の位置判定部204は、検出した無線タグ103のうち、撮影した画像の画角内にある無線タグ103を選択する(M708)。なお、本シーケンスでは、撮影画像の画角に合致させてセンシングしているため、検出した全ての無線タグ103aと103bを選択することとなる。なお、ユーザの操作により画角内の所定の範囲を指定して選択する場合は、この限りではなく、いずれか片方の無線タグ103のみが選択される場合や、何も選択されない場合がある。さらに、画像表示装置101は、撮影した画像から、検出した無線タグ103に対応する画像領域を取得する(M708)。そして、画像表示装置101は、選択された無線タグ103の識別子と、その識別子に対応する画像領域とを含む画像領域の解析の要求のメッセージを画像解析サーバ102へ送信する(M709)。
【0038】
画像解析サーバ102は、受信したメッセージに含まれる識別子から特徴情報を取得し、同様にメッセージに含まれる画像領域の解析を行い、当該画像領域に含まれるオブジェクトを特定する(M710)。そして、画像解析サーバ102は、オブジェクトが画像領域に含まれている場合に、識別子に基づいて属性情報を取得する(M711)。画像解析サーバ102は、属性情報を取得すると、オブジェクトの特定結果と取得した属性情報とを含むメッセージを画像表示装置101へ送信する(M712)。
【0039】
画像表示装置101は、受信したメッセージから属性情報を取得し、取得した属性情報をM701で撮影した画像に合成する(M713)。そして、画像表示装置101は、属性情報を合成した画像を画面に表示する(M714)。
【0040】
本実施形態では、画像表示装置101と画像解析サーバ102で分散して画像処理を行ったが、処理の一部または全部を画像表示装置101で行ってもよい。また、画像表示装置101の機能の一部を画像解析サーバ102で行ってもよい。本実施形態によれば、画角外に多量な無線タグ103を発見した場合でも、無線タグ103に対応する情報を画角に合わせて選択的に検索することで、撮影した画像に含まれるオブジェクトに対する属性情報を短時間で表示することができる。
【0041】
<<実施形態2>>
続いて、本発明の第2の実施形態について、実施形態1との差異を中心に図面を参照して説明する。図12は、識別子の位置と優先度との関係を示す図である。本実施形態では、全方位にセンシングを行うものとする。801の領域は、画角と同一の範囲であって、焦点距離までの範囲を示す領域である。領域801は、焦点距離に応じて範囲が可変する。そして、領域801は、特徴情報取得部205および属性情報取得部206において、最も高い優先順位でオブジェクトの特定および属性情報の取得の依頼が行われる領域である。なお、図ではこの最も高い優先順位の領域を「優先度1」として表している。なお、図では、優先順位の高い領域から、優先度1、優先度2、と表し、最も優先順位の低い領域を優先度4と表している。
【0042】
802は、画角と同一の範囲であって、焦点距離よりも遠い範囲である。領域802は、優先度2であり、特徴情報取得部205および属性情報取得部206において、2番目に優先してオブジェクトの特定および属性情報の取得の取得の依頼が行われる。803は、画角外の範囲であって、優先度3である。804は、画像表示装置101の画像取得部201の反対側の範囲であって、優先度4である。本実施形態では、図12に示すように、画像表示装置101からの相対的な方位と距離とによって、優先順位を設定している。
【0043】
本実施形態では、全範囲でセンシングを行った後、画像解析サーバ102に対するオブジェクトの特定および属性情報の取得(S506、および、M708)の制限を行う。すなわち、優先順位の高い領域で検出された無線タグ103に対応する識別子とそれに対応する画像領域を優先して画像解析サーバ102へ送信し、優先順位の低いものは後で送信するか、又は送信しない。なお、オブジェクトの特定及び属性情報の取得ではなく、無線タグ103のセンシングを行う順番を図12に記載する優先順位にしたがって決定してもよい。センシングの範囲は、RF部210において指向性アンテナを用いることで限定することが可能となる。
【0044】
なお、画像表示装置101からの距離は、無線タグ103から受信する信号の強度や、識別子の要求信号の送信から、識別子を含む信号の受信までにかかるラウンド・トリップ・タイムなどにより判定することが可能である。例えば、センシングにおいて焦点距離より近い領域について無線タグ103を検出する場合は、焦点距離に基づいて、識別子の要求信号の送信時から焦点距離に存在する無線タグ103からの信号が返ってくるまでの時間を算出する。そして、その時間より前に到来した無線タグ103からの信号のみを検出することにより、焦点距離より近い位置にある無線タグ103からのみ識別子を取得することが可能となる。
【0045】
本実施形態によれば、画像表示装置101が首振りやズームアウトした場合、動く可能性の高い領域の情報を優先的に取得しておくことで属性情報を短時間で表示できる。また、本実施形態によれば、撮影した画像に含まれる蓋然性の高いオブジェクトについての処理のみを優先して迅速に実行することにより、画像を出力するまでの処理時間を短縮することが可能となる。
【0046】
<<実施形態3>>
以下、本発明の第3の実施形態について、実施形態1との差異を中心に図面を参照して説明する。図13(a)は、画角内で無線タグ103の識別子を検出したとき(図5のS504でYes)の様子を示した図である。図の例では、画面上に識別子が表示されているが、無線タグ103がオブジェクトの名前などを識別子と共に送信し、画像表示装置101は識別子以外の名前などを表示してもよい。
【0047】
図13(b)は、検出された識別子をユーザインターフェースを用いてユーザの操作により選択し、画像領域を決定する様子を示した図である。本実施形態では、無線タグ103aに対応する識別子をユーザの指1204で選択することで画像領域を決定する。なお、画像領域の領域計算自体は、図8(b)と同様に行ってもよく、識別子1201が表示されている領域をタッチすることで、計算された領域が自動的に選択されるようにしてもよい。また、識別子1201を含む矩形の例えば左上と右下を指定することで領域をユーザが定めてもよい。また、本実施形態では、タッチパネルを用いたが、ペン型のユーザインターフェースや、座標コマンドの入力、識別子の指定などを用いてもよい。画像表示装置101は、選択された画像領域とそれに対応する識別子とを画像解析サーバへ送信し、その画像領域についてのみオブジェクトの解析および識別子に対応する属性情報の受信を行う。
【0048】
本発明によれば、ユーザが選択した情報のみについてオブジェクトの特定と属性情報の受信を行うようになるため、不必要な情報を取得しなくなり、検索や画像合成にかかる処理量を低減することができる。
【0049】
<<その他の実施形態>>
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【特許請求の範囲】
【請求項1】
画像処理装置であって、
設定した画角の画像を取得する画像取得手段と、
前記画像処理装置の周囲に存在するオブジェクトから、無線通信を介して当該オブジェクトを識別する識別子を検出する検出手段と、
前記識別子に対応するオブジェクトが前記画像に含まれているかを、前記画角と前記識別子を検出した位置とに基づいて判定する判定手段と、
前記識別子に対応するオブジェクトが前記画像に含まれていると判定された場合、前記識別子に基づいて前記オブジェクトの情報を取得する情報取得手段と、
前記オブジェクトの情報を、前記画像に合成して出力する出力手段と、
を有する画像処理装置。
【請求項2】
前記情報取得手段は、識別子とその識別子に対応するオブジェクトの情報とを関連付けて記憶する記憶手段から、前記オブジェクトの情報を取得する、
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記記憶手段は、さらに、前記オブジェクトを特定するための特徴情報を、当該オブジェクトに対応する前記識別子と関連付けて記憶し、
前記判定手段は、前記画角の範囲において検出された識別子に基づいて、その識別子に対応する前記特徴情報を前記記憶手段から取得し、検出された前記識別子に対応するオブジェクトが前記画像に含まれているかをその特徴情報に基づいて判定する、
ことを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記判定手段は、前記識別子を検出した位置に対応する前記画像における位置を特定し、その位置を含む前記画像の一部である領域を抽出し、前記識別子に対応するオブジェクトがその抽出された領域に含まれているかを前記特徴情報に基づいて判定する、
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記判定手段は、前記識別子に対応する前記オブジェクトが前記画像に含まれている場合、さらに前記オブジェクトの前記画像における位置を前記特徴情報に基づいて判定し、
前記出力手段は、前記画像における前記オブジェクトの前記位置に応じて、前記情報を合成する当該画像における位置を制御する、
ことを特徴とする請求項3又は4に記載の画像処理装置。
【請求項6】
前記情報取得手段は、検出した前記識別子に対応する前記オブジェクトが前記画像に含まれていない場合、前記画像に含まれる前記オブジェクトの情報を取得した後に、前記画像に含まれていない前記オブジェクトの情報を取得する、
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
【請求項7】
前記画像取得手段は、さらに焦点距離を設定して画像を取得し、
前記情報取得手段は、前記画像に含まれる前記オブジェクトについて、前記焦点距離より前記画像処理装置に近い距離にある前記オブジェクトの情報を、前記焦点距離より前記画像処理装置から遠い距離にある前記オブジェクトの情報より優先して取得する、
ことを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記検出手段は、指向性アンテナを用いて、前記識別子が検出される位置に関する情報を取得する、
ことを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
【請求項9】
前記検出手段は、前記指向性アンテナにより、ユーザにより指定された範囲における前記オブジェクトの前記識別子を検出する、
ことを特徴とする請求項8に記載の画像処理装置。
【請求項10】
前記検出手段は、指向性アンテナを用いて、前記画角の範囲に含まれる前記識別子を、前記画角の範囲に含まれない前記識別子に優先して検出する、
ことを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
【請求項11】
前記画像取得手段は、さらに焦点距離を設定して画像を取得し、
前記検出手段は、前記画角の範囲に含まれる前記識別子について、前記焦点距離より前記画像処理装置に近い距離にある前記識別子を、前記焦点距離より前記画像処理装置から遠い距離にある前記識別子より優先して検出する、
ことを特徴とする請求項10に記載の画像処理装置。
【請求項12】
前記オブジェクトが含まれているかを判定する前記画像の範囲をユーザの操作により特定する特定手段をさらに備える、
ことを特徴とする請求項1から11のいずれか1項に記載の画像処理装置。
【請求項13】
前記画角は光学ズームとデジタルズームによって決定される、
ことを特徴とする請求項1から12のいずれか1項に記載の画像処理装置。
【請求項14】
前記情報取得手段は、前記画角の範囲において検出された前記識別子について、ユーザの指定により選択された前記識別子に対応するオブジェクトの情報を取得する、
ことを特徴とする請求項1から12のいずれか1項に記載の画像処理装置。
【請求項15】
画像処理装置における画像処理方法であって、
設定した画角の画像を取得する画像取得工程と、
前記画像処理装置の周囲に存在するオブジェクトから、無線通信を介して当該オブジェクトを識別する識別子を検出する検出工程と、
前記識別子に対応するオブジェクトが前記画像に含まれているかを、前記画角と前記識別子を検出した位置とに基づいて判定する判定工程と、
前記識別子に対応するオブジェクトが前記画像に含まれていると判定された場合、前記識別子に基づいて前記オブジェクトの情報を取得する情報取得工程と、
前記オブジェクトの情報を、取得した前記画像に合成して出力する出力工程と、
を有する画像処理方法。
【請求項16】
コンピュータを請求項1から14のいずれか1項に記載の画像処理装置が備える各手段として機能させるためのプログラム。
【請求項1】
画像処理装置であって、
設定した画角の画像を取得する画像取得手段と、
前記画像処理装置の周囲に存在するオブジェクトから、無線通信を介して当該オブジェクトを識別する識別子を検出する検出手段と、
前記識別子に対応するオブジェクトが前記画像に含まれているかを、前記画角と前記識別子を検出した位置とに基づいて判定する判定手段と、
前記識別子に対応するオブジェクトが前記画像に含まれていると判定された場合、前記識別子に基づいて前記オブジェクトの情報を取得する情報取得手段と、
前記オブジェクトの情報を、前記画像に合成して出力する出力手段と、
を有する画像処理装置。
【請求項2】
前記情報取得手段は、識別子とその識別子に対応するオブジェクトの情報とを関連付けて記憶する記憶手段から、前記オブジェクトの情報を取得する、
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記記憶手段は、さらに、前記オブジェクトを特定するための特徴情報を、当該オブジェクトに対応する前記識別子と関連付けて記憶し、
前記判定手段は、前記画角の範囲において検出された識別子に基づいて、その識別子に対応する前記特徴情報を前記記憶手段から取得し、検出された前記識別子に対応するオブジェクトが前記画像に含まれているかをその特徴情報に基づいて判定する、
ことを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記判定手段は、前記識別子を検出した位置に対応する前記画像における位置を特定し、その位置を含む前記画像の一部である領域を抽出し、前記識別子に対応するオブジェクトがその抽出された領域に含まれているかを前記特徴情報に基づいて判定する、
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記判定手段は、前記識別子に対応する前記オブジェクトが前記画像に含まれている場合、さらに前記オブジェクトの前記画像における位置を前記特徴情報に基づいて判定し、
前記出力手段は、前記画像における前記オブジェクトの前記位置に応じて、前記情報を合成する当該画像における位置を制御する、
ことを特徴とする請求項3又は4に記載の画像処理装置。
【請求項6】
前記情報取得手段は、検出した前記識別子に対応する前記オブジェクトが前記画像に含まれていない場合、前記画像に含まれる前記オブジェクトの情報を取得した後に、前記画像に含まれていない前記オブジェクトの情報を取得する、
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
【請求項7】
前記画像取得手段は、さらに焦点距離を設定して画像を取得し、
前記情報取得手段は、前記画像に含まれる前記オブジェクトについて、前記焦点距離より前記画像処理装置に近い距離にある前記オブジェクトの情報を、前記焦点距離より前記画像処理装置から遠い距離にある前記オブジェクトの情報より優先して取得する、
ことを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記検出手段は、指向性アンテナを用いて、前記識別子が検出される位置に関する情報を取得する、
ことを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
【請求項9】
前記検出手段は、前記指向性アンテナにより、ユーザにより指定された範囲における前記オブジェクトの前記識別子を検出する、
ことを特徴とする請求項8に記載の画像処理装置。
【請求項10】
前記検出手段は、指向性アンテナを用いて、前記画角の範囲に含まれる前記識別子を、前記画角の範囲に含まれない前記識別子に優先して検出する、
ことを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
【請求項11】
前記画像取得手段は、さらに焦点距離を設定して画像を取得し、
前記検出手段は、前記画角の範囲に含まれる前記識別子について、前記焦点距離より前記画像処理装置に近い距離にある前記識別子を、前記焦点距離より前記画像処理装置から遠い距離にある前記識別子より優先して検出する、
ことを特徴とする請求項10に記載の画像処理装置。
【請求項12】
前記オブジェクトが含まれているかを判定する前記画像の範囲をユーザの操作により特定する特定手段をさらに備える、
ことを特徴とする請求項1から11のいずれか1項に記載の画像処理装置。
【請求項13】
前記画角は光学ズームとデジタルズームによって決定される、
ことを特徴とする請求項1から12のいずれか1項に記載の画像処理装置。
【請求項14】
前記情報取得手段は、前記画角の範囲において検出された前記識別子について、ユーザの指定により選択された前記識別子に対応するオブジェクトの情報を取得する、
ことを特徴とする請求項1から12のいずれか1項に記載の画像処理装置。
【請求項15】
画像処理装置における画像処理方法であって、
設定した画角の画像を取得する画像取得工程と、
前記画像処理装置の周囲に存在するオブジェクトから、無線通信を介して当該オブジェクトを識別する識別子を検出する検出工程と、
前記識別子に対応するオブジェクトが前記画像に含まれているかを、前記画角と前記識別子を検出した位置とに基づいて判定する判定工程と、
前記識別子に対応するオブジェクトが前記画像に含まれていると判定された場合、前記識別子に基づいて前記オブジェクトの情報を取得する情報取得工程と、
前記オブジェクトの情報を、取得した前記画像に合成して出力する出力工程と、
を有する画像処理方法。
【請求項16】
コンピュータを請求項1から14のいずれか1項に記載の画像処理装置が備える各手段として機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2013−85200(P2013−85200A)
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願番号】特願2011−225298(P2011−225298)
【出願日】平成23年10月12日(2011.10.12)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願日】平成23年10月12日(2011.10.12)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]