説明

画像通信装置、画像通信方法、プログラム、および画像通信システム

【課題】プライバシーを保護しつつ遠隔コミュニケーションを支援するための画像通信装置、画像通信方法、プログラム、および画像通信システムを提供する。
【解決手段】第1の撮像装置から第1の撮像画像を取得し、前記第1の撮像画像を第2の表示装置に向けて送信する場合に、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部、を備える、画像通信装置。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像通信装置、画像通信方法、プログラム、および画像通信システムに関する。
【背景技術】
【0002】
近年、ブロードバンドやクラウド環境の普及、および、情報通信技術の発達に伴うコミュニケーションツールの発達により、場所や時間に制約されないワーキングスタイル(働き方)が広がりつつある。これにより、集団での協働(collaboration)作業の主な形態も、一般的な一極集中・同一空間型から、遠隔分散協働型へ移り変わっていくことが予測される。この実現のために、音声通話、FAX、電子メール、インスタントメッセンジャー、およびVoIPなどを統合したユニファイドコミュニケーション(登録商標)技術・システムが注目を集めている。
【0003】
ユニファイドコミュニケーションシステムが伝達するリッチな情報としては、映像や音情報が重要な位置を占め、例えば従来のTV会議システムを基礎とするツールが多くのユニファイドコミュニケーションシステムの位置機能として搭載される。
【0004】
ところで、いわゆるTV会議システムは、議題が決まった上での話し合いなど、意図的、かつ、正式・公式的なフォーマル・コミュニケーションを主に想定したコミュニケーションツールである。これに対し、近年、チームでの協働作業を円滑に進めるためには組織の一体感や人間関係の醸成が重要であること、また、組織の一体感や人間関係の醸成を高めるためには非計画的で偶然性を持ったインフォーマル・コミュニケーションが大切であることが指摘されている。
【0005】
このようなインフォーマル・コミュニケーションを支援するためのユニファイドコミュニケーションシステムのツールとしては、TV会議のように「誰が何時から何時までA会議室で」というような計画的な形態ではなく、非計画的なオフィスの日常風景を共有すること、すなわち、オフィス内の環境的な映像と音情報を常に遠隔オフィス間で相互通信、提示しあうものが考えられる。
【0006】
なお、上述したユニファイドコミュニケーションシステムに関し、例えば特許文献1には、撮像装置によって撮像した映像をそのまま送受信するのでなく、動きの小さな映像部分を送信しないことにより、背景画像が送信されないようにする技術が開示されている。また、特許文献2には、一部の映像領域については正当なアクセス権限を有することが確認された者にのみ提供されるようにする技術が開示されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平5−91407号公報
【特許文献2】特開2001−186501号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかし、上記のインフォーマル・コミュニケーションを支援するためのユニファイドコミュニケーションシステムは、重大なプライバシー問題を有する。以下、この点について説明する。
【0009】
非計画的に常時撮影されるオフィス内映像は、配信先の遠隔オフィス側から一方的に閲覧することが可能となる。同一空間であれば、視界内で自分を凝視している人物がいれば、見られている側の人間はその人物の存在に気付くであろう。しかし、例えば部屋の隅に設置された撮像装置が撮像したオフィス内映像が遠隔オフィスに配信される場合、オフィス内映像に含まれる人間は、自分が今見られているのか、誰が見ているのかを判別することは困難である。このため、プライバシー問題につながる密かな一方的遠隔閲覧行為が発生しかねない。
【0010】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、プライバシーを保護しつつ遠隔コミュニケーションを支援するための、新規かつ改良された画像通信装置、画像通信方法、プログラム、および画像通信システムを提供することにある。
【課題を解決するための手段】
【0011】
上記課題を解決するために、本発明のある観点によれば、第1の撮像装置から第1の撮像画像を取得し、前記第1の撮像画像を第2の表示装置に向けて送信する場合に、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部、を備える、画像通信装置が提供される。
【0012】
前記第2の表示装置の利用者情報は、前記第2の表示装置側の第2の撮像装置により取得された前記第2の表示装置の利用者の顔画像を含む第2の撮像画像であってもよい。
【0013】
前記画像通信装置は、前記第1の撮像画像に含まれる顔画像域、および前記第2の撮像画像に含まれる顔画像の詳細度の差分を小さくする画像処理を行う画像処理部をさらに備え、前記制御部は、前記画像処理部による前記画像処理後の第1の撮像画像を前記第2の表示装置に向けて送信し、前記画像処理後の第2の撮像画像を前記第1の表示装置に向けて送信してもよい。
【0014】
前記第1の表示装置は、人物特定情報と表示装置とが関連付けられたデータベースにおいて、前記第1の撮像画像に含まれる顔画像から取得される人物特定情報に関連付けられている表示装置であってもよい。
【0015】
前記制御部は、前記第2の表示装置に向けて送信する前記第1の撮像画像に含まれる顔画像の詳細度が閾値を上回った場合に、当該顔画像から取得される人物特定情報に関連付けられている第1の表示装置に向けて前記第2の表示装置の利用者情報を送信してもよい。
【0016】
前記制御部は、前記第2の撮像画像に前記第2の表示装置の利用者の顔画像が含まれない場合、前記第2の表示装置の利用者情報を前記第1の表示装置に向けて送信しなくてもよい。
【0017】
前記画像処理は、複数の撮像画像の顔画像領域のうちで、最も詳細度の低い顔画像領域の詳細度に他の顔画像領域の詳細度を揃える処理であってもよい。
【0018】
前記画像処理部は、さらに、複数の撮像画像のうちで、最もフレームレートが低い撮像画像のフレームレートに他の撮像画像のフレームレートを揃えてもよい。
【0019】
前記画像処理部は、前記第1の撮像画像に複数の顔画像が含まれる場合、複数の顔画像の各々と前記第2の顔画像の詳細度との差分が小さくなるように前記第2の撮像画像を複数の顔画像の各々について画像処理し、前記制御部は、前記複数の顔画像の各々について画像処理された第2の撮像画像の各々を、前記複数の顔画像領域の各々から取得される人物特定情報に前記データベースにおいて関連付けられている第1の表示装置に送信してもよい。
【0020】
前記第1の表示装置を視認可能な位置は前記第1の撮像装置の撮像範囲に含まれ、前記第2の表示装置を視認可能な位置は前記第2の撮像装置の撮像範囲に含まれてもよい。
【0021】
また、上記課題を解決するために、本発明の別の観点によれば、第1の撮像装置から第1の撮像画像を取得するステップと、前記第1の撮像画像を第2の表示装置に向けて送信するステップと、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信するステップと、を含む画像通信方法が提供される。
【0022】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、第1の撮像装置から第1の撮像画像を取得し、前記第1の撮像画像を第2の表示装置に向けて送信する場合、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部、として機能させるためのプログラムが提供される。
【0023】
また、上記課題を解決するために、本発明の別の観点によれば、第1の撮像装置、前記第1の撮像装置側に設けられる第1の表示装置、前記第1の撮像装置から第1の撮像画像を取得する画像通信装置、および第2の表示装置を備える画像通信システムであって、前記画像通信装置は、前記第1の撮像画像を第2の表示装置に向けて送信する場合、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部を有する、画像通信システムが提供される。
【発明の効果】
【0024】
以上説明したように本発明によれば、プライバシーを保護しつつ遠隔コミュニケーションを支援することが可能である。
【図面の簡単な説明】
【0025】
【図1】本発明の実施形態による画像通信システムの構成を示した説明図である。
【図2】画像通信システムの詳細な構成を示した説明図である。
【図3】閲覧者側装置の表示部の視野角と撮像部の画角の関係を示した平面図である。
【図4】被閲覧者側表示装置の表示画面の具体例を示した説明図である。
【図5】画像調整処理の具体例を示した説明図である。
【図6】本実施形態による画像通信システムの動作を示すシーケンス図である。
【図7】画像処理通信装置による画像調整処理に関する動作を示したフローチャートである。
【図8】拠点Bの撮像画像の具体例を示した説明図である。
【図9】被閲覧者側表示装置の表示画面の変形例を示した説明図である。
【発明を実施するための形態】
【0026】
以下に添付図面を参照しながら、本発明の実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0027】
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。例えば、実質的に同一の機能構成を有する複数の構成を、必要に応じて被閲覧者側表示装置200Aおよび200Bのように区別する。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。例えば、被閲覧者側表示装置200Aおよび200Bを特に区別する必要が無い場合には、単に被閲覧者側表示装置200と称する。
【0028】
<1.画像通信システムの基本構成>
まず、図1を参照し、本実施形態による画像通信システムの基本構成を説明する。
【0029】
図1は、本発明の実施形態による画像通信システムの構成を示した説明図である。図1に示したように、本発明の実施形態による画像通信システムは、閲覧者側装置100と、被閲覧者側表示装置200と、被閲覧者側撮像装置300と、画像処理通信装置400と、を備える。なお、図1には、複数の遠隔空間として拠点Aおよび拠点Bを示しており、拠点Aに閲覧者側装置100が存在し、拠点Bに被閲覧者側表示装置200および被閲覧者側撮像装置300が存在する。
【0030】
被閲覧者側撮像装置300(第1の撮像装置))は、拠点Bを撮像し、拠点Bの撮像画像を取得する。そして、被閲覧者側撮像装置300によって取得された拠点Bの撮像画像は、例えば拠点Aからの要求に応じ、画像処理通信装置400を介して閲覧者側装置100に送信される。なお、拠点Bの撮像画像は、遠隔空間で閲覧され得る画像であるので、以下では、拠点Bの撮像画像に含まれる人物(被写体)を「被閲覧者」と称する。
【0031】
閲覧者側装置100は、図1に示したように、撮像部101、表示部103および入力部104を有する。撮像部101(第2の撮像装置)は、閲覧者側装置100の利用者を撮像する。表示部103(第2の表示部)は、画像処理通信装置400を介して被閲覧者側撮像装置300から受信される拠点Bの撮像画像を表示する。入力部104は、被閲覧者側撮像装置300を制御するための操作入力を受け付ける。例えば、被閲覧者側撮像装置300が光学ズーム機能や画角変更機能等を有する場合、入力部104への操作入力によりズーム処理や画角変更処理を指定することが可能である。なお、閲覧者側装置100の利用者は、閲覧者側装置100の表示部103を見るという行為により拠点Bの撮像画像を閲覧できるので、以下では、拠点Aに存在する閲覧者側装置100の利用者を「閲覧者」と称する。
【0032】
画像処理通信装置400は、拠点Bの撮像画像の閲覧者が存在する場合、閲覧者情報(利用者情報)として、例えば閲覧者の撮像画像を被閲覧者側表示装置200に送信する。そして、被閲覧者側表示装置200(第1の表示装置)は、画像処理通信装置400から受信した閲覧者画像を表示する。このように、本実施形態によれば、被閲覧者側に閲覧者情報を通知するので、被閲覧者は、自分が今見られているのか、誰が見ているのかを判別することが可能となる。これにより、プライバシー問題につながる密かな一方的遠隔閲覧行為を抑止することができる。さらに、本実施形態による画像処理通信装置400は、閲覧者画像または拠点Bの撮像画像の情報量を必要に応じて調整することにより、上記問題を抑止すると共に、閲覧者および被閲覧者が同一空間に存在する場合のような自然な感覚のコミュニケーションを実現することが可能である。この点については詳細に後述する。
【0033】
なお、図1においては、1人の閲覧者が1台の閲覧者側装置100を所有し、1人の被閲覧者が1台の被閲覧者側表示装置200を所有する利用形態を示しているが、1台の装置を複数の利用者が共有する利用形態にも本実施形態は適用可能である。
【0034】
また、図1においては、閲覧者側装置100により撮像される閲覧者が1人である例を示しているが、閲覧者側装置100により撮像される閲覧者、すなわち、拠点Aに存在する人物は複数名であってもよい。
【0035】
同様に、図1においては、被閲覧者側撮像装置300により撮像される被閲覧者が1人である例を示しているが、被閲覧者側撮像装置300により撮像される被閲覧者、すなわち、拠点Bに存在する人物は複数名であってもよい。特に、被閲覧者側撮像装置300は拠点Bの俯瞰的な画像を撮像するため、複数の被写体(被閲覧者)が画角内に存在する可能性が高いが、本実施形態によれば、各被閲覧者が個別に有する被閲覧者側表示装置200に閲覧者情報を通知することが可能である。
【0036】
上記のように、本発明は拠点Aの閲覧者および拠点Bの被閲覧者がそれぞれ複数名である利用形態にも適用可能であるが、以下では、最も簡易的な、閲覧者が1人であり、被閲覧者が1人である利用形態に重きを置いて説明する。
【0037】
<2.画像通信システムの詳細な構成>
以上、図1を参照し、本実施形態による画像通信システムの基本構成を説明した。続いて、画像通信システムを構成する閲覧者側装置100、被閲覧者側表示装置200、被閲覧者側撮像装置300、および画像処理通信装置400について順次詳細に説明する。
【0038】
[2−1.閲覧者側装置]
図2は、画像通信システムの詳細な構成を示した説明図である。画像通信システムを構成する閲覧者側装置100は、図2に示したように、撮像部101、顔検出部102、表示部103、入力部104および制御部105を備える。なお、図2においては撮像部101、顔検出部102、表示部103、入力部104および制御部105の各構成が1つの閲覧者側装置100に実装される例を示しているが、これら各構成は複数の装置に分散的に実装されてもよい。
【0039】
撮像部101は、撮像範囲に含まれる閲覧者を撮像して閲覧者画像を取得し、閲覧者画像を顔検出部102に出力する。なお、撮像部101は、デジタルカメラやWebカメラのように、撮像光学系および撮像素子を含む一般的な撮像装置であってもよい。
【0040】
顔検出部102は、撮像部101によって取得された閲覧者画像から閲覧者の顔領域を検出し、閲覧者の顔領域を示す顔領域情報および閲覧者画像を制御部105に出力する。この顔領域情報は、例えば、閲覧者画像内の顔領域と顔以外の領域とが2値で表現されたデータであり、閲覧者画像における顔領域の位置、大きさおよび形状を示す。顔領域の検出のための画像処理方法としては、肌色情報を用いた方法や、顔の部品に注目する方法など、既存の複数の方法が存在し、本実施形態においては、これらの方法のいずれを利用してもよい。なお、閲覧者側装置100では人物特定、すなわち、閲覧者と顔画像データベースとの照合機能は必須でないので、顔検出部102は、閲覧者の顔の特徴を認識する機能は備えていなくてもよい。
【0041】
表示部103は、被閲覧者側撮像装置300の撮像部301によって取得された拠点Bの撮像画像を表示する。なお、拠点Bの撮像画像は、画像処理通信装置400の制御部401および閲覧者側装置100の制御部105を介して入力される。表示部103は、液晶ディスプレイや有機ELディスプレイのような一般的な表示装置であってもよい。ただし、表示部103は、表示部103を視認可能な位置が撮像部101の撮像範囲に含まれるような位置に配置されることが望ましい。以下、この点について図3を参照して具体的に説明する。
【0042】
図3は、表示部103の視野角と撮像部101の画角の関係を示した平面図である。なお、図3においては、表示部103の視野角(表示部103を視認可能な範囲)を破線で、撮像部101の画角(撮像範囲)を一点鎖線で示している。本実施形態の効果実現のためには、閲覧者の閲覧行為が生じたことを精度良く検出することが重要である。このため、図3に示したように、閲覧者が表示部103を閲覧する場合には閲覧者の顔が基本的に撮像部101の画角に収まることが望ましい。
【0043】
さらに、表示部103の視野角が撮像部101の画角内に収まるように表示部103および撮像部101を配置すれば、閲覧者が表示部103、すなわち拠点Bの撮像画像を見る際に、閲覧者の顔を含む閲覧者画像が必ず得られ、閲覧者画像から顔領域を検出することが可能となる。なお、このような配置関係は、液晶ディスプレイの上部のフレームにWebカメラが埋め込まれている、一般的なWebカメラ内蔵液晶ディスプレイを用いることによっても実現される。なお、被閲覧者側装置300の撮像部301および被閲覧者側装置200の表示部201も同様に、表示部201を視認可能な位置が撮像部301の撮像範囲に含まれるような位置に配置されることが望ましい
【0044】
入力部104は、被閲覧者側撮像装置300を制御するための操作入力を受け付ける。例えば、被閲覧者側撮像装置300が光学ズーム機能や画角変更機能等を有する場合、入力部104への操作入力によりズーム処理や画角変更処理を指定することが可能である。また、閲覧者は、入力部104への操作入力により拠点Bの撮像画像の送信を要求することが可能である。なお、被閲覧者側撮像装置300が光学ズーム機能や画角変更機能等を持たない場合、または、閲覧者にズーム等の操作欲求がないと考えられる場合には、ズーム処理や画角変更処理を指定するための入力部104は不要である。
【0045】
制御部105は、閲覧者側装置100の動作全般を制御する。例えば、制御部105は、顔検出部102から入力される閲覧者画像および顔領域情報を画像処理通信装置400に送信する。また、制御部105は、画像処理通信装置400から受信される拠点Bの撮像画像を表示部103に出力する。また、制御部105は、入力部104から入力される指示情報を画像処理通信装置400に送信する。
【0046】
[2−2.被閲覧者側表示装置]
被閲覧者側表示装置200は、図2に示したように、表示部201、および制御部202を備える。なお、被閲覧者側表示装置200は、スマートフォン、携帯電話、携帯型ゲーム機、携帯型映像処理装置などの情報端末であってもよい。
【0047】
表示部201は、閲覧者側装置100によって取得された閲覧者画像を表示する。この閲覧者画像は、画像処理通信装置400の制御部401および被閲覧者側表示装置200の制御部202を介して入力される。以下、図4を参照し、表示部201に表示される閲覧者画像についてより具体的に説明する。
【0048】
図4は、表示部201に表示される閲覧者画像の具体例を示した説明図である。図4に示したように、表示部201は、コンテンツ表示エリア210および閲覧者画像表示エリア220を含む。
【0049】
コンテンツ表示エリア210には、被閲覧者側表示装置200の通常の用途のためのコンテンツが表示される。図4には、コンテンツの一例としてカレンダーを示しているが、コンテンツは、写真、動画、ゲーム、または各種操作画面などであってもよい。
【0050】
また、閲覧者画像表示エリア220には、閲覧者画像222が表示される。この閲覧者画像は、詳細については後述するように、閲覧者側装置100の表示部103に表示される拠点Bの撮像画像に含まれる被閲覧者の顔領域と同等の情報量を有する。
【0051】
このような構成により、被閲覧者側表示装置200が本実施形態の用途のためだけの端末でなく、汎用的に使用される情報端末である場合、コンテンツ表示エリア210に本来の用途のためのコンテンツを表示しつつ、閲覧者画像を閲覧者画像表示エリア220に表示することができる。
【0052】
なお、表示部201は、閲覧者側装置100の表示部103と同様に、液晶ディスプレイや有機ELディスプレイのような一般的な表示装置であってもよい。
【0053】
制御部202は、被閲覧者側表示装置200の動作全般を制御する。例えば、制御部202は、画像処理通信装置400から受信される閲覧者画像を表示部201に出力する。
【0054】
[2−3.被閲覧者側撮像装置]
被閲覧者側撮像装置300は、図2に示したように、撮像部301、顔検出部302、顔認識部303、および制御部304を備える。なお、図2においては被閲覧者側撮像装置300と被閲覧者側表示装置200を別個の装置として記載されているが、被閲覧者側撮像装置300の機能と被閲覧者側表示装置200の機能は同一装置に実装されてもよい。さらに、図2においては撮像部301、顔検出部302、顔認識部303、および制御部304の各構成が1つの被閲覧者側撮像装置300に実装される例を示しているが、これら各構成は複数の装置に分散的に実装されてもよい。
【0055】
撮像部301は、撮像範囲に含まれる被写体を撮像して拠点Bの撮像画像を取得し、拠点Bの撮像画像を顔検出部302に出力する。なお、撮像部301は、デジタルカメラやWebカメラのように、撮像光学系および撮像素子を含む一般的な撮像装置であってもよい。
【0056】
顔検出部302は、撮像部301によって取得された拠点Bの撮像画像から被閲覧者の顔領域を検出し、被閲覧者の顔画像の特徴情報を取得する。そして、顔検出部302は、被閲覧者の顔領域を示す顔領域情報、顔画像の特徴情報、および拠点Bの撮像画像を顔認識部303に出力する。
【0057】
なお、顔画像の特徴情報は、顔の各部分の相対位置、大きさ、および形状などに基づく特徴量・パターンのデータである。特徴量としては、Haarウェーブレット特徴量などの既存の多様な特徴量が存在するが、本実施形態においては、これらのいずれの特徴量を利用してもよい。
【0058】
顔認識部303は、顔検出部302で得られた顔画像の特徴情報から、被閲覧者の人物特定を行い、拠点Bの撮像画像、顔領域情報および人物特定情報を制御部304に出力する。なお、人物特定のための顔画像の特徴情報は事前に登録済み、すなわち、照合のための顔画像データベースが事前に用意されていてもよい。また、顔認識および人物特定に用いるアルゴリズム、データ処理の方法は特に限定されない。
【0059】
制御部304は、被閲覧者側撮像装置300の動作全般を制御する。例えば、制御部304は、顔認識部303から入力される拠点Bの撮像画像、顔領域情報および人物特定情報を画像処理通信装置400に送信する。また、制御部304は、閲覧者側装置100の入力部104から、画像処理通信装置400の制御部401を介して操作指示情報を受信し、指示に応じたズーム処理や画角変更処理を実行する。
【0060】
[2−4.画像処理通信装置]
画像処理通信装置400は、図2に示したように、制御部401、記憶部402および画像処理部403を備える。
【0061】
制御部401は、画像処理通信装置400の動作全般を制御する。例えば、制御部401は、閲覧者側装置100から拠点Aの閲覧者画像および顔領域情報を受信し、記憶部402に出力する。また、制御部401は、被閲覧者側撮像装置300から拠点Bの撮像画像、顔領域情報および人物特定情報を受信し、記憶部402に出力する。
【0062】
また、制御部401は、閲覧者側装置100から受信された閲覧者画像の顔領域情報と、被閲覧者側撮像装置300から受信された被閲覧者の顔領域情報とを比較し、画像処理部403に、記憶部402を介して、閲覧者画像の顔領域の情報量と、被閲覧者の顔領域の情報量の差分を小さくする画像調整処理を指示する。この画像調整処理の詳細については図5を参照して後述する。
【0063】
また、制御部401は、記憶部402から入力される画像調整処理後の閲覧者画像を、被閲覧者の人物特定情報に基づいて被閲覧者が個人所有する被閲覧者側表示装置200に送信する。また、制御部401は、記憶部402から入力される拠点Bの撮像画像を閲覧者側装置100に送信する。
【0064】
記憶部402は、制御部401から入力された閲覧者画像、閲覧者の顔領域情報、拠点Bの撮像画像、被閲覧者の顔領域情報、および被閲覧者の人物特定情報を記憶する。また、記憶部402は、制御部401から入力された画像調整処理の指示および閲覧者画像を画像処理部403に出力する。また、記憶部402は、画像処理部403から出力された画像調整処理後の閲覧者画像または拠点Bの撮像画像の少なくともいずれかを制御部401に出力する。
【0065】
画像処理部403は、記憶部402から入力された画像調整処理の指示に従い、閲覧者画像の顔領域の情報量と、被閲覧者の顔領域の情報量の差分を小さくする画像調整処理を行う。なお、本明細書における情報量は、画像ファイルのデータ量でなく、画像を見る人間にとっての情報の詳細度を示し、本明細書における情報量には例えば画素数が該当する。ここで、情報量が画素数である場合に画像調整処理についてより詳細に説明する。
【0066】
(画像調整処理の意義)
同一空間での直接目視の場合、第1の人物と、第2の人物は、ほぼ同じ縮尺率で相手の姿を認識し合う。すなわち、第1の人物が得る第2の人物の情報量と、第2の人物が得る第1の人物の情報量は同等である。
【0067】
しかし、遠隔空間同士のコミュニケーションでは、第1の人物が得る第2の人物の情報量と、第2の人物が得る第1の人物の情報量は異なることが予想される。例えば、拠点Aの閲覧者画像の顔領域の画素数が200であり、拠点Bの撮像画像に含まれる被閲覧者の顔領域の画素数が100である場合、閲覧者の顔領域は被閲覧者の顔領域の約2倍の情報量を有する。このとき、画像処理通信装置400が閲覧者画像をそのままの情報量で被閲覧者側表示装置200に送信すると、被閲覧者により得られる閲覧者の顔領域の情報量は、閲覧者が得る被閲覧者の顔領域の情報量の2倍になってしまう。
【0068】
そこで、本実施形態においては、遠隔空間同士のコミュニケーションでもこの自然な感覚を再現するために、閲覧者画像の顔領域の情報量と、被閲覧者の顔領域の情報量の差分を小さくする画像調整処理を行う。
【0069】
(画像調整処理の対象)
具体的には、画像処理部403は、閲覧者画像または拠点Bの撮像画像の少なくともいずれかを処理することにより、双方に含まれる顔領域の情報量の差分を小さくする。例えば、画像処理部403は、閲覧者画像と拠点Bの撮像画像のうちで、顔領域の情報量が多い方の画像の情報量を他方の情報量に揃えるための画像処理を行う。
【0070】
ここで、想定する利用形態では撮像部101が表示部103の近傍に配置されるので、それに伴い閲覧者が撮像部101の近くに位置し、結果、閲覧者の顔領域が大きくなる可能性が高い。一方、拠点Bの撮像部301は俯瞰的な画像を撮像するので、被閲覧者は撮像部301から離れて位置し、結果、被閲覧者の顔領域が閲覧者と比較して小さくなる可能性が高い。
【0071】
このため、多くのケースでは、画像処理部403は、閲覧者の顔領域の情報量を被閲覧者の顔領域の情報量に揃える画像処理を行うと考えられる。ただし、画像処理部403は、閲覧者画像に含まれる閲覧者の顔領域の情報量が拠点Bの撮像画像に含まれる被閲覧者の顔領域の情報量より少ない場合、拠点Bの撮像画像に含まれる被閲覧者の顔領域の情報量を閲覧者の顔領域の情報量に揃える画像処理を行ってもよい。この場合、画像処理部403は、拠点Bの撮像画像内の被閲覧者の顔領域の情報量のみを落としてもよいし、拠点Bの撮像画像全体の情報量を落としてもよい。
【0072】
変形例として、画像処理部403は、閲覧者の顔領域の情報量および被閲覧者の顔領域の情報量に関係なく、閲覧者画像および拠点Bの撮像画像の双方を処理することにより、閲覧者の顔領域の情報量および被閲覧者の顔領域の情報量を同一の情報量に揃えてもよい。
【0073】
(画像調整処理の方法)
また、画像処理部403は、ニアレストネイバー法やバイキュービック法などの既存の方式を用いて閲覧者画像または拠点Bの撮像画像の解像度を変換することにより、双方の画像の顔領域の情報量を揃える。
【0074】
例えば、閲覧者の顔領域の画素数が拠点Bの撮像画像に含まれる被閲覧者の顔領域の画素数の4倍であった場合、画像処理部403は、図5に示したように、閲覧者画像の画素数を4分の1に落とす処理を行う。これは、画像の情報量が4分の1に落とされたことと等価である。
【0075】
なお、双方の顔領域の情報量を完全一致させる必要は無く、画像調整処理後の双方の顔領域の情報量は所定の範囲内の差分を有してもよい。また、上記では情報量の変換方法として解像度変換処理を説明したが、応用例として、ぼかし処理のように画像をにじませることによって情報量を落とすことも可能である。さらに、画像処理部403は、情報量の公平性の観点から、閲覧者画像および拠点Bの撮像画像のうちで、フレームレートが低い方の画像のフレームレートに他方のフレームレートを変換してもよい。
【0076】
<3.画像通信システムの動作>
以上、本実施形態による画像通信システムの構成を説明した。続いて、本実施形態による画像通信システムの動作を説明する。
【0077】
(全体フロー)
図6は、本実施形態による画像通信システムの動作を示すシーケンス図である。図6に示したように、被閲覧者側撮像装置300の撮像部301が拠点Bの撮像を開始する(S110)。なお、撮像部301は、拠点Bの俯瞰的な風景を撮像するライブカメラの役割を担うので、基本的には常時撮像を行う利用形態が想定される。
【0078】
続いて、被閲覧者側撮像装置300の顔検出部302は、撮像部301によって取得された拠点Bの撮像画像から被閲覧者の顔領域を検出し、被閲覧者の顔画像の特徴情報を取得する。そして、顔検出部302は、被閲覧者の顔領域を示す顔領域情報、顔画像の特徴情報、および拠点Bの撮像画像を顔認識部303に出力する(S112)。
【0079】
ここで、顔領域が検出されなかった場合、すなわち、撮像部301の画角内に被写体となる被閲覧者が存在しないか、被閲覧者は存在するが顔は映っていない場合、顔検出部302は、顔領域が検出されなかった旨の情報を領域情報の代わりに出力してもよい。この点について補足すると、本実施形態が解決しようとするプライバシー問題において最も考慮すべき被写体部位は顔であると考えられる。このため、被閲覧者は存在するが顔は映っていないと考えられる場合、例えば、撮像部301に対して被閲覧者が後ろ向きに移っている場合などは一方的閲覧行為の問題外として扱うことが適切である。遠隔でない同一空間内の閲覧行為でも、背後から見られた場合には被閲覧者は気付かないので、遠隔空間のコミュニケーションで特有の一方的閲覧行為の問題とは性質が異なるためである。
【0080】
そして、被閲覧者側撮像装置300の顔認識部303は、顔検出部302で得られた顔画像の特徴情報から、被閲覧者の人物特定を行い、拠点Bの撮像画像、顔領域情報および人物特定情報を制御部304に出力する(S114)。次いで、被閲覧者側撮像装置300の制御部304が、拠点Bの撮像画像、顔領域情報および人物特定情報の画像処理通信装置400への送信を開始する(S116)。
【0081】
一方、閲覧者側装置100の撮像部101は、撮像範囲に含まれる閲覧者の撮像を開始して、閲覧者画像を取得する(S118)。そして、閲覧者側装置100の顔検出部102は、撮像部101によって取得された閲覧者画像から閲覧者の顔領域を検出し、閲覧者の顔領域を示す顔領域情報および閲覧者画像を制御部105に出力する(S120)。
【0082】
ここで、顔領域が検出されなかった場合、すなわち、表示部103の閲覧者が存在しない、または、閲覧者が画面方向を見ていない場合、顔検出部102は、顔領域が検出されなかった旨の情報を領域情報の代わりに出力してもよい。なお、顔検出部102が上記のように明示的に顔領域が検出されなかった旨の情報を出力しなくても、制御部105は、顔領域情報が顔でない画像範囲を示す1値のみからなることにより顔領域が検出されなかったことを認識することが可能である。
【0083】
その後、閲覧者側装置100の制御部105が、拠点Bの撮像画像の要求と共に、閲覧者画像および顔領域情報の画像処理通信装置400への送信を開始する(S122)。
【0084】
画像処理通信装置400は、閲覧者側装置100から受信された各種データ、および、被閲覧者側撮像装置300から受信された各種データに基づき、画像調整処理を開始する(S130)。この画像調整処理の動作フローについては図7を参照して後述する。
【0085】
その後、画像処理通信装置400は、被閲覧者側表示装置200への閲覧者画像の送信を開始し(S146)、閲覧者側装置100への拠点Bの撮像画像の送信を開始する(S148)。これにより、被閲覧者側表示装置200の表示部201が閲覧者画像を表示し(S150)、閲覧者側装置100の表示部103が拠点Bの撮像画像を表示することが可能となる(S152)。なお、閲覧者の一方的閲覧行為を防ぐために、拠点Bの撮像画像の送信開始タイミングと閲覧者画像の送信開始タイミングは同期していることが望ましい。
【0086】
(画像調整処理の動作フロー)
図7は、画像処理通信装置400による画像調整処理に関する動作を示したフローチャートである。図7に示したように、まず、画像処理通信装置400の制御部401が、閲覧者側装置100から拠点Aの閲覧者画像および顔領域情報を受信し、被閲覧者側撮像装置300から拠点Bの撮像画像、顔領域情報および人物特定情報を受信する(S131)。
【0087】
続いて、制御部401は、閲覧者画像から顔領域が検出されたか否かを閲覧者の顔領域情報に基づいて判断する(S132)。ここで、顔領域が検出されたと判断される場合はS133の処理に進み、顔領域が検出されなかったと判断される場合はS138の処理に進む。
【0088】
同様に、制御部401は、拠点Bの撮像画像から顔領域が検出されたか否かを被閲覧者の顔領域情報に基づいて判断する(S133)。ここで、顔領域が検出されたと判断される場合はS134の処理に進み、顔領域が検出されなかったと判断される場合はS138の処理に進む。
【0089】
そして、閲覧者画像および拠点Bの撮像画像から顔領域が検出されたと判断される場合、制御部401は、閲覧者の顔領域と被閲覧者の顔領域を比較し、画像処理部403に、記憶部402を介して、閲覧者画像の顔領域の情報量と、被閲覧者の顔領域の情報量の差分を小さくする画像調整処理を指示する(S134)。
【0090】
続いて、記憶部402は、拠点Aの閲覧者画像、閲覧者の顔領域情報、拠点Bの撮像画像、被閲覧者の顔領域情報および人物特定情報を記憶し、閲覧者側装置100への拠点Bの撮像画像の送信が完了するまでこれらデータを保持する(S135)。
【0091】
そして、画像処理部403は、制御部401からの画像調整処理の指示に従い、閲覧者画像の顔領域の情報量と、被閲覧者の顔領域の情報量の差分を小さくする画像調整処理を行う(S136)。
【0092】
その後、制御部401は、被閲覧者側表示装置200へ画像調整処理後の閲覧者画像を送信する(S146)。ここで、拠点Bの各被閲覧者は特定の被閲覧者側表示装置200を所有しており、被閲覧者と被閲覧者側表示装置200は、データベースにおいて事前に1対1に関連付けられているものとする。なお、関連付けの方法は特に限定されない。また、1人の被閲覧者が複数の被閲覧者側表示装置200を所有し、1人の被閲覧者に対して複数の被閲覧者側表示装置200が関連付けられていてもよい。制御部401は、このデータベースを用い、被閲覧者側撮像装置300から受信された人物特定情報に対応する被閲覧者側表示装置200を特定し、特定した被閲覧者側表示装置200に画像調整処理後の閲覧者画像を送信する。
【0093】
また、制御部401は、閲覧者側装置100へ拠点Bの撮像画像を送信する(S148)。これにより、閲覧者が拠点Bの撮像画像を閲覧する場合に被閲覧者側表示装置200の表示部201に閲覧者画像を表示することが可能となる。なお、閲覧者の一方的閲覧行為を防ぐために、拠点Bの撮像画像の送信開始タイミングと閲覧者画像の送信開始タイミングは同期していることが望ましい。
【0094】
<4.変形例>
(変形例1)
なお、上記のフローによれば、閲覧者画像から顔領域が検出されなかった場合、すなわち、拠点Bの撮像画像の閲覧行為がないと考えられる場合でも、拠点Bの撮像画像が閲覧者側装置100に送信される。これは、本実施形態による画像通信システムがインフォーマルな遠隔コミュニケーションを支援するシステムであり、基本的に、閲覧行為があるか否かに関わらず常時遠隔拠点の画像を流し続けることがシステムの目的に対して効果的であるという考えによる仕様である。しかし、消費電力の節約や、通信データ量の削減の観点を重視する場合、閲覧者の顔領域が検出された場合にのみ拠点Bの撮像画像を閲覧者側装置100に送信するように画像処理通信装置400を設計してもよい。
【0095】
(変形例2)
また、閲覧者が複数名存在する場合、制御部401は、各閲覧者の画像調整処理後の閲覧者画像を被閲覧者側表示装置200に送信してもよい。この場合、被閲覧者側表示装置200は、各閲覧者画像を重ならないように表示部201に表示する。
【0096】
また、拠点Bの撮像画像に複数の被閲覧者が含まれる場合、制御部401は、各被閲覧者の被閲覧者側表示装置200に画像調整処理後の閲覧者画像を送信してもよい。以下、この点について図8を参照してより具体的に説明する。
【0097】
図8は、拠点Bの撮像画像の具体例を示した説明図である。図8に示した拠点Bの撮像画像は、被閲覧者側表示装置200Aを有する人物A、および被閲覧者側表示装置200Bを有する人物Bを含む。ここで、人物Aの顔領域の画素数が200であり、人物Bの顔領域の画素数が50であったとする。この場合、画像処理通信装置400の画像処理部は、被閲覧者側表示装置200Aへの送信のために、顔領域の画素数が200である閲覧者画像を作成すると共に、被閲覧者側表示装置200Bへの送信のために、顔領域の画素数が50である閲覧者画像を作成する。そして、制御部401が、顔領域の画素数が200である閲覧者画像を人物Aの被閲覧者側表示装置200Aに送信し、顔領域の画素数が50である閲覧者画像を人物Bの被閲覧者側表示装置200Bに送信する。
【0098】
このように、本実施形態は、拠点Aの閲覧者、および拠点Bの閲覧者が複数名である場合にも支障なく動作する。これは、遠隔コミュニケーション支援システムの中でも、特に、複数の遠隔拠点に複数のメンバが分散するオフィス・トゥ・オフィスのテレワーク環境を想定したシステムにおいて重要な動作条件を満たしているといえる。
【0099】
(変形例3)
また、図4においては、被閲覧者の被閲覧者側表示装置200に通知する閲覧者情報の一例として閲覧者画像を説明したが、閲覧者情報として他の情報を被閲覧者側表示装置200に通知してもよい。例えば、閲覧者側装置100または画像処理通信装置400が閲覧者の人物特定機能を有する場合、画像処理通信装置400は、閲覧者情報として閲覧者の氏名を被閲覧者側表示装置200に通知してもよい。また、画像処理通信装置400は、拠点Bの撮像画像に含まれる被閲覧者の顔領域の詳細度を示す情報を合わせて被閲覧者側表示装置200に通知してもよい。
【0100】
かかる構成により、被閲覧者側表示装置200の表示部201は、閲覧者画像に代えて、図9に示すように、閲覧者の氏名222、および被閲覧者の注目度(顔領域の詳細度に対応)を示すインジケーター224を表示することが可能となる。
【0101】
(変形例4)
また、上記では、被閲覧者を含む拠点Bの撮像画像を閲覧者が閲覧している場合に閲覧者情報を被閲覧者の被閲覧者側表示装置200に通知する例を説明したが、本実施形態はかかる例に限定されない。例えば、拠点Bの撮像画像に人物画像が含まれていても、当該人物画像の情報量が少ない場合(人物画像が小さい場合)、閲覧者は当該人物画像を意図して見ているわけでない、すなわち、その人物は被閲覧者でないと捉えられる。そこで、画像処理通信装置400は、拠点Bの撮像画像に含まれる人物画像(あるいは、顔領域)の情報量が閾値を下回る場合には当該人物の被閲覧者側表示装置200に閲覧者情報を通知せず、情報量が閾値を上回る場合に当該人物の被閲覧者側表示装置200に閲覧者情報を通知してもよい。
【0102】
<5.結び/補足>
以上説明したように、本実施形態によれば、「誰」が、「どのような情報量」で被閲覧者を見ているかという閲覧者情報を被閲覧者に通知する。これにより、遠隔分散協働環境におけるインフォーマルな状況情報の共有を目的とする、互いの拠点空間映像を相互に常時送受信するような環境において、必然的に発生するプライバシー問題、すなわち、密かな一方的遠隔閲覧行為を抑止することが可能である。また、本実施形態は、閲覧者と被閲覧者が同一空間にいる場合と同様の「公平で直観的な見る・見られる関係」の構築を遠隔状況下でも可能にするという点でも有用である。
【0103】
なお、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0104】
例えば、上記では、拠点Aに閲覧者側装置100が配置され、拠点Bに被閲覧者側表示装置200および被閲覧者側撮像装置300が配置される例を説明したが、これら装置に代えて、拠点Aの閲覧者および拠点Bの被閲覧者が、閲覧者側装置100に顔認識部303の機能が付加された携帯可能な画像処理端末を有してもよい。これにより、閲覧者と被閲覧者が自由に移動する利用形態にも本実施形態を適用することが可能となる。また、閲覧者と被閲覧者が同一の画像処理端末を有するので、拠点Aの閲覧者が被閲覧者の立場になること、および、拠点Bの被閲覧者が閲覧者の立場になることが容易に可能となり、情報のやりとりの双方向性への対応が実現される。これは、上述した閲覧者と被閲覧者が複数名である場合への対応の容易さと併せ、本実施形態のシステムの「スケーラビリティ」、すなわち拡張性の高さを示すものである。
【0105】
ここで、上記の画像処理端末としては、撮像部、表示部、顔検出部、顔認識部を一装置内にコンパクトに備えていることが多いスマートフォンが好適である。ただし、この場合、被閲覧者の画像処理端末が非計画的に被閲覧者を画角内に捉えていることが望まれるので、空間の状況情報を安定的に提供し合うためには、空間を常時俯瞰的に撮像する被閲覧者側撮像装置300が画像処理端末と併せて両拠点に存在することが運用上望ましい。
【0106】
また、画像通信システムの処理における各ステップは、必ずしもシーケンス図またはフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、画像通信システムの処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
【0107】
また、閲覧者側装置100、被閲覧者側表示装置200、被閲覧者側撮像装置300、および画像処理通信装置400に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した閲覧者側装置100、被閲覧者側表示装置200、被閲覧者側撮像装置300、および画像処理通信装置400の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
【符号の説明】
【0108】
100 閲覧者側装置
101 撮像部
102 顔検出部
103 表示部
104 入力部
105 制御部
200 被閲覧者側表示装置
201 表示部
202 制御部
300 被閲覧者側撮像装置
301 撮像部
302 顔検出部
303 顔認識部
304 制御部
400 画像処理通信装置
401 制御部
402 記憶部
403 画像処理部

【特許請求の範囲】
【請求項1】
第1の撮像装置から第1の撮像画像を取得し、前記第1の撮像画像を第2の表示装置に向けて送信する場合に、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部、を備える、画像通信装置。
【請求項2】
前記第2の表示装置の利用者情報は、前記第2の表示装置側の第2の撮像装置により取得された前記第2の表示装置の利用者の顔画像を含む第2の撮像画像である、請求項1に記載の画像通信装置。
【請求項3】
前記画像通信装置は、
前記第1の撮像画像に含まれる顔画像域、および前記第2の撮像画像に含まれる顔画像の詳細度の差分を小さくする画像処理を行う画像処理部をさらに備え、
前記制御部は、
前記画像処理部による前記画像処理後の第1の撮像画像を前記第2の表示装置に向けて送信し、前記画像処理後の第2の撮像画像を前記第1の表示装置に向けて送信する、請求項2に記載の画像通信装置。
【請求項4】
前記第1の表示装置は、人物特定情報と表示装置とが関連付けられたデータベースにおいて、前記第1の撮像画像に含まれる顔画像から取得される人物特定情報に関連付けられている表示装置である、請求項1〜3のいずれか一項に記載の画像通信装置。
【請求項5】
前記制御部は、前記第2の表示装置に向けて送信する前記第1の撮像画像に含まれる顔画像の詳細度が閾値を上回った場合に、当該顔画像から取得される人物特定情報に関連付けられている第1の表示装置に向けて前記第2の表示装置の利用者情報を送信する、請求項1〜4のいずれか一項に記載の画像通信装置。
【請求項6】
前記制御部は、前記第2の撮像画像に前記第2の表示装置の利用者の顔画像が含まれない場合、前記第2の表示装置の利用者情報を前記第1の表示装置に向けて送信しない、請求項2〜5のいずれか一項に記載の画像通信装置。
【請求項7】
前記画像処理は、複数の撮像画像の顔画像領域のうちで、最も詳細度の低い顔画像領域の詳細度に他の顔画像領域の詳細度を揃える処理である、請求項3〜6のいずれか一項に記載の画像通信装置。
【請求項8】
前記画像処理部は、さらに、複数の撮像画像のうちで、最もフレームレートが低い撮像画像のフレームレートに他の撮像画像のフレームレートを揃える、請求項7に記載の画像通信装置。
【請求項9】
前記画像処理部は、前記第1の撮像画像に複数の顔画像が含まれる場合、複数の顔画像の各々と前記第2の顔画像の詳細度との差分が小さくなるように前記第2の撮像画像を複数の顔画像の各々について画像処理し、
前記制御部は、前記複数の顔画像の各々について画像処理された第2の撮像画像の各々を、前記複数の顔画像領域の各々から取得される人物特定情報に前記データベースにおいて関連付けられている第1の表示装置に送信する、請求項4または5に記載の画像通信装置。
【請求項10】
前記第1の表示装置を視認可能な位置は前記第1の撮像装置の撮像範囲に含まれ、
前記第2の表示装置を視認可能な位置は前記第2の撮像装置の撮像範囲に含まれる、請求項2〜9のいずれか一項に記載の画像通信装置。
【請求項11】
第1の撮像装置から第1の撮像画像を取得するステップと、
前記第1の撮像画像を第2の表示装置に向けて送信するステップと、
前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信するステップと、
を含む、画像通信方法。
【請求項12】
コンピュータを、
第1の撮像装置から第1の撮像画像を取得し、前記第1の撮像画像を第2の表示装置に向けて送信する場合、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部、
として機能させるための、プログラム。
【請求項13】
第1の撮像装置、前記第1の撮像装置側に設けられる第1の表示装置、前記第1の撮像装置から第1の撮像画像を取得する画像通信装置、および第2の表示装置を備える画像通信システムであって、
前記画像通信装置は、
前記第1の撮像画像を第2の表示装置に向けて送信する場合、前記第2の表示装置の利用者情報を前記第1の撮像装置側の第1の表示装置に向けて送信する制御部を有する、画像通信システム。





【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−74598(P2013−74598A)
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願番号】特願2011−214312(P2011−214312)
【出願日】平成23年9月29日(2011.9.29)
【国等の委託研究の成果に係る記載事項】(出願人による申告)国等の委託研究の成果に係る特許出願(独立行政法人情報通信研究機構「高度通信・放送研究開発委託研究/革新的な三次元映像技術による超臨場感コミュニケーション技術の研究開発 課題オ 超臨場感コミュニケーションシステム」、産業技術力強化法第19条の適用を受ける特許出願)
【出願人】(000000295)沖電気工業株式会社 (6,645)
【Fターム(参考)】