説明

多拠点テレビ会議システム

【課題】いずれの受信端末においても表示されない映像領域のエンコードを停止することで、表示される映像に影響を与えずに端末及び多拠点接続装置の負荷を減少させる。
【解決手段】遠隔通信端末装置10は、映像データの受信可能解像度を中継装置30に通知する能力通知部306と、映像データのエンコード領域の解像度を決定する解像度決定部303と、決定された解像度の映像データ領域を圧縮するエンコード部304と、を備え、中継装置30は、各能力通知部より通知された各受信可能解像度に基づく解像度通知情報を、映像データ送信端末となる遠隔通信端末装置に通知する解像度通知部315を備え、解像度決定部は、解像度通知部より通知された解像度通知情報に基づいて、映像データ受信端末となる各遠隔通信端末装置の全てにおいて表示されない映像データの領域が非エンコード領域となるようにエンコード領域の解像度を決定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明はテレビ会議システム等、遠隔地にネットワークで映像を配信するシステムに適用可能な端末、及び、多拠点接続装置に関する発明である。
【背景技術】
【0002】
遠隔会議システムでは、送信端末は圧縮(エンコード)技術を用いて冗長な情報を取り除いた状態で映像・音声をネットワークに送信し、受信端末は、伸張(デコード)技術を用いて受信した映像・音声を再生する。
複数の端末が相互に映像・音声を送受信する場合においては、各送信端末は圧縮した映像・音声を多拠点接続装置に対して送信し、多拠点接続装置は各送信端末から受信した映像・音声から、受信端末の能力に応じた映像を生成して転送する多拠点接続技術が考えられ、既に知られている。
遠隔会議システムでは、送信端末が送信する映像の解像度と、受信端末が受信した映像を表示する解像度が異なる場合、受信した映像を受信端末において表示可能となるように映像の解像度を変更する必要がある。多拠点接続の遠隔会議においては、解像度の変更は多拠点接続装置が行う方式が一般的である。
このように、受信側の処理能力を考慮して送信側のエンコードパラメータの動的な制御を行う技術が記載された文献として、特許文献1が挙げられる。特許文献1には、状況に応じて適切なフレームレートで動画データを伝送する目的で、フレーム受信率に応じてフレームレートを制御する機能を備えたビデオ会議システムについて開示されている。このビデオ会議システムにおいて、受信機は送信機にフレーム受信率の情報を送信し、送信機は伝達されたフレーム受信率に応じて送信フレームレートを制御することにより、CPUのリソースを無駄遣いすることなく適切なフレームレートで動画データを伝送する構成が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
従来の多拠点接続の遠隔会議システムにおいて、送信解像度と受信解像度のアスペクト比が異なる場合、映像の一部を切り取る処理が行われる。この処理は、送信端末が映像をエンコード処理した後に、多拠点接続装置がデコード処理をして映像の一部を切り取るという手順にて行われる。つまり、送信端末によりエンコードされた映像の一部は受信端末に転送されないまま破棄されることとなる。従って、送信端末のエンコード処理と多拠点接続装置のデコード処理の際に、CPUリソースが必要以上に消費されているという問題があった。この問題は、特許文献1においても解決されていない。
本発明は、上述の事情に鑑みてなされたものであり、TV会議システムにおいて、いずれの受信端末においても表示されない映像領域のエンコードを停止することで、表示される映像に影響を与えずに端末及び多拠点接続装置の負荷を低減させることを目的とする。
【課題を解決するための手段】
【0004】
上記の課題を解決するために、請求項1に記載の発明は、データの送受信を行う複数の遠隔通信端末装置と、通信ネットワークを介して該各遠隔通信端末装置間の映像データを中継する中継装置と、を備えた多拠点テレビ会議システムであって、前記遠隔通信端末装置は、映像データの受信可能解像度を前記中継装置に通知する能力通知部と、送信する映像データのエンコード領域の解像度を決定する解像度決定部と、該解像度決定部により決定された解像度の映像データ領域を圧縮するエンコード部と、を備え、前記中継装置は、前記各能力通知部より通知された前記各受信可能解像度に基づく解像度通知情報を、映像データ送信端末となる前記遠隔通信端末装置に通知する解像度通知部を備え、前記解像度決定部は、前記解像度通知部より通知された前記解像度通知情報に基づいて、映像データ受信端末となる前記各遠隔通信端末装置の全てにおいて表示されない映像データの領域が非エンコード領域となるように前記エンコード領域の解像度を決定することを特徴とする。
【発明の効果】
【0005】
本発明によれば、中継装置は映像データ送信端末となる遠隔通信端末装置に対して映像データ受信端末となる遠隔通信端末装置の解像度に関する情報を通知し、送信端末は通知された情報に基づいてどの受信端末でも表示されない映像データの領域を判断し、その領域がエンコードされないようにエンコード領域の解像度を決定することで、遠隔通信端末装置及び中継装置のエンコード、デコードに係る負荷を減少させているので、多拠点テレビ会議システム全体として負荷を軽減することができる。
【図面の簡単な説明】
【0006】
【図1】本発明の一実施形態に係る多拠点テレビ会議システムの概略を示す図である。
【図2】本発明の一実施形態に係る遠隔通信端末装置のハードウェア構成図である。
【図3】本発明の一実施形態に係る中継装置のハードウェア構成図である。
【図4】本発明の一実施形態に係る多拠点テレビ会議システムの機能ブロック図である。
【図5】本発明の一実施形態に係る多拠点テレビ会議システムのシークエンスチャート図である。
【図6】解像度変更処理の一例を示す説明図である。
【図7】本発明の第二の実施形態に係る多拠点テレビ会議システムのシークエンスチャート図である。
【図8】従来の多拠点テレビ会議システムのシークエンスチャート図である。
【発明を実施するための形態】
【0007】
本発明の実施の形態を説明する。本発明は、多拠点遠隔会議システムにおいて送信端末の送信する解像度(画面解像度)の設定に際して、以下の特徴を有する。
要するに、多拠点接続装置は送信端末に対して受信端末のアスペクト比の情報を通知し、送信端末は通知された情報に基づいてどの受信端末でも表示されない映像領域を判断し、その領域がエンコードされないように送信解像度を縮小することで、端末の負荷を減少させることが特徴になっている。
上記記載の本発明の特徴について、以下の図面を用いて詳細に解説する。
【0008】
図1は、本発明の一実施形態に係る多拠点テレビ会議システムの概略を示す図である。一例として3拠点(拠点A、B、およびC)の多拠点テレビ会議システムを示している。
多拠点テレビ会議システム1は、各遠隔通信端末装置(10A、10B、10C)と中継装置30(多拠点接続装置;MCU;Multipoint Control Unit)とから構成される。以下、各遠隔通信端末装置(10A、10B、10C)をまとめて、遠隔通信端末装置10と記す。他の装置も同様に表記する。
各遠隔通信端末装置10は、映像データストリーム等の通信を行う。映像データストリームは、圧縮された映像、あるいは圧縮された映像をネットワークで送信できるように分割(パケット化)したものである。
中継装置30はインターネットやイントラネット等の通信ネットワーク20にて接続され、各遠隔通信端末装置10との各種データ(情報)の送受信を行う。また中継装置30は、各遠隔通信端末装置10の間で映像データストリームに基づき作成され、画像の再生に必須な基本データの中継を行う。
さらに、各遠隔通信端末装置10は、各遠隔通信端末装置用のカメラ(12A、12B、12C)、各遠隔通信端末装置用のディスプレイ(14A、14B、14C)と接続している。
カメラ12は、テレビ会議をしている際の映像を撮影する。各遠隔通信端末装置用のディスプレイ14は、他拠点の映像を表示する。
【0009】
図2は、本発明の一実施形態に係る遠隔通信端末装置10のハードウェア構成図である。図2に示されているように、本実施形態の遠隔通信端末装置10は、遠隔通信端末装置10全体の動作を制御し、圧縮(エンコード)および伸張(デコード)処理を行うCPU(Central Processing Unit)101、遠隔通信端末装置用プログラムを記憶したROM(Read Only Memory)102、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、映像データストリームや音声データ等の各種データを記憶するフラッシュメモリ104、CPU101の制御にしたがってフラッシュメモリ104に対する各種データの読み出し又は書き込みを制御するSSD(Solid State Drive)105、フラッシュメモリ等の記録メディア106に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ107、遠隔通信端末装置10を操作する操作ボタン108、遠隔通信端末装置10の電源のON/OFFを切り換えるための電源スイッチ109、ネットワークを利用してデータ伝送をするためのネットワークI/F111、CPU101の制御に従って外付けのカメラ12で被写体を撮影し、映像データストリームを得て、映像データストリームの伝送を制御する撮像素子I/F113、音声を入力するマイク114、音声を出力するスピーカ115、CPU101の制御に従ってマイク114及びスピーカ115との間で音声信号の入出力を処理する音声入出力I/F116、CPU101の制御に従って外付けのディスプレイ14に映像データストリームを伝送するディスプレイI/F117、及び上記各構成要素を図2に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。
【0010】
なお、記録メディア106は、遠隔通信端末装置10に対して着脱自在な構成となっている。また、CPU101の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ104に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。更に、カメラ12としては、一例としてCOMSを使用する。COMSは、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子であり、被写体を撮像するものであればCMOSに限らず、CCD(Charge Coupled Device)等を用いてもよい。また、ディスプレイ14は、被写体の画像や操作用アイコン等を表示する液晶や有機ELにより構成されている。
更に、上記遠隔通信端末装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア106等の、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
【0011】
図3は、本発明の一実施形態に係る中継装置のハードウェア構成図である。中継装置30は、中継装置30全体の動作を制御するCPU201、中継装置30を制御するための基本データ中継装置用プログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、各種データを記憶するHD(Hard Disk)204、CPU201の制御にしたがってHD204に対するデータの読み出し又は書き込みを制御するHDD(Hard Disk Drive)205、フラッシュメモリ等の記録メディア206に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ207、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ14、通信ネットワーク20を利用してデータ伝送をするためのネットワークI/F209、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス212、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)213に対するデータの読み出し又は書き込みを制御するCD−ROMドライブ214、及び、上記各構成要素を図3に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
なお、上述の中継装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
【0012】
図4は、本発明の一実施形態に係る多拠点テレビ会議システムの機能ブロック図である。
各遠隔通信端末装置10は、受信部301、デコード部302、解像度決定部303、エンコード部304、送信部305、及び能力通知部306を備えている。
受信部301は、中継装置30を介して他拠点の遠隔通信端末装置10から送信された映像データを受信する。また、受信部301は、他拠点の遠隔通信端末装置10のアスペクト比に関する情報を中継装置30から受信する。デコード部302は、受信部301が受信した映像データを伸張する。解像度決定部303は、中継装置30から通知された解像度通知情報に基づいて、受信側の拠点のいずれのディスプレイ14にも表示されない映像データの領域がなくなるように、映像データのエンコード領域の解像度を決定して調整する。エンコード部304は、カメラ12によって撮影された自拠点の映像データを圧縮する。このとき、解像度決定部303が決定した解像度の映像データ領域をエンコード領域として圧縮する。送信部305は、エンコード部304によって圧縮された映像データを中継装置30に送信する。能力通知部306は、自機(遠隔通信端末装置10)の受信能力(ディスプレイの解像度、利用可能ネットワーク帯域、画面のレイアウトなど)に関する情報を、送信部305を介して中継装置30に送信する。
なお、各拠点A〜Cが有するカメラ12及びディスプレイ14については、詳細な説明を省略する。
【0013】
中継装置30は、受信部311、デコード部312、合成部313、エンコード部314、送信部315、及び解像度通知部316を備えている。
受信部311は、各遠隔通信端末装置10から送信された映像データ、及び受信能力に関する情報等を受信する。デコード部312は、受信部311によって受信された映像データを伸張する。合成部313は、受信端末となる各遠隔通信端末装置10から通知された受信能力に合わせて解像度を調整した映像データの生成を行う。エンコード部314は、合成部313によって生成された映像データを再エンコードする。送信部315は、エンコード部314により再エンコードされた映像データ等を受信端末となる各遠隔通信端末装置10に送信する。解像度通知部316は、受信端末としての遠隔通信端末装置10の能力通知部306から通知されたディスプレイの解像度(受信可能解像度)からアスペクト比を求め、全ての受信端末において表示されない映像データ領域が発生しないアスペクト比(解像度通知情報)を送信端末となる遠隔通信端末装置10の解像度決定部303に対して送信部315を介して通知する。
【0014】
ここで、従来の多拠点会議システムを構成する遠隔通信端末装置は解像度決定部303を備えておらず、また中継装置は解像度通知部316を備えていないため、以下のような処理が行われていた。図8は、従来の多拠点テレビ会議システムのシークエンスチャート図である。この図には、各ステップにおける映像データの解像度の変化も合わせて記載している。なお、説明のため、従来の遠隔通信端末装置を符号10−1にて示し、中継装置を符号30−1にて示す。また、本発明に係る多拠点会議システムと同一の構成については同一の符号により説明する。
例として、遠隔通信端末装置10−1Aが解像度1280×720(アスペクト比16:9)の映像データを送信し、遠隔通信端末装置10−1Bが解像度1024×768(アスペクト比4:3)、遠隔通信端末装置10−1Cが解像度640×480(アスペクト比4:3)で遠隔通信端末装置10−1Aの映像データを表示する構成を考える。送信端末を遠隔通信端末装置10−1Aとし、受信端末を遠隔通信端末装置10−1Bおよび遠隔通信端末装置10−1Cとする。
【0015】
送信側の拠点Aにあるカメラ12Aは、遠隔通信端末装置10−1Aに解像度1280×720の映像データを転送する(ステップS101)。
エンコード部304Aは、カメラ12Aから転送された解像度1280×720の映像データをエンコードする(ステップS102)。送信部305Aは、エンコード部304Aによりエンコードされた映像データを中継装置30−1に送信する(ステップS103)。送信された映像データは、中継装置30−1の受信部311により受信される(ステップS104)。
一方、受信端末である遠隔通信端末装置10−1B、10−1Cの能力通知部306B、306Cは、送信部305B、305Cを介して、中継装置30−1に対して受信能力としてディスプレイ14B、14Cの解像度を通知する(ステップS105)。具体的には、能力通知部306Bは、解像度1024×768で遠隔通信端末装置10−1Aからの映像データを表示することを通知する。また、能力通知部306Cは、解像度640×480で遠隔通信端末装置10−1Aからの映像データを表示することを通知する。
【0016】
中継装置30−1の受信部311は、各遠隔通信端末装置10−1B、10−1Cから送信された解像度の情報を受信する(ステップS106)。デコード部312は、遠隔通信端末装置10−1Aから受信した映像データ(解像度1280×720)をデコードする(ステップS107)。そして、合成部313は、デコードされた映像データの左右の領域(長手方向両端部、図8中斜線部分)を切り取り、解像度960×720(アスペクト比4:3)の映像データを生成する(ステップS108)。さらに、切り取り処理の行われた映像データを拡大又は縮小することにより、各遠隔通信端末装置10−1B、10−1Cにて表示可能な解像度の2つの映像データ(解像度1024×768、解像度640×480)を生成する(ステップS109)。エンコード部314は、合成部313において生成された2つの映像データをそれぞれエンコードする(ステップS110)。送信部315は、遠隔通信端末装置10−1Bに対しては解像度1024×768の映像データを送信し、遠隔通信端末装置10−1Cに対しては解像度640×480の映像データを送信する(ステップS111)。
遠隔通信端末装置10−1B、10−1Cの受信部301B、301Cは、中継装置30−1から映像データを受信する(ステップS112)。デコード部302B、302Cは、受信部301B、301Cにて受信された映像データをデコードする(ステップS113)。デコードされた映像データは、ディスプレイ14B、14Cに表示されることとなる。
【0017】
遠隔通信端末装置10−1Aは、解像度1280×720の映像データを送信しているが、受信端末では960×720分の映像データしか利用されていないため、遠隔通信端末装置10−1Aにおけるエンコード処理と、中継装置30−1におけるデコード処理に過剰なリソースが使用されていることになる。
そこで、本発明においては、いずれの受信端末においても表示されない映像領域のエンコードを行わないようにすることで、受信端末に表示される映像に影響を与えることなく、送信端末及び中継装置の負荷を減少させる。
【0018】
本発明に係る多拠点会議システムにおける各部の動作及びデータの処理について、図5に基づいて具体例により説明する。図5は、本発明の一実施形態に係る多拠点テレビ会議システムのシークエンスチャート図である。この図には、各ステップにおける映像データの解像度の変化も合わせて記載している。
例として、遠隔通信端末装置10Aが解像度1280×720(アスペクト比16:9)の映像データを送信し、遠隔通信端末装置10Bが解像度1024×768(アスペクト比4:3)、遠隔通信端末装置10Cが解像度640×480(アスペクト比4:3)で遠隔通信端末装置10Aから送信された映像データを表示する構成を考える。送信端末を遠隔通信端末装置10Aとし、受信端末を遠隔通信端末装置10Bおよび遠隔通信端末装置10Cとする。
本発明に係る多拠点テレビ会議システムでは以下のような処理が行われる。
【0019】
送信側の拠点Aにあるカメラ12Aは、遠隔通信端末装置10Aに解像度1280×720の映像データを転送する(ステップS1)。
受信端末である遠隔通信端末装置10B、10Cの能力通知部306B、306Cは、送信部305B、305Cを介して、中継装置30に対して受信能力としてディスプレイ14B、14Cの解像度を通知する(ステップS2)。具体的には、能力通知部306Bは、解像度1024×768で遠隔通信端末装置10Aからの映像データを表示することを通知する。また、能力通知部306Cは、解像度640×480で遠隔通信端末装置10Aからの映像データを表示することを通知する。
中継装置30の受信部311は、各遠隔通信端末装置10B、10Cから送信された解像度の情報を受信する(ステップS3)。解像度通知部316は、受信した解像度の情報から各遠隔通信端末装置10B、10Cのアスペクト比を求め、求められたアスペクト比を、送信部315を介して遠隔通信端末装置10Aに「解像度通知情報」として通知する(ステップS4)。ここで、遠隔通信端末装置10B、10Cのアスペクト比はいずれも4:3であるので、すべての受信端末において、映像データがアスペクト比4:3で表示されることを通知する。なお、解像度通知部316から通知する解像度通知情報として、アスペクト比の代わりに各受信端末の解像度を用いてもよい。この場合、解像度決定部303は、各受信端末の解像度からエンコード領域の解像度を決定する。
【0020】
遠隔通信端末装置10Aの受信部301Aは、中継装置30から送信された解像度通知情報を受信する(ステップS5)。解像度決定部303Aは、送信部305Aから送信する映像データのアスペクト比が、受信端末にて表示可能なアスペクト比と同一になるように、映像データの解像度の調整を行う(ステップS6)。具体的には、解像度決定部303Aはエンコード部304Aに対し、カメラ12Aから転送された解像度1280×720の映像データのうち、解像度960×720(アスペクト比4:3)分の映像データをエンコードするように命令する。例えば、左右端部の領域(長手方向両端部の領域)をエンコードしない非エンコード領域とし、この部分を除いた領域をエンコードするように命令する。このようにエンコード領域を決定することで、受信端末である遠隔通信端末装置10B、10Cの全てにおいて表示されない映像データ領域をエンコードする必要がなくなる。エンコード部304Aは、解像度960×720の映像データ(エンコード領域)をエンコードする(ステップS7)。送信部305Aは、エンコード部304Aによりエンコードされた映像データを中継装置30に送信する(ステップS8)。
【0021】
中継装置30の受信部311は、送信された映像データを受信する(ステップS9)。デコード部312は、受信した映像データ(解像度960×720)をデコードする(ステップS10)。合成部313は、映像データを拡大又は縮小することにより、各遠隔通信端末装置10B、10Cにて表示可能な解像度の2つの映像データを生成する(ステップS11)。具体的には、映像データを拡大することで解像度を1024×768に変更した映像データと、映像データを縮小することで解像度を640×480に変更した映像データを生成する。エンコード部314は、合成部313において生成された2種類の映像データをそれぞれエンコードする(ステップS12)。送信部315は、遠隔通信端末装置10Bに対しては解像度1024×768の映像データを送信し、遠隔通信端末装置10Cに対しては解像度640×480の映像データを送信する(ステップS13)。
遠隔通信端末装置10B、10Cの受信部301B、301Cは、中継装置30から映像データを受信する(ステップS14)。デコード部302B、302Cは、受信部301B、301Cによって受信された映像データをデコードする(ステップS15)。デコードされた映像データは、ディスプレイ14B、14Cに表示されることとなる。
【0022】
アスペクト比に合わせて解像度を変更する方法(上記ステップS6の処理に相当)について、図6に基づいて説明する。図6は、解像度変更処理の一例を示す説明図である。
ここでは、アスペクト比をAx:Ayとし、変更前の映像データの解像度をX1×Y1とし、変更後の映像データの解像度(エンコード領域)をX2×Y2とする。
《図6(a)ケース1「Ax×Y1≧Ay×X1」の場合》
変更前の解像度に対して送信すべき映像データが横長(又はアスペクト比同一)となる場合である。X2とY2を以下のように求める。
X2=X1
Y2=X1×Ay/Ax
例えば、変更前の映像データの上下両端部を非エンコード領域とすることにより、所望のアスペクト比となる解像度の映像データを得ることができる。
《図6(b)ケース2「Ax×Y1<Ay×X1」の場合》
変更前の解像度に対して送信すべき映像データが、横に短い場合である。X2とY2を以下のように求める。
X2=Y1×Ax/Ay
Y2=Y1
例えば、変更前の映像データの左右両端部を非エンコード領域とすることにより、所望のアスペクト比となる解像度の映像データを得ることができる。
なお、図6に示した解像度変更処理は一例であって、他の方法を用いて所望の解像度の映像データを得るようにしても良い。また、非エンコード領域の設定方法は上記に限定されるものではなく、例えば映像データの一方の端部側に設定する等してもよい。
【0023】
以上のように本実施形態においては、受信端末(遠隔通信端末装置)の受信可能解像度のアスペクト比に合わせて、送信端末(遠隔通信端末装置)においてエンコード領域の解像度を調整するので、受信端末側で表示される映像に影響を与えずにエンコードにかかる送信端末のCPU負荷を低減させることができる。また、いずれの受信端末においても表示されない映像領域のデータについて、送信端末にてエンコードを行わず、また中継装置においてデコードする必要がないため、エンコードにかかる送信端末のCPU負荷、及びデコードにかかる中継装置のCPU負荷を低減させることができる。
【0024】
〔第二の実施形態〕
本発明の第二の実施形態について図7に基づいて説明する。図7は、本発明の第二の実施形態に係る多拠点テレビ会議システムのシークエンスチャート図である。第一の実施形態においては、受信端末のアスペクト比が単一の例であったが、受信端末側で異なるアスペクト比の映像データを受信する必要がある場合の処理例について説明する。なお、第一の実施形態と同一の処理については同一のステップ番号を付して、その説明を省略する。
第一の実施形態において、遠隔通信端末装置10から中継装置30への解像度の通知は、受信端末からのみ行っていた(図2、ステップS2参照)。本実施形態においては、全ての遠隔通信端末装置10A、10B、10Cから中継装置30への解像度の通知(ステップS2、S21)を行う点が異なっている。
【0025】
例えば、遠隔通信端末装置10Aが解像度1280×720(アスペクト比16:9)の映像データを送信し、遠隔通信端末装置10Bが解像度1920×1200(アスペクト比16:10)、遠隔通信端末装置10Cが解像度640×480(アスペクト比4:3)で遠隔通信端末装置10Aから送信された映像データを表示する構成を考える。送信端末を遠隔通信端末装置10Aとし、受信端末を遠隔通信端末装置10Bおよび遠隔通信端末装置10Cとする。
ステップS1の処理後、ステップS2にて、遠隔通信端末装置10B、10Cの能力通知部306B、306Cは、送信部305B、305Cを介して、中継装置30に対してディスプレイの解像度(受信可能解像度)を通知する。具体的には、能力通知部306Bは、中継装置30に対して解像度1024×768で遠隔通信端末装置10Aからの映像データを表示することを通知する。また、能力通知部306Cは、中継装置30に対して解像度640×480で遠隔通信端末装置10Aからの映像データを表示することを通知する。
また、遠隔通信端末装置10Aの能力通知部306Aは、送信部305Aを介して、中継装置30に対して送信可能な映像データの解像度(送信解像度)を通知する(ステップS21)。
【0026】
解像度通知部316は、通知された送信解像度と全ての受信可能解像度の情報から各遠隔通信端末装置10A、10B、10Cのアスペクト比を求め、いずれの受信端末においても表示されない映像領域が存在するか否かを判断する(ステップS22)。この例では、遠隔通信端末装置10A、10B、10Cのアスペクト比は、それぞれ16:9(1.77:1)、16:10(1.6:1)、4:3(1.33:1)であり、遠隔通信端末装置10Aの横の比率が一番大きいため、遠隔通信端末装置10B、10Cのいずれにおいても表示されない映像データの領域が存在する(ステップS6、S7の映像データの変化参照)。従って、遠隔通信端末装置10B、10Cのいずれにおいても表示されない映像データの領域を除外できるように、次に大きい横の比率となるアスペクト比16:10を遠隔通信端末装置10Aに「解像度通知情報」として通知する(ステップS4)。
ステップS5からステップS10までの処理を行った後、合成部313は、映像データを切り取り、拡大又は縮小することにより、各遠隔通信端末装置10B、10Cにて表示可能な解像度の2つの映像データを生成する(ステップS23)。具体的には、映像データを拡大することで解像度を1920×1200に変更した映像データを生成し、映像データの一部を切り取った後、縮小処理することで、解像度を640×480に変更した映像データを生成する。
以降、ステップS12からステップS15までの処理を行う。
【0027】
解像度通知部316が、遠隔通信端末装置10Aに通知するアスペクト比を算出する方法(ステップS22)について、一般化して説明する。
遠隔通信端末装置10A、10B、10Cの解像度を、それぞれXa×Ya、Xb×Yb、Xc×Ycとする。
まず、max{Xa/Ya,Xb/Yb,Xc/Yc}=Xa/Ya のとき、言い換えれば、遠隔通信端末装置10Aの解像度の横の比率が一番大きい場合、解像度通知部316は、横の比率が次に大きい max{Xb/Yb,Xc/Yc}となるアスペクト比を選択する。
他方、min{Xa/Ya,Xb/Yb,Xc/Yc}=Xa/Ya のとき、言い換えれば、遠隔通信端末装置10Aの解像度の横の比率が一番小さい場合、解像度通知部316は、横の比率が次に小さい min{Xb/Yb,Xc/Yc}となるアスペクト比を選択する。
【0028】
このようにして求められたアスペクト比を解像度通知情報として遠隔通信端末装置10Aに通知することで、遠隔通信端末装置10Aでは、全ての遠隔通信端末装置に表示されない映像データ領域をエンコード対象から除外することができる。
従って、本変形実施形態においても、受信端末(遠隔通信端末装置)の受信可能解像度のアスペクト比に応じて、送信端末(遠隔通信端末装置)においてエンコード領域の解像度を調整するので、受信端末側で表示される映像に影響を与えずにエンコードにかかる送信端末のCPU負荷を低減させることができる。また、いずれの受信端末においても表示されない映像領域のデータについて、送信端末にてエンコードを行わず、また中継装置においてデコードする必要がないため、エンコードにかかる送信端末のCPU負荷、及びデコードにかかる中継装置のCPU負荷を低減させることができる。
【0029】
〔変形実施形態〕
本発明の第二の実施形態の変形実施形態について図7に基づいて説明する。図7は、本発明の第二の実施形態に係る多拠点テレビ会議システムのシークエンスチャート図である。第二の実施形態においては、中継装置30の解像度通知部316が各遠隔通信端末装置のアスペクト比からいずれの受信端末においても表示されない映像領域が存在するか否かを判断していたが(ステップS22の処理)、この処理を送信端末側で行うようにしてもよい。
例えば、ステップS1〜S3(ステップS21を除く)の処理後、解像度通知部316は、通知された全ての受信可能解像度の情報から各遠隔通信端末装置10B、10Cのアスペクト比を求める(ステップS22’)。
【0030】
解像度通知部316は、求められた全ての種類のアスペクト比を遠隔通信端末装置10Aに「解像度通知情報」として通知する(ステップS4’)。
遠隔通信端末装置10Aが解像度通知情報を受信(ステップS5)した後、解像度決定部303Aは、解像度通知部316より通知された全てのアスペクト比と、送信可能な映像データの解像度(送信解像度)とから、遠隔通信端末装置10B、10Cのいずれにおいても表示されない映像データの領域が非エンコード領域となるようにエンコード領域の解像度を決定し、非エンコード領域を除外した領域をエンコードするようにエンコード部304Aに対して命令する(ステップS6’)。
以降の処理は第二の実施形態と同一であるため、その説明を省略する。
【0031】
以上のように、本変形実施形態においても、受信端末(遠隔通信端末装置)の受信可能解像度のアスペクト比に応じて、送信端末(遠隔通信端末装置)においてエンコード領域の解像度を調整するので、受信端末側で表示される映像に影響を与えずにエンコードにかかる送信端末のCPU負荷を低減させることができる。また、いずれの受信端末においても表示されない映像領域のデータについて、送信端末にてエンコードを行わず、また中継装置においてデコードする必要がないため、エンコードにかかる送信端末のCPU負荷、及びデコードにかかる中継装置のCPU負荷を低減させることができる。
【符号の説明】
【0032】
1…多拠点テレビ会議システム、10…遠隔通信端末装置、12…カメラ、14…ディスプレイ、20…通信ネットワーク、
30…中継装置、301…受信部、302…デコード部、303…解像度決定部、304…エンコード部、305…送信部、306…能力通知部、311…受信部、312…デコード部、313…合成部、314…エンコード部、315…送信部、316…解像度通知部
【先行技術文献】
【特許文献】
【0033】
【特許文献1】特許登録第3658087号

【特許請求の範囲】
【請求項1】
データの送受信を行う複数の遠隔通信端末装置と、通信ネットワークを介して該各遠隔通信端末装置間の映像データを中継する中継装置と、を備えた多拠点テレビ会議システムであって、
前記遠隔通信端末装置は、映像データの受信可能解像度を前記中継装置に通知する能力通知部と、送信する映像データのエンコード領域の解像度を決定する解像度決定部と、該解像度決定部により決定された解像度の映像データ領域を圧縮するエンコード部と、を備え、
前記中継装置は、前記各能力通知部より通知された前記各受信可能解像度に基づく解像度通知情報を、映像データ送信端末となる前記遠隔通信端末装置に通知する解像度通知部を備え、
前記解像度決定部は、前記解像度通知部より通知された前記解像度通知情報に基づいて、映像データ受信端末となる前記各遠隔通信端末装置の全てにおいて表示されない映像データの領域が非エンコード領域となるように前記エンコード領域の解像度を決定することを特徴とする多拠点テレビ会議システム。
【請求項2】
前記能力通知部から通知された前記各受信可能解像度のアスペクト比が互いに同一である場合に、前記解像度通知部は、映像データ受信端末となる前記遠隔通信端末装置の全ての受信可能解像度が同一のアスペクト比である旨を前記解像度決定部に通知することを特徴とする請求項1に記載の多拠点テレビ会議システム。
【請求項3】
前記能力通知部は、映像データの送信解像度を前記中継装置に通知し、
前記解像度通知部は、前記能力通知部から通知された前記送信解像度と全ての前記各受信可能解像度から、映像データ受信端末となる前記遠隔通信端末装置のいずれにおいても表示されない映像データの領域が存在するか否かを判断し、前記遠隔通信端末装置のいずれにおいても表示されない映像データの領域が存在する場合に、該映像データの領域を除外可能となるアスペクト比を前記解像度決定部に通知することを特徴とする請求項1又は2に記載の多拠点テレビ会議システム。
【請求項4】
前記解像度通知部は、前記能力通知部から通知された前記各受信可能解像度のアスペクト比が互いに異なる場合に、全ての種類のアスペクト比を前記解像度決定部に通知し、
前記解像度決定部は、前記解像度通知部より通知された全てのアスペクト比と送信可能解像度のアスペクト比とから、映像データ受信端末となる前記各遠隔通信端末装置のいずれにおいても表示されない領域が非エンコード領域となるように前記エンコード領域の解像度を決定することを特徴とする請求項1又は2に記載の多拠点テレビ会議システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate