説明

表示制御装置、表示制御方法、及びプログラム

【課題】データ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止する。
【解決手段】書込情報測定部は、受信した画像を一時的に保持する表示用バッファに対して画像の書込みを開始する際に要する書込み準備時間を計測し、書込制御部は、書込み準備時間が、画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、画像の書込みを制御し、表示制御部は、表示タイミングに同期して表示可能な書込み時刻までに、書込制御部の制御により表示用バッファに書き込まれた画像を、表示タイミングに同期して表示させる。本技術は、例えば、伝送されてくる画像データを低遅延で表示する表示装置に適用できる。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、表示制御装置、表示制御方法、及びプログラムに関し、特に、例えば、ネットワーク等のデータ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止できるようにした表示制御装置、表示制御方法、及びプログラムに関する。
【背景技術】
【0002】
近年、例えば、遠隔地においてロボットアームを操作して患者を手術する遠隔手術が行われつつある。この遠隔手術では、手術の様子を撮像して得られる動画像を見ながら、執刀医がロボットアームを操作するため、数フレーム(又は数フィールド)以下の低遅延(ほぼリアルタイム)で、動画像が伝送されることが望ましい。
【0003】
そこで、動画像を構成する各ピクチャの数ラインをブロックデータとし、各ブロックデータ毎に、ウェーブレット変換による符号化(圧縮)を行う符号化技術が提案されている(例えば、特許文献1参照)。
【0004】
この符号化技術によれば、送信装置において、ピクチャ内の各ブロックデータ全ての入力を待つことなく符号化を開始し、その結果得られる符号化データを送信し、受信装置において、送信装置からの符号化データ全てを受信する前に復号(伸張)を開始することになる。
【0005】
このため、受信装置では、予め決められた、ピクチャを表示すべき表示タイミングまでに、符号化データを復号してピクチャを表示可能な状態にすることができる。よって、受信装置は、表示タイミングに同期してピクチャをモニタに表示させることができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−311924号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、上述した符号化技術を適用しても、例えば、ネットワーク等のデータ伝送路に輻輳が生じている場合、送信装置は、数フレーム以下の低遅延で動画像を送信できないことが生じ得る。
【0008】
この場合、受信装置では、予め決められた表示タイミングまでに、ピクチャを表示可能な状態にすることができなくなってしまう。表示タイミングまでに表示可能な状態とされなかったピクチャは、例えばモニタに表示されずにスキップされるため、モニタに表示される画像に乱れ等が生じ得る。
【0009】
本開示は、このような状況に鑑みてなされたものであり、データ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止するものである。
【課題を解決するための手段】
【0010】
本開示の一側面の表示制御装置は、受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測部と、前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御部と、前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御部とを含む表示制御装置である。
【0011】
前記書込制御部では、前記書込み準備時間が、前記閾値時間以上である場合、前記書込み準備時間を経過したときに開始される前記画像の書込みを遅延させて、前記表示タイミングの経過後に開始させることができる。
【0012】
前記書込制御部における前記画像の書込みの遅延に用いるバッファ容量の最大値を算出する算出部をさらに設けることができる。
【0013】
前記表示制御部では、第1の前記表示タイミングに表示すべき第1の画像の書込みが前記第1の表示タイミングの経過後に開始される場合、前記書込制御部の制御により前記保持部に書き込み済みの、前記第1の画像とは異なる第2の画像を、前記第1の表示タイミングに同期して表示させることができる。
【0014】
前記表示制御部では、前記第1の画像の書込みが前記第1の表示タイミングの経過後に開始される場合、前記第1の表示タイミングよりも前に生じた第2の表示タイミングの経過後に書込みが開始された前記第2の画像を、前記第1の表示タイミングに同期して表示させることができる。
【0015】
前記書込制御部では、前記書込み準備時間が、前記閾値時間未満である場合、前記書込み準備時間を経過したときに前記画像の書込みを開始させることができる。
【0016】
前記表示制御部では、第1の前記表示タイミングに表示すべき第1の画像の書込みが、前記書込み準備時間を経過したときに開始される場合、前記第1の表示タイミングに同期して表示可能な書込み時刻までに、前記第1の画像の一部分の書込みが終了し、前記第1の画像の残りの部分の書込みが終了しなかったときには、前記保持部に書き込まれた前記第1の画像の一部分を、前記第1の表示タイミングに同期して表示させることができる。
【0017】
前記表示制御部では、前記第1の表示タイミングの後に生じる第2の表示タイミングに表示すべき第2の画像の書込みが、前記第2の表示タイミングの経過後に開始される場合、前記第1の画像の一部分の他、前記第1の画像の残りの部分の書込みが終了した前記第1の画像を、前記第2の表示タイミングに同期して表示させることができる。
【0018】
前記画像の書込みに要する書込み時間を計測する他の計測部と、前記書込み準備時間の分布、及び前記書込み時間の分布に基づいて、前記閾値時間を算出する閾値算出部とをさらに設けることができ、前記書込制御部では、前記書込み準備時間が、算出された前記閾値時間以上であるか否かに応じて、前記画像の書込みを制御することができる。
【0019】
本開示の一側面の表示制御方法は、受信した画像を表示させる表示制御装置の表示制御方法であって、前記表示制御装置による、受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測ステップと、前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御ステップと、前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御ステップとを含む表示制御方法である。
【0020】
本開示の一側面のプログラムは、コンピュータを、受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測部と、前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御部と、前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御部として機能させるためのプログラムである。
【0021】
本開示の一側面によれば、受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間が計測され、前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みが制御され、前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像が、前記表示タイミングに同期して表示される。
【発明の効果】
【0022】
本開示によれば、データ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止することが可能となる。
【図面の簡単な説明】
【0023】
【図1】本開示における送受信システムの構成例を示すブロック図である。
【図2】表示タイミングに同期して画像を表示するときの一例を示す図である。
【図3】フィールド画像の書込み情報を測定する測定方法の一例を示す図である。
【図4】書込み準備時間の分布の一例を示す図である。
【図5】バッファ書込み時間の分布の一例を示す図である。
【図6】書込み準備時間と比較される閾値、及び遅延バッファ最大時間を算出する算出方法の一例を示す第1の図である。
【図7】書込み準備時間と比較される閾値、及び遅延バッファ最大時間を算出する算出方法の一例を示す第2の図である。
【図8】書込みの開始を遅延させる場合の一例を示す図である。
【図9】遅延バッファ最大時間の一例を示す図である。
【図10】書込みの開始を遅延させて書き込んだフィールド画像を表示する場合の一例を示す図である。
【図11】書込み準備時間が経過したときに書込みを開始する場合の一例を示す図である。
【図12】書込み準備時間が経過したときに書込みを開始する場合、書込み時刻が表示時刻以降になるときの一例を示す図である。
【図13】書込み準備時間が経過したときに書込みを開始する場合、書込み時刻が表示時刻以降になるか否かを監視するときの一例を示す図である。
【図14】伝送時間が変化する様子の一例を示す第1の図である。
【図15】伝送時間が変化する様子の一例を示す第2の図である。
【図16】表示制御処理を説明するためのフローチャートである。
【図17】閾値算出処理を説明するためのフローチャートである。
【図18】プログレッシブ画像の書込み情報を測定する測定方法の一例を示す図である。
【図19】コンピュータの構成例を示すブロック図である。
【発明を実施するための形態】
【0024】
以下、本開示における実施の形態(以下、本実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.本実施の形態(表示用バッファに対する画像の書込みタイミングを調整するようにして、画像の乱れ等を抑止するときの一例)
2.変形例
【0025】
<1.本実施の形態>
[送受信システムの構成例]
図1は、本開示における送受信システムの一例を示している。
【0026】
この送受信システムは、送信装置21、受信装置22、及びインターネット等のネットワーク23から構成される。
【0027】
なお、この送受信システムは、受信装置22側で、例えば、後述する表示用バッファ65に対する画像の書込みタイミングを調整するようにして、送信装置21から送信されてくる画像に乱れ等を生じさせることなく、低遅延で表示させるようにするものである。
【0028】
[送信装置21の構成例]
送信装置21は、キャプチャ部41、符号化部42、パケット構成部43、RTP(real-time transport protocol)送信部44、操作部45、及び制御部46から構成される。
【0029】
キャプチャ部41は、外部から入力される画像データ(ビデオINに対応)を取得(キャプチャ)し、符号化部42に供給する。
【0030】
符号化部42は、キャプチャ部41からの画像データを符号化する符号化処理を行い、その符号化処理により得られる符号化データを、パケット構成部43に供給する。
【0031】
なお、符号化処理としては、画像データに対して、例えばウェーブレット変換を用いた符号化を施して圧縮するウェーブレット符号化処理を採用することができる。
【0032】
パケット構成部43は、符号化部42からの符号化データを、複数のRTPパケットにパケット化(変換)してRTP送信部44に出力する。なお、RTPパケットとは、IETF RFC3550に記載のRTPに則った形式のパケットを表す。
【0033】
RTP送信部44は、RTPに従って、パケット構成部43からのRTPパケットに対して、タイムスタンプとして、例えばRTPパケットを受信装置22に送信する際の送信時刻等を付加する。そして、RTP送信部44は、タイムスタンプを付加したRTPパケットを、ネットワーク23を介して受信装置22に送信する。
【0034】
操作部45は、ユーザにより操作される操作ボタン等であり、ユーザ操作に応じた操作信号を、制御部46に供給する。
【0035】
制御部46は、例えば、操作部45からの操作信号に基づいて、キャプチャ部41、符号化部42、パケット構成部43、及びRTP送信部44の各部を制御する。
【0036】
[受信装置22の構成例]
受信装置22は、RTP受信部61、パケット組立部62、復号部63、遅延用バッファ64aを内蔵する書込制御部64、表示用バッファ65、表示制御部66、表示部67、書込情報測定部68、書込情報記憶部69、閾値算出部70、操作部71、及び制御部72から構成される。
【0037】
RTP受信部61は、RTP送信部44からネットワーク23を介して送信されてくるRTPパケットを受信し、パケット組立部62に供給する。
【0038】
パケット組立部62は、RTP受信部61からのRTPパケットを組み立てることにより、復号対象とされる符号化データを生成し、復号部63に供給する。
【0039】
復号部63は、パケット組立部62からの符号化データに対して、符号化部42で行なわれる符号化処理に対応する復号処理を行い、その結果得られる画像データを、書込制御部64に供給する。ここで、復号処理としては、例えば、ウェーブレット変換の逆変換による復号により伸張する復号処理等が採用される。
【0040】
書込制御部64は、復号部63からの画像データを、表示用バッファ65に供給して記憶させる(書き込ませる)。すなわち、書込制御部64は、書込情報測定部68からの情報に応じて、表示用バッファ65に対する画像データの書込みを制御する。また、書込制御部64は、各画像データ毎に、表示用バッファ65に書込みを開始した書込み開始時刻Ts、及び書込みを終了した書込み終了時刻Teを、書込情報測定部68に供給する。
【0041】
表示用バッファ65は、書込制御部64からの画像データを一時的に保持する。
【0042】
表示制御部66は、表示用バッファ65から画像データを読み出す。そして、表示制御部66は、表示用バッファ65から読み出した画像データを、予め決められた表示タイミングVblankに同期して、表示部67に表示させる。
【0043】
次に、図2は、表示制御部66が、予め決められた表示タイミングVblankで各画像データを表示させる場合の一例を示している。
【0044】
なお、画像データnは、送信装置21のキャプチャ部41により、n番目にキャプチャされた画像データである。画像データnは、画像データnを構成する各ラインのうち、奇数番目のラインにより構成される奇数フィールド画像noddと、画像データnを構成する各ラインのうち、偶数番目のラインにより構成される偶数フィールド画像nevenとにより構成されているものとする。
【0045】
また、図2において、横軸は時刻を表し、縦軸は、対応する時刻において表示されるラインのライン番号を表す。ここで、画像データnは例えば1080ラインにより構成されており、したがって、奇数フィールド画像nodd及び偶数フィールド画像nevenは、それぞれ、540ラインで構成されているものとする。
【0046】
表示タイミングVblank(nodd)は、奇数フィールド画像noddの表示を開始する時刻を表す。また、表示タイミングVblank(neven)は、偶数フィールド画像nevenの表示を開始する時刻を表す。
【0047】
表示制御部66は、表示タイミングVblank(nodd)に同期して、奇数フィールド画像noddを表示用バッファ65から読み出し、表示部67に表示させる。また、表示制御部66は、表示タイミングVblank(neven)に同期して、偶数フィールド画像nevenを表示用バッファ65から読み出し、表示部67に表示させる。
【0048】
表示部67は、例えばインタレース方式により各画像データnを表示する。すなわち、例えば、表示部67は、表示制御部66からの制御にしたがって、奇数フィールド画像noddと偶数フィールド画像nevenとを交互に表示する。なお、表示部67は、図1に示されるように、受信装置22の構成部分とされる他、受信装置22の構成部分に含めずに、独立して設けるようにしてもよい。この場合、受信装置22内の表示制御部66と、受信装置22の外部に設けられた表示部67とは、例えばケーブル等により接続される。
【0049】
書込情報測定部68は、表示用バッファ65に書き込まれた偶数フィールド画像nevenの書込み情報を測定する。なお、書込情報測定部68は、偶数フィールド画像nevenの書込み情報に代えて、又は偶数フィールド画像nevenの書込み情報とともに、表示用バッファ65に書き込まれた奇数フィールド画像noddの書込み情報を測定するようにしてもよい。
【0050】
また、例えば、表示部67が、プログレッシブ方式により各画像データnを表示するものである場合、書込情報測定部68は、各画像データnをプログレッシブ画像とし、そのプログレッシブ画像の書込み情報を測定することとなる。このことは、図18を参照して後述する。
【0051】
以下では、書込情報測定部68は、表示用バッファ65に書き込まれた各フィールド画像(奇数フィールド画像nodd及び偶数フィールド画像neven)の書込み情報を測定するものとして説明する。
【0052】
書込情報測定部68は、表示用バッファ65に書き込まれた偶数フィールド画像nevenの書込み情報として、例えば、偶数フィールド画像nevenの書き込みが開始されるまでに必要とされる書込み準備時間Xneven、及び偶数フィールド画像nevenの書き込みに要するバッファ書込み時間Pnevenを測定する。
【0053】
次に、図3は、書込情報測定部68が、偶数フィールド画像nevenの書込み準備時間Xneven及びバッファ書込み時間Pnevenを測定する場合の一例を示している。
【0054】
ここで、図3において、書込み開始時刻Tsは、表示用バッファ65に対して偶数フィールド画像nevenの書込みが開始された時刻を表す。また、書込み終了時刻Teは、表示用バッファ65に対して偶数フィールド画像nevenの書込みが終了された時刻を表す。
【0055】
なお、書込情報測定部68には、書込制御部64から、偶数フィールド画像nevenの書込み開始時刻Ts及び書き込み終了時刻Teが供給される。
【0056】
書込情報測定部68は、図3に示されるように、書込制御部64からの書込み開始時刻Tsと、予め決められた表示タイミングVblank(n-1even)とに基づいて、書込み準備時間Xneven(=Vblank(n-1even)-Ts)を測定する。
【0057】
また、例えば、書込情報測定部68は、図3に示されるように、書込制御部64からの書込み開始時刻Ts及び書込み終了時刻Teに基づいて、バッファ書込み時間Pneven(=Te-Ts)を測定する。
【0058】
書込情報測定部68は、奇数フィールド画像noddについても同様にして、奇数フィールド画像noddの書込み準備時間Xnodd及びバッファ書込み時間Pnoddを測定する。
【0059】
書込情報測定部68は、偶数フィールド画像neven毎に測定した書込み準備時間Xneven及びバッファ書込み時間Pneven、並びに奇数フィールド画像nodd毎に測定した書込み準備時間Xnodd及びバッファ書込み時間Pnoddを、書込情報記憶部69に供給して記憶させる。
【0060】
以下、偶数フィールド画像nevenと偶数フィールド画像nevenを区別する必要がない場合、単に、フィールド画像mという。
【0061】
なお、mは、フィールド画像mがm番目に表示されることを表す。すなわち、偶数フィールド画像nevenは、2n番目に表示される画像であり、奇数フィールド画像noddは、2n-1番目に表示される画像である。いま、2n=mとすれば、偶数フィールド画像nevenは、m番目に表示される画像であり、奇数フィールド画像noddは、m-1番目に表示される画像となる。
【0062】
したがって、mが偶数である場合、フィールド画像mは、m番目に表示される偶数フィールド画像を表し、mが奇数である場合、フィールド画像mは、m番目に表示される奇数フィールド画像を表すものとなる。
【0063】
また、以下では、フィールド画像mの書込み準備時間Xnodd又はXnevenを、書込み準備時間Xmといい、フィールド画像mのバッファ書込み時間Pnodd又はPnevenを、バッファ書込み時間Pmということとする。
【0064】
書込情報記憶部69は、書込情報測定部68からの書込み準備時間Xm及びバッファ書込み時間Pmを、書込み情報として記憶する。
【0065】
閾値算出部70は、書込情報記憶部69に記憶されている書込み情報に基づいて、後述する閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を算出する閾値算出処理を行う。なお、この閾値算出処理については、図4乃至図7を参照して詳述する。
【0066】
閾値算出部70は、閾値算出処理により算出した閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を、書込情報測定部68に供給する。
【0067】
操作部71は、ユーザにより操作される操作ボタン等であり、ユーザ操作に応じた操作信号を、制御部72に供給する。
【0068】
制御部72は、例えば、操作部71からの操作信号に基づいて、RTP受信部61、パケット組立部62、復号部63、書込制御部64、表示制御部66、書込情報測定部68、及び閾値算出部70の各部を制御する。
【0069】
[閾値算出処理の詳細]
次に、図4乃至図7を参照して、閾値算出部70が行う閾値算出処理について説明する。
【0070】
図4は、書込情報記憶部69に記憶されている書込み準備時間Xmの分布の一例を示している。
【0071】
図4において、横軸は書込み準備時間Xmを示しており、縦軸は書込み準備時間Xmの度数を示す。
【0072】
閾値算出部70は、書込情報記憶部69に記憶されている書込み準備時間Xmに基づいて、図4に示されるような書込み準備時間Xmの分布を表すX分布情報を生成する。
【0073】
そして、閾値算出部70は、書込み準備時間XmのX分布情報に基づいて、書込み準備時間Xmを昇順に並べたときの上位α(例えば、α=95)パーセントの書込み準備時間Xmと、残りの下位(100-α)パーセントの書込み準備時間Xmとを区別するための閾値Xthを算出する。
【0074】
ここで、この閾値Xthは、書込み準備時間Xmを昇順に並べたときの上位α(例えば、α=95)パーセントの書込み準備時間Xmの最大値以上であって、下位(100-α)パーセントの書込み準備時間Xmの最小値未満の値とされる。なお、値αは、例えば、ユーザ操作により予め決定される。
【0075】
次に、図5は、書込情報記憶部69に記憶されているバッファ書込み時間Pmの分布の一例を示している。
【0076】
図5において、横軸はバッファ書込み時間Pmを示しており、縦軸はバッファ書込み時間Pmの度数を示す。
【0077】
閾値算出部70は、書込情報記憶部69に記憶されている複数のバッファ書込み時間Pmに基づいて、図5に示されるようなバッファ書込み時間Pmの分布を表すP分布情報を生成する。
【0078】
そして、閾値算出部70は、バッファ書込み時間PmのP分布情報に基づいて、バッファ書込み時間Pmを昇順に並べたときの上位αパーセントのバッファ書込み時間Pmと、下位(100-α)パーセントのバッファ書込み時間Pmとを区別するための閾値Pthを算出する。
【0079】
ここで、この閾値Pthは、バッファ書込み時間Pmを昇順に並べたときの上位αパーセントのバッファ書込み時間Pmの最大値以上であって、下位(100-α)パーセントのバッファ書込み時間Pmの最小値未満の値とされる。
【0080】
次に、図6は、閾値算出部70が、算出した閾値Xth及び閾値Pthに基づいて、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を算出する場合の一例を示している。
【0081】
閾値算出部70は、図6に示されるように、閾値Xth、閾値Pth、及び予め決められた表示間隔Vblank Intervalに基づいて、式(1)により閾値Zthを算出する。
Zth = (3/2)×Vblank Interval - (Xth + Pth) ・・・(1)
【0082】
なお、図6において、期待書込み時間1/60は、書込制御部64において、データの書込みに遅延等が生じていない場合に期待される、フィールド画像mの書込み時間を表す。
【0083】
この期待書込み時間1/60は、例えば、フィールド画像mの表示に要する時間に応じて決定される。いまの場合、表示部67は、フィールド画像mをそれぞれ表示時間1/60で表示するようにしている。したがって、例えば、期待書込み時間も同様にして1/60とされる。なお、表示部67が、フィールド画像mをそれぞれ表示時間1/aで表示する場合、例えば期待書込み時間は1/aとされる。
【0084】
また、閾値算出部70は、図6に示されるように、閾値Zth及び閾値Xthに基づいて、次式(2)により閾値時間Sthを算出する。
Sth = Xth + Zth ・・・(2)
【0085】
ここで、閾値時間Sthとは、書込み時間としての閾値Pthで行われるフィールド画像mの書込みが、フィールド画像mを表示すべき表示タイミングに同期して、フィールド画像mを表示するときの表示終了時刻で終了するときの書込み準備時間をいう。
【0086】
具体的には、例えば、閾値時間Sthとは、図6において、書込み時間としての閾値Pthで行われる偶数フィールド画像nevenの書込みが、表示タイミングVblank(neven)に同期して、偶数フィールド画像nevenを表示するときの表示終了時刻で終了するときの書込み準備時間をいう。
【0087】
さらに、例えば、閾値算出部70は、閾値Xth及び表示間隔Vblank Intervalに基づいて、フィールド画像mの必要時間Yを算出する。
【0088】
ここで、必要時間Yとは、統計的に、書込み開始時刻Tsから表示タイミング(図6の場合、表示タイミングVblank(neven))までに要する時間を表す。
【0089】
すなわち、例えば、閾値算出部70は、図6に示されるように、表示タイミングVblank(n-1even)と表示タイミング(neven)の表示間隔Vblank Interval、及び閾値Xthに基づいて、次式(3)により必要時間Yを算出する。
Y = Vblank Interval -Xth ・・・(3)
【0090】
そして、閾値算出部70は、図6に示されるように、算出した必要時間Y及び閾値Zthに基づいて、遅延バッファ最大時間(Y-Zth)を算出する。
【0091】
なお、図6では、Zth ≧ 0となる場合について説明したが、図7に示されるように、Zth < 0となる場合についても同様にして、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)が算出される。
【0092】
閾値算出部70は、算出した閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を、書込情報測定部68に供給する。
【0093】
書込情報測定部68は、次式(4)により、フィールド画像mの書込み準備時間Xmが、閾値算出部70からの閾値時間Sth以上であるか否かを判定し、その判定結果を、書込制御部64に供給する。
Xm ≧ Sth ・・・・(4)
【0094】
書込制御部64は、書込情報測定部68からの判定結果に応じて、表示用バッファ65に対するフィールド画像mの書込みを制御する。
【0095】
[書込制御部64が行う書込み制御の詳細]
次に、図8乃至図13を参照して、書込制御部64が、書込情報測定部68からの判定結果に応じて、フィールド画像mの書込みを制御する処理の詳細を説明する。
【0096】
図8乃至図13では、フィールド画像mが偶数フィールド画像nevenであり、書込み準備期間Xmが書込み準備時間Xnevenである場合について具体的に説明する。なお、フィールド画像mが奇数フィールド画像noddであり、書込み準備期間Xmが書込み準備時間Xnoddである場合についても同様であるため、その説明は省略する。
【0097】
図8は、式(4)を満たす場合に、書込制御部64が行う書込みの制御の一例を示している。
【0098】
なお、図8において、線分81は、書込み準備時間Xnevenが経過したときから、表示用バッファ65に対する偶数フィールド画像nevenの書込みを開始した場合に要する書込み時間を表す。
【0099】
ここで、線分81が表す書込み時間は、実際には、転送に要した時間や、復号に要した時間等に応じて変化するものであるが、便宜的に、書込み準備時間Xm及び許容遅延時間Pmに基づき、統計的に求められた書込み時間とされる。すなわち、例えば、書込み時間81は、αパーセントの確率で受信されるフィールド画像mの書込み時間の上限を表す。
【0100】
また、図8において、線分82は、偶数フィールド画像nevenを表示すべき表示タイミングVblank(neven)に同期して、偶数フィールド画像nevenを表示したときに要する表示時間を表す。
【0101】
さらに、図8において、線分83は、書込み準備時間Xnevenが経過したときから遅延時間Bだけ遅延させて、偶数フィールド画像nevenの書込みを開始したときに要する書込み時間を表す。
【0102】
ここで、線分83が表す書込み時間は、期待書込みによる時間1/60とされる。これは、線分83が表す書込み時間において、表示用バッファ65に書き込まれる偶数フィールド画像nevenが、送信装置21から転送され、復号されて表示用バッファ65に書き込まれるものではなく、遅延用バッファ64aに保持された偶数フィールド画像nevenであることによる。
【0103】
図8では、Xneven ≧ Xth+Zth(=Sth)であり、式(4)を満たしている。いま、書込み準備時間Xnevenを経過したときから、表示用バッファ65に対する偶数フィールド画像nevenの書込みを開始する場合を考える。
【0104】
この場合、図8に示すように、線分81と線分82とが交差するものとなるので、偶数フィールド画像nevenにおいて、ライン番号iのライン(i)のうち、例えばライン番号L以降のライン(i≧L)が、ライン(i≧L)の表示時刻以降に、表示用バッファ65に書き込まれることになる。
【0105】
なお、ライン(i=L)は、線分81と線分82とが交差するときに、表示用バッファ65に書込みが行われるラインを表す。
【0106】
このため、図8では、例えばライン番号L以降のライン(i≧L)を、線分82が表す表示時間で表示できないものとなる。
【0107】
したがって、書込制御部64は、式(4)を満たすとの判定結果を書込情報測定部68から得た場合、表示タイミングVblank(neven)が経過するまで、復号部63からの偶数フィールド画像nevenを、内蔵する遅延用バッファ64aに保持させる。
【0108】
そして、書込制御部64は、遅延用バッファ64aに保持させた偶数フィールド画像nevenの、表示用バッファ65に対する書込みを、表示タイミングVblank(neven)の経過後に開始させる。
【0109】
すなわち、例えば、書込制御部64は、図8に示されるように、書込み準備時間Xnevenが経過したときから、遅延バッファ時間Bだけ遅延させて、偶数フィールド画像nevenの書込みを開始させる。
【0110】
なお、書込制御部64は、例えば、内蔵の遅延用バッファ64aを用いて、遅延時間Bだけ、書込みの開始を遅延させるようにしている。また、遅延バッファ時間Bの最大時間である遅延バッファ最大時間Bmaxは、図9に示されるように、Xneven=Xth+Zth(=Sth)である場合の遅延バッファ時間Bであり、(Y-Zth)となる。
【0111】
この遅延バッファ最大時間Bmax(=Y-Zth)は、閾値算出部70により算出され、書込情報測定部68を介して書込制御部64に供給される。
【0112】
したがって、書込制御部64では、供給される遅延バッファ最大時間Bmaxに基づいて、書込みの遅延に必要な最大のバッファ容量や、書込みの遅延に必要のない残りのバッファ容量を算出することができる。
【0113】
このため、書込制御部64では、書込みの開始を遅延させるために必要な最大のバッファ容量を確保した上で、残りのバッファ容量を他の処理で用いるようにすることができる。
【0114】
また、線分83が示す書込み時間で書込まれた偶数フィールド画像nevenは、例えば、次の表示タイミングVblank(n+1odd)で奇数フィールド画像n+1oddが表示されない場合に、その表示タイミングVblank(n+1odd)で表示されることとなる。
【0115】
例えば、図10に示されるように、奇数フィールド画像n+1oddにおいて、奇数フィールド画像n+1oddの書込み時間を表す線分81'と、奇数フィールド画像n+1oddの表示時間を表す線分82'とが交差する場合、書込制御部64は、書込みの開始を遅延させて、線分83'が表す書込み時間で書込むこととなる。
【0116】
この場合、図8で説明した場合と同様に、線分82'が示す表示時間では、奇数フィールド画像n+1oddの表示は行われない。したがって、線分82'が表す表示時間において、線分83が表す書込み時間で書込み済みの偶数フィールド画像nevenの表示が行われる。
【0117】
なお、例えば、偶数フィールド画像nevenが、表示タイミングVblank(neven)に同期して表示され、表示タイミングVblank(n+1odd)で奇数フィールド画像n+1oddが表示されない場合には、表示用バッファ65に保持されている偶数フィールド画像nevenを、その表示タイミングVblank(n+1odd)で表示することができる。
【0118】
また、偶数フィールド画像nevenは、表示タイミングVblank(n+1odd)の他、表示タイミングVblank(n+1odd)以降の表示タイミング(例えば、表示タイミングVblank(n+1even))で表示すべきフィールド画像が表示されない場合に、その表示タイミングで表示するようにしてもよい。
【0119】
次に、図11は、式(4)を満たさない場合に、書込制御部64が行う書込みの制御の一例を示している。
【0120】
図11では、Xneven < Xth+Zth(=Sth)であり、式(4)を満たさない場合、統計的には、線分81と線分82とが交差しないものとなる。この場合、ライン番号iのライン(i)は、ライン(i)の表示時刻よりも前に、表示用バッファ65に書き込まれることとなる。
【0121】
したがって、書込制御部64は、式(4)を満たさないとの判定結果を書込情報測定部68から得た場合、書込み準備時間Xnevenが経過したときに、表示用バッファ65に対する偶数フィールド画像nevenの書込みを開始させる。
【0122】
そして、表示制御部66は、表示用バッファ65に書き込まれた偶数フィールド画像nevenを、表示タイミングVblank(neven)に同期して、表示部67に表示させることとなる。
【0123】
なお、式(4)を満たす場合、上述のように、統計的には、線分81と線分82とが交差しないものとなる。しかしながら、実際には、図12に示されるように、線分81と線分82とが交差する場合が生じ得る。
【0124】
この場合、ライン番号iのライン(i)のうち、例えばライン番号L以降のライン(i≧L)が、ライン(i≧L)の表示時刻以降に、表示用バッファ65に書き込まれることとなってしまう。
【0125】
このため、図12に示した場合において、例えばライン番号L以降のライン(i≧L)を、ライン(i≧L)を表示すべき表示時刻で表示できないものとなってしまう。
【0126】
したがって、式(4)を満たさない場合には、ライン(i)の書込み時刻が、ライン(i)の表示時刻以降となるか否かを監視することが望ましい。
【0127】
次に、図13を参照して、式(4)を満たさない場合に、書込情報測定部68が、ライン(i)の書込み時刻が、ライン(i)の表示時刻以降となるか否かを監視する方法の一例を示している。
【0128】
ライン(i)の書込み時刻が、ライン(i)の表示時刻以降になる事態を回避するためには、次式(5)に示すように、ライン(i)の書込み時刻Tiが、ライン(i)の表示時刻Ti'よりも早い必要がある。
Ti < Ti' ・・・(5)
【0129】
なお、表示時刻Ti'は、次式(6)により表すことができる。
Ti' = i×Vblank Interval/(2 × I) ・・・(6)
【0130】
ここで、Vblank Interval/2は、フィールド画像m(図13の場合、偶数フィールド画像neven)全体を表示する際に要する表示時間を表す。また、総ライン数Iは、フィールド画像mの総ライン数(図13の場合、I=540)を表す。したがって、Vblank Interval/2 ×1/I(= Vblank Interval/(2 × I))は、フィールド画像mの1ラインの表示に要する表示時間を表す。このため、i×Vblank Interval/(2 × I)=Ti'は、ライン数iの表示に要する表示時間を表す。
【0131】
なお、図13に示されるように、書込み時刻Tiが、表示タイミングVblank(neven)である時刻t3よりも早い場合、すなわち、Ti < t3である場合、必ず、式(5)を満たすこととなる。したがって、開始時刻t3が到来するまでは、式(5)を満たすか否かを判定する必要はない。
【0132】
図13において、式(5)を満たす書込み時刻T1乃至Ti=Lで書き込まれたライン(1)乃至(L)については、表示タイミングVblank(neven)に同期して、表示時刻T1'乃至Ti=L'で、表示部67に表示される。
【0133】
また、式(5)を満たさない書込み時刻Ti=L+1乃至Ti=540で書き込まれた残りのライン(L+1)乃至(540)ラインについては、書込み時刻Ti=L+1乃至Ti=540には、すでに表示時刻Ti=L+1'乃至Ti=540'が経過しているため、表示タイミングVblank(neven)に同期して、表示部67に表示することは行われない。
【0134】
ここで、書込み時刻Ti=540の経過後、表示用バッファ65には、1乃至Lラインとともに、ライン(L+1)乃至(540)ライン、すなわち、偶数フィールド画像nevenの全てが保持されることとなる。
【0135】
したがって、表示用バッファ65に保持された偶数フィールド画像nevenは、上述した図10の場合と同様に、例えば、表示タイミングVblank(neven)の次の表示タイミングVblank(n+1odd)で奇数フィールド画像n+1oddが表示されない場合に、その表示タイミングVblank(n+1odd)で表示されることとなる。
【0136】
なお、例えば、図8に示したように、線分83が示す書込み時間で書き込みを行なったときの書込み情報については、書込情報記憶部69に記憶させないようにして、閾値時間Sth等の算出に用いないようにすることが望ましい。
【0137】
ところで、閾値算出部70は、適宜、閾値算出処理を行うようにして、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を更新する。これは、ネットワーク23の輻輳状況等に応じて、伝送時間が変化することによる。すなわち、伝送時間の変化により、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)の算出に用いる書込み準備時間Xm及びバッファ書込み時間Pmも変化するためである。
【0138】
次に、図14及び図15は、それぞれ、ネットワーク23の輻輳状況等に応じて伝送時間が変化する様子の一例を示している。
【0139】
図14及び図15において、縦軸は、画像データnの各RTPパケットをそれぞれ表すパケット番号を示している。また、横軸は、画像データnを構成するデータに対して、キャプチャ部41が行う「キャプチャ」処理、符号化部42が行う「符号化」処理、パケット構成部43が行う「パケット構成」処理、RTP送信部44とRTP受信部61との間でネットワーク23を介して行われるRTPパケットの「転送」処理、パケット組立部62が行う「パケット組立」処理、及び復号部63が行う「復号」処理にそれぞれ要する時間を示す。
【0140】
図14及び図15に示されるように、ネットワーク23の状況に応じて、「転送」処理に要する時間が大きく異なるものとなる。すなわち、ネットワーク23の輻輳が比較的小さい場合、図14に示されるように、「転送」処理に要する時間は短くなり、ネットワーク23の輻輳が比較的大きい場合、図15に示されるように、「転送」処理に要する時間は長いものとなる。
【0141】
したがって、ネットワーク23の輻輳状況等に応じて、「転送」処理に要する時間、ひいては伝送時間が変化することにより、書込み準備時間Xmやバッファ書込み時間Pmも変化するため、閾値算出部70は、適宜、閾値算出処理を行う必要がある。
【0142】
[受信装置22の動作説明]
次に、図16のフローチャートを参照して、受信装置22が行う表示制御処理について説明する。
【0143】
ステップS21において、RTP受信部61は、RTP送信部44からネットワーク23を介して送信されてくるRTPパケットを受信し、パケット組立部62に供給する。
【0144】
ステップS22において、パケット組立部62は、RTP受信部61からのRTPパケットを組み立てることにより、復号対象とされる符号化データを生成し、復号部63に供給する。
【0145】
ステップS23において、復号部63は、パケット組立部62からの符号化データに対して、符号化部42で行なわれる符号化処理に対応する復号処理を行い、その結果得られる画像データを書込制御部64に供給する。ここで、復号処理としては、例えば、ウェーブレット変換の逆変換による復号により伸張する復号処理等が採用される。
【0146】
書込制御部64は、復号部63からの画像データを構成するフィールド画像m毎に、表示用バッファ65に書込みを開始した書込み開始時刻Ts、及び書込みを終了した書込み終了時刻Teを、書込情報測定部68に供給する。ここで、フィールド画像mは、奇数フィールド画像又は偶数フィールド画像の一方であり、m番目に表示される画像をいう。
【0147】
なお、書込制御部64は、後述するステップS27,S30又はS34において、復号部63からの画像データを構成するフィールド画像mを、表示用バッファ65に供給して記憶させる(書き込ませる)。
【0148】
ステップS24において、書込情報測定部68は、書込制御部64からの書込み開始時刻Ts、及び予め決められた表示タイミングVblankに基づいて、フィールド画像mの書込み準備時間Xmを測定し、書込情報記憶部69に供給して記憶させる。
【0149】
ステップS25において、書込情報測定部68は、書込制御部64からの開示時刻Ts及び終了時間Teに基づいて、フィールド画像mのバッファ書込み時間Pmを測定し、書込情報記憶部69に供給して記憶させる。
【0150】
ステップS26において、書込情報測定部68は、式(4)により、ステップS24の処理で測定した書込み準備時間Xmが、直前のステップS36の処理で算出した閾値時間Sth以上であるか否かを判定する。なお、ステップS36の処理がまだ行われていない場合、例えば、閾値時間Sthは、予め決められた値とされる。
【0151】
ステップS26では、書込情報測定部68は、書込み準備時間Xmが閾値時間Sth以上であると判定した場合、その判定結果を、書込制御部64に供給して、処理はステップS27に進められる。
【0152】
そして、ステップS27では、書込制御部64は、書込み準備時間Xmが閾値時間Sth以上であるとの判定結果を書込情報測定部68から得た場合、内蔵する遅延用バッファ64aを用いて、表示用バッファ65に対するフィールド画像mの書込みの開始を遅延させる。
【0153】
具体的には、例えば、フィールド画像mが偶数フィールド画像nevenである場合、書込制御部64は、図8を参照して説明したように、表示用バッファ65に対する偶数フィールド画像nevenの書込みの開始を、表示タイミングVblank(neven)よりも後に遅延させる。
【0154】
ステップS28では、表示制御部66は、前回のステップS27又は後述するステップS34で、フィールド画像m-1が表示用バッファ65に書込み済みである場合、表示用バッファ65からフィールド画像m-1を読み出し、フィールド画像mに代えて表示させる。
【0155】
具体的には、例えば、フィールド画像mが偶数フィールド画像nevenであるため、フィールド画像m-1が奇数フィールド画像noddである場合、表示制御部66は、表示用バッファ65に書込み済みの奇数フィールド画像noddを、表示タイミングVblank(neven)に同期して、表示部67に表示させる。
【0156】
ステップS29において、書込制御部64は、直前のステップS36で算出済みの遅延バッファ最大時間(Y-Zth)に基づいて、遅延用バッファ64aにおいて未使用のバッファ容量を算出する。
【0157】
そして、書込制御部64は、遅延用バッファ64aにおける未使用のバッファ容量を、他の処理で使用する。これにより、遅延用バッファ64aにおいて、未使用のバッファ容量を効率的に使用できるようになる。
【0158】
一方、ステップS26において、書込情報測定部68は、書込み準備時間Xmが閾値時間Sth以上ではない(未満である)と判定した場合、その判定結果を、書込制御部64に供給して、処理はステップS30に進められる。
【0159】
ステップS30において、書込制御部64は、書込み準備時間Xmが閾値時間Sth未満であるとの判定結果を書込情報測定部68から得た場合、書込み準備時間Xmを経過したときから、表示用バッファ65に対するフィールド画像mの書込みを開始させる。
【0160】
そして、ステップS31では、表示制御部66は、表示用バッファ65に書き込まれたフィールド画像mを表示させる。
【0161】
具体的には、例えば、フィールド画像mが偶数フィールド画像nevenである場合、表示制御部66は、表示用バッファ65に書き込まれた偶数フィールド画像nevenを、表示タイミングVblank(neven)に同期して表示させる。
【0162】
ステップS32では、書込情報測定部68は、ステップS30及びステップS31の処理と並行して、式(5)を満たすか否かに基づいて、フィールド画像mの各ライン(i)の書込み時刻が、ライン(i)の表示時刻以降に到来するものとなったか否かを判定する。
【0163】
ステップS32において、書込情報測定部68は、ステップS30及びステップS31の処理が終了するまで、フィールド画像mの各ライン(i)の書込み時刻が、ライン(i)の表示時刻以降に到来するものとなったと判定しなかった場合、処理はステップS35に進められる。
【0164】
また、ステップS32において、書込情報測定部68は、ステップS30及びステップS31の処理が終了するまでに、フィールド画像mの各ライン(i)の書込み時刻が、ライン(i)の表示時刻以降に到来するものとなったと判定した場合、処理をステップS33に進める。
【0165】
ステップS33では、表示制御部66は、式(5)を満たさない書込み時刻で表示用バッファ65に書き込まれる、フィールド画像mの残りの部分の表示をスキップして、処理をステップS34に進める。
【0166】
なお、式(5)を満たす書込み時刻で書き込まれた、フィールド画像mの一部分については、ステップS31の処理で表示される。
【0167】
ステップS34において、書込制御部64は、表示制御部66は、式(5)を満たさない書込み時刻で、フィールド画像mの残りの部分を、表示用バッファ65に書き込ませる。これにより、表示用バッファ65には、フィールド画像mの一部分と残りの部分、すなわち、フィールド画像m全てが書き込まれたこととなる。
【0168】
ステップS35において、閾値算出部70は、内蔵する計時部(図示せず)により計時された計時時間が、所定の時間を経過したか否かを判定し、計時時間が所定の時間を経過していないと判定した場合、処理をステップS21に戻し、それ以降同様の処理が行われる。
【0169】
また、ステップS35において、閾値算出部70は、計時時間が所定の時間を経過したと判定した場合、処理をステップS36に進め、書込情報記憶部69に記憶されている書込み準備時間Xm及びバッファ書込み時間Pmに基づいて、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を算出する閾値算出処理を行う。そして、閾値算出部70は、算出した閾値時間Sth及び遅延バッファ最大時間(Y-Zth)を、書込情報測定部68に供給する。
【0170】
ステップS36において、閾値算出部70は、閾値算出処理を行なった後に、書込情報記憶部69に記憶されている書込み準備時間Xm及びバッファ書込み時間Pmを削除する。そして、閾値算出部70は、内蔵する計時部の計時をリセットした上で、再度、計時を開始して、処理をステップS21に戻し、それ以降、同様の処理が行われる。
【0171】
[閾値算出処理の詳細]
次に、図17のフローチャートを参照して、図16のステップS36における閾値算出処理の詳細について説明する。
【0172】
ステップS41において、閾値算出部70は、書込情報記憶部69から書込み準備時間Xmを読み出し、読み出した書込み準備時間Xmの分布を表すX分布情報を算出する。
【0173】
ステップS42では、閾値算出部70は、ステップS41で算出したX分布情報に基づいて、閾値Xthを算出する。
【0174】
ステップS43では、閾値算出部70は、表示間隔Vblank Intervalと閾値Xthに基づいて、式(3)により必要時間Yを算出する。
【0175】
ステップS44では、閾値算出部70は、書込情報記憶部69からバッファ書込み時間Pmを読み出し、読み出したバッファ書込み時間Pmの分布を表すP分布情報を算出する。
【0176】
ステップS45では、閾値算出部70は、ステップS44で算出したP分布情報に基づいて、閾値Pthを算出する。
【0177】
ステップS46では、閾値算出部70は、ステップS42で算出した閾値Xth、ステップS45で算出した閾値Pth、及び表示間隔Vblank Intervalに基づいて、式(1)により、閾値Zthを算出する。
【0178】
ステップS47では、閾値算出部70は、ステップS42で算出した閾値Xthと、ステップS46で算出した閾値Zthとに基づいて、式(2)により、閾値時間Sthを算出する。
【0179】
ステップS48では、閾値算出部70は、ステップS43で算出した必要時間Yと、ステップS46で算出した閾値Zthとに基づいて、遅延バッファ最大時間(Y-Zth)を算出する。
【0180】
以上で閾値算出処理は終了され、処理は図16のステップS36にリターンされる。そして、ステップS36からステップS21に戻されて、それ以降同様の処理が行われる。
【0181】
以上説明したように、表示制御処理によれば、例えば、偶数フィールド画像nevenの書込み準備時間Xm=Xnevenが式(4)(Xm ≧ Sth)を満たす場合、偶数フィールド画像nevenの書込みの開始を、表示タイミングVblank(neven)の経過後まで遅延させるようにした。
【0182】
そして、表示タイミングVblank(neven)では、偶数フィールド画像nevenに代えて、偶数フィールド画像nevenよりも前に表示されるべきフィールド画像(例えば、奇数フィールド画像nodd)を表示するようにした。
【0183】
また、表示制御処理によれば、例えば、偶数フィールド画像nevenの書込み準備時間Xm=Xnevenが式(4)(Xm ≧ Sth)を満たさない場合、統計的に、線分82と交差しない線分81が表す書込み時間で、偶数フィールド画像nevenの書込みを行うようにした。
【0184】
さらに、式(4)を満たさない場合、式(5)を満たすか否かに応じて、線分81が、線分82と交差する事態の発生を監視するようにした。
【0185】
そして、線分81が、線分82と交差する事態が発生したと判定した場合、すでに書込み済みの、偶数フィールド画像nevenの一部分を、表示タイミングVblank(neven)で表示するようにした。また、残りの部分も表示用バッファ65に書込むことにより、表示用バッファ65に保持された偶数フィールド画像nevenを、必要に応じて、後の表示タイミングで表示できるようにした。
【0186】
このため、以上のような表示制御処理によれば、画像の一部分がスキップされることにより、画像に乱れ等が生じる事態を抑止することが可能となる。
【0187】
<2.変形例>
本実施の形態では、フィールド画像mの書込み情報に基づいて、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)等を算出するようにした。
【0188】
しかしながら、例えば、表示部67において、プログレッシブ方式で画像を表示する場合には、図18に示されるように、画像データnをそのままプログレッシブ画像mとし、プログレッシブ画像mの書込み情報に基づいて、閾値時間Sth及び遅延バッファ最大時間(Y-Zth)等を算出するものとなる。
【0189】
なお、プログレッシブ画像mにおいては、式(5)におけるTi'は、次式(6')により表されるものとなる。
Ti' = i×Vblank Interval/I ・・・(6)
【0190】
ここで、Vblank Intervalは、プログレッシブ画像m全体を表示する際に要する表示時間を表す。また、総ライン数Iは、プログレッシブ画像mの総ライン数を表す。したがって、Vblank Interval×1/I(= Vblank Interval/I)は、プログレッシブ画像mの1ラインの表示に要する表示時間を表す。このため、i×Vblank Interval/I=Ti'は、プログレッシブ画像mにおけるライン数iの表示に要する時間を表すものとなる。
【0191】
さらに、閾値算出部70は、図4に示されるような書込み準備時間Xmの分布を表すX分布情報を生成する際に、書込み準備時間Xmの測定された時期に拘らず、書込み準備時間Xmの度数を1として、X分布情報を生成するようにした。
【0192】
しかしながら、閾値算出部70は、測定された時期が直近であるほどに、書込み準備時間Xmの度数を多く加算するようにして、X分布情報を生成するようにしてもよい。これは、直近に測定された書込み準備時間Xmほど、これから受信される画像の書込み準備時間をより正確に表していると考えられるからである。
【0193】
このことは、図5に示されるようなバッファ書込み時間Pmの分布を表すP分布情報を生成する際についても同様である。
【0194】
これにより、閾値算出部70では、これから受信される画像の書込み準備時間を、より正確に反映したX分布情報を生成できるとともに、これから受信される画像のバッファ書込み時間を、より正確に反映したP分布情報を生成できるようになる。
【0195】
このため、閾値算出部70は、そのようなX分布情報及びP分布情報から、より適切な閾値時間Sth及び遅延バッファ最大時間(Y-Zth)等を算出することができるようになる。よって、画像の一部分がスキップされることにより、画像に乱れ等が生じる事態をより抑止することが可能となる。
【0196】
なお、本技術は以下のような構成もとることができる。
(1)受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測部と、前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御部と、前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御部とを含む表示制御装置。
(2)前記書込制御部は、前記書込み準備時間が、前記閾値時間以上である場合、前記書込み準備時間を経過したときに開始される前記画像の書込みを遅延させて、前記表示タイミングの経過後に開始させる前記(1)に記載の表示制御装置。
(3)前記書込制御部における前記画像の書込みの遅延に用いるバッファ容量の最大値を算出する算出部をさらに含む前記(2)に記載の表示制御装置。
(4)前記表示制御部は、第1の前記表示タイミングに表示すべき第1の画像の書込みが前記第1の表示タイミングの経過後に開始される場合、前記書込制御部の制御により前記保持部に書き込み済みの、前記第1の画像とは異なる第2の画像を、前記第1の表示タイミングに同期して表示させる前記(2)又は(3)に記載の表示制御装置。
(5)前記表示制御部は、前記第1の画像の書込みが前記第1の表示タイミングの経過後に開始される場合、前記第1の表示タイミングよりも前に生じた第2の表示タイミングの経過後に書込みが開始された前記第2の画像を、前記第1の表示タイミングに同期して表示させる前記(4)に記載の表示制御装置。
(6)前記書込制御部は、前記書込み準備時間が、前記閾値時間未満である場合、前記書込み準備時間を経過したときに前記画像の書込みを開始させる前記(2)又は(3)に記載の表示制御装置。
(7)前記表示制御部は、第1の前記表示タイミングに表示すべき第1の画像の書込みが、前記書込み準備時間を経過したときに開始される場合、前記第1の表示タイミングに同期して表示可能な書込み時刻までに、前記第1の画像の一部分の書込みが終了し、前記第1の画像の残りの部分の書込みが終了しなかったときには、前記保持部に書き込まれた前記第1の画像の一部分を、前記第1の表示タイミングに同期して表示させる前記(6)に記載の表示制御装置。
(8)前記表示制御部は、前記第1の表示タイミングの後に生じる第2の表示タイミングに表示すべき第2の画像の書込みが、前記第2の表示タイミングの経過後に開始される場合、前記第1の画像の一部分の他、前記第1の画像の残りの部分の書込みが終了した前記第1の画像を、前記第2の表示タイミングに同期して表示させる前記(7)に記載の表示制御装置。
(9)前記画像の書込みに要する書込み時間を計測する他の計測部と、前記書込み準備時間の分布、及び前記書込み時間の分布に基づいて、前記閾値時間を算出する閾値算出部とをさらに含み、前記書込制御部は、前記書込み準備時間が、算出された前記閾値時間以上であるか否かに応じて、前記画像の書込みを制御する前記(1)乃至(8)に記載の表示制御装置。
【0197】
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、又は、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、プログラム記録媒体からインストールされる。
【0198】
[コンピュータの構成例]
図19は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0199】
CPU(Central Processing Unit)201は、ROM(Read Only Memory)202、又は記憶部208に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)203には、CPU201が実行するプログラムやデータ等が適宜記憶される。これらのCPU201、ROM202、及びRAM203は、バス204により相互に接続されている。
【0200】
CPU201にはまた、バス204を介して入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホン等よりなる入力部206、ディスプレイ、スピーカ等よりなる出力部207が接続されている。CPU201は、入力部206から入力される指令に対応して各種の処理を実行する。そして、CPU201は、処理の結果を出力部207に出力する。
【0201】
入出力インタフェース205に接続されている記憶部208は、例えばハードディスクからなり、CPU201が実行するプログラムや各種のデータを記憶する。通信部209は、インターネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
【0202】
また、通信部209を介してプログラムを取得し、記憶部208に記憶してもよい。
【0203】
入出力インタフェース205に接続されているドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア211が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部208に転送され、記憶される。
【0204】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録(記憶)する記録媒体は、図19に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア211、又は、プログラムが一時的もしくは永続的に格納されるROM202や、記憶部208を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部209を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
【0205】
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0206】
また、本開示における実施の形態は、上述した本実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0207】
22 受信装置, 61 RTP受信部, 62 パケット組立部, 63 復号部, 64 書込制御部, 64a 遅延用バッファ, 65 表示用バッファ, 66 表示制御部, 67 表示部, 68 書込情報測定部, 69 書込情報記憶部, 70 閾値算出部, 71 操作部, 72 制御部

【特許請求の範囲】
【請求項1】
受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測部と、
前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御部と、
前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御部と
を含む表示制御装置。
【請求項2】
前記書込制御部は、前記書込み準備時間が、前記閾値時間以上である場合、前記書込み準備時間を経過したときに開始される前記画像の書込みを遅延させて、前記表示タイミングの経過後に開始させる
請求項1に記載の表示制御装置。
【請求項3】
前記書込制御部における前記画像の書込みの遅延に用いるバッファ容量の最大値を算出する算出部をさらに含む
請求項2に記載の表示制御装置。
【請求項4】
前記表示制御部は、第1の前記表示タイミングに表示すべき第1の画像の書込みが前記第1の表示タイミングの経過後に開始される場合、前記書込制御部の制御により前記保持部に書き込み済みの、前記第1の画像とは異なる第2の画像を、前記第1の表示タイミングに同期して表示させる
請求項2に記載の表示制御装置。
【請求項5】
前記表示制御部は、前記第1の画像の書込みが前記第1の表示タイミングの経過後に開始される場合、前記第1の表示タイミングよりも前に生じた第2の表示タイミングの経過後に書込みが開始された前記第2の画像を、前記第1の表示タイミングに同期して表示させる
請求項4に記載の表示制御装置。
【請求項6】
前記書込制御部は、前記書込み準備時間が、前記閾値時間未満である場合、前記書込み準備時間を経過したときに前記画像の書込みを開始させる
請求項2に記載の表示制御装置。
【請求項7】
前記表示制御部は、第1の前記表示タイミングに表示すべき第1の画像の書込みが、前記書込み準備時間を経過したときに開始される場合、前記第1の表示タイミングに同期して表示可能な書込み時刻までに、前記第1の画像の一部分の書込みが終了し、前記第1の画像の残りの部分の書込みが終了しなかったときには、前記保持部に書き込まれた前記第1の画像の一部分を、前記第1の表示タイミングに同期して表示させる
請求項6に記載の表示制御装置。
【請求項8】
前記表示制御部は、前記第1の表示タイミングの後に生じる第2の表示タイミングに表示すべき第2の画像の書込みが、前記第2の表示タイミングの経過後に開始される場合、前記第1の画像の一部分の他、前記第1の画像の残りの部分の書込みが終了した前記第1の画像を、前記第2の表示タイミングに同期して表示させる
請求項7に記載の表示制御装置。
【請求項9】
前記画像の書込みに要する書込み時間を計測する他の計測部と、
前記書込み準備時間の分布、及び前記書込み時間の分布に基づいて、前記閾値時間を算出する閾値算出部と
をさらに含み、
前記書込制御部は、前記書込み準備時間が、算出された前記閾値時間以上であるか否かに応じて、前記画像の書込みを制御する
請求項1に記載の表示制御装置。
【請求項10】
受信した画像を表示させる表示制御装置の表示制御方法において、
前記表示制御装置による、
受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測ステップと、
前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御ステップと、
前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御ステップと
を含む表示制御方法。
【請求項11】
コンピュータを、
受信した画像を一時的に保持する保持部に対して前記画像の書込みを開始する際に要する書込み準備時間を計測する計測部と、
前記書込み準備時間が、前記画像を表示すべき表示タイミングに同期して表示するときの表示終了時刻で前記画像の書込みを終了する書込み準備時間を表す閾値時間以上であるか否かに応じて、前記画像の書込みを制御する書込制御部と、
前記表示タイミングに同期して表示可能な書込み時刻までに、前記書込制御部の制御により前記保持部に書き込まれた画像を、前記表示タイミングに同期して表示させる表示制御部と
して機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate


【公開番号】特開2012−255865(P2012−255865A)
【公開日】平成24年12月27日(2012.12.27)
【国際特許分類】
【出願番号】特願2011−128099(P2011−128099)
【出願日】平成23年6月8日(2011.6.8)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】