三次元画像表示装置及び三次元画像の表示方法
【課題】画像が多重化することを防止した三次元画像表示装置を提供する。
【解決手段】三次元画像表示装置においては、各要素画像が視差成分画像の集合で構成される複数の要素画像が表示される。射出瞳アレイが前記表示面に対向して配置され、そのアレイの複数の射出瞳が要素画像の夫々に対応し、射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が画素の水平又は垂直ピッチの整数倍はたは整数倍弱に定められ、各要素画素中の視差成分画像が夫々対応する射出瞳を介して異なる方向に向けられ、各射出瞳を介する視差成分画像からの主光線が互いに略平行に射出される。要素画像中には、互いに隣接する視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分が含まれ、射出瞳を介して当該同一の視差画像成分が異なる方向に向けられている。
【解決手段】三次元画像表示装置においては、各要素画像が視差成分画像の集合で構成される複数の要素画像が表示される。射出瞳アレイが前記表示面に対向して配置され、そのアレイの複数の射出瞳が要素画像の夫々に対応し、射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が画素の水平又は垂直ピッチの整数倍はたは整数倍弱に定められ、各要素画素中の視差成分画像が夫々対応する射出瞳を介して異なる方向に向けられ、各射出瞳を介する視差成分画像からの主光線が互いに略平行に射出される。要素画像中には、互いに隣接する視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分が含まれ、射出瞳を介して当該同一の視差画像成分が異なる方向に向けられている。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、三次元画像表示装置及び三次元画像の表示方法に関する。
【背景技術】
【0002】
近年、裸眼で観察可能な三次元画像(立体画像)を表示する装置が開発されている。この裸眼式の三次元画像を表示する装置として、二眼式或いは多眼式が知られている。二眼式或いは多眼式の三次元画像の表示装置では、いずれも表示装置の表示面にギャップを空けてレンチキュラー・シート(水平方向のみレンズ特性を有する平凸ロッド・レンズ・アレイ)或いはパララックス・バリアといった光線制御素子が対向して配置されている。このような装置では、視差を与える二次元画像が左右の眼に分離して入射され、観察者に「一方向からのみ立体を知覚できる立体画像」を知覚させている。二眼式の三次元画像の表示では、2つの二次元画像が1方向の視点からのみ観察者によって観察されて三次元画像が観察者に知覚させている。二眼式の三次元画像の表示では、視点は固定されていることから、観察者が移動すると三次元画像を知覚することができなくなる。これに対して、一例として、3方向の視点で三次元画像を観察することができる多眼式の三次元画像の表示方法では、4つの二次元画像が用意され、3方向の視点の夫々から視点に対応する2つの二次元画像が観察者によって観察され、視点毎に立体画像を知覚させることができる。従って、観察者が移動しても、不連続ではあるが運動視差を観察者に与えることができる。ここで、運動視差は、事物の像が身体の移動方向とは、逆方向に移動して見える現象として定義される。
【0003】
運動視差をより良く与えることができる立体画像を表示する方式として、II(インテグラル・イメージング)方式が知られている。このII方式は、立体写真の撮影・再生技術に関する1908年に非特許文献1に提案された所謂インテグラル・フォトグラフィー(IP)方式を基にしている。このIP方式では、立体写真の画素に相当するようなレンズ・アレイが用意され、このレンズ・アレイの焦点距離にフィルムが位置されて表示すべき被写体が撮影され、撮影されたたフィルム上に撮影に用いたレンズ・アレイが配置されて被写体の像が立体、即ち、三次元的に再生される。このIP方式では、レンズを介してフィルム上に記録された光線情報には、撮影時における光線進行方向が含まれることから、表示時には、この撮影時の光線進行方向が逆転されてフィルムから空間に向けて光線が射出され、三次元画像が再生される。このプロセスから明らかなように、空間中の観察位置が限定されず、フィルムの解像度が十分に高ければ、ホログラフィと同様に完全な空中像を再生することができる。このIP方式は、観察位置が限定されずに空間に立体画像を表示できる理想的な立体画像の表示方式とされている。
【0004】
II方式の三次元画像表示装置では、フィルムに代えてフラット・パネル・ディスプレイとしての液晶ディスプレイ(LCD)が用いられ、この液晶ディスプレイの前方に間隙を空けて光線制御素子としてレンズ・アレイが配置される。液晶ディスプレイの画素から発せられる光線は、レンズに入射され、このレンズで進行方向が制限されて空間に向けて射出されて三次元立体像がディスプレイ前方の空間或いは背後に表示される。このII方式の三次元画像表示装置においては、非特許文献2に開示されるように、レンズの背面の画素数、即ち、視差画像情報(見る角度によって見え方が変わる視差成分画像)の数が増加すると、三次元画像が表示されるディスプレイの前方或いは奥側(背面側)の表示範囲が広くなるが、LCDの解像度が一定とした場合にはレンズ・ピッチが大きくなり、結果として、三次元画像の解像度が低下される。特に、水平方向にのみ視差情報を与える一次元II(1D−II)方式では、多眼式と同様にレンチキュラー・シートを利用することから、多眼式とは異なる方式にも拘わらず、その分類上多眼式と混同される傾向がある。
【0005】
しかしながら、II方式では、視点画像の精細度の低下に配慮しながら、可能な範囲で視差数を増加し、かつ、光線設計時に観察者の位置を仮定しない、即ち、観察時の両眼に集光点を設けないことを特徴としている。この特徴は、視点画像の精細度の低下を抑制するために視差数を2〜4と低く抑え、両眼に相当する位置に集光点を設けて立体画像を知覚させるという多眼式の設計とは決定的に異なっている。
【0006】
具体的には,多眼式では,水平方向に沿ったレンズ・ピッチ(Ps)が水平画素ピッチ(Pp)の整数倍(m×Pp:mは3以上の自然数)より小さく設計される。また,その比は,レンズ・アレイの焦点距離gと観察視距離Lの比から決まる.すなわち,
Ps:m×Pp=L:(L+g):mは3以上の整数・・・(1)
(1)式の関係により,観察視距離Lにm個の集光点が発生する.この集光点の間は眼間距離に等しくすることから,必然的にgが決まる.
一方、II方式では、水平方向に沿ったレンズ・ピッチ(Ps)或いはその整数倍(n×Ps:nは1以上の整数)が水平画素ピッチ(Pp)の整数倍(m×Pp:mは3以上の自然数)に設計される。すなわち、
Ps=m/n×Pp:nは1以上の整数,mは3以上の整数・・・(2)
(1)式の関係が成立することで、複数のレンズから平行な関係が成立するように光線が射出される.すなわち,視距離に光線が集光するような特殊な集光点を設けない。このために,任意の観察位置において,目に入射した光線の和により略その位置から見えるべき三次元映像を観察できる.すなわち,連続的な運動視差が実現できる.尚、集光点を観察距離より十分に離した場合も同様の効果が期待できる。
【0007】
このように,II方式においては、実際に物があったときの表面からの光線が離散的に抽出されるように光線が再現される。従って、視差数がある程度以上に多くなれば、観察者は、観察範囲中で略その観察位置から見える両眼視点画像を視認できるとともに、連続的な運動視差を得ることができる。多眼式では、視点画像の精細度が重視される結果、運動視差が不完全となる。これに対して、特殊な集光点を設けないという1D−II方式では、両眼視差と運動視差のバランスを考慮して設計されることから、より自然で疲れにくい三次元画像が表示される。
【0008】
このように、II方式の三次元画像を表示する表示装置は、その視差数が多いことが特徴の一つとなっている。視差数が多いということは、(a)三次元画像の画素に相当するレンズの隣接レンズ間の間隔が大きく、即ち、レンズ・ピッチが大きく設定され、また、(b)三次元画像を表示するための視差情報の取得方向が多いことを意味している。前者(a)については、特許文献1に記述されるように視差情報を提示する水平ピッチがサブ画素(各R,G,B画素)の間隔に設定されることで隣接レンズ間の間隔が抑制される。また、後者(b)については、特許文献2に開示されるように、観察領域で集光点が発生することを防ぎつつも、効率よく視差情報を獲得するために、光線が互いに略平行に射出される設計が採用される。この設計では、光線方向が平行の関係にある画素に表示する視差情報は、平行投影の視点画像により効率よく獲得することができる。
【0009】
このような平行投影II方式において、特許文献3には、有限の視距離で、三次元画像を観察できる領域、即ち、視域を広げるために、三次元画像表示装置の表示面上のレンズの位置に依存して、レンズに対応する要素画像が表示される表示用画素群のレイアウト及び表示用画素群に表示される視差情報を最適化する方法が開示されている。ここで、要素画像とは、単一のレンズに対応した視差成分画像の集合を意味している。この特許文献3に開示される表示装置では、視点画像を獲得する方向の数が増えてしまう問題がある。この多視点画像の取得方向の増加は、各視点画像をCGでレンダリングする場合にレンダリング負荷の増大を招き、リアルタイム・レンダリングなど処理速度が要求されるシーンでは問題になる場合がある。また、実写においても、多視点画像の取得方向の増大は、撮影負荷の増加につながり好ましくない。
【0010】
視点数を抑制する方法として、特許文献4に、II方式における視差成分画像の一部が2眼又は多眼用の画像で代用される方法が提案されている。即ち、特許文献4に開示される方法では、要素画像が表示される表示用画素群において、同一位置にある3つ以上の画素同士に、同一の透視投影視点画像からの視差情報が割り振られている。しかし、この方法は、厳密には、光線の方向と視差情報が一致していないことから、画質の低下が避けられない。一般に、表示パネルの前方にレンズが配置された場合にあっても、また、スリットが配置された場合にあっても、像面湾曲或いは開口率の問題から、観察者からひとつの射出瞳を介して観察される画素、即ち、視差情報を1つに制限することは難しい。即ち、観察者からは、ひとつの射出瞳を介して観察される画素は、実際には2画素以上になる問題がある。このように射出瞳を介して観察される画素が2以上となることをII方式におけるクロストークと称している。特許文献4の提案では、クロストークを考慮して、同一の視差情報を割り付ける画素数を3画素以上としている。
【0011】
一方、上述した問題とは、異なる問題として、非特許文献2で定義されるような、飛び出し或いは奥行き限界を超えた画像が、多重像として視認されるという問題がある。これは飛び出し或いは奥行きの大きい三次元画像を表示するには、視差情報を提示する間隔(角度)を狭くする必要があるが、この間隔(角度)が不足していることに基づいている。ところが、前述のクロストークがあることから、その視差が大きいと、3次元画像は、多重化して見えてしまう。
【非特許文献1】M. G. Lippmann、 Comptes Rendus de l'Academie des Sciences、 Vol.146、 pp.446-451(1908).IP
【非特許文献2】H. Hoshino、 F. Okano、 H. Isono、 and I. Yuyama、 J. Opt. Soc. Am. A.、 Vol.15、 pp.2059-2065(1998).NHK
【特許文献1】特開P2004−040722
【特許文献2】特開P2003−288612
【特許文献3】特開P2004−212666
【特許文献4】特開2005−331844
【発明の開示】
【発明が解決しようとする課題】
【0012】
以上のように、II方式において、多視差を利用する三次元画像の表示方式では、ディスプレイ・パネルに表示する二次元画像を作成する負荷が大きい問題がある。また、裸眼で立体視する為に多視差を与える三次元画像表示装置では、飛び出し或いは奥行きの表示限界を超えて表示すると画像が多重化する問題がある。即ち、II方式の三次元画像表示装置において、光線相互の関係を略平行に設定している為に視点画像の取得方向が増加し、レンダリング負荷が増加する問題がある。
【0013】
この発明は、上述した事情に鑑みなされたものであって、二次元画像を作成する負荷を低減し、飛び出し或いは奥行きの表示限界を超えても画像が多重化することを防止したII方式の三次元画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【0014】
この発明によれば、
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置が提供される。
【0015】
また、この発明によれば、
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍より小さくに定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が観察視距離において少なくとも2点以上に集光されるように射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記視差成分画像がある集光位置から取得した一つの視点画像から配分されて生成され、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置が提供される。
【0016】
更に、この発明によれば、
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
を具備する三次元画像表示装置に前記要素画像を表示させる表示方法において、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させることを特徴とする三次元画像の表示方法が提供される。
【発明の効果】
【0017】
この発明のII方式の三次元画像表示装置によれば、二次元画像を作成する負荷が低減され、飛び出し或いは奥行きの表示限界を超えても画像が多重化することを防止することができる。
【発明を実施するための最良の形態】
【0018】
以下、必要に応じて図面を参照しながら、この発明の一実施の形態に係る三次元画像表示装置、三次元画像の表示方法並びに三次元画像を表示する為の多視点画像の作成方法を説明する。尚、各図において、同様または類似する機能を有する構成要素には、同一の参照符号を付し、重複する説明は省略する。
【0019】
図1は、この発明の一実施の形態が適用される三次元画像表示装置を概要的に示す斜視図である。
【0020】
図1に示されるように、三次元画像表示装置1は、液晶ディスプレイ(LCD)等のフラット・パネル・ディスプレイ、即ち、表示部2を備え、このフラット・パネル・ディスプレイ2の前方に所定のギャップを空けて光線制御素子3が配置されている。この光線制御素子3は、2次元II方式にあっては、マトリックス状にセグメントレンズ3Aが配列されたレンズ・アレイ或いはピン・ホールがアレイ状に配列されているピンホール・アレイが相当する。また、光線制御素子3は、1次元II方式にあっては、垂直方向に延出され、水平方向に配列されたシリンドリカル・レンズ3からなるレンチュキュラー・シート或いは垂直方向に延出され、水平方向に配列されたスリットを有するスリット・プレートが相当する。この光線制御素子3Aは、レンズ・アレイ、レンチュキュラー・シート及びスリット・プレートにあっても、光学的には、各レンズ3A或いはスリットは、光学的開口部の射出瞳として取り扱うことができる。
【0021】
フラット・パネル・ディスプレイ(表示部)2の表示面には、画素が略一定の水平ピッチpp及び垂直ピッチでマトリクス状に配列されている。画素を構成する絵素(RGBサブピクセル)上には、夫々対応する縦ストライプ・カラー・フィルターが配列されて高精細液晶パネル・モジュールに構成されている。このパネル・モジュールには、後に説明するような視差成分画像から成る要素画像が表示されて立体像が表示される。
【0022】
このような構造の立体画像表示装置において、観察者が立体画像表示装置を観察する位置を視域面内の位置近傍に想定すると、表示部2の前面及び背面の近傍に立体映像を観察することができる。即ち、視差成分画像の集合としての要素画像が各射出瞳に対応した表示部2の画素に表示され、要素画像からの光線は、射出瞳で制御或いは規制されて観察者に向けられる。観察者が位置する方向に向けられた光線で視差成分画像が送られ、観察者がこの視差成分画像を認識することによって立体画像が認識される。即ち、要素画像からの光線は、光線制御素子3と観察者との間に表示される立体画像或いは表示部2の背後に表示される立体画像の形成に寄与することとなる。
【0023】
IP方式においては、水平面内において、各射出瞳に対応する要素画像が定められている。多眼方式と異なり、IP方式では、射出瞳からは、互いに平行な関係にある光線が視域に向けて射出されて立体像が視域に形成される。IP方式においても、また、多眼方式においても、要素画像から対応する射出瞳を介して射出される光線は、射出瞳で規制を受けるが、発散されるように視域に向けられる。しかし、IP方式では、1つの射出瞳からある方向に向けられる1つの光線に着目すると、この光線に平行な複数の光線が他の射出瞳の夫々から同様に射出される。これに対して、多眼方式においては、光学的開口からの光線は、観察基準線上の3点以上の集束点に向けて集束される。多眼方式では、その集束点に観察者の2眼が位置する限り、立体像を観察することができるが、集束点から目が外れると立体像を観察することができなくなる。これに対して、IP方式では、観察者が視域内に位置する限り、観察者の位置に応じた視差成分画像が光学的開口からの光線で観察者に伝達され、視差成分画像の集合として立体像が観察者によって認識される。従って、各要素画像は、後に説明するように視差成分画像の集合として定義され、視差成分画像からの光線が対応する射出瞳で制御されて所定方向に向けられ、視域内の観察者に視差を与えている。表示部2には、要素画像の集合としての視差合成画像が表示され、視域内の観察者の位置に応じて観察者の目には、視差成分画像が入射され、結果として、観察者は、立体画像を認識することができる。
【0024】
この発明の実施の形態に係るII方式の三次元画像表示装置においては、下記で説明する特定モデルに関しては、図2に示されるように複数方向から取得する必要のある視点画像の取得方向(視差番号-4,-3,-2,-1,1,2,3,4に相当する視差取得方向)が図3に示されるようにひとつおき又はそれ以下の視点画像の取得方向に減少され、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられている。一例として、図3では、ひとつおきの視点画像の取得方向(視差番号-3,-1,1,3に相当する視差取得方向に減少され、同一視点の視差成分画像(視差番号-3,-1,1,3に相当する視差成分画像)が隣接した2つの視差成分画像が表示される領域に表示される。即ち、図2に示す視差番号-4,-3が表示される領域には、図3に示すように視差番号-3が表示され、図2に示す視差番号-2,-1が表示される領域には、図3に示すように視差番号-1が表示され、図2に示す視差番号1,2が表示される領域には、図3に示すように視差番号1が表示され、また、図2に示す視差番号4,3が表示される領域には、図3に示すように視差番号3が表示される。従って、表示部2に表示する2次元表示データでは、視差情報取得の為の負荷が1/2またはそれ以下に低減される。
【0025】
図2に示される例では、ある要素画像が表示される表示領域に視差番号-4から視差番号4までの8個視差成分画像が表示されているが、図3に示すと同様に視差番号-Nc/2から視差番号Nc/2までのNc個視差成分画像が表示される例に関しても、同様に奇数番号或いは偶数番号の視差番号を有するNc/2個視差成分画像が連続して隣接配置されるように2次元表示装置2の表示面に表示される。ここで、Ncは、整数であって、後に述べるように多視点カメラ数に相当する。
【0026】
尚、視差成分画像数が十分に多い場合には、通常のモデルであれば、異なる視差番号を有する視差成分画像が本来表示されるべき2以上の領域、例えば、異なる視差番号を有する視差成分画像が本来表示されるべき3つの領域に、下記に述べるような特殊なモデルにあっては、同一の視差成分画像がこの2以上の領域、例えば、3つの領域に表示されても良い。このような表示によって、三次元画像の多重化を防止することができる。
【0027】
動画であれば、通常のモデルに係る表示に下記で述べるような特殊なモデルが含まれるあるフレームに切り替わった時点で、上述したように、視差成分画像は、ひとつおき又はそれ以下の視点画像の取得方向に相当する視差成分画像に制限され、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられる。
【0028】
上述したように、隣接した表示領域に同一の視差情報を提示ことによって、飛び出し及び奥行き限界を超えた三次元画像の多重化を防止することができる。しかし、II方式のメリットである連続的な運動視差が失われ、観察位置の移動に対して三次元画像がフリップする(不完全な運動視差)という問題が生じる。これらの問題点を考慮して、本発明の実施例に係る三次元画像を表示する表示装置は、好ましくは、下記に例示するモデルの表示時に、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられるように視差成分画像の割り当てが変更される。
【0029】
(1) 飛び出し及び奥行きの大きなモデル
観察視距離をL,光線制御子と表示面の間隔をg,サブ画素幅をPp,モデルの空間周波数をβuserとしたときに、
z(表示位置)≧Dn(飛び出し限界)=L/(2×((L+g)/L)×Pp/g×βuser +1)...(3)
を飛び出しの大きなモデル,
表示位置≦Df(奥行き限界)=-L/(2×((L+g)/L)×Pp/g×βuser-1)...(4)
を奥行きの大きなモデルとすることができる.ここで,βuserはモデルの周波数のため任意に設定可能だが,300〜350cprに設定すると実感に合いやすい. ただし,βuserは,三次元画像表示装置のレンズ・ピッチから決まる最大表示可能周波数(βmax)を超えて設定することはできない(表1)。
【0030】
(2) リアルタイム・レンダリングにおいて、レンダリングに対する負荷が高いモデル
サブ画素毎に視差情報を配置した場合のフレームレートをfo[fps]とすると、同一視差情報を表示するサブ画素数をx、多視点カメラ台数に依存する割合をyとすると、最終的なフレームレートをf[fps]は、
f=F(x、y)
=fo×1/((1−y)+y×1/x)...(1)
で与えられる.所望のフレームレートになるように,xを調整する.レンダリング負荷が高い(フレームレートを落としやすい)モデルの典型的なものとしては,ポリゴン数が多いものをあげることができる。
【0031】
(1)の飛び出し及び奥行きの大きなモデルに関しては、表示される三次元画像に運動視差が与えられるが運動視差が不連続となる。しかし、飛び出し及び奥行きの大きなモデル(表示画像)では、運動視差が不連続となっても、多重化が抑制された画像の方が視覚上好ましい。この視覚上の理由に基づいて、(1)の飛び出し及び奥行きの大きなモデルに関して、本発明の実施例に係る表示装置係る表示が適用される。
【0032】
また、(2)のレンダリングに対する負荷が高いモデルに関しては、連続的な運動視差は、特に高品質な三次元画像であって、しかも、静止画の三次元画像に要求される特性である。フレーム表示期間内に観察者が観察位置を変えるようなことが殆どおきない動画の表示においては、連続的な運動視差への要請が低下する反面、高いリフレッシュレートが要求される。
【0033】
視点画像の取得方向(視差取得方向)が間引かれても、上述したようなモデルであれば、画質に悪影響をもたらさず、クロストークを低減することができる。
【0034】
次に、このように隣接した表示領域に同一の視差情報、即ち、視差成分画像を提示するとの発想に至る発明者の着想をII方式における3次元画像を表示為の原理を参照しながら以下に説明する。
【0035】
下記の説明においては、説明を簡素化するために、一次元II方式(1D−II方式)について説明する。
【0036】
1D−II方式(一次元II方式)では、II方式の視差情報、即ち、視差成分画像が水平方向に沿って画素に振り分けられ、垂直方向に関しては、2眼或いは多眼の視差情報、即ち、視差成分画像が与えられている。II方式における視差情報に関しては、水平断面図のみで説明することができる。従って、この発明の着想を二次元II方式(2D−II方式)に適用する場合には、水平方向における視差成分画像の割り当て変更の概念が垂直方向についても同様適用されれば良い。
【0037】
まず、(1)の効果について説明する。図4(a)〜(c)には、1D−II方式における視差情報の見え方(水平断面図)が図示されている。パネルの前面には、レンチュキュラー・レンズ3Aが配置される。図4(a)〜(c)には、観察者7がレンズ3Aを介して観察できる視差情報の範囲が模擬的に示されている。観察者が左右に移動するとレンズ3Aを介して観察されるサブ画素(R,G,B絵素)が変化される。1D−II方式にあっては、レンズ3Aから射出される光線は、互いに平行となる関係にあることから、観察者が透視投影的に観察すると、レンズ3A越しに見える位置がレンズ3A(レンチュキュラー・シートの各レンズ3A)毎に少しずつ異なる。換言すれば、レンズ3Aごとに視差情報を提示する位置が表示パネル上でレンズ・ピッチだけずれ表示される。また、有限の視距離における視域幅を最大にするためには、レンズ3Aに対応した要素画像を表示するための要素画像表示用画素群のレイアウトもレンズ3Aの位置に応じて異なっている。
【0038】
図4(a)では、図1に示す表示装置における表示面端に表示され、ある1つのレンズ3Aに対応する要素画像が当該レンズ3Aより外側にレイアウトされて表示パネルに表示される様子を示している。また、図4(b)及び図4(c)は、各レンズ3Aに対応する視差情報が表示面上に提示される位置の相違に基づいて、設定した視距離における視域が変化される様子を定性的に示している。図4(b)に示されるように視域を最大に確保するために視距離が短く設定される場合には、図4(b)との比較から明らかなように、対応するレンズ3Aと要素画像を表示する為の画素群の位置との間がより乖離される関係、即ち、より離れる関係にあることが判る。
【0039】
図5は、比較例に係る3次元表示装置における1D−II方式に特有の各レンズ3Aから与えられる視差情報が視域面12において提示される位置がずれて見えることを説明する模式図を示している。図5においては、表示パネル2の表示面に視差情報が与えられて各画素に視差情報、即ち、視差成分画像が表示される。視差情報は、撮影方向に対応する視差方向で特定される。図5では、8つの撮影番号に相当する8視差方向を示す視差番号(4,3,2,1,-1,-2,-3,-4)で視差情報が特定されている。視差番号(4,3,2,1,-1,-2,-3,-4)を有する視差情報、即ち、視差成分画像が画素群4としての表示パネル2上の画素に与えられ、この画素群4に対応してレンズ3Aが配置され、このレンズ3Aを通過してレンズ3Aから視距離Lだけ離れた視域面12に視差情報15が投影される。
【0040】
図5には、視域面12は、画素群4に表示された要素画像が投影される視域幅14が示され、この視域幅14で定まる範囲内において、正常な3次元像を観測することができる。画素群4を構成する画素からの視差情報を含む主光線13は、レンズ3Aの主点13P0を通過して視域面12に向けられることから、表示パネル2の表示面に表示される視差情報とは、反転された視差番号(-4,-3,-2,-1,1,2,3,4)を有する視差情報15として投影される。視域面12を含む観察側では、1つのレンズ3Aから視差番号(4,3,2,1,-1,-2,-3,-4)を有する視差成分画像が投影されて視差番号(4,3,2,1,-1,-2,-3,-4)を有する視差情報15として投影視差成分画像15Aが生ずる。同様に隣接するレンズ3Aから投影視差成分画像15Aが生じ、視域面には、レンズ3Aの数だけ投影視差成分画像15Aが生ずることとなる。
【0041】
同一視差番号で指定される主光線13は、互いに略平行にレンズ3Aから射出されるように、レンズ3の射出瞳のピッチが同一方向の画素幅のn倍(n:2以上の自然数)、またはm/n倍(m:1以上の自然数)に設定されている。図5に示される例では、視差番号(-4,-3,-2,-1,1,2,3,4)を有する視差情報17、即ち、視差成分画像が表示される8画素で画素群4が構成されることから、画素幅の8倍(n=8)でレンズ3Aの射出瞳が配列されるようにレンチュキュラー・シート上にレンズ3Aが配列される。他の光学開口、例えば、アパーチャーにあっても同様にアパーチャー・ピッチが画素幅のn倍(n:2以上の自然数)、またはm/n倍(m:1以上の自然数)に設定される。また、m/n倍にあっても、n/m個毎に射出瞳と画素が同一のレイアウトになる関係となる。
【0042】
レンズ3Aから射出する同一視差番号で特定される主光線は、互いに平行の関係にあることから、その主光線は、射出瞳のピッチだけずれている互いに平行に視域に向けられるような軌跡を描いている。即ち、画素幅のn倍(n:2以上の自然数)、又は、m/n倍(m:1以上の自然数)の値Δshiftだけ主光線13の軌跡がずれ、即ち、主光線13がシフトされて視域に向けられる。換言すれば、視域面上では、ある基準線A(一例として光軸)で特定される画素群4及びこの画素群4に対応するレンズ3Aを基準とすると、この画素群4に隣接する画素群は、隣接するレンズ3Aを通過して同一の視域面12に投影されることから、図5に示すように視域面12上では、画素群が値Δshiftだけシフトして視差成分画像が投影されることとなる。従って、観察者側から見ると、図5に示したように、視距離Lにおいて、あるレンズ3Aで拡大されて観察される画素境界があるとすると、そのとなりのレンズ3Aで拡大されて見える部分は、画素境界から少しずれて観察される。即ち、観察者から見ると、レンズ3Aごとに拡大されて見える位置が少しずつシフトされて視域面上では、投影視差成分画像15Aがシフトされて生ずることとなる。レンズ瞳と画素中心を結ぶ線が画素から射出する光線の主光線13に相当することから、その射出方向(視差番号の方向でもある)が決定される。即ち、その画素に表示するべき画像の取得方向が決定される。
【0043】
1D−II方式においては、レンズ3Aに対応する画素群が固定され、画素群には異なる視差成分画像が与えられている。ここで、単一の平行投影(水平平行投影)で取得した画像から視差情報が分離されて夫々異なる画素群に与えられる。即ち、観察者側からみると、ディスプレイ表示領域内で、複数レンズ3A毎に同一の視差番号に由来する視差情報が表示され、かつ、その視差番号で指定される視差情報15は、画面内で水平方向に連続的に変化して見える。図5に示される基準線Aの位置から片目で観察すると、正面のレンズ3Aによって視差情報(視差成分画像)の境界が拡大して観察され、正面から右側のレンズ3Aによって−1番の視差番号の画像の表示が観察され、正面から右に移動するに従って、視差番号が減少された画像が観察される。また、正面から左のレンズ3Aによって、+1番の視差番号の視差成分画像が拡大表示されて観察され、正面から左に移動するに従って、視差番号は増大して観察される。観察者が観察位置を右にずらせば、各レンズ3Aを介して観察できる視差番号は増加し、左にずらせば、各レンズ3Aを介して観察できる視差番号は減少される。図5では、レンズ3Aの背面の視差成分画像は、右側がマイナス、左側がプラスになるように配され、プラスの視差成分画像は、ディスプレイ中央に対面した観察者から見て右側から、マイナスの視差成分画像は左側から取得されている。このため、観察位置が右にずれると、視差番号が増加する関係となる。
【0044】
視距離が短ければ、同一の視差番号で指定される視差情報を投影することができるレンズ3Aの数は減少し、多くの平行投影画像から1つの略透視投影的画像が構成される。視距離が長くなれば、同一の視差画像番号で指定される視差情報を投影することができるレンズ3Aの数は増大し、無限遠から観察すれば、単一の視差画像番号の画像(即ち、平行投影画像)を観察することになる。
【0045】
図6(a)を参照して、クロストークに関係するレンズ3Aを介して観察されるサブ画素の数に依存して三次元画像がどのように見えるかを説明する。クロストークは、レンズ3A3においては、レンズ3Aのデフォーカスの程度或いは像面湾曲、また、スリットにおいては、スリットの開口幅に依存して発生される。レンズを介して観察される領域を無限小とすることはできず、実際は、二次元画像表示装置におけるブラック・マトリクスなどの画素境界部がレンズで拡大されることによって生ずる輝度ムラ、即ち、モアレイの防止及びレンズを介して観察される画素、即ち、カメラ番号(視差番号に相当する。)の切り替わりを連続的にするために、1つのレンズから見える領域には、有限の幅を与えている。例えば、その領域の幅がサブ画素の水平幅に完全に一致(c=1)させたとしても、1D−II方式の場合は、これまでに述べたようなレンズ3Aを介して観察される視差番号が切り替わる現象に基づいて、画面前面においてクロストークが発生される。
【0046】
図6(a)では、表示部2の中心を基準に対称に視差番号が割り振られている。しかし、観察側では、投影視差成分画像15A中に、例えば、あるレンズ3Aからは−2番の視差情報、視差成分画像が見えたとしても、その隣のレンズ3Aからは同時に−3番の視差情報も少し見える。また、さらに位置をずらしたレンズ3Aからは、投影視差成分画像15A中に、−2番と−3が50%ずつ見え、さらに離れたレンズ3Aからは、投影視差成分画像15A中に、−3番の視差情報のみが見え、更に、隣接したレンズ3Aでは−4番の視差情報も同時に見えることとなる。即ち、画面の略全領域でカメラ番号が変化しながらも平均として2つの視差情報(視差成分画像)が見えることとなる。即ち、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)においても、画面としてのクロストークC’が2(C’=2)となり、図6(b)に示すように各レンズ3Aを介して符号20で示すような表示面19上の範囲18(領域)で2視差成分画像が観察される。同様に、1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)の場合は、画面としてのクロストークC’が3(C’=3)となり、図4(c)に示すように各レンズ3Aを介して符号20で示すような表示面19上の範囲18(領域)で3視差成分画像が観察される。画面としてクロストークが存在することで、視差情報の切り替わりが滑らかになり、観察者の両眼には、略その位置から見た視差情報が見えることになる。但し、飛び出し、奥行きが大きく、視差情報同士の差(視差)が大きいと、視差情報同士が融合できず、C’=2のときは、二重像、C’=3のときは、三重像として見えてしまう。
【0047】
尚、特許文献5では、視差情報、視差成分画像を表示しない画素を提示することを述べている。図7(a)には、この特許文献5に開示される視差成分画像を表示しない画素が符号Bで示されている。表示しない画素を設けることにより、各レンズ3A越しに見える視差情報の数が減らされ、画面全体のクロストーク量が減らされる。図7(b)に示すように、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)においても、画面としてのクロストークC’を1(C’=1)とすることができ、符号21で示されるように二重像に見えていた多重化を解消することができる。しかし、表示しない画素を設ける場合には、符号22で示されるように視差番号の切り替わり位置にある像を不連続に見せることとなる。ところがこの手法は輝度低下に繋がるとともに、レンズ3Aごとの明るさのムラを生じることから、モアレイが発生し画質の低下が著しい。図7(c)に示すように、ある1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)においても、視差番号の切り替わり部分の二重像が残るとともに、モアレイも相変わらず発生して、このままでは観賞に耐えない。
【0048】
これに対し、図3に示すように同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられているこの発明の実施の形態においては、このような問題を解決することができる。
【0049】
図8(a)には、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられている場合における観察位置からの視差成分画像の見え方が示されている。また、図8(b)及び(c)には、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)及びある1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)における表示部2の画面全体の見え方を示している。図8(a)に示すように表示面に視差番号-n〜1〜nを有する視差成分画像が表示される場合において、例えば、視差番号−5〜5を有する視差成分画像が表示される例では、視差成分画像が間引かれ、例えば、視差番号−4,―2,1,3を有する視差成分画像が間引かれ、とびとびの視差番号−5,―3,―1,2、4を有する視差成分画像が連続する表示領域に表示される。従って、8(b)及び(c)に示す例では、観察側では、とびとびの視差番号−5,―3,―1,2、4を有する視差成分画像が投影され、観察される。この実施例においては、よれば、画面のクロストーク(像の多重化)が抑えられるとともに、モアレイも発生されない。
【0050】
但し、この実施例に係る視差情報を間引くこの方法には、次のようなデメリットもある。丸みを帯びた(垂直方向に連続的に奥行きが変わるような)モデルが次第に書き割り(平面画像が奥行き方向に重ねて配置された映像)的に見えてくる問題がある。視差情報の提示間隔が開くために、連続的な奥行き変化が表現できない(エッジの表現だけになる)ということから当然ではあるが、この問題を考慮すると、視差情報を間引く本手法が有効なのは、飛び出し、奥行き限界を超えて、クロストークが多重像という弊害を引き起こす領域であることがわかる(飛び出し奥行きの小さいモデルで、像が多重化して見えるという問題が発生していない領域は、視差情報がモデルを正しく表現するために役立っているために、間引かないほうが良い)。
【0051】
次に、比較例としてIIにおける多眼的配置について説明する。ここで、IIにおける多眼的配置とは、1D−II方式三次元画像表示装置において、全要素画像を構成する視差番号を略同一にする手法である。略同一ということは、視域幅が最大になるように設定した視距離において、ある位置から片目で観察した場合に、画面全体に視認される視差番号が単一になるようにレイアウトすることを意味する。略同一とは、1D−II方式では、有限の視距離で視域幅を最大化する場合に、Npを2以上の自然数とした場合に、要素画像が画素数Np及び(Np+1)の2値で構成されても、ある位置から片目で観察した場合に、画面全体に視認される視差番号が単一と見なすことを意味している。ここで、(Np+1)画素からなる要素画像の数が増えれば増えるほど、視域の形状は図4(c)から図4(b)と変化される。特許文献4に開示されるように多眼的レイアウトでは、視距離から光線間隔で水平方向が透視投影的に撮影した視差成分画像から要素画像アレイを作成するとより正確な三次元画像を表示することができる。図9には、IIにおける多眼的方式の表示装置におけるある視距離での見え方が示されているが、図最下段の視差情報の配列が図8(a)と異なり、ある位置から観察した場合の全レンズ3Aから見える視差番号が略同一に保たれている。このようなレイアウトで視差成分画像を配置することを“IIにおける多眼的配置”と称する。このように、IIにおける多眼的配置では、観察者が視距離の一点から(片目で)観察する視差番号は略1つとなることから、水平方向が平行投影の視差成分画像を用い、1点から(片目で)観察して連続的に視差画像番号が画面内で切り替わることによって透視投影的な画像が見える1D−II方式とは、ハードウェアに変化がないが、視差成分画像の作成方法と視差番号(カメラ番号)のレイアウトのみが異なっている。
【0052】
このようなIIにおける多眼的配置においても、複数サブ画素に同一視差情報を提示することで、画面全体のクロストークを低減することができる。
【0053】
IIにおける多眼的配置において、視差成分画像が間引かれ、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられている例が図10(a)に示されている。ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)において、図10(b)或いは(c)に示すように画面としてのクロストークC’を1(C’=1)とすることができ、奥行き手前の表示領域を超えた三次元画像についても完全に多重化を防ぐことができる。しかしながら、観察位置が左右にずれたときにはその運動視差は当然ながら不連続(フリッピング)となり、多眼表示に近いものとなる。
【0054】
尚、図10(b)及び(c)は、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)及びある1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)における表示部2の画面全体の見え方を示している。
【0055】
上述した考察では、1D−II方式について説明されているが、実はクロストークのある多眼式にも同様の考察を適用することができる。即ち、複数画素に同一視差情報を提示することは、飛び出し奥行き限界を超えた三次元画像の多重化による画像劣化を抑制する効果がある。
【0056】
次に、(2)のレンダリングに対する負荷が高いモデルに対する効果について説明する。複数画素に同一画像が表示されることによって犠牲になるのは、丸みをおびた正しい立体表現と運動視差である。ここで、丸みを有するモデル画像は、連続した面で表示されず、丸みを有するモデルが複数の片に分割されて見え、しかも、複数の片は、不連続として表示される。このような表示は、丸みを有するモデルに対する書き割り効果と称せられる。また、運動視差は、観察位置が水平にずれたときの視差の変化、又は、動画において、モデルが水平に移動するときに位置の変化を意味し、運動視差に伴い立体画像が正常に観察されない虞がある。書き割り効果及び運動視差に基づく結果は、静止画では認識しやすいが、動画においては認識しづらくなる。なぜなら、丸みを帯びた表現或いは正しい運動視差は、観察者が対象をじっくり見る場合に重視されるものであり、画像のほうが刻々と変化し、観察者がモデルを回りこんで観察することが殆どないといっていい動画においては、この手の劣化は目立ちにくい傾向にある。一方、多視点レンダリングは画像作成における重大な負荷となり、リアルタイム・レンダリングにおける主要なリフレッシュレート低下原因となりうる。リフレッシュレートの低下は非常に認識されやすい画質の低下となっている。つまり、動画においては、視点数の低下よりもリフレッシュレートの維持が望まれるシーンがしばしば発生する。
【0057】
図11は、この発明の実施の形態に係る画像の処理手順を示すフローチャートである。画像処理に基本的な流れでは、画像装置の情報、即ち、ディスプレイの情報、例えば、表1に示される二次元ディスプレイ・パラメータ、鑑賞パラメータDn、Df及びレンチュキュラー・シート・パラメータが予め用意され、図11(a)に示す記憶部100に格納される。次に、これら情報が反映された多視点画像が多視点画像取得部102で作成される。具体的には、多視点カメラで被写体としての立体物が撮影され、或いは、リアルタイム・レンダリングによって多視点画像が作成される。その後、要素画像作成部104において、多視点カメラの画像が要素画像に変換される。即ち、視差番号で指定される多視点カメラの画像が視差成分画像に分割され、視差番号で夫々指定される視差成分画像が集められて要素画像が生成される。作成された要素画像は、画像表示部105の表示面に射出瞳に対応して表示され、要素画像が射出瞳を介して視域に投影されることによって立体画像が視域内から観察される。
【0058】
図11(b)に示されるように、ディスプレイ情報記憶部100に加えて表示モデル毎の 観察者側の表面(z_m)及びモデルの重心位置(z_o)が格納されているモデル情報記憶部106並びにフレームレートを定めるフレームレート入力部107を備え、これらのディスプレイ情報記憶部100、モデル情報記憶部106及びフレームレート入力部107からデータが要素画像作成部104に供給されている。
【0059】
この要素画像を作成する要素画像作成部104は、図10(b)に示すようにしきい値を決定するしきい値決定部110、このしきい値決定部110で決定されたしきい値に基づいて同一視差情報を表示するモデル或いはエリアを判定する同一視差情報表示エリア判定部112、同一視差情報を表示するサブ画素数を決定する同一視差情報表示サブ画素数決定部を備えている。しきい値及び同一視差情報を表示するエリアの決定には、ディスプレイ情報(Dn,Df,C(クロストーク量))が必要とされ、このディスプレイ情報(Dn,Df,C(クロストーク量))がディスプレイ情報記憶部100から供給される。また、同一視差情報を表示するモデルを決めたり、領域を決めたりするためには、モデルの表示位置情報も必要とされ、モデル表示位置情報(z_m,z_o)は、モデル情報記憶部106から供給される。また、所望のフレームレートが入力された場合は、そこから同一視差情報を表示するサブ画素数が逆算されるが、同一視差情報を表示するエリアは自動的に全画面に設定され、この結果は、多視点画像取得部に反映される。
【0060】
本実施例に係る表示装置及び比較例に係る表示装置では、表1に示した二次元画像表示用の液晶パネル2(解像度:WUXGA)及びレンチキュラー・シート3から構成されている。レンチキュラー・シートの種類によって、その三次元画像表示装置の性能が変化される。表1中では、レンチキュラー・シートの種類が下記に記載されるようなPT(パネルタイプ)で特定されている。また、垂直レンズ3Aとは、レンチキュラー・シートのシリンドリカル・レンズ3Aの稜線が液晶パネル(LCD)の垂直方向に一致するように配置されたレンチキュラー・シートを意味している。斜めレンズ3Aとは、レンチキュラー・シートのシリンドリカル・レンズ3Aの稜線が液晶パネル(LCD)の垂直方向に対して角度θを為して配置されたレンチキュラー・シートを意味している。
【表1】
【0061】
II方式における垂直レンズ3Aは、PT=0(角度θ=0)で表され、
II方式における斜めレンズ3Aであって、角度θ=atan(1/4)での配置は、PT=4で表され、
II方式における斜めレンズ3Aであって、角度θ=atan(1/5)での配置は、PT=5で表される。
【0062】
また、多眼式における垂直レンズ3Aは、PT=10000で表され、
多眼式における斜めレンズ3Aであって、
角度θ=atan(1/4)での配置は、PT=10004で表され、
多眼式におけるレンズ3Aであって、
角度θ=atan(1/5)での配置は、PT=10005で表される。
【0063】
従って、PT<10000は、II方式を意味し、PT≧10000は、多眼方式を意味している。また、0<PT<10000は、II方式における斜めレンズ3Aの採用を意味し、10000<PTは、多眼方式における斜めレンズ3Aの採用を意味している。
【0064】
表1に記載されるように使用される二次元ディスプレイ・パネルは、水平画素数nx及び垂直画素数nyを有し、表示面の幅(パネル幅)W及び表示面の高さ(パネル高さ)Hを有し、画素の配列ピッチ(ピクセルピッチpp)が水平方向では、水平方向ピッチW/nx及び垂直方向では、垂直方向ピッチH/nyと設定されて画素が表示面に配置されている。
【0065】
視差数nxとは、視差情報の数で、水平方向にのみ視差情報を与える場合について説明する。即ち、レンズ3A背面の表示面には、視差情報がサブ画素ピッチ(pp/3)で与えられる。実施例では、垂直レンズ3Aにあっては、視差数12について、垂直方向に対してある角度を成し、斜めに配置された斜めレンズ3A(θ=atan(1/4))にあっては、視差数16について説明する。斜めレンズ3Aの場合は、視差情報は、水平方向のみでなく、垂直方向にも割りふることができ、表1からも明らかなように、垂直レンズ3A及び斜めレンズ3Aでは、レンズ3Aの水平ピッチpe(水平幅peに相当している。)の算出式が異なっている。具体的には、角θ=atan(1/4)で傾けて配置された斜めレンズ3Aは、水平方向の視差情報の配分ピッチを4/3倍に増加することができ、実質的に水平サブ画素ピッチが狭くなることに相当している。斜めレンズ3Aで16視差を配分する場合における水平レンズ・ピッチは、垂直レンズ3Aで12視差配分する場合のレンズ・ピッチに相当している。また、1D−II方式ではレンズ水平幅は、集光点を設けないためにレンズ3Aの水平ピッチpeがpp/3の整数倍(視差数倍)に設定されているのに対し、多眼式では集光点を設けるように、光線制御子と二次元ディスプレイ・パネルの間の距離をg,観察距離をLとしたときに,pp/3の整数倍(視差数倍)のL/(L+g)倍に設定される。
空気換算ギャップ(g)は、レンズ3Aの射出瞳から二次元画像表示装置の画素面までのギャップであるが、レンズ3A本体、液晶ディスプレイを構成するガラス或いは偏光板のような光学部材の屈折率を考慮した値であり、ギャップgから三次元画像表示装置の視域(θ)が定まる。即ち、ギャップgが大きければ視域が狭く、視差数が同一の場合、視域θが小さくなった結果、光線間隔が密になり、奥行き手前の表示範囲(Dn、Df)が広くなる。
【0066】
視距離(L)はディスプレイ表面から観察者までの距離である。1D−II方式では集光点を設ける必要はないが、特許文献3に記載されるように観賞距離で視域幅を最大にするためにその位置を仮定する必要がある。要素画像の幅Pとは、レンズ3Aひとつに対応する視差情報群である要素画像を表示する数のサブ画素群の幅に相当している。多眼式では、レンズ3Aの背面の各レンズ3Aに対応する画素数は、整数になる。一方、レンズ幅をサブ画素の整数倍として、光線自体は平行の関係にしながら、レンズ3Aに対応する要素画像表示用画素群のレイアウトだけで視域を広げる1D−II方式の場合、視距離が短い場合は、レンズ3Aに対応する要素画像の配置は、三次元画像表示装置の中心に対して外側になり、視距離が長い場合は、レンズ3Aの真後ろに配置される関係となっている。即ち、視距離が長いと、要素画素幅Pがレンズ・ピッチに近づき、視距離が短いと、要素画素幅Pは大きくなる。1D−II方式では、要素画素幅Pは非整数になるが、サブ画素は当然ながら整数値しかとりえない。よって、特許文献3に記載されるように離散的に(Np+1)画素からなる要素画像を発生することによって、非整数値を実現することができる。
【0067】
視域については先に述べた。空間周波数βは、三次元画像表示装置に表示されるモデルの空間周波数に関するパラメータである。最大表示可能周波数は、非特許文献2に記載されるように水平レンズ・ピッチのナイキスト周波数から定まる。これに対して、表示される三次元画像の保証周波βuserが別に定義される。保証周波βuserが空間周波数βmaxより低ければ問題ないが、空間周波数βmaxより高ければその三次元画像は折り返しなく表示することができない。この表示可能周波数は、非特許文献2に記載されるように飛び出し奥行き量が大きくなるにつれて減少する。保証周波数βuserを補償する範囲が飛び出し限界Dn及び奥行き限界Dfである。
【0068】
飛び出し限界Dn及び奥行き限界Dfは、視差情報が提示される間隔、即ち、レンズ3A背面の水平方向のサブ画素数に依存する。よって、飛び出し限界Dn及び奥行き限界Dfの算出式は、垂直レンズ3Aと水平レンズ3Aで変わってくる。さらに、飛び出し限界Dn及び奥行き限界Dfには表示されるモデルの空間周波数(β)には、依存性がある。即ち、三次元画像表示装置において、その最大表現可能周波数は、ディスプレイ表面のレンズ3A・ピッチで規定される。非特許文献2に開示されるようにディスプレイ表面から離れるにつれて表現可能な周波数が減少するが、表示したいモデルの空間周波数が高ければ表示可能範囲は狭く、表示したいモデルの空間周波数が低ければ広くなる。すなわち,βmax>βuserのときは,βuserを用いてで表示範囲(Dn,Df)を計算すればよい.仮に表示したいモデルの周波数をβmaxとすれば、表示位置はレンズ3Aから射出した光線の間隔が、レンズ・ピッチに等しい範囲に限定される。さらに、βmaxより高い周波数のモデルについては、本発明の実施の形態に係る三次元画像表示装置では表示できない。
【0069】
カメラ間隔(nc)は視距離(L)との比で与えられ、具体的には視距離における視差情報の提示間隔に相当する。
【0070】
最後にカメラ台数について述べる。レンズ3Aひとつに対して、液晶パネルの複数の画素がレイアウトされ、これを要素画像表示用の画素群と称する。要素画像表示用画素群を構成する画素数に限りがあることから、レンズ3Aごとの視域にも制限がある。光線同士を並行に保ちつつ、レンズ3Aごとの視域を仮定した視距離でオーバーラップさせるために、仮定した視距離が短ければ、要素画像表示用画素群は、図2(b)に示されるように画面中心を基準として外側にレイアウトされ、仮定した視距離が長くなるにつれて、図2(c)に示されるようにレンズ3Aの真後ろにレイアウトされるようになる。要素画像表示用画素群の射出瞳に対するレイアウトが変更されるということは、要素画像作成用の視差情報を取得するための平行投影視点画像番号が変わることを意味する。具体的には、ディスプレイ中央より左側にあるレンズ群のための要素画像は、より右方向から取得した視点画像からの視差情報を必要とし、ディスプレイ中央より右側にあるレンズ群のための要素画像は、より左方向から取得した視点画像が必要になる。この結果、特許文献3に記載されるように視点画像数が要素画像表示用画素群の構成画素数より多くなる。このように1D−II方式にあっては、多視点カメラ台数は視距離に依存しているが、視距離で集光点を設ける多眼式ではカメラ台数は視差数に一致する。
【0071】
以上、この表に示した関係式で表される三次元画像表示装置において、当該発明を適用した実施例について説明する。
【0072】
実施例 1(1D−II方式垂直レンズ、表示位置依存)
表1において、PT=0(垂直レンズ3A)、視差数12とした場合について説明する。観察距離は700mmとしている。視差数は12であるが、観察距離700mmで視域幅を最大にするために、1画面を構成するために必要な多視点カメラは22台となる.ここでは詳細な説明を省く。この三次元画像表示装置において、表示するモデルの空間周波数を320cprとすると、手前側の表示限界(Dn)は23.7 mm、奥側の表示限界(Df)は25.4 mmしかないこととなる。この三次元画像表示装置において,視距離から観察した場合に1つのレンズ3Aから観察される画素数が平均で2サブ画素(C=2)であることを確認した。このとき、画面のクロストーク量(C’)は、図4(c)に示されるように3となる。この三次元画像表示装置において表示されるモデルのうち、観察者側の表面(z_m)が飛び出し表示限界Dn、または、奥行き表示限界Dfを越えた位置に表示される図12に符号22又は25で示されるようなモデルに関しては,複数画素に同一視差成分画像表示を行うという判定がなされ、従来(3n+2)、(3n+3)番目(n≧0)の視差情報を提示していたサブ画素には,(3n+1)番目の視差情報を提示し、3サブ画素ごと同一の視差情報を提示している。さらに,観察者側の表面が1/2×Dn、又は、Dfを越えた位置に表示される図10に符号22又は25で示されるようなモデルに関しては、(2n+2)番目の視差情報を提示していたサブ画素には、(2n+1)番目の視差情報を提示し、2サブ画素ごと同一の視差情報を提示している。この結果、飛び出し、奥行きが大きな三次元画像の多重化を自然に抑制することができた。この判定式が以下に示されている
z_m>Dn または z_m<Df → 3サブ画素同一視差情報表示
Dn>z_m>1/2×Dn 又は
1/2×Df<z_m<Df → 2サブ画素同一視差情報表示
1/2×Df≦z_m≦1/2×Dn 1サブ画素ごと視差情報表示
ここで、モデルの観察者側の表面(z_m)を求めるのが難しければ,簡易的に、モデルの重心位置(z_o)で代用する方法もある。また、飛び出し限界及び奥行き限界Dn,Dfは、表1に示したように飛び出し限界及び奥行き限界算出用周波数βの関数であり、モデルの空間周波数が高いと小さい値に、低いと大きい値になる。飛び出し限界及び奥行き限界算出用周波数βはモデルごとに決定しても良いが、モデル全体を代表する値としても良い.また,ここでは、飛び出し限界及び奥行き限界Dn,Dfの値そのものを同一視差情報提示サブ画素数を決める際の敷居値として利用したが、これに順ずる値であっても良い。
実施例 2
実施例1とクロストーク量のみC=1と異なる三次元画像表示装置において,
z_m>Dn または z_m<Df → 2サブ画素同一視差情報表示
としたところ,多重化を無くすことができた。
【0073】
実施例 3(1D−II方式斜めレンズ、レンダリングスピード依存)
表1において、PT=4(斜めレンズ3A)、視差数16とした場合について説明する。観察距離は700mmとした。視差数は16だが、観察距離700mmで視域幅を最大にするために、1画面を構成するために必要な多視点カメラは30台となる。ここでは詳細な説明を省略する。この三次元画像表示装置において、観察者の操作に応じて表示を変えるために、リアルタイム・レンダリングを実施した。DirectXベースで作成したCGモデルを操作すると、毎回30台のカメラから30枚の多視点画像を生成し、これをソフトウェアでサブ画素単位の並び替え処理を行い、要素画像とする。これを二次元画像表示装置に表示することで、レンズ3A越しに三次元画像が表示される。多視点画像を並び替える作業などがあるので、カメラ台数が1/2になったからといって単純にフレームレートは2倍にはならない。(1)式に従って,本実施例においては、カメラ台数に依存する部分としてy=0.5、2サブ画素ごと同一画像を表示したことから、y=0.5,2サブ画素ごと同一画像を表示したことから、
f=fo×(0.5+0.5×1/2)
=fo/0.75
とすることができた(foはシーンによって変化する。ポリゴン数の多い部分では小さく、少ない部分では大きくなる)。
【0074】
実施例 4
実施例1と略同一の三次元画像表示装置で,レンズ3Aの水平ピッチのみ0.688733149と,サブ画素の水平幅(pp/3)の12倍より若干狭くした。これによって視距離に集光点が発生し、クロストークのある(C=2)多眼式となった.この三次元画像表示装置において、表示されるモデルで飛び出しまたは奥行きがDnまたはDfを超えるような表示を行うのは画面の中央に集中し、これを越える表示がなかったことから、図13に示される2次元表示面内の領域26、即ち、画面の高さの1/2、幅の1/2の領域については、2サブ画素ごと同一の視差情報を提示し、これ以外の領域においては、1サブ画素ごとに視差成分画像を提示したところ、全画面において像の多重化が抑制された。
【0075】
実施例 5
実施例3と略同一の三次元画像表示装置で、レンズ3Aの水平ピッチのみ0.688733149として、サブ画素の水平幅(pp/3)の12倍より若干狭くした。これによって視距離に集光点が発生し、クロストークのある(C=2)多眼式となった。この三次元画像表示装置において、fが30fpsを越えないように、(1)式から画面全体における同一画像を表示するサブ画素数xを決めたところ、どのようなシーンにおいても、リアルタイム表示において30fpsを維持することができた。
【0076】
以上説明したように、本発明の実施例に係る三次元画像を表示する表示装置は、特定のモデルの表示時に視差成分画像の割り当てが変更される。
【0077】
背景技術の説明に記載されるように、飛び出し及び奥行きの大きなモデルに関係する提案として、特許文献5があるが、上述したように、この発明の実施の形態に係る表示装置とは、非表示及び同一視差情報を与える手法の点で、基本的手法が異なっている。また、レンダリングに対する負荷が高いモデルに関係する提案としては特許文献4がある。この特許文献4は、あくまでも多眼用の視点数が不足した画像をII方式に適用するための方法であり、しかも、クロストークを考慮して3視差以上であることを前提とした提案技術に関して記述している。
【0078】
この発明の実施の形態に係る表示装置では、同一画像を表示する画素が2画素であっても、CGレンダリングにおけるレンダリング負荷或いは実写における撮影負荷は1/2に激減される。そして、2画素に同一視差成分画像を表示することは、運動視差のフリップを抑えるためにも最適とされる。また、この発明の実施の形態に係る表示装置と特許文献4に開示された表示装置とは、レンダリング負荷、又は飛び出し奥行き限界を考慮して同一視差表示の是非を判定するプロセス並びにそのための機構が異なっている。
【0079】
以上のように、この発明によれば、二次元画像を作成する負荷を低減し、飛び出し或いは奥行きの表示限界を超えても画像が多重化することを防止したII方式三次元画像表示装置が提供される。
【図面の簡単な説明】
【0080】
【図1】この発明の一実施例に係る三次元画像表示装置を概要的に示す斜視図である。
【図2】図1に示す表示装置において、比較例として示す視差成分画像の取得方向を示す説明図である。
【図3】図1に示される三次元画像表示装置において、この発明の一実施例に係る三次元画像表示方法で視差成分画像が間引かれた場合における視差成分画像の取得方向を示す説明図である。
【図4】(a)〜(c)は、図1に示される三次元画像表示装置における視域幅の説明図であって、(a)は、レンズ3Aと背面に用意された画素群と、画素から射出する光線の方向との関係を示し、(b)は、短視距離で視域幅を最大にした場合のレンズ3Aと要素画像の位置関係を示し、(c)は、長い視距離で視域幅を最大にした場合のレンズ3Aと要素画像の位置関係を示している。
【図5】図1に示される表示装置において、II方式における視差情報の見え方を説明する説明図である。
【図6】II方式における視差情報の見え方と、画面の見え方の相関図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図7】II方式において、比較例に係る方法を適用した場合の視差情報の見え方と、画面の見え方の相関図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図8】図1に示した表示装置において、この発明の実施例に係る方法をII方式に適用した場合の視差情報の見え方と、画面の見え方の相関図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図9】図1に示した表示装置において、比較例に係るII方式におけるIIにおける多眼的表示における視差情報の見え方示す説明図である。
【図10】図1に示した表示装置において、この発明の実施例に係る方法をII方式におけるIIにおける多眼的表示に適用した場合における視差情報の見え方示す説明図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図11】(a)は、図1に示す表示装置に表示される要素画像の生成過程を示すフローチャートを示し、(b)は、(a)の生成過程におけるフローチャートを改良したこの発明の実施の形態に係る要素画像の生成過程を示すフローチャートを示す。
【図12】図1に示す表示装置に表示されるモデルの表示位置を説明するための説明図である。
【図13】図1に示す表示装置において、特定の表示領域にこの発明の実施の形態に係る表示方法を適用した例を示す説明図である。
【符号の説明】
【0081】
1...三次元画像表示装置、2...二次元画像表示装置、3...光線制御子、3A...レンズ、6...ディスプレイの視域射出瞳、7...観察者、8...画像取得方向、9...撮影距離、10...撮影間隔、11...間引かれた画像取得方向、12...設定視距離、13...主光線、14...視域幅、18...開口部概念、19...表示面、21...単眼で観察した三次元画像
【技術分野】
【0001】
この発明は、三次元画像表示装置及び三次元画像の表示方法に関する。
【背景技術】
【0002】
近年、裸眼で観察可能な三次元画像(立体画像)を表示する装置が開発されている。この裸眼式の三次元画像を表示する装置として、二眼式或いは多眼式が知られている。二眼式或いは多眼式の三次元画像の表示装置では、いずれも表示装置の表示面にギャップを空けてレンチキュラー・シート(水平方向のみレンズ特性を有する平凸ロッド・レンズ・アレイ)或いはパララックス・バリアといった光線制御素子が対向して配置されている。このような装置では、視差を与える二次元画像が左右の眼に分離して入射され、観察者に「一方向からのみ立体を知覚できる立体画像」を知覚させている。二眼式の三次元画像の表示では、2つの二次元画像が1方向の視点からのみ観察者によって観察されて三次元画像が観察者に知覚させている。二眼式の三次元画像の表示では、視点は固定されていることから、観察者が移動すると三次元画像を知覚することができなくなる。これに対して、一例として、3方向の視点で三次元画像を観察することができる多眼式の三次元画像の表示方法では、4つの二次元画像が用意され、3方向の視点の夫々から視点に対応する2つの二次元画像が観察者によって観察され、視点毎に立体画像を知覚させることができる。従って、観察者が移動しても、不連続ではあるが運動視差を観察者に与えることができる。ここで、運動視差は、事物の像が身体の移動方向とは、逆方向に移動して見える現象として定義される。
【0003】
運動視差をより良く与えることができる立体画像を表示する方式として、II(インテグラル・イメージング)方式が知られている。このII方式は、立体写真の撮影・再生技術に関する1908年に非特許文献1に提案された所謂インテグラル・フォトグラフィー(IP)方式を基にしている。このIP方式では、立体写真の画素に相当するようなレンズ・アレイが用意され、このレンズ・アレイの焦点距離にフィルムが位置されて表示すべき被写体が撮影され、撮影されたたフィルム上に撮影に用いたレンズ・アレイが配置されて被写体の像が立体、即ち、三次元的に再生される。このIP方式では、レンズを介してフィルム上に記録された光線情報には、撮影時における光線進行方向が含まれることから、表示時には、この撮影時の光線進行方向が逆転されてフィルムから空間に向けて光線が射出され、三次元画像が再生される。このプロセスから明らかなように、空間中の観察位置が限定されず、フィルムの解像度が十分に高ければ、ホログラフィと同様に完全な空中像を再生することができる。このIP方式は、観察位置が限定されずに空間に立体画像を表示できる理想的な立体画像の表示方式とされている。
【0004】
II方式の三次元画像表示装置では、フィルムに代えてフラット・パネル・ディスプレイとしての液晶ディスプレイ(LCD)が用いられ、この液晶ディスプレイの前方に間隙を空けて光線制御素子としてレンズ・アレイが配置される。液晶ディスプレイの画素から発せられる光線は、レンズに入射され、このレンズで進行方向が制限されて空間に向けて射出されて三次元立体像がディスプレイ前方の空間或いは背後に表示される。このII方式の三次元画像表示装置においては、非特許文献2に開示されるように、レンズの背面の画素数、即ち、視差画像情報(見る角度によって見え方が変わる視差成分画像)の数が増加すると、三次元画像が表示されるディスプレイの前方或いは奥側(背面側)の表示範囲が広くなるが、LCDの解像度が一定とした場合にはレンズ・ピッチが大きくなり、結果として、三次元画像の解像度が低下される。特に、水平方向にのみ視差情報を与える一次元II(1D−II)方式では、多眼式と同様にレンチキュラー・シートを利用することから、多眼式とは異なる方式にも拘わらず、その分類上多眼式と混同される傾向がある。
【0005】
しかしながら、II方式では、視点画像の精細度の低下に配慮しながら、可能な範囲で視差数を増加し、かつ、光線設計時に観察者の位置を仮定しない、即ち、観察時の両眼に集光点を設けないことを特徴としている。この特徴は、視点画像の精細度の低下を抑制するために視差数を2〜4と低く抑え、両眼に相当する位置に集光点を設けて立体画像を知覚させるという多眼式の設計とは決定的に異なっている。
【0006】
具体的には,多眼式では,水平方向に沿ったレンズ・ピッチ(Ps)が水平画素ピッチ(Pp)の整数倍(m×Pp:mは3以上の自然数)より小さく設計される。また,その比は,レンズ・アレイの焦点距離gと観察視距離Lの比から決まる.すなわち,
Ps:m×Pp=L:(L+g):mは3以上の整数・・・(1)
(1)式の関係により,観察視距離Lにm個の集光点が発生する.この集光点の間は眼間距離に等しくすることから,必然的にgが決まる.
一方、II方式では、水平方向に沿ったレンズ・ピッチ(Ps)或いはその整数倍(n×Ps:nは1以上の整数)が水平画素ピッチ(Pp)の整数倍(m×Pp:mは3以上の自然数)に設計される。すなわち、
Ps=m/n×Pp:nは1以上の整数,mは3以上の整数・・・(2)
(1)式の関係が成立することで、複数のレンズから平行な関係が成立するように光線が射出される.すなわち,視距離に光線が集光するような特殊な集光点を設けない。このために,任意の観察位置において,目に入射した光線の和により略その位置から見えるべき三次元映像を観察できる.すなわち,連続的な運動視差が実現できる.尚、集光点を観察距離より十分に離した場合も同様の効果が期待できる。
【0007】
このように,II方式においては、実際に物があったときの表面からの光線が離散的に抽出されるように光線が再現される。従って、視差数がある程度以上に多くなれば、観察者は、観察範囲中で略その観察位置から見える両眼視点画像を視認できるとともに、連続的な運動視差を得ることができる。多眼式では、視点画像の精細度が重視される結果、運動視差が不完全となる。これに対して、特殊な集光点を設けないという1D−II方式では、両眼視差と運動視差のバランスを考慮して設計されることから、より自然で疲れにくい三次元画像が表示される。
【0008】
このように、II方式の三次元画像を表示する表示装置は、その視差数が多いことが特徴の一つとなっている。視差数が多いということは、(a)三次元画像の画素に相当するレンズの隣接レンズ間の間隔が大きく、即ち、レンズ・ピッチが大きく設定され、また、(b)三次元画像を表示するための視差情報の取得方向が多いことを意味している。前者(a)については、特許文献1に記述されるように視差情報を提示する水平ピッチがサブ画素(各R,G,B画素)の間隔に設定されることで隣接レンズ間の間隔が抑制される。また、後者(b)については、特許文献2に開示されるように、観察領域で集光点が発生することを防ぎつつも、効率よく視差情報を獲得するために、光線が互いに略平行に射出される設計が採用される。この設計では、光線方向が平行の関係にある画素に表示する視差情報は、平行投影の視点画像により効率よく獲得することができる。
【0009】
このような平行投影II方式において、特許文献3には、有限の視距離で、三次元画像を観察できる領域、即ち、視域を広げるために、三次元画像表示装置の表示面上のレンズの位置に依存して、レンズに対応する要素画像が表示される表示用画素群のレイアウト及び表示用画素群に表示される視差情報を最適化する方法が開示されている。ここで、要素画像とは、単一のレンズに対応した視差成分画像の集合を意味している。この特許文献3に開示される表示装置では、視点画像を獲得する方向の数が増えてしまう問題がある。この多視点画像の取得方向の増加は、各視点画像をCGでレンダリングする場合にレンダリング負荷の増大を招き、リアルタイム・レンダリングなど処理速度が要求されるシーンでは問題になる場合がある。また、実写においても、多視点画像の取得方向の増大は、撮影負荷の増加につながり好ましくない。
【0010】
視点数を抑制する方法として、特許文献4に、II方式における視差成分画像の一部が2眼又は多眼用の画像で代用される方法が提案されている。即ち、特許文献4に開示される方法では、要素画像が表示される表示用画素群において、同一位置にある3つ以上の画素同士に、同一の透視投影視点画像からの視差情報が割り振られている。しかし、この方法は、厳密には、光線の方向と視差情報が一致していないことから、画質の低下が避けられない。一般に、表示パネルの前方にレンズが配置された場合にあっても、また、スリットが配置された場合にあっても、像面湾曲或いは開口率の問題から、観察者からひとつの射出瞳を介して観察される画素、即ち、視差情報を1つに制限することは難しい。即ち、観察者からは、ひとつの射出瞳を介して観察される画素は、実際には2画素以上になる問題がある。このように射出瞳を介して観察される画素が2以上となることをII方式におけるクロストークと称している。特許文献4の提案では、クロストークを考慮して、同一の視差情報を割り付ける画素数を3画素以上としている。
【0011】
一方、上述した問題とは、異なる問題として、非特許文献2で定義されるような、飛び出し或いは奥行き限界を超えた画像が、多重像として視認されるという問題がある。これは飛び出し或いは奥行きの大きい三次元画像を表示するには、視差情報を提示する間隔(角度)を狭くする必要があるが、この間隔(角度)が不足していることに基づいている。ところが、前述のクロストークがあることから、その視差が大きいと、3次元画像は、多重化して見えてしまう。
【非特許文献1】M. G. Lippmann、 Comptes Rendus de l'Academie des Sciences、 Vol.146、 pp.446-451(1908).IP
【非特許文献2】H. Hoshino、 F. Okano、 H. Isono、 and I. Yuyama、 J. Opt. Soc. Am. A.、 Vol.15、 pp.2059-2065(1998).NHK
【特許文献1】特開P2004−040722
【特許文献2】特開P2003−288612
【特許文献3】特開P2004−212666
【特許文献4】特開2005−331844
【発明の開示】
【発明が解決しようとする課題】
【0012】
以上のように、II方式において、多視差を利用する三次元画像の表示方式では、ディスプレイ・パネルに表示する二次元画像を作成する負荷が大きい問題がある。また、裸眼で立体視する為に多視差を与える三次元画像表示装置では、飛び出し或いは奥行きの表示限界を超えて表示すると画像が多重化する問題がある。即ち、II方式の三次元画像表示装置において、光線相互の関係を略平行に設定している為に視点画像の取得方向が増加し、レンダリング負荷が増加する問題がある。
【0013】
この発明は、上述した事情に鑑みなされたものであって、二次元画像を作成する負荷を低減し、飛び出し或いは奥行きの表示限界を超えても画像が多重化することを防止したII方式の三次元画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【0014】
この発明によれば、
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置が提供される。
【0015】
また、この発明によれば、
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍より小さくに定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が観察視距離において少なくとも2点以上に集光されるように射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記視差成分画像がある集光位置から取得した一つの視点画像から配分されて生成され、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置が提供される。
【0016】
更に、この発明によれば、
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
を具備する三次元画像表示装置に前記要素画像を表示させる表示方法において、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させることを特徴とする三次元画像の表示方法が提供される。
【発明の効果】
【0017】
この発明のII方式の三次元画像表示装置によれば、二次元画像を作成する負荷が低減され、飛び出し或いは奥行きの表示限界を超えても画像が多重化することを防止することができる。
【発明を実施するための最良の形態】
【0018】
以下、必要に応じて図面を参照しながら、この発明の一実施の形態に係る三次元画像表示装置、三次元画像の表示方法並びに三次元画像を表示する為の多視点画像の作成方法を説明する。尚、各図において、同様または類似する機能を有する構成要素には、同一の参照符号を付し、重複する説明は省略する。
【0019】
図1は、この発明の一実施の形態が適用される三次元画像表示装置を概要的に示す斜視図である。
【0020】
図1に示されるように、三次元画像表示装置1は、液晶ディスプレイ(LCD)等のフラット・パネル・ディスプレイ、即ち、表示部2を備え、このフラット・パネル・ディスプレイ2の前方に所定のギャップを空けて光線制御素子3が配置されている。この光線制御素子3は、2次元II方式にあっては、マトリックス状にセグメントレンズ3Aが配列されたレンズ・アレイ或いはピン・ホールがアレイ状に配列されているピンホール・アレイが相当する。また、光線制御素子3は、1次元II方式にあっては、垂直方向に延出され、水平方向に配列されたシリンドリカル・レンズ3からなるレンチュキュラー・シート或いは垂直方向に延出され、水平方向に配列されたスリットを有するスリット・プレートが相当する。この光線制御素子3Aは、レンズ・アレイ、レンチュキュラー・シート及びスリット・プレートにあっても、光学的には、各レンズ3A或いはスリットは、光学的開口部の射出瞳として取り扱うことができる。
【0021】
フラット・パネル・ディスプレイ(表示部)2の表示面には、画素が略一定の水平ピッチpp及び垂直ピッチでマトリクス状に配列されている。画素を構成する絵素(RGBサブピクセル)上には、夫々対応する縦ストライプ・カラー・フィルターが配列されて高精細液晶パネル・モジュールに構成されている。このパネル・モジュールには、後に説明するような視差成分画像から成る要素画像が表示されて立体像が表示される。
【0022】
このような構造の立体画像表示装置において、観察者が立体画像表示装置を観察する位置を視域面内の位置近傍に想定すると、表示部2の前面及び背面の近傍に立体映像を観察することができる。即ち、視差成分画像の集合としての要素画像が各射出瞳に対応した表示部2の画素に表示され、要素画像からの光線は、射出瞳で制御或いは規制されて観察者に向けられる。観察者が位置する方向に向けられた光線で視差成分画像が送られ、観察者がこの視差成分画像を認識することによって立体画像が認識される。即ち、要素画像からの光線は、光線制御素子3と観察者との間に表示される立体画像或いは表示部2の背後に表示される立体画像の形成に寄与することとなる。
【0023】
IP方式においては、水平面内において、各射出瞳に対応する要素画像が定められている。多眼方式と異なり、IP方式では、射出瞳からは、互いに平行な関係にある光線が視域に向けて射出されて立体像が視域に形成される。IP方式においても、また、多眼方式においても、要素画像から対応する射出瞳を介して射出される光線は、射出瞳で規制を受けるが、発散されるように視域に向けられる。しかし、IP方式では、1つの射出瞳からある方向に向けられる1つの光線に着目すると、この光線に平行な複数の光線が他の射出瞳の夫々から同様に射出される。これに対して、多眼方式においては、光学的開口からの光線は、観察基準線上の3点以上の集束点に向けて集束される。多眼方式では、その集束点に観察者の2眼が位置する限り、立体像を観察することができるが、集束点から目が外れると立体像を観察することができなくなる。これに対して、IP方式では、観察者が視域内に位置する限り、観察者の位置に応じた視差成分画像が光学的開口からの光線で観察者に伝達され、視差成分画像の集合として立体像が観察者によって認識される。従って、各要素画像は、後に説明するように視差成分画像の集合として定義され、視差成分画像からの光線が対応する射出瞳で制御されて所定方向に向けられ、視域内の観察者に視差を与えている。表示部2には、要素画像の集合としての視差合成画像が表示され、視域内の観察者の位置に応じて観察者の目には、視差成分画像が入射され、結果として、観察者は、立体画像を認識することができる。
【0024】
この発明の実施の形態に係るII方式の三次元画像表示装置においては、下記で説明する特定モデルに関しては、図2に示されるように複数方向から取得する必要のある視点画像の取得方向(視差番号-4,-3,-2,-1,1,2,3,4に相当する視差取得方向)が図3に示されるようにひとつおき又はそれ以下の視点画像の取得方向に減少され、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられている。一例として、図3では、ひとつおきの視点画像の取得方向(視差番号-3,-1,1,3に相当する視差取得方向に減少され、同一視点の視差成分画像(視差番号-3,-1,1,3に相当する視差成分画像)が隣接した2つの視差成分画像が表示される領域に表示される。即ち、図2に示す視差番号-4,-3が表示される領域には、図3に示すように視差番号-3が表示され、図2に示す視差番号-2,-1が表示される領域には、図3に示すように視差番号-1が表示され、図2に示す視差番号1,2が表示される領域には、図3に示すように視差番号1が表示され、また、図2に示す視差番号4,3が表示される領域には、図3に示すように視差番号3が表示される。従って、表示部2に表示する2次元表示データでは、視差情報取得の為の負荷が1/2またはそれ以下に低減される。
【0025】
図2に示される例では、ある要素画像が表示される表示領域に視差番号-4から視差番号4までの8個視差成分画像が表示されているが、図3に示すと同様に視差番号-Nc/2から視差番号Nc/2までのNc個視差成分画像が表示される例に関しても、同様に奇数番号或いは偶数番号の視差番号を有するNc/2個視差成分画像が連続して隣接配置されるように2次元表示装置2の表示面に表示される。ここで、Ncは、整数であって、後に述べるように多視点カメラ数に相当する。
【0026】
尚、視差成分画像数が十分に多い場合には、通常のモデルであれば、異なる視差番号を有する視差成分画像が本来表示されるべき2以上の領域、例えば、異なる視差番号を有する視差成分画像が本来表示されるべき3つの領域に、下記に述べるような特殊なモデルにあっては、同一の視差成分画像がこの2以上の領域、例えば、3つの領域に表示されても良い。このような表示によって、三次元画像の多重化を防止することができる。
【0027】
動画であれば、通常のモデルに係る表示に下記で述べるような特殊なモデルが含まれるあるフレームに切り替わった時点で、上述したように、視差成分画像は、ひとつおき又はそれ以下の視点画像の取得方向に相当する視差成分画像に制限され、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられる。
【0028】
上述したように、隣接した表示領域に同一の視差情報を提示ことによって、飛び出し及び奥行き限界を超えた三次元画像の多重化を防止することができる。しかし、II方式のメリットである連続的な運動視差が失われ、観察位置の移動に対して三次元画像がフリップする(不完全な運動視差)という問題が生じる。これらの問題点を考慮して、本発明の実施例に係る三次元画像を表示する表示装置は、好ましくは、下記に例示するモデルの表示時に、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられるように視差成分画像の割り当てが変更される。
【0029】
(1) 飛び出し及び奥行きの大きなモデル
観察視距離をL,光線制御子と表示面の間隔をg,サブ画素幅をPp,モデルの空間周波数をβuserとしたときに、
z(表示位置)≧Dn(飛び出し限界)=L/(2×((L+g)/L)×Pp/g×βuser +1)...(3)
を飛び出しの大きなモデル,
表示位置≦Df(奥行き限界)=-L/(2×((L+g)/L)×Pp/g×βuser-1)...(4)
を奥行きの大きなモデルとすることができる.ここで,βuserはモデルの周波数のため任意に設定可能だが,300〜350cprに設定すると実感に合いやすい. ただし,βuserは,三次元画像表示装置のレンズ・ピッチから決まる最大表示可能周波数(βmax)を超えて設定することはできない(表1)。
【0030】
(2) リアルタイム・レンダリングにおいて、レンダリングに対する負荷が高いモデル
サブ画素毎に視差情報を配置した場合のフレームレートをfo[fps]とすると、同一視差情報を表示するサブ画素数をx、多視点カメラ台数に依存する割合をyとすると、最終的なフレームレートをf[fps]は、
f=F(x、y)
=fo×1/((1−y)+y×1/x)...(1)
で与えられる.所望のフレームレートになるように,xを調整する.レンダリング負荷が高い(フレームレートを落としやすい)モデルの典型的なものとしては,ポリゴン数が多いものをあげることができる。
【0031】
(1)の飛び出し及び奥行きの大きなモデルに関しては、表示される三次元画像に運動視差が与えられるが運動視差が不連続となる。しかし、飛び出し及び奥行きの大きなモデル(表示画像)では、運動視差が不連続となっても、多重化が抑制された画像の方が視覚上好ましい。この視覚上の理由に基づいて、(1)の飛び出し及び奥行きの大きなモデルに関して、本発明の実施例に係る表示装置係る表示が適用される。
【0032】
また、(2)のレンダリングに対する負荷が高いモデルに関しては、連続的な運動視差は、特に高品質な三次元画像であって、しかも、静止画の三次元画像に要求される特性である。フレーム表示期間内に観察者が観察位置を変えるようなことが殆どおきない動画の表示においては、連続的な運動視差への要請が低下する反面、高いリフレッシュレートが要求される。
【0033】
視点画像の取得方向(視差取得方向)が間引かれても、上述したようなモデルであれば、画質に悪影響をもたらさず、クロストークを低減することができる。
【0034】
次に、このように隣接した表示領域に同一の視差情報、即ち、視差成分画像を提示するとの発想に至る発明者の着想をII方式における3次元画像を表示為の原理を参照しながら以下に説明する。
【0035】
下記の説明においては、説明を簡素化するために、一次元II方式(1D−II方式)について説明する。
【0036】
1D−II方式(一次元II方式)では、II方式の視差情報、即ち、視差成分画像が水平方向に沿って画素に振り分けられ、垂直方向に関しては、2眼或いは多眼の視差情報、即ち、視差成分画像が与えられている。II方式における視差情報に関しては、水平断面図のみで説明することができる。従って、この発明の着想を二次元II方式(2D−II方式)に適用する場合には、水平方向における視差成分画像の割り当て変更の概念が垂直方向についても同様適用されれば良い。
【0037】
まず、(1)の効果について説明する。図4(a)〜(c)には、1D−II方式における視差情報の見え方(水平断面図)が図示されている。パネルの前面には、レンチュキュラー・レンズ3Aが配置される。図4(a)〜(c)には、観察者7がレンズ3Aを介して観察できる視差情報の範囲が模擬的に示されている。観察者が左右に移動するとレンズ3Aを介して観察されるサブ画素(R,G,B絵素)が変化される。1D−II方式にあっては、レンズ3Aから射出される光線は、互いに平行となる関係にあることから、観察者が透視投影的に観察すると、レンズ3A越しに見える位置がレンズ3A(レンチュキュラー・シートの各レンズ3A)毎に少しずつ異なる。換言すれば、レンズ3Aごとに視差情報を提示する位置が表示パネル上でレンズ・ピッチだけずれ表示される。また、有限の視距離における視域幅を最大にするためには、レンズ3Aに対応した要素画像を表示するための要素画像表示用画素群のレイアウトもレンズ3Aの位置に応じて異なっている。
【0038】
図4(a)では、図1に示す表示装置における表示面端に表示され、ある1つのレンズ3Aに対応する要素画像が当該レンズ3Aより外側にレイアウトされて表示パネルに表示される様子を示している。また、図4(b)及び図4(c)は、各レンズ3Aに対応する視差情報が表示面上に提示される位置の相違に基づいて、設定した視距離における視域が変化される様子を定性的に示している。図4(b)に示されるように視域を最大に確保するために視距離が短く設定される場合には、図4(b)との比較から明らかなように、対応するレンズ3Aと要素画像を表示する為の画素群の位置との間がより乖離される関係、即ち、より離れる関係にあることが判る。
【0039】
図5は、比較例に係る3次元表示装置における1D−II方式に特有の各レンズ3Aから与えられる視差情報が視域面12において提示される位置がずれて見えることを説明する模式図を示している。図5においては、表示パネル2の表示面に視差情報が与えられて各画素に視差情報、即ち、視差成分画像が表示される。視差情報は、撮影方向に対応する視差方向で特定される。図5では、8つの撮影番号に相当する8視差方向を示す視差番号(4,3,2,1,-1,-2,-3,-4)で視差情報が特定されている。視差番号(4,3,2,1,-1,-2,-3,-4)を有する視差情報、即ち、視差成分画像が画素群4としての表示パネル2上の画素に与えられ、この画素群4に対応してレンズ3Aが配置され、このレンズ3Aを通過してレンズ3Aから視距離Lだけ離れた視域面12に視差情報15が投影される。
【0040】
図5には、視域面12は、画素群4に表示された要素画像が投影される視域幅14が示され、この視域幅14で定まる範囲内において、正常な3次元像を観測することができる。画素群4を構成する画素からの視差情報を含む主光線13は、レンズ3Aの主点13P0を通過して視域面12に向けられることから、表示パネル2の表示面に表示される視差情報とは、反転された視差番号(-4,-3,-2,-1,1,2,3,4)を有する視差情報15として投影される。視域面12を含む観察側では、1つのレンズ3Aから視差番号(4,3,2,1,-1,-2,-3,-4)を有する視差成分画像が投影されて視差番号(4,3,2,1,-1,-2,-3,-4)を有する視差情報15として投影視差成分画像15Aが生ずる。同様に隣接するレンズ3Aから投影視差成分画像15Aが生じ、視域面には、レンズ3Aの数だけ投影視差成分画像15Aが生ずることとなる。
【0041】
同一視差番号で指定される主光線13は、互いに略平行にレンズ3Aから射出されるように、レンズ3の射出瞳のピッチが同一方向の画素幅のn倍(n:2以上の自然数)、またはm/n倍(m:1以上の自然数)に設定されている。図5に示される例では、視差番号(-4,-3,-2,-1,1,2,3,4)を有する視差情報17、即ち、視差成分画像が表示される8画素で画素群4が構成されることから、画素幅の8倍(n=8)でレンズ3Aの射出瞳が配列されるようにレンチュキュラー・シート上にレンズ3Aが配列される。他の光学開口、例えば、アパーチャーにあっても同様にアパーチャー・ピッチが画素幅のn倍(n:2以上の自然数)、またはm/n倍(m:1以上の自然数)に設定される。また、m/n倍にあっても、n/m個毎に射出瞳と画素が同一のレイアウトになる関係となる。
【0042】
レンズ3Aから射出する同一視差番号で特定される主光線は、互いに平行の関係にあることから、その主光線は、射出瞳のピッチだけずれている互いに平行に視域に向けられるような軌跡を描いている。即ち、画素幅のn倍(n:2以上の自然数)、又は、m/n倍(m:1以上の自然数)の値Δshiftだけ主光線13の軌跡がずれ、即ち、主光線13がシフトされて視域に向けられる。換言すれば、視域面上では、ある基準線A(一例として光軸)で特定される画素群4及びこの画素群4に対応するレンズ3Aを基準とすると、この画素群4に隣接する画素群は、隣接するレンズ3Aを通過して同一の視域面12に投影されることから、図5に示すように視域面12上では、画素群が値Δshiftだけシフトして視差成分画像が投影されることとなる。従って、観察者側から見ると、図5に示したように、視距離Lにおいて、あるレンズ3Aで拡大されて観察される画素境界があるとすると、そのとなりのレンズ3Aで拡大されて見える部分は、画素境界から少しずれて観察される。即ち、観察者から見ると、レンズ3Aごとに拡大されて見える位置が少しずつシフトされて視域面上では、投影視差成分画像15Aがシフトされて生ずることとなる。レンズ瞳と画素中心を結ぶ線が画素から射出する光線の主光線13に相当することから、その射出方向(視差番号の方向でもある)が決定される。即ち、その画素に表示するべき画像の取得方向が決定される。
【0043】
1D−II方式においては、レンズ3Aに対応する画素群が固定され、画素群には異なる視差成分画像が与えられている。ここで、単一の平行投影(水平平行投影)で取得した画像から視差情報が分離されて夫々異なる画素群に与えられる。即ち、観察者側からみると、ディスプレイ表示領域内で、複数レンズ3A毎に同一の視差番号に由来する視差情報が表示され、かつ、その視差番号で指定される視差情報15は、画面内で水平方向に連続的に変化して見える。図5に示される基準線Aの位置から片目で観察すると、正面のレンズ3Aによって視差情報(視差成分画像)の境界が拡大して観察され、正面から右側のレンズ3Aによって−1番の視差番号の画像の表示が観察され、正面から右に移動するに従って、視差番号が減少された画像が観察される。また、正面から左のレンズ3Aによって、+1番の視差番号の視差成分画像が拡大表示されて観察され、正面から左に移動するに従って、視差番号は増大して観察される。観察者が観察位置を右にずらせば、各レンズ3Aを介して観察できる視差番号は増加し、左にずらせば、各レンズ3Aを介して観察できる視差番号は減少される。図5では、レンズ3Aの背面の視差成分画像は、右側がマイナス、左側がプラスになるように配され、プラスの視差成分画像は、ディスプレイ中央に対面した観察者から見て右側から、マイナスの視差成分画像は左側から取得されている。このため、観察位置が右にずれると、視差番号が増加する関係となる。
【0044】
視距離が短ければ、同一の視差番号で指定される視差情報を投影することができるレンズ3Aの数は減少し、多くの平行投影画像から1つの略透視投影的画像が構成される。視距離が長くなれば、同一の視差画像番号で指定される視差情報を投影することができるレンズ3Aの数は増大し、無限遠から観察すれば、単一の視差画像番号の画像(即ち、平行投影画像)を観察することになる。
【0045】
図6(a)を参照して、クロストークに関係するレンズ3Aを介して観察されるサブ画素の数に依存して三次元画像がどのように見えるかを説明する。クロストークは、レンズ3A3においては、レンズ3Aのデフォーカスの程度或いは像面湾曲、また、スリットにおいては、スリットの開口幅に依存して発生される。レンズを介して観察される領域を無限小とすることはできず、実際は、二次元画像表示装置におけるブラック・マトリクスなどの画素境界部がレンズで拡大されることによって生ずる輝度ムラ、即ち、モアレイの防止及びレンズを介して観察される画素、即ち、カメラ番号(視差番号に相当する。)の切り替わりを連続的にするために、1つのレンズから見える領域には、有限の幅を与えている。例えば、その領域の幅がサブ画素の水平幅に完全に一致(c=1)させたとしても、1D−II方式の場合は、これまでに述べたようなレンズ3Aを介して観察される視差番号が切り替わる現象に基づいて、画面前面においてクロストークが発生される。
【0046】
図6(a)では、表示部2の中心を基準に対称に視差番号が割り振られている。しかし、観察側では、投影視差成分画像15A中に、例えば、あるレンズ3Aからは−2番の視差情報、視差成分画像が見えたとしても、その隣のレンズ3Aからは同時に−3番の視差情報も少し見える。また、さらに位置をずらしたレンズ3Aからは、投影視差成分画像15A中に、−2番と−3が50%ずつ見え、さらに離れたレンズ3Aからは、投影視差成分画像15A中に、−3番の視差情報のみが見え、更に、隣接したレンズ3Aでは−4番の視差情報も同時に見えることとなる。即ち、画面の略全領域でカメラ番号が変化しながらも平均として2つの視差情報(視差成分画像)が見えることとなる。即ち、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)においても、画面としてのクロストークC’が2(C’=2)となり、図6(b)に示すように各レンズ3Aを介して符号20で示すような表示面19上の範囲18(領域)で2視差成分画像が観察される。同様に、1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)の場合は、画面としてのクロストークC’が3(C’=3)となり、図4(c)に示すように各レンズ3Aを介して符号20で示すような表示面19上の範囲18(領域)で3視差成分画像が観察される。画面としてクロストークが存在することで、視差情報の切り替わりが滑らかになり、観察者の両眼には、略その位置から見た視差情報が見えることになる。但し、飛び出し、奥行きが大きく、視差情報同士の差(視差)が大きいと、視差情報同士が融合できず、C’=2のときは、二重像、C’=3のときは、三重像として見えてしまう。
【0047】
尚、特許文献5では、視差情報、視差成分画像を表示しない画素を提示することを述べている。図7(a)には、この特許文献5に開示される視差成分画像を表示しない画素が符号Bで示されている。表示しない画素を設けることにより、各レンズ3A越しに見える視差情報の数が減らされ、画面全体のクロストーク量が減らされる。図7(b)に示すように、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)においても、画面としてのクロストークC’を1(C’=1)とすることができ、符号21で示されるように二重像に見えていた多重化を解消することができる。しかし、表示しない画素を設ける場合には、符号22で示されるように視差番号の切り替わり位置にある像を不連続に見せることとなる。ところがこの手法は輝度低下に繋がるとともに、レンズ3Aごとの明るさのムラを生じることから、モアレイが発生し画質の低下が著しい。図7(c)に示すように、ある1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)においても、視差番号の切り替わり部分の二重像が残るとともに、モアレイも相変わらず発生して、このままでは観賞に耐えない。
【0048】
これに対し、図3に示すように同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられているこの発明の実施の形態においては、このような問題を解決することができる。
【0049】
図8(a)には、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられている場合における観察位置からの視差成分画像の見え方が示されている。また、図8(b)及び(c)には、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)及びある1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)における表示部2の画面全体の見え方を示している。図8(a)に示すように表示面に視差番号-n〜1〜nを有する視差成分画像が表示される場合において、例えば、視差番号−5〜5を有する視差成分画像が表示される例では、視差成分画像が間引かれ、例えば、視差番号−4,―2,1,3を有する視差成分画像が間引かれ、とびとびの視差番号−5,―3,―1,2、4を有する視差成分画像が連続する表示領域に表示される。従って、8(b)及び(c)に示す例では、観察側では、とびとびの視差番号−5,―3,―1,2、4を有する視差成分画像が投影され、観察される。この実施例においては、よれば、画面のクロストーク(像の多重化)が抑えられるとともに、モアレイも発生されない。
【0050】
但し、この実施例に係る視差情報を間引くこの方法には、次のようなデメリットもある。丸みを帯びた(垂直方向に連続的に奥行きが変わるような)モデルが次第に書き割り(平面画像が奥行き方向に重ねて配置された映像)的に見えてくる問題がある。視差情報の提示間隔が開くために、連続的な奥行き変化が表現できない(エッジの表現だけになる)ということから当然ではあるが、この問題を考慮すると、視差情報を間引く本手法が有効なのは、飛び出し、奥行き限界を超えて、クロストークが多重像という弊害を引き起こす領域であることがわかる(飛び出し奥行きの小さいモデルで、像が多重化して見えるという問題が発生していない領域は、視差情報がモデルを正しく表現するために役立っているために、間引かないほうが良い)。
【0051】
次に、比較例としてIIにおける多眼的配置について説明する。ここで、IIにおける多眼的配置とは、1D−II方式三次元画像表示装置において、全要素画像を構成する視差番号を略同一にする手法である。略同一ということは、視域幅が最大になるように設定した視距離において、ある位置から片目で観察した場合に、画面全体に視認される視差番号が単一になるようにレイアウトすることを意味する。略同一とは、1D−II方式では、有限の視距離で視域幅を最大化する場合に、Npを2以上の自然数とした場合に、要素画像が画素数Np及び(Np+1)の2値で構成されても、ある位置から片目で観察した場合に、画面全体に視認される視差番号が単一と見なすことを意味している。ここで、(Np+1)画素からなる要素画像の数が増えれば増えるほど、視域の形状は図4(c)から図4(b)と変化される。特許文献4に開示されるように多眼的レイアウトでは、視距離から光線間隔で水平方向が透視投影的に撮影した視差成分画像から要素画像アレイを作成するとより正確な三次元画像を表示することができる。図9には、IIにおける多眼的方式の表示装置におけるある視距離での見え方が示されているが、図最下段の視差情報の配列が図8(a)と異なり、ある位置から観察した場合の全レンズ3Aから見える視差番号が略同一に保たれている。このようなレイアウトで視差成分画像を配置することを“IIにおける多眼的配置”と称する。このように、IIにおける多眼的配置では、観察者が視距離の一点から(片目で)観察する視差番号は略1つとなることから、水平方向が平行投影の視差成分画像を用い、1点から(片目で)観察して連続的に視差画像番号が画面内で切り替わることによって透視投影的な画像が見える1D−II方式とは、ハードウェアに変化がないが、視差成分画像の作成方法と視差番号(カメラ番号)のレイアウトのみが異なっている。
【0052】
このようなIIにおける多眼的配置においても、複数サブ画素に同一視差情報を提示することで、画面全体のクロストークを低減することができる。
【0053】
IIにおける多眼的配置において、視差成分画像が間引かれ、同一視点の視差成分画像が隣接した2つ又はそれ以上の視差成分画像が表示される表示部2上の表示領域に割り当てられている例が図10(a)に示されている。ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)において、図10(b)或いは(c)に示すように画面としてのクロストークC’を1(C’=1)とすることができ、奥行き手前の表示領域を超えた三次元画像についても完全に多重化を防ぐことができる。しかしながら、観察位置が左右にずれたときにはその運動視差は当然ながら不連続(フリッピング)となり、多眼表示に近いものとなる。
【0054】
尚、図10(b)及び(c)は、ある1つのレンズ3Aで1つの視差成分画像を観察することを想定している場合(C=1)及びある1つのレンズ3Aで2つの視差成分画像を観察することを想定している場合(C=2)における表示部2の画面全体の見え方を示している。
【0055】
上述した考察では、1D−II方式について説明されているが、実はクロストークのある多眼式にも同様の考察を適用することができる。即ち、複数画素に同一視差情報を提示することは、飛び出し奥行き限界を超えた三次元画像の多重化による画像劣化を抑制する効果がある。
【0056】
次に、(2)のレンダリングに対する負荷が高いモデルに対する効果について説明する。複数画素に同一画像が表示されることによって犠牲になるのは、丸みをおびた正しい立体表現と運動視差である。ここで、丸みを有するモデル画像は、連続した面で表示されず、丸みを有するモデルが複数の片に分割されて見え、しかも、複数の片は、不連続として表示される。このような表示は、丸みを有するモデルに対する書き割り効果と称せられる。また、運動視差は、観察位置が水平にずれたときの視差の変化、又は、動画において、モデルが水平に移動するときに位置の変化を意味し、運動視差に伴い立体画像が正常に観察されない虞がある。書き割り効果及び運動視差に基づく結果は、静止画では認識しやすいが、動画においては認識しづらくなる。なぜなら、丸みを帯びた表現或いは正しい運動視差は、観察者が対象をじっくり見る場合に重視されるものであり、画像のほうが刻々と変化し、観察者がモデルを回りこんで観察することが殆どないといっていい動画においては、この手の劣化は目立ちにくい傾向にある。一方、多視点レンダリングは画像作成における重大な負荷となり、リアルタイム・レンダリングにおける主要なリフレッシュレート低下原因となりうる。リフレッシュレートの低下は非常に認識されやすい画質の低下となっている。つまり、動画においては、視点数の低下よりもリフレッシュレートの維持が望まれるシーンがしばしば発生する。
【0057】
図11は、この発明の実施の形態に係る画像の処理手順を示すフローチャートである。画像処理に基本的な流れでは、画像装置の情報、即ち、ディスプレイの情報、例えば、表1に示される二次元ディスプレイ・パラメータ、鑑賞パラメータDn、Df及びレンチュキュラー・シート・パラメータが予め用意され、図11(a)に示す記憶部100に格納される。次に、これら情報が反映された多視点画像が多視点画像取得部102で作成される。具体的には、多視点カメラで被写体としての立体物が撮影され、或いは、リアルタイム・レンダリングによって多視点画像が作成される。その後、要素画像作成部104において、多視点カメラの画像が要素画像に変換される。即ち、視差番号で指定される多視点カメラの画像が視差成分画像に分割され、視差番号で夫々指定される視差成分画像が集められて要素画像が生成される。作成された要素画像は、画像表示部105の表示面に射出瞳に対応して表示され、要素画像が射出瞳を介して視域に投影されることによって立体画像が視域内から観察される。
【0058】
図11(b)に示されるように、ディスプレイ情報記憶部100に加えて表示モデル毎の 観察者側の表面(z_m)及びモデルの重心位置(z_o)が格納されているモデル情報記憶部106並びにフレームレートを定めるフレームレート入力部107を備え、これらのディスプレイ情報記憶部100、モデル情報記憶部106及びフレームレート入力部107からデータが要素画像作成部104に供給されている。
【0059】
この要素画像を作成する要素画像作成部104は、図10(b)に示すようにしきい値を決定するしきい値決定部110、このしきい値決定部110で決定されたしきい値に基づいて同一視差情報を表示するモデル或いはエリアを判定する同一視差情報表示エリア判定部112、同一視差情報を表示するサブ画素数を決定する同一視差情報表示サブ画素数決定部を備えている。しきい値及び同一視差情報を表示するエリアの決定には、ディスプレイ情報(Dn,Df,C(クロストーク量))が必要とされ、このディスプレイ情報(Dn,Df,C(クロストーク量))がディスプレイ情報記憶部100から供給される。また、同一視差情報を表示するモデルを決めたり、領域を決めたりするためには、モデルの表示位置情報も必要とされ、モデル表示位置情報(z_m,z_o)は、モデル情報記憶部106から供給される。また、所望のフレームレートが入力された場合は、そこから同一視差情報を表示するサブ画素数が逆算されるが、同一視差情報を表示するエリアは自動的に全画面に設定され、この結果は、多視点画像取得部に反映される。
【0060】
本実施例に係る表示装置及び比較例に係る表示装置では、表1に示した二次元画像表示用の液晶パネル2(解像度:WUXGA)及びレンチキュラー・シート3から構成されている。レンチキュラー・シートの種類によって、その三次元画像表示装置の性能が変化される。表1中では、レンチキュラー・シートの種類が下記に記載されるようなPT(パネルタイプ)で特定されている。また、垂直レンズ3Aとは、レンチキュラー・シートのシリンドリカル・レンズ3Aの稜線が液晶パネル(LCD)の垂直方向に一致するように配置されたレンチキュラー・シートを意味している。斜めレンズ3Aとは、レンチキュラー・シートのシリンドリカル・レンズ3Aの稜線が液晶パネル(LCD)の垂直方向に対して角度θを為して配置されたレンチキュラー・シートを意味している。
【表1】
【0061】
II方式における垂直レンズ3Aは、PT=0(角度θ=0)で表され、
II方式における斜めレンズ3Aであって、角度θ=atan(1/4)での配置は、PT=4で表され、
II方式における斜めレンズ3Aであって、角度θ=atan(1/5)での配置は、PT=5で表される。
【0062】
また、多眼式における垂直レンズ3Aは、PT=10000で表され、
多眼式における斜めレンズ3Aであって、
角度θ=atan(1/4)での配置は、PT=10004で表され、
多眼式におけるレンズ3Aであって、
角度θ=atan(1/5)での配置は、PT=10005で表される。
【0063】
従って、PT<10000は、II方式を意味し、PT≧10000は、多眼方式を意味している。また、0<PT<10000は、II方式における斜めレンズ3Aの採用を意味し、10000<PTは、多眼方式における斜めレンズ3Aの採用を意味している。
【0064】
表1に記載されるように使用される二次元ディスプレイ・パネルは、水平画素数nx及び垂直画素数nyを有し、表示面の幅(パネル幅)W及び表示面の高さ(パネル高さ)Hを有し、画素の配列ピッチ(ピクセルピッチpp)が水平方向では、水平方向ピッチW/nx及び垂直方向では、垂直方向ピッチH/nyと設定されて画素が表示面に配置されている。
【0065】
視差数nxとは、視差情報の数で、水平方向にのみ視差情報を与える場合について説明する。即ち、レンズ3A背面の表示面には、視差情報がサブ画素ピッチ(pp/3)で与えられる。実施例では、垂直レンズ3Aにあっては、視差数12について、垂直方向に対してある角度を成し、斜めに配置された斜めレンズ3A(θ=atan(1/4))にあっては、視差数16について説明する。斜めレンズ3Aの場合は、視差情報は、水平方向のみでなく、垂直方向にも割りふることができ、表1からも明らかなように、垂直レンズ3A及び斜めレンズ3Aでは、レンズ3Aの水平ピッチpe(水平幅peに相当している。)の算出式が異なっている。具体的には、角θ=atan(1/4)で傾けて配置された斜めレンズ3Aは、水平方向の視差情報の配分ピッチを4/3倍に増加することができ、実質的に水平サブ画素ピッチが狭くなることに相当している。斜めレンズ3Aで16視差を配分する場合における水平レンズ・ピッチは、垂直レンズ3Aで12視差配分する場合のレンズ・ピッチに相当している。また、1D−II方式ではレンズ水平幅は、集光点を設けないためにレンズ3Aの水平ピッチpeがpp/3の整数倍(視差数倍)に設定されているのに対し、多眼式では集光点を設けるように、光線制御子と二次元ディスプレイ・パネルの間の距離をg,観察距離をLとしたときに,pp/3の整数倍(視差数倍)のL/(L+g)倍に設定される。
空気換算ギャップ(g)は、レンズ3Aの射出瞳から二次元画像表示装置の画素面までのギャップであるが、レンズ3A本体、液晶ディスプレイを構成するガラス或いは偏光板のような光学部材の屈折率を考慮した値であり、ギャップgから三次元画像表示装置の視域(θ)が定まる。即ち、ギャップgが大きければ視域が狭く、視差数が同一の場合、視域θが小さくなった結果、光線間隔が密になり、奥行き手前の表示範囲(Dn、Df)が広くなる。
【0066】
視距離(L)はディスプレイ表面から観察者までの距離である。1D−II方式では集光点を設ける必要はないが、特許文献3に記載されるように観賞距離で視域幅を最大にするためにその位置を仮定する必要がある。要素画像の幅Pとは、レンズ3Aひとつに対応する視差情報群である要素画像を表示する数のサブ画素群の幅に相当している。多眼式では、レンズ3Aの背面の各レンズ3Aに対応する画素数は、整数になる。一方、レンズ幅をサブ画素の整数倍として、光線自体は平行の関係にしながら、レンズ3Aに対応する要素画像表示用画素群のレイアウトだけで視域を広げる1D−II方式の場合、視距離が短い場合は、レンズ3Aに対応する要素画像の配置は、三次元画像表示装置の中心に対して外側になり、視距離が長い場合は、レンズ3Aの真後ろに配置される関係となっている。即ち、視距離が長いと、要素画素幅Pがレンズ・ピッチに近づき、視距離が短いと、要素画素幅Pは大きくなる。1D−II方式では、要素画素幅Pは非整数になるが、サブ画素は当然ながら整数値しかとりえない。よって、特許文献3に記載されるように離散的に(Np+1)画素からなる要素画像を発生することによって、非整数値を実現することができる。
【0067】
視域については先に述べた。空間周波数βは、三次元画像表示装置に表示されるモデルの空間周波数に関するパラメータである。最大表示可能周波数は、非特許文献2に記載されるように水平レンズ・ピッチのナイキスト周波数から定まる。これに対して、表示される三次元画像の保証周波βuserが別に定義される。保証周波βuserが空間周波数βmaxより低ければ問題ないが、空間周波数βmaxより高ければその三次元画像は折り返しなく表示することができない。この表示可能周波数は、非特許文献2に記載されるように飛び出し奥行き量が大きくなるにつれて減少する。保証周波数βuserを補償する範囲が飛び出し限界Dn及び奥行き限界Dfである。
【0068】
飛び出し限界Dn及び奥行き限界Dfは、視差情報が提示される間隔、即ち、レンズ3A背面の水平方向のサブ画素数に依存する。よって、飛び出し限界Dn及び奥行き限界Dfの算出式は、垂直レンズ3Aと水平レンズ3Aで変わってくる。さらに、飛び出し限界Dn及び奥行き限界Dfには表示されるモデルの空間周波数(β)には、依存性がある。即ち、三次元画像表示装置において、その最大表現可能周波数は、ディスプレイ表面のレンズ3A・ピッチで規定される。非特許文献2に開示されるようにディスプレイ表面から離れるにつれて表現可能な周波数が減少するが、表示したいモデルの空間周波数が高ければ表示可能範囲は狭く、表示したいモデルの空間周波数が低ければ広くなる。すなわち,βmax>βuserのときは,βuserを用いてで表示範囲(Dn,Df)を計算すればよい.仮に表示したいモデルの周波数をβmaxとすれば、表示位置はレンズ3Aから射出した光線の間隔が、レンズ・ピッチに等しい範囲に限定される。さらに、βmaxより高い周波数のモデルについては、本発明の実施の形態に係る三次元画像表示装置では表示できない。
【0069】
カメラ間隔(nc)は視距離(L)との比で与えられ、具体的には視距離における視差情報の提示間隔に相当する。
【0070】
最後にカメラ台数について述べる。レンズ3Aひとつに対して、液晶パネルの複数の画素がレイアウトされ、これを要素画像表示用の画素群と称する。要素画像表示用画素群を構成する画素数に限りがあることから、レンズ3Aごとの視域にも制限がある。光線同士を並行に保ちつつ、レンズ3Aごとの視域を仮定した視距離でオーバーラップさせるために、仮定した視距離が短ければ、要素画像表示用画素群は、図2(b)に示されるように画面中心を基準として外側にレイアウトされ、仮定した視距離が長くなるにつれて、図2(c)に示されるようにレンズ3Aの真後ろにレイアウトされるようになる。要素画像表示用画素群の射出瞳に対するレイアウトが変更されるということは、要素画像作成用の視差情報を取得するための平行投影視点画像番号が変わることを意味する。具体的には、ディスプレイ中央より左側にあるレンズ群のための要素画像は、より右方向から取得した視点画像からの視差情報を必要とし、ディスプレイ中央より右側にあるレンズ群のための要素画像は、より左方向から取得した視点画像が必要になる。この結果、特許文献3に記載されるように視点画像数が要素画像表示用画素群の構成画素数より多くなる。このように1D−II方式にあっては、多視点カメラ台数は視距離に依存しているが、視距離で集光点を設ける多眼式ではカメラ台数は視差数に一致する。
【0071】
以上、この表に示した関係式で表される三次元画像表示装置において、当該発明を適用した実施例について説明する。
【0072】
実施例 1(1D−II方式垂直レンズ、表示位置依存)
表1において、PT=0(垂直レンズ3A)、視差数12とした場合について説明する。観察距離は700mmとしている。視差数は12であるが、観察距離700mmで視域幅を最大にするために、1画面を構成するために必要な多視点カメラは22台となる.ここでは詳細な説明を省く。この三次元画像表示装置において、表示するモデルの空間周波数を320cprとすると、手前側の表示限界(Dn)は23.7 mm、奥側の表示限界(Df)は25.4 mmしかないこととなる。この三次元画像表示装置において,視距離から観察した場合に1つのレンズ3Aから観察される画素数が平均で2サブ画素(C=2)であることを確認した。このとき、画面のクロストーク量(C’)は、図4(c)に示されるように3となる。この三次元画像表示装置において表示されるモデルのうち、観察者側の表面(z_m)が飛び出し表示限界Dn、または、奥行き表示限界Dfを越えた位置に表示される図12に符号22又は25で示されるようなモデルに関しては,複数画素に同一視差成分画像表示を行うという判定がなされ、従来(3n+2)、(3n+3)番目(n≧0)の視差情報を提示していたサブ画素には,(3n+1)番目の視差情報を提示し、3サブ画素ごと同一の視差情報を提示している。さらに,観察者側の表面が1/2×Dn、又は、Dfを越えた位置に表示される図10に符号22又は25で示されるようなモデルに関しては、(2n+2)番目の視差情報を提示していたサブ画素には、(2n+1)番目の視差情報を提示し、2サブ画素ごと同一の視差情報を提示している。この結果、飛び出し、奥行きが大きな三次元画像の多重化を自然に抑制することができた。この判定式が以下に示されている
z_m>Dn または z_m<Df → 3サブ画素同一視差情報表示
Dn>z_m>1/2×Dn 又は
1/2×Df<z_m<Df → 2サブ画素同一視差情報表示
1/2×Df≦z_m≦1/2×Dn 1サブ画素ごと視差情報表示
ここで、モデルの観察者側の表面(z_m)を求めるのが難しければ,簡易的に、モデルの重心位置(z_o)で代用する方法もある。また、飛び出し限界及び奥行き限界Dn,Dfは、表1に示したように飛び出し限界及び奥行き限界算出用周波数βの関数であり、モデルの空間周波数が高いと小さい値に、低いと大きい値になる。飛び出し限界及び奥行き限界算出用周波数βはモデルごとに決定しても良いが、モデル全体を代表する値としても良い.また,ここでは、飛び出し限界及び奥行き限界Dn,Dfの値そのものを同一視差情報提示サブ画素数を決める際の敷居値として利用したが、これに順ずる値であっても良い。
実施例 2
実施例1とクロストーク量のみC=1と異なる三次元画像表示装置において,
z_m>Dn または z_m<Df → 2サブ画素同一視差情報表示
としたところ,多重化を無くすことができた。
【0073】
実施例 3(1D−II方式斜めレンズ、レンダリングスピード依存)
表1において、PT=4(斜めレンズ3A)、視差数16とした場合について説明する。観察距離は700mmとした。視差数は16だが、観察距離700mmで視域幅を最大にするために、1画面を構成するために必要な多視点カメラは30台となる。ここでは詳細な説明を省略する。この三次元画像表示装置において、観察者の操作に応じて表示を変えるために、リアルタイム・レンダリングを実施した。DirectXベースで作成したCGモデルを操作すると、毎回30台のカメラから30枚の多視点画像を生成し、これをソフトウェアでサブ画素単位の並び替え処理を行い、要素画像とする。これを二次元画像表示装置に表示することで、レンズ3A越しに三次元画像が表示される。多視点画像を並び替える作業などがあるので、カメラ台数が1/2になったからといって単純にフレームレートは2倍にはならない。(1)式に従って,本実施例においては、カメラ台数に依存する部分としてy=0.5、2サブ画素ごと同一画像を表示したことから、y=0.5,2サブ画素ごと同一画像を表示したことから、
f=fo×(0.5+0.5×1/2)
=fo/0.75
とすることができた(foはシーンによって変化する。ポリゴン数の多い部分では小さく、少ない部分では大きくなる)。
【0074】
実施例 4
実施例1と略同一の三次元画像表示装置で,レンズ3Aの水平ピッチのみ0.688733149と,サブ画素の水平幅(pp/3)の12倍より若干狭くした。これによって視距離に集光点が発生し、クロストークのある(C=2)多眼式となった.この三次元画像表示装置において、表示されるモデルで飛び出しまたは奥行きがDnまたはDfを超えるような表示を行うのは画面の中央に集中し、これを越える表示がなかったことから、図13に示される2次元表示面内の領域26、即ち、画面の高さの1/2、幅の1/2の領域については、2サブ画素ごと同一の視差情報を提示し、これ以外の領域においては、1サブ画素ごとに視差成分画像を提示したところ、全画面において像の多重化が抑制された。
【0075】
実施例 5
実施例3と略同一の三次元画像表示装置で、レンズ3Aの水平ピッチのみ0.688733149として、サブ画素の水平幅(pp/3)の12倍より若干狭くした。これによって視距離に集光点が発生し、クロストークのある(C=2)多眼式となった。この三次元画像表示装置において、fが30fpsを越えないように、(1)式から画面全体における同一画像を表示するサブ画素数xを決めたところ、どのようなシーンにおいても、リアルタイム表示において30fpsを維持することができた。
【0076】
以上説明したように、本発明の実施例に係る三次元画像を表示する表示装置は、特定のモデルの表示時に視差成分画像の割り当てが変更される。
【0077】
背景技術の説明に記載されるように、飛び出し及び奥行きの大きなモデルに関係する提案として、特許文献5があるが、上述したように、この発明の実施の形態に係る表示装置とは、非表示及び同一視差情報を与える手法の点で、基本的手法が異なっている。また、レンダリングに対する負荷が高いモデルに関係する提案としては特許文献4がある。この特許文献4は、あくまでも多眼用の視点数が不足した画像をII方式に適用するための方法であり、しかも、クロストークを考慮して3視差以上であることを前提とした提案技術に関して記述している。
【0078】
この発明の実施の形態に係る表示装置では、同一画像を表示する画素が2画素であっても、CGレンダリングにおけるレンダリング負荷或いは実写における撮影負荷は1/2に激減される。そして、2画素に同一視差成分画像を表示することは、運動視差のフリップを抑えるためにも最適とされる。また、この発明の実施の形態に係る表示装置と特許文献4に開示された表示装置とは、レンダリング負荷、又は飛び出し奥行き限界を考慮して同一視差表示の是非を判定するプロセス並びにそのための機構が異なっている。
【0079】
以上のように、この発明によれば、二次元画像を作成する負荷を低減し、飛び出し或いは奥行きの表示限界を超えても画像が多重化することを防止したII方式三次元画像表示装置が提供される。
【図面の簡単な説明】
【0080】
【図1】この発明の一実施例に係る三次元画像表示装置を概要的に示す斜視図である。
【図2】図1に示す表示装置において、比較例として示す視差成分画像の取得方向を示す説明図である。
【図3】図1に示される三次元画像表示装置において、この発明の一実施例に係る三次元画像表示方法で視差成分画像が間引かれた場合における視差成分画像の取得方向を示す説明図である。
【図4】(a)〜(c)は、図1に示される三次元画像表示装置における視域幅の説明図であって、(a)は、レンズ3Aと背面に用意された画素群と、画素から射出する光線の方向との関係を示し、(b)は、短視距離で視域幅を最大にした場合のレンズ3Aと要素画像の位置関係を示し、(c)は、長い視距離で視域幅を最大にした場合のレンズ3Aと要素画像の位置関係を示している。
【図5】図1に示される表示装置において、II方式における視差情報の見え方を説明する説明図である。
【図6】II方式における視差情報の見え方と、画面の見え方の相関図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図7】II方式において、比較例に係る方法を適用した場合の視差情報の見え方と、画面の見え方の相関図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図8】図1に示した表示装置において、この発明の実施例に係る方法をII方式に適用した場合の視差情報の見え方と、画面の見え方の相関図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図9】図1に示した表示装置において、比較例に係るII方式におけるIIにおける多眼的表示における視差情報の見え方示す説明図である。
【図10】図1に示した表示装置において、この発明の実施例に係る方法をII方式におけるIIにおける多眼的表示に適用した場合における視差情報の見え方示す説明図であって、(a)は、ある視距離からの視差成分画像の見え方を示し、(b)は、ある視距離からの画面の見え方(射出瞳のクロストークが1の場合)を示し、(c)は、ある視距離からの画面の見え方(射出瞳のクロストークが2の場合)を示している。
【図11】(a)は、図1に示す表示装置に表示される要素画像の生成過程を示すフローチャートを示し、(b)は、(a)の生成過程におけるフローチャートを改良したこの発明の実施の形態に係る要素画像の生成過程を示すフローチャートを示す。
【図12】図1に示す表示装置に表示されるモデルの表示位置を説明するための説明図である。
【図13】図1に示す表示装置において、特定の表示領域にこの発明の実施の形態に係る表示方法を適用した例を示す説明図である。
【符号の説明】
【0081】
1...三次元画像表示装置、2...二次元画像表示装置、3...光線制御子、3A...レンズ、6...ディスプレイの視域射出瞳、7...観察者、8...画像取得方向、9...撮影距離、10...撮影間隔、11...間引かれた画像取得方向、12...設定視距離、13...主光線、14...視域幅、18...開口部概念、19...表示面、21...単眼で観察した三次元画像
【特許請求の範囲】
【請求項1】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置。
【請求項2】
前記表示画像生成部は、前記互いに隣接する前記視差画像成分が表示される2つの前記画素領域に実質的に同一の視差画像成分を表示させことを特徴とする請求項1の三次元画像表示装置。
【請求項3】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍より小さくに定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が観察視距離において少なくとも2点以上に集光されるように射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記視差成分画像がある集光位置から取得した一つの視点画像から配分されて生成され、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置。
【請求項4】
前記表示画像生成部は、前記互いに隣接する前記視差画像成分が表示される2つの前記画素領域に実質的に同一の視差画像成分を表示させことを特徴とする請求項3の三次元画像表示装置。
【請求項5】
前記表示画像生成部は、表示される三次元画像の奥行または手前位置に応じて、前記同一視差成分画像を表示する前記領域数Nを決定することを特徴とする請求項1又は請求項3の三次元画像表示装置。
【請求項6】
前記表示画像生成部は、表示される三次元画像の奥行または手前位置に応じて、前記N個の領域が配置されるべき前記表示面上の範囲を決定することを特徴とする請求項5の三次元画像表示装置。
【請求項7】
前記表示画像生成部は、リアルタイム・レンダリングで前記要素画像を生成し、必要なリフレッシュレートを充足するように前記同一視差成分画像を表示する前記領域数Nを決定することを特徴とする請求項1又は請求項3の三次元画像表示装置。
【請求項8】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
を具備する三次元画像表示装置に前記要素画像を表示させる表示方法において、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させることを特徴とする三次元画像の表示方法。
【請求項9】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍より小さくに定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が観察視距離において少なくとも2点以上に集光されるように射出される射出瞳アレイと、
を具備する三次元画像表示装置に前記要素画像を表示させる表示方法において、
前記視差成分画像がある集光位置から取得した一つの視点画像から配分されて生成され、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させることを特徴とする三次元画像の表示方法。
【請求項1】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置。
【請求項2】
前記表示画像生成部は、前記互いに隣接する前記視差画像成分が表示される2つの前記画素領域に実質的に同一の視差画像成分を表示させことを特徴とする請求項1の三次元画像表示装置。
【請求項3】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍より小さくに定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が観察視距離において少なくとも2点以上に集光されるように射出される射出瞳アレイと、
前記要素画像を前記二次元画像表示装置に表示させる表示画像生成部であって、前記視差成分画像がある集光位置から取得した一つの視点画像から配分されて生成され、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させる表示画像生成部と、
を具備することを特徴とする三次元画像表示装置。
【請求項4】
前記表示画像生成部は、前記互いに隣接する前記視差画像成分が表示される2つの前記画素領域に実質的に同一の視差画像成分を表示させことを特徴とする請求項3の三次元画像表示装置。
【請求項5】
前記表示画像生成部は、表示される三次元画像の奥行または手前位置に応じて、前記同一視差成分画像を表示する前記領域数Nを決定することを特徴とする請求項1又は請求項3の三次元画像表示装置。
【請求項6】
前記表示画像生成部は、表示される三次元画像の奥行または手前位置に応じて、前記N個の領域が配置されるべき前記表示面上の範囲を決定することを特徴とする請求項5の三次元画像表示装置。
【請求項7】
前記表示画像生成部は、リアルタイム・レンダリングで前記要素画像を生成し、必要なリフレッシュレートを充足するように前記同一視差成分画像を表示する前記領域数Nを決定することを特徴とする請求項1又は請求項3の三次元画像表示装置。
【請求項8】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍に定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が互いに略平行に射出される射出瞳アレイと、
を具備する三次元画像表示装置に前記要素画像を表示させる表示方法において、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させることを特徴とする三次元画像の表示方法。
【請求項9】
多数の画素がマトリックス状に所定の水平及び垂直ピッチで配列されている表示面を有する二次元画像表示装置であって、前記表示面には、複数の要素画像が表示され、各要素画像は、視差成分画像の集合で構成される二次元画像表示装置と、
前記要素画像の夫々に対応して設けられた複数の射出瞳を有し、前記表示面に対向して配置される射出瞳アレイであって、前記射出瞳の垂直又は水平ピッチ或いは垂直又は水平ピッチの整数倍が前記画素の水平又は垂直ピッチの整数倍より小さくに定められ、前記要素画像が当該要素画像に対応する前記各射出瞳を介して前記表示面前方に定められた視域に向けて投影され、各要素画素中の視差成分画像が夫々対応する前記射出瞳を介して異なる方向に向けられ、前記各射出瞳を介する前記視差成分画像からの主光線が観察視距離において少なくとも2点以上に集光されるように射出される射出瞳アレイと、
を具備する三次元画像表示装置に前記要素画像を表示させる表示方法において、
前記視差成分画像がある集光位置から取得した一つの視点画像から配分されて生成され、前記要素画像中に互いに隣接する前記視差画像成分が表示される2以上の画素領域に実質的に同一の視差画像成分を含ませ、前記射出瞳を介して当該同一の視差画像成分を異なる方向に投影させることを特徴とする三次元画像の表示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2008−249809(P2008−249809A)
【公開日】平成20年10月16日(2008.10.16)
【国際特許分類】
【出願番号】特願2007−87864(P2007−87864)
【出願日】平成19年3月29日(2007.3.29)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成20年10月16日(2008.10.16)
【国際特許分類】
【出願日】平成19年3月29日(2007.3.29)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]