画像処理方法及び画像処理装置
【課題】種々の形状のマークの識別を可能とする。
【解決手段】電子部品Cを基板Kに実装する際に、電子部品又は基板に付されたマークMを撮像した撮像画像データによるマークの識別に用いられる画像処理方法であって、マークの撮像画像データから当該マークの中心位置を特定する中心特定工程と、マークの中心位置からマークの撮像画像データの極座標変換データを取得するデータ変換工程と、極座標変換データにおける背景とマークとの境界線の形状的特徴からマークの形状を判別する形状判別工程と備えている。
【解決手段】電子部品Cを基板Kに実装する際に、電子部品又は基板に付されたマークMを撮像した撮像画像データによるマークの識別に用いられる画像処理方法であって、マークの撮像画像データから当該マークの中心位置を特定する中心特定工程と、マークの中心位置からマークの撮像画像データの極座標変換データを取得するデータ変換工程と、極座標変換データにおける背景とマークとの境界線の形状的特徴からマークの形状を判別する形状判別工程と備えている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、マークを判別するための画像処理方法及び画像処理装置に関するものである。
【背景技術】
【0002】
二次元的又は立体的なマークを撮像し、その撮像画像データを画像処理にかけてマークの識別等を行う技術は、例えば、基板に電子部品を実装する電子部品実装装置の分野に応用されている。電子部品実装装置に用いられる画像処理装置では、電子部品に極性を示すために、部品の角部に極性判別可能なボール、ランド等の立体的なマークもしくは平面的なマーク(以下これらを極性判別マークとする)が形成されており、実装時にこれらを撮像することで、電子部品の極性を特定し、部品の向きの正誤の判定や実装における電子部品の向きの修正を行っている。
上記画像処理装置では、極性判別マークの形状の判別方法として正規化相関マッチングを採用している。
【0003】
例えば図28(A)に示す四角形の極性判別マーク(■)と図28(B)に示された円形の極性判別マーク(●)の形状判別の場合、四角形の極性判別マークと円形の極性判別マークのそれぞれのモデルテンプレートを予め用意し、これと極性判別マークの撮像画像データとの相関量で該当マークの形状が四角形であるか円形であるかを判別することが行われている。
しかしながら、マークサイズが小さくなると、正規化相関マッチングでは判別しきれない場合があることから、上記従来の画像処理装置では、さらに、撮像画像データの拡大処理を行った上で輪郭情報を取得し、円形度の算出を行ったり、輪郭点の勾配ベクトルをモデルと照合して形状判別したりすることで、上記問題の解決を図っている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−112930号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1の先行技術は、マークの識別に際し、マークの円形度を指標とすることから、マークが円形かそれ以外かの判定に限られ、種々の形状のマークを個々に識別することができなかった。
【0006】
また、電子部品実装の分野では、電子部品の極性判別に限らず、基板上に配される位置決め用マーク(以下、基板マークとする)に対しても撮像画像の画像処理を行い、各種の判別を行っている。
基板マークは、欠けや汚れで綺麗なマーク画像を得られない場合や基板によってはマークサイズのばらつきが生じている場合がある。こういった場合でも基板マークと同形状のモデルマークと正規化相関マッチングを行うことで位置決めを行うことは可能であるが、位置決め精度の低下は避けられなかった。このため、マークのサイズや向きを正確に識別することができなかった。
【0007】
本発明は、種々の形状のマークの識別を可能とすることをその目的とする。
また、本発明は、マークに欠けや汚れ等がある場合でも、精度良くサイズ又は向きを認識することを可能とすることをさらなる目的とする。
【課題を解決するための手段】
【0008】
請求項1記載の発明は、電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理方法であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定工程と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換工程と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別工程と備えることを特徴とする。
【0009】
請求項2記載の発明は、請求項1記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数決定する第一の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする。
【0010】
請求項3記載の発明は、請求項1記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定工程を備えることを特徴とする。
【0011】
請求項4記載の発明は、請求項3記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする。
【0012】
請求項5記載の発明は、電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理装置であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定手段と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換手段と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別手段と備えることを特徴とする。
【0013】
請求項6記載の発明は、請求項5記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数特定する第一の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする。
【0014】
請求項7記載の発明は、請求項5記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定手段を備えることを特徴とする。
【0015】
請求項8記載の発明は、請求項7記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする。
【発明の効果】
【0016】
請求項1及び5記載の発明は、マークの撮像画像データを極座標変換し、極座標変換データにおける背景とマークとの境界線の形状的特徴からマークの形状を判別することから、種々のマーク形状について顕著な形状的特徴を容易に抽出することができ、円形か否かの判定に限らず、多彩な形状のマークの識別することが可能である。
また、マークの形状判別において、正規化相関マッチングを必ずしも必要とはしないので、マークの形状の種類が多岐に渡る場合に、全てのマーク形状とのマッチング演算を行う必要がなく、処理時間の短縮化を図ることが可能となる。
【0017】
請求項2及び6記載の発明は、極座標変換データにおける背景とマークとの境界線における山形状部又は谷形状部となる複数の特徴点を特定し、当該特徴点を二次元座標に戻すことにより、マークの形状的な特徴点となる位置を精度良く抽出することができ、これらの特徴点位置から精度良く、マークの大きさ又は向きを求めることが可能となる。
【0018】
請求項3及び7記載の発明は、極座標変換データにおける背景とマークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定している。画像内のノイズは、周囲の点に対して異質な形状的特徴を有する場合が多いので、極座標形に変換した場合に、そのエッジ勾配ベクトルは、周囲と異なる傾向を示し、その顕著性からノイズを容易に抽出可能である。そして、これにより、ノイズの対策を施すことが容易となる。
【0019】
請求項4及び8記載の発明は、境界線におけるノイズ部分意外に位置する特徴点を用いてマークの大きさ又は向きの算出を行うので、マークの大きさ又は向きをより精度良く取得することが可能となる。
【図面の簡単な説明】
【0020】
【図1】本実施の形態に係る電子部品実装装置の全体を示す平面図である。
【図2】電子部品実装装置の制御系を示すブロック図である。
【図3】マークの判別処理を示すフローチャートである。
【図4】円形のマークのサイズ及び中心を示す図である。
【図5】図5(A)はマークの撮像画像の元画像座標系を示し、図5(B)はマーク中心を原点とする極座標系を示す図である。
【図6】図6(A)は円形のマークの実画像例、図6(B)はその極座標変換画像例を示す。
【図7】図7(A)は正方形のマークの実画像例、図7(B)はその極座標変換画像例を示す。
【図8】図8(A)は正三角形のマークの実画像例、図8(B)はその極座標変換画像例を示す。
【図9】図9(A)は十字形のマークの実画像例、図9(B)はその極座標変換画像例を示す。
【図10】図10(A)は点対称に正方形が二つ並んだ形状のマークの実画像例、図10(B)はその極座標変換画像例を示す。
【図11】図11(A)は長方形のマークの実画像例、図11(B)はその極座標変換画像例を示す。
【図12】図12(A)は平行四辺形のマークの実画像例、図12(B)はその極座標変換画像例を示す。
【図13】図13(A)は台形のマークの実画像例、図13(B)はその極座標変換画像例を示す。
【図14】図14(A)は鈍角を含む四辺形のマークの実画像例、図14(B)はその極座標変換画像例を示す。
【図15】図15(A)は爪四つの星形のマークの実画像例、図15(B)はその極座標変換画像例を示す。
【図16】輪郭線の山と谷のペア数の取得方法を示す図である。
【図17】輪郭線の山と谷の発生周期を示す図である。
【図18】二つの輪郭線における山又は谷のθ軸方向の位相差を示す図である。
【図19】テンプレートマッチングにおける誤差の影響を示す図である。
【図20】円形マークの中心精度が正しくない場合に輪郭線に生じる影響を示す図である。
【図21】円形マークの中心精度が正しくない場合に輪郭線に生じる影響が生じる原因を示す図である。
【図22】正方形マークの中心精度が正しくない状態を示す図である。
【図23】正方形マークの中心精度が正しくない場合に輪郭線に生じる影響を示す図である。
【図24】図23における領域Eの拡大図である。
【図25】円形マークの撮像画像を示す図である。
【図26】図26(A)は円形マークの撮像画像の極座標変換後の図であり、図26(B)はそのエッジ勾配ベクトルを示す図であり、図26(C)はエッジ勾配ベクトルを一次微分した図であり、図26(D)は図26(A)の垂直総和を示す図である。
【図27】円形マークのテンプレートマッチングの除外領域を示す図である。
【図28】図28(A)は四角形の極性判別マークを示し、図28(B)は円形の極性判別マークを示す図である。
【発明を実施するための形態】
【0021】
(発明の実施形態の全体構成)
本発明の実施形態について、図1乃至図27に基づいて説明する。本実施形態は、電子部品の極性判別マークや基板に付された基板マークを総称して単にマークMとし、これらマークMの撮像画像に対して画像処理を行い、マークMの判別、マークMの位置、大きさ、向きの検出を行うための画像処理装置10が電子部品実装装置100に搭載され、基板Kに対する電子部品Cの実装動作制御に利用される場合の例を示している。
【0022】
(電子部品実装装置)
図1は電子部品実装装置100の平面図、図2は制御系を示すブロック図である。電子部品実装装置100は、基板Kに各種の電子部品Cの搭載を行うものであって、電子部品Cの搭載手段として、図1に示すように、搭載される電子部品Cを供給する複数の電子部品フィーダ101と、電子部品フィーダ101を複数並べて保持する電子部品供給部としてのフィーダバンク102と、一定方向に基板を搬送する基板搬送手段103と、当該基板搬送手段103による基板搬送経路の途中に設けられた基板に対する電子部品搭載作業を行うための搭載作業部104と、電子部品を吸着する吸着ノズル105を保持して電子部品の保持を行う部品保持手段としてのヘッド106と、ヘッド106を所定範囲内の任意の位置に駆動搬送するヘッド移動手段としてのX−Yガントリ107と、吸着ノズル105に吸着された電子部品の撮像を行う標準カメラ115及び高解像度カメラ116と、撮像位置に照明光を照射する照明装置117と、ヘッド106に搭載され、基板Kの基板マークを撮像する基板カメラ118と、基板Kの撮像位置に照明光を照射する照明装置119と、電子部品実装装置100の各構成に対して制御を行う制御装置120と、カメラ115,116,118の撮像画像データに所定の画像処理を実行する画像処理装置10とを備えている。
【0023】
画像処理装置10は、カメラ115,116による電子部品Cの撮像画像から極性判別マークの種類を識別し、その結果は、制御装置120に出力されてヘッド106の位置決め動作に反映される。
また、画像処理装置10は、カメラ118による基板Kの撮像画像から基板マークの位置、大きさ、向きを判別し、その結果は、制御装置120に出力されてヘッド106の位置決め動作に反映される。
【0024】
標準カメラ115、高解像度カメラ116及び基板用カメラ118はいずれもCCDカメラであり、標準カメラ115と高解像度カメラ116とは、搭載が行われる電子部品の電子部品のサイズによって使い分けられるようになっている。以下の記載では、標準カメラ115が使用される前提で説明を行うこととする。
また、以下の説明において、水平面に沿って互いに直交する一の方向をX軸方向とし、他の方向をY軸方向とし、垂直上下方向をZ軸方向と称することとする。
【0025】
基板搬送手段103は、図示しない搬送ベルトを備えており、その搬送ベルトにより基板をX軸方向に沿って搬送する。
また、前述したように、基板搬送手段103による基板搬送経路の途中には、電子部品を基板へ搭載する搭載作業部104が設けられている。基板搬送手段103は、搭載作業部104まで基板を搬送すると共に停止して、図示しない保持機構により基板の保持を行う。つまり、基板は保持機構により保持された状態で安定した電子部品の搭載作業が行われる。
【0026】
ヘッド106は、その先端部で空気吸引により電子部品を保持する吸着ノズル105と、この吸着ノズル105をZ軸方向に駆動する駆動源であるZ軸モータ111と、吸着ノズル105を介して保持された電子部品をZ軸方向を中心として回転駆動させる回転駆動源であるθ軸モータ112とが設けられている。
また、各吸着ノズル105は負圧発生装置108に接続され、当該吸着ノズル105の先端部において吸気吸引を行うことにより電子部品の吸着及び保持が行われる。
つまりこれらの構造により、搭載作業時には、吸着ノズル105の先端部で所定の電子部品フィーダ101から電子部品を吸着し、所定位置で基板に向かって吸着ノズル105を下降させると共に吸着ノズル105を回転させて電子部品の向きの調整を行いつつ搭載作業が行われる。
【0027】
また、前述した各カメラ115,116は、ベースフレーム114に搭載されており、X−Yガントリ107によりヘッド106が各カメラ115,116の位置決めされて撮像が行われるようになっている。
各カメラ115,116は、ベースフレーム114から上方に向けられた状態で保持されており、吸着ノズル105に吸着された電子部品Cを下方から撮像し、極性判別マークの撮像画像を画像処理装置10に出力する。
【0028】
また、基板カメラ118は、ヘッド106に搭載されており、X−Yガントリ107によりヘッド106が搭載作業部104に位置する基板Kまで移動し、所定の撮像位置から基板カメラ118で基板Kの基板マークの撮像が行われるようになっている。
基板カメラ118は、下方に向けられた状態で保持されており、基板Kを上方から撮像し、基板マークの撮像画像を画像処理装置10に出力する。
【0029】
X−Yガントリ107は、X軸方向にヘッド106の移動を案内するX軸ガイドレール107aと、このX軸ガイドレール107aと共にヘッド106をY軸方向に案内する二本のY軸ガイドレール107bと、X軸方向に沿ってヘッド106を移動させる駆動源であるX軸モータ109と、X軸ガイドレール107aを介してヘッド106をY軸方向に移動させる駆動源であるY軸モータ110とを備えている。そして、各モータ109,110の駆動により、ヘッド106を二本のY軸ガイドレール107bの間となる領域のほぼ全体に搬送することを可能としている。
なお、各モータは、ぞれぞれの回転量が制御装置120に認識され、所望の回転量となるように制御されることにより、ヘッド106を介して吸着ノズル105や各カメラ115,116の位置決めを行っている。
また、電子部品の必要上、前記したフィーダバンク102,搭載作業部104とはいずれもX−Yガントリ107によるヘッド106の搬送可能領域内に配置されている。
【0030】
フィーダバンク102には、複数の電子部品フィーダ101がX軸方向に沿って羅列して載置装備される。
各電子部品フィーダ101は、後端部に電子部品が一列に並んで封止された部品テープの図示しないリールが保持されており、部品テープはリールから電子部品フィーダ101の先端部、即ち、基板側の端部の上側に設けられた部品受け渡し位置101aまで繰り出され、当該部品受け渡し位置101aにおいて吸着ノズル105により電子部品の吸着が行われるようになっている。
【0031】
制御装置120は、基板Kに搭載する電子部品Cのリスト、搭載順番、各電子部品の部品吸着位置、即ち、いずれの電子部品フィーダ101から受け取るか及び基板Kにおける搭載位置が定められた搭載プログラムと、基板Kの撮像位置、各電子部品に付された極性判別マークの形状の種別、極性判別マークが電子部品のどこに付されているか等が定められた部品データを記録し、当該搭載プログラムに従ってX軸モータ109、Y軸モータ110及びZ軸モータ111を制御し、ヘッド106の位置決め制御を行う。また、この制御装置120は、吸着時の電子部品に対してθ軸モータ112を駆動して吸着ノズル105を回転させて角度修正制御を行い、X軸モータ109及びY軸モータ110により位置修正制御を行う。
かかる制御装置120は、電子部品Cの吸着ノズル105による吸着後に標準カメラ115又は高解像度カメラ116による撮像が行われ、当該撮像画像に基づいて画像処理装置10が求めた電子部品の極性に基づいて電子部品C実装する制御を行うようになっている。
また、制御装置120は、基板Kが搭載作業部104に搬送されると、ヘッド106を基板マークの撮像位置に搬送し、基板用カメラ118による撮像を行い、当該撮像画像に基づいて画像処理装置10が求めた基板の正確な位置及び向きに基づいて電子部品Cの実装制御を行うようになっている。
【0032】
(画像処理装置)
画像処理装置10は、画像処理装置全体を制御する制御部11と、各カメラ115,116,118の画像信号をデジタル化するA/D変換器12と、デジタル化された撮像画像データを記憶する画像メモリ13と、撮像画像データに基づいてマークの識別等の画像処理を実行する演算部14と、画像処理や各部の制御において作業領域となる作業用メモリ15と、画像処理装置10の制御部11が制御装置120とのデータ通信を行うインターフェイス17と、インターフェイス17を介して制御装置120から受信した部品データを格納する部品データ格納メモリ19と、各種の極性判別マーク及び基板マークの形状的特徴に関するデータや各種マークのテンプレートデータ等を格納するマークデータ格納メモリ16とを備えている。
【0033】
上記構成により、電子部品実装装置100は、制御装置120が、搭載プログラムと部品データを読み込むと、ヘッド106の吸着ノズル105により電子部品Cを吸着し、標準カメラ105の撮像位置へ移動する。そして、電子部品Cの極性判定マークを撮像すると共に、撮像画像データを画像メモリ13に記憶する。
一方、制御装置120は、予め、電子部品の電極の情報、極性判別マーク情報などの部品データをインターフェイス17を介して画像処理装置10へ送信する。画像処理装置10は受信した部品データを部品データ格納メモリ19に格納する。
そして、制御装置120は、電子部品のサイズによって、標準カメラ115と高解像度カメラ116のいずれかを選択し、電子部品Cを吸着ノズル105で吸着し、選択したカメラの撮像位置にセットする。
さらに、制御装置120は、照明装置117を選択したカメラで撮像できるよう移動、点灯させ、インターフェイス17を介して画像処理装置10に、選択したカメラチャネル情報とともに処理の実行を通知する。
【0034】
画像処理装置10は、指定されたカメラ115又は116から入力される電子部品の撮像画像データをA/Dコンバータ12でデジタル化し、画像メモリ13に多値画像データとして記憶させる。
画像処理装置10は、画像メモリ13のデータを処理し、極性判定マークを識別する。識別結果の内容が問題なければ、その識別結果をインターフェイス17を介し、制御装置120に出力する。識別結果に問題があれば、極性エラーであったことを返答する。
【0035】
制御装置120は、正常な識別結果を受け取った場合、その情報に従って、吸着ノズル105を搭載位置に移動し、電子部品Cを基板Kに搭載する。
一方、制御装置120は、極性エラーを受信した場合、電子部品Cの姿勢を補正してリトライするか、電子部品を廃棄する。
【0036】
また、制御装置120は、基板搬送手段103により基板Kが搭載作業部104に供給されると、基板用カメラ118と照明装置119とを基板Kの基板マークの上方に移動し、基板マークを撮像する。
これにより、画像処理装置10は、基板マークの撮像画像データを画像メモリ13に格納する。そして、画像処理装置10は、この撮像画像データから、マークサイズ、マーク形状、マーク中心位置、マークの向きを検出しこれらの情報をマークデータとしてマークデータ格納メモリ16に記録する。
なお、基板マークの中心位置及びその向きの検出は、基板Kに対する電子部品Cの位置決め精度を左右することから、その検出も高精度で行う必要がある。
このため、画像処理装置10は、基板Kのマークが撮像されると、マークデータ格納メモリ16から基板マークの基準画像データを読み出してテンプレート画像データを生成し、撮像画像とテンプレートマッチングさせることでマーク位置を検出し、制御装置120に通知する。
【0037】
(マークの判別処理)
以下、画像処理装置10で行われるマークの形状による判別処理について説明する。マークの判別は、極性判別マーク、基板マークのいずれについて対しても行われる処理である。以下の説明では、極性判別マークと基板マークとを区別することなく、単に、マークと言うものとする。
図3はマークの判別処理を示すフローチャートである。
【0038】
(1)マーク粗位置検出(図3のステップS1)
部品の極性判別マークの場合、部品上のどの位置にどの形状の極性判別マークが存在するかという情報は予め部品データとして画像処理装置10の部品データ格納メモリ19内に記憶されている。
また、基板マークの場合も、基板上のいずれの位置に基板マークが付されているかを示す情報が基板データとして画像処理装置10のマークデータ格納メモリ16に記憶されている。
このため、撮像画像データの画像内における部品の外形特徴、電極位置又は基板の形状的特徴やパッド位置等を周知の画像処理により抽出し、電子部品又は基板の中心位置と傾きを求め、これらを基準としてマークMを探索することができる。
また、テンプレートマッチングや外接スキャンなどの画像演算で基板マークの位置を特定することも可能である。なお、基板マークの場合は、撮像画像の表示装置とマウス等の入力デバイスとを用意して、マシン操作者により、基板マークの位置又は基板マークを含む領域を表示画像に対して直接指定入力することも可能である。
【0039】
(2)マークサイズ取得(図3のステップS3)
撮像画像内において探索されたマークMに対して、演算部14は、撮像画像データにおけるマークMを含む周辺領域について外接スキャン、エッジ抽出処理等を行い、マークMと背景との境界を抽出する。
マークMと背景との境界を抽出する処理では、周辺領域内の各画素値について所定方向に走査を行い、隣接する画素との値の差が所定値以上となる画素をマークMと背景との境界と見なす処理を行う。
そして、外接スキャン等により求められた境界線に囲まれるマークMについて、図4に示すように、マークサイズ(msx,msy)、即ち、msx:マークMのX軸方向の最大幅,msy:Y軸方向の最大幅を算出する。なお、図4では円形のマークMを例示している。
【0040】
(3)マーク中心取得(図3のステップS5:中心特定工程)
さらに、演算部14は、外接スキャンにより求められたマークM、即ち、境界線に囲まれる図形に対して重心演算等を実行し、マークMの重心としての中心(図4のC(cx,cy))を算出する。演算部14は、かかる処理を行うことにより、「中心特定手段」として機能するものである。
【0041】
(4)極座標変換画像の取得(図3のステップS7:データ変換工程)
次に、演算部14は、マーク中心C(cx,cy)を中心にマークMより一回り大きく、当該マークMを網羅することが可能な半径Rの円形領域内の画像について、元画像座標、即ち、X−Y座標系:図5(A)からマーク中心C(cx,cy)を原点とする極座標、即ち、r−θ座標系:図5(B)に変換する処理を行う。
なお、R=msX/2・Aとする。AはマークMを完全に取り込むための係数(例えばA=1.2程度とする)。
【0042】
元画像座標(X−Y座標系)からマーク中心C(cx,cy)を原点とする極座標、即ち、r−θ座標系の変換は次式(1)による。
なお、極座標としてのr−θ座標系から元画像座標としてのX−Y座標系への変換は次式(2)による。
演算部14は、かかる処理を行うことにより、「データ変換手段」として機能するものである。
【数1】
【0043】
(5)極座標変換画像から形状的特徴の取得(図3のステップS9:形状判別工程)
図6〜図15に一般的なマーク形状の例を示し、各図の(A)には各マーク形状の実画像例、各図の(B)には極座標変換画像例を示している。
図6は円形のマークMを示し、円形の場合にはマーク中心に対しマーク輪郭が等距離となるので、極座標変換画像では、輪郭線としての境界線がθ軸方向に沿った直線状となり、その左側がマーク内部、右側が背景に分離した画像となる。
つまり、輪郭線が傾き90度の直線に近似すればマークMは円形マークと判定することができる。
【0044】
図7は正方形、図8は正三角形のマークMを示し、これらのような正n角形マークの場合は、極座標変換画像には動径方向としてのR軸方向についてn個の山と谷がθ軸方向に並んで現れる。なお、この山の頂部と谷の底部とはいずれも、「動径方向における極値となる特徴点」に相当する。
つまり、輪郭線に先鋭な山と底部がなだらかな谷とが交互に並ぶ場合には、山又は谷の個数に応じた多角形状のマークと判定することができ、さらにその周期が一定であれば正多角形のマークと判定することができる。
【0045】
図9は十字形のマークMである。この場合、輪郭線は、底部が先鋭な谷と頂部が円弧状に窪んだ山とがθ軸方向に交互に四つ並ぶ形状となり、かかる形状的特徴から十字形のマークMと判定することができる。
図10はマーク中心で点対称に正方形が二つ並んだ形状のマークMである。この場合、輪郭線は、頂部が先鋭となる山がθ軸方向について断続的に二つ現れる形状となり、かかる形状的特徴から正方形が二つ並んだ形状のマークMと判定することができる。
【0046】
図11は長方形、図12は平行四辺形、図13は台形のマークMを示し、これらの場合も正方形のように、輪郭線には、先鋭な山と底部がなだらかな谷とが四つ並んで現れるが、長方形の場合には、山はいずれも同じ高さとなるが谷は深い谷と浅い谷とが交互に現れ、平行四辺形の場合には、低い山と高い山とが交互に現れ、台形の場合には、低い山と高い山とが二つずつ交互に現れる。従って、かかる形状的特徴から長方形、平行四辺形又は台形のマークMと判定することができる。
【0047】
図14は鈍角を含む四辺形のマークMを示し、この場合、輪郭線は、鋭角の頂点は全て先鋭な山となり、鈍角の頂点は底部に角がある深い谷となる形状が現れる。従って、かかる形状的特徴から鈍角を含む四辺形のマークMと判定することができる。
図15は爪四つの星形のマークMを示し、この場合、輪郭線は、山と谷とが爪数に応じて四つ現れ、山の頂点は全て先鋭となり、谷の底部に角がある形状が現れる。従って、かかる形状的特徴から爪四つの星形のマークMと判定することができる。
【0048】
以上のように、マークMの形状に応じて極座標変換画像のマークと背景を分離する輪郭線には固有の形状的特徴が現れることから、演算部14は、当該形状的特徴に基づく条件の一致を判定することによりマーク形状を識別する。
具体的には、以下に示す複数の要素からマーク形状の識別を行う。
【0049】
[1]山と谷のペア数の取得(図16)
極座標変換画像の右側、即ち、r軸方向における最大値側からθ軸方向に沿って走査し、最右に存在する輪郭線の山位置(Pr0)を検出する。また、これと共に、左側、即ち、R軸方向における0側から走査し、最左に存在する谷位置(Pl0)を検出する。この時、山位置(Pr0)と谷位置(Pl0)のr成分の差が後述する判定値より小さければ山と谷は存在せずと判断する。
一方、山位置(Pr0)と谷位置(Pl0)のr成分の差が判定値より大きい場合はPl0とPr0間にθ軸に平行な垂直走査線(VL)を複数本設定し、背景区間とマーク形状区間数を数えることで山と谷ペア数、即ち、山の頂点である特徴点の個数又は谷の底部である特徴点の個数を取得する。
或いは、境界線の勾配ベクトルを求め、r成分について山の頂点数、r成分について谷の極小値となる点の数を数えることでも山と谷のペア数は取得できる。なお、これら山の頂点及び谷の極小値となる点を総称して特徴点というものとする。
なお、ここでいう「ペア数」とは山の数又は谷の数と同義であり、特定の山と特定の谷との組み合わせが成立している必要はない。
【0050】
山と谷のペア数は元画像上マーク形状の頂点や突起の数と一致する。各マーク形状の山と谷ペア数は、例えば、マークMが円形であれば0、正方形であれば4、正三角形であれば3、十字形であれば4、点対称に配置した二つの正方形であれば2となる。また山位置と谷位置の間隔はマーク形状とマークサイズで決まる為、図3のステップS3で示したマークサイズ取得工程で取得済みのマークサイズとマークの形状候補から山谷有無判定値を準備できる。
そして、判別すべきマークMの形状の候補が、頂点の個数がいずれも異なる形状であるような場合には、山と谷のペア数だけ求めれば、識別することが可能である。
【0051】
[2]山谷発生間隔
例えば、四角形であれば山と谷ペア数は4であるが、正方形:図7、長方形:図11、平行四辺形:図12、台形:図13では山と谷の発生周期が異なる。
即ち、前述した境界線の勾配ベクトルから特徴点の極座標系における座標値を取得した場合に、それらのθ成分の値の差を採ることで、図17のように、山と谷の発生周期を求めることができ、各種の四角形について識別することが可能である。
さらに、図18のように、山又は谷となる特徴点の極座標系におけるθ成分の座標値を参照した場合に、山又は谷のθ軸方向の位相差を求めることにより、同一形状のマークMにおける傾き角度を求めることができる。
【0052】
[3]山の高さ又は谷の深さ
前述の手法で山又は谷となる特徴点の極座標系における座標値を取得した場合に、それらのr成分の値を参照することで山の高さ又は谷の深さの変化を求めることができ、例えば、山の高さが常に一定、高低の変化を繰り返すなど、変化パターンの違いから各種の四角形について識別することが可能である。
【0053】
[4]山形状又は谷形状
輪郭線の勾配ベクトルを求めることにより、山形状又は谷形状の違いを求めることができる。例えば、図9,図14,図15の場合のように、鈍角の頂点を有する形状の場合には、谷の底部が先鋭な形状となり、勾配ベクトルの顕著な変化によりこれを求めることが可能である。
【0054】
[5]輪郭線の不連続部
図10のように、輪郭線が途切れる不連続部が存在するか否かにより、マークの中心に対する一部の方向について、図形が存在しない範囲を有する形状のマークを他と識別することが可能である。
【0055】
上記のパラメータは一例にすぎず、他の形状的特徴を示すパラメータを識別の判断材料としても良い。
画像処理装置10は、マークデータ格納メモリ16内に、各種形状のマークが、上記のような各種のパラメータの条件を満たすか否か、或いはパラメータに関する数値を記憶するテーブルを備えている。
そして、演算部14は、撮像画像データの極座標系変換画像データに対して、上記各パラメータを算出する処理を実行し、各種のパラメータに定められた条件を満たすか否か及びパラメータに関する数値の算出を行い、その結果と上記テーブルとを照らし合わせることにより、マークMの形状を特定する:図3のステップS11。
即ち、マークデータ格納メモリ16と演算部14の協働により、「形状判別手段」として機能するものである。
なお、判定対象となるマークMの形状が一部の範囲に限定されている場合のように、一部のパラメータのみにより識別可能な場合には、当該一部のパラメータについてのみ判定を行い、処理を軽減しても良い。
また、上記各種のパラメータについては、それぞれの優先順位を定めておくことにより、順番に識別すれば形状の識別をより効率的に行うことが可能である。
また、形状によっては先に挙げたパラメータだけでは形状判別しにくいマーク形状がある場合は随時その形状に応じたパラメータを追加していけばよい。
【0056】
(マークの精密位置検出)
次に、画像処理装置10で行われるマークの位置、大きさ、向き等をより正確に検出する処理について説明する。基板マークは、特に、基板Kに対する電子部品Cの位置決めに影響することから、その位置及び向きをより正確に検出する必要がある。
マークMの種類が特定されると、テンプレートマッチングを行うことによりマークMの位置検出を行うことが可能となる。しかしながら、図19に示すように、テンプレート画像のマークMtと撮像画像のマークMとでサイズ差が存在する場合や、マークに欠けや汚れDといったノイズがあると、マークMの本来の中心位置Sとはずれた中心位置Stが求められることとなり、位置決め精度が悪化する。
そこでテンプレートマッチングで位置決めされた位置を回転中心として極座標変換画像を作成し、その極座標変換画像からマークサイズ・マーク傾き・ノイズ有無等を検出し、これらの情報を考慮したマークテンプレート画像を生成し再度テンプレートマッチングを行うことで位置決め精度を向上させる方法を提案する。
【0057】
(マークの精密位置検出:マークが円形の場合[1])
マークMの形状に応じてマーク位置、サイズ、傾きの検出方法が異なるので、個々に説明する。
円形のマークMの極座標変換画像は、図6(B)に示すように、正しい中心位置で極座標変換が行われた場合には、マークの輪郭線はθ軸に平行な直線となる。そのため元画像上の円形のマークから直接円周輪郭を取得するより単純なアルゴリズムで位置、サイズの検出が可能である。なお、マークが円形の場合には傾きは求められない。
【0058】
マーク画像の極座標変換を行う前提として、マークの中心位置を求める際に、外接スキャンやテンプレートマッチングを用いた場合、中心精度が正しく出ていないと、図20に示すように、輪郭線は正弦波状に歪む。
即ち、図21に示すように、真のマーク中心Cから(dx, dy)ずれた位置を回転中心C’として極座標変換を行った場合、真の中心Cと回転中心C’とを結んだ線分の角度αの時に最小半径、角度α+πの時に最大半径となる。
さらに、角度αと角度α+πの場合に、それぞれ真の半径RAに対して、C−C’間距離である中心誤差距離L分の減増となる。
【0059】
よって、演算部14は、極座標変換画像において、輪郭線を求め、r成分が最小値となる点P0のθ成分をα、最大値となる点P1のθ成分をα+πとして求めることができる。
さらに、点P0のr成分はRA−Lであり、点P1のr成分はRA+Lである。
そして、α=tan-1(dy/dx)、L=(dx2+dy2)1/2なので、演算部14は、点P0、P1のr−θ座標値から、(dx,dy)を算出することができる。従って、円形のマークMの正確な位置が算出される。
また、円形のマークMの正確なサイズは、点P0とP1のr成分の値の平均値から求めることができる。
【0060】
なお、上記マークMの位置、サイズの検出処理は、マークMの形状が既に判別されていることを前提とするので、マークMの位置、サイズの検出処理におけるマークKの中心位置の算出と極座標変換画像データの生成が、マークMの形状の判別の処理の際に既に行われている場合には、その際の算出データを利用することができる。即ち、マークMの位置、サイズの検出処理の際に、マークKの中心位置の算出と極座標変換画像データの生成を再びやり直す必要はない。
【0061】
(マークの精密位置検出:マークが円形の場合[2])
上記円形のマークMの位置及びサイズの検出は、極座標変換データにおいて、輪郭線の最大値と最小値とが顕著に得られた場合には有効だが、それぞれが顕著ではない場合には、精度が低下する。また、撮像画像データに汚れなどのノイズ成分が含まれて輪郭線が一部正しく得られない場合にも精度が低下する。
【0062】
従って、上記と同じ手法で、マークKの極座標変換画像データにおける輪郭線を求めたら、当該輪郭線上の各点でエッジ勾配ベクトルを算出する。
当該輪郭線上の各点のエッジ勾配ベクトルは、中心位置に誤差がある場合でも、輪郭線上の各部で大きな変動は生じない。
一方、マークMの撮像画像において、背景とマークMの境界部分に汚れその他のノイズ成分が含まれている場合、輪郭線のノイズ部分のエッジ勾配ベクトルはエッジ勾配ベクトルの全体的な傾向に対して顕著な差が発生する。
従って、演算部14では、輪郭線においてエッジ勾配ベクトルが所定の範囲以上の大きな変動を生じている部分はノイズと特定する。この工程をノイズ特定工程という。
このように、演算部14は、エッジ勾配ベクトルを用いてノイズを特定することにより、「ノイズ特定手段」として機能するものである。
【0063】
そして、演算部14は、ノイズ部分を除いて、輪郭線上の任意の3点の特徴点を抽出する。即ち、かかる処理が「ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定工程」に相当する。そして、当該3点の特徴点を実画像系のX−Y座標値に逆変換する。この工程を逆変換工程という。そして、算出された3点のX−Y座標から、これら3点を通る円を求め、当該円をマークMと背景の境界線と見なす。そして、この円の中心を算出することにより、マークMの正確な位置を得ることができ、また、3点を通る円の直径から正確なマークサイズを取得することができる。この工程を形態要素特定工程という。
このように、演算部14は、ノイズ部分を除いて特徴点を特定することにより「第二の特徴点特定手段」として機能し、3つの特徴点を実画像系のX−Y座標値に逆変換することで「逆変換手段」として機能し、逆変換後の3点から円の中心を求めることにより「形態要素特定手段」として機能するものである。
【0064】
(マークの精密位置検出:マークがその他の形状の場合)
マーク形状の判別処理が既に行われている場合、当該マーク形状における極座標変換画像の特徴が分かるので、演算部14は、それに応じた特徴抽出によりマークの位置及びマークサイズを取得する。
例えば、図7及び図8に示すように、マークMの形状がn角形である場合、極座標変換画像はマークMの輪郭線にn個の山と谷のペアが出来る特徴がある。
元の撮像画像データにおいて、マークMの頂点位置を取得する為には、走査方向や判定条件を頂点位置に応じて変更する必要があるが、極座標変換画像上では、いずれの頂点も同方向の形状で、かつ頂点部がより鋭く強調される為、全ての頂点を同一かつ単純なアルゴリズムで検出することができる。
【0065】
(マークの精密位置検出:第一の特徴点特定工程)
例えば、マークMの形状が正方形である場合、図22に示すように、極座標変換における回転中心C’がマークMの実際の中心Cに対して誤差を生じている場合でも、極座標変換画像データにおける正方形のマークMの4つの頂点P0,P1,P2,P3は、図23に示すように、鋭い山P0,P1,P2,P3となって現れる。
演算部14において、極座標変換データを取得するまでの処理については、前述した場合と同様である。そして、演算部14は、上記各頂点位置を検出する処理を行う。
【0066】
図24は図23における領域Eの拡大図である。
例えば、図24に示すように、演算部14は、θ軸に沿った垂直ライン毎にエッジ抽出フィルタにより立ち上がりエッジと立下りエッジを検出しこれらを連結した先端位置として検出することが出来る。即ち、この処理が、「極座標変換データにおける背景とマークとの境界線において、先鋭形状の頂点となる特徴点を複数決定する第一の特徴点特定工程」に相当する。また、上記処理を行うことにより、演算部14は「第一の特徴点特定手段」として機能する。
なお、既に述べた他の極座標変換画像においてマークMの輪郭線を算出する場合にも、上記のエッジ抽出フィルタを用いる手法を取り入れても良い。
【0067】
(マークの精密位置検出:逆変換工程及び形態要素特定工程)
演算部14は、これにより、求められた極座標変換画像上の頂点Pn(rn,θn)、但しn=0,1,2,3、を、前述した式(2)(x=rcosθ,y=rsinθ)により元の二次元座標Pn(xn,yn)、但しn=0,1,2,3、に変換し、正方形のマークMの頂点の位置が全て正確に求められる。そして、各頂点位置からマークMの重心位置であるマーク位置を算出することができ、各頂点を結ぶ線分から辺又は対角線の長さであるマークサイズを求めることができ、各頂点を結ぶ線分から辺又は対角線の向きであるマークの向きを算出することが可能である。
【0068】
上記マークの精密位置検出処理において、演算部14は、マークMの輪郭線、即ち、背景とマークとの境界線において、r軸方向、即ち、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点P0〜P3を探索する「特徴点探索手段」として機能する。
また、極座標変換画像上の頂点P0〜P3、即ち、特徴点を元の二次元座標に変換することにより「逆変換手段」として機能する。
また、元の二次元座標の頂点P0〜P3のX−Y座標からマークMの位置、サイズ及び向きを算出することにより「形態要素特定手段」として機能する。
【0069】
なお、マークMの輪郭線上にノイズが存在し、頂点の全てが検出できなくてもよい。マークMの位置等を取得する為の必要な頂点数は、マークMの形状により異なるが、例えば、正方形の場合には、2つの頂点で位置、サイズ及び傾きを算出できる。
また、頂点が検出できない場合でも、例えば、極座標変換画像の輪郭線上に現れる谷の底部、即ち、図23のQ0, Q1, Q2, Q3〔極小値となる特徴点〕が各辺の中点に対応するという特性を利用して、マークMの位置、サイズ、向きを求めることが可能である。
【0070】
なお、上記手法によりマークMのサイズを算出した場合に、さらに、そのマークサイズに基づいてテンプレート画像を生成し、かかるテンプレート画像を用いてテンプレートマッチングを行っても良い。これにより、より精度の高い処理が可能となる。
【0071】
(極座標変換画像によるノイズ位置の特定)
なお、極座標変換画像から上記マーク位置、マークサイズ等の算出を行う際に、同時にノイズ位置の特定を行うことも可能である。
例えば、形状が円形と判別されたマークMについて、演算部14は、図25のマークMの撮像画像を、外接スキャン或いはテンプレートマッチングなどにより粗位置決めして求めたマーク中心により図26(A)に示す極座標変換画像を生成する。
さらに、演算部14は、極座標変換画像に対してエッジ抽出処理を行い、エッジ点列からなるマークMの輪郭線を検出し、図26(B)に示すように、Sobelフィルタ等でエッジ点の勾配ベクトルを算出する。なお、図26(B)において横軸はr軸方向を0°とした場合のエッジ勾配ベクトルの角度、縦軸はマークMの輪郭線の全範囲、即ち、θ=0〜360°を示す。
ノイズのない円周輪郭線の勾配ベクトルは図26(A)において右方向、即ち、基準方向としてのr軸方向となるが、濃度ムラ、その他のノイズがあるとその影響で勾配ベクトル方向が変動する。図26(C)に示すように、勾配ベクトル方向を一次微分することにより、隣接線のエッジ点列における隣接エッジ点との方向差であるばらつきが大きい箇所、即ち、θwの範囲を抽出できる。
【0072】
また、図26(D)に示すように。図26(A)における極座標変換画像のθ軸方向に沿ったラインごとの輝度値の総和からマーク内部のノイズ量を推測出来る。図26(D)ではマーク中心部Riと輪郭周辺部Rwについて、輝度値の総和量が少ないことから、これらRi,Rw部でのノイズの存在を推測できる。
【0073】
上記算出に基づいて、演算部14は、テンプレート画像を生成する。
即ち、マークMの周囲のθ方向ついて、角度θwの範囲は、エッジ勾配ベクトルがばらついている。
そして、輝度値の垂直総和から、マーク中心から半径方向についてRiとRwの範囲は総和量が低いが、中心に近いRiの範囲は元の二次元画像におけるテンプレートマッチングに及ぼす影響が小さいので除外対象に含まない。
従って、図27に示すように、角度範囲θwであって半径方向にRwの範囲については、テンプレートマッチングの対象から除外する。
なお、このように、ノイズ成分が顕著な一部分のみを演算対象外領域としているため、テンプレートのマークの形状的特徴は失われない。
【0074】
なお、前述したマークサイズを取得する工程において、マーク中心位置も同時に検出することが出来る。例えばテンプレートマッチングを用いずに当初のマーク位置決めは単純なスキャンや重心演算で行い、本提案を施してテンプレートマッチングを用いないマーク位置決めも可能である。
【符号の説明】
【0075】
10 画像処理装置
14 演算部(中心特定手段、データ変換手段、形状判別手段、第一及び第二の特徴点特定手段、逆変換手段、形態要素特定手段、ノイズ特定手段)
16 マークデータ格納メモリ
19 テンプレートデータ格納メモリ
100 電子部品実装装置
120 制御装置
C 電子部品
K 基板
M マーク
【技術分野】
【0001】
本発明は、マークを判別するための画像処理方法及び画像処理装置に関するものである。
【背景技術】
【0002】
二次元的又は立体的なマークを撮像し、その撮像画像データを画像処理にかけてマークの識別等を行う技術は、例えば、基板に電子部品を実装する電子部品実装装置の分野に応用されている。電子部品実装装置に用いられる画像処理装置では、電子部品に極性を示すために、部品の角部に極性判別可能なボール、ランド等の立体的なマークもしくは平面的なマーク(以下これらを極性判別マークとする)が形成されており、実装時にこれらを撮像することで、電子部品の極性を特定し、部品の向きの正誤の判定や実装における電子部品の向きの修正を行っている。
上記画像処理装置では、極性判別マークの形状の判別方法として正規化相関マッチングを採用している。
【0003】
例えば図28(A)に示す四角形の極性判別マーク(■)と図28(B)に示された円形の極性判別マーク(●)の形状判別の場合、四角形の極性判別マークと円形の極性判別マークのそれぞれのモデルテンプレートを予め用意し、これと極性判別マークの撮像画像データとの相関量で該当マークの形状が四角形であるか円形であるかを判別することが行われている。
しかしながら、マークサイズが小さくなると、正規化相関マッチングでは判別しきれない場合があることから、上記従来の画像処理装置では、さらに、撮像画像データの拡大処理を行った上で輪郭情報を取得し、円形度の算出を行ったり、輪郭点の勾配ベクトルをモデルと照合して形状判別したりすることで、上記問題の解決を図っている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−112930号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1の先行技術は、マークの識別に際し、マークの円形度を指標とすることから、マークが円形かそれ以外かの判定に限られ、種々の形状のマークを個々に識別することができなかった。
【0006】
また、電子部品実装の分野では、電子部品の極性判別に限らず、基板上に配される位置決め用マーク(以下、基板マークとする)に対しても撮像画像の画像処理を行い、各種の判別を行っている。
基板マークは、欠けや汚れで綺麗なマーク画像を得られない場合や基板によってはマークサイズのばらつきが生じている場合がある。こういった場合でも基板マークと同形状のモデルマークと正規化相関マッチングを行うことで位置決めを行うことは可能であるが、位置決め精度の低下は避けられなかった。このため、マークのサイズや向きを正確に識別することができなかった。
【0007】
本発明は、種々の形状のマークの識別を可能とすることをその目的とする。
また、本発明は、マークに欠けや汚れ等がある場合でも、精度良くサイズ又は向きを認識することを可能とすることをさらなる目的とする。
【課題を解決するための手段】
【0008】
請求項1記載の発明は、電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理方法であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定工程と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換工程と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別工程と備えることを特徴とする。
【0009】
請求項2記載の発明は、請求項1記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数決定する第一の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする。
【0010】
請求項3記載の発明は、請求項1記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定工程を備えることを特徴とする。
【0011】
請求項4記載の発明は、請求項3記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする。
【0012】
請求項5記載の発明は、電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理装置であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定手段と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換手段と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別手段と備えることを特徴とする。
【0013】
請求項6記載の発明は、請求項5記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数特定する第一の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする。
【0014】
請求項7記載の発明は、請求項5記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定手段を備えることを特徴とする。
【0015】
請求項8記載の発明は、請求項7記載の発明と同様の構成を備えると共に、前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする。
【発明の効果】
【0016】
請求項1及び5記載の発明は、マークの撮像画像データを極座標変換し、極座標変換データにおける背景とマークとの境界線の形状的特徴からマークの形状を判別することから、種々のマーク形状について顕著な形状的特徴を容易に抽出することができ、円形か否かの判定に限らず、多彩な形状のマークの識別することが可能である。
また、マークの形状判別において、正規化相関マッチングを必ずしも必要とはしないので、マークの形状の種類が多岐に渡る場合に、全てのマーク形状とのマッチング演算を行う必要がなく、処理時間の短縮化を図ることが可能となる。
【0017】
請求項2及び6記載の発明は、極座標変換データにおける背景とマークとの境界線における山形状部又は谷形状部となる複数の特徴点を特定し、当該特徴点を二次元座標に戻すことにより、マークの形状的な特徴点となる位置を精度良く抽出することができ、これらの特徴点位置から精度良く、マークの大きさ又は向きを求めることが可能となる。
【0018】
請求項3及び7記載の発明は、極座標変換データにおける背景とマークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定している。画像内のノイズは、周囲の点に対して異質な形状的特徴を有する場合が多いので、極座標形に変換した場合に、そのエッジ勾配ベクトルは、周囲と異なる傾向を示し、その顕著性からノイズを容易に抽出可能である。そして、これにより、ノイズの対策を施すことが容易となる。
【0019】
請求項4及び8記載の発明は、境界線におけるノイズ部分意外に位置する特徴点を用いてマークの大きさ又は向きの算出を行うので、マークの大きさ又は向きをより精度良く取得することが可能となる。
【図面の簡単な説明】
【0020】
【図1】本実施の形態に係る電子部品実装装置の全体を示す平面図である。
【図2】電子部品実装装置の制御系を示すブロック図である。
【図3】マークの判別処理を示すフローチャートである。
【図4】円形のマークのサイズ及び中心を示す図である。
【図5】図5(A)はマークの撮像画像の元画像座標系を示し、図5(B)はマーク中心を原点とする極座標系を示す図である。
【図6】図6(A)は円形のマークの実画像例、図6(B)はその極座標変換画像例を示す。
【図7】図7(A)は正方形のマークの実画像例、図7(B)はその極座標変換画像例を示す。
【図8】図8(A)は正三角形のマークの実画像例、図8(B)はその極座標変換画像例を示す。
【図9】図9(A)は十字形のマークの実画像例、図9(B)はその極座標変換画像例を示す。
【図10】図10(A)は点対称に正方形が二つ並んだ形状のマークの実画像例、図10(B)はその極座標変換画像例を示す。
【図11】図11(A)は長方形のマークの実画像例、図11(B)はその極座標変換画像例を示す。
【図12】図12(A)は平行四辺形のマークの実画像例、図12(B)はその極座標変換画像例を示す。
【図13】図13(A)は台形のマークの実画像例、図13(B)はその極座標変換画像例を示す。
【図14】図14(A)は鈍角を含む四辺形のマークの実画像例、図14(B)はその極座標変換画像例を示す。
【図15】図15(A)は爪四つの星形のマークの実画像例、図15(B)はその極座標変換画像例を示す。
【図16】輪郭線の山と谷のペア数の取得方法を示す図である。
【図17】輪郭線の山と谷の発生周期を示す図である。
【図18】二つの輪郭線における山又は谷のθ軸方向の位相差を示す図である。
【図19】テンプレートマッチングにおける誤差の影響を示す図である。
【図20】円形マークの中心精度が正しくない場合に輪郭線に生じる影響を示す図である。
【図21】円形マークの中心精度が正しくない場合に輪郭線に生じる影響が生じる原因を示す図である。
【図22】正方形マークの中心精度が正しくない状態を示す図である。
【図23】正方形マークの中心精度が正しくない場合に輪郭線に生じる影響を示す図である。
【図24】図23における領域Eの拡大図である。
【図25】円形マークの撮像画像を示す図である。
【図26】図26(A)は円形マークの撮像画像の極座標変換後の図であり、図26(B)はそのエッジ勾配ベクトルを示す図であり、図26(C)はエッジ勾配ベクトルを一次微分した図であり、図26(D)は図26(A)の垂直総和を示す図である。
【図27】円形マークのテンプレートマッチングの除外領域を示す図である。
【図28】図28(A)は四角形の極性判別マークを示し、図28(B)は円形の極性判別マークを示す図である。
【発明を実施するための形態】
【0021】
(発明の実施形態の全体構成)
本発明の実施形態について、図1乃至図27に基づいて説明する。本実施形態は、電子部品の極性判別マークや基板に付された基板マークを総称して単にマークMとし、これらマークMの撮像画像に対して画像処理を行い、マークMの判別、マークMの位置、大きさ、向きの検出を行うための画像処理装置10が電子部品実装装置100に搭載され、基板Kに対する電子部品Cの実装動作制御に利用される場合の例を示している。
【0022】
(電子部品実装装置)
図1は電子部品実装装置100の平面図、図2は制御系を示すブロック図である。電子部品実装装置100は、基板Kに各種の電子部品Cの搭載を行うものであって、電子部品Cの搭載手段として、図1に示すように、搭載される電子部品Cを供給する複数の電子部品フィーダ101と、電子部品フィーダ101を複数並べて保持する電子部品供給部としてのフィーダバンク102と、一定方向に基板を搬送する基板搬送手段103と、当該基板搬送手段103による基板搬送経路の途中に設けられた基板に対する電子部品搭載作業を行うための搭載作業部104と、電子部品を吸着する吸着ノズル105を保持して電子部品の保持を行う部品保持手段としてのヘッド106と、ヘッド106を所定範囲内の任意の位置に駆動搬送するヘッド移動手段としてのX−Yガントリ107と、吸着ノズル105に吸着された電子部品の撮像を行う標準カメラ115及び高解像度カメラ116と、撮像位置に照明光を照射する照明装置117と、ヘッド106に搭載され、基板Kの基板マークを撮像する基板カメラ118と、基板Kの撮像位置に照明光を照射する照明装置119と、電子部品実装装置100の各構成に対して制御を行う制御装置120と、カメラ115,116,118の撮像画像データに所定の画像処理を実行する画像処理装置10とを備えている。
【0023】
画像処理装置10は、カメラ115,116による電子部品Cの撮像画像から極性判別マークの種類を識別し、その結果は、制御装置120に出力されてヘッド106の位置決め動作に反映される。
また、画像処理装置10は、カメラ118による基板Kの撮像画像から基板マークの位置、大きさ、向きを判別し、その結果は、制御装置120に出力されてヘッド106の位置決め動作に反映される。
【0024】
標準カメラ115、高解像度カメラ116及び基板用カメラ118はいずれもCCDカメラであり、標準カメラ115と高解像度カメラ116とは、搭載が行われる電子部品の電子部品のサイズによって使い分けられるようになっている。以下の記載では、標準カメラ115が使用される前提で説明を行うこととする。
また、以下の説明において、水平面に沿って互いに直交する一の方向をX軸方向とし、他の方向をY軸方向とし、垂直上下方向をZ軸方向と称することとする。
【0025】
基板搬送手段103は、図示しない搬送ベルトを備えており、その搬送ベルトにより基板をX軸方向に沿って搬送する。
また、前述したように、基板搬送手段103による基板搬送経路の途中には、電子部品を基板へ搭載する搭載作業部104が設けられている。基板搬送手段103は、搭載作業部104まで基板を搬送すると共に停止して、図示しない保持機構により基板の保持を行う。つまり、基板は保持機構により保持された状態で安定した電子部品の搭載作業が行われる。
【0026】
ヘッド106は、その先端部で空気吸引により電子部品を保持する吸着ノズル105と、この吸着ノズル105をZ軸方向に駆動する駆動源であるZ軸モータ111と、吸着ノズル105を介して保持された電子部品をZ軸方向を中心として回転駆動させる回転駆動源であるθ軸モータ112とが設けられている。
また、各吸着ノズル105は負圧発生装置108に接続され、当該吸着ノズル105の先端部において吸気吸引を行うことにより電子部品の吸着及び保持が行われる。
つまりこれらの構造により、搭載作業時には、吸着ノズル105の先端部で所定の電子部品フィーダ101から電子部品を吸着し、所定位置で基板に向かって吸着ノズル105を下降させると共に吸着ノズル105を回転させて電子部品の向きの調整を行いつつ搭載作業が行われる。
【0027】
また、前述した各カメラ115,116は、ベースフレーム114に搭載されており、X−Yガントリ107によりヘッド106が各カメラ115,116の位置決めされて撮像が行われるようになっている。
各カメラ115,116は、ベースフレーム114から上方に向けられた状態で保持されており、吸着ノズル105に吸着された電子部品Cを下方から撮像し、極性判別マークの撮像画像を画像処理装置10に出力する。
【0028】
また、基板カメラ118は、ヘッド106に搭載されており、X−Yガントリ107によりヘッド106が搭載作業部104に位置する基板Kまで移動し、所定の撮像位置から基板カメラ118で基板Kの基板マークの撮像が行われるようになっている。
基板カメラ118は、下方に向けられた状態で保持されており、基板Kを上方から撮像し、基板マークの撮像画像を画像処理装置10に出力する。
【0029】
X−Yガントリ107は、X軸方向にヘッド106の移動を案内するX軸ガイドレール107aと、このX軸ガイドレール107aと共にヘッド106をY軸方向に案内する二本のY軸ガイドレール107bと、X軸方向に沿ってヘッド106を移動させる駆動源であるX軸モータ109と、X軸ガイドレール107aを介してヘッド106をY軸方向に移動させる駆動源であるY軸モータ110とを備えている。そして、各モータ109,110の駆動により、ヘッド106を二本のY軸ガイドレール107bの間となる領域のほぼ全体に搬送することを可能としている。
なお、各モータは、ぞれぞれの回転量が制御装置120に認識され、所望の回転量となるように制御されることにより、ヘッド106を介して吸着ノズル105や各カメラ115,116の位置決めを行っている。
また、電子部品の必要上、前記したフィーダバンク102,搭載作業部104とはいずれもX−Yガントリ107によるヘッド106の搬送可能領域内に配置されている。
【0030】
フィーダバンク102には、複数の電子部品フィーダ101がX軸方向に沿って羅列して載置装備される。
各電子部品フィーダ101は、後端部に電子部品が一列に並んで封止された部品テープの図示しないリールが保持されており、部品テープはリールから電子部品フィーダ101の先端部、即ち、基板側の端部の上側に設けられた部品受け渡し位置101aまで繰り出され、当該部品受け渡し位置101aにおいて吸着ノズル105により電子部品の吸着が行われるようになっている。
【0031】
制御装置120は、基板Kに搭載する電子部品Cのリスト、搭載順番、各電子部品の部品吸着位置、即ち、いずれの電子部品フィーダ101から受け取るか及び基板Kにおける搭載位置が定められた搭載プログラムと、基板Kの撮像位置、各電子部品に付された極性判別マークの形状の種別、極性判別マークが電子部品のどこに付されているか等が定められた部品データを記録し、当該搭載プログラムに従ってX軸モータ109、Y軸モータ110及びZ軸モータ111を制御し、ヘッド106の位置決め制御を行う。また、この制御装置120は、吸着時の電子部品に対してθ軸モータ112を駆動して吸着ノズル105を回転させて角度修正制御を行い、X軸モータ109及びY軸モータ110により位置修正制御を行う。
かかる制御装置120は、電子部品Cの吸着ノズル105による吸着後に標準カメラ115又は高解像度カメラ116による撮像が行われ、当該撮像画像に基づいて画像処理装置10が求めた電子部品の極性に基づいて電子部品C実装する制御を行うようになっている。
また、制御装置120は、基板Kが搭載作業部104に搬送されると、ヘッド106を基板マークの撮像位置に搬送し、基板用カメラ118による撮像を行い、当該撮像画像に基づいて画像処理装置10が求めた基板の正確な位置及び向きに基づいて電子部品Cの実装制御を行うようになっている。
【0032】
(画像処理装置)
画像処理装置10は、画像処理装置全体を制御する制御部11と、各カメラ115,116,118の画像信号をデジタル化するA/D変換器12と、デジタル化された撮像画像データを記憶する画像メモリ13と、撮像画像データに基づいてマークの識別等の画像処理を実行する演算部14と、画像処理や各部の制御において作業領域となる作業用メモリ15と、画像処理装置10の制御部11が制御装置120とのデータ通信を行うインターフェイス17と、インターフェイス17を介して制御装置120から受信した部品データを格納する部品データ格納メモリ19と、各種の極性判別マーク及び基板マークの形状的特徴に関するデータや各種マークのテンプレートデータ等を格納するマークデータ格納メモリ16とを備えている。
【0033】
上記構成により、電子部品実装装置100は、制御装置120が、搭載プログラムと部品データを読み込むと、ヘッド106の吸着ノズル105により電子部品Cを吸着し、標準カメラ105の撮像位置へ移動する。そして、電子部品Cの極性判定マークを撮像すると共に、撮像画像データを画像メモリ13に記憶する。
一方、制御装置120は、予め、電子部品の電極の情報、極性判別マーク情報などの部品データをインターフェイス17を介して画像処理装置10へ送信する。画像処理装置10は受信した部品データを部品データ格納メモリ19に格納する。
そして、制御装置120は、電子部品のサイズによって、標準カメラ115と高解像度カメラ116のいずれかを選択し、電子部品Cを吸着ノズル105で吸着し、選択したカメラの撮像位置にセットする。
さらに、制御装置120は、照明装置117を選択したカメラで撮像できるよう移動、点灯させ、インターフェイス17を介して画像処理装置10に、選択したカメラチャネル情報とともに処理の実行を通知する。
【0034】
画像処理装置10は、指定されたカメラ115又は116から入力される電子部品の撮像画像データをA/Dコンバータ12でデジタル化し、画像メモリ13に多値画像データとして記憶させる。
画像処理装置10は、画像メモリ13のデータを処理し、極性判定マークを識別する。識別結果の内容が問題なければ、その識別結果をインターフェイス17を介し、制御装置120に出力する。識別結果に問題があれば、極性エラーであったことを返答する。
【0035】
制御装置120は、正常な識別結果を受け取った場合、その情報に従って、吸着ノズル105を搭載位置に移動し、電子部品Cを基板Kに搭載する。
一方、制御装置120は、極性エラーを受信した場合、電子部品Cの姿勢を補正してリトライするか、電子部品を廃棄する。
【0036】
また、制御装置120は、基板搬送手段103により基板Kが搭載作業部104に供給されると、基板用カメラ118と照明装置119とを基板Kの基板マークの上方に移動し、基板マークを撮像する。
これにより、画像処理装置10は、基板マークの撮像画像データを画像メモリ13に格納する。そして、画像処理装置10は、この撮像画像データから、マークサイズ、マーク形状、マーク中心位置、マークの向きを検出しこれらの情報をマークデータとしてマークデータ格納メモリ16に記録する。
なお、基板マークの中心位置及びその向きの検出は、基板Kに対する電子部品Cの位置決め精度を左右することから、その検出も高精度で行う必要がある。
このため、画像処理装置10は、基板Kのマークが撮像されると、マークデータ格納メモリ16から基板マークの基準画像データを読み出してテンプレート画像データを生成し、撮像画像とテンプレートマッチングさせることでマーク位置を検出し、制御装置120に通知する。
【0037】
(マークの判別処理)
以下、画像処理装置10で行われるマークの形状による判別処理について説明する。マークの判別は、極性判別マーク、基板マークのいずれについて対しても行われる処理である。以下の説明では、極性判別マークと基板マークとを区別することなく、単に、マークと言うものとする。
図3はマークの判別処理を示すフローチャートである。
【0038】
(1)マーク粗位置検出(図3のステップS1)
部品の極性判別マークの場合、部品上のどの位置にどの形状の極性判別マークが存在するかという情報は予め部品データとして画像処理装置10の部品データ格納メモリ19内に記憶されている。
また、基板マークの場合も、基板上のいずれの位置に基板マークが付されているかを示す情報が基板データとして画像処理装置10のマークデータ格納メモリ16に記憶されている。
このため、撮像画像データの画像内における部品の外形特徴、電極位置又は基板の形状的特徴やパッド位置等を周知の画像処理により抽出し、電子部品又は基板の中心位置と傾きを求め、これらを基準としてマークMを探索することができる。
また、テンプレートマッチングや外接スキャンなどの画像演算で基板マークの位置を特定することも可能である。なお、基板マークの場合は、撮像画像の表示装置とマウス等の入力デバイスとを用意して、マシン操作者により、基板マークの位置又は基板マークを含む領域を表示画像に対して直接指定入力することも可能である。
【0039】
(2)マークサイズ取得(図3のステップS3)
撮像画像内において探索されたマークMに対して、演算部14は、撮像画像データにおけるマークMを含む周辺領域について外接スキャン、エッジ抽出処理等を行い、マークMと背景との境界を抽出する。
マークMと背景との境界を抽出する処理では、周辺領域内の各画素値について所定方向に走査を行い、隣接する画素との値の差が所定値以上となる画素をマークMと背景との境界と見なす処理を行う。
そして、外接スキャン等により求められた境界線に囲まれるマークMについて、図4に示すように、マークサイズ(msx,msy)、即ち、msx:マークMのX軸方向の最大幅,msy:Y軸方向の最大幅を算出する。なお、図4では円形のマークMを例示している。
【0040】
(3)マーク中心取得(図3のステップS5:中心特定工程)
さらに、演算部14は、外接スキャンにより求められたマークM、即ち、境界線に囲まれる図形に対して重心演算等を実行し、マークMの重心としての中心(図4のC(cx,cy))を算出する。演算部14は、かかる処理を行うことにより、「中心特定手段」として機能するものである。
【0041】
(4)極座標変換画像の取得(図3のステップS7:データ変換工程)
次に、演算部14は、マーク中心C(cx,cy)を中心にマークMより一回り大きく、当該マークMを網羅することが可能な半径Rの円形領域内の画像について、元画像座標、即ち、X−Y座標系:図5(A)からマーク中心C(cx,cy)を原点とする極座標、即ち、r−θ座標系:図5(B)に変換する処理を行う。
なお、R=msX/2・Aとする。AはマークMを完全に取り込むための係数(例えばA=1.2程度とする)。
【0042】
元画像座標(X−Y座標系)からマーク中心C(cx,cy)を原点とする極座標、即ち、r−θ座標系の変換は次式(1)による。
なお、極座標としてのr−θ座標系から元画像座標としてのX−Y座標系への変換は次式(2)による。
演算部14は、かかる処理を行うことにより、「データ変換手段」として機能するものである。
【数1】
【0043】
(5)極座標変換画像から形状的特徴の取得(図3のステップS9:形状判別工程)
図6〜図15に一般的なマーク形状の例を示し、各図の(A)には各マーク形状の実画像例、各図の(B)には極座標変換画像例を示している。
図6は円形のマークMを示し、円形の場合にはマーク中心に対しマーク輪郭が等距離となるので、極座標変換画像では、輪郭線としての境界線がθ軸方向に沿った直線状となり、その左側がマーク内部、右側が背景に分離した画像となる。
つまり、輪郭線が傾き90度の直線に近似すればマークMは円形マークと判定することができる。
【0044】
図7は正方形、図8は正三角形のマークMを示し、これらのような正n角形マークの場合は、極座標変換画像には動径方向としてのR軸方向についてn個の山と谷がθ軸方向に並んで現れる。なお、この山の頂部と谷の底部とはいずれも、「動径方向における極値となる特徴点」に相当する。
つまり、輪郭線に先鋭な山と底部がなだらかな谷とが交互に並ぶ場合には、山又は谷の個数に応じた多角形状のマークと判定することができ、さらにその周期が一定であれば正多角形のマークと判定することができる。
【0045】
図9は十字形のマークMである。この場合、輪郭線は、底部が先鋭な谷と頂部が円弧状に窪んだ山とがθ軸方向に交互に四つ並ぶ形状となり、かかる形状的特徴から十字形のマークMと判定することができる。
図10はマーク中心で点対称に正方形が二つ並んだ形状のマークMである。この場合、輪郭線は、頂部が先鋭となる山がθ軸方向について断続的に二つ現れる形状となり、かかる形状的特徴から正方形が二つ並んだ形状のマークMと判定することができる。
【0046】
図11は長方形、図12は平行四辺形、図13は台形のマークMを示し、これらの場合も正方形のように、輪郭線には、先鋭な山と底部がなだらかな谷とが四つ並んで現れるが、長方形の場合には、山はいずれも同じ高さとなるが谷は深い谷と浅い谷とが交互に現れ、平行四辺形の場合には、低い山と高い山とが交互に現れ、台形の場合には、低い山と高い山とが二つずつ交互に現れる。従って、かかる形状的特徴から長方形、平行四辺形又は台形のマークMと判定することができる。
【0047】
図14は鈍角を含む四辺形のマークMを示し、この場合、輪郭線は、鋭角の頂点は全て先鋭な山となり、鈍角の頂点は底部に角がある深い谷となる形状が現れる。従って、かかる形状的特徴から鈍角を含む四辺形のマークMと判定することができる。
図15は爪四つの星形のマークMを示し、この場合、輪郭線は、山と谷とが爪数に応じて四つ現れ、山の頂点は全て先鋭となり、谷の底部に角がある形状が現れる。従って、かかる形状的特徴から爪四つの星形のマークMと判定することができる。
【0048】
以上のように、マークMの形状に応じて極座標変換画像のマークと背景を分離する輪郭線には固有の形状的特徴が現れることから、演算部14は、当該形状的特徴に基づく条件の一致を判定することによりマーク形状を識別する。
具体的には、以下に示す複数の要素からマーク形状の識別を行う。
【0049】
[1]山と谷のペア数の取得(図16)
極座標変換画像の右側、即ち、r軸方向における最大値側からθ軸方向に沿って走査し、最右に存在する輪郭線の山位置(Pr0)を検出する。また、これと共に、左側、即ち、R軸方向における0側から走査し、最左に存在する谷位置(Pl0)を検出する。この時、山位置(Pr0)と谷位置(Pl0)のr成分の差が後述する判定値より小さければ山と谷は存在せずと判断する。
一方、山位置(Pr0)と谷位置(Pl0)のr成分の差が判定値より大きい場合はPl0とPr0間にθ軸に平行な垂直走査線(VL)を複数本設定し、背景区間とマーク形状区間数を数えることで山と谷ペア数、即ち、山の頂点である特徴点の個数又は谷の底部である特徴点の個数を取得する。
或いは、境界線の勾配ベクトルを求め、r成分について山の頂点数、r成分について谷の極小値となる点の数を数えることでも山と谷のペア数は取得できる。なお、これら山の頂点及び谷の極小値となる点を総称して特徴点というものとする。
なお、ここでいう「ペア数」とは山の数又は谷の数と同義であり、特定の山と特定の谷との組み合わせが成立している必要はない。
【0050】
山と谷のペア数は元画像上マーク形状の頂点や突起の数と一致する。各マーク形状の山と谷ペア数は、例えば、マークMが円形であれば0、正方形であれば4、正三角形であれば3、十字形であれば4、点対称に配置した二つの正方形であれば2となる。また山位置と谷位置の間隔はマーク形状とマークサイズで決まる為、図3のステップS3で示したマークサイズ取得工程で取得済みのマークサイズとマークの形状候補から山谷有無判定値を準備できる。
そして、判別すべきマークMの形状の候補が、頂点の個数がいずれも異なる形状であるような場合には、山と谷のペア数だけ求めれば、識別することが可能である。
【0051】
[2]山谷発生間隔
例えば、四角形であれば山と谷ペア数は4であるが、正方形:図7、長方形:図11、平行四辺形:図12、台形:図13では山と谷の発生周期が異なる。
即ち、前述した境界線の勾配ベクトルから特徴点の極座標系における座標値を取得した場合に、それらのθ成分の値の差を採ることで、図17のように、山と谷の発生周期を求めることができ、各種の四角形について識別することが可能である。
さらに、図18のように、山又は谷となる特徴点の極座標系におけるθ成分の座標値を参照した場合に、山又は谷のθ軸方向の位相差を求めることにより、同一形状のマークMにおける傾き角度を求めることができる。
【0052】
[3]山の高さ又は谷の深さ
前述の手法で山又は谷となる特徴点の極座標系における座標値を取得した場合に、それらのr成分の値を参照することで山の高さ又は谷の深さの変化を求めることができ、例えば、山の高さが常に一定、高低の変化を繰り返すなど、変化パターンの違いから各種の四角形について識別することが可能である。
【0053】
[4]山形状又は谷形状
輪郭線の勾配ベクトルを求めることにより、山形状又は谷形状の違いを求めることができる。例えば、図9,図14,図15の場合のように、鈍角の頂点を有する形状の場合には、谷の底部が先鋭な形状となり、勾配ベクトルの顕著な変化によりこれを求めることが可能である。
【0054】
[5]輪郭線の不連続部
図10のように、輪郭線が途切れる不連続部が存在するか否かにより、マークの中心に対する一部の方向について、図形が存在しない範囲を有する形状のマークを他と識別することが可能である。
【0055】
上記のパラメータは一例にすぎず、他の形状的特徴を示すパラメータを識別の判断材料としても良い。
画像処理装置10は、マークデータ格納メモリ16内に、各種形状のマークが、上記のような各種のパラメータの条件を満たすか否か、或いはパラメータに関する数値を記憶するテーブルを備えている。
そして、演算部14は、撮像画像データの極座標系変換画像データに対して、上記各パラメータを算出する処理を実行し、各種のパラメータに定められた条件を満たすか否か及びパラメータに関する数値の算出を行い、その結果と上記テーブルとを照らし合わせることにより、マークMの形状を特定する:図3のステップS11。
即ち、マークデータ格納メモリ16と演算部14の協働により、「形状判別手段」として機能するものである。
なお、判定対象となるマークMの形状が一部の範囲に限定されている場合のように、一部のパラメータのみにより識別可能な場合には、当該一部のパラメータについてのみ判定を行い、処理を軽減しても良い。
また、上記各種のパラメータについては、それぞれの優先順位を定めておくことにより、順番に識別すれば形状の識別をより効率的に行うことが可能である。
また、形状によっては先に挙げたパラメータだけでは形状判別しにくいマーク形状がある場合は随時その形状に応じたパラメータを追加していけばよい。
【0056】
(マークの精密位置検出)
次に、画像処理装置10で行われるマークの位置、大きさ、向き等をより正確に検出する処理について説明する。基板マークは、特に、基板Kに対する電子部品Cの位置決めに影響することから、その位置及び向きをより正確に検出する必要がある。
マークMの種類が特定されると、テンプレートマッチングを行うことによりマークMの位置検出を行うことが可能となる。しかしながら、図19に示すように、テンプレート画像のマークMtと撮像画像のマークMとでサイズ差が存在する場合や、マークに欠けや汚れDといったノイズがあると、マークMの本来の中心位置Sとはずれた中心位置Stが求められることとなり、位置決め精度が悪化する。
そこでテンプレートマッチングで位置決めされた位置を回転中心として極座標変換画像を作成し、その極座標変換画像からマークサイズ・マーク傾き・ノイズ有無等を検出し、これらの情報を考慮したマークテンプレート画像を生成し再度テンプレートマッチングを行うことで位置決め精度を向上させる方法を提案する。
【0057】
(マークの精密位置検出:マークが円形の場合[1])
マークMの形状に応じてマーク位置、サイズ、傾きの検出方法が異なるので、個々に説明する。
円形のマークMの極座標変換画像は、図6(B)に示すように、正しい中心位置で極座標変換が行われた場合には、マークの輪郭線はθ軸に平行な直線となる。そのため元画像上の円形のマークから直接円周輪郭を取得するより単純なアルゴリズムで位置、サイズの検出が可能である。なお、マークが円形の場合には傾きは求められない。
【0058】
マーク画像の極座標変換を行う前提として、マークの中心位置を求める際に、外接スキャンやテンプレートマッチングを用いた場合、中心精度が正しく出ていないと、図20に示すように、輪郭線は正弦波状に歪む。
即ち、図21に示すように、真のマーク中心Cから(dx, dy)ずれた位置を回転中心C’として極座標変換を行った場合、真の中心Cと回転中心C’とを結んだ線分の角度αの時に最小半径、角度α+πの時に最大半径となる。
さらに、角度αと角度α+πの場合に、それぞれ真の半径RAに対して、C−C’間距離である中心誤差距離L分の減増となる。
【0059】
よって、演算部14は、極座標変換画像において、輪郭線を求め、r成分が最小値となる点P0のθ成分をα、最大値となる点P1のθ成分をα+πとして求めることができる。
さらに、点P0のr成分はRA−Lであり、点P1のr成分はRA+Lである。
そして、α=tan-1(dy/dx)、L=(dx2+dy2)1/2なので、演算部14は、点P0、P1のr−θ座標値から、(dx,dy)を算出することができる。従って、円形のマークMの正確な位置が算出される。
また、円形のマークMの正確なサイズは、点P0とP1のr成分の値の平均値から求めることができる。
【0060】
なお、上記マークMの位置、サイズの検出処理は、マークMの形状が既に判別されていることを前提とするので、マークMの位置、サイズの検出処理におけるマークKの中心位置の算出と極座標変換画像データの生成が、マークMの形状の判別の処理の際に既に行われている場合には、その際の算出データを利用することができる。即ち、マークMの位置、サイズの検出処理の際に、マークKの中心位置の算出と極座標変換画像データの生成を再びやり直す必要はない。
【0061】
(マークの精密位置検出:マークが円形の場合[2])
上記円形のマークMの位置及びサイズの検出は、極座標変換データにおいて、輪郭線の最大値と最小値とが顕著に得られた場合には有効だが、それぞれが顕著ではない場合には、精度が低下する。また、撮像画像データに汚れなどのノイズ成分が含まれて輪郭線が一部正しく得られない場合にも精度が低下する。
【0062】
従って、上記と同じ手法で、マークKの極座標変換画像データにおける輪郭線を求めたら、当該輪郭線上の各点でエッジ勾配ベクトルを算出する。
当該輪郭線上の各点のエッジ勾配ベクトルは、中心位置に誤差がある場合でも、輪郭線上の各部で大きな変動は生じない。
一方、マークMの撮像画像において、背景とマークMの境界部分に汚れその他のノイズ成分が含まれている場合、輪郭線のノイズ部分のエッジ勾配ベクトルはエッジ勾配ベクトルの全体的な傾向に対して顕著な差が発生する。
従って、演算部14では、輪郭線においてエッジ勾配ベクトルが所定の範囲以上の大きな変動を生じている部分はノイズと特定する。この工程をノイズ特定工程という。
このように、演算部14は、エッジ勾配ベクトルを用いてノイズを特定することにより、「ノイズ特定手段」として機能するものである。
【0063】
そして、演算部14は、ノイズ部分を除いて、輪郭線上の任意の3点の特徴点を抽出する。即ち、かかる処理が「ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定工程」に相当する。そして、当該3点の特徴点を実画像系のX−Y座標値に逆変換する。この工程を逆変換工程という。そして、算出された3点のX−Y座標から、これら3点を通る円を求め、当該円をマークMと背景の境界線と見なす。そして、この円の中心を算出することにより、マークMの正確な位置を得ることができ、また、3点を通る円の直径から正確なマークサイズを取得することができる。この工程を形態要素特定工程という。
このように、演算部14は、ノイズ部分を除いて特徴点を特定することにより「第二の特徴点特定手段」として機能し、3つの特徴点を実画像系のX−Y座標値に逆変換することで「逆変換手段」として機能し、逆変換後の3点から円の中心を求めることにより「形態要素特定手段」として機能するものである。
【0064】
(マークの精密位置検出:マークがその他の形状の場合)
マーク形状の判別処理が既に行われている場合、当該マーク形状における極座標変換画像の特徴が分かるので、演算部14は、それに応じた特徴抽出によりマークの位置及びマークサイズを取得する。
例えば、図7及び図8に示すように、マークMの形状がn角形である場合、極座標変換画像はマークMの輪郭線にn個の山と谷のペアが出来る特徴がある。
元の撮像画像データにおいて、マークMの頂点位置を取得する為には、走査方向や判定条件を頂点位置に応じて変更する必要があるが、極座標変換画像上では、いずれの頂点も同方向の形状で、かつ頂点部がより鋭く強調される為、全ての頂点を同一かつ単純なアルゴリズムで検出することができる。
【0065】
(マークの精密位置検出:第一の特徴点特定工程)
例えば、マークMの形状が正方形である場合、図22に示すように、極座標変換における回転中心C’がマークMの実際の中心Cに対して誤差を生じている場合でも、極座標変換画像データにおける正方形のマークMの4つの頂点P0,P1,P2,P3は、図23に示すように、鋭い山P0,P1,P2,P3となって現れる。
演算部14において、極座標変換データを取得するまでの処理については、前述した場合と同様である。そして、演算部14は、上記各頂点位置を検出する処理を行う。
【0066】
図24は図23における領域Eの拡大図である。
例えば、図24に示すように、演算部14は、θ軸に沿った垂直ライン毎にエッジ抽出フィルタにより立ち上がりエッジと立下りエッジを検出しこれらを連結した先端位置として検出することが出来る。即ち、この処理が、「極座標変換データにおける背景とマークとの境界線において、先鋭形状の頂点となる特徴点を複数決定する第一の特徴点特定工程」に相当する。また、上記処理を行うことにより、演算部14は「第一の特徴点特定手段」として機能する。
なお、既に述べた他の極座標変換画像においてマークMの輪郭線を算出する場合にも、上記のエッジ抽出フィルタを用いる手法を取り入れても良い。
【0067】
(マークの精密位置検出:逆変換工程及び形態要素特定工程)
演算部14は、これにより、求められた極座標変換画像上の頂点Pn(rn,θn)、但しn=0,1,2,3、を、前述した式(2)(x=rcosθ,y=rsinθ)により元の二次元座標Pn(xn,yn)、但しn=0,1,2,3、に変換し、正方形のマークMの頂点の位置が全て正確に求められる。そして、各頂点位置からマークMの重心位置であるマーク位置を算出することができ、各頂点を結ぶ線分から辺又は対角線の長さであるマークサイズを求めることができ、各頂点を結ぶ線分から辺又は対角線の向きであるマークの向きを算出することが可能である。
【0068】
上記マークの精密位置検出処理において、演算部14は、マークMの輪郭線、即ち、背景とマークとの境界線において、r軸方向、即ち、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点P0〜P3を探索する「特徴点探索手段」として機能する。
また、極座標変換画像上の頂点P0〜P3、即ち、特徴点を元の二次元座標に変換することにより「逆変換手段」として機能する。
また、元の二次元座標の頂点P0〜P3のX−Y座標からマークMの位置、サイズ及び向きを算出することにより「形態要素特定手段」として機能する。
【0069】
なお、マークMの輪郭線上にノイズが存在し、頂点の全てが検出できなくてもよい。マークMの位置等を取得する為の必要な頂点数は、マークMの形状により異なるが、例えば、正方形の場合には、2つの頂点で位置、サイズ及び傾きを算出できる。
また、頂点が検出できない場合でも、例えば、極座標変換画像の輪郭線上に現れる谷の底部、即ち、図23のQ0, Q1, Q2, Q3〔極小値となる特徴点〕が各辺の中点に対応するという特性を利用して、マークMの位置、サイズ、向きを求めることが可能である。
【0070】
なお、上記手法によりマークMのサイズを算出した場合に、さらに、そのマークサイズに基づいてテンプレート画像を生成し、かかるテンプレート画像を用いてテンプレートマッチングを行っても良い。これにより、より精度の高い処理が可能となる。
【0071】
(極座標変換画像によるノイズ位置の特定)
なお、極座標変換画像から上記マーク位置、マークサイズ等の算出を行う際に、同時にノイズ位置の特定を行うことも可能である。
例えば、形状が円形と判別されたマークMについて、演算部14は、図25のマークMの撮像画像を、外接スキャン或いはテンプレートマッチングなどにより粗位置決めして求めたマーク中心により図26(A)に示す極座標変換画像を生成する。
さらに、演算部14は、極座標変換画像に対してエッジ抽出処理を行い、エッジ点列からなるマークMの輪郭線を検出し、図26(B)に示すように、Sobelフィルタ等でエッジ点の勾配ベクトルを算出する。なお、図26(B)において横軸はr軸方向を0°とした場合のエッジ勾配ベクトルの角度、縦軸はマークMの輪郭線の全範囲、即ち、θ=0〜360°を示す。
ノイズのない円周輪郭線の勾配ベクトルは図26(A)において右方向、即ち、基準方向としてのr軸方向となるが、濃度ムラ、その他のノイズがあるとその影響で勾配ベクトル方向が変動する。図26(C)に示すように、勾配ベクトル方向を一次微分することにより、隣接線のエッジ点列における隣接エッジ点との方向差であるばらつきが大きい箇所、即ち、θwの範囲を抽出できる。
【0072】
また、図26(D)に示すように。図26(A)における極座標変換画像のθ軸方向に沿ったラインごとの輝度値の総和からマーク内部のノイズ量を推測出来る。図26(D)ではマーク中心部Riと輪郭周辺部Rwについて、輝度値の総和量が少ないことから、これらRi,Rw部でのノイズの存在を推測できる。
【0073】
上記算出に基づいて、演算部14は、テンプレート画像を生成する。
即ち、マークMの周囲のθ方向ついて、角度θwの範囲は、エッジ勾配ベクトルがばらついている。
そして、輝度値の垂直総和から、マーク中心から半径方向についてRiとRwの範囲は総和量が低いが、中心に近いRiの範囲は元の二次元画像におけるテンプレートマッチングに及ぼす影響が小さいので除外対象に含まない。
従って、図27に示すように、角度範囲θwであって半径方向にRwの範囲については、テンプレートマッチングの対象から除外する。
なお、このように、ノイズ成分が顕著な一部分のみを演算対象外領域としているため、テンプレートのマークの形状的特徴は失われない。
【0074】
なお、前述したマークサイズを取得する工程において、マーク中心位置も同時に検出することが出来る。例えばテンプレートマッチングを用いずに当初のマーク位置決めは単純なスキャンや重心演算で行い、本提案を施してテンプレートマッチングを用いないマーク位置決めも可能である。
【符号の説明】
【0075】
10 画像処理装置
14 演算部(中心特定手段、データ変換手段、形状判別手段、第一及び第二の特徴点特定手段、逆変換手段、形態要素特定手段、ノイズ特定手段)
16 マークデータ格納メモリ
19 テンプレートデータ格納メモリ
100 電子部品実装装置
120 制御装置
C 電子部品
K 基板
M マーク
【特許請求の範囲】
【請求項1】
電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理方法であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定工程と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換工程と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別工程と備えることを特徴とする画像処理方法。
【請求項2】
前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数特定する第一の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする請求項1記載の画像処理方法。
【請求項3】
前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定工程を備えることを特徴とする請求項1記載の画像処理方法。
【請求項4】
前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする請求項3記載の画像処理方法。
【請求項5】
電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理装置であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定手段と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換手段と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別手段と備えることを特徴とする画像処理装置。
【請求項6】
前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数特定する第一の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする請求項5記載の画像処理装置。
【請求項7】
前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定手段を備えることを特徴とする請求項5記載の画像処理装置。
【請求項8】
前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする請求項7記載の画像処理装置。
【請求項1】
電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理方法であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定工程と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換工程と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別工程と備えることを特徴とする画像処理方法。
【請求項2】
前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数特定する第一の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする請求項1記載の画像処理方法。
【請求項3】
前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定工程を備えることを特徴とする請求項1記載の画像処理方法。
【請求項4】
前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定工程と、
前記複数の特徴点を二次元座標系に逆変換する逆変換工程と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定工程とを備えることを特徴とする請求項3記載の画像処理方法。
【請求項5】
電子部品を基板に実装する際に、前記電子部品又は基板に付されたマークを撮像した撮像画像データによるマークの識別に用いられる画像処理装置であって、
前記マークの撮像画像データから当該マークの中心位置を特定する中心特定手段と、
前記マークの中心位置から前記マークの撮像画像データの極座標変換データを取得するデータ変換手段と、
前記極座標変換データにおける背景と前記マークとの境界線の形状的特徴からマークの形状を判別する形状判別手段と備えることを特徴とする画像処理装置。
【請求項6】
前記極座標変換データにおける背景と前記マークとの境界線において、極座標の動径方向について極値となる特徴点又は先鋭形状の頂点となる特徴点を複数特定する第一の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする請求項5記載の画像処理装置。
【請求項7】
前記極座標変換データにおける背景と前記マークとの境界線におけるエッジ勾配ベクトルからノイズ部分を特定するノイズ特定手段を備えることを特徴とする請求項5記載の画像処理装置。
【請求項8】
前記極座標変換データにおける背景と前記マークとの境界線において、前記ノイズ部分を除く範囲内のいずれかに位置する複数の点からなる特徴点を特定する第二の特徴点特定手段と、
前記複数の特徴点を二次元座標系に逆変換する逆変換手段と、
前記複数の特徴点の二次元座標から前記マークの大きさ又は向きを求める形態要素特定手段とを備えることを特徴とする請求項7記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【公開番号】特開2012−203612(P2012−203612A)
【公開日】平成24年10月22日(2012.10.22)
【国際特許分類】
【出願番号】特願2011−67053(P2011−67053)
【出願日】平成23年3月25日(2011.3.25)
【出願人】(000003399)JUKI株式会社 (1,557)
【Fターム(参考)】
【公開日】平成24年10月22日(2012.10.22)
【国際特許分類】
【出願日】平成23年3月25日(2011.3.25)
【出願人】(000003399)JUKI株式会社 (1,557)
【Fターム(参考)】
[ Back to top ]