trunk/src/jp/nyatla/nyartoolkit/detector/NyARDetectMarker.java

   1 /* \r
   2  * PROJECT: NyARToolkit\r
   3  * --------------------------------------------------------------------------------\r
   4  * This work is based on the original ARToolKit developed by\r
   5  *   Hirokazu Kato\r
   6  *   Mark Billinghurst\r
   7  *   HITLab, University of Washington, Seattle\r
   8  * http://www.hitl.washington.edu/artoolkit/\r
   9  *\r
  10  * The NyARToolkit is Java edition ARToolKit class library.\r
  11  * Copyright (C)2008-2009 Ryo Iizuka\r
  12  *\r
  13  * This program is free software: you can redistribute it and/or modify\r
  14  * it under the terms of the GNU General Public License as published by\r
  15  * the Free Software Foundation, either version 3 of the License, or\r
  16  * (at your option) any later version.\r
  17  * \r
  18  * This program is distributed in the hope that it will be useful,\r
  19  * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
  20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
  21  * GNU General Public License for more details.\r
  22  *\r
  23  * You should have received a copy of the GNU General Public License\r
  24  * along with this program.  If not, see <http://www.gnu.org/licenses/>.\r
  25  * \r
  26  * For further information please contact.\r
  27  *      http://nyatla.jp/nyatoolkit/\r
  28  *      <airmail(at)ebony.plala.or.jp> or <nyatla(at)nyatla.jp>\r
  29  * \r
  30  */\r
  31 package jp.nyatla.nyartoolkit.detector;\r
  32 \r
  33 import jp.nyatla.nyartoolkit.NyARException;\r
  34 import jp.nyatla.nyartoolkit.core.*;\r
  35 import jp.nyatla.nyartoolkit.core.match.*;\r
  36 import jp.nyatla.nyartoolkit.core.param.NyARParam;\r
  37 import jp.nyatla.nyartoolkit.core.pickup.*;\r
  38 import jp.nyatla.nyartoolkit.core.raster.*;\r
  39 import jp.nyatla.nyartoolkit.core.raster.rgb.*;\r
  40 import jp.nyatla.nyartoolkit.core.transmat.*;\r
  41 import jp.nyatla.nyartoolkit.core.rasterfilter.rgb2bin.*;\r
  42 import jp.nyatla.nyartoolkit.core.squaredetect.Coord2Linear;\r
  43 import jp.nyatla.nyartoolkit.core.squaredetect.INyARSquareContourDetector;\r
  44 import jp.nyatla.nyartoolkit.core.squaredetect.NyARSquare;\r
  45 import jp.nyatla.nyartoolkit.core.squaredetect.NyARSquareContourDetector_Rle;\r
  46 import jp.nyatla.nyartoolkit.core.types.*;\r
  47 import jp.nyatla.utils.NyObjectStack;\r
  48 \r
  49 class NyARDetectMarkerResult\r
  50 {\r
  51         public int arcode_id;\r
  52         public double confidence;\r
  53 \r
  54         public NyARSquare square=new NyARSquare();\r
  55 }\r
  56 \r
  57 \r
  58 class NyARDetectMarkerResultStack extends NyObjectStack<NyARDetectMarkerResult>\r
  59 {\r
  60         public NyARDetectMarkerResultStack(int i_length)\r
  61         {\r
  62                 super(i_length,NyARDetectMarkerResult.class);\r
  63                 return;\r
  64         }\r
  65         protected NyARDetectMarkerResult createElement()\r
  66         {\r
  67                 return new NyARDetectMarkerResult();\r
  68         }       \r
  69 }\r
  70 \r
  71 \r
  72 /**\r
  73  * 複数のマーカーを検出し、それぞれに最も一致するARコードを、コンストラクタで登録したARコードから 探すクラスです。最大300個を認識しますが、ゴミラベルを認識したりするので100個程度が限界です。\r
  74  * \r
  75  */\r
  76 public class NyARDetectMarker\r
  77 {\r
  78         /**\r
  79          * detectMarkerのコールバック関数\r
  80          */\r
  81         private class DetectSquareCB implements INyARSquareContourDetector.DetectMarkerCallback\r
  82         {\r
  83                 //公開プロパティ\r
  84                 public NyARDetectMarkerResultStack result_stack=new NyARDetectMarkerResultStack(NyARDetectMarker.AR_SQUARE_MAX);\r
  85                 //参照インスタンス\r
  86                 public INyARRgbRaster _ref_raster;\r
  87                 //所有インスタンス\r
  88                 private INyARColorPatt _inst_patt;\r
  89                 private NyARMatchPattDeviationColorData _deviation_data;\r
  90                 private NyARMatchPatt_Color_WITHOUT_PCA[] _match_patt;\r
  91                 private final NyARMatchPattResult __detectMarkerLite_mr=new NyARMatchPattResult();\r
  92                 private Coord2Linear _coordline;\r
  93                 \r
  94                 public DetectSquareCB(INyARColorPatt i_inst_patt,NyARCode[] i_ref_code,int i_num_of_code,NyARParam i_param) throws NyARException\r
  95                 {\r
  96                         final int cw = i_ref_code[0].getWidth();\r
  97                         final int ch = i_ref_code[0].getHeight();\r
  98 \r
  99                         this._inst_patt=i_inst_patt;\r
 100                         this._coordline=new Coord2Linear(i_param.getScreenSize(),i_param.getDistortionFactor());\r
 101                         this._deviation_data=new NyARMatchPattDeviationColorData(cw,ch);\r
 102 \r
 103                         //NyARMatchPatt_Color_WITHOUT_PCA[]の作成\r
 104                         this._match_patt=new NyARMatchPatt_Color_WITHOUT_PCA[i_num_of_code];\r
 105                         this._match_patt[0]=new NyARMatchPatt_Color_WITHOUT_PCA(i_ref_code[0]);\r
 106                         for (int i = 1; i < i_num_of_code; i++){\r
 107                                 //解像度チェック\r
 108                                 if (cw != i_ref_code[i].getWidth() || ch != i_ref_code[i].getHeight()) {\r
 109                                         throw new NyARException();\r
 110                                 }\r
 111                                 this._match_patt[i]=new NyARMatchPatt_Color_WITHOUT_PCA(i_ref_code[i]);\r
 112                         }\r
 113                         return;\r
 114                 }\r
 115                 private NyARIntPoint2d[] __tmp_vertex=NyARIntPoint2d.createArray(4);\r
 116                 /**\r
 117                  * 矩形が見付かるたびに呼び出されます。\r
 118                  * 発見した矩形のパターンを検査して、方位を考慮した頂点データを確保します。\r
 119                  */\r
 120                 public void onSquareDetect(INyARSquareContourDetector i_sender,int[] i_coordx,int[] i_coordy,int i_coor_num,int[] i_vertex_index) throws NyARException\r
 121                 {\r
 122                         NyARMatchPattResult mr=this.__detectMarkerLite_mr;\r
 123                         //輪郭座標から頂点リストに変換\r
 124                         NyARIntPoint2d[] vertex=this.__tmp_vertex;\r
 125                         vertex[0].x=i_coordx[i_vertex_index[0]];\r
 126                         vertex[0].y=i_coordy[i_vertex_index[0]];\r
 127                         vertex[1].x=i_coordx[i_vertex_index[1]];\r
 128                         vertex[1].y=i_coordy[i_vertex_index[1]];\r
 129                         vertex[2].x=i_coordx[i_vertex_index[2]];\r
 130                         vertex[2].y=i_coordy[i_vertex_index[2]];\r
 131                         vertex[3].x=i_coordx[i_vertex_index[3]];\r
 132                         vertex[3].y=i_coordy[i_vertex_index[3]];\r
 133                 \r
 134                         //画像を取得\r
 135                         if (!this._inst_patt.pickFromRaster(this._ref_raster,vertex)){\r
 136                                 return;\r
 137                         }\r
 138                         //取得パターンをカラー差分データに変換して評価する。\r
 139                         this._deviation_data.setRaster(this._inst_patt);\r
 140 \r
 141                         //最も一致するパターンを割り当てる。\r
 142                         int square_index,direction;\r
 143                         double confidence;\r
 144                         this._match_patt[0].evaluate(this._deviation_data,mr);\r
 145                         square_index=0;\r
 146                         direction=mr.direction;\r
 147                         confidence=mr.confidence;\r
 148                         //2番目以降\r
 149                         for(int i=1;i<this._match_patt.length;i++){\r
 150                                 this._match_patt[i].evaluate(this._deviation_data,mr);\r
 151                                 if (confidence > mr.confidence) {\r
 152                                         continue;\r
 153                                 }\r
 154                                 // もっと一致するマーカーがあったぽい\r
 155                                 square_index = i;\r
 156                                 direction = mr.direction;\r
 157                                 confidence = mr.confidence;\r
 158                         }\r
 159                         //最も一致したマーカ情報を、この矩形の情報として記録する。\r
 160                         final NyARDetectMarkerResult result = this.result_stack.prePush();\r
 161                         result.arcode_id = square_index;\r
 162                         result.confidence = confidence;\r
 163 \r
 164                         final NyARSquare sq=result.square;\r
 165                         //directionを考慮して、squareを更新する。\r
 166                         for(int i=0;i<4;i++){\r
 167                                 int idx=(i+4 - direction) % 4;\r
 168                                 sq.imvertex[i].x=vertex[idx].x;\r
 169                                 sq.imvertex[i].y=vertex[idx].y;\r
 170                                 this._coordline.coord2Line(i_vertex_index[idx],i_vertex_index[(idx+1)%4],i_coordx,i_coordy,i_coor_num,sq.line[i]);\r
 171                         }\r
 172                         for (int i = 0; i < 4; i++) {\r
 173                                 //直線同士の交点計算\r
 174                                 if(!NyARLinear.crossPos(sq.line[i],sq.line[(i + 3) % 4],sq.sqvertex[i])){\r
 175                                         throw new NyARException();//ここのエラー復帰するならダブルバッファにすればOK\r
 176                                 }\r
 177                         }\r
 178                 }\r
 179                 public void init(INyARRgbRaster i_raster)\r
 180                 {\r
 181                         this._ref_raster=i_raster;\r
 182                         this.result_stack.clear();\r
 183                         \r
 184                 }\r
 185         }       \r
 186         private DetectSquareCB _detect_cb;\r
 187         \r
 188         \r
 189         private static final int AR_SQUARE_MAX = 300;\r
 190         private boolean _is_continue = false;\r
 191         private INyARSquareContourDetector _square_detect;\r
 192         protected INyARTransMat _transmat;\r
 193         private double[] _marker_width; \r
 194 \r
 195 \r
 196         /**\r
 197          * 複数のマーカーを検出し、最も一致するARCodeをi_codeから検索するオブジェクトを作ります。\r
 198          * \r
 199          * @param i_param\r
 200          * カメラパラメータを指定します。\r
 201          * @param i_code\r
 202          * 検出するマーカーのARCode配列を指定します。\r
 203          * 配列要素のインデックス番号が、そのままgetARCodeIndex関数で得られるARCodeインデックスになります。 \r
 204          * 例えば、要素[1]のARCodeに一致したマーカーである場合は、getARCodeIndexは1を返します。\r
 205          * @param i_marker_width\r
 206          * i_codeのマーカーサイズをミリメートルで指定した配列を指定します。 先頭からi_number_of_code個の要素には、有効な値を指定する必要があります。\r
 207          * @param i_number_of_code\r
 208          * i_codeに含まれる、ARCodeの数を指定します。\r
 209          * @param i_input_raster_type\r
 210          * 入力ラスタのピクセルタイプを指定します。この値は、INyARBufferReaderインタフェイスのgetBufferTypeの戻り値を指定します。\r
 211          * @throws NyARException\r
 212          */\r
 213         public NyARDetectMarker(NyARParam i_param,NyARCode[] i_code,double[] i_marker_width, int i_number_of_code,int i_input_raster_type) throws NyARException\r
 214         {\r
 215                 initInstance(i_param,i_code,i_marker_width,i_number_of_code,i_input_raster_type);\r
 216                 return;\r
 217         }\r
 218         protected void initInstance(\r
 219                 NyARParam       i_ref_param,\r
 220                 NyARCode[]      i_ref_code,\r
 221                 double[]        i_marker_width,\r
 222                 int                     i_number_of_code,\r
 223                 int i_input_raster_type) throws NyARException\r
 224         {\r
 225 \r
 226                 final NyARIntSize scr_size=i_ref_param.getScreenSize();\r
 227                 // 解析オブジェクトを作る\r
 228                 final int cw = i_ref_code[0].getWidth();\r
 229                 final int ch = i_ref_code[0].getHeight();\r
 230 \r
 231                 //detectMarkerのコールバック関数\r
 232                 this._detect_cb=new DetectSquareCB(\r
 233                         new NyARColorPatt_Perspective_O2(cw, ch,4,25),\r
 234                         i_ref_code,i_number_of_code,i_ref_param);\r
 235                 this._transmat = new NyARTransMat(i_ref_param);\r
 236                 //NyARToolkitプロファイル\r
 237                 this._square_detect =new NyARSquareContourDetector_Rle(i_ref_param.getDistortionFactor(),i_ref_param.getScreenSize());\r
 238                 this._tobin_filter=new NyARRasterFilter_ARToolkitThreshold(100,i_input_raster_type);\r
 239 \r
 240                 //実サイズ保存\r
 241                 this._marker_width = i_marker_width;\r
 242                 //２値画像バッファを作る\r
 243                 this._bin_raster=new NyARBinRaster(scr_size.w,scr_size.h);\r
 244                 return;         \r
 245         }\r
 246         \r
 247         private NyARBinRaster _bin_raster;\r
 248 \r
 249         private INyARRasterFilter_RgbToBin _tobin_filter;\r
 250 \r
 251         /**\r
 252          * i_imageにマーカー検出処理を実行し、結果を記録します。\r
 253          * \r
 254          * @param i_raster\r
 255          * マーカーを検出するイメージを指定します。\r
 256          * @param i_thresh\r
 257          * 検出閾値を指定します。0～255の範囲で指定してください。 通常は100～130くらいを指定します。\r
 258          * @return 見つかったマーカーの数を返します。 マーカーが見つからない場合は0を返します。\r
 259          * @throws NyARException\r
 260          */\r
 261         public int detectMarkerLite(INyARRgbRaster i_raster, int i_threshold) throws NyARException\r
 262         {\r
 263                 // サイズチェック\r
 264                 if (!this._bin_raster.getSize().isEqualSize(i_raster.getSize())) {\r
 265                         throw new NyARException();\r
 266                 }\r
 267 \r
 268                 // ラスタを２値イメージに変換する.\r
 269                 ((NyARRasterFilter_ARToolkitThreshold)this._tobin_filter).setThreshold(i_threshold);\r
 270                 this._tobin_filter.doFilter(i_raster, this._bin_raster);\r
 271 \r
 272                 //detect\r
 273                 this._detect_cb.init(i_raster);\r
 274                 this._square_detect.detectMarkerCB(this._bin_raster,this._detect_cb);\r
 275 \r
 276                 //見付かった数を返す。\r
 277                 return this._detect_cb.result_stack.getLength();\r
 278         }\r
 279 \r
 280         /**\r
 281          * i_indexのマーカーに対する変換行列を計算し、結果値をo_resultへ格納します。 直前に実行したdetectMarkerLiteが成功していないと使えません。\r
 282          * \r
 283          * @param i_index\r
 284          * マーカーのインデックス番号を指定します。 直前に実行したdetectMarkerLiteの戻り値未満かつ0以上である必要があります。\r
 285          * @param o_result\r
 286          * 結果値を受け取るオブジェクトを指定してください。\r
 287          * @throws NyARException\r
 288          */\r
 289         public void getTransmationMatrix(int i_index, NyARTransMatResult o_result) throws NyARException\r
 290         {\r
 291                 final NyARDetectMarkerResult result = this._detect_cb.result_stack.getItem(i_index);\r
 292                 // 一番一致したマーカーの位置とかその辺を計算\r
 293                 if (_is_continue) {\r
 294                         _transmat.transMatContinue(result.square, _marker_width[result.arcode_id], o_result);\r
 295                 } else {\r
 296                         _transmat.transMat(result.square, _marker_width[result.arcode_id], o_result);\r
 297                 }\r
 298                 return;\r
 299         }\r
 300 \r
 301         /**\r
 302          * i_indexのマーカーの一致度を返します。\r
 303          * \r
 304          * @param i_index\r
 305          * マーカーのインデックス番号を指定します。 直前に実行したdetectMarkerLiteの戻り値未満かつ0以上である必要があります。\r
 306          * @return マーカーの一致度を返します。0～1までの値をとります。 一致度が低い場合には、誤認識の可能性が高くなります。\r
 307          * @throws NyARException\r
 308          */\r
 309         public double getConfidence(int i_index)\r
 310         {\r
 311                 return this._detect_cb.result_stack.getItem(i_index).confidence;\r
 312         }\r
 313         /**\r
 314          * i_indexのマーカーのARCodeインデックスを返します。\r
 315          * \r
 316          * @param i_index\r
 317          * マーカーのインデックス番号を指定します。 直前に実行したdetectMarkerLiteの戻り値未満かつ0以上である必要があります。\r
 318          * @return\r
 319          */\r
 320         public int getARCodeIndex(int i_index)\r
 321         {\r
 322                 return this._detect_cb.result_stack.getItem(i_index).arcode_id;\r
 323         }\r
 324 \r
 325         /**\r
 326          * getTransmationMatrixの計算モードを設定します。\r
 327          * \r
 328          * @param i_is_continue\r
 329          * TRUEなら、transMatContinueを使用します。 FALSEなら、transMatを使用します。\r
 330          */\r
 331         public void setContinueMode(boolean i_is_continue)\r
 332         {\r
 333                 this._is_continue = i_is_continue;\r
 334         }\r
 335 \r
 336 }\r