tags/2.5.1/src/jp/nyatla/nyartoolkit/detector/NyARDetectMarker.java

   1 /* \r
   2  * PROJECT: NyARToolkit\r
   3  * --------------------------------------------------------------------------------\r
   4  * This work is based on the original ARToolKit developed by\r
   5  *   Hirokazu Kato\r
   6  *   Mark Billinghurst\r
   7  *   HITLab, University of Washington, Seattle\r
   8  * http://www.hitl.washington.edu/artoolkit/\r
   9  *\r
  10  * The NyARToolkit is Java edition ARToolKit class library.\r
  11  * Copyright (C)2008-2009 Ryo Iizuka\r
  12  *\r
  13  * This program is free software: you can redistribute it and/or modify\r
  14  * it under the terms of the GNU General Public License as published by\r
  15  * the Free Software Foundation, either version 3 of the License, or\r
  16  * (at your option) any later version.\r
  17  * \r
  18  * This program is distributed in the hope that it will be useful,\r
  19  * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
  20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
  21  * GNU General Public License for more details.\r
  22  *\r
  23  * You should have received a copy of the GNU General Public License\r
  24  * along with this program.  If not, see <http://www.gnu.org/licenses/>.\r
  25  * \r
  26  * For further information please contact.\r
  27  *      http://nyatla.jp/nyatoolkit/\r
  28  *      <airmail(at)ebony.plala.or.jp> or <nyatla(at)nyatla.jp>\r
  29  * \r
  30  */\r
  31 package jp.nyatla.nyartoolkit.detector;\r
  32 \r
  33 import jp.nyatla.nyartoolkit.NyARException;\r
  34 import jp.nyatla.nyartoolkit.core.*;\r
  35 import jp.nyatla.nyartoolkit.core.match.*;\r
  36 import jp.nyatla.nyartoolkit.core.param.NyARParam;\r
  37 import jp.nyatla.nyartoolkit.core.pickup.*;\r
  38 import jp.nyatla.nyartoolkit.core.raster.*;\r
  39 import jp.nyatla.nyartoolkit.core.raster.rgb.*;\r
  40 import jp.nyatla.nyartoolkit.core.transmat.*;\r
  41 import jp.nyatla.nyartoolkit.core.rasterfilter.rgb2bin.*;\r
  42 import jp.nyatla.nyartoolkit.core.squaredetect.NyARCoord2Linear;\r
  43 import jp.nyatla.nyartoolkit.core.squaredetect.NyARSquareContourDetector;\r
  44 import jp.nyatla.nyartoolkit.core.squaredetect.NyARSquare;\r
  45 import jp.nyatla.nyartoolkit.core.squaredetect.NyARSquareContourDetector_Rle;\r
  46 import jp.nyatla.nyartoolkit.core.types.*;\r
  47 import jp.nyatla.nyartoolkit.core.types.stack.NyARObjectStack;\r
  48 \r
  49 class NyARDetectMarkerResult\r
  50 {\r
  51         public int arcode_id;\r
  52         public double confidence;\r
  53 \r
  54         public NyARSquare square=new NyARSquare();\r
  55 }\r
  56 \r
  57 \r
  58 class NyARDetectMarkerResultStack extends NyARObjectStack<NyARDetectMarkerResult>\r
  59 {\r
  60         public NyARDetectMarkerResultStack(int i_length) throws NyARException\r
  61         {\r
  62                 super(i_length,NyARDetectMarkerResult.class);\r
  63                 return;\r
  64         }\r
  65         protected NyARDetectMarkerResult createElement()\r
  66         {\r
  67                 return new NyARDetectMarkerResult();\r
  68         }       \r
  69 }\r
  70 \r
  71 \r
  72 /**\r
  73  * 複数のマーカーを検出し、それぞれに最も一致するARコードを、コンストラクタで登録したARコードから 探すクラスです。最大300個を認識しますが、ゴミラベルを認識したりするので100個程度が限界です。\r
  74  * \r
  75  */\r
  76 public class NyARDetectMarker\r
  77 {\r
  78         /**\r
  79          * detectMarkerのコールバック関数\r
  80          */\r
  81         private class DetectSquareCB implements NyARSquareContourDetector.IDetectMarkerCallback\r
  82         {\r
  83                 //公開プロパティ\r
  84                 public NyARDetectMarkerResultStack result_stack=new NyARDetectMarkerResultStack(NyARDetectMarker.AR_SQUARE_MAX);\r
  85                 //参照インスタンス\r
  86                 public INyARRgbRaster _ref_raster;\r
  87                 //所有インスタンス\r
  88                 private INyARColorPatt _inst_patt;\r
  89                 private NyARMatchPattDeviationColorData _deviation_data;\r
  90                 private NyARMatchPatt_Color_WITHOUT_PCA[] _match_patt;\r
  91                 private final NyARMatchPattResult __detectMarkerLite_mr=new NyARMatchPattResult();\r
  92                 private NyARCoord2Linear _coordline;\r
  93                 \r
  94                 public DetectSquareCB(INyARColorPatt i_inst_patt,NyARCode[] i_ref_code,int i_num_of_code,NyARParam i_param) throws NyARException\r
  95                 {\r
  96                         final int cw = i_ref_code[0].getWidth();\r
  97                         final int ch = i_ref_code[0].getHeight();\r
  98 \r
  99                         this._inst_patt=i_inst_patt;\r
 100                         this._coordline=new NyARCoord2Linear(i_param.getScreenSize(),i_param.getDistortionFactor());\r
 101                         this._deviation_data=new NyARMatchPattDeviationColorData(cw,ch);\r
 102 \r
 103                         //NyARMatchPatt_Color_WITHOUT_PCA[]の作成\r
 104                         this._match_patt=new NyARMatchPatt_Color_WITHOUT_PCA[i_num_of_code];\r
 105                         this._match_patt[0]=new NyARMatchPatt_Color_WITHOUT_PCA(i_ref_code[0]);\r
 106                         for (int i = 1; i < i_num_of_code; i++){\r
 107                                 //解像度チェック\r
 108                                 if (cw != i_ref_code[i].getWidth() || ch != i_ref_code[i].getHeight()) {\r
 109                                         throw new NyARException();\r
 110                                 }\r
 111                                 this._match_patt[i]=new NyARMatchPatt_Color_WITHOUT_PCA(i_ref_code[i]);\r
 112                         }\r
 113                         return;\r
 114                 }\r
 115                 private NyARIntPoint2d[] __tmp_vertex=NyARIntPoint2d.createArray(4);\r
 116                 /**\r
 117                  * 矩形が見付かるたびに呼び出されます。\r
 118                  * 発見した矩形のパターンを検査して、方位を考慮した頂点データを確保します。\r
 119                  */\r
 120                 public void onSquareDetect(NyARSquareContourDetector i_sender,int[] i_coordx,int[] i_coordy,int i_coor_num,int[] i_vertex_index) throws NyARException\r
 121                 {\r
 122                         NyARMatchPattResult mr=this.__detectMarkerLite_mr;\r
 123                         //輪郭座標から頂点リストに変換\r
 124                         NyARIntPoint2d[] vertex=this.__tmp_vertex;\r
 125                         vertex[0].x=i_coordx[i_vertex_index[0]];\r
 126                         vertex[0].y=i_coordy[i_vertex_index[0]];\r
 127                         vertex[1].x=i_coordx[i_vertex_index[1]];\r
 128                         vertex[1].y=i_coordy[i_vertex_index[1]];\r
 129                         vertex[2].x=i_coordx[i_vertex_index[2]];\r
 130                         vertex[2].y=i_coordy[i_vertex_index[2]];\r
 131                         vertex[3].x=i_coordx[i_vertex_index[3]];\r
 132                         vertex[3].y=i_coordy[i_vertex_index[3]];\r
 133                 \r
 134                         //画像を取得\r
 135                         if (!this._inst_patt.pickFromRaster(this._ref_raster,vertex)){\r
 136                                 return;\r
 137                         }\r
 138                         //取得パターンをカラー差分データに変換して評価する。\r
 139                         this._deviation_data.setRaster(this._inst_patt);\r
 140 \r
 141                         //最も一致するパターンを割り当てる。\r
 142                         int square_index,direction;\r
 143                         double confidence;\r
 144                         this._match_patt[0].evaluate(this._deviation_data,mr);\r
 145                         square_index=0;\r
 146                         direction=mr.direction;\r
 147                         confidence=mr.confidence;\r
 148                         //2番目以降\r
 149                         for(int i=1;i<this._match_patt.length;i++){\r
 150                                 this._match_patt[i].evaluate(this._deviation_data,mr);\r
 151                                 if (confidence > mr.confidence) {\r
 152                                         continue;\r
 153                                 }\r
 154                                 // もっと一致するマーカーがあったぽい\r
 155                                 square_index = i;\r
 156                                 direction = mr.direction;\r
 157                                 confidence = mr.confidence;\r
 158                         }\r
 159                         //最も一致したマーカ情報を、この矩形の情報として記録する。\r
 160                         final NyARDetectMarkerResult result = this.result_stack.prePush();\r
 161                         result.arcode_id = square_index;\r
 162                         result.confidence = confidence;\r
 163 \r
 164                         final NyARSquare sq=result.square;\r
 165                         //directionを考慮して、squareを更新する。\r
 166                         for(int i=0;i<4;i++){\r
 167                                 int idx=(i+4 - direction) % 4;\r
 168                                 this._coordline.coord2Line(i_vertex_index[idx],i_vertex_index[(idx+1)%4],i_coordx,i_coordy,i_coor_num,sq.line[i]);\r
 169                         }\r
 170                         for (int i = 0; i < 4; i++) {\r
 171                                 //直線同士の交点計算\r
 172                                 if(!NyARLinear.crossPos(sq.line[i],sq.line[(i + 3) % 4],sq.sqvertex[i])){\r
 173                                         throw new NyARException();//ここのエラー復帰するならダブルバッファにすればOK\r
 174                                 }\r
 175                         }\r
 176                 }\r
 177                 public void init(INyARRgbRaster i_raster)\r
 178                 {\r
 179                         this._ref_raster=i_raster;\r
 180                         this.result_stack.clear();\r
 181                         \r
 182                 }\r
 183         }       \r
 184         private DetectSquareCB _detect_cb;\r
 185         \r
 186         \r
 187         private static final int AR_SQUARE_MAX = 300;\r
 188         private boolean _is_continue = false;\r
 189         private NyARSquareContourDetector _square_detect;\r
 190         protected INyARTransMat _transmat;\r
 191         private NyARRectOffset[] _offset;       \r
 192 \r
 193 \r
 194         /**\r
 195          * 複数のマーカーを検出し、最も一致するARCodeをi_codeから検索するオブジェクトを作ります。\r
 196          * \r
 197          * @param i_param\r
 198          * カメラパラメータを指定します。\r
 199          * @param i_code\r
 200          * 検出するマーカーのARCode配列を指定します。\r
 201          * 配列要素のインデックス番号が、そのままgetARCodeIndex関数で得られるARCodeインデックスになります。 \r
 202          * 例えば、要素[1]のARCodeに一致したマーカーである場合は、getARCodeIndexは1を返します。\r
 203          * @param i_marker_width\r
 204          * i_codeのマーカーサイズをミリメートルで指定した配列を指定します。 先頭からi_number_of_code個の要素には、有効な値を指定する必要があります。\r
 205          * @param i_number_of_code\r
 206          * i_codeに含まれる、ARCodeの数を指定します。\r
 207          * @param i_input_raster_type\r
 208          * 入力ラスタのピクセルタイプを指定します。この値は、INyARBufferReaderインタフェイスのgetBufferTypeの戻り値を指定します。\r
 209          * @throws NyARException\r
 210          */\r
 211         public NyARDetectMarker(NyARParam i_param,NyARCode[] i_code,double[] i_marker_width, int i_number_of_code,int i_input_raster_type) throws NyARException\r
 212         {\r
 213                 initInstance(i_param,i_code,i_marker_width,i_number_of_code,i_input_raster_type);\r
 214                 return;\r
 215         }\r
 216         protected void initInstance(\r
 217                 NyARParam       i_ref_param,\r
 218                 NyARCode[]      i_ref_code,\r
 219                 double[]        i_marker_width,\r
 220                 int                     i_number_of_code,\r
 221                 int i_input_raster_type) throws NyARException\r
 222         {\r
 223 \r
 224                 final NyARIntSize scr_size=i_ref_param.getScreenSize();\r
 225                 // 解析オブジェクトを作る\r
 226                 final int cw = i_ref_code[0].getWidth();\r
 227                 final int ch = i_ref_code[0].getHeight();\r
 228 \r
 229                 //detectMarkerのコールバック関数\r
 230                 this._detect_cb=new DetectSquareCB(\r
 231                         new NyARColorPatt_Perspective_O2(cw, ch,4,25),\r
 232                         i_ref_code,i_number_of_code,i_ref_param);\r
 233                 this._transmat = new NyARTransMat(i_ref_param);\r
 234                 //NyARToolkitプロファイル\r
 235                 this._square_detect =new NyARSquareContourDetector_Rle(i_ref_param.getDistortionFactor(),i_ref_param.getScreenSize());\r
 236                 this._tobin_filter=new NyARRasterFilter_ARToolkitThreshold(100,i_input_raster_type);\r
 237 \r
 238                 //実サイズ保存\r
 239                 this._offset = NyARRectOffset.createArray(i_number_of_code);\r
 240                 for(int i=0;i<i_number_of_code;i++){\r
 241                         this._offset[i].setSquare(i_marker_width[i]);\r
 242                 }\r
 243                 //２値画像バッファを作る\r
 244                 this._bin_raster=new NyARBinRaster(scr_size.w,scr_size.h);\r
 245                 return;         \r
 246         }\r
 247         \r
 248         private NyARBinRaster _bin_raster;\r
 249 \r
 250         private INyARRasterFilter_Rgb2Bin _tobin_filter;\r
 251 \r
 252         /**\r
 253          * i_imageにマーカー検出処理を実行し、結果を記録します。\r
 254          * \r
 255          * @param i_raster\r
 256          * マーカーを検出するイメージを指定します。\r
 257          * @param i_thresh\r
 258          * 検出閾値を指定します。0～255の範囲で指定してください。 通常は100～130くらいを指定します。\r
 259          * @return 見つかったマーカーの数を返します。 マーカーが見つからない場合は0を返します。\r
 260          * @throws NyARException\r
 261          */\r
 262         public int detectMarkerLite(INyARRgbRaster i_raster, int i_threshold) throws NyARException\r
 263         {\r
 264                 // サイズチェック\r
 265                 if (!this._bin_raster.getSize().isEqualSize(i_raster.getSize())) {\r
 266                         throw new NyARException();\r
 267                 }\r
 268 \r
 269                 // ラスタを２値イメージに変換する.\r
 270                 ((NyARRasterFilter_ARToolkitThreshold)this._tobin_filter).setThreshold(i_threshold);\r
 271                 this._tobin_filter.doFilter(i_raster, this._bin_raster);\r
 272 \r
 273                 //detect\r
 274                 this._detect_cb.init(i_raster);\r
 275                 this._square_detect.detectMarkerCB(this._bin_raster,this._detect_cb);\r
 276 \r
 277                 //見付かった数を返す。\r
 278                 return this._detect_cb.result_stack.getLength();\r
 279         }\r
 280 \r
 281         /**\r
 282          * i_indexのマーカーに対する変換行列を計算し、結果値をo_resultへ格納します。 直前に実行したdetectMarkerLiteが成功していないと使えません。\r
 283          * \r
 284          * @param i_index\r
 285          * マーカーのインデックス番号を指定します。 直前に実行したdetectMarkerLiteの戻り値未満かつ0以上である必要があります。\r
 286          * @param o_result\r
 287          * 結果値を受け取るオブジェクトを指定してください。\r
 288          * @throws NyARException\r
 289          */\r
 290         public void getTransmationMatrix(int i_index, NyARTransMatResult o_result) throws NyARException\r
 291         {\r
 292                 final NyARDetectMarkerResult result = this._detect_cb.result_stack.getItem(i_index);\r
 293                 // 一番一致したマーカーの位置とかその辺を計算\r
 294                 if (_is_continue) {\r
 295                         _transmat.transMatContinue(result.square, this._offset[result.arcode_id], o_result);\r
 296                 } else {\r
 297                         _transmat.transMat(result.square, this._offset[result.arcode_id], o_result);\r
 298                 }\r
 299                 return;\r
 300         }\r
 301 \r
 302         /**\r
 303          * i_indexのマーカーの一致度を返します。\r
 304          * \r
 305          * @param i_index\r
 306          * マーカーのインデックス番号を指定します。 直前に実行したdetectMarkerLiteの戻り値未満かつ0以上である必要があります。\r
 307          * @return マーカーの一致度を返します。0～1までの値をとります。 一致度が低い場合には、誤認識の可能性が高くなります。\r
 308          * @throws NyARException\r
 309          */\r
 310         public double getConfidence(int i_index)\r
 311         {\r
 312                 return this._detect_cb.result_stack.getItem(i_index).confidence;\r
 313         }\r
 314         /**\r
 315          * i_indexのマーカーのARCodeインデックスを返します。\r
 316          * \r
 317          * @param i_index\r
 318          * マーカーのインデックス番号を指定します。 直前に実行したdetectMarkerLiteの戻り値未満かつ0以上である必要があります。\r
 319          * @return\r
 320          */\r
 321         public int getARCodeIndex(int i_index)\r
 322         {\r
 323                 return this._detect_cb.result_stack.getItem(i_index).arcode_id;\r
 324         }\r
 325 \r
 326         /**\r
 327          * getTransmationMatrixの計算モードを設定します。\r
 328          * \r
 329          * @param i_is_continue\r
 330          * TRUEなら、transMatContinueを使用します。 FALSEなら、transMatを使用します。\r
 331          */\r
 332         public void setContinueMode(boolean i_is_continue)\r
 333         {\r
 334                 this._is_continue = i_is_continue;\r
 335         }\r
 336 \r
 337 }\r