src/jp/nyatla/nyartoolkit/core/NyARSquareDetector.java

   1 /* \r
   2  * PROJECT: NyARToolkit\r
   3  * --------------------------------------------------------------------------------\r
   4  * This work is based on the original ARToolKit developed by\r
   5  *   Hirokazu Kato\r
   6  *   Mark Billinghurst\r
   7  *   HITLab, University of Washington, Seattle\r
   8  * http://www.hitl.washington.edu/artoolkit/\r
   9  *\r
  10  * The NyARToolkit is Java version ARToolkit class library.\r
  11  * Copyright (C)2008 R.Iizuka\r
  12  *\r
  13  * This program is free software; you can redistribute it and/or\r
  14  * modify it under the terms of the GNU General Public License\r
  15  * as published by the Free Software Foundation; either version 2\r
  16  * of the License, or (at your option) any later version.\r
  17  * \r
  18  * This program is distributed in the hope that it will be useful,\r
  19  * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
  20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
  21  * GNU General Public License for more details.\r
  22  * \r
  23  * You should have received a copy of the GNU General Public License\r
  24  * along with this framework; if not, write to the Free Software\r
  25  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA\r
  26  * \r
  27  * For further information please contact.\r
  28  *      http://nyatla.jp/nyatoolkit/\r
  29  *      <airmail(at)ebony.plala.or.jp>\r
  30  * \r
  31  */\r
  32 package jp.nyatla.nyartoolkit.core;\r
  33 import jp.nyatla.nyartoolkit.NyARException;\r
  34 import jp.nyatla.nyartoolkit.core.labeling.*;\r
  35 import jp.nyatla.nyartoolkit.core.raster.*;\r
  36 import jp.nyatla.nyartoolkit.core.types.*;\r
  37 import jp.nyatla.nyartoolkit.core.param.*;\r
  38 import jp.nyatla.nyartoolkit.core.pca2d.NyARPca2d_MatrixPCA_O2;\r
  39 import jp.nyatla.nyartoolkit.core.types.matrix.*;\r
  40 import jp.nyatla.nyartoolkit.core.pca2d.*;\r
  41 \r
  42 \r
  43 \r
  44 \r
  45 /**\r
  46  * イメージから正方形候補を検出するクラス。\r
  47  * このクラスは、arDetectMarker2.cとの置き換えになります。\r
  48  * \r
  49  */\r
  50 public class NyARSquareDetector implements INyARSquareDetector\r
  51 {\r
  52         private static final double VERTEX_FACTOR = 1.0;// 線検出のファクタ\r
  53         private static final int AR_AREA_MAX = 100000;// #define AR_AREA_MAX 100000\r
  54         private static final int AR_AREA_MIN = 70;// #define AR_AREA_MIN 70\r
  55         private final int _width;\r
  56         private final int _height;\r
  57 \r
  58         private final NyARLabeling_ARToolKit _labeling;\r
  59 \r
  60         private final NyARLabelingImage _limage;\r
  61 \r
  62         private final OverlapChecker _overlap_checker = new OverlapChecker();\r
  63         private final NyARObserv2IdealMap _dist_factor;\r
  64         \r
  65         private final double[] _xpos;\r
  66         private final double[] _ypos;\r
  67 \r
  68         /**\r
  69          * 最大i_squre_max個のマーカーを検出するクラスを作成する。\r
  70          * \r
  71          * @param i_param\r
  72          */\r
  73         public NyARSquareDetector(NyARCameraDistortionFactor i_dist_factor_ref,NyARIntSize i_size) throws NyARException\r
  74         {\r
  75                 this._width = i_size.w;\r
  76                 this._height = i_size.h;\r
  77                 //歪み計算テーブルを作ると、8*width/height*2の領域を消費します。\r
  78                 //領域を取りたくない場合は、i_dist_factor_refの値をそのまま使ってください。\r
  79                 this._dist_factor = new NyARObserv2IdealMap(i_dist_factor_ref,i_size);\r
  80                 this._labeling = new NyARLabeling_ARToolKit();\r
  81                 this._limage = new NyARLabelingImage(this._width, this._height);\r
  82                 this._labeling.attachDestination(this._limage);\r
  83 \r
  84                 // 輪郭の最大長は画面に映りうる最大の長方形サイズ。\r
  85                 int number_of_coord = (this._width + this._height) * 2;\r
  86 \r
  87                 // 輪郭バッファは頂点変換をするので、輪郭バッファの２倍取る。\r
  88                 this._max_coord = number_of_coord;\r
  89                 this._xcoord = new int[number_of_coord * 2];\r
  90                 this._ycoord = new int[number_of_coord * 2];\r
  91                 this._pca=new NyARPca2d_MatrixPCA_O2();\r
  92                 this._xpos=new double[this._width+this._height];//最大辺長はthis._width+this._height\r
  93                 this._ypos=new double[this._width+this._height];//最大辺長はthis._width+this._height\r
  94                 return;\r
  95         }\r
  96 \r
  97         private final int _max_coord;\r
  98         private final int[] _xcoord;\r
  99         private final int[] _ycoord;\r
 100 \r
 101         private void normalizeCoord(int[] i_coord_x, int[] i_coord_y, int i_index, int i_coord_num)\r
 102         {\r
 103                 // vertex1を境界にして、後方に配列を連結\r
 104                 System.arraycopy(i_coord_x, 1, i_coord_x, i_coord_num, i_index);\r
 105                 System.arraycopy(i_coord_y, 1, i_coord_y, i_coord_num, i_index);\r
 106         }\r
 107 \r
 108         private final int[] __detectMarker_mkvertex = new int[5];\r
 109 \r
 110         /**\r
 111          * arDetectMarker2を基にした関数\r
 112          * この関数はNyARSquare要素のうち、directionを除くパラメータを取得して返します。\r
 113          * directionの確定は行いません。\r
 114          * @param i_raster\r
 115          * 解析する２値ラスタイメージを指定します。\r
 116          * @param o_square_stack\r
 117          * 抽出した正方形候補を格納するリスト\r
 118          * @throws NyARException\r
 119          */\r
 120         public final void detectMarker(NyARBinRaster i_raster, NyARSquareStack o_square_stack) throws NyARException\r
 121         {\r
 122                 final INyARLabeling labeling_proc = this._labeling;\r
 123                 final NyARLabelingImage limage = this._limage;\r
 124 \r
 125                 // 初期化\r
 126 \r
 127                 // マーカーホルダをリセット\r
 128                 o_square_stack.clear();\r
 129 \r
 130                 // ラベリング\r
 131                 labeling_proc.labeling(i_raster);\r
 132 \r
 133                 // ラベル数が0ならここまで\r
 134                 final int label_num = limage.getLabelStack().getLength();\r
 135                 if (label_num < 1) {\r
 136                         return;\r
 137                 }\r
 138 \r
 139                 final NyARLabelingLabelStack stack = limage.getLabelStack();\r
 140                 final NyARLabelingLabel[] labels = (NyARLabelingLabel[])stack.getArray();\r
 141                 \r
 142                 \r
 143                 // ラベルを大きい順に整列\r
 144                 stack.sortByArea();\r
 145 \r
 146                 // デカいラベルを読み飛ばし\r
 147                 int i;\r
 148                 for (i = 0; i < label_num; i++) {\r
 149                         // 検査対象内のラベルサイズになるまで無視\r
 150                         if (labels[i].area <= AR_AREA_MAX) {\r
 151                                 break;\r
 152                         }\r
 153                 }\r
 154 \r
 155                 final int xsize = this._width;\r
 156                 final int ysize = this._height;\r
 157                 final int[] xcoord = this._xcoord;\r
 158                 final int[] ycoord = this._ycoord;\r
 159                 final int coord_max = this._max_coord;\r
 160                 final int[] mkvertex = this.__detectMarker_mkvertex;\r
 161                 final OverlapChecker overlap = this._overlap_checker;\r
 162                 int coord_num;\r
 163                 int label_area;\r
 164                 NyARLabelingLabel label_pt;\r
 165 \r
 166                 //重なりチェッカの最大数を設定\r
 167                 overlap.reset(label_num);\r
 168 \r
 169                 for (; i < label_num; i++) {\r
 170                         label_pt = labels[i];\r
 171                         label_area = label_pt.area;\r
 172                         // 検査対象サイズよりも小さくなったら終了\r
 173                         if (label_area < AR_AREA_MIN) {\r
 174                                 break;\r
 175                         }\r
 176                         // クリップ領域が画面の枠に接していれば除外\r
 177                         if (label_pt.clip_l == 1 || label_pt.clip_r == xsize - 2) {// if(wclip[i*4+0] == 1 || wclip[i*4+1] ==xsize-2){\r
 178                                 continue;\r
 179                         }\r
 180                         if (label_pt.clip_t == 1 || label_pt.clip_b == ysize - 2) {// if( wclip[i*4+2] == 1 || wclip[i*4+3] ==ysize-2){\r
 181                                 continue;\r
 182                         }\r
 183                         // 既に検出された矩形との重なりを確認\r
 184                         if (!overlap.check(label_pt)) {\r
 185                                 // 重なっているようだ。\r
 186                                 continue;\r
 187                         }\r
 188 \r
 189                         // 輪郭を取得\r
 190                         coord_num = limage.getContour(i, coord_max, xcoord, ycoord);\r
 191                         if (coord_num == coord_max) {\r
 192                                 // 輪郭が大きすぎる。\r
 193                                 continue;\r
 194                         }\r
 195                         //頂点候補のインデクスを取得\r
 196                         final int vertex1 = scanVertex(xcoord, ycoord, coord_num);\r
 197 \r
 198                         // 頂点候補(vertex1)を先頭に並べなおした配列を作成する。\r
 199                         normalizeCoord(xcoord, ycoord, vertex1, coord_num);\r
 200 \r
 201                         // 領域を準備する。\r
 202                         NyARSquare square_ptr = (NyARSquare)o_square_stack.prePush();\r
 203 \r
 204                         // 頂点情報を取得\r
 205                         if (!getSquareVertex(xcoord, ycoord, vertex1, coord_num, label_area, mkvertex)) {\r
 206                                 o_square_stack.pop();// 頂点の取得が出来なかったので破棄\r
 207                                 continue;\r
 208                         }\r
 209                         // マーカーを検出\r
 210                         if (!getSquareLine(mkvertex, xcoord, ycoord, square_ptr)) {\r
 211                                 // 矩形が成立しなかった。\r
 212                                 o_square_stack.pop();\r
 213                                 continue;\r
 214                         }\r
 215                         // 検出済の矩形の属したラベルを重なりチェックに追加する。\r
 216                         overlap.push(label_pt);\r
 217                 }       \r
 218                 return;\r
 219         }\r
 220 \r
 221         /**\r
 222          * 辺からの対角線が最長になる点を対角線候補として返す。\r
 223          * \r
 224          * @param i_xcoord\r
 225          * @param i_ycoord\r
 226          * @param i_coord_num\r
 227          * @return\r
 228          */\r
 229         private int scanVertex(int[] i_xcoord, int[] i_ycoord, int i_coord_num)\r
 230         {\r
 231                 final int sx = i_xcoord[0];\r
 232                 final int sy = i_ycoord[0];\r
 233                 int d = 0;\r
 234                 int w, x, y;\r
 235                 int ret = 0;\r
 236                 for (int i = 1; i < i_coord_num; i++) {\r
 237                         x = i_xcoord[i] - sx;\r
 238                         y = i_ycoord[i] - sy;\r
 239                         w = x * x + y * y;\r
 240                         if (w > d) {\r
 241                                 d = w;\r
 242                                 ret = i;\r
 243                         }\r
 244                         // ここでうまく終了条件入れられないかな。\r
 245                 }\r
 246                 return ret;\r
 247         }\r
 248 \r
 249         private final NyARVertexCounter __getSquareVertex_wv1 = new NyARVertexCounter();\r
 250 \r
 251         private final NyARVertexCounter __getSquareVertex_wv2 = new NyARVertexCounter();\r
 252 \r
 253         /**\r
 254          * static int arDetectMarker2_check_square( int area, ARMarkerInfo2 *marker_info2, double factor ) 関数の代替関数 OPTIMIZED STEP [450->415] o_squareに頂点情報をセットします。\r
 255          * \r
 256          * @param i_x_coord\r
 257          * @param i_y_coord\r
 258          * @param i_vertex1_index\r
 259          * @param i_coord_num\r
 260          * @param i_area\r
 261          * @param o_vertex\r
 262          * 要素数はint[4]である事\r
 263          * @return\r
 264          */\r
 265         private boolean getSquareVertex(int[] i_x_coord, int[] i_y_coord, int i_vertex1_index, int i_coord_num, int i_area, int[] o_vertex)\r
 266         {\r
 267                 final NyARVertexCounter wv1 = this.__getSquareVertex_wv1;\r
 268                 final NyARVertexCounter wv2 = this.__getSquareVertex_wv2;\r
 269                 final int end_of_coord = i_vertex1_index + i_coord_num - 1;\r
 270                 final int sx = i_x_coord[i_vertex1_index];// sx = marker_info2->x_coord[0];\r
 271                 final int sy = i_y_coord[i_vertex1_index];// sy = marker_info2->y_coord[0];\r
 272                 int dmax = 0;\r
 273                 int v1 = i_vertex1_index;\r
 274                 for (int i = 1 + i_vertex1_index; i < end_of_coord; i++) {// for(i=1;i<marker_info2->coord_num-1;i++)\r
 275                         // {\r
 276                         final int d = (i_x_coord[i] - sx) * (i_x_coord[i] - sx) + (i_y_coord[i] - sy) * (i_y_coord[i] - sy);\r
 277                         if (d > dmax) {\r
 278                                 dmax = d;\r
 279                                 v1 = i;\r
 280                         }\r
 281                 }\r
 282                 final double thresh = (i_area / 0.75) * 0.01 * VERTEX_FACTOR;\r
 283 \r
 284                 o_vertex[0] = i_vertex1_index;\r
 285 \r
 286                 if (!wv1.getVertex(i_x_coord, i_y_coord, i_vertex1_index, v1, thresh)) { // if(get_vertex(marker_info2->x_coord,marker_info2->y_coord,0,v1,thresh,wv1,&wvnum1)<\r
 287                                                                                                                                                                         // 0 ) {\r
 288                         return false;\r
 289                 }\r
 290                 if (!wv2.getVertex(i_x_coord, i_y_coord, v1, end_of_coord, thresh)) {// if(get_vertex(marker_info2->x_coord,marker_info2->y_coord,v1,marker_info2->coord_num-1,thresh,wv2,&wvnum2)\r
 291                         // < 0) {\r
 292                         return false;\r
 293                 }\r
 294 \r
 295                 int v2;\r
 296                 if (wv1.number_of_vertex == 1 && wv2.number_of_vertex == 1) {// if(wvnum1 == 1 && wvnum2== 1) {\r
 297                         o_vertex[1] = wv1.vertex[0];\r
 298                         o_vertex[2] = v1;\r
 299                         o_vertex[3] = wv2.vertex[0];\r
 300                 } else if (wv1.number_of_vertex > 1 && wv2.number_of_vertex == 0) {// }else if( wvnum1 > 1 && wvnum2== 0) {\r
 301                         //頂点位置を、起点から対角点の間の1/2にあると予想して、検索する。\r
 302                         v2 = (v1-i_vertex1_index)/2+i_vertex1_index;\r
 303                         if (!wv1.getVertex(i_x_coord, i_y_coord, i_vertex1_index, v2, thresh)) {\r
 304                                 return false;\r
 305                         }\r
 306                         if (!wv2.getVertex(i_x_coord, i_y_coord, v2, v1, thresh)) {\r
 307                                 return false;\r
 308                         }\r
 309                         if (wv1.number_of_vertex == 1 && wv2.number_of_vertex == 1) {\r
 310                                 o_vertex[1] = wv1.vertex[0];\r
 311                                 o_vertex[2] = wv2.vertex[0];\r
 312                                 o_vertex[3] = v1;\r
 313                         } else {\r
 314                                 return false;\r
 315                         }\r
 316                 } else if (wv1.number_of_vertex == 0 && wv2.number_of_vertex > 1) {\r
 317                         //v2 = (v1-i_vertex1_index+ end_of_coord-i_vertex1_index) / 2+i_vertex1_index;\r
 318                         v2 = (v1+ end_of_coord)/2;\r
 319 \r
 320                         if (!wv1.getVertex(i_x_coord, i_y_coord, v1, v2, thresh)) {\r
 321                                 return false;\r
 322                         }\r
 323                         if (!wv2.getVertex(i_x_coord, i_y_coord, v2, end_of_coord, thresh)) {\r
 324                                 return false;\r
 325                         }\r
 326                         if (wv1.number_of_vertex == 1 && wv2.number_of_vertex == 1) {\r
 327                                 o_vertex[1] = v1;\r
 328                                 o_vertex[2] = wv1.vertex[0];\r
 329                                 o_vertex[3] = wv2.vertex[0];\r
 330                         } else {\r
 331                                 return false;\r
 332                         }\r
 333                 } else {\r
 334                         return false;\r
 335                 }\r
 336                 o_vertex[4] = end_of_coord;\r
 337                 return true;\r
 338         }\r
 339 \r
 340         private final INyARPca2d _pca;\r
 341         private final NyARDoubleMatrix22 __getSquareLine_evec=new NyARDoubleMatrix22();\r
 342         private final NyARDoublePoint2d __getSquareLine_mean=new NyARDoublePoint2d();\r
 343         private final NyARDoublePoint2d __getSquareLine_ev=new NyARDoublePoint2d();\r
 344         /**\r
 345          * arGetLine(int x_coord[], int y_coord[], int coord_num,int vertex[], double line[4][3], double v[4][2]) arGetLine2(int x_coord[], int y_coord[], int\r
 346          * coord_num,int vertex[], double line[4][3], double v[4][2], double *dist_factor) の２関数の合成品です。 マーカーのvertex,lineを計算して、結果をo_squareに保管します。\r
 347          * Optimize:STEP[424->391]\r
 348          * \r
 349          * @param i_cparam\r
 350          * @return\r
 351          * @throws NyARException\r
 352          */\r
 353         private boolean getSquareLine(int[] i_mkvertex, int[] i_xcoord, int[] i_ycoord, NyARSquare o_square) throws NyARException\r
 354         {\r
 355                 final NyARLinear[] l_line = o_square.line;\r
 356                 final NyARDoubleMatrix22 evec=this.__getSquareLine_evec;\r
 357                 final NyARDoublePoint2d mean=this.__getSquareLine_mean;\r
 358                 final NyARDoublePoint2d ev=this.__getSquareLine_ev;\r
 359         \r
 360                 \r
 361                 for (int i = 0; i < 4; i++) {\r
 362                         final double w1 = (double) (i_mkvertex[i + 1] - i_mkvertex[i] + 1) * 0.05 + 0.5;\r
 363                         final int st = (int) (i_mkvertex[i] + w1);\r
 364                         final int ed = (int) (i_mkvertex[i + 1] - w1);\r
 365                         final int n = ed - st + 1;\r
 366                         if (n < 2) {\r
 367                                 // nが2以下でmatrix.PCAを計算することはできないので、エラー\r
 368                                 return false;\r
 369                         }\r
 370                         //配列作成\r
 371                         this._dist_factor.observ2IdealBatch(i_xcoord, i_ycoord, st, n,this._xpos,this._ypos);\r
 372                         \r
 373                         //主成分分析する。\r
 374                         this._pca.pca(this._xpos,this._ypos,n,evec, ev,mean);\r
 375                         final NyARLinear l_line_i = l_line[i];\r
 376                         l_line_i.run = evec.m01;// line[i][0] = evec->m[1];\r
 377                         l_line_i.rise = -evec.m00;// line[i][1] = -evec->m[0];\r
 378                         l_line_i.intercept = -(l_line_i.run * mean.x + l_line_i.rise * mean.y);// line[i][2] = -(line[i][0]*mean->v[0] + line[i][1]*mean->v[1]);\r
 379                 }\r
 380 \r
 381                 final NyARDoublePoint2d[] l_sqvertex = o_square.sqvertex;\r
 382                 final NyARIntPoint[] l_imvertex = o_square.imvertex;\r
 383                 for (int i = 0; i < 4; i++) {\r
 384                         final NyARLinear l_line_i = l_line[i];\r
 385                         final NyARLinear l_line_2 = l_line[(i + 3) % 4];\r
 386                         final double w1 = l_line_2.run * l_line_i.rise - l_line_i.run * l_line_2.rise;\r
 387                         if (w1 == 0.0) {\r
 388                                 return false;\r
 389                         }\r
 390                         l_sqvertex[i].x = (l_line_2.rise * l_line_i.intercept - l_line_i.rise * l_line_2.intercept) / w1;\r
 391                         l_sqvertex[i].y = (l_line_i.run * l_line_2.intercept - l_line_2.run * l_line_i.intercept) / w1;\r
 392                         // 頂点インデクスから頂点座標を得て保存\r
 393                         l_imvertex[i].x = i_xcoord[i_mkvertex[i]];\r
 394                         l_imvertex[i].y = i_ycoord[i_mkvertex[i]];\r
 395                 }\r
 396                 return true;\r
 397         }\r
 398 }\r
 399 \r
 400 \r
 401 \r
 402 /**\r
 403  * ラベル同士の重なり（内包関係）を調べるクラスです。 \r
 404  * ラベルリストに内包するラベルを蓄積し、それにターゲットのラベルが内包されているか を確認します。\r
 405  */\r
 406 class OverlapChecker\r
 407 {\r
 408         private NyARLabelingLabel[] _labels = new NyARLabelingLabel[32];\r
 409 \r
 410         private int _length;\r
 411 \r
 412         /**\r
 413          * 最大i_max_label個のラベルを蓄積できるようにオブジェクトをリセットする\r
 414          * \r
 415          * @param i_max_label\r
 416          */\r
 417         public void reset(int i_max_label)\r
 418         {\r
 419                 if (i_max_label > this._labels.length) {\r
 420                         this._labels = new NyARLabelingLabel[i_max_label];\r
 421                 }\r
 422                 this._length = 0;\r
 423         }\r
 424 \r
 425         /**\r
 426          * チェック対象のラベルを追加する。\r
 427          * \r
 428          * @param i_label_ref\r
 429          */\r
 430         public void push(NyARLabelingLabel i_label_ref)\r
 431         {\r
 432                 this._labels[this._length] = i_label_ref;\r
 433                 this._length++;\r
 434         }\r
 435 \r
 436         /**\r
 437          * 現在リストにあるラベルと重なっているかを返す。\r
 438          * \r
 439          * @param i_label\r
 440          * @return 何れかのラベルの内側にあるならばfalse,独立したラベルである可能性が高ければtrueです．\r
 441          */\r
 442         public boolean check(NyARLabelingLabel i_label)\r
 443         {\r
 444                 // 重なり処理かな？\r
 445                 final NyARLabelingLabel[] label_pt = this._labels;\r
 446                 final int px1 = (int) i_label.pos_x;\r
 447                 final int py1 = (int) i_label.pos_y;\r
 448                 for (int i = this._length - 1; i >= 0; i--) {\r
 449                         final int px2 = (int) label_pt[i].pos_x;\r
 450                         final int py2 = (int) label_pt[i].pos_y;\r
 451                         final int d = (px1 - px2) * (px1 - px2) + (py1 - py2) * (py1 - py2);\r
 452                         if (d < label_pt[i].area / 4) {\r
 453                                 // 対象外\r
 454                                 return false;\r
 455                         }\r
 456                 }\r
 457                 // 対象\r
 458                 return true;\r
 459         }\r
 460 }