sample/toys/jp/nyatla/nyartoolkit/toys/vertexdetect/NyARVertexDetector.java

   1 /* \r
   2  * PROJECT: NyARToolkit\r
   3  * --------------------------------------------------------------------------------\r
   4  * This work is based on the original ARToolKit developed by\r
   5  *   Hirokazu Kato\r
   6  *   Mark Billinghurst\r
   7  *   HITLab, University of Washington, Seattle\r
   8  * http://www.hitl.washington.edu/artoolkit/\r
   9  *\r
  10  * The NyARToolkit is Java version ARToolkit class library.\r
  11  * Copyright (C)2008 R.Iizuka\r
  12  *\r
  13  * This program is free software; you can redistribute it and/or\r
  14  * modify it under the terms of the GNU General Public License\r
  15  * as published by the Free Software Foundation; either version 2\r
  16  * of the License, or (at your option) any later version.\r
  17  * \r
  18  * This program is distributed in the hope that it will be useful,\r
  19  * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
  20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
  21  * GNU General Public License for more details.\r
  22  * \r
  23  * You should have received a copy of the GNU General Public License\r
  24  * along with this framework; if not, write to the Free Software\r
  25  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA\r
  26  * \r
  27  * For further information please contact.\r
  28  *      http://nyatla.jp/nyatoolkit/\r
  29  *      <airmail(at)ebony.plala.or.jp>\r
  30  * \r
  31  */\r
  32 package jp.nyatla.nyartoolkit.toys.vertexdetect;\r
  33 import jp.nyatla.nyartoolkit.NyARException;\r
  34 import jp.nyatla.nyartoolkit.core.labeling.*;\r
  35 import jp.nyatla.nyartoolkit.core.raster.*;\r
  36 import jp.nyatla.nyartoolkit.core.types.*;\r
  37 import jp.nyatla.nyartoolkit.core.param.*;\r
  38 import jp.nyatla.nyartoolkit.core.*;\r
  39 import jp.nyatla.nyartoolkit.toys.x2.*;\r
  40 /**\r
  41  * 矩形座標をPCAではなく、頂点座標そのものからSquare位置を計算するクラス\r
  42  *\r
  43  */\r
  44 public class NyARVertexDetector implements INyARSquareDetector\r
  45 {\r
  46         private static final double VERTEX_FACTOR = 1.0;// 線検出のファクタ\r
  47 \r
  48         private static final int AR_AREA_MAX = 100000;// #define AR_AREA_MAX 100000\r
  49 \r
  50         private static final int AR_AREA_MIN = 70;// #define AR_AREA_MIN 70\r
  51         private final int _width;\r
  52         private final int _height;\r
  53 \r
  54         private final NyARLabeling_ARToolKit_X2 _labeling;\r
  55 \r
  56         private final NyARLabelingImage _limage;\r
  57 \r
  58         private final OverlapChecker _overlap_checker = new OverlapChecker();\r
  59         private final NyARCameraDistortionFactor _dist_factor_ref;\r
  60 \r
  61         /**\r
  62          * 最大i_squre_max個のマーカーを検出するクラスを作成する。\r
  63          * \r
  64          * @param i_param\r
  65          */\r
  66         public NyARVertexDetector(NyARCameraDistortionFactor i_dist_factor_ref,NyARIntSize i_size) throws NyARException\r
  67         {\r
  68                 this._width = i_size.w;\r
  69                 this._height = i_size.h;\r
  70                 this._dist_factor_ref = i_dist_factor_ref;\r
  71                 this._labeling = new NyARLabeling_ARToolKit_X2();\r
  72                 this._limage = new NyARLabelingImage(this._width, this._height);\r
  73                 this._labeling.attachDestination(this._limage);\r
  74 \r
  75                 // 輪郭の最大長は画面に映りうる最大の長方形サイズ。\r
  76                 int number_of_coord = (this._width + this._height) * 2;\r
  77 \r
  78                 // 輪郭バッファは頂点変換をするので、輪郭バッファの２倍取る。\r
  79                 this._max_coord = number_of_coord;\r
  80                 this._xcoord = new int[number_of_coord * 2];\r
  81                 this._ycoord = new int[number_of_coord * 2];\r
  82         }\r
  83 \r
  84         private final int _max_coord;\r
  85         private final int[] _xcoord;\r
  86         private final int[] _ycoord;\r
  87 \r
  88         private void normalizeCoord(int[] i_coord_x, int[] i_coord_y, int i_index, int i_coord_num)\r
  89         {\r
  90                 // vertex1を境界にして、後方に配列を連結\r
  91                 System.arraycopy(i_coord_x, 1, i_coord_x, i_coord_num, i_index);\r
  92                 System.arraycopy(i_coord_y, 1, i_coord_y, i_coord_num, i_index);\r
  93         }\r
  94 \r
  95         private final int[] __detectMarker_mkvertex = new int[5];\r
  96 \r
  97         /**\r
  98          * ARMarkerInfo2 *arDetectMarker2( ARInt16 *limage, int label_num, int *label_ref,int *warea, double *wpos, int *wclip,int area_max, int area_min, double\r
  99          * factor, int *marker_num ) 関数の代替品 ラベリング情報からマーカー一覧を作成してo_marker_listを更新します。 関数はo_marker_listに重なりを除外したマーカーリストを作成します。\r
 100          * \r
 101          * @param i_raster\r
 102          * 解析する２値ラスタイメージを指定します。\r
 103          * @param o_square_stack\r
 104          * 抽出した正方形候補を格納するリスト\r
 105          * @throws NyARException\r
 106          */\r
 107         public final void detectMarker(NyARBinRaster i_raster, NyARSquareStack o_square_stack) throws NyARException\r
 108         {\r
 109                 final INyARLabeling labeling_proc = this._labeling;\r
 110                 final NyARLabelingImage limage = this._limage;\r
 111 \r
 112                 // 初期化\r
 113 \r
 114                 // マーカーホルダをリセット\r
 115                 o_square_stack.clear();\r
 116 \r
 117                 // ラベリング\r
 118                 labeling_proc.labeling(i_raster);\r
 119 \r
 120                 // ラベル数が0ならここまで\r
 121                 final int label_num = limage.getLabelStack().getLength();\r
 122                 if (label_num < 1) {\r
 123                         return;\r
 124                 }\r
 125 \r
 126                 final NyARLabelingLabelStack stack = limage.getLabelStack();\r
 127                 final NyARLabelingLabel[] labels = (NyARLabelingLabel[])stack.getArray();\r
 128                 \r
 129                 \r
 130                 // ラベルを大きい順に整列\r
 131                 stack.sortByArea();\r
 132 \r
 133                 // デカいラベルを読み飛ばし\r
 134                 int i;\r
 135                 for (i = 0; i < label_num; i++) {\r
 136                         // 検査対象内のラベルサイズになるまで無視\r
 137                         if (labels[i].area <= AR_AREA_MAX) {\r
 138                                 break;\r
 139                         }\r
 140                 }\r
 141 \r
 142                 final int xsize = this._width;\r
 143                 final int ysize = this._height;\r
 144                 final int[] xcoord = this._xcoord;\r
 145                 final int[] ycoord = this._ycoord;\r
 146                 final int coord_max = this._max_coord;\r
 147                 final int[] mkvertex = this.__detectMarker_mkvertex;\r
 148                 final OverlapChecker overlap = this._overlap_checker;\r
 149                 int coord_num;\r
 150                 int label_area;\r
 151                 NyARLabelingLabel label_pt;\r
 152 \r
 153                 //重なりチェッカの最大数を設定\r
 154                 overlap.reset(label_num);\r
 155 \r
 156                 for (; i < label_num; i++) {\r
 157                         label_pt = labels[i];\r
 158                         label_area = label_pt.area;\r
 159                         // 検査対象サイズよりも小さくなったら終了\r
 160                         if (label_area < AR_AREA_MIN) {\r
 161                                 break;\r
 162                         }\r
 163                         // クリップ領域が画面の枠に接していれば除外\r
 164                         if (label_pt.clip_l == 1 || label_pt.clip_r == xsize - 2) {// if(wclip[i*4+0] == 1 || wclip[i*4+1] ==xsize-2){\r
 165                                 continue;\r
 166                         }\r
 167                         if (label_pt.clip_t == 1 || label_pt.clip_b == ysize - 2) {// if( wclip[i*4+2] == 1 || wclip[i*4+3] ==ysize-2){\r
 168                                 continue;\r
 169                         }\r
 170                         // 既に検出された矩形との重なりを確認\r
 171                         if (!overlap.check(label_pt)) {\r
 172                                 // 重なっているようだ。\r
 173                                 continue;\r
 174                         }\r
 175 \r
 176                         // 輪郭を取得\r
 177                         coord_num = limage.getContour(i, coord_max, xcoord, ycoord);\r
 178                         if (coord_num == coord_max) {\r
 179                                 // 輪郭が大きすぎる。\r
 180                                 continue;\r
 181                         }\r
 182                         //頂点候補のインデクスを取得\r
 183                         final int vertex1 = scanVertex(xcoord, ycoord, coord_num);\r
 184 \r
 185                         // 頂点候補(vertex1)を先頭に並べなおした配列を作成する。\r
 186                         normalizeCoord(xcoord, ycoord, vertex1, coord_num);\r
 187 \r
 188                         // 領域を準備する。\r
 189                         NyARSquare square_ptr = (NyARSquare)o_square_stack.prePush();\r
 190 \r
 191                         // 頂点情報を取得\r
 192                         if (!getSquareVertex(xcoord, ycoord, vertex1, coord_num, label_area, mkvertex)) {\r
 193                                 o_square_stack.pop();// 頂点の取得が出来なかったので破棄\r
 194                                 continue;\r
 195                         }\r
 196                         //頂点情報からライン情報を作っちゃう\r
 197                         getSquare(mkvertex, xcoord, ycoord, square_ptr);\r
 198                         \r
 199                         // 検出済の矩形の属したラベルを重なりチェックに追加する。\r
 200                         overlap.push(label_pt);\r
 201                 }       \r
 202                 return;\r
 203         }\r
 204         /**\r
 205          * ２つの頂点座標を結ぶ直線から、NyARLinearを計算する。\r
 206          * @param i_v1\r
 207          * @param i_v2\r
 208          * @param o_line\r
 209          */\r
 210         final private void getLine(NyARDoublePoint2d i_v1,NyARDoublePoint2d i_v2,NyARLinear o_line)\r
 211         {\r
 212                 final double x=i_v1.x-i_v2.x;\r
 213                 final double y=i_v1.y-i_v2.y;\r
 214                 final double x2=x*x;\r
 215                 final double y2=y*y;\r
 216                 final double rise_=Math.sqrt(x2/(x2+y2));\r
 217                 o_line.rise=rise_;\r
 218                 o_line.run=Math.sqrt(y2/(x2+y2));\r
 219                 if(x<0){\r
 220                         if(y<0){\r
 221                                 o_line.rise=-o_line.rise;\r
 222                         }else{\r
 223                                 o_line.rise=-o_line.rise;\r
 224                                 o_line.run=-o_line.run;\r
 225                         }\r
 226                 }else{\r
 227                         if(y<0){\r
 228                                 o_line.rise=-o_line.rise;\r
 229                                 o_line.run=-o_line.run;\r
 230                         }else{\r
 231                                 o_line.rise=-o_line.rise;\r
 232                         }                       \r
 233                 }\r
 234                 o_line.intercept=(i_v1.y+(o_line.run/o_line.rise)*(i_v1.x))*rise_;\r
 235                 \r
 236         }\r
 237 \r
 238         private void getSquare(int[] i_mkvertex, int[] i_xcoord, int[] i_ycoord, NyARSquare o_square)\r
 239         {\r
 240                 final NyARCameraDistortionFactor dist_factor=this._dist_factor_ref;             \r
 241                 final NyARDoublePoint2d[] vertex=o_square.sqvertex;\r
 242                 //歪み補正\r
 243                 for(int i=0;i<4;i++)\r
 244                 {\r
 245                         final int idx=i_mkvertex[i];\r
 246                         o_square.imvertex[i].x=i_xcoord[idx];\r
 247                 o_square.imvertex[i].y=i_ycoord[idx];\r
 248                         dist_factor.observ2Ideal(i_xcoord[idx], i_ycoord[idx],vertex[i]);\r
 249                 }\r
 250                 //ライン計算\r
 251                 getLine(vertex[1],vertex[0],o_square.line[0]);\r
 252                 getLine(vertex[2],vertex[1],o_square.line[1]);\r
 253                 getLine(vertex[3],vertex[2],o_square.line[2]);\r
 254                 getLine(vertex[0],vertex[3],o_square.line[3]);  \r
 255                 return;\r
 256         }\r
 257 \r
 258         /**\r
 259          * 辺からの対角線が最長になる点を対角線候補として返す。\r
 260          * \r
 261          * @param i_xcoord\r
 262          * @param i_ycoord\r
 263          * @param i_coord_num\r
 264          * @return\r
 265          */\r
 266         private int scanVertex(int[] i_xcoord, int[] i_ycoord, int i_coord_num)\r
 267         {\r
 268                 final int sx = i_xcoord[0];\r
 269                 final int sy = i_ycoord[0];\r
 270                 int d = 0;\r
 271                 int w, x, y;\r
 272                 int ret = 0;\r
 273                 for (int i = 1; i < i_coord_num; i++) {\r
 274                         x = i_xcoord[i] - sx;\r
 275                         y = i_ycoord[i] - sy;\r
 276                         w = x * x + y * y;\r
 277                         if (w > d) {\r
 278                                 d = w;\r
 279                                 ret = i;\r
 280                         }\r
 281                         // ここでうまく終了条件入れられないかな。\r
 282                 }\r
 283                 return ret;\r
 284         }\r
 285 \r
 286         private final NyARVertexCounter __getSquareVertex_wv1 = new NyARVertexCounter();\r
 287 \r
 288         private final NyARVertexCounter __getSquareVertex_wv2 = new NyARVertexCounter();\r
 289 \r
 290         /**\r
 291          * static int arDetectMarker2_check_square( int area, ARMarkerInfo2 *marker_info2, double factor ) 関数の代替関数 OPTIMIZED STEP [450->415] o_squareに頂点情報をセットします。\r
 292          * \r
 293          * @param i_x_coord\r
 294          * @param i_y_coord\r
 295          * @param i_vertex1_index\r
 296          * @param i_coord_num\r
 297          * @param i_area\r
 298          * @param o_vertex\r
 299          * 要素数はint[4]である事\r
 300          * @return\r
 301          */\r
 302         private boolean getSquareVertex(int[] i_x_coord, int[] i_y_coord, int i_vertex1_index, int i_coord_num, int i_area, int[] o_vertex)\r
 303         {\r
 304                 final NyARVertexCounter wv1 = this.__getSquareVertex_wv1;\r
 305                 final NyARVertexCounter wv2 = this.__getSquareVertex_wv2;\r
 306                 final int end_of_coord = i_vertex1_index + i_coord_num - 1;\r
 307                 final int sx = i_x_coord[i_vertex1_index];// sx = marker_info2->x_coord[0];\r
 308                 final int sy = i_y_coord[i_vertex1_index];// sy = marker_info2->y_coord[0];\r
 309                 int dmax = 0;\r
 310                 int v1 = i_vertex1_index;\r
 311                 for (int i = 1 + i_vertex1_index; i < end_of_coord; i++) {// for(i=1;i<marker_info2->coord_num-1;i++)\r
 312                         // {\r
 313                         final int d = (i_x_coord[i] - sx) * (i_x_coord[i] - sx) + (i_y_coord[i] - sy) * (i_y_coord[i] - sy);\r
 314                         if (d > dmax) {\r
 315                                 dmax = d;\r
 316                                 v1 = i;\r
 317                         }\r
 318                 }\r
 319                 final double thresh = (i_area / 0.75) * 0.01 * VERTEX_FACTOR;\r
 320 \r
 321                 o_vertex[0] = i_vertex1_index;\r
 322 \r
 323                 if (!wv1.getVertex(i_x_coord, i_y_coord, i_vertex1_index, v1, thresh)) { // if(get_vertex(marker_info2->x_coord,marker_info2->y_coord,0,v1,thresh,wv1,&wvnum1)<\r
 324                                                                                                                                                                         // 0 ) {\r
 325                         return false;\r
 326                 }\r
 327                 if (!wv2.getVertex(i_x_coord, i_y_coord, v1, end_of_coord, thresh)) {// if(get_vertex(marker_info2->x_coord,marker_info2->y_coord,v1,marker_info2->coord_num-1,thresh,wv2,&wvnum2)\r
 328                         // < 0) {\r
 329                         return false;\r
 330                 }\r
 331 \r
 332                 int v2;\r
 333                 if (wv1.number_of_vertex == 1 && wv2.number_of_vertex == 1) {// if(wvnum1 == 1 && wvnum2== 1) {\r
 334                         o_vertex[1] = wv1.vertex[0];\r
 335                         o_vertex[2] = v1;\r
 336                         o_vertex[3] = wv2.vertex[0];\r
 337                 } else if (wv1.number_of_vertex > 1 && wv2.number_of_vertex == 0) {// }else if( wvnum1 > 1 && wvnum2== 0) {\r
 338                         //頂点位置を、起点から対角点の間の1/2にあると予想して、検索する。\r
 339                         v2 = (v1-i_vertex1_index)/2+i_vertex1_index;\r
 340                         if (!wv1.getVertex(i_x_coord, i_y_coord, i_vertex1_index, v2, thresh)) {\r
 341                                 return false;\r
 342                         }\r
 343                         if (!wv2.getVertex(i_x_coord, i_y_coord, v2, v1, thresh)) {\r
 344                                 return false;\r
 345                         }\r
 346                         if (wv1.number_of_vertex == 1 && wv2.number_of_vertex == 1) {\r
 347                                 o_vertex[1] = wv1.vertex[0];\r
 348                                 o_vertex[2] = wv2.vertex[0];\r
 349                                 o_vertex[3] = v1;\r
 350                         } else {\r
 351                                 return false;\r
 352                         }\r
 353                 } else if (wv1.number_of_vertex == 0 && wv2.number_of_vertex > 1) {\r
 354                         //v2 = (v1-i_vertex1_index+ end_of_coord-i_vertex1_index) / 2+i_vertex1_index;\r
 355                         v2 = (v1+ end_of_coord)/2;\r
 356 \r
 357                         if (!wv1.getVertex(i_x_coord, i_y_coord, v1, v2, thresh)) {\r
 358                                 return false;\r
 359                         }\r
 360                         if (!wv2.getVertex(i_x_coord, i_y_coord, v2, end_of_coord, thresh)) {\r
 361                                 return false;\r
 362                         }\r
 363                         if (wv1.number_of_vertex == 1 && wv2.number_of_vertex == 1) {\r
 364                                 o_vertex[1] = v1;\r
 365                                 o_vertex[2] = wv1.vertex[0];\r
 366                                 o_vertex[3] = wv2.vertex[0];\r
 367                         } else {\r
 368                                 return false;\r
 369                         }\r
 370                 } else {\r
 371                         return false;\r
 372                 }\r
 373                 o_vertex[4] = end_of_coord;\r
 374                 return true;\r
 375         }\r
 376 }\r
 377 \r
 378 /**\r
 379  * get_vertex関数を切り離すためのクラス\r
 380  * \r
 381  */\r
 382 final class NyARVertexCounter\r
 383 {\r
 384         public final int[] vertex = new int[10];// 5まで削れる\r
 385 \r
 386         public int number_of_vertex;\r
 387 \r
 388         private double thresh;\r
 389 \r
 390         private int[] x_coord;\r
 391 \r
 392         private int[] y_coord;\r
 393 \r
 394         public boolean getVertex(int[] i_x_coord, int[] i_y_coord, int st, int ed, double i_thresh)\r
 395         {\r
 396                 this.number_of_vertex = 0;\r
 397                 this.thresh = i_thresh;\r
 398                 this.x_coord = i_x_coord;\r
 399                 this.y_coord = i_y_coord;\r
 400                 return get_vertex(st, ed);\r
 401         }\r
 402 \r
 403         /**\r
 404          * static int get_vertex( int x_coord[], int y_coord[], int st, int ed,double thresh, int vertex[], int *vnum) 関数の代替関数\r
 405          * \r
 406          * @param x_coord\r
 407          * @param y_coord\r
 408          * @param st\r
 409          * @param ed\r
 410          * @param thresh\r
 411          * @return\r
 412          */\r
 413         private boolean get_vertex(int st, int ed)\r
 414         {\r
 415                 int v1 = 0;\r
 416                 final int[] lx_coord = this.x_coord;\r
 417                 final int[] ly_coord = this.y_coord;\r
 418                 final double a = ly_coord[ed] - ly_coord[st];\r
 419                 final double b = lx_coord[st] - lx_coord[ed];\r
 420                 final double c = lx_coord[ed] * ly_coord[st] - ly_coord[ed] * lx_coord[st];\r
 421                 double dmax = 0;\r
 422                 for (int i = st + 1; i < ed; i++) {\r
 423                         final double d = a * lx_coord[i] + b * ly_coord[i] + c;\r
 424                         if (d * d > dmax) {\r
 425                                 dmax = d * d;\r
 426                                 v1 = i;\r
 427                         }\r
 428                 }\r
 429                 if (dmax / (a * a + b * b) > thresh) {\r
 430                         if (!get_vertex(st, v1)) {\r
 431                                 return false;\r
 432                         }\r
 433                         if (number_of_vertex > 5) {\r
 434                                 return false;\r
 435                         }\r
 436                         vertex[number_of_vertex] = v1;// vertex[(*vnum)] = v1;\r
 437                         number_of_vertex++;// (*vnum)++;\r
 438 \r
 439                         if (!get_vertex(v1, ed)) {\r
 440                                 return false;\r
 441                         }\r
 442                 }\r
 443                 return true;\r
 444         }\r
 445 }\r
 446 \r
 447 /**\r
 448  * ラベル同士の重なり（内包関係）を調べるクラスです。 ラベルリストに内包するラベルを蓄積し、それにターゲットのラベルが内包されているか を確認します。\r
 449  */\r
 450 class OverlapChecker\r
 451 {\r
 452         private NyARLabelingLabel[] _labels = new NyARLabelingLabel[32];\r
 453 \r
 454         private int _length;\r
 455 \r
 456         /**\r
 457          * 最大i_max_label個のラベルを蓄積できるようにオブジェクトをリセットする\r
 458          * \r
 459          * @param i_max_label\r
 460          */\r
 461         public void reset(int i_max_label)\r
 462         {\r
 463                 if (i_max_label > this._labels.length) {\r
 464                         this._labels = new NyARLabelingLabel[i_max_label];\r
 465                 }\r
 466                 this._length = 0;\r
 467         }\r
 468 \r
 469         /**\r
 470          * チェック対象のラベルを追加する。\r
 471          * \r
 472          * @param i_label_ref\r
 473          */\r
 474         public void push(NyARLabelingLabel i_label_ref)\r
 475         {\r
 476                 this._labels[this._length] = i_label_ref;\r
 477                 this._length++;\r
 478         }\r
 479 \r
 480         /**\r
 481          * 現在リストにあるラベルと重なっているかを返す。\r
 482          * \r
 483          * @param i_label\r
 484          * @return 何れかのラベルの内側にあるならばfalse,独立したラベルである可能性が高ければtrueです．\r
 485          */\r
 486         public boolean check(NyARLabelingLabel i_label)\r
 487         {\r
 488                 // 重なり処理かな？\r
 489                 final NyARLabelingLabel[] label_pt = this._labels;\r
 490                 final int px1 = (int) i_label.pos_x;\r
 491                 final int py1 = (int) i_label.pos_y;\r
 492                 for (int i = this._length - 1; i >= 0; i--) {\r
 493                         final int px2 = (int) label_pt[i].pos_x;\r
 494                         final int py2 = (int) label_pt[i].pos_y;\r
 495                         final int d = (px1 - px2) * (px1 - px2) + (py1 - py2) * (py1 - py2);\r
 496                         if (d < label_pt[i].area / 4) {\r
 497                                 // 対象外\r
 498                                 return false;\r
 499                         }\r
 500                 }\r
 501                 // 対象\r
 502                 return true;\r
 503         }\r
 504 }