Permit ChangeCompareStride to rewrite a comparison when the factor

between the comparison's iv stride and the candidate stride is
exactly -1.

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@70244 91177308-0d34-0410-b5e6-96231b3b80d8

diff --git a/lib/Transforms/Scalar/LoopStrengthReduce.cpp b/lib/Transforms/Scalar/LoopStrengthReduce.cpp
index c436cec..a6795a7 100644 (file)
--- a/lib/Transforms/Scalar/LoopStrengthReduce.cpp
+++ b/lib/Transforms/Scalar/LoopStrengthReduce.cpp
@@ -2028,7 +2028,9 @@ ICmpInst *LoopStrengthReduce::ChangeCompareStride(Loop *L, ICmpInst *Cond,
       if (!isa<SCEVConstant>(SI->first))
         continue;
       int64_t SSInt = cast<SCEVConstant>(SI->first)->getValue()->getSExtValue();
-      if (abs(SSInt) <= abs(CmpSSInt) || (SSInt % CmpSSInt) != 0)
+      if (SSInt == CmpSSInt ||
+          abs(SSInt) < abs(CmpSSInt) ||
+          (SSInt % CmpSSInt) != 0)
         continue;
 
       Scale = SSInt / CmpSSInt;

diff --git a/test/CodeGen/X86/change-compare-stride-0.ll b/test/CodeGen/X86/change-compare-stride-0.ll
new file mode 100644 (file)
index 0000000..87194d6
--- /dev/null
+++ b/test/CodeGen/X86/change-compare-stride-0.ll
@@ -0,0 +1,77 @@
+; RUN: llvm-as < %s | llc -march=x86 > %t
+; RUN: grep {cmpl      \$4294966818,} %t
+; RUN: not grep inc %t
+; RUN: not grep {leal  1(} %t
+; RUN: not grep {leal  -1(} %t
+; RUN: grep dec %t | count 1
+
+define void @borf(i8* nocapture %in, i8* nocapture %out) nounwind {
+bb4.thread:
+       br label %bb2.outer
+
+bb2.outer:             ; preds = %bb4, %bb4.thread
+       %indvar18 = phi i32 [ 0, %bb4.thread ], [ %indvar.next28, %bb4 ]                ; <i32> [#uses=3]
+       %tmp34 = mul i32 %indvar18, 65535               ; <i32> [#uses=1]
+       %i.0.reg2mem.0.ph = add i32 %tmp34, 639         ; <i32> [#uses=1]
+       %0 = and i32 %i.0.reg2mem.0.ph, 65535           ; <i32> [#uses=1]
+       %1 = mul i32 %0, 480            ; <i32> [#uses=1]
+       %tmp20 = mul i32 %indvar18, -478                ; <i32> [#uses=1]
+       br label %bb2
+
+bb2:           ; preds = %bb2, %bb2.outer
+       %indvar = phi i32 [ 0, %bb2.outer ], [ %indvar.next, %bb2 ]             ; <i32> [#uses=3]
+       %ctg2 = getelementptr i8* %out, i32 %tmp20              ; <i8*> [#uses=1]
+       %tmp21 = ptrtoint i8* %ctg2 to i32              ; <i32> [#uses=1]
+       %tmp23 = sub i32 %tmp21, %indvar                ; <i32> [#uses=1]
+       %out_addr.0.reg2mem.0 = inttoptr i32 %tmp23 to i8*              ; <i8*> [#uses=1]
+       %tmp25 = mul i32 %indvar, 65535         ; <i32> [#uses=1]
+       %j.0.reg2mem.0 = add i32 %tmp25, 479            ; <i32> [#uses=1]
+       %2 = and i32 %j.0.reg2mem.0, 65535              ; <i32> [#uses=1]
+       %3 = add i32 %1, %2             ; <i32> [#uses=9]
+       %4 = add i32 %3, -481           ; <i32> [#uses=1]
+       %5 = getelementptr i8* %in, i32 %4              ; <i8*> [#uses=1]
+       %6 = load i8* %5, align 1               ; <i8> [#uses=1]
+       %7 = add i32 %3, -480           ; <i32> [#uses=1]
+       %8 = getelementptr i8* %in, i32 %7              ; <i8*> [#uses=1]
+       %9 = load i8* %8, align 1               ; <i8> [#uses=1]
+       %10 = add i32 %3, -479          ; <i32> [#uses=1]
+       %11 = getelementptr i8* %in, i32 %10            ; <i8*> [#uses=1]
+       %12 = load i8* %11, align 1             ; <i8> [#uses=1]
+       %13 = add i32 %3, -1            ; <i32> [#uses=1]
+       %14 = getelementptr i8* %in, i32 %13            ; <i8*> [#uses=1]
+       %15 = load i8* %14, align 1             ; <i8> [#uses=1]
+       %16 = getelementptr i8* %in, i32 %3             ; <i8*> [#uses=1]
+       %17 = load i8* %16, align 1             ; <i8> [#uses=1]
+       %18 = add i32 %3, 1             ; <i32> [#uses=1]
+       %19 = getelementptr i8* %in, i32 %18            ; <i8*> [#uses=1]
+       %20 = load i8* %19, align 1             ; <i8> [#uses=1]
+       %21 = add i32 %3, 481           ; <i32> [#uses=1]
+       %22 = getelementptr i8* %in, i32 %21            ; <i8*> [#uses=1]
+       %23 = load i8* %22, align 1             ; <i8> [#uses=1]
+       %24 = add i32 %3, 480           ; <i32> [#uses=1]
+       %25 = getelementptr i8* %in, i32 %24            ; <i8*> [#uses=1]
+       %26 = load i8* %25, align 1             ; <i8> [#uses=1]
+       %27 = add i32 %3, 479           ; <i32> [#uses=1]
+       %28 = getelementptr i8* %in, i32 %27            ; <i8*> [#uses=1]
+       %29 = load i8* %28, align 1             ; <i8> [#uses=1]
+       %30 = add i8 %9, %6             ; <i8> [#uses=1]
+       %31 = add i8 %30, %12           ; <i8> [#uses=1]
+       %32 = add i8 %31, %15           ; <i8> [#uses=1]
+       %33 = add i8 %32, %17           ; <i8> [#uses=1]
+       %34 = add i8 %33, %20           ; <i8> [#uses=1]
+       %35 = add i8 %34, %23           ; <i8> [#uses=1]
+       %36 = add i8 %35, %26           ; <i8> [#uses=1]
+       %37 = add i8 %36, %29           ; <i8> [#uses=1]
+       store i8 %37, i8* %out_addr.0.reg2mem.0, align 1
+       %indvar.next = add i32 %indvar, 1               ; <i32> [#uses=2]
+       %exitcond = icmp eq i32 %indvar.next, 478               ; <i1> [#uses=1]
+       br i1 %exitcond, label %bb4, label %bb2
+
+bb4:           ; preds = %bb2
+       %indvar.next28 = add i32 %indvar18, 1           ; <i32> [#uses=2]
+       %exitcond29 = icmp eq i32 %indvar.next28, 638           ; <i1> [#uses=1]
+       br i1 %exitcond29, label %return, label %bb2.outer
+
+return:                ; preds = %bb4
+       ret void
+}

diff --git a/test/CodeGen/X86/change-compare-stride-1.ll b/test/CodeGen/X86/change-compare-stride-1.ll
new file mode 100644 (file)
index 0000000..49b691f
--- /dev/null
+++ b/test/CodeGen/X86/change-compare-stride-1.ll
@@ -0,0 +1,86 @@
+; RUN: llvm-as < %s | llc -march=x86-64 > %t
+; RUN: grep {cmpq      \$-478,} %t
+; RUN: not grep inc %t
+; RUN: not grep {leal  1(} %t
+; RUN: not grep {leal  -1(} %t
+; RUN: grep dec %t | count 1
+
+define void @borf(i8* nocapture %in, i8* nocapture %out) nounwind {
+bb4.thread:
+       br label %bb2.outer
+
+bb2.outer:             ; preds = %bb4, %bb4.thread
+       %indvar19 = phi i64 [ 0, %bb4.thread ], [ %indvar.next29, %bb4 ]                ; <i64> [#uses=3]
+       %indvar31 = trunc i64 %indvar19 to i16          ; <i16> [#uses=1]
+       %i.0.reg2mem.0.ph = sub i16 639, %indvar31              ; <i16> [#uses=1]
+       %0 = zext i16 %i.0.reg2mem.0.ph to i32          ; <i32> [#uses=1]
+       %1 = mul i32 %0, 480            ; <i32> [#uses=1]
+       %tmp21 = mul i64 %indvar19, -478                ; <i64> [#uses=1]
+       br label %bb2
+
+bb2:           ; preds = %bb2, %bb2.outer
+       %indvar = phi i64 [ 0, %bb2.outer ], [ %indvar.next, %bb2 ]             ; <i64> [#uses=3]
+       %indvar16 = trunc i64 %indvar to i16            ; <i16> [#uses=1]
+       %ctg2 = getelementptr i8* %out, i64 %tmp21              ; <i8*> [#uses=1]
+       %tmp22 = ptrtoint i8* %ctg2 to i64              ; <i64> [#uses=1]
+       %tmp24 = sub i64 %tmp22, %indvar                ; <i64> [#uses=1]
+       %out_addr.0.reg2mem.0 = inttoptr i64 %tmp24 to i8*              ; <i8*> [#uses=1]
+       %j.0.reg2mem.0 = sub i16 479, %indvar16         ; <i16> [#uses=1]
+       %2 = zext i16 %j.0.reg2mem.0 to i32             ; <i32> [#uses=1]
+       %3 = add i32 %1, %2             ; <i32> [#uses=9]
+       %4 = add i32 %3, -481           ; <i32> [#uses=1]
+       %5 = zext i32 %4 to i64         ; <i64> [#uses=1]
+       %6 = getelementptr i8* %in, i64 %5              ; <i8*> [#uses=1]
+       %7 = load i8* %6, align 1               ; <i8> [#uses=1]
+       %8 = add i32 %3, -480           ; <i32> [#uses=1]
+       %9 = zext i32 %8 to i64         ; <i64> [#uses=1]
+       %10 = getelementptr i8* %in, i64 %9             ; <i8*> [#uses=1]
+       %11 = load i8* %10, align 1             ; <i8> [#uses=1]
+       %12 = add i32 %3, -479          ; <i32> [#uses=1]
+       %13 = zext i32 %12 to i64               ; <i64> [#uses=1]
+       %14 = getelementptr i8* %in, i64 %13            ; <i8*> [#uses=1]
+       %15 = load i8* %14, align 1             ; <i8> [#uses=1]
+       %16 = add i32 %3, -1            ; <i32> [#uses=1]
+       %17 = zext i32 %16 to i64               ; <i64> [#uses=1]
+       %18 = getelementptr i8* %in, i64 %17            ; <i8*> [#uses=1]
+       %19 = load i8* %18, align 1             ; <i8> [#uses=1]
+       %20 = zext i32 %3 to i64                ; <i64> [#uses=1]
+       %21 = getelementptr i8* %in, i64 %20            ; <i8*> [#uses=1]
+       %22 = load i8* %21, align 1             ; <i8> [#uses=1]
+       %23 = add i32 %3, 1             ; <i32> [#uses=1]
+       %24 = zext i32 %23 to i64               ; <i64> [#uses=1]
+       %25 = getelementptr i8* %in, i64 %24            ; <i8*> [#uses=1]
+       %26 = load i8* %25, align 1             ; <i8> [#uses=1]
+       %27 = add i32 %3, 481           ; <i32> [#uses=1]
+       %28 = zext i32 %27 to i64               ; <i64> [#uses=1]
+       %29 = getelementptr i8* %in, i64 %28            ; <i8*> [#uses=1]
+       %30 = load i8* %29, align 1             ; <i8> [#uses=1]
+       %31 = add i32 %3, 480           ; <i32> [#uses=1]
+       %32 = zext i32 %31 to i64               ; <i64> [#uses=1]
+       %33 = getelementptr i8* %in, i64 %32            ; <i8*> [#uses=1]
+       %34 = load i8* %33, align 1             ; <i8> [#uses=1]
+       %35 = add i32 %3, 479           ; <i32> [#uses=1]
+       %36 = zext i32 %35 to i64               ; <i64> [#uses=1]
+       %37 = getelementptr i8* %in, i64 %36            ; <i8*> [#uses=1]
+       %38 = load i8* %37, align 1             ; <i8> [#uses=1]
+       %39 = add i8 %11, %7            ; <i8> [#uses=1]
+       %40 = add i8 %39, %15           ; <i8> [#uses=1]
+       %41 = add i8 %40, %19           ; <i8> [#uses=1]
+       %42 = add i8 %41, %22           ; <i8> [#uses=1]
+       %43 = add i8 %42, %26           ; <i8> [#uses=1]
+       %44 = add i8 %43, %30           ; <i8> [#uses=1]
+       %45 = add i8 %44, %34           ; <i8> [#uses=1]
+       %46 = add i8 %45, %38           ; <i8> [#uses=1]
+       store i8 %46, i8* %out_addr.0.reg2mem.0, align 1
+       %indvar.next = add i64 %indvar, 1               ; <i64> [#uses=2]
+       %exitcond = icmp eq i64 %indvar.next, 478               ; <i1> [#uses=1]
+       br i1 %exitcond, label %bb4, label %bb2
+
+bb4:           ; preds = %bb2
+       %indvar.next29 = add i64 %indvar19, 1           ; <i64> [#uses=2]
+       %exitcond30 = icmp eq i64 %indvar.next29, 638           ; <i1> [#uses=1]
+       br i1 %exitcond30, label %return, label %bb2.outer
+
+return:                ; preds = %bb4
+       ret void
+}