test/Transforms/BBVectorize/simple-int.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt < %s -bb-vectorize -bb-vectorize-req-chain-depth=3 -bb-vectorize-ignore-target-info -instcombine -gvn -S | FileCheck %s
   3
   4 target datalayout = "e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128"
   5
   6 declare double @llvm.fma.f64(double, double, double)
   7 declare double @llvm.fmuladd.f64(double, double, double)
   8 declare double @llvm.cos.f64(double)
   9 declare double @llvm.powi.f64(double, i32)
  10 declare double @llvm.round.f64(double)
  11 declare double @llvm.copysign.f64(double, double)
  12 declare double @llvm.ceil.f64(double)
  13 declare double @llvm.nearbyint.f64(double)
  14 declare double @llvm.rint.f64(double)
  15 declare double @llvm.trunc.f64(double)
  16 declare double @llvm.floor.f64(double)
  17 declare double @llvm.fabs.f64(double)
  18 declare i64 @llvm.bswap.i64(i64)
  19 declare i64 @llvm.ctpop.i64(i64)
  20 declare i64 @llvm.ctlz.i64(i64, i1)
  21 declare i64 @llvm.cttz.i64(i64, i1)
  22
  23 ; Basic depth-3 chain with fma
  24 define double @test1(double %A1, double %A2, double %B1, double %B2, double %C1, double %C2) {
  25 ; CHECK-LABEL: @test1(
  26 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
  27 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
  28 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
  29 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
  30 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
  31 ; CHECK-NEXT:    [[Y1_V_I2_1:%.*]] = insertelement <2 x double> undef, double [[C1:%.*]], i32 0
  32 ; CHECK-NEXT:    [[Y1_V_I2_2:%.*]] = insertelement <2 x double> [[Y1_V_I2_1]], double [[C2:%.*]], i32 1
  33 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.fma.v2f64(<2 x double> [[X1]], <2 x double> [[X1_V_I0_2]], <2 x double> [[Y1_V_I2_2]])
  34 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
  35 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
  36 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
  37 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
  38 ; CHECK-NEXT:    ret double [[R]]
  39 ;
  40   %X1 = fsub double %A1, %B1
  41   %X2 = fsub double %A2, %B2
  42   %Y1 = call double @llvm.fma.f64(double %X1, double %A1, double %C1)
  43   %Y2 = call double @llvm.fma.f64(double %X2, double %A2, double %C2)
  44   %Z1 = fadd double %Y1, %B1
  45   %Z2 = fadd double %Y2, %B2
  46   %R  = fmul double %Z1, %Z2
  47   ret double %R
  48 }
  49
  50 ; Basic depth-3 chain with fmuladd
  51 define double @test1a(double %A1, double %A2, double %B1, double %B2, double %C1, double %C2) {
  52 ; CHECK-LABEL: @test1a(
  53 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
  54 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
  55 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
  56 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
  57 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
  58 ; CHECK-NEXT:    [[Y1_V_I2_1:%.*]] = insertelement <2 x double> undef, double [[C1:%.*]], i32 0
  59 ; CHECK-NEXT:    [[Y1_V_I2_2:%.*]] = insertelement <2 x double> [[Y1_V_I2_1]], double [[C2:%.*]], i32 1
  60 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.fmuladd.v2f64(<2 x double> [[X1]], <2 x double> [[X1_V_I0_2]], <2 x double> [[Y1_V_I2_2]])
  61 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
  62 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
  63 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
  64 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
  65 ; CHECK-NEXT:    ret double [[R]]
  66 ;
  67   %X1 = fsub double %A1, %B1
  68   %X2 = fsub double %A2, %B2
  69   %Y1 = call double @llvm.fmuladd.f64(double %X1, double %A1, double %C1)
  70   %Y2 = call double @llvm.fmuladd.f64(double %X2, double %A2, double %C2)
  71   %Z1 = fadd double %Y1, %B1
  72   %Z2 = fadd double %Y2, %B2
  73   %R  = fmul double %Z1, %Z2
  74   ret double %R
  75 }
  76
  77 ; Basic depth-3 chain with cos
  78 define double @test2(double %A1, double %A2, double %B1, double %B2) {
  79 ; CHECK-LABEL: @test2(
  80 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
  81 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
  82 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
  83 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
  84 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
  85 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.cos.v2f64(<2 x double> [[X1]])
  86 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
  87 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
  88 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
  89 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
  90 ; CHECK-NEXT:    ret double [[R]]
  91 ;
  92   %X1 = fsub double %A1, %B1
  93   %X2 = fsub double %A2, %B2
  94   %Y1 = call double @llvm.cos.f64(double %X1)
  95   %Y2 = call double @llvm.cos.f64(double %X2)
  96   %Z1 = fadd double %Y1, %B1
  97   %Z2 = fadd double %Y2, %B2
  98   %R  = fmul double %Z1, %Z2
  99   ret double %R
 100 }
 101
 102 ; Basic depth-3 chain with powi
 103 define double @test3(double %A1, double %A2, double %B1, double %B2, i32 %P) {
 104 ; CHECK-LABEL: @test3(
 105 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 106 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 107 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 108 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 109 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 110 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.powi.v2f64(<2 x double> [[X1]], i32 [[P:%.*]])
 111 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 112 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 113 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 114 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 115 ; CHECK-NEXT:    ret double [[R]]
 116 ;
 117   %X1 = fsub double %A1, %B1
 118   %X2 = fsub double %A2, %B2
 119   %Y1 = call double @llvm.powi.f64(double %X1, i32 %P)
 120   %Y2 = call double @llvm.powi.f64(double %X2, i32 %P)
 121   %Z1 = fadd double %Y1, %B1
 122   %Z2 = fadd double %Y2, %B2
 123   %R  = fmul double %Z1, %Z2
 124   ret double %R
 125 }
 126
 127 ; Basic depth-3 chain with powi (different powers: should not vectorize)
 128 define double @test4(double %A1, double %A2, double %B1, double %B2, i32 %P) {
 129 ; CHECK-LABEL: @test4(
 130 ; CHECK-NEXT:    [[X1:%.*]] = fsub double [[A1:%.*]], [[B1:%.*]]
 131 ; CHECK-NEXT:    [[X2:%.*]] = fsub double [[A2:%.*]], [[B2:%.*]]
 132 ; CHECK-NEXT:    [[P2:%.*]] = add i32 [[P:%.*]], 1
 133 ; CHECK-NEXT:    [[Y1:%.*]] = call double @llvm.powi.f64(double [[X1]], i32 [[P]])
 134 ; CHECK-NEXT:    [[Y2:%.*]] = call double @llvm.powi.f64(double [[X2]], i32 [[P2]])
 135 ; CHECK-NEXT:    [[Z1:%.*]] = fadd double [[Y1]], [[B1]]
 136 ; CHECK-NEXT:    [[Z2:%.*]] = fadd double [[Y2]], [[B2]]
 137 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1]], [[Z2]]
 138 ; CHECK-NEXT:    ret double [[R]]
 139 ;
 140   %X1 = fsub double %A1, %B1
 141   %X2 = fsub double %A2, %B2
 142   %P2 = add i32 %P, 1
 143   %Y1 = call double @llvm.powi.f64(double %X1, i32 %P)
 144   %Y2 = call double @llvm.powi.f64(double %X2, i32 %P2)
 145   %Z1 = fadd double %Y1, %B1
 146   %Z2 = fadd double %Y2, %B2
 147   %R  = fmul double %Z1, %Z2
 148   ret double %R
 149 }
 150
 151 ; Basic depth-3 chain with round
 152 define double @testround(double %A1, double %A2, double %B1, double %B2) {
 153 ; CHECK-LABEL: @testround(
 154 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 155 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 156 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 157 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 158 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 159 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.round.v2f64(<2 x double> [[X1]])
 160 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 161 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 162 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 163 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 164 ; CHECK-NEXT:    ret double [[R]]
 165 ;
 166   %X1 = fsub double %A1, %B1
 167   %X2 = fsub double %A2, %B2
 168   %Y1 = call double @llvm.round.f64(double %X1)
 169   %Y2 = call double @llvm.round.f64(double %X2)
 170   %Z1 = fadd double %Y1, %B1
 171   %Z2 = fadd double %Y2, %B2
 172   %R  = fmul double %Z1, %Z2
 173   ret double %R
 174 }
 175
 176 ; Basic depth-3 chain with copysign
 177 define double @testcopysign(double %A1, double %A2, double %B1, double %B2) {
 178 ; CHECK-LABEL: @testcopysign(
 179 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 180 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 181 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 182 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 183 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 184 ; CHECK-NEXT:    [[Y1_V_I1_2:%.*]] = shufflevector <2 x double> [[X1_V_I0_1]], <2 x double> undef, <2 x i32> zeroinitializer
 185 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.copysign.v2f64(<2 x double> [[X1]], <2 x double> [[Y1_V_I1_2]])
 186 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 187 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 188 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 189 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 190 ; CHECK-NEXT:    ret double [[R]]
 191 ;
 192   %X1 = fsub double %A1, %B1
 193   %X2 = fsub double %A2, %B2
 194   %Y1 = call double @llvm.copysign.f64(double %X1, double %A1)
 195   %Y2 = call double @llvm.copysign.f64(double %X2, double %A1)
 196   %Z1 = fadd double %Y1, %B1
 197   %Z2 = fadd double %Y2, %B2
 198   %R  = fmul double %Z1, %Z2
 199   ret double %R
 200 }
 201
 202 ; Basic depth-3 chain with ceil
 203 define double @testceil(double %A1, double %A2, double %B1, double %B2) {
 204 ; CHECK-LABEL: @testceil(
 205 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 206 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 207 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 208 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 209 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 210 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.ceil.v2f64(<2 x double> [[X1]])
 211 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 212 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 213 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 214 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 215 ; CHECK-NEXT:    ret double [[R]]
 216 ;
 217   %X1 = fsub double %A1, %B1
 218   %X2 = fsub double %A2, %B2
 219   %Y1 = call double @llvm.ceil.f64(double %X1)
 220   %Y2 = call double @llvm.ceil.f64(double %X2)
 221   %Z1 = fadd double %Y1, %B1
 222   %Z2 = fadd double %Y2, %B2
 223   %R  = fmul double %Z1, %Z2
 224   ret double %R
 225 }
 226
 227 ; Basic depth-3 chain with nearbyint
 228 define double @testnearbyint(double %A1, double %A2, double %B1, double %B2) {
 229 ; CHECK-LABEL: @testnearbyint(
 230 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 231 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 232 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 233 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 234 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 235 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.nearbyint.v2f64(<2 x double> [[X1]])
 236 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 237 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 238 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 239 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 240 ; CHECK-NEXT:    ret double [[R]]
 241 ;
 242   %X1 = fsub double %A1, %B1
 243   %X2 = fsub double %A2, %B2
 244   %Y1 = call double @llvm.nearbyint.f64(double %X1)
 245   %Y2 = call double @llvm.nearbyint.f64(double %X2)
 246   %Z1 = fadd double %Y1, %B1
 247   %Z2 = fadd double %Y2, %B2
 248   %R  = fmul double %Z1, %Z2
 249   ret double %R
 250 }
 251
 252 ; Basic depth-3 chain with rint
 253 define double @testrint(double %A1, double %A2, double %B1, double %B2) {
 254 ; CHECK-LABEL: @testrint(
 255 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 256 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 257 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 258 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 259 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 260 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.rint.v2f64(<2 x double> [[X1]])
 261 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 262 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 263 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 264 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 265 ; CHECK-NEXT:    ret double [[R]]
 266 ;
 267   %X1 = fsub double %A1, %B1
 268   %X2 = fsub double %A2, %B2
 269   %Y1 = call double @llvm.rint.f64(double %X1)
 270   %Y2 = call double @llvm.rint.f64(double %X2)
 271   %Z1 = fadd double %Y1, %B1
 272   %Z2 = fadd double %Y2, %B2
 273   %R  = fmul double %Z1, %Z2
 274   ret double %R
 275 }
 276
 277 ; Basic depth-3 chain with trunc
 278 define double @testtrunc(double %A1, double %A2, double %B1, double %B2) {
 279 ; CHECK-LABEL: @testtrunc(
 280 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 281 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 282 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 283 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 284 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 285 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.trunc.v2f64(<2 x double> [[X1]])
 286 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 287 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 288 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 289 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 290 ; CHECK-NEXT:    ret double [[R]]
 291 ;
 292   %X1 = fsub double %A1, %B1
 293   %X2 = fsub double %A2, %B2
 294   %Y1 = call double @llvm.trunc.f64(double %X1)
 295   %Y2 = call double @llvm.trunc.f64(double %X2)
 296   %Z1 = fadd double %Y1, %B1
 297   %Z2 = fadd double %Y2, %B2
 298   %R  = fmul double %Z1, %Z2
 299   ret double %R
 300 }
 301
 302 ; Basic depth-3 chain with floor
 303 define double @testfloor(double %A1, double %A2, double %B1, double %B2) {
 304 ; CHECK-LABEL: @testfloor(
 305 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 306 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 307 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 308 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 309 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 310 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.floor.v2f64(<2 x double> [[X1]])
 311 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 312 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 313 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 314 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 315 ; CHECK-NEXT:    ret double [[R]]
 316 ;
 317   %X1 = fsub double %A1, %B1
 318   %X2 = fsub double %A2, %B2
 319   %Y1 = call double @llvm.floor.f64(double %X1)
 320   %Y2 = call double @llvm.floor.f64(double %X2)
 321   %Z1 = fadd double %Y1, %B1
 322   %Z2 = fadd double %Y2, %B2
 323   %R  = fmul double %Z1, %Z2
 324   ret double %R
 325 }
 326
 327 ; Basic depth-3 chain with fabs
 328 define double @testfabs(double %A1, double %A2, double %B1, double %B2) {
 329 ; CHECK-LABEL: @testfabs(
 330 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x double> undef, double [[B1:%.*]], i32 0
 331 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x double> [[X1_V_I1_1]], double [[B2:%.*]], i32 1
 332 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x double> undef, double [[A1:%.*]], i32 0
 333 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x double> [[X1_V_I0_1]], double [[A2:%.*]], i32 1
 334 ; CHECK-NEXT:    [[X1:%.*]] = fsub <2 x double> [[X1_V_I0_2]], [[X1_V_I1_2]]
 335 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x double> @llvm.fabs.v2f64(<2 x double> [[X1]])
 336 ; CHECK-NEXT:    [[Z1:%.*]] = fadd <2 x double> [[Y1]], [[X1_V_I1_2]]
 337 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x double> [[Z1]], i32 0
 338 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x double> [[Z1]], i32 1
 339 ; CHECK-NEXT:    [[R:%.*]] = fmul double [[Z1_V_R1]], [[Z1_V_R2]]
 340 ; CHECK-NEXT:    ret double [[R]]
 341 ;
 342   %X1 = fsub double %A1, %B1
 343   %X2 = fsub double %A2, %B2
 344   %Y1 = call double @llvm.fabs.f64(double %X1)
 345   %Y2 = call double @llvm.fabs.f64(double %X2)
 346   %Z1 = fadd double %Y1, %B1
 347   %Z2 = fadd double %Y2, %B2
 348   %R  = fmul double %Z1, %Z2
 349   ret double %R
 350 }
 351
 352 ; Basic depth-3 chain with bswap
 353 define i64 @testbswap(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
 354 ; CHECK-LABEL: @testbswap(
 355 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x i64> undef, i64 [[B1:%.*]], i32 0
 356 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x i64> [[X1_V_I1_1]], i64 [[B2:%.*]], i32 1
 357 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x i64> undef, i64 [[A1:%.*]], i32 0
 358 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x i64> [[X1_V_I0_1]], i64 [[A2:%.*]], i32 1
 359 ; CHECK-NEXT:    [[X1:%.*]] = sub <2 x i64> [[X1_V_I0_2]], [[X1_V_I1_2]]
 360 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x i64> @llvm.bswap.v2i64(<2 x i64> [[X1]])
 361 ; CHECK-NEXT:    [[Z1:%.*]] = add <2 x i64> [[Y1]], [[X1_V_I1_2]]
 362 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x i64> [[Z1]], i32 0
 363 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x i64> [[Z1]], i32 1
 364 ; CHECK-NEXT:    [[R:%.*]] = mul i64 [[Z1_V_R1]], [[Z1_V_R2]]
 365 ; CHECK-NEXT:    ret i64 [[R]]
 366 ;
 367   %X1 = sub i64 %A1, %B1
 368   %X2 = sub i64 %A2, %B2
 369   %Y1 = call i64 @llvm.bswap.i64(i64 %X1)
 370   %Y2 = call i64 @llvm.bswap.i64(i64 %X2)
 371   %Z1 = add i64 %Y1, %B1
 372   %Z2 = add i64 %Y2, %B2
 373   %R  = mul i64 %Z1, %Z2
 374   ret i64 %R
 375 }
 376
 377 ; Basic depth-3 chain with ctpop
 378 define i64 @testctpop(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
 379 ; CHECK-LABEL: @testctpop(
 380 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x i64> undef, i64 [[B1:%.*]], i32 0
 381 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x i64> [[X1_V_I1_1]], i64 [[B2:%.*]], i32 1
 382 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x i64> undef, i64 [[A1:%.*]], i32 0
 383 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x i64> [[X1_V_I0_1]], i64 [[A2:%.*]], i32 1
 384 ; CHECK-NEXT:    [[X1:%.*]] = sub <2 x i64> [[X1_V_I0_2]], [[X1_V_I1_2]]
 385 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x i64> @llvm.ctpop.v2i64(<2 x i64> [[X1]])
 386 ; CHECK-NEXT:    [[Z1:%.*]] = add <2 x i64> [[Y1]], [[X1_V_I1_2]]
 387 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x i64> [[Z1]], i32 0
 388 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x i64> [[Z1]], i32 1
 389 ; CHECK-NEXT:    [[R:%.*]] = mul i64 [[Z1_V_R1]], [[Z1_V_R2]]
 390 ; CHECK-NEXT:    ret i64 [[R]]
 391 ;
 392   %X1 = sub i64 %A1, %B1
 393   %X2 = sub i64 %A2, %B2
 394   %Y1 = call i64 @llvm.ctpop.i64(i64 %X1)
 395   %Y2 = call i64 @llvm.ctpop.i64(i64 %X2)
 396   %Z1 = add i64 %Y1, %B1
 397   %Z2 = add i64 %Y2, %B2
 398   %R  = mul i64 %Z1, %Z2
 399   ret i64 %R
 400 }
 401
 402 ; Basic depth-3 chain with ctlz
 403 define i64 @testctlz(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
 404 ; CHECK-LABEL: @testctlz(
 405 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x i64> undef, i64 [[B1:%.*]], i32 0
 406 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x i64> [[X1_V_I1_1]], i64 [[B2:%.*]], i32 1
 407 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x i64> undef, i64 [[A1:%.*]], i32 0
 408 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x i64> [[X1_V_I0_1]], i64 [[A2:%.*]], i32 1
 409 ; CHECK-NEXT:    [[X1:%.*]] = sub <2 x i64> [[X1_V_I0_2]], [[X1_V_I1_2]]
 410 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x i64> @llvm.ctlz.v2i64(<2 x i64> [[X1]], i1 true)
 411 ; CHECK-NEXT:    [[Z1:%.*]] = add <2 x i64> [[Y1]], [[X1_V_I1_2]]
 412 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x i64> [[Z1]], i32 0
 413 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x i64> [[Z1]], i32 1
 414 ; CHECK-NEXT:    [[R:%.*]] = mul i64 [[Z1_V_R1]], [[Z1_V_R2]]
 415 ; CHECK-NEXT:    ret i64 [[R]]
 416 ;
 417   %X1 = sub i64 %A1, %B1
 418   %X2 = sub i64 %A2, %B2
 419   %Y1 = call i64 @llvm.ctlz.i64(i64 %X1, i1 true)
 420   %Y2 = call i64 @llvm.ctlz.i64(i64 %X2, i1 true)
 421   %Z1 = add i64 %Y1, %B1
 422   %Z2 = add i64 %Y2, %B2
 423   %R  = mul i64 %Z1, %Z2
 424   ret i64 %R
 425
 426 }
 427
 428 ; Basic depth-3 chain with ctlz
 429 define i64 @testctlzneg(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
 430 ; CHECK-LABEL: @testctlzneg(
 431 ; CHECK-NEXT:    [[X1:%.*]] = sub i64 [[A1:%.*]], [[B1:%.*]]
 432 ; CHECK-NEXT:    [[X2:%.*]] = sub i64 [[A2:%.*]], [[B2:%.*]]
 433 ; CHECK-NEXT:    [[Y1:%.*]] = call i64 @llvm.ctlz.i64(i64 [[X1]], i1 true), !range !0
 434 ; CHECK-NEXT:    [[Y2:%.*]] = call i64 @llvm.ctlz.i64(i64 [[X2]], i1 false), !range !0
 435 ; CHECK-NEXT:    [[Z1:%.*]] = add i64 [[Y1]], [[B1]]
 436 ; CHECK-NEXT:    [[Z2:%.*]] = add i64 [[Y2]], [[B2]]
 437 ; CHECK-NEXT:    [[R:%.*]] = mul i64 [[Z1]], [[Z2]]
 438 ; CHECK-NEXT:    ret i64 [[R]]
 439 ;
 440   %X1 = sub i64 %A1, %B1
 441   %X2 = sub i64 %A2, %B2
 442   %Y1 = call i64 @llvm.ctlz.i64(i64 %X1, i1 true)
 443   %Y2 = call i64 @llvm.ctlz.i64(i64 %X2, i1 false)
 444   %Z1 = add i64 %Y1, %B1
 445   %Z2 = add i64 %Y2, %B2
 446   %R  = mul i64 %Z1, %Z2
 447   ret i64 %R
 448 }
 449
 450 ; Basic depth-3 chain with cttz
 451 define i64 @testcttz(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
 452 ; CHECK-LABEL: @testcttz(
 453 ; CHECK-NEXT:    [[X1_V_I1_1:%.*]] = insertelement <2 x i64> undef, i64 [[B1:%.*]], i32 0
 454 ; CHECK-NEXT:    [[X1_V_I1_2:%.*]] = insertelement <2 x i64> [[X1_V_I1_1]], i64 [[B2:%.*]], i32 1
 455 ; CHECK-NEXT:    [[X1_V_I0_1:%.*]] = insertelement <2 x i64> undef, i64 [[A1:%.*]], i32 0
 456 ; CHECK-NEXT:    [[X1_V_I0_2:%.*]] = insertelement <2 x i64> [[X1_V_I0_1]], i64 [[A2:%.*]], i32 1
 457 ; CHECK-NEXT:    [[X1:%.*]] = sub <2 x i64> [[X1_V_I0_2]], [[X1_V_I1_2]]
 458 ; CHECK-NEXT:    [[Y1:%.*]] = call <2 x i64> @llvm.cttz.v2i64(<2 x i64> [[X1]], i1 true)
 459 ; CHECK-NEXT:    [[Z1:%.*]] = add <2 x i64> [[Y1]], [[X1_V_I1_2]]
 460 ; CHECK-NEXT:    [[Z1_V_R1:%.*]] = extractelement <2 x i64> [[Z1]], i32 0
 461 ; CHECK-NEXT:    [[Z1_V_R2:%.*]] = extractelement <2 x i64> [[Z1]], i32 1
 462 ; CHECK-NEXT:    [[R:%.*]] = mul i64 [[Z1_V_R1]], [[Z1_V_R2]]
 463 ; CHECK-NEXT:    ret i64 [[R]]
 464 ;
 465   %X1 = sub i64 %A1, %B1
 466   %X2 = sub i64 %A2, %B2
 467   %Y1 = call i64 @llvm.cttz.i64(i64 %X1, i1 true)
 468   %Y2 = call i64 @llvm.cttz.i64(i64 %X2, i1 true)
 469   %Z1 = add i64 %Y1, %B1
 470   %Z2 = add i64 %Y2, %B2
 471   %R  = mul i64 %Z1, %Z2
 472   ret i64 %R
 473
 474 }
 475
 476 ; Basic depth-3 chain with cttz
 477 define i64 @testcttzneg(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
 478 ; CHECK-LABEL: @testcttzneg(
 479 ; CHECK-NEXT:    [[X1:%.*]] = sub i64 [[A1:%.*]], [[B1:%.*]]
 480 ; CHECK-NEXT:    [[X2:%.*]] = sub i64 [[A2:%.*]], [[B2:%.*]]
 481 ; CHECK-NEXT:    [[Y1:%.*]] = call i64 @llvm.cttz.i64(i64 [[X1]], i1 true), !range !0
 482 ; CHECK-NEXT:    [[Y2:%.*]] = call i64 @llvm.cttz.i64(i64 [[X2]], i1 false), !range !0
 483 ; CHECK-NEXT:    [[Z1:%.*]] = add i64 [[Y1]], [[B1]]
 484 ; CHECK-NEXT:    [[Z2:%.*]] = add i64 [[Y2]], [[B2]]
 485 ; CHECK-NEXT:    [[R:%.*]] = mul i64 [[Z1]], [[Z2]]
 486 ; CHECK-NEXT:    ret i64 [[R]]
 487 ;
 488   %X1 = sub i64 %A1, %B1
 489   %X2 = sub i64 %A2, %B2
 490   %Y1 = call i64 @llvm.cttz.i64(i64 %X1, i1 true)
 491   %Y2 = call i64 @llvm.cttz.i64(i64 %X2, i1 false)
 492   %Z1 = add i64 %Y1, %B1
 493   %Z2 = add i64 %Y2, %B2
 494   %R  = mul i64 %Z1, %Z2
 495   ret i64 %R
 496 }
 497
 498 ; CHECK: declare <2 x double> @llvm.fma.v2f64(<2 x double>, <2 x double>, <2 x double>) #0
 499 ; CHECK: declare <2 x double> @llvm.fmuladd.v2f64(<2 x double>, <2 x double>, <2 x double>) #0
 500 ; CHECK: declare <2 x double> @llvm.cos.v2f64(<2 x double>) #0
 501 ; CHECK: declare <2 x double> @llvm.powi.v2f64(<2 x double>, i32) #0
 502 ; CHECK: declare <2 x double> @llvm.round.v2f64(<2 x double>) #0
 503 ; CHECK: declare <2 x double> @llvm.copysign.v2f64(<2 x double>, <2 x double>) #0
 504 ; CHECK: declare <2 x double> @llvm.ceil.v2f64(<2 x double>) #0
 505 ; CHECK: declare <2 x double> @llvm.nearbyint.v2f64(<2 x double>) #0
 506 ; CHECK: declare <2 x double> @llvm.rint.v2f64(<2 x double>) #0
 507 ; CHECK: declare <2 x double> @llvm.trunc.v2f64(<2 x double>) #0
 508 ; CHECK: declare <2 x double> @llvm.floor.v2f64(<2 x double>) #0
 509 ; CHECK: declare <2 x double> @llvm.fabs.v2f64(<2 x double>) #0
 510 ; CHECK: declare <2 x i64> @llvm.bswap.v2i64(<2 x i64>) #0
 511 ; CHECK: declare <2 x i64> @llvm.ctpop.v2i64(<2 x i64>) #0
 512 ; CHECK: declare <2 x i64> @llvm.ctlz.v2i64(<2 x i64>, i1) #0
 513 ; CHECK: declare <2 x i64> @llvm.cttz.v2i64(<2 x i64>, i1) #0
 514 ; CHECK: attributes #0 = { nounwind readnone speculatable }