lib/CodeGen/MachineOperand.cpp

   1 //===- lib/CodeGen/MachineOperand.cpp -------------------------------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 /// \file Methods common to all machine operands.
  11 //
  12 //===----------------------------------------------------------------------===//
  13
  14 #include "llvm/CodeGen/MachineOperand.h"
  15 #include "llvm/ADT/StringExtras.h"
  16 #include "llvm/Analysis/Loads.h"
  17 #include "llvm/Analysis/MemoryLocation.h"
  18 #include "llvm/CodeGen/MIRPrinter.h"
  19 #include "llvm/CodeGen/MachineFrameInfo.h"
  20 #include "llvm/CodeGen/MachineJumpTableInfo.h"
  21 #include "llvm/CodeGen/MachineRegisterInfo.h"
  22 #include "llvm/CodeGen/TargetInstrInfo.h"
  23 #include "llvm/CodeGen/TargetRegisterInfo.h"
  24 #include "llvm/Config/llvm-config.h"
  25 #include "llvm/IR/Constants.h"
  26 #include "llvm/IR/IRPrintingPasses.h"
  27 #include "llvm/IR/ModuleSlotTracker.h"
  28 #include "llvm/Target/TargetIntrinsicInfo.h"
  29 #include "llvm/Target/TargetMachine.h"
  30
  31 using namespace llvm;
  32
  33 static cl::opt<int>
  34     PrintRegMaskNumRegs("print-regmask-num-regs",
  35                         cl::desc("Number of registers to limit to when "
  36                                  "printing regmask operands in IR dumps. "
  37                                  "unlimited = -1"),
  38                         cl::init(32), cl::Hidden);
  39
  40 static const MachineFunction *getMFIfAvailable(const MachineOperand &MO) {
  41   if (const MachineInstr *MI = MO.getParent())
  42     if (const MachineBasicBlock *MBB = MI->getParent())
  43       if (const MachineFunction *MF = MBB->getParent())
  44         return MF;
  45   return nullptr;
  46 }
  47 static MachineFunction *getMFIfAvailable(MachineOperand &MO) {
  48   return const_cast<MachineFunction *>(
  49       getMFIfAvailable(const_cast<const MachineOperand &>(MO)));
  50 }
  51
  52 void MachineOperand::setReg(unsigned Reg) {
  53   if (getReg() == Reg)
  54     return; // No change.
  55
  56   // Clear the IsRenamable bit to keep it conservatively correct.
  57   IsRenamable = false;
  58
  59   // Otherwise, we have to change the register.  If this operand is embedded
  60   // into a machine function, we need to update the old and new register's
  61   // use/def lists.
  62   if (MachineFunction *MF = getMFIfAvailable(*this)) {
  63     MachineRegisterInfo &MRI = MF->getRegInfo();
  64     MRI.removeRegOperandFromUseList(this);
  65     SmallContents.RegNo = Reg;
  66     MRI.addRegOperandToUseList(this);
  67     return;
  68   }
  69
  70   // Otherwise, just change the register, no problem.  :)
  71   SmallContents.RegNo = Reg;
  72 }
  73
  74 void MachineOperand::substVirtReg(unsigned Reg, unsigned SubIdx,
  75                                   const TargetRegisterInfo &TRI) {
  76   assert(TargetRegisterInfo::isVirtualRegister(Reg));
  77   if (SubIdx && getSubReg())
  78     SubIdx = TRI.composeSubRegIndices(SubIdx, getSubReg());
  79   setReg(Reg);
  80   if (SubIdx)
  81     setSubReg(SubIdx);
  82 }
  83
  84 void MachineOperand::substPhysReg(unsigned Reg, const TargetRegisterInfo &TRI) {
  85   assert(TargetRegisterInfo::isPhysicalRegister(Reg));
  86   if (getSubReg()) {
  87     Reg = TRI.getSubReg(Reg, getSubReg());
  88     // Note that getSubReg() may return 0 if the sub-register doesn't exist.
  89     // That won't happen in legal code.
  90     setSubReg(0);
  91     if (isDef())
  92       setIsUndef(false);
  93   }
  94   setReg(Reg);
  95 }
  96
  97 /// Change a def to a use, or a use to a def.
  98 void MachineOperand::setIsDef(bool Val) {
  99   assert(isReg() && "Wrong MachineOperand accessor");
 100   assert((!Val || !isDebug()) && "Marking a debug operation as def");
 101   if (IsDef == Val)
 102     return;
 103   assert(!IsDeadOrKill && "Changing def/use with dead/kill set not supported");
 104   // MRI may keep uses and defs in different list positions.
 105   if (MachineFunction *MF = getMFIfAvailable(*this)) {
 106     MachineRegisterInfo &MRI = MF->getRegInfo();
 107     MRI.removeRegOperandFromUseList(this);
 108     IsDef = Val;
 109     MRI.addRegOperandToUseList(this);
 110     return;
 111   }
 112   IsDef = Val;
 113 }
 114
 115 bool MachineOperand::isRenamable() const {
 116   assert(isReg() && "Wrong MachineOperand accessor");
 117   assert(TargetRegisterInfo::isPhysicalRegister(getReg()) &&
 118          "isRenamable should only be checked on physical registers");
 119   if (!IsRenamable)
 120     return false;
 121
 122   const MachineInstr *MI = getParent();
 123   if (!MI)
 124     return true;
 125
 126   if (isDef())
 127     return !MI->hasExtraDefRegAllocReq(MachineInstr::IgnoreBundle);
 128
 129   assert(isUse() && "Reg is not def or use");
 130   return !MI->hasExtraSrcRegAllocReq(MachineInstr::IgnoreBundle);
 131 }
 132
 133 void MachineOperand::setIsRenamable(bool Val) {
 134   assert(isReg() && "Wrong MachineOperand accessor");
 135   assert(TargetRegisterInfo::isPhysicalRegister(getReg()) &&
 136          "setIsRenamable should only be called on physical registers");
 137   IsRenamable = Val;
 138 }
 139
 140 // If this operand is currently a register operand, and if this is in a
 141 // function, deregister the operand from the register's use/def list.
 142 void MachineOperand::removeRegFromUses() {
 143   if (!isReg() || !isOnRegUseList())
 144     return;
 145
 146   if (MachineFunction *MF = getMFIfAvailable(*this))
 147     MF->getRegInfo().removeRegOperandFromUseList(this);
 148 }
 149
 150 /// ChangeToImmediate - Replace this operand with a new immediate operand of
 151 /// the specified value.  If an operand is known to be an immediate already,
 152 /// the setImm method should be used.
 153 void MachineOperand::ChangeToImmediate(int64_t ImmVal) {
 154   assert((!isReg() || !isTied()) && "Cannot change a tied operand into an imm");
 155
 156   removeRegFromUses();
 157
 158   OpKind = MO_Immediate;
 159   Contents.ImmVal = ImmVal;
 160 }
 161
 162 void MachineOperand::ChangeToFPImmediate(const ConstantFP *FPImm) {
 163   assert((!isReg() || !isTied()) && "Cannot change a tied operand into an imm");
 164
 165   removeRegFromUses();
 166
 167   OpKind = MO_FPImmediate;
 168   Contents.CFP = FPImm;
 169 }
 170
 171 void MachineOperand::ChangeToES(const char *SymName,
 172                                 unsigned char TargetFlags) {
 173   assert((!isReg() || !isTied()) &&
 174          "Cannot change a tied operand into an external symbol");
 175
 176   removeRegFromUses();
 177
 178   OpKind = MO_ExternalSymbol;
 179   Contents.OffsetedInfo.Val.SymbolName = SymName;
 180   setOffset(0); // Offset is always 0.
 181   setTargetFlags(TargetFlags);
 182 }
 183
 184 void MachineOperand::ChangeToMCSymbol(MCSymbol *Sym) {
 185   assert((!isReg() || !isTied()) &&
 186          "Cannot change a tied operand into an MCSymbol");
 187
 188   removeRegFromUses();
 189
 190   OpKind = MO_MCSymbol;
 191   Contents.Sym = Sym;
 192 }
 193
 194 void MachineOperand::ChangeToFrameIndex(int Idx) {
 195   assert((!isReg() || !isTied()) &&
 196          "Cannot change a tied operand into a FrameIndex");
 197
 198   removeRegFromUses();
 199
 200   OpKind = MO_FrameIndex;
 201   setIndex(Idx);
 202 }
 203
 204 void MachineOperand::ChangeToTargetIndex(unsigned Idx, int64_t Offset,
 205                                          unsigned char TargetFlags) {
 206   assert((!isReg() || !isTied()) &&
 207          "Cannot change a tied operand into a FrameIndex");
 208
 209   removeRegFromUses();
 210
 211   OpKind = MO_TargetIndex;
 212   setIndex(Idx);
 213   setOffset(Offset);
 214   setTargetFlags(TargetFlags);
 215 }
 216
 217 /// ChangeToRegister - Replace this operand with a new register operand of
 218 /// the specified value.  If an operand is known to be an register already,
 219 /// the setReg method should be used.
 220 void MachineOperand::ChangeToRegister(unsigned Reg, bool isDef, bool isImp,
 221                                       bool isKill, bool isDead, bool isUndef,
 222                                       bool isDebug) {
 223   MachineRegisterInfo *RegInfo = nullptr;
 224   if (MachineFunction *MF = getMFIfAvailable(*this))
 225     RegInfo = &MF->getRegInfo();
 226   // If this operand is already a register operand, remove it from the
 227   // register's use/def lists.
 228   bool WasReg = isReg();
 229   if (RegInfo && WasReg)
 230     RegInfo->removeRegOperandFromUseList(this);
 231
 232   // Change this to a register and set the reg#.
 233   assert(!(isDead && !isDef) && "Dead flag on non-def");
 234   assert(!(isKill && isDef) && "Kill flag on def");
 235   OpKind = MO_Register;
 236   SmallContents.RegNo = Reg;
 237   SubReg_TargetFlags = 0;
 238   IsDef = isDef;
 239   IsImp = isImp;
 240   IsDeadOrKill = isKill | isDead;
 241   IsRenamable = false;
 242   IsUndef = isUndef;
 243   IsInternalRead = false;
 244   IsEarlyClobber = false;
 245   IsDebug = isDebug;
 246   // Ensure isOnRegUseList() returns false.
 247   Contents.Reg.Prev = nullptr;
 248   // Preserve the tie when the operand was already a register.
 249   if (!WasReg)
 250     TiedTo = 0;
 251
 252   // If this operand is embedded in a function, add the operand to the
 253   // register's use/def list.
 254   if (RegInfo)
 255     RegInfo->addRegOperandToUseList(this);
 256 }
 257
 258 /// isIdenticalTo - Return true if this operand is identical to the specified
 259 /// operand. Note that this should stay in sync with the hash_value overload
 260 /// below.
 261 bool MachineOperand::isIdenticalTo(const MachineOperand &Other) const {
 262   if (getType() != Other.getType() ||
 263       getTargetFlags() != Other.getTargetFlags())
 264     return false;
 265
 266   switch (getType()) {
 267   case MachineOperand::MO_Register:
 268     return getReg() == Other.getReg() && isDef() == Other.isDef() &&
 269            getSubReg() == Other.getSubReg();
 270   case MachineOperand::MO_Immediate:
 271     return getImm() == Other.getImm();
 272   case MachineOperand::MO_CImmediate:
 273     return getCImm() == Other.getCImm();
 274   case MachineOperand::MO_FPImmediate:
 275     return getFPImm() == Other.getFPImm();
 276   case MachineOperand::MO_MachineBasicBlock:
 277     return getMBB() == Other.getMBB();
 278   case MachineOperand::MO_FrameIndex:
 279     return getIndex() == Other.getIndex();
 280   case MachineOperand::MO_ConstantPoolIndex:
 281   case MachineOperand::MO_TargetIndex:
 282     return getIndex() == Other.getIndex() && getOffset() == Other.getOffset();
 283   case MachineOperand::MO_JumpTableIndex:
 284     return getIndex() == Other.getIndex();
 285   case MachineOperand::MO_GlobalAddress:
 286     return getGlobal() == Other.getGlobal() && getOffset() == Other.getOffset();
 287   case MachineOperand::MO_ExternalSymbol:
 288     return strcmp(getSymbolName(), Other.getSymbolName()) == 0 &&
 289            getOffset() == Other.getOffset();
 290   case MachineOperand::MO_BlockAddress:
 291     return getBlockAddress() == Other.getBlockAddress() &&
 292            getOffset() == Other.getOffset();
 293   case MachineOperand::MO_RegisterMask:
 294   case MachineOperand::MO_RegisterLiveOut: {
 295     // Shallow compare of the two RegMasks
 296     const uint32_t *RegMask = getRegMask();
 297     const uint32_t *OtherRegMask = Other.getRegMask();
 298     if (RegMask == OtherRegMask)
 299       return true;
 300
 301     if (const MachineFunction *MF = getMFIfAvailable(*this)) {
 302       // Calculate the size of the RegMask
 303       const TargetRegisterInfo *TRI = MF->getSubtarget().getRegisterInfo();
 304       unsigned RegMaskSize = (TRI->getNumRegs() + 31) / 32;
 305
 306       // Deep compare of the two RegMasks
 307       return std::equal(RegMask, RegMask + RegMaskSize, OtherRegMask);
 308     }
 309     // We don't know the size of the RegMask, so we can't deep compare the two
 310     // reg masks.
 311     return false;
 312   }
 313   case MachineOperand::MO_MCSymbol:
 314     return getMCSymbol() == Other.getMCSymbol();
 315   case MachineOperand::MO_CFIIndex:
 316     return getCFIIndex() == Other.getCFIIndex();
 317   case MachineOperand::MO_Metadata:
 318     return getMetadata() == Other.getMetadata();
 319   case MachineOperand::MO_IntrinsicID:
 320     return getIntrinsicID() == Other.getIntrinsicID();
 321   case MachineOperand::MO_Predicate:
 322     return getPredicate() == Other.getPredicate();
 323   }
 324   llvm_unreachable("Invalid machine operand type");
 325 }
 326
 327 // Note: this must stay exactly in sync with isIdenticalTo above.
 328 hash_code llvm::hash_value(const MachineOperand &MO) {
 329   switch (MO.getType()) {
 330   case MachineOperand::MO_Register:
 331     // Register operands don't have target flags.
 332     return hash_combine(MO.getType(), MO.getReg(), MO.getSubReg(), MO.isDef());
 333   case MachineOperand::MO_Immediate:
 334     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getImm());
 335   case MachineOperand::MO_CImmediate:
 336     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getCImm());
 337   case MachineOperand::MO_FPImmediate:
 338     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getFPImm());
 339   case MachineOperand::MO_MachineBasicBlock:
 340     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getMBB());
 341   case MachineOperand::MO_FrameIndex:
 342     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getIndex());
 343   case MachineOperand::MO_ConstantPoolIndex:
 344   case MachineOperand::MO_TargetIndex:
 345     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getIndex(),
 346                         MO.getOffset());
 347   case MachineOperand::MO_JumpTableIndex:
 348     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getIndex());
 349   case MachineOperand::MO_ExternalSymbol:
 350     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getOffset(),
 351                         MO.getSymbolName());
 352   case MachineOperand::MO_GlobalAddress:
 353     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getGlobal(),
 354                         MO.getOffset());
 355   case MachineOperand::MO_BlockAddress:
 356     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getBlockAddress(),
 357                         MO.getOffset());
 358   case MachineOperand::MO_RegisterMask:
 359   case MachineOperand::MO_RegisterLiveOut:
 360     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getRegMask());
 361   case MachineOperand::MO_Metadata:
 362     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getMetadata());
 363   case MachineOperand::MO_MCSymbol:
 364     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getMCSymbol());
 365   case MachineOperand::MO_CFIIndex:
 366     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getCFIIndex());
 367   case MachineOperand::MO_IntrinsicID:
 368     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getIntrinsicID());
 369   case MachineOperand::MO_Predicate:
 370     return hash_combine(MO.getType(), MO.getTargetFlags(), MO.getPredicate());
 371   }
 372   llvm_unreachable("Invalid machine operand type");
 373 }
 374
 375 // Try to crawl up to the machine function and get TRI and IntrinsicInfo from
 376 // it.
 377 static void tryToGetTargetInfo(const MachineOperand &MO,
 378                                const TargetRegisterInfo *&TRI,
 379                                const TargetIntrinsicInfo *&IntrinsicInfo) {
 380   if (const MachineFunction *MF = getMFIfAvailable(MO)) {
 381     TRI = MF->getSubtarget().getRegisterInfo();
 382     IntrinsicInfo = MF->getTarget().getIntrinsicInfo();
 383   }
 384 }
 385
 386 static const char *getTargetIndexName(const MachineFunction &MF, int Index) {
 387   const auto *TII = MF.getSubtarget().getInstrInfo();
 388   assert(TII && "expected instruction info");
 389   auto Indices = TII->getSerializableTargetIndices();
 390   auto Found = find_if(Indices, [&](const std::pair<int, const char *> &I) {
 391     return I.first == Index;
 392   });
 393   if (Found != Indices.end())
 394     return Found->second;
 395   return nullptr;
 396 }
 397
 398 static const char *getTargetFlagName(const TargetInstrInfo *TII, unsigned TF) {
 399   auto Flags = TII->getSerializableDirectMachineOperandTargetFlags();
 400   for (const auto &I : Flags) {
 401     if (I.first == TF) {
 402       return I.second;
 403     }
 404   }
 405   return nullptr;
 406 }
 407
 408 static void printCFIRegister(unsigned DwarfReg, raw_ostream &OS,
 409                              const TargetRegisterInfo *TRI) {
 410   if (!TRI) {
 411     OS << "%dwarfreg." << DwarfReg;
 412     return;
 413   }
 414
 415   int Reg = TRI->getLLVMRegNum(DwarfReg, true);
 416   if (Reg == -1) {
 417     OS << "<badreg>";
 418     return;
 419   }
 420   OS << printReg(Reg, TRI);
 421 }
 422
 423 static void printIRBlockReference(raw_ostream &OS, const BasicBlock &BB,
 424                                   ModuleSlotTracker &MST) {
 425   OS << "%ir-block.";
 426   if (BB.hasName()) {
 427     printLLVMNameWithoutPrefix(OS, BB.getName());
 428     return;
 429   }
 430   Optional<int> Slot;
 431   if (const Function *F = BB.getParent()) {
 432     if (F == MST.getCurrentFunction()) {
 433       Slot = MST.getLocalSlot(&BB);
 434     } else if (const Module *M = F->getParent()) {
 435       ModuleSlotTracker CustomMST(M, /*ShouldInitializeAllMetadata=*/false);
 436       CustomMST.incorporateFunction(*F);
 437       Slot = CustomMST.getLocalSlot(&BB);
 438     }
 439   }
 440   if (Slot)
 441     MachineOperand::printIRSlotNumber(OS, *Slot);
 442   else
 443     OS << "<unknown>";
 444 }
 445
 446 static void printIRValueReference(raw_ostream &OS, const Value &V,
 447                                   ModuleSlotTracker &MST) {
 448   if (isa<GlobalValue>(V)) {
 449     V.printAsOperand(OS, /*PrintType=*/false, MST);
 450     return;
 451   }
 452   if (isa<Constant>(V)) {
 453     // Machine memory operands can load/store to/from constant value pointers.
 454     OS << '`';
 455     V.printAsOperand(OS, /*PrintType=*/true, MST);
 456     OS << '`';
 457     return;
 458   }
 459   OS << "%ir.";
 460   if (V.hasName()) {
 461     printLLVMNameWithoutPrefix(OS, V.getName());
 462     return;
 463   }
 464   MachineOperand::printIRSlotNumber(OS, MST.getLocalSlot(&V));
 465 }
 466
 467 static void printSyncScope(raw_ostream &OS, const LLVMContext &Context,
 468                            SyncScope::ID SSID,
 469                            SmallVectorImpl<StringRef> &SSNs) {
 470   switch (SSID) {
 471   case SyncScope::System:
 472     break;
 473   default:
 474     if (SSNs.empty())
 475       Context.getSyncScopeNames(SSNs);
 476
 477     OS << "syncscope(\"";
 478     printEscapedString(SSNs[SSID], OS);
 479     OS << "\") ";
 480     break;
 481   }
 482 }
 483
 484 static const char *getTargetMMOFlagName(const TargetInstrInfo &TII,
 485                                         unsigned TMMOFlag) {
 486   auto Flags = TII.getSerializableMachineMemOperandTargetFlags();
 487   for (const auto &I : Flags) {
 488     if (I.first == TMMOFlag) {
 489       return I.second;
 490     }
 491   }
 492   return nullptr;
 493 }
 494
 495 static void printFrameIndex(raw_ostream& OS, int FrameIndex, bool IsFixed,
 496                             const MachineFrameInfo *MFI) {
 497   StringRef Name;
 498   if (MFI) {
 499     IsFixed = MFI->isFixedObjectIndex(FrameIndex);
 500     if (const AllocaInst *Alloca = MFI->getObjectAllocation(FrameIndex))
 501       if (Alloca->hasName())
 502         Name = Alloca->getName();
 503     if (IsFixed)
 504       FrameIndex -= MFI->getObjectIndexBegin();
 505   }
 506   MachineOperand::printStackObjectReference(OS, FrameIndex, IsFixed, Name);
 507 }
 508
 509 void MachineOperand::printSubRegIdx(raw_ostream &OS, uint64_t Index,
 510                                     const TargetRegisterInfo *TRI) {
 511   OS << "%subreg.";
 512   if (TRI)
 513     OS << TRI->getSubRegIndexName(Index);
 514   else
 515     OS << Index;
 516 }
 517
 518 void MachineOperand::printTargetFlags(raw_ostream &OS,
 519                                       const MachineOperand &Op) {
 520   if (!Op.getTargetFlags())
 521     return;
 522   const MachineFunction *MF = getMFIfAvailable(Op);
 523   if (!MF)
 524     return;
 525
 526   const auto *TII = MF->getSubtarget().getInstrInfo();
 527   assert(TII && "expected instruction info");
 528   auto Flags = TII->decomposeMachineOperandsTargetFlags(Op.getTargetFlags());
 529   OS << "target-flags(";
 530   const bool HasDirectFlags = Flags.first;
 531   const bool HasBitmaskFlags = Flags.second;
 532   if (!HasDirectFlags && !HasBitmaskFlags) {
 533     OS << "<unknown>) ";
 534     return;
 535   }
 536   if (HasDirectFlags) {
 537     if (const auto *Name = getTargetFlagName(TII, Flags.first))
 538       OS << Name;
 539     else
 540       OS << "<unknown target flag>";
 541   }
 542   if (!HasBitmaskFlags) {
 543     OS << ") ";
 544     return;
 545   }
 546   bool IsCommaNeeded = HasDirectFlags;
 547   unsigned BitMask = Flags.second;
 548   auto BitMasks = TII->getSerializableBitmaskMachineOperandTargetFlags();
 549   for (const auto &Mask : BitMasks) {
 550     // Check if the flag's bitmask has the bits of the current mask set.
 551     if ((BitMask & Mask.first) == Mask.first) {
 552       if (IsCommaNeeded)
 553         OS << ", ";
 554       IsCommaNeeded = true;
 555       OS << Mask.second;
 556       // Clear the bits which were serialized from the flag's bitmask.
 557       BitMask &= ~(Mask.first);
 558     }
 559   }
 560   if (BitMask) {
 561     // When the resulting flag's bitmask isn't zero, we know that we didn't
 562     // serialize all of the bit flags.
 563     if (IsCommaNeeded)
 564       OS << ", ";
 565     OS << "<unknown bitmask target flag>";
 566   }
 567   OS << ") ";
 568 }
 569
 570 void MachineOperand::printSymbol(raw_ostream &OS, MCSymbol &Sym) {
 571   OS << "<mcsymbol " << Sym << ">";
 572 }
 573
 574 void MachineOperand::printStackObjectReference(raw_ostream &OS,
 575                                                unsigned FrameIndex,
 576                                                bool IsFixed, StringRef Name) {
 577   if (IsFixed) {
 578     OS << "%fixed-stack." << FrameIndex;
 579     return;
 580   }
 581
 582   OS << "%stack." << FrameIndex;
 583   if (!Name.empty())
 584     OS << '.' << Name;
 585 }
 586
 587 void MachineOperand::printOperandOffset(raw_ostream &OS, int64_t Offset) {
 588   if (Offset == 0)
 589     return;
 590   if (Offset < 0) {
 591     OS << " - " << -Offset;
 592     return;
 593   }
 594   OS << " + " << Offset;
 595 }
 596
 597 void MachineOperand::printIRSlotNumber(raw_ostream &OS, int Slot) {
 598   if (Slot == -1)
 599     OS << "<badref>";
 600   else
 601     OS << Slot;
 602 }
 603
 604 static void printCFI(raw_ostream &OS, const MCCFIInstruction &CFI,
 605                      const TargetRegisterInfo *TRI) {
 606   switch (CFI.getOperation()) {
 607   case MCCFIInstruction::OpSameValue:
 608     OS << "same_value ";
 609     if (MCSymbol *Label = CFI.getLabel())
 610       MachineOperand::printSymbol(OS, *Label);
 611     printCFIRegister(CFI.getRegister(), OS, TRI);
 612     break;
 613   case MCCFIInstruction::OpRememberState:
 614     OS << "remember_state ";
 615     if (MCSymbol *Label = CFI.getLabel())
 616       MachineOperand::printSymbol(OS, *Label);
 617     break;
 618   case MCCFIInstruction::OpRestoreState:
 619     OS << "restore_state ";
 620     if (MCSymbol *Label = CFI.getLabel())
 621       MachineOperand::printSymbol(OS, *Label);
 622     break;
 623   case MCCFIInstruction::OpOffset:
 624     OS << "offset ";
 625     if (MCSymbol *Label = CFI.getLabel())
 626       MachineOperand::printSymbol(OS, *Label);
 627     printCFIRegister(CFI.getRegister(), OS, TRI);
 628     OS << ", " << CFI.getOffset();
 629     break;
 630   case MCCFIInstruction::OpDefCfaRegister:
 631     OS << "def_cfa_register ";
 632     if (MCSymbol *Label = CFI.getLabel())
 633       MachineOperand::printSymbol(OS, *Label);
 634     printCFIRegister(CFI.getRegister(), OS, TRI);
 635     break;
 636   case MCCFIInstruction::OpDefCfaOffset:
 637     OS << "def_cfa_offset ";
 638     if (MCSymbol *Label = CFI.getLabel())
 639       MachineOperand::printSymbol(OS, *Label);
 640     OS << CFI.getOffset();
 641     break;
 642   case MCCFIInstruction::OpDefCfa:
 643     OS << "def_cfa ";
 644     if (MCSymbol *Label = CFI.getLabel())
 645       MachineOperand::printSymbol(OS, *Label);
 646     printCFIRegister(CFI.getRegister(), OS, TRI);
 647     OS << ", " << CFI.getOffset();
 648     break;
 649   case MCCFIInstruction::OpRelOffset:
 650     OS << "rel_offset ";
 651     if (MCSymbol *Label = CFI.getLabel())
 652       MachineOperand::printSymbol(OS, *Label);
 653     printCFIRegister(CFI.getRegister(), OS, TRI);
 654     OS << ", " << CFI.getOffset();
 655     break;
 656   case MCCFIInstruction::OpAdjustCfaOffset:
 657     OS << "adjust_cfa_offset ";
 658     if (MCSymbol *Label = CFI.getLabel())
 659       MachineOperand::printSymbol(OS, *Label);
 660     OS << CFI.getOffset();
 661     break;
 662   case MCCFIInstruction::OpRestore:
 663     OS << "restore ";
 664     if (MCSymbol *Label = CFI.getLabel())
 665       MachineOperand::printSymbol(OS, *Label);
 666     printCFIRegister(CFI.getRegister(), OS, TRI);
 667     break;
 668   case MCCFIInstruction::OpEscape: {
 669     OS << "escape ";
 670     if (MCSymbol *Label = CFI.getLabel())
 671       MachineOperand::printSymbol(OS, *Label);
 672     if (!CFI.getValues().empty()) {
 673       size_t e = CFI.getValues().size() - 1;
 674       for (size_t i = 0; i < e; ++i)
 675         OS << format("0x%02x", uint8_t(CFI.getValues()[i])) << ", ";
 676       OS << format("0x%02x", uint8_t(CFI.getValues()[e])) << ", ";
 677     }
 678     break;
 679   }
 680   case MCCFIInstruction::OpUndefined:
 681     OS << "undefined ";
 682     if (MCSymbol *Label = CFI.getLabel())
 683       MachineOperand::printSymbol(OS, *Label);
 684     printCFIRegister(CFI.getRegister(), OS, TRI);
 685     break;
 686   case MCCFIInstruction::OpRegister:
 687     OS << "register ";
 688     if (MCSymbol *Label = CFI.getLabel())
 689       MachineOperand::printSymbol(OS, *Label);
 690     printCFIRegister(CFI.getRegister(), OS, TRI);
 691     OS << ", ";
 692     printCFIRegister(CFI.getRegister2(), OS, TRI);
 693     break;
 694   case MCCFIInstruction::OpWindowSave:
 695     OS << "window_save ";
 696     if (MCSymbol *Label = CFI.getLabel())
 697       MachineOperand::printSymbol(OS, *Label);
 698     break;
 699   default:
 700     // TODO: Print the other CFI Operations.
 701     OS << "<unserializable cfi directive>";
 702     break;
 703   }
 704 }
 705
 706 void MachineOperand::print(raw_ostream &OS, const TargetRegisterInfo *TRI,
 707                            const TargetIntrinsicInfo *IntrinsicInfo) const {
 708   print(OS, LLT{}, TRI, IntrinsicInfo);
 709 }
 710
 711 void MachineOperand::print(raw_ostream &OS, LLT TypeToPrint,
 712                            const TargetRegisterInfo *TRI,
 713                            const TargetIntrinsicInfo *IntrinsicInfo) const {
 714   tryToGetTargetInfo(*this, TRI, IntrinsicInfo);
 715   ModuleSlotTracker DummyMST(nullptr);
 716   print(OS, DummyMST, TypeToPrint, /*PrintDef=*/false, /*IsStandalone=*/true,
 717         /*ShouldPrintRegisterTies=*/true,
 718         /*TiedOperandIdx=*/0, TRI, IntrinsicInfo);
 719 }
 720
 721 void MachineOperand::print(raw_ostream &OS, ModuleSlotTracker &MST,
 722                            LLT TypeToPrint, bool PrintDef, bool IsStandalone,
 723                            bool ShouldPrintRegisterTies,
 724                            unsigned TiedOperandIdx,
 725                            const TargetRegisterInfo *TRI,
 726                            const TargetIntrinsicInfo *IntrinsicInfo) const {
 727   printTargetFlags(OS, *this);
 728   switch (getType()) {
 729   case MachineOperand::MO_Register: {
 730     unsigned Reg = getReg();
 731     if (isImplicit())
 732       OS << (isDef() ? "implicit-def " : "implicit ");
 733     else if (PrintDef && isDef())
 734       // Print the 'def' flag only when the operand is defined after '='.
 735       OS << "def ";
 736     if (isInternalRead())
 737       OS << "internal ";
 738     if (isDead())
 739       OS << "dead ";
 740     if (isKill())
 741       OS << "killed ";
 742     if (isUndef())
 743       OS << "undef ";
 744     if (isEarlyClobber())
 745       OS << "early-clobber ";
 746     if (isDebug())
 747       OS << "debug-use ";
 748     if (TargetRegisterInfo::isPhysicalRegister(getReg()) && isRenamable())
 749       OS << "renamable ";
 750
 751     const MachineRegisterInfo *MRI = nullptr;
 752     if (TargetRegisterInfo::isVirtualRegister(Reg)) {
 753       if (const MachineFunction *MF = getMFIfAvailable(*this)) {
 754         MRI = &MF->getRegInfo();
 755       }
 756     }
 757
 758     OS << printReg(Reg, TRI, 0, MRI);
 759     // Print the sub register.
 760     if (unsigned SubReg = getSubReg()) {
 761       if (TRI)
 762         OS << '.' << TRI->getSubRegIndexName(SubReg);
 763       else
 764         OS << ".subreg" << SubReg;
 765     }
 766     // Print the register class / bank.
 767     if (TargetRegisterInfo::isVirtualRegister(Reg)) {
 768       if (const MachineFunction *MF = getMFIfAvailable(*this)) {
 769         const MachineRegisterInfo &MRI = MF->getRegInfo();
 770         if (IsStandalone || !PrintDef || MRI.def_empty(Reg)) {
 771           OS << ':';
 772           OS << printRegClassOrBank(Reg, MRI, TRI);
 773         }
 774       }
 775     }
 776     // Print ties.
 777     if (ShouldPrintRegisterTies && isTied() && !isDef())
 778       OS << "(tied-def " << TiedOperandIdx << ")";
 779     // Print types.
 780     if (TypeToPrint.isValid())
 781       OS << '(' << TypeToPrint << ')';
 782     break;
 783   }
 784   case MachineOperand::MO_Immediate:
 785     OS << getImm();
 786     break;
 787   case MachineOperand::MO_CImmediate:
 788     getCImm()->printAsOperand(OS, /*PrintType=*/true, MST);
 789     break;
 790   case MachineOperand::MO_FPImmediate:
 791     getFPImm()->printAsOperand(OS, /*PrintType=*/true, MST);
 792     break;
 793   case MachineOperand::MO_MachineBasicBlock:
 794     OS << printMBBReference(*getMBB());
 795     break;
 796   case MachineOperand::MO_FrameIndex: {
 797     int FrameIndex = getIndex();
 798     bool IsFixed = false;
 799     const MachineFrameInfo *MFI = nullptr;
 800     if (const MachineFunction *MF = getMFIfAvailable(*this))
 801       MFI = &MF->getFrameInfo();
 802     printFrameIndex(OS, FrameIndex, IsFixed, MFI);
 803     break;
 804   }
 805   case MachineOperand::MO_ConstantPoolIndex:
 806     OS << "%const." << getIndex();
 807     printOperandOffset(OS, getOffset());
 808     break;
 809   case MachineOperand::MO_TargetIndex: {
 810     OS << "target-index(";
 811     const char *Name = "<unknown>";
 812     if (const MachineFunction *MF = getMFIfAvailable(*this))
 813       if (const auto *TargetIndexName = getTargetIndexName(*MF, getIndex()))
 814         Name = TargetIndexName;
 815     OS << Name << ')';
 816     printOperandOffset(OS, getOffset());
 817     break;
 818   }
 819   case MachineOperand::MO_JumpTableIndex:
 820     OS << printJumpTableEntryReference(getIndex());
 821     break;
 822   case MachineOperand::MO_GlobalAddress:
 823     getGlobal()->printAsOperand(OS, /*PrintType=*/false, MST);
 824     printOperandOffset(OS, getOffset());
 825     break;
 826   case MachineOperand::MO_ExternalSymbol: {
 827     StringRef Name = getSymbolName();
 828     OS << '&';
 829     if (Name.empty()) {
 830       OS << "\"\"";
 831     } else {
 832       printLLVMNameWithoutPrefix(OS, Name);
 833     }
 834     printOperandOffset(OS, getOffset());
 835     break;
 836   }
 837   case MachineOperand::MO_BlockAddress: {
 838     OS << "blockaddress(";
 839     getBlockAddress()->getFunction()->printAsOperand(OS, /*PrintType=*/false,
 840                                                      MST);
 841     OS << ", ";
 842     printIRBlockReference(OS, *getBlockAddress()->getBasicBlock(), MST);
 843     OS << ')';
 844     MachineOperand::printOperandOffset(OS, getOffset());
 845     break;
 846   }
 847   case MachineOperand::MO_RegisterMask: {
 848     OS << "<regmask";
 849     if (TRI) {
 850       unsigned NumRegsInMask = 0;
 851       unsigned NumRegsEmitted = 0;
 852       for (unsigned i = 0; i < TRI->getNumRegs(); ++i) {
 853         unsigned MaskWord = i / 32;
 854         unsigned MaskBit = i % 32;
 855         if (getRegMask()[MaskWord] & (1 << MaskBit)) {
 856           if (PrintRegMaskNumRegs < 0 ||
 857               NumRegsEmitted <= static_cast<unsigned>(PrintRegMaskNumRegs)) {
 858             OS << " " << printReg(i, TRI);
 859             NumRegsEmitted++;
 860           }
 861           NumRegsInMask++;
 862         }
 863       }
 864       if (NumRegsEmitted != NumRegsInMask)
 865         OS << " and " << (NumRegsInMask - NumRegsEmitted) << " more...";
 866     } else {
 867       OS << " ...";
 868     }
 869     OS << ">";
 870     break;
 871   }
 872   case MachineOperand::MO_RegisterLiveOut: {
 873     const uint32_t *RegMask = getRegLiveOut();
 874     OS << "liveout(";
 875     if (!TRI) {
 876       OS << "<unknown>";
 877     } else {
 878       bool IsCommaNeeded = false;
 879       for (unsigned Reg = 0, E = TRI->getNumRegs(); Reg < E; ++Reg) {
 880         if (RegMask[Reg / 32] & (1U << (Reg % 32))) {
 881           if (IsCommaNeeded)
 882             OS << ", ";
 883           OS << printReg(Reg, TRI);
 884           IsCommaNeeded = true;
 885         }
 886       }
 887     }
 888     OS << ")";
 889     break;
 890   }
 891   case MachineOperand::MO_Metadata:
 892     getMetadata()->printAsOperand(OS, MST);
 893     break;
 894   case MachineOperand::MO_MCSymbol:
 895     printSymbol(OS, *getMCSymbol());
 896     break;
 897   case MachineOperand::MO_CFIIndex: {
 898     if (const MachineFunction *MF = getMFIfAvailable(*this))
 899       printCFI(OS, MF->getFrameInstructions()[getCFIIndex()], TRI);
 900     else
 901       OS << "<cfi directive>";
 902     break;
 903   }
 904   case MachineOperand::MO_IntrinsicID: {
 905     Intrinsic::ID ID = getIntrinsicID();
 906     if (ID < Intrinsic::num_intrinsics)
 907       OS << "intrinsic(@" << Intrinsic::getName(ID, None) << ')';
 908     else if (IntrinsicInfo)
 909       OS << "intrinsic(@" << IntrinsicInfo->getName(ID) << ')';
 910     else
 911       OS << "intrinsic(" << ID << ')';
 912     break;
 913   }
 914   case MachineOperand::MO_Predicate: {
 915     auto Pred = static_cast<CmpInst::Predicate>(getPredicate());
 916     OS << (CmpInst::isIntPredicate(Pred) ? "int" : "float") << "pred("
 917        << CmpInst::getPredicateName(Pred) << ')';
 918     break;
 919   }
 920   }
 921 }
 922
 923 #if !defined(NDEBUG) || defined(LLVM_ENABLE_DUMP)
 924 LLVM_DUMP_METHOD void MachineOperand::dump() const { dbgs() << *this << '\n'; }
 925 #endif
 926
 927 //===----------------------------------------------------------------------===//
 928 // MachineMemOperand Implementation
 929 //===----------------------------------------------------------------------===//
 930
 931 /// getAddrSpace - Return the LLVM IR address space number that this pointer
 932 /// points into.
 933 unsigned MachinePointerInfo::getAddrSpace() const { return AddrSpace; }
 934
 935 /// isDereferenceable - Return true if V is always dereferenceable for
 936 /// Offset + Size byte.
 937 bool MachinePointerInfo::isDereferenceable(unsigned Size, LLVMContext &C,
 938                                            const DataLayout &DL) const {
 939   if (!V.is<const Value *>())
 940     return false;
 941
 942   const Value *BasePtr = V.get<const Value *>();
 943   if (BasePtr == nullptr)
 944     return false;
 945
 946   return isDereferenceableAndAlignedPointer(
 947       BasePtr, 1, APInt(DL.getPointerSizeInBits(), Offset + Size), DL);
 948 }
 949
 950 /// getConstantPool - Return a MachinePointerInfo record that refers to the
 951 /// constant pool.
 952 MachinePointerInfo MachinePointerInfo::getConstantPool(MachineFunction &MF) {
 953   return MachinePointerInfo(MF.getPSVManager().getConstantPool());
 954 }
 955
 956 /// getFixedStack - Return a MachinePointerInfo record that refers to the
 957 /// the specified FrameIndex.
 958 MachinePointerInfo MachinePointerInfo::getFixedStack(MachineFunction &MF,
 959                                                      int FI, int64_t Offset) {
 960   return MachinePointerInfo(MF.getPSVManager().getFixedStack(FI), Offset);
 961 }
 962
 963 MachinePointerInfo MachinePointerInfo::getJumpTable(MachineFunction &MF) {
 964   return MachinePointerInfo(MF.getPSVManager().getJumpTable());
 965 }
 966
 967 MachinePointerInfo MachinePointerInfo::getGOT(MachineFunction &MF) {
 968   return MachinePointerInfo(MF.getPSVManager().getGOT());
 969 }
 970
 971 MachinePointerInfo MachinePointerInfo::getStack(MachineFunction &MF,
 972                                                 int64_t Offset, uint8_t ID) {
 973   return MachinePointerInfo(MF.getPSVManager().getStack(), Offset, ID);
 974 }
 975
 976 MachinePointerInfo MachinePointerInfo::getUnknownStack(MachineFunction &MF) {
 977   return MachinePointerInfo(MF.getDataLayout().getAllocaAddrSpace());
 978 }
 979
 980 MachineMemOperand::MachineMemOperand(MachinePointerInfo ptrinfo, Flags f,
 981                                      uint64_t s, uint64_t a,
 982                                      const AAMDNodes &AAInfo,
 983                                      const MDNode *Ranges, SyncScope::ID SSID,
 984                                      AtomicOrdering Ordering,
 985                                      AtomicOrdering FailureOrdering)
 986     : PtrInfo(ptrinfo), Size(s), FlagVals(f), BaseAlignLog2(Log2_32(a) + 1),
 987       AAInfo(AAInfo), Ranges(Ranges) {
 988   assert((PtrInfo.V.isNull() || PtrInfo.V.is<const PseudoSourceValue *>() ||
 989           isa<PointerType>(PtrInfo.V.get<const Value *>()->getType())) &&
 990          "invalid pointer value");
 991   assert(getBaseAlignment() == a && "Alignment is not a power of 2!");
 992   assert((isLoad() || isStore()) && "Not a load/store!");
 993
 994   AtomicInfo.SSID = static_cast<unsigned>(SSID);
 995   assert(getSyncScopeID() == SSID && "Value truncated");
 996   AtomicInfo.Ordering = static_cast<unsigned>(Ordering);
 997   assert(getOrdering() == Ordering && "Value truncated");
 998   AtomicInfo.FailureOrdering = static_cast<unsigned>(FailureOrdering);
 999   assert(getFailureOrdering() == FailureOrdering && "Value truncated");
1000 }
1001
1002 /// Profile - Gather unique data for the object.
1003 ///
1004 void MachineMemOperand::Profile(FoldingSetNodeID &ID) const {
1005   ID.AddInteger(getOffset());
1006   ID.AddInteger(Size);
1007   ID.AddPointer(getOpaqueValue());
1008   ID.AddInteger(getFlags());
1009   ID.AddInteger(getBaseAlignment());
1010 }
1011
1012 void MachineMemOperand::refineAlignment(const MachineMemOperand *MMO) {
1013   // The Value and Offset may differ due to CSE. But the flags and size
1014   // should be the same.
1015   assert(MMO->getFlags() == getFlags() && "Flags mismatch!");
1016   assert(MMO->getSize() == getSize() && "Size mismatch!");
1017
1018   if (MMO->getBaseAlignment() >= getBaseAlignment()) {
1019     // Update the alignment value.
1020     BaseAlignLog2 = Log2_32(MMO->getBaseAlignment()) + 1;
1021     // Also update the base and offset, because the new alignment may
1022     // not be applicable with the old ones.
1023     PtrInfo = MMO->PtrInfo;
1024   }
1025 }
1026
1027 /// getAlignment - Return the minimum known alignment in bytes of the
1028 /// actual memory reference.
1029 uint64_t MachineMemOperand::getAlignment() const {
1030   return MinAlign(getBaseAlignment(), getOffset());
1031 }
1032
1033 void MachineMemOperand::print(raw_ostream &OS) const {
1034   ModuleSlotTracker DummyMST(nullptr);
1035   print(OS, DummyMST);
1036 }
1037
1038 void MachineMemOperand::print(raw_ostream &OS, ModuleSlotTracker &MST) const {
1039   SmallVector<StringRef, 0> SSNs;
1040   LLVMContext Ctx;
1041   print(OS, MST, SSNs, Ctx, nullptr, nullptr);
1042 }
1043
1044 void MachineMemOperand::print(raw_ostream &OS, ModuleSlotTracker &MST,
1045                               SmallVectorImpl<StringRef> &SSNs,
1046                               const LLVMContext &Context,
1047                               const MachineFrameInfo *MFI,
1048                               const TargetInstrInfo *TII) const {
1049   OS << '(';
1050   if (isVolatile())
1051     OS << "volatile ";
1052   if (isNonTemporal())
1053     OS << "non-temporal ";
1054   if (isDereferenceable())
1055     OS << "dereferenceable ";
1056   if (isInvariant())
1057     OS << "invariant ";
1058   if (getFlags() & MachineMemOperand::MOTargetFlag1)
1059     OS << '"' << getTargetMMOFlagName(*TII, MachineMemOperand::MOTargetFlag1)
1060        << "\" ";
1061   if (getFlags() & MachineMemOperand::MOTargetFlag2)
1062     OS << '"' << getTargetMMOFlagName(*TII, MachineMemOperand::MOTargetFlag2)
1063        << "\" ";
1064   if (getFlags() & MachineMemOperand::MOTargetFlag3)
1065     OS << '"' << getTargetMMOFlagName(*TII, MachineMemOperand::MOTargetFlag3)
1066        << "\" ";
1067
1068   assert((isLoad() || isStore()) &&
1069          "machine memory operand must be a load or store (or both)");
1070   if (isLoad())
1071     OS << "load ";
1072   if (isStore())
1073     OS << "store ";
1074
1075   printSyncScope(OS, Context, getSyncScopeID(), SSNs);
1076
1077   if (getOrdering() != AtomicOrdering::NotAtomic)
1078     OS << toIRString(getOrdering()) << ' ';
1079   if (getFailureOrdering() != AtomicOrdering::NotAtomic)
1080     OS << toIRString(getFailureOrdering()) << ' ';
1081
1082   if (getSize() == MemoryLocation::UnknownSize)
1083     OS << "unknown-size";
1084   else
1085     OS << getSize();
1086
1087   if (const Value *Val = getValue()) {
1088     OS << ((isLoad() && isStore()) ? " on " : isLoad() ? " from " : " into ");
1089     printIRValueReference(OS, *Val, MST);
1090   } else if (const PseudoSourceValue *PVal = getPseudoValue()) {
1091     OS << ((isLoad() && isStore()) ? " on " : isLoad() ? " from " : " into ");
1092     assert(PVal && "Expected a pseudo source value");
1093     switch (PVal->kind()) {
1094     case PseudoSourceValue::Stack:
1095       OS << "stack";
1096       break;
1097     case PseudoSourceValue::GOT:
1098       OS << "got";
1099       break;
1100     case PseudoSourceValue::JumpTable:
1101       OS << "jump-table";
1102       break;
1103     case PseudoSourceValue::ConstantPool:
1104       OS << "constant-pool";
1105       break;
1106     case PseudoSourceValue::FixedStack: {
1107       int FrameIndex = cast<FixedStackPseudoSourceValue>(PVal)->getFrameIndex();
1108       bool IsFixed = true;
1109       printFrameIndex(OS, FrameIndex, IsFixed, MFI);
1110       break;
1111     }
1112     case PseudoSourceValue::GlobalValueCallEntry:
1113       OS << "call-entry ";
1114       cast<GlobalValuePseudoSourceValue>(PVal)->getValue()->printAsOperand(
1115           OS, /*PrintType=*/false, MST);
1116       break;
1117     case PseudoSourceValue::ExternalSymbolCallEntry:
1118       OS << "call-entry &";
1119       printLLVMNameWithoutPrefix(
1120           OS, cast<ExternalSymbolPseudoSourceValue>(PVal)->getSymbol());
1121       break;
1122     case PseudoSourceValue::TargetCustom:
1123       // FIXME: This is not necessarily the correct MIR serialization format for
1124       // a custom pseudo source value, but at least it allows
1125       // -print-machineinstrs to work on a target with custom pseudo source
1126       // values.
1127       OS << "custom ";
1128       PVal->printCustom(OS);
1129       break;
1130     }
1131   }
1132   MachineOperand::printOperandOffset(OS, getOffset());
1133   if (getBaseAlignment() != getSize())
1134     OS << ", align " << getBaseAlignment();
1135   auto AAInfo = getAAInfo();
1136   if (AAInfo.TBAA) {
1137     OS << ", !tbaa ";
1138     AAInfo.TBAA->printAsOperand(OS, MST);
1139   }
1140   if (AAInfo.Scope) {
1141     OS << ", !alias.scope ";
1142     AAInfo.Scope->printAsOperand(OS, MST);
1143   }
1144   if (AAInfo.NoAlias) {
1145     OS << ", !noalias ";
1146     AAInfo.NoAlias->printAsOperand(OS, MST);
1147   }
1148   if (getRanges()) {
1149     OS << ", !range ";
1150     getRanges()->printAsOperand(OS, MST);
1151   }
1152   // FIXME: Implement addrspace printing/parsing in MIR.
1153   // For now, print this even though parsing it is not available in MIR.
1154   if (unsigned AS = getAddrSpace())
1155     OS << ", addrspace " << AS;
1156
1157   OS << ')';
1158 }