OSDN Git Service

AMDHSA: Put old assembler docs back
[android-x86/external-llvm.git] / docs / SourceLevelDebugging.rst
1 ================================
2 Source Level Debugging with LLVM
3 ================================
4
5 .. contents::
6    :local:
7
8 Introduction
9 ============
10
11 This document is the central repository for all information pertaining to debug
12 information in LLVM.  It describes the :ref:`actual format that the LLVM debug
13 information takes <format>`, which is useful for those interested in creating
14 front-ends or dealing directly with the information.  Further, this document
15 provides specific examples of what debug information for C/C++ looks like.
16
17 Philosophy behind LLVM debugging information
18 --------------------------------------------
19
20 The idea of the LLVM debugging information is to capture how the important
21 pieces of the source-language's Abstract Syntax Tree map onto LLVM code.
22 Several design aspects have shaped the solution that appears here.  The
23 important ones are:
24
25 * Debugging information should have very little impact on the rest of the
26   compiler.  No transformations, analyses, or code generators should need to
27   be modified because of debugging information.
28
29 * LLVM optimizations should interact in :ref:`well-defined and easily described
30   ways <intro_debugopt>` with the debugging information.
31
32 * Because LLVM is designed to support arbitrary programming languages,
33   LLVM-to-LLVM tools should not need to know anything about the semantics of
34   the source-level-language.
35
36 * Source-level languages are often **widely** different from one another.
37   LLVM should not put any restrictions of the flavor of the source-language,
38   and the debugging information should work with any language.
39
40 * With code generator support, it should be possible to use an LLVM compiler
41   to compile a program to native machine code and standard debugging
42   formats.  This allows compatibility with traditional machine-code level
43   debuggers, like GDB or DBX.
44
45 The approach used by the LLVM implementation is to use a small set of
46 :ref:`intrinsic functions <format_common_intrinsics>` to define a mapping
47 between LLVM program objects and the source-level objects.  The description of
48 the source-level program is maintained in LLVM metadata in an
49 :ref:`implementation-defined format <ccxx_frontend>` (the C/C++ front-end
50 currently uses working draft 7 of the `DWARF 3 standard
51 <http://www.eagercon.com/dwarf/dwarf3std.htm>`_).
52
53 When a program is being debugged, a debugger interacts with the user and turns
54 the stored debug information into source-language specific information.  As
55 such, a debugger must be aware of the source-language, and is thus tied to a
56 specific language or family of languages.
57
58 Debug information consumers
59 ---------------------------
60
61 The role of debug information is to provide meta information normally stripped
62 away during the compilation process.  This meta information provides an LLVM
63 user a relationship between generated code and the original program source
64 code.
65
66 Currently, there are two backend consumers of debug info: DwarfDebug and
67 CodeViewDebug. DwarfDebug produces DWARF suitable for use with GDB, LLDB, and
68 other DWARF-based debuggers. :ref:`CodeViewDebug <codeview>` produces CodeView,
69 the Microsoft debug info format, which is usable with Microsoft debuggers such
70 as Visual Studio and WinDBG. LLVM's debug information format is mostly derived
71 from and inspired by DWARF, but it is feasible to translate into other target
72 debug info formats such as STABS.
73
74 It would also be reasonable to use debug information to feed profiling tools
75 for analysis of generated code, or, tools for reconstructing the original
76 source from generated code.
77
78 .. _intro_debugopt:
79
80 Debugging optimized code
81 ------------------------
82
83 An extremely high priority of LLVM debugging information is to make it interact
84 well with optimizations and analysis.  In particular, the LLVM debug
85 information provides the following guarantees:
86
87 * LLVM debug information **always provides information to accurately read
88   the source-level state of the program**, regardless of which LLVM
89   optimizations have been run, and without any modification to the
90   optimizations themselves.  However, some optimizations may impact the
91   ability to modify the current state of the program with a debugger, such
92   as setting program variables, or calling functions that have been
93   deleted.
94
95 * As desired, LLVM optimizations can be upgraded to be aware of debugging
96   information, allowing them to update the debugging information as they
97   perform aggressive optimizations.  This means that, with effort, the LLVM
98   optimizers could optimize debug code just as well as non-debug code.
99
100 * LLVM debug information does not prevent optimizations from
101   happening (for example inlining, basic block reordering/merging/cleanup,
102   tail duplication, etc).
103
104 * LLVM debug information is automatically optimized along with the rest of
105   the program, using existing facilities.  For example, duplicate
106   information is automatically merged by the linker, and unused information
107   is automatically removed.
108
109 Basically, the debug information allows you to compile a program with
110 "``-O0 -g``" and get full debug information, allowing you to arbitrarily modify
111 the program as it executes from a debugger.  Compiling a program with
112 "``-O3 -g``" gives you full debug information that is always available and
113 accurate for reading (e.g., you get accurate stack traces despite tail call
114 elimination and inlining), but you might lose the ability to modify the program
115 and call functions which were optimized out of the program, or inlined away
116 completely.
117
118 The :ref:`LLVM test suite <test-suite-quickstart>` provides a framework to test
119 optimizer's handling of debugging information.  It can be run like this:
120
121 .. code-block:: bash
122
123   % cd llvm/projects/test-suite/MultiSource/Benchmarks  # or some other level
124   % make TEST=dbgopt
125
126 This will test impact of debugging information on optimization passes.  If
127 debugging information influences optimization passes then it will be reported
128 as a failure.  See :doc:`TestingGuide` for more information on LLVM test
129 infrastructure and how to run various tests.
130
131 .. _format:
132
133 Debugging information format
134 ============================
135
136 LLVM debugging information has been carefully designed to make it possible for
137 the optimizer to optimize the program and debugging information without
138 necessarily having to know anything about debugging information.  In
139 particular, the use of metadata avoids duplicated debugging information from
140 the beginning, and the global dead code elimination pass automatically deletes
141 debugging information for a function if it decides to delete the function.
142
143 To do this, most of the debugging information (descriptors for types,
144 variables, functions, source files, etc) is inserted by the language front-end
145 in the form of LLVM metadata.
146
147 Debug information is designed to be agnostic about the target debugger and
148 debugging information representation (e.g. DWARF/Stabs/etc).  It uses a generic
149 pass to decode the information that represents variables, types, functions,
150 namespaces, etc: this allows for arbitrary source-language semantics and
151 type-systems to be used, as long as there is a module written for the target
152 debugger to interpret the information.
153
154 To provide basic functionality, the LLVM debugger does have to make some
155 assumptions about the source-level language being debugged, though it keeps
156 these to a minimum.  The only common features that the LLVM debugger assumes
157 exist are `source files <LangRef.html#difile>`_, and `program objects
158 <LangRef.html#diglobalvariable>`_.  These abstract objects are used by a
159 debugger to form stack traces, show information about local variables, etc.
160
161 This section of the documentation first describes the representation aspects
162 common to any source-language.  :ref:`ccxx_frontend` describes the data layout
163 conventions used by the C and C++ front-ends.
164
165 Debug information descriptors are `specialized metadata nodes
166 <LangRef.html#specialized-metadata>`_, first-class subclasses of ``Metadata``.
167
168 .. _format_common_intrinsics:
169
170 Debugger intrinsic functions
171 ----------------------------
172
173 LLVM uses several intrinsic functions (name prefixed with "``llvm.dbg``") to
174 track source local variables through optimization and code generation.
175
176 ``llvm.dbg.addr``
177 ^^^^^^^^^^^^^^^^^^^^
178
179 .. code-block:: llvm
180
181   void @llvm.dbg.addr(metadata, metadata, metadata)
182
183 This intrinsic provides information about a local element (e.g., variable).
184 The first argument is metadata holding the address of variable, typically a
185 static alloca in the function entry block.  The second argument is a
186 `local variable <LangRef.html#dilocalvariable>`_ containing a description of
187 the variable.  The third argument is a `complex expression
188 <LangRef.html#diexpression>`_.  An `llvm.dbg.addr` intrinsic describes the
189 *address* of a source variable.
190
191 .. code-block:: text
192
193     %i.addr = alloca i32, align 4
194     call void @llvm.dbg.addr(metadata i32* %i.addr, metadata !1,
195                              metadata !DIExpression()), !dbg !2
196     !1 = !DILocalVariable(name: "i", ...) ; int i
197     !2 = !DILocation(...)
198     ...
199     %buffer = alloca [256 x i8], align 8
200     ; The address of i is buffer+64.
201     call void @llvm.dbg.addr(metadata [256 x i8]* %buffer, metadata !3,
202                              metadata !DIExpression(DW_OP_plus, 64)), !dbg !4
203     !3 = !DILocalVariable(name: "i", ...) ; int i
204     !4 = !DILocation(...)
205
206 A frontend should generate exactly one call to ``llvm.dbg.addr`` at the point
207 of declaration of a source variable. Optimization passes that fully promote the
208 variable from memory to SSA values will replace this call with possibly
209 multiple calls to `llvm.dbg.value`. Passes that delete stores are effectively
210 partial promotion, and they will insert a mix of calls to ``llvm.dbg.value``
211 and ``llvm.dbg.addr`` to track the source variable value when it is available.
212 After optimization, there may be multiple calls to ``llvm.dbg.addr`` describing
213 the program points where the variables lives in memory. All calls for the same
214 concrete source variable must agree on the memory location.
215
216
217 ``llvm.dbg.declare``
218 ^^^^^^^^^^^^^^^^^^^^
219
220 .. code-block:: llvm
221
222   void @llvm.dbg.declare(metadata, metadata, metadata)
223
224 This intrinsic is identical to `llvm.dbg.addr`, except that there can only be
225 one call to `llvm.dbg.declare` for a given concrete `local variable
226 <LangRef.html#dilocalvariable>`_. It is not control-dependent, meaning that if
227 a call to `llvm.dbg.declare` exists and has a valid location argument, that
228 address is considered to be the true home of the variable across its entire
229 lifetime. This makes it hard for optimizations to preserve accurate debug info
230 in the presence of ``llvm.dbg.declare``, so we are transitioning away from it,
231 and we plan to deprecate it in future LLVM releases.
232
233
234 ``llvm.dbg.value``
235 ^^^^^^^^^^^^^^^^^^
236
237 .. code-block:: llvm
238
239   void @llvm.dbg.value(metadata, metadata, metadata)
240
241 This intrinsic provides information when a user source variable is set to a new
242 value.  The first argument is the new value (wrapped as metadata).  The second
243 argument is a `local variable <LangRef.html#dilocalvariable>`_ containing a
244 description of the variable.  The third argument is a `complex expression
245 <LangRef.html#diexpression>`_.
246
247 Object lifetimes and scoping
248 ============================
249
250 In many languages, the local variables in functions can have their lifetimes or
251 scopes limited to a subset of a function.  In the C family of languages, for
252 example, variables are only live (readable and writable) within the source
253 block that they are defined in.  In functional languages, values are only
254 readable after they have been defined.  Though this is a very obvious concept,
255 it is non-trivial to model in LLVM, because it has no notion of scoping in this
256 sense, and does not want to be tied to a language's scoping rules.
257
258 In order to handle this, the LLVM debug format uses the metadata attached to
259 llvm instructions to encode line number and scoping information.  Consider the
260 following C fragment, for example:
261
262 .. code-block:: c
263
264   1.  void foo() {
265   2.    int X = 21;
266   3.    int Y = 22;
267   4.    {
268   5.      int Z = 23;
269   6.      Z = X;
270   7.    }
271   8.    X = Y;
272   9.  }
273
274 .. FIXME: Update the following example to use llvm.dbg.addr once that is the
275    default in clang.
276
277 Compiled to LLVM, this function would be represented like this:
278
279 .. code-block:: text
280
281   ; Function Attrs: nounwind ssp uwtable
282   define void @foo() #0 !dbg !4 {
283   entry:
284     %X = alloca i32, align 4
285     %Y = alloca i32, align 4
286     %Z = alloca i32, align 4
287     call void @llvm.dbg.declare(metadata i32* %X, metadata !11, metadata !13), !dbg !14
288     store i32 21, i32* %X, align 4, !dbg !14
289     call void @llvm.dbg.declare(metadata i32* %Y, metadata !15, metadata !13), !dbg !16
290     store i32 22, i32* %Y, align 4, !dbg !16
291     call void @llvm.dbg.declare(metadata i32* %Z, metadata !17, metadata !13), !dbg !19
292     store i32 23, i32* %Z, align 4, !dbg !19
293     %0 = load i32, i32* %X, align 4, !dbg !20
294     store i32 %0, i32* %Z, align 4, !dbg !21
295     %1 = load i32, i32* %Y, align 4, !dbg !22
296     store i32 %1, i32* %X, align 4, !dbg !23
297     ret void, !dbg !24
298   }
299
300   ; Function Attrs: nounwind readnone
301   declare void @llvm.dbg.declare(metadata, metadata, metadata) #1
302
303   attributes #0 = { nounwind ssp uwtable "less-precise-fpmad"="false" "no-frame-pointer-elim"="true" "no-frame-pointer-elim-non-leaf" "no-infs-fp-math"="false" "no-nans-fp-math"="false" "stack-protector-buffer-size"="8" "unsafe-fp-math"="false" "use-soft-float"="false" }
304   attributes #1 = { nounwind readnone }
305
306   !llvm.dbg.cu = !{!0}
307   !llvm.module.flags = !{!7, !8, !9}
308   !llvm.ident = !{!10}
309
310   !0 = !DICompileUnit(language: DW_LANG_C99, file: !1, producer: "clang version 3.7.0 (trunk 231150) (llvm/trunk 231154)", isOptimized: false, runtimeVersion: 0, emissionKind: FullDebug, enums: !2, retainedTypes: !2, subprograms: !3, globals: !2, imports: !2)
311   !1 = !DIFile(filename: "/dev/stdin", directory: "/Users/dexonsmith/data/llvm/debug-info")
312   !2 = !{}
313   !3 = !{!4}
314   !4 = distinct !DISubprogram(name: "foo", scope: !1, file: !1, line: 1, type: !5, isLocal: false, isDefinition: true, scopeLine: 1, isOptimized: false, variables: !2)
315   !5 = !DISubroutineType(types: !6)
316   !6 = !{null}
317   !7 = !{i32 2, !"Dwarf Version", i32 2}
318   !8 = !{i32 2, !"Debug Info Version", i32 3}
319   !9 = !{i32 1, !"PIC Level", i32 2}
320   !10 = !{!"clang version 3.7.0 (trunk 231150) (llvm/trunk 231154)"}
321   !11 = !DILocalVariable(name: "X", scope: !4, file: !1, line: 2, type: !12)
322   !12 = !DIBasicType(name: "int", size: 32, align: 32, encoding: DW_ATE_signed)
323   !13 = !DIExpression()
324   !14 = !DILocation(line: 2, column: 9, scope: !4)
325   !15 = !DILocalVariable(name: "Y", scope: !4, file: !1, line: 3, type: !12)
326   !16 = !DILocation(line: 3, column: 9, scope: !4)
327   !17 = !DILocalVariable(name: "Z", scope: !18, file: !1, line: 5, type: !12)
328   !18 = distinct !DILexicalBlock(scope: !4, file: !1, line: 4, column: 5)
329   !19 = !DILocation(line: 5, column: 11, scope: !18)
330   !20 = !DILocation(line: 6, column: 11, scope: !18)
331   !21 = !DILocation(line: 6, column: 9, scope: !18)
332   !22 = !DILocation(line: 8, column: 9, scope: !4)
333   !23 = !DILocation(line: 8, column: 7, scope: !4)
334   !24 = !DILocation(line: 9, column: 3, scope: !4)
335
336
337 This example illustrates a few important details about LLVM debugging
338 information.  In particular, it shows how the ``llvm.dbg.declare`` intrinsic and
339 location information, which are attached to an instruction, are applied
340 together to allow a debugger to analyze the relationship between statements,
341 variable definitions, and the code used to implement the function.
342
343 .. code-block:: llvm
344
345   call void @llvm.dbg.declare(metadata i32* %X, metadata !11, metadata !13), !dbg !14
346     ; [debug line = 2:7] [debug variable = X]
347
348 The first intrinsic ``%llvm.dbg.declare`` encodes debugging information for the
349 variable ``X``.  The metadata ``!dbg !14`` attached to the intrinsic provides
350 scope information for the variable ``X``.
351
352 .. code-block:: text
353
354   !14 = !DILocation(line: 2, column: 9, scope: !4)
355   !4 = distinct !DISubprogram(name: "foo", scope: !1, file: !1, line: 1, type: !5,
356                               isLocal: false, isDefinition: true, scopeLine: 1,
357                               isOptimized: false, variables: !2)
358
359 Here ``!14`` is metadata providing `location information
360 <LangRef.html#dilocation>`_.  In this example, scope is encoded by ``!4``, a
361 `subprogram descriptor <LangRef.html#disubprogram>`_.  This way the location
362 information attached to the intrinsics indicates that the variable ``X`` is
363 declared at line number 2 at a function level scope in function ``foo``.
364
365 Now lets take another example.
366
367 .. code-block:: llvm
368
369   call void @llvm.dbg.declare(metadata i32* %Z, metadata !17, metadata !13), !dbg !19
370     ; [debug line = 5:9] [debug variable = Z]
371
372 The third intrinsic ``%llvm.dbg.declare`` encodes debugging information for
373 variable ``Z``.  The metadata ``!dbg !19`` attached to the intrinsic provides
374 scope information for the variable ``Z``.
375
376 .. code-block:: text
377
378   !18 = distinct !DILexicalBlock(scope: !4, file: !1, line: 4, column: 5)
379   !19 = !DILocation(line: 5, column: 11, scope: !18)
380
381 Here ``!19`` indicates that ``Z`` is declared at line number 5 and column
382 number 0 inside of lexical scope ``!18``.  The lexical scope itself resides
383 inside of subprogram ``!4`` described above.
384
385 The scope information attached with each instruction provides a straightforward
386 way to find instructions covered by a scope.
387
388 .. _ccxx_frontend:
389
390 C/C++ front-end specific debug information
391 ==========================================
392
393 The C and C++ front-ends represent information about the program in a format
394 that is effectively identical to `DWARF 3.0
395 <http://www.eagercon.com/dwarf/dwarf3std.htm>`_ in terms of information
396 content.  This allows code generators to trivially support native debuggers by
397 generating standard dwarf information, and contains enough information for
398 non-dwarf targets to translate it as needed.
399
400 This section describes the forms used to represent C and C++ programs.  Other
401 languages could pattern themselves after this (which itself is tuned to
402 representing programs in the same way that DWARF 3 does), or they could choose
403 to provide completely different forms if they don't fit into the DWARF model.
404 As support for debugging information gets added to the various LLVM
405 source-language front-ends, the information used should be documented here.
406
407 The following sections provide examples of a few C/C++ constructs and the debug
408 information that would best describe those constructs.  The canonical
409 references are the ``DIDescriptor`` classes defined in
410 ``include/llvm/IR/DebugInfo.h`` and the implementations of the helper functions
411 in ``lib/IR/DIBuilder.cpp``.
412
413 C/C++ source file information
414 -----------------------------
415
416 ``llvm::Instruction`` provides easy access to metadata attached with an
417 instruction.  One can extract line number information encoded in LLVM IR using
418 ``Instruction::getDebugLoc()`` and ``DILocation::getLine()``.
419
420 .. code-block:: c++
421
422   if (DILocation *Loc = I->getDebugLoc()) { // Here I is an LLVM instruction
423     unsigned Line = Loc->getLine();
424     StringRef File = Loc->getFilename();
425     StringRef Dir = Loc->getDirectory();
426   }
427
428 C/C++ global variable information
429 ---------------------------------
430
431 Given an integer global variable declared as follows:
432
433 .. code-block:: c
434
435   _Alignas(8) int MyGlobal = 100;
436
437 a C/C++ front-end would generate the following descriptors:
438
439 .. code-block:: text
440
441   ;;
442   ;; Define the global itself.
443   ;;
444   @MyGlobal = global i32 100, align 8, !dbg !0
445
446   ;;
447   ;; List of debug info of globals
448   ;;
449   !llvm.dbg.cu = !{!1}
450
451   ;; Some unrelated metadata.
452   !llvm.module.flags = !{!6, !7}
453   !llvm.ident = !{!8}
454
455   ;; Define the global variable itself
456   !0 = distinct !DIGlobalVariable(name: "MyGlobal", scope: !1, file: !2, line: 1, type: !5, isLocal: false, isDefinition: true, align: 64)
457
458   ;; Define the compile unit.
459   !1 = distinct !DICompileUnit(language: DW_LANG_C99, file: !2,
460                                producer: "clang version 4.0.0 (http://llvm.org/git/clang.git ae4deadbea242e8ea517eef662c30443f75bd086) (http://llvm.org/git/llvm.git 818b4c1539df3e51dc7e62c89ead4abfd348827d)",
461                                isOptimized: false, runtimeVersion: 0, emissionKind: FullDebug,
462                                enums: !3, globals: !4)
463
464   ;;
465   ;; Define the file
466   ;;
467   !2 = !DIFile(filename: "/dev/stdin",
468                directory: "/Users/dexonsmith/data/llvm/debug-info")
469
470   ;; An empty array.
471   !3 = !{}
472
473   ;; The Array of Global Variables
474   !4 = !{!0}
475
476   ;;
477   ;; Define the type
478   ;;
479   !5 = !DIBasicType(name: "int", size: 32, encoding: DW_ATE_signed)
480
481   ;; Dwarf version to output.
482   !6 = !{i32 2, !"Dwarf Version", i32 4}
483
484   ;; Debug info schema version.
485   !7 = !{i32 2, !"Debug Info Version", i32 3}
486
487   ;; Compiler identification
488   !8 = !{!"clang version 4.0.0 (http://llvm.org/git/clang.git ae4deadbea242e8ea517eef662c30443f75bd086) (http://llvm.org/git/llvm.git 818b4c1539df3e51dc7e62c89ead4abfd348827d)"}
489
490
491 The align value in DIGlobalVariable description specifies variable alignment in
492 case it was forced by C11 _Alignas(), C++11 alignas() keywords or compiler
493 attribute __attribute__((aligned ())). In other case (when this field is missing)
494 alignment is considered default. This is used when producing DWARF output
495 for DW_AT_alignment value.
496
497 C/C++ function information
498 --------------------------
499
500 Given a function declared as follows:
501
502 .. code-block:: c
503
504   int main(int argc, char *argv[]) {
505     return 0;
506   }
507
508 a C/C++ front-end would generate the following descriptors:
509
510 .. code-block:: text
511
512   ;;
513   ;; Define the anchor for subprograms.
514   ;;
515   !4 = !DISubprogram(name: "main", scope: !1, file: !1, line: 1, type: !5,
516                      isLocal: false, isDefinition: true, scopeLine: 1,
517                      flags: DIFlagPrototyped, isOptimized: false,
518                      variables: !2)
519
520   ;;
521   ;; Define the subprogram itself.
522   ;;
523   define i32 @main(i32 %argc, i8** %argv) !dbg !4 {
524   ...
525   }
526
527 Debugging information format
528 ============================
529
530 Debugging Information Extension for Objective C Properties
531 ----------------------------------------------------------
532
533 Introduction
534 ^^^^^^^^^^^^
535
536 Objective C provides a simpler way to declare and define accessor methods using
537 declared properties.  The language provides features to declare a property and
538 to let compiler synthesize accessor methods.
539
540 The debugger lets developer inspect Objective C interfaces and their instance
541 variables and class variables.  However, the debugger does not know anything
542 about the properties defined in Objective C interfaces.  The debugger consumes
543 information generated by compiler in DWARF format.  The format does not support
544 encoding of Objective C properties.  This proposal describes DWARF extensions to
545 encode Objective C properties, which the debugger can use to let developers
546 inspect Objective C properties.
547
548 Proposal
549 ^^^^^^^^
550
551 Objective C properties exist separately from class members.  A property can be
552 defined only by "setter" and "getter" selectors, and be calculated anew on each
553 access.  Or a property can just be a direct access to some declared ivar.
554 Finally it can have an ivar "automatically synthesized" for it by the compiler,
555 in which case the property can be referred to in user code directly using the
556 standard C dereference syntax as well as through the property "dot" syntax, but
557 there is no entry in the ``@interface`` declaration corresponding to this ivar.
558
559 To facilitate debugging, these properties we will add a new DWARF TAG into the
560 ``DW_TAG_structure_type`` definition for the class to hold the description of a
561 given property, and a set of DWARF attributes that provide said description.
562 The property tag will also contain the name and declared type of the property.
563
564 If there is a related ivar, there will also be a DWARF property attribute placed
565 in the ``DW_TAG_member`` DIE for that ivar referring back to the property TAG
566 for that property.  And in the case where the compiler synthesizes the ivar
567 directly, the compiler is expected to generate a ``DW_TAG_member`` for that
568 ivar (with the ``DW_AT_artificial`` set to 1), whose name will be the name used
569 to access this ivar directly in code, and with the property attribute pointing
570 back to the property it is backing.
571
572 The following examples will serve as illustration for our discussion:
573
574 .. code-block:: objc
575
576   @interface I1 {
577     int n2;
578   }
579
580   @property int p1;
581   @property int p2;
582   @end
583
584   @implementation I1
585   @synthesize p1;
586   @synthesize p2 = n2;
587   @end
588
589 This produces the following DWARF (this is a "pseudo dwarfdump" output):
590
591 .. code-block:: none
592
593   0x00000100:  TAG_structure_type [7] *
594                  AT_APPLE_runtime_class( 0x10 )
595                  AT_name( "I1" )
596                  AT_decl_file( "Objc_Property.m" )
597                  AT_decl_line( 3 )
598
599   0x00000110    TAG_APPLE_property
600                   AT_name ( "p1" )
601                   AT_type ( {0x00000150} ( int ) )
602
603   0x00000120:   TAG_APPLE_property
604                   AT_name ( "p2" )
605                   AT_type ( {0x00000150} ( int ) )
606
607   0x00000130:   TAG_member [8]
608                   AT_name( "_p1" )
609                   AT_APPLE_property ( {0x00000110} "p1" )
610                   AT_type( {0x00000150} ( int ) )
611                   AT_artificial ( 0x1 )
612
613   0x00000140:    TAG_member [8]
614                    AT_name( "n2" )
615                    AT_APPLE_property ( {0x00000120} "p2" )
616                    AT_type( {0x00000150} ( int ) )
617
618   0x00000150:  AT_type( ( int ) )
619
620 Note, the current convention is that the name of the ivar for an
621 auto-synthesized property is the name of the property from which it derives
622 with an underscore prepended, as is shown in the example.  But we actually
623 don't need to know this convention, since we are given the name of the ivar
624 directly.
625
626 Also, it is common practice in ObjC to have different property declarations in
627 the @interface and @implementation - e.g. to provide a read-only property in
628 the interface,and a read-write interface in the implementation.  In that case,
629 the compiler should emit whichever property declaration will be in force in the
630 current translation unit.
631
632 Developers can decorate a property with attributes which are encoded using
633 ``DW_AT_APPLE_property_attribute``.
634
635 .. code-block:: objc
636
637   @property (readonly, nonatomic) int pr;
638
639 .. code-block:: none
640
641   TAG_APPLE_property [8]
642     AT_name( "pr" )
643     AT_type ( {0x00000147} (int) )
644     AT_APPLE_property_attribute (DW_APPLE_PROPERTY_readonly, DW_APPLE_PROPERTY_nonatomic)
645
646 The setter and getter method names are attached to the property using
647 ``DW_AT_APPLE_property_setter`` and ``DW_AT_APPLE_property_getter`` attributes.
648
649 .. code-block:: objc
650
651   @interface I1
652   @property (setter=myOwnP3Setter:) int p3;
653   -(void)myOwnP3Setter:(int)a;
654   @end
655
656   @implementation I1
657   @synthesize p3;
658   -(void)myOwnP3Setter:(int)a{ }
659   @end
660
661 The DWARF for this would be:
662
663 .. code-block:: none
664
665   0x000003bd: TAG_structure_type [7] *
666                 AT_APPLE_runtime_class( 0x10 )
667                 AT_name( "I1" )
668                 AT_decl_file( "Objc_Property.m" )
669                 AT_decl_line( 3 )
670
671   0x000003cd      TAG_APPLE_property
672                     AT_name ( "p3" )
673                     AT_APPLE_property_setter ( "myOwnP3Setter:" )
674                     AT_type( {0x00000147} ( int ) )
675
676   0x000003f3:     TAG_member [8]
677                     AT_name( "_p3" )
678                     AT_type ( {0x00000147} ( int ) )
679                     AT_APPLE_property ( {0x000003cd} )
680                     AT_artificial ( 0x1 )
681
682 New DWARF Tags
683 ^^^^^^^^^^^^^^
684
685 +-----------------------+--------+
686 | TAG                   | Value  |
687 +=======================+========+
688 | DW_TAG_APPLE_property | 0x4200 |
689 +-----------------------+--------+
690
691 New DWARF Attributes
692 ^^^^^^^^^^^^^^^^^^^^
693
694 +--------------------------------+--------+-----------+
695 | Attribute                      | Value  | Classes   |
696 +================================+========+===========+
697 | DW_AT_APPLE_property           | 0x3fed | Reference |
698 +--------------------------------+--------+-----------+
699 | DW_AT_APPLE_property_getter    | 0x3fe9 | String    |
700 +--------------------------------+--------+-----------+
701 | DW_AT_APPLE_property_setter    | 0x3fea | String    |
702 +--------------------------------+--------+-----------+
703 | DW_AT_APPLE_property_attribute | 0x3feb | Constant  |
704 +--------------------------------+--------+-----------+
705
706 New DWARF Constants
707 ^^^^^^^^^^^^^^^^^^^
708
709 +--------------------------------------+-------+
710 | Name                                 | Value |
711 +======================================+=======+
712 | DW_APPLE_PROPERTY_readonly           | 0x01  |
713 +--------------------------------------+-------+
714 | DW_APPLE_PROPERTY_getter             | 0x02  |
715 +--------------------------------------+-------+
716 | DW_APPLE_PROPERTY_assign             | 0x04  |
717 +--------------------------------------+-------+
718 | DW_APPLE_PROPERTY_readwrite          | 0x08  |
719 +--------------------------------------+-------+
720 | DW_APPLE_PROPERTY_retain             | 0x10  |
721 +--------------------------------------+-------+
722 | DW_APPLE_PROPERTY_copy               | 0x20  |
723 +--------------------------------------+-------+
724 | DW_APPLE_PROPERTY_nonatomic          | 0x40  |
725 +--------------------------------------+-------+
726 | DW_APPLE_PROPERTY_setter             | 0x80  |
727 +--------------------------------------+-------+
728 | DW_APPLE_PROPERTY_atomic             | 0x100 |
729 +--------------------------------------+-------+
730 | DW_APPLE_PROPERTY_weak               | 0x200 |
731 +--------------------------------------+-------+
732 | DW_APPLE_PROPERTY_strong             | 0x400 |
733 +--------------------------------------+-------+
734 | DW_APPLE_PROPERTY_unsafe_unretained  | 0x800 |
735 +--------------------------------------+-------+
736 | DW_APPLE_PROPERTY_nullability        | 0x1000|
737 +--------------------------------------+-------+
738 | DW_APPLE_PROPERTY_null_resettable    | 0x2000|
739 +--------------------------------------+-------+
740 | DW_APPLE_PROPERTY_class              | 0x4000|
741 +--------------------------------------+-------+
742
743 Name Accelerator Tables
744 -----------------------
745
746 Introduction
747 ^^^^^^^^^^^^
748
749 The "``.debug_pubnames``" and "``.debug_pubtypes``" formats are not what a
750 debugger needs.  The "``pub``" in the section name indicates that the entries
751 in the table are publicly visible names only.  This means no static or hidden
752 functions show up in the "``.debug_pubnames``".  No static variables or private
753 class variables are in the "``.debug_pubtypes``".  Many compilers add different
754 things to these tables, so we can't rely upon the contents between gcc, icc, or
755 clang.
756
757 The typical query given by users tends not to match up with the contents of
758 these tables.  For example, the DWARF spec states that "In the case of the name
759 of a function member or static data member of a C++ structure, class or union,
760 the name presented in the "``.debug_pubnames``" section is not the simple name
761 given by the ``DW_AT_name attribute`` of the referenced debugging information
762 entry, but rather the fully qualified name of the data or function member."
763 So the only names in these tables for complex C++ entries is a fully
764 qualified name.  Debugger users tend not to enter their search strings as
765 "``a::b::c(int,const Foo&) const``", but rather as "``c``", "``b::c``" , or
766 "``a::b::c``".  So the name entered in the name table must be demangled in
767 order to chop it up appropriately and additional names must be manually entered
768 into the table to make it effective as a name lookup table for debuggers to
769 use.
770
771 All debuggers currently ignore the "``.debug_pubnames``" table as a result of
772 its inconsistent and useless public-only name content making it a waste of
773 space in the object file.  These tables, when they are written to disk, are not
774 sorted in any way, leaving every debugger to do its own parsing and sorting.
775 These tables also include an inlined copy of the string values in the table
776 itself making the tables much larger than they need to be on disk, especially
777 for large C++ programs.
778
779 Can't we just fix the sections by adding all of the names we need to this
780 table? No, because that is not what the tables are defined to contain and we
781 won't know the difference between the old bad tables and the new good tables.
782 At best we could make our own renamed sections that contain all of the data we
783 need.
784
785 These tables are also insufficient for what a debugger like LLDB needs.  LLDB
786 uses clang for its expression parsing where LLDB acts as a PCH.  LLDB is then
787 often asked to look for type "``foo``" or namespace "``bar``", or list items in
788 namespace "``baz``".  Namespaces are not included in the pubnames or pubtypes
789 tables.  Since clang asks a lot of questions when it is parsing an expression,
790 we need to be very fast when looking up names, as it happens a lot.  Having new
791 accelerator tables that are optimized for very quick lookups will benefit this
792 type of debugging experience greatly.
793
794 We would like to generate name lookup tables that can be mapped into memory
795 from disk, and used as is, with little or no up-front parsing.  We would also
796 be able to control the exact content of these different tables so they contain
797 exactly what we need.  The Name Accelerator Tables were designed to fix these
798 issues.  In order to solve these issues we need to:
799
800 * Have a format that can be mapped into memory from disk and used as is
801 * Lookups should be very fast
802 * Extensible table format so these tables can be made by many producers
803 * Contain all of the names needed for typical lookups out of the box
804 * Strict rules for the contents of tables
805
806 Table size is important and the accelerator table format should allow the reuse
807 of strings from common string tables so the strings for the names are not
808 duplicated.  We also want to make sure the table is ready to be used as-is by
809 simply mapping the table into memory with minimal header parsing.
810
811 The name lookups need to be fast and optimized for the kinds of lookups that
812 debuggers tend to do.  Optimally we would like to touch as few parts of the
813 mapped table as possible when doing a name lookup and be able to quickly find
814 the name entry we are looking for, or discover there are no matches.  In the
815 case of debuggers we optimized for lookups that fail most of the time.
816
817 Each table that is defined should have strict rules on exactly what is in the
818 accelerator tables and documented so clients can rely on the content.
819
820 Hash Tables
821 ^^^^^^^^^^^
822
823 Standard Hash Tables
824 """"""""""""""""""""
825
826 Typical hash tables have a header, buckets, and each bucket points to the
827 bucket contents:
828
829 .. code-block:: none
830
831   .------------.
832   |  HEADER    |
833   |------------|
834   |  BUCKETS   |
835   |------------|
836   |  DATA      |
837   `------------'
838
839 The BUCKETS are an array of offsets to DATA for each hash:
840
841 .. code-block:: none
842
843   .------------.
844   | 0x00001000 | BUCKETS[0]
845   | 0x00002000 | BUCKETS[1]
846   | 0x00002200 | BUCKETS[2]
847   | 0x000034f0 | BUCKETS[3]
848   |            | ...
849   | 0xXXXXXXXX | BUCKETS[n_buckets]
850   '------------'
851
852 So for ``bucket[3]`` in the example above, we have an offset into the table
853 0x000034f0 which points to a chain of entries for the bucket.  Each bucket must
854 contain a next pointer, full 32 bit hash value, the string itself, and the data
855 for the current string value.
856
857 .. code-block:: none
858
859               .------------.
860   0x000034f0: | 0x00003500 | next pointer
861               | 0x12345678 | 32 bit hash
862               | "erase"    | string value
863               | data[n]    | HashData for this bucket
864               |------------|
865   0x00003500: | 0x00003550 | next pointer
866               | 0x29273623 | 32 bit hash
867               | "dump"     | string value
868               | data[n]    | HashData for this bucket
869               |------------|
870   0x00003550: | 0x00000000 | next pointer
871               | 0x82638293 | 32 bit hash
872               | "main"     | string value
873               | data[n]    | HashData for this bucket
874               `------------'
875
876 The problem with this layout for debuggers is that we need to optimize for the
877 negative lookup case where the symbol we're searching for is not present.  So
878 if we were to lookup "``printf``" in the table above, we would make a 32-bit
879 hash for "``printf``", it might match ``bucket[3]``.  We would need to go to
880 the offset 0x000034f0 and start looking to see if our 32 bit hash matches.  To
881 do so, we need to read the next pointer, then read the hash, compare it, and
882 skip to the next bucket.  Each time we are skipping many bytes in memory and
883 touching new pages just to do the compare on the full 32 bit hash.  All of
884 these accesses then tell us that we didn't have a match.
885
886 Name Hash Tables
887 """"""""""""""""
888
889 To solve the issues mentioned above we have structured the hash tables a bit
890 differently: a header, buckets, an array of all unique 32 bit hash values,
891 followed by an array of hash value data offsets, one for each hash value, then
892 the data for all hash values:
893
894 .. code-block:: none
895
896   .-------------.
897   |  HEADER     |
898   |-------------|
899   |  BUCKETS    |
900   |-------------|
901   |  HASHES     |
902   |-------------|
903   |  OFFSETS    |
904   |-------------|
905   |  DATA       |
906   `-------------'
907
908 The ``BUCKETS`` in the name tables are an index into the ``HASHES`` array.  By
909 making all of the full 32 bit hash values contiguous in memory, we allow
910 ourselves to efficiently check for a match while touching as little memory as
911 possible.  Most often checking the 32 bit hash values is as far as the lookup
912 goes.  If it does match, it usually is a match with no collisions.  So for a
913 table with "``n_buckets``" buckets, and "``n_hashes``" unique 32 bit hash
914 values, we can clarify the contents of the ``BUCKETS``, ``HASHES`` and
915 ``OFFSETS`` as:
916
917 .. code-block:: none
918
919   .-------------------------.
920   |  HEADER.magic           | uint32_t
921   |  HEADER.version         | uint16_t
922   |  HEADER.hash_function   | uint16_t
923   |  HEADER.bucket_count    | uint32_t
924   |  HEADER.hashes_count    | uint32_t
925   |  HEADER.header_data_len | uint32_t
926   |  HEADER_DATA            | HeaderData
927   |-------------------------|
928   |  BUCKETS                | uint32_t[n_buckets] // 32 bit hash indexes
929   |-------------------------|
930   |  HASHES                 | uint32_t[n_hashes] // 32 bit hash values
931   |-------------------------|
932   |  OFFSETS                | uint32_t[n_hashes] // 32 bit offsets to hash value data
933   |-------------------------|
934   |  ALL HASH DATA          |
935   `-------------------------'
936
937 So taking the exact same data from the standard hash example above we end up
938 with:
939
940 .. code-block:: none
941
942               .------------.
943               | HEADER     |
944               |------------|
945               |          0 | BUCKETS[0]
946               |          2 | BUCKETS[1]
947               |          5 | BUCKETS[2]
948               |          6 | BUCKETS[3]
949               |            | ...
950               |        ... | BUCKETS[n_buckets]
951               |------------|
952               | 0x........ | HASHES[0]
953               | 0x........ | HASHES[1]
954               | 0x........ | HASHES[2]
955               | 0x........ | HASHES[3]
956               | 0x........ | HASHES[4]
957               | 0x........ | HASHES[5]
958               | 0x12345678 | HASHES[6]    hash for BUCKETS[3]
959               | 0x29273623 | HASHES[7]    hash for BUCKETS[3]
960               | 0x82638293 | HASHES[8]    hash for BUCKETS[3]
961               | 0x........ | HASHES[9]
962               | 0x........ | HASHES[10]
963               | 0x........ | HASHES[11]
964               | 0x........ | HASHES[12]
965               | 0x........ | HASHES[13]
966               | 0x........ | HASHES[n_hashes]
967               |------------|
968               | 0x........ | OFFSETS[0]
969               | 0x........ | OFFSETS[1]
970               | 0x........ | OFFSETS[2]
971               | 0x........ | OFFSETS[3]
972               | 0x........ | OFFSETS[4]
973               | 0x........ | OFFSETS[5]
974               | 0x000034f0 | OFFSETS[6]   offset for BUCKETS[3]
975               | 0x00003500 | OFFSETS[7]   offset for BUCKETS[3]
976               | 0x00003550 | OFFSETS[8]   offset for BUCKETS[3]
977               | 0x........ | OFFSETS[9]
978               | 0x........ | OFFSETS[10]
979               | 0x........ | OFFSETS[11]
980               | 0x........ | OFFSETS[12]
981               | 0x........ | OFFSETS[13]
982               | 0x........ | OFFSETS[n_hashes]
983               |------------|
984               |            |
985               |            |
986               |            |
987               |            |
988               |            |
989               |------------|
990   0x000034f0: | 0x00001203 | .debug_str ("erase")
991               | 0x00000004 | A 32 bit array count - number of HashData with name "erase"
992               | 0x........ | HashData[0]
993               | 0x........ | HashData[1]
994               | 0x........ | HashData[2]
995               | 0x........ | HashData[3]
996               | 0x00000000 | String offset into .debug_str (terminate data for hash)
997               |------------|
998   0x00003500: | 0x00001203 | String offset into .debug_str ("collision")
999               | 0x00000002 | A 32 bit array count - number of HashData with name "collision"
1000               | 0x........ | HashData[0]
1001               | 0x........ | HashData[1]
1002               | 0x00001203 | String offset into .debug_str ("dump")
1003               | 0x00000003 | A 32 bit array count - number of HashData with name "dump"
1004               | 0x........ | HashData[0]
1005               | 0x........ | HashData[1]
1006               | 0x........ | HashData[2]
1007               | 0x00000000 | String offset into .debug_str (terminate data for hash)
1008               |------------|
1009   0x00003550: | 0x00001203 | String offset into .debug_str ("main")
1010               | 0x00000009 | A 32 bit array count - number of HashData with name "main"
1011               | 0x........ | HashData[0]
1012               | 0x........ | HashData[1]
1013               | 0x........ | HashData[2]
1014               | 0x........ | HashData[3]
1015               | 0x........ | HashData[4]
1016               | 0x........ | HashData[5]
1017               | 0x........ | HashData[6]
1018               | 0x........ | HashData[7]
1019               | 0x........ | HashData[8]
1020               | 0x00000000 | String offset into .debug_str (terminate data for hash)
1021               `------------'
1022
1023 So we still have all of the same data, we just organize it more efficiently for
1024 debugger lookup.  If we repeat the same "``printf``" lookup from above, we
1025 would hash "``printf``" and find it matches ``BUCKETS[3]`` by taking the 32 bit
1026 hash value and modulo it by ``n_buckets``.  ``BUCKETS[3]`` contains "6" which
1027 is the index into the ``HASHES`` table.  We would then compare any consecutive
1028 32 bit hashes values in the ``HASHES`` array as long as the hashes would be in
1029 ``BUCKETS[3]``.  We do this by verifying that each subsequent hash value modulo
1030 ``n_buckets`` is still 3.  In the case of a failed lookup we would access the
1031 memory for ``BUCKETS[3]``, and then compare a few consecutive 32 bit hashes
1032 before we know that we have no match.  We don't end up marching through
1033 multiple words of memory and we really keep the number of processor data cache
1034 lines being accessed as small as possible.
1035
1036 The string hash that is used for these lookup tables is the Daniel J.
1037 Bernstein hash which is also used in the ELF ``GNU_HASH`` sections.  It is a
1038 very good hash for all kinds of names in programs with very few hash
1039 collisions.
1040
1041 Empty buckets are designated by using an invalid hash index of ``UINT32_MAX``.
1042
1043 Details
1044 ^^^^^^^
1045
1046 These name hash tables are designed to be generic where specializations of the
1047 table get to define additional data that goes into the header ("``HeaderData``"),
1048 how the string value is stored ("``KeyType``") and the content of the data for each
1049 hash value.
1050
1051 Header Layout
1052 """""""""""""
1053
1054 The header has a fixed part, and the specialized part.  The exact format of the
1055 header is:
1056
1057 .. code-block:: c
1058
1059   struct Header
1060   {
1061     uint32_t   magic;           // 'HASH' magic value to allow endian detection
1062     uint16_t   version;         // Version number
1063     uint16_t   hash_function;   // The hash function enumeration that was used
1064     uint32_t   bucket_count;    // The number of buckets in this hash table
1065     uint32_t   hashes_count;    // The total number of unique hash values and hash data offsets in this table
1066     uint32_t   header_data_len; // The bytes to skip to get to the hash indexes (buckets) for correct alignment
1067                                 // Specifically the length of the following HeaderData field - this does not
1068                                 // include the size of the preceding fields
1069     HeaderData header_data;     // Implementation specific header data
1070   };
1071
1072 The header starts with a 32 bit "``magic``" value which must be ``'HASH'``
1073 encoded as an ASCII integer.  This allows the detection of the start of the
1074 hash table and also allows the table's byte order to be determined so the table
1075 can be correctly extracted.  The "``magic``" value is followed by a 16 bit
1076 ``version`` number which allows the table to be revised and modified in the
1077 future.  The current version number is 1. ``hash_function`` is a ``uint16_t``
1078 enumeration that specifies which hash function was used to produce this table.
1079 The current values for the hash function enumerations include:
1080
1081 .. code-block:: c
1082
1083   enum HashFunctionType
1084   {
1085     eHashFunctionDJB = 0u, // Daniel J Bernstein hash function
1086   };
1087
1088 ``bucket_count`` is a 32 bit unsigned integer that represents how many buckets
1089 are in the ``BUCKETS`` array.  ``hashes_count`` is the number of unique 32 bit
1090 hash values that are in the ``HASHES`` array, and is the same number of offsets
1091 are contained in the ``OFFSETS`` array.  ``header_data_len`` specifies the size
1092 in bytes of the ``HeaderData`` that is filled in by specialized versions of
1093 this table.
1094
1095 Fixed Lookup
1096 """"""""""""
1097
1098 The header is followed by the buckets, hashes, offsets, and hash value data.
1099
1100 .. code-block:: c
1101
1102   struct FixedTable
1103   {
1104     uint32_t buckets[Header.bucket_count];  // An array of hash indexes into the "hashes[]" array below
1105     uint32_t hashes [Header.hashes_count];  // Every unique 32 bit hash for the entire table is in this table
1106     uint32_t offsets[Header.hashes_count];  // An offset that corresponds to each item in the "hashes[]" array above
1107   };
1108
1109 ``buckets`` is an array of 32 bit indexes into the ``hashes`` array.  The
1110 ``hashes`` array contains all of the 32 bit hash values for all names in the
1111 hash table.  Each hash in the ``hashes`` table has an offset in the ``offsets``
1112 array that points to the data for the hash value.
1113
1114 This table setup makes it very easy to repurpose these tables to contain
1115 different data, while keeping the lookup mechanism the same for all tables.
1116 This layout also makes it possible to save the table to disk and map it in
1117 later and do very efficient name lookups with little or no parsing.
1118
1119 DWARF lookup tables can be implemented in a variety of ways and can store a lot
1120 of information for each name.  We want to make the DWARF tables extensible and
1121 able to store the data efficiently so we have used some of the DWARF features
1122 that enable efficient data storage to define exactly what kind of data we store
1123 for each name.
1124
1125 The ``HeaderData`` contains a definition of the contents of each HashData chunk.
1126 We might want to store an offset to all of the debug information entries (DIEs)
1127 for each name.  To keep things extensible, we create a list of items, or
1128 Atoms, that are contained in the data for each name.  First comes the type of
1129 the data in each atom:
1130
1131 .. code-block:: c
1132
1133   enum AtomType
1134   {
1135     eAtomTypeNULL       = 0u,
1136     eAtomTypeDIEOffset  = 1u,   // DIE offset, check form for encoding
1137     eAtomTypeCUOffset   = 2u,   // DIE offset of the compiler unit header that contains the item in question
1138     eAtomTypeTag        = 3u,   // DW_TAG_xxx value, should be encoded as DW_FORM_data1 (if no tags exceed 255) or DW_FORM_data2
1139     eAtomTypeNameFlags  = 4u,   // Flags from enum NameFlags
1140     eAtomTypeTypeFlags  = 5u,   // Flags from enum TypeFlags
1141   };
1142
1143 The enumeration values and their meanings are:
1144
1145 .. code-block:: none
1146
1147   eAtomTypeNULL       - a termination atom that specifies the end of the atom list
1148   eAtomTypeDIEOffset  - an offset into the .debug_info section for the DWARF DIE for this name
1149   eAtomTypeCUOffset   - an offset into the .debug_info section for the CU that contains the DIE
1150   eAtomTypeDIETag     - The DW_TAG_XXX enumeration value so you don't have to parse the DWARF to see what it is
1151   eAtomTypeNameFlags  - Flags for functions and global variables (isFunction, isInlined, isExternal...)
1152   eAtomTypeTypeFlags  - Flags for types (isCXXClass, isObjCClass, ...)
1153
1154 Then we allow each atom type to define the atom type and how the data for each
1155 atom type data is encoded:
1156
1157 .. code-block:: c
1158
1159   struct Atom
1160   {
1161     uint16_t type;  // AtomType enum value
1162     uint16_t form;  // DWARF DW_FORM_XXX defines
1163   };
1164
1165 The ``form`` type above is from the DWARF specification and defines the exact
1166 encoding of the data for the Atom type.  See the DWARF specification for the
1167 ``DW_FORM_`` definitions.
1168
1169 .. code-block:: c
1170
1171   struct HeaderData
1172   {
1173     uint32_t die_offset_base;
1174     uint32_t atom_count;
1175     Atoms    atoms[atom_count0];
1176   };
1177
1178 ``HeaderData`` defines the base DIE offset that should be added to any atoms
1179 that are encoded using the ``DW_FORM_ref1``, ``DW_FORM_ref2``,
1180 ``DW_FORM_ref4``, ``DW_FORM_ref8`` or ``DW_FORM_ref_udata``.  It also defines
1181 what is contained in each ``HashData`` object -- ``Atom.form`` tells us how large
1182 each field will be in the ``HashData`` and the ``Atom.type`` tells us how this data
1183 should be interpreted.
1184
1185 For the current implementations of the "``.apple_names``" (all functions +
1186 globals), the "``.apple_types``" (names of all types that are defined), and
1187 the "``.apple_namespaces``" (all namespaces), we currently set the ``Atom``
1188 array to be:
1189
1190 .. code-block:: c
1191
1192   HeaderData.atom_count = 1;
1193   HeaderData.atoms[0].type = eAtomTypeDIEOffset;
1194   HeaderData.atoms[0].form = DW_FORM_data4;
1195
1196 This defines the contents to be the DIE offset (eAtomTypeDIEOffset) that is
1197 encoded as a 32 bit value (DW_FORM_data4).  This allows a single name to have
1198 multiple matching DIEs in a single file, which could come up with an inlined
1199 function for instance.  Future tables could include more information about the
1200 DIE such as flags indicating if the DIE is a function, method, block,
1201 or inlined.
1202
1203 The KeyType for the DWARF table is a 32 bit string table offset into the
1204 ".debug_str" table.  The ".debug_str" is the string table for the DWARF which
1205 may already contain copies of all of the strings.  This helps make sure, with
1206 help from the compiler, that we reuse the strings between all of the DWARF
1207 sections and keeps the hash table size down.  Another benefit to having the
1208 compiler generate all strings as DW_FORM_strp in the debug info, is that
1209 DWARF parsing can be made much faster.
1210
1211 After a lookup is made, we get an offset into the hash data.  The hash data
1212 needs to be able to deal with 32 bit hash collisions, so the chunk of data
1213 at the offset in the hash data consists of a triple:
1214
1215 .. code-block:: c
1216
1217   uint32_t str_offset
1218   uint32_t hash_data_count
1219   HashData[hash_data_count]
1220
1221 If "str_offset" is zero, then the bucket contents are done. 99.9% of the
1222 hash data chunks contain a single item (no 32 bit hash collision):
1223
1224 .. code-block:: none
1225
1226   .------------.
1227   | 0x00001023 | uint32_t KeyType (.debug_str[0x0001023] => "main")
1228   | 0x00000004 | uint32_t HashData count
1229   | 0x........ | uint32_t HashData[0] DIE offset
1230   | 0x........ | uint32_t HashData[1] DIE offset
1231   | 0x........ | uint32_t HashData[2] DIE offset
1232   | 0x........ | uint32_t HashData[3] DIE offset
1233   | 0x00000000 | uint32_t KeyType (end of hash chain)
1234   `------------'
1235
1236 If there are collisions, you will have multiple valid string offsets:
1237
1238 .. code-block:: none
1239
1240   .------------.
1241   | 0x00001023 | uint32_t KeyType (.debug_str[0x0001023] => "main")
1242   | 0x00000004 | uint32_t HashData count
1243   | 0x........ | uint32_t HashData[0] DIE offset
1244   | 0x........ | uint32_t HashData[1] DIE offset
1245   | 0x........ | uint32_t HashData[2] DIE offset
1246   | 0x........ | uint32_t HashData[3] DIE offset
1247   | 0x00002023 | uint32_t KeyType (.debug_str[0x0002023] => "print")
1248   | 0x00000002 | uint32_t HashData count
1249   | 0x........ | uint32_t HashData[0] DIE offset
1250   | 0x........ | uint32_t HashData[1] DIE offset
1251   | 0x00000000 | uint32_t KeyType (end of hash chain)
1252   `------------'
1253
1254 Current testing with real world C++ binaries has shown that there is around 1
1255 32 bit hash collision per 100,000 name entries.
1256
1257 Contents
1258 ^^^^^^^^
1259
1260 As we said, we want to strictly define exactly what is included in the
1261 different tables.  For DWARF, we have 3 tables: "``.apple_names``",
1262 "``.apple_types``", and "``.apple_namespaces``".
1263
1264 "``.apple_names``" sections should contain an entry for each DWARF DIE whose
1265 ``DW_TAG`` is a ``DW_TAG_label``, ``DW_TAG_inlined_subroutine``, or
1266 ``DW_TAG_subprogram`` that has address attributes: ``DW_AT_low_pc``,
1267 ``DW_AT_high_pc``, ``DW_AT_ranges`` or ``DW_AT_entry_pc``.  It also contains
1268 ``DW_TAG_variable`` DIEs that have a ``DW_OP_addr`` in the location (global and
1269 static variables).  All global and static variables should be included,
1270 including those scoped within functions and classes.  For example using the
1271 following code:
1272
1273 .. code-block:: c
1274
1275   static int var = 0;
1276
1277   void f ()
1278   {
1279     static int var = 0;
1280   }
1281
1282 Both of the static ``var`` variables would be included in the table.  All
1283 functions should emit both their full names and their basenames.  For C or C++,
1284 the full name is the mangled name (if available) which is usually in the
1285 ``DW_AT_MIPS_linkage_name`` attribute, and the ``DW_AT_name`` contains the
1286 function basename.  If global or static variables have a mangled name in a
1287 ``DW_AT_MIPS_linkage_name`` attribute, this should be emitted along with the
1288 simple name found in the ``DW_AT_name`` attribute.
1289
1290 "``.apple_types``" sections should contain an entry for each DWARF DIE whose
1291 tag is one of:
1292
1293 * DW_TAG_array_type
1294 * DW_TAG_class_type
1295 * DW_TAG_enumeration_type
1296 * DW_TAG_pointer_type
1297 * DW_TAG_reference_type
1298 * DW_TAG_string_type
1299 * DW_TAG_structure_type
1300 * DW_TAG_subroutine_type
1301 * DW_TAG_typedef
1302 * DW_TAG_union_type
1303 * DW_TAG_ptr_to_member_type
1304 * DW_TAG_set_type
1305 * DW_TAG_subrange_type
1306 * DW_TAG_base_type
1307 * DW_TAG_const_type
1308 * DW_TAG_file_type
1309 * DW_TAG_namelist
1310 * DW_TAG_packed_type
1311 * DW_TAG_volatile_type
1312 * DW_TAG_restrict_type
1313 * DW_TAG_atomic_type
1314 * DW_TAG_interface_type
1315 * DW_TAG_unspecified_type
1316 * DW_TAG_shared_type
1317
1318 Only entries with a ``DW_AT_name`` attribute are included, and the entry must
1319 not be a forward declaration (``DW_AT_declaration`` attribute with a non-zero
1320 value).  For example, using the following code:
1321
1322 .. code-block:: c
1323
1324   int main ()
1325   {
1326     int *b = 0;
1327     return *b;
1328   }
1329
1330 We get a few type DIEs:
1331
1332 .. code-block:: none
1333
1334   0x00000067:     TAG_base_type [5]
1335                   AT_encoding( DW_ATE_signed )
1336                   AT_name( "int" )
1337                   AT_byte_size( 0x04 )
1338
1339   0x0000006e:     TAG_pointer_type [6]
1340                   AT_type( {0x00000067} ( int ) )
1341                   AT_byte_size( 0x08 )
1342
1343 The DW_TAG_pointer_type is not included because it does not have a ``DW_AT_name``.
1344
1345 "``.apple_namespaces``" section should contain all ``DW_TAG_namespace`` DIEs.
1346 If we run into a namespace that has no name this is an anonymous namespace, and
1347 the name should be output as "``(anonymous namespace)``" (without the quotes).
1348 Why?  This matches the output of the ``abi::cxa_demangle()`` that is in the
1349 standard C++ library that demangles mangled names.
1350
1351
1352 Language Extensions and File Format Changes
1353 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1354
1355 Objective-C Extensions
1356 """"""""""""""""""""""
1357
1358 "``.apple_objc``" section should contain all ``DW_TAG_subprogram`` DIEs for an
1359 Objective-C class.  The name used in the hash table is the name of the
1360 Objective-C class itself.  If the Objective-C class has a category, then an
1361 entry is made for both the class name without the category, and for the class
1362 name with the category.  So if we have a DIE at offset 0x1234 with a name of
1363 method "``-[NSString(my_additions) stringWithSpecialString:]``", we would add
1364 an entry for "``NSString``" that points to DIE 0x1234, and an entry for
1365 "``NSString(my_additions)``" that points to 0x1234.  This allows us to quickly
1366 track down all Objective-C methods for an Objective-C class when doing
1367 expressions.  It is needed because of the dynamic nature of Objective-C where
1368 anyone can add methods to a class.  The DWARF for Objective-C methods is also
1369 emitted differently from C++ classes where the methods are not usually
1370 contained in the class definition, they are scattered about across one or more
1371 compile units.  Categories can also be defined in different shared libraries.
1372 So we need to be able to quickly find all of the methods and class functions
1373 given the Objective-C class name, or quickly find all methods and class
1374 functions for a class + category name.  This table does not contain any
1375 selector names, it just maps Objective-C class names (or class names +
1376 category) to all of the methods and class functions.  The selectors are added
1377 as function basenames in the "``.debug_names``" section.
1378
1379 In the "``.apple_names``" section for Objective-C functions, the full name is
1380 the entire function name with the brackets ("``-[NSString
1381 stringWithCString:]``") and the basename is the selector only
1382 ("``stringWithCString:``").
1383
1384 Mach-O Changes
1385 """"""""""""""
1386
1387 The sections names for the apple hash tables are for non-mach-o files.  For
1388 mach-o files, the sections should be contained in the ``__DWARF`` segment with
1389 names as follows:
1390
1391 * "``.apple_names``" -> "``__apple_names``"
1392 * "``.apple_types``" -> "``__apple_types``"
1393 * "``.apple_namespaces``" -> "``__apple_namespac``" (16 character limit)
1394 * "``.apple_objc``" -> "``__apple_objc``"
1395
1396 .. _codeview:
1397
1398 CodeView Debug Info Format
1399 ==========================
1400
1401 LLVM supports emitting CodeView, the Microsoft debug info format, and this
1402 section describes the design and implementation of that support.
1403
1404 Format Background
1405 -----------------
1406
1407 CodeView as a format is clearly oriented around C++ debugging, and in C++, the
1408 majority of debug information tends to be type information. Therefore, the
1409 overriding design constraint of CodeView is the separation of type information
1410 from other "symbol" information so that type information can be efficiently
1411 merged across translation units. Both type information and symbol information is
1412 generally stored as a sequence of records, where each record begins with a
1413 16-bit record size and a 16-bit record kind.
1414
1415 Type information is usually stored in the ``.debug$T`` section of the object
1416 file.  All other debug info, such as line info, string table, symbol info, and
1417 inlinee info, is stored in one or more ``.debug$S`` sections. There may only be
1418 one ``.debug$T`` section per object file, since all other debug info refers to
1419 it. If a PDB (enabled by the ``/Zi`` MSVC option) was used during compilation,
1420 the ``.debug$T`` section will contain only an ``LF_TYPESERVER2`` record pointing
1421 to the PDB. When using PDBs, symbol information appears to remain in the object
1422 file ``.debug$S`` sections.
1423
1424 Type records are referred to by their index, which is the number of records in
1425 the stream before a given record plus ``0x1000``. Many common basic types, such
1426 as the basic integral types and unqualified pointers to them, are represented
1427 using type indices less than ``0x1000``. Such basic types are built in to
1428 CodeView consumers and do not require type records.
1429
1430 Each type record may only contain type indices that are less than its own type
1431 index. This ensures that the graph of type stream references is acyclic. While
1432 the source-level type graph may contain cycles through pointer types (consider a
1433 linked list struct), these cycles are removed from the type stream by always
1434 referring to the forward declaration record of user-defined record types. Only
1435 "symbol" records in the ``.debug$S`` streams may refer to complete,
1436 non-forward-declaration type records.
1437
1438 Working with CodeView
1439 ---------------------
1440
1441 These are instructions for some common tasks for developers working to improve
1442 LLVM's CodeView support. Most of them revolve around using the CodeView dumper
1443 embedded in ``llvm-readobj``.
1444
1445 * Testing MSVC's output::
1446
1447     $ cl -c -Z7 foo.cpp # Use /Z7 to keep types in the object file
1448     $ llvm-readobj -codeview foo.obj
1449
1450 * Getting LLVM IR debug info out of Clang::
1451
1452     $ clang -g -gcodeview --target=x86_64-windows-msvc foo.cpp -S -emit-llvm
1453
1454   Use this to generate LLVM IR for LLVM test cases.
1455
1456 * Generate and dump CodeView from LLVM IR metadata::
1457
1458     $ llc foo.ll -filetype=obj -o foo.obj
1459     $ llvm-readobj -codeview foo.obj > foo.txt
1460
1461   Use this pattern in lit test cases and FileCheck the output of llvm-readobj
1462
1463 Improving LLVM's CodeView support is a process of finding interesting type
1464 records, constructing a C++ test case that makes MSVC emit those records,
1465 dumping the records, understanding them, and then generating equivalent records
1466 in LLVM's backend.