OSDN Git Service

new repo
[bytom/vapor.git] / vendor / golang.org / x / text / language / language.go
1 // Copyright 2013 The Go Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style
3 // license that can be found in the LICENSE file.
4
5 //go:generate go run gen.go gen_common.go -output tables.go
6 //go:generate go run gen_index.go
7
8 package language
9
10 // TODO: Remove above NOTE after:
11 // - verifying that tables are dropped correctly (most notably matcher tables).
12
13 import (
14         "errors"
15         "fmt"
16         "strings"
17 )
18
19 const (
20         // maxCoreSize is the maximum size of a BCP 47 tag without variants and
21         // extensions. Equals max lang (3) + script (4) + max reg (3) + 2 dashes.
22         maxCoreSize = 12
23
24         // max99thPercentileSize is a somewhat arbitrary buffer size that presumably
25         // is large enough to hold at least 99% of the BCP 47 tags.
26         max99thPercentileSize = 32
27
28         // maxSimpleUExtensionSize is the maximum size of a -u extension with one
29         // key-type pair. Equals len("-u-") + key (2) + dash + max value (8).
30         maxSimpleUExtensionSize = 14
31 )
32
33 // Tag represents a BCP 47 language tag. It is used to specify an instance of a
34 // specific language or locale. All language tag values are guaranteed to be
35 // well-formed.
36 type Tag struct {
37         lang   langID
38         region regionID
39         // TODO: we will soon run out of positions for script. Idea: instead of
40         // storing lang, region, and script codes, store only the compact index and
41         // have a lookup table from this code to its expansion. This greatly speeds
42         // up table lookup, speed up common variant cases.
43         // This will also immediately free up 3 extra bytes. Also, the pVariant
44         // field can now be moved to the lookup table, as the compact index uniquely
45         // determines the offset of a possible variant.
46         script   scriptID
47         pVariant byte   // offset in str, includes preceding '-'
48         pExt     uint16 // offset of first extension, includes preceding '-'
49
50         // str is the string representation of the Tag. It will only be used if the
51         // tag has variants or extensions.
52         str string
53 }
54
55 // Make is a convenience wrapper for Parse that omits the error.
56 // In case of an error, a sensible default is returned.
57 func Make(s string) Tag {
58         return Default.Make(s)
59 }
60
61 // Make is a convenience wrapper for c.Parse that omits the error.
62 // In case of an error, a sensible default is returned.
63 func (c CanonType) Make(s string) Tag {
64         t, _ := c.Parse(s)
65         return t
66 }
67
68 // Raw returns the raw base language, script and region, without making an
69 // attempt to infer their values.
70 func (t Tag) Raw() (b Base, s Script, r Region) {
71         return Base{t.lang}, Script{t.script}, Region{t.region}
72 }
73
74 // equalTags compares language, script and region subtags only.
75 func (t Tag) equalTags(a Tag) bool {
76         return t.lang == a.lang && t.script == a.script && t.region == a.region
77 }
78
79 // IsRoot returns true if t is equal to language "und".
80 func (t Tag) IsRoot() bool {
81         if int(t.pVariant) < len(t.str) {
82                 return false
83         }
84         return t.equalTags(und)
85 }
86
87 // private reports whether the Tag consists solely of a private use tag.
88 func (t Tag) private() bool {
89         return t.str != "" && t.pVariant == 0
90 }
91
92 // CanonType can be used to enable or disable various types of canonicalization.
93 type CanonType int
94
95 const (
96         // Replace deprecated base languages with their preferred replacements.
97         DeprecatedBase CanonType = 1 << iota
98         // Replace deprecated scripts with their preferred replacements.
99         DeprecatedScript
100         // Replace deprecated regions with their preferred replacements.
101         DeprecatedRegion
102         // Remove redundant scripts.
103         SuppressScript
104         // Normalize legacy encodings. This includes legacy languages defined in
105         // CLDR as well as bibliographic codes defined in ISO-639.
106         Legacy
107         // Map the dominant language of a macro language group to the macro language
108         // subtag. For example cmn -> zh.
109         Macro
110         // The CLDR flag should be used if full compatibility with CLDR is required.
111         // There are a few cases where language.Tag may differ from CLDR. To follow all
112         // of CLDR's suggestions, use All|CLDR.
113         CLDR
114
115         // Raw can be used to Compose or Parse without Canonicalization.
116         Raw CanonType = 0
117
118         // Replace all deprecated tags with their preferred replacements.
119         Deprecated = DeprecatedBase | DeprecatedScript | DeprecatedRegion
120
121         // All canonicalizations recommended by BCP 47.
122         BCP47 = Deprecated | SuppressScript
123
124         // All canonicalizations.
125         All = BCP47 | Legacy | Macro
126
127         // Default is the canonicalization used by Parse, Make and Compose. To
128         // preserve as much information as possible, canonicalizations that remove
129         // potentially valuable information are not included. The Matcher is
130         // designed to recognize similar tags that would be the same if
131         // they were canonicalized using All.
132         Default = Deprecated | Legacy
133
134         canonLang = DeprecatedBase | Legacy | Macro
135
136         // TODO: LikelyScript, LikelyRegion: suppress similar to ICU.
137 )
138
139 // canonicalize returns the canonicalized equivalent of the tag and
140 // whether there was any change.
141 func (t Tag) canonicalize(c CanonType) (Tag, bool) {
142         if c == Raw {
143                 return t, false
144         }
145         changed := false
146         if c&SuppressScript != 0 {
147                 if t.lang < langNoIndexOffset && uint8(t.script) == suppressScript[t.lang] {
148                         t.script = 0
149                         changed = true
150                 }
151         }
152         if c&canonLang != 0 {
153                 for {
154                         if l, aliasType := normLang(t.lang); l != t.lang {
155                                 switch aliasType {
156                                 case langLegacy:
157                                         if c&Legacy != 0 {
158                                                 if t.lang == _sh && t.script == 0 {
159                                                         t.script = _Latn
160                                                 }
161                                                 t.lang = l
162                                                 changed = true
163                                         }
164                                 case langMacro:
165                                         if c&Macro != 0 {
166                                                 // We deviate here from CLDR. The mapping "nb" -> "no"
167                                                 // qualifies as a typical Macro language mapping.  However,
168                                                 // for legacy reasons, CLDR maps "no", the macro language
169                                                 // code for Norwegian, to the dominant variant "nb". This
170                                                 // change is currently under consideration for CLDR as well.
171                                                 // See http://unicode.org/cldr/trac/ticket/2698 and also
172                                                 // http://unicode.org/cldr/trac/ticket/1790 for some of the
173                                                 // practical implications. TODO: this check could be removed
174                                                 // if CLDR adopts this change.
175                                                 if c&CLDR == 0 || t.lang != _nb {
176                                                         changed = true
177                                                         t.lang = l
178                                                 }
179                                         }
180                                 case langDeprecated:
181                                         if c&DeprecatedBase != 0 {
182                                                 if t.lang == _mo && t.region == 0 {
183                                                         t.region = _MD
184                                                 }
185                                                 t.lang = l
186                                                 changed = true
187                                                 // Other canonicalization types may still apply.
188                                                 continue
189                                         }
190                                 }
191                         } else if c&Legacy != 0 && t.lang == _no && c&CLDR != 0 {
192                                 t.lang = _nb
193                                 changed = true
194                         }
195                         break
196                 }
197         }
198         if c&DeprecatedScript != 0 {
199                 if t.script == _Qaai {
200                         changed = true
201                         t.script = _Zinh
202                 }
203         }
204         if c&DeprecatedRegion != 0 {
205                 if r := normRegion(t.region); r != 0 {
206                         changed = true
207                         t.region = r
208                 }
209         }
210         return t, changed
211 }
212
213 // Canonicalize returns the canonicalized equivalent of the tag.
214 func (c CanonType) Canonicalize(t Tag) (Tag, error) {
215         t, changed := t.canonicalize(c)
216         if changed {
217                 t.remakeString()
218         }
219         return t, nil
220 }
221
222 // Confidence indicates the level of certainty for a given return value.
223 // For example, Serbian may be written in Cyrillic or Latin script.
224 // The confidence level indicates whether a value was explicitly specified,
225 // whether it is typically the only possible value, or whether there is
226 // an ambiguity.
227 type Confidence int
228
229 const (
230         No    Confidence = iota // full confidence that there was no match
231         Low                     // most likely value picked out of a set of alternatives
232         High                    // value is generally assumed to be the correct match
233         Exact                   // exact match or explicitly specified value
234 )
235
236 var confName = []string{"No", "Low", "High", "Exact"}
237
238 func (c Confidence) String() string {
239         return confName[c]
240 }
241
242 // remakeString is used to update t.str in case lang, script or region changed.
243 // It is assumed that pExt and pVariant still point to the start of the
244 // respective parts.
245 func (t *Tag) remakeString() {
246         if t.str == "" {
247                 return
248         }
249         extra := t.str[t.pVariant:]
250         if t.pVariant > 0 {
251                 extra = extra[1:]
252         }
253         if t.equalTags(und) && strings.HasPrefix(extra, "x-") {
254                 t.str = extra
255                 t.pVariant = 0
256                 t.pExt = 0
257                 return
258         }
259         var buf [max99thPercentileSize]byte // avoid extra memory allocation in most cases.
260         b := buf[:t.genCoreBytes(buf[:])]
261         if extra != "" {
262                 diff := len(b) - int(t.pVariant)
263                 b = append(b, '-')
264                 b = append(b, extra...)
265                 t.pVariant = uint8(int(t.pVariant) + diff)
266                 t.pExt = uint16(int(t.pExt) + diff)
267         } else {
268                 t.pVariant = uint8(len(b))
269                 t.pExt = uint16(len(b))
270         }
271         t.str = string(b)
272 }
273
274 // genCoreBytes writes a string for the base languages, script and region tags
275 // to the given buffer and returns the number of bytes written. It will never
276 // write more than maxCoreSize bytes.
277 func (t *Tag) genCoreBytes(buf []byte) int {
278         n := t.lang.stringToBuf(buf[:])
279         if t.script != 0 {
280                 n += copy(buf[n:], "-")
281                 n += copy(buf[n:], t.script.String())
282         }
283         if t.region != 0 {
284                 n += copy(buf[n:], "-")
285                 n += copy(buf[n:], t.region.String())
286         }
287         return n
288 }
289
290 // String returns the canonical string representation of the language tag.
291 func (t Tag) String() string {
292         if t.str != "" {
293                 return t.str
294         }
295         if t.script == 0 && t.region == 0 {
296                 return t.lang.String()
297         }
298         buf := [maxCoreSize]byte{}
299         return string(buf[:t.genCoreBytes(buf[:])])
300 }
301
302 // Base returns the base language of the language tag. If the base language is
303 // unspecified, an attempt will be made to infer it from the context.
304 // It uses a variant of CLDR's Add Likely Subtags algorithm. This is subject to change.
305 func (t Tag) Base() (Base, Confidence) {
306         if t.lang != 0 {
307                 return Base{t.lang}, Exact
308         }
309         c := High
310         if t.script == 0 && !(Region{t.region}).IsCountry() {
311                 c = Low
312         }
313         if tag, err := addTags(t); err == nil && tag.lang != 0 {
314                 return Base{tag.lang}, c
315         }
316         return Base{0}, No
317 }
318
319 // Script infers the script for the language tag. If it was not explicitly given, it will infer
320 // a most likely candidate.
321 // If more than one script is commonly used for a language, the most likely one
322 // is returned with a low confidence indication. For example, it returns (Cyrl, Low)
323 // for Serbian.
324 // If a script cannot be inferred (Zzzz, No) is returned. We do not use Zyyy (undetermined)
325 // as one would suspect from the IANA registry for BCP 47. In a Unicode context Zyyy marks
326 // common characters (like 1, 2, 3, '.', etc.) and is therefore more like multiple scripts.
327 // See http://www.unicode.org/reports/tr24/#Values for more details. Zzzz is also used for
328 // unknown value in CLDR.  (Zzzz, Exact) is returned if Zzzz was explicitly specified.
329 // Note that an inferred script is never guaranteed to be the correct one. Latin is
330 // almost exclusively used for Afrikaans, but Arabic has been used for some texts
331 // in the past.  Also, the script that is commonly used may change over time.
332 // It uses a variant of CLDR's Add Likely Subtags algorithm. This is subject to change.
333 func (t Tag) Script() (Script, Confidence) {
334         if t.script != 0 {
335                 return Script{t.script}, Exact
336         }
337         sc, c := scriptID(_Zzzz), No
338         if t.lang < langNoIndexOffset {
339                 if scr := scriptID(suppressScript[t.lang]); scr != 0 {
340                         // Note: it is not always the case that a language with a suppress
341                         // script value is only written in one script (e.g. kk, ms, pa).
342                         if t.region == 0 {
343                                 return Script{scriptID(scr)}, High
344                         }
345                         sc, c = scr, High
346                 }
347         }
348         if tag, err := addTags(t); err == nil {
349                 if tag.script != sc {
350                         sc, c = tag.script, Low
351                 }
352         } else {
353                 t, _ = (Deprecated | Macro).Canonicalize(t)
354                 if tag, err := addTags(t); err == nil && tag.script != sc {
355                         sc, c = tag.script, Low
356                 }
357         }
358         return Script{sc}, c
359 }
360
361 // Region returns the region for the language tag. If it was not explicitly given, it will
362 // infer a most likely candidate from the context.
363 // It uses a variant of CLDR's Add Likely Subtags algorithm. This is subject to change.
364 func (t Tag) Region() (Region, Confidence) {
365         if t.region != 0 {
366                 return Region{t.region}, Exact
367         }
368         if t, err := addTags(t); err == nil {
369                 return Region{t.region}, Low // TODO: differentiate between high and low.
370         }
371         t, _ = (Deprecated | Macro).Canonicalize(t)
372         if tag, err := addTags(t); err == nil {
373                 return Region{tag.region}, Low
374         }
375         return Region{_ZZ}, No // TODO: return world instead of undetermined?
376 }
377
378 // Variant returns the variants specified explicitly for this language tag.
379 // or nil if no variant was specified.
380 func (t Tag) Variants() []Variant {
381         v := []Variant{}
382         if int(t.pVariant) < int(t.pExt) {
383                 for x, str := "", t.str[t.pVariant:t.pExt]; str != ""; {
384                         x, str = nextToken(str)
385                         v = append(v, Variant{x})
386                 }
387         }
388         return v
389 }
390
391 // Parent returns the CLDR parent of t. In CLDR, missing fields in data for a
392 // specific language are substituted with fields from the parent language.
393 // The parent for a language may change for newer versions of CLDR.
394 func (t Tag) Parent() Tag {
395         if t.str != "" {
396                 // Strip the variants and extensions.
397                 t, _ = Raw.Compose(t.Raw())
398                 if t.region == 0 && t.script != 0 && t.lang != 0 {
399                         base, _ := addTags(Tag{lang: t.lang})
400                         if base.script == t.script {
401                                 return Tag{lang: t.lang}
402                         }
403                 }
404                 return t
405         }
406         if t.lang != 0 {
407                 if t.region != 0 {
408                         maxScript := t.script
409                         if maxScript == 0 {
410                                 max, _ := addTags(t)
411                                 maxScript = max.script
412                         }
413
414                         for i := range parents {
415                                 if langID(parents[i].lang) == t.lang && scriptID(parents[i].maxScript) == maxScript {
416                                         for _, r := range parents[i].fromRegion {
417                                                 if regionID(r) == t.region {
418                                                         return Tag{
419                                                                 lang:   t.lang,
420                                                                 script: scriptID(parents[i].script),
421                                                                 region: regionID(parents[i].toRegion),
422                                                         }
423                                                 }
424                                         }
425                                 }
426                         }
427
428                         // Strip the script if it is the default one.
429                         base, _ := addTags(Tag{lang: t.lang})
430                         if base.script != maxScript {
431                                 return Tag{lang: t.lang, script: maxScript}
432                         }
433                         return Tag{lang: t.lang}
434                 } else if t.script != 0 {
435                         // The parent for an base-script pair with a non-default script is
436                         // "und" instead of the base language.
437                         base, _ := addTags(Tag{lang: t.lang})
438                         if base.script != t.script {
439                                 return und
440                         }
441                         return Tag{lang: t.lang}
442                 }
443         }
444         return und
445 }
446
447 // returns token t and the rest of the string.
448 func nextToken(s string) (t, tail string) {
449         p := strings.Index(s[1:], "-")
450         if p == -1 {
451                 return s[1:], ""
452         }
453         p++
454         return s[1:p], s[p:]
455 }
456
457 // Extension is a single BCP 47 extension.
458 type Extension struct {
459         s string
460 }
461
462 // String returns the string representation of the extension, including the
463 // type tag.
464 func (e Extension) String() string {
465         return e.s
466 }
467
468 // ParseExtension parses s as an extension and returns it on success.
469 func ParseExtension(s string) (e Extension, err error) {
470         scan := makeScannerString(s)
471         var end int
472         if n := len(scan.token); n != 1 {
473                 return Extension{}, errSyntax
474         }
475         scan.toLower(0, len(scan.b))
476         end = parseExtension(&scan)
477         if end != len(s) {
478                 return Extension{}, errSyntax
479         }
480         return Extension{string(scan.b)}, nil
481 }
482
483 // Type returns the one-byte extension type of e. It returns 0 for the zero
484 // exception.
485 func (e Extension) Type() byte {
486         if e.s == "" {
487                 return 0
488         }
489         return e.s[0]
490 }
491
492 // Tokens returns the list of tokens of e.
493 func (e Extension) Tokens() []string {
494         return strings.Split(e.s, "-")
495 }
496
497 // Extension returns the extension of type x for tag t. It will return
498 // false for ok if t does not have the requested extension. The returned
499 // extension will be invalid in this case.
500 func (t Tag) Extension(x byte) (ext Extension, ok bool) {
501         for i := int(t.pExt); i < len(t.str)-1; {
502                 var ext string
503                 i, ext = getExtension(t.str, i)
504                 if ext[0] == x {
505                         return Extension{ext}, true
506                 }
507         }
508         return Extension{}, false
509 }
510
511 // Extensions returns all extensions of t.
512 func (t Tag) Extensions() []Extension {
513         e := []Extension{}
514         for i := int(t.pExt); i < len(t.str)-1; {
515                 var ext string
516                 i, ext = getExtension(t.str, i)
517                 e = append(e, Extension{ext})
518         }
519         return e
520 }
521
522 // TypeForKey returns the type associated with the given key, where key and type
523 // are of the allowed values defined for the Unicode locale extension ('u') in
524 // http://www.unicode.org/reports/tr35/#Unicode_Language_and_Locale_Identifiers.
525 // TypeForKey will traverse the inheritance chain to get the correct value.
526 func (t Tag) TypeForKey(key string) string {
527         if start, end, _ := t.findTypeForKey(key); end != start {
528                 return t.str[start:end]
529         }
530         return ""
531 }
532
533 var (
534         errPrivateUse       = errors.New("cannot set a key on a private use tag")
535         errInvalidArguments = errors.New("invalid key or type")
536 )
537
538 // SetTypeForKey returns a new Tag with the key set to type, where key and type
539 // are of the allowed values defined for the Unicode locale extension ('u') in
540 // http://www.unicode.org/reports/tr35/#Unicode_Language_and_Locale_Identifiers.
541 // An empty value removes an existing pair with the same key.
542 func (t Tag) SetTypeForKey(key, value string) (Tag, error) {
543         if t.private() {
544                 return t, errPrivateUse
545         }
546         if len(key) != 2 {
547                 return t, errInvalidArguments
548         }
549
550         // Remove the setting if value is "".
551         if value == "" {
552                 start, end, _ := t.findTypeForKey(key)
553                 if start != end {
554                         // Remove key tag and leading '-'.
555                         start -= 4
556
557                         // Remove a possible empty extension.
558                         if (end == len(t.str) || t.str[end+2] == '-') && t.str[start-2] == '-' {
559                                 start -= 2
560                         }
561                         if start == int(t.pVariant) && end == len(t.str) {
562                                 t.str = ""
563                                 t.pVariant, t.pExt = 0, 0
564                         } else {
565                                 t.str = fmt.Sprintf("%s%s", t.str[:start], t.str[end:])
566                         }
567                 }
568                 return t, nil
569         }
570
571         if len(value) < 3 || len(value) > 8 {
572                 return t, errInvalidArguments
573         }
574
575         var (
576                 buf    [maxCoreSize + maxSimpleUExtensionSize]byte
577                 uStart int // start of the -u extension.
578         )
579
580         // Generate the tag string if needed.
581         if t.str == "" {
582                 uStart = t.genCoreBytes(buf[:])
583                 buf[uStart] = '-'
584                 uStart++
585         }
586
587         // Create new key-type pair and parse it to verify.
588         b := buf[uStart:]
589         copy(b, "u-")
590         copy(b[2:], key)
591         b[4] = '-'
592         b = b[:5+copy(b[5:], value)]
593         scan := makeScanner(b)
594         if parseExtensions(&scan); scan.err != nil {
595                 return t, scan.err
596         }
597
598         // Assemble the replacement string.
599         if t.str == "" {
600                 t.pVariant, t.pExt = byte(uStart-1), uint16(uStart-1)
601                 t.str = string(buf[:uStart+len(b)])
602         } else {
603                 s := t.str
604                 start, end, hasExt := t.findTypeForKey(key)
605                 if start == end {
606                         if hasExt {
607                                 b = b[2:]
608                         }
609                         t.str = fmt.Sprintf("%s-%s%s", s[:start], b, s[end:])
610                 } else {
611                         t.str = fmt.Sprintf("%s%s%s", s[:start], value, s[end:])
612                 }
613         }
614         return t, nil
615 }
616
617 // findKeyAndType returns the start and end position for the type corresponding
618 // to key or the point at which to insert the key-value pair if the type
619 // wasn't found. The hasExt return value reports whether an -u extension was present.
620 // Note: the extensions are typically very small and are likely to contain
621 // only one key-type pair.
622 func (t Tag) findTypeForKey(key string) (start, end int, hasExt bool) {
623         p := int(t.pExt)
624         if len(key) != 2 || p == len(t.str) || p == 0 {
625                 return p, p, false
626         }
627         s := t.str
628
629         // Find the correct extension.
630         for p++; s[p] != 'u'; p++ {
631                 if s[p] > 'u' {
632                         p--
633                         return p, p, false
634                 }
635                 if p = nextExtension(s, p); p == len(s) {
636                         return len(s), len(s), false
637                 }
638         }
639         // Proceed to the hyphen following the extension name.
640         p++
641
642         // curKey is the key currently being processed.
643         curKey := ""
644
645         // Iterate over keys until we get the end of a section.
646         for {
647                 // p points to the hyphen preceding the current token.
648                 if p3 := p + 3; s[p3] == '-' {
649                         // Found a key.
650                         // Check whether we just processed the key that was requested.
651                         if curKey == key {
652                                 return start, p, true
653                         }
654                         // Set to the next key and continue scanning type tokens.
655                         curKey = s[p+1 : p3]
656                         if curKey > key {
657                                 return p, p, true
658                         }
659                         // Start of the type token sequence.
660                         start = p + 4
661                         // A type is at least 3 characters long.
662                         p += 7 // 4 + 3
663                 } else {
664                         // Attribute or type, which is at least 3 characters long.
665                         p += 4
666                 }
667                 // p points past the third character of a type or attribute.
668                 max := p + 5 // maximum length of token plus hyphen.
669                 if len(s) < max {
670                         max = len(s)
671                 }
672                 for ; p < max && s[p] != '-'; p++ {
673                 }
674                 // Bail if we have exhausted all tokens or if the next token starts
675                 // a new extension.
676                 if p == len(s) || s[p+2] == '-' {
677                         if curKey == key {
678                                 return start, p, true
679                         }
680                         return p, p, true
681                 }
682         }
683 }
684
685 // CompactIndex returns an index, where 0 <= index < NumCompactTags, for tags
686 // for which data exists in the text repository. The index will change over time
687 // and should not be stored in persistent storage. Extensions, except for the
688 // 'va' type of the 'u' extension, are ignored. It will return 0, false if no
689 // compact tag exists, where 0 is the index for the root language (Und).
690 func CompactIndex(t Tag) (index int, ok bool) {
691         // TODO: perhaps give more frequent tags a lower index.
692         // TODO: we could make the indexes stable. This will excluded some
693         //       possibilities for optimization, so don't do this quite yet.
694         b, s, r := t.Raw()
695         if len(t.str) > 0 {
696                 if strings.HasPrefix(t.str, "x-") {
697                         // We have no entries for user-defined tags.
698                         return 0, false
699                 }
700                 if uint16(t.pVariant) != t.pExt {
701                         // There are no tags with variants and an u-va type.
702                         if t.TypeForKey("va") != "" {
703                                 return 0, false
704                         }
705                         t, _ = Raw.Compose(b, s, r, t.Variants())
706                 } else if _, ok := t.Extension('u'); ok {
707                         // Strip all but the 'va' entry.
708                         variant := t.TypeForKey("va")
709                         t, _ = Raw.Compose(b, s, r)
710                         t, _ = t.SetTypeForKey("va", variant)
711                 }
712                 if len(t.str) > 0 {
713                         // We have some variants.
714                         for i, s := range specialTags {
715                                 if s == t {
716                                         return i + 1, true
717                                 }
718                         }
719                         return 0, false
720                 }
721         }
722         // No variants specified: just compare core components.
723         // The key has the form lllssrrr, where l, s, and r are nibbles for
724         // respectively the langID, scriptID, and regionID.
725         key := uint32(b.langID) << (8 + 12)
726         key |= uint32(s.scriptID) << 12
727         key |= uint32(r.regionID)
728         x, ok := coreTags[key]
729         return int(x), ok
730 }
731
732 // Base is an ISO 639 language code, used for encoding the base language
733 // of a language tag.
734 type Base struct {
735         langID
736 }
737
738 // ParseBase parses a 2- or 3-letter ISO 639 code.
739 // It returns a ValueError if s is a well-formed but unknown language identifier
740 // or another error if another error occurred.
741 func ParseBase(s string) (Base, error) {
742         if n := len(s); n < 2 || 3 < n {
743                 return Base{}, errSyntax
744         }
745         var buf [3]byte
746         l, err := getLangID(buf[:copy(buf[:], s)])
747         return Base{l}, err
748 }
749
750 // Script is a 4-letter ISO 15924 code for representing scripts.
751 // It is idiomatically represented in title case.
752 type Script struct {
753         scriptID
754 }
755
756 // ParseScript parses a 4-letter ISO 15924 code.
757 // It returns a ValueError if s is a well-formed but unknown script identifier
758 // or another error if another error occurred.
759 func ParseScript(s string) (Script, error) {
760         if len(s) != 4 {
761                 return Script{}, errSyntax
762         }
763         var buf [4]byte
764         sc, err := getScriptID(script, buf[:copy(buf[:], s)])
765         return Script{sc}, err
766 }
767
768 // Region is an ISO 3166-1 or UN M.49 code for representing countries and regions.
769 type Region struct {
770         regionID
771 }
772
773 // EncodeM49 returns the Region for the given UN M.49 code.
774 // It returns an error if r is not a valid code.
775 func EncodeM49(r int) (Region, error) {
776         rid, err := getRegionM49(r)
777         return Region{rid}, err
778 }
779
780 // ParseRegion parses a 2- or 3-letter ISO 3166-1 or a UN M.49 code.
781 // It returns a ValueError if s is a well-formed but unknown region identifier
782 // or another error if another error occurred.
783 func ParseRegion(s string) (Region, error) {
784         if n := len(s); n < 2 || 3 < n {
785                 return Region{}, errSyntax
786         }
787         var buf [3]byte
788         r, err := getRegionID(buf[:copy(buf[:], s)])
789         return Region{r}, err
790 }
791
792 // IsCountry returns whether this region is a country or autonomous area. This
793 // includes non-standard definitions from CLDR.
794 func (r Region) IsCountry() bool {
795         if r.regionID == 0 || r.IsGroup() || r.IsPrivateUse() && r.regionID != _XK {
796                 return false
797         }
798         return true
799 }
800
801 // IsGroup returns whether this region defines a collection of regions. This
802 // includes non-standard definitions from CLDR.
803 func (r Region) IsGroup() bool {
804         if r.regionID == 0 {
805                 return false
806         }
807         return int(regionInclusion[r.regionID]) < len(regionContainment)
808 }
809
810 // Contains returns whether Region c is contained by Region r. It returns true
811 // if c == r.
812 func (r Region) Contains(c Region) bool {
813         return r.regionID.contains(c.regionID)
814 }
815
816 func (r regionID) contains(c regionID) bool {
817         if r == c {
818                 return true
819         }
820         g := regionInclusion[r]
821         if g >= nRegionGroups {
822                 return false
823         }
824         m := regionContainment[g]
825
826         d := regionInclusion[c]
827         b := regionInclusionBits[d]
828
829         // A contained country may belong to multiple disjoint groups. Matching any
830         // of these indicates containment. If the contained region is a group, it
831         // must strictly be a subset.
832         if d >= nRegionGroups {
833                 return b&m != 0
834         }
835         return b&^m == 0
836 }
837
838 var errNoTLD = errors.New("language: region is not a valid ccTLD")
839
840 // TLD returns the country code top-level domain (ccTLD). UK is returned for GB.
841 // In all other cases it returns either the region itself or an error.
842 //
843 // This method may return an error for a region for which there exists a
844 // canonical form with a ccTLD. To get that ccTLD canonicalize r first. The
845 // region will already be canonicalized it was obtained from a Tag that was
846 // obtained using any of the default methods.
847 func (r Region) TLD() (Region, error) {
848         // See http://en.wikipedia.org/wiki/Country_code_top-level_domain for the
849         // difference between ISO 3166-1 and IANA ccTLD.
850         if r.regionID == _GB {
851                 r = Region{_UK}
852         }
853         if (r.typ() & ccTLD) == 0 {
854                 return Region{}, errNoTLD
855         }
856         return r, nil
857 }
858
859 // Canonicalize returns the region or a possible replacement if the region is
860 // deprecated. It will not return a replacement for deprecated regions that
861 // are split into multiple regions.
862 func (r Region) Canonicalize() Region {
863         if cr := normRegion(r.regionID); cr != 0 {
864                 return Region{cr}
865         }
866         return r
867 }
868
869 // Variant represents a registered variant of a language as defined by BCP 47.
870 type Variant struct {
871         variant string
872 }
873
874 // ParseVariant parses and returns a Variant. An error is returned if s is not
875 // a valid variant.
876 func ParseVariant(s string) (Variant, error) {
877         s = strings.ToLower(s)
878         if _, ok := variantIndex[s]; ok {
879                 return Variant{s}, nil
880         }
881         return Variant{}, mkErrInvalid([]byte(s))
882 }
883
884 // String returns the string representation of the variant.
885 func (v Variant) String() string {
886         return v.variant
887 }