src/luatexja.lua

   1
   2 require('lualibs')
   3
   4 ------------------------------------------------------------------------
   5 -- naming:
   6 --    ext_... : called from \directlua{}
   7 --    int_... : called from other Lua codes, but not from \directlua{}
   8 --    (other)     : only called from this file
   9 function luatexja.load_module(name)
  10    require('ltj-' .. name.. '.lua')
  11 end
  12 function luatexja.load_lua(fn)
  13    local found = kpse.find_file(fn, 'tex')
  14    if not found then
  15       tex.error("LuaTeX-ja error: File `" .. fn .. "' not found")
  16    else
  17       texio.write_nl('(' .. found .. ')')
  18       dofile(found)
  19    end
  20 end
  21
  22 -- check token library
  23 if newtoken then
  24    luatexja.token = newtoken
  25 else
  26    local luatex_version = status.list().luatex_version
  27    if luatex_version >80 then
  28       luatexja.token = token
  29    end
  30 end
  31
  32 --- 以下は全ファイルで共有される定数
  33 local icflag_table = {}
  34 luatexja.icflag_table = icflag_table
  35 icflag_table.ITALIC          = 1
  36 icflag_table.PACKED          = 2
  37 icflag_table.KINSOKU         = 3
  38 icflag_table.FROM_JFM        = 6
  39 -- FROM_JFM: 4, 5, 6, 7, 8 →優先度高（伸びやすく，縮みやすい）
  40 -- 6 が標準
  41 icflag_table.KANJI_SKIP      = 9
  42 icflag_table.KANJI_SKIP_JFM  = 10
  43 icflag_table.XKANJI_SKIP     = 11
  44 icflag_table.XKANJI_SKIP_JFM = 12
  45 icflag_table.PROCESSED       = 13
  46 icflag_table.IC_PROCESSED    = 14
  47 icflag_table.BOXBDD          = 15
  48 icflag_table.PROCESSED_BEGIN_FLAG = 128
  49
  50 local stack_table_index = {}
  51 luatexja.stack_table_index = stack_table_index
  52 stack_table_index.PRE  = 0x200000 -- characterごと
  53 stack_table_index.POST = 0x400000 -- characterごと
  54 stack_table_index.KCAT = 0x600000 -- characterごと
  55 stack_table_index.XSP  = 0x800000 -- characterごと
  56 stack_table_index.RIPRE  = 0xA00000 -- characterごと，ruby pre
  57 stack_table_index.RIPOST = 0xC00000 -- characterごと，ruby post
  58 stack_table_index.JWP  = 0 -- これだけ
  59 stack_table_index.KSK  = 1 -- これだけ
  60 stack_table_index.XSK  = 2 -- これだけ
  61 stack_table_index.MJT  = 0x100 -- 0--255
  62 stack_table_index.MJS  = 0x200 -- 0--255
  63 stack_table_index.MJSS = 0x300 -- 0--255
  64 stack_table_index.KSJ  = 0x400 -- 0--9
  65
  66 local userid_table = {}
  67 luatexja.userid_table = userid_table
  68 userid_table.IHB  = luatexbase.newuserwhatsitid('inhibitglue',  'luatexja') -- \inhibitglue
  69 userid_table.STCK = luatexbase.newuserwhatsitid('stack_marker', 'luatexja') -- スタック管理
  70 userid_table.BPAR = luatexbase.newuserwhatsitid('begin_par',    'luatexja') -- 「段落始め」
  71 userid_table.DIR  = luatexbase.newuserwhatsitid('direction',    'luatexja') -- 組方向
  72
  73 local dir_table = {}
  74 luatexja.dir_table = dir_table
  75 dir_table.dir_dtou = 1
  76 dir_table.dir_tate = 3
  77 dir_table.dir_yoko = 4
  78 dir_table.dir_math_mod    = 8
  79 dir_table.dir_node_auto   = 128 -- 組方向を合わせるために自動で作られたもの
  80 dir_table.dir_node_manual = 256 -- 寸法代入によって作られたもの
  81 dir_table.dir_utod = dir_table.dir_tate + dir_table.dir_math_mod
  82    -- 「縦数式ディレクション」 in pTeX
  83 --- 定義終わり
  84
  85 local load_module = luatexja.load_module
  86 load_module('base');      local ltjb = luatexja.base
  87 load_module('rmlgbm');    local ltjr = luatexja.rmlgbm -- must be 1st
  88
  89 if luatexja_debug then load_module('debug') end
  90
  91 load_module('charrange'); local ltjc = luatexja.charrange
  92 load_module('stack');     local ltjs = luatexja.stack
  93 load_module('direction'); local ltjd = luatexja.direction -- +1 hlist +1 attr_list
  94 load_module('jfont');     local ltjf = luatexja.jfont
  95 load_module('inputbuf');  local ltji = luatexja.inputbuf
  96 load_module('pretreat');  local ltjp = luatexja.pretreat
  97 load_module('setwidth');  local ltjw = luatexja.setwidth
  98 load_module('jfmglue');   local ltjj = luatexja.jfmglue -- +1 glue +1 gs +1 attr_list
  99 load_module('math');      local ltjm = luatexja.math
 100 load_module('tangle');    local ltjb = luatexja.base
 101
 102
 103 local attr_jchar_class = luatexbase.attributes['ltj@charclass']
 104 local attr_jchar_code = luatexbase.attributes['ltj@charcode']
 105 local attr_curjfnt = luatexbase.attributes['ltj@curjfnt']
 106 local attr_yablshift = luatexbase.attributes['ltj@yablshift']
 107 local attr_icflag = luatexbase.attributes['ltj@icflag']
 108 local attr_uniqid = luatexbase.attributes['ltj@uniqid']
 109 local attr_dir = luatexbase.attributes['ltj@dir']
 110 local cat_lp = luatexbase.catcodetables['latex-package']
 111
 112 -- Three aux. functions, bollowed from tex.web
 113
 114 local unity=65536
 115 local floor = math.floor
 116
 117 local function print_scaled(s)
 118    local out=''
 119    local delta=10
 120    if s<0 then
 121       out=out..'-'; s=-s
 122    end
 123    out=out..tostring(floor(s/unity)) .. '.'
 124    s=10*(s%unity)+5
 125    repeat
 126       if delta>unity then s=s+32768-50000 end
 127       out=out .. tostring(floor(s/unity))
 128       s=10*(s%unity)
 129       delta=delta*10
 130    until s<=delta
 131    return out
 132 end
 133
 134 local function print_glue(d,order)
 135    local out=print_scaled(d)
 136    if order>0 then
 137       out=out..'fi'
 138       while order>1 do
 139          out=out..'l'; order=order-1
 140       end
 141    else
 142       out=out..'pt'
 143    end
 144    return out
 145 end
 146
 147 local function print_spec(p)
 148    local out=print_scaled(p.width)..'pt'
 149    if p.stretch~=0 then
 150       out=out..' plus '..print_glue(p.stretch,p.stretch_order)
 151    end
 152    if p.shrink~=0 then
 153       out=out..' minus '..print_glue(p.shrink,p.shrink_order)
 154    end
 155 return out
 156 end
 157
 158
 159 ------------------------------------------------------------------------
 160 -- CODE FOR GETTING/SETTING PARAMETERS
 161 ------------------------------------------------------------------------
 162
 163 -- EXT: print parameters that don't need arguments
 164 do
 165    luatexja.unary_pars = {
 166       yalbaselineshift = function(t)
 167          return print_scaled(tex.getattribute('ltj@yablshift'))..'pt'
 168       end,
 169       yjabaselineshift = function(t)
 170          return print_scaled(tex.getattribute('ltj@ykblshift'))..'pt'
 171       end,
 172       talbaselineshift = function(t)
 173          return print_scaled(tex.getattribute('ltj@tablshift'))..'pt'
 174       end,
 175       tjabaselineshift = function(t)
 176          return print_scaled(tex.getattribute('ltj@tkblshift'))..'pt'
 177       end,
 178       kanjiskip = function(t)
 179          return print_spec(ltjs.get_stack_skip(stack_table_index.KSK, t))
 180       end,
 181       xkanjiskip = function(t)
 182          return print_spec(ltjs.get_stack_skip(stack_table_index.XSK, t))
 183       end,
 184       jcharwidowpenalty = function(t)
 185          return ltjs.get_stack_table(stack_table_index.JWP, 0, t)
 186       end,
 187       autospacing = function(t)
 188          return tex.getattribute('ltj@autospc')
 189       end,
 190       autoxspacing = function(t)
 191          return tex.getattribute('ltj@autoxspc')
 192       end,
 193       differentjfm = function(t)
 194          local f, r = luatexja.jfmglue.diffmet_rule, '???'
 195          if f == math.max then r = 'large'
 196          elseif f == math.min then r = 'small'
 197          elseif f == math.two_average then r = 'average'
 198          elseif f == math.two_paverage then r = 'paverage'
 199          elseif f == math.two_pleft then r = 'pleft'
 200          elseif f == math.two_pright then r = 'pright'
 201          elseif f == math.two_add then r = 'both'
 202          end
 203          return r
 204       end,
 205       direction = function()
 206          local v = ltjd.get_dir_count()
 207          if math.abs(tex.nest[tex.nest.ptr].mode) == ltjs.mmode and v == dir_table.dir_tate then
 208             v = dir_table.dir_utod
 209          end
 210          return v
 211       end,
 212       adjustdir = ltjd.get_adjust_dir_count,
 213    }
 214
 215    local unary_pars = luatexja.unary_pars
 216    function luatexja.ext_get_parameter_unary(k)
 217       if unary_pars[k] then
 218          tex.write(tostring(unary_pars[k](tex.getcount('ltj@@stack'))))
 219       end
 220       ltjb.stop_time_measure('get_par')
 221    end
 222 end
 223
 224
 225 -- EXT: print parameters that need arguments
 226 do
 227    luatexja.binary_pars = {
 228       jacharrange = function(c, t)
 229          if type(c)~='number' or c<0 or c>31*ltjc.ATTR_RANGE then
 230             -- 0 はエラーにしない（隠し）
 231             ltjb.package_error('luatexja',
 232                                'invalid character range number (' .. tostring(c) .. ')',
 233                                'A character range number should be in the range 1..'
 234                                   .. 31*ltjc.ATTR_RANGE .. ",\n"..
 235                                   'So I changed this one to ' .. 31*ltjc.ATTR_RANGE .. ".")
 236             c=0 -- external range 217 == internal range 0
 237          elseif c==31*ltjc.ATTR_RANGE then c=0
 238          end
 239       -- 負の値は <U+0080 の文字の文字範囲，として出てくる．この時はいつも欧文文字なので 1 を返す
 240          return (c<0) and 1 or ltjc.get_range_setting(c)
 241       end,
 242       prebreakpenalty = function(c, t)
 243          return ltjs.get_stack_table(stack_table_index.PRE
 244                                           + ltjb.in_unicode(c, true), 0, t)
 245       end,
 246       postbreakpenalty = function(c, t)
 247          return ltjs.get_stack_table(stack_table_index.POST
 248                                           + ltjb.in_unicode(c, true), 0, t)
 249       end,
 250       kcatcode = function(c, t)
 251          return ltjs.get_stack_table(stack_table_index.KCAT
 252                                           + ltjb.in_unicode(c, false), 0, t)
 253       end,
 254       chartorange = function(c, t)
 255          return ltjc.char_to_range(ltjb.in_unicode(c, false))
 256       end,
 257       jaxspmode = function(c, t)
 258          return ltjs.get_stack_table(stack_table_index.XSP
 259                                           + ltjb.in_unicode(c, true), 3, t)
 260       end,
 261       boxdir = function(c, t)
 262          if type(c)~='number' or c<0 or c>65535 then
 263             ltjb.package_error('luatexja',
 264                                'Bad register code (' .. tostring(c) .. ')',
 265                                'A register must be between 0 and 65535.\n'..
 266                                   'I changed this one to zero.')
 267             c=0
 268          end
 269          return ltjd.get_register_dir(c)
 270       end,
 271    }
 272    local binary_pars = luatexja.binary_pars
 273
 274    binary_pars.alxspmode = binary_pars.jaxspmode
 275    function luatexja.ext_get_parameter_binary(k,c)
 276       if binary_pars[k] then
 277          tex.write(tostring(binary_pars[k](c,tex.getcount('ltj@@stack'))))
 278       end
 279       ltjb.stop_time_measure('get_par')
 280    end
 281 end
 282
 283 -- EXT: print \global if necessary
 284 function luatexja.ext_print_global()
 285    if luatexja.isglobal=='global' then tex.sprint(cat_lp, '\\global') end
 286 end
 287
 288
 289 -- main process
 290 do
 291    local start_time_measure, stop_time_measure
 292       = ltjb.start_time_measure, ltjb.stop_time_measure
 293    local Dnode = node.direct or node
 294    local nullfunc = function (n) return n end
 295    local to_node = (Dnode ~= node) and Dnode.tonode or nullfunc
 296    local to_direct = (Dnode ~= node) and Dnode.todirect or nullfunc
 297    local ensure_tex_attr = ltjb.ensure_tex_attr
 298
 299    -- mode = true iff main_process is called from pre_linebreak_filter
 300    local function main_process(head, mode, dir, gc)
 301       ensure_tex_attr(attr_icflag, 0)
 302       if gc == 'fin_row' then return head
 303       else
 304             --luatexja.ext_show_node_list(head, 'T> ', print)
 305             start_time_measure('jfmglue')
 306             local p = ltjj.main(to_direct(head),mode, dir)
 307             stop_time_measure('jfmglue')
 308             return to_node(p)
 309       end
 310    end
 311
 312    local function adjust_icflag(h)
 313       -- kern from luaotfload will have icflag = 1
 314       -- (same as italic correction)
 315       ensure_tex_attr(attr_icflag, 1)
 316       return h
 317    end
 318
 319    -- callbacks
 320    luatexbase.add_to_callback(
 321       'pre_linebreak_filter',
 322       function (head,groupcode)
 323          return main_process(head, true, tex.textdir, groupcode)
 324       end,'ltj.pre_linebreak_filter',
 325       luatexbase.priority_in_callback('pre_linebreak_filter',
 326                                       'luaotfload.node_processor') + 1)
 327    luatexbase.add_to_callback(
 328       'hpack_filter',
 329       function (head,groupcode,size,packtype, dir)
 330          return main_process(head, false, dir, groupcode)
 331       end,'ltj.hpack_filter',
 332       luatexbase.priority_in_callback('hpack_filter',
 333                                       'luaotfload.node_processor') + 1)
 334    luatexbase.add_to_callback('pre_linebreak_filter', adjust_icflag, 'ltj.adjust_icflag', 1)
 335    luatexbase.add_to_callback('hpack_filter', adjust_icflag, 'ltj.adjust_icflag', 1)
 336
 337 end
 338
 339 -- cleanup process
 340 function luatexja.ext_cleanup()
 341    ltjf.cleanup_size_cache()
 342    ltjd.remove_end_whatsit()
 343 end
 344
 345
 346 -- debug
 347
 348 do
 349
 350 local node_type = node.type
 351 local node_next = node.next
 352 local has_attr = node.has_attribute
 353
 354 local id_penalty = node.id('penalty')
 355 local id_glyph = node.id('glyph')
 356 local id_glue_spec = node.id('glue_spec')
 357 local id_glue = node.id('glue')
 358 local id_kern = node.id('kern')
 359 local id_hlist = node.id('hlist')
 360 local id_vlist = node.id('vlist')
 361 local id_rule = node.id('rule')
 362 local id_math = node.id('math')
 363 local id_whatsit = node.id('whatsit')
 364 local sid_user = node.subtype('user_defined')
 365
 366 local function get_attr_icflag(p)
 367    return (has_attr(p, attr_icflag) or 0) % icflag_table.PROCESSED_BEGIN_FLAG
 368 end
 369
 370 local prefix, inner_depth
 371
 372 local function debug_show_node_X(p,print_fn, limit)
 373    local k = prefix
 374    local s
 375    local pt=node_type(p.id)
 376    local base = prefix .. string.format('%X', get_attr_icflag(p))
 377    .. ' ' .. pt .. ' ' .. tostring(p.subtype) .. ' '
 378    if pt == 'glyph' then
 379       s = base .. ' ' .. utf.char(p.char) .. ' '
 380          .. tostring(p.font)
 381          .. ' (' .. print_scaled(p.height) .. '+'
 382          .. print_scaled(p.depth) .. ')x' .. print_scaled(p.width)
 383       print_fn(s)
 384    elseif pt=='hlist' or pt=='vlist' or pt=='unset'or pt=='ins' then
 385       if pt=='ins' then
 386          s = base .. '(' .. print_scaled(p.height) .. '+'
 387             .. print_scaled(p.depth) .. ')'
 388             .. ', dir=' .. tostring(node.has_attribute(p, attr_dir))
 389       else
 390          s = base .. '(' .. print_scaled(p.height) .. '+'
 391             .. print_scaled(p.depth) .. ')x' .. print_scaled(p.width)
 392             .. ', dir=' .. tostring(node.has_attribute(p, attr_dir))
 393       end
 394       if (p.shift or 0)~=0 then
 395          s = s .. ', shifted ' .. print_scaled(p.shift)
 396       end
 397       if p.glue_set and p.glue_sign ==2 or ( p.glue_sign==1 and p.glue_set>0) then
 398          s = s .. ' glue set '
 399          if p.glue_sign == 2 then s = s .. '-' end
 400          s = s .. tostring(floor(p.glue_set*10000)/10000)
 401          if p.glue_order == 0 then
 402             s = s .. 'pt'
 403          else
 404             s = s .. 'fi'
 405             for i = 2,  p.glue_order do s = s .. 'l' end
 406          end
 407       end
 408       if get_attr_icflag(p) == icflag_table.PACKED then
 409          s = s .. ' (packed)'
 410       end
 411       print_fn(s);
 412       local bid = inner_depth
 413       prefix, inner_depth = prefix.. '.', inner_depth + 1
 414       if inner_depth < limit then
 415          for q in node.traverse(p.head) do
 416             debug_show_node_X(q, print_fn, limit)
 417          end
 418       end
 419       prefix=k
 420    elseif pt=='rule' then
 421       s = base .. '(' .. print_scaled(p.height) .. '+'
 422          .. print_scaled(p.depth) .. ')x' .. print_scaled(p.width)
 423          .. ', dir=' .. tostring(node.has_attribute(p, attr_dir))
 424       print_fn(s)
 425    elseif pt == 'glue' then
 426       s = base .. ' ' ..  print_spec(p.spec)
 427       if get_attr_icflag(p)>icflag_table.KINSOKU
 428          and get_attr_icflag(p)<icflag_table.KANJI_SKIP then
 429          s = s .. ' (from JFM: priority ' .. get_attr_icflag(p)-icflag_table.FROM_JFM .. ')'
 430       elseif get_attr_icflag(p)==icflag_table.KANJI_SKIP then
 431          s = s .. ' (kanjiskip)'
 432       elseif get_attr_icflag(p)==icflag_table.KANJI_SKIP_JFM then
 433          s = s .. ' (kanjiskip, JFM specified)'
 434       elseif get_attr_icflag(p)==icflag_table.XKANJI_SKIP then
 435          s = s .. ' (xkanjiskip)'
 436       elseif get_attr_icflag(p)==icflag_table.XKANJI_SKIP_JFM then
 437          s = s .. ' (xkanjiskip, JFM specified)'
 438       end
 439       print_fn(s)
 440    elseif pt == 'kern' then
 441       s = base .. ' ' .. print_scaled(p.kern) .. 'pt'
 442       if p.subtype==2 then
 443          s = s .. ' (for accent)'
 444       elseif get_attr_icflag(p)==icflag_table.IC_PROCESSED then
 445          s = s .. ' (italic correction)'
 446          -- elseif get_attr_icflag(p)==ITALIC then
 447          --    s = s .. ' (italic correction)'
 448       elseif get_attr_icflag(p)>icflag_table.KINSOKU
 449          and get_attr_icflag(p)<icflag_table.KANJI_SKIP then
 450          s = s .. ' (from JFM: priority ' .. get_attr_icflag(p)-icflag_table.FROM_JFM .. ')'
 451       end
 452       print_fn(s)
 453    elseif pt == 'penalty' then
 454       s = base .. ' ' .. tostring(p.penalty)
 455       if get_attr_icflag(p)==icflag_table.KINSOKU then
 456          s = s .. ' (for kinsoku)'
 457       end
 458       print_fn(s)
 459    elseif pt == 'whatsit' then
 460       s = base
 461       if p.subtype==sid_user then
 462          local t = tostring(p.user_id) .. ' (' ..
 463             luatexbase.get_user_whatsit_name(p.user_id) .. ') '
 464          if p.type ~= 110 then
 465             s = s .. ' userid:' .. t .. p.value
 466             print_fn(s)
 467          else
 468             s = s .. ' userid:' .. t .. '(node list)'
 469             if p.user_id==userid_table.DIR then
 470                s = s .. ' dir: ' .. tostring(node.has_attribute(p, attr_dir))
 471             end
 472             print_fn(s)
 473             local bid = inner_depth
 474             prefix, inner_depth =prefix.. '.', inner_depth + 1
 475             if inner_depth < limit then
 476                for q in node.traverse(p.value) do
 477                   debug_show_node_X(q, print_fn, limit)
 478                end
 479             end
 480             prefix, inner_depth = k, bid
 481          end
 482       else
 483          s = s .. node.subtype(p.subtype)
 484          if p.subtype==1 then
 485             s = s .. ' stream=' .. p.stream
 486             print_fn(s)
 487             for i=1,#p.data do
 488                print_fn(s .. '  [' .. i .. '] = ' .. tostring(token.command_name(p.data[i])))
 489             end
 490          else
 491             print_fn(s)
 492          end
 493       end
 494    -------- math node --------
 495    elseif pt=='noad' then
 496       s = base ; print_fn(s)
 497       if p.nucleus then
 498          prefix = k .. 'N'; debug_show_node_X(p.nucleus, print_fn);
 499       end
 500       if p.sup then
 501          prefix = k .. '^'; debug_show_node_X(p.sup, print_fn);
 502       end
 503       if p.sub then
 504          prefix = k .. '_'; debug_show_node_X(p.sub, print_fn);
 505       end
 506       prefix = k;
 507    elseif pt=='math_char' then
 508       s = base .. ' fam: ' .. p.fam .. ' , char = ' .. utf.char(p.char)
 509       print_fn(s)
 510    elseif pt=='sub_box' or pt=='sub_mlist' then
 511       print_fn(base)
 512       if p.head then
 513          prefix = k .. '.';
 514          for q in node.traverse(p.head) do
 515             debug_show_node_X(q, print_fn)
 516          end
 517       end
 518    else
 519       print_fn(base)
 520    end
 521    p=node_next(p)
 522 end
 523 function luatexja.ext_show_node_list(head,depth,print_fn, lim)
 524    prefix = depth
 525    inner_depth = 0
 526    if head then
 527       while head do
 528          debug_show_node_X(head, print_fn, lim or 1/0); head = node_next(head)
 529       end
 530    else
 531       print_fn(prefix .. ' (null list)')
 532    end
 533 end
 534 function luatexja.ext_show_node(head,depth,print_fn, lim)
 535    prefix = depth
 536    inner_depth = 0
 537    if head then
 538       debug_show_node_X(head, print_fn, lim or 1/0)
 539    else
 540       print_fn(prefix .. ' (null list)')
 541    end
 542 end
 543
 544 end