OSDN Git Service

ltj-setwidth.lua: try to use rules to adjusting dimensions of a glyph
[luatex-ja/luatexja.git] / src / ltj-direction.lua
1 --
2 -- src/ltj-direction.lua
3 --
4
5 luatexja.load_module('base');      local ltjb = luatexja.base
6 luatexja.load_module('stack');     local ltjs = luatexja.stack
7 luatexja.direction = {}
8
9 local attr_dir = luatexbase.attributes['ltj@dir']
10 local attr_icflag = luatexbase.attributes['ltj@icflag']
11
12 local cat_lp = luatexbase.catcodetables['latex-package']
13 local Dnode = node.direct or node
14 local nullfunc = function (n) return n end
15 local to_node = (Dnode ~= node) and Dnode.tonode or nullfunc
16 local to_direct = (Dnode ~= node) and Dnode.todirect or nullfunc
17 local has_attr = Dnode.has_attribute
18 local set_attr = Dnode.set_attribute
19 local insert_before = Dnode.insert_before
20 local insert_after = Dnode.insert_after
21 local getid = (Dnode ~= node) and Dnode.getid or function(n) return n.id end
22 local getsubtype = (Dnode ~= node) and Dnode.getsubtype or function(n) return n.subtype end
23 local getlist = (Dnode ~= node) and Dnode.getlist or function(n) return n.head end
24 local setfield = (Dnode ~= node) and Dnode.setfield or function(n, i, c) n[i] = c end
25 local getfield = (Dnode ~= node) and Dnode.getfield or function(n, i) return n[i] end
26 local node_new = Dnode.new
27 local node_tail = Dnode.tail
28 local node_free = Dnode.free
29 local node_remove = Dnode.remove
30 local node_next = (Dnode ~= node) and Dnode.getnext or node.next
31 local traverse = Dnode.traverse
32 local traverse_id = Dnode.traverse_id
33 local start_time_measure, stop_time_measure
34    = ltjb.start_time_measure, ltjb.stop_time_measure
35 local abs = math.abs
36
37 local id_kern = node.id('kern')
38 local id_hlist = node.id('hlist')
39 local id_vlist = node.id('vlist')
40 local id_whatsit = node.id('whatsit')
41 local sid_save = node.subtype('pdf_save')
42 local sid_restore = node.subtype('pdf_restore')
43 local sid_matrix = node.subtype('pdf_setmatrix')
44 local sid_user = node.subtype('user_defined')
45
46 local tex_nest = tex.nest
47 local tex_getcount = tex.getcount
48 local tex_set_attr = tex.setattribute
49 local PROCESSED    = luatexja.icflag_table.PROCESSED
50 local PROCESSED_BEGIN_FLAG = luatexja.icflag_table.PROCESSED_BEGIN_FLAG
51 local PACKED       = luatexja.icflag_table.PACKED
52 local DIR  = luatexja.userid_table.DIR
53 local dir_tate = luatexja.dir_table.dir_tate
54 local dir_yoko = luatexja.dir_table.dir_yoko
55 local dir_dtou = luatexja.dir_table.dir_dtou
56 local dir_utod = luatexja.dir_table.dir_utod
57 local dir_math_mod    = luatexja.dir_table.dir_math_mod
58 local dir_node_auto   = luatexja.dir_table.dir_node_auto
59 local dir_node_manual = luatexja.dir_table.dir_node_manual
60 local function get_attr_icflag(p)
61    return (has_attr(p, attr_icflag) or 0) % PROCESSED_BEGIN_FLAG
62 end
63
64 local page_direction
65 --
66 local function adjust_badness(hd)
67    if not node_next(hd) and getid(hd)==id_whatsit and getsubtype(hd)==sid_user
68    and getfield(hd, 'user_id')==DIR then
69       -- avoid double whatsit
70       luatexja.global_temp=tex.globaldefs; tex.globaldefs=0
71       luatexja.hbadness_temp=tex.hbadness; tex.hbadness=10000
72       luatexja.vbadness_temp=tex.vbadness; tex.vbadness=10000
73    else
74       luatexja.global_temp = nil
75       luatexja.hbadness_temp=nil
76       luatexja.vbadness_temp=nil
77    end
78 end
79
80 local get_dir_count, get_adjust_dir_count
81 do
82    local function get_dir_count_inner(h)
83       if h then
84          if h.id==id_whatsit and h.subtype==sid_user and h.user_id==DIR then
85                local ic = node.has_attribute(h, attr_icflag) or 0
86                return (ic<PROCESSED_BEGIN_FLAG)
87                   and (node.has_attribute(h,attr_dir)%dir_node_auto) or 0
88          else
89             return 0
90          end
91       else
92          return 0
93       end
94    end
95    function get_dir_count()
96       for i=tex_nest.ptr, 1, -1 do
97          local h = tex_nest[i].head.next
98          if h then
99             local t = get_dir_count_inner(h)
100             if t~=0 then return t end
101          end
102       end
103       return page_direction
104    end
105    function get_adjust_dir_count()
106       for i=tex_nest.ptr, 1, -1 do
107          local v = tex_nest[i]
108          local h, m = v.head.next, v.mode
109          if abs(m)== ltjs.vmode and h then
110             local t = get_dir_count_inner(h)
111             if t~=0 then return t end
112          end
113       end
114       return page_direction
115    end
116    luatexja.direction.get_dir_count = get_dir_count
117    luatexja.direction.get_adjust_dir_count = get_adjust_dir_count
118 end
119
120
121 -- \tate, \yoko,\dtou, \utod
122 do
123    local node_next = node.next
124    local node_set_attr = node.set_attribute
125    local node_traverse = node.traverse
126    local STCK = luatexja.userid_table.STCK
127    local IHB = luatexja.userid_table.IHB
128
129    local function test_list(h, lv)
130       if not h then
131          return 2 -- need to create dir_whatsit
132       else
133          local flag = 2 -- need to create dir_whatsit
134          local w
135          for p in node_traverse(h) do
136             if p.id==id_whatsit then
137                if p.subtype==sid_user then
138                   local uid= p.user_id
139                   if uid==DIR then
140                      flag = 1; w = w or p -- found
141                   elseif not(uid==IHB or uid==STCK) then
142                      flag = 0; break -- error
143                   end
144                else
145                   flag = 0; break
146                end
147             else
148                flag = 0; break
149             end
150          end
151          if flag==1 then -- dir_whatsit already exists
152             return 1,w
153          else
154             return flag
155          end
156       end
157    end
158    function luatexja.direction.set_list_direction_hook(v)
159       local lv = tex_nest.ptr -- must be >= 1
160       if not v then
161          v = get_dir_count()
162          if abs(tex_nest[lv-1].mode) == ltjs.mmode and v == dir_tate then
163             v = dir_utod
164          end
165       elseif v=='adj' then
166          v = get_adjust_dir_count()
167       end
168       local h = to_direct(tex_nest[lv].head)
169       local w = node_new(id_whatsit, sid_user)
170       setfield(w, 'next', nil)
171       setfield(w, 'user_id', DIR)
172       setfield(w, 'type', 110)
173       set_attr(w, attr_dir, v)
174       insert_after(h, h, w)
175       tex_nest[lv].tail = to_node(node_tail(w))
176       tex_set_attr('global', attr_icflag, 0)
177       tex_set_attr('global', attr_dir, 0)
178    end
179
180    local function set_list_direction(v, name)
181       local lv = tex_nest.ptr
182       if not v then
183          v,name  = get_dir_count(), nil
184          if lv>=1 and abs(tex_nest[lv-1].mode) == ltjs.mmode and v == dir_tate then
185             v = dir_utod
186          end
187       elseif v=='adj' then
188          v,name = get_adjust_dir_count(), nil
189       end
190       if tex.currentgrouptype==6 then
191          ltjb.package_error(
192                  'luatexja',
193                  "You can't use `\\" .. name .. "' in an align",
194                  "To change direction in an align, \n"
195                     .. "you shold use \\hbox or \\vbox.")
196       else
197          local h = (lv==0) and tex.lists.page_head or tex_nest[lv].head.next
198          local flag,w = test_list(h,lv)
199          if flag==0 then
200             if lv==0 and not page_direction then
201                page_direction = v -- for first call of \yoko (in luatexja-core.sty)
202             else
203               ltjb.package_error(
204                  'luatexja',
205                  "Use `\\" .. tostring(name) .. "' at top of list",
206                  'Direction change command by LuaTeX-ja is available\n'
207                     .. 'only when the current list is null.')
208             end
209          elseif flag==1 then
210             node_set_attr(w, attr_dir, v)
211             if lv==0 then page_direction = v end
212          else
213             local w = node_new(id_whatsit, sid_user)
214             setfield(w, 'next', nil)
215             setfield(w, 'user_id', DIR)
216             setfield(w, 'type', 110)
217             set_attr(w, attr_dir, v)
218             Dnode.write(w)
219             if lv==0 then page_direction = v end
220          end
221          tex_set_attr('global', attr_icflag, 0)
222       end
223       tex_set_attr('global', attr_dir, 0)
224    end
225    luatexja.direction.set_list_direction = set_list_direction
226 end
227
228 -- ボックスに dir whatsit を追加
229 local function create_dir_whatsit(hd, gc, new_dir)
230    if getid(hd)==id_whatsit and
231             getsubtype(hd)==sid_user and getfield(hd, 'user_id')==DIR then
232       set_attr(hd, attr_icflag,
233                get_attr_icflag(hd) + PROCESSED_BEGIN_FLAG)
234       tex_set_attr('global', attr_icflag, 0)
235       return hd
236    else
237       local w = node_new(id_whatsit, sid_user)
238       setfield(w, 'next', hd)
239       setfield(w, 'user_id', DIR)
240       setfield(w, 'type', 110)
241       set_attr(w, attr_dir, new_dir)
242       set_attr(w, attr_icflag, PROCESSED_BEGIN_FLAG)
243       set_attr(hd, attr_icflag,
244                (has_attr(hd, attr_icflag) or 0)%PROCESSED_BEGIN_FLAG
245                   + PROCESSED_BEGIN_FLAG)
246       tex_set_attr('global', attr_dir, 0)
247       tex_set_attr('global', attr_icflag, 0)
248       return w
249    end
250 end
251
252 -- hpack_filter, vpack_filter, post_line_break_filter
253 -- の結果を組方向を明示するため,先頭に dir_node を設置
254 do
255    local function create_dir_whatsit_hpack(h, gc)
256       local hd = to_direct(h)
257       if gc=='fin_row' or gc == 'preamble'  then
258          if hd  then
259             set_attr(hd, attr_icflag, PROCESSED_BEGIN_FLAG)
260             tex_set_attr('global', attr_icflag, 0)
261          end
262          return h
263       else
264          adjust_badness(hd)
265          return to_node(create_dir_whatsit(hd, gc, ltjs.list_dir))
266       end
267    end
268
269    luatexbase.add_to_callback('hpack_filter',
270                               create_dir_whatsit_hpack, 'ltj.create_dir_whatsit', 10000)
271 end
272
273 do
274    local function create_dir_whatsit_parbox(h, gc)
275       stop_time_measure('tex_linebreak')
276       -- start 側は ltj-debug.lua に
277       local new_dir, hd = ltjs.list_dir, to_direct(h)
278       for line in traverse_id(id_hlist, hd) do
279          local nh = getlist(line)
280          setfield(line, 'head', create_dir_whatsit(nh, gc, new_dir) )
281          --set_attr(line, attr_dir, new_dir)
282       end
283       tex_set_attr('global', attr_dir, 0)
284       return h
285    end
286    luatexbase.add_to_callback('post_linebreak_filter',
287                               create_dir_whatsit_parbox, 'ltj.create_dir_whatsit', 10000)
288 end
289
290 local create_dir_whatsit_vbox
291 do
292    local wh = {}
293    local id_glue, sid_parskip = node.id('glue'), 3
294    create_dir_whatsit_vbox = function (hd, gc)
295       ltjs.list_dir = get_dir_count()
296       -- remove dir whatsit
297       for x in traverse_id(id_whatsit, hd) do
298          if getsubtype(x)==sid_user and getfield(x, 'user_id')==DIR then
299             wh[#wh+1]=x
300          end
301       end
302       if hd==wh[1] then
303          ltjs.list_dir =has_attr(hd,attr_dir)
304          local x = node_next(hd)
305          if getid(x)==id_glue and getsubtype(x)==sid_parskip then
306             node_remove(hd,x); node_free(x)
307          end
308       end
309       for i=1,#wh do
310          hd = node_remove(hd, wh[i]); node_free(wh[i]); wh[i] = nil
311       end
312       if gc=='fin_row' then -- gc == 'preamble' case is treated in dir_adjust_vpack
313          if hd  then
314             set_attr(hd, attr_icflag, PROCESSED_BEGIN_FLAG)
315             tex_set_attr('global', attr_icflag, 0)
316          end
317          return hd
318       else
319          local n =node_next(hd)
320          if gc=='vtop' then
321             local w = create_dir_whatsit(hd, gc, ltjs.list_dir)
322             -- move  dir whatsit after hd
323             setfield(hd, 'next', w); setfield(w, 'next', n)
324             return hd
325          else
326             hd = create_dir_whatsit(hd, gc, ltjs.list_dir)
327             return hd
328          end
329       end
330    end
331 end
332
333 -- dir_node に包む方法を書いたテーブル
334 local dir_node_aux
335 do
336    local floor = math.floor
337    local get_h =function (w,h,d) return h end
338    local get_d =function (w,h,d) return d end
339    local get_h_d =function (w,h,d) return h+d end
340    local get_h_d_neg =function (w,h,d) return -h-d end
341    local get_d_neg =function (w,h,d) return -d end
342    local get_w_half =function (w,h,d) return floor(0.5*w) end
343    local get_w_half_rem =function (w,h,d) return w-floor(0.5*w) end
344    local get_w_neg =function (w,h,d) return -w end
345    local get_w =function (w,h,d) return w end
346    local zero = function() return 0 end
347    dir_node_aux = {
348       [dir_yoko] = { -- yoko を
349          [dir_tate] = { -- tate 中で組む
350             width  = get_h_d,
351             height = get_w_half,
352             depth  = get_w_half_rem,
353             [id_hlist] = {
354                { 'whatsit', sid_save },
355                { 'rotate', '0 1 -1 0' },
356                { 'kern', function(w,h,d,nw,nh,nd) return -nd end },
357                { 'box' , get_h},
358                { 'kern', function(w,h,d,nw,nh,nd) return nd-w end },
359                { 'whatsit', sid_restore },
360             },
361             [id_vlist] = {
362                { 'whatsit', sid_save },
363                { 'rotate', '0 1 -1 0' },
364                { 'kern' , zero },
365                { 'box' , function(w,h,d,nw,nh,nd) return -nh-nd end },
366                { 'kern', get_h_d_neg},
367                { 'whatsit', sid_restore },
368             },
369          },
370          [dir_dtou] = { -- dtou 中で組む
371             width  = get_h_d,
372             height = get_w,
373             depth  = zero,
374             [id_hlist] = {
375                { 'whatsit', sid_save },
376                { 'rotate', '0 -1 1 0' },
377                { 'kern', function(w,h,d,nw,nh,nd) return -nh end },
378                { 'box', get_d_neg },
379                { 'kern', function(w,h,d,nw,nh,nd) return nh-w end },
380                { 'whatsit', sid_restore },
381             },
382             [id_vlist] = {
383                { 'whatsit', sid_save },
384                { 'rotate', '0 -1 1 0' },
385                { 'kern', get_h_d_neg },
386                { 'box', zero },
387                { 'whatsit', sid_restore },
388             },
389          },
390       },
391       [dir_tate] = { -- tate を
392          [dir_yoko] = { -- yoko 中で組む
393             width  = get_h_d,
394             height = get_w,
395             depth  = zero,
396             [id_hlist] = {
397                { 'whatsit', sid_save },
398                { 'rotate', '0 -1 1 0' },
399                { 'kern', function (w,h,d,nw,nh,nd) return -nh end },
400                { 'box' , get_d_neg },
401                { 'kern', function (w,h,d,nw,nh,nd) return nh-w end },
402                { 'whatsit', sid_restore },
403             },
404             [id_vlist] = {
405                { 'whatsit', sid_save },
406                { 'rotate', '0 -1 1 0' },
407                { 'kern', get_h_d_neg },
408                { 'box', zero },
409                { 'whatsit', sid_restore },
410             },
411          },
412          [dir_dtou] = { -- dtou 中で組む
413             width  = get_w,
414             height = get_d,
415             depth  = get_h,
416             [id_hlist] = {
417                { 'whatsit', sid_save },
418                { 'rotate', '-1 0 0 -1' },
419                { 'kern', get_w_neg },
420                { 'box',  function (w,h,d,nw,nh,nd) return h-nd end },
421                { 'whatsit', sid_restore },
422             },
423             [id_vlist] = {
424                { 'whatsit', sid_save },
425                { 'rotate', '-1 0 0 -1' },
426                { 'kern', get_h_d_neg },
427                { 'box', get_w_neg },
428                { 'whatsit', sid_restore },
429             },
430          },
431       },
432       [dir_dtou] = { -- dtou を
433          [dir_yoko] = { -- yoko 中で組む
434             width  = get_h_d,
435             height = get_w,
436             depth  = zero,
437             [id_hlist] = {
438                { 'whatsit', sid_save },
439                { 'rotate', '0 1 -1 0' },
440                { 'kern', function (w,h,d,nw,nh,nd) return -nd end },
441                { 'box', get_h },
442                { 'kern', function (w,h,d,nw,nh,nd) return nd-w end },
443                { 'whatsit', sid_restore },
444             },
445             [id_vlist] = {
446                { 'kern', zero },
447                { 'whatsit', sid_save },
448                { 'rotate', '0 1 -1 0' },
449                { 'box', function (w,h,d,nw,nh,nd) return -nd-nh end },
450                { 'kern', get_h_d_neg },
451                { 'whatsit', sid_restore },
452             },
453          },
454          [dir_tate] = { -- tate 中で組む
455             width  = get_w,
456             height = get_d,
457             depth  = get_h,
458             [id_hlist] = {
459                { 'whatsit', sid_save },
460                { 'rotate', '-1 0 0 -1' },
461                { 'kern', get_w_neg },
462                { 'box', function (w,h,d,nw,nh,nd) return h-nd end },
463                { 'whatsit', sid_restore },
464             },
465             [id_vlist] = {
466                { 'whatsit', sid_save },
467                { 'rotate', ' -1 0 0 -1' },
468                { 'kern', function (w,h,d,nw,nh,nd) return -nh-nd end },
469                { 'box', get_w_neg },
470                { 'kern', function (w,h,d,nw,nh,nd) return nh+nd-h-d end },
471                { 'whatsit', sid_restore },
472             },
473          },
474       },
475    }
476 end
477
478 -- 1st ret val: b の組方向
479 -- 2nd ret val はその DIR whatsit
480 local function get_box_dir(b, default)
481    start_time_measure('get_box_dir')
482    local dir = has_attr(b, attr_dir) or 0
483    local bh = getfield(b,'head')
484    -- b は insert node となりうるので getlist() は使えない
485    local c
486    for i=1,2 do
487       if bh and getid(bh)==id_whatsit
488       and getsubtype(bh)==sid_user and getfield(bh, 'user_id')==DIR then
489          c = bh
490          dir = (dir==0) and has_attr(bh, attr_dir) or dir
491       end
492       bh = node_next(bh)
493    end
494    stop_time_measure('get_box_dir')
495    return (dir==0 and default or dir), c
496 end
497
498 do
499    local getbox = tex.getbox
500    local dir_backup
501    function luatexja.direction.unbox_check_dir(is_copy)
502       start_time_measure('box_primitive_hook')
503       local list_dir = get_dir_count()%dir_math_mod
504       local b = getbox(tex_getcount('ltj@tempcnta'))
505       if b then
506          local box_dir = get_box_dir(to_direct(b), dir_yoko)
507          if box_dir%dir_math_mod ~= list_dir then
508             ltjb.package_error(
509                'luatexja',
510                "Incompatible direction list can't be unboxed",
511                'I refuse to unbox a box in differrent direction.')
512             tex.sprint(cat_lp, '\\@gobbletwo')
513          else
514             dir_backup = nil
515             local bd = to_direct(b)
516             local hd = getlist(bd)
517             local nh = hd
518             while hd do
519                if getid(hd)==id_whatsit and getsubtype(hd)==sid_user
520                   and getfield(hd, 'user_id')==DIR then
521                      local d = hd
522                      nh, hd = node_remove(nh, hd)
523                      if is_copy and (not dir_backup) then
524                         dir_backup = d
525                         setfield(dir_backup, 'next', nil)
526                      else
527                         node_free(d)
528                      end
529                else
530                   hd = node_next(hd)
531                end
532             end
533             setfield(bd, 'head', nh)
534          end
535       end
536       if luatexja.global_temp and tex.globaldefs~=luatexja.global_temp then
537          tex.globaldefs = luatexja.global_temp
538       end
539       stop_time_measure('box_primitive_hook')
540    end
541    function luatexja.direction.uncopy_restore_whatsit()
542       local b = getbox(tex_getcount('ltj@tempcnta'))
543       if b then
544          local bd = to_direct(b)
545          if dir_backup then
546             setfield(dir_backup, 'next', getlist(bd))
547             setfield(bd, 'head', dir_backup)
548             dir_backup = nil
549          end
550       end
551    end
552 end
553
554 -- dir_node に包まれている「本来の中身」を取り出し,
555 -- dir_node を全部消去
556 local function unwrap_dir_node(b, head, box_dir)
557    -- b: dir_node, head: the head of list, box_dir:
558    -- return values are (new head), (next of b), (contents), (dir of contents)
559    local bh = getlist(b)
560    local nh, nb
561    if head then
562       nh = insert_before(head, b, bh)
563       nh, nb = node_remove(nh, b)
564       setfield(b, 'next', nil)
565       node_free(b)
566    end
567    local shift_old, b_dir, wh = nil, get_box_dir(bh, 0)
568    if wh then
569       Dnode.flush_list(getfield(wh, 'value'))
570       setfield(wh, 'value', nil)
571    end
572    return nh, nb, bh, b_dir
573 end
574
575 -- is_manual: 寸法変更に伴うものか?
576 local function create_dir_node(b, b_dir, new_dir, is_manual)
577    local info = dir_node_aux[b_dir%dir_math_mod][new_dir%dir_math_mod]
578    local w = getfield(b, 'width')
579    local h = getfield(b, 'height')
580    local d = getfield(b, 'depth')
581    local db = node_new(getid(b)) -- dir_node
582    set_attr(db, attr_dir,
583             new_dir + (is_manual and dir_node_manual or dir_node_auto))
584    set_attr(db, attr_icflag, PROCESSED)
585    set_attr(b, attr_icflag, PROCESSED)
586    tex_set_attr('global', attr_dir, 0)
587    tex_set_attr('global', attr_icflag, 0)
588    setfield(db, 'dir', getfield(b, 'dir'))
589    setfield(db, 'shift', 0)
590    setfield(db, 'width',  info.width(w,h,d))
591    setfield(db, 'height', info.height(w,h,d))
592    setfield(db, 'depth',  info.depth(w,h,d))
593    return db
594 end
595
596 -- 異方向のボックスの処理
597 local make_dir_whatsit, process_dir_node
598 do
599    make_dir_whatsit = function (head, b, new_dir, origin)
600       new_dir = new_dir%dir_math_mod
601       -- head: list head, b: box
602       -- origin: コール元 (for debug)
603       -- return value: (new head), (next of b), (new b), (is_b_dir_node)
604       -- (new b): b か dir_node に被せられた b
605       local bh = getlist(b)
606       local box_dir, dn =  get_box_dir(b, ltjs.list_dir)
607       -- 既に b の中身にあるwhatsit
608
609       if box_dir%dir_math_mod==new_dir then
610          if box_dir>=dir_node_auto then
611             -- dir_node としてカプセル化されている
612             local _, dnc = get_box_dir(b, 0)
613             if dnc then -- free all other dir_node
614                Dnode.flush_list(getfield(dnc, 'value'))
615                setfield(dnc, 'value', nil)
616             end
617             set_attr(b, attr_dir, box_dir%dir_math_mod + dir_node_auto)
618             return head, node_next(b), b, true
619          else
620             -- 組方向が一緒 (up to math dir) のボックスなので,何もしなくて良い
621             return head, node_next(b), b, false
622          end
623       else
624          -- 組方向を合わせる必要あり
625          local nh, nb, ret, flag
626          if box_dir>= dir_node_auto then -- unwrap
627             local b_dir
628             head, nb, b, b_dir = unwrap_dir_node(b, head, box_dir)
629             bh = getlist(b)
630             if b_dir%dir_math_mod==new_dir then
631                -- dir_node の中身が周囲の組方向とあっている
632                return head, nb, b, false
633             else box_dir = b_dir end
634          end
635          box_dir = box_dir%dir_math_mod
636          local db
637          local dnh = getfield(dn, 'value')
638          for x in traverse(dnh) do
639             if has_attr(x, attr_dir)%dir_math_mod == new_dir then
640                setfield(dn, 'value', to_node(node_remove(dnh, x)))
641                db=x; break
642             end
643          end
644          Dnode.flush_list(getfield(dn, 'value'))
645          setfield(dn, 'value', nil)
646          db = db or create_dir_node(b, box_dir, new_dir, false)
647          local w = getfield(b, 'width')
648          local h = getfield(b, 'height')
649          local d = getfield(b, 'depth')
650          local dn_w = getfield(db, 'width')
651          local dn_h = getfield(db, 'height')
652          local dn_d = getfield(db, 'depth')
653          nh, nb =  insert_before(head, b, db), nil
654          nh, nb = node_remove(nh, b)
655          setfield(b, 'next', nil); setfield(db, 'head', b)
656          ret, flag = db, true
657          return nh, nb, ret, flag
658       end
659    end
660    process_dir_node = function (hd, gc)
661       local x, new_dir = hd, ltjs.list_dir or dir_yoko
662       while x do
663          local xid = getid(x)
664          if (xid==id_hlist and get_attr_icflag(x)~=PACKED)
665          or xid==id_vlist then
666             hd, x = make_dir_whatsit(hd, x, new_dir, 'process_dir_node:' .. gc)
667          else
668             x = node_next(x)
669          end
670       end
671       return hd
672    end
673
674    -- lastbox
675    local node_prev = (Dnode~=node) and Dnode.getprev or node.prev
676    local function lastbox_hook()
677       start_time_measure('box_primitive_hook')
678       local bn = tex_nest[tex_nest.ptr].tail
679       if bn then
680          local b, head = to_direct(bn), to_direct(tex_nest[tex_nest.ptr].head)
681          local bid = getid(b)
682          if bid==id_hlist or bid==id_vlist then
683             local box_dir =  get_box_dir(b, 0)
684             if box_dir>= dir_node_auto then -- unwrap dir_node
685                local p = node_prev(b)
686                local dummy1, dummy2, nb = unwrap_dir_node(b, nil, box_dir)
687                setfield(p, 'next', nb);  tex_nest[tex_nest.ptr].tail = to_node(nb)
688                setfield(b, 'next', nil); setfield(b, 'head', nil)
689                node_free(b); b = nb
690             end
691             local _, wh =  get_box_dir(b, 0) -- clean dir_node attached to the box
692             if wh then
693                Dnode.flush_list(getfield('value', wh))
694                setfield(wh, 'value', nil)
695             end
696          end
697       end
698       stop_time_measure('box_primitive_hook')
699    end
700
701    luatexja.direction.make_dir_whatsit = make_dir_whatsit
702    luatexja.direction.lastbox_hook = lastbox_hook
703 end
704
705 -- \wd, \ht, \dp の代わり
706 do
707    local getbox, setdimen = tex.getbox, tex.setdimen
708    local function get_box_dim_common(key, s, l_dir)
709       -- s: not dir_node.
710       local s_dir, wh = get_box_dir(s, dir_yoko)
711       s_dir = s_dir%dir_math_mod
712       if s_dir ~= l_dir then
713          local not_found = true
714          for x in traverse(getfield(wh, 'value')) do
715             if l_dir == has_attr(x, attr_dir)%dir_node_auto then
716                setdimen('ltj@tempdima', getfield(x, key))
717                not_found = false; break
718             end
719          end
720          if not_found then
721             local w = getfield(s, 'width')
722             local h = getfield(s, 'height')
723             local d = getfield(s, 'depth')
724             setdimen('ltj@tempdima',
725                          dir_node_aux[s_dir][l_dir][key](w,h,d))
726          end
727       else
728          setdimen('ltj@tempdima', getfield(s, key))
729       end
730    end
731    local function get_box_dim(key, n)
732       local gt = tex.globaldefs; tex.globaldefs = 0
733       local s = getbox(n)
734       if s then
735          local l_dir = (get_dir_count())%dir_math_mod
736          s = to_direct(s)
737          local b_dir = get_box_dir(s,dir_yoko)
738          if b_dir<dir_node_auto then
739             get_box_dim_common(key, s, l_dir)
740          elseif b_dir%dir_math_mod==l_dir then
741             setdimen('ltj@tempdima', getfield(s, key))
742          else
743             get_box_dim_common(key, getlist(s), l_dir)
744          end
745       else
746          setdimen('ltj@tempdima', 0)
747       end
748       tex.globaldefs = gt
749    end
750    luatexja.direction.get_box_dim = get_box_dim
751
752    -- return value: (changed dimen of box itself?)
753    local function set_box_dim_common(key, s, l_dir)
754       local s_dir, wh = get_box_dir(s, dir_yoko)
755       s_dir = s_dir%dir_math_mod
756       if s_dir ~= l_dir then
757          if not wh then
758             wh = create_dir_whatsit(getlist(s), 'set_box_dim', s_dir)
759             setfield(s, 'head', wh)
760          end
761          local db
762          local dnh = getfield(wh, 'value')
763          for x in traverse(dnh) do
764             if has_attr(x, attr_dir)%dir_node_auto==l_dir then
765                db = x; break
766             end
767          end
768          if not db then
769             db = create_dir_node(s, s_dir, l_dir, true)
770             setfield(db, 'next', dnh)
771             setfield(wh, 'value',to_node(db))
772          end
773          setfield(db, key, tex.getdimen('ltj@tempdima'))
774          return false
775       else
776          setfield(s, key, tex.getdimen('ltj@tempdima'))
777          if wh then
778             -- change dimension of dir_nodes which are created "automatically"
779                local bw, bh, bd
780                   = getfield(s,'width'), getfield(s, 'height'), getfield(s, 'depth')
781             for x in traverse(getfield(wh, 'value')) do
782                local x_dir = has_attr(x, attr_dir)
783                if x_dir<dir_node_manual then
784                   local info = dir_node_aux[s_dir][x_dir%dir_node_auto]
785                   setfield(x, 'width',  info.width(bw,bh,bd))
786                   setfield(x, 'height', info.height(bw,bh,bd))
787                   setfield(x, 'depth',  info.depth(bw,bh,bd))
788                end
789             end
790          end
791          return true
792       end
793    end
794    local function set_box_dim(key)
795       local n = tex_getcount('ltj@tempcnta')
796       local s = getbox(n)
797       if s then
798          local l_dir = (get_dir_count())%dir_math_mod
799          s = to_direct(s)
800          local b_dir = get_box_dir(s,dir_yoko)
801          if b_dir<dir_node_auto then
802             set_box_dim_common(key, s, l_dir)
803          elseif b_dir%dir_math_mod == l_dir then
804             -- s is dir_node
805             setfield(s, key, tex.getdimen('ltj@tempdima'))
806             if b_dir<dir_node_manual then
807                set_attr(s, attr_dir, b_dir%dir_node_auto + dir_node_manual)
808             end
809          else
810             local sid, b = getid(s), getlist(s)
811             local info = dir_node_aux[get_box_dir(b,dir_yoko)%dir_math_mod][b_dir%dir_node_auto]
812             local bw, bh, bd
813                = getfield(b,'width'), getfield(b, 'height'), getfield(b, 'depth')
814             local sw, sh, sd
815                = getfield(s,'width'), getfield(s, 'height'), getfield(s, 'depth')
816             if set_box_dim_common(key, b, l_dir) and b_dir<dir_node_manual then
817                -- re-calculate dimension of s, if s is created "automatically"
818                if b_dir<dir_node_manual then
819                   setfield(s, 'width',  info.width(bw,bh,bd))
820                   setfield(s, 'height', info.height(bw,bh,bd))
821                   setfield(s, 'depth',  info.depth(bw,bh,bd))
822                end
823             end
824          end
825       end
826    end
827    luatexja.direction.set_box_dim = set_box_dim
828 end
829
830 do
831    local getbox = tex.getbox
832    local function get_register_dir(n)
833       local s = getbox(n)
834       if s then
835          s = to_direct(s)
836          local b_dir = get_box_dir(s, dir_yoko)
837          if b_dir<dir_node_auto then
838             return b_dir
839          else
840             local b_dir = get_box_dir(
841                node_next(node_next(node_next(getlist(s)))), dir_yoko)
842             return b_dir
843          end
844       else
845          return 0
846       end
847    end
848    luatexja.direction.get_register_dir = get_register_dir
849 end
850
851 do
852    local getbox, setbox, copy_list = tex.getbox, tex.setbox, Dnode.copy_list
853    -- raise, lower
854    function luatexja.direction.raise_box()
855       start_time_measure('box_primitive_hook')
856       local list_dir = get_dir_count()
857       local s = getbox('ltj@afbox')
858       if s then
859          local sd = to_direct(s)
860          local box_dir = get_box_dir(sd, dir_yoko)
861          if box_dir%dir_math_mod ~= list_dir then
862             setbox(
863                'ltj@afbox',
864                to_node(copy_list(make_dir_whatsit(sd, sd, list_dir, 'box_move')))
865                -- copy_list しないとリストの整合性が崩れる……?
866             )
867          end
868       end
869       stop_time_measure('box_primitive_hook')
870    end
871 end
872
873 -- PACKED の hbox から文字を取り出す
874 -- luatexja.jfmglue.check_box などで使用
875 do
876    local function glyph_from_packed(h)
877       local b = getlist(h)
878       return (getid(b)==id_kern or (getid(b)==id_whatsit and getsubtype(b)==sid_save) )
879          and node_next(node_next(node_next(b))) or b
880    end
881    luatexja.direction.glyph_from_packed = glyph_from_packed
882 end
883
884 -- adjust and insertion
885 local id_adjust = node.id('adjust')
886 function luatexja.direction.check_adjust_direction()
887    start_time_measure('box_primitive_hook')
888    local list_dir = get_adjust_dir_count()
889    local a = tex_nest[tex_nest.ptr].tail
890    local ad = to_direct(a)
891    if a and getid(ad)==id_adjust then
892       local adj_dir = get_box_dir(ad)
893       if list_dir~=adj_dir then
894          ltjb.package_error(
895                  'luatexja',
896                  'Direction Incompatible',
897                  "\\vadjust's argument and outer vlist must have same direction.")
898          Dnode.last_node()
899       end
900    end
901    stop_time_measure('box_primitive_hook')
902 end
903
904 -- vsplit
905 do
906    local split_dir_whatsit
907    local function dir_adjust_vpack(h, gc)
908       start_time_measure('direction_vpack')
909       local hd = to_direct(h)
910       if gc=='split_keep' then
911          -- supply dir_whatsit
912          hd = create_dir_whatsit_vbox(hd, gc)
913          split_dir_whatsit = hd
914       elseif gc=='split_off'  then
915          local bh=hd
916          for i=1,2 do
917             if bh and getid(bh)==id_whatsit
918             and getsubtype(bh)==sid_user and getfield(bh, 'user_id')==DIR then
919                ltjs.list_dir  = has_attr(bh, attr_dir); break
920             end
921             bh = node_next(bh)
922          end
923          if split_dir_whatsit then
924             -- adjust direction of 'split_keep'
925             set_attr(split_dir_whatsit, attr_dir, ltjs.list_dir)
926          end
927          split_dir_whatsit=nil
928       elseif gc=='preamble' then
929          split_dir_whatsit=nil
930       else
931          adjust_badness(hd)
932          hd = process_dir_node(create_dir_whatsit_vbox(hd, gc), gc)
933          split_dir_whatsit=nil
934       end
935       stop_time_measure('direction_vpack')
936       return to_node(hd)
937    end
938    luatexbase.add_to_callback('vpack_filter',
939                               dir_adjust_vpack,
940                               'ltj.direction', 10000)
941 end
942
943 do
944    -- supply direction whatsit to the main vertical list "of the next page"
945    local function dir_adjust_pre_output(h, gc)
946       return to_node(create_dir_whatsit_vbox(to_direct(h), gc))
947    end
948    luatexbase.add_to_callback('pre_output_filter',
949                               dir_adjust_pre_output,
950                               'ltj.direction', 10000)
951
952    function luatexja.direction.remove_end_whatsit()
953       local h=tex.lists.page_head
954       if h and (not h.next) and
955          h.id==id_whatsit and h.subtype==sid_user and
956          h.user_id == DIR then
957             tex.lists.page_head = nil
958             node.free(h)
959       end
960    end
961 end
962
963 -- buildpage filter
964 do
965    local function dir_adjust_buildpage(info)
966       if info=='box' then
967          local head = to_direct(tex.lists.contrib_head)
968          local nb
969          if head then
970             head, _, nb
971                = make_dir_whatsit(head,
972                                   node_tail(head),
973                                   get_dir_count(),
974                                   'buildpage')
975             tex.lists.contrib_head = to_node(head)
976          end
977       end
978    end
979    luatexbase.add_to_callback('buildpage_filter',
980                               dir_adjust_buildpage,
981                               'ltj.direction', 10000)
982 end
983
984 -- finalize (executed just before \shipout)
985 -- we supply correct pdfsavematrix nodes etc. inside dir_node
986 do
987    local finalize_inner
988    local function finalize_dir_node(db,new_dir)
989       local b = getlist(db)
990       finalize_inner(b)
991       local box_dir = get_box_dir(b, dir_yoko)%dir_math_mod
992       setfield(db, 'head', nil)
993       local w = getfield(b, 'width')
994       local h = getfield(b, 'height')
995       local d = getfield(b, 'depth')
996       local dn_w = getfield(db, 'width')
997       local dn_h = getfield(db, 'height')
998       local dn_d = getfield(db, 'depth')
999       local db_head, db_tail  = nil
1000       for _,v in ipairs(dir_node_aux[box_dir][new_dir][getid(b)]) do
1001          local cmd, arg, nn = v[1], v[2]
1002          if cmd=='kern' then
1003             nn = node_new(id_kern)
1004             setfield(nn, 'kern', arg(w, h, d, dn_w, dn_h, dn_d))
1005          elseif cmd=='whatsit' then
1006             nn = node_new(id_whatsit, arg)
1007          elseif cmd=='rotate' then
1008             nn = node_new(id_whatsit, sid_matrix)
1009             setfield(nn, 'data', arg)
1010          elseif cmd=='box' then
1011             nn = b; setfield(b, 'next', nil)
1012             setfield(nn, 'shift', arg(w, h, d, dn_w, dn_h, dn_d))
1013          end
1014          if db_head then
1015             insert_after(db_head, db_tail, nn)
1016             db_tail = nn
1017          else
1018             db_head, db_tail = nn, nn
1019          end
1020          setfield(db, 'head', db_head)
1021       end
1022    end
1023    finalize_inner = function (box)
1024       for n in traverse(getlist(box)) do
1025          local nid = getid(n)
1026          if (nid==id_hlist or nid==id_vlist) then
1027             local ndir = get_box_dir(n, dir_yoko)
1028             if ndir>=dir_node_auto then -- n is dir_node
1029                finalize_dir_node(n, ndir%dir_math_mod)
1030             else
1031                finalize_inner(n)
1032             end
1033          end
1034       end
1035    end
1036    local getbox = tex.getbox
1037    function luatexja.direction.finalize()
1038       finalize_inner(to_direct(tex.getbox("AtBeginShipoutBox")))
1039    end
1040 end