OSDN Git Service

Merge branch 'master' into kitagawa_test
[luatex-ja/luatexja.git] / src / ltj-jfmglue.lua
1 --
2 -- ltj-jfmglue.lua
3 --
4 luatexbase.provides_module({
5   name = 'luatexja.jfmglue',
6   date = '2022-02-03',
7   description = 'Insertion process of JFM glues, [x]kanjiskip and others',
8 })
9 luatexja.jfmglue = luatexja.jfmglue or {}
10
11 luatexja.load_module 'base';      local ltjb = luatexja.base
12 luatexja.load_module 'stack';     local ltjs = luatexja.stack
13 luatexja.load_module 'jfont';     local ltjf = luatexja.jfont
14 luatexja.load_module 'direction'; local ltjd = luatexja.direction
15 luatexja.load_module 'setwidth';  local ltjw = luatexja.setwidth
16 luatexja.load_module 'lotf_aux';  local ltju = luatexja.lotf_aux
17 local pairs = pairs
18
19 --local to_node = node.direct.tonode
20 --local to_direct = node.direct.todirect
21
22 local setfield = node.direct.setfield
23 local setglue = luatexja.setglue
24 local getfield = node.direct.getfield
25 local getid = node.direct.getid
26 local getfont = node.direct.getfont
27 local getlist = node.direct.getlist
28 local getchar = node.direct.getchar
29 local getsubtype = node.direct.getsubtype
30 local if_lang_ja
31 do
32     local lang_ja = luatexja.lang_ja
33     local getlang = node.direct.getlang
34     -- glyph with font number 0 (\nullfont) is always considered an ALchar node
35     if_lang_ja = getlang 
36       and function (n) return (getlang(n)==lang_ja)and(getfont(n)~=0) end
37       or  function (n) return (getfield(n,'lang')==lang_ja)and(getfont(n)~=0) end
38 end
39   
40 local has_attr = node.direct.has_attribute
41 local set_attr = node.direct.set_attribute
42 local insert_before = node.direct.insert_before
43 local insert_after = node.direct.insert_after
44 local node_next = node.direct.getnext
45 local ltjd_make_dir_whatsit = ltjd.make_dir_whatsit
46 local ltjf_font_metric_table = ltjf.font_metric_table
47 local ltjf_find_char_class = ltjf.find_char_class
48 local node_new = luatexja.dnode_new
49 local node_copy = node.direct.copy
50 local node_tail = node.direct.tail
51 local node_free = node.direct.free
52 local node_remove = node.direct.remove
53 local node_inherit_attr = luatexja.node_inherit_attr
54
55 local id_glyph = node.id 'glyph'
56 local id_hlist = node.id 'hlist'
57 local id_vlist = node.id 'vlist'
58 local id_rule  = node.id 'rule'
59 local id_ins   = node.id 'ins'
60 local id_mark  = node.id 'mark'
61 local id_adjust = node.id 'adjust'
62 local id_disc  = node.id 'disc'
63 local id_whatsit = node.id 'whatsit'
64 local id_math  = node.id 'math'
65 local id_glue  = node.id 'glue'
66 local id_kern  = node.id 'kern'
67 local id_penalty = node.id 'penalty'
68
69 local id_jglyph    = 512 -- Japanese character
70 local id_box_like  = 256 -- vbox, shifted hbox
71 local id_pbox      = 257 -- already processed nodes (by \unhbox)
72 local id_pbox_w    = 258 -- cluster which consists of a whatsit
73 local sid_user = node.subtype 'user_defined'
74
75 local ITALIC       = luatexja.icflag_table.ITALIC
76 local PACKED       = luatexja.icflag_table.PACKED
77 local KINSOKU      = luatexja.icflag_table.KINSOKU
78 local FROM_JFM     = luatexja.icflag_table.FROM_JFM
79 local PROCESSED    = luatexja.icflag_table.PROCESSED
80 local IC_PROCESSED = luatexja.icflag_table.IC_PROCESSED
81 local BOXBDD       = luatexja.icflag_table.BOXBDD
82 local SPECIAL_JAGLUE = luatexja.icflag_table.SPECIAL_JAGLUE
83 local PROCESSED_BEGIN_FLAG = luatexja.icflag_table.PROCESSED_BEGIN_FLAG
84
85 local attr_icflag = luatexbase.attributes['ltj@icflag']
86 local kanji_skip
87 local xkanji_skip
88 local table_current_stack
89 local list_dir
90 local capsule_glyph
91 local tex_dir
92 local attr_ablshift
93 local set_np_xspc_jachar, set_np_xspc_alchar
94 local set_np_xspc_jachar_hbox
95
96 local ltjs_orig_char_table = ltjs.orig_char_table
97
98 local function get_attr_icflag(p)
99    return (has_attr(p, attr_icflag) or 0)%PROCESSED_BEGIN_FLAG
100 end
101
102 -------------------- Helper functions
103
104 -- This function is called only for acquiring `special' characters.
105 local function fast_find_char_class(c,m)
106    return m.chars[c] or 0
107 end
108
109 -- 文字クラスの決定
110 local slow_find_char_class
111 do
112    local start_time_measure = ltjb.start_time_measure
113    local stop_time_measure = ltjb.stop_time_measure
114    slow_find_char_class = function (c, m, oc)
115       local cls = ltjf_find_char_class(oc, m)
116       if oc~=c and c and cls==0 then
117          return ltjf_find_char_class(c, m)
118       else
119          return cls
120       end
121    end
122 end
123
124 local function skip_table_to_glue(n)
125    local g, st = node_new(id_glue), ltjs.fast_get_stack_skip(n)
126    setglue(g, st.width, st.stretch, st.shrink, st.stretch_order, st.shrink_order)
127    return g, (st.width==1073741823)
128 end
129
130
131 -- penalty 値の計算
132 local add_penalty
133 do
134 local setpenalty = node.direct.setpenalty or function(n, a) setfield(n,'penalty',a) end
135 local getpenalty = node.direct.getpenalty or function(n) return getfield(n,'penalty') end
136 function add_penalty(p,e)
137    local pp = getpenalty(p)
138    if (pp>-10000) and (pp<10000) then
139       if e>=10000 then       setpenalty(p, 10000)
140       elseif e<=-10000 then  setpenalty(p, -10000)
141       else
142          pp = pp + e
143          if pp>=10000 then      setpenalty(p, 10000)
144          elseif pp<=-10000 then setpenalty(p, -10000)
145          else                   setpenalty(p, pp) end
146       end
147    end
148 end
149 end
150
151 -- 「異なる JFM」の間の調整方法
152 luatexja.jfmglue.diffmet_rule = math.two_paverage
153 function math.two_add(a,b) return a+b end
154 function math.two_average(a,b) return (a+b)*0.5 end
155 function math.two_paverage(a,b) return (a+b)/2 end
156 function math.two_pleft(a,b) return a end
157 function math.two_pright(a,b) return b end
158
159 local head -- the head of current list
160
161 local Np, Nq, Bp
162 local widow_Bp, widow_Np -- \jcharwidowpenalty 挿入位置管理用
163
164 local non_ihb_flag -- JFM グルー挿入抑止用 flag
165 -- false: \inhibitglue 指定時 true: それ以外
166
167 -------------------- hlist 内の文字の検索
168
169 local first_char, last_char, find_first_char
170 local check_box_high
171 do
172 local ltjd_glyph_from_packed = ltjd.glyph_from_packed
173 local function check_box(box_ptr, box_end)
174    local p = box_ptr; local found_visible_node = false
175    if not p then
176       find_first_char = false; last_char = nil
177       return true
178    end
179    while p and p~=box_end do
180       local pid = getid(p)
181       if pid==id_kern and getsubtype(p)==2 then
182          p = node_next(node_next(node_next(p))); pid = getid(p) -- p must be glyph_node
183       end
184       if pid==id_glyph then
185          repeat
186             if find_first_char then first_char = p; find_first_char = false end
187             last_char = p; found_visible_node = true; p=node_next(p)
188             if (not p) or p==box_end then return found_visible_node end
189          until getid(p)~=id_glyph
190          pid = getid(p) -- p must be non-nil
191       end
192       if pid==id_kern then
193          local pa = get_attr_icflag(p)
194          if pa==IC_PROCESSED then
195             -- do nothing
196          elseif getsubtype(p)==2 then
197             p = node_next(node_next(p));
198             -- Note that another node_next will be executed outside this if-statement.
199          else
200             found_visible_node = true
201             find_first_char = false; last_char = nil
202          end
203       elseif pid==id_hlist then
204          if PACKED == get_attr_icflag(p) then
205             local s = ltjd_glyph_from_packed(p)
206             if find_first_char then first_char = s; find_first_char = false end
207             last_char = s; found_visible_node = true
208          else
209             if getfield(p, 'shift')==0 then
210                last_char = nil
211                if check_box(getlist(p), nil) then found_visible_node = true end
212                find_first_char = false
213             else
214                find_first_char = false; last_char = nil
215             end
216          end
217       elseif pid==id_math then
218          if find_first_char then first_char = p; find_first_char = false end
219          last_char = p; found_visible_node = true
220       elseif pid==id_rule and get_attr_icflag(p)==PACKED then
221          -- do nothing
222       elseif not (pid==id_ins   or pid==id_mark
223                   or pid==id_adjust or pid==id_whatsit
224                   or pid==id_penalty) then
225          found_visible_node = true
226          find_first_char = false; last_char = nil
227       end
228       p = node_next(p)
229    end
230    return found_visible_node
231 end
232
233 check_box_high = function (Nx, box_ptr, box_end)
234    first_char = nil;  last_char = nil;  find_first_char = true
235    if check_box(box_ptr, box_end) then
236       local first_char = first_char
237       if first_char then
238          if getid(first_char)==id_glyph then
239             if if_lang_ja(first_char) then
240                set_np_xspc_jachar_hbox(Nx, first_char)
241             else
242                set_np_xspc_alchar(Nx, getchar(first_char),first_char, 1)
243             end
244          else -- math_node
245             set_np_xspc_alchar(Nx, -1,first_char)
246          end
247       end
248    end
249    return last_char
250 end
251 end
252 -------------------- Np の計算と情報取得
253
254 luatexbase.create_callback("luatexja.jfmglue.whatsit_getinfo", "data",
255                            function (Np, lp, Nq)
256                               if Np.nuc then return Np
257                               else
258                                  return Np  -- your code
259                               end
260                            end)
261 luatexbase.create_callback("luatexja.jfmglue.whatsit_after", "data",
262                            function (stat, Nq, Np) return false end)
263 luatexbase.create_callback("luatexja.jfmglue.whatsit_last_minute", "data",
264                            function (stat, Nq, Np) return false end)
265
266 -- calc next Np
267 local calc_np 
268 do -- 001 -----------------------------------------------
269
270 local traverse = node.direct.traverse
271 local function check_next_ickern(lp)
272    local lx = Np.nuc
273    while lp and getid(lp) == id_kern and ( getsubtype(lp)==0 or 
274      getsubtype(lp)==3 or ITALIC == get_attr_icflag(lp)) do
275      set_attr(lp, attr_icflag, IC_PROCESSED)
276      lx, lp = lp, node_next(lp)
277    end
278    Np.last = lx; return lp
279 end
280
281 local function calc_np_pbox(lp, last)
282    local first, nc = (not Np.first), nil
283    --local lpa = get_attr_icflag(lp)==PACKED and PACKED or KINSOKU -- KINSOKU: dummy
284    local lpa = get_attr_icflag(lp)
285    Np.first = Np.first or lp; Np.id = id_pbox
286    set_attr(lp, attr_icflag, get_attr_icflag(lp))
287    while lp ~=last and (lpa>=PACKED) and (lpa<BOXBDD) do
288       local lpi = getid(lp)
289       if lpa==PACKED then
290          if lpi==id_rule then lp = node_next(lp) end
291          nc, lp = lp, node_next(lp)
292       elseif lpi==id_hlist or lpi==id_vlist then
293          head, lp, nc = ltjd_make_dir_whatsit(head, lp, list_dir, 'jfm pbox')
294          Np.first = first and nc or Np.first
295       else
296          nc, lp = lp, node_next(lp)
297       end
298       first, lpa = false, (lp and has_attr(lp, attr_icflag) or 0)
299      -- get_attr_icflag() ではいけない!
300    end
301    Np.nuc = nc
302    lp = check_next_ickern(lp)
303    Np.last_char = check_box_high(Np, Np.first, lp)
304    return lp
305 end
306
307 local calc_np_aux_glyph_common
308 do -- 002 ---------------------------------------
309    local min, max = math.min, math.max
310    local getwhd = node.direct.getwhd
311    local attr_jchar_class = luatexbase.attributes['ltj@charclass']
312    local attr_jchar_code = luatexbase.attributes['ltj@charcode']
313    local font_getfont = font.getfont
314    local function calc_np_notdef(lp)
315       if not font_getfont(getfont(lp)).characters[getchar(lp)] then
316          local ln = node_next(lp)
317          if ltju.specified_feature(getfont(lp), 'notdef') and ln and getid(ln)==id_glyph then 
318             set_attr(lp, attr_icflag, PROCESSED)
319             set_attr(ln, attr_jchar_code, has_attr(lp, attr_jchar_code) or getchar(lp))
320             set_attr(ln, attr_jchar_class, has_attr(lp, attr_jchar_class) or 0)
321             Np.nuc, lp = ln, ln
322          end
323       end
324       return lp
325    end 
326 function calc_np_aux_glyph_common(lp, acc_flag)
327    Np.nuc, Np.first = lp, (Np.first or lp)
328    if if_lang_ja(lp) then -- JAchar
329       Np.id = id_jglyph
330       local m, mc, cls = set_np_xspc_jachar(Np, lp)
331       local npi, npf
332       local w, h, d = getwhd(lp)
333       if w==0 and h==0 and d==0 then lp = calc_np_notdef(lp) end
334       lp, head, npi, npf = capsule_glyph(lp, m, mc[cls], head, tex_dir)
335       Np.first = (Np.first~=Np.nuc) and Np.first or npf or npi
336       Np.nuc = npi
337       return true, check_next_ickern(lp);
338    else --ALchar
339       Np.id = id_glyph
340       set_np_xspc_alchar(Np, getchar(lp), lp, 1)
341       -- loop
342       local first_glyph, last_glyph = lp
343       set_attr(lp, attr_icflag, PROCESSED); Np.last = lp
344       local y_adjust = has_attr(lp,attr_ablshift) or 0
345       local node_depth = getfield(lp, 'depth') + min(y_adjust, 0)
346       local adj_depth = (y_adjust>0) and (getfield(lp, 'depth') + y_adjust) or 0
347       setfield(lp, 'yoffset', getfield(lp, 'yoffset') - y_adjust); lp = node_next(lp)
348       local lx=lp
349       while lx do
350          local lai = get_attr_icflag(lx)
351          if lx==last or  lai>=PACKED then break
352          else
353             local lid = getid(lx)
354             if lid==id_glyph and not if_lang_ja(lx) then
355                -- 欧文文字
356                last_glyph = lx; set_attr(lx, attr_icflag, PROCESSED); Np.last = lx
357                y_adjust = has_attr(lx,attr_ablshift) or 0
358                node_depth = max(getfield(lx, 'depth') + min(y_adjust, 0), node_depth)
359                adj_depth = (y_adjust>0) and max(getfield(lx, 'depth') + y_adjust, adj_depth) or adj_depth
360                setfield(lx, 'yoffset', getfield(lx, 'yoffset') - y_adjust); lx = node_next(lx)
361             elseif lid==id_kern then
362                local ls = getsubtype(lx)
363                if ls==2 then -- アクセント用の kern
364                   set_attr(lx, attr_icflag, PROCESSED)
365                   lx = node_next(lx) -- lx: アクセント本体
366                   if getid(lx)==id_glyph then
367                      setfield(lx, 'yoffset', getfield(lx, 'yoffset') - (has_attr(lx,attr_ablshift) or 0))
368                   else -- アクセントは上下にシフトされている
369                      setfield(lx, 'shift', getfield(lx, 'shift') + (has_attr(lx,attr_ablshift) or 0))
370                   end
371                   set_attr(lx, attr_icflag, PROCESSED)
372                   lx = node_next(lx); set_attr(lx, attr_icflag, PROCESSED)
373                   lx = node_next(lx); set_attr(lx, attr_icflag, PROCESSED)
374                elseif ls==0  then
375                   Np.last = lx; lx = node_next(lx)
376                elseif (ls==3) or (lai==ITALIC) then
377                   Np.last = lx; set_attr(lx, attr_icflag, IC_PROCESSED); lx = node_next(lx)
378                else break
379                end
380             else break
381             end
382          end
383       end
384       lp=lx
385       local r
386       if adj_depth>node_depth then
387             r = node_new(id_rule,3,first_glyph)
388             setfield(r, 'width', 0); setfield(r, 'height', 0)
389             setfield(r, 'depth',adj_depth); setfield(r, 'dir', tex_dir)
390             set_attr(r, attr_icflag, PROCESSED)
391       end
392       if last_glyph then
393          Np.last_char = last_glyph
394          if r then insert_after(head, first_glyph, r) end
395       else
396          local npn = Np.nuc
397          Np.last_char = npn
398          if r then
399             local nf, nc = getfont(npn), getchar(npn)
400             local ct = (font.getfont(nf) or font.fonts[nf] ).characters[nc]
401             if not ct then -- variation selector
402                node_free(r)
403             elseif (ct.left_protruding or 0) == 0 then
404                head = insert_before(head, npn, r)
405                Np.first = acc_flag and Np.first or ((Np.first==npn) and r or npn)
406             elseif (ct.right_protruding or 0) == 0 then
407                insert_after(head, npn, r); Np.last, lp = r, r
408             else
409                ltjb.package_warning_no_line(
410                   'luatexja',
411                   'Check depth of glyph node ' .. tostring(npn) .. '(font=' .. nf
412                      .. ', char=' .. nc .. '),    because its \\lpcode is ' .. tostring(ct.left_protruding)
413                      .. ' and its \\rpcode is ' .. tostring(ct.right_protruding)
414                ); node_free(r)
415             end
416          end
417       end
418       return true, lp
419    end
420 end
421 end -- 002 ---------------------------------------
422 local calc_np_auxtable
423 do  -- 002 ---------------------------------------
424 local ltjw_apply_ashift_math = ltjw.apply_ashift_math
425 local ltjw_apply_ashift_disc = ltjw.apply_ashift_disc
426 local node_end_of_math = node.direct.end_of_math
427 local dir_tate = luatexja.dir_table.dir_tate
428 local sid_start_link   = node.subtype 'pdf_start_link'
429 local sid_start_thread = node.subtype 'pdf_start_thread'
430 local sid_end_link     = node.subtype 'pdf_end_link'
431 local sid_end_thread   = node.subtype 'pdf_end_thread'
432 calc_np_auxtable = {
433    [id_glyph] = calc_np_aux_glyph_common,
434    [id_hlist] = function(lp)
435       local op, flag
436       head, lp, op, flag = ltjd_make_dir_whatsit(head, lp, list_dir, 'jfm hlist')
437       set_attr(op, attr_icflag, PROCESSED)
438       Np.first = Np.first or op; Np.last = op; Np.nuc = op;
439       if (flag or getfield(op, 'shift')~=0) then
440          Np.id = id_box_like
441       else
442          Np.id = id_hlist
443          Np.last_char = check_box_high(Np, getlist(op), nil)
444       end
445       return true, lp
446    end,
447    [id_vlist] =  function(lp)
448       local op
449       head, lp, op = ltjd_make_dir_whatsit(head, lp, list_dir, 'jfm:' .. getid(lp))
450       Np.first = Np.first or op; Np.last = op; Np.nuc = op;
451       Np.id = id_box_like;
452       return true, lp
453    end,
454    box_like = function(lp)
455       Np.first = Np.first or lp; Np.last = lp; Np.nuc = lp;
456       Np.id = id_box_like;
457       return true, node_next(lp)
458    end,
459    [id_whatsit] = function(lp)
460       local lps = getsubtype(lp)
461       if lps==sid_user then
462          if getfield(lp, 'user_id')==luatexja.userid_table.IHB then
463             local lq = node_next(lp);
464             head = node_remove(head, lp); node_free(lp); non_ihb_flag = getfield(lp, 'value')~=1
465             return false, lq;
466          elseif getfield(lp, 'user_id')==luatexja.userid_table.JA_AL_BDD then
467             local lq = node_next(lp);
468             head = node_remove(head, lp); node_free(lp)
469             return false, lq;
470          else
471             set_attr(lp, attr_icflag, PROCESSED)
472             luatexbase.call_callback("luatexja.jfmglue.whatsit_getinfo",
473                                      Np, lp, Nq)
474             if Np.nuc then
475                Np.id = id_pbox_w; Np.first = Np.nuc; Np.last = Np.nuc;
476                return true, node_next(lp)
477             else
478                return false, node_next(lp)
479             end
480          end
481       else
482          -- we do special treatment for these whatsit nodes.
483          if lps == sid_start_link or lps == sid_start_thread then
484             Np.first = lp
485          elseif lps == sid_end_link or lps == sid_end_thread then
486             Np.first, Nq.last = nil, lp;
487          end
488          set_attr(lp, attr_icflag, PROCESSED)
489          return false, node_next(lp)
490       end
491    end,
492    [id_math] = function(lp)
493       Np.first, Np.nuc = (Np.first or lp), lp;
494       set_attr(lp, attr_icflag, PROCESSED)
495       set_np_xspc_alchar(Np, -1, lp)
496       local end_math  = node_end_of_math(lp)
497       ltjw_apply_ashift_math(lp, end_math, attr_ablshift)
498       set_attr(end_math, attr_icflag, PROCESSED)
499       Np.last, Np.id = end_math, id_math;
500       return true, node_next(end_math);
501    end,
502    [id_glue] = function(lp)
503       Np.first, Np.nuc, Np.last = (Np.first or lp), lp, lp;
504       Np.id = getid(lp); 
505       local f = luatexbase.call_callback("luatexja.jfmglue.special_jaglue", lp)
506       if f then
507          set_attr(lp, attr_icflag, PROCESSED)
508       end
509       return true, node_next(lp)
510    end,
511    [id_disc] = function(lp)
512       Np.first, Np.nuc, Np.last = (Np.first or lp), lp, lp;
513       Np.id = getid(lp); set_attr(lp, attr_icflag, PROCESSED)
514       ltjw_apply_ashift_disc(lp, (list_dir==dir_tate), tex_dir)
515       Np.last_char = check_box_high(Np, getfield(lp, 'replace'), nil)
516       return true, node_next(lp)
517    end,
518    [id_kern] = function(lp)
519       if getsubtype(lp)==2 then
520          Np.first = Np.first or lp
521          set_attr(lp, attr_icflag, PROCESSED); lp = node_next(lp)
522          if getid(lp)==id_glyph then -- アクセント本体
523             setfield(lp, 'yoffset', getfield(lp, 'yoffset') - (has_attr(lp,attr_ablshift) or 0))
524          else -- アクセントは上下にシフトされている
525             setfield(lp, 'shift', getfield(lp, 'shift') + (has_attr(lp,attr_ablshift) or 0))
526          end
527          set_attr(lp, attr_icflag, PROCESSED); lp = node_next(lp)
528          set_attr(lp, attr_icflag, PROCESSED); lp = node_next(lp)
529          set_attr(lp, attr_icflag, PROCESSED);
530          return calc_np_aux_glyph_common(lp, true)
531       else
532          Np.first = Np.first or lp
533          Np.id = id_kern; set_attr(lp, attr_icflag, PROCESSED)
534          Np.last = lp; return true, node_next(lp)
535       end
536    end,
537    [id_penalty] = function(lp)
538       Bp[#Bp+1] = lp; set_attr(lp, attr_icflag, PROCESSED)
539       return false, node_next(lp)
540    end,
541 }
542 end -- 002 ---------------------------------------
543 calc_np_auxtable[id_rule]   = calc_np_auxtable.box_like
544 calc_np_auxtable[15]        = calc_np_auxtable.box_like
545
546 local function calc_np_aux_skip (lp)
547    set_attr(lp, attr_icflag, PROCESSED)
548    return false, node_next(lp)
549 end
550
551 function calc_np(last, lp)
552    local k
553    -- We assume lp = node_next(Np.last)
554    if Nq and Nq.id==id_pbox_w then
555       luatexbase.call_callback("luatexja.jfmglue.whatsit_last_minute", false, Nq, Np)
556    end
557    Np, Nq, non_ihb_flag = Nq, Np, true
558    -- We clear `predefined' entries of Np before pairs() loop,
559    -- because using only pairs() loop is slower.
560    Np.post, Np.pre, Np.xspc, Np.gk = nil, nil, nil, nil
561    Np.first, Np.id, Np.last, Np.met, Np.class= nil, nil, nil, nil
562    Np.auto_kspc, Np.auto_xspc, Np.char, Np.nuc = nil, nil, nil, nil
563    -- auto_kspc, auto_xspc: normally true/false, 
564    -- but the number 0 when Np is ''the beginning of the box/paragraph''.
565    for k in pairs(Np) do Np[k] = nil end
566
567    for k = 1,#Bp do Bp[k] = nil end
568    while lp ~= last  do
569       local lpa = has_attr(lp, attr_icflag) or 0
570       -- unbox 由来ノードの検出
571       if (lpa>=PACKED) and (lpa%PROCESSED_BEGIN_FLAG<=BOXBDD) then
572          if lpa%PROCESSED_BEGIN_FLAG == BOXBDD then
573             local lq = node_next(lp)
574             head = node_remove(head, lp); node_free(lp); lp = lq
575          else
576             return calc_np_pbox(lp, last)
577          end -- id_pbox
578       else
579          k, lp = (calc_np_auxtable[getid(lp)] or calc_np_aux_skip)(lp)
580          if k then return lp end
581       end
582    end
583    Np=nil
584 end
585 end -- 001 -----------------------------------------------
586
587 -- extract informations from Np
588 -- We think that "Np is a Japanese character" if Np.met~=nil,
589 --            "Np is an alphabetic character" if Np.pre~=nil,
590 --            "Np is not a character" otherwise.
591 local after_hlist = nil -- global
592 local after_alchar, extract_np
593 do
594   local PRE  = luatexja.stack_table_index.PRE
595   local POST = luatexja.stack_table_index.POST
596   local KCAT = luatexja.stack_table_index.KCAT
597   local XSP  = luatexja.stack_table_index.XSP
598   local dir_tate = luatexja.dir_table.dir_tate
599
600 -- 和文文字のデータを取得
601    local attr_jchar_class = luatexbase.attributes['ltj@charclass']
602    local attr_jchar_code = luatexbase.attributes['ltj@charcode']
603    local attr_autospc = luatexbase.attributes['ltj@autospc']
604    local attr_autoxspc = luatexbase.attributes['ltj@autoxspc']
605    local getcomponents = node.direct.getcomponents
606    --local ltjf_get_vert_glyph = ltjf.get_vert_glyph
607    function set_np_xspc_jachar(Nx, x)
608       local m = ltjf_font_metric_table[getfont(x)]
609       local c, c_glyph = (not getcomponents(x) and ltjs_orig_char_table[x]), getchar(x)
610       if c and c~=c_glyph then set_attr(x, attr_jchar_code, c) end
611       c = c or c_glyph
612       local cls = slow_find_char_class(c, m, c_glyph)
613       Nx.met, Nx.class, Nx.char = m, cls, c;
614       local mc = m.char_type; Nx.char_type = mc
615       if cls~=0 then set_attr(x, attr_jchar_class, cls) end
616       Nx.pre  = table_current_stack[PRE + c]  or 0
617       Nx.post = table_current_stack[POST + c] or 0
618       Nx.xspc = table_current_stack[XSP  + c] or 3
619       Nx.kcat = table_current_stack[KCAT + c] or 0
620       Nx.auto_kspc, Nx.auto_xspc = (has_attr(x, attr_autospc)==1), (has_attr(x, attr_autoxspc)==1)
621       return m, mc, cls
622    end
623    function set_np_xspc_jachar_hbox(Nx, x)
624       local m = ltjf_font_metric_table[getfont(x)]
625       local c = has_attr(x, attr_jchar_code) or getchar(x)
626       Nx.met, Nx.char  = m, c; Nx.class = has_attr(x, attr_jchar_class) or 0;
627       local mc = m.char_type; Nx.char_type = mc
628       Nx.pre  = table_current_stack[PRE + c]  or 0
629       Nx.post = table_current_stack[POST + c] or 0
630       Nx.xspc = table_current_stack[XSP  + c] or 3
631       Nx.kcat = table_current_stack[KCAT + c] or 0
632       Nx.auto_kspc, Nx.auto_xspc = (has_attr(x, attr_autospc)==1), (has_attr(x, attr_autoxspc)==1)
633    end
634
635 -- 欧文文字のデータを取得
636    local floor = math.floor
637    local nullfunc = function(n) return n end
638    function set_np_xspc_alchar(Nx, c,x, lig)
639       if c~=-1 then
640          local f = (lig ==1) and nullfunc or node_tail
641          local xc, xs = getcomponents(x), getsubtype(x)
642          while xc and xs and xs%4>=2 do
643             x = f(xc);
644             if getid(x)==id_disc then x, xc, xs = nil, getfield(x,'replace'), 2
645             else xc, xs = getcomponents(x), getsubtype(x) end
646          end
647          c = x and getchar(x) or c
648          Nx.pre  = table_current_stack[PRE + c]  or 0
649          Nx.post = table_current_stack[POST + c] or 0
650       else
651          Nx.pre, Nx.post = 0, 0
652       end
653       Nx.met = nil
654       Nx.xspc = table_current_stack[XSP  + c] or 3
655       Nx.auto_xspc = (has_attr(x, attr_autoxspc)==1)
656    end
657    local set_np_xspc_alchar = set_np_xspc_alchar
658    -- change the information for the next loop
659    -- (will be done if Nx is an alphabetic character or a hlist)
660    after_hlist = function (Nx)
661       local s = Nx.last_char
662       if s then
663          if getid(s)==id_glyph then
664             if if_lang_ja(s) then
665                set_np_xspc_jachar_hbox(Nx, s)
666             else
667                set_np_xspc_alchar(Nx, getchar(s), s, 2)
668             end
669          else
670             set_np_xspc_alchar(Nx, -1, s)
671          end
672       else
673          Nx.pre, Nx.met = nil, nil
674       end
675    end
676    after_alchar = function (Nx)
677       local x = Nx.last_char
678       return set_np_xspc_alchar(Nx, getchar(x), x, 2)
679    end
680
681 end
682
683 -------------------- 最下層の処理
684
685 luatexbase.create_callback('luatexja.adjust_jfmglue', 'simple', function(n) return n end)
686
687 -- change penalties (or create a new penalty, if needed)
688 local function handle_penalty_normal(post, pre, g)
689    luatexbase.call_callback('luatexja.adjust_jfmglue', head, Nq, Np, Bp)
690    local a = (pre or 0) + (post or 0)
691    if #Bp == 0 then
692       if (a~=0 and not(g and getid(g)==id_kern)) then
693          local p = node_new(id_penalty, nil, Nq.nuc, Np.nuc)
694          if a<-10000 then a = -10000 elseif a>10000 then a = 10000 end
695          setfield(p, 'penalty', a); head = insert_before(head, Np.first, p)
696          Bp[1]=p; set_attr(p, attr_icflag, KINSOKU)
697       end
698    else for _, v in pairs(Bp) do add_penalty(v,a) end
699    end
700 end
701
702 local function handle_penalty_always(post, pre, g)
703    luatexbase.call_callback('luatexja.adjust_jfmglue', head, Nq, Np, Bp)
704    local a = (pre or 0) + (post or 0)
705    if #Bp == 0 then
706       if not (g and getid(g)==id_glue) or a~=0 then
707          local p = node_new(id_penalty, nil, Nq.nuc, Np.nuc)
708          if a<-10000 then a = -10000 elseif a>10000 then a = 10000 end
709          setfield(p, 'penalty', a); head = insert_before(head, Np.first, p)
710          Bp[1]=p; set_attr(p, attr_icflag, KINSOKU)
711       end
712    else for _, v in pairs(Bp) do add_penalty(v,a) end
713    end
714 end
715
716 local function handle_penalty_suppress(post, pre, g)
717    luatexbase.call_callback('luatexja.adjust_jfmglue', head, Nq, Np, Bp)
718    if #Bp == 0 then
719       if g and getid(g)==id_glue then
720          local p = node_new(id_penalty, nil, Nq.nuc, Np.nuc)
721          setfield(p, 'penalty', 10000); head = insert_before(head, Np.first, p)
722          Bp[1]=p; set_attr(p, attr_icflag, KINSOKU)
723       end
724    else 
725       local a = (pre or 0) + (post or 0)
726       for _, v in pairs(Bp) do add_penalty(v,a) end
727    end
728 end
729
730 local function handle_penalty_jwp()
731    local a = table_current_stack[luatexja.stack_table_index.JWP]
732    if #widow_Bp == 0 then
733       if a~=0 then
734          local p = node_new(id_penalty, widow_Np.nuc)
735          if a<-10000 then a = -10000 elseif a>10000 then a = 10000 end
736          setfield(p, 'penalty', a); head = insert_before(head, widow_Np.first, p)
737          widow_Bp[1]=p; set_attr(p, attr_icflag, KINSOKU)
738       end
739    else for _, v in pairs(widow_Bp) do add_penalty(v,a) end
740    end
741 end
742
743 -- 和文文字間の JFM glue を node 化
744 local function new_jfm_glue(mc, bc, ac)
745 -- bc, ac: char classes
746    local g = mc[bc][ac]
747    if g then
748        if g[1] then
749            return node_copy(g[1]), g.ratio, false, false, false
750        else
751          local f = node_new(id_glue)
752          set_attr(f, attr_icflag, g.priority)
753          setglue(f, g.width, g.stretch, g.shrink)
754          return f, g.ratio, g.kanjiskip_natural, g.kanjiskip_stretch, g.kanjiskip_shrink
755       end
756    end
757    return false, 0
758 end
759
760 -- Nq.last (kern w) .... (glue/kern g) Np.first
761 local function real_insert(g)
762    if g then
763       head, Np.first = insert_before(head, Np.first, node_inherit_attr(g, Nq.nuc, Np.nuc))
764       local ngk = Np.gk
765       if not ngk then Np.gk = g
766       elseif type(ngk)=="table" then ngk[#ngk+1]=g
767       else  Np.gk = { ngk, g } end
768    end
769 end
770
771
772 -------------------- 和文文字間空白量の決定
773 local calc_ja_ja_aux
774 do
775    local round = tex.round
776    local bg_ag = 2*id_glue - id_glue
777    local bg_ak = 2*id_glue - id_kern
778    local bk_ag = 2*id_kern - id_glue
779    local bk_ak = 2*id_kern - id_kern
780
781    local function blend_diffmet(b, a, rb, ra)
782       return round(luatexja.jfmglue.diffmet_rule((1-rb)*b+rb*a, (1-ra)*b+ra*a))
783    end
784    local blend_diffmet_inf
785    do
786       local abs, log, log264, floor = math.abs, math.log, math.log(2)*64, math.floor
787       blend_diffmet_inf = function (b, a, bo, ao, rb, ra)
788          local nb, na = (bo and b*2.0^(64*bo) or 0), (ao and a*2.0^(64*ao) or 0)
789          local r = luatexja.jfmglue.diffmet_rule((1-rb)*nb+rb*na, (1-ra)*nb+ra*na)
790          local ro = (r~=0) and floor(log(abs(r))/log264+0.0625) or 0
791          return round(r/2.^(64*ro)), ro
792       end
793    end
794    local getglue = luatexja.getglue
795    calc_ja_ja_aux = function (gb, ga, db, da)
796       if luatexja.jfmglue.diffmet_rule ~= math.two_pleft and diffmet_rule ~= math.two_pright
797           and luatexja.jfmglue.diffmet_rule ~= math.two_paverage then
798          db, da = 0, 1
799       end
800       if not gb then
801          if ga then gb = node_new(id_kern, 1); setfield(gb, 'kern', 0)
802          else return nil end
803       elseif not ga then
804          ga = node_new(id_kern, 1); setfield(ga, 'kern', 0)
805       end
806       local gbw, gaw, gbst, gast, gbsto, gasto, gbsh, gash, gbsho, gasho
807       if getid(gb)==id_glue then
808          gbw, gbst, gbsh, gbsto, gbsho = getglue(gb)
809       else
810          gbw = getfield(gb, 'kern')
811       end
812       if getid(ga)==id_glue then
813          gaw, gast, gash, gasto, gasho = getglue(ga)
814       else
815          gaw = getfield(ga, 'kern')
816       end
817       if not (gbst or gast) then -- 両方とも kern
818          setfield(gb, 'kern', blend_diffmet(gbw, gaw, db, da))
819          node_free(ga); return gb
820       else
821          local gr = gb
822          if not gbst then gr = ga; node_free(gb) else node_free(ga) end
823          gbw = blend_diffmet(gbw or 0, gaw or 0, db, da) -- 結果の自然長
824          gbst, gbsto = blend_diffmet_inf(gbst, gast, gbsto, gasto, db, da) -- 伸び
825          gbsh, gbsho = blend_diffmet_inf(-(gbsh or 0), -(gash or 0), gbsho, gasho, db, da) -- -(縮み)
826          setglue(gr, gbw, gbst, -gbsh, gbsto, gbsho)
827          return gr
828       end
829    end
830 end
831
832 local null_skip_table = {0, 0, 0}
833 -- get kanjiskip
834 local get_kanjiskip, kanjiskip_jfm_flag
835 local get_kanjiskip_low
836 local calc_ja_ja_glue
837 do
838    local KANJI_SKIP   = luatexja.icflag_table.KANJI_SKIP
839    local KANJI_SKIP_JFM   = luatexja.icflag_table.KANJI_SKIP_JFM
840
841    get_kanjiskip_low = function(flag, qm, bn, bp, bh)
842    -- flag = false: kanjiskip そのもの(パラメータ or JFM)
843    --               ノード kanji_skip のコピーで良い場合は nil が帰る
844    -- flag = true: JFM グルーに付随する kanjiskip 自然長/伸び/縮み分
845       if qm.with_kanjiskip and (bn or bp or bh) then
846          if kanjiskip_jfm_flag then
847             local g = node_new(id_glue);
848             local bk = qm.kanjiskip or null_skip_table
849             setglue(g, bn and (bn*bk[1]) or 0, 
850                        bp and (bp*bk[2]) or 0, 
851                        bh and (bh*bk[3]) or 0, 0, 0)
852             set_attr(g, attr_icflag, KANJI_SKIP_JFM)
853             return g
854          elseif flag then
855             local g = node_new(id_glue)
856             local st = bp and (bp*getfield(kanji_skip, 'stretch')) or 0
857             local sh = bh and (bh*getfield(kanji_skip, 'shrink')) or 0
858             setglue(g,
859                bn and (bn*getfield(kanji_skip, 'width')) or 0,
860                st, sh, 
861                (st==0) and 0 or getfield(kanji_skip, 'stretch_order'),
862                (sh==0) and 0 or getfield(kanji_skip, 'shrink_order'))
863             set_attr(g, attr_icflag, KANJI_SKIP_JFM)
864             return g
865          end
866       end
867    end
868    
869    get_kanjiskip = function()
870       if Np.auto_kspc==0 or Nq.auto_kspc==0 then return nil 
871       elseif Np.auto_kspc or Nq.auto_kspc then
872          local pm, qm = Np.met, Nq.met
873          if (pm.char_type==qm.char_type) and (qm.var==pm.var) then
874              return get_kanjiskip_low(false, qm, 1, 1, 1) or node_copy(kanji_skip)
875          else
876             local gb = get_kanjiskip_low(false, qm, 1, 1, 1)
877             if gb then
878                return calc_ja_ja_aux(gb, 
879                  get_kanjiskip_low(false, pm, 1, 1, 1) or node_copy(kanji_skip), 0, 1) 
880             else
881                local ga = get_kanjiskip_low(false, pm, 1, 1, 1)
882                return (ga and calc_ja_ja_aux(node_copy(kanji_skip), ga, 0, 1))
883                  or node_copy(kanji_skip)
884             end
885          end
886       else   
887          local g = node_new(id_glue)
888          set_attr(g, attr_icflag, kanjiskip_jfm_flag and KANJI_SKIP_JFM or KANJI_SKIP)
889          return g
890       end
891    end
892
893    calc_ja_ja_glue = function ()
894       local qm, pm = Nq.met, Np.met
895       local qmc, pmc = qm.char_type, pm.char_type
896       if (qmc==pmc) and (qm.var==pm.var) then
897          local g, _, kn, kp, kh = new_jfm_glue(qmc, Nq.class, Np.class)
898          return g, (Np.auto_kspc or Nq.auto_kspc) and get_kanjiskip_low(true, qm, kn, kp, kh)
899       else
900          local npn, nqn = Np.nuc, Nq.nuc
901          local gb, db, bn, bp, bh 
902             = new_jfm_glue(qmc, Nq.class,
903                            slow_find_char_class(Np.char,
904                                                 qm, getchar(npn)))
905          local ga, da, an, ap, ah 
906             = new_jfm_glue(pmc,
907                            slow_find_char_class(Nq.char,
908                                                 pm, getchar(nqn)),
909                            Np.class)
910          local g = calc_ja_ja_aux(gb, ga, db, da)
911          local k
912          gb = get_kanjiskip_low(true, qm, bn, bp, bh)
913          ga = get_kanjiskip_low(true, pm, an, ap, ah)
914          k = calc_ja_ja_aux(gb, ga, db, da)
915          return g, k
916       end
917    end
918 end
919
920 -------------------- 和欧文間空白量の決定
921
922 -- get xkanjiskip
923 local get_xkanjiskip, xkanjiskip_jfm_flag
924 local get_xkanjiskip_normal, get_xkanjiskip_jfm
925 local get_xkanjiskip_low
926 do
927    local XKANJI_SKIP   = luatexja.icflag_table.XKANJI_SKIP
928    local XKANJI_SKIP_JFM   = luatexja.icflag_table.XKANJI_SKIP_JFM
929
930    get_xkanjiskip_low = function(flag, qm, bn, bp, bh)
931       if flag or (qm.with_kanjiskip and (bn or bp or bh)) then
932          if xkanjiskip_jfm_flag then
933             local g = node_new(id_glue);
934             local bk = qm.xkanjiskip or null_skip_table
935             setglue(g, bn and bk[1] or 0,
936                        bp and bk[2] or 0,
937                        bh and bk[3] or 0, 0, 0)
938             set_attr(g, attr_icflag, XKANJI_SKIP_JFM)
939             return g
940          elseif flag then
941             return node_copy(xkanji_skip)
942          else
943             local g = node_new(id_glue);
944             setglue(g,
945                bn and (bn*getfield(xkanji_skip, 'width')) or 0,
946                bp and (bp*getfield(xkanji_skip, 'stretch')) or 0,
947                bh and (bh*getfield(xkanji_skip, 'shrink')) or 0,
948                bp and getfield(xkanji_skip, 'stretch_order') or 0,
949                bh and getfield(xkanji_skip, 'shrink_order') or 0)
950             set_attr(g, attr_icflag, XKANJI_SKIP_JFM)
951             return g
952          end
953       end
954    end
955    
956    get_xkanjiskip = function(Nn)
957       if Np.auto_xspc==0 or Nq.auto_xspc==0 then
958         return nil 
959       elseif (Nq.xspc>=2) and (Np.xspc%2==1) and (Nq.auto_xspc or Np.auto_xspc) then
960          return get_xkanjiskip_low(true, Nn.met, 1, 1, 1)
961       else
962          local g = node_new(id_glue)
963          set_attr(g, attr_icflag, xkanjiskip_jfm_flag and XKANJI_SKIP_JFM or XKANJI_SKIP)
964          return g
965       end
966    end
967 end
968
969 -------------------- 隣接した「塊」間の処理
970
971 local function combine_spc(name)
972    return (Np[name] or Nq[name]) and ((Np[name]~=0) and (Nq[name]~=0))
973 end
974
975 -- NA, NB: alchar or math
976 local function get_NA_skip()
977    local pm = Np.met
978    local qclass = fast_find_char_class(
979       (Nq.id == id_math and -1 or (Nq.xspc>=2 and 'alchar' or 'nox_alchar')), pm)
980    local g, _, kn, kp, kh = new_jfm_glue(pm.char_type, qclass, Np.class)
981    local k = g and (Nq.xspc>=2) and (Np.xspc%2==1) and combine_spc 'auto_xspc'
982       and get_kanjiskip_low(true, pm, kn, kp, kh)
983    return g, k
984 end
985 local function get_NB_skip()
986    local qm = Nq.met
987    local pclass = fast_find_char_class(
988       (Np.id == id_math and -1 or (Np.xspc%2==1 and 'alchar' or 'nox_alchar')), qm)
989    local g, _, kn, kp, kh = new_jfm_glue(qm.char_type, Nq.class, pclass)
990    local k = g and (Nq.xspc>=2) and (Np.xspc%2==1) and combine_spc 'auto_xspc'
991       and get_kanjiskip_low(true, qm, kn, kp, kh)
992    return g, k
993 end
994
995 local function get_OA_skip(insert_ksp)
996    local pm = Np.met
997    local g, _, kn, kp, kh = new_jfm_glue(
998       pm.char_type,
999       fast_find_char_class(
1000         (((Nq.id==id_glue)or(Nq.id==id_kern)) and 'glue' or 'jcharbdd'), pm), 
1001       Np.class)
1002    local k
1003    if insert_ksp then
1004       k = (combine_spc 'auto_kspc') and get_kanjiskip_low(true, pm, kn, kp, kh)
1005    end
1006    return g, k
1007 end
1008 local function get_OB_skip(insert_ksp)
1009    local qm = Nq.met
1010    local g, _, kn, kp, kh = new_jfm_glue(
1011       qm.char_type, Nq.class,
1012       fast_find_char_class(
1013         (((Np.id==id_glue)or(Np.id==id_kern)) and 'glue' or 'jcharbdd'), qm))
1014    local k
1015    if insert_ksp then
1016       k = (combine_spc 'auto_kspc') and get_kanjiskip_low(true, qm, kn, kp, kh)
1017    end
1018    return g, k
1019 end
1020
1021 -- (anything) .. jachar
1022 local function handle_np_jachar(mode)
1023    local qid = Nq.id
1024    if qid==id_jglyph or ((qid==id_pbox or qid==id_pbox_w) and Nq.met) then
1025       local g, k
1026       if non_ihb_flag then g, k = calc_ja_ja_glue() end -- M->K
1027       if not g then g = get_kanjiskip() end
1028       handle_penalty_normal(Nq.post, Np.pre, g); 
1029       real_insert(g); real_insert(k)
1030    elseif Nq.met then  -- qid==id_hlist
1031       local g, k
1032       if non_ihb_flag then g, k = get_OA_skip(true) end -- O_A->K
1033       if not g then g = get_kanjiskip() end
1034       handle_penalty_normal(0, Np.pre, g); real_insert(g); real_insert(k)
1035    elseif Nq.pre then
1036       local g, k; if non_ihb_flag then g, k = get_NA_skip() end -- N_A->X
1037       if not g then g = get_xkanjiskip(Np) end
1038       handle_penalty_normal((qid==id_hlist and 0 or Nq.post), Np.pre, g); 
1039       real_insert(g); real_insert(k)
1040    else
1041       local g = non_ihb_flag and (get_OA_skip()) -- O_A
1042       if qid==id_glue then handle_penalty_normal(0, Np.pre, g)
1043       elseif qid==id_kern then handle_penalty_suppress(0, Np.pre, g)
1044       else handle_penalty_always(0, Np.pre, g)
1045       end
1046       real_insert(g)
1047    end
1048    if mode and Np.kcat%2~=1 then
1049       widow_Np.first, widow_Bp, Bp = Np.first, Bp, widow_Bp
1050    end
1051 end
1052
1053
1054 -- jachar .. (anything)
1055 local function handle_nq_jachar()
1056     if Np.pre then
1057       local g, k; if non_ihb_flag then g, k =  get_NB_skip()end -- N_B->X
1058       if not g then g = get_xkanjiskip(Nq) end
1059       handle_penalty_normal(Nq.post, (Np.id==id_hlist and 0 or Np.pre), g);
1060       real_insert(g); real_insert(k)
1061    else
1062       local g =non_ihb_flag and  (get_OB_skip()) -- O_B
1063       if Np.id==id_glue then handle_penalty_normal(Nq.post, 0, g)
1064       elseif Np.id==id_kern then handle_penalty_suppress(Nq.post, 0, g)
1065       else handle_penalty_always(Nq.post, 0, g)
1066       end
1067       real_insert(g)
1068    end
1069 end
1070
1071 -- (anything) .. (和文文字で始まる hlist)
1072 local function handle_np_ja_hlist()
1073    local qid = Nq.id
1074    if qid==id_jglyph or ((qid==id_pbox or qid == id_pbox_w) and Nq.met) then
1075       local g = non_ihb_flag and get_OB_skip(true) or get_kanjiskip() -- O_B->K
1076       handle_penalty_normal(Nq.post, 0, g); real_insert(g)
1077    elseif Nq.met then  -- Nq.id==id_hlist
1078       local g = get_kanjiskip() -- K
1079       handle_penalty_suppress(0, 0, g); real_insert(g)
1080    elseif Nq.pre then
1081       local g = get_xkanjiskip(Np) -- X
1082       handle_penalty_suppress(0, 0, g); real_insert(g)
1083    end
1084 end
1085
1086 -- (和文文字で終わる hlist) .. (anything)
1087 local function handle_nq_ja_hlist()
1088    if Np.pre then
1089       local g = get_xkanjiskip(Nq) -- X
1090       handle_penalty_suppress(0, 0, g); real_insert(g)
1091    end
1092 end
1093
1094
1095 -- Nq が前側のクラスタとなることによる修正
1096 local adjust_nq
1097 do
1098    local adjust_nq_aux = {
1099       [id_glyph] = function() after_alchar(Nq) end, -- after_alchar(Nq)
1100       [id_hlist] = function() after_hlist(Nq) end,
1101       [id_pbox]  = function() after_hlist(Nq) end,
1102       [id_disc]  = function() after_hlist(Nq) end,
1103       [id_glue]  = function() 
1104                       luatexbase.call_callback("luatexja.jfmglue.special_jaglue_after", Nq.nuc)
1105                    end,
1106       [id_pbox_w]= function()
1107                       local hh = luatexbase.call_callback("luatexja.jfmglue.whatsit_after", false, Nq, Np, head)
1108                       -- hh: new head of false (nott processed)
1109                       if hh then head = hh end
1110                    end,
1111    }
1112
1113    adjust_nq = function()
1114       local x = adjust_nq_aux[Nq.id]
1115       if x then x()  end
1116    end
1117 end
1118
1119
1120 -------------------- 開始・終了時の処理
1121 do
1122 local node_prev = node.direct.getprev
1123 -- リスト末尾の処理
1124 local function handle_list_tail(mode, last)
1125    adjust_nq()
1126    if mode then
1127       -- the current list is to be line-breaked.
1128       -- Insert \jcharwidowpenalty
1129       if widow_Np.first then handle_penalty_jwp() end
1130    else
1131       Np = Nq          
1132       -- the current list is the contents of a hbox
1133       local npi, pm = Np.id, Np.met
1134       if npi == id_jglyph or (npi==id_pbox and pm) then
1135          local g = new_jfm_glue(pm.char_type, Np.class, fast_find_char_class('boxbdd', pm))
1136          if g then
1137             set_attr(g, attr_icflag, BOXBDD)
1138             head = insert_after(head, Np.last, g)
1139          end
1140       end
1141    end
1142 end
1143
1144 -- リスト先頭の処理
1145 local function handle_list_head(par_indented)
1146    local npi, pm = Np.id, Np.met
1147    if npi == id_jglyph or (npi==id_pbox and pm) then
1148       if non_ihb_flag then
1149          local g = new_jfm_glue(pm.char_type, fast_find_char_class(par_indented, pm), Np.class)
1150          if g then
1151             set_attr(g, attr_icflag, BOXBDD)
1152             if getid(g)==id_glue and #Bp==0 then
1153                local h = node_new(id_penalty, nil, Np.nuc)
1154                setfield(h, 'penalty', 10000); set_attr(h, attr_icflag, BOXBDD)
1155             end
1156             head = insert_before(head, Np.first, g)
1157          end
1158       end
1159    end
1160 end
1161
1162 -- initialize
1163 -- return value: (the initial cursor lp), (last node)
1164 local init_var
1165 do
1166    local id_local = node.id 'local_par'
1167    local KANJI_SKIP   = luatexja.icflag_table.KANJI_SKIP
1168    local XKANJI_SKIP   = luatexja.icflag_table.XKANJI_SKIP
1169    local KSK  = luatexja.stack_table_index.KSK
1170    local XSK  = luatexja.stack_table_index.XSK
1171    local dir_yoko = luatexja.dir_table.dir_yoko
1172    local dir_tate = luatexja.dir_table.dir_tate
1173    local attr_yablshift = luatexbase.attributes['ltj@yablshift']
1174    local attr_tablshift = luatexbase.attributes['ltj@tablshift']
1175    local table_pool = {
1176       {}, {}, {first=nil},
1177       { auto_kspc=nil, auto_xspc=nil, char=nil, class=nil,
1178         first=nil, id=nil, last=nil, met=nil, nuc=nil,
1179         post=nil, pre=nil, xspc=nil, gk=nil }, 
1180       { auto_kspc=nil, auto_xspc=nil, char=nil, class=nil,
1181         first=nil, id=nil, last=nil, met=nil, nuc=nil,
1182         post=nil, pre=nil, xspc=nil, gk=nil },
1183    }
1184    init_var = function (mode,dir)
1185       -- 1073741823: max_dimen
1186       Bp, widow_Bp, widow_Np, Np, Nq
1187          = table_pool[1], table_pool[2], table_pool[3], table_pool[4], table_pool[5]
1188       for i=1,5 do for j,_ in pairs(table_pool[i]) do table_pool[i][j]=nil end end
1189       table_current_stack = ltjs.table_current_stack
1190
1191       list_dir, tex_dir = (ltjs.list_dir or dir_yoko), (dir or 'TLT')
1192       local is_dir_tate = list_dir==dir_tate
1193       capsule_glyph = is_dir_tate and ltjw.capsule_glyph_tate or ltjw.capsule_glyph_yoko
1194       attr_ablshift = is_dir_tate and attr_tablshift or attr_yablshift
1195       local TEMP = node_new(id_glue) 
1196       -- TEMP is a dummy node, which will be freed at the end of the callback. 
1197       -- ithout this node, set_attr(kanji_skip, ...) somehow creates an "orphaned"  attribute list.
1198
1199       do
1200           kanji_skip, kanjiskip_jfm_flag = skip_table_to_glue(KSK)
1201           set_attr(kanji_skip, attr_icflag, KANJI_SKIP)
1202       end
1203
1204       do
1205           xkanji_skip, xkanjiskip_jfm_flag = skip_table_to_glue(XSK)
1206           set_attr(xkanji_skip, attr_icflag, XKANJI_SKIP)
1207       end
1208
1209       if mode then
1210          -- the current list is to be line-breaked:
1211          -- hbox from \parindent is skipped.
1212          local lp, par_indented, lpi, lps  = head, 'boxbdd', getid(head), getsubtype(head)
1213          while lp and 
1214             ((lpi==id_whatsit and lps~=sid_user)
1215                or ((lpi==id_hlist) and (lps==3))
1216                or (lpi==id_local)) do
1217             if (lpi==id_hlist) and (lps==3) then
1218                Np.char, par_indented = 'parbdd', 'parbdd'
1219                Np.width = getfield(lp, 'width')
1220             end
1221             lp=node_next(lp); lpi, lps = getid(lp), getsubtype(lp) end
1222          return lp, node_tail(head), par_indented, TEMP
1223       else
1224          return head, nil, 'boxbdd', TEMP
1225       end
1226    end
1227 end
1228
1229 -------------------- 外部から呼ばれる関数
1230
1231 local ensure_tex_attr = ltjb.ensure_tex_attr
1232 local tex_getattr = tex.getattribute
1233 -- main interface
1234 function luatexja.jfmglue.main(ahead, mode, dir)
1235    if not ahead then return ahead end
1236    head = ahead;
1237    local lp, last, par_indented, TEMP = init_var(mode,dir)
1238    lp = calc_np(last, lp)
1239    if Np then
1240       handle_list_head(par_indented)
1241       lp = calc_np(last,lp); 
1242       while Np do
1243          adjust_nq();
1244          local pid, pm = Np.id, Np.met
1245          -- 挿入部
1246          if pid == id_jglyph then
1247             handle_np_jachar(mode)
1248          elseif pm then
1249             if pid==id_hlist then handle_np_ja_hlist()
1250             else handle_np_jachar() end
1251          elseif Nq.met then
1252             if Nq.id==id_hlist then handle_nq_ja_hlist()
1253             else handle_nq_jachar() end
1254          end
1255          lp = calc_np(last,lp)
1256       end
1257       handle_list_tail(mode, last)
1258    end
1259    -- adjust attr_icflag for avoiding error
1260    if tex_getattr(attr_icflag)~=0 then ensure_tex_attr(attr_icflag, 0) end
1261    node_free(kanji_skip); 
1262    node_free(xkanji_skip); node_free(TEMP)
1263    return head
1264 end
1265 end
1266
1267 do
1268    local IHB  = luatexja.userid_table.IHB 
1269    local BPAR = luatexja.userid_table.BPAR
1270    local BOXB = luatexja.userid_table.BOXB
1271    local node_prev = node.direct.getprev
1272    local node_write = node.direct.write
1273
1274    -- \inhibitglue, \disinhibitglue
1275    local function ihb_node(v)
1276       local tn = node_new(id_whatsit, sid_user)
1277       setfield(tn, 'user_id', IHB)
1278       setfield(tn, 'type', 100)
1279       setfield(tn, 'value', v)
1280       node_write(tn)
1281    end
1282    function luatexja.jfmglue.create_inhibitglue_node()
1283       ihb_node(1)
1284    end
1285    function luatexja.jfmglue.create_disinhibitglue_node()
1286       ihb_node(0)
1287    end
1288
1289    -- Node for indicating beginning of a paragraph
1290    -- (for ltjsclasses)
1291    function luatexja.jfmglue.create_beginpar_node()
1292       local tn = node_new(id_whatsit, sid_user)
1293       setfield(tn, 'user_id', BPAR)
1294       setfield(tn, 'type', 100)
1295       setfield(tn, 'value', 1)
1296       node_write(tn)
1297    end
1298
1299    -- Node for indicating a head/end of a box
1300    function luatexja.jfmglue.create_boxbdd_node()
1301       local tn = node_new(id_whatsit, sid_user)
1302       setfield(tn, 'user_id', BOXB)
1303       setfield(tn, 'type', 100)
1304       setfield(tn, 'value', 1)
1305       node_write(tn)
1306    end
1307
1308    local function whatsit_callback(Np, lp, Nq)
1309       if Np and Np.nuc then return Np
1310       elseif Np and getfield(lp, 'user_id') == BPAR then
1311          Np.first = lp; Np.nuc = lp; Np.last = lp
1312          return Np
1313       elseif Np and getfield(lp, 'user_id') == BOXB then
1314          Np.first = lp; Np.nuc = lp; Np.last = lp
1315          if Nq then
1316             if Nq.met then
1317                Np.class = fast_find_char_class('boxbdd', Nq.met)
1318             end
1319             Np.met = Nq.met; Np.pre = 0; Np.post = 0; Np.xspc = 0
1320             Np.auto_xspc, Np.auto_kspc = 0, 0
1321          end         
1322          return Np
1323       else
1324          return Np
1325       end
1326    end
1327
1328     local function whatsit_after_callback(s, Nq, Np, head)
1329        if not s and getfield(Nq.nuc, 'user_id') == BPAR then
1330          local x, y = node_prev(Nq.nuc), Nq.nuc
1331          Nq.first, Nq.nuc, Nq.last = x, x, x
1332          if Np then
1333             if Np.met then
1334                Nq.class = fast_find_char_class('parbdd', Np.met)
1335             end
1336             Nq.met = Np.met; Nq.pre = 0; Nq.post = 0; Nq.xspc = 0
1337             Nq.auto_xspc, Nq.auto_kspc = 0, 0
1338          end
1339          s = node_remove(head, y)
1340          node_free(y)
1341        elseif not s and getfield(Nq.nuc, 'user_id') == BOXB then
1342          local x, y = node_prev(Nq.nuc), Nq.nuc
1343          Nq.first, Nq.nuc, Nq.last = x, x, x
1344          if Np then
1345             if Np.met then
1346                Nq.class = fast_find_char_class('boxbdd', Np.met)
1347             end
1348             Nq.met = Np.met; Nq.pre = 0; Nq.post = 0; Nq.xspc = 0
1349             Nq.auto_xspc, Nq.auto_kspc = 0, 0
1350          end
1351          s = node_remove(head, y)
1352          node_free(y)
1353       end
1354       return s
1355    end
1356
1357    luatexbase.add_to_callback("luatexja.jfmglue.whatsit_getinfo", whatsit_callback,
1358                               "luatexja.beginpar.np_info", 1)
1359    luatexbase.add_to_callback("luatexja.jfmglue.whatsit_after", whatsit_after_callback,
1360                               "luatexja.beginpar.np_info_after", 1)
1361 end
1362
1363 do
1364    local node_prev = node.direct.getprev
1365    local node_write = node.direct.write
1366    local XKANJI_SKIP   = luatexja.icflag_table.XKANJI_SKIP
1367    local XKANJI_SKIP_JFM   = luatexja.icflag_table.XKANJI_SKIP_JFM
1368    local KANJI_SKIP   = luatexja.icflag_table.KANJI_SKIP
1369    local KANJI_SKIP_JFM   = luatexja.icflag_table.KANJI_SKIP_JFM
1370    local XSK  = luatexja.stack_table_index.XSK
1371    local KSK  = luatexja.stack_table_index.KSK
1372    local attr_yablshift = luatexbase.attributes['ltj@yablshift']
1373    local attr_tablshift = luatexbase.attributes['ltj@tablshift']
1374    local getcount, abs, scan_keyword = tex.getcount, math.abs, token.scan_keyword
1375    local get_current_jfont
1376    do
1377        local attr_curjfnt = luatexbase.attributes['ltj@curjfnt']
1378        local attr_curtfnt = luatexbase.attributes['ltj@curtfnt']
1379        local dir_tate = luatexja.dir_table.dir_tate
1380        local get_dir_count = ltjd.get_dir_count        
1381        function get_current_jfont()
1382            return tex.getattribute((get_dir_count()==dir_tate) and attr_curtfnt or attr_curjfnt)
1383        end
1384    end
1385    -- \insertxkanjiskip
1386    -- SPECIAL_JAGLUE のノード:
1387    -- * (X)KANJI_SKIP(_JFM): その場で値が決まっている
1388    -- * PROCESSED_BEGIN_FLAG + (X)KANJI_SKIP: 段落終了時に決める
1389    local function insert_k_skip_common(ind, name, ica, icb)
1390        if abs(tex.nest[tex.nest.ptr].mode) ~= ltjs.hmode then return end
1391        local g = node_new(id_glue); set_attr(g, attr_icflag, SPECIAL_JAGLUE)
1392        local is_late = scan_keyword("late")
1393        if not is_late then
1394            local st = ltjs.get_stack_skip(ind, getcount('ltj@@stack'))
1395            if st.width==1073741823 then
1396                local bk = ltjf_font_metric_table[get_current_jfont()][name]
1397                if bk then
1398                    setglue(g, bk[1] or 0, bk[2] or 0, bk[3] or 0, 0, 0)
1399                end
1400                set_attr(g, attr_yablshift, icb); node_write(g); return
1401            end
1402            setglue(g, st.width, st.stretch, st.shrink, st.stretch_order, st.shrink_order)
1403            set_attr(g, attr_yablshift, ica)
1404        else
1405            set_attr(g, attr_yablshift, PROCESSED_BEGIN_FLAG + ica)
1406            set_attr(g, attr_tablshift, get_current_jfont())               
1407        end
1408        node_write(g)
1409    end
1410    function luatexja.jfmglue.insert_xk_skip()
1411        insert_k_skip_common(XSK, "xkanjiskip", XKANJI_SKIP, XKANJI_SKIP_JFM)
1412    end
1413    function luatexja.jfmglue.insert_k_skip()
1414        insert_k_skip_common(KSK, "kanjiskip", KANJI_SKIP, KANJI_SKIP_JFM)
1415    end
1416    -- callback
1417    local getglue = luatexja.getglue
1418    local function special_jaglue(lx)
1419        local lxi = get_attr_icflag(lx)
1420        if lxi==SPECIAL_JAGLUE then
1421            non_ihb_flag = false; return false
1422        else
1423            return lx
1424        end
1425    end
1426    local function special_jaglue_after_inner(lx, lxi, lxi_jfm, kn, bk)
1427        local w, st, sh, sto, sho = getglue(kn)
1428        if w~=1073741823 then
1429            setglue(lx, w, st, sh, sto, sho); set_attr(lx, attr_icflag, lxi)
1430        else
1431            local m = ltjf_font_metric_table[has_attr(lx, attr_tablshift)]
1432            setglue(lx, bk[1], bk[2], bk[3], 0, 0)
1433            set_attr(lx, attr_icflag, lxi_jfm)
1434        end
1435    end
1436    local function special_jaglue_after(lx)
1437        if get_attr_icflag(lx)==SPECIAL_JAGLUE then
1438            lxi=has_attr(lx, attr_yablshift)
1439            if lxi>=PROCESSED_BEGIN_FLAG then
1440                lxi = lxi%PROCESSED_BEGIN_FLAG
1441                if lxi == KANJI_SKIP then
1442                    special_jaglue_after_inner(lx, lxi, KANJI_SKIP_JFM, kanji_skip, 
1443                      ltjf_font_metric_table[has_attr(lx, attr_tablshift)].kanjiskip or null_skip_table)
1444                else --  lxi == XKANJI_SKIP
1445                    special_jaglue_after_inner(lx, lxi, XKANJI_SKIP_JFM, xkanji_skip, 
1446                      ltjf_font_metric_table[has_attr(lx, attr_tablshift)].xkanjiskip or null_skip_table)
1447                end
1448            else
1449                set_attr(lx, attr_icflag, lxi)
1450            end
1451            Np.first = lx
1452            if node_prev(lx) then
1453                local lxp = node_prev(lx)
1454                if lxp and getid(lxp)==id_penalty and get_attr_icflag(lxp)==KINSOKU then
1455                    Bp[#Bp+1]=lxp
1456                end
1457            end
1458            non_ihb_flag = false; return false
1459        end
1460        return true
1461    end
1462    luatexbase.create_callback("luatexja.jfmglue.special_jaglue", "list",
1463                               special_jaglue)
1464    luatexbase.create_callback("luatexja.jfmglue.special_jaglue_after", "list",
1465                               special_jaglue_after)
1466 end
1467
1468
1469 luatexja.jfmglue.after_hlist = after_hlist
1470 luatexja.jfmglue.check_box_high = check_box_high