X-Git-Url: http://git.osdn.net/view?p=mikutoga%2FTogaGem.git;a=blobdiff_plain;f=src%2Fmain%2Fjava%2Fjp%2Fsourceforge%2Fmikutoga%2Fparser%2FCommonParser.java;h=bbbc4733cccb6f093ade1e130129cb5a8de07d77;hp=d64b52e67d656820ad71b8689369e335d985997c;hb=3f41ff0b41eb0be52398d5e56a5bb00b673da194;hpb=58dadc462c1b00d0c5002be5e27a1fd0a781f1f6 diff --git a/src/main/java/jp/sourceforge/mikutoga/parser/CommonParser.java b/src/main/java/jp/sourceforge/mikutoga/parser/CommonParser.java index d64b52e..bbbc473 100644 --- a/src/main/java/jp/sourceforge/mikutoga/parser/CommonParser.java +++ b/src/main/java/jp/sourceforge/mikutoga/parser/CommonParser.java @@ -7,59 +7,93 @@ package jp.sourceforge.mikutoga.parser; +import java.io.EOFException; import java.io.IOException; -import java.nio.CharBuffer; -import java.nio.charset.Charset; +import java.io.InputStream; +import java.io.PushbackInputStream; +import java.nio.ByteBuffer; +import java.nio.ByteOrder; /** * 各種パーサの共通実装。 */ public class CommonParser { - /** - * PMDで用いられる文字エンコーディング(windows-31j)。 - * ほぼShift_JISのスーパーセットと思ってよい。 - * デコード結果はUCS-2集合に収まるはず。 - */ - public static final Charset CS_WIN31J = Charset.forName("windows-31j"); + private static final int BYTES_SHORT = Short .SIZE / Byte.SIZE; + private static final int BYTES_INT = Integer.SIZE / Byte.SIZE; + private static final int BYTES_FLOAT = Float .SIZE / Byte.SIZE; + private static final int BYTES_PRIM = 4; + + private static final int MASK_8BIT = 0xff; + private static final int MASK_16BIT = 0xffff; + + static{ + assert BYTES_PRIM >= BYTES_FLOAT; + assert BYTES_PRIM >= BYTES_INT; + assert BYTES_PRIM >= BYTES_SHORT; + } + - /** PMXで用いられる文字エンコーディング(UTF-8)。 */ - public static final Charset CS_UTF8 = Charset.forName("UTF-8"); + private final PushbackInputStream is; - /** PMXで用いられる文字エンコーディング(UTF-16のリトルエンディアン)。 */ - public static final Charset CS_UTF16LE = Charset.forName("UTF-16LE"); + private final byte[] readBuffer; + private final ByteBuffer beBuf; + private final ByteBuffer leBuf; - private final MmdSource source; + private long position = 0L; - private final TextDecoder decoderWin31j = new TextDecoder(CS_WIN31J); - private final TextDecoder decoderUTF8 = new TextDecoder(CS_UTF8); - private final TextDecoder decoderUTF16LE = new TextDecoder(CS_UTF16LE); /** * コンストラクタ。 * @param source 入力ソース */ - public CommonParser(MmdSource source){ + public CommonParser(InputStream source){ super(); - this.source = source; + this.is = new PushbackInputStream(source, 1); + + this.readBuffer = new byte[BYTES_PRIM]; + + this.beBuf = ByteBuffer.wrap(this.readBuffer); + this.leBuf = ByteBuffer.wrap(this.readBuffer); - this.decoderWin31j .setZeroChopMode(true); - this.decoderUTF8 .setZeroChopMode(false); - this.decoderUTF16LE.setZeroChopMode(false); + this.beBuf.order(ByteOrder.BIG_ENDIAN); + this.leBuf.order(ByteOrder.LITTLE_ENDIAN); return; } + + /** + * 入力ソースの読み込み位置を返す。 + * @return 入力ソースの読み込み位置。単位はbyte。 + */ + protected long getPosition(){ + long result = this.position; + return result; + } + /** * 入力ソースにまだデータが残っているか判定する。 * @return まだ読み込んでいないデータが残っていればtrue * @throws IOException IOエラー - * @see MmdSource#hasMore() */ - protected boolean hasMore() throws IOException{ - boolean result = this.source.hasMore(); - return result; + public boolean hasMore() throws IOException{ + int bVal; + + try{ + bVal = this.is.read(); + }catch(EOFException e){ // ありえない? + return false; + } + + if(bVal < 0){ + return false; + } + + this.is.unread(bVal); + + return true; } /** @@ -67,28 +101,81 @@ public class CommonParser { * @param skipLength 読み飛ばすバイト数。 * @throws IOException IOエラー * @throws MmdEofException 読み飛ばす途中でストリーム終端に達した。 - * @see MmdSource#skip(long) + * @see InputStream#skip(long) */ protected void skip(long skipLength) throws IOException, MmdEofException { - long result = this.source.skip(skipLength); - if(result != skipLength){ - throw new MmdEofException(this.source.getPosition()); + long remain = skipLength; + + while(remain > 0L){ + long txSize = this.is.skip(remain); + if(txSize <= 0L){ + throw new MmdEofException(this.position); + } + remain -= txSize; + this.position += txSize; } return; } /** - * 入力ソースを読み飛ばす。 - * @param skipLength 読み飛ばすバイト数。 + * byte配列を読み込む。 + * @param dst 格納先配列 + * @param off 読み込み開始オフセット + * @param length 読み込みバイト数 * @throws IOException IOエラー - * @throws MmdEofException 読み飛ばす途中でストリーム終端に達した。 - * @see MmdSource#skip(long) + * @throws NullPointerException 配列がnull + * @throws IndexOutOfBoundsException 引数が配列属性と矛盾 + * @throws MmdEofException 読み込む途中でストリーム終端に達した。 + * @see InputStream#read(byte[], int, int) */ - protected void skip(int skipLength) + protected void parseByteArray(byte[] dst, int off, int length) + throws IOException, + NullPointerException, + IndexOutOfBoundsException, + MmdEofException { + int remain = length; + int offset = off; + + while(remain > 0){ + int txSize = this.is.read(dst, offset, remain); + if(txSize <= 0){ + throw new MmdEofException(this.position); + } + remain -= txSize; + offset += txSize; + this.position += txSize; + } + + return; + } + + /** + * byte配列を読み込む。 + * 配列要素全ての読み込みが試みられる。 + * @param dst 格納先配列 + * @throws IOException IOエラー + * @throws NullPointerException 配列がnull + * @throws MmdEofException 読み込む途中でストリーム終端に達した。 + * @see InputStream#read(byte[]) + */ + protected void parseByteArray(byte[] dst) + throws IOException, NullPointerException, MmdEofException{ + parseByteArray(dst, 0, dst.length); + return; + } + + /** + * 内部バッファへ指定バイト数だけ読み込む。 + * @param fillSize + * @throws IOException + * @throws MmdEofException + */ + private void fillBuffer(int fillSize) throws IOException, MmdEofException { - skip((long) skipLength); + parseByteArray(this.readBuffer, 0, fillSize); + return; } /** @@ -96,11 +183,18 @@ public class CommonParser { * @return 読み込んだbyte値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseByte() */ protected byte parseByte() throws IOException, MmdEofException{ - return this.source.parseByte(); + int bData = this.is.read(); + if(bData < 0){ + throw new MmdEofException(this.position); + } + + byte result = (byte) bData; + this.position++; + + return result; } /** @@ -109,11 +203,10 @@ public class CommonParser { * @return 読み込まれた値のint値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseUByteAsInteger() */ - protected int parseUByteAsInteger() + protected int parseUByteAsInt() throws IOException, MmdEofException{ - return this.source.parseUByteAsInteger(); + return ((int) parseByte()) & MASK_8BIT; } /** @@ -122,11 +215,12 @@ public class CommonParser { * @return 読み込まれた値のboolean値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseBoolean() */ protected boolean parseBoolean() throws IOException, MmdEofException{ - return this.source.parseBoolean(); + byte result = parseByte(); + if(result == 0x00) return false; + return true; } /** @@ -135,11 +229,12 @@ public class CommonParser { * @return 読み込んだshort値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseShort() */ - protected short parseShort() + protected short parseLeShort() throws IOException, MmdEofException{ - return this.source.parseShort(); + fillBuffer(BYTES_SHORT); + short result = this.leBuf.getShort(0); + return result; } /** @@ -149,11 +244,10 @@ public class CommonParser { * @return 読み込まれた値のint値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseUShortAsInteger() */ - protected int parseUShortAsInteger() + protected int parseLeUShortAsInt() throws IOException, MmdEofException{ - return this.source.parseUShortAsInteger(); + return ((int) parseLeShort()) & MASK_16BIT; } /** @@ -162,11 +256,12 @@ public class CommonParser { * @return 読み込んだint値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseInteger() */ - protected int parseInteger() + protected int parseLeInt() throws IOException, MmdEofException{ - return this.source.parseInteger(); + fillBuffer(BYTES_INT); + int result = this.leBuf.getInt(0); + return result; } /** @@ -175,106 +270,29 @@ public class CommonParser { * @return 読み込んだfloat値 * @throws IOException IOエラー * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseFloat() */ - protected float parseFloat() + protected float parseLeFloat() throws IOException, MmdEofException{ - return this.source.parseFloat(); - } - - /** - * byte配列を読み込む。 - * @param dst 格納先配列 - * @param offset 読み込み開始オフセット - * @param length 読み込みバイト数 - * @throws IOException IOエラー - * @throws NullPointerException 配列がnull - * @throws IndexOutOfBoundsException 引数が配列属性と矛盾 - * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseByteArray(byte[], int, int) - */ - protected void parseByteArray(byte[] dst, int offset, int length) - throws IOException, - NullPointerException, - IndexOutOfBoundsException, - MmdEofException { - this.source.parseByteArray(dst, offset, length); - return; - } - - /** - * byte配列を読み込む。 - * 配列要素全ての読み込みが試みられる。 - * @param dst 格納先配列 - * @throws IOException IOエラー - * @throws NullPointerException 配列がnull - * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseByteArray(byte[]) - */ - protected void parseByteArray(byte[] dst) - throws IOException, NullPointerException, MmdEofException{ - this.source.parseByteArray(dst); - return; - } - - /** - * float配列を読み込む。 - * @param dst 格納先配列 - * @param offset 読み込み開始オフセット - * @param length 読み込みfloat要素数 - * @throws IOException IOエラー - * @throws NullPointerException 配列がnull - * @throws IndexOutOfBoundsException 引数が配列属性と矛盾 - * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseFloatArray(float[], int, int) - */ - protected void parseFloatArray(float[] dst, int offset, int length) - throws IOException, - NullPointerException, - IndexOutOfBoundsException, - MmdEofException { - this.source.parseFloatArray(dst, offset, length); - return; - } - - /** - * float配列を読み込む。 - * 配列要素全ての読み込みが試みられる。 - * @param dst 格納先配列 - * @throws IOException IOエラー - * @throws NullPointerException 配列がnull - * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @see MmdSource#parseFloatArray(float[]) - */ - protected void parseFloatArray(float[] dst) - throws IOException, NullPointerException, MmdEofException{ - this.source.parseFloatArray(dst); - return; + fillBuffer(BYTES_FLOAT); + float result = this.leBuf.getFloat(0); + return result; } /** - * 指定された最大バイト長に収まるゼロ終端(0x00)文字列を読み込む。 - * 入力バイト列はwindows-31jエンコーディングとして解釈される。 - * ゼロ終端以降のデータは無視されるが、 - * IO入力は指定バイト数だけ読み進められる。 - * ゼロ終端が見つからないまま指定バイト数が読み込み終わった場合、 - * そこまでのデータから文字列を構成する。 - * - * @param maxlen 読み込みバイト数 - * @return デコードされた文字列 - * @throws IOException IOエラー - * @throws MmdEofException 読み込む途中でストリーム終端に達した。 - * @throws MmdFormatException 不正な文字エンコーディングが検出された。 + * 固定バイト長の文字列を読み込む。 + * @param decoder 文字デコーダ + * @param byteLen 読み込む固定バイト長 + * @return 文字列 + * @throws IOException 入力エラー + * @throws MmdEofException 固定長バイト列を読む前に末端に達した。 + * @throws MmdFormatException 文字エンコーディングに関するエラー */ - protected String parseZeroTermWin31J(int maxlen) - throws IOException, - MmdEofException, - MmdFormatException { - CharBuffer encoded = - this.decoderWin31j.parseString(this.source, maxlen); - - String result = encoded.toString(); - + protected String parseString(TextDecoder decoder, int byteLen) + throws IOException, MmdEofException, MmdFormatException { + byte[] buf = decoder.prepareBuffer(byteLen); + parseByteArray(buf, 0, byteLen); + long basePos = getPosition(); + String result= decoder.decode(basePos, byteLen); return result; }