utils/iconv.c

   1
   2 /*  Copyright (C) 2002, 2003, 2004     Manuel Novoa III
   3  *
   4  *  This library is free software; you can redistribute it and/or
   5  *  modify it under the terms of the GNU Library General Public
   6  *  License as published by the Free Software Foundation; either
   7  *  version 2 of the License, or (at your option) any later version.
   8  *
   9  *  This library is distributed in the hope that it will be useful,
  10  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  *  Library General Public License for more details.
  13  *
  14  *  You should have received a copy of the GNU Library General Public
  15  *  License along with this library; if not, write to the Free
  16  *  Software Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  17  */
  18
  19 /*  ATTENTION!   ATTENTION!   ATTENTION!   ATTENTION!   ATTENTION!
  20  *
  21  *  Besides uClibc, I'm using this code in my libc for elks, which is
  22  *  a 16-bit environment with a fairly limited compiler.  It would make
  23  *  things much easier for me if this file isn't modified unnecessarily.
  24  *  In particular, please put any new or replacement functions somewhere
  25  *  else, and modify the makefile to use your version instead.
  26  *  Thanks.  Manuel
  27  *
  28  *  ATTENTION!   ATTENTION!   ATTENTION!   ATTENTION!   ATTENTION! */
  29
  30
  31 /* May 23, 2002     Initial Notes:
  32  *
  33  * I'm still tweaking this stuff, but it passes the tests I've thrown
  34  * at it, and Erik needs it for the gcc port.  The glibc extension
  35  * __wcsnrtombs() hasn't been tested, as I didn't find a test for it
  36  * in the glibc source.  I also need to fix the behavior of
  37  * _wchar_utf8sntowcs() if the max number of wchars to convert is 0.
  38  *
  39  * UTF-8 -> wchar -> UTF-8 conversion tests on Markus Kuhn's UTF-8-demo.txt
  40  * file on my platform (x86) show about 5-10% faster conversion speed than
  41  * glibc with mbsrtowcs()/wcsrtombs() and almost twice as fast as glibc with
  42  * individual mbrtowc()/wcrtomb() calls.
  43  *
  44  * If 'DECODER' is defined, then _wchar_utf8sntowcs() will be compiled
  45  * as a fail-safe UTF-8 decoder appropriate for a terminal, etc.  which
  46  * needs to deal gracefully with whatever is sent to it.  In that mode,
  47  * it passes Markus Kuhn's UTF-8-test.txt stress test.  I plan to add
  48  * an arg to force that behavior, so the interface will be changing.
  49  *
  50  * I need to fix the error checking for 16-bit wide chars.  This isn't
  51  * an issue for uClibc, but may be for ELKS.  I'm currently not sure
  52  * if I'll use 16-bit, 32-bit, or configureable wchars in ELKS.
  53  *
  54  * July 1, 2002
  55  *
  56  * Fixed _wchar_utf8sntowcs() for the max number of wchars == 0 case.
  57  * Fixed nul-char bug in btowc(), and another in __mbsnrtowcs() for 8-bit
  58  *    locales.
  59  * Enabled building of a C/POSIX-locale-only version, so full locale support
  60  *    no longer needs to be enabled.
  61  *
  62  * Nov 4, 2002
  63  *
  64  * Fixed a bug in _wchar_wcsntoutf8s().  Don't store wcs position if dst is NULL.
  65  * Also, introduce an awful hack into _wchar_wcsntoutf8s() and wcsrtombs() in
  66  *   order to support %ls in printf.  See comments below for details.
  67  * Change behaviour of wc<->mb functions when in the C locale.  Now they do
  68  *   a 1-1 map for the range 0x80-UCHAR_MAX.  This is for backwards compatibility
  69  *   and consistency with the stds requirements that a printf format string by
  70  *   a valid multibyte string beginning and ending in it's initial shift state.
  71  *
  72  * Nov 5, 2002
  73  *
  74  * Forgot to change btowc and wctob when I changed the wc<->mb functions yesterday.
  75  *
  76  * Nov 7, 2002
  77  *
  78  * Add wcwidth and wcswidth, based on Markus Kuhn's wcwidth of 2002-05-08.
  79  *   Added some size/speed optimizations and integrated it into my locale
  80  *   framework.  Minimally tested at the moment, but the stub C-locale
  81  *   version (which most people would probably be using) should be fine.
  82  *
  83  * Nov 21, 2002
  84  *
  85  * Revert the wc<->mb changes from earlier this month involving the C-locale.
  86  * Add a couple of ugly hacks to support *wprintf.
  87  * Add a mini iconv() and iconv implementation (requires locale support).
  88  *
  89  * Aug 1, 2003
  90  * Bug fix for mbrtowc.
  91  *
  92  * Aug 18, 2003
  93  * Bug fix: _wchar_utf8sntowcs and _wchar_wcsntoutf8s now set errno if EILSEQ.
  94  *
  95  * Feb 11, 2004
  96  * Bug fix: Fix size check for remaining output space in iconv().
  97  *
  98  * Manuel
  99  */
 100
 101 /* keep libgen before string.h - and porting.h to use the
 102  * XPG version of basename */
 103 #include <libgen.h>
 104 #include "porting.h"
 105 #include <string.h>
 106 #include <iconv.h>
 107 #include <stdarg.h>
 108 #include <wchar.h>
 109 #include "wchar.c" /* for _UC_iconv_t and __iconv_codesets */
 110
 111 extern const unsigned char __iconv_codesets[];
 112
 113 #define IBUF BUFSIZ
 114 #define OBUF BUFSIZ
 115
 116 static char *progname;
 117 static int hide_errors;
 118
 119 static void error_msg(const char *fmt, ...)
 120          __attribute__ ((noreturn, format (printf, 1, 2)));
 121
 122 static void error_msg(const char *fmt, ...)
 123 {
 124         va_list arg;
 125
 126         if (!hide_errors) {
 127                 fprintf(stderr, "%s: ", progname);
 128                 va_start(arg, fmt);
 129                 vfprintf(stderr, fmt, arg);
 130                 va_end(arg);
 131         }
 132
 133         exit(EXIT_FAILURE);
 134 }
 135
 136 int main(int argc, char **argv)
 137 {
 138         FILE *ifile;
 139         FILE *ofile = stdout;
 140         const char *p;
 141         const char *s;
 142         static const char opt_chars[] = "tfocsl";
 143                                       /* 012345 */
 144         const char *opts[sizeof(opt_chars)]; /* last is infile name */
 145         iconv_t ic;
 146         char ibuf[IBUF];
 147         char obuf[OBUF];
 148         char *pi;
 149         char *po;
 150         size_t ni, no, r, pos;
 151
 152         hide_errors = 0;
 153
 154         for (s = opt_chars ; *s ; s++) {
 155                 opts[ s - opt_chars ] = NULL;
 156         }
 157
 158         progname = *argv;
 159         while (--argc) {
 160                 p = *++argv;
 161                 if ((*p != '-') || (*++p == 0)) {
 162                         break;
 163                 }
 164                 do {
 165                         if ((s = strchr(opt_chars,*p)) == NULL) {
 166                         USAGE:
 167                                 s = basename(progname);
 168                                 fprintf(stderr,
 169                                                 "%s [-cs] -f fromcode -t tocode [-o outputfile] [inputfile ...]\n"
 170                                                 "  or\n%s -l\n", s, s);
 171                                 return EXIT_FAILURE;
 172                         }
 173                         if ((s - opt_chars) < 3) {
 174                                 if ((--argc == 0) || opts[s - opt_chars]) {
 175                                         goto USAGE;
 176                                 }
 177                                 opts[s - opt_chars] = *++argv;
 178                         } else {
 179                                 opts[s - opt_chars] = p;
 180                         }
 181                 } while (*++p);
 182         }
 183
 184         if (opts[5]) {                          /* -l */
 185                 fprintf(stderr, "Recognized codesets:\n");
 186                 for (s = (char *)__iconv_codesets ; *s ; s += *s) {
 187                         fprintf(stderr,"  %s\n", s+2);
 188                 }
 189                 s = __LOCALE_DATA_CODESET_LIST;
 190                 do {
 191                         fprintf(stderr,"  %s\n", __LOCALE_DATA_CODESET_LIST+ (unsigned char)(*s));
 192                 } while (*++s);
 193
 194                 return EXIT_SUCCESS;
 195         }
 196
 197         if (opts[4]) {
 198                 hide_errors = 1;
 199         }
 200
 201         if (!opts[0] || !opts[1]) {
 202                 goto USAGE;
 203         }
 204         if ((ic = iconv_open(opts[0],opts[1])) == ((iconv_t)(-1))) {
 205                 error_msg( "unsupported codeset in %s -> %s conversion\n", opts[1], opts[0]);
 206         }
 207         if (opts[3]) {                          /* -c */
 208                 ((_UC_iconv_t *) ic)->skip_invalid_input = 1;
 209         }
 210
 211         if ((s = opts[2]) != NULL) {
 212                 if (!(ofile = fopen(s, "w"))) {
 213                         error_msg( "couldn't open %s for writing\n", s);
 214                 }
 215         }
 216
 217         pos = ni = 0;
 218         do {
 219                 if (!argc || ((**argv == '-') && !((*argv)[1]))) {
 220                         ifile = stdin;          /* we don't check for duplicates */
 221                 } else if (!(ifile = fopen(*argv, "r"))) {
 222                         error_msg( "couldn't open %s for reading\n", *argv);
 223                 }
 224
 225                 while ((r = fread(ibuf + ni, 1, IBUF - ni, ifile)) > 0) {
 226                         pos += r;
 227                         ni += r;
 228                         no = OBUF;
 229                         pi = ibuf;
 230                         po = obuf;
 231                         if ((r = iconv(ic, &pi, &ni, &po, &no)) == ((size_t)(-1))) {
 232                                 if ((errno != EINVAL) && (errno != E2BIG)) {
 233                                         error_msg( "iconv failed at pos %lu : %m\n", (unsigned long) (pos - ni));
 234                                 }
 235                         }
 236                         if ((r = OBUF - no) > 0) {
 237                                 if (fwrite(obuf, 1, OBUF - no, ofile) < r) {
 238                                         error_msg( "write error\n");
 239                                 }
 240                         }
 241                         if (ni) {                       /* still bytes in buffer! */
 242                                 memmove(ibuf, pi, ni);
 243                         }
 244                 }
 245
 246                 if (ferror(ifile)) {
 247                         error_msg( "read error\n");
 248                 }
 249
 250                 ++argv;
 251
 252                 if (ifile != stdin) {
 253                         fclose(ifile);
 254                 }
 255
 256         } while (--argc > 0);
 257
 258         iconv_close(ic);
 259
 260         if (ni) {
 261                 error_msg( "incomplete sequence\n");
 262         }
 263
 264         return (((_UC_iconv_t *) ic)->skip_invalid_input < 2)
 265                 ? EXIT_SUCCESS : EXIT_FAILURE;
 266 }