probe for getspnam(), forkpty(), utmpx, replace sethostname()

Android is missing all of these; we need to probe for some so we have
a config symbol to depend on.
sethostname() is easily replaced.
We got termios.h via pty.h; now it's not included in configure-step tools,
so we need termios.h to generate globals.

Fix "tail -c 10" segfault spotted by Lukasz Szpakowski.

Once we've read through the initial TT.bytes backlog we discard the extra data,
meaning we adjust the remaining amount each time so the overflow is zero bytes.
We were doing the adjustment right, but not zeroing out the overflow counter
after we did so.

More sed bugfixes.

sed: fix 'q', and { }, and } after s/// with no semicolon.

More sed corner cases. (Empty regex repeats previous regex, implement -i, etc.)

Fix more sed bugs.

Fix sed 'b' with no label and 'N' in general.

More sed bugfixes. (Did you know s/[/]// is a valid sed expression?)

Debugging pass on sed: make the existing test suite pass.

Add a few more sed tests.

Add color support for scripts/test.sh and new SKIP_HOST for tests expected to fail on non-toybox implementations.

sed: implement s & and \1 backrefs.

Implement more sed plumbing, including s/// (without \1 or & yet).

Remove unnecessary assignment spotted by Cynt Rynt.

Implement another largeish chunk of sed. Untested, unfinished, do not use yet.

First cleanup pass on hwclock.

hwclock: get and set the hwclock

ipcrm : remove msg que, sem or shared memory

Yet more sed tests.

Implement a few sed commands. Not done, and not tested yet.

More sed tests.

Next round of sed infrastructure, parses most commands now, doesn't implement them yet.

Attached are new toys TR and CRONTAB.

*tr.c*:  It translate, squezze and delete characters.
         Supported classes are alpha, alnum, digit, lower, upper
         space, blank, puct, cntrl and xdigit.

*crontab.c*: Companion of crond. It maintains crontab files.

Test for ls -d from Isaac Dunham, and he pointed out -F also disables symlink following.

Bug report from Isaac Dunham: ls -d shouldn't follow command line symlinks without -H or -L (just like ls -l).

First batch of sed tests.

Only good for TEST_HOST=1 at the moment because the test infrastructure itself
depends on sed, so if an unfinished sed is in the $PATH it goes boing. But
hey, corner cases!

I have... more.

Next drop of sed infrastructure, mostly argument parsing, doesn't do anything interesting yet.

Fill out rest of help text for sed.

Fix use after free error spotted by ?ukasz Szpakowski.

O_CLOEXEC was confusing the O_RDONLY test in loopfiles(), resulting in attempts to read from stdout instead of stdin for "-" or no arguments.

xexec() recursion limiter has to go after rebound or toy_init() zeroes it.

Cosmetic tweak: no trailing spaces when ./toybox lists command names.

Basic sed range support, enough for "sed -n 9,11p README" to work.

Teach ln -f to leave original target alone if link creation fails.

Suggested by Ashwini Sharma, I wound up implementing it by creating the new
link at a temporary name and renaming it over the old one instead of renaming
the old file out of the way and putting it back if it failed.

(Because "mkdir -p one/one/blah && ln -sf /bin/one one" would otherwise
rename one/one out of the way and only notice it can't delete it way at the
end when recovery's darn awkward, vs create new thing and if rename fails
(including EISDIR) that's the main error path. And yes the temporary name
is in the same directory as the destination so we never rename between mounts.)

link over the old one instead of renaming the old file and renaming it back.

Random in-progress snapshot of sed, not finished yet.

More static analysis fixes from Ashwini Sharma.

Add TOYBOX_NORECURSE so xexec() won't make internal function calls.

nsenter: A tool to use setns(2)

This implements all of the namespace parts of nsenter, but UID and GID
switching are missing, as are -r and -w (both because they're not strictly
necessary and because the nsenter manpage has an insufficient
description of how they work).

unshare: Fix help and option parsing

The help text was inconsistent, and option parsing was completely broken
(the options mostly did the wrong thing).

Factor out printf-style escape parsing logic from echo.c.

Even bigger ip.c, from Ashwini Sharma.

Use O_CLOEXEC instead of O_RDONLY to signal loopfiles_rw() to close filehandles.

Fix last night's mv commit (use dest, not source).

Implement mv -f and -i.

Started over on sed (by reading the posix spec).

acpi: implement -ctV, fix recursion, plug a small leak

* acpi_callback had blindly assumed that a path of 26 chars or more was
  the right depth; rely on depth from dirtree root

* acpi -c shows cooling device state
  some backlights are set up so that they will report dimmer as higher,
  but that's a hardware issue that can't be sanely worked around.

* acpi -t shows temperatures
  this implementation will pick up fan, battery temperatures, etc.
  (but currently not hwmon-type temperatures, or hdd temps;
  acpi 1.7 does not measure these either)
  we handle milli-C (typical) and deci-C (I've seen this on Qualcomm
  batteries, and not yet anywhere else)
  we do *not* handle deci-K yet

* acpi -V shows all sensors

* without saving the result of dirtree_path() to free later, we had
  a slow leak.
  all callbacks call this once, so save it in GLOBALS()
  acpi -t happens to need this anyhow, though using openat()/readall()
  instead of readfile() would work.

Various bugfixes (mostly resource leaks) from Ashwini Sharma's static analysis, plus occasional tweak by me while reviewing them.

Fix use-after-free spotted by Ashwini Sharma's static analysis.

We xstrdup() an optargs string to avoid modifying our environment space
(because it can change what "ps" shows to other processes), and then parse
out colon delimited strings and save them in globals that can later be used
in the -v codepath and so on. But those globals _aren't_ strdup (no point)
which means we can't free the string while we're still using pointers into
the middle of it. So move the free to the end.

(I hardly ever test with CFG_TOYBOX_FREE switched on because even nommu
doesn't need it.)

Update status lists. (Once the pending-not-in-pending files go away (see toys/pending/README), this can be probed from the source.)

Basic update of the roadmap and status pages. (Both need a good scrub and polish beyond this.)

Release notes for 0.5.0.

Added tag 0.5.0 for changeset 7afd32673a5c

Workaround for musl's faccessat bug (the rm -r "error: is a directory" thing).

The Linux man page says I can use AT_SYMLINK_NOFOLLOW. It works in glibc,
uclibc, and klibc, but musl returns -EINVAL any time you pass in that flag
and the maintainer says that's not a bug and insists the man page and those
other libraries all change to match musl's behavior.

Toybox uses it to avoid scheduling unnecessary metadata writes for things we're
about to delete (have to chmod unreadable directories so we can descend into
them to delete their contents, the chmod happens before we descend so the
disk I/O has plenty of time to be scheduled) because the extra writes wear out
SSD faster. It's just an optimization and I don't really care if it works
_well_ (the fchmodat call _also_ takes AT_SYMLINK_NOFOLLOW so that's covered),
but musl's behavior uniquely makes the check always error and thus breaks normal
"rm -r".

Yes this workaround is checking #ifdef __MUSL__ which the library does not
supply (because its code is perfect and will thus never need to be worked
around). You can CFLAGS=-D__MUSL__ if you don't echo "#define __MUSL__" >>
include/features.h when installing the library.

Bugfix from Ashwini Sharma: Z timezone required by posix for touch but not for libc, so we have to implement it here.

Updated version, having complete support for ip _link_, _addr_, _rule_, _route_ and _tunnel_ options.

Fix two mount bugs: 1) Don't skip a filesystem type when setting up loopback mount, 2) Don't stop checking filesystem types due to EBUSY, it may mean already mounted by another filesystem type you haven't tried yet.

mount: terminate list so unknown user mount attempts don't endlessly loop, add better error reporting.

Brown paper bag time: comma_scan() didn't work for anything but the last entry.

Multi-build single.sh should exit with an error when build breaks.

Cleanup pass on groupdel.

Allow single.sh to build more than one command per invocation.

Untangle id/groups/logname so single.sh can build each one standalone.

Have OLDTOY emit (redundant) function prototype so single.sh can build OLDTOY standalone (if it has its own config symbol).

Don't segfault for --help of single.sh build of OLDTOY commands that use another command's help.

The only illegal characters in a username are ":" (field separator), "\n" (line separator), and "/" (filename separator).

Restricting usernames to the legacy posix character allowed set (for filenames,
so the $HOME directory is creatable on VFAT and similar) means you can't have
UTF-8 usernames. Linux allows any character but / and NUL in filenames.
Since root is creating these entries, we assume root knows what it's doing.

Separate more commands so single.sh can build them standalone.

When killall was invoked without arguments, there appeared segmentation fault

Fix du test: du symlink -> "0\tsymlink"

Respond to two static analysis issues in dirtree_path() reported by Ashwini Sharma.

dirtree->name is an array, not a pointer, so can't be zero. Remove the test.

We dereference plen without checking it for null but calling dirtree_path(0, 0)
is pilot error: only the _first_ call can have plen = 0. Add a comment.

Start on ping.c.

Tweak portability.h for uClibc version in buildroot defconfig.

I've been locally patching uClibc to not violate posix-2008 (you don't need
to define a GNU macro to get a posix function), but uClibc is obsolete and
moribund (development peaked in 2006, last bugfix release was over 2 years
ago), and the largest remaining user (buildroot) doesn't bother to apply such
a patch. Since even buildroot is slowly migrating to musl-libc, just do the
portability tweak for what the last release of the old thing actually did.

Always call setlocale if I18N is enabled, so nested toy_exec() can switch it back off if necessary.

Delete generated/README.txt (the contents are in code.html now) so clean can just remove the "generated" directory entirely.

Capitalize "toybox" more consistently on the about page.

Fluff out the documentation some more.

Remove debug echo checked in by mistake.

Forgot to check in the updated makefile when I moved the testsuite.

(Did you know you can test individual commands with scripts/test.sh command?
Now you do...)

Typo from the dawn of time: toybox is not capitalized the way BusyBox was.

It's just a word. Capitalize at the start of the sentence, otherwise don't.
Yeah, it could be always capitalized as a proper name but since the command
"toybox" is all lower case, that would be weird.

The ancient GPL (copied from the 2.6.12 kernel) build infrastructure is actually in the "kconfig" directory, not under scripts. Remind me to write a new one from scratch...

(Someone actually submitted a basic kconfig rewrite in awk once, but until I
bite the bullet and write my own awk.c, I just don't know awk well enough to
maintain a large script written in it. Back when I maintained kernel.org/doc
I wrote http://landley.net/hg/kdocs/file/tip/make/menuconfig2html.py but
I am NOT reintroducing python as a build dependency. And neither actually
implemented actual menuing part. So... todo list.)

Move testsuite out of scripts/test into its own top level tests directory, and make ctrl-c kill "make test" more reliably.

Give library probe a progress indicator, and use 150% of detected CPUs to try to keep large SMP machines busy (each compiler invocation is short so they exit almost as fast as we launch them).

Reorder functions to get rid of unnecessary prototypes, and move a global into GLOBALS.

rm -rf needs to chmod directories to u+rwx, because directories need +x to search.
(Fixes messages about not being able to delete directories when running make test).

A few fixes for issues reported in static analysis.

Cleanup pass on README.

Other versions are adding Cached from /proc/meminfo to free buffers/cache
(and subtracting it from used), but sysinfo() doesn't provide it. (But it
provide "high memory", which hasn't been relevant for almost a decade...)
But that's a design change, not a cleanup issue.

Update README for pending directory, include list of code outside of pending (grandfathered) awaiting cleanup.

Minor cleanup pass on touch.

Cleanup pass on cut, more to do.

Cut predates the "pending" directory, so was checked in as-is. Ashwini
Sharma's recent static analysis fixes touched this file, but there's a lot
more to do than the static analyzer found.

Cleanup pass on useradd.

Add cpio -p

find -xdev should return mount points, just not contents.

Second attempt at one way xpopen().

Split xpopen() into xpopen_both(), xpopen(), and xrun() depending on whether we want to redirect both, one, or neither of stdin/stdout.

Bug report from luckboy: rm -f on a broken symlink didn't work because our "does it exist" test (to avoid errors on rm -f of nonexistent files) said it didn't.

The fix: replace the access() with unlink(), which produces the same "does not
exist" errno and has the added bonus of acting as a fastpath for rm -f on
non-directories. (And since it produces a different error on directories,
falls through to the old behavior there.)

Most of this commit is comment updates explaining being subtle. :)

Create a generated/build.sh with a single compiler command line to rebuild the toybox_unstripped binary using the existing generated/*.h files.

This way we can snapshot the generated/*.{h,sh} from a defconfig build into
a "shipped" directory or something, and then people can maybe build on crazy
crippled environments like pcbsd that haven't got gmake and put bash under
/usr/local so none of the #!/scripts can find it. This solves at least
part of the "toybox can build with itself but you need to build toybox first
to have the tools to run the build scripts" problem.

Next up: work out the minimal config to provide the build tools needed
to run an actual build. (This should, eventually, include a "make" command
if freebsd's kernel is going to refuse to build with netbsd's "make" and
we don't just write off the whole thing as crazy. But it probably shouldn't
include commands that #include <linux/*.h> if we are trying to make that work.)

Oops, unbreak make.sh.

Clearing out old .o files needs -r now that generated/obj has its own subdirectory. (Works if you make clean between, but shouldn't need it.)

Ignore -m option to cpio, it's what we do anyway so it's not an error.

Two problems: 1) Sometimes toy_exec() needs to re-exec to gain dropped root permissions, 2) shouldn't recurse forever without exec, stack depth increases and we may leak other resources. Limit it to ~5 levels.

Make tweaks: collate generated/*.o files into their own subdirectory, add PIPEFAIL for better error reporting, and simpler regex to select toys/*/*.c list based on NEWTOY/OLDTOY macros.

Fix more memory leaks reported by Ashwini Sharma.