OSDN Git Service

tcg/i386: fix vector operations on 32-bit hosts
authorRoman Kapl <rka@sysgo.com>
Fri, 24 Aug 2018 13:17:34 +0000 (15:17 +0200)
committerRichard Henderson <richard.henderson@linaro.org>
Wed, 26 Sep 2018 16:02:51 +0000 (09:02 -0700)
commit93bf9a42733321fb632bcb9eafd049ef0e3d9417
tree95fccf44cfe5788ef49f69a346b16ef0102669dc
parentbd224fce6017133733fee560ad8e5f737ad8b062
tcg/i386: fix vector operations on 32-bit hosts

The TCG backend uses LOWREGMASK to get the low 3 bits of register numbers.
This was defined as no-op for 32-bit x86, with the assumption that we have
eight registers anyway. This assumption is not true once we have xmm regs.

Since LOWREGMASK was a no-op, xmm register indidices were wrong in opcodes
and have overflown into other opcode fields, wreaking havoc.

To trigger these problems, you can try running the "movi d8, #0x0" AArch64
instruction on 32-bit x86. "vpxor %xmm0, %xmm0, %xmm0" should be generated,
but instead TCG generated "vpxor %xmm0, %xmm0, %xmm2".

Fixes: 770c2fc7bb ("Add vector operations")
Signed-off-by: Roman Kapl <rka@sysgo.com>
Message-Id: <20180824131734.18557-1-rka@sysgo.com>
Signed-off-by: Richard Henderson <richard.henderson@linaro.org>
tcg/i386/tcg-target.inc.c