x86-64, compat: Retruncate rax after ia32 syscall entry tracing
authorRoland McGrath <roland@redhat.com>
Tue, 14 Sep 2010 19:22:58 +0000 (12:22 -0700)
committerH. Peter Anvin <hpa@linux.intel.com>
Tue, 14 Sep 2010 23:08:47 +0000 (16:08 -0700)
commiteefdca043e8391dcd719711716492063030b55ac
tree38d41d04567876204017fe9618908d7550a579e4
parent36d001c70d8a0144ac1d038f6876c484849a74de
x86-64, compat: Retruncate rax after ia32 syscall entry tracing

In commit d4d6715, we reopened an old hole for a 64-bit ptracer touching a
32-bit tracee in system call entry.  A %rax value set via ptrace at the
entry tracing stop gets used whole as a 32-bit syscall number, while we
only check the low 32 bits for validity.

Fix it by truncating %rax back to 32 bits after syscall_trace_enter,
in addition to testing the full 64 bits as has already been added.

Reported-by: Ben Hawkes <hawkes@sota.gen.nz>
Signed-off-by: Roland McGrath <roland@redhat.com>
Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>
arch/x86/ia32/ia32entry.S