compat: Fix RT signal mask corruption via sigprocmask
authorJan Kiszka <jan.kiszka@siemens.com>
Thu, 10 May 2012 13:04:36 +0000 (10:04 -0300)
committerVarun Wadekar <vwadekar@nvidia.com>
Fri, 18 May 2012 10:34:33 +0000 (15:34 +0530)
commit3d605b29daedfa10e424b752bd4f5c07775bbb46
tree921bbf4505f849d05a41a95323d150f57b0cd619
parentb772aa757aa2d25f16f4b06363da946124530c1e
compat: Fix RT signal mask corruption via sigprocmask

compat_sys_sigprocmask reads a smaller signal mask from userspace than
sigprogmask accepts for setting.  So the high word of blocked.sig[0]
will be cleared, releasing any potentially blocked RT signal.

This was discovered via userspace code that relies on get/setcontext.
glibc's i386 versions of those functions use sigprogmask instead of
rt_sigprogmask to save/restore signal mask and caused RT signal
unblocking this way.

As suggested by Linus, this replaces the sys_sigprocmask based compat
version with one that open-codes the required logic, including the merge
of the existing blocked set with the new one provided on SIG_SETMASK.

Signed-off-by: Jan Kiszka <jan.kiszka@siemens.com>
Signed-off-by: Linus Torvalds <torvalds@linux-foundation.org>
kernel/compat.c