kernel/sys.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  *  linux/kernel/sys.c
   4  *
   5  *  Copyright (C) 1991, 1992  Linus Torvalds
   6  */
   7
   8 #include <linux/export.h>
   9 #include <linux/mm.h>
  10 #include <linux/utsname.h>
  11 #include <linux/mman.h>
  12 #include <linux/reboot.h>
  13 #include <linux/prctl.h>
  14 #include <linux/highuid.h>
  15 #include <linux/fs.h>
  16 #include <linux/kmod.h>
  17 #include <linux/perf_event.h>
  18 #include <linux/resource.h>
  19 #include <linux/kernel.h>
  20 #include <linux/workqueue.h>
  21 #include <linux/capability.h>
  22 #include <linux/device.h>
  23 #include <linux/key.h>
  24 #include <linux/times.h>
  25 #include <linux/posix-timers.h>
  26 #include <linux/security.h>
  27 #include <linux/dcookies.h>
  28 #include <linux/suspend.h>
  29 #include <linux/tty.h>
  30 #include <linux/signal.h>
  31 #include <linux/cn_proc.h>
  32 #include <linux/getcpu.h>
  33 #include <linux/task_io_accounting_ops.h>
  34 #include <linux/seccomp.h>
  35 #include <linux/cpu.h>
  36 #include <linux/personality.h>
  37 #include <linux/ptrace.h>
  38 #include <linux/fs_struct.h>
  39 #include <linux/file.h>
  40 #include <linux/mount.h>
  41 #include <linux/gfp.h>
  42 #include <linux/syscore_ops.h>
  43 #include <linux/version.h>
  44 #include <linux/ctype.h>
  45
  46 #include <linux/compat.h>
  47 #include <linux/syscalls.h>
  48 #include <linux/kprobes.h>
  49 #include <linux/user_namespace.h>
  50 #include <linux/binfmts.h>
  51
  52 #include <linux/sched.h>
  53 #include <linux/sched/autogroup.h>
  54 #include <linux/sched/loadavg.h>
  55 #include <linux/sched/stat.h>
  56 #include <linux/sched/mm.h>
  57 #include <linux/sched/coredump.h>
  58 #include <linux/sched/task.h>
  59 #include <linux/sched/cputime.h>
  60 #include <linux/rcupdate.h>
  61 #include <linux/uidgid.h>
  62 #include <linux/cred.h>
  63
  64 #include <linux/nospec.h>
  65
  66 #include <linux/kmsg_dump.h>
  67 /* Move somewhere else to avoid recompiling? */
  68 #include <generated/utsrelease.h>
  69
  70 #include <linux/uaccess.h>
  71 #include <asm/io.h>
  72 #include <asm/unistd.h>
  73
  74 #include "uid16.h"
  75
  76 #ifndef SET_UNALIGN_CTL
  77 # define SET_UNALIGN_CTL(a, b)  (-EINVAL)
  78 #endif
  79 #ifndef GET_UNALIGN_CTL
  80 # define GET_UNALIGN_CTL(a, b)  (-EINVAL)
  81 #endif
  82 #ifndef SET_FPEMU_CTL
  83 # define SET_FPEMU_CTL(a, b)    (-EINVAL)
  84 #endif
  85 #ifndef GET_FPEMU_CTL
  86 # define GET_FPEMU_CTL(a, b)    (-EINVAL)
  87 #endif
  88 #ifndef SET_FPEXC_CTL
  89 # define SET_FPEXC_CTL(a, b)    (-EINVAL)
  90 #endif
  91 #ifndef GET_FPEXC_CTL
  92 # define GET_FPEXC_CTL(a, b)    (-EINVAL)
  93 #endif
  94 #ifndef GET_ENDIAN
  95 # define GET_ENDIAN(a, b)       (-EINVAL)
  96 #endif
  97 #ifndef SET_ENDIAN
  98 # define SET_ENDIAN(a, b)       (-EINVAL)
  99 #endif
 100 #ifndef GET_TSC_CTL
 101 # define GET_TSC_CTL(a)         (-EINVAL)
 102 #endif
 103 #ifndef SET_TSC_CTL
 104 # define SET_TSC_CTL(a)         (-EINVAL)
 105 #endif
 106 #ifndef GET_FP_MODE
 107 # define GET_FP_MODE(a)         (-EINVAL)
 108 #endif
 109 #ifndef SET_FP_MODE
 110 # define SET_FP_MODE(a,b)       (-EINVAL)
 111 #endif
 112 #ifndef SVE_SET_VL
 113 # define SVE_SET_VL(a)          (-EINVAL)
 114 #endif
 115 #ifndef SVE_GET_VL
 116 # define SVE_GET_VL()           (-EINVAL)
 117 #endif
 118 #ifndef PAC_RESET_KEYS
 119 # define PAC_RESET_KEYS(a, b)   (-EINVAL)
 120 #endif
 121
 122 /*
 123  * this is where the system-wide overflow UID and GID are defined, for
 124  * architectures that now have 32-bit UID/GID but didn't in the past
 125  */
 126
 127 int overflowuid = DEFAULT_OVERFLOWUID;
 128 int overflowgid = DEFAULT_OVERFLOWGID;
 129
 130 EXPORT_SYMBOL(overflowuid);
 131 EXPORT_SYMBOL(overflowgid);
 132
 133 /*
 134  * the same as above, but for filesystems which can only store a 16-bit
 135  * UID and GID. as such, this is needed on all architectures
 136  */
 137
 138 int fs_overflowuid = DEFAULT_FS_OVERFLOWUID;
 139 int fs_overflowgid = DEFAULT_FS_OVERFLOWGID;
 140
 141 EXPORT_SYMBOL(fs_overflowuid);
 142 EXPORT_SYMBOL(fs_overflowgid);
 143
 144 /*
 145  * Returns true if current's euid is same as p's uid or euid,
 146  * or has CAP_SYS_NICE to p's user_ns.
 147  *
 148  * Called with rcu_read_lock, creds are safe
 149  */
 150 static bool set_one_prio_perm(struct task_struct *p)
 151 {
 152         const struct cred *cred = current_cred(), *pcred = __task_cred(p);
 153
 154         if (uid_eq(pcred->uid,  cred->euid) ||
 155             uid_eq(pcred->euid, cred->euid))
 156                 return true;
 157         if (ns_capable(pcred->user_ns, CAP_SYS_NICE))
 158                 return true;
 159         return false;
 160 }
 161
 162 /*
 163  * set the priority of a task
 164  * - the caller must hold the RCU read lock
 165  */
 166 static int set_one_prio(struct task_struct *p, int niceval, int error)
 167 {
 168         int no_nice;
 169
 170         if (!set_one_prio_perm(p)) {
 171                 error = -EPERM;
 172                 goto out;
 173         }
 174         if (niceval < task_nice(p) && !can_nice(p, niceval)) {
 175                 error = -EACCES;
 176                 goto out;
 177         }
 178         no_nice = security_task_setnice(p, niceval);
 179         if (no_nice) {
 180                 error = no_nice;
 181                 goto out;
 182         }
 183         if (error == -ESRCH)
 184                 error = 0;
 185         set_user_nice(p, niceval);
 186 out:
 187         return error;
 188 }
 189
 190 SYSCALL_DEFINE3(setpriority, int, which, int, who, int, niceval)
 191 {
 192         struct task_struct *g, *p;
 193         struct user_struct *user;
 194         const struct cred *cred = current_cred();
 195         int error = -EINVAL;
 196         struct pid *pgrp;
 197         kuid_t uid;
 198
 199         if (which > PRIO_USER || which < PRIO_PROCESS)
 200                 goto out;
 201
 202         /* normalize: avoid signed division (rounding problems) */
 203         error = -ESRCH;
 204         if (niceval < MIN_NICE)
 205                 niceval = MIN_NICE;
 206         if (niceval > MAX_NICE)
 207                 niceval = MAX_NICE;
 208
 209         rcu_read_lock();
 210         read_lock(&tasklist_lock);
 211         switch (which) {
 212         case PRIO_PROCESS:
 213                 if (who)
 214                         p = find_task_by_vpid(who);
 215                 else
 216                         p = current;
 217                 if (p)
 218                         error = set_one_prio(p, niceval, error);
 219                 break;
 220         case PRIO_PGRP:
 221                 if (who)
 222                         pgrp = find_vpid(who);
 223                 else
 224                         pgrp = task_pgrp(current);
 225                 do_each_pid_thread(pgrp, PIDTYPE_PGID, p) {
 226                         error = set_one_prio(p, niceval, error);
 227                 } while_each_pid_thread(pgrp, PIDTYPE_PGID, p);
 228                 break;
 229         case PRIO_USER:
 230                 uid = make_kuid(cred->user_ns, who);
 231                 user = cred->user;
 232                 if (!who)
 233                         uid = cred->uid;
 234                 else if (!uid_eq(uid, cred->uid)) {
 235                         user = find_user(uid);
 236                         if (!user)
 237                                 goto out_unlock;        /* No processes for this user */
 238                 }
 239                 do_each_thread(g, p) {
 240                         if (uid_eq(task_uid(p), uid) && task_pid_vnr(p))
 241                                 error = set_one_prio(p, niceval, error);
 242                 } while_each_thread(g, p);
 243                 if (!uid_eq(uid, cred->uid))
 244                         free_uid(user);         /* For find_user() */
 245                 break;
 246         }
 247 out_unlock:
 248         read_unlock(&tasklist_lock);
 249         rcu_read_unlock();
 250 out:
 251         return error;
 252 }
 253
 254 /*
 255  * Ugh. To avoid negative return values, "getpriority()" will
 256  * not return the normal nice-value, but a negated value that
 257  * has been offset by 20 (ie it returns 40..1 instead of -20..19)
 258  * to stay compatible.
 259  */
 260 SYSCALL_DEFINE2(getpriority, int, which, int, who)
 261 {
 262         struct task_struct *g, *p;
 263         struct user_struct *user;
 264         const struct cred *cred = current_cred();
 265         long niceval, retval = -ESRCH;
 266         struct pid *pgrp;
 267         kuid_t uid;
 268
 269         if (which > PRIO_USER || which < PRIO_PROCESS)
 270                 return -EINVAL;
 271
 272         rcu_read_lock();
 273         read_lock(&tasklist_lock);
 274         switch (which) {
 275         case PRIO_PROCESS:
 276                 if (who)
 277                         p = find_task_by_vpid(who);
 278                 else
 279                         p = current;
 280                 if (p) {
 281                         niceval = nice_to_rlimit(task_nice(p));
 282                         if (niceval > retval)
 283                                 retval = niceval;
 284                 }
 285                 break;
 286         case PRIO_PGRP:
 287                 if (who)
 288                         pgrp = find_vpid(who);
 289                 else
 290                         pgrp = task_pgrp(current);
 291                 do_each_pid_thread(pgrp, PIDTYPE_PGID, p) {
 292                         niceval = nice_to_rlimit(task_nice(p));
 293                         if (niceval > retval)
 294                                 retval = niceval;
 295                 } while_each_pid_thread(pgrp, PIDTYPE_PGID, p);
 296                 break;
 297         case PRIO_USER:
 298                 uid = make_kuid(cred->user_ns, who);
 299                 user = cred->user;
 300                 if (!who)
 301                         uid = cred->uid;
 302                 else if (!uid_eq(uid, cred->uid)) {
 303                         user = find_user(uid);
 304                         if (!user)
 305                                 goto out_unlock;        /* No processes for this user */
 306                 }
 307                 do_each_thread(g, p) {
 308                         if (uid_eq(task_uid(p), uid) && task_pid_vnr(p)) {
 309                                 niceval = nice_to_rlimit(task_nice(p));
 310                                 if (niceval > retval)
 311                                         retval = niceval;
 312                         }
 313                 } while_each_thread(g, p);
 314                 if (!uid_eq(uid, cred->uid))
 315                         free_uid(user);         /* for find_user() */
 316                 break;
 317         }
 318 out_unlock:
 319         read_unlock(&tasklist_lock);
 320         rcu_read_unlock();
 321
 322         return retval;
 323 }
 324
 325 /*
 326  * Unprivileged users may change the real gid to the effective gid
 327  * or vice versa.  (BSD-style)
 328  *
 329  * If you set the real gid at all, or set the effective gid to a value not
 330  * equal to the real gid, then the saved gid is set to the new effective gid.
 331  *
 332  * This makes it possible for a setgid program to completely drop its
 333  * privileges, which is often a useful assertion to make when you are doing
 334  * a security audit over a program.
 335  *
 336  * The general idea is that a program which uses just setregid() will be
 337  * 100% compatible with BSD.  A program which uses just setgid() will be
 338  * 100% compatible with POSIX with saved IDs.
 339  *
 340  * SMP: There are not races, the GIDs are checked only by filesystem
 341  *      operations (as far as semantic preservation is concerned).
 342  */
 343 #ifdef CONFIG_MULTIUSER
 344 long __sys_setregid(gid_t rgid, gid_t egid)
 345 {
 346         struct user_namespace *ns = current_user_ns();
 347         const struct cred *old;
 348         struct cred *new;
 349         int retval;
 350         kgid_t krgid, kegid;
 351
 352         krgid = make_kgid(ns, rgid);
 353         kegid = make_kgid(ns, egid);
 354
 355         if ((rgid != (gid_t) -1) && !gid_valid(krgid))
 356                 return -EINVAL;
 357         if ((egid != (gid_t) -1) && !gid_valid(kegid))
 358                 return -EINVAL;
 359
 360         new = prepare_creds();
 361         if (!new)
 362                 return -ENOMEM;
 363         old = current_cred();
 364
 365         retval = -EPERM;
 366         if (rgid != (gid_t) -1) {
 367                 if (gid_eq(old->gid, krgid) ||
 368                     gid_eq(old->egid, krgid) ||
 369                     ns_capable(old->user_ns, CAP_SETGID))
 370                         new->gid = krgid;
 371                 else
 372                         goto error;
 373         }
 374         if (egid != (gid_t) -1) {
 375                 if (gid_eq(old->gid, kegid) ||
 376                     gid_eq(old->egid, kegid) ||
 377                     gid_eq(old->sgid, kegid) ||
 378                     ns_capable(old->user_ns, CAP_SETGID))
 379                         new->egid = kegid;
 380                 else
 381                         goto error;
 382         }
 383
 384         if (rgid != (gid_t) -1 ||
 385             (egid != (gid_t) -1 && !gid_eq(kegid, old->gid)))
 386                 new->sgid = new->egid;
 387         new->fsgid = new->egid;
 388
 389         return commit_creds(new);
 390
 391 error:
 392         abort_creds(new);
 393         return retval;
 394 }
 395
 396 SYSCALL_DEFINE2(setregid, gid_t, rgid, gid_t, egid)
 397 {
 398         return __sys_setregid(rgid, egid);
 399 }
 400
 401 /*
 402  * setgid() is implemented like SysV w/ SAVED_IDS
 403  *
 404  * SMP: Same implicit races as above.
 405  */
 406 long __sys_setgid(gid_t gid)
 407 {
 408         struct user_namespace *ns = current_user_ns();
 409         const struct cred *old;
 410         struct cred *new;
 411         int retval;
 412         kgid_t kgid;
 413
 414         kgid = make_kgid(ns, gid);
 415         if (!gid_valid(kgid))
 416                 return -EINVAL;
 417
 418         new = prepare_creds();
 419         if (!new)
 420                 return -ENOMEM;
 421         old = current_cred();
 422
 423         retval = -EPERM;
 424         if (ns_capable(old->user_ns, CAP_SETGID))
 425                 new->gid = new->egid = new->sgid = new->fsgid = kgid;
 426         else if (gid_eq(kgid, old->gid) || gid_eq(kgid, old->sgid))
 427                 new->egid = new->fsgid = kgid;
 428         else
 429                 goto error;
 430
 431         return commit_creds(new);
 432
 433 error:
 434         abort_creds(new);
 435         return retval;
 436 }
 437
 438 SYSCALL_DEFINE1(setgid, gid_t, gid)
 439 {
 440         return __sys_setgid(gid);
 441 }
 442
 443 /*
 444  * change the user struct in a credentials set to match the new UID
 445  */
 446 static int set_user(struct cred *new)
 447 {
 448         struct user_struct *new_user;
 449
 450         new_user = alloc_uid(new->uid);
 451         if (!new_user)
 452                 return -EAGAIN;
 453
 454         /*
 455          * We don't fail in case of NPROC limit excess here because too many
 456          * poorly written programs don't check set*uid() return code, assuming
 457          * it never fails if called by root.  We may still enforce NPROC limit
 458          * for programs doing set*uid()+execve() by harmlessly deferring the
 459          * failure to the execve() stage.
 460          */
 461         if (atomic_read(&new_user->processes) >= rlimit(RLIMIT_NPROC) &&
 462                         new_user != INIT_USER)
 463                 current->flags |= PF_NPROC_EXCEEDED;
 464         else
 465                 current->flags &= ~PF_NPROC_EXCEEDED;
 466
 467         free_uid(new->user);
 468         new->user = new_user;
 469         return 0;
 470 }
 471
 472 /*
 473  * Unprivileged users may change the real uid to the effective uid
 474  * or vice versa.  (BSD-style)
 475  *
 476  * If you set the real uid at all, or set the effective uid to a value not
 477  * equal to the real uid, then the saved uid is set to the new effective uid.
 478  *
 479  * This makes it possible for a setuid program to completely drop its
 480  * privileges, which is often a useful assertion to make when you are doing
 481  * a security audit over a program.
 482  *
 483  * The general idea is that a program which uses just setreuid() will be
 484  * 100% compatible with BSD.  A program which uses just setuid() will be
 485  * 100% compatible with POSIX with saved IDs.
 486  */
 487 long __sys_setreuid(uid_t ruid, uid_t euid)
 488 {
 489         struct user_namespace *ns = current_user_ns();
 490         const struct cred *old;
 491         struct cred *new;
 492         int retval;
 493         kuid_t kruid, keuid;
 494
 495         kruid = make_kuid(ns, ruid);
 496         keuid = make_kuid(ns, euid);
 497
 498         if ((ruid != (uid_t) -1) && !uid_valid(kruid))
 499                 return -EINVAL;
 500         if ((euid != (uid_t) -1) && !uid_valid(keuid))
 501                 return -EINVAL;
 502
 503         new = prepare_creds();
 504         if (!new)
 505                 return -ENOMEM;
 506         old = current_cred();
 507
 508         retval = -EPERM;
 509         if (ruid != (uid_t) -1) {
 510                 new->uid = kruid;
 511                 if (!uid_eq(old->uid, kruid) &&
 512                     !uid_eq(old->euid, kruid) &&
 513                     !ns_capable_setid(old->user_ns, CAP_SETUID))
 514                         goto error;
 515         }
 516
 517         if (euid != (uid_t) -1) {
 518                 new->euid = keuid;
 519                 if (!uid_eq(old->uid, keuid) &&
 520                     !uid_eq(old->euid, keuid) &&
 521                     !uid_eq(old->suid, keuid) &&
 522                     !ns_capable_setid(old->user_ns, CAP_SETUID))
 523                         goto error;
 524         }
 525
 526         if (!uid_eq(new->uid, old->uid)) {
 527                 retval = set_user(new);
 528                 if (retval < 0)
 529                         goto error;
 530         }
 531         if (ruid != (uid_t) -1 ||
 532             (euid != (uid_t) -1 && !uid_eq(keuid, old->uid)))
 533                 new->suid = new->euid;
 534         new->fsuid = new->euid;
 535
 536         retval = security_task_fix_setuid(new, old, LSM_SETID_RE);
 537         if (retval < 0)
 538                 goto error;
 539
 540         return commit_creds(new);
 541
 542 error:
 543         abort_creds(new);
 544         return retval;
 545 }
 546
 547 SYSCALL_DEFINE2(setreuid, uid_t, ruid, uid_t, euid)
 548 {
 549         return __sys_setreuid(ruid, euid);
 550 }
 551
 552 /*
 553  * setuid() is implemented like SysV with SAVED_IDS
 554  *
 555  * Note that SAVED_ID's is deficient in that a setuid root program
 556  * like sendmail, for example, cannot set its uid to be a normal
 557  * user and then switch back, because if you're root, setuid() sets
 558  * the saved uid too.  If you don't like this, blame the bright people
 559  * in the POSIX committee and/or USG.  Note that the BSD-style setreuid()
 560  * will allow a root program to temporarily drop privileges and be able to
 561  * regain them by swapping the real and effective uid.
 562  */
 563 long __sys_setuid(uid_t uid)
 564 {
 565         struct user_namespace *ns = current_user_ns();
 566         const struct cred *old;
 567         struct cred *new;
 568         int retval;
 569         kuid_t kuid;
 570
 571         kuid = make_kuid(ns, uid);
 572         if (!uid_valid(kuid))
 573                 return -EINVAL;
 574
 575         new = prepare_creds();
 576         if (!new)
 577                 return -ENOMEM;
 578         old = current_cred();
 579
 580         retval = -EPERM;
 581         if (ns_capable_setid(old->user_ns, CAP_SETUID)) {
 582                 new->suid = new->uid = kuid;
 583                 if (!uid_eq(kuid, old->uid)) {
 584                         retval = set_user(new);
 585                         if (retval < 0)
 586                                 goto error;
 587                 }
 588         } else if (!uid_eq(kuid, old->uid) && !uid_eq(kuid, new->suid)) {
 589                 goto error;
 590         }
 591
 592         new->fsuid = new->euid = kuid;
 593
 594         retval = security_task_fix_setuid(new, old, LSM_SETID_ID);
 595         if (retval < 0)
 596                 goto error;
 597
 598         return commit_creds(new);
 599
 600 error:
 601         abort_creds(new);
 602         return retval;
 603 }
 604
 605 SYSCALL_DEFINE1(setuid, uid_t, uid)
 606 {
 607         return __sys_setuid(uid);
 608 }
 609
 610
 611 /*
 612  * This function implements a generic ability to update ruid, euid,
 613  * and suid.  This allows you to implement the 4.4 compatible seteuid().
 614  */
 615 long __sys_setresuid(uid_t ruid, uid_t euid, uid_t suid)
 616 {
 617         struct user_namespace *ns = current_user_ns();
 618         const struct cred *old;
 619         struct cred *new;
 620         int retval;
 621         kuid_t kruid, keuid, ksuid;
 622
 623         kruid = make_kuid(ns, ruid);
 624         keuid = make_kuid(ns, euid);
 625         ksuid = make_kuid(ns, suid);
 626
 627         if ((ruid != (uid_t) -1) && !uid_valid(kruid))
 628                 return -EINVAL;
 629
 630         if ((euid != (uid_t) -1) && !uid_valid(keuid))
 631                 return -EINVAL;
 632
 633         if ((suid != (uid_t) -1) && !uid_valid(ksuid))
 634                 return -EINVAL;
 635
 636         new = prepare_creds();
 637         if (!new)
 638                 return -ENOMEM;
 639
 640         old = current_cred();
 641
 642         retval = -EPERM;
 643         if (!ns_capable_setid(old->user_ns, CAP_SETUID)) {
 644                 if (ruid != (uid_t) -1        && !uid_eq(kruid, old->uid) &&
 645                     !uid_eq(kruid, old->euid) && !uid_eq(kruid, old->suid))
 646                         goto error;
 647                 if (euid != (uid_t) -1        && !uid_eq(keuid, old->uid) &&
 648                     !uid_eq(keuid, old->euid) && !uid_eq(keuid, old->suid))
 649                         goto error;
 650                 if (suid != (uid_t) -1        && !uid_eq(ksuid, old->uid) &&
 651                     !uid_eq(ksuid, old->euid) && !uid_eq(ksuid, old->suid))
 652                         goto error;
 653         }
 654
 655         if (ruid != (uid_t) -1) {
 656                 new->uid = kruid;
 657                 if (!uid_eq(kruid, old->uid)) {
 658                         retval = set_user(new);
 659                         if (retval < 0)
 660                                 goto error;
 661                 }
 662         }
 663         if (euid != (uid_t) -1)
 664                 new->euid = keuid;
 665         if (suid != (uid_t) -1)
 666                 new->suid = ksuid;
 667         new->fsuid = new->euid;
 668
 669         retval = security_task_fix_setuid(new, old, LSM_SETID_RES);
 670         if (retval < 0)
 671                 goto error;
 672
 673         return commit_creds(new);
 674
 675 error:
 676         abort_creds(new);
 677         return retval;
 678 }
 679
 680 SYSCALL_DEFINE3(setresuid, uid_t, ruid, uid_t, euid, uid_t, suid)
 681 {
 682         return __sys_setresuid(ruid, euid, suid);
 683 }
 684
 685 SYSCALL_DEFINE3(getresuid, uid_t __user *, ruidp, uid_t __user *, euidp, uid_t __user *, suidp)
 686 {
 687         const struct cred *cred = current_cred();
 688         int retval;
 689         uid_t ruid, euid, suid;
 690
 691         ruid = from_kuid_munged(cred->user_ns, cred->uid);
 692         euid = from_kuid_munged(cred->user_ns, cred->euid);
 693         suid = from_kuid_munged(cred->user_ns, cred->suid);
 694
 695         retval = put_user(ruid, ruidp);
 696         if (!retval) {
 697                 retval = put_user(euid, euidp);
 698                 if (!retval)
 699                         return put_user(suid, suidp);
 700         }
 701         return retval;
 702 }
 703
 704 /*
 705  * Same as above, but for rgid, egid, sgid.
 706  */
 707 long __sys_setresgid(gid_t rgid, gid_t egid, gid_t sgid)
 708 {
 709         struct user_namespace *ns = current_user_ns();
 710         const struct cred *old;
 711         struct cred *new;
 712         int retval;
 713         kgid_t krgid, kegid, ksgid;
 714
 715         krgid = make_kgid(ns, rgid);
 716         kegid = make_kgid(ns, egid);
 717         ksgid = make_kgid(ns, sgid);
 718
 719         if ((rgid != (gid_t) -1) && !gid_valid(krgid))
 720                 return -EINVAL;
 721         if ((egid != (gid_t) -1) && !gid_valid(kegid))
 722                 return -EINVAL;
 723         if ((sgid != (gid_t) -1) && !gid_valid(ksgid))
 724                 return -EINVAL;
 725
 726         new = prepare_creds();
 727         if (!new)
 728                 return -ENOMEM;
 729         old = current_cred();
 730
 731         retval = -EPERM;
 732         if (!ns_capable(old->user_ns, CAP_SETGID)) {
 733                 if (rgid != (gid_t) -1        && !gid_eq(krgid, old->gid) &&
 734                     !gid_eq(krgid, old->egid) && !gid_eq(krgid, old->sgid))
 735                         goto error;
 736                 if (egid != (gid_t) -1        && !gid_eq(kegid, old->gid) &&
 737                     !gid_eq(kegid, old->egid) && !gid_eq(kegid, old->sgid))
 738                         goto error;
 739                 if (sgid != (gid_t) -1        && !gid_eq(ksgid, old->gid) &&
 740                     !gid_eq(ksgid, old->egid) && !gid_eq(ksgid, old->sgid))
 741                         goto error;
 742         }
 743
 744         if (rgid != (gid_t) -1)
 745                 new->gid = krgid;
 746         if (egid != (gid_t) -1)
 747                 new->egid = kegid;
 748         if (sgid != (gid_t) -1)
 749                 new->sgid = ksgid;
 750         new->fsgid = new->egid;
 751
 752         return commit_creds(new);
 753
 754 error:
 755         abort_creds(new);
 756         return retval;
 757 }
 758
 759 SYSCALL_DEFINE3(setresgid, gid_t, rgid, gid_t, egid, gid_t, sgid)
 760 {
 761         return __sys_setresgid(rgid, egid, sgid);
 762 }
 763
 764 SYSCALL_DEFINE3(getresgid, gid_t __user *, rgidp, gid_t __user *, egidp, gid_t __user *, sgidp)
 765 {
 766         const struct cred *cred = current_cred();
 767         int retval;
 768         gid_t rgid, egid, sgid;
 769
 770         rgid = from_kgid_munged(cred->user_ns, cred->gid);
 771         egid = from_kgid_munged(cred->user_ns, cred->egid);
 772         sgid = from_kgid_munged(cred->user_ns, cred->sgid);
 773
 774         retval = put_user(rgid, rgidp);
 775         if (!retval) {
 776                 retval = put_user(egid, egidp);
 777                 if (!retval)
 778                         retval = put_user(sgid, sgidp);
 779         }
 780
 781         return retval;
 782 }
 783
 784
 785 /*
 786  * "setfsuid()" sets the fsuid - the uid used for filesystem checks. This
 787  * is used for "access()" and for the NFS daemon (letting nfsd stay at
 788  * whatever uid it wants to). It normally shadows "euid", except when
 789  * explicitly set by setfsuid() or for access..
 790  */
 791 long __sys_setfsuid(uid_t uid)
 792 {
 793         const struct cred *old;
 794         struct cred *new;
 795         uid_t old_fsuid;
 796         kuid_t kuid;
 797
 798         old = current_cred();
 799         old_fsuid = from_kuid_munged(old->user_ns, old->fsuid);
 800
 801         kuid = make_kuid(old->user_ns, uid);
 802         if (!uid_valid(kuid))
 803                 return old_fsuid;
 804
 805         new = prepare_creds();
 806         if (!new)
 807                 return old_fsuid;
 808
 809         if (uid_eq(kuid, old->uid)  || uid_eq(kuid, old->euid)  ||
 810             uid_eq(kuid, old->suid) || uid_eq(kuid, old->fsuid) ||
 811             ns_capable_setid(old->user_ns, CAP_SETUID)) {
 812                 if (!uid_eq(kuid, old->fsuid)) {
 813                         new->fsuid = kuid;
 814                         if (security_task_fix_setuid(new, old, LSM_SETID_FS) == 0)
 815                                 goto change_okay;
 816                 }
 817         }
 818
 819         abort_creds(new);
 820         return old_fsuid;
 821
 822 change_okay:
 823         commit_creds(new);
 824         return old_fsuid;
 825 }
 826
 827 SYSCALL_DEFINE1(setfsuid, uid_t, uid)
 828 {
 829         return __sys_setfsuid(uid);
 830 }
 831
 832 /*
 833  * Samma på svenska..
 834  */
 835 long __sys_setfsgid(gid_t gid)
 836 {
 837         const struct cred *old;
 838         struct cred *new;
 839         gid_t old_fsgid;
 840         kgid_t kgid;
 841
 842         old = current_cred();
 843         old_fsgid = from_kgid_munged(old->user_ns, old->fsgid);
 844
 845         kgid = make_kgid(old->user_ns, gid);
 846         if (!gid_valid(kgid))
 847                 return old_fsgid;
 848
 849         new = prepare_creds();
 850         if (!new)
 851                 return old_fsgid;
 852
 853         if (gid_eq(kgid, old->gid)  || gid_eq(kgid, old->egid)  ||
 854             gid_eq(kgid, old->sgid) || gid_eq(kgid, old->fsgid) ||
 855             ns_capable(old->user_ns, CAP_SETGID)) {
 856                 if (!gid_eq(kgid, old->fsgid)) {
 857                         new->fsgid = kgid;
 858                         goto change_okay;
 859                 }
 860         }
 861
 862         abort_creds(new);
 863         return old_fsgid;
 864
 865 change_okay:
 866         commit_creds(new);
 867         return old_fsgid;
 868 }
 869
 870 SYSCALL_DEFINE1(setfsgid, gid_t, gid)
 871 {
 872         return __sys_setfsgid(gid);
 873 }
 874 #endif /* CONFIG_MULTIUSER */
 875
 876 /**
 877  * sys_getpid - return the thread group id of the current process
 878  *
 879  * Note, despite the name, this returns the tgid not the pid.  The tgid and
 880  * the pid are identical unless CLONE_THREAD was specified on clone() in
 881  * which case the tgid is the same in all threads of the same group.
 882  *
 883  * This is SMP safe as current->tgid does not change.
 884  */
 885 SYSCALL_DEFINE0(getpid)
 886 {
 887         return task_tgid_vnr(current);
 888 }
 889
 890 /* Thread ID - the internal kernel "pid" */
 891 SYSCALL_DEFINE0(gettid)
 892 {
 893         return task_pid_vnr(current);
 894 }
 895
 896 /*
 897  * Accessing ->real_parent is not SMP-safe, it could
 898  * change from under us. However, we can use a stale
 899  * value of ->real_parent under rcu_read_lock(), see
 900  * release_task()->call_rcu(delayed_put_task_struct).
 901  */
 902 SYSCALL_DEFINE0(getppid)
 903 {
 904         int pid;
 905
 906         rcu_read_lock();
 907         pid = task_tgid_vnr(rcu_dereference(current->real_parent));
 908         rcu_read_unlock();
 909
 910         return pid;
 911 }
 912
 913 SYSCALL_DEFINE0(getuid)
 914 {
 915         /* Only we change this so SMP safe */
 916         return from_kuid_munged(current_user_ns(), current_uid());
 917 }
 918
 919 SYSCALL_DEFINE0(geteuid)
 920 {
 921         /* Only we change this so SMP safe */
 922         return from_kuid_munged(current_user_ns(), current_euid());
 923 }
 924
 925 SYSCALL_DEFINE0(getgid)
 926 {
 927         /* Only we change this so SMP safe */
 928         return from_kgid_munged(current_user_ns(), current_gid());
 929 }
 930
 931 SYSCALL_DEFINE0(getegid)
 932 {
 933         /* Only we change this so SMP safe */
 934         return from_kgid_munged(current_user_ns(), current_egid());
 935 }
 936
 937 static void do_sys_times(struct tms *tms)
 938 {
 939         u64 tgutime, tgstime, cutime, cstime;
 940
 941         thread_group_cputime_adjusted(current, &tgutime, &tgstime);
 942         cutime = current->signal->cutime;
 943         cstime = current->signal->cstime;
 944         tms->tms_utime = nsec_to_clock_t(tgutime);
 945         tms->tms_stime = nsec_to_clock_t(tgstime);
 946         tms->tms_cutime = nsec_to_clock_t(cutime);
 947         tms->tms_cstime = nsec_to_clock_t(cstime);
 948 }
 949
 950 SYSCALL_DEFINE1(times, struct tms __user *, tbuf)
 951 {
 952         if (tbuf) {
 953                 struct tms tmp;
 954
 955                 do_sys_times(&tmp);
 956                 if (copy_to_user(tbuf, &tmp, sizeof(struct tms)))
 957                         return -EFAULT;
 958         }
 959         force_successful_syscall_return();
 960         return (long) jiffies_64_to_clock_t(get_jiffies_64());
 961 }
 962
 963 #ifdef CONFIG_COMPAT
 964 static compat_clock_t clock_t_to_compat_clock_t(clock_t x)
 965 {
 966         return compat_jiffies_to_clock_t(clock_t_to_jiffies(x));
 967 }
 968
 969 COMPAT_SYSCALL_DEFINE1(times, struct compat_tms __user *, tbuf)
 970 {
 971         if (tbuf) {
 972                 struct tms tms;
 973                 struct compat_tms tmp;
 974
 975                 do_sys_times(&tms);
 976                 /* Convert our struct tms to the compat version. */
 977                 tmp.tms_utime = clock_t_to_compat_clock_t(tms.tms_utime);
 978                 tmp.tms_stime = clock_t_to_compat_clock_t(tms.tms_stime);
 979                 tmp.tms_cutime = clock_t_to_compat_clock_t(tms.tms_cutime);
 980                 tmp.tms_cstime = clock_t_to_compat_clock_t(tms.tms_cstime);
 981                 if (copy_to_user(tbuf, &tmp, sizeof(tmp)))
 982                         return -EFAULT;
 983         }
 984         force_successful_syscall_return();
 985         return compat_jiffies_to_clock_t(jiffies);
 986 }
 987 #endif
 988
 989 /*
 990  * This needs some heavy checking ...
 991  * I just haven't the stomach for it. I also don't fully
 992  * understand sessions/pgrp etc. Let somebody who does explain it.
 993  *
 994  * OK, I think I have the protection semantics right.... this is really
 995  * only important on a multi-user system anyway, to make sure one user
 996  * can't send a signal to a process owned by another.  -TYT, 12/12/91
 997  *
 998  * !PF_FORKNOEXEC check to conform completely to POSIX.
 999  */
1000 SYSCALL_DEFINE2(setpgid, pid_t, pid, pid_t, pgid)
1001 {
1002         struct task_struct *p;
1003         struct task_struct *group_leader = current->group_leader;
1004         struct pid *pgrp;
1005         int err;
1006
1007         if (!pid)
1008                 pid = task_pid_vnr(group_leader);
1009         if (!pgid)
1010                 pgid = pid;
1011         if (pgid < 0)
1012                 return -EINVAL;
1013         rcu_read_lock();
1014
1015         /* From this point forward we keep holding onto the tasklist lock
1016          * so that our parent does not change from under us. -DaveM
1017          */
1018         write_lock_irq(&tasklist_lock);
1019
1020         err = -ESRCH;
1021         p = find_task_by_vpid(pid);
1022         if (!p)
1023                 goto out;
1024
1025         err = -EINVAL;
1026         if (!thread_group_leader(p))
1027                 goto out;
1028
1029         if (same_thread_group(p->real_parent, group_leader)) {
1030                 err = -EPERM;
1031                 if (task_session(p) != task_session(group_leader))
1032                         goto out;
1033                 err = -EACCES;
1034                 if (!(p->flags & PF_FORKNOEXEC))
1035                         goto out;
1036         } else {
1037                 err = -ESRCH;
1038                 if (p != group_leader)
1039                         goto out;
1040         }
1041
1042         err = -EPERM;
1043         if (p->signal->leader)
1044                 goto out;
1045
1046         pgrp = task_pid(p);
1047         if (pgid != pid) {
1048                 struct task_struct *g;
1049
1050                 pgrp = find_vpid(pgid);
1051                 g = pid_task(pgrp, PIDTYPE_PGID);
1052                 if (!g || task_session(g) != task_session(group_leader))
1053                         goto out;
1054         }
1055
1056         err = security_task_setpgid(p, pgid);
1057         if (err)
1058                 goto out;
1059
1060         if (task_pgrp(p) != pgrp)
1061                 change_pid(p, PIDTYPE_PGID, pgrp);
1062
1063         err = 0;
1064 out:
1065         /* All paths lead to here, thus we are safe. -DaveM */
1066         write_unlock_irq(&tasklist_lock);
1067         rcu_read_unlock();
1068         return err;
1069 }
1070
1071 static int do_getpgid(pid_t pid)
1072 {
1073         struct task_struct *p;
1074         struct pid *grp;
1075         int retval;
1076
1077         rcu_read_lock();
1078         if (!pid)
1079                 grp = task_pgrp(current);
1080         else {
1081                 retval = -ESRCH;
1082                 p = find_task_by_vpid(pid);
1083                 if (!p)
1084                         goto out;
1085                 grp = task_pgrp(p);
1086                 if (!grp)
1087                         goto out;
1088
1089                 retval = security_task_getpgid(p);
1090                 if (retval)
1091                         goto out;
1092         }
1093         retval = pid_vnr(grp);
1094 out:
1095         rcu_read_unlock();
1096         return retval;
1097 }
1098
1099 SYSCALL_DEFINE1(getpgid, pid_t, pid)
1100 {
1101         return do_getpgid(pid);
1102 }
1103
1104 #ifdef __ARCH_WANT_SYS_GETPGRP
1105
1106 SYSCALL_DEFINE0(getpgrp)
1107 {
1108         return do_getpgid(0);
1109 }
1110
1111 #endif
1112
1113 SYSCALL_DEFINE1(getsid, pid_t, pid)
1114 {
1115         struct task_struct *p;
1116         struct pid *sid;
1117         int retval;
1118
1119         rcu_read_lock();
1120         if (!pid)
1121                 sid = task_session(current);
1122         else {
1123                 retval = -ESRCH;
1124                 p = find_task_by_vpid(pid);
1125                 if (!p)
1126                         goto out;
1127                 sid = task_session(p);
1128                 if (!sid)
1129                         goto out;
1130
1131                 retval = security_task_getsid(p);
1132                 if (retval)
1133                         goto out;
1134         }
1135         retval = pid_vnr(sid);
1136 out:
1137         rcu_read_unlock();
1138         return retval;
1139 }
1140
1141 static void set_special_pids(struct pid *pid)
1142 {
1143         struct task_struct *curr = current->group_leader;
1144
1145         if (task_session(curr) != pid)
1146                 change_pid(curr, PIDTYPE_SID, pid);
1147
1148         if (task_pgrp(curr) != pid)
1149                 change_pid(curr, PIDTYPE_PGID, pid);
1150 }
1151
1152 int ksys_setsid(void)
1153 {
1154         struct task_struct *group_leader = current->group_leader;
1155         struct pid *sid = task_pid(group_leader);
1156         pid_t session = pid_vnr(sid);
1157         int err = -EPERM;
1158
1159         write_lock_irq(&tasklist_lock);
1160         /* Fail if I am already a session leader */
1161         if (group_leader->signal->leader)
1162                 goto out;
1163
1164         /* Fail if a process group id already exists that equals the
1165          * proposed session id.
1166          */
1167         if (pid_task(sid, PIDTYPE_PGID))
1168                 goto out;
1169
1170         group_leader->signal->leader = 1;
1171         set_special_pids(sid);
1172
1173         proc_clear_tty(group_leader);
1174
1175         err = session;
1176 out:
1177         write_unlock_irq(&tasklist_lock);
1178         if (err > 0) {
1179                 proc_sid_connector(group_leader);
1180                 sched_autogroup_create_attach(group_leader);
1181         }
1182         return err;
1183 }
1184
1185 SYSCALL_DEFINE0(setsid)
1186 {
1187         return ksys_setsid();
1188 }
1189
1190 DECLARE_RWSEM(uts_sem);
1191
1192 #ifdef COMPAT_UTS_MACHINE
1193 #define override_architecture(name) \
1194         (personality(current->personality) == PER_LINUX32 && \
1195          copy_to_user(name->machine, COMPAT_UTS_MACHINE, \
1196                       sizeof(COMPAT_UTS_MACHINE)))
1197 #else
1198 #define override_architecture(name)     0
1199 #endif
1200
1201 /*
1202  * Work around broken programs that cannot handle "Linux 3.0".
1203  * Instead we map 3.x to 2.6.40+x, so e.g. 3.0 would be 2.6.40
1204  * And we map 4.x and later versions to 2.6.60+x, so 4.0/5.0/6.0/... would be
1205  * 2.6.60.
1206  */
1207 static int override_release(char __user *release, size_t len)
1208 {
1209         int ret = 0;
1210
1211         if (current->personality & UNAME26) {
1212                 const char *rest = UTS_RELEASE;
1213                 char buf[65] = { 0 };
1214                 int ndots = 0;
1215                 unsigned v;
1216                 size_t copy;
1217
1218                 while (*rest) {
1219                         if (*rest == '.' && ++ndots >= 3)
1220                                 break;
1221                         if (!isdigit(*rest) && *rest != '.')
1222                                 break;
1223                         rest++;
1224                 }
1225                 v = ((LINUX_VERSION_CODE >> 8) & 0xff) + 60;
1226                 copy = clamp_t(size_t, len, 1, sizeof(buf));
1227                 copy = scnprintf(buf, copy, "2.6.%u%s", v, rest);
1228                 ret = copy_to_user(release, buf, copy + 1);
1229         }
1230         return ret;
1231 }
1232
1233 SYSCALL_DEFINE1(newuname, struct new_utsname __user *, name)
1234 {
1235         struct new_utsname tmp;
1236
1237         down_read(&uts_sem);
1238         memcpy(&tmp, utsname(), sizeof(tmp));
1239         up_read(&uts_sem);
1240         if (copy_to_user(name, &tmp, sizeof(tmp)))
1241                 return -EFAULT;
1242
1243         if (override_release(name->release, sizeof(name->release)))
1244                 return -EFAULT;
1245         if (override_architecture(name))
1246                 return -EFAULT;
1247         return 0;
1248 }
1249
1250 #ifdef __ARCH_WANT_SYS_OLD_UNAME
1251 /*
1252  * Old cruft
1253  */
1254 SYSCALL_DEFINE1(uname, struct old_utsname __user *, name)
1255 {
1256         struct old_utsname tmp;
1257
1258         if (!name)
1259                 return -EFAULT;
1260
1261         down_read(&uts_sem);
1262         memcpy(&tmp, utsname(), sizeof(tmp));
1263         up_read(&uts_sem);
1264         if (copy_to_user(name, &tmp, sizeof(tmp)))
1265                 return -EFAULT;
1266
1267         if (override_release(name->release, sizeof(name->release)))
1268                 return -EFAULT;
1269         if (override_architecture(name))
1270                 return -EFAULT;
1271         return 0;
1272 }
1273
1274 SYSCALL_DEFINE1(olduname, struct oldold_utsname __user *, name)
1275 {
1276         struct oldold_utsname tmp = {};
1277
1278         if (!name)
1279                 return -EFAULT;
1280
1281         down_read(&uts_sem);
1282         memcpy(&tmp.sysname, &utsname()->sysname, __OLD_UTS_LEN);
1283         memcpy(&tmp.nodename, &utsname()->nodename, __OLD_UTS_LEN);
1284         memcpy(&tmp.release, &utsname()->release, __OLD_UTS_LEN);
1285         memcpy(&tmp.version, &utsname()->version, __OLD_UTS_LEN);
1286         memcpy(&tmp.machine, &utsname()->machine, __OLD_UTS_LEN);
1287         up_read(&uts_sem);
1288         if (copy_to_user(name, &tmp, sizeof(tmp)))
1289                 return -EFAULT;
1290
1291         if (override_architecture(name))
1292                 return -EFAULT;
1293         if (override_release(name->release, sizeof(name->release)))
1294                 return -EFAULT;
1295         return 0;
1296 }
1297 #endif
1298
1299 SYSCALL_DEFINE2(sethostname, char __user *, name, int, len)
1300 {
1301         int errno;
1302         char tmp[__NEW_UTS_LEN];
1303
1304         if (!ns_capable(current->nsproxy->uts_ns->user_ns, CAP_SYS_ADMIN))
1305                 return -EPERM;
1306
1307         if (len < 0 || len > __NEW_UTS_LEN)
1308                 return -EINVAL;
1309         errno = -EFAULT;
1310         if (!copy_from_user(tmp, name, len)) {
1311                 struct new_utsname *u;
1312
1313                 down_write(&uts_sem);
1314                 u = utsname();
1315                 memcpy(u->nodename, tmp, len);
1316                 memset(u->nodename + len, 0, sizeof(u->nodename) - len);
1317                 errno = 0;
1318                 uts_proc_notify(UTS_PROC_HOSTNAME);
1319                 up_write(&uts_sem);
1320         }
1321         return errno;
1322 }
1323
1324 #ifdef __ARCH_WANT_SYS_GETHOSTNAME
1325
1326 SYSCALL_DEFINE2(gethostname, char __user *, name, int, len)
1327 {
1328         int i;
1329         struct new_utsname *u;
1330         char tmp[__NEW_UTS_LEN + 1];
1331
1332         if (len < 0)
1333                 return -EINVAL;
1334         down_read(&uts_sem);
1335         u = utsname();
1336         i = 1 + strlen(u->nodename);
1337         if (i > len)
1338                 i = len;
1339         memcpy(tmp, u->nodename, i);
1340         up_read(&uts_sem);
1341         if (copy_to_user(name, tmp, i))
1342                 return -EFAULT;
1343         return 0;
1344 }
1345
1346 #endif
1347
1348 /*
1349  * Only setdomainname; getdomainname can be implemented by calling
1350  * uname()
1351  */
1352 SYSCALL_DEFINE2(setdomainname, char __user *, name, int, len)
1353 {
1354         int errno;
1355         char tmp[__NEW_UTS_LEN];
1356
1357         if (!ns_capable(current->nsproxy->uts_ns->user_ns, CAP_SYS_ADMIN))
1358                 return -EPERM;
1359         if (len < 0 || len > __NEW_UTS_LEN)
1360                 return -EINVAL;
1361
1362         errno = -EFAULT;
1363         if (!copy_from_user(tmp, name, len)) {
1364                 struct new_utsname *u;
1365
1366                 down_write(&uts_sem);
1367                 u = utsname();
1368                 memcpy(u->domainname, tmp, len);
1369                 memset(u->domainname + len, 0, sizeof(u->domainname) - len);
1370                 errno = 0;
1371                 uts_proc_notify(UTS_PROC_DOMAINNAME);
1372                 up_write(&uts_sem);
1373         }
1374         return errno;
1375 }
1376
1377 SYSCALL_DEFINE2(getrlimit, unsigned int, resource, struct rlimit __user *, rlim)
1378 {
1379         struct rlimit value;
1380         int ret;
1381
1382         ret = do_prlimit(current, resource, NULL, &value);
1383         if (!ret)
1384                 ret = copy_to_user(rlim, &value, sizeof(*rlim)) ? -EFAULT : 0;
1385
1386         return ret;
1387 }
1388
1389 #ifdef CONFIG_COMPAT
1390
1391 COMPAT_SYSCALL_DEFINE2(setrlimit, unsigned int, resource,
1392                        struct compat_rlimit __user *, rlim)
1393 {
1394         struct rlimit r;
1395         struct compat_rlimit r32;
1396
1397         if (copy_from_user(&r32, rlim, sizeof(struct compat_rlimit)))
1398                 return -EFAULT;
1399
1400         if (r32.rlim_cur == COMPAT_RLIM_INFINITY)
1401                 r.rlim_cur = RLIM_INFINITY;
1402         else
1403                 r.rlim_cur = r32.rlim_cur;
1404         if (r32.rlim_max == COMPAT_RLIM_INFINITY)
1405                 r.rlim_max = RLIM_INFINITY;
1406         else
1407                 r.rlim_max = r32.rlim_max;
1408         return do_prlimit(current, resource, &r, NULL);
1409 }
1410
1411 COMPAT_SYSCALL_DEFINE2(getrlimit, unsigned int, resource,
1412                        struct compat_rlimit __user *, rlim)
1413 {
1414         struct rlimit r;
1415         int ret;
1416
1417         ret = do_prlimit(current, resource, NULL, &r);
1418         if (!ret) {
1419                 struct compat_rlimit r32;
1420                 if (r.rlim_cur > COMPAT_RLIM_INFINITY)
1421                         r32.rlim_cur = COMPAT_RLIM_INFINITY;
1422                 else
1423                         r32.rlim_cur = r.rlim_cur;
1424                 if (r.rlim_max > COMPAT_RLIM_INFINITY)
1425                         r32.rlim_max = COMPAT_RLIM_INFINITY;
1426                 else
1427                         r32.rlim_max = r.rlim_max;
1428
1429                 if (copy_to_user(rlim, &r32, sizeof(struct compat_rlimit)))
1430                         return -EFAULT;
1431         }
1432         return ret;
1433 }
1434
1435 #endif
1436
1437 #ifdef __ARCH_WANT_SYS_OLD_GETRLIMIT
1438
1439 /*
1440  *      Back compatibility for getrlimit. Needed for some apps.
1441  */
1442 SYSCALL_DEFINE2(old_getrlimit, unsigned int, resource,
1443                 struct rlimit __user *, rlim)
1444 {
1445         struct rlimit x;
1446         if (resource >= RLIM_NLIMITS)
1447                 return -EINVAL;
1448
1449         resource = array_index_nospec(resource, RLIM_NLIMITS);
1450         task_lock(current->group_leader);
1451         x = current->signal->rlim[resource];
1452         task_unlock(current->group_leader);
1453         if (x.rlim_cur > 0x7FFFFFFF)
1454                 x.rlim_cur = 0x7FFFFFFF;
1455         if (x.rlim_max > 0x7FFFFFFF)
1456                 x.rlim_max = 0x7FFFFFFF;
1457         return copy_to_user(rlim, &x, sizeof(x)) ? -EFAULT : 0;
1458 }
1459
1460 #ifdef CONFIG_COMPAT
1461 COMPAT_SYSCALL_DEFINE2(old_getrlimit, unsigned int, resource,
1462                        struct compat_rlimit __user *, rlim)
1463 {
1464         struct rlimit r;
1465
1466         if (resource >= RLIM_NLIMITS)
1467                 return -EINVAL;
1468
1469         resource = array_index_nospec(resource, RLIM_NLIMITS);
1470         task_lock(current->group_leader);
1471         r = current->signal->rlim[resource];
1472         task_unlock(current->group_leader);
1473         if (r.rlim_cur > 0x7FFFFFFF)
1474                 r.rlim_cur = 0x7FFFFFFF;
1475         if (r.rlim_max > 0x7FFFFFFF)
1476                 r.rlim_max = 0x7FFFFFFF;
1477
1478         if (put_user(r.rlim_cur, &rlim->rlim_cur) ||
1479             put_user(r.rlim_max, &rlim->rlim_max))
1480                 return -EFAULT;
1481         return 0;
1482 }
1483 #endif
1484
1485 #endif
1486
1487 static inline bool rlim64_is_infinity(__u64 rlim64)
1488 {
1489 #if BITS_PER_LONG < 64
1490         return rlim64 >= ULONG_MAX;
1491 #else
1492         return rlim64 == RLIM64_INFINITY;
1493 #endif
1494 }
1495
1496 static void rlim_to_rlim64(const struct rlimit *rlim, struct rlimit64 *rlim64)
1497 {
1498         if (rlim->rlim_cur == RLIM_INFINITY)
1499                 rlim64->rlim_cur = RLIM64_INFINITY;
1500         else
1501                 rlim64->rlim_cur = rlim->rlim_cur;
1502         if (rlim->rlim_max == RLIM_INFINITY)
1503                 rlim64->rlim_max = RLIM64_INFINITY;
1504         else
1505                 rlim64->rlim_max = rlim->rlim_max;
1506 }
1507
1508 static void rlim64_to_rlim(const struct rlimit64 *rlim64, struct rlimit *rlim)
1509 {
1510         if (rlim64_is_infinity(rlim64->rlim_cur))
1511                 rlim->rlim_cur = RLIM_INFINITY;
1512         else
1513                 rlim->rlim_cur = (unsigned long)rlim64->rlim_cur;
1514         if (rlim64_is_infinity(rlim64->rlim_max))
1515                 rlim->rlim_max = RLIM_INFINITY;
1516         else
1517                 rlim->rlim_max = (unsigned long)rlim64->rlim_max;
1518 }
1519
1520 /* make sure you are allowed to change @tsk limits before calling this */
1521 int do_prlimit(struct task_struct *tsk, unsigned int resource,
1522                 struct rlimit *new_rlim, struct rlimit *old_rlim)
1523 {
1524         struct rlimit *rlim;
1525         int retval = 0;
1526
1527         if (resource >= RLIM_NLIMITS)
1528                 return -EINVAL;
1529         if (new_rlim) {
1530                 if (new_rlim->rlim_cur > new_rlim->rlim_max)
1531                         return -EINVAL;
1532                 if (resource == RLIMIT_NOFILE &&
1533                                 new_rlim->rlim_max > sysctl_nr_open)
1534                         return -EPERM;
1535         }
1536
1537         /* protect tsk->signal and tsk->sighand from disappearing */
1538         read_lock(&tasklist_lock);
1539         if (!tsk->sighand) {
1540                 retval = -ESRCH;
1541                 goto out;
1542         }
1543
1544         rlim = tsk->signal->rlim + resource;
1545         task_lock(tsk->group_leader);
1546         if (new_rlim) {
1547                 /* Keep the capable check against init_user_ns until
1548                    cgroups can contain all limits */
1549                 if (new_rlim->rlim_max > rlim->rlim_max &&
1550                                 !capable(CAP_SYS_RESOURCE))
1551                         retval = -EPERM;
1552                 if (!retval)
1553                         retval = security_task_setrlimit(tsk, resource, new_rlim);
1554                 if (resource == RLIMIT_CPU && new_rlim->rlim_cur == 0) {
1555                         /*
1556                          * The caller is asking for an immediate RLIMIT_CPU
1557                          * expiry.  But we use the zero value to mean "it was
1558                          * never set".  So let's cheat and make it one second
1559                          * instead
1560                          */
1561                         new_rlim->rlim_cur = 1;
1562                 }
1563         }
1564         if (!retval) {
1565                 if (old_rlim)
1566                         *old_rlim = *rlim;
1567                 if (new_rlim)
1568                         *rlim = *new_rlim;
1569         }
1570         task_unlock(tsk->group_leader);
1571
1572         /*
1573          * RLIMIT_CPU handling.   Note that the kernel fails to return an error
1574          * code if it rejected the user's attempt to set RLIMIT_CPU.  This is a
1575          * very long-standing error, and fixing it now risks breakage of
1576          * applications, so we live with it
1577          */
1578          if (!retval && new_rlim && resource == RLIMIT_CPU &&
1579              new_rlim->rlim_cur != RLIM_INFINITY &&
1580              IS_ENABLED(CONFIG_POSIX_TIMERS))
1581                 update_rlimit_cpu(tsk, new_rlim->rlim_cur);
1582 out:
1583         read_unlock(&tasklist_lock);
1584         return retval;
1585 }
1586
1587 /* rcu lock must be held */
1588 static int check_prlimit_permission(struct task_struct *task,
1589                                     unsigned int flags)
1590 {
1591         const struct cred *cred = current_cred(), *tcred;
1592         bool id_match;
1593
1594         if (current == task)
1595                 return 0;
1596
1597         tcred = __task_cred(task);
1598         id_match = (uid_eq(cred->uid, tcred->euid) &&
1599                     uid_eq(cred->uid, tcred->suid) &&
1600                     uid_eq(cred->uid, tcred->uid)  &&
1601                     gid_eq(cred->gid, tcred->egid) &&
1602                     gid_eq(cred->gid, tcred->sgid) &&
1603                     gid_eq(cred->gid, tcred->gid));
1604         if (!id_match && !ns_capable(tcred->user_ns, CAP_SYS_RESOURCE))
1605                 return -EPERM;
1606
1607         return security_task_prlimit(cred, tcred, flags);
1608 }
1609
1610 SYSCALL_DEFINE4(prlimit64, pid_t, pid, unsigned int, resource,
1611                 const struct rlimit64 __user *, new_rlim,
1612                 struct rlimit64 __user *, old_rlim)
1613 {
1614         struct rlimit64 old64, new64;
1615         struct rlimit old, new;
1616         struct task_struct *tsk;
1617         unsigned int checkflags = 0;
1618         int ret;
1619
1620         if (old_rlim)
1621                 checkflags |= LSM_PRLIMIT_READ;
1622
1623         if (new_rlim) {
1624                 if (copy_from_user(&new64, new_rlim, sizeof(new64)))
1625                         return -EFAULT;
1626                 rlim64_to_rlim(&new64, &new);
1627                 checkflags |= LSM_PRLIMIT_WRITE;
1628         }
1629
1630         rcu_read_lock();
1631         tsk = pid ? find_task_by_vpid(pid) : current;
1632         if (!tsk) {
1633                 rcu_read_unlock();
1634                 return -ESRCH;
1635         }
1636         ret = check_prlimit_permission(tsk, checkflags);
1637         if (ret) {
1638                 rcu_read_unlock();
1639                 return ret;
1640         }
1641         get_task_struct(tsk);
1642         rcu_read_unlock();
1643
1644         ret = do_prlimit(tsk, resource, new_rlim ? &new : NULL,
1645                         old_rlim ? &old : NULL);
1646
1647         if (!ret && old_rlim) {
1648                 rlim_to_rlim64(&old, &old64);
1649                 if (copy_to_user(old_rlim, &old64, sizeof(old64)))
1650                         ret = -EFAULT;
1651         }
1652
1653         put_task_struct(tsk);
1654         return ret;
1655 }
1656
1657 SYSCALL_DEFINE2(setrlimit, unsigned int, resource, struct rlimit __user *, rlim)
1658 {
1659         struct rlimit new_rlim;
1660
1661         if (copy_from_user(&new_rlim, rlim, sizeof(*rlim)))
1662                 return -EFAULT;
1663         return do_prlimit(current, resource, &new_rlim, NULL);
1664 }
1665
1666 /*
1667  * It would make sense to put struct rusage in the task_struct,
1668  * except that would make the task_struct be *really big*.  After
1669  * task_struct gets moved into malloc'ed memory, it would
1670  * make sense to do this.  It will make moving the rest of the information
1671  * a lot simpler!  (Which we're not doing right now because we're not
1672  * measuring them yet).
1673  *
1674  * When sampling multiple threads for RUSAGE_SELF, under SMP we might have
1675  * races with threads incrementing their own counters.  But since word
1676  * reads are atomic, we either get new values or old values and we don't
1677  * care which for the sums.  We always take the siglock to protect reading
1678  * the c* fields from p->signal from races with exit.c updating those
1679  * fields when reaping, so a sample either gets all the additions of a
1680  * given child after it's reaped, or none so this sample is before reaping.
1681  *
1682  * Locking:
1683  * We need to take the siglock for CHILDEREN, SELF and BOTH
1684  * for  the cases current multithreaded, non-current single threaded
1685  * non-current multithreaded.  Thread traversal is now safe with
1686  * the siglock held.
1687  * Strictly speaking, we donot need to take the siglock if we are current and
1688  * single threaded,  as no one else can take our signal_struct away, no one
1689  * else can  reap the  children to update signal->c* counters, and no one else
1690  * can race with the signal-> fields. If we do not take any lock, the
1691  * signal-> fields could be read out of order while another thread was just
1692  * exiting. So we should  place a read memory barrier when we avoid the lock.
1693  * On the writer side,  write memory barrier is implied in  __exit_signal
1694  * as __exit_signal releases  the siglock spinlock after updating the signal->
1695  * fields. But we don't do this yet to keep things simple.
1696  *
1697  */
1698
1699 static void accumulate_thread_rusage(struct task_struct *t, struct rusage *r)
1700 {
1701         r->ru_nvcsw += t->nvcsw;
1702         r->ru_nivcsw += t->nivcsw;
1703         r->ru_minflt += t->min_flt;
1704         r->ru_majflt += t->maj_flt;
1705         r->ru_inblock += task_io_get_inblock(t);
1706         r->ru_oublock += task_io_get_oublock(t);
1707 }
1708
1709 void getrusage(struct task_struct *p, int who, struct rusage *r)
1710 {
1711         struct task_struct *t;
1712         unsigned long flags;
1713         u64 tgutime, tgstime, utime, stime;
1714         unsigned long maxrss = 0;
1715
1716         memset((char *)r, 0, sizeof (*r));
1717         utime = stime = 0;
1718
1719         if (who == RUSAGE_THREAD) {
1720                 task_cputime_adjusted(current, &utime, &stime);
1721                 accumulate_thread_rusage(p, r);
1722                 maxrss = p->signal->maxrss;
1723                 goto out;
1724         }
1725
1726         if (!lock_task_sighand(p, &flags))
1727                 return;
1728
1729         switch (who) {
1730         case RUSAGE_BOTH:
1731         case RUSAGE_CHILDREN:
1732                 utime = p->signal->cutime;
1733                 stime = p->signal->cstime;
1734                 r->ru_nvcsw = p->signal->cnvcsw;
1735                 r->ru_nivcsw = p->signal->cnivcsw;
1736                 r->ru_minflt = p->signal->cmin_flt;
1737                 r->ru_majflt = p->signal->cmaj_flt;
1738                 r->ru_inblock = p->signal->cinblock;
1739                 r->ru_oublock = p->signal->coublock;
1740                 maxrss = p->signal->cmaxrss;
1741
1742                 if (who == RUSAGE_CHILDREN)
1743                         break;
1744                 /* fall through */
1745
1746         case RUSAGE_SELF:
1747                 thread_group_cputime_adjusted(p, &tgutime, &tgstime);
1748                 utime += tgutime;
1749                 stime += tgstime;
1750                 r->ru_nvcsw += p->signal->nvcsw;
1751                 r->ru_nivcsw += p->signal->nivcsw;
1752                 r->ru_minflt += p->signal->min_flt;
1753                 r->ru_majflt += p->signal->maj_flt;
1754                 r->ru_inblock += p->signal->inblock;
1755                 r->ru_oublock += p->signal->oublock;
1756                 if (maxrss < p->signal->maxrss)
1757                         maxrss = p->signal->maxrss;
1758                 t = p;
1759                 do {
1760                         accumulate_thread_rusage(t, r);
1761                 } while_each_thread(p, t);
1762                 break;
1763
1764         default:
1765                 BUG();
1766         }
1767         unlock_task_sighand(p, &flags);
1768
1769 out:
1770         r->ru_utime = ns_to_timeval(utime);
1771         r->ru_stime = ns_to_timeval(stime);
1772
1773         if (who != RUSAGE_CHILDREN) {
1774                 struct mm_struct *mm = get_task_mm(p);
1775
1776                 if (mm) {
1777                         setmax_mm_hiwater_rss(&maxrss, mm);
1778                         mmput(mm);
1779                 }
1780         }
1781         r->ru_maxrss = maxrss * (PAGE_SIZE / 1024); /* convert pages to KBs */
1782 }
1783
1784 SYSCALL_DEFINE2(getrusage, int, who, struct rusage __user *, ru)
1785 {
1786         struct rusage r;
1787
1788         if (who != RUSAGE_SELF && who != RUSAGE_CHILDREN &&
1789             who != RUSAGE_THREAD)
1790                 return -EINVAL;
1791
1792         getrusage(current, who, &r);
1793         return copy_to_user(ru, &r, sizeof(r)) ? -EFAULT : 0;
1794 }
1795
1796 #ifdef CONFIG_COMPAT
1797 COMPAT_SYSCALL_DEFINE2(getrusage, int, who, struct compat_rusage __user *, ru)
1798 {
1799         struct rusage r;
1800
1801         if (who != RUSAGE_SELF && who != RUSAGE_CHILDREN &&
1802             who != RUSAGE_THREAD)
1803                 return -EINVAL;
1804
1805         getrusage(current, who, &r);
1806         return put_compat_rusage(&r, ru);
1807 }
1808 #endif
1809
1810 SYSCALL_DEFINE1(umask, int, mask)
1811 {
1812         mask = xchg(&current->fs->umask, mask & S_IRWXUGO);
1813         return mask;
1814 }
1815
1816 static int prctl_set_mm_exe_file(struct mm_struct *mm, unsigned int fd)
1817 {
1818         struct fd exe;
1819         struct file *old_exe, *exe_file;
1820         struct inode *inode;
1821         int err;
1822
1823         exe = fdget(fd);
1824         if (!exe.file)
1825                 return -EBADF;
1826
1827         inode = file_inode(exe.file);
1828
1829         /*
1830          * Because the original mm->exe_file points to executable file, make
1831          * sure that this one is executable as well, to avoid breaking an
1832          * overall picture.
1833          */
1834         err = -EACCES;
1835         if (!S_ISREG(inode->i_mode) || path_noexec(&exe.file->f_path))
1836                 goto exit;
1837
1838         err = inode_permission(inode, MAY_EXEC);
1839         if (err)
1840                 goto exit;
1841
1842         /*
1843          * Forbid mm->exe_file change if old file still mapped.
1844          */
1845         exe_file = get_mm_exe_file(mm);
1846         err = -EBUSY;
1847         if (exe_file) {
1848                 struct vm_area_struct *vma;
1849
1850                 down_read(&mm->mmap_sem);
1851                 for (vma = mm->mmap; vma; vma = vma->vm_next) {
1852                         if (!vma->vm_file)
1853                                 continue;
1854                         if (path_equal(&vma->vm_file->f_path,
1855                                        &exe_file->f_path))
1856                                 goto exit_err;
1857                 }
1858
1859                 up_read(&mm->mmap_sem);
1860                 fput(exe_file);
1861         }
1862
1863         err = 0;
1864         /* set the new file, lockless */
1865         get_file(exe.file);
1866         old_exe = xchg(&mm->exe_file, exe.file);
1867         if (old_exe)
1868                 fput(old_exe);
1869 exit:
1870         fdput(exe);
1871         return err;
1872 exit_err:
1873         up_read(&mm->mmap_sem);
1874         fput(exe_file);
1875         goto exit;
1876 }
1877
1878 /*
1879  * Check arithmetic relations of passed addresses.
1880  *
1881  * WARNING: we don't require any capability here so be very careful
1882  * in what is allowed for modification from userspace.
1883  */
1884 static int validate_prctl_map_addr(struct prctl_mm_map *prctl_map)
1885 {
1886         unsigned long mmap_max_addr = TASK_SIZE;
1887         int error = -EINVAL, i;
1888
1889         static const unsigned char offsets[] = {
1890                 offsetof(struct prctl_mm_map, start_code),
1891                 offsetof(struct prctl_mm_map, end_code),
1892                 offsetof(struct prctl_mm_map, start_data),
1893                 offsetof(struct prctl_mm_map, end_data),
1894                 offsetof(struct prctl_mm_map, start_brk),
1895                 offsetof(struct prctl_mm_map, brk),
1896                 offsetof(struct prctl_mm_map, start_stack),
1897                 offsetof(struct prctl_mm_map, arg_start),
1898                 offsetof(struct prctl_mm_map, arg_end),
1899                 offsetof(struct prctl_mm_map, env_start),
1900                 offsetof(struct prctl_mm_map, env_end),
1901         };
1902
1903         /*
1904          * Make sure the members are not somewhere outside
1905          * of allowed address space.
1906          */
1907         for (i = 0; i < ARRAY_SIZE(offsets); i++) {
1908                 u64 val = *(u64 *)((char *)prctl_map + offsets[i]);
1909
1910                 if ((unsigned long)val >= mmap_max_addr ||
1911                     (unsigned long)val < mmap_min_addr)
1912                         goto out;
1913         }
1914
1915         /*
1916          * Make sure the pairs are ordered.
1917          */
1918 #define __prctl_check_order(__m1, __op, __m2)                           \
1919         ((unsigned long)prctl_map->__m1 __op                            \
1920          (unsigned long)prctl_map->__m2) ? 0 : -EINVAL
1921         error  = __prctl_check_order(start_code, <, end_code);
1922         error |= __prctl_check_order(start_data,<=, end_data);
1923         error |= __prctl_check_order(start_brk, <=, brk);
1924         error |= __prctl_check_order(arg_start, <=, arg_end);
1925         error |= __prctl_check_order(env_start, <=, env_end);
1926         if (error)
1927                 goto out;
1928 #undef __prctl_check_order
1929
1930         error = -EINVAL;
1931
1932         /*
1933          * @brk should be after @end_data in traditional maps.
1934          */
1935         if (prctl_map->start_brk <= prctl_map->end_data ||
1936             prctl_map->brk <= prctl_map->end_data)
1937                 goto out;
1938
1939         /*
1940          * Neither we should allow to override limits if they set.
1941          */
1942         if (check_data_rlimit(rlimit(RLIMIT_DATA), prctl_map->brk,
1943                               prctl_map->start_brk, prctl_map->end_data,
1944                               prctl_map->start_data))
1945                         goto out;
1946
1947         error = 0;
1948 out:
1949         return error;
1950 }
1951
1952 #ifdef CONFIG_CHECKPOINT_RESTORE
1953 static int prctl_set_mm_map(int opt, const void __user *addr, unsigned long data_size)
1954 {
1955         struct prctl_mm_map prctl_map = { .exe_fd = (u32)-1, };
1956         unsigned long user_auxv[AT_VECTOR_SIZE];
1957         struct mm_struct *mm = current->mm;
1958         int error;
1959
1960         BUILD_BUG_ON(sizeof(user_auxv) != sizeof(mm->saved_auxv));
1961         BUILD_BUG_ON(sizeof(struct prctl_mm_map) > 256);
1962
1963         if (opt == PR_SET_MM_MAP_SIZE)
1964                 return put_user((unsigned int)sizeof(prctl_map),
1965                                 (unsigned int __user *)addr);
1966
1967         if (data_size != sizeof(prctl_map))
1968                 return -EINVAL;
1969
1970         if (copy_from_user(&prctl_map, addr, sizeof(prctl_map)))
1971                 return -EFAULT;
1972
1973         error = validate_prctl_map_addr(&prctl_map);
1974         if (error)
1975                 return error;
1976
1977         if (prctl_map.auxv_size) {
1978                 /*
1979                  * Someone is trying to cheat the auxv vector.
1980                  */
1981                 if (!prctl_map.auxv ||
1982                                 prctl_map.auxv_size > sizeof(mm->saved_auxv))
1983                         return -EINVAL;
1984
1985                 memset(user_auxv, 0, sizeof(user_auxv));
1986                 if (copy_from_user(user_auxv,
1987                                    (const void __user *)prctl_map.auxv,
1988                                    prctl_map.auxv_size))
1989                         return -EFAULT;
1990
1991                 /* Last entry must be AT_NULL as specification requires */
1992                 user_auxv[AT_VECTOR_SIZE - 2] = AT_NULL;
1993                 user_auxv[AT_VECTOR_SIZE - 1] = AT_NULL;
1994         }
1995
1996         if (prctl_map.exe_fd != (u32)-1) {
1997                 /*
1998                  * Make sure the caller has the rights to
1999                  * change /proc/pid/exe link: only local sys admin should
2000                  * be allowed to.
2001                  */
2002                 if (!ns_capable(current_user_ns(), CAP_SYS_ADMIN))
2003                         return -EINVAL;
2004
2005                 error = prctl_set_mm_exe_file(mm, prctl_map.exe_fd);
2006                 if (error)
2007                         return error;
2008         }
2009
2010         /*
2011          * arg_lock protects concurent updates but we still need mmap_sem for
2012          * read to exclude races with sys_brk.
2013          */
2014         down_read(&mm->mmap_sem);
2015
2016         /*
2017          * We don't validate if these members are pointing to
2018          * real present VMAs because application may have correspond
2019          * VMAs already unmapped and kernel uses these members for statistics
2020          * output in procfs mostly, except
2021          *
2022          *  - @start_brk/@brk which are used in do_brk but kernel lookups
2023          *    for VMAs when updating these memvers so anything wrong written
2024          *    here cause kernel to swear at userspace program but won't lead
2025          *    to any problem in kernel itself
2026          */
2027
2028         spin_lock(&mm->arg_lock);
2029         mm->start_code  = prctl_map.start_code;
2030         mm->end_code    = prctl_map.end_code;
2031         mm->start_data  = prctl_map.start_data;
2032         mm->end_data    = prctl_map.end_data;
2033         mm->start_brk   = prctl_map.start_brk;
2034         mm->brk         = prctl_map.brk;
2035         mm->start_stack = prctl_map.start_stack;
2036         mm->arg_start   = prctl_map.arg_start;
2037         mm->arg_end     = prctl_map.arg_end;
2038         mm->env_start   = prctl_map.env_start;
2039         mm->env_end     = prctl_map.env_end;
2040         spin_unlock(&mm->arg_lock);
2041
2042         /*
2043          * Note this update of @saved_auxv is lockless thus
2044          * if someone reads this member in procfs while we're
2045          * updating -- it may get partly updated results. It's
2046          * known and acceptable trade off: we leave it as is to
2047          * not introduce additional locks here making the kernel
2048          * more complex.
2049          */
2050         if (prctl_map.auxv_size)
2051                 memcpy(mm->saved_auxv, user_auxv, sizeof(user_auxv));
2052
2053         up_read(&mm->mmap_sem);
2054         return 0;
2055 }
2056 #endif /* CONFIG_CHECKPOINT_RESTORE */
2057
2058 static int prctl_set_auxv(struct mm_struct *mm, unsigned long addr,
2059                           unsigned long len)
2060 {
2061         /*
2062          * This doesn't move the auxiliary vector itself since it's pinned to
2063          * mm_struct, but it permits filling the vector with new values.  It's
2064          * up to the caller to provide sane values here, otherwise userspace
2065          * tools which use this vector might be unhappy.
2066          */
2067         unsigned long user_auxv[AT_VECTOR_SIZE];
2068
2069         if (len > sizeof(user_auxv))
2070                 return -EINVAL;
2071
2072         if (copy_from_user(user_auxv, (const void __user *)addr, len))
2073                 return -EFAULT;
2074
2075         /* Make sure the last entry is always AT_NULL */
2076         user_auxv[AT_VECTOR_SIZE - 2] = 0;
2077         user_auxv[AT_VECTOR_SIZE - 1] = 0;
2078
2079         BUILD_BUG_ON(sizeof(user_auxv) != sizeof(mm->saved_auxv));
2080
2081         task_lock(current);
2082         memcpy(mm->saved_auxv, user_auxv, len);
2083         task_unlock(current);
2084
2085         return 0;
2086 }
2087
2088 static int prctl_set_mm(int opt, unsigned long addr,
2089                         unsigned long arg4, unsigned long arg5)
2090 {
2091         struct mm_struct *mm = current->mm;
2092         struct prctl_mm_map prctl_map = {
2093                 .auxv = NULL,
2094                 .auxv_size = 0,
2095                 .exe_fd = -1,
2096         };
2097         struct vm_area_struct *vma;
2098         int error;
2099
2100         if (arg5 || (arg4 && (opt != PR_SET_MM_AUXV &&
2101                               opt != PR_SET_MM_MAP &&
2102                               opt != PR_SET_MM_MAP_SIZE)))
2103                 return -EINVAL;
2104
2105 #ifdef CONFIG_CHECKPOINT_RESTORE
2106         if (opt == PR_SET_MM_MAP || opt == PR_SET_MM_MAP_SIZE)
2107                 return prctl_set_mm_map(opt, (const void __user *)addr, arg4);
2108 #endif
2109
2110         if (!capable(CAP_SYS_RESOURCE))
2111                 return -EPERM;
2112
2113         if (opt == PR_SET_MM_EXE_FILE)
2114                 return prctl_set_mm_exe_file(mm, (unsigned int)addr);
2115
2116         if (opt == PR_SET_MM_AUXV)
2117                 return prctl_set_auxv(mm, addr, arg4);
2118
2119         if (addr >= TASK_SIZE || addr < mmap_min_addr)
2120                 return -EINVAL;
2121
2122         error = -EINVAL;
2123
2124         /*
2125          * arg_lock protects concurent updates of arg boundaries, we need
2126          * mmap_sem for a) concurrent sys_brk, b) finding VMA for addr
2127          * validation.
2128          */
2129         down_read(&mm->mmap_sem);
2130         vma = find_vma(mm, addr);
2131
2132         spin_lock(&mm->arg_lock);
2133         prctl_map.start_code    = mm->start_code;
2134         prctl_map.end_code      = mm->end_code;
2135         prctl_map.start_data    = mm->start_data;
2136         prctl_map.end_data      = mm->end_data;
2137         prctl_map.start_brk     = mm->start_brk;
2138         prctl_map.brk           = mm->brk;
2139         prctl_map.start_stack   = mm->start_stack;
2140         prctl_map.arg_start     = mm->arg_start;
2141         prctl_map.arg_end       = mm->arg_end;
2142         prctl_map.env_start     = mm->env_start;
2143         prctl_map.env_end       = mm->env_end;
2144
2145         switch (opt) {
2146         case PR_SET_MM_START_CODE:
2147                 prctl_map.start_code = addr;
2148                 break;
2149         case PR_SET_MM_END_CODE:
2150                 prctl_map.end_code = addr;
2151                 break;
2152         case PR_SET_MM_START_DATA:
2153                 prctl_map.start_data = addr;
2154                 break;
2155         case PR_SET_MM_END_DATA:
2156                 prctl_map.end_data = addr;
2157                 break;
2158         case PR_SET_MM_START_STACK:
2159                 prctl_map.start_stack = addr;
2160                 break;
2161         case PR_SET_MM_START_BRK:
2162                 prctl_map.start_brk = addr;
2163                 break;
2164         case PR_SET_MM_BRK:
2165                 prctl_map.brk = addr;
2166                 break;
2167         case PR_SET_MM_ARG_START:
2168                 prctl_map.arg_start = addr;
2169                 break;
2170         case PR_SET_MM_ARG_END:
2171                 prctl_map.arg_end = addr;
2172                 break;
2173         case PR_SET_MM_ENV_START:
2174                 prctl_map.env_start = addr;
2175                 break;
2176         case PR_SET_MM_ENV_END:
2177                 prctl_map.env_end = addr;
2178                 break;
2179         default:
2180                 goto out;
2181         }
2182
2183         error = validate_prctl_map_addr(&prctl_map);
2184         if (error)
2185                 goto out;
2186
2187         switch (opt) {
2188         /*
2189          * If command line arguments and environment
2190          * are placed somewhere else on stack, we can
2191          * set them up here, ARG_START/END to setup
2192          * command line argumets and ENV_START/END
2193          * for environment.
2194          */
2195         case PR_SET_MM_START_STACK:
2196         case PR_SET_MM_ARG_START:
2197         case PR_SET_MM_ARG_END:
2198         case PR_SET_MM_ENV_START:
2199         case PR_SET_MM_ENV_END:
2200                 if (!vma) {
2201                         error = -EFAULT;
2202                         goto out;
2203                 }
2204         }
2205
2206         mm->start_code  = prctl_map.start_code;
2207         mm->end_code    = prctl_map.end_code;
2208         mm->start_data  = prctl_map.start_data;
2209         mm->end_data    = prctl_map.end_data;
2210         mm->start_brk   = prctl_map.start_brk;
2211         mm->brk         = prctl_map.brk;
2212         mm->start_stack = prctl_map.start_stack;
2213         mm->arg_start   = prctl_map.arg_start;
2214         mm->arg_end     = prctl_map.arg_end;
2215         mm->env_start   = prctl_map.env_start;
2216         mm->env_end     = prctl_map.env_end;
2217
2218         error = 0;
2219 out:
2220         spin_unlock(&mm->arg_lock);
2221         up_read(&mm->mmap_sem);
2222         return error;
2223 }
2224
2225 #ifdef CONFIG_CHECKPOINT_RESTORE
2226 static int prctl_get_tid_address(struct task_struct *me, int __user **tid_addr)
2227 {
2228         return put_user(me->clear_child_tid, tid_addr);
2229 }
2230 #else
2231 static int prctl_get_tid_address(struct task_struct *me, int __user **tid_addr)
2232 {
2233         return -EINVAL;
2234 }
2235 #endif
2236
2237 static int propagate_has_child_subreaper(struct task_struct *p, void *data)
2238 {
2239         /*
2240          * If task has has_child_subreaper - all its decendants
2241          * already have these flag too and new decendants will
2242          * inherit it on fork, skip them.
2243          *
2244          * If we've found child_reaper - skip descendants in
2245          * it's subtree as they will never get out pidns.
2246          */
2247         if (p->signal->has_child_subreaper ||
2248             is_child_reaper(task_pid(p)))
2249                 return 0;
2250
2251         p->signal->has_child_subreaper = 1;
2252         return 1;
2253 }
2254
2255 int __weak arch_prctl_spec_ctrl_get(struct task_struct *t, unsigned long which)
2256 {
2257         return -EINVAL;
2258 }
2259
2260 int __weak arch_prctl_spec_ctrl_set(struct task_struct *t, unsigned long which,
2261                                     unsigned long ctrl)
2262 {
2263         return -EINVAL;
2264 }
2265
2266 SYSCALL_DEFINE5(prctl, int, option, unsigned long, arg2, unsigned long, arg3,
2267                 unsigned long, arg4, unsigned long, arg5)
2268 {
2269         struct task_struct *me = current;
2270         unsigned char comm[sizeof(me->comm)];
2271         long error;
2272
2273         error = security_task_prctl(option, arg2, arg3, arg4, arg5);
2274         if (error != -ENOSYS)
2275                 return error;
2276
2277         error = 0;
2278         switch (option) {
2279         case PR_SET_PDEATHSIG:
2280                 if (!valid_signal(arg2)) {
2281                         error = -EINVAL;
2282                         break;
2283                 }
2284                 me->pdeath_signal = arg2;
2285                 break;
2286         case PR_GET_PDEATHSIG:
2287                 error = put_user(me->pdeath_signal, (int __user *)arg2);
2288                 break;
2289         case PR_GET_DUMPABLE:
2290                 error = get_dumpable(me->mm);
2291                 break;
2292         case PR_SET_DUMPABLE:
2293                 if (arg2 != SUID_DUMP_DISABLE && arg2 != SUID_DUMP_USER) {
2294                         error = -EINVAL;
2295                         break;
2296                 }
2297                 set_dumpable(me->mm, arg2);
2298                 break;
2299
2300         case PR_SET_UNALIGN:
2301                 error = SET_UNALIGN_CTL(me, arg2);
2302                 break;
2303         case PR_GET_UNALIGN:
2304                 error = GET_UNALIGN_CTL(me, arg2);
2305                 break;
2306         case PR_SET_FPEMU:
2307                 error = SET_FPEMU_CTL(me, arg2);
2308                 break;
2309         case PR_GET_FPEMU:
2310                 error = GET_FPEMU_CTL(me, arg2);
2311                 break;
2312         case PR_SET_FPEXC:
2313                 error = SET_FPEXC_CTL(me, arg2);
2314                 break;
2315         case PR_GET_FPEXC:
2316                 error = GET_FPEXC_CTL(me, arg2);
2317                 break;
2318         case PR_GET_TIMING:
2319                 error = PR_TIMING_STATISTICAL;
2320                 break;
2321         case PR_SET_TIMING:
2322                 if (arg2 != PR_TIMING_STATISTICAL)
2323                         error = -EINVAL;
2324                 break;
2325         case PR_SET_NAME:
2326                 comm[sizeof(me->comm) - 1] = 0;
2327                 if (strncpy_from_user(comm, (char __user *)arg2,
2328                                       sizeof(me->comm) - 1) < 0)
2329                         return -EFAULT;
2330                 set_task_comm(me, comm);
2331                 proc_comm_connector(me);
2332                 break;
2333         case PR_GET_NAME:
2334                 get_task_comm(comm, me);
2335                 if (copy_to_user((char __user *)arg2, comm, sizeof(comm)))
2336                         return -EFAULT;
2337                 break;
2338         case PR_GET_ENDIAN:
2339                 error = GET_ENDIAN(me, arg2);
2340                 break;
2341         case PR_SET_ENDIAN:
2342                 error = SET_ENDIAN(me, arg2);
2343                 break;
2344         case PR_GET_SECCOMP:
2345                 error = prctl_get_seccomp();
2346                 break;
2347         case PR_SET_SECCOMP:
2348                 error = prctl_set_seccomp(arg2, (char __user *)arg3);
2349                 break;
2350         case PR_GET_TSC:
2351                 error = GET_TSC_CTL(arg2);
2352                 break;
2353         case PR_SET_TSC:
2354                 error = SET_TSC_CTL(arg2);
2355                 break;
2356         case PR_TASK_PERF_EVENTS_DISABLE:
2357                 error = perf_event_task_disable();
2358                 break;
2359         case PR_TASK_PERF_EVENTS_ENABLE:
2360                 error = perf_event_task_enable();
2361                 break;
2362         case PR_GET_TIMERSLACK:
2363                 if (current->timer_slack_ns > ULONG_MAX)
2364                         error = ULONG_MAX;
2365                 else
2366                         error = current->timer_slack_ns;
2367                 break;
2368         case PR_SET_TIMERSLACK:
2369                 if (arg2 <= 0)
2370                         current->timer_slack_ns =
2371                                         current->default_timer_slack_ns;
2372                 else
2373                         current->timer_slack_ns = arg2;
2374                 break;
2375         case PR_MCE_KILL:
2376                 if (arg4 | arg5)
2377                         return -EINVAL;
2378                 switch (arg2) {
2379                 case PR_MCE_KILL_CLEAR:
2380                         if (arg3 != 0)
2381                                 return -EINVAL;
2382                         current->flags &= ~PF_MCE_PROCESS;
2383                         break;
2384                 case PR_MCE_KILL_SET:
2385                         current->flags |= PF_MCE_PROCESS;
2386                         if (arg3 == PR_MCE_KILL_EARLY)
2387                                 current->flags |= PF_MCE_EARLY;
2388                         else if (arg3 == PR_MCE_KILL_LATE)
2389                                 current->flags &= ~PF_MCE_EARLY;
2390                         else if (arg3 == PR_MCE_KILL_DEFAULT)
2391                                 current->flags &=
2392                                                 ~(PF_MCE_EARLY|PF_MCE_PROCESS);
2393                         else
2394                                 return -EINVAL;
2395                         break;
2396                 default:
2397                         return -EINVAL;
2398                 }
2399                 break;
2400         case PR_MCE_KILL_GET:
2401                 if (arg2 | arg3 | arg4 | arg5)
2402                         return -EINVAL;
2403                 if (current->flags & PF_MCE_PROCESS)
2404                         error = (current->flags & PF_MCE_EARLY) ?
2405                                 PR_MCE_KILL_EARLY : PR_MCE_KILL_LATE;
2406                 else
2407                         error = PR_MCE_KILL_DEFAULT;
2408                 break;
2409         case PR_SET_MM:
2410                 error = prctl_set_mm(arg2, arg3, arg4, arg5);
2411                 break;
2412         case PR_GET_TID_ADDRESS:
2413                 error = prctl_get_tid_address(me, (int __user **)arg2);
2414                 break;
2415         case PR_SET_CHILD_SUBREAPER:
2416                 me->signal->is_child_subreaper = !!arg2;
2417                 if (!arg2)
2418                         break;
2419
2420                 walk_process_tree(me, propagate_has_child_subreaper, NULL);
2421                 break;
2422         case PR_GET_CHILD_SUBREAPER:
2423                 error = put_user(me->signal->is_child_subreaper,
2424                                  (int __user *)arg2);
2425                 break;
2426         case PR_SET_NO_NEW_PRIVS:
2427                 if (arg2 != 1 || arg3 || arg4 || arg5)
2428                         return -EINVAL;
2429
2430                 task_set_no_new_privs(current);
2431                 break;
2432         case PR_GET_NO_NEW_PRIVS:
2433                 if (arg2 || arg3 || arg4 || arg5)
2434                         return -EINVAL;
2435                 return task_no_new_privs(current) ? 1 : 0;
2436         case PR_GET_THP_DISABLE:
2437                 if (arg2 || arg3 || arg4 || arg5)
2438                         return -EINVAL;
2439                 error = !!test_bit(MMF_DISABLE_THP, &me->mm->flags);
2440                 break;
2441         case PR_SET_THP_DISABLE:
2442                 if (arg3 || arg4 || arg5)
2443                         return -EINVAL;
2444                 if (down_write_killable(&me->mm->mmap_sem))
2445                         return -EINTR;
2446                 if (arg2)
2447                         set_bit(MMF_DISABLE_THP, &me->mm->flags);
2448                 else
2449                         clear_bit(MMF_DISABLE_THP, &me->mm->flags);
2450                 up_write(&me->mm->mmap_sem);
2451                 break;
2452         case PR_MPX_ENABLE_MANAGEMENT:
2453         case PR_MPX_DISABLE_MANAGEMENT:
2454                 /* No longer implemented: */
2455                 return -EINVAL;
2456         case PR_SET_FP_MODE:
2457                 error = SET_FP_MODE(me, arg2);
2458                 break;
2459         case PR_GET_FP_MODE:
2460                 error = GET_FP_MODE(me);
2461                 break;
2462         case PR_SVE_SET_VL:
2463                 error = SVE_SET_VL(arg2);
2464                 break;
2465         case PR_SVE_GET_VL:
2466                 error = SVE_GET_VL();
2467                 break;
2468         case PR_GET_SPECULATION_CTRL:
2469                 if (arg3 || arg4 || arg5)
2470                         return -EINVAL;
2471                 error = arch_prctl_spec_ctrl_get(me, arg2);
2472                 break;
2473         case PR_SET_SPECULATION_CTRL:
2474                 if (arg4 || arg5)
2475                         return -EINVAL;
2476                 error = arch_prctl_spec_ctrl_set(me, arg2, arg3);
2477                 break;
2478         case PR_PAC_RESET_KEYS:
2479                 if (arg3 || arg4 || arg5)
2480                         return -EINVAL;
2481                 error = PAC_RESET_KEYS(me, arg2);
2482                 break;
2483         default:
2484                 error = -EINVAL;
2485                 break;
2486         }
2487         return error;
2488 }
2489
2490 SYSCALL_DEFINE3(getcpu, unsigned __user *, cpup, unsigned __user *, nodep,
2491                 struct getcpu_cache __user *, unused)
2492 {
2493         int err = 0;
2494         int cpu = raw_smp_processor_id();
2495
2496         if (cpup)
2497                 err |= put_user(cpu, cpup);
2498         if (nodep)
2499                 err |= put_user(cpu_to_node(cpu), nodep);
2500         return err ? -EFAULT : 0;
2501 }
2502
2503 /**
2504  * do_sysinfo - fill in sysinfo struct
2505  * @info: pointer to buffer to fill
2506  */
2507 static int do_sysinfo(struct sysinfo *info)
2508 {
2509         unsigned long mem_total, sav_total;
2510         unsigned int mem_unit, bitcount;
2511         struct timespec64 tp;
2512
2513         memset(info, 0, sizeof(struct sysinfo));
2514
2515         ktime_get_boottime_ts64(&tp);
2516         info->uptime = tp.tv_sec + (tp.tv_nsec ? 1 : 0);
2517
2518         get_avenrun(info->loads, 0, SI_LOAD_SHIFT - FSHIFT);
2519
2520         info->procs = nr_threads;
2521
2522         si_meminfo(info);
2523         si_swapinfo(info);
2524
2525         /*
2526          * If the sum of all the available memory (i.e. ram + swap)
2527          * is less than can be stored in a 32 bit unsigned long then
2528          * we can be binary compatible with 2.2.x kernels.  If not,
2529          * well, in that case 2.2.x was broken anyways...
2530          *
2531          *  -Erik Andersen <andersee@debian.org>
2532          */
2533
2534         mem_total = info->totalram + info->totalswap;
2535         if (mem_total < info->totalram || mem_total < info->totalswap)
2536                 goto out;
2537         bitcount = 0;
2538         mem_unit = info->mem_unit;
2539         while (mem_unit > 1) {
2540                 bitcount++;
2541                 mem_unit >>= 1;
2542                 sav_total = mem_total;
2543                 mem_total <<= 1;
2544                 if (mem_total < sav_total)
2545                         goto out;
2546         }
2547
2548         /*
2549          * If mem_total did not overflow, multiply all memory values by
2550          * info->mem_unit and set it to 1.  This leaves things compatible
2551          * with 2.2.x, and also retains compatibility with earlier 2.4.x
2552          * kernels...
2553          */
2554
2555         info->mem_unit = 1;
2556         info->totalram <<= bitcount;
2557         info->freeram <<= bitcount;
2558         info->sharedram <<= bitcount;
2559         info->bufferram <<= bitcount;
2560         info->totalswap <<= bitcount;
2561         info->freeswap <<= bitcount;
2562         info->totalhigh <<= bitcount;
2563         info->freehigh <<= bitcount;
2564
2565 out:
2566         return 0;
2567 }
2568
2569 SYSCALL_DEFINE1(sysinfo, struct sysinfo __user *, info)
2570 {
2571         struct sysinfo val;
2572
2573         do_sysinfo(&val);
2574
2575         if (copy_to_user(info, &val, sizeof(struct sysinfo)))
2576                 return -EFAULT;
2577
2578         return 0;
2579 }
2580
2581 #ifdef CONFIG_COMPAT
2582 struct compat_sysinfo {
2583         s32 uptime;
2584         u32 loads[3];
2585         u32 totalram;
2586         u32 freeram;
2587         u32 sharedram;
2588         u32 bufferram;
2589         u32 totalswap;
2590         u32 freeswap;
2591         u16 procs;
2592         u16 pad;
2593         u32 totalhigh;
2594         u32 freehigh;
2595         u32 mem_unit;
2596         char _f[20-2*sizeof(u32)-sizeof(int)];
2597 };
2598
2599 COMPAT_SYSCALL_DEFINE1(sysinfo, struct compat_sysinfo __user *, info)
2600 {
2601         struct sysinfo s;
2602
2603         do_sysinfo(&s);
2604
2605         /* Check to see if any memory value is too large for 32-bit and scale
2606          *  down if needed
2607          */
2608         if (upper_32_bits(s.totalram) || upper_32_bits(s.totalswap)) {
2609                 int bitcount = 0;
2610
2611                 while (s.mem_unit < PAGE_SIZE) {
2612                         s.mem_unit <<= 1;
2613                         bitcount++;
2614                 }
2615
2616                 s.totalram >>= bitcount;
2617                 s.freeram >>= bitcount;
2618                 s.sharedram >>= bitcount;
2619                 s.bufferram >>= bitcount;
2620                 s.totalswap >>= bitcount;
2621                 s.freeswap >>= bitcount;
2622                 s.totalhigh >>= bitcount;
2623                 s.freehigh >>= bitcount;
2624         }
2625
2626         if (!access_ok(info, sizeof(struct compat_sysinfo)) ||
2627             __put_user(s.uptime, &info->uptime) ||
2628             __put_user(s.loads[0], &info->loads[0]) ||
2629             __put_user(s.loads[1], &info->loads[1]) ||
2630             __put_user(s.loads[2], &info->loads[2]) ||
2631             __put_user(s.totalram, &info->totalram) ||
2632             __put_user(s.freeram, &info->freeram) ||
2633             __put_user(s.sharedram, &info->sharedram) ||
2634             __put_user(s.bufferram, &info->bufferram) ||
2635             __put_user(s.totalswap, &info->totalswap) ||
2636             __put_user(s.freeswap, &info->freeswap) ||
2637             __put_user(s.procs, &info->procs) ||
2638             __put_user(s.totalhigh, &info->totalhigh) ||
2639             __put_user(s.freehigh, &info->freehigh) ||
2640             __put_user(s.mem_unit, &info->mem_unit))
2641                 return -EFAULT;
2642
2643         return 0;
2644 }
2645 #endif /* CONFIG_COMPAT */