net/mptcp/sockopt.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /* Multipath TCP
   3  *
   4  * Copyright (c) 2021, Red Hat.
   5  */
   6
   7 #define pr_fmt(fmt) "MPTCP: " fmt
   8
   9 #include <linux/kernel.h>
  10 #include <linux/module.h>
  11 #include <net/sock.h>
  12 #include <net/protocol.h>
  13 #include <net/tcp.h>
  14 #include <net/mptcp.h>
  15 #include "protocol.h"
  16
  17 static struct sock *__mptcp_tcp_fallback(struct mptcp_sock *msk)
  18 {
  19         sock_owned_by_me((const struct sock *)msk);
  20
  21         if (likely(!__mptcp_check_fallback(msk)))
  22                 return NULL;
  23
  24         return msk->first;
  25 }
  26
  27 static u32 sockopt_seq_reset(const struct sock *sk)
  28 {
  29         sock_owned_by_me(sk);
  30
  31         /* Highbits contain state.  Allows to distinguish sockopt_seq
  32          * of listener and established:
  33          * s0 = new_listener()
  34          * sockopt(s0) - seq is 1
  35          * s1 = accept(s0) - s1 inherits seq 1 if listener sk (s0)
  36          * sockopt(s0) - seq increments to 2 on s0
  37          * sockopt(s1) // seq increments to 2 on s1 (different option)
  38          * new ssk completes join, inherits options from s0 // seq 2
  39          * Needs sync from mptcp join logic, but ssk->seq == msk->seq
  40          *
  41          * Set High order bits to sk_state so ssk->seq == msk->seq test
  42          * will fail.
  43          */
  44
  45         return (u32)sk->sk_state << 24u;
  46 }
  47
  48 static void sockopt_seq_inc(struct mptcp_sock *msk)
  49 {
  50         u32 seq = (msk->setsockopt_seq + 1) & 0x00ffffff;
  51
  52         msk->setsockopt_seq = sockopt_seq_reset((struct sock *)msk) + seq;
  53 }
  54
  55 static int mptcp_get_int_option(struct mptcp_sock *msk, sockptr_t optval,
  56                                 unsigned int optlen, int *val)
  57 {
  58         if (optlen < sizeof(int))
  59                 return -EINVAL;
  60
  61         if (copy_from_sockptr(val, optval, sizeof(*val)))
  62                 return -EFAULT;
  63
  64         return 0;
  65 }
  66
  67 static void mptcp_sol_socket_sync_intval(struct mptcp_sock *msk, int optname, int val)
  68 {
  69         struct mptcp_subflow_context *subflow;
  70         struct sock *sk = (struct sock *)msk;
  71
  72         lock_sock(sk);
  73         sockopt_seq_inc(msk);
  74
  75         mptcp_for_each_subflow(msk, subflow) {
  76                 struct sock *ssk = mptcp_subflow_tcp_sock(subflow);
  77                 bool slow = lock_sock_fast(ssk);
  78
  79                 switch (optname) {
  80                 case SO_DEBUG:
  81                         sock_valbool_flag(ssk, SOCK_DBG, !!val);
  82                         break;
  83                 case SO_KEEPALIVE:
  84                         if (ssk->sk_prot->keepalive)
  85                                 ssk->sk_prot->keepalive(ssk, !!val);
  86                         sock_valbool_flag(ssk, SOCK_KEEPOPEN, !!val);
  87                         break;
  88                 case SO_PRIORITY:
  89                         ssk->sk_priority = val;
  90                         break;
  91                 case SO_SNDBUF:
  92                 case SO_SNDBUFFORCE:
  93                         ssk->sk_userlocks |= SOCK_SNDBUF_LOCK;
  94                         WRITE_ONCE(ssk->sk_sndbuf, sk->sk_sndbuf);
  95                         break;
  96                 case SO_RCVBUF:
  97                 case SO_RCVBUFFORCE:
  98                         ssk->sk_userlocks |= SOCK_RCVBUF_LOCK;
  99                         WRITE_ONCE(ssk->sk_rcvbuf, sk->sk_rcvbuf);
 100                         break;
 101                 case SO_MARK:
 102                         if (READ_ONCE(ssk->sk_mark) != sk->sk_mark) {
 103                                 ssk->sk_mark = sk->sk_mark;
 104                                 sk_dst_reset(ssk);
 105                         }
 106                         break;
 107                 case SO_INCOMING_CPU:
 108                         WRITE_ONCE(ssk->sk_incoming_cpu, val);
 109                         break;
 110                 }
 111
 112                 subflow->setsockopt_seq = msk->setsockopt_seq;
 113                 unlock_sock_fast(ssk, slow);
 114         }
 115
 116         release_sock(sk);
 117 }
 118
 119 static int mptcp_sol_socket_intval(struct mptcp_sock *msk, int optname, int val)
 120 {
 121         sockptr_t optval = KERNEL_SOCKPTR(&val);
 122         struct sock *sk = (struct sock *)msk;
 123         int ret;
 124
 125         ret = sock_setsockopt(sk->sk_socket, SOL_SOCKET, optname,
 126                               optval, sizeof(val));
 127         if (ret)
 128                 return ret;
 129
 130         mptcp_sol_socket_sync_intval(msk, optname, val);
 131         return 0;
 132 }
 133
 134 static void mptcp_so_incoming_cpu(struct mptcp_sock *msk, int val)
 135 {
 136         struct sock *sk = (struct sock *)msk;
 137
 138         WRITE_ONCE(sk->sk_incoming_cpu, val);
 139
 140         mptcp_sol_socket_sync_intval(msk, SO_INCOMING_CPU, val);
 141 }
 142
 143 static int mptcp_setsockopt_sol_socket_tstamp(struct mptcp_sock *msk, int optname, int val)
 144 {
 145         sockptr_t optval = KERNEL_SOCKPTR(&val);
 146         struct mptcp_subflow_context *subflow;
 147         struct sock *sk = (struct sock *)msk;
 148         int ret;
 149
 150         ret = sock_setsockopt(sk->sk_socket, SOL_SOCKET, optname,
 151                               optval, sizeof(val));
 152         if (ret)
 153                 return ret;
 154
 155         lock_sock(sk);
 156         mptcp_for_each_subflow(msk, subflow) {
 157                 struct sock *ssk = mptcp_subflow_tcp_sock(subflow);
 158                 bool slow = lock_sock_fast(ssk);
 159
 160                 sock_set_timestamp(sk, optname, !!val);
 161                 unlock_sock_fast(ssk, slow);
 162         }
 163
 164         release_sock(sk);
 165         return 0;
 166 }
 167
 168 static int mptcp_setsockopt_sol_socket_int(struct mptcp_sock *msk, int optname,
 169                                            sockptr_t optval,
 170                                            unsigned int optlen)
 171 {
 172         int val, ret;
 173
 174         ret = mptcp_get_int_option(msk, optval, optlen, &val);
 175         if (ret)
 176                 return ret;
 177
 178         switch (optname) {
 179         case SO_KEEPALIVE:
 180                 mptcp_sol_socket_sync_intval(msk, optname, val);
 181                 return 0;
 182         case SO_DEBUG:
 183         case SO_MARK:
 184         case SO_PRIORITY:
 185         case SO_SNDBUF:
 186         case SO_SNDBUFFORCE:
 187         case SO_RCVBUF:
 188         case SO_RCVBUFFORCE:
 189                 return mptcp_sol_socket_intval(msk, optname, val);
 190         case SO_INCOMING_CPU:
 191                 mptcp_so_incoming_cpu(msk, val);
 192                 return 0;
 193         case SO_TIMESTAMP_OLD:
 194         case SO_TIMESTAMP_NEW:
 195         case SO_TIMESTAMPNS_OLD:
 196         case SO_TIMESTAMPNS_NEW:
 197                 return mptcp_setsockopt_sol_socket_tstamp(msk, optname, val);
 198         }
 199
 200         return -ENOPROTOOPT;
 201 }
 202
 203 static int mptcp_setsockopt_sol_socket_timestamping(struct mptcp_sock *msk,
 204                                                     int optname,
 205                                                     sockptr_t optval,
 206                                                     unsigned int optlen)
 207 {
 208         struct mptcp_subflow_context *subflow;
 209         struct sock *sk = (struct sock *)msk;
 210         int val, ret;
 211
 212         ret = mptcp_get_int_option(msk, optval, optlen, &val);
 213         if (ret)
 214                 return ret;
 215
 216         ret = sock_setsockopt(sk->sk_socket, SOL_SOCKET, optname,
 217                               KERNEL_SOCKPTR(&val), sizeof(val));
 218         if (ret)
 219                 return ret;
 220
 221         lock_sock(sk);
 222
 223         mptcp_for_each_subflow(msk, subflow) {
 224                 struct sock *ssk = mptcp_subflow_tcp_sock(subflow);
 225                 bool slow = lock_sock_fast(ssk);
 226
 227                 sock_set_timestamping(sk, optname, val);
 228                 unlock_sock_fast(ssk, slow);
 229         }
 230
 231         release_sock(sk);
 232
 233         return 0;
 234 }
 235
 236 static int mptcp_setsockopt_sol_socket_linger(struct mptcp_sock *msk, sockptr_t optval,
 237                                               unsigned int optlen)
 238 {
 239         struct mptcp_subflow_context *subflow;
 240         struct sock *sk = (struct sock *)msk;
 241         struct linger ling;
 242         sockptr_t kopt;
 243         int ret;
 244
 245         if (optlen < sizeof(ling))
 246                 return -EINVAL;
 247
 248         if (copy_from_sockptr(&ling, optval, sizeof(ling)))
 249                 return -EFAULT;
 250
 251         kopt = KERNEL_SOCKPTR(&ling);
 252         ret = sock_setsockopt(sk->sk_socket, SOL_SOCKET, SO_LINGER, kopt, sizeof(ling));
 253         if (ret)
 254                 return ret;
 255
 256         lock_sock(sk);
 257         sockopt_seq_inc(msk);
 258         mptcp_for_each_subflow(msk, subflow) {
 259                 struct sock *ssk = mptcp_subflow_tcp_sock(subflow);
 260                 bool slow = lock_sock_fast(ssk);
 261
 262                 if (!ling.l_onoff) {
 263                         sock_reset_flag(ssk, SOCK_LINGER);
 264                 } else {
 265                         ssk->sk_lingertime = sk->sk_lingertime;
 266                         sock_set_flag(ssk, SOCK_LINGER);
 267                 }
 268
 269                 subflow->setsockopt_seq = msk->setsockopt_seq;
 270                 unlock_sock_fast(ssk, slow);
 271         }
 272
 273         release_sock(sk);
 274         return 0;
 275 }
 276
 277 static int mptcp_setsockopt_sol_socket(struct mptcp_sock *msk, int optname,
 278                                        sockptr_t optval, unsigned int optlen)
 279 {
 280         struct sock *sk = (struct sock *)msk;
 281         struct socket *ssock;
 282         int ret;
 283
 284         switch (optname) {
 285         case SO_REUSEPORT:
 286         case SO_REUSEADDR:
 287         case SO_BINDTODEVICE:
 288         case SO_BINDTOIFINDEX:
 289                 lock_sock(sk);
 290                 ssock = __mptcp_nmpc_socket(msk);
 291                 if (!ssock) {
 292                         release_sock(sk);
 293                         return -EINVAL;
 294                 }
 295
 296                 ret = sock_setsockopt(ssock, SOL_SOCKET, optname, optval, optlen);
 297                 if (ret == 0) {
 298                         if (optname == SO_REUSEPORT)
 299                                 sk->sk_reuseport = ssock->sk->sk_reuseport;
 300                         else if (optname == SO_REUSEADDR)
 301                                 sk->sk_reuse = ssock->sk->sk_reuse;
 302                         else if (optname == SO_BINDTODEVICE)
 303                                 sk->sk_bound_dev_if = ssock->sk->sk_bound_dev_if;
 304                         else if (optname == SO_BINDTOIFINDEX)
 305                                 sk->sk_bound_dev_if = ssock->sk->sk_bound_dev_if;
 306                 }
 307                 release_sock(sk);
 308                 return ret;
 309         case SO_KEEPALIVE:
 310         case SO_PRIORITY:
 311         case SO_SNDBUF:
 312         case SO_SNDBUFFORCE:
 313         case SO_RCVBUF:
 314         case SO_RCVBUFFORCE:
 315         case SO_MARK:
 316         case SO_INCOMING_CPU:
 317         case SO_DEBUG:
 318         case SO_TIMESTAMP_OLD:
 319         case SO_TIMESTAMP_NEW:
 320         case SO_TIMESTAMPNS_OLD:
 321         case SO_TIMESTAMPNS_NEW:
 322                 return mptcp_setsockopt_sol_socket_int(msk, optname, optval,
 323                                                        optlen);
 324         case SO_TIMESTAMPING_OLD:
 325         case SO_TIMESTAMPING_NEW:
 326                 return mptcp_setsockopt_sol_socket_timestamping(msk, optname,
 327                                                                 optval, optlen);
 328         case SO_LINGER:
 329                 return mptcp_setsockopt_sol_socket_linger(msk, optval, optlen);
 330         case SO_RCVLOWAT:
 331         case SO_RCVTIMEO_OLD:
 332         case SO_RCVTIMEO_NEW:
 333         case SO_BUSY_POLL:
 334         case SO_PREFER_BUSY_POLL:
 335         case SO_BUSY_POLL_BUDGET:
 336                 /* No need to copy: only relevant for msk */
 337                 return sock_setsockopt(sk->sk_socket, SOL_SOCKET, optname, optval, optlen);
 338         case SO_NO_CHECK:
 339         case SO_DONTROUTE:
 340         case SO_BROADCAST:
 341         case SO_BSDCOMPAT:
 342         case SO_PASSCRED:
 343         case SO_PASSSEC:
 344         case SO_RXQ_OVFL:
 345         case SO_WIFI_STATUS:
 346         case SO_NOFCS:
 347         case SO_SELECT_ERR_QUEUE:
 348                 return 0;
 349         }
 350
 351         /* SO_OOBINLINE is not supported, let's avoid the related mess
 352          * SO_ATTACH_FILTER, SO_ATTACH_BPF, SO_ATTACH_REUSEPORT_CBPF,
 353          * SO_DETACH_REUSEPORT_BPF, SO_DETACH_FILTER, SO_LOCK_FILTER,
 354          * we must be careful with subflows
 355          *
 356          * SO_ATTACH_REUSEPORT_EBPF is not supported, at it checks
 357          * explicitly the sk_protocol field
 358          *
 359          * SO_PEEK_OFF is unsupported, as it is for plain TCP
 360          * SO_MAX_PACING_RATE is unsupported, we must be careful with subflows
 361          * SO_CNX_ADVICE is currently unsupported, could possibly be relevant,
 362          * but likely needs careful design
 363          *
 364          * SO_ZEROCOPY is currently unsupported, TODO in sndmsg
 365          * SO_TXTIME is currently unsupported
 366          */
 367
 368         return -EOPNOTSUPP;
 369 }
 370
 371 static int mptcp_setsockopt_v6(struct mptcp_sock *msk, int optname,
 372                                sockptr_t optval, unsigned int optlen)
 373 {
 374         struct sock *sk = (struct sock *)msk;
 375         int ret = -EOPNOTSUPP;
 376         struct socket *ssock;
 377
 378         switch (optname) {
 379         case IPV6_V6ONLY:
 380                 lock_sock(sk);
 381                 ssock = __mptcp_nmpc_socket(msk);
 382                 if (!ssock) {
 383                         release_sock(sk);
 384                         return -EINVAL;
 385                 }
 386
 387                 ret = tcp_setsockopt(ssock->sk, SOL_IPV6, optname, optval, optlen);
 388                 if (ret == 0)
 389                         sk->sk_ipv6only = ssock->sk->sk_ipv6only;
 390
 391                 release_sock(sk);
 392                 break;
 393         }
 394
 395         return ret;
 396 }
 397
 398 static bool mptcp_supported_sockopt(int level, int optname)
 399 {
 400         if (level == SOL_IP) {
 401                 switch (optname) {
 402                 /* should work fine */
 403                 case IP_FREEBIND:
 404                 case IP_TRANSPARENT:
 405
 406                 /* the following are control cmsg related */
 407                 case IP_PKTINFO:
 408                 case IP_RECVTTL:
 409                 case IP_RECVTOS:
 410                 case IP_RECVOPTS:
 411                 case IP_RETOPTS:
 412                 case IP_PASSSEC:
 413                 case IP_RECVORIGDSTADDR:
 414                 case IP_CHECKSUM:
 415                 case IP_RECVFRAGSIZE:
 416
 417                 /* common stuff that need some love */
 418                 case IP_TOS:
 419                 case IP_TTL:
 420                 case IP_BIND_ADDRESS_NO_PORT:
 421                 case IP_MTU_DISCOVER:
 422                 case IP_RECVERR:
 423
 424                 /* possibly less common may deserve some love */
 425                 case IP_MINTTL:
 426
 427                 /* the following is apparently a no-op for plain TCP */
 428                 case IP_RECVERR_RFC4884:
 429                         return true;
 430                 }
 431
 432                 /* IP_OPTIONS is not supported, needs subflow care */
 433                 /* IP_HDRINCL, IP_NODEFRAG are not supported, RAW specific */
 434                 /* IP_MULTICAST_TTL, IP_MULTICAST_LOOP, IP_UNICAST_IF,
 435                  * IP_ADD_MEMBERSHIP, IP_ADD_SOURCE_MEMBERSHIP, IP_DROP_MEMBERSHIP,
 436                  * IP_DROP_SOURCE_MEMBERSHIP, IP_BLOCK_SOURCE, IP_UNBLOCK_SOURCE,
 437                  * MCAST_JOIN_GROUP, MCAST_LEAVE_GROUP MCAST_JOIN_SOURCE_GROUP,
 438                  * MCAST_LEAVE_SOURCE_GROUP, MCAST_BLOCK_SOURCE, MCAST_UNBLOCK_SOURCE,
 439                  * MCAST_MSFILTER, IP_MULTICAST_ALL are not supported, better not deal
 440                  * with mcast stuff
 441                  */
 442                 /* IP_IPSEC_POLICY, IP_XFRM_POLICY are nut supported, unrelated here */
 443                 return false;
 444         }
 445         if (level == SOL_IPV6) {
 446                 switch (optname) {
 447                 case IPV6_V6ONLY:
 448
 449                 /* the following are control cmsg related */
 450                 case IPV6_RECVPKTINFO:
 451                 case IPV6_2292PKTINFO:
 452                 case IPV6_RECVHOPLIMIT:
 453                 case IPV6_2292HOPLIMIT:
 454                 case IPV6_RECVRTHDR:
 455                 case IPV6_2292RTHDR:
 456                 case IPV6_RECVHOPOPTS:
 457                 case IPV6_2292HOPOPTS:
 458                 case IPV6_RECVDSTOPTS:
 459                 case IPV6_2292DSTOPTS:
 460                 case IPV6_RECVTCLASS:
 461                 case IPV6_FLOWINFO:
 462                 case IPV6_RECVPATHMTU:
 463                 case IPV6_RECVORIGDSTADDR:
 464                 case IPV6_RECVFRAGSIZE:
 465
 466                 /* the following ones need some love but are quite common */
 467                 case IPV6_TCLASS:
 468                 case IPV6_TRANSPARENT:
 469                 case IPV6_FREEBIND:
 470                 case IPV6_PKTINFO:
 471                 case IPV6_2292PKTOPTIONS:
 472                 case IPV6_UNICAST_HOPS:
 473                 case IPV6_MTU_DISCOVER:
 474                 case IPV6_MTU:
 475                 case IPV6_RECVERR:
 476                 case IPV6_FLOWINFO_SEND:
 477                 case IPV6_FLOWLABEL_MGR:
 478                 case IPV6_MINHOPCOUNT:
 479                 case IPV6_DONTFRAG:
 480                 case IPV6_AUTOFLOWLABEL:
 481
 482                 /* the following one is a no-op for plain TCP */
 483                 case IPV6_RECVERR_RFC4884:
 484                         return true;
 485                 }
 486
 487                 /* IPV6_HOPOPTS, IPV6_RTHDRDSTOPTS, IPV6_RTHDR, IPV6_DSTOPTS are
 488                  * not supported
 489                  */
 490                 /* IPV6_MULTICAST_HOPS, IPV6_MULTICAST_LOOP, IPV6_UNICAST_IF,
 491                  * IPV6_MULTICAST_IF, IPV6_ADDRFORM,
 492                  * IPV6_ADD_MEMBERSHIP, IPV6_DROP_MEMBERSHIP, IPV6_JOIN_ANYCAST,
 493                  * IPV6_LEAVE_ANYCAST, IPV6_MULTICAST_ALL, MCAST_JOIN_GROUP, MCAST_LEAVE_GROUP,
 494                  * MCAST_JOIN_SOURCE_GROUP, MCAST_LEAVE_SOURCE_GROUP,
 495                  * MCAST_BLOCK_SOURCE, MCAST_UNBLOCK_SOURCE, MCAST_MSFILTER
 496                  * are not supported better not deal with mcast
 497                  */
 498                 /* IPV6_ROUTER_ALERT, IPV6_ROUTER_ALERT_ISOLATE are not supported, since are evil */
 499
 500                 /* IPV6_IPSEC_POLICY, IPV6_XFRM_POLICY are not supported */
 501                 /* IPV6_ADDR_PREFERENCES is not supported, we must be careful with subflows */
 502                 return false;
 503         }
 504         if (level == SOL_TCP) {
 505                 switch (optname) {
 506                 /* the following are no-op or should work just fine */
 507                 case TCP_THIN_DUPACK:
 508                 case TCP_DEFER_ACCEPT:
 509
 510                 /* the following need some love */
 511                 case TCP_MAXSEG:
 512                 case TCP_NODELAY:
 513                 case TCP_THIN_LINEAR_TIMEOUTS:
 514                 case TCP_CONGESTION:
 515                 case TCP_ULP:
 516                 case TCP_CORK:
 517                 case TCP_KEEPIDLE:
 518                 case TCP_KEEPINTVL:
 519                 case TCP_KEEPCNT:
 520                 case TCP_SYNCNT:
 521                 case TCP_SAVE_SYN:
 522                 case TCP_LINGER2:
 523                 case TCP_WINDOW_CLAMP:
 524                 case TCP_QUICKACK:
 525                 case TCP_USER_TIMEOUT:
 526                 case TCP_TIMESTAMP:
 527                 case TCP_NOTSENT_LOWAT:
 528                 case TCP_TX_DELAY:
 529                         return true;
 530                 }
 531
 532                 /* TCP_MD5SIG, TCP_MD5SIG_EXT are not supported, MD5 is not compatible with MPTCP */
 533
 534                 /* TCP_REPAIR, TCP_REPAIR_QUEUE, TCP_QUEUE_SEQ, TCP_REPAIR_OPTIONS,
 535                  * TCP_REPAIR_WINDOW are not supported, better avoid this mess
 536                  */
 537                 /* TCP_FASTOPEN_KEY, TCP_FASTOPEN TCP_FASTOPEN_CONNECT, TCP_FASTOPEN_NO_COOKIE,
 538                  * are not supported fastopen is currently unsupported
 539                  */
 540                 /* TCP_INQ is currently unsupported, needs some recvmsg work */
 541         }
 542         return false;
 543 }
 544
 545 static int mptcp_setsockopt_sol_tcp_congestion(struct mptcp_sock *msk, sockptr_t optval,
 546                                                unsigned int optlen)
 547 {
 548         struct mptcp_subflow_context *subflow;
 549         struct sock *sk = (struct sock *)msk;
 550         char name[TCP_CA_NAME_MAX];
 551         bool cap_net_admin;
 552         int ret;
 553
 554         if (optlen < 1)
 555                 return -EINVAL;
 556
 557         ret = strncpy_from_sockptr(name, optval,
 558                                    min_t(long, TCP_CA_NAME_MAX - 1, optlen));
 559         if (ret < 0)
 560                 return -EFAULT;
 561
 562         name[ret] = 0;
 563
 564         cap_net_admin = ns_capable(sock_net(sk)->user_ns, CAP_NET_ADMIN);
 565
 566         ret = 0;
 567         lock_sock(sk);
 568         sockopt_seq_inc(msk);
 569         mptcp_for_each_subflow(msk, subflow) {
 570                 struct sock *ssk = mptcp_subflow_tcp_sock(subflow);
 571                 int err;
 572
 573                 lock_sock(ssk);
 574                 err = tcp_set_congestion_control(ssk, name, true, cap_net_admin);
 575                 if (err < 0 && ret == 0)
 576                         ret = err;
 577                 subflow->setsockopt_seq = msk->setsockopt_seq;
 578                 release_sock(ssk);
 579         }
 580
 581         if (ret == 0)
 582                 strcpy(msk->ca_name, name);
 583
 584         release_sock(sk);
 585         return ret;
 586 }
 587
 588 static int mptcp_setsockopt_sol_tcp(struct mptcp_sock *msk, int optname,
 589                                     sockptr_t optval, unsigned int optlen)
 590 {
 591         switch (optname) {
 592         case TCP_ULP:
 593                 return -EOPNOTSUPP;
 594         case TCP_CONGESTION:
 595                 return mptcp_setsockopt_sol_tcp_congestion(msk, optval, optlen);
 596         }
 597
 598         return -EOPNOTSUPP;
 599 }
 600
 601 int mptcp_setsockopt(struct sock *sk, int level, int optname,
 602                      sockptr_t optval, unsigned int optlen)
 603 {
 604         struct mptcp_sock *msk = mptcp_sk(sk);
 605         struct sock *ssk;
 606
 607         pr_debug("msk=%p", msk);
 608
 609         if (level == SOL_SOCKET)
 610                 return mptcp_setsockopt_sol_socket(msk, optname, optval, optlen);
 611
 612         if (!mptcp_supported_sockopt(level, optname))
 613                 return -ENOPROTOOPT;
 614
 615         /* @@ the meaning of setsockopt() when the socket is connected and
 616          * there are multiple subflows is not yet defined. It is up to the
 617          * MPTCP-level socket to configure the subflows until the subflow
 618          * is in TCP fallback, when TCP socket options are passed through
 619          * to the one remaining subflow.
 620          */
 621         lock_sock(sk);
 622         ssk = __mptcp_tcp_fallback(msk);
 623         release_sock(sk);
 624         if (ssk)
 625                 return tcp_setsockopt(ssk, level, optname, optval, optlen);
 626
 627         if (level == SOL_IPV6)
 628                 return mptcp_setsockopt_v6(msk, optname, optval, optlen);
 629
 630         if (level == SOL_TCP)
 631                 return mptcp_setsockopt_sol_tcp(msk, optname, optval, optlen);
 632
 633         return -EOPNOTSUPP;
 634 }
 635
 636 static int mptcp_getsockopt_first_sf_only(struct mptcp_sock *msk, int level, int optname,
 637                                           char __user *optval, int __user *optlen)
 638 {
 639         struct sock *sk = (struct sock *)msk;
 640         struct socket *ssock;
 641         int ret = -EINVAL;
 642         struct sock *ssk;
 643
 644         lock_sock(sk);
 645         ssk = msk->first;
 646         if (ssk) {
 647                 ret = tcp_getsockopt(ssk, level, optname, optval, optlen);
 648                 goto out;
 649         }
 650
 651         ssock = __mptcp_nmpc_socket(msk);
 652         if (!ssock)
 653                 goto out;
 654
 655         ret = tcp_getsockopt(ssock->sk, level, optname, optval, optlen);
 656
 657 out:
 658         release_sock(sk);
 659         return ret;
 660 }
 661
 662 static int mptcp_getsockopt_sol_tcp(struct mptcp_sock *msk, int optname,
 663                                     char __user *optval, int __user *optlen)
 664 {
 665         switch (optname) {
 666         case TCP_ULP:
 667         case TCP_CONGESTION:
 668         case TCP_INFO:
 669         case TCP_CC_INFO:
 670                 return mptcp_getsockopt_first_sf_only(msk, SOL_TCP, optname,
 671                                                       optval, optlen);
 672         }
 673         return -EOPNOTSUPP;
 674 }
 675
 676 int mptcp_getsockopt(struct sock *sk, int level, int optname,
 677                      char __user *optval, int __user *option)
 678 {
 679         struct mptcp_sock *msk = mptcp_sk(sk);
 680         struct sock *ssk;
 681
 682         pr_debug("msk=%p", msk);
 683
 684         /* @@ the meaning of setsockopt() when the socket is connected and
 685          * there are multiple subflows is not yet defined. It is up to the
 686          * MPTCP-level socket to configure the subflows until the subflow
 687          * is in TCP fallback, when socket options are passed through
 688          * to the one remaining subflow.
 689          */
 690         lock_sock(sk);
 691         ssk = __mptcp_tcp_fallback(msk);
 692         release_sock(sk);
 693         if (ssk)
 694                 return tcp_getsockopt(ssk, level, optname, optval, option);
 695
 696         if (level == SOL_TCP)
 697                 return mptcp_getsockopt_sol_tcp(msk, optname, optval, option);
 698         return -EOPNOTSUPP;
 699 }
 700
 701 static void sync_socket_options(struct mptcp_sock *msk, struct sock *ssk)
 702 {
 703         static const unsigned int tx_rx_locks = SOCK_RCVBUF_LOCK | SOCK_SNDBUF_LOCK;
 704         struct sock *sk = (struct sock *)msk;
 705
 706         if (ssk->sk_prot->keepalive) {
 707                 if (sock_flag(sk, SOCK_KEEPOPEN))
 708                         ssk->sk_prot->keepalive(ssk, 1);
 709                 else
 710                         ssk->sk_prot->keepalive(ssk, 0);
 711         }
 712
 713         ssk->sk_priority = sk->sk_priority;
 714         ssk->sk_bound_dev_if = sk->sk_bound_dev_if;
 715         ssk->sk_incoming_cpu = sk->sk_incoming_cpu;
 716
 717         if (sk->sk_userlocks & tx_rx_locks) {
 718                 ssk->sk_userlocks |= sk->sk_userlocks & tx_rx_locks;
 719                 if (sk->sk_userlocks & SOCK_SNDBUF_LOCK)
 720                         WRITE_ONCE(ssk->sk_sndbuf, sk->sk_sndbuf);
 721                 if (sk->sk_userlocks & SOCK_RCVBUF_LOCK)
 722                         WRITE_ONCE(ssk->sk_rcvbuf, sk->sk_rcvbuf);
 723         }
 724
 725         if (sock_flag(sk, SOCK_LINGER)) {
 726                 ssk->sk_lingertime = sk->sk_lingertime;
 727                 sock_set_flag(ssk, SOCK_LINGER);
 728         } else {
 729                 sock_reset_flag(ssk, SOCK_LINGER);
 730         }
 731
 732         if (sk->sk_mark != ssk->sk_mark) {
 733                 ssk->sk_mark = sk->sk_mark;
 734                 sk_dst_reset(ssk);
 735         }
 736
 737         sock_valbool_flag(ssk, SOCK_DBG, sock_flag(sk, SOCK_DBG));
 738
 739         if (inet_csk(sk)->icsk_ca_ops != inet_csk(ssk)->icsk_ca_ops)
 740                 tcp_set_congestion_control(ssk, msk->ca_name, false, true);
 741 }
 742
 743 static void __mptcp_sockopt_sync(struct mptcp_sock *msk, struct sock *ssk)
 744 {
 745         bool slow = lock_sock_fast(ssk);
 746
 747         sync_socket_options(msk, ssk);
 748
 749         unlock_sock_fast(ssk, slow);
 750 }
 751
 752 void mptcp_sockopt_sync(struct mptcp_sock *msk, struct sock *ssk)
 753 {
 754         struct mptcp_subflow_context *subflow = mptcp_subflow_ctx(ssk);
 755
 756         msk_owned_by_me(msk);
 757
 758         if (READ_ONCE(subflow->setsockopt_seq) != msk->setsockopt_seq) {
 759                 __mptcp_sockopt_sync(msk, ssk);
 760
 761                 subflow->setsockopt_seq = msk->setsockopt_seq;
 762         }
 763 }
 764
 765 void mptcp_sockopt_sync_all(struct mptcp_sock *msk)
 766 {
 767         struct mptcp_subflow_context *subflow;
 768         struct sock *sk = (struct sock *)msk;
 769         u32 seq;
 770
 771         seq = sockopt_seq_reset(sk);
 772
 773         mptcp_for_each_subflow(msk, subflow) {
 774                 struct sock *ssk = mptcp_subflow_tcp_sock(subflow);
 775                 u32 sseq = READ_ONCE(subflow->setsockopt_seq);
 776
 777                 if (sseq != msk->setsockopt_seq) {
 778                         __mptcp_sockopt_sync(msk, ssk);
 779                         WRITE_ONCE(subflow->setsockopt_seq, seq);
 780                 } else if (sseq != seq) {
 781                         WRITE_ONCE(subflow->setsockopt_seq, seq);
 782                 }
 783
 784                 cond_resched();
 785         }
 786
 787         msk->setsockopt_seq = seq;
 788 }