net/qrtr/qrtr.c

   1 // SPDX-License-Identifier: GPL-2.0-only
   2 /*
   3  * Copyright (c) 2015, Sony Mobile Communications Inc.
   4  * Copyright (c) 2013, The Linux Foundation. All rights reserved.
   5  */
   6 #include <linux/module.h>
   7 #include <linux/netlink.h>
   8 #include <linux/qrtr.h>
   9 #include <linux/termios.h>      /* For TIOCINQ/OUTQ */
  10 #include <linux/spinlock.h>
  11 #include <linux/wait.h>
  12
  13 #include <net/sock.h>
  14
  15 #include "qrtr.h"
  16
  17 #define QRTR_PROTO_VER_1 1
  18 #define QRTR_PROTO_VER_2 3
  19
  20 /* auto-bind range */
  21 #define QRTR_MIN_EPH_SOCKET 0x4000
  22 #define QRTR_MAX_EPH_SOCKET 0x7fff
  23
  24 /**
  25  * struct qrtr_hdr_v1 - (I|R)PCrouter packet header version 1
  26  * @version: protocol version
  27  * @type: packet type; one of QRTR_TYPE_*
  28  * @src_node_id: source node
  29  * @src_port_id: source port
  30  * @confirm_rx: boolean; whether a resume-tx packet should be send in reply
  31  * @size: length of packet, excluding this header
  32  * @dst_node_id: destination node
  33  * @dst_port_id: destination port
  34  */
  35 struct qrtr_hdr_v1 {
  36         __le32 version;
  37         __le32 type;
  38         __le32 src_node_id;
  39         __le32 src_port_id;
  40         __le32 confirm_rx;
  41         __le32 size;
  42         __le32 dst_node_id;
  43         __le32 dst_port_id;
  44 } __packed;
  45
  46 /**
  47  * struct qrtr_hdr_v2 - (I|R)PCrouter packet header later versions
  48  * @version: protocol version
  49  * @type: packet type; one of QRTR_TYPE_*
  50  * @flags: bitmask of QRTR_FLAGS_*
  51  * @optlen: length of optional header data
  52  * @size: length of packet, excluding this header and optlen
  53  * @src_node_id: source node
  54  * @src_port_id: source port
  55  * @dst_node_id: destination node
  56  * @dst_port_id: destination port
  57  */
  58 struct qrtr_hdr_v2 {
  59         u8 version;
  60         u8 type;
  61         u8 flags;
  62         u8 optlen;
  63         __le32 size;
  64         __le16 src_node_id;
  65         __le16 src_port_id;
  66         __le16 dst_node_id;
  67         __le16 dst_port_id;
  68 };
  69
  70 #define QRTR_FLAGS_CONFIRM_RX   BIT(0)
  71
  72 struct qrtr_cb {
  73         u32 src_node;
  74         u32 src_port;
  75         u32 dst_node;
  76         u32 dst_port;
  77
  78         u8 type;
  79         u8 confirm_rx;
  80 };
  81
  82 #define QRTR_HDR_MAX_SIZE max_t(size_t, sizeof(struct qrtr_hdr_v1), \
  83                                         sizeof(struct qrtr_hdr_v2))
  84
  85 struct qrtr_sock {
  86         /* WARNING: sk must be the first member */
  87         struct sock sk;
  88         struct sockaddr_qrtr us;
  89         struct sockaddr_qrtr peer;
  90 };
  91
  92 static inline struct qrtr_sock *qrtr_sk(struct sock *sk)
  93 {
  94         BUILD_BUG_ON(offsetof(struct qrtr_sock, sk) != 0);
  95         return container_of(sk, struct qrtr_sock, sk);
  96 }
  97
  98 static unsigned int qrtr_local_nid = 1;
  99
 100 /* for node ids */
 101 static RADIX_TREE(qrtr_nodes, GFP_ATOMIC);
 102 static DEFINE_SPINLOCK(qrtr_nodes_lock);
 103 /* broadcast list */
 104 static LIST_HEAD(qrtr_all_nodes);
 105 /* lock for qrtr_all_nodes and node reference */
 106 static DEFINE_MUTEX(qrtr_node_lock);
 107
 108 /* local port allocation management */
 109 static DEFINE_IDR(qrtr_ports);
 110 static DEFINE_MUTEX(qrtr_port_lock);
 111
 112 /**
 113  * struct qrtr_node - endpoint node
 114  * @ep_lock: lock for endpoint management and callbacks
 115  * @ep: endpoint
 116  * @ref: reference count for node
 117  * @nid: node id
 118  * @qrtr_tx_flow: tree of qrtr_tx_flow, keyed by node << 32 | port
 119  * @qrtr_tx_lock: lock for qrtr_tx_flow inserts
 120  * @rx_queue: receive queue
 121  * @item: list item for broadcast list
 122  */
 123 struct qrtr_node {
 124         struct mutex ep_lock;
 125         struct qrtr_endpoint *ep;
 126         struct kref ref;
 127         unsigned int nid;
 128
 129         struct radix_tree_root qrtr_tx_flow;
 130         struct mutex qrtr_tx_lock; /* for qrtr_tx_flow */
 131
 132         struct sk_buff_head rx_queue;
 133         struct list_head item;
 134 };
 135
 136 /**
 137  * struct qrtr_tx_flow - tx flow control
 138  * @resume_tx: waiters for a resume tx from the remote
 139  * @pending: number of waiting senders
 140  * @tx_failed: indicates that a message with confirm_rx flag was lost
 141  */
 142 struct qrtr_tx_flow {
 143         struct wait_queue_head resume_tx;
 144         int pending;
 145         int tx_failed;
 146 };
 147
 148 #define QRTR_TX_FLOW_HIGH       10
 149 #define QRTR_TX_FLOW_LOW        5
 150
 151 static int qrtr_local_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 152                               int type, struct sockaddr_qrtr *from,
 153                               struct sockaddr_qrtr *to);
 154 static int qrtr_bcast_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 155                               int type, struct sockaddr_qrtr *from,
 156                               struct sockaddr_qrtr *to);
 157 static struct qrtr_sock *qrtr_port_lookup(int port);
 158 static void qrtr_port_put(struct qrtr_sock *ipc);
 159
 160 /* Release node resources and free the node.
 161  *
 162  * Do not call directly, use qrtr_node_release.  To be used with
 163  * kref_put_mutex.  As such, the node mutex is expected to be locked on call.
 164  */
 165 static void __qrtr_node_release(struct kref *kref)
 166 {
 167         struct qrtr_node *node = container_of(kref, struct qrtr_node, ref);
 168         struct radix_tree_iter iter;
 169         struct qrtr_tx_flow *flow;
 170         unsigned long flags;
 171         void __rcu **slot;
 172
 173         spin_lock_irqsave(&qrtr_nodes_lock, flags);
 174         /* If the node is a bridge for other nodes, there are possibly
 175          * multiple entries pointing to our released node, delete them all.
 176          */
 177         radix_tree_for_each_slot(slot, &qrtr_nodes, &iter, 0) {
 178                 if (*slot == node)
 179                         radix_tree_iter_delete(&qrtr_nodes, &iter, slot);
 180         }
 181         spin_unlock_irqrestore(&qrtr_nodes_lock, flags);
 182
 183         list_del(&node->item);
 184         mutex_unlock(&qrtr_node_lock);
 185
 186         skb_queue_purge(&node->rx_queue);
 187
 188         /* Free tx flow counters */
 189         radix_tree_for_each_slot(slot, &node->qrtr_tx_flow, &iter, 0) {
 190                 flow = *slot;
 191                 radix_tree_iter_delete(&node->qrtr_tx_flow, &iter, slot);
 192                 kfree(flow);
 193         }
 194         kfree(node);
 195 }
 196
 197 /* Increment reference to node. */
 198 static struct qrtr_node *qrtr_node_acquire(struct qrtr_node *node)
 199 {
 200         if (node)
 201                 kref_get(&node->ref);
 202         return node;
 203 }
 204
 205 /* Decrement reference to node and release as necessary. */
 206 static void qrtr_node_release(struct qrtr_node *node)
 207 {
 208         if (!node)
 209                 return;
 210         kref_put_mutex(&node->ref, __qrtr_node_release, &qrtr_node_lock);
 211 }
 212
 213 /**
 214  * qrtr_tx_resume() - reset flow control counter
 215  * @node:       qrtr_node that the QRTR_TYPE_RESUME_TX packet arrived on
 216  * @skb:        resume_tx packet
 217  */
 218 static void qrtr_tx_resume(struct qrtr_node *node, struct sk_buff *skb)
 219 {
 220         struct qrtr_ctrl_pkt *pkt = (struct qrtr_ctrl_pkt *)skb->data;
 221         u64 remote_node = le32_to_cpu(pkt->client.node);
 222         u32 remote_port = le32_to_cpu(pkt->client.port);
 223         struct qrtr_tx_flow *flow;
 224         unsigned long key;
 225
 226         key = remote_node << 32 | remote_port;
 227
 228         rcu_read_lock();
 229         flow = radix_tree_lookup(&node->qrtr_tx_flow, key);
 230         rcu_read_unlock();
 231         if (flow) {
 232                 spin_lock(&flow->resume_tx.lock);
 233                 flow->pending = 0;
 234                 spin_unlock(&flow->resume_tx.lock);
 235                 wake_up_interruptible_all(&flow->resume_tx);
 236         }
 237
 238         consume_skb(skb);
 239 }
 240
 241 /**
 242  * qrtr_tx_wait() - flow control for outgoing packets
 243  * @node:       qrtr_node that the packet is to be send to
 244  * @dest_node:  node id of the destination
 245  * @dest_port:  port number of the destination
 246  * @type:       type of message
 247  *
 248  * The flow control scheme is based around the low and high "watermarks". When
 249  * the low watermark is passed the confirm_rx flag is set on the outgoing
 250  * message, which will trigger the remote to send a control message of the type
 251  * QRTR_TYPE_RESUME_TX to reset the counter. If the high watermark is hit
 252  * further transmision should be paused.
 253  *
 254  * Return: 1 if confirm_rx should be set, 0 otherwise or errno failure
 255  */
 256 static int qrtr_tx_wait(struct qrtr_node *node, int dest_node, int dest_port,
 257                         int type)
 258 {
 259         unsigned long key = (u64)dest_node << 32 | dest_port;
 260         struct qrtr_tx_flow *flow;
 261         int confirm_rx = 0;
 262         int ret;
 263
 264         /* Never set confirm_rx on non-data packets */
 265         if (type != QRTR_TYPE_DATA)
 266                 return 0;
 267
 268         mutex_lock(&node->qrtr_tx_lock);
 269         flow = radix_tree_lookup(&node->qrtr_tx_flow, key);
 270         if (!flow) {
 271                 flow = kzalloc(sizeof(*flow), GFP_KERNEL);
 272                 if (flow) {
 273                         init_waitqueue_head(&flow->resume_tx);
 274                         if (radix_tree_insert(&node->qrtr_tx_flow, key, flow)) {
 275                                 kfree(flow);
 276                                 flow = NULL;
 277                         }
 278                 }
 279         }
 280         mutex_unlock(&node->qrtr_tx_lock);
 281
 282         /* Set confirm_rx if we where unable to find and allocate a flow */
 283         if (!flow)
 284                 return 1;
 285
 286         spin_lock_irq(&flow->resume_tx.lock);
 287         ret = wait_event_interruptible_locked_irq(flow->resume_tx,
 288                                                   flow->pending < QRTR_TX_FLOW_HIGH ||
 289                                                   flow->tx_failed ||
 290                                                   !node->ep);
 291         if (ret < 0) {
 292                 confirm_rx = ret;
 293         } else if (!node->ep) {
 294                 confirm_rx = -EPIPE;
 295         } else if (flow->tx_failed) {
 296                 flow->tx_failed = 0;
 297                 confirm_rx = 1;
 298         } else {
 299                 flow->pending++;
 300                 confirm_rx = flow->pending == QRTR_TX_FLOW_LOW;
 301         }
 302         spin_unlock_irq(&flow->resume_tx.lock);
 303
 304         return confirm_rx;
 305 }
 306
 307 /**
 308  * qrtr_tx_flow_failed() - flag that tx of confirm_rx flagged messages failed
 309  * @node:       qrtr_node that the packet is to be send to
 310  * @dest_node:  node id of the destination
 311  * @dest_port:  port number of the destination
 312  *
 313  * Signal that the transmission of a message with confirm_rx flag failed. The
 314  * flow's "pending" counter will keep incrementing towards QRTR_TX_FLOW_HIGH,
 315  * at which point transmission would stall forever waiting for the resume TX
 316  * message associated with the dropped confirm_rx message.
 317  * Work around this by marking the flow as having a failed transmission and
 318  * cause the next transmission attempt to be sent with the confirm_rx.
 319  */
 320 static void qrtr_tx_flow_failed(struct qrtr_node *node, int dest_node,
 321                                 int dest_port)
 322 {
 323         unsigned long key = (u64)dest_node << 32 | dest_port;
 324         struct qrtr_tx_flow *flow;
 325
 326         rcu_read_lock();
 327         flow = radix_tree_lookup(&node->qrtr_tx_flow, key);
 328         rcu_read_unlock();
 329         if (flow) {
 330                 spin_lock_irq(&flow->resume_tx.lock);
 331                 flow->tx_failed = 1;
 332                 spin_unlock_irq(&flow->resume_tx.lock);
 333         }
 334 }
 335
 336 /* Pass an outgoing packet socket buffer to the endpoint driver. */
 337 static int qrtr_node_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 338                              int type, struct sockaddr_qrtr *from,
 339                              struct sockaddr_qrtr *to)
 340 {
 341         struct qrtr_hdr_v1 *hdr;
 342         size_t len = skb->len;
 343         int rc, confirm_rx;
 344
 345         confirm_rx = qrtr_tx_wait(node, to->sq_node, to->sq_port, type);
 346         if (confirm_rx < 0) {
 347                 kfree_skb(skb);
 348                 return confirm_rx;
 349         }
 350
 351         hdr = skb_push(skb, sizeof(*hdr));
 352         hdr->version = cpu_to_le32(QRTR_PROTO_VER_1);
 353         hdr->type = cpu_to_le32(type);
 354         hdr->src_node_id = cpu_to_le32(from->sq_node);
 355         hdr->src_port_id = cpu_to_le32(from->sq_port);
 356         if (to->sq_port == QRTR_PORT_CTRL) {
 357                 hdr->dst_node_id = cpu_to_le32(node->nid);
 358                 hdr->dst_port_id = cpu_to_le32(QRTR_PORT_CTRL);
 359         } else {
 360                 hdr->dst_node_id = cpu_to_le32(to->sq_node);
 361                 hdr->dst_port_id = cpu_to_le32(to->sq_port);
 362         }
 363
 364         hdr->size = cpu_to_le32(len);
 365         hdr->confirm_rx = !!confirm_rx;
 366
 367         rc = skb_put_padto(skb, ALIGN(len, 4) + sizeof(*hdr));
 368
 369         if (!rc) {
 370                 mutex_lock(&node->ep_lock);
 371                 rc = -ENODEV;
 372                 if (node->ep)
 373                         rc = node->ep->xmit(node->ep, skb);
 374                 else
 375                         kfree_skb(skb);
 376                 mutex_unlock(&node->ep_lock);
 377         }
 378         /* Need to ensure that a subsequent message carries the otherwise lost
 379          * confirm_rx flag if we dropped this one */
 380         if (rc && confirm_rx)
 381                 qrtr_tx_flow_failed(node, to->sq_node, to->sq_port);
 382
 383         return rc;
 384 }
 385
 386 /* Lookup node by id.
 387  *
 388  * callers must release with qrtr_node_release()
 389  */
 390 static struct qrtr_node *qrtr_node_lookup(unsigned int nid)
 391 {
 392         struct qrtr_node *node;
 393         unsigned long flags;
 394
 395         spin_lock_irqsave(&qrtr_nodes_lock, flags);
 396         node = radix_tree_lookup(&qrtr_nodes, nid);
 397         node = qrtr_node_acquire(node);
 398         spin_unlock_irqrestore(&qrtr_nodes_lock, flags);
 399
 400         return node;
 401 }
 402
 403 /* Assign node id to node.
 404  *
 405  * This is mostly useful for automatic node id assignment, based on
 406  * the source id in the incoming packet.
 407  */
 408 static void qrtr_node_assign(struct qrtr_node *node, unsigned int nid)
 409 {
 410         unsigned long flags;
 411
 412         if (nid == QRTR_EP_NID_AUTO)
 413                 return;
 414
 415         spin_lock_irqsave(&qrtr_nodes_lock, flags);
 416         radix_tree_insert(&qrtr_nodes, nid, node);
 417         if (node->nid == QRTR_EP_NID_AUTO)
 418                 node->nid = nid;
 419         spin_unlock_irqrestore(&qrtr_nodes_lock, flags);
 420 }
 421
 422 /**
 423  * qrtr_endpoint_post() - post incoming data
 424  * @ep: endpoint handle
 425  * @data: data pointer
 426  * @len: size of data in bytes
 427  *
 428  * Return: 0 on success; negative error code on failure
 429  */
 430 int qrtr_endpoint_post(struct qrtr_endpoint *ep, const void *data, size_t len)
 431 {
 432         struct qrtr_node *node = ep->node;
 433         const struct qrtr_hdr_v1 *v1;
 434         const struct qrtr_hdr_v2 *v2;
 435         struct qrtr_sock *ipc;
 436         struct sk_buff *skb;
 437         struct qrtr_cb *cb;
 438         unsigned int size;
 439         unsigned int ver;
 440         size_t hdrlen;
 441
 442         if (len == 0 || len & 3)
 443                 return -EINVAL;
 444
 445         skb = __netdev_alloc_skb(NULL, len, GFP_ATOMIC | __GFP_NOWARN);
 446         if (!skb)
 447                 return -ENOMEM;
 448
 449         cb = (struct qrtr_cb *)skb->cb;
 450
 451         /* Version field in v1 is little endian, so this works for both cases */
 452         ver = *(u8*)data;
 453
 454         switch (ver) {
 455         case QRTR_PROTO_VER_1:
 456                 if (len < sizeof(*v1))
 457                         goto err;
 458                 v1 = data;
 459                 hdrlen = sizeof(*v1);
 460
 461                 cb->type = le32_to_cpu(v1->type);
 462                 cb->src_node = le32_to_cpu(v1->src_node_id);
 463                 cb->src_port = le32_to_cpu(v1->src_port_id);
 464                 cb->confirm_rx = !!v1->confirm_rx;
 465                 cb->dst_node = le32_to_cpu(v1->dst_node_id);
 466                 cb->dst_port = le32_to_cpu(v1->dst_port_id);
 467
 468                 size = le32_to_cpu(v1->size);
 469                 break;
 470         case QRTR_PROTO_VER_2:
 471                 if (len < sizeof(*v2))
 472                         goto err;
 473                 v2 = data;
 474                 hdrlen = sizeof(*v2) + v2->optlen;
 475
 476                 cb->type = v2->type;
 477                 cb->confirm_rx = !!(v2->flags & QRTR_FLAGS_CONFIRM_RX);
 478                 cb->src_node = le16_to_cpu(v2->src_node_id);
 479                 cb->src_port = le16_to_cpu(v2->src_port_id);
 480                 cb->dst_node = le16_to_cpu(v2->dst_node_id);
 481                 cb->dst_port = le16_to_cpu(v2->dst_port_id);
 482
 483                 if (cb->src_port == (u16)QRTR_PORT_CTRL)
 484                         cb->src_port = QRTR_PORT_CTRL;
 485                 if (cb->dst_port == (u16)QRTR_PORT_CTRL)
 486                         cb->dst_port = QRTR_PORT_CTRL;
 487
 488                 size = le32_to_cpu(v2->size);
 489                 break;
 490         default:
 491                 pr_err("qrtr: Invalid version %d\n", ver);
 492                 goto err;
 493         }
 494
 495         if (len != ALIGN(size, 4) + hdrlen)
 496                 goto err;
 497
 498         if (cb->dst_port != QRTR_PORT_CTRL && cb->type != QRTR_TYPE_DATA &&
 499             cb->type != QRTR_TYPE_RESUME_TX)
 500                 goto err;
 501
 502         skb_put_data(skb, data + hdrlen, size);
 503
 504         qrtr_node_assign(node, cb->src_node);
 505
 506         if (cb->type == QRTR_TYPE_NEW_SERVER) {
 507                 /* Remote node endpoint can bridge other distant nodes */
 508                 const struct qrtr_ctrl_pkt *pkt = data + hdrlen;
 509
 510                 qrtr_node_assign(node, le32_to_cpu(pkt->server.node));
 511         }
 512
 513         if (cb->type == QRTR_TYPE_RESUME_TX) {
 514                 qrtr_tx_resume(node, skb);
 515         } else {
 516                 ipc = qrtr_port_lookup(cb->dst_port);
 517                 if (!ipc)
 518                         goto err;
 519
 520                 if (sock_queue_rcv_skb(&ipc->sk, skb))
 521                         goto err;
 522
 523                 qrtr_port_put(ipc);
 524         }
 525
 526         return 0;
 527
 528 err:
 529         kfree_skb(skb);
 530         return -EINVAL;
 531
 532 }
 533 EXPORT_SYMBOL_GPL(qrtr_endpoint_post);
 534
 535 /**
 536  * qrtr_alloc_ctrl_packet() - allocate control packet skb
 537  * @pkt: reference to qrtr_ctrl_pkt pointer
 538  * @flags: the type of memory to allocate
 539  *
 540  * Returns newly allocated sk_buff, or NULL on failure
 541  *
 542  * This function allocates a sk_buff large enough to carry a qrtr_ctrl_pkt and
 543  * on success returns a reference to the control packet in @pkt.
 544  */
 545 static struct sk_buff *qrtr_alloc_ctrl_packet(struct qrtr_ctrl_pkt **pkt,
 546                                               gfp_t flags)
 547 {
 548         const int pkt_len = sizeof(struct qrtr_ctrl_pkt);
 549         struct sk_buff *skb;
 550
 551         skb = alloc_skb(QRTR_HDR_MAX_SIZE + pkt_len, flags);
 552         if (!skb)
 553                 return NULL;
 554
 555         skb_reserve(skb, QRTR_HDR_MAX_SIZE);
 556         *pkt = skb_put_zero(skb, pkt_len);
 557
 558         return skb;
 559 }
 560
 561 /**
 562  * qrtr_endpoint_register() - register a new endpoint
 563  * @ep: endpoint to register
 564  * @nid: desired node id; may be QRTR_EP_NID_AUTO for auto-assignment
 565  * Return: 0 on success; negative error code on failure
 566  *
 567  * The specified endpoint must have the xmit function pointer set on call.
 568  */
 569 int qrtr_endpoint_register(struct qrtr_endpoint *ep, unsigned int nid)
 570 {
 571         struct qrtr_node *node;
 572
 573         if (!ep || !ep->xmit)
 574                 return -EINVAL;
 575
 576         node = kzalloc(sizeof(*node), GFP_KERNEL);
 577         if (!node)
 578                 return -ENOMEM;
 579
 580         kref_init(&node->ref);
 581         mutex_init(&node->ep_lock);
 582         skb_queue_head_init(&node->rx_queue);
 583         node->nid = QRTR_EP_NID_AUTO;
 584         node->ep = ep;
 585
 586         INIT_RADIX_TREE(&node->qrtr_tx_flow, GFP_KERNEL);
 587         mutex_init(&node->qrtr_tx_lock);
 588
 589         qrtr_node_assign(node, nid);
 590
 591         mutex_lock(&qrtr_node_lock);
 592         list_add(&node->item, &qrtr_all_nodes);
 593         mutex_unlock(&qrtr_node_lock);
 594         ep->node = node;
 595
 596         return 0;
 597 }
 598 EXPORT_SYMBOL_GPL(qrtr_endpoint_register);
 599
 600 /**
 601  * qrtr_endpoint_unregister - unregister endpoint
 602  * @ep: endpoint to unregister
 603  */
 604 void qrtr_endpoint_unregister(struct qrtr_endpoint *ep)
 605 {
 606         struct qrtr_node *node = ep->node;
 607         struct sockaddr_qrtr src = {AF_QIPCRTR, node->nid, QRTR_PORT_CTRL};
 608         struct sockaddr_qrtr dst = {AF_QIPCRTR, qrtr_local_nid, QRTR_PORT_CTRL};
 609         struct radix_tree_iter iter;
 610         struct qrtr_ctrl_pkt *pkt;
 611         struct qrtr_tx_flow *flow;
 612         struct sk_buff *skb;
 613         unsigned long flags;
 614         void __rcu **slot;
 615
 616         mutex_lock(&node->ep_lock);
 617         node->ep = NULL;
 618         mutex_unlock(&node->ep_lock);
 619
 620         /* Notify the local controller about the event */
 621         spin_lock_irqsave(&qrtr_nodes_lock, flags);
 622         radix_tree_for_each_slot(slot, &qrtr_nodes, &iter, 0) {
 623                 if (*slot != node)
 624                         continue;
 625                 src.sq_node = iter.index;
 626                 skb = qrtr_alloc_ctrl_packet(&pkt, GFP_ATOMIC);
 627                 if (skb) {
 628                         pkt->cmd = cpu_to_le32(QRTR_TYPE_BYE);
 629                         qrtr_local_enqueue(NULL, skb, QRTR_TYPE_BYE, &src, &dst);
 630                 }
 631         }
 632         spin_unlock_irqrestore(&qrtr_nodes_lock, flags);
 633
 634         /* Wake up any transmitters waiting for resume-tx from the node */
 635         mutex_lock(&node->qrtr_tx_lock);
 636         radix_tree_for_each_slot(slot, &node->qrtr_tx_flow, &iter, 0) {
 637                 flow = *slot;
 638                 wake_up_interruptible_all(&flow->resume_tx);
 639         }
 640         mutex_unlock(&node->qrtr_tx_lock);
 641
 642         qrtr_node_release(node);
 643         ep->node = NULL;
 644 }
 645 EXPORT_SYMBOL_GPL(qrtr_endpoint_unregister);
 646
 647 /* Lookup socket by port.
 648  *
 649  * Callers must release with qrtr_port_put()
 650  */
 651 static struct qrtr_sock *qrtr_port_lookup(int port)
 652 {
 653         struct qrtr_sock *ipc;
 654
 655         if (port == QRTR_PORT_CTRL)
 656                 port = 0;
 657
 658         rcu_read_lock();
 659         ipc = idr_find(&qrtr_ports, port);
 660         if (ipc)
 661                 sock_hold(&ipc->sk);
 662         rcu_read_unlock();
 663
 664         return ipc;
 665 }
 666
 667 /* Release acquired socket. */
 668 static void qrtr_port_put(struct qrtr_sock *ipc)
 669 {
 670         sock_put(&ipc->sk);
 671 }
 672
 673 /* Remove port assignment. */
 674 static void qrtr_port_remove(struct qrtr_sock *ipc)
 675 {
 676         struct qrtr_ctrl_pkt *pkt;
 677         struct sk_buff *skb;
 678         int port = ipc->us.sq_port;
 679         struct sockaddr_qrtr to;
 680
 681         to.sq_family = AF_QIPCRTR;
 682         to.sq_node = QRTR_NODE_BCAST;
 683         to.sq_port = QRTR_PORT_CTRL;
 684
 685         skb = qrtr_alloc_ctrl_packet(&pkt, GFP_KERNEL);
 686         if (skb) {
 687                 pkt->cmd = cpu_to_le32(QRTR_TYPE_DEL_CLIENT);
 688                 pkt->client.node = cpu_to_le32(ipc->us.sq_node);
 689                 pkt->client.port = cpu_to_le32(ipc->us.sq_port);
 690
 691                 skb_set_owner_w(skb, &ipc->sk);
 692                 qrtr_bcast_enqueue(NULL, skb, QRTR_TYPE_DEL_CLIENT, &ipc->us,
 693                                    &to);
 694         }
 695
 696         if (port == QRTR_PORT_CTRL)
 697                 port = 0;
 698
 699         __sock_put(&ipc->sk);
 700
 701         mutex_lock(&qrtr_port_lock);
 702         idr_remove(&qrtr_ports, port);
 703         mutex_unlock(&qrtr_port_lock);
 704
 705         /* Ensure that if qrtr_port_lookup() did enter the RCU read section we
 706          * wait for it to up increment the refcount */
 707         synchronize_rcu();
 708 }
 709
 710 /* Assign port number to socket.
 711  *
 712  * Specify port in the integer pointed to by port, and it will be adjusted
 713  * on return as necesssary.
 714  *
 715  * Port may be:
 716  *   0: Assign ephemeral port in [QRTR_MIN_EPH_SOCKET, QRTR_MAX_EPH_SOCKET]
 717  *   <QRTR_MIN_EPH_SOCKET: Specified; requires CAP_NET_ADMIN
 718  *   >QRTR_MIN_EPH_SOCKET: Specified; available to all
 719  */
 720 static int qrtr_port_assign(struct qrtr_sock *ipc, int *port)
 721 {
 722         u32 min_port;
 723         int rc;
 724
 725         mutex_lock(&qrtr_port_lock);
 726         if (!*port) {
 727                 min_port = QRTR_MIN_EPH_SOCKET;
 728                 rc = idr_alloc_u32(&qrtr_ports, ipc, &min_port, QRTR_MAX_EPH_SOCKET, GFP_ATOMIC);
 729                 if (!rc)
 730                         *port = min_port;
 731         } else if (*port < QRTR_MIN_EPH_SOCKET && !capable(CAP_NET_ADMIN)) {
 732                 rc = -EACCES;
 733         } else if (*port == QRTR_PORT_CTRL) {
 734                 min_port = 0;
 735                 rc = idr_alloc_u32(&qrtr_ports, ipc, &min_port, 0, GFP_ATOMIC);
 736         } else {
 737                 min_port = *port;
 738                 rc = idr_alloc_u32(&qrtr_ports, ipc, &min_port, *port, GFP_ATOMIC);
 739                 if (!rc)
 740                         *port = min_port;
 741         }
 742         mutex_unlock(&qrtr_port_lock);
 743
 744         if (rc == -ENOSPC)
 745                 return -EADDRINUSE;
 746         else if (rc < 0)
 747                 return rc;
 748
 749         sock_hold(&ipc->sk);
 750
 751         return 0;
 752 }
 753
 754 /* Reset all non-control ports */
 755 static void qrtr_reset_ports(void)
 756 {
 757         struct qrtr_sock *ipc;
 758         int id;
 759
 760         mutex_lock(&qrtr_port_lock);
 761         idr_for_each_entry(&qrtr_ports, ipc, id) {
 762                 /* Don't reset control port */
 763                 if (id == 0)
 764                         continue;
 765
 766                 sock_hold(&ipc->sk);
 767                 ipc->sk.sk_err = ENETRESET;
 768                 ipc->sk.sk_error_report(&ipc->sk);
 769                 sock_put(&ipc->sk);
 770         }
 771         mutex_unlock(&qrtr_port_lock);
 772 }
 773
 774 /* Bind socket to address.
 775  *
 776  * Socket should be locked upon call.
 777  */
 778 static int __qrtr_bind(struct socket *sock,
 779                        const struct sockaddr_qrtr *addr, int zapped)
 780 {
 781         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 782         struct sock *sk = sock->sk;
 783         int port;
 784         int rc;
 785
 786         /* rebinding ok */
 787         if (!zapped && addr->sq_port == ipc->us.sq_port)
 788                 return 0;
 789
 790         port = addr->sq_port;
 791         rc = qrtr_port_assign(ipc, &port);
 792         if (rc)
 793                 return rc;
 794
 795         /* unbind previous, if any */
 796         if (!zapped)
 797                 qrtr_port_remove(ipc);
 798         ipc->us.sq_port = port;
 799
 800         sock_reset_flag(sk, SOCK_ZAPPED);
 801
 802         /* Notify all open ports about the new controller */
 803         if (port == QRTR_PORT_CTRL)
 804                 qrtr_reset_ports();
 805
 806         return 0;
 807 }
 808
 809 /* Auto bind to an ephemeral port. */
 810 static int qrtr_autobind(struct socket *sock)
 811 {
 812         struct sock *sk = sock->sk;
 813         struct sockaddr_qrtr addr;
 814
 815         if (!sock_flag(sk, SOCK_ZAPPED))
 816                 return 0;
 817
 818         addr.sq_family = AF_QIPCRTR;
 819         addr.sq_node = qrtr_local_nid;
 820         addr.sq_port = 0;
 821
 822         return __qrtr_bind(sock, &addr, 1);
 823 }
 824
 825 /* Bind socket to specified sockaddr. */
 826 static int qrtr_bind(struct socket *sock, struct sockaddr *saddr, int len)
 827 {
 828         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, saddr);
 829         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 830         struct sock *sk = sock->sk;
 831         int rc;
 832
 833         if (len < sizeof(*addr) || addr->sq_family != AF_QIPCRTR)
 834                 return -EINVAL;
 835
 836         if (addr->sq_node != ipc->us.sq_node)
 837                 return -EINVAL;
 838
 839         lock_sock(sk);
 840         rc = __qrtr_bind(sock, addr, sock_flag(sk, SOCK_ZAPPED));
 841         release_sock(sk);
 842
 843         return rc;
 844 }
 845
 846 /* Queue packet to local peer socket. */
 847 static int qrtr_local_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 848                               int type, struct sockaddr_qrtr *from,
 849                               struct sockaddr_qrtr *to)
 850 {
 851         struct qrtr_sock *ipc;
 852         struct qrtr_cb *cb;
 853
 854         ipc = qrtr_port_lookup(to->sq_port);
 855         if (!ipc || &ipc->sk == skb->sk) { /* do not send to self */
 856                 kfree_skb(skb);
 857                 return -ENODEV;
 858         }
 859
 860         cb = (struct qrtr_cb *)skb->cb;
 861         cb->src_node = from->sq_node;
 862         cb->src_port = from->sq_port;
 863
 864         if (sock_queue_rcv_skb(&ipc->sk, skb)) {
 865                 qrtr_port_put(ipc);
 866                 kfree_skb(skb);
 867                 return -ENOSPC;
 868         }
 869
 870         qrtr_port_put(ipc);
 871
 872         return 0;
 873 }
 874
 875 /* Queue packet for broadcast. */
 876 static int qrtr_bcast_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 877                               int type, struct sockaddr_qrtr *from,
 878                               struct sockaddr_qrtr *to)
 879 {
 880         struct sk_buff *skbn;
 881
 882         mutex_lock(&qrtr_node_lock);
 883         list_for_each_entry(node, &qrtr_all_nodes, item) {
 884                 skbn = skb_clone(skb, GFP_KERNEL);
 885                 if (!skbn)
 886                         break;
 887                 skb_set_owner_w(skbn, skb->sk);
 888                 qrtr_node_enqueue(node, skbn, type, from, to);
 889         }
 890         mutex_unlock(&qrtr_node_lock);
 891
 892         qrtr_local_enqueue(NULL, skb, type, from, to);
 893
 894         return 0;
 895 }
 896
 897 static int qrtr_sendmsg(struct socket *sock, struct msghdr *msg, size_t len)
 898 {
 899         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, msg->msg_name);
 900         int (*enqueue_fn)(struct qrtr_node *, struct sk_buff *, int,
 901                           struct sockaddr_qrtr *, struct sockaddr_qrtr *);
 902         __le32 qrtr_type = cpu_to_le32(QRTR_TYPE_DATA);
 903         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 904         struct sock *sk = sock->sk;
 905         struct qrtr_node *node;
 906         struct sk_buff *skb;
 907         size_t plen;
 908         u32 type;
 909         int rc;
 910
 911         if (msg->msg_flags & ~(MSG_DONTWAIT))
 912                 return -EINVAL;
 913
 914         if (len > 65535)
 915                 return -EMSGSIZE;
 916
 917         lock_sock(sk);
 918
 919         if (addr) {
 920                 if (msg->msg_namelen < sizeof(*addr)) {
 921                         release_sock(sk);
 922                         return -EINVAL;
 923                 }
 924
 925                 if (addr->sq_family != AF_QIPCRTR) {
 926                         release_sock(sk);
 927                         return -EINVAL;
 928                 }
 929
 930                 rc = qrtr_autobind(sock);
 931                 if (rc) {
 932                         release_sock(sk);
 933                         return rc;
 934                 }
 935         } else if (sk->sk_state == TCP_ESTABLISHED) {
 936                 addr = &ipc->peer;
 937         } else {
 938                 release_sock(sk);
 939                 return -ENOTCONN;
 940         }
 941
 942         node = NULL;
 943         if (addr->sq_node == QRTR_NODE_BCAST) {
 944                 if (addr->sq_port != QRTR_PORT_CTRL &&
 945                     qrtr_local_nid != QRTR_NODE_BCAST) {
 946                         release_sock(sk);
 947                         return -ENOTCONN;
 948                 }
 949                 enqueue_fn = qrtr_bcast_enqueue;
 950         } else if (addr->sq_node == ipc->us.sq_node) {
 951                 enqueue_fn = qrtr_local_enqueue;
 952         } else {
 953                 node = qrtr_node_lookup(addr->sq_node);
 954                 if (!node) {
 955                         release_sock(sk);
 956                         return -ECONNRESET;
 957                 }
 958                 enqueue_fn = qrtr_node_enqueue;
 959         }
 960
 961         plen = (len + 3) & ~3;
 962         skb = sock_alloc_send_skb(sk, plen + QRTR_HDR_MAX_SIZE,
 963                                   msg->msg_flags & MSG_DONTWAIT, &rc);
 964         if (!skb) {
 965                 rc = -ENOMEM;
 966                 goto out_node;
 967         }
 968
 969         skb_reserve(skb, QRTR_HDR_MAX_SIZE);
 970
 971         rc = memcpy_from_msg(skb_put(skb, len), msg, len);
 972         if (rc) {
 973                 kfree_skb(skb);
 974                 goto out_node;
 975         }
 976
 977         if (ipc->us.sq_port == QRTR_PORT_CTRL) {
 978                 if (len < 4) {
 979                         rc = -EINVAL;
 980                         kfree_skb(skb);
 981                         goto out_node;
 982                 }
 983
 984                 /* control messages already require the type as 'command' */
 985                 skb_copy_bits(skb, 0, &qrtr_type, 4);
 986         }
 987
 988         type = le32_to_cpu(qrtr_type);
 989         rc = enqueue_fn(node, skb, type, &ipc->us, addr);
 990         if (rc >= 0)
 991                 rc = len;
 992
 993 out_node:
 994         qrtr_node_release(node);
 995         release_sock(sk);
 996
 997         return rc;
 998 }
 999
1000 static int qrtr_send_resume_tx(struct qrtr_cb *cb)
1001 {
1002         struct sockaddr_qrtr remote = { AF_QIPCRTR, cb->src_node, cb->src_port };
1003         struct sockaddr_qrtr local = { AF_QIPCRTR, cb->dst_node, cb->dst_port };
1004         struct qrtr_ctrl_pkt *pkt;
1005         struct qrtr_node *node;
1006         struct sk_buff *skb;
1007         int ret;
1008
1009         node = qrtr_node_lookup(remote.sq_node);
1010         if (!node)
1011                 return -EINVAL;
1012
1013         skb = qrtr_alloc_ctrl_packet(&pkt, GFP_KERNEL);
1014         if (!skb)
1015                 return -ENOMEM;
1016
1017         pkt->cmd = cpu_to_le32(QRTR_TYPE_RESUME_TX);
1018         pkt->client.node = cpu_to_le32(cb->dst_node);
1019         pkt->client.port = cpu_to_le32(cb->dst_port);
1020
1021         ret = qrtr_node_enqueue(node, skb, QRTR_TYPE_RESUME_TX, &local, &remote);
1022
1023         qrtr_node_release(node);
1024
1025         return ret;
1026 }
1027
1028 static int qrtr_recvmsg(struct socket *sock, struct msghdr *msg,
1029                         size_t size, int flags)
1030 {
1031         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, msg->msg_name);
1032         struct sock *sk = sock->sk;
1033         struct sk_buff *skb;
1034         struct qrtr_cb *cb;
1035         int copied, rc;
1036
1037         lock_sock(sk);
1038
1039         if (sock_flag(sk, SOCK_ZAPPED)) {
1040                 release_sock(sk);
1041                 return -EADDRNOTAVAIL;
1042         }
1043
1044         skb = skb_recv_datagram(sk, flags & ~MSG_DONTWAIT,
1045                                 flags & MSG_DONTWAIT, &rc);
1046         if (!skb) {
1047                 release_sock(sk);
1048                 return rc;
1049         }
1050         cb = (struct qrtr_cb *)skb->cb;
1051
1052         copied = skb->len;
1053         if (copied > size) {
1054                 copied = size;
1055                 msg->msg_flags |= MSG_TRUNC;
1056         }
1057
1058         rc = skb_copy_datagram_msg(skb, 0, msg, copied);
1059         if (rc < 0)
1060                 goto out;
1061         rc = copied;
1062
1063         if (addr) {
1064                 /* There is an anonymous 2-byte hole after sq_family,
1065                  * make sure to clear it.
1066                  */
1067                 memset(addr, 0, sizeof(*addr));
1068
1069                 addr->sq_family = AF_QIPCRTR;
1070                 addr->sq_node = cb->src_node;
1071                 addr->sq_port = cb->src_port;
1072                 msg->msg_namelen = sizeof(*addr);
1073         }
1074
1075 out:
1076         if (cb->confirm_rx)
1077                 qrtr_send_resume_tx(cb);
1078
1079         skb_free_datagram(sk, skb);
1080         release_sock(sk);
1081
1082         return rc;
1083 }
1084
1085 static int qrtr_connect(struct socket *sock, struct sockaddr *saddr,
1086                         int len, int flags)
1087 {
1088         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, saddr);
1089         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
1090         struct sock *sk = sock->sk;
1091         int rc;
1092
1093         if (len < sizeof(*addr) || addr->sq_family != AF_QIPCRTR)
1094                 return -EINVAL;
1095
1096         lock_sock(sk);
1097
1098         sk->sk_state = TCP_CLOSE;
1099         sock->state = SS_UNCONNECTED;
1100
1101         rc = qrtr_autobind(sock);
1102         if (rc) {
1103                 release_sock(sk);
1104                 return rc;
1105         }
1106
1107         ipc->peer = *addr;
1108         sock->state = SS_CONNECTED;
1109         sk->sk_state = TCP_ESTABLISHED;
1110
1111         release_sock(sk);
1112
1113         return 0;
1114 }
1115
1116 static int qrtr_getname(struct socket *sock, struct sockaddr *saddr,
1117                         int peer)
1118 {
1119         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
1120         struct sockaddr_qrtr qaddr;
1121         struct sock *sk = sock->sk;
1122
1123         lock_sock(sk);
1124         if (peer) {
1125                 if (sk->sk_state != TCP_ESTABLISHED) {
1126                         release_sock(sk);
1127                         return -ENOTCONN;
1128                 }
1129
1130                 qaddr = ipc->peer;
1131         } else {
1132                 qaddr = ipc->us;
1133         }
1134         release_sock(sk);
1135
1136         qaddr.sq_family = AF_QIPCRTR;
1137
1138         memcpy(saddr, &qaddr, sizeof(qaddr));
1139
1140         return sizeof(qaddr);
1141 }
1142
1143 static int qrtr_ioctl(struct socket *sock, unsigned int cmd, unsigned long arg)
1144 {
1145         void __user *argp = (void __user *)arg;
1146         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
1147         struct sock *sk = sock->sk;
1148         struct sockaddr_qrtr *sq;
1149         struct sk_buff *skb;
1150         struct ifreq ifr;
1151         long len = 0;
1152         int rc = 0;
1153
1154         lock_sock(sk);
1155
1156         switch (cmd) {
1157         case TIOCOUTQ:
1158                 len = sk->sk_sndbuf - sk_wmem_alloc_get(sk);
1159                 if (len < 0)
1160                         len = 0;
1161                 rc = put_user(len, (int __user *)argp);
1162                 break;
1163         case TIOCINQ:
1164                 skb = skb_peek(&sk->sk_receive_queue);
1165                 if (skb)
1166                         len = skb->len;
1167                 rc = put_user(len, (int __user *)argp);
1168                 break;
1169         case SIOCGIFADDR:
1170                 if (copy_from_user(&ifr, argp, sizeof(ifr))) {
1171                         rc = -EFAULT;
1172                         break;
1173                 }
1174
1175                 sq = (struct sockaddr_qrtr *)&ifr.ifr_addr;
1176                 *sq = ipc->us;
1177                 if (copy_to_user(argp, &ifr, sizeof(ifr))) {
1178                         rc = -EFAULT;
1179                         break;
1180                 }
1181                 break;
1182         case SIOCADDRT:
1183         case SIOCDELRT:
1184         case SIOCSIFADDR:
1185         case SIOCGIFDSTADDR:
1186         case SIOCSIFDSTADDR:
1187         case SIOCGIFBRDADDR:
1188         case SIOCSIFBRDADDR:
1189         case SIOCGIFNETMASK:
1190         case SIOCSIFNETMASK:
1191                 rc = -EINVAL;
1192                 break;
1193         default:
1194                 rc = -ENOIOCTLCMD;
1195                 break;
1196         }
1197
1198         release_sock(sk);
1199
1200         return rc;
1201 }
1202
1203 static int qrtr_release(struct socket *sock)
1204 {
1205         struct sock *sk = sock->sk;
1206         struct qrtr_sock *ipc;
1207
1208         if (!sk)
1209                 return 0;
1210
1211         lock_sock(sk);
1212
1213         ipc = qrtr_sk(sk);
1214         sk->sk_shutdown = SHUTDOWN_MASK;
1215         if (!sock_flag(sk, SOCK_DEAD))
1216                 sk->sk_state_change(sk);
1217
1218         sock_set_flag(sk, SOCK_DEAD);
1219         sock_orphan(sk);
1220         sock->sk = NULL;
1221
1222         if (!sock_flag(sk, SOCK_ZAPPED))
1223                 qrtr_port_remove(ipc);
1224
1225         skb_queue_purge(&sk->sk_receive_queue);
1226
1227         release_sock(sk);
1228         sock_put(sk);
1229
1230         return 0;
1231 }
1232
1233 static const struct proto_ops qrtr_proto_ops = {
1234         .owner          = THIS_MODULE,
1235         .family         = AF_QIPCRTR,
1236         .bind           = qrtr_bind,
1237         .connect        = qrtr_connect,
1238         .socketpair     = sock_no_socketpair,
1239         .accept         = sock_no_accept,
1240         .listen         = sock_no_listen,
1241         .sendmsg        = qrtr_sendmsg,
1242         .recvmsg        = qrtr_recvmsg,
1243         .getname        = qrtr_getname,
1244         .ioctl          = qrtr_ioctl,
1245         .gettstamp      = sock_gettstamp,
1246         .poll           = datagram_poll,
1247         .shutdown       = sock_no_shutdown,
1248         .release        = qrtr_release,
1249         .mmap           = sock_no_mmap,
1250         .sendpage       = sock_no_sendpage,
1251 };
1252
1253 static struct proto qrtr_proto = {
1254         .name           = "QIPCRTR",
1255         .owner          = THIS_MODULE,
1256         .obj_size       = sizeof(struct qrtr_sock),
1257 };
1258
1259 static int qrtr_create(struct net *net, struct socket *sock,
1260                        int protocol, int kern)
1261 {
1262         struct qrtr_sock *ipc;
1263         struct sock *sk;
1264
1265         if (sock->type != SOCK_DGRAM)
1266                 return -EPROTOTYPE;
1267
1268         sk = sk_alloc(net, AF_QIPCRTR, GFP_KERNEL, &qrtr_proto, kern);
1269         if (!sk)
1270                 return -ENOMEM;
1271
1272         sock_set_flag(sk, SOCK_ZAPPED);
1273
1274         sock_init_data(sock, sk);
1275         sock->ops = &qrtr_proto_ops;
1276
1277         ipc = qrtr_sk(sk);
1278         ipc->us.sq_family = AF_QIPCRTR;
1279         ipc->us.sq_node = qrtr_local_nid;
1280         ipc->us.sq_port = 0;
1281
1282         return 0;
1283 }
1284
1285 static const struct net_proto_family qrtr_family = {
1286         .owner  = THIS_MODULE,
1287         .family = AF_QIPCRTR,
1288         .create = qrtr_create,
1289 };
1290
1291 static int __init qrtr_proto_init(void)
1292 {
1293         int rc;
1294
1295         rc = proto_register(&qrtr_proto, 1);
1296         if (rc)
1297                 return rc;
1298
1299         rc = sock_register(&qrtr_family);
1300         if (rc)
1301                 goto err_proto;
1302
1303         rc = qrtr_ns_init();
1304         if (rc)
1305                 goto err_sock;
1306
1307         return 0;
1308
1309 err_sock:
1310         sock_unregister(qrtr_family.family);
1311 err_proto:
1312         proto_unregister(&qrtr_proto);
1313         return rc;
1314 }
1315 postcore_initcall(qrtr_proto_init);
1316
1317 static void __exit qrtr_proto_fini(void)
1318 {
1319         qrtr_ns_remove();
1320         sock_unregister(qrtr_family.family);
1321         proto_unregister(&qrtr_proto);
1322 }
1323 module_exit(qrtr_proto_fini);
1324
1325 MODULE_DESCRIPTION("Qualcomm IPC-router driver");
1326 MODULE_LICENSE("GPL v2");
1327 MODULE_ALIAS_NETPROTO(PF_QIPCRTR);