Merge tag 'perf-urgent-2021-07-11' of git://git.kernel.org/pub/scm/linux/kernel/git...
[linux-2.6-microblaze.git] / drivers / infiniband / hw / hfi1 / ipoib.h
1 /* SPDX-License-Identifier: (GPL-2.0 OR BSD-3-Clause) */
2 /*
3  * Copyright(c) 2020 Intel Corporation.
4  *
5  */
6
7 /*
8  * This file contains HFI1 support for IPOIB functionality
9  */
10
11 #ifndef HFI1_IPOIB_H
12 #define HFI1_IPOIB_H
13
14 #include <linux/types.h>
15 #include <linux/stddef.h>
16 #include <linux/atomic.h>
17 #include <linux/netdevice.h>
18 #include <linux/slab.h>
19 #include <linux/skbuff.h>
20 #include <linux/list.h>
21 #include <linux/if_infiniband.h>
22
23 #include "hfi.h"
24 #include "iowait.h"
25 #include "netdev.h"
26
27 #include <rdma/ib_verbs.h>
28
29 #define HFI1_IPOIB_ENTROPY_SHIFT   24
30
31 #define HFI1_IPOIB_TXREQ_NAME_LEN   32
32
33 #define HFI1_IPOIB_PSEUDO_LEN 20
34 #define HFI1_IPOIB_ENCAP_LEN 4
35
36 struct hfi1_ipoib_dev_priv;
37
38 union hfi1_ipoib_flow {
39         u16 as_int;
40         struct {
41                 u8 tx_queue;
42                 u8 sc5;
43         } __attribute__((__packed__));
44 };
45
46 /**
47  * struct hfi1_ipoib_circ_buf - List of items to be processed
48  * @items: ring of items
49  * @head: ring head
50  * @tail: ring tail
51  * @max_items: max items + 1 that the ring can contain
52  * @producer_lock: producer sync lock
53  * @consumer_lock: consumer sync lock
54  */
55 struct ipoib_txreq;
56 struct hfi1_ipoib_circ_buf {
57         struct ipoib_txreq **items;
58         unsigned long head;
59         unsigned long tail;
60         unsigned long max_items;
61         spinlock_t producer_lock; /* head sync lock */
62         spinlock_t consumer_lock; /* tail sync lock */
63 };
64
65 /**
66  * struct hfi1_ipoib_txq - IPOIB per Tx queue information
67  * @priv: private pointer
68  * @sde: sdma engine
69  * @tx_list: tx request list
70  * @sent_txreqs: count of txreqs posted to sdma
71  * @stops: count of stops of queue
72  * @ring_full: ring has been filled
73  * @no_desc: descriptor shortage seen
74  * @flow: tracks when list needs to be flushed for a flow change
75  * @q_idx: ipoib Tx queue index
76  * @pkts_sent: indicator packets have been sent from this queue
77  * @wait: iowait structure
78  * @complete_txreqs: count of txreqs completed by sdma
79  * @napi: pointer to tx napi interface
80  * @tx_ring: ring of ipoib txreqs to be reaped by napi callback
81  */
82 struct hfi1_ipoib_txq {
83         struct hfi1_ipoib_dev_priv *priv;
84         struct sdma_engine *sde;
85         struct list_head tx_list;
86         u64 sent_txreqs;
87         atomic_t stops;
88         atomic_t ring_full;
89         atomic_t no_desc;
90         union hfi1_ipoib_flow flow;
91         u8 q_idx;
92         bool pkts_sent;
93         struct iowait wait;
94
95         atomic64_t ____cacheline_aligned_in_smp complete_txreqs;
96         struct napi_struct *napi;
97         struct hfi1_ipoib_circ_buf tx_ring;
98 };
99
100 struct hfi1_ipoib_dev_priv {
101         struct hfi1_devdata *dd;
102         struct net_device   *netdev;
103         struct ib_device    *device;
104         struct hfi1_ipoib_txq *txqs;
105         struct kmem_cache *txreq_cache;
106         struct napi_struct *tx_napis;
107         u16 pkey;
108         u16 pkey_index;
109         u32 qkey;
110         u8 port_num;
111
112         const struct net_device_ops *netdev_ops;
113         struct rvt_qp *qp;
114 };
115
116 /* hfi1 ipoib rdma netdev's private data structure */
117 struct hfi1_ipoib_rdma_netdev {
118         struct rdma_netdev rn;  /* keep this first */
119         /* followed by device private data */
120         struct hfi1_ipoib_dev_priv dev_priv;
121 };
122
123 static inline struct hfi1_ipoib_dev_priv *
124 hfi1_ipoib_priv(const struct net_device *dev)
125 {
126         return &((struct hfi1_ipoib_rdma_netdev *)netdev_priv(dev))->dev_priv;
127 }
128
129 int hfi1_ipoib_send(struct net_device *dev,
130                     struct sk_buff *skb,
131                     struct ib_ah *address,
132                     u32 dqpn);
133
134 int hfi1_ipoib_txreq_init(struct hfi1_ipoib_dev_priv *priv);
135 void hfi1_ipoib_txreq_deinit(struct hfi1_ipoib_dev_priv *priv);
136
137 int hfi1_ipoib_rxq_init(struct net_device *dev);
138 void hfi1_ipoib_rxq_deinit(struct net_device *dev);
139
140 void hfi1_ipoib_napi_tx_enable(struct net_device *dev);
141 void hfi1_ipoib_napi_tx_disable(struct net_device *dev);
142
143 struct sk_buff *hfi1_ipoib_prepare_skb(struct hfi1_netdev_rxq *rxq,
144                                        int size, void *data);
145
146 int hfi1_ipoib_rn_get_params(struct ib_device *device,
147                              u32 port_num,
148                              enum rdma_netdev_t type,
149                              struct rdma_netdev_alloc_params *params);
150
151 void hfi1_ipoib_tx_timeout(struct net_device *dev, unsigned int q);
152
153 #endif /* _IPOIB_H */