s390/pci: Implement ioremap_wc/prot() with MIO
[linux-2.6-microblaze.git] / arch / s390 / include / asm / pci.h
1 /* SPDX-License-Identifier: GPL-2.0 */
2 #ifndef __ASM_S390_PCI_H
3 #define __ASM_S390_PCI_H
4
5 #include <linux/pci.h>
6 #include <linux/mutex.h>
7 #include <linux/iommu.h>
8 #include <linux/pci_hotplug.h>
9 #include <asm-generic/pci.h>
10 #include <asm/pci_clp.h>
11 #include <asm/pci_debug.h>
12 #include <asm/sclp.h>
13
14 #define PCIBIOS_MIN_IO          0x1000
15 #define PCIBIOS_MIN_MEM         0x10000000
16
17 #define pcibios_assign_all_busses()     (0)
18
19 void __iomem *pci_iomap(struct pci_dev *, int, unsigned long);
20 void pci_iounmap(struct pci_dev *, void __iomem *);
21 int pci_domain_nr(struct pci_bus *);
22 int pci_proc_domain(struct pci_bus *);
23
24 #define ZPCI_BUS_NR                     0       /* default bus number */
25
26 #define ZPCI_NR_DMA_SPACES              1
27 #define ZPCI_NR_DEVICES                 CONFIG_PCI_NR_FUNCTIONS
28 #define ZPCI_DOMAIN_BITMAP_SIZE         (1 << 16)
29
30 #ifdef PCI
31 #if (ZPCI_NR_DEVICES > ZPCI_DOMAIN_BITMAP_SIZE)
32 # error ZPCI_NR_DEVICES can not be bigger than ZPCI_DOMAIN_BITMAP_SIZE
33 #endif
34 #endif /* PCI */
35
36 /* PCI Function Controls */
37 #define ZPCI_FC_FN_ENABLED              0x80
38 #define ZPCI_FC_ERROR                   0x40
39 #define ZPCI_FC_BLOCKED                 0x20
40 #define ZPCI_FC_DMA_ENABLED             0x10
41
42 #define ZPCI_FMB_DMA_COUNTER_VALID      (1 << 23)
43
44 struct zpci_fmb_fmt0 {
45         u64 dma_rbytes;
46         u64 dma_wbytes;
47 };
48
49 struct zpci_fmb_fmt1 {
50         u64 rx_bytes;
51         u64 rx_packets;
52         u64 tx_bytes;
53         u64 tx_packets;
54 };
55
56 struct zpci_fmb_fmt2 {
57         u64 consumed_work_units;
58         u64 max_work_units;
59 };
60
61 struct zpci_fmb_fmt3 {
62         u64 tx_bytes;
63 };
64
65 struct zpci_fmb {
66         u32 format      : 8;
67         u32 fmt_ind     : 24;
68         u32 samples;
69         u64 last_update;
70         /* common counters */
71         u64 ld_ops;
72         u64 st_ops;
73         u64 stb_ops;
74         u64 rpcit_ops;
75         /* format specific counters */
76         union {
77                 struct zpci_fmb_fmt0 fmt0;
78                 struct zpci_fmb_fmt1 fmt1;
79                 struct zpci_fmb_fmt2 fmt2;
80                 struct zpci_fmb_fmt3 fmt3;
81         };
82 } __packed __aligned(128);
83
84 enum zpci_state {
85         ZPCI_FN_STATE_STANDBY = 0,
86         ZPCI_FN_STATE_CONFIGURED = 1,
87         ZPCI_FN_STATE_RESERVED = 2,
88         ZPCI_FN_STATE_ONLINE = 3,
89 };
90
91 struct zpci_bar_struct {
92         struct resource *res;           /* bus resource */
93         void __iomem    *mio_wb;
94         void __iomem    *mio_wt;
95         u32             val;            /* bar start & 3 flag bits */
96         u16             map_idx;        /* index into bar mapping array */
97         u8              size;           /* order 2 exponent */
98 };
99
100 struct s390_domain;
101
102 #define ZPCI_FUNCTIONS_PER_BUS 256
103 struct zpci_bus {
104         struct kref             kref;
105         struct pci_bus          *bus;
106         struct zpci_dev         *function[ZPCI_FUNCTIONS_PER_BUS];
107         struct list_head        resources;
108         struct list_head        bus_next;
109         struct resource         bus_resource;
110         int                     pchid;
111         int                     domain_nr;
112         bool                    multifunction;
113         enum pci_bus_speed      max_bus_speed;
114 };
115
116 /* Private data per function */
117 struct zpci_dev {
118         struct zpci_bus *zbus;
119         struct list_head entry;         /* list of all zpci_devices, needed for hotplug, etc. */
120         struct list_head bus_next;
121         struct kref kref;
122         struct hotplug_slot hotplug_slot;
123
124         enum zpci_state state;
125         u32             fid;            /* function ID, used by sclp */
126         u32             fh;             /* function handle, used by insn's */
127         u16             vfn;            /* virtual function number */
128         u16             pchid;          /* physical channel ID */
129         u8              pfgid;          /* function group ID */
130         u8              pft;            /* pci function type */
131         u8              port;
132         u8              rid_available   : 1;
133         u8              has_hp_slot     : 1;
134         u8              is_physfn       : 1;
135         u8              reserved        : 5;
136         unsigned int    devfn;          /* DEVFN part of the RID*/
137
138         struct mutex lock;
139         u8 pfip[CLP_PFIP_NR_SEGMENTS];  /* pci function internal path */
140         u32 uid;                        /* user defined id */
141         u8 util_str[CLP_UTIL_STR_LEN];  /* utility string */
142
143         /* IRQ stuff */
144         u64             msi_addr;       /* MSI address */
145         unsigned int    max_msi;        /* maximum number of MSI's */
146         unsigned int    msi_first_bit;
147         unsigned int    msi_nr_irqs;
148         struct airq_iv *aibv;           /* adapter interrupt bit vector */
149         unsigned long   aisb;           /* number of the summary bit */
150
151         /* DMA stuff */
152         unsigned long   *dma_table;
153         spinlock_t      dma_table_lock;
154         int             tlb_refresh;
155
156         spinlock_t      iommu_bitmap_lock;
157         unsigned long   *iommu_bitmap;
158         unsigned long   *lazy_bitmap;
159         unsigned long   iommu_size;
160         unsigned long   iommu_pages;
161         unsigned int    next_bit;
162
163         struct iommu_device iommu_dev;  /* IOMMU core handle */
164
165         char res_name[16];
166         bool mio_capable;
167         struct zpci_bar_struct bars[PCI_STD_NUM_BARS];
168
169         u64             start_dma;      /* Start of available DMA addresses */
170         u64             end_dma;        /* End of available DMA addresses */
171         u64             dma_mask;       /* DMA address space mask */
172
173         /* Function measurement block */
174         struct zpci_fmb *fmb;
175         u16             fmb_update;     /* update interval */
176         u16             fmb_length;
177         /* software counters */
178         atomic64_t allocated_pages;
179         atomic64_t mapped_pages;
180         atomic64_t unmapped_pages;
181
182         enum pci_bus_speed max_bus_speed;
183
184         struct dentry   *debugfs_dev;
185
186         struct s390_domain *s390_domain; /* s390 IOMMU domain data */
187 };
188
189 static inline bool zdev_enabled(struct zpci_dev *zdev)
190 {
191         return (zdev->fh & (1UL << 31)) ? true : false;
192 }
193
194 extern const struct attribute_group *zpci_attr_groups[];
195 extern unsigned int s390_pci_force_floating __initdata;
196 extern unsigned int s390_pci_no_rid;
197
198 /* -----------------------------------------------------------------------------
199   Prototypes
200 ----------------------------------------------------------------------------- */
201 /* Base stuff */
202 int zpci_create_device(struct zpci_dev *);
203 void zpci_remove_device(struct zpci_dev *zdev);
204 int zpci_enable_device(struct zpci_dev *);
205 int zpci_disable_device(struct zpci_dev *);
206 int zpci_register_ioat(struct zpci_dev *, u8, u64, u64, u64);
207 int zpci_unregister_ioat(struct zpci_dev *, u8);
208 void zpci_remove_reserved_devices(void);
209
210 /* CLP */
211 int clp_setup_writeback_mio(void);
212 int clp_scan_pci_devices(void);
213 int clp_rescan_pci_devices(void);
214 int clp_rescan_pci_devices_simple(u32 *fid);
215 int clp_add_pci_device(u32, u32, int);
216 int clp_enable_fh(struct zpci_dev *, u8);
217 int clp_disable_fh(struct zpci_dev *);
218 int clp_get_state(u32 fid, enum zpci_state *state);
219
220 /* UID */
221 void update_uid_checking(bool new);
222
223 /* IOMMU Interface */
224 int zpci_init_iommu(struct zpci_dev *zdev);
225 void zpci_destroy_iommu(struct zpci_dev *zdev);
226
227 #ifdef CONFIG_PCI
228 static inline bool zpci_use_mio(struct zpci_dev *zdev)
229 {
230         return static_branch_likely(&have_mio) && zdev->mio_capable;
231 }
232
233 /* Error handling and recovery */
234 void zpci_event_error(void *);
235 void zpci_event_availability(void *);
236 void zpci_rescan(void);
237 bool zpci_is_enabled(void);
238 #else /* CONFIG_PCI */
239 static inline void zpci_event_error(void *e) {}
240 static inline void zpci_event_availability(void *e) {}
241 static inline void zpci_rescan(void) {}
242 #endif /* CONFIG_PCI */
243
244 #ifdef CONFIG_HOTPLUG_PCI_S390
245 int zpci_init_slot(struct zpci_dev *);
246 void zpci_exit_slot(struct zpci_dev *);
247 #else /* CONFIG_HOTPLUG_PCI_S390 */
248 static inline int zpci_init_slot(struct zpci_dev *zdev)
249 {
250         return 0;
251 }
252 static inline void zpci_exit_slot(struct zpci_dev *zdev) {}
253 #endif /* CONFIG_HOTPLUG_PCI_S390 */
254
255 /* Helpers */
256 static inline struct zpci_dev *to_zpci(struct pci_dev *pdev)
257 {
258         struct zpci_bus *zbus = pdev->sysdata;
259
260         return zbus->function[pdev->devfn];
261 }
262
263 static inline struct zpci_dev *to_zpci_dev(struct device *dev)
264 {
265         return to_zpci(to_pci_dev(dev));
266 }
267
268 struct zpci_dev *get_zdev_by_fid(u32);
269
270 /* DMA */
271 int zpci_dma_init(void);
272 void zpci_dma_exit(void);
273
274 int __init zpci_irq_init(void);
275 void __init zpci_irq_exit(void);
276
277 /* FMB */
278 int zpci_fmb_enable_device(struct zpci_dev *);
279 int zpci_fmb_disable_device(struct zpci_dev *);
280
281 /* Debug */
282 int zpci_debug_init(void);
283 void zpci_debug_exit(void);
284 void zpci_debug_init_device(struct zpci_dev *, const char *);
285 void zpci_debug_exit_device(struct zpci_dev *);
286 void zpci_debug_info(struct zpci_dev *, struct seq_file *);
287
288 /* Error reporting */
289 int zpci_report_error(struct pci_dev *, struct zpci_report_error_header *);
290
291 #ifdef CONFIG_NUMA
292
293 /* Returns the node based on PCI bus */
294 static inline int __pcibus_to_node(const struct pci_bus *bus)
295 {
296         return NUMA_NO_NODE;
297 }
298
299 static inline const struct cpumask *
300 cpumask_of_pcibus(const struct pci_bus *bus)
301 {
302         return cpu_online_mask;
303 }
304
305 #endif /* CONFIG_NUMA */
306
307 #endif