Merge tag 'locking-urgent-2021-05-09' of git://git.kernel.org/pub/scm/linux/kernel...
[linux-2.6-microblaze.git] / sound / pci / atiixp.c
1 // SPDX-License-Identifier: GPL-2.0-or-later
2 /*
3  *   ALSA driver for ATI IXP 150/200/250/300 AC97 controllers
4  *
5  *      Copyright (c) 2004 Takashi Iwai <tiwai@suse.de>
6  */
7
8 #include <linux/io.h>
9 #include <linux/delay.h>
10 #include <linux/interrupt.h>
11 #include <linux/init.h>
12 #include <linux/pci.h>
13 #include <linux/slab.h>
14 #include <linux/module.h>
15 #include <linux/mutex.h>
16 #include <sound/core.h>
17 #include <sound/pcm.h>
18 #include <sound/pcm_params.h>
19 #include <sound/info.h>
20 #include <sound/ac97_codec.h>
21 #include <sound/initval.h>
22
23 MODULE_AUTHOR("Takashi Iwai <tiwai@suse.de>");
24 MODULE_DESCRIPTION("ATI IXP AC97 controller");
25 MODULE_LICENSE("GPL");
26
27 static int index = SNDRV_DEFAULT_IDX1;  /* Index 0-MAX */
28 static char *id = SNDRV_DEFAULT_STR1;   /* ID for this card */
29 static int ac97_clock = 48000;
30 static char *ac97_quirk;
31 static bool spdif_aclink = 1;
32 static int ac97_codec = -1;
33
34 module_param(index, int, 0444);
35 MODULE_PARM_DESC(index, "Index value for ATI IXP controller.");
36 module_param(id, charp, 0444);
37 MODULE_PARM_DESC(id, "ID string for ATI IXP controller.");
38 module_param(ac97_clock, int, 0444);
39 MODULE_PARM_DESC(ac97_clock, "AC'97 codec clock (default 48000Hz).");
40 module_param(ac97_quirk, charp, 0444);
41 MODULE_PARM_DESC(ac97_quirk, "AC'97 workaround for strange hardware.");
42 module_param(ac97_codec, int, 0444);
43 MODULE_PARM_DESC(ac97_codec, "Specify codec instead of probing.");
44 module_param(spdif_aclink, bool, 0444);
45 MODULE_PARM_DESC(spdif_aclink, "S/PDIF over AC-link.");
46
47 /* just for backward compatibility */
48 static bool enable;
49 module_param(enable, bool, 0444);
50
51
52 /*
53  */
54
55 #define ATI_REG_ISR                     0x00    /* interrupt source */
56 #define  ATI_REG_ISR_IN_XRUN            (1U<<0)
57 #define  ATI_REG_ISR_IN_STATUS          (1U<<1)
58 #define  ATI_REG_ISR_OUT_XRUN           (1U<<2)
59 #define  ATI_REG_ISR_OUT_STATUS         (1U<<3)
60 #define  ATI_REG_ISR_SPDF_XRUN          (1U<<4)
61 #define  ATI_REG_ISR_SPDF_STATUS        (1U<<5)
62 #define  ATI_REG_ISR_PHYS_INTR          (1U<<8)
63 #define  ATI_REG_ISR_PHYS_MISMATCH      (1U<<9)
64 #define  ATI_REG_ISR_CODEC0_NOT_READY   (1U<<10)
65 #define  ATI_REG_ISR_CODEC1_NOT_READY   (1U<<11)
66 #define  ATI_REG_ISR_CODEC2_NOT_READY   (1U<<12)
67 #define  ATI_REG_ISR_NEW_FRAME          (1U<<13)
68
69 #define ATI_REG_IER                     0x04    /* interrupt enable */
70 #define  ATI_REG_IER_IN_XRUN_EN         (1U<<0)
71 #define  ATI_REG_IER_IO_STATUS_EN       (1U<<1)
72 #define  ATI_REG_IER_OUT_XRUN_EN        (1U<<2)
73 #define  ATI_REG_IER_OUT_XRUN_COND      (1U<<3)
74 #define  ATI_REG_IER_SPDF_XRUN_EN       (1U<<4)
75 #define  ATI_REG_IER_SPDF_STATUS_EN     (1U<<5)
76 #define  ATI_REG_IER_PHYS_INTR_EN       (1U<<8)
77 #define  ATI_REG_IER_PHYS_MISMATCH_EN   (1U<<9)
78 #define  ATI_REG_IER_CODEC0_INTR_EN     (1U<<10)
79 #define  ATI_REG_IER_CODEC1_INTR_EN     (1U<<11)
80 #define  ATI_REG_IER_CODEC2_INTR_EN     (1U<<12)
81 #define  ATI_REG_IER_NEW_FRAME_EN       (1U<<13)        /* (RO */
82 #define  ATI_REG_IER_SET_BUS_BUSY       (1U<<14)        /* (WO) audio is running */
83
84 #define ATI_REG_CMD                     0x08    /* command */
85 #define  ATI_REG_CMD_POWERDOWN          (1U<<0)
86 #define  ATI_REG_CMD_RECEIVE_EN         (1U<<1)
87 #define  ATI_REG_CMD_SEND_EN            (1U<<2)
88 #define  ATI_REG_CMD_STATUS_MEM         (1U<<3)
89 #define  ATI_REG_CMD_SPDF_OUT_EN        (1U<<4)
90 #define  ATI_REG_CMD_SPDF_STATUS_MEM    (1U<<5)
91 #define  ATI_REG_CMD_SPDF_THRESHOLD     (3U<<6)
92 #define  ATI_REG_CMD_SPDF_THRESHOLD_SHIFT       6
93 #define  ATI_REG_CMD_IN_DMA_EN          (1U<<8)
94 #define  ATI_REG_CMD_OUT_DMA_EN         (1U<<9)
95 #define  ATI_REG_CMD_SPDF_DMA_EN        (1U<<10)
96 #define  ATI_REG_CMD_SPDF_OUT_STOPPED   (1U<<11)
97 #define  ATI_REG_CMD_SPDF_CONFIG_MASK   (7U<<12)
98 #define   ATI_REG_CMD_SPDF_CONFIG_34    (1U<<12)
99 #define   ATI_REG_CMD_SPDF_CONFIG_78    (2U<<12)
100 #define   ATI_REG_CMD_SPDF_CONFIG_69    (3U<<12)
101 #define   ATI_REG_CMD_SPDF_CONFIG_01    (4U<<12)
102 #define  ATI_REG_CMD_INTERLEAVE_SPDF    (1U<<16)
103 #define  ATI_REG_CMD_AUDIO_PRESENT      (1U<<20)
104 #define  ATI_REG_CMD_INTERLEAVE_IN      (1U<<21)
105 #define  ATI_REG_CMD_INTERLEAVE_OUT     (1U<<22)
106 #define  ATI_REG_CMD_LOOPBACK_EN        (1U<<23)
107 #define  ATI_REG_CMD_PACKED_DIS         (1U<<24)
108 #define  ATI_REG_CMD_BURST_EN           (1U<<25)
109 #define  ATI_REG_CMD_PANIC_EN           (1U<<26)
110 #define  ATI_REG_CMD_MODEM_PRESENT      (1U<<27)
111 #define  ATI_REG_CMD_ACLINK_ACTIVE      (1U<<28)
112 #define  ATI_REG_CMD_AC_SOFT_RESET      (1U<<29)
113 #define  ATI_REG_CMD_AC_SYNC            (1U<<30)
114 #define  ATI_REG_CMD_AC_RESET           (1U<<31)
115
116 #define ATI_REG_PHYS_OUT_ADDR           0x0c
117 #define  ATI_REG_PHYS_OUT_CODEC_MASK    (3U<<0)
118 #define  ATI_REG_PHYS_OUT_RW            (1U<<2)
119 #define  ATI_REG_PHYS_OUT_ADDR_EN       (1U<<8)
120 #define  ATI_REG_PHYS_OUT_ADDR_SHIFT    9
121 #define  ATI_REG_PHYS_OUT_DATA_SHIFT    16
122
123 #define ATI_REG_PHYS_IN_ADDR            0x10
124 #define  ATI_REG_PHYS_IN_READ_FLAG      (1U<<8)
125 #define  ATI_REG_PHYS_IN_ADDR_SHIFT     9
126 #define  ATI_REG_PHYS_IN_DATA_SHIFT     16
127
128 #define ATI_REG_SLOTREQ                 0x14
129
130 #define ATI_REG_COUNTER                 0x18
131 #define  ATI_REG_COUNTER_SLOT           (3U<<0) /* slot # */
132 #define  ATI_REG_COUNTER_BITCLOCK       (31U<<8)
133
134 #define ATI_REG_IN_FIFO_THRESHOLD       0x1c
135
136 #define ATI_REG_IN_DMA_LINKPTR          0x20
137 #define ATI_REG_IN_DMA_DT_START         0x24    /* RO */
138 #define ATI_REG_IN_DMA_DT_NEXT          0x28    /* RO */
139 #define ATI_REG_IN_DMA_DT_CUR           0x2c    /* RO */
140 #define ATI_REG_IN_DMA_DT_SIZE          0x30
141
142 #define ATI_REG_OUT_DMA_SLOT            0x34
143 #define  ATI_REG_OUT_DMA_SLOT_BIT(x)    (1U << ((x) - 3))
144 #define  ATI_REG_OUT_DMA_SLOT_MASK      0x1ff
145 #define  ATI_REG_OUT_DMA_THRESHOLD_MASK 0xf800
146 #define  ATI_REG_OUT_DMA_THRESHOLD_SHIFT        11
147
148 #define ATI_REG_OUT_DMA_LINKPTR         0x38
149 #define ATI_REG_OUT_DMA_DT_START        0x3c    /* RO */
150 #define ATI_REG_OUT_DMA_DT_NEXT         0x40    /* RO */
151 #define ATI_REG_OUT_DMA_DT_CUR          0x44    /* RO */
152 #define ATI_REG_OUT_DMA_DT_SIZE         0x48
153
154 #define ATI_REG_SPDF_CMD                0x4c
155 #define  ATI_REG_SPDF_CMD_LFSR          (1U<<4)
156 #define  ATI_REG_SPDF_CMD_SINGLE_CH     (1U<<5)
157 #define  ATI_REG_SPDF_CMD_LFSR_ACC      (0xff<<8)       /* RO */
158
159 #define ATI_REG_SPDF_DMA_LINKPTR        0x50
160 #define ATI_REG_SPDF_DMA_DT_START       0x54    /* RO */
161 #define ATI_REG_SPDF_DMA_DT_NEXT        0x58    /* RO */
162 #define ATI_REG_SPDF_DMA_DT_CUR         0x5c    /* RO */
163 #define ATI_REG_SPDF_DMA_DT_SIZE        0x60
164
165 #define ATI_REG_MODEM_MIRROR            0x7c
166 #define ATI_REG_AUDIO_MIRROR            0x80
167
168 #define ATI_REG_6CH_REORDER             0x84    /* reorder slots for 6ch */
169 #define  ATI_REG_6CH_REORDER_EN         (1U<<0) /* 3,4,7,8,6,9 -> 3,4,6,9,7,8 */
170
171 #define ATI_REG_FIFO_FLUSH              0x88
172 #define  ATI_REG_FIFO_OUT_FLUSH         (1U<<0)
173 #define  ATI_REG_FIFO_IN_FLUSH          (1U<<1)
174
175 /* LINKPTR */
176 #define  ATI_REG_LINKPTR_EN             (1U<<0)
177
178 /* [INT|OUT|SPDIF]_DMA_DT_SIZE */
179 #define  ATI_REG_DMA_DT_SIZE            (0xffffU<<0)
180 #define  ATI_REG_DMA_FIFO_USED          (0x1fU<<16)
181 #define  ATI_REG_DMA_FIFO_FREE          (0x1fU<<21)
182 #define  ATI_REG_DMA_STATE              (7U<<26)
183
184
185 #define ATI_MAX_DESCRIPTORS     256     /* max number of descriptor packets */
186
187
188 struct atiixp;
189
190 /*
191  * DMA packate descriptor
192  */
193
194 struct atiixp_dma_desc {
195         __le32 addr;    /* DMA buffer address */
196         u16 status;     /* status bits */
197         u16 size;       /* size of the packet in dwords */
198         __le32 next;    /* address of the next packet descriptor */
199 };
200
201 /*
202  * stream enum
203  */
204 enum { ATI_DMA_PLAYBACK, ATI_DMA_CAPTURE, ATI_DMA_SPDIF, NUM_ATI_DMAS }; /* DMAs */
205 enum { ATI_PCM_OUT, ATI_PCM_IN, ATI_PCM_SPDIF, NUM_ATI_PCMS }; /* AC97 pcm slots */
206 enum { ATI_PCMDEV_ANALOG, ATI_PCMDEV_DIGITAL, NUM_ATI_PCMDEVS }; /* pcm devices */
207
208 #define NUM_ATI_CODECS  3
209
210
211 /*
212  * constants and callbacks for each DMA type
213  */
214 struct atiixp_dma_ops {
215         int type;                       /* ATI_DMA_XXX */
216         unsigned int llp_offset;        /* LINKPTR offset */
217         unsigned int dt_cur;            /* DT_CUR offset */
218         /* called from open callback */
219         void (*enable_dma)(struct atiixp *chip, int on);
220         /* called from trigger (START/STOP) */
221         void (*enable_transfer)(struct atiixp *chip, int on);
222         /* called from trigger (STOP only) */
223         void (*flush_dma)(struct atiixp *chip);
224 };
225
226 /*
227  * DMA stream
228  */
229 struct atiixp_dma {
230         const struct atiixp_dma_ops *ops;
231         struct snd_dma_buffer desc_buf;
232         struct snd_pcm_substream *substream;    /* assigned PCM substream */
233         unsigned int buf_addr, buf_bytes;       /* DMA buffer address, bytes */
234         unsigned int period_bytes, periods;
235         int opened;
236         int running;
237         int suspended;
238         int pcm_open_flag;
239         int ac97_pcm_type;      /* index # of ac97_pcm to access, -1 = not used */
240         unsigned int saved_curptr;
241 };
242
243 /*
244  * ATI IXP chip
245  */
246 struct atiixp {
247         struct snd_card *card;
248         struct pci_dev *pci;
249
250         unsigned long addr;
251         void __iomem *remap_addr;
252         int irq;
253         
254         struct snd_ac97_bus *ac97_bus;
255         struct snd_ac97 *ac97[NUM_ATI_CODECS];
256
257         spinlock_t reg_lock;
258
259         struct atiixp_dma dmas[NUM_ATI_DMAS];
260         struct ac97_pcm *pcms[NUM_ATI_PCMS];
261         struct snd_pcm *pcmdevs[NUM_ATI_PCMDEVS];
262
263         int max_channels;               /* max. channels for PCM out */
264
265         unsigned int codec_not_ready_bits;      /* for codec detection */
266
267         int spdif_over_aclink;          /* passed from the module option */
268         struct mutex open_mutex;        /* playback open mutex */
269 };
270
271
272 /*
273  */
274 static const struct pci_device_id snd_atiixp_ids[] = {
275         { PCI_VDEVICE(ATI, 0x4341), 0 }, /* SB200 */
276         { PCI_VDEVICE(ATI, 0x4361), 0 }, /* SB300 */
277         { PCI_VDEVICE(ATI, 0x4370), 0 }, /* SB400 */
278         { PCI_VDEVICE(ATI, 0x4382), 0 }, /* SB600 */
279         { 0, }
280 };
281
282 MODULE_DEVICE_TABLE(pci, snd_atiixp_ids);
283
284 static const struct snd_pci_quirk atiixp_quirks[] = {
285         SND_PCI_QUIRK(0x105b, 0x0c81, "Foxconn RC4107MA-RS2", 0),
286         SND_PCI_QUIRK(0x15bd, 0x3100, "DFI RS482", 0),
287         { } /* terminator */
288 };
289
290 /*
291  * lowlevel functions
292  */
293
294 /*
295  * update the bits of the given register.
296  * return 1 if the bits changed.
297  */
298 static int snd_atiixp_update_bits(struct atiixp *chip, unsigned int reg,
299                                  unsigned int mask, unsigned int value)
300 {
301         void __iomem *addr = chip->remap_addr + reg;
302         unsigned int data, old_data;
303         old_data = data = readl(addr);
304         data &= ~mask;
305         data |= value;
306         if (old_data == data)
307                 return 0;
308         writel(data, addr);
309         return 1;
310 }
311
312 /*
313  * macros for easy use
314  */
315 #define atiixp_write(chip,reg,value) \
316         writel(value, chip->remap_addr + ATI_REG_##reg)
317 #define atiixp_read(chip,reg) \
318         readl(chip->remap_addr + ATI_REG_##reg)
319 #define atiixp_update(chip,reg,mask,val) \
320         snd_atiixp_update_bits(chip, ATI_REG_##reg, mask, val)
321
322 /*
323  * handling DMA packets
324  *
325  * we allocate a linear buffer for the DMA, and split it to  each packet.
326  * in a future version, a scatter-gather buffer should be implemented.
327  */
328
329 #define ATI_DESC_LIST_SIZE \
330         PAGE_ALIGN(ATI_MAX_DESCRIPTORS * sizeof(struct atiixp_dma_desc))
331
332 /*
333  * build packets ring for the given buffer size.
334  *
335  * IXP handles the buffer descriptors, which are connected as a linked
336  * list.  although we can change the list dynamically, in this version,
337  * a static RING of buffer descriptors is used.
338  *
339  * the ring is built in this function, and is set up to the hardware. 
340  */
341 static int atiixp_build_dma_packets(struct atiixp *chip, struct atiixp_dma *dma,
342                                     struct snd_pcm_substream *substream,
343                                     unsigned int periods,
344                                     unsigned int period_bytes)
345 {
346         unsigned int i;
347         u32 addr, desc_addr;
348         unsigned long flags;
349
350         if (periods > ATI_MAX_DESCRIPTORS)
351                 return -ENOMEM;
352
353         if (dma->desc_buf.area == NULL) {
354                 if (snd_dma_alloc_pages(SNDRV_DMA_TYPE_DEV,
355                                         &chip->pci->dev,
356                                         ATI_DESC_LIST_SIZE,
357                                         &dma->desc_buf) < 0)
358                         return -ENOMEM;
359                 dma->period_bytes = dma->periods = 0; /* clear */
360         }
361
362         if (dma->periods == periods && dma->period_bytes == period_bytes)
363                 return 0;
364
365         /* reset DMA before changing the descriptor table */
366         spin_lock_irqsave(&chip->reg_lock, flags);
367         writel(0, chip->remap_addr + dma->ops->llp_offset);
368         dma->ops->enable_dma(chip, 0);
369         dma->ops->enable_dma(chip, 1);
370         spin_unlock_irqrestore(&chip->reg_lock, flags);
371
372         /* fill the entries */
373         addr = (u32)substream->runtime->dma_addr;
374         desc_addr = (u32)dma->desc_buf.addr;
375         for (i = 0; i < periods; i++) {
376                 struct atiixp_dma_desc *desc;
377                 desc = &((struct atiixp_dma_desc *)dma->desc_buf.area)[i];
378                 desc->addr = cpu_to_le32(addr);
379                 desc->status = 0;
380                 desc->size = period_bytes >> 2; /* in dwords */
381                 desc_addr += sizeof(struct atiixp_dma_desc);
382                 if (i == periods - 1)
383                         desc->next = cpu_to_le32((u32)dma->desc_buf.addr);
384                 else
385                         desc->next = cpu_to_le32(desc_addr);
386                 addr += period_bytes;
387         }
388
389         writel((u32)dma->desc_buf.addr | ATI_REG_LINKPTR_EN,
390                chip->remap_addr + dma->ops->llp_offset);
391
392         dma->period_bytes = period_bytes;
393         dma->periods = periods;
394
395         return 0;
396 }
397
398 /*
399  * remove the ring buffer and release it if assigned
400  */
401 static void atiixp_clear_dma_packets(struct atiixp *chip, struct atiixp_dma *dma,
402                                      struct snd_pcm_substream *substream)
403 {
404         if (dma->desc_buf.area) {
405                 writel(0, chip->remap_addr + dma->ops->llp_offset);
406                 snd_dma_free_pages(&dma->desc_buf);
407                 dma->desc_buf.area = NULL;
408         }
409 }
410
411 /*
412  * AC97 interface
413  */
414 static int snd_atiixp_acquire_codec(struct atiixp *chip)
415 {
416         int timeout = 1000;
417
418         while (atiixp_read(chip, PHYS_OUT_ADDR) & ATI_REG_PHYS_OUT_ADDR_EN) {
419                 if (! timeout--) {
420                         dev_warn(chip->card->dev, "codec acquire timeout\n");
421                         return -EBUSY;
422                 }
423                 udelay(1);
424         }
425         return 0;
426 }
427
428 static unsigned short snd_atiixp_codec_read(struct atiixp *chip, unsigned short codec, unsigned short reg)
429 {
430         unsigned int data;
431         int timeout;
432
433         if (snd_atiixp_acquire_codec(chip) < 0)
434                 return 0xffff;
435         data = (reg << ATI_REG_PHYS_OUT_ADDR_SHIFT) |
436                 ATI_REG_PHYS_OUT_ADDR_EN |
437                 ATI_REG_PHYS_OUT_RW |
438                 codec;
439         atiixp_write(chip, PHYS_OUT_ADDR, data);
440         if (snd_atiixp_acquire_codec(chip) < 0)
441                 return 0xffff;
442         timeout = 1000;
443         do {
444                 data = atiixp_read(chip, PHYS_IN_ADDR);
445                 if (data & ATI_REG_PHYS_IN_READ_FLAG)
446                         return data >> ATI_REG_PHYS_IN_DATA_SHIFT;
447                 udelay(1);
448         } while (--timeout);
449         /* time out may happen during reset */
450         if (reg < 0x7c)
451                 dev_warn(chip->card->dev, "codec read timeout (reg %x)\n", reg);
452         return 0xffff;
453 }
454
455
456 static void snd_atiixp_codec_write(struct atiixp *chip, unsigned short codec,
457                                    unsigned short reg, unsigned short val)
458 {
459         unsigned int data;
460     
461         if (snd_atiixp_acquire_codec(chip) < 0)
462                 return;
463         data = ((unsigned int)val << ATI_REG_PHYS_OUT_DATA_SHIFT) |
464                 ((unsigned int)reg << ATI_REG_PHYS_OUT_ADDR_SHIFT) |
465                 ATI_REG_PHYS_OUT_ADDR_EN | codec;
466         atiixp_write(chip, PHYS_OUT_ADDR, data);
467 }
468
469
470 static unsigned short snd_atiixp_ac97_read(struct snd_ac97 *ac97,
471                                            unsigned short reg)
472 {
473         struct atiixp *chip = ac97->private_data;
474         return snd_atiixp_codec_read(chip, ac97->num, reg);
475     
476 }
477
478 static void snd_atiixp_ac97_write(struct snd_ac97 *ac97, unsigned short reg,
479                                   unsigned short val)
480 {
481         struct atiixp *chip = ac97->private_data;
482         snd_atiixp_codec_write(chip, ac97->num, reg, val);
483 }
484
485 /*
486  * reset AC link
487  */
488 static int snd_atiixp_aclink_reset(struct atiixp *chip)
489 {
490         int timeout;
491
492         /* reset powerdoewn */
493         if (atiixp_update(chip, CMD, ATI_REG_CMD_POWERDOWN, 0))
494                 udelay(10);
495
496         /* perform a software reset */
497         atiixp_update(chip, CMD, ATI_REG_CMD_AC_SOFT_RESET, ATI_REG_CMD_AC_SOFT_RESET);
498         atiixp_read(chip, CMD);
499         udelay(10);
500         atiixp_update(chip, CMD, ATI_REG_CMD_AC_SOFT_RESET, 0);
501     
502         timeout = 10;
503         while (! (atiixp_read(chip, CMD) & ATI_REG_CMD_ACLINK_ACTIVE)) {
504                 /* do a hard reset */
505                 atiixp_update(chip, CMD, ATI_REG_CMD_AC_SYNC|ATI_REG_CMD_AC_RESET,
506                               ATI_REG_CMD_AC_SYNC);
507                 atiixp_read(chip, CMD);
508                 mdelay(1);
509                 atiixp_update(chip, CMD, ATI_REG_CMD_AC_RESET, ATI_REG_CMD_AC_RESET);
510                 if (!--timeout) {
511                         dev_err(chip->card->dev, "codec reset timeout\n");
512                         break;
513                 }
514         }
515
516         /* deassert RESET and assert SYNC to make sure */
517         atiixp_update(chip, CMD, ATI_REG_CMD_AC_SYNC|ATI_REG_CMD_AC_RESET,
518                       ATI_REG_CMD_AC_SYNC|ATI_REG_CMD_AC_RESET);
519
520         return 0;
521 }
522
523 #ifdef CONFIG_PM_SLEEP
524 static int snd_atiixp_aclink_down(struct atiixp *chip)
525 {
526         // if (atiixp_read(chip, MODEM_MIRROR) & 0x1) /* modem running, too? */
527         //      return -EBUSY;
528         atiixp_update(chip, CMD,
529                      ATI_REG_CMD_POWERDOWN | ATI_REG_CMD_AC_RESET,
530                      ATI_REG_CMD_POWERDOWN);
531         return 0;
532 }
533 #endif
534
535 /*
536  * auto-detection of codecs
537  *
538  * the IXP chip can generate interrupts for the non-existing codecs.
539  * NEW_FRAME interrupt is used to make sure that the interrupt is generated
540  * even if all three codecs are connected.
541  */
542
543 #define ALL_CODEC_NOT_READY \
544             (ATI_REG_ISR_CODEC0_NOT_READY |\
545              ATI_REG_ISR_CODEC1_NOT_READY |\
546              ATI_REG_ISR_CODEC2_NOT_READY)
547 #define CODEC_CHECK_BITS (ALL_CODEC_NOT_READY|ATI_REG_ISR_NEW_FRAME)
548
549 static int ac97_probing_bugs(struct pci_dev *pci)
550 {
551         const struct snd_pci_quirk *q;
552
553         q = snd_pci_quirk_lookup(pci, atiixp_quirks);
554         if (q) {
555                 dev_dbg(&pci->dev, "atiixp quirk for %s.  Forcing codec %d\n",
556                         snd_pci_quirk_name(q), q->value);
557                 return q->value;
558         }
559         /* this hardware doesn't need workarounds.  Probe for codec */
560         return -1;
561 }
562
563 static int snd_atiixp_codec_detect(struct atiixp *chip)
564 {
565         int timeout;
566
567         chip->codec_not_ready_bits = 0;
568         if (ac97_codec == -1)
569                 ac97_codec = ac97_probing_bugs(chip->pci);
570         if (ac97_codec >= 0) {
571                 chip->codec_not_ready_bits |= 
572                         CODEC_CHECK_BITS ^ (1 << (ac97_codec + 10));
573                 return 0;
574         }
575
576         atiixp_write(chip, IER, CODEC_CHECK_BITS);
577         /* wait for the interrupts */
578         timeout = 50;
579         while (timeout-- > 0) {
580                 mdelay(1);
581                 if (chip->codec_not_ready_bits)
582                         break;
583         }
584         atiixp_write(chip, IER, 0); /* disable irqs */
585
586         if ((chip->codec_not_ready_bits & ALL_CODEC_NOT_READY) == ALL_CODEC_NOT_READY) {
587                 dev_err(chip->card->dev, "no codec detected!\n");
588                 return -ENXIO;
589         }
590         return 0;
591 }
592
593
594 /*
595  * enable DMA and irqs
596  */
597 static int snd_atiixp_chip_start(struct atiixp *chip)
598 {
599         unsigned int reg;
600
601         /* set up spdif, enable burst mode */
602         reg = atiixp_read(chip, CMD);
603         reg |= 0x02 << ATI_REG_CMD_SPDF_THRESHOLD_SHIFT;
604         reg |= ATI_REG_CMD_BURST_EN;
605         atiixp_write(chip, CMD, reg);
606
607         reg = atiixp_read(chip, SPDF_CMD);
608         reg &= ~(ATI_REG_SPDF_CMD_LFSR|ATI_REG_SPDF_CMD_SINGLE_CH);
609         atiixp_write(chip, SPDF_CMD, reg);
610
611         /* clear all interrupt source */
612         atiixp_write(chip, ISR, 0xffffffff);
613         /* enable irqs */
614         atiixp_write(chip, IER,
615                      ATI_REG_IER_IO_STATUS_EN |
616                      ATI_REG_IER_IN_XRUN_EN |
617                      ATI_REG_IER_OUT_XRUN_EN |
618                      ATI_REG_IER_SPDF_XRUN_EN |
619                      ATI_REG_IER_SPDF_STATUS_EN);
620         return 0;
621 }
622
623
624 /*
625  * disable DMA and IRQs
626  */
627 static int snd_atiixp_chip_stop(struct atiixp *chip)
628 {
629         /* clear interrupt source */
630         atiixp_write(chip, ISR, atiixp_read(chip, ISR));
631         /* disable irqs */
632         atiixp_write(chip, IER, 0);
633         return 0;
634 }
635
636
637 /*
638  * PCM section
639  */
640
641 /*
642  * pointer callback simplly reads XXX_DMA_DT_CUR register as the current
643  * position.  when SG-buffer is implemented, the offset must be calculated
644  * correctly...
645  */
646 static snd_pcm_uframes_t snd_atiixp_pcm_pointer(struct snd_pcm_substream *substream)
647 {
648         struct atiixp *chip = snd_pcm_substream_chip(substream);
649         struct snd_pcm_runtime *runtime = substream->runtime;
650         struct atiixp_dma *dma = runtime->private_data;
651         unsigned int curptr;
652         int timeout = 1000;
653
654         while (timeout--) {
655                 curptr = readl(chip->remap_addr + dma->ops->dt_cur);
656                 if (curptr < dma->buf_addr)
657                         continue;
658                 curptr -= dma->buf_addr;
659                 if (curptr >= dma->buf_bytes)
660                         continue;
661                 return bytes_to_frames(runtime, curptr);
662         }
663         dev_dbg(chip->card->dev, "invalid DMA pointer read 0x%x (buf=%x)\n",
664                    readl(chip->remap_addr + dma->ops->dt_cur), dma->buf_addr);
665         return 0;
666 }
667
668 /*
669  * XRUN detected, and stop the PCM substream
670  */
671 static void snd_atiixp_xrun_dma(struct atiixp *chip, struct atiixp_dma *dma)
672 {
673         if (! dma->substream || ! dma->running)
674                 return;
675         dev_dbg(chip->card->dev, "XRUN detected (DMA %d)\n", dma->ops->type);
676         snd_pcm_stop_xrun(dma->substream);
677 }
678
679 /*
680  * the period ack.  update the substream.
681  */
682 static void snd_atiixp_update_dma(struct atiixp *chip, struct atiixp_dma *dma)
683 {
684         if (! dma->substream || ! dma->running)
685                 return;
686         snd_pcm_period_elapsed(dma->substream);
687 }
688
689 /* set BUS_BUSY interrupt bit if any DMA is running */
690 /* call with spinlock held */
691 static void snd_atiixp_check_bus_busy(struct atiixp *chip)
692 {
693         unsigned int bus_busy;
694         if (atiixp_read(chip, CMD) & (ATI_REG_CMD_SEND_EN |
695                                       ATI_REG_CMD_RECEIVE_EN |
696                                       ATI_REG_CMD_SPDF_OUT_EN))
697                 bus_busy = ATI_REG_IER_SET_BUS_BUSY;
698         else
699                 bus_busy = 0;
700         atiixp_update(chip, IER, ATI_REG_IER_SET_BUS_BUSY, bus_busy);
701 }
702
703 /* common trigger callback
704  * calling the lowlevel callbacks in it
705  */
706 static int snd_atiixp_pcm_trigger(struct snd_pcm_substream *substream, int cmd)
707 {
708         struct atiixp *chip = snd_pcm_substream_chip(substream);
709         struct atiixp_dma *dma = substream->runtime->private_data;
710         int err = 0;
711
712         if (snd_BUG_ON(!dma->ops->enable_transfer ||
713                        !dma->ops->flush_dma))
714                 return -EINVAL;
715
716         spin_lock(&chip->reg_lock);
717         switch (cmd) {
718         case SNDRV_PCM_TRIGGER_START:
719         case SNDRV_PCM_TRIGGER_PAUSE_RELEASE:
720         case SNDRV_PCM_TRIGGER_RESUME:
721                 if (dma->running && dma->suspended &&
722                     cmd == SNDRV_PCM_TRIGGER_RESUME)
723                         writel(dma->saved_curptr, chip->remap_addr +
724                                dma->ops->dt_cur);
725                 dma->ops->enable_transfer(chip, 1);
726                 dma->running = 1;
727                 dma->suspended = 0;
728                 break;
729         case SNDRV_PCM_TRIGGER_STOP:
730         case SNDRV_PCM_TRIGGER_PAUSE_PUSH:
731         case SNDRV_PCM_TRIGGER_SUSPEND:
732                 dma->suspended = cmd == SNDRV_PCM_TRIGGER_SUSPEND;
733                 if (dma->running && dma->suspended)
734                         dma->saved_curptr = readl(chip->remap_addr +
735                                                   dma->ops->dt_cur);
736                 dma->ops->enable_transfer(chip, 0);
737                 dma->running = 0;
738                 break;
739         default:
740                 err = -EINVAL;
741                 break;
742         }
743         if (! err) {
744                 snd_atiixp_check_bus_busy(chip);
745                 if (cmd == SNDRV_PCM_TRIGGER_STOP) {
746                         dma->ops->flush_dma(chip);
747                         snd_atiixp_check_bus_busy(chip);
748                 }
749         }
750         spin_unlock(&chip->reg_lock);
751         return err;
752 }
753
754
755 /*
756  * lowlevel callbacks for each DMA type
757  *
758  * every callback is supposed to be called in chip->reg_lock spinlock
759  */
760
761 /* flush FIFO of analog OUT DMA */
762 static void atiixp_out_flush_dma(struct atiixp *chip)
763 {
764         atiixp_write(chip, FIFO_FLUSH, ATI_REG_FIFO_OUT_FLUSH);
765 }
766
767 /* enable/disable analog OUT DMA */
768 static void atiixp_out_enable_dma(struct atiixp *chip, int on)
769 {
770         unsigned int data;
771         data = atiixp_read(chip, CMD);
772         if (on) {
773                 if (data & ATI_REG_CMD_OUT_DMA_EN)
774                         return;
775                 atiixp_out_flush_dma(chip);
776                 data |= ATI_REG_CMD_OUT_DMA_EN;
777         } else
778                 data &= ~ATI_REG_CMD_OUT_DMA_EN;
779         atiixp_write(chip, CMD, data);
780 }
781
782 /* start/stop transfer over OUT DMA */
783 static void atiixp_out_enable_transfer(struct atiixp *chip, int on)
784 {
785         atiixp_update(chip, CMD, ATI_REG_CMD_SEND_EN,
786                       on ? ATI_REG_CMD_SEND_EN : 0);
787 }
788
789 /* enable/disable analog IN DMA */
790 static void atiixp_in_enable_dma(struct atiixp *chip, int on)
791 {
792         atiixp_update(chip, CMD, ATI_REG_CMD_IN_DMA_EN,
793                       on ? ATI_REG_CMD_IN_DMA_EN : 0);
794 }
795
796 /* start/stop analog IN DMA */
797 static void atiixp_in_enable_transfer(struct atiixp *chip, int on)
798 {
799         if (on) {
800                 unsigned int data = atiixp_read(chip, CMD);
801                 if (! (data & ATI_REG_CMD_RECEIVE_EN)) {
802                         data |= ATI_REG_CMD_RECEIVE_EN;
803 #if 0 /* FIXME: this causes the endless loop */
804                         /* wait until slot 3/4 are finished */
805                         while ((atiixp_read(chip, COUNTER) &
806                                 ATI_REG_COUNTER_SLOT) != 5)
807                                 ;
808 #endif
809                         atiixp_write(chip, CMD, data);
810                 }
811         } else
812                 atiixp_update(chip, CMD, ATI_REG_CMD_RECEIVE_EN, 0);
813 }
814
815 /* flush FIFO of analog IN DMA */
816 static void atiixp_in_flush_dma(struct atiixp *chip)
817 {
818         atiixp_write(chip, FIFO_FLUSH, ATI_REG_FIFO_IN_FLUSH);
819 }
820
821 /* enable/disable SPDIF OUT DMA */
822 static void atiixp_spdif_enable_dma(struct atiixp *chip, int on)
823 {
824         atiixp_update(chip, CMD, ATI_REG_CMD_SPDF_DMA_EN,
825                       on ? ATI_REG_CMD_SPDF_DMA_EN : 0);
826 }
827
828 /* start/stop SPDIF OUT DMA */
829 static void atiixp_spdif_enable_transfer(struct atiixp *chip, int on)
830 {
831         unsigned int data;
832         data = atiixp_read(chip, CMD);
833         if (on)
834                 data |= ATI_REG_CMD_SPDF_OUT_EN;
835         else
836                 data &= ~ATI_REG_CMD_SPDF_OUT_EN;
837         atiixp_write(chip, CMD, data);
838 }
839
840 /* flush FIFO of SPDIF OUT DMA */
841 static void atiixp_spdif_flush_dma(struct atiixp *chip)
842 {
843         int timeout;
844
845         /* DMA off, transfer on */
846         atiixp_spdif_enable_dma(chip, 0);
847         atiixp_spdif_enable_transfer(chip, 1);
848         
849         timeout = 100;
850         do {
851                 if (! (atiixp_read(chip, SPDF_DMA_DT_SIZE) & ATI_REG_DMA_FIFO_USED))
852                         break;
853                 udelay(1);
854         } while (timeout-- > 0);
855
856         atiixp_spdif_enable_transfer(chip, 0);
857 }
858
859 /* set up slots and formats for SPDIF OUT */
860 static int snd_atiixp_spdif_prepare(struct snd_pcm_substream *substream)
861 {
862         struct atiixp *chip = snd_pcm_substream_chip(substream);
863
864         spin_lock_irq(&chip->reg_lock);
865         if (chip->spdif_over_aclink) {
866                 unsigned int data;
867                 /* enable slots 10/11 */
868                 atiixp_update(chip, CMD, ATI_REG_CMD_SPDF_CONFIG_MASK,
869                               ATI_REG_CMD_SPDF_CONFIG_01);
870                 data = atiixp_read(chip, OUT_DMA_SLOT) & ~ATI_REG_OUT_DMA_SLOT_MASK;
871                 data |= ATI_REG_OUT_DMA_SLOT_BIT(10) |
872                         ATI_REG_OUT_DMA_SLOT_BIT(11);
873                 data |= 0x04 << ATI_REG_OUT_DMA_THRESHOLD_SHIFT;
874                 atiixp_write(chip, OUT_DMA_SLOT, data);
875                 atiixp_update(chip, CMD, ATI_REG_CMD_INTERLEAVE_OUT,
876                               substream->runtime->format == SNDRV_PCM_FORMAT_S16_LE ?
877                               ATI_REG_CMD_INTERLEAVE_OUT : 0);
878         } else {
879                 atiixp_update(chip, CMD, ATI_REG_CMD_SPDF_CONFIG_MASK, 0);
880                 atiixp_update(chip, CMD, ATI_REG_CMD_INTERLEAVE_SPDF, 0);
881         }
882         spin_unlock_irq(&chip->reg_lock);
883         return 0;
884 }
885
886 /* set up slots and formats for analog OUT */
887 static int snd_atiixp_playback_prepare(struct snd_pcm_substream *substream)
888 {
889         struct atiixp *chip = snd_pcm_substream_chip(substream);
890         unsigned int data;
891
892         spin_lock_irq(&chip->reg_lock);
893         data = atiixp_read(chip, OUT_DMA_SLOT) & ~ATI_REG_OUT_DMA_SLOT_MASK;
894         switch (substream->runtime->channels) {
895         case 8:
896                 data |= ATI_REG_OUT_DMA_SLOT_BIT(10) |
897                         ATI_REG_OUT_DMA_SLOT_BIT(11);
898                 fallthrough;
899         case 6:
900                 data |= ATI_REG_OUT_DMA_SLOT_BIT(7) |
901                         ATI_REG_OUT_DMA_SLOT_BIT(8);
902                 fallthrough;
903         case 4:
904                 data |= ATI_REG_OUT_DMA_SLOT_BIT(6) |
905                         ATI_REG_OUT_DMA_SLOT_BIT(9);
906                 fallthrough;
907         default:
908                 data |= ATI_REG_OUT_DMA_SLOT_BIT(3) |
909                         ATI_REG_OUT_DMA_SLOT_BIT(4);
910                 break;
911         }
912
913         /* set output threshold */
914         data |= 0x04 << ATI_REG_OUT_DMA_THRESHOLD_SHIFT;
915         atiixp_write(chip, OUT_DMA_SLOT, data);
916
917         atiixp_update(chip, CMD, ATI_REG_CMD_INTERLEAVE_OUT,
918                       substream->runtime->format == SNDRV_PCM_FORMAT_S16_LE ?
919                       ATI_REG_CMD_INTERLEAVE_OUT : 0);
920
921         /*
922          * enable 6 channel re-ordering bit if needed
923          */
924         atiixp_update(chip, 6CH_REORDER, ATI_REG_6CH_REORDER_EN,
925                       substream->runtime->channels >= 6 ? ATI_REG_6CH_REORDER_EN: 0);
926     
927         spin_unlock_irq(&chip->reg_lock);
928         return 0;
929 }
930
931 /* set up slots and formats for analog IN */
932 static int snd_atiixp_capture_prepare(struct snd_pcm_substream *substream)
933 {
934         struct atiixp *chip = snd_pcm_substream_chip(substream);
935
936         spin_lock_irq(&chip->reg_lock);
937         atiixp_update(chip, CMD, ATI_REG_CMD_INTERLEAVE_IN,
938                       substream->runtime->format == SNDRV_PCM_FORMAT_S16_LE ?
939                       ATI_REG_CMD_INTERLEAVE_IN : 0);
940         spin_unlock_irq(&chip->reg_lock);
941         return 0;
942 }
943
944 /*
945  * hw_params - allocate the buffer and set up buffer descriptors
946  */
947 static int snd_atiixp_pcm_hw_params(struct snd_pcm_substream *substream,
948                                     struct snd_pcm_hw_params *hw_params)
949 {
950         struct atiixp *chip = snd_pcm_substream_chip(substream);
951         struct atiixp_dma *dma = substream->runtime->private_data;
952         int err;
953
954         dma->buf_addr = substream->runtime->dma_addr;
955         dma->buf_bytes = params_buffer_bytes(hw_params);
956
957         err = atiixp_build_dma_packets(chip, dma, substream,
958                                        params_periods(hw_params),
959                                        params_period_bytes(hw_params));
960         if (err < 0)
961                 return err;
962
963         if (dma->ac97_pcm_type >= 0) {
964                 struct ac97_pcm *pcm = chip->pcms[dma->ac97_pcm_type];
965                 /* PCM is bound to AC97 codec(s)
966                  * set up the AC97 codecs
967                  */
968                 if (dma->pcm_open_flag) {
969                         snd_ac97_pcm_close(pcm);
970                         dma->pcm_open_flag = 0;
971                 }
972                 err = snd_ac97_pcm_open(pcm, params_rate(hw_params),
973                                         params_channels(hw_params),
974                                         pcm->r[0].slots);
975                 if (err >= 0)
976                         dma->pcm_open_flag = 1;
977         }
978
979         return err;
980 }
981
982 static int snd_atiixp_pcm_hw_free(struct snd_pcm_substream *substream)
983 {
984         struct atiixp *chip = snd_pcm_substream_chip(substream);
985         struct atiixp_dma *dma = substream->runtime->private_data;
986
987         if (dma->pcm_open_flag) {
988                 struct ac97_pcm *pcm = chip->pcms[dma->ac97_pcm_type];
989                 snd_ac97_pcm_close(pcm);
990                 dma->pcm_open_flag = 0;
991         }
992         atiixp_clear_dma_packets(chip, dma, substream);
993         return 0;
994 }
995
996
997 /*
998  * pcm hardware definition, identical for all DMA types
999  */
1000 static const struct snd_pcm_hardware snd_atiixp_pcm_hw =
1001 {
1002         .info =                 (SNDRV_PCM_INFO_MMAP | SNDRV_PCM_INFO_INTERLEAVED |
1003                                  SNDRV_PCM_INFO_BLOCK_TRANSFER |
1004                                  SNDRV_PCM_INFO_PAUSE |
1005                                  SNDRV_PCM_INFO_RESUME |
1006                                  SNDRV_PCM_INFO_MMAP_VALID),
1007         .formats =              SNDRV_PCM_FMTBIT_S16_LE | SNDRV_PCM_FMTBIT_S32_LE,
1008         .rates =                SNDRV_PCM_RATE_48000,
1009         .rate_min =             48000,
1010         .rate_max =             48000,
1011         .channels_min =         2,
1012         .channels_max =         2,
1013         .buffer_bytes_max =     256 * 1024,
1014         .period_bytes_min =     32,
1015         .period_bytes_max =     128 * 1024,
1016         .periods_min =          2,
1017         .periods_max =          ATI_MAX_DESCRIPTORS,
1018 };
1019
1020 static int snd_atiixp_pcm_open(struct snd_pcm_substream *substream,
1021                                struct atiixp_dma *dma, int pcm_type)
1022 {
1023         struct atiixp *chip = snd_pcm_substream_chip(substream);
1024         struct snd_pcm_runtime *runtime = substream->runtime;
1025         int err;
1026
1027         if (snd_BUG_ON(!dma->ops || !dma->ops->enable_dma))
1028                 return -EINVAL;
1029
1030         if (dma->opened)
1031                 return -EBUSY;
1032         dma->substream = substream;
1033         runtime->hw = snd_atiixp_pcm_hw;
1034         dma->ac97_pcm_type = pcm_type;
1035         if (pcm_type >= 0) {
1036                 runtime->hw.rates = chip->pcms[pcm_type]->rates;
1037                 snd_pcm_limit_hw_rates(runtime);
1038         } else {
1039                 /* direct SPDIF */
1040                 runtime->hw.formats = SNDRV_PCM_FMTBIT_IEC958_SUBFRAME_LE;
1041         }
1042         if ((err = snd_pcm_hw_constraint_integer(runtime, SNDRV_PCM_HW_PARAM_PERIODS)) < 0)
1043                 return err;
1044         runtime->private_data = dma;
1045
1046         /* enable DMA bits */
1047         spin_lock_irq(&chip->reg_lock);
1048         dma->ops->enable_dma(chip, 1);
1049         spin_unlock_irq(&chip->reg_lock);
1050         dma->opened = 1;
1051
1052         return 0;
1053 }
1054
1055 static int snd_atiixp_pcm_close(struct snd_pcm_substream *substream,
1056                                 struct atiixp_dma *dma)
1057 {
1058         struct atiixp *chip = snd_pcm_substream_chip(substream);
1059         /* disable DMA bits */
1060         if (snd_BUG_ON(!dma->ops || !dma->ops->enable_dma))
1061                 return -EINVAL;
1062         spin_lock_irq(&chip->reg_lock);
1063         dma->ops->enable_dma(chip, 0);
1064         spin_unlock_irq(&chip->reg_lock);
1065         dma->substream = NULL;
1066         dma->opened = 0;
1067         return 0;
1068 }
1069
1070 /*
1071  */
1072 static int snd_atiixp_playback_open(struct snd_pcm_substream *substream)
1073 {
1074         struct atiixp *chip = snd_pcm_substream_chip(substream);
1075         int err;
1076
1077         mutex_lock(&chip->open_mutex);
1078         err = snd_atiixp_pcm_open(substream, &chip->dmas[ATI_DMA_PLAYBACK], 0);
1079         mutex_unlock(&chip->open_mutex);
1080         if (err < 0)
1081                 return err;
1082         substream->runtime->hw.channels_max = chip->max_channels;
1083         if (chip->max_channels > 2)
1084                 /* channels must be even */
1085                 snd_pcm_hw_constraint_step(substream->runtime, 0,
1086                                            SNDRV_PCM_HW_PARAM_CHANNELS, 2);
1087         return 0;
1088 }
1089
1090 static int snd_atiixp_playback_close(struct snd_pcm_substream *substream)
1091 {
1092         struct atiixp *chip = snd_pcm_substream_chip(substream);
1093         int err;
1094         mutex_lock(&chip->open_mutex);
1095         err = snd_atiixp_pcm_close(substream, &chip->dmas[ATI_DMA_PLAYBACK]);
1096         mutex_unlock(&chip->open_mutex);
1097         return err;
1098 }
1099
1100 static int snd_atiixp_capture_open(struct snd_pcm_substream *substream)
1101 {
1102         struct atiixp *chip = snd_pcm_substream_chip(substream);
1103         return snd_atiixp_pcm_open(substream, &chip->dmas[ATI_DMA_CAPTURE], 1);
1104 }
1105
1106 static int snd_atiixp_capture_close(struct snd_pcm_substream *substream)
1107 {
1108         struct atiixp *chip = snd_pcm_substream_chip(substream);
1109         return snd_atiixp_pcm_close(substream, &chip->dmas[ATI_DMA_CAPTURE]);
1110 }
1111
1112 static int snd_atiixp_spdif_open(struct snd_pcm_substream *substream)
1113 {
1114         struct atiixp *chip = snd_pcm_substream_chip(substream);
1115         int err;
1116         mutex_lock(&chip->open_mutex);
1117         if (chip->spdif_over_aclink) /* share DMA_PLAYBACK */
1118                 err = snd_atiixp_pcm_open(substream, &chip->dmas[ATI_DMA_PLAYBACK], 2);
1119         else
1120                 err = snd_atiixp_pcm_open(substream, &chip->dmas[ATI_DMA_SPDIF], -1);
1121         mutex_unlock(&chip->open_mutex);
1122         return err;
1123 }
1124
1125 static int snd_atiixp_spdif_close(struct snd_pcm_substream *substream)
1126 {
1127         struct atiixp *chip = snd_pcm_substream_chip(substream);
1128         int err;
1129         mutex_lock(&chip->open_mutex);
1130         if (chip->spdif_over_aclink)
1131                 err = snd_atiixp_pcm_close(substream, &chip->dmas[ATI_DMA_PLAYBACK]);
1132         else
1133                 err = snd_atiixp_pcm_close(substream, &chip->dmas[ATI_DMA_SPDIF]);
1134         mutex_unlock(&chip->open_mutex);
1135         return err;
1136 }
1137
1138 /* AC97 playback */
1139 static const struct snd_pcm_ops snd_atiixp_playback_ops = {
1140         .open =         snd_atiixp_playback_open,
1141         .close =        snd_atiixp_playback_close,
1142         .hw_params =    snd_atiixp_pcm_hw_params,
1143         .hw_free =      snd_atiixp_pcm_hw_free,
1144         .prepare =      snd_atiixp_playback_prepare,
1145         .trigger =      snd_atiixp_pcm_trigger,
1146         .pointer =      snd_atiixp_pcm_pointer,
1147 };
1148
1149 /* AC97 capture */
1150 static const struct snd_pcm_ops snd_atiixp_capture_ops = {
1151         .open =         snd_atiixp_capture_open,
1152         .close =        snd_atiixp_capture_close,
1153         .hw_params =    snd_atiixp_pcm_hw_params,
1154         .hw_free =      snd_atiixp_pcm_hw_free,
1155         .prepare =      snd_atiixp_capture_prepare,
1156         .trigger =      snd_atiixp_pcm_trigger,
1157         .pointer =      snd_atiixp_pcm_pointer,
1158 };
1159
1160 /* SPDIF playback */
1161 static const struct snd_pcm_ops snd_atiixp_spdif_ops = {
1162         .open =         snd_atiixp_spdif_open,
1163         .close =        snd_atiixp_spdif_close,
1164         .hw_params =    snd_atiixp_pcm_hw_params,
1165         .hw_free =      snd_atiixp_pcm_hw_free,
1166         .prepare =      snd_atiixp_spdif_prepare,
1167         .trigger =      snd_atiixp_pcm_trigger,
1168         .pointer =      snd_atiixp_pcm_pointer,
1169 };
1170
1171 static const struct ac97_pcm atiixp_pcm_defs[] = {
1172         /* front PCM */
1173         {
1174                 .exclusive = 1,
1175                 .r = {  {
1176                                 .slots = (1 << AC97_SLOT_PCM_LEFT) |
1177                                          (1 << AC97_SLOT_PCM_RIGHT) |
1178                                          (1 << AC97_SLOT_PCM_CENTER) |
1179                                          (1 << AC97_SLOT_PCM_SLEFT) |
1180                                          (1 << AC97_SLOT_PCM_SRIGHT) |
1181                                          (1 << AC97_SLOT_LFE)
1182                         }
1183                 }
1184         },
1185         /* PCM IN #1 */
1186         {
1187                 .stream = 1,
1188                 .exclusive = 1,
1189                 .r = {  {
1190                                 .slots = (1 << AC97_SLOT_PCM_LEFT) |
1191                                          (1 << AC97_SLOT_PCM_RIGHT)
1192                         }
1193                 }
1194         },
1195         /* S/PDIF OUT (optional) */
1196         {
1197                 .exclusive = 1,
1198                 .spdif = 1,
1199                 .r = {  {
1200                                 .slots = (1 << AC97_SLOT_SPDIF_LEFT2) |
1201                                          (1 << AC97_SLOT_SPDIF_RIGHT2)
1202                         }
1203                 }
1204         },
1205 };
1206
1207 static const struct atiixp_dma_ops snd_atiixp_playback_dma_ops = {
1208         .type = ATI_DMA_PLAYBACK,
1209         .llp_offset = ATI_REG_OUT_DMA_LINKPTR,
1210         .dt_cur = ATI_REG_OUT_DMA_DT_CUR,
1211         .enable_dma = atiixp_out_enable_dma,
1212         .enable_transfer = atiixp_out_enable_transfer,
1213         .flush_dma = atiixp_out_flush_dma,
1214 };
1215         
1216 static const struct atiixp_dma_ops snd_atiixp_capture_dma_ops = {
1217         .type = ATI_DMA_CAPTURE,
1218         .llp_offset = ATI_REG_IN_DMA_LINKPTR,
1219         .dt_cur = ATI_REG_IN_DMA_DT_CUR,
1220         .enable_dma = atiixp_in_enable_dma,
1221         .enable_transfer = atiixp_in_enable_transfer,
1222         .flush_dma = atiixp_in_flush_dma,
1223 };
1224         
1225 static const struct atiixp_dma_ops snd_atiixp_spdif_dma_ops = {
1226         .type = ATI_DMA_SPDIF,
1227         .llp_offset = ATI_REG_SPDF_DMA_LINKPTR,
1228         .dt_cur = ATI_REG_SPDF_DMA_DT_CUR,
1229         .enable_dma = atiixp_spdif_enable_dma,
1230         .enable_transfer = atiixp_spdif_enable_transfer,
1231         .flush_dma = atiixp_spdif_flush_dma,
1232 };
1233         
1234
1235 static int snd_atiixp_pcm_new(struct atiixp *chip)
1236 {
1237         struct snd_pcm *pcm;
1238         struct snd_pcm_chmap *chmap;
1239         struct snd_ac97_bus *pbus = chip->ac97_bus;
1240         int err, i, num_pcms;
1241
1242         /* initialize constants */
1243         chip->dmas[ATI_DMA_PLAYBACK].ops = &snd_atiixp_playback_dma_ops;
1244         chip->dmas[ATI_DMA_CAPTURE].ops = &snd_atiixp_capture_dma_ops;
1245         if (! chip->spdif_over_aclink)
1246                 chip->dmas[ATI_DMA_SPDIF].ops = &snd_atiixp_spdif_dma_ops;
1247
1248         /* assign AC97 pcm */
1249         if (chip->spdif_over_aclink)
1250                 num_pcms = 3;
1251         else
1252                 num_pcms = 2;
1253         err = snd_ac97_pcm_assign(pbus, num_pcms, atiixp_pcm_defs);
1254         if (err < 0)
1255                 return err;
1256         for (i = 0; i < num_pcms; i++)
1257                 chip->pcms[i] = &pbus->pcms[i];
1258
1259         chip->max_channels = 2;
1260         if (pbus->pcms[ATI_PCM_OUT].r[0].slots & (1 << AC97_SLOT_PCM_SLEFT)) {
1261                 if (pbus->pcms[ATI_PCM_OUT].r[0].slots & (1 << AC97_SLOT_LFE))
1262                         chip->max_channels = 6;
1263                 else
1264                         chip->max_channels = 4;
1265         }
1266
1267         /* PCM #0: analog I/O */
1268         err = snd_pcm_new(chip->card, "ATI IXP AC97",
1269                           ATI_PCMDEV_ANALOG, 1, 1, &pcm);
1270         if (err < 0)
1271                 return err;
1272         snd_pcm_set_ops(pcm, SNDRV_PCM_STREAM_PLAYBACK, &snd_atiixp_playback_ops);
1273         snd_pcm_set_ops(pcm, SNDRV_PCM_STREAM_CAPTURE, &snd_atiixp_capture_ops);
1274         pcm->private_data = chip;
1275         strcpy(pcm->name, "ATI IXP AC97");
1276         chip->pcmdevs[ATI_PCMDEV_ANALOG] = pcm;
1277
1278         snd_pcm_set_managed_buffer_all(pcm, SNDRV_DMA_TYPE_DEV,
1279                                        &chip->pci->dev, 64*1024, 128*1024);
1280
1281         err = snd_pcm_add_chmap_ctls(pcm, SNDRV_PCM_STREAM_PLAYBACK,
1282                                      snd_pcm_alt_chmaps, chip->max_channels, 0,
1283                                      &chmap);
1284         if (err < 0)
1285                 return err;
1286         chmap->channel_mask = SND_PCM_CHMAP_MASK_2468;
1287         chip->ac97[0]->chmaps[SNDRV_PCM_STREAM_PLAYBACK] = chmap;
1288
1289         /* no SPDIF support on codec? */
1290         if (chip->pcms[ATI_PCM_SPDIF] && ! chip->pcms[ATI_PCM_SPDIF]->rates)
1291                 return 0;
1292                 
1293         /* FIXME: non-48k sample rate doesn't work on my test machine with AD1888 */
1294         if (chip->pcms[ATI_PCM_SPDIF])
1295                 chip->pcms[ATI_PCM_SPDIF]->rates = SNDRV_PCM_RATE_48000;
1296
1297         /* PCM #1: spdif playback */
1298         err = snd_pcm_new(chip->card, "ATI IXP IEC958",
1299                           ATI_PCMDEV_DIGITAL, 1, 0, &pcm);
1300         if (err < 0)
1301                 return err;
1302         snd_pcm_set_ops(pcm, SNDRV_PCM_STREAM_PLAYBACK, &snd_atiixp_spdif_ops);
1303         pcm->private_data = chip;
1304         if (chip->spdif_over_aclink)
1305                 strcpy(pcm->name, "ATI IXP IEC958 (AC97)");
1306         else
1307                 strcpy(pcm->name, "ATI IXP IEC958 (Direct)");
1308         chip->pcmdevs[ATI_PCMDEV_DIGITAL] = pcm;
1309
1310         snd_pcm_set_managed_buffer_all(pcm, SNDRV_DMA_TYPE_DEV,
1311                                        &chip->pci->dev, 64*1024, 128*1024);
1312
1313         /* pre-select AC97 SPDIF slots 10/11 */
1314         for (i = 0; i < NUM_ATI_CODECS; i++) {
1315                 if (chip->ac97[i])
1316                         snd_ac97_update_bits(chip->ac97[i],
1317                                              AC97_EXTENDED_STATUS,
1318                                              0x03 << 4, 0x03 << 4);
1319         }
1320
1321         return 0;
1322 }
1323
1324
1325
1326 /*
1327  * interrupt handler
1328  */
1329 static irqreturn_t snd_atiixp_interrupt(int irq, void *dev_id)
1330 {
1331         struct atiixp *chip = dev_id;
1332         unsigned int status;
1333
1334         status = atiixp_read(chip, ISR);
1335
1336         if (! status)
1337                 return IRQ_NONE;
1338
1339         /* process audio DMA */
1340         if (status & ATI_REG_ISR_OUT_XRUN)
1341                 snd_atiixp_xrun_dma(chip,  &chip->dmas[ATI_DMA_PLAYBACK]);
1342         else if (status & ATI_REG_ISR_OUT_STATUS)
1343                 snd_atiixp_update_dma(chip, &chip->dmas[ATI_DMA_PLAYBACK]);
1344         if (status & ATI_REG_ISR_IN_XRUN)
1345                 snd_atiixp_xrun_dma(chip,  &chip->dmas[ATI_DMA_CAPTURE]);
1346         else if (status & ATI_REG_ISR_IN_STATUS)
1347                 snd_atiixp_update_dma(chip, &chip->dmas[ATI_DMA_CAPTURE]);
1348         if (! chip->spdif_over_aclink) {
1349                 if (status & ATI_REG_ISR_SPDF_XRUN)
1350                         snd_atiixp_xrun_dma(chip,  &chip->dmas[ATI_DMA_SPDIF]);
1351                 else if (status & ATI_REG_ISR_SPDF_STATUS)
1352                         snd_atiixp_update_dma(chip, &chip->dmas[ATI_DMA_SPDIF]);
1353         }
1354
1355         /* for codec detection */
1356         if (status & CODEC_CHECK_BITS) {
1357                 unsigned int detected;
1358                 detected = status & CODEC_CHECK_BITS;
1359                 spin_lock(&chip->reg_lock);
1360                 chip->codec_not_ready_bits |= detected;
1361                 atiixp_update(chip, IER, detected, 0); /* disable the detected irqs */
1362                 spin_unlock(&chip->reg_lock);
1363         }
1364
1365         /* ack */
1366         atiixp_write(chip, ISR, status);
1367
1368         return IRQ_HANDLED;
1369 }
1370
1371
1372 /*
1373  * ac97 mixer section
1374  */
1375
1376 static const struct ac97_quirk ac97_quirks[] = {
1377         {
1378                 .subvendor = 0x103c,
1379                 .subdevice = 0x006b,
1380                 .name = "HP Pavilion ZV5030US",
1381                 .type = AC97_TUNE_MUTE_LED
1382         },
1383         {
1384                 .subvendor = 0x103c,
1385                 .subdevice = 0x308b,
1386                 .name = "HP nx6125",
1387                 .type = AC97_TUNE_MUTE_LED
1388         },
1389         {
1390                 .subvendor = 0x103c,
1391                 .subdevice = 0x3091,
1392                 .name = "unknown HP",
1393                 .type = AC97_TUNE_MUTE_LED
1394         },
1395         { } /* terminator */
1396 };
1397
1398 static int snd_atiixp_mixer_new(struct atiixp *chip, int clock,
1399                                 const char *quirk_override)
1400 {
1401         struct snd_ac97_bus *pbus;
1402         struct snd_ac97_template ac97;
1403         int i, err;
1404         int codec_count;
1405         static const struct snd_ac97_bus_ops ops = {
1406                 .write = snd_atiixp_ac97_write,
1407                 .read = snd_atiixp_ac97_read,
1408         };
1409         static const unsigned int codec_skip[NUM_ATI_CODECS] = {
1410                 ATI_REG_ISR_CODEC0_NOT_READY,
1411                 ATI_REG_ISR_CODEC1_NOT_READY,
1412                 ATI_REG_ISR_CODEC2_NOT_READY,
1413         };
1414
1415         if (snd_atiixp_codec_detect(chip) < 0)
1416                 return -ENXIO;
1417
1418         if ((err = snd_ac97_bus(chip->card, 0, &ops, chip, &pbus)) < 0)
1419                 return err;
1420         pbus->clock = clock;
1421         chip->ac97_bus = pbus;
1422
1423         codec_count = 0;
1424         for (i = 0; i < NUM_ATI_CODECS; i++) {
1425                 if (chip->codec_not_ready_bits & codec_skip[i])
1426                         continue;
1427                 memset(&ac97, 0, sizeof(ac97));
1428                 ac97.private_data = chip;
1429                 ac97.pci = chip->pci;
1430                 ac97.num = i;
1431                 ac97.scaps = AC97_SCAP_SKIP_MODEM | AC97_SCAP_POWER_SAVE;
1432                 if (! chip->spdif_over_aclink)
1433                         ac97.scaps |= AC97_SCAP_NO_SPDIF;
1434                 if ((err = snd_ac97_mixer(pbus, &ac97, &chip->ac97[i])) < 0) {
1435                         chip->ac97[i] = NULL; /* to be sure */
1436                         dev_dbg(chip->card->dev,
1437                                 "codec %d not available for audio\n", i);
1438                         continue;
1439                 }
1440                 codec_count++;
1441         }
1442
1443         if (! codec_count) {
1444                 dev_err(chip->card->dev, "no codec available\n");
1445                 return -ENODEV;
1446         }
1447
1448         snd_ac97_tune_hardware(chip->ac97[0], ac97_quirks, quirk_override);
1449
1450         return 0;
1451 }
1452
1453
1454 #ifdef CONFIG_PM_SLEEP
1455 /*
1456  * power management
1457  */
1458 static int snd_atiixp_suspend(struct device *dev)
1459 {
1460         struct snd_card *card = dev_get_drvdata(dev);
1461         struct atiixp *chip = card->private_data;
1462         int i;
1463
1464         snd_power_change_state(card, SNDRV_CTL_POWER_D3hot);
1465         for (i = 0; i < NUM_ATI_CODECS; i++)
1466                 snd_ac97_suspend(chip->ac97[i]);
1467         snd_atiixp_aclink_down(chip);
1468         snd_atiixp_chip_stop(chip);
1469         return 0;
1470 }
1471
1472 static int snd_atiixp_resume(struct device *dev)
1473 {
1474         struct snd_card *card = dev_get_drvdata(dev);
1475         struct atiixp *chip = card->private_data;
1476         int i;
1477
1478         snd_atiixp_aclink_reset(chip);
1479         snd_atiixp_chip_start(chip);
1480
1481         for (i = 0; i < NUM_ATI_CODECS; i++)
1482                 snd_ac97_resume(chip->ac97[i]);
1483
1484         for (i = 0; i < NUM_ATI_PCMDEVS; i++)
1485                 if (chip->pcmdevs[i]) {
1486                         struct atiixp_dma *dma = &chip->dmas[i];
1487                         if (dma->substream && dma->suspended) {
1488                                 dma->ops->enable_dma(chip, 1);
1489                                 dma->substream->ops->prepare(dma->substream);
1490                                 writel((u32)dma->desc_buf.addr | ATI_REG_LINKPTR_EN,
1491                                        chip->remap_addr + dma->ops->llp_offset);
1492                         }
1493                 }
1494
1495         snd_power_change_state(card, SNDRV_CTL_POWER_D0);
1496         return 0;
1497 }
1498
1499 static SIMPLE_DEV_PM_OPS(snd_atiixp_pm, snd_atiixp_suspend, snd_atiixp_resume);
1500 #define SND_ATIIXP_PM_OPS       &snd_atiixp_pm
1501 #else
1502 #define SND_ATIIXP_PM_OPS       NULL
1503 #endif /* CONFIG_PM_SLEEP */
1504
1505
1506 /*
1507  * proc interface for register dump
1508  */
1509
1510 static void snd_atiixp_proc_read(struct snd_info_entry *entry,
1511                                  struct snd_info_buffer *buffer)
1512 {
1513         struct atiixp *chip = entry->private_data;
1514         int i;
1515
1516         for (i = 0; i < 256; i += 4)
1517                 snd_iprintf(buffer, "%02x: %08x\n", i, readl(chip->remap_addr + i));
1518 }
1519
1520 static void snd_atiixp_proc_init(struct atiixp *chip)
1521 {
1522         snd_card_ro_proc_new(chip->card, "atiixp", chip, snd_atiixp_proc_read);
1523 }
1524
1525
1526 /*
1527  * destructor
1528  */
1529
1530 static int snd_atiixp_free(struct atiixp *chip)
1531 {
1532         if (chip->irq < 0)
1533                 goto __hw_end;
1534         snd_atiixp_chip_stop(chip);
1535
1536       __hw_end:
1537         if (chip->irq >= 0)
1538                 free_irq(chip->irq, chip);
1539         iounmap(chip->remap_addr);
1540         pci_release_regions(chip->pci);
1541         pci_disable_device(chip->pci);
1542         kfree(chip);
1543         return 0;
1544 }
1545
1546 static int snd_atiixp_dev_free(struct snd_device *device)
1547 {
1548         struct atiixp *chip = device->device_data;
1549         return snd_atiixp_free(chip);
1550 }
1551
1552 /*
1553  * constructor for chip instance
1554  */
1555 static int snd_atiixp_create(struct snd_card *card,
1556                              struct pci_dev *pci,
1557                              struct atiixp **r_chip)
1558 {
1559         static const struct snd_device_ops ops = {
1560                 .dev_free =     snd_atiixp_dev_free,
1561         };
1562         struct atiixp *chip;
1563         int err;
1564
1565         if ((err = pci_enable_device(pci)) < 0)
1566                 return err;
1567
1568         chip = kzalloc(sizeof(*chip), GFP_KERNEL);
1569         if (chip == NULL) {
1570                 pci_disable_device(pci);
1571                 return -ENOMEM;
1572         }
1573
1574         spin_lock_init(&chip->reg_lock);
1575         mutex_init(&chip->open_mutex);
1576         chip->card = card;
1577         chip->pci = pci;
1578         chip->irq = -1;
1579         if ((err = pci_request_regions(pci, "ATI IXP AC97")) < 0) {
1580                 pci_disable_device(pci);
1581                 kfree(chip);
1582                 return err;
1583         }
1584         chip->addr = pci_resource_start(pci, 0);
1585         chip->remap_addr = pci_ioremap_bar(pci, 0);
1586         if (chip->remap_addr == NULL) {
1587                 dev_err(card->dev, "AC'97 space ioremap problem\n");
1588                 snd_atiixp_free(chip);
1589                 return -EIO;
1590         }
1591
1592         if (request_irq(pci->irq, snd_atiixp_interrupt, IRQF_SHARED,
1593                         KBUILD_MODNAME, chip)) {
1594                 dev_err(card->dev, "unable to grab IRQ %d\n", pci->irq);
1595                 snd_atiixp_free(chip);
1596                 return -EBUSY;
1597         }
1598         chip->irq = pci->irq;
1599         card->sync_irq = chip->irq;
1600         pci_set_master(pci);
1601
1602         if ((err = snd_device_new(card, SNDRV_DEV_LOWLEVEL, chip, &ops)) < 0) {
1603                 snd_atiixp_free(chip);
1604                 return err;
1605         }
1606
1607         *r_chip = chip;
1608         return 0;
1609 }
1610
1611
1612 static int snd_atiixp_probe(struct pci_dev *pci,
1613                             const struct pci_device_id *pci_id)
1614 {
1615         struct snd_card *card;
1616         struct atiixp *chip;
1617         int err;
1618
1619         err = snd_card_new(&pci->dev, index, id, THIS_MODULE, 0, &card);
1620         if (err < 0)
1621                 return err;
1622
1623         strcpy(card->driver, spdif_aclink ? "ATIIXP" : "ATIIXP-SPDMA");
1624         strcpy(card->shortname, "ATI IXP");
1625         if ((err = snd_atiixp_create(card, pci, &chip)) < 0)
1626                 goto __error;
1627         card->private_data = chip;
1628
1629         if ((err = snd_atiixp_aclink_reset(chip)) < 0)
1630                 goto __error;
1631
1632         chip->spdif_over_aclink = spdif_aclink;
1633
1634         if ((err = snd_atiixp_mixer_new(chip, ac97_clock, ac97_quirk)) < 0)
1635                 goto __error;
1636
1637         if ((err = snd_atiixp_pcm_new(chip)) < 0)
1638                 goto __error;
1639         
1640         snd_atiixp_proc_init(chip);
1641
1642         snd_atiixp_chip_start(chip);
1643
1644         snprintf(card->longname, sizeof(card->longname),
1645                  "%s rev %x with %s at %#lx, irq %i", card->shortname,
1646                  pci->revision,
1647                  chip->ac97[0] ? snd_ac97_get_short_name(chip->ac97[0]) : "?",
1648                  chip->addr, chip->irq);
1649
1650         if ((err = snd_card_register(card)) < 0)
1651                 goto __error;
1652
1653         pci_set_drvdata(pci, card);
1654         return 0;
1655
1656  __error:
1657         snd_card_free(card);
1658         return err;
1659 }
1660
1661 static void snd_atiixp_remove(struct pci_dev *pci)
1662 {
1663         snd_card_free(pci_get_drvdata(pci));
1664 }
1665
1666 static struct pci_driver atiixp_driver = {
1667         .name = KBUILD_MODNAME,
1668         .id_table = snd_atiixp_ids,
1669         .probe = snd_atiixp_probe,
1670         .remove = snd_atiixp_remove,
1671         .driver = {
1672                 .pm = SND_ATIIXP_PM_OPS,
1673         },
1674 };
1675
1676 module_pci_driver(atiixp_driver);