drivers/pci/hotplug/ibmphp_core.c

   1 // SPDX-License-Identifier: GPL-2.0+
   2 /*
   3  * IBM Hot Plug Controller Driver
   4  *
   5  * Written By: Chuck Cole, Jyoti Shah, Tong Yu, Irene Zubarev, IBM Corporation
   6  *
   7  * Copyright (C) 2001,2003 Greg Kroah-Hartman (greg@kroah.com)
   8  * Copyright (C) 2001-2003 IBM Corp.
   9  *
  10  * All rights reserved.
  11  *
  12  * Send feedback to <gregkh@us.ibm.com>
  13  *
  14  */
  15
  16 #include <linux/init.h>
  17 #include <linux/module.h>
  18 #include <linux/slab.h>
  19 #include <linux/pci.h>
  20 #include <linux/interrupt.h>
  21 #include <linux/delay.h>
  22 #include <linux/wait.h>
  23 #include "../pci.h"
  24 #include <asm/pci_x86.h>                /* for struct irq_routing_table */
  25 #include <asm/io_apic.h>
  26 #include "ibmphp.h"
  27
  28 #define attn_on(sl)  ibmphp_hpc_writeslot(sl, HPC_SLOT_ATTNON)
  29 #define attn_off(sl) ibmphp_hpc_writeslot(sl, HPC_SLOT_ATTNOFF)
  30 #define attn_LED_blink(sl) ibmphp_hpc_writeslot(sl, HPC_SLOT_BLINKLED)
  31 #define get_ctrl_revision(sl, rev) ibmphp_hpc_readslot(sl, READ_REVLEVEL, rev)
  32 #define get_hpc_options(sl, opt) ibmphp_hpc_readslot(sl, READ_HPCOPTIONS, opt)
  33
  34 #define DRIVER_VERSION  "0.6"
  35 #define DRIVER_DESC     "IBM Hot Plug PCI Controller Driver"
  36
  37 int ibmphp_debug;
  38
  39 static bool debug;
  40 module_param(debug, bool, S_IRUGO | S_IWUSR);
  41 MODULE_PARM_DESC(debug, "Debugging mode enabled or not");
  42 MODULE_LICENSE("GPL");
  43 MODULE_DESCRIPTION(DRIVER_DESC);
  44
  45 struct pci_bus *ibmphp_pci_bus;
  46 static int max_slots;
  47
  48 static int irqs[16];    /* PIC mode IRQs we're using so far (in case MPS
  49                          * tables don't provide default info for empty slots */
  50
  51 static int init_flag;
  52
  53 /*
  54 static int get_max_adapter_speed_1 (struct hotplug_slot *, u8 *, u8);
  55
  56 static inline int get_max_adapter_speed (struct hotplug_slot *hs, u8 *value)
  57 {
  58         return get_max_adapter_speed_1 (hs, value, 1);
  59 }
  60 */
  61 static inline int get_cur_bus_info(struct slot **sl)
  62 {
  63         int rc = 1;
  64         struct slot *slot_cur = *sl;
  65
  66         debug("options = %x\n", slot_cur->ctrl->options);
  67         debug("revision = %x\n", slot_cur->ctrl->revision);
  68
  69         if (READ_BUS_STATUS(slot_cur->ctrl))
  70                 rc = ibmphp_hpc_readslot(slot_cur, READ_BUSSTATUS, NULL);
  71
  72         if (rc)
  73                 return rc;
  74
  75         slot_cur->bus_on->current_speed = CURRENT_BUS_SPEED(slot_cur->busstatus);
  76         if (READ_BUS_MODE(slot_cur->ctrl))
  77                 slot_cur->bus_on->current_bus_mode =
  78                                 CURRENT_BUS_MODE(slot_cur->busstatus);
  79         else
  80                 slot_cur->bus_on->current_bus_mode = 0xFF;
  81
  82         debug("busstatus = %x, bus_speed = %x, bus_mode = %x\n",
  83                         slot_cur->busstatus,
  84                         slot_cur->bus_on->current_speed,
  85                         slot_cur->bus_on->current_bus_mode);
  86
  87         *sl = slot_cur;
  88         return 0;
  89 }
  90
  91 static inline int slot_update(struct slot **sl)
  92 {
  93         int rc;
  94         rc = ibmphp_hpc_readslot(*sl, READ_ALLSTAT, NULL);
  95         if (rc)
  96                 return rc;
  97         if (!init_flag)
  98                 rc = get_cur_bus_info(sl);
  99         return rc;
 100 }
 101
 102 static int __init get_max_slots(void)
 103 {
 104         struct slot *slot_cur;
 105         u8 slot_count = 0;
 106
 107         list_for_each_entry(slot_cur, &ibmphp_slot_head, ibm_slot_list) {
 108                 /* sometimes the hot-pluggable slots start with 4 (not always from 1) */
 109                 slot_count = max(slot_count, slot_cur->number);
 110         }
 111         return slot_count;
 112 }
 113
 114 /* This routine will put the correct slot->device information per slot.  It's
 115  * called from initialization of the slot structures. It will also assign
 116  * interrupt numbers per each slot.
 117  * Parameters: struct slot
 118  * Returns 0 or errors
 119  */
 120 int ibmphp_init_devno(struct slot **cur_slot)
 121 {
 122         struct irq_routing_table *rtable;
 123         int len;
 124         int loop;
 125         int i;
 126
 127         rtable = pcibios_get_irq_routing_table();
 128         if (!rtable) {
 129                 err("no BIOS routing table...\n");
 130                 return -ENOMEM;
 131         }
 132
 133         len = (rtable->size - sizeof(struct irq_routing_table)) /
 134                         sizeof(struct irq_info);
 135
 136         if (!len) {
 137                 kfree(rtable);
 138                 return -1;
 139         }
 140         for (loop = 0; loop < len; loop++) {
 141                 if ((*cur_slot)->number == rtable->slots[loop].slot &&
 142                     (*cur_slot)->bus == rtable->slots[loop].bus) {
 143                         (*cur_slot)->device = PCI_SLOT(rtable->slots[loop].devfn);
 144                         for (i = 0; i < 4; i++)
 145                                 (*cur_slot)->irq[i] = IO_APIC_get_PCI_irq_vector((int) (*cur_slot)->bus,
 146                                                 (int) (*cur_slot)->device, i);
 147
 148                         debug("(*cur_slot)->irq[0] = %x\n",
 149                                         (*cur_slot)->irq[0]);
 150                         debug("(*cur_slot)->irq[1] = %x\n",
 151                                         (*cur_slot)->irq[1]);
 152                         debug("(*cur_slot)->irq[2] = %x\n",
 153                                         (*cur_slot)->irq[2]);
 154                         debug("(*cur_slot)->irq[3] = %x\n",
 155                                         (*cur_slot)->irq[3]);
 156
 157                         debug("rtable->exclusive_irqs = %x\n",
 158                                         rtable->exclusive_irqs);
 159                         debug("rtable->slots[loop].irq[0].bitmap = %x\n",
 160                                         rtable->slots[loop].irq[0].bitmap);
 161                         debug("rtable->slots[loop].irq[1].bitmap = %x\n",
 162                                         rtable->slots[loop].irq[1].bitmap);
 163                         debug("rtable->slots[loop].irq[2].bitmap = %x\n",
 164                                         rtable->slots[loop].irq[2].bitmap);
 165                         debug("rtable->slots[loop].irq[3].bitmap = %x\n",
 166                                         rtable->slots[loop].irq[3].bitmap);
 167
 168                         debug("rtable->slots[loop].irq[0].link = %x\n",
 169                                         rtable->slots[loop].irq[0].link);
 170                         debug("rtable->slots[loop].irq[1].link = %x\n",
 171                                         rtable->slots[loop].irq[1].link);
 172                         debug("rtable->slots[loop].irq[2].link = %x\n",
 173                                         rtable->slots[loop].irq[2].link);
 174                         debug("rtable->slots[loop].irq[3].link = %x\n",
 175                                         rtable->slots[loop].irq[3].link);
 176                         debug("end of init_devno\n");
 177                         kfree(rtable);
 178                         return 0;
 179                 }
 180         }
 181
 182         kfree(rtable);
 183         return -1;
 184 }
 185
 186 static inline int power_on(struct slot *slot_cur)
 187 {
 188         u8 cmd = HPC_SLOT_ON;
 189         int retval;
 190
 191         retval = ibmphp_hpc_writeslot(slot_cur, cmd);
 192         if (retval) {
 193                 err("power on failed\n");
 194                 return retval;
 195         }
 196         if (CTLR_RESULT(slot_cur->ctrl->status)) {
 197                 err("command not completed successfully in power_on\n");
 198                 return -EIO;
 199         }
 200         msleep(3000);   /* For ServeRAID cards, and some 66 PCI */
 201         return 0;
 202 }
 203
 204 static inline int power_off(struct slot *slot_cur)
 205 {
 206         u8 cmd = HPC_SLOT_OFF;
 207         int retval;
 208
 209         retval = ibmphp_hpc_writeslot(slot_cur, cmd);
 210         if (retval) {
 211                 err("power off failed\n");
 212                 return retval;
 213         }
 214         if (CTLR_RESULT(slot_cur->ctrl->status)) {
 215                 err("command not completed successfully in power_off\n");
 216                 retval = -EIO;
 217         }
 218         return retval;
 219 }
 220
 221 static int set_attention_status(struct hotplug_slot *hotplug_slot, u8 value)
 222 {
 223         int rc = 0;
 224         struct slot *pslot;
 225         u8 cmd = 0x00;     /* avoid compiler warning */
 226
 227         debug("set_attention_status - Entry hotplug_slot[%lx] value[%x]\n",
 228                         (ulong) hotplug_slot, value);
 229         ibmphp_lock_operations();
 230
 231
 232         if (hotplug_slot) {
 233                 switch (value) {
 234                 case HPC_SLOT_ATTN_OFF:
 235                         cmd = HPC_SLOT_ATTNOFF;
 236                         break;
 237                 case HPC_SLOT_ATTN_ON:
 238                         cmd = HPC_SLOT_ATTNON;
 239                         break;
 240                 case HPC_SLOT_ATTN_BLINK:
 241                         cmd = HPC_SLOT_BLINKLED;
 242                         break;
 243                 default:
 244                         rc = -ENODEV;
 245                         err("set_attention_status - Error : invalid input [%x]\n",
 246                                         value);
 247                         break;
 248                 }
 249                 if (rc == 0) {
 250                         pslot = hotplug_slot->private;
 251                         if (pslot)
 252                                 rc = ibmphp_hpc_writeslot(pslot, cmd);
 253                         else
 254                                 rc = -ENODEV;
 255                 }
 256         } else
 257                 rc = -ENODEV;
 258
 259         ibmphp_unlock_operations();
 260
 261         debug("set_attention_status - Exit rc[%d]\n", rc);
 262         return rc;
 263 }
 264
 265 static int get_attention_status(struct hotplug_slot *hotplug_slot, u8 *value)
 266 {
 267         int rc = -ENODEV;
 268         struct slot *pslot;
 269         struct slot myslot;
 270
 271         debug("get_attention_status - Entry hotplug_slot[%lx] pvalue[%lx]\n",
 272                                         (ulong) hotplug_slot, (ulong) value);
 273
 274         ibmphp_lock_operations();
 275         if (hotplug_slot) {
 276                 pslot = hotplug_slot->private;
 277                 if (pslot) {
 278                         memcpy(&myslot, pslot, sizeof(struct slot));
 279                         rc = ibmphp_hpc_readslot(pslot, READ_SLOTSTATUS,
 280                                                 &(myslot.status));
 281                         if (!rc)
 282                                 rc = ibmphp_hpc_readslot(pslot,
 283                                                 READ_EXTSLOTSTATUS,
 284                                                 &(myslot.ext_status));
 285                         if (!rc)
 286                                 *value = SLOT_ATTN(myslot.status,
 287                                                 myslot.ext_status);
 288                 }
 289         }
 290
 291         ibmphp_unlock_operations();
 292         debug("get_attention_status - Exit rc[%d] value[%x]\n", rc, *value);
 293         return rc;
 294 }
 295
 296 static int get_latch_status(struct hotplug_slot *hotplug_slot, u8 *value)
 297 {
 298         int rc = -ENODEV;
 299         struct slot *pslot;
 300         struct slot myslot;
 301
 302         debug("get_latch_status - Entry hotplug_slot[%lx] pvalue[%lx]\n",
 303                                         (ulong) hotplug_slot, (ulong) value);
 304         ibmphp_lock_operations();
 305         if (hotplug_slot) {
 306                 pslot = hotplug_slot->private;
 307                 if (pslot) {
 308                         memcpy(&myslot, pslot, sizeof(struct slot));
 309                         rc = ibmphp_hpc_readslot(pslot, READ_SLOTSTATUS,
 310                                                 &(myslot.status));
 311                         if (!rc)
 312                                 *value = SLOT_LATCH(myslot.status);
 313                 }
 314         }
 315
 316         ibmphp_unlock_operations();
 317         debug("get_latch_status - Exit rc[%d] rc[%x] value[%x]\n",
 318                         rc, rc, *value);
 319         return rc;
 320 }
 321
 322
 323 static int get_power_status(struct hotplug_slot *hotplug_slot, u8 *value)
 324 {
 325         int rc = -ENODEV;
 326         struct slot *pslot;
 327         struct slot myslot;
 328
 329         debug("get_power_status - Entry hotplug_slot[%lx] pvalue[%lx]\n",
 330                                         (ulong) hotplug_slot, (ulong) value);
 331         ibmphp_lock_operations();
 332         if (hotplug_slot) {
 333                 pslot = hotplug_slot->private;
 334                 if (pslot) {
 335                         memcpy(&myslot, pslot, sizeof(struct slot));
 336                         rc = ibmphp_hpc_readslot(pslot, READ_SLOTSTATUS,
 337                                                 &(myslot.status));
 338                         if (!rc)
 339                                 *value = SLOT_PWRGD(myslot.status);
 340                 }
 341         }
 342
 343         ibmphp_unlock_operations();
 344         debug("get_power_status - Exit rc[%d] rc[%x] value[%x]\n",
 345                         rc, rc, *value);
 346         return rc;
 347 }
 348
 349 static int get_adapter_present(struct hotplug_slot *hotplug_slot, u8 *value)
 350 {
 351         int rc = -ENODEV;
 352         struct slot *pslot;
 353         u8 present;
 354         struct slot myslot;
 355
 356         debug("get_adapter_status - Entry hotplug_slot[%lx] pvalue[%lx]\n",
 357                                         (ulong) hotplug_slot, (ulong) value);
 358         ibmphp_lock_operations();
 359         if (hotplug_slot) {
 360                 pslot = hotplug_slot->private;
 361                 if (pslot) {
 362                         memcpy(&myslot, pslot, sizeof(struct slot));
 363                         rc = ibmphp_hpc_readslot(pslot, READ_SLOTSTATUS,
 364                                                 &(myslot.status));
 365                         if (!rc) {
 366                                 present = SLOT_PRESENT(myslot.status);
 367                                 if (present == HPC_SLOT_EMPTY)
 368                                         *value = 0;
 369                                 else
 370                                         *value = 1;
 371                         }
 372                 }
 373         }
 374
 375         ibmphp_unlock_operations();
 376         debug("get_adapter_present - Exit rc[%d] value[%x]\n", rc, *value);
 377         return rc;
 378 }
 379
 380 static int get_max_bus_speed(struct slot *slot)
 381 {
 382         int rc;
 383         u8 mode = 0;
 384         enum pci_bus_speed speed;
 385         struct pci_bus *bus = slot->hotplug_slot->pci_slot->bus;
 386
 387         debug("%s - Entry slot[%p]\n", __func__, slot);
 388
 389         ibmphp_lock_operations();
 390         mode = slot->supported_bus_mode;
 391         speed = slot->supported_speed;
 392         ibmphp_unlock_operations();
 393
 394         switch (speed) {
 395         case BUS_SPEED_33:
 396                 break;
 397         case BUS_SPEED_66:
 398                 if (mode == BUS_MODE_PCIX)
 399                         speed += 0x01;
 400                 break;
 401         case BUS_SPEED_100:
 402         case BUS_SPEED_133:
 403                 speed += 0x01;
 404                 break;
 405         default:
 406                 /* Note (will need to change): there would be soon 256, 512 also */
 407                 rc = -ENODEV;
 408         }
 409
 410         if (!rc)
 411                 bus->max_bus_speed = speed;
 412
 413         debug("%s - Exit rc[%d] speed[%x]\n", __func__, rc, speed);
 414         return rc;
 415 }
 416
 417 /*
 418 static int get_max_adapter_speed_1(struct hotplug_slot *hotplug_slot, u8 *value, u8 flag)
 419 {
 420         int rc = -ENODEV;
 421         struct slot *pslot;
 422         struct slot myslot;
 423
 424         debug("get_max_adapter_speed_1 - Entry hotplug_slot[%lx] pvalue[%lx]\n",
 425                                                 (ulong)hotplug_slot, (ulong) value);
 426
 427         if (flag)
 428                 ibmphp_lock_operations();
 429
 430         if (hotplug_slot && value) {
 431                 pslot = hotplug_slot->private;
 432                 if (pslot) {
 433                         memcpy(&myslot, pslot, sizeof(struct slot));
 434                         rc = ibmphp_hpc_readslot(pslot, READ_SLOTSTATUS,
 435                                                 &(myslot.status));
 436
 437                         if (!(SLOT_LATCH (myslot.status)) &&
 438                                         (SLOT_PRESENT (myslot.status))) {
 439                                 rc = ibmphp_hpc_readslot(pslot,
 440                                                 READ_EXTSLOTSTATUS,
 441                                                 &(myslot.ext_status));
 442                                 if (!rc)
 443                                         *value = SLOT_SPEED(myslot.ext_status);
 444                         } else
 445                                 *value = MAX_ADAPTER_NONE;
 446                 }
 447         }
 448
 449         if (flag)
 450                 ibmphp_unlock_operations();
 451
 452         debug("get_max_adapter_speed_1 - Exit rc[%d] value[%x]\n", rc, *value);
 453         return rc;
 454 }
 455
 456 static int get_bus_name(struct hotplug_slot *hotplug_slot, char *value)
 457 {
 458         int rc = -ENODEV;
 459         struct slot *pslot = NULL;
 460
 461         debug("get_bus_name - Entry hotplug_slot[%lx]\n", (ulong)hotplug_slot);
 462
 463         ibmphp_lock_operations();
 464
 465         if (hotplug_slot) {
 466                 pslot = hotplug_slot->private;
 467                 if (pslot) {
 468                         rc = 0;
 469                         snprintf(value, 100, "Bus %x", pslot->bus);
 470                 }
 471         } else
 472                 rc = -ENODEV;
 473
 474         ibmphp_unlock_operations();
 475         debug("get_bus_name - Exit rc[%d] value[%x]\n", rc, *value);
 476         return rc;
 477 }
 478 */
 479
 480 /****************************************************************************
 481  * This routine will initialize the ops data structure used in the validate
 482  * function. It will also power off empty slots that are powered on since BIOS
 483  * leaves those on, albeit disconnected
 484  ****************************************************************************/
 485 static int __init init_ops(void)
 486 {
 487         struct slot *slot_cur;
 488         int retval;
 489         int rc;
 490
 491         list_for_each_entry(slot_cur, &ibmphp_slot_head, ibm_slot_list) {
 492                 debug("BEFORE GETTING SLOT STATUS, slot # %x\n",
 493                                                         slot_cur->number);
 494                 if (slot_cur->ctrl->revision == 0xFF)
 495                         if (get_ctrl_revision(slot_cur,
 496                                                 &slot_cur->ctrl->revision))
 497                                 return -1;
 498
 499                 if (slot_cur->bus_on->current_speed == 0xFF)
 500                         if (get_cur_bus_info(&slot_cur))
 501                                 return -1;
 502                 get_max_bus_speed(slot_cur);
 503
 504                 if (slot_cur->ctrl->options == 0xFF)
 505                         if (get_hpc_options(slot_cur, &slot_cur->ctrl->options))
 506                                 return -1;
 507
 508                 retval = slot_update(&slot_cur);
 509                 if (retval)
 510                         return retval;
 511
 512                 debug("status = %x\n", slot_cur->status);
 513                 debug("ext_status = %x\n", slot_cur->ext_status);
 514                 debug("SLOT_POWER = %x\n", SLOT_POWER(slot_cur->status));
 515                 debug("SLOT_PRESENT = %x\n", SLOT_PRESENT(slot_cur->status));
 516                 debug("SLOT_LATCH = %x\n", SLOT_LATCH(slot_cur->status));
 517
 518                 if ((SLOT_PWRGD(slot_cur->status)) &&
 519                     !(SLOT_PRESENT(slot_cur->status)) &&
 520                     !(SLOT_LATCH(slot_cur->status))) {
 521                         debug("BEFORE POWER OFF COMMAND\n");
 522                                 rc = power_off(slot_cur);
 523                                 if (rc)
 524                                         return rc;
 525
 526         /*              retval = slot_update(&slot_cur);
 527          *              if (retval)
 528          *                      return retval;
 529          *              ibmphp_update_slot_info(slot_cur);
 530          */
 531                 }
 532         }
 533         init_flag = 0;
 534         return 0;
 535 }
 536
 537 /* This operation will check whether the slot is within the bounds and
 538  * the operation is valid to perform on that slot
 539  * Parameters: slot, operation
 540  * Returns: 0 or error codes
 541  */
 542 static int validate(struct slot *slot_cur, int opn)
 543 {
 544         int number;
 545         int retval;
 546
 547         if (!slot_cur)
 548                 return -ENODEV;
 549         number = slot_cur->number;
 550         if ((number > max_slots) || (number < 0))
 551                 return -EBADSLT;
 552         debug("slot_number in validate is %d\n", slot_cur->number);
 553
 554         retval = slot_update(&slot_cur);
 555         if (retval)
 556                 return retval;
 557
 558         switch (opn) {
 559                 case ENABLE:
 560                         if (!(SLOT_PWRGD(slot_cur->status)) &&
 561                              (SLOT_PRESENT(slot_cur->status)) &&
 562                              !(SLOT_LATCH(slot_cur->status)))
 563                                 return 0;
 564                         break;
 565                 case DISABLE:
 566                         if ((SLOT_PWRGD(slot_cur->status)) &&
 567                             (SLOT_PRESENT(slot_cur->status)) &&
 568                             !(SLOT_LATCH(slot_cur->status)))
 569                                 return 0;
 570                         break;
 571                 default:
 572                         break;
 573         }
 574         err("validate failed....\n");
 575         return -EINVAL;
 576 }
 577
 578 /****************************************************************************
 579  * This routine is for updating the data structures in the hotplug core
 580  * Parameters: struct slot
 581  * Returns: 0 or error
 582  ****************************************************************************/
 583 int ibmphp_update_slot_info(struct slot *slot_cur)
 584 {
 585         struct hotplug_slot_info *info;
 586         struct pci_bus *bus = slot_cur->hotplug_slot->pci_slot->bus;
 587         int rc;
 588         u8 bus_speed;
 589         u8 mode;
 590
 591         info = kmalloc(sizeof(struct hotplug_slot_info), GFP_KERNEL);
 592         if (!info) {
 593                 err("out of system memory\n");
 594                 return -ENOMEM;
 595         }
 596
 597         info->power_status = SLOT_PWRGD(slot_cur->status);
 598         info->attention_status = SLOT_ATTN(slot_cur->status,
 599                                                 slot_cur->ext_status);
 600         info->latch_status = SLOT_LATCH(slot_cur->status);
 601         if (!SLOT_PRESENT(slot_cur->status)) {
 602                 info->adapter_status = 0;
 603 /*              info->max_adapter_speed_status = MAX_ADAPTER_NONE; */
 604         } else {
 605                 info->adapter_status = 1;
 606 /*              get_max_adapter_speed_1(slot_cur->hotplug_slot,
 607                                         &info->max_adapter_speed_status, 0); */
 608         }
 609
 610         bus_speed = slot_cur->bus_on->current_speed;
 611         mode = slot_cur->bus_on->current_bus_mode;
 612
 613         switch (bus_speed) {
 614                 case BUS_SPEED_33:
 615                         break;
 616                 case BUS_SPEED_66:
 617                         if (mode == BUS_MODE_PCIX)
 618                                 bus_speed += 0x01;
 619                         else if (mode == BUS_MODE_PCI)
 620                                 ;
 621                         else
 622                                 bus_speed = PCI_SPEED_UNKNOWN;
 623                         break;
 624                 case BUS_SPEED_100:
 625                 case BUS_SPEED_133:
 626                         bus_speed += 0x01;
 627                         break;
 628                 default:
 629                         bus_speed = PCI_SPEED_UNKNOWN;
 630         }
 631
 632         bus->cur_bus_speed = bus_speed;
 633         // To do: bus_names
 634
 635         rc = pci_hp_change_slot_info(slot_cur->hotplug_slot, info);
 636         kfree(info);
 637         return rc;
 638 }
 639
 640
 641 /******************************************************************************
 642  * This function will return the pci_func, given bus and devfunc, or NULL.  It
 643  * is called from visit routines
 644  ******************************************************************************/
 645
 646 static struct pci_func *ibm_slot_find(u8 busno, u8 device, u8 function)
 647 {
 648         struct pci_func *func_cur;
 649         struct slot *slot_cur;
 650         list_for_each_entry(slot_cur, &ibmphp_slot_head, ibm_slot_list) {
 651                 if (slot_cur->func) {
 652                         func_cur = slot_cur->func;
 653                         while (func_cur) {
 654                                 if ((func_cur->busno == busno) &&
 655                                                 (func_cur->device == device) &&
 656                                                 (func_cur->function == function))
 657                                         return func_cur;
 658                                 func_cur = func_cur->next;
 659                         }
 660                 }
 661         }
 662         return NULL;
 663 }
 664
 665 /*************************************************************
 666  * This routine frees up memory used by struct slot, including
 667  * the pointers to pci_func, bus, hotplug_slot, controller,
 668  * and deregistering from the hotplug core
 669  *************************************************************/
 670 static void free_slots(void)
 671 {
 672         struct slot *slot_cur, *next;
 673
 674         debug("%s -- enter\n", __func__);
 675
 676         list_for_each_entry_safe(slot_cur, next, &ibmphp_slot_head,
 677                                  ibm_slot_list) {
 678                 pci_hp_deregister(slot_cur->hotplug_slot);
 679         }
 680         debug("%s -- exit\n", __func__);
 681 }
 682
 683 static void ibm_unconfigure_device(struct pci_func *func)
 684 {
 685         struct pci_dev *temp;
 686         u8 j;
 687
 688         debug("inside %s\n", __func__);
 689         debug("func->device = %x, func->function = %x\n",
 690                                         func->device, func->function);
 691         debug("func->device << 3 | 0x0  = %x\n", func->device << 3 | 0x0);
 692
 693         pci_lock_rescan_remove();
 694
 695         for (j = 0; j < 0x08; j++) {
 696                 temp = pci_get_bus_and_slot(func->busno, (func->device << 3) | j);
 697                 if (temp) {
 698                         pci_stop_and_remove_bus_device(temp);
 699                         pci_dev_put(temp);
 700                 }
 701         }
 702
 703         pci_dev_put(func->dev);
 704
 705         pci_unlock_rescan_remove();
 706 }
 707
 708 /*
 709  * The following function is to fix kernel bug regarding
 710  * getting bus entries, here we manually add those primary
 711  * bus entries to kernel bus structure whenever apply
 712  */
 713 static u8 bus_structure_fixup(u8 busno)
 714 {
 715         struct pci_bus *bus, *b;
 716         struct pci_dev *dev;
 717         u16 l;
 718
 719         if (pci_find_bus(0, busno) || !(ibmphp_find_same_bus_num(busno)))
 720                 return 1;
 721
 722         bus = kmalloc(sizeof(*bus), GFP_KERNEL);
 723         if (!bus) {
 724                 err("%s - out of memory\n", __func__);
 725                 return 1;
 726         }
 727         dev = kmalloc(sizeof(*dev), GFP_KERNEL);
 728         if (!dev) {
 729                 kfree(bus);
 730                 err("%s - out of memory\n", __func__);
 731                 return 1;
 732         }
 733
 734         bus->number = busno;
 735         bus->ops = ibmphp_pci_bus->ops;
 736         dev->bus = bus;
 737         for (dev->devfn = 0; dev->devfn < 256; dev->devfn += 8) {
 738                 if (!pci_read_config_word(dev, PCI_VENDOR_ID, &l) &&
 739                                         (l != 0x0000) && (l != 0xffff)) {
 740                         debug("%s - Inside bus_structure_fixup()\n",
 741                                                         __func__);
 742                         b = pci_scan_bus(busno, ibmphp_pci_bus->ops, NULL);
 743                         if (!b)
 744                                 continue;
 745
 746                         pci_bus_add_devices(b);
 747                         break;
 748                 }
 749         }
 750
 751         kfree(dev);
 752         kfree(bus);
 753
 754         return 0;
 755 }
 756
 757 static int ibm_configure_device(struct pci_func *func)
 758 {
 759         struct pci_bus *child;
 760         int num;
 761         int flag = 0;   /* this is to make sure we don't double scan the bus,
 762                                         for bridged devices primarily */
 763
 764         pci_lock_rescan_remove();
 765
 766         if (!(bus_structure_fixup(func->busno)))
 767                 flag = 1;
 768         if (func->dev == NULL)
 769                 func->dev = pci_get_bus_and_slot(func->busno,
 770                                 PCI_DEVFN(func->device, func->function));
 771
 772         if (func->dev == NULL) {
 773                 struct pci_bus *bus = pci_find_bus(0, func->busno);
 774                 if (!bus)
 775                         goto out;
 776
 777                 num = pci_scan_slot(bus,
 778                                 PCI_DEVFN(func->device, func->function));
 779                 if (num)
 780                         pci_bus_add_devices(bus);
 781
 782                 func->dev = pci_get_bus_and_slot(func->busno,
 783                                 PCI_DEVFN(func->device, func->function));
 784                 if (func->dev == NULL) {
 785                         err("ERROR... : pci_dev still NULL\n");
 786                         goto out;
 787                 }
 788         }
 789         if (!(flag) && (func->dev->hdr_type == PCI_HEADER_TYPE_BRIDGE)) {
 790                 pci_hp_add_bridge(func->dev);
 791                 child = func->dev->subordinate;
 792                 if (child)
 793                         pci_bus_add_devices(child);
 794         }
 795
 796  out:
 797         pci_unlock_rescan_remove();
 798         return 0;
 799 }
 800
 801 /*******************************************************
 802  * Returns whether the bus is empty or not
 803  *******************************************************/
 804 static int is_bus_empty(struct slot *slot_cur)
 805 {
 806         int rc;
 807         struct slot *tmp_slot;
 808         u8 i = slot_cur->bus_on->slot_min;
 809
 810         while (i <= slot_cur->bus_on->slot_max) {
 811                 if (i == slot_cur->number) {
 812                         i++;
 813                         continue;
 814                 }
 815                 tmp_slot = ibmphp_get_slot_from_physical_num(i);
 816                 if (!tmp_slot)
 817                         return 0;
 818                 rc = slot_update(&tmp_slot);
 819                 if (rc)
 820                         return 0;
 821                 if (SLOT_PRESENT(tmp_slot->status) &&
 822                                         SLOT_PWRGD(tmp_slot->status))
 823                         return 0;
 824                 i++;
 825         }
 826         return 1;
 827 }
 828
 829 /***********************************************************
 830  * If the HPC permits and the bus currently empty, tries to set the
 831  * bus speed and mode at the maximum card and bus capability
 832  * Parameters: slot
 833  * Returns: bus is set (0) or error code
 834  ***********************************************************/
 835 static int set_bus(struct slot *slot_cur)
 836 {
 837         int rc;
 838         u8 speed;
 839         u8 cmd = 0x0;
 840         int retval;
 841         static const struct pci_device_id ciobx[] = {
 842                 { PCI_DEVICE(PCI_VENDOR_ID_SERVERWORKS, 0x0101) },
 843                 { },
 844         };
 845
 846         debug("%s - entry slot # %d\n", __func__, slot_cur->number);
 847         if (SET_BUS_STATUS(slot_cur->ctrl) && is_bus_empty(slot_cur)) {
 848                 rc = slot_update(&slot_cur);
 849                 if (rc)
 850                         return rc;
 851                 speed = SLOT_SPEED(slot_cur->ext_status);
 852                 debug("ext_status = %x, speed = %x\n", slot_cur->ext_status, speed);
 853                 switch (speed) {
 854                 case HPC_SLOT_SPEED_33:
 855                         cmd = HPC_BUS_33CONVMODE;
 856                         break;
 857                 case HPC_SLOT_SPEED_66:
 858                         if (SLOT_PCIX(slot_cur->ext_status)) {
 859                                 if ((slot_cur->supported_speed >= BUS_SPEED_66) &&
 860                                                 (slot_cur->supported_bus_mode == BUS_MODE_PCIX))
 861                                         cmd = HPC_BUS_66PCIXMODE;
 862                                 else if (!SLOT_BUS_MODE(slot_cur->ext_status))
 863                                         /* if max slot/bus capability is 66 pci
 864                                         and there's no bus mode mismatch, then
 865                                         the adapter supports 66 pci */
 866                                         cmd = HPC_BUS_66CONVMODE;
 867                                 else
 868                                         cmd = HPC_BUS_33CONVMODE;
 869                         } else {
 870                                 if (slot_cur->supported_speed >= BUS_SPEED_66)
 871                                         cmd = HPC_BUS_66CONVMODE;
 872                                 else
 873                                         cmd = HPC_BUS_33CONVMODE;
 874                         }
 875                         break;
 876                 case HPC_SLOT_SPEED_133:
 877                         switch (slot_cur->supported_speed) {
 878                         case BUS_SPEED_33:
 879                                 cmd = HPC_BUS_33CONVMODE;
 880                                 break;
 881                         case BUS_SPEED_66:
 882                                 if (slot_cur->supported_bus_mode == BUS_MODE_PCIX)
 883                                         cmd = HPC_BUS_66PCIXMODE;
 884                                 else
 885                                         cmd = HPC_BUS_66CONVMODE;
 886                                 break;
 887                         case BUS_SPEED_100:
 888                                 cmd = HPC_BUS_100PCIXMODE;
 889                                 break;
 890                         case BUS_SPEED_133:
 891                                 /* This is to take care of the bug in CIOBX chip */
 892                                 if (pci_dev_present(ciobx))
 893                                         ibmphp_hpc_writeslot(slot_cur,
 894                                                         HPC_BUS_100PCIXMODE);
 895                                 cmd = HPC_BUS_133PCIXMODE;
 896                                 break;
 897                         default:
 898                                 err("Wrong bus speed\n");
 899                                 return -ENODEV;
 900                         }
 901                         break;
 902                 default:
 903                         err("wrong slot speed\n");
 904                         return -ENODEV;
 905                 }
 906                 debug("setting bus speed for slot %d, cmd %x\n",
 907                                                 slot_cur->number, cmd);
 908                 retval = ibmphp_hpc_writeslot(slot_cur, cmd);
 909                 if (retval) {
 910                         err("setting bus speed failed\n");
 911                         return retval;
 912                 }
 913                 if (CTLR_RESULT(slot_cur->ctrl->status)) {
 914                         err("command not completed successfully in set_bus\n");
 915                         return -EIO;
 916                 }
 917         }
 918         /* This is for x440, once Brandon fixes the firmware,
 919         will not need this delay */
 920         msleep(1000);
 921         debug("%s -Exit\n", __func__);
 922         return 0;
 923 }
 924
 925 /* This routine checks the bus limitations that the slot is on from the BIOS.
 926  * This is used in deciding whether or not to power up the slot.
 927  * (electrical/spec limitations. For example, >1 133 MHz or >2 66 PCI cards on
 928  * same bus)
 929  * Parameters: slot
 930  * Returns: 0 = no limitations, -EINVAL = exceeded limitations on the bus
 931  */
 932 static int check_limitations(struct slot *slot_cur)
 933 {
 934         u8 i;
 935         struct slot *tmp_slot;
 936         u8 count = 0;
 937         u8 limitation = 0;
 938
 939         for (i = slot_cur->bus_on->slot_min; i <= slot_cur->bus_on->slot_max; i++) {
 940                 tmp_slot = ibmphp_get_slot_from_physical_num(i);
 941                 if (!tmp_slot)
 942                         return -ENODEV;
 943                 if ((SLOT_PWRGD(tmp_slot->status)) &&
 944                                         !(SLOT_CONNECT(tmp_slot->status)))
 945                         count++;
 946         }
 947         get_cur_bus_info(&slot_cur);
 948         switch (slot_cur->bus_on->current_speed) {
 949         case BUS_SPEED_33:
 950                 limitation = slot_cur->bus_on->slots_at_33_conv;
 951                 break;
 952         case BUS_SPEED_66:
 953                 if (slot_cur->bus_on->current_bus_mode == BUS_MODE_PCIX)
 954                         limitation = slot_cur->bus_on->slots_at_66_pcix;
 955                 else
 956                         limitation = slot_cur->bus_on->slots_at_66_conv;
 957                 break;
 958         case BUS_SPEED_100:
 959                 limitation = slot_cur->bus_on->slots_at_100_pcix;
 960                 break;
 961         case BUS_SPEED_133:
 962                 limitation = slot_cur->bus_on->slots_at_133_pcix;
 963                 break;
 964         }
 965
 966         if ((count + 1) > limitation)
 967                 return -EINVAL;
 968         return 0;
 969 }
 970
 971 static inline void print_card_capability(struct slot *slot_cur)
 972 {
 973         info("capability of the card is ");
 974         if ((slot_cur->ext_status & CARD_INFO) == PCIX133)
 975                 info("   133 MHz PCI-X\n");
 976         else if ((slot_cur->ext_status & CARD_INFO) == PCIX66)
 977                 info("    66 MHz PCI-X\n");
 978         else if ((slot_cur->ext_status & CARD_INFO) == PCI66)
 979                 info("    66 MHz PCI\n");
 980         else
 981                 info("    33 MHz PCI\n");
 982
 983 }
 984
 985 /* This routine will power on the slot, configure the device(s) and find the
 986  * drivers for them.
 987  * Parameters: hotplug_slot
 988  * Returns: 0 or failure codes
 989  */
 990 static int enable_slot(struct hotplug_slot *hs)
 991 {
 992         int rc, i, rcpr;
 993         struct slot *slot_cur;
 994         u8 function;
 995         struct pci_func *tmp_func;
 996
 997         ibmphp_lock_operations();
 998
 999         debug("ENABLING SLOT........\n");
1000         slot_cur = hs->private;
1001
1002         rc = validate(slot_cur, ENABLE);
1003         if (rc) {
1004                 err("validate function failed\n");
1005                 goto error_nopower;
1006         }
1007
1008         attn_LED_blink(slot_cur);
1009
1010         rc = set_bus(slot_cur);
1011         if (rc) {
1012                 err("was not able to set the bus\n");
1013                 goto error_nopower;
1014         }
1015
1016         /*-----------------debugging------------------------------*/
1017         get_cur_bus_info(&slot_cur);
1018         debug("the current bus speed right after set_bus = %x\n",
1019                                         slot_cur->bus_on->current_speed);
1020         /*----------------------------------------------------------*/
1021
1022         rc = check_limitations(slot_cur);
1023         if (rc) {
1024                 err("Adding this card exceeds the limitations of this bus.\n");
1025                 err("(i.e., >1 133MHz cards running on same bus, or >2 66 PCI cards running on same bus.\n");
1026                 err("Try hot-adding into another bus\n");
1027                 rc = -EINVAL;
1028                 goto error_nopower;
1029         }
1030
1031         rc = power_on(slot_cur);
1032
1033         if (rc) {
1034                 err("something wrong when powering up... please see below for details\n");
1035                 /* need to turn off before on, otherwise, blinking overwrites */
1036                 attn_off(slot_cur);
1037                 attn_on(slot_cur);
1038                 if (slot_update(&slot_cur)) {
1039                         attn_off(slot_cur);
1040                         attn_on(slot_cur);
1041                         rc = -ENODEV;
1042                         goto exit;
1043                 }
1044                 /* Check to see the error of why it failed */
1045                 if ((SLOT_POWER(slot_cur->status)) &&
1046                                         !(SLOT_PWRGD(slot_cur->status)))
1047                         err("power fault occurred trying to power up\n");
1048                 else if (SLOT_BUS_SPEED(slot_cur->status)) {
1049                         err("bus speed mismatch occurred.  please check current bus speed and card capability\n");
1050                         print_card_capability(slot_cur);
1051                 } else if (SLOT_BUS_MODE(slot_cur->ext_status)) {
1052                         err("bus mode mismatch occurred.  please check current bus mode and card capability\n");
1053                         print_card_capability(slot_cur);
1054                 }
1055                 ibmphp_update_slot_info(slot_cur);
1056                 goto exit;
1057         }
1058         debug("after power_on\n");
1059         /*-----------------------debugging---------------------------*/
1060         get_cur_bus_info(&slot_cur);
1061         debug("the current bus speed right after power_on = %x\n",
1062                                         slot_cur->bus_on->current_speed);
1063         /*----------------------------------------------------------*/
1064
1065         rc = slot_update(&slot_cur);
1066         if (rc)
1067                 goto error_power;
1068
1069         rc = -EINVAL;
1070         if (SLOT_POWER(slot_cur->status) && !(SLOT_PWRGD(slot_cur->status))) {
1071                 err("power fault occurred trying to power up...\n");
1072                 goto error_power;
1073         }
1074         if (SLOT_POWER(slot_cur->status) && (SLOT_BUS_SPEED(slot_cur->status))) {
1075                 err("bus speed mismatch occurred.  please check current bus speed and card capability\n");
1076                 print_card_capability(slot_cur);
1077                 goto error_power;
1078         }
1079         /* Don't think this case will happen after above checks...
1080          * but just in case, for paranoia sake */
1081         if (!(SLOT_POWER(slot_cur->status))) {
1082                 err("power on failed...\n");
1083                 goto error_power;
1084         }
1085
1086         slot_cur->func = kzalloc(sizeof(struct pci_func), GFP_KERNEL);
1087         if (!slot_cur->func) {
1088                 /* We cannot do update_slot_info here, since no memory for
1089                  * kmalloc n.e.ways, and update_slot_info allocates some */
1090                 err("out of system memory\n");
1091                 rc = -ENOMEM;
1092                 goto error_power;
1093         }
1094         slot_cur->func->busno = slot_cur->bus;
1095         slot_cur->func->device = slot_cur->device;
1096         for (i = 0; i < 4; i++)
1097                 slot_cur->func->irq[i] = slot_cur->irq[i];
1098
1099         debug("b4 configure_card, slot_cur->bus = %x, slot_cur->device = %x\n",
1100                                         slot_cur->bus, slot_cur->device);
1101
1102         if (ibmphp_configure_card(slot_cur->func, slot_cur->number)) {
1103                 err("configure_card was unsuccessful...\n");
1104                 /* true because don't need to actually deallocate resources,
1105                  * just remove references */
1106                 ibmphp_unconfigure_card(&slot_cur, 1);
1107                 debug("after unconfigure_card\n");
1108                 slot_cur->func = NULL;
1109                 rc = -ENOMEM;
1110                 goto error_power;
1111         }
1112
1113         function = 0x00;
1114         do {
1115                 tmp_func = ibm_slot_find(slot_cur->bus, slot_cur->func->device,
1116                                                         function++);
1117                 if (tmp_func && !(tmp_func->dev))
1118                         ibm_configure_device(tmp_func);
1119         } while (tmp_func);
1120
1121         attn_off(slot_cur);
1122         if (slot_update(&slot_cur)) {
1123                 rc = -EFAULT;
1124                 goto exit;
1125         }
1126         ibmphp_print_test();
1127         rc = ibmphp_update_slot_info(slot_cur);
1128 exit:
1129         ibmphp_unlock_operations();
1130         return rc;
1131
1132 error_nopower:
1133         attn_off(slot_cur);     /* need to turn off if was blinking b4 */
1134         attn_on(slot_cur);
1135 error_cont:
1136         rcpr = slot_update(&slot_cur);
1137         if (rcpr) {
1138                 rc = rcpr;
1139                 goto exit;
1140         }
1141         ibmphp_update_slot_info(slot_cur);
1142         goto exit;
1143
1144 error_power:
1145         attn_off(slot_cur);     /* need to turn off if was blinking b4 */
1146         attn_on(slot_cur);
1147         rcpr = power_off(slot_cur);
1148         if (rcpr) {
1149                 rc = rcpr;
1150                 goto exit;
1151         }
1152         goto error_cont;
1153 }
1154
1155 /**************************************************************
1156 * HOT REMOVING ADAPTER CARD                                   *
1157 * INPUT: POINTER TO THE HOTPLUG SLOT STRUCTURE                *
1158 * OUTPUT: SUCCESS 0 ; FAILURE: UNCONFIGURE , VALIDATE         *
1159 *               DISABLE POWER ,                               *
1160 **************************************************************/
1161 static int ibmphp_disable_slot(struct hotplug_slot *hotplug_slot)
1162 {
1163         struct slot *slot = hotplug_slot->private;
1164         int rc;
1165
1166         ibmphp_lock_operations();
1167         rc = ibmphp_do_disable_slot(slot);
1168         ibmphp_unlock_operations();
1169         return rc;
1170 }
1171
1172 int ibmphp_do_disable_slot(struct slot *slot_cur)
1173 {
1174         int rc;
1175         u8 flag;
1176
1177         debug("DISABLING SLOT...\n");
1178
1179         if ((slot_cur == NULL) || (slot_cur->ctrl == NULL))
1180                 return -ENODEV;
1181
1182         flag = slot_cur->flag;
1183         slot_cur->flag = 1;
1184
1185         if (flag == 1) {
1186                 rc = validate(slot_cur, DISABLE);
1187                         /* checking if powered off already & valid slot # */
1188                 if (rc)
1189                         goto error;
1190         }
1191         attn_LED_blink(slot_cur);
1192
1193         if (slot_cur->func == NULL) {
1194                 /* We need this for functions that were there on bootup */
1195                 slot_cur->func = kzalloc(sizeof(struct pci_func), GFP_KERNEL);
1196                 if (!slot_cur->func) {
1197                         err("out of system memory\n");
1198                         rc = -ENOMEM;
1199                         goto error;
1200                 }
1201                 slot_cur->func->busno = slot_cur->bus;
1202                 slot_cur->func->device = slot_cur->device;
1203         }
1204
1205         ibm_unconfigure_device(slot_cur->func);
1206
1207         /*
1208          * If we got here from latch suddenly opening on operating card or
1209          * a power fault, there's no power to the card, so cannot
1210          * read from it to determine what resources it occupied.  This operation
1211          * is forbidden anyhow.  The best we can do is remove it from kernel
1212          * lists at least */
1213
1214         if (!flag) {
1215                 attn_off(slot_cur);
1216                 return 0;
1217         }
1218
1219         rc = ibmphp_unconfigure_card(&slot_cur, 0);
1220         slot_cur->func = NULL;
1221         debug("in disable_slot. after unconfigure_card\n");
1222         if (rc) {
1223                 err("could not unconfigure card.\n");
1224                 goto error;
1225         }
1226
1227         rc = ibmphp_hpc_writeslot(slot_cur, HPC_SLOT_OFF);
1228         if (rc)
1229                 goto error;
1230
1231         attn_off(slot_cur);
1232         rc = slot_update(&slot_cur);
1233         if (rc)
1234                 goto exit;
1235
1236         rc = ibmphp_update_slot_info(slot_cur);
1237         ibmphp_print_test();
1238 exit:
1239         return rc;
1240
1241 error:
1242         /*  Need to turn off if was blinking b4 */
1243         attn_off(slot_cur);
1244         attn_on(slot_cur);
1245         if (slot_update(&slot_cur)) {
1246                 rc = -EFAULT;
1247                 goto exit;
1248         }
1249         if (flag)
1250                 ibmphp_update_slot_info(slot_cur);
1251         goto exit;
1252 }
1253
1254 struct hotplug_slot_ops ibmphp_hotplug_slot_ops = {
1255         .set_attention_status =         set_attention_status,
1256         .enable_slot =                  enable_slot,
1257         .disable_slot =                 ibmphp_disable_slot,
1258         .hardware_test =                NULL,
1259         .get_power_status =             get_power_status,
1260         .get_attention_status =         get_attention_status,
1261         .get_latch_status =             get_latch_status,
1262         .get_adapter_status =           get_adapter_present,
1263 /*      .get_max_adapter_speed =        get_max_adapter_speed,
1264         .get_bus_name_status =          get_bus_name,
1265 */
1266 };
1267
1268 static void ibmphp_unload(void)
1269 {
1270         free_slots();
1271         debug("after slots\n");
1272         ibmphp_free_resources();
1273         debug("after resources\n");
1274         ibmphp_free_bus_info_queue();
1275         debug("after bus info\n");
1276         ibmphp_free_ebda_hpc_queue();
1277         debug("after ebda hpc\n");
1278         ibmphp_free_ebda_pci_rsrc_queue();
1279         debug("after ebda pci rsrc\n");
1280         kfree(ibmphp_pci_bus);
1281 }
1282
1283 static int __init ibmphp_init(void)
1284 {
1285         struct pci_bus *bus;
1286         int i = 0;
1287         int rc = 0;
1288
1289         init_flag = 1;
1290
1291         info(DRIVER_DESC " version: " DRIVER_VERSION "\n");
1292
1293         ibmphp_pci_bus = kmalloc(sizeof(*ibmphp_pci_bus), GFP_KERNEL);
1294         if (!ibmphp_pci_bus) {
1295                 err("out of memory\n");
1296                 rc = -ENOMEM;
1297                 goto exit;
1298         }
1299
1300         bus = pci_find_bus(0, 0);
1301         if (!bus) {
1302                 err("Can't find the root pci bus, can not continue\n");
1303                 rc = -ENODEV;
1304                 goto error;
1305         }
1306         memcpy(ibmphp_pci_bus, bus, sizeof(*ibmphp_pci_bus));
1307
1308         ibmphp_debug = debug;
1309
1310         ibmphp_hpc_initvars();
1311
1312         for (i = 0; i < 16; i++)
1313                 irqs[i] = 0;
1314
1315         rc = ibmphp_access_ebda();
1316         if (rc)
1317                 goto error;
1318         debug("after ibmphp_access_ebda()\n");
1319
1320         rc = ibmphp_rsrc_init();
1321         if (rc)
1322                 goto error;
1323         debug("AFTER Resource & EBDA INITIALIZATIONS\n");
1324
1325         max_slots = get_max_slots();
1326
1327         rc = ibmphp_register_pci();
1328         if (rc)
1329                 goto error;
1330
1331         if (init_ops()) {
1332                 rc = -ENODEV;
1333                 goto error;
1334         }
1335
1336         ibmphp_print_test();
1337         rc = ibmphp_hpc_start_poll_thread();
1338         if (rc)
1339                 goto error;
1340
1341 exit:
1342         return rc;
1343
1344 error:
1345         ibmphp_unload();
1346         goto exit;
1347 }
1348
1349 static void __exit ibmphp_exit(void)
1350 {
1351         ibmphp_hpc_stop_poll_thread();
1352         debug("after polling\n");
1353         ibmphp_unload();
1354         debug("done\n");
1355 }
1356
1357 module_init(ibmphp_init);
1358 module_exit(ibmphp_exit);