drivers/net/wireless/ath/ath11k/core.c

   1 // SPDX-License-Identifier: BSD-3-Clause-Clear
   2 /*
   3  * Copyright (c) 2018-2019 The Linux Foundation. All rights reserved.
   4  */
   5
   6 #include <linux/module.h>
   7 #include <linux/slab.h>
   8 #include <linux/remoteproc.h>
   9 #include <linux/firmware.h>
  10 #include "core.h"
  11 #include "dp_tx.h"
  12 #include "dp_rx.h"
  13 #include "debug.h"
  14 #include "hif.h"
  15
  16 unsigned int ath11k_debug_mask;
  17 EXPORT_SYMBOL(ath11k_debug_mask);
  18 module_param_named(debug_mask, ath11k_debug_mask, uint, 0644);
  19 MODULE_PARM_DESC(debug_mask, "Debugging mask");
  20
  21 static const struct ath11k_hw_params ath11k_hw_params[] = {
  22         {
  23                 .hw_rev = ATH11K_HW_IPQ8074,
  24                 .name = "ipq8074 hw2.0",
  25                 .fw = {
  26                         .dir = "IPQ8074/hw2.0",
  27                         .board_size = 256 * 1024,
  28                         .cal_size = 256 * 1024,
  29                 },
  30                 .max_radios = 3,
  31                 .bdf_addr = 0x4B0C0000,
  32                 .hw_ops = &ipq8074_ops,
  33                 .ring_mask = &ath11k_hw_ring_mask_ipq8074,
  34                 .internal_sleep_clock = false,
  35                 .regs = &ipq8074_regs,
  36                 .host_ce_config = ath11k_host_ce_config_ipq8074,
  37                 .ce_count = 12,
  38                 .target_ce_config = ath11k_target_ce_config_wlan_ipq8074,
  39                 .target_ce_count = 11,
  40                 .svc_to_ce_map = ath11k_target_service_to_ce_map_wlan_ipq8074,
  41                 .svc_to_ce_map_len = 21,
  42                 .single_pdev_only = false,
  43                 .needs_band_to_mac = true,
  44                 .rxdma1_enable = true,
  45                 .num_rxmda_per_pdev = 1,
  46                 .rx_mac_buf_ring = false,
  47                 .vdev_start_delay = false,
  48                 .htt_peer_map_v2 = true,
  49                 .tcl_0_only = false,
  50         },
  51         {
  52                 .hw_rev = ATH11K_HW_IPQ6018_HW10,
  53                 .name = "ipq6018 hw1.0",
  54                 .fw = {
  55                         .dir = "IPQ6018/hw1.0",
  56                         .board_size = 256 * 1024,
  57                         .cal_size = 256 * 1024,
  58                 },
  59                 .max_radios = 2,
  60                 .bdf_addr = 0x4ABC0000,
  61                 .hw_ops = &ipq6018_ops,
  62                 .ring_mask = &ath11k_hw_ring_mask_ipq8074,
  63                 .internal_sleep_clock = false,
  64                 .regs = &ipq8074_regs,
  65                 .host_ce_config = ath11k_host_ce_config_ipq8074,
  66                 .ce_count = 12,
  67                 .target_ce_config = ath11k_target_ce_config_wlan_ipq8074,
  68                 .target_ce_count = 11,
  69                 .svc_to_ce_map = ath11k_target_service_to_ce_map_wlan_ipq6018,
  70                 .svc_to_ce_map_len = 19,
  71                 .single_pdev_only = false,
  72                 .needs_band_to_mac = true,
  73                 .rxdma1_enable = true,
  74                 .num_rxmda_per_pdev = 1,
  75                 .rx_mac_buf_ring = false,
  76                 .vdev_start_delay = false,
  77                 .htt_peer_map_v2 = true,
  78                 .tcl_0_only = false,
  79         },
  80         {
  81                 .name = "qca6390 hw2.0",
  82                 .hw_rev = ATH11K_HW_QCA6390_HW20,
  83                 .fw = {
  84                         .dir = "QCA6390/hw2.0",
  85                         .board_size = 256 * 1024,
  86                         .cal_size = 256 * 1024,
  87                 },
  88                 .max_radios = 3,
  89                 .bdf_addr = 0x4B0C0000,
  90                 .hw_ops = &qca6390_ops,
  91                 .ring_mask = &ath11k_hw_ring_mask_qca6390,
  92                 .internal_sleep_clock = true,
  93                 .regs = &qca6390_regs,
  94                 .host_ce_config = ath11k_host_ce_config_qca6390,
  95                 .ce_count = 9,
  96                 .target_ce_config = ath11k_target_ce_config_wlan_qca6390,
  97                 .target_ce_count = 9,
  98                 .svc_to_ce_map = ath11k_target_service_to_ce_map_wlan_qca6390,
  99                 .svc_to_ce_map_len = 14,
 100                 .single_pdev_only = true,
 101                 .needs_band_to_mac = false,
 102                 .rxdma1_enable = false,
 103                 .num_rxmda_per_pdev = 2,
 104                 .rx_mac_buf_ring = true,
 105                 .vdev_start_delay = true,
 106                 .htt_peer_map_v2 = false,
 107                 .tcl_0_only = true,
 108         },
 109 };
 110
 111 static int ath11k_core_create_board_name(struct ath11k_base *ab, char *name,
 112                                          size_t name_len)
 113 {
 114         scnprintf(name, name_len,
 115                   "bus=%s,qmi-chip-id=%d,qmi-board-id=%d",
 116                   ath11k_bus_str(ab->hif.bus),
 117                   ab->qmi.target.chip_id,
 118                   ab->qmi.target.board_id);
 119
 120         ath11k_dbg(ab, ATH11K_DBG_BOOT, "boot using board name '%s'\n", name);
 121
 122         return 0;
 123 }
 124
 125 const struct firmware *ath11k_core_firmware_request(struct ath11k_base *ab,
 126                                                     const char *file)
 127 {
 128         const struct firmware *fw;
 129         char path[100];
 130         int ret;
 131
 132         if (file == NULL)
 133                 return ERR_PTR(-ENOENT);
 134
 135         ath11k_core_create_firmware_path(ab, file, path, sizeof(path));
 136
 137         ret = firmware_request_nowarn(&fw, path, ab->dev);
 138         if (ret)
 139                 return ERR_PTR(ret);
 140
 141         ath11k_dbg(ab, ATH11K_DBG_BOOT, "boot firmware request %s size %zu\n",
 142                    path, fw->size);
 143
 144         return fw;
 145 }
 146
 147 void ath11k_core_free_bdf(struct ath11k_base *ab, struct ath11k_board_data *bd)
 148 {
 149         if (!IS_ERR(bd->fw))
 150                 release_firmware(bd->fw);
 151
 152         memset(bd, 0, sizeof(*bd));
 153 }
 154
 155 static int ath11k_core_parse_bd_ie_board(struct ath11k_base *ab,
 156                                          struct ath11k_board_data *bd,
 157                                          const void *buf, size_t buf_len,
 158                                          const char *boardname,
 159                                          int bd_ie_type)
 160 {
 161         const struct ath11k_fw_ie *hdr;
 162         bool name_match_found;
 163         int ret, board_ie_id;
 164         size_t board_ie_len;
 165         const void *board_ie_data;
 166
 167         name_match_found = false;
 168
 169         /* go through ATH11K_BD_IE_BOARD_ elements */
 170         while (buf_len > sizeof(struct ath11k_fw_ie)) {
 171                 hdr = buf;
 172                 board_ie_id = le32_to_cpu(hdr->id);
 173                 board_ie_len = le32_to_cpu(hdr->len);
 174                 board_ie_data = hdr->data;
 175
 176                 buf_len -= sizeof(*hdr);
 177                 buf += sizeof(*hdr);
 178
 179                 if (buf_len < ALIGN(board_ie_len, 4)) {
 180                         ath11k_err(ab, "invalid ATH11K_BD_IE_BOARD length: %zu < %zu\n",
 181                                    buf_len, ALIGN(board_ie_len, 4));
 182                         ret = -EINVAL;
 183                         goto out;
 184                 }
 185
 186                 switch (board_ie_id) {
 187                 case ATH11K_BD_IE_BOARD_NAME:
 188                         ath11k_dbg_dump(ab, ATH11K_DBG_BOOT, "board name", "",
 189                                         board_ie_data, board_ie_len);
 190
 191                         if (board_ie_len != strlen(boardname))
 192                                 break;
 193
 194                         ret = memcmp(board_ie_data, boardname, strlen(boardname));
 195                         if (ret)
 196                                 break;
 197
 198                         name_match_found = true;
 199                         ath11k_dbg(ab, ATH11K_DBG_BOOT,
 200                                    "boot found match for name '%s'",
 201                                    boardname);
 202                         break;
 203                 case ATH11K_BD_IE_BOARD_DATA:
 204                         if (!name_match_found)
 205                                 /* no match found */
 206                                 break;
 207
 208                         ath11k_dbg(ab, ATH11K_DBG_BOOT,
 209                                    "boot found board data for '%s'", boardname);
 210
 211                         bd->data = board_ie_data;
 212                         bd->len = board_ie_len;
 213
 214                         ret = 0;
 215                         goto out;
 216                 default:
 217                         ath11k_warn(ab, "unknown ATH11K_BD_IE_BOARD found: %d\n",
 218                                     board_ie_id);
 219                         break;
 220                 }
 221
 222                 /* jump over the padding */
 223                 board_ie_len = ALIGN(board_ie_len, 4);
 224
 225                 buf_len -= board_ie_len;
 226                 buf += board_ie_len;
 227         }
 228
 229         /* no match found */
 230         ret = -ENOENT;
 231
 232 out:
 233         return ret;
 234 }
 235
 236 static int ath11k_core_fetch_board_data_api_n(struct ath11k_base *ab,
 237                                               struct ath11k_board_data *bd,
 238                                               const char *boardname)
 239 {
 240         size_t len, magic_len;
 241         const u8 *data;
 242         char *filename, filepath[100];
 243         size_t ie_len;
 244         struct ath11k_fw_ie *hdr;
 245         int ret, ie_id;
 246
 247         filename = ATH11K_BOARD_API2_FILE;
 248
 249         if (!bd->fw)
 250                 bd->fw = ath11k_core_firmware_request(ab, filename);
 251
 252         if (IS_ERR(bd->fw))
 253                 return PTR_ERR(bd->fw);
 254
 255         data = bd->fw->data;
 256         len = bd->fw->size;
 257
 258         ath11k_core_create_firmware_path(ab, filename,
 259                                          filepath, sizeof(filepath));
 260
 261         /* magic has extra null byte padded */
 262         magic_len = strlen(ATH11K_BOARD_MAGIC) + 1;
 263         if (len < magic_len) {
 264                 ath11k_err(ab, "failed to find magic value in %s, file too short: %zu\n",
 265                            filepath, len);
 266                 ret = -EINVAL;
 267                 goto err;
 268         }
 269
 270         if (memcmp(data, ATH11K_BOARD_MAGIC, magic_len)) {
 271                 ath11k_err(ab, "found invalid board magic\n");
 272                 ret = -EINVAL;
 273                 goto err;
 274         }
 275
 276         /* magic is padded to 4 bytes */
 277         magic_len = ALIGN(magic_len, 4);
 278         if (len < magic_len) {
 279                 ath11k_err(ab, "failed: %s too small to contain board data, len: %zu\n",
 280                            filepath, len);
 281                 ret = -EINVAL;
 282                 goto err;
 283         }
 284
 285         data += magic_len;
 286         len -= magic_len;
 287
 288         while (len > sizeof(struct ath11k_fw_ie)) {
 289                 hdr = (struct ath11k_fw_ie *)data;
 290                 ie_id = le32_to_cpu(hdr->id);
 291                 ie_len = le32_to_cpu(hdr->len);
 292
 293                 len -= sizeof(*hdr);
 294                 data = hdr->data;
 295
 296                 if (len < ALIGN(ie_len, 4)) {
 297                         ath11k_err(ab, "invalid length for board ie_id %d ie_len %zu len %zu\n",
 298                                    ie_id, ie_len, len);
 299                         return -EINVAL;
 300                 }
 301
 302                 switch (ie_id) {
 303                 case ATH11K_BD_IE_BOARD:
 304                         ret = ath11k_core_parse_bd_ie_board(ab, bd, data,
 305                                                             ie_len,
 306                                                             boardname,
 307                                                             ATH11K_BD_IE_BOARD);
 308                         if (ret == -ENOENT)
 309                                 /* no match found, continue */
 310                                 break;
 311                         else if (ret)
 312                                 /* there was an error, bail out */
 313                                 goto err;
 314                         /* either found or error, so stop searching */
 315                         goto out;
 316                 }
 317
 318                 /* jump over the padding */
 319                 ie_len = ALIGN(ie_len, 4);
 320
 321                 len -= ie_len;
 322                 data += ie_len;
 323         }
 324
 325 out:
 326         if (!bd->data || !bd->len) {
 327                 ath11k_err(ab,
 328                            "failed to fetch board data for %s from %s\n",
 329                            boardname, filepath);
 330                 ret = -ENODATA;
 331                 goto err;
 332         }
 333
 334         return 0;
 335
 336 err:
 337         ath11k_core_free_bdf(ab, bd);
 338         return ret;
 339 }
 340
 341 static int ath11k_core_fetch_board_data_api_1(struct ath11k_base *ab,
 342                                               struct ath11k_board_data *bd)
 343 {
 344         bd->fw = ath11k_core_firmware_request(ab, ATH11K_DEFAULT_BOARD_FILE);
 345         if (IS_ERR(bd->fw))
 346                 return PTR_ERR(bd->fw);
 347
 348         bd->data = bd->fw->data;
 349         bd->len = bd->fw->size;
 350
 351         return 0;
 352 }
 353
 354 #define BOARD_NAME_SIZE 100
 355 int ath11k_core_fetch_bdf(struct ath11k_base *ab, struct ath11k_board_data *bd)
 356 {
 357         char boardname[BOARD_NAME_SIZE];
 358         int ret;
 359
 360         ret = ath11k_core_create_board_name(ab, boardname, BOARD_NAME_SIZE);
 361         if (ret) {
 362                 ath11k_err(ab, "failed to create board name: %d", ret);
 363                 return ret;
 364         }
 365
 366         ab->bd_api = 2;
 367         ret = ath11k_core_fetch_board_data_api_n(ab, bd, boardname);
 368         if (!ret)
 369                 goto success;
 370
 371         ab->bd_api = 1;
 372         ret = ath11k_core_fetch_board_data_api_1(ab, bd);
 373         if (ret) {
 374                 ath11k_err(ab, "failed to fetch board-2.bin or board.bin from %s\n",
 375                            ab->hw_params.fw.dir);
 376                 return ret;
 377         }
 378
 379 success:
 380         ath11k_dbg(ab, ATH11K_DBG_BOOT, "using board api %d\n", ab->bd_api);
 381         return 0;
 382 }
 383
 384 static void ath11k_core_stop(struct ath11k_base *ab)
 385 {
 386         if (!test_bit(ATH11K_FLAG_CRASH_FLUSH, &ab->dev_flags))
 387                 ath11k_qmi_firmware_stop(ab);
 388         ath11k_hif_stop(ab);
 389         ath11k_wmi_detach(ab);
 390         ath11k_dp_pdev_reo_cleanup(ab);
 391
 392         /* De-Init of components as needed */
 393 }
 394
 395 static int ath11k_core_soc_create(struct ath11k_base *ab)
 396 {
 397         int ret;
 398
 399         ret = ath11k_qmi_init_service(ab);
 400         if (ret) {
 401                 ath11k_err(ab, "failed to initialize qmi :%d\n", ret);
 402                 return ret;
 403         }
 404
 405         ret = ath11k_debug_soc_create(ab);
 406         if (ret) {
 407                 ath11k_err(ab, "failed to create ath11k debugfs\n");
 408                 goto err_qmi_deinit;
 409         }
 410
 411         ret = ath11k_hif_power_up(ab);
 412         if (ret) {
 413                 ath11k_err(ab, "failed to power up :%d\n", ret);
 414                 goto err_debugfs_reg;
 415         }
 416
 417         return 0;
 418
 419 err_debugfs_reg:
 420         ath11k_debug_soc_destroy(ab);
 421 err_qmi_deinit:
 422         ath11k_qmi_deinit_service(ab);
 423         return ret;
 424 }
 425
 426 static void ath11k_core_soc_destroy(struct ath11k_base *ab)
 427 {
 428         ath11k_debug_soc_destroy(ab);
 429         ath11k_dp_free(ab);
 430         ath11k_reg_free(ab);
 431         ath11k_qmi_deinit_service(ab);
 432 }
 433
 434 static int ath11k_core_pdev_create(struct ath11k_base *ab)
 435 {
 436         int ret;
 437
 438         ret = ath11k_debug_pdev_create(ab);
 439         if (ret) {
 440                 ath11k_err(ab, "failed to create core pdev debugfs: %d\n", ret);
 441                 return ret;
 442         }
 443
 444         ret = ath11k_mac_register(ab);
 445         if (ret) {
 446                 ath11k_err(ab, "failed register the radio with mac80211: %d\n", ret);
 447                 goto err_pdev_debug;
 448         }
 449
 450         ret = ath11k_dp_pdev_alloc(ab);
 451         if (ret) {
 452                 ath11k_err(ab, "failed to attach DP pdev: %d\n", ret);
 453                 goto err_mac_unregister;
 454         }
 455
 456         ret = ath11k_thermal_register(ab);
 457         if (ret) {
 458                 ath11k_err(ab, "could not register thermal device: %d\n",
 459                            ret);
 460                 goto err_dp_pdev_free;
 461         }
 462
 463         ret = ath11k_spectral_init(ab);
 464         if (ret) {
 465                 ath11k_err(ab, "failed to init spectral %d\n", ret);
 466                 goto err_thermal_unregister;
 467         }
 468
 469         return 0;
 470
 471 err_thermal_unregister:
 472         ath11k_thermal_unregister(ab);
 473 err_dp_pdev_free:
 474         ath11k_dp_pdev_free(ab);
 475 err_mac_unregister:
 476         ath11k_mac_unregister(ab);
 477 err_pdev_debug:
 478         ath11k_debug_pdev_destroy(ab);
 479
 480         return ret;
 481 }
 482
 483 static void ath11k_core_pdev_destroy(struct ath11k_base *ab)
 484 {
 485         ath11k_spectral_deinit(ab);
 486         ath11k_thermal_unregister(ab);
 487         ath11k_mac_unregister(ab);
 488         ath11k_hif_irq_disable(ab);
 489         ath11k_dp_pdev_free(ab);
 490         ath11k_debug_pdev_destroy(ab);
 491 }
 492
 493 static int ath11k_core_start(struct ath11k_base *ab,
 494                              enum ath11k_firmware_mode mode)
 495 {
 496         int ret;
 497
 498         ret = ath11k_qmi_firmware_start(ab, mode);
 499         if (ret) {
 500                 ath11k_err(ab, "failed to attach wmi: %d\n", ret);
 501                 return ret;
 502         }
 503
 504         ret = ath11k_wmi_attach(ab);
 505         if (ret) {
 506                 ath11k_err(ab, "failed to attach wmi: %d\n", ret);
 507                 goto err_firmware_stop;
 508         }
 509
 510         ret = ath11k_htc_init(ab);
 511         if (ret) {
 512                 ath11k_err(ab, "failed to init htc: %d\n", ret);
 513                 goto err_wmi_detach;
 514         }
 515
 516         ret = ath11k_hif_start(ab);
 517         if (ret) {
 518                 ath11k_err(ab, "failed to start HIF: %d\n", ret);
 519                 goto err_wmi_detach;
 520         }
 521
 522         ret = ath11k_htc_wait_target(&ab->htc);
 523         if (ret) {
 524                 ath11k_err(ab, "failed to connect to HTC: %d\n", ret);
 525                 goto err_hif_stop;
 526         }
 527
 528         ret = ath11k_dp_htt_connect(&ab->dp);
 529         if (ret) {
 530                 ath11k_err(ab, "failed to connect to HTT: %d\n", ret);
 531                 goto err_hif_stop;
 532         }
 533
 534         ret = ath11k_wmi_connect(ab);
 535         if (ret) {
 536                 ath11k_err(ab, "failed to connect wmi: %d\n", ret);
 537                 goto err_hif_stop;
 538         }
 539
 540         ret = ath11k_htc_start(&ab->htc);
 541         if (ret) {
 542                 ath11k_err(ab, "failed to start HTC: %d\n", ret);
 543                 goto err_hif_stop;
 544         }
 545
 546         ret = ath11k_wmi_wait_for_service_ready(ab);
 547         if (ret) {
 548                 ath11k_err(ab, "failed to receive wmi service ready event: %d\n",
 549                            ret);
 550                 goto err_hif_stop;
 551         }
 552
 553         ret = ath11k_mac_allocate(ab);
 554         if (ret) {
 555                 ath11k_err(ab, "failed to create new hw device with mac80211 :%d\n",
 556                            ret);
 557                 goto err_hif_stop;
 558         }
 559
 560         ath11k_dp_pdev_pre_alloc(ab);
 561
 562         ret = ath11k_dp_pdev_reo_setup(ab);
 563         if (ret) {
 564                 ath11k_err(ab, "failed to initialize reo destination rings: %d\n", ret);
 565                 goto err_mac_destroy;
 566         }
 567
 568         ret = ath11k_wmi_cmd_init(ab);
 569         if (ret) {
 570                 ath11k_err(ab, "failed to send wmi init cmd: %d\n", ret);
 571                 goto err_reo_cleanup;
 572         }
 573
 574         ret = ath11k_wmi_wait_for_unified_ready(ab);
 575         if (ret) {
 576                 ath11k_err(ab, "failed to receive wmi unified ready event: %d\n",
 577                            ret);
 578                 goto err_reo_cleanup;
 579         }
 580
 581         ret = ath11k_dp_tx_htt_h2t_ver_req_msg(ab);
 582         if (ret) {
 583                 ath11k_err(ab, "failed to send htt version request message: %d\n",
 584                            ret);
 585                 goto err_reo_cleanup;
 586         }
 587
 588         return 0;
 589
 590 err_reo_cleanup:
 591         ath11k_dp_pdev_reo_cleanup(ab);
 592 err_mac_destroy:
 593         ath11k_mac_destroy(ab);
 594 err_hif_stop:
 595         ath11k_hif_stop(ab);
 596 err_wmi_detach:
 597         ath11k_wmi_detach(ab);
 598 err_firmware_stop:
 599         ath11k_qmi_firmware_stop(ab);
 600
 601         return ret;
 602 }
 603
 604 int ath11k_core_qmi_firmware_ready(struct ath11k_base *ab)
 605 {
 606         int ret;
 607
 608         ret = ath11k_ce_init_pipes(ab);
 609         if (ret) {
 610                 ath11k_err(ab, "failed to initialize CE: %d\n", ret);
 611                 return ret;
 612         }
 613
 614         ret = ath11k_dp_alloc(ab);
 615         if (ret) {
 616                 ath11k_err(ab, "failed to init DP: %d\n", ret);
 617                 return ret;
 618         }
 619
 620         mutex_lock(&ab->core_lock);
 621         ret = ath11k_core_start(ab, ATH11K_FIRMWARE_MODE_NORMAL);
 622         if (ret) {
 623                 ath11k_err(ab, "failed to start core: %d\n", ret);
 624                 goto err_dp_free;
 625         }
 626
 627         ret = ath11k_core_pdev_create(ab);
 628         if (ret) {
 629                 ath11k_err(ab, "failed to create pdev core: %d\n", ret);
 630                 goto err_core_stop;
 631         }
 632         ath11k_hif_irq_enable(ab);
 633         mutex_unlock(&ab->core_lock);
 634
 635         return 0;
 636
 637 err_core_stop:
 638         ath11k_core_stop(ab);
 639         ath11k_mac_destroy(ab);
 640 err_dp_free:
 641         ath11k_dp_free(ab);
 642         mutex_unlock(&ab->core_lock);
 643         return ret;
 644 }
 645
 646 static int ath11k_core_reconfigure_on_crash(struct ath11k_base *ab)
 647 {
 648         int ret;
 649
 650         mutex_lock(&ab->core_lock);
 651         ath11k_thermal_unregister(ab);
 652         ath11k_hif_irq_disable(ab);
 653         ath11k_dp_pdev_free(ab);
 654         ath11k_spectral_deinit(ab);
 655         ath11k_hif_stop(ab);
 656         ath11k_wmi_detach(ab);
 657         ath11k_dp_pdev_reo_cleanup(ab);
 658         mutex_unlock(&ab->core_lock);
 659
 660         ath11k_dp_free(ab);
 661         ath11k_hal_srng_deinit(ab);
 662
 663         ab->free_vdev_map = (1LL << (ab->num_radios * TARGET_NUM_VDEVS)) - 1;
 664
 665         ret = ath11k_hal_srng_init(ab);
 666         if (ret)
 667                 return ret;
 668
 669         clear_bit(ATH11K_FLAG_CRASH_FLUSH, &ab->dev_flags);
 670
 671         ret = ath11k_core_qmi_firmware_ready(ab);
 672         if (ret)
 673                 goto err_hal_srng_deinit;
 674
 675         clear_bit(ATH11K_FLAG_RECOVERY, &ab->dev_flags);
 676
 677         return 0;
 678
 679 err_hal_srng_deinit:
 680         ath11k_hal_srng_deinit(ab);
 681         return ret;
 682 }
 683
 684 void ath11k_core_halt(struct ath11k *ar)
 685 {
 686         struct ath11k_base *ab = ar->ab;
 687
 688         lockdep_assert_held(&ar->conf_mutex);
 689
 690         ar->num_created_vdevs = 0;
 691         ar->allocated_vdev_map = 0;
 692
 693         ath11k_mac_scan_finish(ar);
 694         ath11k_mac_peer_cleanup_all(ar);
 695         cancel_delayed_work_sync(&ar->scan.timeout);
 696         cancel_work_sync(&ar->regd_update_work);
 697
 698         rcu_assign_pointer(ab->pdevs_active[ar->pdev_idx], NULL);
 699         synchronize_rcu();
 700         INIT_LIST_HEAD(&ar->arvifs);
 701         idr_init(&ar->txmgmt_idr);
 702 }
 703
 704 static void ath11k_core_restart(struct work_struct *work)
 705 {
 706         struct ath11k_base *ab = container_of(work, struct ath11k_base, restart_work);
 707         struct ath11k *ar;
 708         struct ath11k_pdev *pdev;
 709         int i, ret = 0;
 710
 711         spin_lock_bh(&ab->base_lock);
 712         ab->stats.fw_crash_counter++;
 713         spin_unlock_bh(&ab->base_lock);
 714
 715         for (i = 0; i < ab->num_radios; i++) {
 716                 pdev = &ab->pdevs[i];
 717                 ar = pdev->ar;
 718                 if (!ar || ar->state == ATH11K_STATE_OFF)
 719                         continue;
 720
 721                 ieee80211_stop_queues(ar->hw);
 722                 ath11k_mac_drain_tx(ar);
 723                 complete(&ar->scan.started);
 724                 complete(&ar->scan.completed);
 725                 complete(&ar->peer_assoc_done);
 726                 complete(&ar->install_key_done);
 727                 complete(&ar->vdev_setup_done);
 728                 complete(&ar->bss_survey_done);
 729                 complete(&ar->thermal.wmi_sync);
 730
 731                 wake_up(&ar->dp.tx_empty_waitq);
 732                 idr_for_each(&ar->txmgmt_idr,
 733                              ath11k_mac_tx_mgmt_pending_free, ar);
 734                 idr_destroy(&ar->txmgmt_idr);
 735         }
 736
 737         wake_up(&ab->wmi_ab.tx_credits_wq);
 738         wake_up(&ab->peer_mapping_wq);
 739
 740         ret = ath11k_core_reconfigure_on_crash(ab);
 741         if (ret) {
 742                 ath11k_err(ab, "failed to reconfigure driver on crash recovery\n");
 743                 return;
 744         }
 745
 746         for (i = 0; i < ab->num_radios; i++) {
 747                 pdev = &ab->pdevs[i];
 748                 ar = pdev->ar;
 749                 if (!ar || ar->state == ATH11K_STATE_OFF)
 750                         continue;
 751
 752                 mutex_lock(&ar->conf_mutex);
 753
 754                 switch (ar->state) {
 755                 case ATH11K_STATE_ON:
 756                         ar->state = ATH11K_STATE_RESTARTING;
 757                         ath11k_core_halt(ar);
 758                         ieee80211_restart_hw(ar->hw);
 759                         break;
 760                 case ATH11K_STATE_OFF:
 761                         ath11k_warn(ab,
 762                                     "cannot restart radio %d that hasn't been started\n",
 763                                     i);
 764                         break;
 765                 case ATH11K_STATE_RESTARTING:
 766                         break;
 767                 case ATH11K_STATE_RESTARTED:
 768                         ar->state = ATH11K_STATE_WEDGED;
 769                         fallthrough;
 770                 case ATH11K_STATE_WEDGED:
 771                         ath11k_warn(ab,
 772                                     "device is wedged, will not restart radio %d\n", i);
 773                         break;
 774                 }
 775                 mutex_unlock(&ar->conf_mutex);
 776         }
 777         complete(&ab->driver_recovery);
 778 }
 779
 780 static int ath11k_init_hw_params(struct ath11k_base *ab)
 781 {
 782         const struct ath11k_hw_params *hw_params = NULL;
 783         int i;
 784
 785         for (i = 0; i < ARRAY_SIZE(ath11k_hw_params); i++) {
 786                 hw_params = &ath11k_hw_params[i];
 787
 788                 if (hw_params->hw_rev == ab->hw_rev)
 789                         break;
 790         }
 791
 792         if (i == ARRAY_SIZE(ath11k_hw_params)) {
 793                 ath11k_err(ab, "Unsupported hardware version: 0x%x\n", ab->hw_rev);
 794                 return -EINVAL;
 795         }
 796
 797         ab->hw_params = *hw_params;
 798
 799         ath11k_dbg(ab, ATH11K_DBG_BOOT, "Hardware name %s\n", ab->hw_params.name);
 800
 801         return 0;
 802 }
 803
 804 int ath11k_core_pre_init(struct ath11k_base *ab)
 805 {
 806         int ret;
 807
 808         ret = ath11k_init_hw_params(ab);
 809         if (ret) {
 810                 ath11k_err(ab, "failed to get hw params: %d\n", ret);
 811                 return ret;
 812         }
 813
 814         return 0;
 815 }
 816 EXPORT_SYMBOL(ath11k_core_pre_init);
 817
 818 static int ath11k_core_get_rproc(struct ath11k_base *ab)
 819 {
 820         struct device *dev = ab->dev;
 821         struct rproc *prproc;
 822         phandle rproc_phandle;
 823
 824         if (ab->bus_params.mhi_support)
 825                 return 0;
 826
 827         if (of_property_read_u32(dev->of_node, "qcom,rproc", &rproc_phandle)) {
 828                 ath11k_err(ab, "failed to get q6_rproc handle\n");
 829                 return -ENOENT;
 830         }
 831
 832         prproc = rproc_get_by_phandle(rproc_phandle);
 833         if (!prproc) {
 834                 ath11k_err(ab, "failed to get rproc\n");
 835                 return -EINVAL;
 836         }
 837         ab->tgt_rproc = prproc;
 838
 839         return 0;
 840 }
 841
 842 int ath11k_core_init(struct ath11k_base *ab)
 843 {
 844         int ret;
 845
 846         ret = ath11k_core_get_rproc(ab);
 847         if (ret) {
 848                 ath11k_err(ab, "failed to get rproc: %d\n", ret);
 849                 return ret;
 850         }
 851
 852         ret = ath11k_init_hw_params(ab);
 853         if (ret) {
 854                 ath11k_err(ab, "failed to get hw params %d\n", ret);
 855                 return ret;
 856         }
 857
 858         ret = ath11k_core_soc_create(ab);
 859         if (ret) {
 860                 ath11k_err(ab, "failed to create soc core: %d\n", ret);
 861                 return ret;
 862         }
 863
 864         return 0;
 865 }
 866 EXPORT_SYMBOL(ath11k_core_init);
 867
 868 void ath11k_core_deinit(struct ath11k_base *ab)
 869 {
 870         mutex_lock(&ab->core_lock);
 871
 872         ath11k_core_pdev_destroy(ab);
 873         ath11k_core_stop(ab);
 874
 875         mutex_unlock(&ab->core_lock);
 876
 877         ath11k_hif_power_down(ab);
 878         ath11k_mac_destroy(ab);
 879         ath11k_core_soc_destroy(ab);
 880 }
 881 EXPORT_SYMBOL(ath11k_core_deinit);
 882
 883 void ath11k_core_free(struct ath11k_base *ab)
 884 {
 885         kfree(ab);
 886 }
 887 EXPORT_SYMBOL(ath11k_core_free);
 888
 889 struct ath11k_base *ath11k_core_alloc(struct device *dev, size_t priv_size,
 890                                       enum ath11k_bus bus,
 891                                       const struct ath11k_bus_params *bus_params)
 892 {
 893         struct ath11k_base *ab;
 894
 895         ab = kzalloc(sizeof(*ab) + priv_size, GFP_KERNEL);
 896         if (!ab)
 897                 return NULL;
 898
 899         init_completion(&ab->driver_recovery);
 900
 901         ab->workqueue = create_singlethread_workqueue("ath11k_wq");
 902         if (!ab->workqueue)
 903                 goto err_sc_free;
 904
 905         mutex_init(&ab->core_lock);
 906         spin_lock_init(&ab->base_lock);
 907
 908         INIT_LIST_HEAD(&ab->peers);
 909         init_waitqueue_head(&ab->peer_mapping_wq);
 910         init_waitqueue_head(&ab->wmi_ab.tx_credits_wq);
 911         INIT_WORK(&ab->restart_work, ath11k_core_restart);
 912         timer_setup(&ab->rx_replenish_retry, ath11k_ce_rx_replenish_retry, 0);
 913         ab->dev = dev;
 914         ab->bus_params = *bus_params;
 915         ab->hif.bus = bus;
 916
 917         return ab;
 918
 919 err_sc_free:
 920         kfree(ab);
 921         return NULL;
 922 }
 923 EXPORT_SYMBOL(ath11k_core_alloc);
 924
 925 MODULE_DESCRIPTION("Core module for Qualcomm Atheros 802.11ax wireless LAN cards.");
 926 MODULE_LICENSE("Dual BSD/GPL");