drivers/net/wireless/ath/ath11k/core.c

   1 // SPDX-License-Identifier: BSD-3-Clause-Clear
   2 /*
   3  * Copyright (c) 2018-2019 The Linux Foundation. All rights reserved.
   4  */
   5
   6 #include <linux/module.h>
   7 #include <linux/slab.h>
   8 #include <linux/remoteproc.h>
   9 #include <linux/firmware.h>
  10 #include "core.h"
  11 #include "dp_tx.h"
  12 #include "dp_rx.h"
  13 #include "debug.h"
  14 #include "hif.h"
  15
  16 unsigned int ath11k_debug_mask;
  17 EXPORT_SYMBOL(ath11k_debug_mask);
  18 module_param_named(debug_mask, ath11k_debug_mask, uint, 0644);
  19 MODULE_PARM_DESC(debug_mask, "Debugging mask");
  20
  21 static unsigned int ath11k_crypto_mode;
  22 module_param_named(crypto_mode, ath11k_crypto_mode, uint, 0644);
  23 MODULE_PARM_DESC(crypto_mode, "crypto mode: 0-hardware, 1-software");
  24
  25 /* frame mode values are mapped as per enum ath11k_hw_txrx_mode */
  26 unsigned int ath11k_frame_mode = ATH11K_HW_TXRX_NATIVE_WIFI;
  27 module_param_named(frame_mode, ath11k_frame_mode, uint, 0644);
  28 MODULE_PARM_DESC(frame_mode,
  29                  "Datapath frame mode (0: raw, 1: native wifi (default), 2: ethernet)");
  30
  31 static const struct ath11k_hw_params ath11k_hw_params[] = {
  32         {
  33                 .hw_rev = ATH11K_HW_IPQ8074,
  34                 .name = "ipq8074 hw2.0",
  35                 .fw = {
  36                         .dir = "IPQ8074/hw2.0",
  37                         .board_size = 256 * 1024,
  38                         .cal_size = 256 * 1024,
  39                 },
  40                 .max_radios = 3,
  41                 .bdf_addr = 0x4B0C0000,
  42                 .hw_ops = &ipq8074_ops,
  43                 .ring_mask = &ath11k_hw_ring_mask_ipq8074,
  44                 .internal_sleep_clock = false,
  45                 .regs = &ipq8074_regs,
  46                 .host_ce_config = ath11k_host_ce_config_ipq8074,
  47                 .ce_count = 12,
  48                 .target_ce_config = ath11k_target_ce_config_wlan_ipq8074,
  49                 .target_ce_count = 11,
  50                 .svc_to_ce_map = ath11k_target_service_to_ce_map_wlan_ipq8074,
  51                 .svc_to_ce_map_len = 21,
  52                 .single_pdev_only = false,
  53                 .needs_band_to_mac = true,
  54                 .rxdma1_enable = true,
  55                 .num_rxmda_per_pdev = 1,
  56                 .rx_mac_buf_ring = false,
  57                 .vdev_start_delay = false,
  58                 .htt_peer_map_v2 = true,
  59                 .tcl_0_only = false,
  60         },
  61         {
  62                 .hw_rev = ATH11K_HW_IPQ6018_HW10,
  63                 .name = "ipq6018 hw1.0",
  64                 .fw = {
  65                         .dir = "IPQ6018/hw1.0",
  66                         .board_size = 256 * 1024,
  67                         .cal_size = 256 * 1024,
  68                 },
  69                 .max_radios = 2,
  70                 .bdf_addr = 0x4ABC0000,
  71                 .hw_ops = &ipq6018_ops,
  72                 .ring_mask = &ath11k_hw_ring_mask_ipq8074,
  73                 .internal_sleep_clock = false,
  74                 .regs = &ipq8074_regs,
  75                 .host_ce_config = ath11k_host_ce_config_ipq8074,
  76                 .ce_count = 12,
  77                 .target_ce_config = ath11k_target_ce_config_wlan_ipq8074,
  78                 .target_ce_count = 11,
  79                 .svc_to_ce_map = ath11k_target_service_to_ce_map_wlan_ipq6018,
  80                 .svc_to_ce_map_len = 19,
  81                 .single_pdev_only = false,
  82                 .needs_band_to_mac = true,
  83                 .rxdma1_enable = true,
  84                 .num_rxmda_per_pdev = 1,
  85                 .rx_mac_buf_ring = false,
  86                 .vdev_start_delay = false,
  87                 .htt_peer_map_v2 = true,
  88                 .tcl_0_only = false,
  89         },
  90         {
  91                 .name = "qca6390 hw2.0",
  92                 .hw_rev = ATH11K_HW_QCA6390_HW20,
  93                 .fw = {
  94                         .dir = "QCA6390/hw2.0",
  95                         .board_size = 256 * 1024,
  96                         .cal_size = 256 * 1024,
  97                 },
  98                 .max_radios = 3,
  99                 .bdf_addr = 0x4B0C0000,
 100                 .hw_ops = &qca6390_ops,
 101                 .ring_mask = &ath11k_hw_ring_mask_qca6390,
 102                 .internal_sleep_clock = true,
 103                 .regs = &qca6390_regs,
 104                 .host_ce_config = ath11k_host_ce_config_qca6390,
 105                 .ce_count = 9,
 106                 .target_ce_config = ath11k_target_ce_config_wlan_qca6390,
 107                 .target_ce_count = 9,
 108                 .svc_to_ce_map = ath11k_target_service_to_ce_map_wlan_qca6390,
 109                 .svc_to_ce_map_len = 14,
 110                 .single_pdev_only = true,
 111                 .needs_band_to_mac = false,
 112                 .rxdma1_enable = false,
 113                 .num_rxmda_per_pdev = 2,
 114                 .rx_mac_buf_ring = true,
 115                 .vdev_start_delay = true,
 116                 .htt_peer_map_v2 = false,
 117                 .tcl_0_only = true,
 118         },
 119 };
 120
 121 static int ath11k_core_create_board_name(struct ath11k_base *ab, char *name,
 122                                          size_t name_len)
 123 {
 124         scnprintf(name, name_len,
 125                   "bus=%s,qmi-chip-id=%d,qmi-board-id=%d",
 126                   ath11k_bus_str(ab->hif.bus),
 127                   ab->qmi.target.chip_id,
 128                   ab->qmi.target.board_id);
 129
 130         ath11k_dbg(ab, ATH11K_DBG_BOOT, "boot using board name '%s'\n", name);
 131
 132         return 0;
 133 }
 134
 135 const struct firmware *ath11k_core_firmware_request(struct ath11k_base *ab,
 136                                                     const char *file)
 137 {
 138         const struct firmware *fw;
 139         char path[100];
 140         int ret;
 141
 142         if (file == NULL)
 143                 return ERR_PTR(-ENOENT);
 144
 145         ath11k_core_create_firmware_path(ab, file, path, sizeof(path));
 146
 147         ret = firmware_request_nowarn(&fw, path, ab->dev);
 148         if (ret)
 149                 return ERR_PTR(ret);
 150
 151         ath11k_dbg(ab, ATH11K_DBG_BOOT, "boot firmware request %s size %zu\n",
 152                    path, fw->size);
 153
 154         return fw;
 155 }
 156
 157 void ath11k_core_free_bdf(struct ath11k_base *ab, struct ath11k_board_data *bd)
 158 {
 159         if (!IS_ERR(bd->fw))
 160                 release_firmware(bd->fw);
 161
 162         memset(bd, 0, sizeof(*bd));
 163 }
 164
 165 static int ath11k_core_parse_bd_ie_board(struct ath11k_base *ab,
 166                                          struct ath11k_board_data *bd,
 167                                          const void *buf, size_t buf_len,
 168                                          const char *boardname,
 169                                          int bd_ie_type)
 170 {
 171         const struct ath11k_fw_ie *hdr;
 172         bool name_match_found;
 173         int ret, board_ie_id;
 174         size_t board_ie_len;
 175         const void *board_ie_data;
 176
 177         name_match_found = false;
 178
 179         /* go through ATH11K_BD_IE_BOARD_ elements */
 180         while (buf_len > sizeof(struct ath11k_fw_ie)) {
 181                 hdr = buf;
 182                 board_ie_id = le32_to_cpu(hdr->id);
 183                 board_ie_len = le32_to_cpu(hdr->len);
 184                 board_ie_data = hdr->data;
 185
 186                 buf_len -= sizeof(*hdr);
 187                 buf += sizeof(*hdr);
 188
 189                 if (buf_len < ALIGN(board_ie_len, 4)) {
 190                         ath11k_err(ab, "invalid ATH11K_BD_IE_BOARD length: %zu < %zu\n",
 191                                    buf_len, ALIGN(board_ie_len, 4));
 192                         ret = -EINVAL;
 193                         goto out;
 194                 }
 195
 196                 switch (board_ie_id) {
 197                 case ATH11K_BD_IE_BOARD_NAME:
 198                         ath11k_dbg_dump(ab, ATH11K_DBG_BOOT, "board name", "",
 199                                         board_ie_data, board_ie_len);
 200
 201                         if (board_ie_len != strlen(boardname))
 202                                 break;
 203
 204                         ret = memcmp(board_ie_data, boardname, strlen(boardname));
 205                         if (ret)
 206                                 break;
 207
 208                         name_match_found = true;
 209                         ath11k_dbg(ab, ATH11K_DBG_BOOT,
 210                                    "boot found match for name '%s'",
 211                                    boardname);
 212                         break;
 213                 case ATH11K_BD_IE_BOARD_DATA:
 214                         if (!name_match_found)
 215                                 /* no match found */
 216                                 break;
 217
 218                         ath11k_dbg(ab, ATH11K_DBG_BOOT,
 219                                    "boot found board data for '%s'", boardname);
 220
 221                         bd->data = board_ie_data;
 222                         bd->len = board_ie_len;
 223
 224                         ret = 0;
 225                         goto out;
 226                 default:
 227                         ath11k_warn(ab, "unknown ATH11K_BD_IE_BOARD found: %d\n",
 228                                     board_ie_id);
 229                         break;
 230                 }
 231
 232                 /* jump over the padding */
 233                 board_ie_len = ALIGN(board_ie_len, 4);
 234
 235                 buf_len -= board_ie_len;
 236                 buf += board_ie_len;
 237         }
 238
 239         /* no match found */
 240         ret = -ENOENT;
 241
 242 out:
 243         return ret;
 244 }
 245
 246 static int ath11k_core_fetch_board_data_api_n(struct ath11k_base *ab,
 247                                               struct ath11k_board_data *bd,
 248                                               const char *boardname)
 249 {
 250         size_t len, magic_len;
 251         const u8 *data;
 252         char *filename, filepath[100];
 253         size_t ie_len;
 254         struct ath11k_fw_ie *hdr;
 255         int ret, ie_id;
 256
 257         filename = ATH11K_BOARD_API2_FILE;
 258
 259         if (!bd->fw)
 260                 bd->fw = ath11k_core_firmware_request(ab, filename);
 261
 262         if (IS_ERR(bd->fw))
 263                 return PTR_ERR(bd->fw);
 264
 265         data = bd->fw->data;
 266         len = bd->fw->size;
 267
 268         ath11k_core_create_firmware_path(ab, filename,
 269                                          filepath, sizeof(filepath));
 270
 271         /* magic has extra null byte padded */
 272         magic_len = strlen(ATH11K_BOARD_MAGIC) + 1;
 273         if (len < magic_len) {
 274                 ath11k_err(ab, "failed to find magic value in %s, file too short: %zu\n",
 275                            filepath, len);
 276                 ret = -EINVAL;
 277                 goto err;
 278         }
 279
 280         if (memcmp(data, ATH11K_BOARD_MAGIC, magic_len)) {
 281                 ath11k_err(ab, "found invalid board magic\n");
 282                 ret = -EINVAL;
 283                 goto err;
 284         }
 285
 286         /* magic is padded to 4 bytes */
 287         magic_len = ALIGN(magic_len, 4);
 288         if (len < magic_len) {
 289                 ath11k_err(ab, "failed: %s too small to contain board data, len: %zu\n",
 290                            filepath, len);
 291                 ret = -EINVAL;
 292                 goto err;
 293         }
 294
 295         data += magic_len;
 296         len -= magic_len;
 297
 298         while (len > sizeof(struct ath11k_fw_ie)) {
 299                 hdr = (struct ath11k_fw_ie *)data;
 300                 ie_id = le32_to_cpu(hdr->id);
 301                 ie_len = le32_to_cpu(hdr->len);
 302
 303                 len -= sizeof(*hdr);
 304                 data = hdr->data;
 305
 306                 if (len < ALIGN(ie_len, 4)) {
 307                         ath11k_err(ab, "invalid length for board ie_id %d ie_len %zu len %zu\n",
 308                                    ie_id, ie_len, len);
 309                         return -EINVAL;
 310                 }
 311
 312                 switch (ie_id) {
 313                 case ATH11K_BD_IE_BOARD:
 314                         ret = ath11k_core_parse_bd_ie_board(ab, bd, data,
 315                                                             ie_len,
 316                                                             boardname,
 317                                                             ATH11K_BD_IE_BOARD);
 318                         if (ret == -ENOENT)
 319                                 /* no match found, continue */
 320                                 break;
 321                         else if (ret)
 322                                 /* there was an error, bail out */
 323                                 goto err;
 324                         /* either found or error, so stop searching */
 325                         goto out;
 326                 }
 327
 328                 /* jump over the padding */
 329                 ie_len = ALIGN(ie_len, 4);
 330
 331                 len -= ie_len;
 332                 data += ie_len;
 333         }
 334
 335 out:
 336         if (!bd->data || !bd->len) {
 337                 ath11k_err(ab,
 338                            "failed to fetch board data for %s from %s\n",
 339                            boardname, filepath);
 340                 ret = -ENODATA;
 341                 goto err;
 342         }
 343
 344         return 0;
 345
 346 err:
 347         ath11k_core_free_bdf(ab, bd);
 348         return ret;
 349 }
 350
 351 static int ath11k_core_fetch_board_data_api_1(struct ath11k_base *ab,
 352                                               struct ath11k_board_data *bd)
 353 {
 354         bd->fw = ath11k_core_firmware_request(ab, ATH11K_DEFAULT_BOARD_FILE);
 355         if (IS_ERR(bd->fw))
 356                 return PTR_ERR(bd->fw);
 357
 358         bd->data = bd->fw->data;
 359         bd->len = bd->fw->size;
 360
 361         return 0;
 362 }
 363
 364 #define BOARD_NAME_SIZE 100
 365 int ath11k_core_fetch_bdf(struct ath11k_base *ab, struct ath11k_board_data *bd)
 366 {
 367         char boardname[BOARD_NAME_SIZE];
 368         int ret;
 369
 370         ret = ath11k_core_create_board_name(ab, boardname, BOARD_NAME_SIZE);
 371         if (ret) {
 372                 ath11k_err(ab, "failed to create board name: %d", ret);
 373                 return ret;
 374         }
 375
 376         ab->bd_api = 2;
 377         ret = ath11k_core_fetch_board_data_api_n(ab, bd, boardname);
 378         if (!ret)
 379                 goto success;
 380
 381         ab->bd_api = 1;
 382         ret = ath11k_core_fetch_board_data_api_1(ab, bd);
 383         if (ret) {
 384                 ath11k_err(ab, "failed to fetch board-2.bin or board.bin from %s\n",
 385                            ab->hw_params.fw.dir);
 386                 return ret;
 387         }
 388
 389 success:
 390         ath11k_dbg(ab, ATH11K_DBG_BOOT, "using board api %d\n", ab->bd_api);
 391         return 0;
 392 }
 393
 394 static void ath11k_core_stop(struct ath11k_base *ab)
 395 {
 396         if (!test_bit(ATH11K_FLAG_CRASH_FLUSH, &ab->dev_flags))
 397                 ath11k_qmi_firmware_stop(ab);
 398         ath11k_hif_stop(ab);
 399         ath11k_wmi_detach(ab);
 400         ath11k_dp_pdev_reo_cleanup(ab);
 401
 402         /* De-Init of components as needed */
 403 }
 404
 405 static int ath11k_core_soc_create(struct ath11k_base *ab)
 406 {
 407         int ret;
 408
 409         ret = ath11k_qmi_init_service(ab);
 410         if (ret) {
 411                 ath11k_err(ab, "failed to initialize qmi :%d\n", ret);
 412                 return ret;
 413         }
 414
 415         ret = ath11k_debug_soc_create(ab);
 416         if (ret) {
 417                 ath11k_err(ab, "failed to create ath11k debugfs\n");
 418                 goto err_qmi_deinit;
 419         }
 420
 421         ret = ath11k_hif_power_up(ab);
 422         if (ret) {
 423                 ath11k_err(ab, "failed to power up :%d\n", ret);
 424                 goto err_debugfs_reg;
 425         }
 426
 427         return 0;
 428
 429 err_debugfs_reg:
 430         ath11k_debug_soc_destroy(ab);
 431 err_qmi_deinit:
 432         ath11k_qmi_deinit_service(ab);
 433         return ret;
 434 }
 435
 436 static void ath11k_core_soc_destroy(struct ath11k_base *ab)
 437 {
 438         ath11k_debug_soc_destroy(ab);
 439         ath11k_dp_free(ab);
 440         ath11k_reg_free(ab);
 441         ath11k_qmi_deinit_service(ab);
 442 }
 443
 444 static int ath11k_core_pdev_create(struct ath11k_base *ab)
 445 {
 446         int ret;
 447
 448         ret = ath11k_debug_pdev_create(ab);
 449         if (ret) {
 450                 ath11k_err(ab, "failed to create core pdev debugfs: %d\n", ret);
 451                 return ret;
 452         }
 453
 454         ret = ath11k_mac_register(ab);
 455         if (ret) {
 456                 ath11k_err(ab, "failed register the radio with mac80211: %d\n", ret);
 457                 goto err_pdev_debug;
 458         }
 459
 460         ret = ath11k_dp_pdev_alloc(ab);
 461         if (ret) {
 462                 ath11k_err(ab, "failed to attach DP pdev: %d\n", ret);
 463                 goto err_mac_unregister;
 464         }
 465
 466         ret = ath11k_thermal_register(ab);
 467         if (ret) {
 468                 ath11k_err(ab, "could not register thermal device: %d\n",
 469                            ret);
 470                 goto err_dp_pdev_free;
 471         }
 472
 473         ret = ath11k_spectral_init(ab);
 474         if (ret) {
 475                 ath11k_err(ab, "failed to init spectral %d\n", ret);
 476                 goto err_thermal_unregister;
 477         }
 478
 479         return 0;
 480
 481 err_thermal_unregister:
 482         ath11k_thermal_unregister(ab);
 483 err_dp_pdev_free:
 484         ath11k_dp_pdev_free(ab);
 485 err_mac_unregister:
 486         ath11k_mac_unregister(ab);
 487 err_pdev_debug:
 488         ath11k_debug_pdev_destroy(ab);
 489
 490         return ret;
 491 }
 492
 493 static void ath11k_core_pdev_destroy(struct ath11k_base *ab)
 494 {
 495         ath11k_spectral_deinit(ab);
 496         ath11k_thermal_unregister(ab);
 497         ath11k_mac_unregister(ab);
 498         ath11k_hif_irq_disable(ab);
 499         ath11k_dp_pdev_free(ab);
 500         ath11k_debug_pdev_destroy(ab);
 501 }
 502
 503 static int ath11k_core_start(struct ath11k_base *ab,
 504                              enum ath11k_firmware_mode mode)
 505 {
 506         int ret;
 507
 508         ret = ath11k_qmi_firmware_start(ab, mode);
 509         if (ret) {
 510                 ath11k_err(ab, "failed to attach wmi: %d\n", ret);
 511                 return ret;
 512         }
 513
 514         ret = ath11k_wmi_attach(ab);
 515         if (ret) {
 516                 ath11k_err(ab, "failed to attach wmi: %d\n", ret);
 517                 goto err_firmware_stop;
 518         }
 519
 520         ret = ath11k_htc_init(ab);
 521         if (ret) {
 522                 ath11k_err(ab, "failed to init htc: %d\n", ret);
 523                 goto err_wmi_detach;
 524         }
 525
 526         ret = ath11k_hif_start(ab);
 527         if (ret) {
 528                 ath11k_err(ab, "failed to start HIF: %d\n", ret);
 529                 goto err_wmi_detach;
 530         }
 531
 532         ret = ath11k_htc_wait_target(&ab->htc);
 533         if (ret) {
 534                 ath11k_err(ab, "failed to connect to HTC: %d\n", ret);
 535                 goto err_hif_stop;
 536         }
 537
 538         ret = ath11k_dp_htt_connect(&ab->dp);
 539         if (ret) {
 540                 ath11k_err(ab, "failed to connect to HTT: %d\n", ret);
 541                 goto err_hif_stop;
 542         }
 543
 544         ret = ath11k_wmi_connect(ab);
 545         if (ret) {
 546                 ath11k_err(ab, "failed to connect wmi: %d\n", ret);
 547                 goto err_hif_stop;
 548         }
 549
 550         ret = ath11k_htc_start(&ab->htc);
 551         if (ret) {
 552                 ath11k_err(ab, "failed to start HTC: %d\n", ret);
 553                 goto err_hif_stop;
 554         }
 555
 556         ret = ath11k_wmi_wait_for_service_ready(ab);
 557         if (ret) {
 558                 ath11k_err(ab, "failed to receive wmi service ready event: %d\n",
 559                            ret);
 560                 goto err_hif_stop;
 561         }
 562
 563         ret = ath11k_mac_allocate(ab);
 564         if (ret) {
 565                 ath11k_err(ab, "failed to create new hw device with mac80211 :%d\n",
 566                            ret);
 567                 goto err_hif_stop;
 568         }
 569
 570         ath11k_dp_pdev_pre_alloc(ab);
 571
 572         ret = ath11k_dp_pdev_reo_setup(ab);
 573         if (ret) {
 574                 ath11k_err(ab, "failed to initialize reo destination rings: %d\n", ret);
 575                 goto err_mac_destroy;
 576         }
 577
 578         ret = ath11k_wmi_cmd_init(ab);
 579         if (ret) {
 580                 ath11k_err(ab, "failed to send wmi init cmd: %d\n", ret);
 581                 goto err_reo_cleanup;
 582         }
 583
 584         ret = ath11k_wmi_wait_for_unified_ready(ab);
 585         if (ret) {
 586                 ath11k_err(ab, "failed to receive wmi unified ready event: %d\n",
 587                            ret);
 588                 goto err_reo_cleanup;
 589         }
 590
 591         ret = ath11k_dp_tx_htt_h2t_ver_req_msg(ab);
 592         if (ret) {
 593                 ath11k_err(ab, "failed to send htt version request message: %d\n",
 594                            ret);
 595                 goto err_reo_cleanup;
 596         }
 597
 598         return 0;
 599
 600 err_reo_cleanup:
 601         ath11k_dp_pdev_reo_cleanup(ab);
 602 err_mac_destroy:
 603         ath11k_mac_destroy(ab);
 604 err_hif_stop:
 605         ath11k_hif_stop(ab);
 606 err_wmi_detach:
 607         ath11k_wmi_detach(ab);
 608 err_firmware_stop:
 609         ath11k_qmi_firmware_stop(ab);
 610
 611         return ret;
 612 }
 613
 614 int ath11k_core_qmi_firmware_ready(struct ath11k_base *ab)
 615 {
 616         int ret;
 617
 618         ret = ath11k_ce_init_pipes(ab);
 619         if (ret) {
 620                 ath11k_err(ab, "failed to initialize CE: %d\n", ret);
 621                 return ret;
 622         }
 623
 624         ret = ath11k_dp_alloc(ab);
 625         if (ret) {
 626                 ath11k_err(ab, "failed to init DP: %d\n", ret);
 627                 return ret;
 628         }
 629
 630         switch (ath11k_crypto_mode) {
 631         case ATH11K_CRYPT_MODE_SW:
 632                 set_bit(ATH11K_FLAG_HW_CRYPTO_DISABLED, &ab->dev_flags);
 633                 set_bit(ATH11K_FLAG_RAW_MODE, &ab->dev_flags);
 634                 break;
 635         case ATH11K_CRYPT_MODE_HW:
 636                 clear_bit(ATH11K_FLAG_HW_CRYPTO_DISABLED, &ab->dev_flags);
 637                 clear_bit(ATH11K_FLAG_RAW_MODE, &ab->dev_flags);
 638                 break;
 639         default:
 640                 ath11k_info(ab, "invalid crypto_mode: %d\n", ath11k_crypto_mode);
 641                 return -EINVAL;
 642         }
 643
 644         if (ath11k_frame_mode == ATH11K_HW_TXRX_RAW)
 645                 set_bit(ATH11K_FLAG_RAW_MODE, &ab->dev_flags);
 646
 647         mutex_lock(&ab->core_lock);
 648         ret = ath11k_core_start(ab, ATH11K_FIRMWARE_MODE_NORMAL);
 649         if (ret) {
 650                 ath11k_err(ab, "failed to start core: %d\n", ret);
 651                 goto err_dp_free;
 652         }
 653
 654         ret = ath11k_core_pdev_create(ab);
 655         if (ret) {
 656                 ath11k_err(ab, "failed to create pdev core: %d\n", ret);
 657                 goto err_core_stop;
 658         }
 659         ath11k_hif_irq_enable(ab);
 660         mutex_unlock(&ab->core_lock);
 661
 662         return 0;
 663
 664 err_core_stop:
 665         ath11k_core_stop(ab);
 666         ath11k_mac_destroy(ab);
 667 err_dp_free:
 668         ath11k_dp_free(ab);
 669         mutex_unlock(&ab->core_lock);
 670         return ret;
 671 }
 672
 673 static int ath11k_core_reconfigure_on_crash(struct ath11k_base *ab)
 674 {
 675         int ret;
 676
 677         mutex_lock(&ab->core_lock);
 678         ath11k_thermal_unregister(ab);
 679         ath11k_hif_irq_disable(ab);
 680         ath11k_dp_pdev_free(ab);
 681         ath11k_spectral_deinit(ab);
 682         ath11k_hif_stop(ab);
 683         ath11k_wmi_detach(ab);
 684         ath11k_dp_pdev_reo_cleanup(ab);
 685         mutex_unlock(&ab->core_lock);
 686
 687         ath11k_dp_free(ab);
 688         ath11k_hal_srng_deinit(ab);
 689
 690         ab->free_vdev_map = (1LL << (ab->num_radios * TARGET_NUM_VDEVS)) - 1;
 691
 692         ret = ath11k_hal_srng_init(ab);
 693         if (ret)
 694                 return ret;
 695
 696         clear_bit(ATH11K_FLAG_CRASH_FLUSH, &ab->dev_flags);
 697
 698         ret = ath11k_core_qmi_firmware_ready(ab);
 699         if (ret)
 700                 goto err_hal_srng_deinit;
 701
 702         clear_bit(ATH11K_FLAG_RECOVERY, &ab->dev_flags);
 703
 704         return 0;
 705
 706 err_hal_srng_deinit:
 707         ath11k_hal_srng_deinit(ab);
 708         return ret;
 709 }
 710
 711 void ath11k_core_halt(struct ath11k *ar)
 712 {
 713         struct ath11k_base *ab = ar->ab;
 714
 715         lockdep_assert_held(&ar->conf_mutex);
 716
 717         ar->num_created_vdevs = 0;
 718         ar->allocated_vdev_map = 0;
 719
 720         ath11k_mac_scan_finish(ar);
 721         ath11k_mac_peer_cleanup_all(ar);
 722         cancel_delayed_work_sync(&ar->scan.timeout);
 723         cancel_work_sync(&ar->regd_update_work);
 724
 725         rcu_assign_pointer(ab->pdevs_active[ar->pdev_idx], NULL);
 726         synchronize_rcu();
 727         INIT_LIST_HEAD(&ar->arvifs);
 728         idr_init(&ar->txmgmt_idr);
 729 }
 730
 731 static void ath11k_core_restart(struct work_struct *work)
 732 {
 733         struct ath11k_base *ab = container_of(work, struct ath11k_base, restart_work);
 734         struct ath11k *ar;
 735         struct ath11k_pdev *pdev;
 736         int i, ret = 0;
 737
 738         spin_lock_bh(&ab->base_lock);
 739         ab->stats.fw_crash_counter++;
 740         spin_unlock_bh(&ab->base_lock);
 741
 742         for (i = 0; i < ab->num_radios; i++) {
 743                 pdev = &ab->pdevs[i];
 744                 ar = pdev->ar;
 745                 if (!ar || ar->state == ATH11K_STATE_OFF)
 746                         continue;
 747
 748                 ieee80211_stop_queues(ar->hw);
 749                 ath11k_mac_drain_tx(ar);
 750                 complete(&ar->scan.started);
 751                 complete(&ar->scan.completed);
 752                 complete(&ar->peer_assoc_done);
 753                 complete(&ar->install_key_done);
 754                 complete(&ar->vdev_setup_done);
 755                 complete(&ar->bss_survey_done);
 756                 complete(&ar->thermal.wmi_sync);
 757
 758                 wake_up(&ar->dp.tx_empty_waitq);
 759                 idr_for_each(&ar->txmgmt_idr,
 760                              ath11k_mac_tx_mgmt_pending_free, ar);
 761                 idr_destroy(&ar->txmgmt_idr);
 762         }
 763
 764         wake_up(&ab->wmi_ab.tx_credits_wq);
 765         wake_up(&ab->peer_mapping_wq);
 766
 767         ret = ath11k_core_reconfigure_on_crash(ab);
 768         if (ret) {
 769                 ath11k_err(ab, "failed to reconfigure driver on crash recovery\n");
 770                 return;
 771         }
 772
 773         for (i = 0; i < ab->num_radios; i++) {
 774                 pdev = &ab->pdevs[i];
 775                 ar = pdev->ar;
 776                 if (!ar || ar->state == ATH11K_STATE_OFF)
 777                         continue;
 778
 779                 mutex_lock(&ar->conf_mutex);
 780
 781                 switch (ar->state) {
 782                 case ATH11K_STATE_ON:
 783                         ar->state = ATH11K_STATE_RESTARTING;
 784                         ath11k_core_halt(ar);
 785                         ieee80211_restart_hw(ar->hw);
 786                         break;
 787                 case ATH11K_STATE_OFF:
 788                         ath11k_warn(ab,
 789                                     "cannot restart radio %d that hasn't been started\n",
 790                                     i);
 791                         break;
 792                 case ATH11K_STATE_RESTARTING:
 793                         break;
 794                 case ATH11K_STATE_RESTARTED:
 795                         ar->state = ATH11K_STATE_WEDGED;
 796                         fallthrough;
 797                 case ATH11K_STATE_WEDGED:
 798                         ath11k_warn(ab,
 799                                     "device is wedged, will not restart radio %d\n", i);
 800                         break;
 801                 }
 802                 mutex_unlock(&ar->conf_mutex);
 803         }
 804         complete(&ab->driver_recovery);
 805 }
 806
 807 static int ath11k_init_hw_params(struct ath11k_base *ab)
 808 {
 809         const struct ath11k_hw_params *hw_params = NULL;
 810         int i;
 811
 812         for (i = 0; i < ARRAY_SIZE(ath11k_hw_params); i++) {
 813                 hw_params = &ath11k_hw_params[i];
 814
 815                 if (hw_params->hw_rev == ab->hw_rev)
 816                         break;
 817         }
 818
 819         if (i == ARRAY_SIZE(ath11k_hw_params)) {
 820                 ath11k_err(ab, "Unsupported hardware version: 0x%x\n", ab->hw_rev);
 821                 return -EINVAL;
 822         }
 823
 824         ab->hw_params = *hw_params;
 825
 826         ath11k_dbg(ab, ATH11K_DBG_BOOT, "Hardware name %s\n", ab->hw_params.name);
 827
 828         return 0;
 829 }
 830
 831 int ath11k_core_pre_init(struct ath11k_base *ab)
 832 {
 833         int ret;
 834
 835         ret = ath11k_init_hw_params(ab);
 836         if (ret) {
 837                 ath11k_err(ab, "failed to get hw params: %d\n", ret);
 838                 return ret;
 839         }
 840
 841         return 0;
 842 }
 843 EXPORT_SYMBOL(ath11k_core_pre_init);
 844
 845 static int ath11k_core_get_rproc(struct ath11k_base *ab)
 846 {
 847         struct device *dev = ab->dev;
 848         struct rproc *prproc;
 849         phandle rproc_phandle;
 850
 851         if (!IS_ENABLED(CONFIG_REMOTEPROC))
 852                 return 0;
 853
 854         if (ab->bus_params.mhi_support)
 855                 return 0;
 856
 857         if (of_property_read_u32(dev->of_node, "qcom,rproc", &rproc_phandle)) {
 858                 ath11k_err(ab, "failed to get q6_rproc handle\n");
 859                 return -ENOENT;
 860         }
 861
 862         prproc = rproc_get_by_phandle(rproc_phandle);
 863         if (!prproc) {
 864                 ath11k_err(ab, "failed to get rproc\n");
 865                 return -EINVAL;
 866         }
 867         ab->tgt_rproc = prproc;
 868
 869         return 0;
 870 }
 871
 872 int ath11k_core_init(struct ath11k_base *ab)
 873 {
 874         int ret;
 875
 876         ret = ath11k_core_get_rproc(ab);
 877         if (ret) {
 878                 ath11k_err(ab, "failed to get rproc: %d\n", ret);
 879                 return ret;
 880         }
 881
 882         ret = ath11k_core_soc_create(ab);
 883         if (ret) {
 884                 ath11k_err(ab, "failed to create soc core: %d\n", ret);
 885                 return ret;
 886         }
 887
 888         return 0;
 889 }
 890 EXPORT_SYMBOL(ath11k_core_init);
 891
 892 void ath11k_core_deinit(struct ath11k_base *ab)
 893 {
 894         mutex_lock(&ab->core_lock);
 895
 896         ath11k_core_pdev_destroy(ab);
 897         ath11k_core_stop(ab);
 898
 899         mutex_unlock(&ab->core_lock);
 900
 901         ath11k_hif_power_down(ab);
 902         ath11k_mac_destroy(ab);
 903         ath11k_core_soc_destroy(ab);
 904 }
 905 EXPORT_SYMBOL(ath11k_core_deinit);
 906
 907 void ath11k_core_free(struct ath11k_base *ab)
 908 {
 909         kfree(ab);
 910 }
 911 EXPORT_SYMBOL(ath11k_core_free);
 912
 913 struct ath11k_base *ath11k_core_alloc(struct device *dev, size_t priv_size,
 914                                       enum ath11k_bus bus,
 915                                       const struct ath11k_bus_params *bus_params)
 916 {
 917         struct ath11k_base *ab;
 918
 919         ab = kzalloc(sizeof(*ab) + priv_size, GFP_KERNEL);
 920         if (!ab)
 921                 return NULL;
 922
 923         init_completion(&ab->driver_recovery);
 924
 925         ab->workqueue = create_singlethread_workqueue("ath11k_wq");
 926         if (!ab->workqueue)
 927                 goto err_sc_free;
 928
 929         mutex_init(&ab->core_lock);
 930         spin_lock_init(&ab->base_lock);
 931
 932         INIT_LIST_HEAD(&ab->peers);
 933         init_waitqueue_head(&ab->peer_mapping_wq);
 934         init_waitqueue_head(&ab->wmi_ab.tx_credits_wq);
 935         INIT_WORK(&ab->restart_work, ath11k_core_restart);
 936         timer_setup(&ab->rx_replenish_retry, ath11k_ce_rx_replenish_retry, 0);
 937         ab->dev = dev;
 938         ab->bus_params = *bus_params;
 939         ab->hif.bus = bus;
 940
 941         return ab;
 942
 943 err_sc_free:
 944         kfree(ab);
 945         return NULL;
 946 }
 947 EXPORT_SYMBOL(ath11k_core_alloc);
 948
 949 MODULE_DESCRIPTION("Core module for Qualcomm Atheros 802.11ax wireless LAN cards.");
 950 MODULE_LICENSE("Dual BSD/GPL");