fs/cifs/dfs_cache.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  * DFS referral cache routines
   4  *
   5  * Copyright (c) 2018-2019 Paulo Alcantara <palcantara@suse.de>
   6  */
   7
   8 #include <linux/jhash.h>
   9 #include <linux/ktime.h>
  10 #include <linux/slab.h>
  11 #include <linux/proc_fs.h>
  12 #include <linux/nls.h>
  13 #include <linux/workqueue.h>
  14 #include <linux/uuid.h>
  15 #include "cifsglob.h"
  16 #include "smb2pdu.h"
  17 #include "smb2proto.h"
  18 #include "cifsproto.h"
  19 #include "cifs_debug.h"
  20 #include "cifs_unicode.h"
  21 #include "smb2glob.h"
  22
  23 #include "dfs_cache.h"
  24
  25 #define CACHE_HTABLE_SIZE 32
  26 #define CACHE_MAX_ENTRIES 64
  27 #define CACHE_MIN_TTL 120 /* 2 minutes */
  28
  29 #define IS_INTERLINK_SET(v) ((v) & (DFSREF_REFERRAL_SERVER | \
  30                                     DFSREF_STORAGE_SERVER))
  31
  32 struct cache_dfs_tgt {
  33         char *name;
  34         int path_consumed;
  35         struct list_head list;
  36 };
  37
  38 struct cache_entry {
  39         struct hlist_node hlist;
  40         const char *path;
  41         int hdr_flags; /* RESP_GET_DFS_REFERRAL.ReferralHeaderFlags */
  42         int ttl; /* DFS_REREFERRAL_V3.TimeToLive */
  43         int srvtype; /* DFS_REREFERRAL_V3.ServerType */
  44         int ref_flags; /* DFS_REREFERRAL_V3.ReferralEntryFlags */
  45         struct timespec64 etime;
  46         int path_consumed; /* RESP_GET_DFS_REFERRAL.PathConsumed */
  47         int numtgts;
  48         struct list_head tlist;
  49         struct cache_dfs_tgt *tgthint;
  50 };
  51
  52 /* List of referral server sessions per dfs mount */
  53 struct mount_group {
  54         struct list_head list;
  55         uuid_t id;
  56         struct cifs_ses *sessions[CACHE_MAX_ENTRIES];
  57         int num_sessions;
  58         spinlock_t lock;
  59         struct list_head refresh_list;
  60         struct kref refcount;
  61 };
  62
  63 static struct kmem_cache *cache_slab __read_mostly;
  64 static struct workqueue_struct *dfscache_wq __read_mostly;
  65
  66 static int cache_ttl;
  67 static DEFINE_SPINLOCK(cache_ttl_lock);
  68
  69 static struct nls_table *cache_cp;
  70
  71 /*
  72  * Number of entries in the cache
  73  */
  74 static atomic_t cache_count;
  75
  76 static struct hlist_head cache_htable[CACHE_HTABLE_SIZE];
  77 static DECLARE_RWSEM(htable_rw_lock);
  78
  79 static LIST_HEAD(mount_group_list);
  80 static DEFINE_MUTEX(mount_group_list_lock);
  81
  82 static void refresh_cache_worker(struct work_struct *work);
  83
  84 static DECLARE_DELAYED_WORK(refresh_task, refresh_cache_worker);
  85
  86 static void get_ipc_unc(const char *ref_path, char *ipc, size_t ipclen)
  87 {
  88         const char *host;
  89         size_t len;
  90
  91         extract_unc_hostname(ref_path, &host, &len);
  92         scnprintf(ipc, ipclen, "\\\\%.*s\\IPC$", (int)len, host);
  93 }
  94
  95 static struct cifs_ses *find_ipc_from_server_path(struct cifs_ses **ses, const char *path)
  96 {
  97         char unc[SERVER_NAME_LENGTH + sizeof("//x/IPC$")] = {0};
  98
  99         get_ipc_unc(path, unc, sizeof(unc));
 100         for (; *ses; ses++) {
 101                 if (!strcasecmp(unc, (*ses)->tcon_ipc->treeName))
 102                         return *ses;
 103         }
 104         return ERR_PTR(-ENOENT);
 105 }
 106
 107 static void __mount_group_release(struct mount_group *mg)
 108 {
 109         int i;
 110
 111         for (i = 0; i < mg->num_sessions; i++)
 112                 cifs_put_smb_ses(mg->sessions[i]);
 113         kfree(mg);
 114 }
 115
 116 static void mount_group_release(struct kref *kref)
 117 {
 118         struct mount_group *mg = container_of(kref, struct mount_group, refcount);
 119
 120         mutex_lock(&mount_group_list_lock);
 121         list_del(&mg->list);
 122         mutex_unlock(&mount_group_list_lock);
 123         __mount_group_release(mg);
 124 }
 125
 126 static struct mount_group *find_mount_group_locked(const uuid_t *id)
 127 {
 128         struct mount_group *mg;
 129
 130         list_for_each_entry(mg, &mount_group_list, list) {
 131                 if (uuid_equal(&mg->id, id))
 132                         return mg;
 133         }
 134         return ERR_PTR(-ENOENT);
 135 }
 136
 137 static struct mount_group *__get_mount_group_locked(const uuid_t *id)
 138 {
 139         struct mount_group *mg;
 140
 141         mg = find_mount_group_locked(id);
 142         if (!IS_ERR(mg))
 143                 return mg;
 144
 145         mg = kmalloc(sizeof(*mg), GFP_KERNEL);
 146         if (!mg)
 147                 return ERR_PTR(-ENOMEM);
 148         kref_init(&mg->refcount);
 149         uuid_copy(&mg->id, id);
 150         mg->num_sessions = 0;
 151         spin_lock_init(&mg->lock);
 152         list_add(&mg->list, &mount_group_list);
 153         return mg;
 154 }
 155
 156 static struct mount_group *get_mount_group(const uuid_t *id)
 157 {
 158         struct mount_group *mg;
 159
 160         mutex_lock(&mount_group_list_lock);
 161         mg = __get_mount_group_locked(id);
 162         if (!IS_ERR(mg))
 163                 kref_get(&mg->refcount);
 164         mutex_unlock(&mount_group_list_lock);
 165
 166         return mg;
 167 }
 168
 169 static void free_mount_group_list(void)
 170 {
 171         struct mount_group *mg, *tmp_mg;
 172
 173         list_for_each_entry_safe(mg, tmp_mg, &mount_group_list, list) {
 174                 list_del_init(&mg->list);
 175                 __mount_group_release(mg);
 176         }
 177 }
 178
 179 /**
 180  * dfs_cache_canonical_path - get a canonical DFS path
 181  *
 182  * @path: DFS path
 183  * @cp: codepage
 184  * @remap: mapping type
 185  *
 186  * Return canonical path if success, otherwise error.
 187  */
 188 char *dfs_cache_canonical_path(const char *path, const struct nls_table *cp, int remap)
 189 {
 190         char *tmp;
 191         int plen = 0;
 192         char *npath;
 193
 194         if (!path || strlen(path) < 3 || (*path != '\\' && *path != '/'))
 195                 return ERR_PTR(-EINVAL);
 196
 197         if (unlikely(strcmp(cp->charset, cache_cp->charset))) {
 198                 tmp = (char *)cifs_strndup_to_utf16(path, strlen(path), &plen, cp, remap);
 199                 if (!tmp) {
 200                         cifs_dbg(VFS, "%s: failed to convert path to utf16\n", __func__);
 201                         return ERR_PTR(-EINVAL);
 202                 }
 203
 204                 npath = cifs_strndup_from_utf16(tmp, plen, true, cache_cp);
 205                 kfree(tmp);
 206
 207                 if (!npath) {
 208                         cifs_dbg(VFS, "%s: failed to convert path from utf16\n", __func__);
 209                         return ERR_PTR(-EINVAL);
 210                 }
 211         } else {
 212                 npath = kstrdup(path, GFP_KERNEL);
 213                 if (!npath)
 214                         return ERR_PTR(-ENOMEM);
 215         }
 216         convert_delimiter(npath, '\\');
 217         return npath;
 218 }
 219
 220 static inline bool cache_entry_expired(const struct cache_entry *ce)
 221 {
 222         struct timespec64 ts;
 223
 224         ktime_get_coarse_real_ts64(&ts);
 225         return timespec64_compare(&ts, &ce->etime) >= 0;
 226 }
 227
 228 static inline void free_tgts(struct cache_entry *ce)
 229 {
 230         struct cache_dfs_tgt *t, *n;
 231
 232         list_for_each_entry_safe(t, n, &ce->tlist, list) {
 233                 list_del(&t->list);
 234                 kfree(t->name);
 235                 kfree(t);
 236         }
 237 }
 238
 239 static inline void flush_cache_ent(struct cache_entry *ce)
 240 {
 241         hlist_del_init(&ce->hlist);
 242         kfree(ce->path);
 243         free_tgts(ce);
 244         atomic_dec(&cache_count);
 245         kmem_cache_free(cache_slab, ce);
 246 }
 247
 248 static void flush_cache_ents(void)
 249 {
 250         int i;
 251
 252         for (i = 0; i < CACHE_HTABLE_SIZE; i++) {
 253                 struct hlist_head *l = &cache_htable[i];
 254                 struct hlist_node *n;
 255                 struct cache_entry *ce;
 256
 257                 hlist_for_each_entry_safe(ce, n, l, hlist) {
 258                         if (!hlist_unhashed(&ce->hlist))
 259                                 flush_cache_ent(ce);
 260                 }
 261         }
 262 }
 263
 264 /*
 265  * dfs cache /proc file
 266  */
 267 static int dfscache_proc_show(struct seq_file *m, void *v)
 268 {
 269         int i;
 270         struct cache_entry *ce;
 271         struct cache_dfs_tgt *t;
 272
 273         seq_puts(m, "DFS cache\n---------\n");
 274
 275         down_read(&htable_rw_lock);
 276         for (i = 0; i < CACHE_HTABLE_SIZE; i++) {
 277                 struct hlist_head *l = &cache_htable[i];
 278
 279                 hlist_for_each_entry(ce, l, hlist) {
 280                         if (hlist_unhashed(&ce->hlist))
 281                                 continue;
 282
 283                         seq_printf(m,
 284                                    "cache entry: path=%s,type=%s,ttl=%d,etime=%ld,hdr_flags=0x%x,ref_flags=0x%x,interlink=%s,path_consumed=%d,expired=%s\n",
 285                                    ce->path, ce->srvtype == DFS_TYPE_ROOT ? "root" : "link",
 286                                    ce->ttl, ce->etime.tv_nsec, ce->ref_flags, ce->hdr_flags,
 287                                    IS_INTERLINK_SET(ce->hdr_flags) ? "yes" : "no",
 288                                    ce->path_consumed, cache_entry_expired(ce) ? "yes" : "no");
 289
 290                         list_for_each_entry(t, &ce->tlist, list) {
 291                                 seq_printf(m, "  %s%s\n",
 292                                            t->name,
 293                                            ce->tgthint == t ? " (target hint)" : "");
 294                         }
 295                 }
 296         }
 297         up_read(&htable_rw_lock);
 298
 299         return 0;
 300 }
 301
 302 static ssize_t dfscache_proc_write(struct file *file, const char __user *buffer,
 303                                    size_t count, loff_t *ppos)
 304 {
 305         char c;
 306         int rc;
 307
 308         rc = get_user(c, buffer);
 309         if (rc)
 310                 return rc;
 311
 312         if (c != '0')
 313                 return -EINVAL;
 314
 315         cifs_dbg(FYI, "clearing dfs cache\n");
 316
 317         down_write(&htable_rw_lock);
 318         flush_cache_ents();
 319         up_write(&htable_rw_lock);
 320
 321         return count;
 322 }
 323
 324 static int dfscache_proc_open(struct inode *inode, struct file *file)
 325 {
 326         return single_open(file, dfscache_proc_show, NULL);
 327 }
 328
 329 const struct proc_ops dfscache_proc_ops = {
 330         .proc_open      = dfscache_proc_open,
 331         .proc_read      = seq_read,
 332         .proc_lseek     = seq_lseek,
 333         .proc_release   = single_release,
 334         .proc_write     = dfscache_proc_write,
 335 };
 336
 337 #ifdef CONFIG_CIFS_DEBUG2
 338 static inline void dump_tgts(const struct cache_entry *ce)
 339 {
 340         struct cache_dfs_tgt *t;
 341
 342         cifs_dbg(FYI, "target list:\n");
 343         list_for_each_entry(t, &ce->tlist, list) {
 344                 cifs_dbg(FYI, "  %s%s\n", t->name,
 345                          ce->tgthint == t ? " (target hint)" : "");
 346         }
 347 }
 348
 349 static inline void dump_ce(const struct cache_entry *ce)
 350 {
 351         cifs_dbg(FYI, "cache entry: path=%s,type=%s,ttl=%d,etime=%ld,hdr_flags=0x%x,ref_flags=0x%x,interlink=%s,path_consumed=%d,expired=%s\n",
 352                  ce->path,
 353                  ce->srvtype == DFS_TYPE_ROOT ? "root" : "link", ce->ttl,
 354                  ce->etime.tv_nsec,
 355                  ce->hdr_flags, ce->ref_flags,
 356                  IS_INTERLINK_SET(ce->hdr_flags) ? "yes" : "no",
 357                  ce->path_consumed,
 358                  cache_entry_expired(ce) ? "yes" : "no");
 359         dump_tgts(ce);
 360 }
 361
 362 static inline void dump_refs(const struct dfs_info3_param *refs, int numrefs)
 363 {
 364         int i;
 365
 366         cifs_dbg(FYI, "DFS referrals returned by the server:\n");
 367         for (i = 0; i < numrefs; i++) {
 368                 const struct dfs_info3_param *ref = &refs[i];
 369
 370                 cifs_dbg(FYI,
 371                          "\n"
 372                          "flags:         0x%x\n"
 373                          "path_consumed: %d\n"
 374                          "server_type:   0x%x\n"
 375                          "ref_flag:      0x%x\n"
 376                          "path_name:     %s\n"
 377                          "node_name:     %s\n"
 378                          "ttl:           %d (%dm)\n",
 379                          ref->flags, ref->path_consumed, ref->server_type,
 380                          ref->ref_flag, ref->path_name, ref->node_name,
 381                          ref->ttl, ref->ttl / 60);
 382         }
 383 }
 384 #else
 385 #define dump_tgts(e)
 386 #define dump_ce(e)
 387 #define dump_refs(r, n)
 388 #endif
 389
 390 /**
 391  * dfs_cache_init - Initialize DFS referral cache.
 392  *
 393  * Return zero if initialized successfully, otherwise non-zero.
 394  */
 395 int dfs_cache_init(void)
 396 {
 397         int rc;
 398         int i;
 399
 400         dfscache_wq = alloc_workqueue("cifs-dfscache", WQ_FREEZABLE | WQ_UNBOUND, 1);
 401         if (!dfscache_wq)
 402                 return -ENOMEM;
 403
 404         cache_slab = kmem_cache_create("cifs_dfs_cache",
 405                                        sizeof(struct cache_entry), 0,
 406                                        SLAB_HWCACHE_ALIGN, NULL);
 407         if (!cache_slab) {
 408                 rc = -ENOMEM;
 409                 goto out_destroy_wq;
 410         }
 411
 412         for (i = 0; i < CACHE_HTABLE_SIZE; i++)
 413                 INIT_HLIST_HEAD(&cache_htable[i]);
 414
 415         atomic_set(&cache_count, 0);
 416         cache_cp = load_nls("utf8");
 417         if (!cache_cp)
 418                 cache_cp = load_nls_default();
 419
 420         cifs_dbg(FYI, "%s: initialized DFS referral cache\n", __func__);
 421         return 0;
 422
 423 out_destroy_wq:
 424         destroy_workqueue(dfscache_wq);
 425         return rc;
 426 }
 427
 428 static int cache_entry_hash(const void *data, int size, unsigned int *hash)
 429 {
 430         int i, clen;
 431         const unsigned char *s = data;
 432         wchar_t c;
 433         unsigned int h = 0;
 434
 435         for (i = 0; i < size; i += clen) {
 436                 clen = cache_cp->char2uni(&s[i], size - i, &c);
 437                 if (unlikely(clen < 0)) {
 438                         cifs_dbg(VFS, "%s: can't convert char\n", __func__);
 439                         return clen;
 440                 }
 441                 c = cifs_toupper(c);
 442                 h = jhash(&c, sizeof(c), h);
 443         }
 444         *hash = h % CACHE_HTABLE_SIZE;
 445         return 0;
 446 }
 447
 448 /* Return target hint of a DFS cache entry */
 449 static inline char *get_tgt_name(const struct cache_entry *ce)
 450 {
 451         struct cache_dfs_tgt *t = ce->tgthint;
 452
 453         return t ? t->name : ERR_PTR(-ENOENT);
 454 }
 455
 456 /* Return expire time out of a new entry's TTL */
 457 static inline struct timespec64 get_expire_time(int ttl)
 458 {
 459         struct timespec64 ts = {
 460                 .tv_sec = ttl,
 461                 .tv_nsec = 0,
 462         };
 463         struct timespec64 now;
 464
 465         ktime_get_coarse_real_ts64(&now);
 466         return timespec64_add(now, ts);
 467 }
 468
 469 /* Allocate a new DFS target */
 470 static struct cache_dfs_tgt *alloc_target(const char *name, int path_consumed)
 471 {
 472         struct cache_dfs_tgt *t;
 473
 474         t = kmalloc(sizeof(*t), GFP_ATOMIC);
 475         if (!t)
 476                 return ERR_PTR(-ENOMEM);
 477         t->name = kstrdup(name, GFP_ATOMIC);
 478         if (!t->name) {
 479                 kfree(t);
 480                 return ERR_PTR(-ENOMEM);
 481         }
 482         t->path_consumed = path_consumed;
 483         INIT_LIST_HEAD(&t->list);
 484         return t;
 485 }
 486
 487 /*
 488  * Copy DFS referral information to a cache entry and conditionally update
 489  * target hint.
 490  */
 491 static int copy_ref_data(const struct dfs_info3_param *refs, int numrefs,
 492                          struct cache_entry *ce, const char *tgthint)
 493 {
 494         int i;
 495
 496         ce->ttl = max_t(int, refs[0].ttl, CACHE_MIN_TTL);
 497         ce->etime = get_expire_time(ce->ttl);
 498         ce->srvtype = refs[0].server_type;
 499         ce->hdr_flags = refs[0].flags;
 500         ce->ref_flags = refs[0].ref_flag;
 501         ce->path_consumed = refs[0].path_consumed;
 502
 503         for (i = 0; i < numrefs; i++) {
 504                 struct cache_dfs_tgt *t;
 505
 506                 t = alloc_target(refs[i].node_name, refs[i].path_consumed);
 507                 if (IS_ERR(t)) {
 508                         free_tgts(ce);
 509                         return PTR_ERR(t);
 510                 }
 511                 if (tgthint && !strcasecmp(t->name, tgthint)) {
 512                         list_add(&t->list, &ce->tlist);
 513                         tgthint = NULL;
 514                 } else {
 515                         list_add_tail(&t->list, &ce->tlist);
 516                 }
 517                 ce->numtgts++;
 518         }
 519
 520         ce->tgthint = list_first_entry_or_null(&ce->tlist,
 521                                                struct cache_dfs_tgt, list);
 522
 523         return 0;
 524 }
 525
 526 /* Allocate a new cache entry */
 527 static struct cache_entry *alloc_cache_entry(struct dfs_info3_param *refs, int numrefs)
 528 {
 529         struct cache_entry *ce;
 530         int rc;
 531
 532         ce = kmem_cache_zalloc(cache_slab, GFP_KERNEL);
 533         if (!ce)
 534                 return ERR_PTR(-ENOMEM);
 535
 536         ce->path = refs[0].path_name;
 537         refs[0].path_name = NULL;
 538
 539         INIT_HLIST_NODE(&ce->hlist);
 540         INIT_LIST_HEAD(&ce->tlist);
 541
 542         rc = copy_ref_data(refs, numrefs, ce, NULL);
 543         if (rc) {
 544                 kfree(ce->path);
 545                 kmem_cache_free(cache_slab, ce);
 546                 ce = ERR_PTR(rc);
 547         }
 548         return ce;
 549 }
 550
 551 static void remove_oldest_entry_locked(void)
 552 {
 553         int i;
 554         struct cache_entry *ce;
 555         struct cache_entry *to_del = NULL;
 556
 557         WARN_ON(!rwsem_is_locked(&htable_rw_lock));
 558
 559         for (i = 0; i < CACHE_HTABLE_SIZE; i++) {
 560                 struct hlist_head *l = &cache_htable[i];
 561
 562                 hlist_for_each_entry(ce, l, hlist) {
 563                         if (hlist_unhashed(&ce->hlist))
 564                                 continue;
 565                         if (!to_del || timespec64_compare(&ce->etime,
 566                                                           &to_del->etime) < 0)
 567                                 to_del = ce;
 568                 }
 569         }
 570
 571         if (!to_del) {
 572                 cifs_dbg(FYI, "%s: no entry to remove\n", __func__);
 573                 return;
 574         }
 575
 576         cifs_dbg(FYI, "%s: removing entry\n", __func__);
 577         dump_ce(to_del);
 578         flush_cache_ent(to_del);
 579 }
 580
 581 /* Add a new DFS cache entry */
 582 static int add_cache_entry_locked(struct dfs_info3_param *refs, int numrefs)
 583 {
 584         int rc;
 585         struct cache_entry *ce;
 586         unsigned int hash;
 587
 588         WARN_ON(!rwsem_is_locked(&htable_rw_lock));
 589
 590         if (atomic_read(&cache_count) >= CACHE_MAX_ENTRIES) {
 591                 cifs_dbg(FYI, "%s: reached max cache size (%d)\n", __func__, CACHE_MAX_ENTRIES);
 592                 remove_oldest_entry_locked();
 593         }
 594
 595         rc = cache_entry_hash(refs[0].path_name, strlen(refs[0].path_name), &hash);
 596         if (rc)
 597                 return rc;
 598
 599         ce = alloc_cache_entry(refs, numrefs);
 600         if (IS_ERR(ce))
 601                 return PTR_ERR(ce);
 602
 603         spin_lock(&cache_ttl_lock);
 604         if (!cache_ttl) {
 605                 cache_ttl = ce->ttl;
 606                 queue_delayed_work(dfscache_wq, &refresh_task, cache_ttl * HZ);
 607         } else {
 608                 cache_ttl = min_t(int, cache_ttl, ce->ttl);
 609                 mod_delayed_work(dfscache_wq, &refresh_task, cache_ttl * HZ);
 610         }
 611         spin_unlock(&cache_ttl_lock);
 612
 613         hlist_add_head(&ce->hlist, &cache_htable[hash]);
 614         dump_ce(ce);
 615
 616         atomic_inc(&cache_count);
 617
 618         return 0;
 619 }
 620
 621 /* Check if two DFS paths are equal.  @s1 and @s2 are expected to be in @cache_cp's charset */
 622 static bool dfs_path_equal(const char *s1, int len1, const char *s2, int len2)
 623 {
 624         int i, l1, l2;
 625         wchar_t c1, c2;
 626
 627         if (len1 != len2)
 628                 return false;
 629
 630         for (i = 0; i < len1; i += l1) {
 631                 l1 = cache_cp->char2uni(&s1[i], len1 - i, &c1);
 632                 l2 = cache_cp->char2uni(&s2[i], len2 - i, &c2);
 633                 if (unlikely(l1 < 0 && l2 < 0)) {
 634                         if (s1[i] != s2[i])
 635                                 return false;
 636                         l1 = 1;
 637                         continue;
 638                 }
 639                 if (l1 != l2)
 640                         return false;
 641                 if (cifs_toupper(c1) != cifs_toupper(c2))
 642                         return false;
 643         }
 644         return true;
 645 }
 646
 647 static struct cache_entry *__lookup_cache_entry(const char *path, unsigned int hash, int len)
 648 {
 649         struct cache_entry *ce;
 650
 651         hlist_for_each_entry(ce, &cache_htable[hash], hlist) {
 652                 if (dfs_path_equal(ce->path, strlen(ce->path), path, len)) {
 653                         dump_ce(ce);
 654                         return ce;
 655                 }
 656         }
 657         return ERR_PTR(-EEXIST);
 658 }
 659
 660 /*
 661  * Find a DFS cache entry in hash table and optionally check prefix path against normalized @path.
 662  *
 663  * Use whole path components in the match.  Must be called with htable_rw_lock held.
 664  *
 665  * Return ERR_PTR(-EEXIST) if the entry is not found.
 666  */
 667 static struct cache_entry *lookup_cache_entry(const char *path)
 668 {
 669         struct cache_entry *ce;
 670         int cnt = 0;
 671         const char *s = path, *e;
 672         char sep = *s;
 673         unsigned int hash;
 674         int rc;
 675
 676         while ((s = strchr(s, sep)) && ++cnt < 3)
 677                 s++;
 678
 679         if (cnt < 3) {
 680                 rc = cache_entry_hash(path, strlen(path), &hash);
 681                 if (rc)
 682                         return ERR_PTR(rc);
 683                 return __lookup_cache_entry(path, hash, strlen(path));
 684         }
 685         /*
 686          * Handle paths that have more than two path components and are a complete prefix of the DFS
 687          * referral request path (@path).
 688          *
 689          * See MS-DFSC 3.2.5.5 "Receiving a Root Referral Request or Link Referral Request".
 690          */
 691         e = path + strlen(path) - 1;
 692         while (e > s) {
 693                 int len;
 694
 695                 /* skip separators */
 696                 while (e > s && *e == sep)
 697                         e--;
 698                 if (e == s)
 699                         break;
 700
 701                 len = e + 1 - path;
 702                 rc = cache_entry_hash(path, len, &hash);
 703                 if (rc)
 704                         return ERR_PTR(rc);
 705                 ce = __lookup_cache_entry(path, hash, len);
 706                 if (!IS_ERR(ce))
 707                         return ce;
 708
 709                 /* backward until separator */
 710                 while (e > s && *e != sep)
 711                         e--;
 712         }
 713         return ERR_PTR(-EEXIST);
 714 }
 715
 716 /**
 717  * dfs_cache_destroy - destroy DFS referral cache
 718  */
 719 void dfs_cache_destroy(void)
 720 {
 721         cancel_delayed_work_sync(&refresh_task);
 722         unload_nls(cache_cp);
 723         free_mount_group_list();
 724         flush_cache_ents();
 725         kmem_cache_destroy(cache_slab);
 726         destroy_workqueue(dfscache_wq);
 727
 728         cifs_dbg(FYI, "%s: destroyed DFS referral cache\n", __func__);
 729 }
 730
 731 /* Update a cache entry with the new referral in @refs */
 732 static int update_cache_entry_locked(struct cache_entry *ce, const struct dfs_info3_param *refs,
 733                                      int numrefs)
 734 {
 735         int rc;
 736         char *s, *th = NULL;
 737
 738         WARN_ON(!rwsem_is_locked(&htable_rw_lock));
 739
 740         if (ce->tgthint) {
 741                 s = ce->tgthint->name;
 742                 th = kstrdup(s, GFP_ATOMIC);
 743                 if (!th)
 744                         return -ENOMEM;
 745         }
 746
 747         free_tgts(ce);
 748         ce->numtgts = 0;
 749
 750         rc = copy_ref_data(refs, numrefs, ce, th);
 751
 752         kfree(th);
 753
 754         return rc;
 755 }
 756
 757 static int get_dfs_referral(const unsigned int xid, struct cifs_ses *ses, const char *path,
 758                             struct dfs_info3_param **refs, int *numrefs)
 759 {
 760         int rc;
 761         int i;
 762
 763         cifs_dbg(FYI, "%s: get an DFS referral for %s\n", __func__, path);
 764
 765         *refs = NULL;
 766         *numrefs = 0;
 767
 768         if (!ses || !ses->server || !ses->server->ops->get_dfs_refer)
 769                 return -EOPNOTSUPP;
 770         if (unlikely(!cache_cp))
 771                 return -EINVAL;
 772
 773         rc =  ses->server->ops->get_dfs_refer(xid, ses, path, refs, numrefs, cache_cp,
 774                                               NO_MAP_UNI_RSVD);
 775         if (!rc) {
 776                 struct dfs_info3_param *ref = *refs;
 777
 778                 for (i = 0; i < *numrefs; i++)
 779                         convert_delimiter(ref[i].path_name, '\\');
 780         }
 781         return rc;
 782 }
 783
 784 /*
 785  * Find, create or update a DFS cache entry.
 786  *
 787  * If the entry wasn't found, it will create a new one. Or if it was found but
 788  * expired, then it will update the entry accordingly.
 789  *
 790  * For interlinks, cifs_mount() and expand_dfs_referral() are supposed to
 791  * handle them properly.
 792  */
 793 static int cache_refresh_path(const unsigned int xid, struct cifs_ses *ses, const char *path)
 794 {
 795         int rc;
 796         struct cache_entry *ce;
 797         struct dfs_info3_param *refs = NULL;
 798         int numrefs = 0;
 799         bool newent = false;
 800
 801         cifs_dbg(FYI, "%s: search path: %s\n", __func__, path);
 802
 803         down_write(&htable_rw_lock);
 804
 805         ce = lookup_cache_entry(path);
 806         if (!IS_ERR(ce)) {
 807                 if (!cache_entry_expired(ce)) {
 808                         dump_ce(ce);
 809                         up_write(&htable_rw_lock);
 810                         return 0;
 811                 }
 812         } else {
 813                 newent = true;
 814         }
 815
 816         /*
 817          * Either the entry was not found, or it is expired.
 818          * Request a new DFS referral in order to create or update a cache entry.
 819          */
 820         rc = get_dfs_referral(xid, ses, path, &refs, &numrefs);
 821         if (rc)
 822                 goto out_unlock;
 823
 824         dump_refs(refs, numrefs);
 825
 826         if (!newent) {
 827                 rc = update_cache_entry_locked(ce, refs, numrefs);
 828                 goto out_unlock;
 829         }
 830
 831         rc = add_cache_entry_locked(refs, numrefs);
 832
 833 out_unlock:
 834         up_write(&htable_rw_lock);
 835         free_dfs_info_array(refs, numrefs);
 836         return rc;
 837 }
 838
 839 /*
 840  * Set up a DFS referral from a given cache entry.
 841  *
 842  * Must be called with htable_rw_lock held.
 843  */
 844 static int setup_referral(const char *path, struct cache_entry *ce,
 845                           struct dfs_info3_param *ref, const char *target)
 846 {
 847         int rc;
 848
 849         cifs_dbg(FYI, "%s: set up new ref\n", __func__);
 850
 851         memset(ref, 0, sizeof(*ref));
 852
 853         ref->path_name = kstrdup(path, GFP_ATOMIC);
 854         if (!ref->path_name)
 855                 return -ENOMEM;
 856
 857         ref->node_name = kstrdup(target, GFP_ATOMIC);
 858         if (!ref->node_name) {
 859                 rc = -ENOMEM;
 860                 goto err_free_path;
 861         }
 862
 863         ref->path_consumed = ce->path_consumed;
 864         ref->ttl = ce->ttl;
 865         ref->server_type = ce->srvtype;
 866         ref->ref_flag = ce->ref_flags;
 867         ref->flags = ce->hdr_flags;
 868
 869         return 0;
 870
 871 err_free_path:
 872         kfree(ref->path_name);
 873         ref->path_name = NULL;
 874         return rc;
 875 }
 876
 877 /* Return target list of a DFS cache entry */
 878 static int get_targets(struct cache_entry *ce, struct dfs_cache_tgt_list *tl)
 879 {
 880         int rc;
 881         struct list_head *head = &tl->tl_list;
 882         struct cache_dfs_tgt *t;
 883         struct dfs_cache_tgt_iterator *it, *nit;
 884
 885         memset(tl, 0, sizeof(*tl));
 886         INIT_LIST_HEAD(head);
 887
 888         list_for_each_entry(t, &ce->tlist, list) {
 889                 it = kzalloc(sizeof(*it), GFP_ATOMIC);
 890                 if (!it) {
 891                         rc = -ENOMEM;
 892                         goto err_free_it;
 893                 }
 894
 895                 it->it_name = kstrdup(t->name, GFP_ATOMIC);
 896                 if (!it->it_name) {
 897                         kfree(it);
 898                         rc = -ENOMEM;
 899                         goto err_free_it;
 900                 }
 901                 it->it_path_consumed = t->path_consumed;
 902
 903                 if (ce->tgthint == t)
 904                         list_add(&it->it_list, head);
 905                 else
 906                         list_add_tail(&it->it_list, head);
 907         }
 908
 909         tl->tl_numtgts = ce->numtgts;
 910
 911         return 0;
 912
 913 err_free_it:
 914         list_for_each_entry_safe(it, nit, head, it_list) {
 915                 kfree(it->it_name);
 916                 kfree(it);
 917         }
 918         return rc;
 919 }
 920
 921 /**
 922  * dfs_cache_find - find a DFS cache entry
 923  *
 924  * If it doesn't find the cache entry, then it will get a DFS referral
 925  * for @path and create a new entry.
 926  *
 927  * In case the cache entry exists but expired, it will get a DFS referral
 928  * for @path and then update the respective cache entry.
 929  *
 930  * These parameters are passed down to the get_dfs_refer() call if it
 931  * needs to be issued:
 932  * @xid: syscall xid
 933  * @ses: smb session to issue the request on
 934  * @cp: codepage
 935  * @remap: path character remapping type
 936  * @path: path to lookup in DFS referral cache.
 937  *
 938  * @ref: when non-NULL, store single DFS referral result in it.
 939  * @tgt_list: when non-NULL, store complete DFS target list in it.
 940  *
 941  * Return zero if the target was found, otherwise non-zero.
 942  */
 943 int dfs_cache_find(const unsigned int xid, struct cifs_ses *ses, const struct nls_table *cp,
 944                    int remap, const char *path, struct dfs_info3_param *ref,
 945                    struct dfs_cache_tgt_list *tgt_list)
 946 {
 947         int rc;
 948         const char *npath;
 949         struct cache_entry *ce;
 950
 951         npath = dfs_cache_canonical_path(path, cp, remap);
 952         if (IS_ERR(npath))
 953                 return PTR_ERR(npath);
 954
 955         rc = cache_refresh_path(xid, ses, npath);
 956         if (rc)
 957                 goto out_free_path;
 958
 959         down_read(&htable_rw_lock);
 960
 961         ce = lookup_cache_entry(npath);
 962         if (IS_ERR(ce)) {
 963                 up_read(&htable_rw_lock);
 964                 rc = PTR_ERR(ce);
 965                 goto out_free_path;
 966         }
 967
 968         if (ref)
 969                 rc = setup_referral(path, ce, ref, get_tgt_name(ce));
 970         else
 971                 rc = 0;
 972         if (!rc && tgt_list)
 973                 rc = get_targets(ce, tgt_list);
 974
 975         up_read(&htable_rw_lock);
 976
 977 out_free_path:
 978         kfree(npath);
 979         return rc;
 980 }
 981
 982 /**
 983  * dfs_cache_noreq_find - find a DFS cache entry without sending any requests to
 984  * the currently connected server.
 985  *
 986  * NOTE: This function will neither update a cache entry in case it was
 987  * expired, nor create a new cache entry if @path hasn't been found. It heavily
 988  * relies on an existing cache entry.
 989  *
 990  * @path: canonical DFS path to lookup in the DFS referral cache.
 991  * @ref: when non-NULL, store single DFS referral result in it.
 992  * @tgt_list: when non-NULL, store complete DFS target list in it.
 993  *
 994  * Return 0 if successful.
 995  * Return -ENOENT if the entry was not found.
 996  * Return non-zero for other errors.
 997  */
 998 int dfs_cache_noreq_find(const char *path, struct dfs_info3_param *ref,
 999                          struct dfs_cache_tgt_list *tgt_list)
1000 {
1001         int rc;
1002         struct cache_entry *ce;
1003
1004         cifs_dbg(FYI, "%s: path: %s\n", __func__, path);
1005
1006         down_read(&htable_rw_lock);
1007
1008         ce = lookup_cache_entry(path);
1009         if (IS_ERR(ce)) {
1010                 rc = PTR_ERR(ce);
1011                 goto out_unlock;
1012         }
1013
1014         if (ref)
1015                 rc = setup_referral(path, ce, ref, get_tgt_name(ce));
1016         else
1017                 rc = 0;
1018         if (!rc && tgt_list)
1019                 rc = get_targets(ce, tgt_list);
1020
1021 out_unlock:
1022         up_read(&htable_rw_lock);
1023         return rc;
1024 }
1025
1026 /**
1027  * dfs_cache_update_tgthint - update target hint of a DFS cache entry
1028  *
1029  * If it doesn't find the cache entry, then it will get a DFS referral for @path
1030  * and create a new entry.
1031  *
1032  * In case the cache entry exists but expired, it will get a DFS referral
1033  * for @path and then update the respective cache entry.
1034  *
1035  * @xid: syscall id
1036  * @ses: smb session
1037  * @cp: codepage
1038  * @remap: type of character remapping for paths
1039  * @path: path to lookup in DFS referral cache
1040  * @it: DFS target iterator
1041  *
1042  * Return zero if the target hint was updated successfully, otherwise non-zero.
1043  */
1044 int dfs_cache_update_tgthint(const unsigned int xid, struct cifs_ses *ses,
1045                              const struct nls_table *cp, int remap, const char *path,
1046                              const struct dfs_cache_tgt_iterator *it)
1047 {
1048         int rc;
1049         const char *npath;
1050         struct cache_entry *ce;
1051         struct cache_dfs_tgt *t;
1052
1053         npath = dfs_cache_canonical_path(path, cp, remap);
1054         if (IS_ERR(npath))
1055                 return PTR_ERR(npath);
1056
1057         cifs_dbg(FYI, "%s: update target hint - path: %s\n", __func__, npath);
1058
1059         rc = cache_refresh_path(xid, ses, npath);
1060         if (rc)
1061                 goto out_free_path;
1062
1063         down_write(&htable_rw_lock);
1064
1065         ce = lookup_cache_entry(npath);
1066         if (IS_ERR(ce)) {
1067                 rc = PTR_ERR(ce);
1068                 goto out_unlock;
1069         }
1070
1071         t = ce->tgthint;
1072
1073         if (likely(!strcasecmp(it->it_name, t->name)))
1074                 goto out_unlock;
1075
1076         list_for_each_entry(t, &ce->tlist, list) {
1077                 if (!strcasecmp(t->name, it->it_name)) {
1078                         ce->tgthint = t;
1079                         cifs_dbg(FYI, "%s: new target hint: %s\n", __func__,
1080                                  it->it_name);
1081                         break;
1082                 }
1083         }
1084
1085 out_unlock:
1086         up_write(&htable_rw_lock);
1087 out_free_path:
1088         kfree(npath);
1089         return rc;
1090 }
1091
1092 /**
1093  * dfs_cache_noreq_update_tgthint - update target hint of a DFS cache entry
1094  * without sending any requests to the currently connected server.
1095  *
1096  * NOTE: This function will neither update a cache entry in case it was
1097  * expired, nor create a new cache entry if @path hasn't been found. It heavily
1098  * relies on an existing cache entry.
1099  *
1100  * @path: canonical DFS path to lookup in DFS referral cache.
1101  * @it: target iterator which contains the target hint to update the cache
1102  * entry with.
1103  *
1104  * Return zero if the target hint was updated successfully, otherwise non-zero.
1105  */
1106 int dfs_cache_noreq_update_tgthint(const char *path, const struct dfs_cache_tgt_iterator *it)
1107 {
1108         int rc;
1109         struct cache_entry *ce;
1110         struct cache_dfs_tgt *t;
1111
1112         if (!it)
1113                 return -EINVAL;
1114
1115         cifs_dbg(FYI, "%s: path: %s\n", __func__, path);
1116
1117         down_write(&htable_rw_lock);
1118
1119         ce = lookup_cache_entry(path);
1120         if (IS_ERR(ce)) {
1121                 rc = PTR_ERR(ce);
1122                 goto out_unlock;
1123         }
1124
1125         rc = 0;
1126         t = ce->tgthint;
1127
1128         if (unlikely(!strcasecmp(it->it_name, t->name)))
1129                 goto out_unlock;
1130
1131         list_for_each_entry(t, &ce->tlist, list) {
1132                 if (!strcasecmp(t->name, it->it_name)) {
1133                         ce->tgthint = t;
1134                         cifs_dbg(FYI, "%s: new target hint: %s\n", __func__,
1135                                  it->it_name);
1136                         break;
1137                 }
1138         }
1139
1140 out_unlock:
1141         up_write(&htable_rw_lock);
1142         return rc;
1143 }
1144
1145 /**
1146  * dfs_cache_get_tgt_referral - returns a DFS referral (@ref) from a given
1147  * target iterator (@it).
1148  *
1149  * @path: canonical DFS path to lookup in DFS referral cache.
1150  * @it: DFS target iterator.
1151  * @ref: DFS referral pointer to set up the gathered information.
1152  *
1153  * Return zero if the DFS referral was set up correctly, otherwise non-zero.
1154  */
1155 int dfs_cache_get_tgt_referral(const char *path, const struct dfs_cache_tgt_iterator *it,
1156                                struct dfs_info3_param *ref)
1157 {
1158         int rc;
1159         struct cache_entry *ce;
1160
1161         if (!it || !ref)
1162                 return -EINVAL;
1163
1164         cifs_dbg(FYI, "%s: path: %s\n", __func__, path);
1165
1166         down_read(&htable_rw_lock);
1167
1168         ce = lookup_cache_entry(path);
1169         if (IS_ERR(ce)) {
1170                 rc = PTR_ERR(ce);
1171                 goto out_unlock;
1172         }
1173
1174         cifs_dbg(FYI, "%s: target name: %s\n", __func__, it->it_name);
1175
1176         rc = setup_referral(path, ce, ref, it->it_name);
1177
1178 out_unlock:
1179         up_read(&htable_rw_lock);
1180         return rc;
1181 }
1182
1183 /**
1184  * dfs_cache_add_refsrv_session - add SMB session of referral server
1185  *
1186  * @mount_id: mount group uuid to lookup.
1187  * @ses: reference counted SMB session of referral server.
1188  */
1189 void dfs_cache_add_refsrv_session(const uuid_t *mount_id, struct cifs_ses *ses)
1190 {
1191         struct mount_group *mg;
1192
1193         if (WARN_ON_ONCE(!mount_id || uuid_is_null(mount_id) || !ses))
1194                 return;
1195
1196         mg = get_mount_group(mount_id);
1197         if (WARN_ON_ONCE(IS_ERR(mg)))
1198                 return;
1199
1200         spin_lock(&mg->lock);
1201         if (mg->num_sessions < ARRAY_SIZE(mg->sessions))
1202                 mg->sessions[mg->num_sessions++] = ses;
1203         spin_unlock(&mg->lock);
1204         kref_put(&mg->refcount, mount_group_release);
1205 }
1206
1207 /**
1208  * dfs_cache_put_refsrv_sessions - put all referral server sessions
1209  *
1210  * Put all SMB sessions from the given mount group id.
1211  *
1212  * @mount_id: mount group uuid to lookup.
1213  */
1214 void dfs_cache_put_refsrv_sessions(const uuid_t *mount_id)
1215 {
1216         struct mount_group *mg;
1217
1218         if (!mount_id || uuid_is_null(mount_id))
1219                 return;
1220
1221         mutex_lock(&mount_group_list_lock);
1222         mg = find_mount_group_locked(mount_id);
1223         if (IS_ERR(mg)) {
1224                 mutex_unlock(&mount_group_list_lock);
1225                 return;
1226         }
1227         mutex_unlock(&mount_group_list_lock);
1228         kref_put(&mg->refcount, mount_group_release);
1229 }
1230
1231 /**
1232  * dfs_cache_get_tgt_share - parse a DFS target
1233  *
1234  * @path: DFS full path
1235  * @it: DFS target iterator.
1236  * @share: tree name.
1237  * @prefix: prefix path.
1238  *
1239  * Return zero if target was parsed correctly, otherwise non-zero.
1240  */
1241 int dfs_cache_get_tgt_share(char *path, const struct dfs_cache_tgt_iterator *it, char **share,
1242                             char **prefix)
1243 {
1244         char *s, sep, *p;
1245         size_t len;
1246         size_t plen1, plen2;
1247
1248         if (!it || !path || !share || !prefix || strlen(path) < it->it_path_consumed)
1249                 return -EINVAL;
1250
1251         *share = NULL;
1252         *prefix = NULL;
1253
1254         sep = it->it_name[0];
1255         if (sep != '\\' && sep != '/')
1256                 return -EINVAL;
1257
1258         s = strchr(it->it_name + 1, sep);
1259         if (!s)
1260                 return -EINVAL;
1261
1262         /* point to prefix in target node */
1263         s = strchrnul(s + 1, sep);
1264
1265         /* extract target share */
1266         *share = kstrndup(it->it_name, s - it->it_name, GFP_KERNEL);
1267         if (!*share)
1268                 return -ENOMEM;
1269
1270         /* skip separator */
1271         if (*s)
1272                 s++;
1273         /* point to prefix in DFS path */
1274         p = path + it->it_path_consumed;
1275         if (*p == sep)
1276                 p++;
1277
1278         /* merge prefix paths from DFS path and target node */
1279         plen1 = it->it_name + strlen(it->it_name) - s;
1280         plen2 = path + strlen(path) - p;
1281         if (plen1 || plen2) {
1282                 len = plen1 + plen2 + 2;
1283                 *prefix = kmalloc(len, GFP_KERNEL);
1284                 if (!*prefix) {
1285                         kfree(*share);
1286                         *share = NULL;
1287                         return -ENOMEM;
1288                 }
1289                 if (plen1)
1290                         scnprintf(*prefix, len, "%.*s%c%.*s", (int)plen1, s, sep, (int)plen2, p);
1291                 else
1292                         strscpy(*prefix, p, len);
1293         }
1294         return 0;
1295 }
1296
1297 /*
1298  * Refresh all active dfs mounts regardless of whether they are in cache or not.
1299  * (cache can be cleared)
1300  */
1301 static void refresh_mounts(struct cifs_ses **sessions)
1302 {
1303         struct TCP_Server_Info *server;
1304         struct cifs_ses *ses;
1305         struct cifs_tcon *tcon, *ntcon;
1306         struct list_head tcons;
1307         unsigned int xid;
1308
1309         INIT_LIST_HEAD(&tcons);
1310
1311         spin_lock(&cifs_tcp_ses_lock);
1312         list_for_each_entry(server, &cifs_tcp_ses_list, tcp_ses_list) {
1313                 list_for_each_entry(ses, &server->smb_ses_list, smb_ses_list) {
1314                         list_for_each_entry(tcon, &ses->tcon_list, tcon_list) {
1315                                 if (tcon->dfs_path) {
1316                                         tcon->tc_count++;
1317                                         list_add_tail(&tcon->ulist, &tcons);
1318                                 }
1319                         }
1320                 }
1321         }
1322         spin_unlock(&cifs_tcp_ses_lock);
1323
1324         list_for_each_entry_safe(tcon, ntcon, &tcons, ulist) {
1325                 const char *path = tcon->dfs_path + 1;
1326                 struct cache_entry *ce;
1327                 struct dfs_info3_param *refs = NULL;
1328                 int numrefs = 0;
1329                 bool needs_refresh = false;
1330                 int rc = 0;
1331
1332                 list_del_init(&tcon->ulist);
1333
1334                 ses = find_ipc_from_server_path(sessions, path);
1335                 if (IS_ERR(ses))
1336                         goto next_tcon;
1337
1338                 down_read(&htable_rw_lock);
1339                 ce = lookup_cache_entry(path);
1340                 needs_refresh = IS_ERR(ce) || cache_entry_expired(ce);
1341                 up_read(&htable_rw_lock);
1342
1343                 if (!needs_refresh)
1344                         goto next_tcon;
1345
1346                 xid = get_xid();
1347                 rc = get_dfs_referral(xid, ses, path, &refs, &numrefs);
1348                 free_xid(xid);
1349
1350                 /* Create or update a cache entry with the new referral */
1351                 if (!rc) {
1352                         down_write(&htable_rw_lock);
1353                         ce = lookup_cache_entry(path);
1354                         if (IS_ERR(ce))
1355                                 add_cache_entry_locked(refs, numrefs);
1356                         else if (cache_entry_expired(ce))
1357                                 update_cache_entry_locked(ce, refs, numrefs);
1358                         up_write(&htable_rw_lock);
1359                 }
1360
1361 next_tcon:
1362                 free_dfs_info_array(refs, numrefs);
1363                 cifs_put_tcon(tcon);
1364         }
1365 }
1366
1367 static void refresh_cache(struct cifs_ses **sessions)
1368 {
1369         int i;
1370         struct cifs_ses *ses;
1371         unsigned int xid;
1372         char *ref_paths[CACHE_MAX_ENTRIES];
1373         int count = 0;
1374         struct cache_entry *ce;
1375
1376         /*
1377          * Refresh all cached entries.  Get all new referrals outside critical section to avoid
1378          * starvation while performing SMB2 IOCTL on broken or slow connections.
1379
1380          * The cache entries may cover more paths than the active mounts
1381          * (e.g. domain-based DFS referrals or multi tier DFS setups).
1382          */
1383         down_read(&htable_rw_lock);
1384         for (i = 0; i < CACHE_HTABLE_SIZE; i++) {
1385                 struct hlist_head *l = &cache_htable[i];
1386
1387                 hlist_for_each_entry(ce, l, hlist) {
1388                         if (count == ARRAY_SIZE(ref_paths))
1389                                 goto out_unlock;
1390                         if (hlist_unhashed(&ce->hlist) || !cache_entry_expired(ce) ||
1391                             IS_ERR(find_ipc_from_server_path(sessions, ce->path)))
1392                                 continue;
1393                         ref_paths[count++] = kstrdup(ce->path, GFP_ATOMIC);
1394                 }
1395         }
1396
1397 out_unlock:
1398         up_read(&htable_rw_lock);
1399
1400         for (i = 0; i < count; i++) {
1401                 char *path = ref_paths[i];
1402                 struct dfs_info3_param *refs = NULL;
1403                 int numrefs = 0;
1404                 int rc = 0;
1405
1406                 if (!path)
1407                         continue;
1408
1409                 ses = find_ipc_from_server_path(sessions, path);
1410                 if (IS_ERR(ses))
1411                         goto next_referral;
1412
1413                 xid = get_xid();
1414                 rc = get_dfs_referral(xid, ses, path, &refs, &numrefs);
1415                 free_xid(xid);
1416
1417                 if (!rc) {
1418                         down_write(&htable_rw_lock);
1419                         ce = lookup_cache_entry(path);
1420                         /*
1421                          * We need to re-check it because other tasks might have it deleted or
1422                          * updated.
1423                          */
1424                         if (!IS_ERR(ce) && cache_entry_expired(ce))
1425                                 update_cache_entry_locked(ce, refs, numrefs);
1426                         up_write(&htable_rw_lock);
1427                 }
1428
1429 next_referral:
1430                 kfree(path);
1431                 free_dfs_info_array(refs, numrefs);
1432         }
1433 }
1434
1435 /*
1436  * Worker that will refresh DFS cache and active mounts based on lowest TTL value from a DFS
1437  * referral.
1438  */
1439 static void refresh_cache_worker(struct work_struct *work)
1440 {
1441         struct list_head mglist;
1442         struct mount_group *mg, *tmp_mg;
1443         struct cifs_ses *sessions[CACHE_MAX_ENTRIES + 1] = {NULL};
1444         int max_sessions = ARRAY_SIZE(sessions) - 1;
1445         int i = 0, count;
1446
1447         INIT_LIST_HEAD(&mglist);
1448
1449         /* Get refereces of mount groups */
1450         mutex_lock(&mount_group_list_lock);
1451         list_for_each_entry(mg, &mount_group_list, list) {
1452                 kref_get(&mg->refcount);
1453                 list_add(&mg->refresh_list, &mglist);
1454         }
1455         mutex_unlock(&mount_group_list_lock);
1456
1457         /* Fill in local array with an NULL-terminated list of all referral server sessions */
1458         list_for_each_entry(mg, &mglist, refresh_list) {
1459                 if (i >= max_sessions)
1460                         break;
1461
1462                 spin_lock(&mg->lock);
1463                 if (i + mg->num_sessions > max_sessions)
1464                         count = max_sessions - i;
1465                 else
1466                         count = mg->num_sessions;
1467                 memcpy(&sessions[i], mg->sessions, count * sizeof(mg->sessions[0]));
1468                 spin_unlock(&mg->lock);
1469                 i += count;
1470         }
1471
1472         if (sessions[0]) {
1473                 /* Refresh all active mounts and cached entries */
1474                 refresh_mounts(sessions);
1475                 refresh_cache(sessions);
1476         }
1477
1478         list_for_each_entry_safe(mg, tmp_mg, &mglist, refresh_list) {
1479                 list_del_init(&mg->refresh_list);
1480                 kref_put(&mg->refcount, mount_group_release);
1481         }
1482
1483         spin_lock(&cache_ttl_lock);
1484         queue_delayed_work(dfscache_wq, &refresh_task, cache_ttl * HZ);
1485         spin_unlock(&cache_ttl_lock);
1486 }