arch/powerpc/include/asm/tlb.h

   1 /*
   2  *      TLB shootdown specifics for powerpc
   3  *
   4  * Copyright (C) 2002 Anton Blanchard, IBM Corp.
   5  * Copyright (C) 2002 Paul Mackerras, IBM Corp.
   6  *
   7  * This program is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU General Public License
   9  * as published by the Free Software Foundation; either version
  10  * 2 of the License, or (at your option) any later version.
  11  */
  12 #ifndef _ASM_POWERPC_TLB_H
  13 #define _ASM_POWERPC_TLB_H
  14 #ifdef __KERNEL__
  15
  16 #ifndef __powerpc64__
  17 #include <asm/pgtable.h>
  18 #endif
  19 #include <asm/pgalloc.h>
  20 #ifndef __powerpc64__
  21 #include <asm/page.h>
  22 #include <asm/mmu.h>
  23 #endif
  24
  25 #include <linux/pagemap.h>
  26
  27 #define tlb_start_vma(tlb, vma) do { } while (0)
  28 #define tlb_end_vma(tlb, vma)   do { } while (0)
  29 #define __tlb_remove_tlb_entry  __tlb_remove_tlb_entry
  30
  31 #define tlb_flush tlb_flush
  32 extern void tlb_flush(struct mmu_gather *tlb);
  33
  34 /* Get the generic bits... */
  35 #include <asm-generic/tlb.h>
  36
  37 extern void flush_hash_entry(struct mm_struct *mm, pte_t *ptep,
  38                              unsigned long address);
  39
  40 static inline void __tlb_remove_tlb_entry(struct mmu_gather *tlb, pte_t *ptep,
  41                                           unsigned long address)
  42 {
  43 #ifdef CONFIG_PPC_BOOK3S_32
  44         if (pte_val(*ptep) & _PAGE_HASHPTE)
  45                 flush_hash_entry(tlb->mm, ptep, address);
  46 #endif
  47 }
  48
  49 #ifdef CONFIG_SMP
  50 static inline int mm_is_core_local(struct mm_struct *mm)
  51 {
  52         return cpumask_subset(mm_cpumask(mm),
  53                               topology_sibling_cpumask(smp_processor_id()));
  54 }
  55
  56 #ifdef CONFIG_PPC_BOOK3S_64
  57 static inline int mm_is_thread_local(struct mm_struct *mm)
  58 {
  59         if (atomic_read(&mm->context.active_cpus) > 1)
  60                 return false;
  61         return cpumask_test_cpu(smp_processor_id(), mm_cpumask(mm));
  62 }
  63 static inline void mm_reset_thread_local(struct mm_struct *mm)
  64 {
  65         WARN_ON(atomic_read(&mm->context.copros) > 0);
  66         /*
  67          * It's possible for mm_access to take a reference on mm_users to
  68          * access the remote mm from another thread, but it's not allowed
  69          * to set mm_cpumask, so mm_users may be > 1 here.
  70          */
  71         WARN_ON(current->mm != mm);
  72         atomic_set(&mm->context.active_cpus, 1);
  73         cpumask_clear(mm_cpumask(mm));
  74         cpumask_set_cpu(smp_processor_id(), mm_cpumask(mm));
  75 }
  76 #else /* CONFIG_PPC_BOOK3S_64 */
  77 static inline int mm_is_thread_local(struct mm_struct *mm)
  78 {
  79         return cpumask_equal(mm_cpumask(mm),
  80                               cpumask_of(smp_processor_id()));
  81 }
  82 #endif /* !CONFIG_PPC_BOOK3S_64 */
  83
  84 #else /* CONFIG_SMP */
  85 static inline int mm_is_core_local(struct mm_struct *mm)
  86 {
  87         return 1;
  88 }
  89
  90 static inline int mm_is_thread_local(struct mm_struct *mm)
  91 {
  92         return 1;
  93 }
  94 #endif
  95
  96 #endif /* __KERNEL__ */
  97 #endif /* __ASM_POWERPC_TLB_H */