linux-core/drm_memory.h

   1 /**
   2  * \file drm_memory.h
   3  * Memory management wrappers for DRM
   4  *
   5  * \author Rickard E. (Rik) Faith <faith@valinux.com>
   6  * \author Gareth Hughes <gareth@valinux.com>
   7  */
   8
   9 /*
  10  * Created: Thu Feb  4 14:00:34 1999 by faith@valinux.com
  11  *
  12  * Copyright 1999 Precision Insight, Inc., Cedar Park, Texas.
  13  * Copyright 2000 VA Linux Systems, Inc., Sunnyvale, California.
  14  * All Rights Reserved.
  15  *
  16  * Permission is hereby granted, free of charge, to any person obtaining a
  17  * copy of this software and associated documentation files (the "Software"),
  18  * to deal in the Software without restriction, including without limitation
  19  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
  20  * and/or sell copies of the Software, and to permit persons to whom the
  21  * Software is furnished to do so, subject to the following conditions:
  22  *
  23  * The above copyright notice and this permission notice (including the next
  24  * paragraph) shall be included in all copies or substantial portions of the
  25  * Software.
  26  *
  27  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  28  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  29  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  30  * VA LINUX SYSTEMS AND/OR ITS SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR
  31  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
  32  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
  33  * OTHER DEALINGS IN THE SOFTWARE.
  34  */
  35
  36 #include <linux/config.h>
  37 #include <linux/highmem.h>
  38 #include "drmP.h"
  39
  40 /**
  41  * Cut down version of drm_memory_debug.h, which used to be called
  42  * drm_memory.h.  If you want the debug functionality, change 0 to 1
  43  * below.
  44  */
  45 #define DEBUG_MEMORY 0
  46
  47 /* Need the 4-argument version of vmap().  */
  48 #if __OS_HAS_AGP && defined(VMAP_4_ARGS)
  49
  50 #include <linux/vmalloc.h>
  51
  52 #ifdef HAVE_PAGE_AGP
  53 #include <asm/agp.h>
  54 #else
  55 # ifdef __powerpc__
  56 #  define PAGE_AGP      __pgprot(_PAGE_KERNEL | _PAGE_NO_CACHE)
  57 # else
  58 #  define PAGE_AGP      PAGE_KERNEL
  59 # endif
  60 #endif
  61
  62 #if LINUX_VERSION_CODE < KERNEL_VERSION(2,5,0)
  63 #ifndef pte_offset_kernel
  64 # define pte_offset_kernel(dir, address)        pte_offset(dir, address)
  65 #endif
  66 #ifndef pte_pfn
  67 # define pte_pfn(pte)                           (pte_page(pte) - mem_map)
  68 #endif
  69 #ifndef pfn_to_page
  70 # define pfn_to_page(pfn)                       (mem_map + (pfn))
  71 #endif
  72 #endif
  73
  74 /*
  75  * Find the drm_map that covers the range [offset, offset+size).
  76  */
  77 static inline drm_map_t *
  78 drm_lookup_map (unsigned long offset, unsigned long size, drm_device_t *dev)
  79 {
  80         struct list_head *list;
  81         drm_map_list_t *r_list;
  82         drm_map_t *map;
  83
  84         list_for_each(list, &dev->maplist->head) {
  85                 r_list = (drm_map_list_t *) list;
  86                 map = r_list->map;
  87                 if (!map)
  88                         continue;
  89                 if (map->offset <= offset && (offset + size) <= (map->offset + map->size))
  90                         return map;
  91         }
  92         return NULL;
  93 }
  94
  95 static inline void *
  96 agp_remap (unsigned long offset, unsigned long size, drm_device_t *dev)
  97 {
  98         unsigned long *phys_addr_map, i, num_pages = PAGE_ALIGN(size) / PAGE_SIZE;
  99         struct drm_agp_mem *agpmem;
 100         struct page **page_map;
 101         void *addr;
 102
 103         size = PAGE_ALIGN(size);
 104
 105 #ifdef __alpha__
 106         offset -= dev->hose->mem_space->start;
 107 #endif
 108
 109         for (agpmem = dev->agp->memory; agpmem; agpmem = agpmem->next)
 110                 if (agpmem->bound <= offset
 111                     && (agpmem->bound + (agpmem->pages << PAGE_SHIFT)) >= (offset + size))
 112                         break;
 113         if (!agpmem)
 114                 return NULL;
 115
 116         /*
 117          * OK, we're mapping AGP space on a chipset/platform on which memory accesses by
 118          * the CPU do not get remapped by the GART.  We fix this by using the kernel's
 119          * page-table instead (that's probably faster anyhow...).
 120          */
 121         /* note: use vmalloc() because num_pages could be large... */
 122         page_map = vmalloc(num_pages * sizeof(struct page *));
 123         if (!page_map)
 124                 return NULL;
 125
 126         phys_addr_map = agpmem->memory->memory + (offset - agpmem->bound) / PAGE_SIZE;
 127         for (i = 0; i < num_pages; ++i)
 128                 page_map[i] = pfn_to_page(phys_addr_map[i] >> PAGE_SHIFT);
 129         addr = vmap(page_map, num_pages, VM_IOREMAP, PAGE_AGP);
 130         vfree(page_map);
 131
 132         return addr;
 133 }
 134
 135 static inline unsigned long
 136 drm_follow_page (void *vaddr)
 137 {
 138         pgd_t *pgd = pgd_offset_k((unsigned long) vaddr);
 139         pmd_t *pmd = pmd_offset(pgd, (unsigned long) vaddr);
 140         pte_t *ptep = pte_offset_kernel(pmd, (unsigned long) vaddr);
 141         return pte_pfn(*ptep) << PAGE_SHIFT;
 142 }
 143
 144 #endif /* __OS_HAS_AGP && defined(VMAP_4_ARGS) */
 145
 146 static inline void *drm_ioremap(unsigned long offset, unsigned long size, drm_device_t *dev)
 147 {
 148 #if __OS_HAS_AGP && defined(VMAP_4_ARGS)
 149   if ( (dev->driver_features & DRIVER_USE_AGP) && dev->agp && dev->agp->cant_use_aperture) {
 150                 drm_map_t *map = drm_lookup_map(offset, size, dev);
 151
 152                 if (map && map->type == _DRM_AGP)
 153                         return agp_remap(offset, size, dev);
 154         }
 155 #endif
 156
 157         return ioremap(offset, size);
 158 }
 159
 160 static inline void *drm_ioremap_nocache(unsigned long offset, unsigned long size,
 161                                         drm_device_t *dev)
 162 {
 163 #if __OS_HAS_AGP&& defined(VMAP_4_ARGS)
 164         if ( (dev->driver_features & DRIVER_USE_AGP) && dev->agp && dev->agp->cant_use_aperture) {
 165                 drm_map_t *map = drm_lookup_map(offset, size, dev);
 166
 167                 if (map && map->type == _DRM_AGP)
 168                         return agp_remap(offset, size, dev);
 169         }
 170 #endif
 171
 172         return ioremap_nocache(offset, size);
 173 }
 174
 175 static inline void drm_ioremapfree(void *pt, unsigned long size, drm_device_t *dev)
 176 {
 177 #if __OS_HAS_AGP && defined(VMAP_4_ARGS)
 178         /*
 179          * This is a bit ugly.  It would be much cleaner if the DRM API would use separate
 180          * routines for handling mappings in the AGP space.  Hopefully this can be done in
 181          * a future revision of the interface...
 182          */
 183         if ((dev->driver_features & DRIVER_USE_AGP) && dev->agp && dev->agp->cant_use_aperture
 184             && ((unsigned long) pt >= VMALLOC_START && (unsigned long) pt < VMALLOC_END))
 185         {
 186                 unsigned long offset;
 187                 drm_map_t *map;
 188
 189                 offset = drm_follow_page(pt) | ((unsigned long) pt & ~PAGE_MASK);
 190                 map = drm_lookup_map(offset, size, dev);
 191                 if (map && map->type == _DRM_AGP) {
 192                         vunmap(pt);
 193                         return;
 194                 }
 195         }
 196 #endif
 197
 198         iounmap(pt);
 199 }
 200
 201
 202 #if DEBUG_MEMORY
 203 #include "drm_memory_debug.h"
 204 #else
 205
 206 /** No-op. */
 207 void DRM(mem_init)(void)
 208 {
 209 }
 210
 211 /**
 212  * Called when "/proc/dri/%dev%/mem" is read.
 213  *
 214  * \param buf output buffer.
 215  * \param start start of output data.
 216  * \param offset requested start offset.
 217  * \param len requested number of bytes.
 218  * \param eof whether there is no more data to return.
 219  * \param data private data.
 220  * \return number of written bytes.
 221  *
 222  * No-op.
 223  */
 224 int DRM(mem_info)(char *buf, char **start, off_t offset,
 225                   int len, int *eof, void *data)
 226 {
 227         return 0;
 228 }
 229
 230 /** Wrapper around kmalloc() */
 231 void *DRM(alloc)(size_t size, int area)
 232 {
 233         return kmalloc(size, GFP_KERNEL);
 234 }
 235
 236 /** Wrapper around kmalloc() */
 237 void *DRM(calloc)(size_t size, size_t nmemb, int area)
 238 {
 239         void *addr;
 240
 241         addr = kmalloc(size * nmemb, GFP_KERNEL);
 242         if (addr != NULL)
 243                 memset((void *)addr, 0, size * nmemb);
 244
 245         return addr;
 246 }
 247
 248 /** Wrapper around kmalloc() and kfree() */
 249 void *DRM(realloc)(void *oldpt, size_t oldsize, size_t size, int area)
 250 {
 251         void *pt;
 252
 253         if (!(pt = kmalloc(size, GFP_KERNEL))) return NULL;
 254         if (oldpt && oldsize) {
 255                 memcpy(pt, oldpt, oldsize);
 256                 kfree(oldpt);
 257         }
 258         return pt;
 259 }
 260
 261 /** Wrapper around kfree() */
 262 void DRM(free)(void *pt, size_t size, int area)
 263 {
 264         kfree(pt);
 265 }
 266
 267 /**
 268  * Allocate pages.
 269  *
 270  * \param order size order.
 271  * \param area memory area. (Not used.)
 272  * \return page address on success, or zero on failure.
 273  *
 274  * Allocate and reserve free pages.
 275  */
 276 unsigned long DRM(alloc_pages)(int order, int area)
 277 {
 278         unsigned long address;
 279         unsigned long bytes       = PAGE_SIZE << order;
 280         unsigned long addr;
 281         unsigned int  sz;
 282
 283         address = __get_free_pages(GFP_KERNEL, order);
 284         if (!address)
 285                 return 0;
 286
 287                                 /* Zero */
 288         memset((void *)address, 0, bytes);
 289
 290                                 /* Reserve */
 291         for (addr = address, sz = bytes;
 292              sz > 0;
 293              addr += PAGE_SIZE, sz -= PAGE_SIZE) {
 294                 SetPageReserved(virt_to_page(addr));
 295         }
 296
 297         return address;
 298 }
 299
 300 /**
 301  * Free pages.
 302  *
 303  * \param address address of the pages to free.
 304  * \param order size order.
 305  * \param area memory area. (Not used.)
 306  *
 307  * Unreserve and free pages allocated by alloc_pages().
 308  */
 309 void DRM(free_pages)(unsigned long address, int order, int area)
 310 {
 311         unsigned long bytes = PAGE_SIZE << order;
 312         unsigned long addr;
 313         unsigned int  sz;
 314
 315         if (!address)
 316                 return;
 317
 318         /* Unreserve */
 319         for (addr = address, sz = bytes;
 320              sz > 0;
 321              addr += PAGE_SIZE, sz -= PAGE_SIZE) {
 322                 ClearPageReserved(virt_to_page(addr));
 323         }
 324
 325         free_pages(address, order);
 326 }
 327
 328 /** Wrapper around drm_ioremap() */
 329 void *DRM(ioremap)(unsigned long offset, unsigned long size, drm_device_t *dev)
 330 {
 331         return drm_ioremap(offset, size, dev);
 332 }
 333
 334 /** Wrapper around drm_ioremap_nocache() */
 335 void *DRM(ioremap_nocache)(unsigned long offset, unsigned long size, drm_device_t *dev)
 336 {
 337         return drm_ioremap_nocache(offset, size, dev);
 338 }
 339
 340 /** Wrapper around drm_iounmap() */
 341 void DRM(ioremapfree)(void *pt, unsigned long size, drm_device_t *dev)
 342 {
 343         drm_ioremapfree(pt, size, dev);
 344 }
 345
 346 #if __OS_HAS_AGP
 347 /** Wrapper around agp_allocate_memory() */
 348 DRM_AGP_MEM *DRM(alloc_agp)(int pages, u32 type)
 349 {
 350         return DRM(agp_allocate_memory)(pages, type);
 351 }
 352
 353 /** Wrapper around agp_free_memory() */
 354 int DRM(free_agp)(DRM_AGP_MEM *handle, int pages)
 355 {
 356         return DRM(agp_free_memory)(handle) ? 0 : -EINVAL;
 357 }
 358
 359 /** Wrapper around agp_bind_memory() */
 360 int DRM(bind_agp)(DRM_AGP_MEM *handle, unsigned int start)
 361 {
 362         return DRM(agp_bind_memory)(handle, start);
 363 }
 364
 365 /** Wrapper around agp_unbind_memory() */
 366 int DRM(unbind_agp)(DRM_AGP_MEM *handle)
 367 {
 368         return DRM(agp_unbind_memory)(handle);
 369 }
 370 #endif /* agp */
 371 #endif /* debug_memory */