linux-core/drm_memory.h

   1 /**
   2  * \file drm_memory.h
   3  * Memory management wrappers for DRM
   4  *
   5  * \author Rickard E. (Rik) Faith <faith@valinux.com>
   6  * \author Gareth Hughes <gareth@valinux.com>
   7  */
   8
   9 /*
  10  * Created: Thu Feb  4 14:00:34 1999 by faith@valinux.com
  11  *
  12  * Copyright 1999 Precision Insight, Inc., Cedar Park, Texas.
  13  * Copyright 2000 VA Linux Systems, Inc., Sunnyvale, California.
  14  * All Rights Reserved.
  15  *
  16  * Permission is hereby granted, free of charge, to any person obtaining a
  17  * copy of this software and associated documentation files (the "Software"),
  18  * to deal in the Software without restriction, including without limitation
  19  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
  20  * and/or sell copies of the Software, and to permit persons to whom the
  21  * Software is furnished to do so, subject to the following conditions:
  22  *
  23  * The above copyright notice and this permission notice (including the next
  24  * paragraph) shall be included in all copies or substantial portions of the
  25  * Software.
  26  *
  27  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  28  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  29  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  30  * VA LINUX SYSTEMS AND/OR ITS SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR
  31  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
  32  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
  33  * OTHER DEALINGS IN THE SOFTWARE.
  34  */
  35
  36 #define __NO_VERSION__
  37 #include <linux/config.h>
  38 #include <linux/highmem.h>
  39 #include "drmP.h"
  40
  41 /**
  42  * Cut down version of drm_memory_debug.h, which used to be called
  43  * drm_memory.h.  If you want the debug functionality, change 0 to 1
  44  * below.
  45  */
  46 #define DEBUG_MEMORY 0
  47
  48 /* Need the 4-argument version of vmap().  */
  49 #if __OS_HAS_AGP && defined(VMAP_4_ARGS)
  50
  51 #include <linux/vmalloc.h>
  52
  53 #ifdef HAVE_PAGE_AGP
  54 #include <asm/agp.h>
  55 #else
  56 # ifdef __powerpc__
  57 #  define PAGE_AGP      __pgprot(_PAGE_KERNEL | _PAGE_NO_CACHE)
  58 # else
  59 #  define PAGE_AGP      PAGE_KERNEL
  60 # endif
  61 #endif
  62
  63 #if LINUX_VERSION_CODE < KERNEL_VERSION(2,5,0)
  64 #ifndef pte_offset_kernel
  65 # define pte_offset_kernel(dir, address)        pte_offset(dir, address)
  66 #endif
  67 #ifndef pte_pfn
  68 # define pte_pfn(pte)                           (pte_page(pte) - mem_map)
  69 #endif
  70 #ifndef pfn_to_page
  71 # define pfn_to_page(pfn)                       (mem_map + (pfn))
  72 #endif
  73 #endif
  74
  75 /*
  76  * Find the drm_map that covers the range [offset, offset+size).
  77  */
  78 static inline drm_map_t *
  79 drm_lookup_map (unsigned long offset, unsigned long size, drm_device_t *dev)
  80 {
  81         struct list_head *list;
  82         drm_map_list_t *r_list;
  83         drm_map_t *map;
  84
  85         list_for_each(list, &dev->maplist->head) {
  86                 r_list = (drm_map_list_t *) list;
  87                 map = r_list->map;
  88                 if (!map)
  89                         continue;
  90                 if (map->offset <= offset && (offset + size) <= (map->offset + map->size))
  91                         return map;
  92         }
  93         return NULL;
  94 }
  95
  96 static inline void *
  97 agp_remap (unsigned long offset, unsigned long size, drm_device_t *dev)
  98 {
  99         unsigned long *phys_addr_map, i, num_pages = PAGE_ALIGN(size) / PAGE_SIZE;
 100         struct drm_agp_mem *agpmem;
 101         struct page **page_map;
 102         void *addr;
 103
 104         size = PAGE_ALIGN(size);
 105
 106 #ifdef __alpha__
 107         offset -= dev->hose->mem_space->start;
 108 #endif
 109
 110         for (agpmem = dev->agp->memory; agpmem; agpmem = agpmem->next)
 111                 if (agpmem->bound <= offset
 112                     && (agpmem->bound + (agpmem->pages << PAGE_SHIFT)) >= (offset + size))
 113                         break;
 114         if (!agpmem)
 115                 return NULL;
 116
 117         /*
 118          * OK, we're mapping AGP space on a chipset/platform on which memory accesses by
 119          * the CPU do not get remapped by the GART.  We fix this by using the kernel's
 120          * page-table instead (that's probably faster anyhow...).
 121          */
 122         /* note: use vmalloc() because num_pages could be large... */
 123         page_map = vmalloc(num_pages * sizeof(struct page *));
 124         if (!page_map)
 125                 return NULL;
 126
 127         phys_addr_map = agpmem->memory->memory + (offset - agpmem->bound) / PAGE_SIZE;
 128         for (i = 0; i < num_pages; ++i)
 129                 page_map[i] = pfn_to_page(phys_addr_map[i] >> PAGE_SHIFT);
 130         addr = vmap(page_map, num_pages, VM_IOREMAP, PAGE_AGP);
 131         vfree(page_map);
 132
 133         return addr;
 134 }
 135
 136 static inline unsigned long
 137 drm_follow_page (void *vaddr)
 138 {
 139         pgd_t *pgd = pgd_offset_k((unsigned long) vaddr);
 140         pmd_t *pmd = pmd_offset(pgd, (unsigned long) vaddr);
 141         pte_t *ptep = pte_offset_kernel(pmd, (unsigned long) vaddr);
 142         return pte_pfn(*ptep) << PAGE_SHIFT;
 143 }
 144
 145 #endif /* __OS_HAS_AGP && defined(VMAP_4_ARGS) */
 146
 147 static inline void *drm_ioremap(unsigned long offset, unsigned long size, drm_device_t *dev)
 148 {
 149 #if __OS_HAS_AGP && defined(VMAP_4_ARGS)
 150   if ( (dev->driver_features & DRIVER_USE_AGP) && dev->agp && dev->agp->cant_use_aperture) {
 151                 drm_map_t *map = drm_lookup_map(offset, size, dev);
 152
 153                 if (map && map->type == _DRM_AGP)
 154                         return agp_remap(offset, size, dev);
 155         }
 156 #endif
 157
 158         return ioremap(offset, size);
 159 }
 160
 161 static inline void *drm_ioremap_nocache(unsigned long offset, unsigned long size,
 162                                         drm_device_t *dev)
 163 {
 164 #if __OS_HAS_AGP&& defined(VMAP_4_ARGS)
 165         if ( (dev->driver_features & DRIVER_USE_AGP) && dev->agp && dev->agp->cant_use_aperture) {
 166                 drm_map_t *map = drm_lookup_map(offset, size, dev);
 167
 168                 if (map && map->type == _DRM_AGP)
 169                         return agp_remap(offset, size, dev);
 170         }
 171 #endif
 172
 173         return ioremap_nocache(offset, size);
 174 }
 175
 176 static inline void drm_ioremapfree(void *pt, unsigned long size, drm_device_t *dev)
 177 {
 178 #if __OS_HAS_AGP && defined(VMAP_4_ARGS)
 179         /*
 180          * This is a bit ugly.  It would be much cleaner if the DRM API would use separate
 181          * routines for handling mappings in the AGP space.  Hopefully this can be done in
 182          * a future revision of the interface...
 183          */
 184         if ((dev->driver_features & DRIVER_USE_AGP) && dev->agp && dev->agp->cant_use_aperture
 185             && ((unsigned long) pt >= VMALLOC_START && (unsigned long) pt < VMALLOC_END))
 186         {
 187                 unsigned long offset;
 188                 drm_map_t *map;
 189
 190                 offset = drm_follow_page(pt) | ((unsigned long) pt & ~PAGE_MASK);
 191                 map = drm_lookup_map(offset, size, dev);
 192                 if (map && map->type == _DRM_AGP) {
 193                         vunmap(pt);
 194                         return;
 195                 }
 196         }
 197 #endif
 198
 199         iounmap(pt);
 200 }
 201
 202
 203 #if DEBUG_MEMORY
 204 #include "drm_memory_debug.h"
 205 #else
 206
 207 /** No-op. */
 208 void DRM(mem_init)(void)
 209 {
 210 }
 211
 212 /**
 213  * Called when "/proc/dri/%dev%/mem" is read.
 214  *
 215  * \param buf output buffer.
 216  * \param start start of output data.
 217  * \param offset requested start offset.
 218  * \param len requested number of bytes.
 219  * \param eof whether there is no more data to return.
 220  * \param data private data.
 221  * \return number of written bytes.
 222  *
 223  * No-op.
 224  */
 225 int DRM(mem_info)(char *buf, char **start, off_t offset,
 226                   int len, int *eof, void *data)
 227 {
 228         return 0;
 229 }
 230
 231 /** Wrapper around kmalloc() */
 232 void *DRM(alloc)(size_t size, int area)
 233 {
 234         return kmalloc(size, GFP_KERNEL);
 235 }
 236
 237 /** Wrapper around kmalloc() */
 238 void *DRM(calloc)(size_t size, size_t nmemb, int area)
 239 {
 240         void *addr;
 241
 242         addr = kmalloc(size * nmemb, GFP_KERNEL);
 243         if (addr != NULL)
 244                 memset((void *)addr, 0, size * nmemb);
 245
 246         return addr;
 247 }
 248
 249 /** Wrapper around kmalloc() and kfree() */
 250 void *DRM(realloc)(void *oldpt, size_t oldsize, size_t size, int area)
 251 {
 252         void *pt;
 253
 254         if (!(pt = kmalloc(size, GFP_KERNEL))) return NULL;
 255         if (oldpt && oldsize) {
 256                 memcpy(pt, oldpt, oldsize);
 257                 kfree(oldpt);
 258         }
 259         return pt;
 260 }
 261
 262 /** Wrapper around kfree() */
 263 void DRM(free)(void *pt, size_t size, int area)
 264 {
 265         kfree(pt);
 266 }
 267
 268 /**
 269  * Allocate pages.
 270  *
 271  * \param order size order.
 272  * \param area memory area. (Not used.)
 273  * \return page address on success, or zero on failure.
 274  *
 275  * Allocate and reserve free pages.
 276  */
 277 unsigned long DRM(alloc_pages)(int order, int area)
 278 {
 279         unsigned long address;
 280         unsigned long bytes       = PAGE_SIZE << order;
 281         unsigned long addr;
 282         unsigned int  sz;
 283
 284         address = __get_free_pages(GFP_KERNEL, order);
 285         if (!address)
 286                 return 0;
 287
 288                                 /* Zero */
 289         memset((void *)address, 0, bytes);
 290
 291                                 /* Reserve */
 292         for (addr = address, sz = bytes;
 293              sz > 0;
 294              addr += PAGE_SIZE, sz -= PAGE_SIZE) {
 295                 SetPageReserved(virt_to_page(addr));
 296         }
 297
 298         return address;
 299 }
 300
 301 /**
 302  * Free pages.
 303  *
 304  * \param address address of the pages to free.
 305  * \param order size order.
 306  * \param area memory area. (Not used.)
 307  *
 308  * Unreserve and free pages allocated by alloc_pages().
 309  */
 310 void DRM(free_pages)(unsigned long address, int order, int area)
 311 {
 312         unsigned long bytes = PAGE_SIZE << order;
 313         unsigned long addr;
 314         unsigned int  sz;
 315
 316         if (!address)
 317                 return;
 318
 319         /* Unreserve */
 320         for (addr = address, sz = bytes;
 321              sz > 0;
 322              addr += PAGE_SIZE, sz -= PAGE_SIZE) {
 323                 ClearPageReserved(virt_to_page(addr));
 324         }
 325
 326         free_pages(address, order);
 327 }
 328
 329 /** Wrapper around drm_ioremap() */
 330 void *DRM(ioremap)(unsigned long offset, unsigned long size, drm_device_t *dev)
 331 {
 332         return drm_ioremap(offset, size, dev);
 333 }
 334
 335 /** Wrapper around drm_ioremap_nocache() */
 336 void *DRM(ioremap_nocache)(unsigned long offset, unsigned long size, drm_device_t *dev)
 337 {
 338         return drm_ioremap_nocache(offset, size, dev);
 339 }
 340
 341 /** Wrapper around drm_iounmap() */
 342 void DRM(ioremapfree)(void *pt, unsigned long size, drm_device_t *dev)
 343 {
 344         drm_ioremapfree(pt, size, dev);
 345 }
 346
 347 #if __OS_HAS_AGP
 348 /** Wrapper around agp_allocate_memory() */
 349 DRM_AGP_MEM *DRM(alloc_agp)(int pages, u32 type)
 350 {
 351         return DRM(agp_allocate_memory)(pages, type);
 352 }
 353
 354 /** Wrapper around agp_free_memory() */
 355 int DRM(free_agp)(DRM_AGP_MEM *handle, int pages)
 356 {
 357         return DRM(agp_free_memory)(handle) ? 0 : -EINVAL;
 358 }
 359
 360 /** Wrapper around agp_bind_memory() */
 361 int DRM(bind_agp)(DRM_AGP_MEM *handle, unsigned int start)
 362 {
 363         return DRM(agp_bind_memory)(handle, start);
 364 }
 365
 366 /** Wrapper around agp_unbind_memory() */
 367 int DRM(unbind_agp)(DRM_AGP_MEM *handle)
 368 {
 369         return DRM(agp_unbind_memory)(handle);
 370 }
 371 #endif /* agp */
 372 #endif /* debug_memory */