linux-core/drm_irq.c

   1 /**
   2  * \file drm_irq.c
   3  * IRQ support
   4  *
   5  * \author Rickard E. (Rik) Faith <faith@valinux.com>
   6  * \author Gareth Hughes <gareth@valinux.com>
   7  */
   8
   9 /*
  10  * Created: Fri Mar 19 14:30:16 1999 by faith@valinux.com
  11  *
  12  * Copyright 1999, 2000 Precision Insight, Inc., Cedar Park, Texas.
  13  * Copyright 2000 VA Linux Systems, Inc., Sunnyvale, California.
  14  * All Rights Reserved.
  15  *
  16  * Permission is hereby granted, free of charge, to any person obtaining a
  17  * copy of this software and associated documentation files (the "Software"),
  18  * to deal in the Software without restriction, including without limitation
  19  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
  20  * and/or sell copies of the Software, and to permit persons to whom the
  21  * Software is furnished to do so, subject to the following conditions:
  22  *
  23  * The above copyright notice and this permission notice (including the next
  24  * paragraph) shall be included in all copies or substantial portions of the
  25  * Software.
  26  *
  27  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  28  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  29  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  30  * VA LINUX SYSTEMS AND/OR ITS SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR
  31  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
  32  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
  33  * OTHER DEALINGS IN THE SOFTWARE.
  34  */
  35
  36 #include "drmP.h"
  37
  38 #include <linux/interrupt.h>    /* For task queue support */
  39
  40 /**
  41  * Get interrupt from bus id.
  42  *
  43  * \param inode device inode.
  44  * \param file_priv DRM file private.
  45  * \param cmd command.
  46  * \param arg user argument, pointing to a drm_irq_busid structure.
  47  * \return zero on success or a negative number on failure.
  48  *
  49  * Finds the PCI device with the specified bus id and gets its IRQ number.
  50  * This IOCTL is deprecated, and will now return EINVAL for any busid not equal
  51  * to that of the device that this DRM instance attached to.
  52  */
  53 int drm_irq_by_busid(struct drm_device *dev, void *data,
  54                      struct drm_file *file_priv)
  55 {
  56         struct drm_irq_busid *p = data;
  57
  58         if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ))
  59                 return -EINVAL;
  60
  61         if ((p->busnum >> 8) != drm_get_pci_domain(dev) ||
  62             (p->busnum & 0xff) != dev->pdev->bus->number ||
  63             p->devnum != PCI_SLOT(dev->pdev->devfn) || p->funcnum != PCI_FUNC(dev->pdev->devfn))
  64                 return -EINVAL;
  65
  66         p->irq = dev->pdev->irq;
  67
  68         DRM_DEBUG("%d:%d:%d => IRQ %d\n", p->busnum, p->devnum, p->funcnum,
  69                   p->irq);
  70
  71         return 0;
  72 }
  73
  74 static void vblank_disable_fn(unsigned long arg)
  75 {
  76         struct drm_device *dev = (struct drm_device *)arg;
  77         unsigned long irqflags;
  78         int i;
  79
  80         if (!dev->vblank_disable_allowed)
  81                 return;
  82
  83         for (i = 0; i < dev->num_crtcs; i++) {
  84                 spin_lock_irqsave(&dev->vbl_lock, irqflags);
  85                 if (atomic_read(&dev->vblank_refcount[i]) == 0 &&
  86                     dev->vblank_enabled[i]) {
  87                         DRM_DEBUG("disabling vblank on crtc %d\n", i);
  88                         dev->last_vblank[i] =
  89                                 dev->driver->get_vblank_counter(dev, i);
  90                         dev->driver->disable_vblank(dev, i);
  91                         dev->vblank_enabled[i] = 0;
  92                 }
  93                 spin_unlock_irqrestore(&dev->vbl_lock, irqflags);
  94         }
  95 }
  96
  97 static void drm_vblank_cleanup(struct drm_device *dev)
  98 {
  99         /* Bail if the driver didn't call drm_vblank_init() */
 100         if (dev->num_crtcs == 0)
 101                 return;
 102
 103         del_timer(&dev->vblank_disable_timer);
 104
 105         vblank_disable_fn((unsigned long)dev);
 106
 107         drm_free(dev->vbl_queue, sizeof(*dev->vbl_queue) * dev->num_crtcs,
 108                  DRM_MEM_DRIVER);
 109         drm_free(dev->vbl_sigs, sizeof(*dev->vbl_sigs) * dev->num_crtcs,
 110                  DRM_MEM_DRIVER);
 111         drm_free(dev->_vblank_count, sizeof(*dev->_vblank_count) *
 112                  dev->num_crtcs, DRM_MEM_DRIVER);
 113         drm_free(dev->vblank_refcount, sizeof(*dev->vblank_refcount) *
 114                  dev->num_crtcs, DRM_MEM_DRIVER);
 115         drm_free(dev->vblank_enabled, sizeof(*dev->vblank_enabled) *
 116                  dev->num_crtcs, DRM_MEM_DRIVER);
 117         drm_free(dev->last_vblank, sizeof(*dev->last_vblank) * dev->num_crtcs,
 118                  DRM_MEM_DRIVER);
 119         drm_free(dev->vblank_inmodeset, sizeof(*dev->vblank_inmodeset) *
 120                  dev->num_crtcs, DRM_MEM_DRIVER);
 121
 122         dev->num_crtcs = 0;
 123 }
 124
 125 int drm_vblank_init(struct drm_device *dev, int num_crtcs)
 126 {
 127         int i, ret = -ENOMEM;
 128
 129         setup_timer(&dev->vblank_disable_timer, vblank_disable_fn,
 130                     (unsigned long)dev);
 131         init_timer_deferrable(&dev->vblank_disable_timer);
 132         spin_lock_init(&dev->vbl_lock);
 133         atomic_set(&dev->vbl_signal_pending, 0);
 134         dev->num_crtcs = num_crtcs;
 135
 136         dev->vbl_queue = drm_alloc(sizeof(wait_queue_head_t) * num_crtcs,
 137                                    DRM_MEM_DRIVER);
 138         if (!dev->vbl_queue)
 139                 goto err;
 140
 141         dev->vbl_sigs = drm_alloc(sizeof(struct list_head) * num_crtcs,
 142                                   DRM_MEM_DRIVER);
 143         if (!dev->vbl_sigs)
 144                 goto err;
 145
 146         dev->_vblank_count = drm_alloc(sizeof(atomic_t) * num_crtcs,
 147                                       DRM_MEM_DRIVER);
 148         if (!dev->_vblank_count)
 149                 goto err;
 150
 151         dev->vblank_refcount = drm_alloc(sizeof(atomic_t) * num_crtcs,
 152                                          DRM_MEM_DRIVER);
 153         if (!dev->vblank_refcount)
 154                 goto err;
 155
 156         dev->vblank_enabled = drm_calloc(num_crtcs, sizeof(int),
 157                                          DRM_MEM_DRIVER);
 158         if (!dev->vblank_enabled)
 159                 goto err;
 160
 161         dev->last_vblank = drm_calloc(num_crtcs, sizeof(u32), DRM_MEM_DRIVER);
 162         if (!dev->last_vblank)
 163                 goto err;
 164
 165         dev->vblank_inmodeset = drm_calloc(num_crtcs, sizeof(int),
 166                                          DRM_MEM_DRIVER);
 167         if (!dev->vblank_inmodeset)
 168                 goto err;
 169
 170         /* Zero per-crtc vblank stuff */
 171         for (i = 0; i < num_crtcs; i++) {
 172                 init_waitqueue_head(&dev->vbl_queue[i]);
 173                 INIT_LIST_HEAD(&dev->vbl_sigs[i]);
 174                 atomic_set(&dev->_vblank_count[i], 0);
 175                 atomic_set(&dev->vblank_refcount[i], 0);
 176         }
 177
 178         dev->vblank_disable_allowed = 0;
 179
 180         return 0;
 181
 182 err:
 183         drm_vblank_cleanup(dev);
 184         return ret;
 185 }
 186 EXPORT_SYMBOL(drm_vblank_init);
 187
 188 /**
 189  * Install IRQ handler.
 190  *
 191  * \param dev DRM device.
 192  *
 193  * Initializes the IRQ related data. Installs the handler, calling the driver
 194  * \c drm_driver_irq_preinstall() and \c drm_driver_irq_postinstall() functions
 195  * before and after the installation.
 196  */
 197 int drm_irq_install(struct drm_device * dev)
 198 {
 199         int ret = 0;
 200         unsigned long sh_flags = 0;
 201
 202         if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ))
 203                 return -EINVAL;
 204
 205         if (dev->pdev->irq == 0)
 206                 return -EINVAL;
 207
 208         mutex_lock(&dev->struct_mutex);
 209
 210         /* Driver must have been initialized */
 211         if (!dev->dev_private) {
 212                 mutex_unlock(&dev->struct_mutex);
 213                 return -EINVAL;
 214         }
 215
 216         if (dev->irq_enabled) {
 217                 mutex_unlock(&dev->struct_mutex);
 218                 return -EBUSY;
 219         }
 220         dev->irq_enabled = 1;
 221         mutex_unlock(&dev->struct_mutex);
 222
 223         DRM_DEBUG("irq=%d\n", dev->pdev->irq);
 224
 225         /* Before installing handler */
 226         dev->driver->irq_preinstall(dev);
 227
 228         /* Install handler */
 229         if (drm_core_check_feature(dev, DRIVER_IRQ_SHARED))
 230                 sh_flags = IRQF_SHARED;
 231
 232         ret = request_irq(dev->pdev->irq, dev->driver->irq_handler,
 233                           sh_flags, dev->devname, dev);
 234         if (ret < 0) {
 235                 mutex_lock(&dev->struct_mutex);
 236                 dev->irq_enabled = 0;
 237                 mutex_unlock(&dev->struct_mutex);
 238                 return ret;
 239         }
 240         /* Expose the device irq to device drivers that want to export it for
 241          * whatever reason.
 242          */
 243         dev->irq = dev->pdev->irq;
 244
 245         /* After installing handler */
 246         ret = dev->driver->irq_postinstall(dev);
 247         if (ret < 0) {
 248                 mutex_lock(&dev->struct_mutex);
 249                 dev->irq_enabled = 0;
 250                 mutex_unlock(&dev->struct_mutex);
 251         }
 252
 253         return ret;
 254 }
 255 EXPORT_SYMBOL(drm_irq_install);
 256
 257 /**
 258  * Uninstall the IRQ handler.
 259  *
 260  * \param dev DRM device.
 261  *
 262  * Calls the driver's \c drm_driver_irq_uninstall() function, and stops the irq.
 263  */
 264 int drm_irq_uninstall(struct drm_device * dev)
 265 {
 266         int irq_enabled;
 267
 268         if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ))
 269                 return -EINVAL;
 270
 271         mutex_lock(&dev->struct_mutex);
 272         irq_enabled = dev->irq_enabled;
 273         dev->irq_enabled = 0;
 274         mutex_unlock(&dev->struct_mutex);
 275
 276         if (!irq_enabled)
 277                 return -EINVAL;
 278
 279         DRM_DEBUG("irq=%d\n", dev->pdev->irq);
 280
 281         dev->driver->irq_uninstall(dev);
 282
 283         free_irq(dev->pdev->irq, dev);
 284
 285         drm_vblank_cleanup(dev);
 286
 287         dev->locked_tasklet_func = NULL;
 288
 289         return 0;
 290 }
 291 EXPORT_SYMBOL(drm_irq_uninstall);
 292
 293 /**
 294  * IRQ control ioctl.
 295  *
 296  * \param inode device inode.
 297  * \param file_priv DRM file private.
 298  * \param cmd command.
 299  * \param arg user argument, pointing to a drm_control structure.
 300  * \return zero on success or a negative number on failure.
 301  *
 302  * Calls irq_install() or irq_uninstall() according to \p arg.
 303  */
 304 int drm_control(struct drm_device *dev, void *data,
 305                 struct drm_file *file_priv)
 306 {
 307         struct drm_control *ctl = data;
 308
 309         /* if we haven't irq we fallback for compatibility reasons - this used to be a separate function in drm_dma.h */
 310
 311
 312         switch (ctl->func) {
 313         case DRM_INST_HANDLER:
 314                 if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ))
 315                         return 0;
 316                 if (dev->if_version < DRM_IF_VERSION(1, 2) &&
 317                     ctl->irq != dev->pdev->irq)
 318                         return -EINVAL;
 319                 return drm_irq_install(dev);
 320         case DRM_UNINST_HANDLER:
 321                 if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ))
 322                         return 0;
 323                 return drm_irq_uninstall(dev);
 324         default:
 325                 return -EINVAL;
 326         }
 327 }
 328
 329 /**
 330  * drm_vblank_count - retrieve "cooked" vblank counter value
 331  * @dev: DRM device
 332  * @crtc: which counter to retrieve
 333  *
 334  * Fetches the "cooked" vblank count value that represents the number of
 335  * vblank events since the system was booted, including lost events due to
 336  * modesetting activity.
 337  */
 338 u32 drm_vblank_count(struct drm_device *dev, int crtc)
 339 {
 340         return atomic_read(&dev->_vblank_count[crtc]);
 341 }
 342 EXPORT_SYMBOL(drm_vblank_count);
 343
 344 /**
 345  * drm_update_vblank_count - update the master vblank counter
 346  * @dev: DRM device
 347  * @crtc: counter to update
 348  *
 349  * Call back into the driver to update the appropriate vblank counter
 350  * (specified by @crtc).  Deal with wraparound, if it occurred, and
 351  * update the last read value so we can deal with wraparound on the next
 352  * call if necessary.
 353  *
 354  * Only necessary when going from off->on, to account for frames we
 355  * didn't get an interrupt for.
 356  *
 357  * Note: caller must hold dev->vbl_lock since this reads & writes
 358  * device vblank fields.
 359  */
 360 static void drm_update_vblank_count(struct drm_device *dev, int crtc)
 361 {
 362         u32 cur_vblank, diff;
 363
 364         /*
 365          * Interrupts were disabled prior to this call, so deal with counter
 366          * wrap if needed.
 367          * NOTE!  It's possible we lost a full dev->max_vblank_count events
 368          * here if the register is small or we had vblank interrupts off for
 369          * a long time.
 370          */
 371         cur_vblank = dev->driver->get_vblank_counter(dev, crtc);
 372         diff = cur_vblank - dev->last_vblank[crtc];
 373         if (cur_vblank < dev->last_vblank[crtc]) {
 374                 diff += dev->max_vblank_count;
 375
 376                 DRM_DEBUG("last_vblank[%d]=0x%x, cur_vblank=0x%x => diff=0x%x\n",
 377                           crtc, dev->last_vblank[crtc], cur_vblank, diff);
 378         }
 379
 380         DRM_DEBUG("enabling vblank interrupts on crtc %d, missed %d\n",
 381                   crtc, diff);
 382
 383         atomic_add(diff, &dev->_vblank_count[crtc]);
 384 }
 385
 386 /**
 387  * drm_vblank_get - get a reference count on vblank events
 388  * @dev: DRM device
 389  * @crtc: which CRTC to own
 390  *
 391  * Acquire a reference count on vblank events to avoid having them disabled
 392  * while in use.
 393  *
 394  * RETURNS
 395  * Zero on success, nonzero on failure.
 396  */
 397 int drm_vblank_get(struct drm_device *dev, int crtc)
 398 {
 399         unsigned long irqflags;
 400         int ret = 0;
 401
 402         spin_lock_irqsave(&dev->vbl_lock, irqflags);
 403         /* Going from 0->1 means we have to enable interrupts again */
 404         if (atomic_add_return(1, &dev->vblank_refcount[crtc]) == 1 &&
 405             !dev->vblank_enabled[crtc]) {
 406                 ret = dev->driver->enable_vblank(dev, crtc);
 407                 if (ret)
 408                         atomic_dec(&dev->vblank_refcount[crtc]);
 409                 else {
 410                         dev->vblank_enabled[crtc] = 1;
 411                         drm_update_vblank_count(dev, crtc);
 412                 }
 413         }
 414         spin_unlock_irqrestore(&dev->vbl_lock, irqflags);
 415
 416         return ret;
 417 }
 418 EXPORT_SYMBOL(drm_vblank_get);
 419
 420 /**
 421  * drm_vblank_put - give up ownership of vblank events
 422  * @dev: DRM device
 423  * @crtc: which counter to give up
 424  *
 425  * Release ownership of a given vblank counter, turning off interrupts
 426  * if possible.
 427  */
 428 void drm_vblank_put(struct drm_device *dev, int crtc)
 429 {
 430         /* Last user schedules interrupt disable */
 431         if (atomic_dec_and_test(&dev->vblank_refcount[crtc]))
 432             mod_timer(&dev->vblank_disable_timer, jiffies + 5*DRM_HZ);
 433 }
 434 EXPORT_SYMBOL(drm_vblank_put);
 435
 436 /**
 437  * drm_modeset_ctl - handle vblank event counter changes across mode switch
 438  * @DRM_IOCTL_ARGS: standard ioctl arguments
 439  *
 440  * Applications should call the %_DRM_PRE_MODESET and %_DRM_POST_MODESET
 441  * ioctls around modesetting so that any lost vblank events are accounted for.
 442  *
 443  * Generally the counter will reset across mode sets.  If interrupts are
 444  * enabled around this call, we don't have to do anything since the counter
 445  * will have already been incremented.
 446  */
 447 int drm_modeset_ctl(struct drm_device *dev, void *data,
 448                     struct drm_file *file_priv)
 449 {
 450         struct drm_modeset_ctl *modeset = data;
 451         unsigned long irqflags;
 452         int crtc, ret = 0;
 453
 454         /* If drm_vblank_init() hasn't been called yet, just no-op */
 455         if (!dev->num_crtcs)
 456                 goto out;
 457
 458         crtc = modeset->crtc;
 459         if (crtc >= dev->num_crtcs) {
 460                 ret = -EINVAL;
 461                 goto out;
 462         }
 463
 464         /*
 465          * To avoid all the problems that might happen if interrupts
 466          * were enabled/disabled around or between these calls, we just
 467          * have the kernel take a reference on the CRTC (just once though
 468          * to avoid corrupting the count if multiple, mismatch calls occur),
 469          * so that interrupts remain enabled in the interim.
 470          */
 471         switch (modeset->cmd) {
 472         case _DRM_PRE_MODESET:
 473                 if (!dev->vblank_inmodeset[crtc]) {
 474                         dev->vblank_inmodeset[crtc] = 1;
 475                         drm_vblank_get(dev, crtc);
 476                 }
 477                 break;
 478         case _DRM_POST_MODESET:
 479                 if (dev->vblank_inmodeset[crtc]) {
 480                         spin_lock_irqsave(&dev->vbl_lock, irqflags);
 481                         dev->vblank_disable_allowed = 1;
 482                         dev->vblank_inmodeset[crtc] = 0;
 483                         spin_unlock_irqrestore(&dev->vbl_lock, irqflags);
 484                         drm_vblank_put(dev, crtc);
 485                 }
 486                 break;
 487         default:
 488                 ret = -EINVAL;
 489                 break;
 490         }
 491
 492 out:
 493         return ret;
 494 }
 495
 496 /**
 497  * Wait for VBLANK.
 498  *
 499  * \param inode device inode.
 500  * \param file_priv DRM file private.
 501  * \param cmd command.
 502  * \param data user argument, pointing to a drm_wait_vblank structure.
 503  * \return zero on success or a negative number on failure.
 504  *
 505  * Verifies the IRQ is installed.
 506  *
 507  * If a signal is requested checks if this task has already scheduled the same signal
 508  * for the same vblank sequence number - nothing to be done in
 509  * that case. If the number of tasks waiting for the interrupt exceeds 100 the
 510  * function fails. Otherwise adds a new entry to drm_device::vbl_sigs for this
 511  * task.
 512  *
 513  * If a signal is not requested, then calls vblank_wait().
 514  */
 515 int drm_wait_vblank(struct drm_device *dev, void *data,
 516                     struct drm_file *file_priv)
 517 {
 518         union drm_wait_vblank *vblwait = data;
 519         int ret = 0;
 520         unsigned int flags, seq, crtc;
 521
 522         if ((!dev->pdev->irq) || (!dev->irq_enabled))
 523                 return -EINVAL;
 524
 525         if (vblwait->request.type &
 526             ~(_DRM_VBLANK_TYPES_MASK | _DRM_VBLANK_FLAGS_MASK)) {
 527                 DRM_ERROR("Unsupported type value 0x%x, supported mask 0x%x\n",
 528                           vblwait->request.type,
 529                           (_DRM_VBLANK_TYPES_MASK | _DRM_VBLANK_FLAGS_MASK));
 530                 return -EINVAL;
 531         }
 532
 533         flags = vblwait->request.type & _DRM_VBLANK_FLAGS_MASK;
 534         crtc = flags & _DRM_VBLANK_SECONDARY ? 1 : 0;
 535
 536         if (crtc >= dev->num_crtcs)
 537                 return -EINVAL;
 538
 539         ret = drm_vblank_get(dev, crtc);
 540         if (ret)
 541                 return ret;
 542         seq = drm_vblank_count(dev, crtc);
 543
 544         switch (vblwait->request.type & _DRM_VBLANK_TYPES_MASK) {
 545         case _DRM_VBLANK_RELATIVE:
 546                 vblwait->request.sequence += seq;
 547                 vblwait->request.type &= ~_DRM_VBLANK_RELATIVE;
 548         case _DRM_VBLANK_ABSOLUTE:
 549                 break;
 550         default:
 551                 ret = -EINVAL;
 552                 goto done;
 553         }
 554
 555         if ((flags & _DRM_VBLANK_NEXTONMISS) &&
 556             (seq - vblwait->request.sequence) <= (1<<23)) {
 557                 vblwait->request.sequence = seq + 1;
 558         }
 559
 560         if (flags & _DRM_VBLANK_SIGNAL) {
 561                 unsigned long irqflags;
 562                 struct list_head *vbl_sigs = &dev->vbl_sigs[crtc];
 563                 struct drm_vbl_sig *vbl_sig;
 564
 565                 spin_lock_irqsave(&dev->vbl_lock, irqflags);
 566
 567                 /* Check if this task has already scheduled the same signal
 568                  * for the same vblank sequence number; nothing to be done in
 569                  * that case
 570                  */
 571                 list_for_each_entry(vbl_sig, vbl_sigs, head) {
 572                         if (vbl_sig->sequence == vblwait->request.sequence
 573                             && vbl_sig->info.si_signo ==
 574                             vblwait->request.signal
 575                             && vbl_sig->task == current) {
 576                                 spin_unlock_irqrestore(&dev->vbl_lock,
 577                                                        irqflags);
 578                                 vblwait->reply.sequence = seq;
 579                                 goto done;
 580                         }
 581                 }
 582
 583                 if (atomic_read(&dev->vbl_signal_pending) >= 100) {
 584                         spin_unlock_irqrestore(&dev->vbl_lock, irqflags);
 585                         ret = -EBUSY;
 586                         goto done;
 587                 }
 588
 589                 spin_unlock_irqrestore(&dev->vbl_lock, irqflags);
 590
 591                 vbl_sig = drm_calloc(1, sizeof(struct drm_vbl_sig),
 592                                      DRM_MEM_DRIVER);
 593                 if (!vbl_sig) {
 594                         ret = -ENOMEM;
 595                         goto done;
 596                 }
 597
 598                 ret = drm_vblank_get(dev, crtc);
 599                 if (ret) {
 600                         drm_free(vbl_sig, sizeof(struct drm_vbl_sig),
 601                                  DRM_MEM_DRIVER);
 602                         return ret;
 603                 }
 604
 605                 atomic_inc(&dev->vbl_signal_pending);
 606
 607                 vbl_sig->sequence = vblwait->request.sequence;
 608                 vbl_sig->info.si_signo = vblwait->request.signal;
 609                 vbl_sig->task = current;
 610
 611                 spin_lock_irqsave(&dev->vbl_lock, irqflags);
 612
 613                 list_add_tail(&vbl_sig->head, vbl_sigs);
 614
 615                 spin_unlock_irqrestore(&dev->vbl_lock, irqflags);
 616
 617                 vblwait->reply.sequence = seq;
 618         } else {
 619                 DRM_WAIT_ON(ret, dev->vbl_queue[crtc], 3 * DRM_HZ,
 620                             ((drm_vblank_count(dev, crtc)
 621                               - vblwait->request.sequence) <= (1 << 23)));
 622
 623                 if (ret != -EINTR) {
 624                         struct timeval now;
 625
 626                         do_gettimeofday(&now);
 627
 628                         vblwait->reply.tval_sec = now.tv_sec;
 629                         vblwait->reply.tval_usec = now.tv_usec;
 630                         vblwait->reply.sequence = drm_vblank_count(dev, crtc);
 631                 }
 632         }
 633
 634 done:
 635         drm_vblank_put(dev, crtc);
 636         return ret;
 637 }
 638
 639 /**
 640  * Send the VBLANK signals.
 641  *
 642  * \param dev DRM device.
 643  * \param crtc CRTC where the vblank event occurred
 644  *
 645  * Sends a signal for each task in drm_device::vbl_sigs and empties the list.
 646  *
 647  * If a signal is not requested, then calls vblank_wait().
 648  */
 649 static void drm_vbl_send_signals(struct drm_device * dev, int crtc)
 650 {
 651         struct drm_vbl_sig *vbl_sig, *tmp;
 652         struct list_head *vbl_sigs;
 653         unsigned int vbl_seq;
 654         unsigned long flags;
 655
 656         spin_lock_irqsave(&dev->vbl_lock, flags);
 657
 658         vbl_sigs = &dev->vbl_sigs[crtc];
 659         vbl_seq = drm_vblank_count(dev, crtc);
 660
 661         list_for_each_entry_safe(vbl_sig, tmp, vbl_sigs, head) {
 662             if ((vbl_seq - vbl_sig->sequence) <= (1 << 23)) {
 663                 vbl_sig->info.si_code = vbl_seq;
 664                 send_sig_info(vbl_sig->info.si_signo,
 665                               &vbl_sig->info, vbl_sig->task);
 666
 667                 list_del(&vbl_sig->head);
 668
 669                 drm_free(vbl_sig, sizeof(*vbl_sig),
 670                          DRM_MEM_DRIVER);
 671                 atomic_dec(&dev->vbl_signal_pending);
 672                 drm_vblank_put(dev, crtc);
 673             }
 674         }
 675
 676         spin_unlock_irqrestore(&dev->vbl_lock, flags);
 677 }
 678
 679 /**
 680  * drm_handle_vblank - handle a vblank event
 681  * @dev: DRM device
 682  * @crtc: where this event occurred
 683  *
 684  * Drivers should call this routine in their vblank interrupt handlers to
 685  * update the vblank counter and send any signals that may be pending.
 686  */
 687 void drm_handle_vblank(struct drm_device *dev, int crtc)
 688 {
 689         atomic_inc(&dev->_vblank_count[crtc]);
 690         DRM_WAKEUP(&dev->vbl_queue[crtc]);
 691         drm_vbl_send_signals(dev, crtc);
 692 }
 693 EXPORT_SYMBOL(drm_handle_vblank);
 694
 695 /**
 696  * Tasklet wrapper function.
 697  *
 698  * \param data DRM device in disguise.
 699  *
 700  * Attempts to grab the HW lock and calls the driver callback on success. On
 701  * failure, leave the lock marked as contended so the callback can be called
 702  * from drm_unlock().
 703  */
 704 static void drm_locked_tasklet_func(unsigned long data)
 705 {
 706         struct drm_device *dev = (struct drm_device *)data;
 707         unsigned long irqflags;
 708         void (*tasklet_func)(struct drm_device *);
 709
 710         spin_lock_irqsave(&dev->tasklet_lock, irqflags);
 711         tasklet_func = dev->locked_tasklet_func;
 712         spin_unlock_irqrestore(&dev->tasklet_lock, irqflags);
 713
 714         if (!tasklet_func ||
 715             !drm_lock_take(&dev->lock,
 716                            DRM_KERNEL_CONTEXT)) {
 717                 return;
 718         }
 719
 720         dev->lock.lock_time = jiffies;
 721         atomic_inc(&dev->counts[_DRM_STAT_LOCKS]);
 722
 723         spin_lock_irqsave(&dev->tasklet_lock, irqflags);
 724         tasklet_func = dev->locked_tasklet_func;
 725         dev->locked_tasklet_func = NULL;
 726         spin_unlock_irqrestore(&dev->tasklet_lock, irqflags);
 727
 728         if (tasklet_func != NULL)
 729                 tasklet_func(dev);
 730
 731         drm_lock_free(&dev->lock,
 732                       DRM_KERNEL_CONTEXT);
 733 }
 734
 735 /**
 736  * Schedule a tasklet to call back a driver hook with the HW lock held.
 737  *
 738  * \param dev DRM device.
 739  * \param func Driver callback.
 740  *
 741  * This is intended for triggering actions that require the HW lock from an
 742  * interrupt handler. The lock will be grabbed ASAP after the interrupt handler
 743  * completes. Note that the callback may be called from interrupt or process
 744  * context, it must not make any assumptions about this. Also, the HW lock will
 745  * be held with the kernel context or any client context.
 746  */
 747 void drm_locked_tasklet(struct drm_device *dev, void (*func)(struct drm_device *))
 748 {
 749         unsigned long irqflags;
 750         static DECLARE_TASKLET(drm_tasklet, drm_locked_tasklet_func, 0);
 751
 752         if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ) ||
 753             test_bit(TASKLET_STATE_SCHED, &drm_tasklet.state))
 754                 return;
 755
 756         spin_lock_irqsave(&dev->tasklet_lock, irqflags);
 757
 758         if (dev->locked_tasklet_func) {
 759                 spin_unlock_irqrestore(&dev->tasklet_lock, irqflags);
 760                 return;
 761         }
 762
 763         dev->locked_tasklet_func = func;
 764
 765         spin_unlock_irqrestore(&dev->tasklet_lock, irqflags);
 766
 767         drm_tasklet.data = (unsigned long)dev;
 768
 769         tasklet_hi_schedule(&drm_tasklet);
 770 }
 771 EXPORT_SYMBOL(drm_locked_tasklet);