drivers/gpu/drm/nouveau/nouveau_fbcon.c

   1 /*
   2  * Copyright © 2007 David Airlie
   3  *
   4  * Permission is hereby granted, free of charge, to any person obtaining a
   5  * copy of this software and associated documentation files (the "Software"),
   6  * to deal in the Software without restriction, including without limitation
   7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
   8  * and/or sell copies of the Software, and to permit persons to whom the
   9  * Software is furnished to do so, subject to the following conditions:
  10  *
  11  * The above copyright notice and this permission notice (including the next
  12  * paragraph) shall be included in all copies or substantial portions of the
  13  * Software.
  14  *
  15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  18  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING
  20  * FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER
  21  * DEALINGS IN THE SOFTWARE.
  22  *
  23  * Authors:
  24  *     David Airlie
  25  */
  26
  27 #include <linux/module.h>
  28 #include <linux/kernel.h>
  29 #include <linux/errno.h>
  30 #include <linux/string.h>
  31 #include <linux/mm.h>
  32 #include <linux/tty.h>
  33 #include <linux/sysrq.h>
  34 #include <linux/delay.h>
  35 #include <linux/init.h>
  36 #include <linux/screen_info.h>
  37 #include <linux/vga_switcheroo.h>
  38 #include <linux/console.h>
  39
  40 #include <drm/drmP.h>
  41 #include <drm/drm_crtc.h>
  42 #include <drm/drm_crtc_helper.h>
  43 #include <drm/drm_fb_helper.h>
  44 #include <drm/drm_atomic.h>
  45
  46 #include "nouveau_drv.h"
  47 #include "nouveau_gem.h"
  48 #include "nouveau_bo.h"
  49 #include "nouveau_fbcon.h"
  50 #include "nouveau_chan.h"
  51 #include "nouveau_vmm.h"
  52
  53 #include "nouveau_crtc.h"
  54
  55 MODULE_PARM_DESC(nofbaccel, "Disable fbcon acceleration");
  56 int nouveau_nofbaccel = 0;
  57 module_param_named(nofbaccel, nouveau_nofbaccel, int, 0400);
  58
  59 static void
  60 nouveau_fbcon_fillrect(struct fb_info *info, const struct fb_fillrect *rect)
  61 {
  62         struct nouveau_fbdev *fbcon = info->par;
  63         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
  64         struct nvif_device *device = &drm->client.device;
  65         int ret;
  66
  67         if (info->state != FBINFO_STATE_RUNNING)
  68                 return;
  69
  70         ret = -ENODEV;
  71         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
  72             mutex_trylock(&drm->client.mutex)) {
  73                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
  74                         ret = nv04_fbcon_fillrect(info, rect);
  75                 else
  76                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
  77                         ret = nv50_fbcon_fillrect(info, rect);
  78                 else
  79                         ret = nvc0_fbcon_fillrect(info, rect);
  80                 mutex_unlock(&drm->client.mutex);
  81         }
  82
  83         if (ret == 0)
  84                 return;
  85
  86         if (ret != -ENODEV)
  87                 nouveau_fbcon_gpu_lockup(info);
  88         drm_fb_helper_cfb_fillrect(info, rect);
  89 }
  90
  91 static void
  92 nouveau_fbcon_copyarea(struct fb_info *info, const struct fb_copyarea *image)
  93 {
  94         struct nouveau_fbdev *fbcon = info->par;
  95         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
  96         struct nvif_device *device = &drm->client.device;
  97         int ret;
  98
  99         if (info->state != FBINFO_STATE_RUNNING)
 100                 return;
 101
 102         ret = -ENODEV;
 103         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
 104             mutex_trylock(&drm->client.mutex)) {
 105                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
 106                         ret = nv04_fbcon_copyarea(info, image);
 107                 else
 108                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
 109                         ret = nv50_fbcon_copyarea(info, image);
 110                 else
 111                         ret = nvc0_fbcon_copyarea(info, image);
 112                 mutex_unlock(&drm->client.mutex);
 113         }
 114
 115         if (ret == 0)
 116                 return;
 117
 118         if (ret != -ENODEV)
 119                 nouveau_fbcon_gpu_lockup(info);
 120         drm_fb_helper_cfb_copyarea(info, image);
 121 }
 122
 123 static void
 124 nouveau_fbcon_imageblit(struct fb_info *info, const struct fb_image *image)
 125 {
 126         struct nouveau_fbdev *fbcon = info->par;
 127         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 128         struct nvif_device *device = &drm->client.device;
 129         int ret;
 130
 131         if (info->state != FBINFO_STATE_RUNNING)
 132                 return;
 133
 134         ret = -ENODEV;
 135         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
 136             mutex_trylock(&drm->client.mutex)) {
 137                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
 138                         ret = nv04_fbcon_imageblit(info, image);
 139                 else
 140                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
 141                         ret = nv50_fbcon_imageblit(info, image);
 142                 else
 143                         ret = nvc0_fbcon_imageblit(info, image);
 144                 mutex_unlock(&drm->client.mutex);
 145         }
 146
 147         if (ret == 0)
 148                 return;
 149
 150         if (ret != -ENODEV)
 151                 nouveau_fbcon_gpu_lockup(info);
 152         drm_fb_helper_cfb_imageblit(info, image);
 153 }
 154
 155 static int
 156 nouveau_fbcon_sync(struct fb_info *info)
 157 {
 158         struct nouveau_fbdev *fbcon = info->par;
 159         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 160         struct nouveau_channel *chan = drm->channel;
 161         int ret;
 162
 163         if (!chan || !chan->accel_done || in_interrupt() ||
 164             info->state != FBINFO_STATE_RUNNING ||
 165             info->flags & FBINFO_HWACCEL_DISABLED)
 166                 return 0;
 167
 168         if (!mutex_trylock(&drm->client.mutex))
 169                 return 0;
 170
 171         ret = nouveau_channel_idle(chan);
 172         mutex_unlock(&drm->client.mutex);
 173         if (ret) {
 174                 nouveau_fbcon_gpu_lockup(info);
 175                 return 0;
 176         }
 177
 178         chan->accel_done = false;
 179         return 0;
 180 }
 181
 182 static int
 183 nouveau_fbcon_open(struct fb_info *info, int user)
 184 {
 185         struct nouveau_fbdev *fbcon = info->par;
 186         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 187         int ret = pm_runtime_get_sync(drm->dev->dev);
 188         if (ret < 0 && ret != -EACCES)
 189                 return ret;
 190         return 0;
 191 }
 192
 193 static int
 194 nouveau_fbcon_release(struct fb_info *info, int user)
 195 {
 196         struct nouveau_fbdev *fbcon = info->par;
 197         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 198         pm_runtime_put(drm->dev->dev);
 199         return 0;
 200 }
 201
 202 static struct fb_ops nouveau_fbcon_ops = {
 203         .owner = THIS_MODULE,
 204         DRM_FB_HELPER_DEFAULT_OPS,
 205         .fb_open = nouveau_fbcon_open,
 206         .fb_release = nouveau_fbcon_release,
 207         .fb_fillrect = nouveau_fbcon_fillrect,
 208         .fb_copyarea = nouveau_fbcon_copyarea,
 209         .fb_imageblit = nouveau_fbcon_imageblit,
 210         .fb_sync = nouveau_fbcon_sync,
 211 };
 212
 213 static struct fb_ops nouveau_fbcon_sw_ops = {
 214         .owner = THIS_MODULE,
 215         DRM_FB_HELPER_DEFAULT_OPS,
 216         .fb_open = nouveau_fbcon_open,
 217         .fb_release = nouveau_fbcon_release,
 218         .fb_fillrect = drm_fb_helper_cfb_fillrect,
 219         .fb_copyarea = drm_fb_helper_cfb_copyarea,
 220         .fb_imageblit = drm_fb_helper_cfb_imageblit,
 221 };
 222
 223 void
 224 nouveau_fbcon_accel_save_disable(struct drm_device *dev)
 225 {
 226         struct nouveau_drm *drm = nouveau_drm(dev);
 227         if (drm->fbcon && drm->fbcon->helper.fbdev) {
 228                 drm->fbcon->saved_flags = drm->fbcon->helper.fbdev->flags;
 229                 drm->fbcon->helper.fbdev->flags |= FBINFO_HWACCEL_DISABLED;
 230         }
 231 }
 232
 233 void
 234 nouveau_fbcon_accel_restore(struct drm_device *dev)
 235 {
 236         struct nouveau_drm *drm = nouveau_drm(dev);
 237         if (drm->fbcon && drm->fbcon->helper.fbdev) {
 238                 drm->fbcon->helper.fbdev->flags = drm->fbcon->saved_flags;
 239         }
 240 }
 241
 242 static void
 243 nouveau_fbcon_accel_fini(struct drm_device *dev)
 244 {
 245         struct nouveau_drm *drm = nouveau_drm(dev);
 246         struct nouveau_fbdev *fbcon = drm->fbcon;
 247         if (fbcon && drm->channel) {
 248                 console_lock();
 249                 if (fbcon->helper.fbdev)
 250                         fbcon->helper.fbdev->flags |= FBINFO_HWACCEL_DISABLED;
 251                 console_unlock();
 252                 nouveau_channel_idle(drm->channel);
 253                 nvif_object_fini(&fbcon->twod);
 254                 nvif_object_fini(&fbcon->blit);
 255                 nvif_object_fini(&fbcon->gdi);
 256                 nvif_object_fini(&fbcon->patt);
 257                 nvif_object_fini(&fbcon->rop);
 258                 nvif_object_fini(&fbcon->clip);
 259                 nvif_object_fini(&fbcon->surf2d);
 260         }
 261 }
 262
 263 static void
 264 nouveau_fbcon_accel_init(struct drm_device *dev)
 265 {
 266         struct nouveau_drm *drm = nouveau_drm(dev);
 267         struct nouveau_fbdev *fbcon = drm->fbcon;
 268         struct fb_info *info = fbcon->helper.fbdev;
 269         int ret;
 270
 271         if (drm->client.device.info.family < NV_DEVICE_INFO_V0_TESLA)
 272                 ret = nv04_fbcon_accel_init(info);
 273         else
 274         if (drm->client.device.info.family < NV_DEVICE_INFO_V0_FERMI)
 275                 ret = nv50_fbcon_accel_init(info);
 276         else
 277                 ret = nvc0_fbcon_accel_init(info);
 278
 279         if (ret == 0)
 280                 info->fbops = &nouveau_fbcon_ops;
 281 }
 282
 283 static void
 284 nouveau_fbcon_zfill(struct drm_device *dev, struct nouveau_fbdev *fbcon)
 285 {
 286         struct fb_info *info = fbcon->helper.fbdev;
 287         struct fb_fillrect rect;
 288
 289         /* Clear the entire fbcon.  The drm will program every connector
 290          * with it's preferred mode.  If the sizes differ, one display will
 291          * quite likely have garbage around the console.
 292          */
 293         rect.dx = rect.dy = 0;
 294         rect.width = info->var.xres_virtual;
 295         rect.height = info->var.yres_virtual;
 296         rect.color = 0;
 297         rect.rop = ROP_COPY;
 298         info->fbops->fb_fillrect(info, &rect);
 299 }
 300
 301 static int
 302 nouveau_fbcon_create(struct drm_fb_helper *helper,
 303                      struct drm_fb_helper_surface_size *sizes)
 304 {
 305         struct nouveau_fbdev *fbcon =
 306                 container_of(helper, struct nouveau_fbdev, helper);
 307         struct drm_device *dev = fbcon->helper.dev;
 308         struct nouveau_drm *drm = nouveau_drm(dev);
 309         struct nvif_device *device = &drm->client.device;
 310         struct fb_info *info;
 311         struct nouveau_framebuffer *fb;
 312         struct nouveau_channel *chan;
 313         struct nouveau_bo *nvbo;
 314         struct drm_mode_fb_cmd2 mode_cmd;
 315         int ret;
 316
 317         mode_cmd.width = sizes->surface_width;
 318         mode_cmd.height = sizes->surface_height;
 319
 320         mode_cmd.pitches[0] = mode_cmd.width * (sizes->surface_bpp >> 3);
 321         mode_cmd.pitches[0] = roundup(mode_cmd.pitches[0], 256);
 322
 323         mode_cmd.pixel_format = drm_mode_legacy_fb_format(sizes->surface_bpp,
 324                                                           sizes->surface_depth);
 325
 326         ret = nouveau_gem_new(&drm->client, mode_cmd.pitches[0] *
 327                               mode_cmd.height, 0, NOUVEAU_GEM_DOMAIN_VRAM,
 328                               0, 0x0000, &nvbo);
 329         if (ret) {
 330                 NV_ERROR(drm, "failed to allocate framebuffer\n");
 331                 goto out;
 332         }
 333
 334         ret = nouveau_framebuffer_new(dev, &mode_cmd, nvbo, &fb);
 335         if (ret)
 336                 goto out_unref;
 337
 338         ret = nouveau_bo_pin(nvbo, TTM_PL_FLAG_VRAM, false);
 339         if (ret) {
 340                 NV_ERROR(drm, "failed to pin fb: %d\n", ret);
 341                 goto out_unref;
 342         }
 343
 344         ret = nouveau_bo_map(nvbo);
 345         if (ret) {
 346                 NV_ERROR(drm, "failed to map fb: %d\n", ret);
 347                 goto out_unpin;
 348         }
 349
 350         chan = nouveau_nofbaccel ? NULL : drm->channel;
 351         if (chan && device->info.family >= NV_DEVICE_INFO_V0_TESLA) {
 352                 ret = nouveau_vma_new(nvbo, &drm->client.vmm, &fb->vma);
 353                 if (ret) {
 354                         NV_ERROR(drm, "failed to map fb into chan: %d\n", ret);
 355                         chan = NULL;
 356                 }
 357         }
 358
 359         info = drm_fb_helper_alloc_fbi(helper);
 360         if (IS_ERR(info)) {
 361                 ret = PTR_ERR(info);
 362                 goto out_unlock;
 363         }
 364         info->skip_vt_switch = 1;
 365
 366         info->par = fbcon;
 367
 368         /* setup helper */
 369         fbcon->helper.fb = &fb->base;
 370
 371         strcpy(info->fix.id, "nouveaufb");
 372         if (!chan)
 373                 info->flags = FBINFO_DEFAULT | FBINFO_HWACCEL_DISABLED;
 374         else
 375                 info->flags = FBINFO_DEFAULT | FBINFO_HWACCEL_COPYAREA |
 376                               FBINFO_HWACCEL_FILLRECT |
 377                               FBINFO_HWACCEL_IMAGEBLIT;
 378         info->flags |= FBINFO_CAN_FORCE_OUTPUT;
 379         info->fbops = &nouveau_fbcon_sw_ops;
 380         info->fix.smem_start = fb->nvbo->bo.mem.bus.base +
 381                                fb->nvbo->bo.mem.bus.offset;
 382         info->fix.smem_len = fb->nvbo->bo.mem.num_pages << PAGE_SHIFT;
 383
 384         info->screen_base = nvbo_kmap_obj_iovirtual(fb->nvbo);
 385         info->screen_size = fb->nvbo->bo.mem.num_pages << PAGE_SHIFT;
 386
 387         drm_fb_helper_fill_fix(info, fb->base.pitches[0],
 388                                fb->base.format->depth);
 389         drm_fb_helper_fill_var(info, &fbcon->helper, sizes->fb_width, sizes->fb_height);
 390
 391         /* Use default scratch pixmap (info->pixmap.flags = FB_PIXMAP_SYSTEM) */
 392
 393         if (chan)
 394                 nouveau_fbcon_accel_init(dev);
 395         nouveau_fbcon_zfill(dev, fbcon);
 396
 397         /* To allow resizeing without swapping buffers */
 398         NV_INFO(drm, "allocated %dx%d fb: 0x%llx, bo %p\n",
 399                 fb->base.width, fb->base.height, fb->nvbo->bo.offset, nvbo);
 400
 401         vga_switcheroo_client_fb_set(dev->pdev, info);
 402         return 0;
 403
 404 out_unlock:
 405         if (chan)
 406                 nouveau_vma_del(&fb->vma);
 407         nouveau_bo_unmap(fb->nvbo);
 408 out_unpin:
 409         nouveau_bo_unpin(fb->nvbo);
 410 out_unref:
 411         nouveau_bo_ref(NULL, &fb->nvbo);
 412 out:
 413         return ret;
 414 }
 415
 416 static int
 417 nouveau_fbcon_destroy(struct drm_device *dev, struct nouveau_fbdev *fbcon)
 418 {
 419         struct nouveau_framebuffer *nouveau_fb = nouveau_framebuffer(fbcon->helper.fb);
 420
 421         drm_fb_helper_unregister_fbi(&fbcon->helper);
 422         drm_fb_helper_fini(&fbcon->helper);
 423
 424         if (nouveau_fb && nouveau_fb->nvbo) {
 425                 nouveau_vma_del(&nouveau_fb->vma);
 426                 nouveau_bo_unmap(nouveau_fb->nvbo);
 427                 nouveau_bo_unpin(nouveau_fb->nvbo);
 428                 drm_framebuffer_unreference(&nouveau_fb->base);
 429         }
 430
 431         return 0;
 432 }
 433
 434 void nouveau_fbcon_gpu_lockup(struct fb_info *info)
 435 {
 436         struct nouveau_fbdev *fbcon = info->par;
 437         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 438
 439         NV_ERROR(drm, "GPU lockup - switching to software fbcon\n");
 440         info->flags |= FBINFO_HWACCEL_DISABLED;
 441 }
 442
 443 static const struct drm_fb_helper_funcs nouveau_fbcon_helper_funcs = {
 444         .fb_probe = nouveau_fbcon_create,
 445 };
 446
 447 static void
 448 nouveau_fbcon_set_suspend_work(struct work_struct *work)
 449 {
 450         struct nouveau_drm *drm = container_of(work, typeof(*drm), fbcon_work);
 451         int state = READ_ONCE(drm->fbcon_new_state);
 452
 453         if (state == FBINFO_STATE_RUNNING)
 454                 pm_runtime_get_sync(drm->dev->dev);
 455
 456         console_lock();
 457         if (state == FBINFO_STATE_RUNNING)
 458                 nouveau_fbcon_accel_restore(drm->dev);
 459         drm_fb_helper_set_suspend(&drm->fbcon->helper, state);
 460         if (state != FBINFO_STATE_RUNNING)
 461                 nouveau_fbcon_accel_save_disable(drm->dev);
 462         console_unlock();
 463
 464         if (state == FBINFO_STATE_RUNNING) {
 465                 pm_runtime_mark_last_busy(drm->dev->dev);
 466                 pm_runtime_put_sync(drm->dev->dev);
 467         }
 468 }
 469
 470 void
 471 nouveau_fbcon_set_suspend(struct drm_device *dev, int state)
 472 {
 473         struct nouveau_drm *drm = nouveau_drm(dev);
 474
 475         if (!drm->fbcon)
 476                 return;
 477
 478         drm->fbcon_new_state = state;
 479         /* Since runtime resume can happen as a result of a sysfs operation,
 480          * it's possible we already have the console locked. So handle fbcon
 481          * init/deinit from a seperate work thread
 482          */
 483         schedule_work(&drm->fbcon_work);
 484 }
 485
 486 int
 487 nouveau_fbcon_init(struct drm_device *dev)
 488 {
 489         struct nouveau_drm *drm = nouveau_drm(dev);
 490         struct nouveau_fbdev *fbcon;
 491         int preferred_bpp;
 492         int ret;
 493
 494         if (!dev->mode_config.num_crtc ||
 495             (dev->pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
 496                 return 0;
 497
 498         fbcon = kzalloc(sizeof(struct nouveau_fbdev), GFP_KERNEL);
 499         if (!fbcon)
 500                 return -ENOMEM;
 501
 502         drm->fbcon = fbcon;
 503         INIT_WORK(&drm->fbcon_work, nouveau_fbcon_set_suspend_work);
 504
 505         drm_fb_helper_prepare(dev, &fbcon->helper, &nouveau_fbcon_helper_funcs);
 506
 507         ret = drm_fb_helper_init(dev, &fbcon->helper, 4);
 508         if (ret)
 509                 goto free;
 510
 511         ret = drm_fb_helper_single_add_all_connectors(&fbcon->helper);
 512         if (ret)
 513                 goto fini;
 514
 515         if (drm->client.device.info.ram_size <= 32 * 1024 * 1024)
 516                 preferred_bpp = 8;
 517         else
 518         if (drm->client.device.info.ram_size <= 64 * 1024 * 1024)
 519                 preferred_bpp = 16;
 520         else
 521                 preferred_bpp = 32;
 522
 523         /* disable all the possible outputs/crtcs before entering KMS mode */
 524         if (!drm_drv_uses_atomic_modeset(dev))
 525                 drm_helper_disable_unused_functions(dev);
 526
 527         ret = drm_fb_helper_initial_config(&fbcon->helper, preferred_bpp);
 528         if (ret)
 529                 goto fini;
 530
 531         if (fbcon->helper.fbdev)
 532                 fbcon->helper.fbdev->pixmap.buf_align = 4;
 533         return 0;
 534
 535 fini:
 536         drm_fb_helper_fini(&fbcon->helper);
 537 free:
 538         kfree(fbcon);
 539         return ret;
 540 }
 541
 542 void
 543 nouveau_fbcon_fini(struct drm_device *dev)
 544 {
 545         struct nouveau_drm *drm = nouveau_drm(dev);
 546
 547         if (!drm->fbcon)
 548                 return;
 549
 550         nouveau_fbcon_accel_fini(dev);
 551         nouveau_fbcon_destroy(dev, drm->fbcon);
 552         kfree(drm->fbcon);
 553         drm->fbcon = NULL;
 554 }