OSDN Git Service

Merge branch 'r500test' of git://people.freedesktop.org/~airlied/mesa into r500test
[android-x86/external-mesa.git] / src / mesa / drivers / dri / i965 / brw_draw_upload.c
1 /**************************************************************************
2  * 
3  * Copyright 2003 Tungsten Graphics, Inc., Cedar Park, Texas.
4  * All Rights Reserved.
5  * 
6  * Permission is hereby granted, free of charge, to any person obtaining a
7  * copy of this software and associated documentation files (the
8  * "Software"), to deal in the Software without restriction, including
9  * without limitation the rights to use, copy, modify, merge, publish,
10  * distribute, sub license, and/or sell copies of the Software, and to
11  * permit persons to whom the Software is furnished to do so, subject to
12  * the following conditions:
13  * 
14  * The above copyright notice and this permission notice (including the
15  * next paragraph) shall be included in all copies or substantial portions
16  * of the Software.
17  * 
18  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS
19  * OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
20  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT.
21  * IN NO EVENT SHALL TUNGSTEN GRAPHICS AND/OR ITS SUPPLIERS BE LIABLE FOR
22  * ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
23  * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
24  * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
25  * 
26  **************************************************************************/
27
28 #include <stdlib.h>
29
30 #include "glheader.h"
31 #include "context.h"
32 #include "state.h"
33 #include "api_validate.h"
34 #include "enums.h"
35
36 #include "brw_draw.h"
37 #include "brw_defines.h"
38 #include "brw_context.h"
39 #include "brw_state.h"
40 #include "brw_fallback.h"
41
42 #include "intel_ioctl.h"
43 #include "intel_batchbuffer.h"
44 #include "intel_buffer_objects.h"
45 #include "intel_tex.h"
46
47 static GLuint double_types[5] = {
48    0,
49    BRW_SURFACEFORMAT_R64_FLOAT,
50    BRW_SURFACEFORMAT_R64G64_FLOAT,
51    BRW_SURFACEFORMAT_R64G64B64_FLOAT,
52    BRW_SURFACEFORMAT_R64G64B64A64_FLOAT
53 };
54
55 static GLuint float_types[5] = {
56    0,
57    BRW_SURFACEFORMAT_R32_FLOAT,
58    BRW_SURFACEFORMAT_R32G32_FLOAT,
59    BRW_SURFACEFORMAT_R32G32B32_FLOAT,
60    BRW_SURFACEFORMAT_R32G32B32A32_FLOAT
61 };
62
63 static GLuint uint_types_norm[5] = {
64    0,
65    BRW_SURFACEFORMAT_R32_UNORM,
66    BRW_SURFACEFORMAT_R32G32_UNORM,
67    BRW_SURFACEFORMAT_R32G32B32_UNORM,
68    BRW_SURFACEFORMAT_R32G32B32A32_UNORM
69 };
70
71 static GLuint uint_types_scale[5] = {
72    0,
73    BRW_SURFACEFORMAT_R32_USCALED,
74    BRW_SURFACEFORMAT_R32G32_USCALED,
75    BRW_SURFACEFORMAT_R32G32B32_USCALED,
76    BRW_SURFACEFORMAT_R32G32B32A32_USCALED
77 };
78
79 static GLuint int_types_norm[5] = {
80    0,
81    BRW_SURFACEFORMAT_R32_SNORM,
82    BRW_SURFACEFORMAT_R32G32_SNORM,
83    BRW_SURFACEFORMAT_R32G32B32_SNORM,
84    BRW_SURFACEFORMAT_R32G32B32A32_SNORM
85 };
86
87 static GLuint int_types_scale[5] = {
88    0,
89    BRW_SURFACEFORMAT_R32_SSCALED,
90    BRW_SURFACEFORMAT_R32G32_SSCALED,
91    BRW_SURFACEFORMAT_R32G32B32_SSCALED,
92    BRW_SURFACEFORMAT_R32G32B32A32_SSCALED
93 };
94
95 static GLuint ushort_types_norm[5] = {
96    0,
97    BRW_SURFACEFORMAT_R16_UNORM,
98    BRW_SURFACEFORMAT_R16G16_UNORM,
99    BRW_SURFACEFORMAT_R16G16B16_UNORM,
100    BRW_SURFACEFORMAT_R16G16B16A16_UNORM
101 };
102
103 static GLuint ushort_types_scale[5] = {
104    0,
105    BRW_SURFACEFORMAT_R16_USCALED,
106    BRW_SURFACEFORMAT_R16G16_USCALED,
107    BRW_SURFACEFORMAT_R16G16B16_USCALED,
108    BRW_SURFACEFORMAT_R16G16B16A16_USCALED
109 };
110
111 static GLuint short_types_norm[5] = {
112    0,
113    BRW_SURFACEFORMAT_R16_SNORM,
114    BRW_SURFACEFORMAT_R16G16_SNORM,
115    BRW_SURFACEFORMAT_R16G16B16_SNORM,
116    BRW_SURFACEFORMAT_R16G16B16A16_SNORM
117 };
118
119 static GLuint short_types_scale[5] = {
120    0,
121    BRW_SURFACEFORMAT_R16_SSCALED,
122    BRW_SURFACEFORMAT_R16G16_SSCALED,
123    BRW_SURFACEFORMAT_R16G16B16_SSCALED,
124    BRW_SURFACEFORMAT_R16G16B16A16_SSCALED
125 };
126
127 static GLuint ubyte_types_norm[5] = {
128    0,
129    BRW_SURFACEFORMAT_R8_UNORM,
130    BRW_SURFACEFORMAT_R8G8_UNORM,
131    BRW_SURFACEFORMAT_R8G8B8_UNORM,
132    BRW_SURFACEFORMAT_R8G8B8A8_UNORM
133 };
134
135 static GLuint ubyte_types_scale[5] = {
136    0,
137    BRW_SURFACEFORMAT_R8_USCALED,
138    BRW_SURFACEFORMAT_R8G8_USCALED,
139    BRW_SURFACEFORMAT_R8G8B8_USCALED,
140    BRW_SURFACEFORMAT_R8G8B8A8_USCALED
141 };
142
143 static GLuint byte_types_norm[5] = {
144    0,
145    BRW_SURFACEFORMAT_R8_SNORM,
146    BRW_SURFACEFORMAT_R8G8_SNORM,
147    BRW_SURFACEFORMAT_R8G8B8_SNORM,
148    BRW_SURFACEFORMAT_R8G8B8A8_SNORM
149 };
150
151 static GLuint byte_types_scale[5] = {
152    0,
153    BRW_SURFACEFORMAT_R8_SSCALED,
154    BRW_SURFACEFORMAT_R8G8_SSCALED,
155    BRW_SURFACEFORMAT_R8G8B8_SSCALED,
156    BRW_SURFACEFORMAT_R8G8B8A8_SSCALED
157 };
158
159
160 static GLuint get_surface_type( GLenum type, GLuint size, GLboolean normalized )
161 {
162    if (INTEL_DEBUG & DEBUG_VERTS)
163       _mesa_printf("type %s size %d normalized %d\n", 
164                    _mesa_lookup_enum_by_nr(type), size, normalized);
165
166    if (normalized) {
167       switch (type) {
168       case GL_DOUBLE: return double_types[size];
169       case GL_FLOAT: return float_types[size];
170       case GL_INT: return int_types_norm[size];
171       case GL_SHORT: return short_types_norm[size];
172       case GL_BYTE: return byte_types_norm[size];
173       case GL_UNSIGNED_INT: return uint_types_norm[size];
174       case GL_UNSIGNED_SHORT: return ushort_types_norm[size];
175       case GL_UNSIGNED_BYTE: return ubyte_types_norm[size];
176       default: assert(0); return 0;
177       }      
178    }
179    else {
180       switch (type) {
181       case GL_DOUBLE: return double_types[size];
182       case GL_FLOAT: return float_types[size];
183       case GL_INT: return int_types_scale[size];
184       case GL_SHORT: return short_types_scale[size];
185       case GL_BYTE: return byte_types_scale[size];
186       case GL_UNSIGNED_INT: return uint_types_scale[size];
187       case GL_UNSIGNED_SHORT: return ushort_types_scale[size];
188       case GL_UNSIGNED_BYTE: return ubyte_types_scale[size];
189       default: assert(0); return 0;
190       }      
191    }
192 }
193
194
195 static GLuint get_size( GLenum type )
196 {
197    switch (type) {
198    case GL_DOUBLE: return sizeof(GLdouble);
199    case GL_FLOAT: return sizeof(GLfloat);
200    case GL_INT: return sizeof(GLint);
201    case GL_SHORT: return sizeof(GLshort);
202    case GL_BYTE: return sizeof(GLbyte);
203    case GL_UNSIGNED_INT: return sizeof(GLuint);
204    case GL_UNSIGNED_SHORT: return sizeof(GLushort);
205    case GL_UNSIGNED_BYTE: return sizeof(GLubyte);
206    default: return 0;
207    }      
208 }
209
210 static GLuint get_index_type(GLenum type) 
211 {
212    switch (type) {
213    case GL_UNSIGNED_BYTE:  return BRW_INDEX_BYTE;
214    case GL_UNSIGNED_SHORT: return BRW_INDEX_WORD;
215    case GL_UNSIGNED_INT:   return BRW_INDEX_DWORD;
216    default: assert(0); return 0;
217    }
218 }
219
220 static void copy_strided_array( GLubyte *dest, 
221                                 const GLubyte *src, 
222                                 GLuint size, 
223                                 GLuint stride,
224                                 GLuint count )
225 {
226    if (size == stride) 
227       memcpy(dest, src, count * size);
228    else {
229       GLuint i;
230    
231       for (i = 0; i < count; i++) {
232          memcpy(dest, src, size);
233          src += stride;
234          dest += size;
235       }
236    }
237 }
238
239 static void wrap_buffers( struct brw_context *brw,
240                           GLuint size )
241 {
242    if (size < BRW_UPLOAD_INIT_SIZE)
243       size = BRW_UPLOAD_INIT_SIZE;
244
245    brw->vb.upload.offset = 0;
246
247    if (brw->vb.upload.bo != NULL)
248       dri_bo_unreference(brw->vb.upload.bo);
249    brw->vb.upload.bo = dri_bo_alloc(brw->intel.bufmgr, "temporary VBO",
250                                     size, 1,
251                                     DRM_BO_FLAG_MEM_LOCAL |
252                                     DRM_BO_FLAG_CACHED |
253                                     DRM_BO_FLAG_CACHED_MAPPED);
254
255    /* Set the internal VBO\ to no-backing-store.  We only use them as a
256     * temporary within a brw_try_draw_prims while the lock is held.
257     */
258    /* DON'T DO THIS AS IF WE HAVE TO RE-ORG MEMORY WE NEED SOMEWHERE WITH
259       FAKE TO PUSH THIS STUFF */
260 //   if (!brw->intel.ttm)
261 //      dri_bo_fake_disable_backing_store(brw->vb.upload.bo, NULL, NULL);
262 }
263
264 static void get_space( struct brw_context *brw,
265                        GLuint size,
266                        dri_bo **bo_return,
267                        GLuint *offset_return )
268 {
269    size = ALIGN(size, 64);
270
271    if (brw->vb.upload.bo == NULL ||
272        brw->vb.upload.offset + size > brw->vb.upload.bo->size) {
273       wrap_buffers(brw, size);
274    }
275
276    dri_bo_reference(brw->vb.upload.bo);
277    *bo_return = brw->vb.upload.bo;
278    *offset_return = brw->vb.upload.offset;
279
280    brw->vb.upload.offset += size;
281 }
282
283 static void
284 copy_array_to_vbo_array( struct brw_context *brw,
285                          struct brw_vertex_element *element,
286                          GLuint dst_stride)
287 {
288    GLuint size = element->count * dst_stride;
289
290    get_space(brw, size, &element->bo, &element->offset);
291
292    if (element->glarray->StrideB == 0) {
293       assert(element->count == 1);
294       element->stride = 0;
295    } else {
296       element->stride = dst_stride;
297    }
298
299    dri_bo_map(element->bo, GL_TRUE);
300    copy_strided_array((unsigned char *)element->bo->virtual + element->offset,
301                        element->glarray->Ptr,
302                        dst_stride,
303                        element->glarray->StrideB,
304                        element->count);
305    dri_bo_unmap(element->bo);
306 }
307
308 int brw_prepare_vertices( struct brw_context *brw,
309                                GLuint min_index,
310                                GLuint max_index )
311 {
312    GLcontext *ctx = &brw->intel.ctx;
313    struct intel_context *intel = intel_context(ctx);
314    GLuint tmp = brw->vs.prog_data->inputs_read; 
315    GLuint i;
316    const unsigned char *ptr = NULL;
317    GLuint interleave = 0;
318    int ret = 0;
319
320    struct brw_vertex_element *enabled[VERT_ATTRIB_MAX];
321    GLuint nr_enabled = 0;
322
323    struct brw_vertex_element *upload[VERT_ATTRIB_MAX];
324    GLuint nr_uploads = 0;
325
326    /* First build an array of pointers to ve's in vb.inputs_read
327     */
328    if (0)
329       _mesa_printf("%s %d..%d\n", __FUNCTION__, min_index, max_index);
330
331    /* Accumulate the list of enabled arrays. */
332    while (tmp) {
333       GLuint i = _mesa_ffsll(tmp)-1;
334       struct brw_vertex_element *input = &brw->vb.inputs[i];
335
336       tmp &= ~(1<<i);
337       enabled[nr_enabled++] = input;
338    }
339
340    /* XXX: In the rare cases where this happens we fallback all
341     * the way to software rasterization, although a tnl fallback
342     * would be sufficient.  I don't know of *any* real world
343     * cases with > 17 vertex attributes enabled, so it probably
344     * isn't an issue at this point.
345     */
346    if (nr_enabled >= BRW_VEP_MAX)
347        return -1;
348
349    for (i = 0; i < nr_enabled; i++) {
350       struct brw_vertex_element *input = enabled[i];
351
352       input->element_size = get_size(input->glarray->Type) * input->glarray->Size;
353       input->count = input->glarray->StrideB ? max_index + 1 - min_index : 1;
354
355       if (input->glarray->BufferObj->Name != 0) {
356          struct intel_buffer_object *intel_buffer =
357             intel_buffer_object(input->glarray->BufferObj);
358
359          /* Named buffer object: Just reference its contents directly. */
360          input->bo = intel_bufferobj_buffer(intel, intel_buffer,
361                                             INTEL_READ);
362          dri_bo_reference(input->bo);
363          input->offset = (unsigned long)input->glarray->Ptr;
364          input->stride = input->glarray->StrideB;
365
366          ret |= dri_bufmgr_check_aperture_space(input->bo);
367       } else {
368          /* Queue the buffer object up to be uploaded in the next pass,
369           * when we've decided if we're doing interleaved or not.
370           */
371          if (i == 0) {
372             /* Position array not properly enabled:
373              */
374             if (input->glarray->StrideB == 0)
375               return -1;
376
377             interleave = input->glarray->StrideB;
378             ptr = input->glarray->Ptr;
379          }
380          else if (interleave != input->glarray->StrideB ||
381                   (const unsigned char *)input->glarray->Ptr - ptr < 0 ||
382                   (const unsigned char *)input->glarray->Ptr - ptr > interleave)
383          {
384             interleave = 0;
385          }
386
387          upload[nr_uploads++] = input;
388          
389          /* We rebase drawing to start at element zero only when
390           * varyings are not in vbos, which means we can end up
391           * uploading non-varying arrays (stride != 0) when min_index
392           * is zero.  This doesn't matter as the amount to upload is
393           * the same for these arrays whether the draw call is rebased
394           * or not - we just have to upload the one element.
395           */
396          assert(min_index == 0 || input->glarray->StrideB == 0);
397       }
398    }
399
400    /* Handle any arrays to be uploaded. */
401    if (nr_uploads > 1 && interleave && interleave <= 256) {
402       /* All uploads are interleaved, so upload the arrays together as
403        * interleaved.  First, upload the contents and set up upload[0].
404        */
405       copy_array_to_vbo_array(brw, upload[0], interleave);
406
407       for (i = 1; i < nr_uploads; i++) {
408          /* Then, just point upload[i] at upload[0]'s buffer. */
409          upload[i]->stride = interleave;
410          upload[i]->offset = upload[0]->offset +
411             ((const unsigned char *)upload[i]->glarray->Ptr - ptr);
412          upload[i]->bo = upload[0]->bo;
413          dri_bo_reference(upload[i]->bo);
414       }
415    }
416    else {
417       /* Upload non-interleaved arrays */
418       for (i = 0; i < nr_uploads; i++) {
419          copy_array_to_vbo_array(brw, upload[i], upload[i]->element_size);
420       }
421    }
422
423    if (brw->vb.upload.bo) {
424      ret |= dri_bufmgr_check_aperture_space(brw->vb.upload.bo);
425    }
426
427    if (ret)
428      return 1;
429
430
431    return 0;
432 }
433
434 void brw_emit_vertices( struct brw_context *brw,
435                         GLuint min_index,
436                         GLuint max_index )
437 {
438    GLcontext *ctx = &brw->intel.ctx;
439    struct intel_context *intel = intel_context(ctx);
440    GLuint tmp = brw->vs.prog_data->inputs_read;
441    struct brw_vertex_element *enabled[VERT_ATTRIB_MAX];
442    GLuint i;
443    GLuint nr_enabled = 0;
444
445   /* Accumulate the list of enabled arrays. */
446    while (tmp) {
447       i = _mesa_ffsll(tmp)-1;
448       struct brw_vertex_element *input = &brw->vb.inputs[i];
449
450       tmp &= ~(1<<i);
451       enabled[nr_enabled++] = input;
452    }
453
454
455    /* Now emit VB and VEP state packets.
456     *
457     * This still defines a hardware VB for each input, even if they
458     * are interleaved or from the same VBO.  TBD if this makes a
459     * performance difference.
460     */
461    BEGIN_BATCH(1 + nr_enabled * 4, IGNORE_CLIPRECTS);
462    OUT_BATCH((CMD_VERTEX_BUFFER << 16) |
463              ((1 + nr_enabled * 4) - 2));
464
465    for (i = 0; i < nr_enabled; i++) {
466       struct brw_vertex_element *input = enabled[i];
467
468       OUT_BATCH((i << BRW_VB0_INDEX_SHIFT) |
469                 BRW_VB0_ACCESS_VERTEXDATA |
470                 (input->stride << BRW_VB0_PITCH_SHIFT));
471       OUT_RELOC(input->bo,
472                 DRM_BO_FLAG_MEM_TT | DRM_BO_FLAG_READ,
473                 input->offset);
474       OUT_BATCH(max_index);
475       OUT_BATCH(0); /* Instance data step rate */
476
477       /* Unreference the buffer so it can get freed, now that we won't
478        * touch it any more.
479        */
480       dri_bo_unreference(input->bo);
481       input->bo = NULL;
482    }
483    ADVANCE_BATCH();
484
485    BEGIN_BATCH(1 + nr_enabled * 2, IGNORE_CLIPRECTS);
486    OUT_BATCH((CMD_VERTEX_ELEMENT << 16) | ((1 + nr_enabled * 2) - 2));
487    for (i = 0; i < nr_enabled; i++) {
488       struct brw_vertex_element *input = enabled[i];
489       uint32_t format = get_surface_type(input->glarray->Type,
490                                          input->glarray->Size,
491                                          input->glarray->Normalized);
492       uint32_t comp0 = BRW_VE1_COMPONENT_STORE_SRC;
493       uint32_t comp1 = BRW_VE1_COMPONENT_STORE_SRC;
494       uint32_t comp2 = BRW_VE1_COMPONENT_STORE_SRC;
495       uint32_t comp3 = BRW_VE1_COMPONENT_STORE_SRC;
496
497       switch (input->glarray->Size) {
498       case 0: comp0 = BRW_VE1_COMPONENT_STORE_0;
499       case 1: comp1 = BRW_VE1_COMPONENT_STORE_0;
500       case 2: comp2 = BRW_VE1_COMPONENT_STORE_0;
501       case 3: comp3 = BRW_VE1_COMPONENT_STORE_1_FLT;
502          break;
503       }
504
505       OUT_BATCH((i << BRW_VE0_INDEX_SHIFT) |
506                 BRW_VE0_VALID |
507                 (format << BRW_VE0_FORMAT_SHIFT) |
508                 (0 << BRW_VE0_SRC_OFFSET_SHIFT));
509       OUT_BATCH((comp0 << BRW_VE1_COMPONENT_0_SHIFT) |
510                 (comp1 << BRW_VE1_COMPONENT_1_SHIFT) |
511                 (comp2 << BRW_VE1_COMPONENT_2_SHIFT) |
512                 (comp3 << BRW_VE1_COMPONENT_3_SHIFT) |
513                 ((i * 4) << BRW_VE1_DST_OFFSET_SHIFT));
514    }
515    ADVANCE_BATCH();
516 }
517
518 int brw_prepare_indices( struct brw_context *brw,
519                          const struct _mesa_index_buffer *index_buffer,
520                          dri_bo **bo_return,
521                          GLuint *offset_return)
522 {
523    GLcontext *ctx = &brw->intel.ctx;
524    struct intel_context *intel = &brw->intel;
525    GLuint ib_size = get_size(index_buffer->type) * index_buffer->count;
526    dri_bo *bo;
527    struct gl_buffer_object *bufferobj = index_buffer->obj;
528    GLuint offset = (GLuint)index_buffer->ptr;
529    int ret;
530
531    /* Turn into a proper VBO:
532     */
533    if (!bufferobj->Name) {
534      
535       /* Get new bufferobj, offset:
536        */
537       get_space(brw, ib_size, &bo, &offset);
538
539       /* Straight upload
540        */
541       dri_bo_subdata(bo, offset, ib_size, index_buffer->ptr);
542    } else {
543       /* If the index buffer isn't aligned to its element size, we have to
544        * rebase it into a temporary.
545        */
546        if ((get_size(index_buffer->type) - 1) & offset) {
547            GLubyte *map = ctx->Driver.MapBuffer(ctx,
548                                                 GL_ELEMENT_ARRAY_BUFFER_ARB,
549                                                 GL_DYNAMIC_DRAW_ARB,
550                                                 bufferobj);
551            map += offset;
552
553            get_space(brw, ib_size, &bo, &offset);
554
555            dri_bo_subdata(bo, offset, ib_size, map);
556
557            ctx->Driver.UnmapBuffer(ctx, GL_ELEMENT_ARRAY_BUFFER_ARB, bufferobj);
558        } else {
559           bo = intel_bufferobj_buffer(intel, intel_buffer_object(bufferobj),
560                                       INTEL_READ);
561           dri_bo_reference(bo);
562        }
563    }
564
565    *bo_return = bo;
566    *offset_return = offset;
567    ret = dri_bufmgr_check_aperture_space(bo);
568    return ret;
569 }
570
571 void brw_emit_indices(struct brw_context *brw,
572                       const struct _mesa_index_buffer *index_buffer,
573                       dri_bo *bo,
574                       GLuint offset)
575 {
576    struct intel_context *intel = &brw->intel;
577    GLuint ib_size = get_size(index_buffer->type) * index_buffer->count;
578    /* Emit the indexbuffer packet:
579     */
580    {
581       struct brw_indexbuffer ib;
582
583       memset(&ib, 0, sizeof(ib));
584    
585       ib.header.bits.opcode = CMD_INDEX_BUFFER;
586       ib.header.bits.length = sizeof(ib)/4 - 2;
587       ib.header.bits.index_format = get_index_type(index_buffer->type);
588       ib.header.bits.cut_index_enable = 0;
589    
590
591       BEGIN_BATCH(4, IGNORE_CLIPRECTS);
592       OUT_BATCH( ib.header.dword );
593       OUT_RELOC( bo, DRM_BO_FLAG_MEM_TT | DRM_BO_FLAG_READ, offset);
594       OUT_RELOC( bo, DRM_BO_FLAG_MEM_TT | DRM_BO_FLAG_READ,
595                  offset + ib_size);
596       OUT_BATCH( 0 );
597       ADVANCE_BATCH();
598
599       dri_bo_unreference(bo);
600    }
601 }
602