Update to MPlayer SVN rev 34578.
[vaapi:mplayer.git] / libvo / vo_directx.c
1 /*
2  * Directx v2 or later DirectDraw interface
3  *
4  * Copyright (c) 2002 - 2005 Sascha Sommer <saschasommer@freenet.de>
5  *
6  * This file is part of MPlayer.
7  *
8  * MPlayer is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License as published by
10  * the Free Software Foundation; either version 2 of the License, or
11  * (at your option) any later version.
12  *
13  * MPlayer is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  *
18  * You should have received a copy of the GNU General Public License along
19  * with MPlayer; if not, write to the Free Software Foundation, Inc.,
20  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
21  */
22
23 #include <windows.h>
24 #include <windowsx.h>
25 #include <ddraw.h>
26 #include <stdio.h>
27 #include <stdlib.h>
28 #include <errno.h>
29 #include "config.h"
30 #include "video_out.h"
31 #include "video_out_internal.h"
32 #include "libmpcodecs/vf.h"
33 #include "fastmemcpy.h"
34 #include "libmpcodecs/vd.h"
35 #include "mp_msg.h"
36 #include "aspect.h"
37 #include "sub/sub.h"
38 #include "w32_common.h"
39
40 static LPDIRECTDRAWCOLORCONTROL g_cc = NULL;            //color control interface
41 static LPDIRECTDRAW7 g_lpdd = NULL;                 //DirectDraw Object
42 static LPDIRECTDRAWSURFACE7 g_lpddsPrimary = NULL;   //Primary Surface: viewport through the Desktop
43 static LPDIRECTDRAWSURFACE7 g_lpddsOverlay = NULL;   //Overlay Surface
44 static LPDIRECTDRAWSURFACE7 g_lpddsBack    = NULL;   //Back surface
45 static LPDIRECTDRAWCLIPPER g_lpddclipper;           //clipper object, can only be used without overlay
46 static DDSURFACEDESC2 ddsdsf;                           //surface descripiton needed for locking
47 static HINSTANCE hddraw_dll;                        //handle to ddraw.dll
48 static RECT rd;                                     //rect of our stretched image
49 static RECT rs;                                     //rect of our source image
50 static HBRUSH colorbrush = NULL;                    // Handle to colorkey brush
51 static HBRUSH blackbrush = NULL;                    // Handle to black brush
52 static uint32_t image_width, image_height;          //image width and height
53 static uint8_t *image        = NULL;                //image data
54 static void *tmp_image       = NULL;
55 static uint32_t image_format = 0;                       //image format
56 static uint32_t primary_image_format;
57 static uint32_t vm_height = 0;
58 static uint32_t vm_width  = 0;
59 static uint32_t vm_bpp    = 0;
60 static uint32_t dstride;                            //surface stride
61 static uint32_t nooverlay = 0;                      //NonOverlay mode
62 static DWORD destcolorkey;                          //colorkey for our surface
63 static COLORREF windowcolor = RGB(0, 0, 16);          //windowcolor == colorkey
64 static int adapter_count    = 0;
65 static GUID selected_guid;
66 static GUID *selected_guid_ptr = NULL;
67
68 /*****************************************************************************
69  * DirectDraw GUIDs.
70  * Defining them here allows us to get rid of the dxguid library during
71  * the linking stage.
72  *****************************************************************************/
73 #define IID_IDirectDraw7 MP_IID_IDirectDraw7
74 static const GUID MP_IID_IDirectDraw7 = {
75     0x15e65ec0, 0x3b9c, 0x11d2, { 0xb9, 0x2f, 0x00, 0x60, 0x97, 0x97, 0xea, 0x5b }
76 };
77
78 #define IID_IDirectDrawColorControl MP_IID_IDirectDrawColorControl
79 static const GUID MP_IID_IDirectDrawColorControl = {
80     0x4b9f0ee0, 0x0d7e, 0x11d0, { 0x9b, 0x06, 0x00, 0xa0, 0xc9, 0x03, 0xa3, 0xb8 }
81 };
82
83 struct directx_fourcc_caps {
84     char img_format_name[6];    //human readable name
85     uint32_t img_format;        //as MPlayer image format
86     DDPIXELFORMAT g_ddpfOverlay; //as Directx Sourface description
87 } static const g_ddpf[] = {
88     { "YV12 ", IMGFMT_YV12,  { sizeof(DDPIXELFORMAT), DDPF_FOURCC, MAKEFOURCC('Y', 'V', '1', '2'), 0, 0, 0, 0, 0 } },
89     { "I420 ", IMGFMT_I420,  { sizeof(DDPIXELFORMAT), DDPF_FOURCC, MAKEFOURCC('I', '4', '2', '0'), 0, 0, 0, 0, 0 } }, //yv12 with swapped uv
90     { "IYUV ", IMGFMT_IYUV,  { sizeof(DDPIXELFORMAT), DDPF_FOURCC, MAKEFOURCC('I', 'Y', 'U', 'V'), 0, 0, 0, 0, 0 } }, //same as i420
91     { "YVU9 ", IMGFMT_YVU9,  { sizeof(DDPIXELFORMAT), DDPF_FOURCC, MAKEFOURCC('Y', 'V', 'U', '9'), 0, 0, 0, 0, 0 } },
92     { "YUY2 ", IMGFMT_YUY2,  { sizeof(DDPIXELFORMAT), DDPF_FOURCC, MAKEFOURCC('Y', 'U', 'Y', '2'), 0, 0, 0, 0, 0 } },
93     { "UYVY ", IMGFMT_UYVY,  { sizeof(DDPIXELFORMAT), DDPF_FOURCC, MAKEFOURCC('U', 'Y', 'V', 'Y'), 0, 0, 0, 0, 0 } },
94     { "BGR8 ", IMGFMT_BGR8,  { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  8,  0x00000000, 0x00000000, 0x00000000, 0 } },
95     { "RGB15", IMGFMT_RGB15, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  16, 0x0000001F, 0x000003E0, 0x00007C00, 0 } }, //RGB 5:5:5
96     { "BGR15", IMGFMT_BGR15, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  16, 0x00007C00, 0x000003E0, 0x0000001F, 0 } },
97     { "RGB16", IMGFMT_RGB16, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  16, 0x0000001F, 0x000007E0, 0x0000F800, 0 } }, //RGB 5:6:5
98     { "BGR16", IMGFMT_BGR16, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  16, 0x0000F800, 0x000007E0, 0x0000001F, 0 } },
99     { "RGB24", IMGFMT_RGB24, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  24, 0x000000FF, 0x0000FF00, 0x00FF0000, 0 } },
100     { "BGR24", IMGFMT_BGR24, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  24, 0x00FF0000, 0x0000FF00, 0x000000FF, 0 } },
101     { "RGB32", IMGFMT_RGB32, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  32, 0x000000FF, 0x0000FF00, 0x00FF0000, 0 } },
102     { "BGR32", IMGFMT_BGR32, { sizeof(DDPIXELFORMAT), DDPF_RGB,    0,  32, 0x00FF0000, 0x0000FF00, 0x000000FF, 0 } }
103 };
104 #define NUM_FORMATS (sizeof(g_ddpf) / sizeof(g_ddpf[0]))
105
106 // what hw supports with corresponding format in g_ddpf
107 static uint32_t drv_caps[NUM_FORMATS];
108
109 static const vo_info_t info = {
110     "Directx DDraw YUV/RGB/BGR renderer",
111     "directx",
112     "Sascha Sommer <saschasommer@freenet.de>",
113     ""
114 };
115
116 const LIBVO_EXTERN(directx)
117
118 static void draw_alpha(int x0, int y0, int w, int h, unsigned char *src,
119                        unsigned char *srca, int stride)
120 {
121     switch (image_format) {
122     case IMGFMT_YV12:
123     case IMGFMT_I420:
124     case IMGFMT_IYUV:
125     case IMGFMT_YVU9:
126         vo_draw_alpha_yv12(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + x0, dstride);
127         break;
128     case IMGFMT_YUY2:
129         vo_draw_alpha_yuy2(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + 2 * x0, dstride);
130         break;
131     case IMGFMT_UYVY:
132         vo_draw_alpha_yuy2(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + 2 * x0 + 1, dstride);
133         break;
134     case IMGFMT_RGB15:
135     case IMGFMT_BGR15:
136         vo_draw_alpha_rgb15(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + 2 * x0, dstride);
137         break;
138     case IMGFMT_RGB16:
139     case IMGFMT_BGR16:
140         vo_draw_alpha_rgb16(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + 2 * x0, dstride);
141         break;
142     case IMGFMT_RGB24:
143     case IMGFMT_BGR24:
144         vo_draw_alpha_rgb24(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + 4 * x0, dstride);
145         break;
146     case IMGFMT_RGB32:
147     case IMGFMT_BGR32:
148         vo_draw_alpha_rgb32(w, h, src, srca, stride, ((uint8_t *)image) + dstride * y0 + 4 * x0, dstride);
149         break;
150     }
151 }
152
153 static void draw_osd(void)
154 {
155     vo_draw_text(image_width, image_height, draw_alpha);
156 }
157
158 static int query_format(uint32_t format)
159 {
160     int i;
161     for (i = 0; i < NUM_FORMATS; i++)
162         if (g_ddpf[i].img_format == format)
163             return drv_caps[i];
164     return 0;
165 }
166
167 struct errmap {
168     HRESULT err;
169     const char *errstr;
170 } static const dd_errmap[] = {
171     {DDERR_INCOMPATIBLEPRIMARY, "incompatible primary surface"},
172     {DDERR_INVALIDCAPS, "invalid caps"},
173     {DDERR_INVALIDOBJECT, "invalid object"},
174     {DDERR_INVALIDPARAMS, "invalid parameters"},
175     {DDERR_INVALIDRECT, "invalid rectangle"},
176     {DDERR_INVALIDSURFACETYPE, "invalid surfacetype"},
177     {DDERR_NODIRECTDRAWHW, "no directdraw hardware"},
178     {DDERR_NOEMULATION, "can't emulate"},
179     {DDERR_NOFLIPHW, "hardware can't do flip"},
180     {DDERR_NOOVERLAYHW, "hardware can't do overlay"},
181     {DDERR_NOSTRETCHHW, "hardware can't stretch: try to size the window back"},
182     {DDERR_OUTOFMEMORY, "not enough system memory"},
183     {DDERR_OUTOFVIDEOMEMORY, "not enough video memory"},
184     {DDERR_UNSUPPORTED, "unsupported"},
185     {DDERR_UNSUPPORTEDMODE, "unsupported mode"},
186     {DDERR_HEIGHTALIGN, "height align"},
187     {DDERR_XALIGN, "x align"},
188     {DDERR_SURFACELOST, "surfaces lost"},
189     {0, NULL}
190 };
191
192 static const char *dd_errstr(HRESULT res)
193 {
194     int i;
195     for (i = 0; dd_errmap[i].errstr; i++)
196         if (dd_errmap[i].err == res)
197             return dd_errmap[i].errstr;
198     return "unknown error";
199 }
200
201 static uint32_t Directx_CreatePrimarySurface(void)
202 {
203     DDSURFACEDESC2 ddsd = { .dwSize = sizeof(ddsd) };
204     //cleanup
205     if (g_lpddsPrimary)
206         g_lpddsPrimary->lpVtbl->Release(g_lpddsPrimary);
207     g_lpddsPrimary = NULL;
208
209     if (vidmode)
210         g_lpdd->lpVtbl->SetDisplayMode(g_lpdd, vm_width, vm_height, vm_bpp, vo_refresh_rate, 0);
211     //set flags and create a primary surface.
212     ddsd.dwFlags = DDSD_CAPS;
213     ddsd.ddsCaps.dwCaps = DDSCAPS_PRIMARYSURFACE;
214     if (g_lpdd->lpVtbl->CreateSurface(g_lpdd, &ddsd, &g_lpddsPrimary, NULL) == DD_OK)
215         mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>primary surface created\n");
216     else {
217         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>could not create primary surface\n");
218         return 1;
219     }
220     return 0;
221 }
222
223 static uint32_t Directx_CreateOverlay(uint32_t imgfmt)
224 {
225     HRESULT ddrval;
226     DDSURFACEDESC2 ddsdOverlay = {
227         .dwSize = sizeof(ddsdOverlay),
228         .ddsCaps.dwCaps = DDSCAPS_OVERLAY | DDSCAPS_FLIP | DDSCAPS_COMPLEX | DDSCAPS_VIDEOMEMORY,
229         .dwFlags  = DDSD_CAPS | DDSD_HEIGHT | DDSD_WIDTH | DDSD_BACKBUFFERCOUNT | DDSD_PIXELFORMAT,
230         .dwWidth  = image_width,
231         .dwHeight = image_height,
232     };
233     uint32_t i = 0;
234     ddsdOverlay.dwBackBufferCount = 2;
235     while (i < NUM_FORMATS && imgfmt != g_ddpf[i].img_format)
236         i++;
237     if (!g_lpdd || !g_lpddsPrimary || i == NUM_FORMATS)
238         return 1;
239     //cleanup
240     if (g_lpddsOverlay)
241         g_lpddsOverlay->lpVtbl->Release(g_lpddsOverlay);
242     if (g_lpddsBack)
243         g_lpddsBack->lpVtbl->Release(g_lpddsBack);
244     g_lpddsOverlay = NULL;
245     g_lpddsBack    = NULL;
246     //create our overlay
247     ddsdOverlay.ddpfPixelFormat   = g_ddpf[i].g_ddpfOverlay;
248     if (vo_doublebuffering) {    //tribblebuffering
249         if (g_lpdd->lpVtbl->CreateSurface(g_lpdd, &ddsdOverlay, &g_lpddsOverlay, NULL) == DD_OK) {
250             mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>overlay with format %s created\n", g_ddpf[i].img_format_name);
251             //get the surface directly attached to the primary (the back buffer)
252             ddsdOverlay.ddsCaps.dwCaps = DDSCAPS_BACKBUFFER;
253             if (g_lpddsOverlay->lpVtbl->GetAttachedSurface(g_lpddsOverlay, &ddsdOverlay.ddsCaps, &g_lpddsBack) != DD_OK) {
254                 mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't get attached surface\n");
255                 return 1;
256             }
257             return 0;
258         }
259         vo_doublebuffering = 0;       //disable tribblebuffering
260         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><WARN>cannot create tribblebuffer overlay with format %s\n", g_ddpf[i].img_format_name);
261     }
262     //single buffer
263     mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>using singlebuffer overlay\n");
264     ddsdOverlay.dwBackBufferCount = 0;
265     ddsdOverlay.ddsCaps.dwCaps    = DDSCAPS_OVERLAY | DDSCAPS_VIDEOMEMORY;
266     ddsdOverlay.dwFlags = DDSD_CAPS | DDSD_HEIGHT | DDSD_WIDTH | DDSD_PIXELFORMAT;
267     ddsdOverlay.ddpfPixelFormat = g_ddpf[i].g_ddpfOverlay;
268     // try to create the overlay surface
269     ddrval = g_lpdd->lpVtbl->CreateSurface(g_lpdd, &ddsdOverlay, &g_lpddsOverlay, NULL);
270     if (ddrval != DD_OK) {
271         if (ddrval == DDERR_INVALIDPIXELFORMAT)
272             mp_msg(MSGT_VO, MSGL_V, "<vo_directx><ERROR> invalid pixelformat: %s\n", g_ddpf[i].img_format_name);
273         else
274             mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>create surface failed: %s (0x%x)\n", dd_errstr(ddrval), ddrval);
275         return 1;
276     }
277     g_lpddsBack = g_lpddsOverlay;
278     return 0;
279 }
280
281 static uint32_t Directx_CreateBackpuffer(void)
282 {
283     DDSURFACEDESC2 ddsd = {
284         .dwSize = sizeof(ddsd),
285         .ddsCaps.dwCaps = DDSCAPS_OFFSCREENPLAIN | DDSCAPS_SYSTEMMEMORY,
286         .dwFlags  = DDSD_CAPS | DDSD_WIDTH | DDSD_HEIGHT,
287         .dwWidth  = image_width,
288         .dwHeight = image_height,
289     };
290     //cleanup
291     if (g_lpddsBack)
292         g_lpddsBack->lpVtbl->Release(g_lpddsBack);
293     g_lpddsBack = NULL;
294     if (g_lpdd->lpVtbl->CreateSurface(g_lpdd, &ddsd, &g_lpddsBack, 0) != DD_OK) {
295         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't create backpuffer\n");
296         return 1;
297     }
298     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>backbuffer created\n");
299     return 0;
300 }
301
302 static void uninit(void)
303 {
304     if (g_cc)
305         g_cc->lpVtbl->Release(g_cc);
306     g_cc = NULL;
307     if (g_lpddclipper)
308         g_lpddclipper->lpVtbl->Release(g_lpddclipper);
309     g_lpddclipper = NULL;
310     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>clipper released\n");
311     if (g_lpddsBack)
312         g_lpddsBack->lpVtbl->Release(g_lpddsBack);
313     g_lpddsBack = NULL;
314     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>back surface released\n");
315     if (vo_doublebuffering && !nooverlay) {
316         if (g_lpddsOverlay)
317             g_lpddsOverlay->lpVtbl->Release(g_lpddsOverlay);
318         g_lpddsOverlay = NULL;
319         mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>overlay surface released\n");
320     }
321     if (g_lpddsPrimary)
322         g_lpddsPrimary->lpVtbl->Release(g_lpddsPrimary);
323     g_lpddsPrimary = NULL;
324     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>primary released\n");
325     if (colorbrush)
326         DeleteObject(colorbrush);
327     colorbrush = NULL;
328     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>GDI resources deleted\n");
329     if (g_lpdd) {
330         if (vidmode)
331             g_lpdd->lpVtbl->RestoreDisplayMode(g_lpdd);
332         g_lpdd->lpVtbl->Release(g_lpdd);
333     }
334     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>directdrawobject released\n");
335     FreeLibrary(hddraw_dll);
336     hddraw_dll = NULL;
337     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>ddraw.dll freed\n");
338     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>uninitialized\n");
339     vo_w32_uninit();
340 }
341
342 static BOOL WINAPI EnumCallbackEx(GUID FAR *lpGUID, LPSTR lpDriverDescription, LPSTR lpDriverName, LPVOID lpContext, HMONITOR hm)
343 {
344     if (!lpGUID)
345         lpDriverDescription = "Primary Display Adapter";
346     mp_msg(MSGT_VO, MSGL_INFO, "<vo_directx> adapter %d: %s", adapter_count, lpDriverDescription);
347
348     if (adapter_count == vo_adapter_num) {
349         if (!lpGUID)
350             selected_guid_ptr = NULL;
351         else {
352             selected_guid     = *lpGUID;
353             selected_guid_ptr = &selected_guid;
354         }
355
356         mp_msg(MSGT_VO, MSGL_INFO, "\t\t<--");
357     }
358     mp_msg(MSGT_VO, MSGL_INFO, "\n");
359
360     adapter_count++;
361
362     return 1; // list all adapters
363 }
364
365 static uint32_t Directx_InitDirectDraw(void)
366 {
367     HRESULT (WINAPI *OurDirectDrawCreateEx)(GUID *, LPVOID *, REFIID, IUnknown FAR *);
368     DDSURFACEDESC2 ddsd = {
369         .dwSize  = sizeof(ddsd),
370         .dwFlags = DDSD_WIDTH | DDSD_HEIGHT | DDSD_PIXELFORMAT,
371     };
372     LPDIRECTDRAWENUMERATEEX OurDirectDrawEnumerateEx;
373
374     adapter_count = 0;
375
376     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>Initing DirectDraw\n");
377
378     //load direct draw DLL: based on videolans code
379     hddraw_dll = LoadLibrary("DDRAW.DLL");
380     if (!hddraw_dll) {
381         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>failed loading ddraw.dll\n");
382         return 1;
383     }
384
385     if (vo_adapter_num) {   //display other than default
386         OurDirectDrawEnumerateEx = (LPDIRECTDRAWENUMERATEEX)GetProcAddress(hddraw_dll, "DirectDrawEnumerateExA");
387         if (!OurDirectDrawEnumerateEx) {
388             FreeLibrary(hddraw_dll);
389             hddraw_dll = NULL;
390             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>failed geting proc address: DirectDrawEnumerateEx\n");
391             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>no directx 7 or higher installed\n");
392             return 1;
393         }
394
395         // enumerate all display devices attached to the desktop
396         OurDirectDrawEnumerateEx(EnumCallbackEx, NULL, DDENUM_ATTACHEDSECONDARYDEVICES);
397
398         if (vo_adapter_num >= adapter_count)
399             mp_msg(MSGT_VO, MSGL_ERR, "Selected adapter (%d) doesn't exist: Default Display Adapter selected\n", vo_adapter_num);
400     }
401
402     OurDirectDrawCreateEx = (void *)GetProcAddress(hddraw_dll, "DirectDrawCreateEx");
403     if (!OurDirectDrawCreateEx) {
404         FreeLibrary(hddraw_dll);
405         hddraw_dll = NULL;
406         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>failed geting proc address: DirectDrawCreateEx\n");
407         return 1;
408     }
409
410     // initialize DirectDraw and create directx v7 object
411     if (OurDirectDrawCreateEx(selected_guid_ptr, (VOID **)&g_lpdd, &IID_IDirectDraw7, NULL) != DD_OK) {
412         FreeLibrary(hddraw_dll);
413         hddraw_dll = NULL;
414         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't initialize ddraw\n");
415         return 1;
416     }
417
418     //get current screen siz for selected monitor ...
419     g_lpdd->lpVtbl->GetDisplayMode(g_lpdd, &ddsd);
420     if (vo_screenwidth && vo_screenheight) {
421         vm_height = vo_screenheight;
422         vm_width  = vo_screenwidth;
423     } else {
424         vm_height = ddsd.dwHeight;
425         vm_width  = ddsd.dwWidth;
426     }
427
428     if (vo_dbpp)
429         vm_bpp = vo_dbpp;
430     else
431         vm_bpp = ddsd.ddpfPixelFormat.dwRGBBitCount;
432
433     if (vidmode) {
434         if (g_lpdd->lpVtbl->SetCooperativeLevel(g_lpdd, vo_w32_window, DDSCL_EXCLUSIVE | DDSCL_FULLSCREEN) != DD_OK) {
435             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't set cooperativelevel for exclusive mode\n");
436             return 1;
437         }
438         /*SetDisplayMode(ddobject,width,height,bpp,refreshrate,aditionalflags)*/
439         if (g_lpdd->lpVtbl->SetDisplayMode(g_lpdd, vm_width, vm_height, vm_bpp, 0, 0) != DD_OK) {
440             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't set displaymode\n");
441             return 1;
442         }
443         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>Initialized adapter %i for %i x %i @ %i \n", vo_adapter_num, vm_width, vm_height, vm_bpp);
444         return 0;
445     }
446     if (g_lpdd->lpVtbl->SetCooperativeLevel(g_lpdd, vo_w32_window, DDSCL_NORMAL) != DD_OK) {   // or DDSCL_SETFOCUSWINDOW
447         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>could not set cooperativelevel for hardwarecheck\n");
448         return 1;
449     }
450     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>DirectDraw Initialized\n");
451     return 0;
452 }
453
454 static uint32_t Directx_ManageDisplay(void)
455 {
456     HRESULT ddrval;
457     DDCAPS capsDrv = { .dwSize = sizeof(capsDrv) };
458     DDOVERLAYFX ovfx = { .dwSize = sizeof(ovfx) };
459     DWORD dwUpdateFlags = 0;
460     int width, height;
461
462     rd.left = vo_dx - xinerama_x;
463     rd.top  = vo_dy - xinerama_y;
464     width   = vo_dwidth;
465     height  = vo_dheight;
466
467     aspect(&width, &height, A_WINZOOM);
468     panscan_calc_windowed();
469     width   += vo_panscan_x;
470     height  += vo_panscan_y;
471     width    = FFMIN(width, vo_screenwidth);
472     height   = FFMIN(height, vo_screenheight);
473     rd.left += (vo_dwidth - width) / 2;
474     rd.top  += (vo_dheight - height) / 2;
475
476     rd.right  = rd.left + width;
477     rd.bottom = rd.top + height;
478
479     /*ok, let's workaround some overlay limitations*/
480     if (!nooverlay) {
481         uint32_t uStretchFactor1000;                 //minimum stretch
482         uint32_t xstretch1000, ystretch1000;
483
484         if (!width || !height) {
485             // window is minimized, so we should hide the overlay in case
486             // colorkeying is not used or working.
487             // In addition trying to set width/height to 0 would crash
488             g_lpddsOverlay->lpVtbl->UpdateOverlay(g_lpddsOverlay, NULL, g_lpddsPrimary, NULL, DDOVER_HIDE, NULL);
489             return 0;
490         }
491
492         /*get driver capabilities*/
493         if (g_lpdd->lpVtbl->GetCaps(g_lpdd, &capsDrv, NULL) != DD_OK)
494             return 1;
495         /*get minimum stretch, depends on display adaptor and mode (refresh rate!) */
496         uStretchFactor1000 = capsDrv.dwMinOverlayStretch > 1000 ? capsDrv.dwMinOverlayStretch : 1000;
497         rd.right  = ((width + rd.left) * uStretchFactor1000 + 999) / 1000;
498         rd.bottom = (height + rd.top) * uStretchFactor1000 / 1000;
499         /*calculate xstretch1000 and ystretch1000*/
500         xstretch1000 = ((rd.right - rd.left) * 1000) / image_width;
501         ystretch1000 = ((rd.bottom - rd.top) * 1000) / image_height;
502         rs.left      = 0;
503         rs.right     = image_width;
504         rs.top       = 0;
505         rs.bottom    = image_height;
506         if (rd.left < 0)
507             rs.left = (-rd.left * 1000) / xstretch1000;
508         if (rd.top < 0)
509             rs.top = (-rd.top * 1000) / ystretch1000;
510         if (rd.right > vo_screenwidth)
511             rs.right = ((vo_screenwidth - rd.left) * 1000) / xstretch1000;
512         if (rd.bottom > vo_screenheight)
513             rs.bottom = ((vo_screenheight - rd.top) * 1000) / ystretch1000;
514         /*do not allow to zoom or shrink if hardware isn't able to do so*/
515         if (width < image_width && !(capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSHRINKX)) {
516             if (capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSHRINKXN)
517                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can only shrinkN\n");
518             else
519                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can't shrink x\n");
520             rd.right = rd.left + image_width;
521         } else if (width > image_width && !(capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSTRETCHX)) {
522             if (capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSTRETCHXN)
523                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can only stretchN\n");
524             else
525                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can't stretch x\n");
526             rd.right = rd.left + image_width;
527         }
528         if (height < image_height && !(capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSHRINKY)) {
529             if (capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSHRINKYN)
530                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can only shrinkN\n");
531             else
532                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can't shrink y\n");
533             rd.bottom = rd.top + image_height;
534         } else if (height > image_height && !(capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSTRETCHY)) {
535             if (capsDrv.dwFXCaps & DDFXCAPS_OVERLAYSTRETCHYN)
536                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can only stretchN\n");
537             else
538                 mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can't stretch y\n");
539             rd.bottom = rd.top + image_height;
540         }
541         /*the last thing to check are alignment restrictions
542          * these expressions (x & -y) just do alignment by dropping low order bits...
543          * so to round up, we add first, then truncate*/
544         if ((capsDrv.dwCaps & DDCAPS_ALIGNBOUNDARYSRC) && capsDrv.dwAlignBoundarySrc)
545             rs.left = (rs.left + capsDrv.dwAlignBoundarySrc / 2) & - (signed)(capsDrv.dwAlignBoundarySrc);
546         if ((capsDrv.dwCaps & DDCAPS_ALIGNSIZESRC) && capsDrv.dwAlignSizeSrc)
547             rs.right = rs.left + ((rs.right - rs.left + capsDrv.dwAlignSizeSrc / 2) & - (signed)(capsDrv.dwAlignSizeSrc));
548         if ((capsDrv.dwCaps & DDCAPS_ALIGNBOUNDARYDEST) && capsDrv.dwAlignBoundaryDest)
549             rd.left = (rd.left + capsDrv.dwAlignBoundaryDest / 2) & - (signed)(capsDrv.dwAlignBoundaryDest);
550         if ((capsDrv.dwCaps & DDCAPS_ALIGNSIZEDEST) && capsDrv.dwAlignSizeDest)
551             rd.right = rd.left + ((rd.right - rd.left) & - (signed)(capsDrv.dwAlignSizeDest));
552         /*create an overlay FX structure to specify a destination color key*/
553         if (vo_fs || vidmode) {
554             ovfx.dckDestColorkey.dwColorSpaceLowValue  = 0;
555             ovfx.dckDestColorkey.dwColorSpaceHighValue = 0;
556         } else {
557             ovfx.dckDestColorkey.dwColorSpaceLowValue  = destcolorkey;
558             ovfx.dckDestColorkey.dwColorSpaceHighValue = destcolorkey;
559         }
560         // set the flags we'll send to UpdateOverlay      //DDOVER_AUTOFLIP|DDOVERFX_MIRRORLEFTRIGHT|DDOVERFX_MIRRORUPDOWN could be useful?;
561         dwUpdateFlags = DDOVER_SHOW | DDOVER_DDFX;
562         /*if hardware can't do colorkeying set the window on top*/
563         if (capsDrv.dwCKeyCaps & DDCKEYCAPS_DESTOVERLAY)
564             dwUpdateFlags |= DDOVER_KEYDESTOVERRIDE;
565         else if (!tmp_image)
566             vo_ontop = 1;
567     } else {
568         g_lpddclipper->lpVtbl->SetHWnd(g_lpddclipper, 0, vo_w32_window);
569     }
570
571     /*make sure the overlay is inside the screen*/
572     rd.top    = FFMAX(rd.top,  0);
573     rd.left   = FFMAX(rd.left, 0);
574     rd.bottom = FFMIN(rd.bottom, vo_screenheight);
575     rd.right  = FFMIN(rd.right,  vo_screenwidth);
576
577     /*for nonoverlay mode we are finished, for overlay mode we have to display the overlay first*/
578     if (nooverlay)
579         return 0;
580
581 //    printf("overlay: %i %i %ix%i\n",rd.left,rd.top,rd.right - rd.left,rd.bottom - rd.top);
582     ddrval = g_lpddsOverlay->lpVtbl->UpdateOverlay(g_lpddsOverlay, &rs, g_lpddsPrimary, &rd, dwUpdateFlags, &ovfx);
583     if (FAILED(ddrval)) {
584         // one cause might be the driver lied about minimum stretch
585         // we should try upping the destination size a bit, or
586         // perhaps shrinking the source size
587         mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>UpdateOverlay failed\n");
588         mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>Overlay:x1:%i,y1:%i,x2:%i,y2:%i,w:%i,h:%i\n", rd.left, rd.top, rd.right, rd.bottom, rd.right - rd.left, rd.bottom - rd.top);
589         mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>%s (0x%x)\n", dd_errstr(ddrval), ddrval);
590         if (ddrval == DDERR_SURFACELOST) {
591             g_lpddsOverlay->lpVtbl->Restore(g_lpddsOverlay);                               //restore and try again
592             g_lpddsPrimary->lpVtbl->Restore(g_lpddsPrimary);
593             ddrval = g_lpddsOverlay->lpVtbl->UpdateOverlay(g_lpddsOverlay, &rs, g_lpddsPrimary, &rd, dwUpdateFlags, &ovfx);
594             if (ddrval != DD_OK)
595                 mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>UpdateOverlay failed again\n");
596         }
597         /*ok we can't do anything about it -> hide overlay*/
598         if (ddrval != DD_OK) {
599             ddrval = g_lpddsOverlay->lpVtbl->UpdateOverlay(g_lpddsOverlay, NULL, g_lpddsPrimary, NULL, DDOVER_HIDE, NULL);
600             return 1;
601         }
602     }
603     return 0;
604 }
605
606 static void check_events(void)
607 {
608     int evt = vo_w32_check_events();
609     if (evt & (VO_EVENT_RESIZE | VO_EVENT_MOVE))
610         Directx_ManageDisplay();
611     if (evt & (VO_EVENT_RESIZE | VO_EVENT_MOVE | VO_EVENT_EXPOSE)) {
612         HDC dc = vo_w32_get_dc(vo_w32_window);
613         RECT r;
614         GetClientRect(vo_w32_window, &r);
615         FillRect(dc, &r, vo_fs || vidmode ? blackbrush : colorbrush);
616         vo_w32_release_dc(vo_w32_window, dc);
617     }
618 }
619
620 //find out supported overlay pixelformats
621 static uint32_t Directx_CheckOverlayPixelformats(void)
622 {
623     DDCAPS capsDrv = { .dwSize = sizeof(capsDrv) };
624     HRESULT ddrval;
625     DDSURFACEDESC2 ddsdOverlay = {
626         .dwSize = sizeof(ddsdOverlay),
627         .ddsCaps.dwCaps = DDSCAPS_OVERLAY | DDSCAPS_VIDEOMEMORY,
628         .dwFlags  = DDSD_CAPS | DDSD_HEIGHT | DDSD_WIDTH | DDSD_PIXELFORMAT,
629         .dwWidth  = 300,
630         .dwHeight = 280,
631     };
632     uint32_t i;
633     uint32_t formatcount = 0;
634     ddsdOverlay.dwBackBufferCount = 0;
635     //get driver caps to determine overlay support
636     ddrval = g_lpdd->lpVtbl->GetCaps(g_lpdd, &capsDrv, NULL);
637     if (FAILED(ddrval)) {
638         mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>failed getting ddrawcaps\n");
639         return 1;
640     }
641     if (!(capsDrv.dwCaps & DDCAPS_OVERLAY)) {
642         mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>Your card doesn't support overlay\n");
643         return 1;
644     }
645     mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>testing supported overlay pixelformats\n");
646     //it is not possible to query for pixel formats supported by the
647     //overlay hardware: try out various formats till one works
648     //try to create an overlay surface using one of the pixel formats in our global list
649     for (i = 0; i < NUM_FORMATS; i++) {
650         ddsdOverlay.ddpfPixelFormat = g_ddpf[i].g_ddpfOverlay;
651         ddrval = g_lpdd->lpVtbl->CreateSurface(g_lpdd, &ddsdOverlay, &g_lpddsOverlay, NULL);
652         if (ddrval == DD_OK) {
653             mp_msg(MSGT_VO, MSGL_V, "<vo_directx><FORMAT OVERLAY>%i %s supported\n", i, g_ddpf[i].img_format_name);
654             drv_caps[i] = VFCAP_CSP_SUPPORTED | VFCAP_OSD | VFCAP_CSP_SUPPORTED_BY_HW | VFCAP_HWSCALE_UP;
655             formatcount++;
656         } else
657             mp_msg(MSGT_VO, MSGL_V, "<vo_directx><FORMAT OVERLAY>%i %s not supported\n", i, g_ddpf[i].img_format_name);
658         if (g_lpddsOverlay) {
659             g_lpddsOverlay->lpVtbl->Release(g_lpddsOverlay);
660             g_lpddsOverlay = NULL;
661         }
662     }
663     mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>Your card supports %i of %i overlayformats\n", formatcount, NUM_FORMATS);
664     if (formatcount == 0) {
665         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><WARN>Your card supports overlay, but we couldn't create one\n");
666         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>This can have the following reasons:\n");
667         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>- you are already using an overlay with another app\n");
668         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>- you don't have enough videomemory\n");
669         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>- vo_directx doesn't support the cards overlay pixelformat\n");
670         return 1;
671     }
672     if (capsDrv.dwFXCaps & DDFXCAPS_OVERLAYMIRRORLEFTRIGHT)
673         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>can mirror left right\n");                                                   //I don't have hardware which
674     if (capsDrv.dwFXCaps & DDFXCAPS_OVERLAYMIRRORUPDOWN)
675         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>can mirror up down\n");                                                      //supports those send me one and I'll implement ;)
676     return 0;
677 }
678
679 //find out the Pixelformat of the Primary Surface
680 static uint32_t Directx_CheckPrimaryPixelformat(void)
681 {
682     int i;
683     uint32_t formatcount = 0;
684     DDPIXELFORMAT ddpf = { .dwSize = sizeof(ddpf) };
685     DDSURFACEDESC2 ddsd;
686     HDC hdc;
687     HRESULT hres;
688     COLORREF rgbT = RGB(0, 0, 0);
689     mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>checking primary surface\n");
690     //we have to create a primary surface first
691     if (Directx_CreatePrimarySurface() != 0)
692         return 1;
693     if (g_lpddsPrimary->lpVtbl->GetPixelFormat(g_lpddsPrimary, &ddpf) != DD_OK) {
694         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't get pixelformat\n");
695         return 1;
696     }
697     for (i = 0; i < NUM_FORMATS; i++) {
698         if (g_ddpf[i].g_ddpfOverlay.dwRGBBitCount == ddpf.dwRGBBitCount) {
699             if (g_ddpf[i].g_ddpfOverlay.dwRBitMask == ddpf.dwRBitMask) {
700                 mp_msg(MSGT_VO, MSGL_V, "<vo_directx><FORMAT PRIMARY>%i %s supported\n", i, g_ddpf[i].img_format_name);
701                 drv_caps[i] = VFCAP_CSP_SUPPORTED | VFCAP_OSD;
702                 formatcount++;
703                 primary_image_format = g_ddpf[i].img_format;
704             }
705         }
706     }
707     //get the colorkey for overlay mode
708     destcolorkey = CLR_INVALID;
709     if (windowcolor != CLR_INVALID && g_lpddsPrimary->lpVtbl->GetDC(g_lpddsPrimary, &hdc) == DD_OK) {
710         rgbT = GetPixel(hdc, 0, 0);
711         SetPixel(hdc, 0, 0, windowcolor);
712         g_lpddsPrimary->lpVtbl->ReleaseDC(g_lpddsPrimary, hdc);
713     }
714     // read back the converted color
715     ddsd.dwSize = sizeof(ddsd);
716     while ((hres = g_lpddsPrimary->lpVtbl->Lock(g_lpddsPrimary, NULL, &ddsd, 0, NULL)) == DDERR_WASSTILLDRAWING)
717         ;
718     if (hres == DD_OK) {
719         destcolorkey = *(DWORD *)ddsd.lpSurface;
720         if (ddsd.ddpfPixelFormat.dwRGBBitCount < 32)
721             destcolorkey &= (1 << ddsd.ddpfPixelFormat.dwRGBBitCount) - 1;
722         g_lpddsPrimary->lpVtbl->Unlock(g_lpddsPrimary, NULL);
723     }
724     if (windowcolor != CLR_INVALID && g_lpddsPrimary->lpVtbl->GetDC(g_lpddsPrimary, &hdc) == DD_OK) {
725         SetPixel(hdc, 0, 0, rgbT);
726         g_lpddsPrimary->lpVtbl->ReleaseDC(g_lpddsPrimary, hdc);
727     }
728     //release primary
729     g_lpddsPrimary->lpVtbl->Release(g_lpddsPrimary);
730     g_lpddsPrimary = NULL;
731     if (formatcount == 0) {
732         mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>Unknown Pixelformat\n");
733         return 1;
734     }
735     return 0;
736 }
737
738 static int preinit(const char *arg)
739 {
740     if (arg) {
741         if (strstr(arg, "noaccel")) {
742             mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>disabled overlay\n");
743             nooverlay = 1;
744         }
745     }
746
747     windowcolor = vo_colorkey;
748     colorbrush  = CreateSolidBrush(windowcolor);
749     blackbrush  = (HBRUSH)GetStockObject(BLACK_BRUSH);
750     if (!vo_w32_init())
751         return 1;
752     if (!vo_w32_config(100, 100, VOFLAG_HIDDEN))
753         return 1;
754
755     if (Directx_InitDirectDraw() != 0)
756         return 1;                                           //init DirectDraw
757
758     if (Directx_CheckPrimaryPixelformat() != 0)
759         return 1;
760     if (!nooverlay && Directx_CheckOverlayPixelformats() == 0) {          //check for supported hardware
761         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>hardware supports overlay\n");
762         nooverlay = 0;
763     } else {   //if we can't have overlay we create a backpuffer with the same imageformat as the primary surface
764         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>using backpuffer\n");
765         nooverlay = 1;
766     }
767     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>preinit succesfully finished\n");
768     return 0;
769 }
770
771 static int draw_slice(uint8_t *src[], int stride[], int w, int h, int x, int y)
772 {
773     uint8_t *s;
774     uint8_t *d;
775     uint32_t uvstride = dstride / 2;
776     // copy Y
777     d = image + dstride * y + x;
778     s = src[0];
779     mem2agpcpy_pic(d, s, w, h, dstride, stride[0]);
780
781     w /= 2;
782     h /= 2;
783     x /= 2;
784     y /= 2;
785
786     // copy U
787     d = image + dstride * image_height + uvstride * y + x;
788     if (image_format == IMGFMT_YV12)
789         s = src[2];
790     else
791         s = src[1];
792     mem2agpcpy_pic(d, s, w, h, uvstride, stride[1]);
793
794     // copy V
795     d = image + dstride * image_height + uvstride * (image_height / 2) + uvstride * y + x;
796     if (image_format == IMGFMT_YV12)
797         s = src[1];
798     else
799         s = src[2];
800     mem2agpcpy_pic(d, s, w, h, uvstride, stride[2]);
801     return 0;
802 }
803
804 static void flip_page(void)
805 {
806     HRESULT dxresult;
807     g_lpddsBack->lpVtbl->Unlock(g_lpddsBack, NULL);
808     if (vo_doublebuffering) {
809         // flip to the next image in the sequence
810         dxresult = g_lpddsOverlay->lpVtbl->Flip(g_lpddsOverlay, NULL, DDFLIP_WAIT);
811         if (dxresult == DDERR_SURFACELOST) {
812             mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR><vo_directx><INFO>Restoring Surface\n");
813             g_lpddsBack->lpVtbl->Restore(g_lpddsBack);
814             // restore overlay and primary before calling
815             // Directx_ManageDisplay() to avoid error messages
816             g_lpddsOverlay->lpVtbl->Restore(g_lpddsOverlay);
817             g_lpddsPrimary->lpVtbl->Restore(g_lpddsPrimary);
818             // update overlay in case we return from screensaver
819             Directx_ManageDisplay();
820             dxresult = g_lpddsOverlay->lpVtbl->Flip(g_lpddsOverlay, NULL, DDFLIP_WAIT);
821         }
822         if (dxresult != DD_OK)
823             mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>can't flip page\n");
824     }
825     if (nooverlay) {
826         // ask for the "NOTEARING" option
827         DDBLTFX ddbltfx = {
828             .dwSize = sizeof(ddbltfx),
829             .dwDDFX = DDBLTFX_NOTEARING,
830         };
831         g_lpddsPrimary->lpVtbl->Blt(g_lpddsPrimary, &rd, g_lpddsBack, NULL, DDBLT_WAIT, &ddbltfx);
832     }
833     if (g_lpddsBack->lpVtbl->Lock(g_lpddsBack, NULL, &ddsdsf, DDLOCK_NOSYSLOCK | DDLOCK_WAIT, NULL) == DD_OK) {
834         if (vo_directrendering && (dstride != ddsdsf.lPitch)) {
835             mp_msg(MSGT_VO, MSGL_WARN, "<vo_directx><WARN>stride changed !!!! disabling direct rendering\n");
836             vo_directrendering = 0;
837         }
838         free(tmp_image);
839         tmp_image = NULL;
840         dstride   = ddsdsf.lPitch;
841         image     = ddsdsf.lpSurface;
842     } else if (!tmp_image) {
843         mp_msg(MSGT_VO, MSGL_WARN, "<vo_directx><WARN>Locking the surface failed, rendering to a hidden surface!\n");
844         tmp_image = image = calloc(1, image_height * dstride * 2);
845     }
846 }
847
848 static int draw_frame(uint8_t *src[])
849 {
850     fast_memcpy(image, *src, dstride * image_height);
851     return 0;
852 }
853
854 static uint32_t get_image(mp_image_t *mpi)
855 {
856     if (mpi->flags & MP_IMGFLAG_READABLE) {
857         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><ERROR>slow video ram\n");
858         return VO_FALSE;
859     }
860     if (mpi->type == MP_IMGTYPE_STATIC) {
861         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><ERROR>not static\n");
862         return VO_FALSE;
863     }
864     if (mpi->width == dstride || (mpi->flags & (MP_IMGFLAG_ACCEPT_STRIDE | MP_IMGFLAG_ACCEPT_WIDTH))) {
865         if (mpi->flags & MP_IMGFLAG_PLANAR) {
866             if (image_format == IMGFMT_YV12) {
867                 mpi->planes[2] = image + dstride * image_height;
868                 mpi->planes[1] = image + dstride * image_height + dstride * image_height / 4;
869                 mpi->stride[1] = mpi->stride[2] = dstride / 2;
870             } else if (image_format == IMGFMT_IYUV || image_format == IMGFMT_I420) {
871                 mpi->planes[1] = image + dstride * image_height;
872                 mpi->planes[2] = image + dstride * image_height + dstride * image_height / 4;
873                 mpi->stride[1] = mpi->stride[2] = dstride / 2;
874             } else if (image_format == IMGFMT_YVU9) {
875                 mpi->planes[2] = image + dstride * image_height;
876                 mpi->planes[1] = image + dstride * image_height + dstride * image_height / 16;
877                 mpi->stride[1] = mpi->stride[2] = dstride / 4;
878             }
879         }
880         mpi->planes[0] = image;
881         mpi->stride[0] = dstride;
882         mpi->width     = image_width;
883         mpi->height    = image_height;
884         mpi->flags    |= MP_IMGFLAG_DIRECT;
885         mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>Direct Rendering ENABLED\n");
886         return VO_TRUE;
887     }
888     return VO_FALSE;
889 }
890
891 static uint32_t put_image(mp_image_t *mpi)
892 {
893     uint8_t *d;
894     uint8_t *s;
895     uint32_t x = mpi->x;
896     uint32_t y = mpi->y;
897     uint32_t w = mpi->w;
898     uint32_t h = mpi->h;
899
900     if ((mpi->flags & MP_IMGFLAG_DIRECT) || (mpi->flags & MP_IMGFLAG_DRAW_CALLBACK)) {
901         mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>put_image: nothing to do: drawslices\n");
902         return VO_TRUE;
903     }
904
905     if (mpi->flags & MP_IMGFLAG_PLANAR) {
906         if (image_format != IMGFMT_YVU9)
907             draw_slice(mpi->planes, mpi->stride, mpi->w, mpi->h, 0, 0);
908         else {
909             // copy Y
910             d = image + dstride * y + x;
911             s = mpi->planes[0];
912             mem2agpcpy_pic(d, s, w, h, dstride, mpi->stride[0]);
913             w /= 4;
914             h /= 4;
915             x /= 4;
916             y /= 4;
917             // copy V
918             d = image + dstride * image_height + dstride * y / 4 + x;
919             s = mpi->planes[2];
920             mem2agpcpy_pic(d, s, w, h, dstride / 4, mpi->stride[1]);
921             // copy U
922             d = image + dstride * image_height + dstride * image_height / 16 + dstride / 4 * y + x;
923             s = mpi->planes[1];
924             mem2agpcpy_pic(d, s, w, h, dstride / 4, mpi->stride[2]);
925         }
926     } else { //packed
927         mem2agpcpy_pic(image, mpi->planes[0], w * (mpi->bpp / 8), h, dstride, mpi->stride[0]);
928     }
929     return VO_TRUE;
930 }
931
932 static int config(uint32_t width, uint32_t height, uint32_t d_width, uint32_t d_height, uint32_t options, char *title, uint32_t format)
933 {
934     image_format = format;
935     image_width  = width;
936     image_height = height;
937     if (format != primary_image_format)
938         nooverlay = 0;
939
940     /*release all directx objects*/
941     if (g_cc)
942         g_cc->lpVtbl->Release(g_cc);
943     g_cc = NULL;
944     if (g_lpddclipper)
945         g_lpddclipper->lpVtbl->Release(g_lpddclipper);
946     g_lpddclipper = NULL;
947     if (g_lpddsBack)
948         g_lpddsBack->lpVtbl->Release(g_lpddsBack);
949     g_lpddsBack = NULL;
950     if (vo_doublebuffering)
951         if (g_lpddsOverlay)
952             g_lpddsOverlay->lpVtbl->Release(g_lpddsOverlay);
953     g_lpddsOverlay = NULL;
954     if (g_lpddsPrimary)
955         g_lpddsPrimary->lpVtbl->Release(g_lpddsPrimary);
956     g_lpddsPrimary = NULL;
957     mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>overlay surfaces released\n");
958
959     if (!vo_w32_config(d_width, d_height, options))
960         return 1;
961
962     /*create the surfaces*/
963     if (Directx_CreatePrimarySurface())
964         return 1;
965
966     //create palette for 256 color mode
967     if (image_format == IMGFMT_BGR8) {
968         LPDIRECTDRAWPALETTE ddpalette = NULL;
969         LPPALETTEENTRY palette = calloc(256, sizeof(*palette));
970         int i;
971         for (i = 0; i < 256; i++) {
972             palette[i].peRed   = ((i >> 5) & 0x07) * 255 / 7;
973             palette[i].peGreen = ((i >> 2) & 0x07) * 255 / 7;
974             palette[i].peBlue  = ((i >> 0) & 0x03) * 255 / 3;
975             palette[i].peFlags = PC_NOCOLLAPSE;
976         }
977         g_lpdd->lpVtbl->CreatePalette(g_lpdd, DDPCAPS_8BIT | DDPCAPS_INITIALIZE, palette, &ddpalette, NULL);
978         g_lpddsPrimary->lpVtbl->SetPalette(g_lpddsPrimary, ddpalette);
979         free(palette);
980         ddpalette->lpVtbl->Release(ddpalette);
981     }
982
983     if (!nooverlay && Directx_CreateOverlay(image_format)) {
984         if (format == primary_image_format)
985             nooverlay = 1;                                             /*overlay creation failed*/
986         else {
987             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't use overlay mode: please use -vo directx:noaccel\n");
988             return 1;
989         }
990     }
991     if (nooverlay) {
992         if (Directx_CreateBackpuffer()) {
993             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't get the driver to work on your system :(\n");
994             return 1;
995         }
996         mp_msg(MSGT_VO, MSGL_V, "<vo_directx><INFO>back surface created\n");
997         vo_doublebuffering = 0;
998         /*create clipper for nonoverlay mode*/
999         if (g_lpdd->lpVtbl->CreateClipper(g_lpdd, 0, &g_lpddclipper, NULL) != DD_OK) {
1000             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't create clipper\n");
1001             return 1;
1002         }
1003         if (g_lpddclipper->lpVtbl->SetHWnd(g_lpddclipper, 0, vo_w32_window) != DD_OK) {
1004             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't associate clipper with window\n");
1005             return 1;
1006         }
1007         if (g_lpddsPrimary->lpVtbl->SetClipper(g_lpddsPrimary, g_lpddclipper) != DD_OK) {
1008             mp_msg(MSGT_VO, MSGL_FATAL, "<vo_directx><FATAL ERROR>can't associate primary surface with clipper\n");
1009             return 1;
1010         }
1011         mp_msg(MSGT_VO, MSGL_DBG3, "<vo_directx><INFO>clipper succesfully created\n");
1012     } else {
1013         if (DD_OK != g_lpddsOverlay->lpVtbl->QueryInterface(g_lpddsOverlay, &IID_IDirectDrawColorControl, (void **)&g_cc))
1014             mp_msg(MSGT_VO, MSGL_V, "<vo_directx><WARN>unable to get DirectDraw ColorControl interface\n");
1015     }
1016     Directx_ManageDisplay();
1017     memset(&ddsdsf, 0, sizeof(DDSURFACEDESC2));
1018     ddsdsf.dwSize = sizeof(DDSURFACEDESC2);
1019     if (g_lpddsBack->lpVtbl->Lock(g_lpddsBack, NULL, &ddsdsf, DDLOCK_NOSYSLOCK | DDLOCK_WAIT, NULL) == DD_OK) {
1020         dstride = ddsdsf.lPitch;
1021         image   = ddsdsf.lpSurface;
1022         return 0;
1023     }
1024     mp_msg(MSGT_VO, MSGL_V, "<vo_directx><ERROR>Initial Lock on the Surface failed.\n");
1025     return 1;
1026 }
1027
1028 //function to set color controls
1029 //  brightness  [0, 10000]
1030 //  contrast    [0, 20000]
1031 //  hue         [-180, 180]
1032 //  saturation  [0, 20000]
1033 static uint32_t color_ctrl_set(const char *what, int value)
1034 {
1035     uint32_t r = VO_NOTIMPL;
1036     DDCOLORCONTROL dcc = { .dwSize = sizeof(dcc) };
1037     //printf("\n*** %s = %d\n", what, value);
1038     if (!g_cc) {
1039         //printf("\n *** could not get color control interface!!!\n");
1040         return VO_NOTIMPL;
1041     }
1042
1043     if (!strcmp(what, "brightness")) {
1044         dcc.dwFlags     = DDCOLOR_BRIGHTNESS;
1045         dcc.lBrightness = (value + 100) * 10000 / 200;
1046         r = VO_TRUE;
1047     } else if (!strcmp(what, "contrast")) {
1048         dcc.dwFlags   = DDCOLOR_CONTRAST;
1049         dcc.lContrast = (value + 100) * 20000 / 200;
1050         r = VO_TRUE;
1051     } else if (!strcmp(what, "hue")) {
1052         dcc.dwFlags = DDCOLOR_HUE;
1053         dcc.lHue    = value * 180 / 100;
1054         r = VO_TRUE;
1055     } else if (!strcmp(what, "saturation")) {
1056         dcc.dwFlags     = DDCOLOR_SATURATION;
1057         dcc.lSaturation = (value + 100) * 20000 / 200;
1058         r = VO_TRUE;
1059     }
1060
1061     if (r == VO_TRUE) {
1062         g_cc->lpVtbl->SetColorControls(g_cc, &dcc);
1063     }
1064     return r;
1065 }
1066
1067 //analoguous to color_ctrl_set
1068 static uint32_t color_ctrl_get(const char *what, int *value)
1069 {
1070     uint32_t r = VO_NOTIMPL;
1071     DDCOLORCONTROL dcc = { .dwSize = sizeof(dcc) };
1072     if (!g_cc) {
1073         //printf("\n *** could not get color control interface!!!\n");
1074         return VO_NOTIMPL;
1075     }
1076
1077     if (g_cc->lpVtbl->GetColorControls(g_cc, &dcc) != DD_OK) {
1078         return r;
1079     }
1080
1081     if (!strcmp(what, "brightness") && (dcc.dwFlags & DDCOLOR_BRIGHTNESS)) {
1082         *value = dcc.lBrightness * 200 / 10000 - 100;
1083         r      = VO_TRUE;
1084     } else if (!strcmp(what, "contrast") && (dcc.dwFlags & DDCOLOR_CONTRAST)) {
1085         *value = dcc.lContrast * 200 / 20000 - 100;
1086         r      = VO_TRUE;
1087     } else if (!strcmp(what, "hue") && (dcc.dwFlags & DDCOLOR_HUE)) {
1088         *value = dcc.lHue * 100 / 180;
1089         r      = VO_TRUE;
1090     } else if (!strcmp(what, "saturation") && (dcc.dwFlags & DDCOLOR_SATURATION)) {
1091         *value = dcc.lSaturation * 200 / 20000 - 100;
1092         r      = VO_TRUE;
1093     }
1094 //      printf("\n*** %s = %d\n", what, *value);
1095
1096     return r;
1097 }
1098
1099 static int control(uint32_t request, void *data)
1100 {
1101     switch (request) {
1102     case VOCTRL_GET_IMAGE:
1103         return get_image(data);
1104     case VOCTRL_QUERY_FORMAT:
1105         return query_format(*(uint32_t *)data);
1106     case VOCTRL_DRAW_IMAGE:
1107         return put_image(data);
1108     case VOCTRL_BORDER:
1109         vo_w32_border();
1110         Directx_ManageDisplay();
1111         return VO_TRUE;
1112     case VOCTRL_ONTOP:
1113         vo_w32_ontop();
1114         return VO_TRUE;
1115     case VOCTRL_ROOTWIN:
1116         if (WinID != -1)
1117             return VO_TRUE;
1118         if (vidmode) {
1119             mp_msg(MSGT_VO, MSGL_ERR, "<vo_directx><ERROR>rootwin has no meaning in exclusive mode\n");
1120         } else {
1121             if (vo_rootwin)
1122                 vo_rootwin = 0;
1123             else
1124                 vo_rootwin = 1;
1125             Directx_ManageDisplay();
1126         }
1127         return VO_TRUE;
1128     case VOCTRL_FULLSCREEN:
1129         vo_w32_fullscreen();
1130         Directx_ManageDisplay();
1131         return VO_TRUE;
1132     case VOCTRL_SET_EQUALIZER: {
1133         vf_equalizer_t *eq = data;
1134         return color_ctrl_set(eq->item, eq->value);
1135     }
1136     case VOCTRL_GET_EQUALIZER: {
1137         vf_equalizer_t *eq = data;
1138         return color_ctrl_get(eq->item, &eq->value);
1139     }
1140     case VOCTRL_UPDATE_SCREENINFO:
1141         w32_update_xinerama_info();
1142         return VO_TRUE;
1143     }
1144     return VO_NOTIMPL;
1145 }