Copied XML shaders from my bsnes repository.
[bsnes:xml-shaders.git] / shaders / OpenGL / v1.0 / edge-detection.shader
1 <?xml version="1.0" encoding="UTF-8"?>
2 <!--
3     Edge shader
4     Author: Themaister
5     License: Public domain.
6 -->
7 <shader language="GLSL">
8    <vertex><![CDATA[
9      uniform vec2 rubyTextureSize;
10  
11      void main()
12      {
13         float x = 0.5 / rubyTextureSize.x;
14         float y = 0.5 / rubyTextureSize.y;
15         vec2 dg1 = vec2( x, y);
16         vec2 dg2 = vec2(-x, y);
17         vec2 dx = vec2(x, 0.0);
18         vec2 dy = vec2(0.0, y);
19  
20         gl_Position = gl_ModelViewProjectionMatrix * gl_Vertex;
21         gl_TexCoord[0] = gl_MultiTexCoord0;
22         gl_TexCoord[1].xy = gl_TexCoord[0].xy - dg1;
23         gl_TexCoord[1].zw = gl_TexCoord[0].xy - dy;
24         gl_TexCoord[2].xy = gl_TexCoord[0].xy - dg2;
25         gl_TexCoord[2].zw = gl_TexCoord[0].xy + dx;
26         gl_TexCoord[3].xy = gl_TexCoord[0].xy + dg1;
27         gl_TexCoord[3].zw = gl_TexCoord[0].xy + dy;
28         gl_TexCoord[4].xy = gl_TexCoord[0].xy + dg2;
29         gl_TexCoord[4].zw = gl_TexCoord[0].xy - dx;
30      }
31     ]]></vertex>
32  
33    <fragment><![CDATA[
34      vec3 grayscale(vec3 color)
35      {
36         return vec3(dot(color, vec3(0.3, 0.59, 0.11)));
37      }
38  
39      uniform sampler2D rubyTexture;
40      uniform vec2 rubyTextureSize;
41  
42      void main ()
43      {
44         vec3 c00 = texture2D(rubyTexture, gl_TexCoord[1].xy).xyz;
45         vec3 c02 = texture2D(rubyTexture, gl_TexCoord[4].xy).xyz;
46         vec3 c11 = texture2D(rubyTexture, gl_TexCoord[0].xy).xyz;
47         vec3 c20 = texture2D(rubyTexture, gl_TexCoord[2].xy).xyz;
48         vec3 c22 = texture2D(rubyTexture, gl_TexCoord[3].xy).xyz;
49  
50         vec2 tex = gl_TexCoord[0].xy;
51         vec2 texsize = rubyTextureSize;
52  
53         vec3 first = mix(c00, c20, fract(tex.x * texsize.x + 0.5));
54         vec3 second = mix(c02, c22, fract(tex.x * texsize.x + 0.5));
55  
56         vec3 res = mix(first, second, fract(tex.y * texsize.y + 0.5));
57         vec4 final = vec4(5.0 * grayscale(abs(res - c11)), 1.0);
58         gl_FragColor = clamp(final, 0.0, 1.0);
59      }
60     ]]></fragment>
61 </shader>
62