| Gantenbain |
21.12.2011 19:39 |
Шейдер во Flash'е и Pixel Bender'e ведет себя по разному
Рисую в BitmapData с нулевой альфой. Заполняющие пикселя имеют альфу = 1 и не касаются границ BitmapDatы. Границы, полученного рисунка надо разгладить (т.е. только пиксели, имеющие в соседях альфу = 0).
Набросал такой шейдер:
Код:
>
{
input image4 src;
output pixel4 dst;
void
evaluatePixel()
{
dst = sampleNearest(src,outCoord());
if(dst.a > 0.0){
float2 s = outCoord();
pixel4 p0 = sampleNearest(src, float2(s.x, s.y - 1.0));
pixel4 p1 = sampleNearest(src, float2(s.x - 1.0, s.y));
pixel4 p2 = sampleNearest(src, float2(s.x - 1.0, s.y - 1.0));
pixel4 p3 = sampleNearest(src, float2(s.x - 1.0, s.y + 1.0));
if(!all(bool4(int(p0.a), int(p1.a), int(p2.a), int(p3.a)))) {
p2 = sampleNearest(src, float2(s.x, s.y + 1.0));
p3 = sampleNearest(src, float2(s.x + 1.0, s.y));
dst.rgb = (dst.rgb + p0.rgb + p1.rgb + p2.rgb + p3.rgb) / 5.0;
dst.a = dst.a;
} else {
p2 = sampleNearest(src, float2(s.x, s.y + 1.0));
p3 = sampleNearest(src, float2(s.x + 1.0, s.y));
pixel4 p4 = sampleNearest(src, float2(s.x + 1.0, s.y - 1.0));
pixel4 p5 = sampleNearest(src, float2(s.x + 1.0, s.y + 1.0));
if(!all(bool4(int(p2.a), int(p3.a), int(p4.a), int(p5.a)))) {
dst.rgb = (dst.rgb + p0.rgb + p1.rgb + p2.rgb + p3.rgb) / 5.0;
dst.a = dst.a;
}
}
}
}
}
В AS3 вставляю так:
Код AS3:
[Embed(source = "courveedge.pbj", mimeType = "application/octet-stream")]
var AaEdge:Class;
var shader:Shader = new Shader();
shader.byteCode = new AaEdge();
var shaderFilter:ShaderFilter = new ShaderFilter( shader );
bmd.applyFilter(bmd, new Rectangle(0, 0, bmd.width, bmd.height), new Point(), shaderFilter);
var bmp:Bitmap = new Bitmap(bmd);
В IDE Pixel Bender'а шейдер работает так, как от него ожидалось, фильтр, примененный к BitmapDatа, размазывает весь рисунок, а не только края, хотя внутри тела рисунка ни один пиксел не имеет нулевую альфу.
Если кому очевидно, в чем проблема, плз, поясните и мне. |
