codecparsers: fix bitplanes decoding (DIFF6 or NORM6).
authorGwenole Beauchesne <gwenole.beauchesne@intel.com>
Thu, 24 Jan 2013 16:28:22 +0000 (17:28 +0100)
committerGwenole Beauchesne <gwenole.beauchesne@intel.com>
Thu, 24 Jan 2013 16:48:39 +0000 (17:48 +0100)
commit9c0f0926602af105f18f0b18f89ff7142eb02768
tree6d7a85d01f9cd48ebf0f1a5de78aa3615c6906a1
parent3fba492c9ea8cbbcbe4049f103699fd63cbc463c
codecparsers: fix bitplanes decoding (DIFF6 or NORM6).

Fix decoding of DIFF6 or NORM6 bitplanes with an odd number of lines
(3x2 "horizontal" tiles). In this case, we have to skip the first line
of macroblocks but <width> number of bytes was used to do so, instead
of the actual <stride> size.

Likewise, the number of remaining bytes to skip in the row is <width>
minus the x offset since the output data buffer is already offset by
x bytes. This fixes cases with a number of macroblocks per line that
is not a multiple of 8.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>
gst-libs/gst/codecparsers/gstvc1parser.c