]> git.nihav.org Git - nihav.git/commitdiff
rv6: edge emulation should align to 16x16 luma blocks
authorKostya Shishkov <kostya.shishkov@gmail.com>
Thu, 3 Nov 2022 17:27:58 +0000 (18:27 +0100)
committerKostya Shishkov <kostya.shishkov@gmail.com>
Thu, 3 Nov 2022 17:27:58 +0000 (18:27 +0100)
Reported by Peter Ross

nihav-realmedia/src/codecs/rv60dsp.rs

index 3a90123f44d9571a24acc747e43d530385bfdac3..829d32591ef0a03dc3d9b17c141640899c879826 100644 (file)
@@ -492,7 +492,7 @@ impl RV60DSP {
                 luma_mc(dst, doffset, dstride, src, soffset, sstride, w, h, cx, cy);
             } else {
                 let mut ebuf: [u8; 70*70] = [0; 70*70];
-                edge_emu(prev_frame, (x as isize) + (dx as isize) - 2, (y as isize) + (dy as isize) - 2, w+5, h+5, &mut ebuf, 70, 0, 0);
+                edge_emu(prev_frame, (x as isize) + (dx as isize) - 2, (y as isize) + (dy as isize) - 2, w+5, h+5, &mut ebuf, 70, 0, 4);
                 luma_mc(dst, doffset, dstride, &ebuf, 70*2 + 2, 70, w, h, cx, cy);
             }
         }
@@ -520,7 +520,7 @@ impl RV60DSP {
                 chroma_mc(frame.data, doffset, dstride, src, soffset, sstride, cw, ch, cx, cy);
             } else {
                 let mut ebuf: [u8; 40*40] = [0; 40*40];
-                edge_emu(prev_frame, ((x >> 1) as isize) + (dx as isize), ((y >> 1) as isize) + (dy as isize), cw+1, ch+1, &mut ebuf, 40, comp, 0);
+                edge_emu(prev_frame, ((x >> 1) as isize) + (dx as isize), ((y >> 1) as isize) + (dy as isize), cw+1, ch+1, &mut ebuf, 40, comp, 3);
                 chroma_mc(frame.data, doffset, dstride, &ebuf, 0, 40, cw, ch, cx, cy);
             }
         }