]> git.nihav.org Git - nihav.git/blobdiff - src/codecs/intel263.rs
deblocking for I.263
[nihav.git] / src / codecs / intel263.rs
index bb20262d5099c3e4e4dff015edbb1f4fdb0f6f3d..99f0d4c3548aeda29cbef8fc5ce79620af4323e7 100644 (file)
@@ -111,6 +111,25 @@ fn decode_mv(br: &mut BitReader, mv_cb: &Codebook<u8>) -> DecoderResult<MV> {
     Ok(MV::new(xval, yval))
 }
 
+fn decode_b_info(br: &mut BitReader, is_pb: bool, is_intra: bool) -> DecoderResult<BBlockInfo> {
+    if is_pb { // as improved pb
+        let pb_mv_add = if is_intra { 1 } else { 0 };
+        if br.read_bool()?{
+            if br.read_bool()? {
+                let pb_mv_count = 1 - (br.read(1)? as usize);
+                let cbpb = br.read(6)? as u8;
+                Ok(BBlockInfo::new(true, cbpb, pb_mv_count + pb_mv_add, pb_mv_count == 1))
+            } else {
+                Ok(BBlockInfo::new(true, 0, 1 + pb_mv_add, true))
+            }
+        } else {
+            Ok(BBlockInfo::new(true, 0, pb_mv_add, false))
+        }
+    } else {
+        Ok(BBlockInfo::new(false, 0, 0, false))
+    }
+}
+
 impl<'a> BlockDecoder for Intel263BR<'a> {
 
 #[allow(unused_variables)]
@@ -132,16 +151,19 @@ impl<'a> BlockDecoder for Intel263BR<'a> {
         br.read(1)?; // syntax arithmetic coding
         let apm = br.read_bool()?;
         self.is_pb = br.read_bool()?;
+        let deblock;
         if sfmt == 0b111 {
             sfmt = br.read(3)?;
             validate!((sfmt != 0b000) && (sfmt != 0b111));
             br.read(2)?; // unknown flags
-            let deblock = br.read_bool()?;
+            deblock = br.read_bool()?;
             br.read(1)?; // unknown flag
             let pbplus = br.read_bool()?;
             br.read(5)?; // unknown flags
             let marker = br.read(5)?;
             validate!(marker == 1);
+        } else {
+            deblock = false;
         }
         let w; let h;
         if sfmt == 0b110 {
@@ -162,19 +184,24 @@ impl<'a> BlockDecoder for Intel263BR<'a> {
         let quant = br.read(5)?;
         let cpm = br.read_bool()?;
         validate!(!cpm);
+
+        let pbinfo;
         if self.is_pb {
             let trb = br.read(3)?;
             let dbquant = br.read(2)?;
+            pbinfo = Some(PBInfo::new(trb as u8, dbquant as u8));
+        } else {
+            pbinfo = None;
         }
         while br.read_bool()? { // skip PEI
             br.read(8)?;
         }
-println!("frame {}x{} intra: {} q {} pb {} apm {} umv {} @{}", w, h, is_intra, quant, self.is_pb, apm, umv, br.tell());
+//println!("frame {}x{} intra: {} q {} pb {} apm {} umv {} @{}", w, h, is_intra, quant, self.is_pb, apm, umv, br.tell());
         self.gob_no = 0;
         self.mb_w = (w + 15) >> 4;
 
         let ftype = if is_intra { Type::I } else { Type::P };
-        let picinfo = PicInfo::new(w, h, ftype, quant as u8, apm, umv, self.is_pb, tr);
+        let picinfo = PicInfo::new(w, h, ftype, quant as u8, apm, umv, tr, pbinfo, deblock);
         Ok(picinfo)
     }
 
@@ -182,12 +209,11 @@ println!("frame {}x{} intra: {} q {} pb {} apm {} umv {} @{}", w, h, is_intra, q
     fn decode_slice_header(&mut self, info: &PicInfo) -> DecoderResult<Slice> {
         let mut br = &mut self.br;
         let gbsc = br.read(17)?;
-println!("GBSC = {}", gbsc);
         validate!(gbsc == 1);
         let gn = br.read(5)?;
         let gfid = br.read(2)?;
         let gquant = br.read(5)?;
-println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
+//println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
         let ret = Slice::new(0, self.gob_no, gquant as u8);
         self.gob_no += 1;
         Ok(ret)
@@ -207,11 +233,9 @@ println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
                         let idx = br.read(2)? as usize;
                         q = ((q as i16) + (H263_DQUANT_TAB[idx] as i16)) as u8;
                     }
-//println!("got cbp {:X}", cbp);
                     Ok(BlockInfo::new(Type::I, cbp, q))
                 },
             Type::P => {
-//println!("@{}",br.tell());
                     if br.read_bool()? { return Ok(BlockInfo::new(Type::Skip, 0, info.get_quant())); }
                     let mut cbpc = br.read_cb(&self.tables.inter_mcbpc_cb)?;
                     while cbpc == 20 { cbpc = br.read_cb(&self.tables.inter_mcbpc_cb)?; }
@@ -220,22 +244,7 @@ println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
                     let is_4x4   = (cbpc & 0x10) != 0;
                     if is_intra {
                         let mut mvec: Vec<MV> = Vec::new();
-                        let cbpb;
-                        let pb_mv_count: usize;
-                        if self.is_pb && br.read_bool()? {
-                            let c = br.read_bool()?;
-                            if c {
-                                pb_mv_count = 2 - (br.read(1)? as usize);
-                                cbpb = br.read(6)? as u8;
-                            } else {
-                                pb_mv_count = 2;
-                                cbpb = 0;
-                            }
-//println!("  mvc {} cbpb {:02X}", pb_mv_count, cbpb);
-                        } else {
-                            cbpb = 0;
-                            pb_mv_count = 1;
-                        }
+                        let bbinfo = decode_b_info(br, self.is_pb, true)?;
                         let cbpy = br.read_cb(&self.tables.cbpy_cb)?;
                         let cbp = (cbpy << 2) | (cbpc & 3);
                         if dquant {
@@ -243,31 +252,17 @@ println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
                             q = ((q as i16) + (H263_DQUANT_TAB[idx] as i16)) as u8;
                         }
                         let mut binfo = BlockInfo::new(Type::I, cbp, q);
+                        binfo.set_bpart(bbinfo);
                         if self.is_pb {
-                            for _ in 0..pb_mv_count {
+                            for _ in 0..bbinfo.get_num_mv() {
                                 mvec.push(decode_mv(br, &self.tables.mv_cb)?);
                             }
-                            binfo.set_mv2(cbpb, mvec.as_slice());
+                            binfo.set_b_mv(mvec.as_slice());
                         }
-//println!("@{}",br.tell());
                         return Ok(binfo);
                     }
 
-                    let cbpb;
-                    let pb_mv_count: usize;
-                    if self.is_pb && br.read_bool()?{
-                        let c = br.read_bool()?;
-                        if c {
-                            pb_mv_count = 1 - (br.read(1)? as usize);
-                            cbpb = br.read(6)? as u8;
-                        } else {
-                            pb_mv_count = 1;
-                            cbpb = 0;
-                        }
-                    } else {
-                        cbpb = 0;
-                        pb_mv_count = 0;
-                    }
+                    let bbinfo = decode_b_info(br, self.is_pb, false)?;
                     let mut cbpy = br.read_cb(&self.tables.cbpy_cb)?;
 //                    if /* !aiv && */(cbpc & 3) != 3 {
                         cbpy ^= 0xF;
@@ -278,9 +273,9 @@ println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
                         q = ((q as i16) + (H263_DQUANT_TAB[idx] as i16)) as u8;
                     }
                     let mut binfo = BlockInfo::new(Type::P, cbp, q);
+                    binfo.set_bpart(bbinfo);
                     if !is_4x4 {
                         let mvec: [MV; 1] = [decode_mv(br, &self.tables.mv_cb)?];
-//println!("@{} CBPB = {:X} mv2 {}",br.tell(), cbpb, pb_mv_count);
                         binfo.set_mv(&mvec);
                     } else {
                         let mvec: [MV; 4] = [
@@ -292,14 +287,13 @@ println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
                         binfo.set_mv(&mvec);
                     }
                     if self.is_pb {
-                        let mut mvec: Vec<MV> = Vec::with_capacity(pb_mv_count);
-                        for _ in 0..pb_mv_count {
+                        let mut mvec: Vec<MV> = Vec::with_capacity(bbinfo.get_num_mv());
+                        for _ in 0..bbinfo.get_num_mv() {
                             let mv = decode_mv(br, &self.tables.mv_cb)?;
                             mvec.push(mv);
                         }
-                        binfo.set_mv2(cbpb, mvec.as_slice());
+                        binfo.set_b_mv(mvec.as_slice());
                     }
-//println!("@{}",br.tell());
                     Ok(binfo)
                 },
             _ => { Err(DecoderError::InvalidData) },
@@ -307,19 +301,144 @@ println!("GOB gn {:X} id {} q {}", gn, gfid, gquant);
     }
 
     #[allow(unused_variables)]
-    fn decode_block_intra(&mut self, info: &BlockInfo, no: usize, coded: bool, blk: &mut [i16; 64]) -> DecoderResult<()> {
-        self.decode_block(info.get_q(), true, coded, blk)
+    fn decode_block_intra(&mut self, info: &BlockInfo, quant: u8, no: usize, coded: bool, blk: &mut [i16; 64]) -> DecoderResult<()> {
+        self.decode_block(quant, true, coded, blk)
     }
 
     #[allow(unused_variables)]
-    fn decode_block_inter(&mut self, info: &BlockInfo, no: usize, coded: bool, blk: &mut [i16; 64]) -> DecoderResult<()> {
-        self.decode_block(info.get_q(), false, coded, blk)
+    fn decode_block_inter(&mut self, info: &BlockInfo, quant: u8, no: usize, coded: bool, blk: &mut [i16; 64]) -> DecoderResult<()> {
+        self.decode_block(quant, false, coded, blk)
     }
 
-#[allow(unused_variables)]
-    fn calc_mv(&mut self, vec: MV) {}
-
     fn is_slice_end(&mut self) -> bool { self.br.peek(16) == 0 }
+
+    fn filter_row(&mut self, buf: &mut NAVideoBuffer<u8>, mb_y: usize, mb_w: usize, cbpi: &CBPInfo) {
+        let stride  = buf.get_stride(0);
+        let mut off = buf.get_offset(0) + mb_y * 16 * stride;
+        for mb_x in 0..mb_w {
+            let coff = off;
+            let coded0 = cbpi.is_coded(mb_x, 0);
+            let coded1 = cbpi.is_coded(mb_x, 1);
+            let q = cbpi.get_q(mb_w + mb_x);
+            if mb_y != 0 {
+                if coded0 && cbpi.is_coded_top(mb_x, 0) { deblock_hor(buf, 0, q, coff); }
+                if coded1 && cbpi.is_coded_top(mb_x, 1) { deblock_hor(buf, 0, q, coff + 8); }
+            }
+            let coff = off + 8 * stride;
+            if cbpi.is_coded(mb_x, 2) && coded0 { deblock_hor(buf, 0, q, coff); }
+            if cbpi.is_coded(mb_x, 3) && coded1 { deblock_hor(buf, 0, q, coff + 8); }
+            off += 16;
+        }
+        let mut leftt = false;
+        let mut leftc = false;
+        let mut off = buf.get_offset(0) + mb_y * 16 * stride;
+        for mb_x in 0..mb_w {
+            let ctop0 = cbpi.is_coded_top(mb_x, 0);
+            let ctop1 = cbpi.is_coded_top(mb_x, 0);
+            let ccur0 = cbpi.is_coded(mb_x, 0);
+            let ccur1 = cbpi.is_coded(mb_x, 1);
+            let q = cbpi.get_q(mb_w + mb_x);
+            if mb_y != 0 {
+                let coff = off - 8 * stride;
+                let qtop = cbpi.get_q(mb_x);
+                if leftt && ctop0 { deblock_ver(buf, 0, qtop, coff); }
+                if ctop0 && ctop1 { deblock_ver(buf, 0, qtop, coff + 8); }
+            }
+            if leftc && ccur0 { deblock_ver(buf, 0, q, off); }
+            if ccur0 && ccur1 { deblock_ver(buf, 0, q, off + 8); }
+            leftt = ctop1;
+            leftc = ccur1;
+            off += 16;
+        }
+        let strideu  = buf.get_stride(1);
+        let stridev  = buf.get_stride(2);
+        let offu = buf.get_offset(1) + mb_y * 8 * strideu;
+        let offv = buf.get_offset(2) + mb_y * 8 * stridev;
+        if mb_y != 0 {
+            for mb_x in 0..mb_w {
+                let ctu = cbpi.is_coded_top(mb_x, 4);
+                let ccu = cbpi.is_coded(mb_x, 4);
+                let ctv = cbpi.is_coded_top(mb_x, 5);
+                let ccv = cbpi.is_coded(mb_x, 5);
+                let q = cbpi.get_q(mb_w + mb_x);
+                if ctu && ccu { deblock_hor(buf, 1, q, offu + mb_x * 8); }
+                if ctv && ccv { deblock_hor(buf, 2, q, offv + mb_x * 8); }
+            }
+            let mut leftu = false;
+            let mut leftv = false;
+            let offu = buf.get_offset(1) + (mb_y - 1) * 8 * strideu;
+            let offv = buf.get_offset(2) + (mb_y - 1) * 8 * stridev;
+            for mb_x in 0..mb_w {
+                let ctu = cbpi.is_coded_top(mb_x, 4);
+                let ctv = cbpi.is_coded_top(mb_x, 5);
+                let qt = cbpi.get_q(mb_x);
+                if leftu && ctu { deblock_ver(buf, 1, qt, offu + mb_x * 8); }
+                if leftv && ctv { deblock_ver(buf, 2, qt, offv + mb_x * 8); }
+                leftu = ctu;
+                leftv = ctv;
+            }
+        }
+    }
+}
+
+fn deblock_hor(buf: &mut NAVideoBuffer<u8>, comp: usize, q: u8, off: usize) {
+    let stride = buf.get_stride(comp);
+    let mut dptr = buf.get_data_mut();
+    let mut buf = dptr.as_mut_slice();
+    for x in 0..8 {
+        let a = buf[off - 2 * stride + x] as i16;
+        let b = buf[off - 1 * stride + x] as i16;
+        let c = buf[off + 0 * stride + x] as i16;
+        let d = buf[off + 1 * stride + x] as i16;
+        let diff = ((a - d) * 3 + (c - b) * 8) >> 4;
+        if (diff != 0) && (diff >= -32) && (diff < 32) {
+            let d0 = diff.abs() * 2 - (q as i16);
+            let d1 = if d0 < 0 { 0 } else { d0 };
+            let d2 = diff.abs() - d1;
+            let d3 = if d2 < 0 { 0 } else { d2 };
+
+            let delta = if diff < 0 { -d3 } else { d3 };
+
+            let b1 = b + delta;
+            if      b1 < 0   { buf[off - 1 * stride + x] = 0; }
+            else if b1 > 255 { buf[off - 1 * stride + x] = 0xFF; }
+            else             { buf[off - 1 * stride + x] = b1 as u8; }
+            let c1 = c - delta;
+            if      c1 < 0   { buf[off + x] = 0; }
+            else if c1 > 255 { buf[off + x] = 0xFF; }
+            else             { buf[off + x] = c1 as u8; }
+        }
+    }
+}
+
+fn deblock_ver(buf: &mut NAVideoBuffer<u8>, comp: usize, q: u8, off: usize) {
+    let stride = buf.get_stride(comp);
+    let mut dptr = buf.get_data_mut();
+    let mut buf = dptr.as_mut_slice();
+    for y in 0..8 {
+        let a = buf[off - 2 + y * stride] as i16;
+        let b = buf[off - 1 + y * stride] as i16;
+        let c = buf[off + 0 + y * stride] as i16;
+        let d = buf[off + 1 + y * stride] as i16;
+        let diff = ((a - d) * 3 + (c - b) * 8) >> 4;
+        if (diff != 0) && (diff >= -32) && (diff < 32) {
+            let d0 = diff.abs() * 2 - (q as i16);
+            let d1 = if d0 < 0 { 0 } else { d0 };
+            let d2 = diff.abs() - d1;
+            let d3 = if d2 < 0 { 0 } else { d2 };
+
+            let delta = if diff < 0 { -d3 } else { d3 };
+
+            let b1 = b + delta;
+            if      b1 < 0   { buf[off - 1 + y * stride] = 0; }
+            else if b1 > 255 { buf[off - 1 + y * stride] = 0xFF; }
+            else             { buf[off - 1 + y * stride] = b1 as u8; }
+            let c1 = c - delta;
+            if      c1 < 0   { buf[off + y * stride] = 0; }
+            else if c1 > 255 { buf[off + y * stride] = 0xFF; }
+            else             { buf[off + y * stride] = c1 as u8; }
+        }
+    }
 }
 
 impl Intel263Decoder {
@@ -370,7 +489,7 @@ impl NADecoder for Intel263Decoder {
         let src = pkt.get_buffer();
 
         if src.len() == 8 {
-            let bret = self.dec.get_stored_pframe();
+            let bret = self.dec.get_bframe();
             let buftype;
             let is_skip;
             if let Ok(btype) = bret {
@@ -382,10 +501,9 @@ impl NADecoder for Intel263Decoder {
             }
             let mut frm = NAFrame::new_from_pkt(pkt, self.info.clone(), buftype);
             frm.set_keyframe(false);
-            frm.set_frame_type(if is_skip { FrameType::Skip } else { FrameType::P });
+            frm.set_frame_type(if is_skip { FrameType::Skip } else { FrameType::B });
             return Ok(Rc::new(RefCell::new(frm)));
         }
-//println!("frame size {}", src.len());
         let mut ibr = Intel263BR::new(&src, &self.tables);
 
         let bufinfo = self.dec.parse_frame(&mut ibr)?;