core/io: fix reading escape bits past end in codebook
authorKostya Shishkov <kostya.shishkov@gmail.com>
Sun, 26 Apr 2020 12:14:31 +0000 (14:14 +0200)
committerKostya Shishkov <kostya.shishkov@gmail.com>
Sun, 26 Apr 2020 12:14:31 +0000 (14:14 +0200)
nihav-core/src/io/codebook.rs

index 553f2f9c84e77415580404ae38fb58c092bd465c..d835ce31501af39b963a0e6985a09299ca0da690 100644 (file)
@@ -370,10 +370,10 @@ impl<'a, S: Copy> CodebookReader<S> for BitReader<'a> {
             let bits = cb.table[lut_idx] & 0x7F;
             esc  = (cb.table[lut_idx] & 0x80) != 0;
             idx  = (cb.table[lut_idx] >> 8) as usize;
-            if (bits as isize) > self.left() {
+            let skip_bits = if esc { u32::from(lut_bits) } else { bits };
+            if (skip_bits as isize) > self.left() {
                 return Err(CodebookError::InvalidCode);
             }
-            let skip_bits = if esc { u32::from(lut_bits) } else { bits };
             self.skip(skip_bits as u32).unwrap();
             lut_bits = bits as u8;
         }