Merge pull request #559 from szukw000/cmyk-cielab-esycc
[openjpeg.git] / src / lib / openjp2 / mqc.c
index 1e01d054f78a7bb959037bfc12ae2cc85249b34a..7e0f5637bf80470f18f13ef8d8ef10a62ca29879 100644 (file)
@@ -1,9 +1,15 @@
 /*
- * Copyright (c) 2002-2007, Communications and Remote Sensing Laboratory, Universite catholique de Louvain (UCL), Belgium
- * Copyright (c) 2002-2007, Professor Benoit Macq
+ * The copyright in this software is being made available under the 2-clauses 
+ * BSD License, included below. This software may be subject to other third 
+ * party and contributor rights, including patent rights, and no such rights
+ * are granted under this license.
+ *
+ * Copyright (c) 2002-2014, Universite catholique de Louvain (UCL), Belgium
+ * Copyright (c) 2002-2014, Professor Benoit Macq
  * Copyright (c) 2001-2003, David Janssens
  * Copyright (c) 2002-2003, Yannick Verschueren
- * Copyright (c) 2003-2007, Francois-Olivier Devaux and Antonin Descampe
+ * Copyright (c) 2003-2007, Francois-Olivier Devaux 
+ * Copyright (c) 2003-2014, Antonin Descampe
  * Copyright (c) 2005, Herve Drolon, FreeImage Team
  * Copyright (c) 2008, Jerome Fimes, Communications & Systemes <jerome.fimes@c-s.fr>
  * All rights reserved.
@@ -196,16 +202,16 @@ static opj_mqc_state_t mqc_states[47 * 2] = {
 ==========================================================
 */
 
-void opj_mqc_byteout(opj_mqc_t *mqc) {
+static void opj_mqc_byteout(opj_mqc_t *mqc) {
        if (*mqc->bp == 0xff) {
                mqc->bp++;
-               *mqc->bp = mqc->c >> 20;
+               *mqc->bp = (OPJ_BYTE)(mqc->c >> 20);
                mqc->c &= 0xfffff;
                mqc->ct = 7;
        } else {
                if ((mqc->c & 0x8000000) == 0) {        /* ((mqc->c&0x8000000)==0) CHANGE */
                        mqc->bp++;
-                       *mqc->bp = mqc->c >> 19;
+                       *mqc->bp = (OPJ_BYTE)(mqc->c >> 19);
                        mqc->c &= 0x7ffff;
                        mqc->ct = 8;
                } else {
@@ -213,12 +219,12 @@ void opj_mqc_byteout(opj_mqc_t *mqc) {
                        if (*mqc->bp == 0xff) {
                                mqc->c &= 0x7ffffff;
                                mqc->bp++;
-                               *mqc->bp = mqc->c >> 20;
+                               *mqc->bp = (OPJ_BYTE)(mqc->c >> 20);
                                mqc->c &= 0xfffff;
                                mqc->ct = 7;
                        } else {
                                mqc->bp++;
-                               *mqc->bp = mqc->c >> 19;
+                               *mqc->bp = (OPJ_BYTE)(mqc->c >> 19);
                                mqc->c &= 0x7ffff;
                                mqc->ct = 8;
                        }
@@ -226,7 +232,7 @@ void opj_mqc_byteout(opj_mqc_t *mqc) {
        }
 }
 
-void opj_mqc_renorme(opj_mqc_t *mqc) {
+static void opj_mqc_renorme(opj_mqc_t *mqc) {
        do {
                mqc->a <<= 1;
                mqc->c <<= 1;
@@ -237,7 +243,7 @@ void opj_mqc_renorme(opj_mqc_t *mqc) {
        } while ((mqc->a & 0x8000) == 0);
 }
 
-void opj_mqc_codemps(opj_mqc_t *mqc) {
+static void opj_mqc_codemps(opj_mqc_t *mqc) {
        mqc->a -= (*mqc->curctx)->qeval;
        if ((mqc->a & 0x8000) == 0) {
                if (mqc->a < (*mqc->curctx)->qeval) {
@@ -252,7 +258,7 @@ void opj_mqc_codemps(opj_mqc_t *mqc) {
        }
 }
 
-void opj_mqc_codelps(opj_mqc_t *mqc) {
+static void opj_mqc_codelps(opj_mqc_t *mqc) {
        mqc->a -= (*mqc->curctx)->qeval;
        if (mqc->a < (*mqc->curctx)->qeval) {
                mqc->c += (*mqc->curctx)->qeval;
@@ -263,7 +269,7 @@ void opj_mqc_codelps(opj_mqc_t *mqc) {
        opj_mqc_renorme(mqc);
 }
 
-void opj_mqc_setbits(opj_mqc_t *mqc) {
+static void opj_mqc_setbits(opj_mqc_t *mqc) {
        OPJ_UINT32 tempc = mqc->c + mqc->a;
        mqc->c |= 0xffff;
        if (mqc->c >= tempc) {
@@ -274,10 +280,10 @@ void opj_mqc_setbits(opj_mqc_t *mqc) {
 static INLINE OPJ_INT32 opj_mqc_mpsexchange(opj_mqc_t *const mqc) {
        OPJ_INT32 d;
        if (mqc->a < (*mqc->curctx)->qeval) {
-               d = 1 - (*mqc->curctx)->mps;
+               d = (OPJ_INT32)(1 - (*mqc->curctx)->mps);
                *mqc->curctx = (*mqc->curctx)->nlps;
        } else {
-               d = (*mqc->curctx)->mps;
+               d = (OPJ_INT32)(*mqc->curctx)->mps;
                *mqc->curctx = (*mqc->curctx)->nmps;
        }
        
@@ -288,11 +294,11 @@ static INLINE OPJ_INT32 opj_mqc_lpsexchange(opj_mqc_t *const mqc) {
        OPJ_INT32 d;
        if (mqc->a < (*mqc->curctx)->qeval) {
                mqc->a = (*mqc->curctx)->qeval;
-               d = (*mqc->curctx)->mps;
+               d = (OPJ_INT32)(*mqc->curctx)->mps;
                *mqc->curctx = (*mqc->curctx)->nmps;
        } else {
                mqc->a = (*mqc->curctx)->qeval;
-               d = 1 - (*mqc->curctx)->mps;
+               d = (OPJ_INT32)(1 - (*mqc->curctx)->mps);
                *mqc->curctx = (*mqc->curctx)->nlps;
        }
        
@@ -353,18 +359,20 @@ static INLINE void opj_mqc_renormd(opj_mqc_t *const mqc) {
 ==========================================================
 */
 
-opj_mqc_t* mqc_create(void) {
+opj_mqc_t* opj_mqc_create(void) {
        opj_mqc_t *mqc = (opj_mqc_t*)opj_malloc(sizeof(opj_mqc_t));
 #ifdef MQC_PERF_OPT
-       mqc->buffer = NULL;
+       if (mqc) {
+               mqc->buffer = NULL;
+       }
 #endif
        return mqc;
 }
 
-void mqc_destroy(opj_mqc_t *mqc) {
+void opj_mqc_destroy(opj_mqc_t *mqc) {
        if(mqc) {
 #ifdef MQC_PERF_OPT
-               if (mqc->buffer) { /* TODO: LH: this test is pointless as free() is a no-op on 0 */
+               if (mqc->buffer) {
                        opj_free(mqc->buffer);
                }
 #endif
@@ -372,12 +380,17 @@ void mqc_destroy(opj_mqc_t *mqc) {
        }
 }
 
-OPJ_UINT32 mqc_numbytes(opj_mqc_t *mqc) {
-       return mqc->bp - mqc->start;
+OPJ_UINT32 opj_mqc_numbytes(opj_mqc_t *mqc) {
+       const ptrdiff_t diff = mqc->bp - mqc->start;
+#if 0
+  assert( diff <= 0xffffffff && diff >= 0 ); /* UINT32_MAX */
+#endif
+       return (OPJ_UINT32)diff;
 }
 
-void mqc_init_enc(opj_mqc_t *mqc, OPJ_BYTE *bp) {
-       mqc_setcurctx(mqc, 0);
+void opj_mqc_init_enc(opj_mqc_t *mqc, OPJ_BYTE *bp) {
+    /* TODO MSD: need to take a look to the v2 version */
+       opj_mqc_setcurctx(mqc, 0);
        mqc->a = 0x8000;
        mqc->c = 0;
        mqc->bp = bp - 1;
@@ -388,7 +401,7 @@ void mqc_init_enc(opj_mqc_t *mqc, OPJ_BYTE *bp) {
        mqc->start = bp;
 }
 
-void mqc_encode(opj_mqc_t *mqc, OPJ_UINT32 d) {
+void opj_mqc_encode(opj_mqc_t *mqc, OPJ_UINT32 d) {
        if ((*mqc->curctx)->mps == d) {
                opj_mqc_codemps(mqc);
        } else {
@@ -396,7 +409,7 @@ void mqc_encode(opj_mqc_t *mqc, OPJ_UINT32 d) {
        }
 }
 
-void mqc_flush(opj_mqc_t *mqc) {
+void opj_mqc_flush(opj_mqc_t *mqc) {
        opj_mqc_setbits(mqc);
        mqc->c <<= mqc->ct;
        opj_mqc_byteout(mqc);
@@ -408,7 +421,7 @@ void mqc_flush(opj_mqc_t *mqc) {
        }
 }
 
-void mqc_bypass_init_enc(opj_mqc_t *mqc) {
+void opj_mqc_bypass_init_enc(opj_mqc_t *mqc) {
        mqc->c = 0;
        mqc->ct = 8;
        /*if (*mqc->bp == 0xff) {
@@ -416,12 +429,12 @@ void mqc_bypass_init_enc(opj_mqc_t *mqc) {
      } */
 }
 
-void mqc_bypass_enc(opj_mqc_t *mqc, OPJ_UINT32 d) {
+void opj_mqc_bypass_enc(opj_mqc_t *mqc, OPJ_UINT32 d) {
        mqc->ct--;
        mqc->c = mqc->c + (d << mqc->ct);
        if (mqc->ct == 0) {
                mqc->bp++;
-               *mqc->bp = mqc->c;
+               *mqc->bp = (OPJ_BYTE)mqc->c;
                mqc->ct = 8;
                if (*mqc->bp == 0xff) {
                        mqc->ct = 7;
@@ -430,7 +443,7 @@ void mqc_bypass_enc(opj_mqc_t *mqc, OPJ_UINT32 d) {
        }
 }
 
-OPJ_UINT32 mqc_bypass_flush_enc(opj_mqc_t *mqc) {
+OPJ_UINT32 opj_mqc_bypass_flush_enc(opj_mqc_t *mqc) {
        OPJ_BYTE bit_padding;
        
        bit_padding = 0;
@@ -438,11 +451,11 @@ OPJ_UINT32 mqc_bypass_flush_enc(opj_mqc_t *mqc) {
        if (mqc->ct != 0) {
                while (mqc->ct > 0) {
                        mqc->ct--;
-                       mqc->c += bit_padding << mqc->ct;
+                       mqc->c += (OPJ_UINT32)(bit_padding << mqc->ct);
                        bit_padding = (bit_padding + 1) & 0x01;
                }
                mqc->bp++;
-               *mqc->bp = mqc->c;
+               *mqc->bp = (OPJ_BYTE)mqc->c;
                mqc->ct = 8;
                mqc->c = 0;
        }
@@ -450,22 +463,22 @@ OPJ_UINT32 mqc_bypass_flush_enc(opj_mqc_t *mqc) {
        return 1;
 }
 
-void mqc_reset_enc(opj_mqc_t *mqc) {
-       mqc_resetstates(mqc);
-       mqc_setstate(mqc, T1_CTXNO_UNI, 0, 46);
-       mqc_setstate(mqc, T1_CTXNO_AGG, 0, 3);
-       mqc_setstate(mqc, T1_CTXNO_ZC, 0, 4);
+void opj_mqc_reset_enc(opj_mqc_t *mqc) {
+       opj_mqc_resetstates(mqc);
+       opj_mqc_setstate(mqc, T1_CTXNO_UNI, 0, 46);
+       opj_mqc_setstate(mqc, T1_CTXNO_AGG, 0, 3);
+       opj_mqc_setstate(mqc, T1_CTXNO_ZC, 0, 4);
 }
 
-OPJ_UINT32 mqc_restart_enc(opj_mqc_t *mqc) {
+OPJ_UINT32 opj_mqc_restart_enc(opj_mqc_t *mqc) {
        OPJ_UINT32 correction = 1;
        
        /* <flush part> */
-       OPJ_INT32 n = 27 - 15 - mqc->ct;
+       OPJ_INT32 n = (OPJ_INT32)(27 - 15 - mqc->ct);
        mqc->c <<= mqc->ct;
        while (n > 0) {
                opj_mqc_byteout(mqc);
-               n -= mqc->ct;
+               n -= (OPJ_INT32)mqc->ct;
                mqc->c <<= mqc->ct;
        }
        opj_mqc_byteout(mqc);
@@ -473,9 +486,9 @@ OPJ_UINT32 mqc_restart_enc(opj_mqc_t *mqc) {
        return correction;
 }
 
-void mqc_restart_init_enc(opj_mqc_t *mqc) {
+void opj_mqc_restart_init_enc(opj_mqc_t *mqc) {
        /* <Re-init part> */
-       mqc_setcurctx(mqc, 0);
+       opj_mqc_setcurctx(mqc, 0);
        mqc->a = 0x8000;
        mqc->c = 0;
        mqc->ct = 12;
@@ -485,14 +498,14 @@ void mqc_restart_init_enc(opj_mqc_t *mqc) {
        }
 }
 
-void mqc_erterm_enc(opj_mqc_t *mqc) {
-       OPJ_INT32 k = 11 - mqc->ct + 1;
+void opj_mqc_erterm_enc(opj_mqc_t *mqc) {
+       OPJ_INT32 k = (OPJ_INT32)(11 - mqc->ct + 1);
        
        while (k > 0) {
                mqc->c <<= mqc->ct;
                mqc->ct = 0;
                opj_mqc_byteout(mqc);
-               k -= mqc->ct;
+               k -= (OPJ_INT32)mqc->ct;
        }
        
        if (*mqc->bp != 0xff) {
@@ -500,36 +513,37 @@ void mqc_erterm_enc(opj_mqc_t *mqc) {
        }
 }
 
-void mqc_segmark_enc(opj_mqc_t *mqc) {
+void opj_mqc_segmark_enc(opj_mqc_t *mqc) {
        OPJ_UINT32 i;
-       mqc_setcurctx(mqc, 18);
+       opj_mqc_setcurctx(mqc, 18);
        
        for (i = 1; i < 5; i++) {
-               mqc_encode(mqc, i % 2);
+               opj_mqc_encode(mqc, i % 2);
        }
 }
 
-opj_bool mqc_init_dec(opj_mqc_t *mqc, OPJ_BYTE *bp, OPJ_UINT32 len) {
-       mqc_setcurctx(mqc, 0);
+OPJ_BOOL opj_mqc_init_dec(opj_mqc_t *mqc, OPJ_BYTE *bp, OPJ_UINT32 len) {
+       opj_mqc_setcurctx(mqc, 0);
        mqc->start = bp;
        mqc->end = bp + len;
        mqc->bp = bp;
        if (len==0) mqc->c = 0xff << 16;
-       else mqc->c = *mqc->bp << 16;
+       else mqc->c = (OPJ_UINT32)(*mqc->bp << 16);
 
-#ifdef MQC_PERF_OPT
+#ifdef MQC_PERF_OPT /* TODO_MSD: check this option and put in experimental */
        {
-               unsigned int c;
-               unsigned int *ip;
-               unsigned char *end = mqc->end - 1;
-                void* new_buffer = opj_realloc(mqc->buffer, (len + 1) * sizeof(unsigned int));
-                if (! new_buffer) {
-                        opj_free(mqc->buffer);
-                        mqc->buffer = NULL;
-                        return OPJ_FALSE;
-                }
-                mqc->buffer = new_buffer;
-               ip = (unsigned int *) mqc->buffer;
+        OPJ_UINT32 c;
+               OPJ_UINT32 *ip;
+               OPJ_BYTE *end = mqc->end - 1;
+        void* new_buffer = opj_realloc(mqc->buffer, (len + 1) * sizeof(OPJ_UINT32));
+        if (! new_buffer) {
+            opj_free(mqc->buffer);
+            mqc->buffer = NULL;
+            return OPJ_FALSE;
+        }
+        mqc->buffer = new_buffer;
+               
+        ip = (OPJ_UINT32 *) mqc->buffer;
 
                while (bp < end) {
                        c = *(bp + 1);
@@ -567,7 +581,7 @@ opj_bool mqc_init_dec(opj_mqc_t *mqc, OPJ_BYTE *bp, OPJ_UINT32 len) {
         return OPJ_TRUE;
 }
 
-OPJ_INT32 mqc_decode(opj_mqc_t *const mqc) {
+OPJ_INT32 opj_mqc_decode(opj_mqc_t *const mqc) {
        OPJ_INT32 d;
        mqc->a -= (*mqc->curctx)->qeval;
        if ((mqc->c >> 16) < (*mqc->curctx)->qeval) {
@@ -579,22 +593,22 @@ OPJ_INT32 mqc_decode(opj_mqc_t *const mqc) {
                        d = opj_mqc_mpsexchange(mqc);
                        opj_mqc_renormd(mqc);
                } else {
-                       d = (*mqc->curctx)->mps;
+                       d = (OPJ_INT32)(*mqc->curctx)->mps;
                }
        }
 
        return d;
 }
 
-void mqc_resetstates(opj_mqc_t *mqc) {
+void opj_mqc_resetstates(opj_mqc_t *mqc) {
        OPJ_UINT32 i;
        for (i = 0; i < MQC_NUMCTXS; i++) {
                mqc->ctxs[i] = mqc_states;
        }
 }
 
-void mqc_setstate(opj_mqc_t *mqc, OPJ_UINT32 ctxno, OPJ_UINT32 msb, OPJ_INT32 prob) {
-       mqc->ctxs[ctxno] = &mqc_states[msb + (prob << 1)];
+void opj_mqc_setstate(opj_mqc_t *mqc, OPJ_UINT32 ctxno, OPJ_UINT32 msb, OPJ_INT32 prob) {
+       mqc->ctxs[ctxno] = &mqc_states[msb + (OPJ_UINT32)(prob << 1)];
 }