citadel/md5.c

   1 /*
   2  * This code implements the MD5 message-digest algorithm.
   3  * The algorithm is due to Ron Rivest.  This code was
   4  * written by Colin Plumb in 1993, no copyright is claimed.
   5  * This code is in the public domain; do with it what you wish.
   6  *
   7  * Equivalent code is available from RSA Data Security, Inc.
   8  * This code has been tested against that, and is equivalent,
   9  * except that you don't need to include two pages of legalese
  10  * with every copy.
  11  *
  12  * To compute the message digest of a chunk of bytes, declare an
  13  * MD5Context structure, pass it to MD5Init, call MD5Update as
  14  * needed on buffers full of bytes, and then call MD5Final, which
  15  * will fill a supplied 16-byte array with the digest.
  16  */
  17
  18 #include <stdio.h>
  19 #include <sys/types.h>
  20 #include <ctype.h>
  21 #include <string.h>             /* for memcpy() */
  22 #include "md5.h"
  23
  24 #ifndef HIGHFIRST
  25 #define byteReverse(buf, len)   /* Nothing */
  26 #else
  27 void byteReverse(unsigned char *buf, unsigned longs);
  28
  29 #ifndef ASM_MD5
  30 /*
  31  * Note: this code is harmless on little-endian machines.
  32  */
  33 void byteReverse(unsigned char *buf, unsigned longs)
  34 {
  35         cit_uint32_t t;
  36         do {
  37                 t = (cit_uint32_t) ((unsigned) buf[3] << 8 | buf[2]) << 16
  38                     | ((unsigned) buf[1] << 8 | buf[0]);
  39                 *(cit_uint32_t *) buf = t;
  40                 buf += 4;
  41         } while (--longs);
  42 }
  43 #endif
  44 #endif
  45
  46
  47
  48 /*
  49  * Start MD5 accumulation.  Set bit count to 0 and buffer to mysterious
  50  * initialization constants.
  51  */
  52 void MD5Init(struct MD5Context *ctx)
  53 {
  54         ctx->buf[0] = 0x67452301;
  55         ctx->buf[1] = 0xefcdab89;
  56         ctx->buf[2] = 0x98badcfe;
  57         ctx->buf[3] = 0x10325476;
  58
  59         ctx->bits[0] = 0;
  60         ctx->bits[1] = 0;
  61 }
  62
  63 /*
  64  * Update context to reflect the concatenation of another buffer full
  65  * of bytes.
  66  */
  67 void MD5Update(struct MD5Context *ctx, unsigned char const *buf,
  68                unsigned len)
  69 {
  70         cit_uint32_t t;
  71
  72         /* Update bitcount */
  73
  74         t = ctx->bits[0];
  75         if ((ctx->bits[0] = t + ((cit_uint32_t) len << 3)) < t)
  76                 ctx->bits[1]++; /* Carry from low to high */
  77         ctx->bits[1] += len >> 29;
  78
  79         t = (t >> 3) & 0x3f;    /* Bytes already in shsInfo->data */
  80
  81         /* Handle any leading odd-sized chunks */
  82
  83         if (t) {
  84                 unsigned char *p = (unsigned char *) ctx->in + t;
  85
  86                 t = 64 - t;
  87                 if (len < t) {
  88                         memcpy(p, buf, len);
  89                         return;
  90                 }
  91                 memcpy(p, buf, t);
  92                 byteReverse(ctx->in, 16);
  93                 MD5Transform(ctx->buf, ctx->in);
  94                 buf += t;
  95                 len -= t;
  96         }
  97         /* Process data in 64-byte chunks */
  98
  99         while (len >= 64) {
 100                 memcpy(ctx->in, buf, 64);
 101                 byteReverse(ctx->in, 16);
 102                 MD5Transform(ctx->buf, ctx->in);
 103                 buf += 64;
 104                 len -= 64;
 105         }
 106
 107         /* Handle any remaining bytes of data. */
 108
 109         memcpy(ctx->in, buf, len);
 110 }
 111
 112 /*
 113  * Final wrapup - pad to 64-byte boundary with the bit pattern
 114  * 1 0* (64-bit count of bits processed, MSB-first)
 115  */
 116 void MD5Final(unsigned char digest[16], struct MD5Context *ctx)
 117 {
 118         unsigned count;
 119         unsigned char *p;
 120
 121         /* Compute number of bytes mod 64 */
 122         count = (ctx->bits[0] >> 3) & 0x3F;
 123
 124         /* Set the first char of padding to 0x80.  This is safe since there is
 125            always at least one byte free */
 126         p = ((unsigned char *) ctx->in) + count;
 127         *p++ = 0x80;
 128
 129         /* Bytes of padding needed to make 64 bytes */
 130         count = 64 - 1 - count;
 131
 132         /* Pad out to 56 mod 64 */
 133         if (count < 8) {
 134                 /* Two lots of padding:  Pad the first block to 64 bytes */
 135                 memset(p, 0, count);
 136                 byteReverse(ctx->in, 16);
 137                 MD5Transform(ctx->buf, ctx->in);
 138
 139                 /* Now fill the next block with 56 bytes */
 140                 memset(ctx->in, 0, 56);
 141         } else {
 142                 /* Pad block to 56 bytes */
 143                 memset(p, 0, count - 8);
 144         }
 145         byteReverse(ctx->in, 14);
 146
 147         /* Append length in bits and transform */
 148         ((cit_uint32_t *) ctx->in)[14] = ctx->bits[0];
 149         ((cit_uint32_t *) ctx->in)[15] = ctx->bits[1];
 150
 151         MD5Transform(ctx->buf, (cit_uint32_t *) ctx->in);
 152         byteReverse((unsigned char *) ctx->buf, 4);
 153         memcpy(digest, ctx->buf, 16);
 154         memset(ctx, 0, sizeof(struct MD5Context));      /* In case it's sensitive */
 155 }
 156
 157 #ifndef ASM_MD5
 158
 159 /* The four core functions - F1 is optimized somewhat */
 160
 161 /* #define F1(x, y, z) (x & y | ~x & z) */
 162 #define F1(x, y, z) (z ^ (x & (y ^ z)))
 163 #define F2(x, y, z) F1(z, x, y)
 164 #define F3(x, y, z) (x ^ y ^ z)
 165 #define F4(x, y, z) (y ^ (x | ~z))
 166
 167 /* This is the central step in the MD5 algorithm. */
 168 #ifdef __PUREC__
 169 #define MD5STEP(f, w, x, y, z, data, s) \
 170         ( w += f /*(x, y, z)*/ + data,  w = w<<s | w>>(32-s),  w += x )
 171 #else
 172 #define MD5STEP(f, w, x, y, z, data, s) \
 173         ( w += f(x, y, z) + data,  w = w<<s | w>>(32-s),  w += x )
 174 #endif
 175
 176 /*
 177  * The core of the MD5 algorithm, this alters an existing MD5 hash to
 178  * reflect the addition of 16 longwords of new data.  MD5Update blocks
 179  * the data and converts bytes into longwords for this routine.
 180  */
 181 void MD5Transform(cit_uint32_t buf[4], cit_uint32_t const in[16])
 182 {
 183         register cit_uint32_t a, b, c, d;
 184
 185         a = buf[0];
 186         b = buf[1];
 187         c = buf[2];
 188         d = buf[3];
 189
 190 #ifdef __PUREC__                /* PureC Weirdness... (GG) */
 191         MD5STEP(F1(b, c, d), a, b, c, d, in[0] + 0xd76aa478L, 7);
 192         MD5STEP(F1(a, b, c), d, a, b, c, in[1] + 0xe8c7b756L, 12);
 193         MD5STEP(F1(d, a, b), c, d, a, b, in[2] + 0x242070dbL, 17);
 194         MD5STEP(F1(c, d, a), b, c, d, a, in[3] + 0xc1bdceeeL, 22);
 195         MD5STEP(F1(b, c, d), a, b, c, d, in[4] + 0xf57c0fafL, 7);
 196         MD5STEP(F1(a, b, c), d, a, b, c, in[5] + 0x4787c62aL, 12);
 197         MD5STEP(F1(d, a, b), c, d, a, b, in[6] + 0xa8304613L, 17);
 198         MD5STEP(F1(c, d, a), b, c, d, a, in[7] + 0xfd469501L, 22);
 199         MD5STEP(F1(b, c, d), a, b, c, d, in[8] + 0x698098d8L, 7);
 200         MD5STEP(F1(a, b, c), d, a, b, c, in[9] + 0x8b44f7afL, 12);
 201         MD5STEP(F1(d, a, b), c, d, a, b, in[10] + 0xffff5bb1L, 17);
 202         MD5STEP(F1(c, d, a), b, c, d, a, in[11] + 0x895cd7beL, 22);
 203         MD5STEP(F1(b, c, d), a, b, c, d, in[12] + 0x6b901122L, 7);
 204         MD5STEP(F1(a, b, c), d, a, b, c, in[13] + 0xfd987193L, 12);
 205         MD5STEP(F1(d, a, b), c, d, a, b, in[14] + 0xa679438eL, 17);
 206         MD5STEP(F1(c, d, a), b, c, d, a, in[15] + 0x49b40821L, 22);
 207
 208         MD5STEP(F2(b, c, d), a, b, c, d, in[1] + 0xf61e2562L, 5);
 209         MD5STEP(F2(a, b, c), d, a, b, c, in[6] + 0xc040b340L, 9);
 210         MD5STEP(F2(d, a, b), c, d, a, b, in[11] + 0x265e5a51L, 14);
 211         MD5STEP(F2(c, d, a), b, c, d, a, in[0] + 0xe9b6c7aaL, 20);
 212         MD5STEP(F2(b, c, d), a, b, c, d, in[5] + 0xd62f105dL, 5);
 213         MD5STEP(F2(a, b, c), d, a, b, c, in[10] + 0x02441453L, 9);
 214         MD5STEP(F2(d, a, b), c, d, a, b, in[15] + 0xd8a1e681L, 14);
 215         MD5STEP(F2(c, d, a), b, c, d, a, in[4] + 0xe7d3fbc8L, 20);
 216         MD5STEP(F2(b, c, d), a, b, c, d, in[9] + 0x21e1cde6L, 5);
 217         MD5STEP(F2(a, b, c), d, a, b, c, in[14] + 0xc33707d6L, 9);
 218         MD5STEP(F2(d, a, b), c, d, a, b, in[3] + 0xf4d50d87L, 14);
 219         MD5STEP(F2(c, d, a), b, c, d, a, in[8] + 0x455a14edL, 20);
 220         MD5STEP(F2(b, c, d), a, b, c, d, in[13] + 0xa9e3e905L, 5);
 221         MD5STEP(F2(a, b, c), d, a, b, c, in[2] + 0xfcefa3f8L, 9);
 222         MD5STEP(F2(d, a, b), c, d, a, b, in[7] + 0x676f02d9L, 14);
 223         MD5STEP(F2(c, d, a), b, c, d, a, in[12] + 0x8d2a4c8aL, 20);
 224
 225         MD5STEP(F3(b, c, d), a, b, c, d, in[5] + 0xfffa3942L, 4);
 226         MD5STEP(F3(a, b, c), d, a, b, c, in[8] + 0x8771f681L, 11);
 227         MD5STEP(F3(d, a, b), c, d, a, b, in[11] + 0x6d9d6122L, 16);
 228         MD5STEP(F3(c, d, a), b, c, d, a, in[14] + 0xfde5380cL, 23);
 229         MD5STEP(F3(b, c, d), a, b, c, d, in[1] + 0xa4beea44L, 4);
 230         MD5STEP(F3(a, b, c), d, a, b, c, in[4] + 0x4bdecfa9L, 11);
 231         MD5STEP(F3(d, a, b), c, d, a, b, in[7] + 0xf6bb4b60L, 16);
 232         MD5STEP(F3(c, d, a), b, c, d, a, in[10] + 0xbebfbc70L, 23);
 233         MD5STEP(F3(b, c, d), a, b, c, d, in[13] + 0x289b7ec6L, 4);
 234         MD5STEP(F3(a, b, c), d, a, b, c, in[0] + 0xeaa127faL, 11);
 235         MD5STEP(F3(d, a, b), c, d, a, b, in[3] + 0xd4ef3085L, 16);
 236         MD5STEP(F3(c, d, a), b, c, d, a, in[6] + 0x04881d05L, 23);
 237         MD5STEP(F3(b, c, d), a, b, c, d, in[9] + 0xd9d4d039L, 4);
 238         MD5STEP(F3(a, b, c), d, a, b, c, in[12] + 0xe6db99e5L, 11);
 239         MD5STEP(F3(d, a, b), c, d, a, b, in[15] + 0x1fa27cf8L, 16);
 240         MD5STEP(F3(c, d, a), b, c, d, a, in[2] + 0xc4ac5665L, 23);
 241
 242         MD5STEP(F4(b, c, d), a, b, c, d, in[0] + 0xf4292244L, 6);
 243         MD5STEP(F4(a, b, c), d, a, b, c, in[7] + 0x432aff97L, 10);
 244         MD5STEP(F4(d, a, b), c, d, a, b, in[14] + 0xab9423a7L, 15);
 245         MD5STEP(F4(c, d, a), b, c, d, a, in[5] + 0xfc93a039L, 21);
 246         MD5STEP(F4(b, c, d), a, b, c, d, in[12] + 0x655b59c3L, 6);
 247         MD5STEP(F4(a, b, c), d, a, b, c, in[3] + 0x8f0ccc92L, 10);
 248         MD5STEP(F4(d, a, b), c, d, a, b, in[10] + 0xffeff47dL, 15);
 249         MD5STEP(F4(c, d, a), b, c, d, a, in[1] + 0x85845dd1L, 21);
 250         MD5STEP(F4(b, c, d), a, b, c, d, in[8] + 0x6fa87e4fL, 6);
 251         MD5STEP(F4(a, b, c), d, a, b, c, in[15] + 0xfe2ce6e0L, 10);
 252         MD5STEP(F4(d, a, b), c, d, a, b, in[6] + 0xa3014314L, 15);
 253         MD5STEP(F4(c, d, a), b, c, d, a, in[13] + 0x4e0811a1L, 21);
 254         MD5STEP(F4(b, c, d), a, b, c, d, in[4] + 0xf7537e82L, 6);
 255         MD5STEP(F4(a, b, c), d, a, b, c, in[11] + 0xbd3af235L, 10);
 256         MD5STEP(F4(d, a, b), c, d, a, b, in[2] + 0x2ad7d2bbL, 15);
 257         MD5STEP(F4(c, d, a), b, c, d, a, in[9] + 0xeb86d391L, 21);
 258 #else
 259         MD5STEP(F1, a, b, c, d, in[0] + 0xd76aa478, 7);
 260         MD5STEP(F1, d, a, b, c, in[1] + 0xe8c7b756, 12);
 261         MD5STEP(F1, c, d, a, b, in[2] + 0x242070db, 17);
 262         MD5STEP(F1, b, c, d, a, in[3] + 0xc1bdceee, 22);
 263         MD5STEP(F1, a, b, c, d, in[4] + 0xf57c0faf, 7);
 264         MD5STEP(F1, d, a, b, c, in[5] + 0x4787c62a, 12);
 265         MD5STEP(F1, c, d, a, b, in[6] + 0xa8304613, 17);
 266         MD5STEP(F1, b, c, d, a, in[7] + 0xfd469501, 22);
 267         MD5STEP(F1, a, b, c, d, in[8] + 0x698098d8, 7);
 268         MD5STEP(F1, d, a, b, c, in[9] + 0x8b44f7af, 12);
 269         MD5STEP(F1, c, d, a, b, in[10] + 0xffff5bb1, 17);
 270         MD5STEP(F1, b, c, d, a, in[11] + 0x895cd7be, 22);
 271         MD5STEP(F1, a, b, c, d, in[12] + 0x6b901122, 7);
 272         MD5STEP(F1, d, a, b, c, in[13] + 0xfd987193, 12);
 273         MD5STEP(F1, c, d, a, b, in[14] + 0xa679438e, 17);
 274         MD5STEP(F1, b, c, d, a, in[15] + 0x49b40821, 22);
 275
 276         MD5STEP(F2, a, b, c, d, in[1] + 0xf61e2562, 5);
 277         MD5STEP(F2, d, a, b, c, in[6] + 0xc040b340, 9);
 278         MD5STEP(F2, c, d, a, b, in[11] + 0x265e5a51, 14);
 279         MD5STEP(F2, b, c, d, a, in[0] + 0xe9b6c7aa, 20);
 280         MD5STEP(F2, a, b, c, d, in[5] + 0xd62f105d, 5);
 281         MD5STEP(F2, d, a, b, c, in[10] + 0x02441453, 9);
 282         MD5STEP(F2, c, d, a, b, in[15] + 0xd8a1e681, 14);
 283         MD5STEP(F2, b, c, d, a, in[4] + 0xe7d3fbc8, 20);
 284         MD5STEP(F2, a, b, c, d, in[9] + 0x21e1cde6, 5);
 285         MD5STEP(F2, d, a, b, c, in[14] + 0xc33707d6, 9);
 286         MD5STEP(F2, c, d, a, b, in[3] + 0xf4d50d87, 14);
 287         MD5STEP(F2, b, c, d, a, in[8] + 0x455a14ed, 20);
 288         MD5STEP(F2, a, b, c, d, in[13] + 0xa9e3e905, 5);
 289         MD5STEP(F2, d, a, b, c, in[2] + 0xfcefa3f8, 9);
 290         MD5STEP(F2, c, d, a, b, in[7] + 0x676f02d9, 14);
 291         MD5STEP(F2, b, c, d, a, in[12] + 0x8d2a4c8a, 20);
 292
 293         MD5STEP(F3, a, b, c, d, in[5] + 0xfffa3942, 4);
 294         MD5STEP(F3, d, a, b, c, in[8] + 0x8771f681, 11);
 295         MD5STEP(F3, c, d, a, b, in[11] + 0x6d9d6122, 16);
 296         MD5STEP(F3, b, c, d, a, in[14] + 0xfde5380c, 23);
 297         MD5STEP(F3, a, b, c, d, in[1] + 0xa4beea44, 4);
 298         MD5STEP(F3, d, a, b, c, in[4] + 0x4bdecfa9, 11);
 299         MD5STEP(F3, c, d, a, b, in[7] + 0xf6bb4b60, 16);
 300         MD5STEP(F3, b, c, d, a, in[10] + 0xbebfbc70, 23);
 301         MD5STEP(F3, a, b, c, d, in[13] + 0x289b7ec6, 4);
 302         MD5STEP(F3, d, a, b, c, in[0] + 0xeaa127fa, 11);
 303         MD5STEP(F3, c, d, a, b, in[3] + 0xd4ef3085, 16);
 304         MD5STEP(F3, b, c, d, a, in[6] + 0x04881d05, 23);
 305         MD5STEP(F3, a, b, c, d, in[9] + 0xd9d4d039, 4);
 306         MD5STEP(F3, d, a, b, c, in[12] + 0xe6db99e5, 11);
 307         MD5STEP(F3, c, d, a, b, in[15] + 0x1fa27cf8, 16);
 308         MD5STEP(F3, b, c, d, a, in[2] + 0xc4ac5665, 23);
 309
 310         MD5STEP(F4, a, b, c, d, in[0] + 0xf4292244, 6);
 311         MD5STEP(F4, d, a, b, c, in[7] + 0x432aff97, 10);
 312         MD5STEP(F4, c, d, a, b, in[14] + 0xab9423a7, 15);
 313         MD5STEP(F4, b, c, d, a, in[5] + 0xfc93a039, 21);
 314         MD5STEP(F4, a, b, c, d, in[12] + 0x655b59c3, 6);
 315         MD5STEP(F4, d, a, b, c, in[3] + 0x8f0ccc92, 10);
 316         MD5STEP(F4, c, d, a, b, in[10] + 0xffeff47d, 15);
 317         MD5STEP(F4, b, c, d, a, in[1] + 0x85845dd1, 21);
 318         MD5STEP(F4, a, b, c, d, in[8] + 0x6fa87e4f, 6);
 319         MD5STEP(F4, d, a, b, c, in[15] + 0xfe2ce6e0, 10);
 320         MD5STEP(F4, c, d, a, b, in[6] + 0xa3014314, 15);
 321         MD5STEP(F4, b, c, d, a, in[13] + 0x4e0811a1, 21);
 322         MD5STEP(F4, a, b, c, d, in[4] + 0xf7537e82, 6);
 323         MD5STEP(F4, d, a, b, c, in[11] + 0xbd3af235, 10);
 324         MD5STEP(F4, c, d, a, b, in[2] + 0x2ad7d2bb, 15);
 325         MD5STEP(F4, b, c, d, a, in[9] + 0xeb86d391, 21);
 326 #endif
 327
 328         buf[0] += a;
 329         buf[1] += b;
 330         buf[2] += c;
 331         buf[3] += d;
 332 }
 333
 334 /*
 335  * This part was added by Brian Costello <btx@calyx.net>
 336  * For citadel's APOP auth - makes a lower case (as per APOP RFC)
 337  * md5 string
 338  */
 339
 340 char *make_apop_string(char *realpass, char *nonce, char *buffer, size_t n)
 341 {
 342         struct MD5Context ctx;
 343         u_char rawdigest[MD5_DIGEST_LEN];
 344         int i;
 345
 346         MD5Init(&ctx);
 347         MD5Update(&ctx, (u_char *) nonce, strlen(nonce));
 348         MD5Update(&ctx, (u_char *) realpass, strlen(realpass));
 349         MD5Final(rawdigest, &ctx);
 350         for (i = 0; i < MD5_DIGEST_LEN; i++) {
 351                 snprintf(&buffer[i * 2], n - i * 2, "%02X",
 352                          (unsigned char) (rawdigest[i] & 0xff));
 353                 buffer[i * 2] = tolower(buffer[i * 2]);
 354                 buffer[(i * 2) + 1] = tolower(buffer[(i * 2) + 1]);
 355         }
 356         return buffer;
 357 }
 358
 359
 360 #endif