citadel/internet_addressing.c

   1 /*
   2  * This file contains functions which handle the mapping of Internet addresses
   3  * to users on the Citadel system.
   4  */
   5
   6 #include "sysdep.h"
   7 #include <stdlib.h>
   8 #include <unistd.h>
   9 #include <stdio.h>
  10 #include <fcntl.h>
  11 #include <ctype.h>
  12 #include <signal.h>
  13 #include <pwd.h>
  14 #include <errno.h>
  15 #include <sys/types.h>
  16
  17 #if TIME_WITH_SYS_TIME
  18 # include <sys/time.h>
  19 # include <time.h>
  20 #else
  21 # if HAVE_SYS_TIME_H
  22 #  include <sys/time.h>
  23 # else
  24 #  include <time.h>
  25 # endif
  26 #endif
  27
  28 #include <sys/wait.h>
  29 #include <string.h>
  30 #include <limits.h>
  31 #include <libcitadel.h>
  32 #include "citadel.h"
  33 #include "server.h"
  34 #include "sysdep_decls.h"
  35 #include "citserver.h"
  36 #include "support.h"
  37 #include "config.h"
  38 #include "msgbase.h"
  39 #include "internet_addressing.h"
  40 #include "user_ops.h"
  41 #include "room_ops.h"
  42 #include "parsedate.h"
  43 #include "database.h"
  44
  45 #include "ctdl_module.h"
  46
  47 #ifndef HAVE_SNPRINTF
  48 #include "snprintf.h"
  49 #endif
  50
  51
  52 #ifdef HAVE_ICONV
  53 #include <iconv.h>
  54
  55 #if 0
  56 /* This is the non-define version in case of s.b. needing to debug */
  57 inline void FindNextEnd (char *bptr, char *end)
  58 {
  59         /* Find the next ?Q? */
  60         end = strchr(bptr + 2, '?');
  61         if (end == NULL) return NULL;
  62         if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) &&
  63             (*(end + 2) == '?')) {
  64                 /* skip on to the end of the cluster, the next ?= */
  65                 end = strstr(end + 3, "?=");
  66         }
  67         else
  68                 /* sort of half valid encoding, try to find an end. */
  69                 end = strstr(bptr, "?=");
  70 }
  71 #endif
  72
  73 #define FindNextEnd(bptr, end) { \
  74         end = strchr(bptr + 2, '?'); \
  75         if (end != NULL) { \
  76                 if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && (*(end + 2) == '?')) { \
  77                         end = strstr(end + 3, "?="); \
  78                 } else end = strstr(bptr, "?="); \
  79         } \
  80 }
  81
  82 /*
  83  * Handle subjects with RFC2047 encoding such as:
  84  * =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
  85  */
  86 void utf8ify_rfc822_string(char *buf) {
  87         char *start, *end, *next, *nextend, *ptr;
  88         char newbuf[1024];
  89         char charset[128];
  90         char encoding[16];
  91         char istr[1024];
  92         iconv_t ic = (iconv_t)(-1) ;
  93         char *ibuf;                     /**< Buffer of characters to be converted */
  94         char *obuf;                     /**< Buffer for converted characters */
  95         size_t ibuflen;                 /**< Length of input buffer */
  96         size_t obuflen;                 /**< Length of output buffer */
  97         char *isav;                     /**< Saved pointer to input buffer */
  98         char *osav;                     /**< Saved pointer to output buffer */
  99         int passes = 0;
 100         int i, len, delta;
 101         int illegal_non_rfc2047_encoding = 0;
 102
 103         /* Sometimes, badly formed messages contain strings which were simply
 104          *  written out directly in some foreign character set instead of
 105          *  using RFC2047 encoding.  This is illegal but we will attempt to
 106          *  handle it anyway by converting from a user-specified default
 107          *  charset to UTF-8 if we see any nonprintable characters.
 108          */
 109         len = strlen(buf);
 110         for (i=0; i<len; ++i) {
 111                 if ((buf[i] < 32) || (buf[i] > 126)) {
 112                         illegal_non_rfc2047_encoding = 1;
 113                         i = len; ///< take a shortcut, it won't be more than one.
 114                 }
 115         }
 116         if (illegal_non_rfc2047_encoding) {
 117                 const char *default_header_charset = "iso-8859-1";
 118                 if ( (strcasecmp(default_header_charset, "UTF-8")) && (strcasecmp(default_header_charset, "us-ascii")) ) {
 119                         ctdl_iconv_open("UTF-8", default_header_charset, &ic);
 120                         if (ic != (iconv_t)(-1) ) {
 121                                 ibuf = malloc(1024);
 122                                 isav = ibuf;
 123                                 safestrncpy(ibuf, buf, 1024);
 124                                 ibuflen = strlen(ibuf);
 125                                 obuflen = 1024;
 126                                 obuf = (char *) malloc(obuflen);
 127                                 osav = obuf;
 128                                 iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 129                                 osav[1024-obuflen] = 0;
 130                                 strcpy(buf, osav);
 131                                 free(osav);
 132                                 iconv_close(ic);
 133                                 free(isav);
 134                         }
 135                 }
 136         }
 137
 138         /* pre evaluate the first pair */
 139         nextend = end = NULL;
 140         len = strlen(buf);
 141         start = strstr(buf, "=?");
 142         if (start != NULL)
 143                 FindNextEnd (start, end);
 144
 145         while ((start != NULL) && (end != NULL))
 146         {
 147                 next = strstr(end, "=?");
 148                 if (next != NULL)
 149                         FindNextEnd(next, nextend);
 150                 if (nextend == NULL)
 151                         next = NULL;
 152
 153                 /* did we find two partitions */
 154                 if ((next != NULL) &&
 155                     ((next - end) > 2))
 156                 {
 157                         ptr = end + 2;
 158                         while ((ptr < next) &&
 159                                (isspace(*ptr) ||
 160                                 (*ptr == '\r') ||
 161                                 (*ptr == '\n') ||
 162                                 (*ptr == '\t')))
 163                                 ptr ++;
 164                         /* did we find a gab just filled with blanks? */
 165                         if (ptr == next)
 166                         {
 167                                 memmove (end + 2,
 168                                          next,
 169                                          len - (next - start));
 170
 171                                 /* now terminate the gab at the end */
 172                                 delta = (next - end) - 2;
 173                                 len -= delta;
 174                                 buf[len] = '\0';
 175
 176                                 /* move next to its new location. */
 177                                 next -= delta;
 178                                 nextend -= delta;
 179                         }
 180                 }
 181                 /* our next-pair is our new first pair now. */
 182                 start = next;
 183                 end = nextend;
 184         }
 185
 186         /* Now we handle foreign character sets properly encoded
 187          * in RFC2047 format.
 188          */
 189         start = strstr(buf, "=?");
 190         FindNextEnd((start != NULL)? start : buf, end);
 191         while (start != NULL && end != NULL && end > start)
 192         {
 193                 extract_token(charset, start, 1, '?', sizeof charset);
 194                 extract_token(encoding, start, 2, '?', sizeof encoding);
 195                 extract_token(istr, start, 3, '?', sizeof istr);
 196
 197                 ibuf = malloc(1024);
 198                 isav = ibuf;
 199                 if (!strcasecmp(encoding, "B")) {       /**< base64 */
 200                         ibuflen = CtdlDecodeBase64(ibuf, istr, strlen(istr));
 201                 }
 202                 else if (!strcasecmp(encoding, "Q")) {  /**< quoted-printable */
 203                         size_t len;
 204                         long pos;
 205
 206                         len = strlen(istr);
 207                         pos = 0;
 208                         while (pos < len)
 209                         {
 210                                 if (istr[pos] == '_') istr[pos] = ' ';
 211                                 pos++;
 212                         }
 213
 214                         ibuflen = CtdlDecodeQuotedPrintable(ibuf, istr, len);
 215                 }
 216                 else {
 217                         strcpy(ibuf, istr);             /**< unknown encoding */
 218                         ibuflen = strlen(istr);
 219                 }
 220
 221                 ctdl_iconv_open("UTF-8", charset, &ic);
 222                 if (ic != (iconv_t)(-1) ) {
 223                         obuflen = 1024;
 224                         obuf = (char *) malloc(obuflen);
 225                         osav = obuf;
 226                         iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 227                         osav[1024-obuflen] = 0;
 228
 229                         end = start;
 230                         end++;
 231                         strcpy(start, "");
 232                         remove_token(end, 0, '?');
 233                         remove_token(end, 0, '?');
 234                         remove_token(end, 0, '?');
 235                         remove_token(end, 0, '?');
 236                         strcpy(end, &end[1]);
 237
 238                         snprintf(newbuf, sizeof newbuf, "%s%s%s", buf, osav, end);
 239                         strcpy(buf, newbuf);
 240                         free(osav);
 241                         iconv_close(ic);
 242                 }
 243                 else {
 244                         end = start;
 245                         end++;
 246                         strcpy(start, "");
 247                         remove_token(end, 0, '?');
 248                         remove_token(end, 0, '?');
 249                         remove_token(end, 0, '?');
 250                         remove_token(end, 0, '?');
 251                         strcpy(end, &end[1]);
 252
 253                         snprintf(newbuf, sizeof newbuf, "%s(unreadable)%s", buf, end);
 254                         strcpy(buf, newbuf);
 255                 }
 256
 257                 free(isav);
 258
 259                 /*
 260                  * Since spammers will go to all sorts of absurd lengths to get their
 261                  * messages through, there are LOTS of corrupt headers out there.
 262                  * So, prevent a really badly formed RFC2047 header from throwing
 263                  * this function into an infinite loop.
 264                  */
 265                 ++passes;
 266                 if (passes > 20) return;
 267
 268                 start = strstr(buf, "=?");
 269                 FindNextEnd((start != NULL)? start : buf, end);
 270         }
 271
 272 }
 273 #else
 274 inline void utf8ify_rfc822_string(char *a){};
 275
 276 #endif
 277
 278
 279
 280 struct trynamebuf {
 281         char buffer1[SIZ];
 282         char buffer2[SIZ];
 283 };
 284
 285 char *inetcfg = NULL;
 286 struct spamstrings_t *spamstrings = NULL;
 287
 288
 289 /*
 290  * Return nonzero if the supplied name is an alias for this host.
 291  */
 292 int CtdlHostAlias(char *fqdn) {
 293         int config_lines;
 294         int i;
 295         char buf[256];
 296         char host[256], type[256];
 297         int found = 0;
 298
 299         if (fqdn == NULL) return(hostalias_nomatch);
 300         if (IsEmptyStr(fqdn)) return(hostalias_nomatch);
 301         if (!strcasecmp(fqdn, "localhost")) return(hostalias_localhost);
 302         if (!strcasecmp(fqdn, config.c_fqdn)) return(hostalias_localhost);
 303         if (!strcasecmp(fqdn, config.c_nodename)) return(hostalias_localhost);
 304         if (inetcfg == NULL) return(hostalias_nomatch);
 305
 306         config_lines = num_tokens(inetcfg, '\n');
 307         for (i=0; i<config_lines; ++i) {
 308                 extract_token(buf, inetcfg, i, '\n', sizeof buf);
 309                 extract_token(host, buf, 0, '|', sizeof host);
 310                 extract_token(type, buf, 1, '|', sizeof type);
 311
 312                 found = 0;
 313
 314                 /* Process these in a specific order, in case there are multiple matches.
 315                  * We want directory to override masq, for example.
 316                  */
 317
 318                 if ( (!strcasecmp(type, "masqdomain")) && (!strcasecmp(fqdn, host))) {
 319                         found = hostalias_masq;
 320                 }
 321                 if ( (!strcasecmp(type, "localhost")) && (!strcasecmp(fqdn, host))) {
 322                         found = hostalias_localhost;
 323                 }
 324                 if ( (!strcasecmp(type, "directory")) && (!strcasecmp(fqdn, host))) {
 325                         found = hostalias_directory;
 326                 }
 327
 328                 if (found) return(found);
 329         }
 330
 331         return(hostalias_nomatch);
 332 }
 333
 334
 335
 336
 337
 338
 339
 340 /*
 341  * Return 0 if a given string fuzzy-matches a Citadel user account
 342  *
 343  * FIXME ... this needs to be updated to handle aliases.
 344  */
 345 int fuzzy_match(struct ctdluser *us, char *matchstring) {
 346         int a;
 347         long len;
 348
 349         if ( (!strncasecmp(matchstring, "cit", 3))
 350            && (atol(&matchstring[3]) == us->usernum)) {
 351                 return 0;
 352         }
 353
 354         len = strlen(matchstring);
 355         for (a=0; !IsEmptyStr(&us->fullname[a]); ++a) {
 356                 if (!strncasecmp(&us->fullname[a],
 357                    matchstring, len)) {
 358                         return 0;
 359                 }
 360         }
 361         return -1;
 362 }
 363
 364
 365 /*
 366  * Unfold a multi-line field into a single line, removing multi-whitespaces
 367  */
 368 void unfold_rfc822_field(char **field, char **FieldEnd)
 369 {
 370         int quote = 0;
 371         char *pField = *field;
 372         char *sField;
 373         char *pFieldEnd = *FieldEnd;
 374
 375         while (isspace(*pField))
 376                 pField++;
 377         /* remove leading/trailing whitespace */
 378         ;
 379
 380         while (isspace(*pFieldEnd))
 381                 pFieldEnd --;
 382
 383         *FieldEnd = pFieldEnd;
 384         /* convert non-space whitespace to spaces, and remove double blanks */
 385         for (sField = *field = pField;
 386              sField < pFieldEnd;
 387              pField++, sField++)
 388         {
 389                 if ((*sField=='\r') || (*sField=='\n')) {
 390                     sField++;
 391                     if  (*sField == '\n')
 392                         sField++;
 393                     *pField = *sField;
 394                 }
 395                 else {
 396                         if (*sField=='\"') quote = 1 - quote;
 397                         if (!quote) {
 398                                 if (isspace(*sField))
 399                                 {
 400                                         *pField = ' ';
 401                                         pField++;
 402                                         sField++;
 403
 404                                         while ((sField < pFieldEnd) &&
 405                                                isspace(*sField))
 406                                                 sField++;
 407                                         *pField = *sField;
 408                                 }
 409                                 else *pField = *sField;
 410                         }
 411                         else *pField = *sField;
 412                 }
 413         }
 414         *pField = '\0';
 415         *FieldEnd = pField - 1;
 416 }
 417
 418
 419
 420 /*
 421  * Split an RFC822-style address into userid, host, and full name
 422  *
 423  */
 424 void process_rfc822_addr(const char *rfc822, char *user, char *node, char *name)
 425 {
 426         int a;
 427
 428         strcpy(user, "");
 429         strcpy(node, config.c_fqdn);
 430         strcpy(name, "");
 431
 432         if (rfc822 == NULL) return;
 433
 434         /* extract full name - first, it's From minus <userid> */
 435         strcpy(name, rfc822);
 436         stripout(name, '<', '>');
 437
 438         /* strip anything to the left of a bang */
 439         while ((!IsEmptyStr(name)) && (haschar(name, '!') > 0))
 440                 strcpy(name, &name[1]);
 441
 442         /* and anything to the right of a @ or % */
 443         for (a = 0; a < strlen(name); ++a) {
 444                 if (name[a] == '@')
 445                         name[a] = 0;
 446                 if (name[a] == '%')
 447                         name[a] = 0;
 448         }
 449
 450         /* but if there are parentheses, that changes the rules... */
 451         if ((haschar(rfc822, '(') == 1) && (haschar(rfc822, ')') == 1)) {
 452                 strcpy(name, rfc822);
 453                 stripallbut(name, '(', ')');
 454         }
 455
 456         /* but if there are a set of quotes, that supersedes everything */
 457         if (haschar(rfc822, 34) == 2) {
 458                 strcpy(name, rfc822);
 459                 while ((!IsEmptyStr(name)) && (name[0] != 34)) {
 460                         strcpy(&name[0], &name[1]);
 461                 }
 462                 strcpy(&name[0], &name[1]);
 463                 for (a = 0; a < strlen(name); ++a)
 464                         if (name[a] == 34)
 465                                 name[a] = 0;
 466         }
 467         /* extract user id */
 468         strcpy(user, rfc822);
 469
 470         /* first get rid of anything in parens */
 471         stripout(user, '(', ')');
 472
 473         /* if there's a set of angle brackets, strip it down to that */
 474         if ((haschar(user, '<') == 1) && (haschar(user, '>') == 1)) {
 475                 stripallbut(user, '<', '>');
 476         }
 477
 478         /* strip anything to the left of a bang */
 479         while ((!IsEmptyStr(user)) && (haschar(user, '!') > 0))
 480                 strcpy(user, &user[1]);
 481
 482         /* and anything to the right of a @ or % */
 483         for (a = 0; a < strlen(user); ++a) {
 484                 if (user[a] == '@')
 485                         user[a] = 0;
 486                 if (user[a] == '%')
 487                         user[a] = 0;
 488         }
 489
 490
 491         /* extract node name */
 492         strcpy(node, rfc822);
 493
 494         /* first get rid of anything in parens */
 495         stripout(node, '(', ')');
 496
 497         /* if there's a set of angle brackets, strip it down to that */
 498         if ((haschar(node, '<') == 1) && (haschar(node, '>') == 1)) {
 499                 stripallbut(node, '<', '>');
 500         }
 501
 502         /* If no node specified, tack ours on instead */
 503         if (
 504                 (haschar(node, '@')==0)
 505                 && (haschar(node, '%')==0)
 506                 && (haschar(node, '!')==0)
 507         ) {
 508                 strcpy(node, config.c_nodename);
 509         }
 510
 511         else {
 512
 513                 /* strip anything to the left of a @ */
 514                 while ((!IsEmptyStr(node)) && (haschar(node, '@') > 0))
 515                         strcpy(node, &node[1]);
 516
 517                 /* strip anything to the left of a % */
 518                 while ((!IsEmptyStr(node)) && (haschar(node, '%') > 0))
 519                         strcpy(node, &node[1]);
 520
 521                 /* reduce multiple system bang paths to node!user */
 522                 while ((!IsEmptyStr(node)) && (haschar(node, '!') > 1))
 523                         strcpy(node, &node[1]);
 524
 525                 /* now get rid of the user portion of a node!user string */
 526                 for (a = 0; a < strlen(node); ++a)
 527                         if (node[a] == '!')
 528                                 node[a] = 0;
 529         }
 530
 531         /* strip leading and trailing spaces in all strings */
 532         striplt(user);
 533         striplt(node);
 534         striplt(name);
 535
 536         /* If we processed a string that had the address in angle brackets
 537          * but no name outside the brackets, we now have an empty name.  In
 538          * this case, use the user portion of the address as the name.
 539          */
 540         if ((IsEmptyStr(name)) && (!IsEmptyStr(user))) {
 541                 strcpy(name, user);
 542         }
 543 }
 544
 545
 546
 547 /*
 548  * convert_field() is a helper function for convert_internet_message().
 549  * Given start/end positions for an rfc822 field, it converts it to a Citadel
 550  * field if it wants to, and unfolds it if necessary.
 551  *
 552  * Returns 1 if the field was converted and inserted into the Citadel message
 553  * structure, implying that the source field should be removed from the
 554  * message text.
 555  */
 556 int convert_field(struct CtdlMessage *msg, const char *beg, const char *end) {
 557         char *key, *value, *valueend;
 558         long len;
 559         const char *pos;
 560         int i;
 561         const char *colonpos = NULL;
 562         int processed = 0;
 563         char buf[SIZ];
 564         char user[1024];
 565         char node[1024];
 566         char name[1024];
 567         char addr[1024];
 568         time_t parsed_date;
 569         long valuelen;
 570
 571         for (pos = end; pos >= beg; pos--) {
 572                 if (*pos == ':') colonpos = pos;
 573         }
 574
 575         if (colonpos == NULL) return(0);        /* no colon? not a valid header line */
 576
 577         len = end - beg;
 578         key = malloc(len + 2);
 579         memcpy(key, beg, len + 1);
 580         key[len] = '\0';
 581         valueend = key + len;
 582         * ( key + (colonpos - beg) ) = '\0';
 583         value = &key[(colonpos - beg) + 1];
 584 /*      printf("Header: [%s]\nValue: [%s]\n", key, value); */
 585         unfold_rfc822_field(&value, &valueend);
 586         valuelen = valueend - value + 1;
 587 /*      printf("UnfoldedValue: [%s]\n", value); */
 588
 589         /*
 590          * Here's the big rfc822-to-citadel loop.
 591          */
 592
 593         /* Date/time is converted into a unix timestamp.  If the conversion
 594          * fails, we replace it with the time the message arrived locally.
 595          */
 596         if (!strcasecmp(key, "Date")) {
 597                 parsed_date = parsedate(value);
 598                 if (parsed_date < 0L) parsed_date = time(NULL);
 599                 snprintf(buf, sizeof buf, "%ld", (long)parsed_date );
 600                 if (msg->cm_fields['T'] == NULL)
 601                         msg->cm_fields['T'] = strdup(buf);
 602                 processed = 1;
 603         }
 604
 605         else if (!strcasecmp(key, "From")) {
 606                 process_rfc822_addr(value, user, node, name);
 607                 syslog(LOG_DEBUG, "Converted to <%s@%s> (%s)\n", user, node, name);
 608                 snprintf(addr, sizeof addr, "%s@%s", user, node);
 609                 if (msg->cm_fields['A'] == NULL)
 610                         msg->cm_fields['A'] = strdup(name);
 611                 processed = 1;
 612                 if (msg->cm_fields['F'] == NULL)
 613                         msg->cm_fields['F'] = strdup(addr);
 614                 processed = 1;
 615         }
 616
 617         else if (!strcasecmp(key, "Subject")) {
 618                 if (msg->cm_fields['U'] == NULL)
 619                         msg->cm_fields['U'] = strndup(value, valuelen);
 620                 processed = 1;
 621         }
 622
 623         else if (!strcasecmp(key, "List-ID")) {
 624                 if (msg->cm_fields['L'] == NULL)
 625                         msg->cm_fields['L'] = strndup(value, valuelen);
 626                 processed = 1;
 627         }
 628
 629         else if (!strcasecmp(key, "To")) {
 630                 if (msg->cm_fields['R'] == NULL)
 631                         msg->cm_fields['R'] = strndup(value, valuelen);
 632                 processed = 1;
 633         }
 634
 635         else if (!strcasecmp(key, "CC")) {
 636                 if (msg->cm_fields['Y'] == NULL)
 637                         msg->cm_fields['Y'] = strndup(value, valuelen);
 638                 processed = 1;
 639         }
 640
 641         else if (!strcasecmp(key, "Message-ID")) {
 642                 if (msg->cm_fields['I'] != NULL) {
 643                         syslog(LOG_WARNING, "duplicate message id\n");
 644                 }
 645
 646                 if (msg->cm_fields['I'] == NULL) {
 647                         msg->cm_fields['I'] = strndup(value, valuelen);
 648
 649                         /* Strip angle brackets */
 650                         while (haschar(msg->cm_fields['I'], '<') > 0) {
 651                                 strcpy(&msg->cm_fields['I'][0],
 652                                         &msg->cm_fields['I'][1]);
 653                         }
 654                         for (i = 0; i<strlen(msg->cm_fields['I']); ++i)
 655                                 if (msg->cm_fields['I'][i] == '>')
 656                                         msg->cm_fields['I'][i] = 0;
 657                 }
 658
 659                 processed = 1;
 660         }
 661
 662         else if (!strcasecmp(key, "Return-Path")) {
 663                 if (msg->cm_fields['P'] == NULL)
 664                         msg->cm_fields['P'] = strndup(value, valuelen);
 665                 processed = 1;
 666         }
 667
 668         else if (!strcasecmp(key, "Envelope-To")) {
 669                 if (msg->cm_fields['V'] == NULL)
 670                         msg->cm_fields['V'] = strndup(value, valuelen);
 671                 processed = 1;
 672         }
 673
 674         else if (!strcasecmp(key, "References")) {
 675                 if (msg->cm_fields['W'] != NULL) {
 676                         free(msg->cm_fields['W']);
 677                 }
 678                 msg->cm_fields['W'] = strndup(value, valuelen);
 679                 processed = 1;
 680         }
 681
 682         else if (!strcasecmp(key, "In-reply-to")) {
 683                 if (msg->cm_fields['W'] == NULL) {              /* References: supersedes In-reply-to: */
 684                         msg->cm_fields['W'] = strndup(value, valuelen);
 685                 }
 686                 processed = 1;
 687         }
 688
 689
 690
 691         /* Clean up and move on. */
 692         free(key);      /* Don't free 'value', it's actually the same buffer */
 693         return(processed);
 694 }
 695
 696
 697 /*
 698  * Convert RFC822 references format (References) to Citadel references format (Weferences)
 699  */
 700 void convert_references_to_wefewences(char *str) {
 701         int bracket_nesting = 0;
 702         char *ptr = str;
 703         char *moveptr = NULL;
 704         char ch;
 705
 706         while(*ptr) {
 707                 ch = *ptr;
 708                 if (ch == '>') {
 709                         --bracket_nesting;
 710                         if (bracket_nesting < 0) bracket_nesting = 0;
 711                 }
 712                 if ((ch == '>') && (bracket_nesting == 0) && (*(ptr+1)) && (ptr>str) ) {
 713                         *ptr = '|';
 714                         ++ptr;
 715                 }
 716                 else if (bracket_nesting > 0) {
 717                         ++ptr;
 718                 }
 719                 else {
 720                         moveptr = ptr;
 721                         while (*moveptr) {
 722                                 *moveptr = *(moveptr+1);
 723                                 ++moveptr;
 724                         }
 725                 }
 726                 if (ch == '<') ++bracket_nesting;
 727         }
 728
 729 }
 730
 731
 732 /*
 733  * Convert an RFC822 message (headers + body) to a CtdlMessage structure.
 734  * NOTE: the supplied buffer becomes part of the CtdlMessage structure, and
 735  * will be deallocated when CtdlFreeMessage() is called.  Therefore, the
 736  * supplied buffer should be DEREFERENCED.  It should not be freed or used
 737  * again.
 738  */
 739 struct CtdlMessage *convert_internet_message(char *rfc822) {
 740         StrBuf *RFCBuf = NewStrBufPlain(rfc822, -1);
 741         free (rfc822);
 742         return convert_internet_message_buf(&RFCBuf);
 743 }
 744
 745
 746
 747 struct CtdlMessage *convert_internet_message_buf(StrBuf **rfc822)
 748 {
 749         struct CtdlMessage *msg;
 750         const char *pos, *beg, *end, *totalend;
 751         int done, alldone = 0;
 752         char buf[SIZ];
 753         int converted;
 754         StrBuf *OtherHeaders;
 755
 756         msg = malloc(sizeof(struct CtdlMessage));
 757         if (msg == NULL) return msg;
 758
 759         memset(msg, 0, sizeof(struct CtdlMessage));
 760         msg->cm_magic = CTDLMESSAGE_MAGIC;      /* self check */
 761         msg->cm_anon_type = 0;                  /* never anonymous */
 762         msg->cm_format_type = FMT_RFC822;       /* internet message */
 763
 764         pos = ChrPtr(*rfc822);
 765         totalend = pos + StrLength(*rfc822);
 766         done = 0;
 767         OtherHeaders = NewStrBufPlain(NULL, StrLength(*rfc822));
 768
 769         while (!alldone) {
 770
 771                 /* Locate beginning and end of field, keeping in mind that
 772                  * some fields might be multiline
 773                  */
 774                 end = beg = pos;
 775
 776                 while ((end < totalend) &&
 777                        (end == beg) &&
 778                        (done == 0) )
 779                 {
 780
 781                         if ( (*pos=='\n') && ((*(pos+1))!=0x20) && ((*(pos+1))!=0x09) )
 782                         {
 783                                 end = pos;
 784                         }
 785
 786                         /* done with headers? */
 787                         if ((*pos=='\n') &&
 788                             ( (*(pos+1)=='\n') ||
 789                               (*(pos+1)=='\r')) )
 790                         {
 791                                 alldone = 1;
 792                         }
 793
 794                         if (pos >= (totalend - 1) )
 795                         {
 796                                 end = pos;
 797                                 done = 1;
 798                         }
 799
 800                         ++pos;
 801
 802                 }
 803
 804                 /* At this point we have a field.  Are we interested in it? */
 805                 converted = convert_field(msg, beg, end);
 806
 807                 /* Strip the field out of the RFC822 header if we used it */
 808                 if (!converted) {
 809                         StrBufAppendBufPlain(OtherHeaders, beg, end - beg, 0);
 810                         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
 811                 }
 812
 813                 /* If we've hit the end of the message, bail out */
 814                 if (pos >= totalend)
 815                         alldone = 1;
 816         }
 817         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
 818         if (pos < totalend)
 819                 StrBufAppendBufPlain(OtherHeaders, pos, totalend - pos, 0);
 820         FreeStrBuf(rfc822);
 821         msg->cm_fields['M'] = SmashStrBuf(&OtherHeaders);
 822
 823         /* Follow-up sanity checks... */
 824
 825         /* If there's no timestamp on this message, set it to now. */
 826         if (msg->cm_fields['T'] == NULL) {
 827                 snprintf(buf, sizeof buf, "%ld", (long)time(NULL));
 828                 msg->cm_fields['T'] = strdup(buf);
 829         }
 830
 831         /* If a W (references, or rather, Wefewences) field is present, we
 832          * have to convert it from RFC822 format to Citadel format.
 833          */
 834         if (msg->cm_fields['W'] != NULL) {
 835                 convert_references_to_wefewences(msg->cm_fields['W']);
 836         }
 837
 838         return msg;
 839 }
 840
 841
 842
 843 /*
 844  * Look for a particular header field in an RFC822 message text.  If the
 845  * requested field is found, it is unfolded (if necessary) and returned to
 846  * the caller.  The field name is stripped out, leaving only its contents.
 847  * The caller is responsible for freeing the returned buffer.  If the requested
 848  * field is not present, or anything else goes wrong, it returns NULL.
 849  */
 850 char *rfc822_fetch_field(const char *rfc822, const char *fieldname) {
 851         char *fieldbuf = NULL;
 852         const char *end_of_headers;
 853         const char *field_start;
 854         const char *ptr;
 855         char *cont;
 856         char fieldhdr[SIZ];
 857
 858         /* Should never happen, but sometimes we get stupid */
 859         if (rfc822 == NULL) return(NULL);
 860         if (fieldname == NULL) return(NULL);
 861
 862         snprintf(fieldhdr, sizeof fieldhdr, "%s:", fieldname);
 863
 864         /* Locate the end of the headers, so we don't run past that point */
 865         end_of_headers = cbmstrcasestr(rfc822, "\n\r\n");
 866         if (end_of_headers == NULL) {
 867                 end_of_headers = cbmstrcasestr(rfc822, "\n\n");
 868         }
 869         if (end_of_headers == NULL) return (NULL);
 870
 871         field_start = cbmstrcasestr(rfc822, fieldhdr);
 872         if (field_start == NULL) return(NULL);
 873         if (field_start > end_of_headers) return(NULL);
 874
 875         fieldbuf = malloc(SIZ);
 876         strcpy(fieldbuf, "");
 877
 878         ptr = field_start;
 879         ptr = cmemreadline(ptr, fieldbuf, SIZ-strlen(fieldbuf) );
 880         while ( (isspace(ptr[0])) && (ptr < end_of_headers) ) {
 881                 strcat(fieldbuf, " ");
 882                 cont = &fieldbuf[strlen(fieldbuf)];
 883                 ptr = cmemreadline(ptr, cont, SIZ-strlen(fieldbuf) );
 884                 striplt(cont);
 885         }
 886
 887         strcpy(fieldbuf, &fieldbuf[strlen(fieldhdr)]);
 888         striplt(fieldbuf);
 889
 890         return(fieldbuf);
 891 }
 892
 893
 894
 895 /*****************************************************************************
 896  *                      DIRECTORY MANAGEMENT FUNCTIONS                       *
 897  *****************************************************************************/
 898
 899 /*
 900  * Generate the index key for an Internet e-mail address to be looked up
 901  * in the database.
 902  */
 903 void directory_key(char *key, char *addr) {
 904         int i;
 905         int keylen = 0;
 906
 907         for (i=0; !IsEmptyStr(&addr[i]); ++i) {
 908                 if (!isspace(addr[i])) {
 909                         key[keylen++] = tolower(addr[i]);
 910                 }
 911         }
 912         key[keylen++] = 0;
 913
 914         syslog(LOG_DEBUG, "Directory key is <%s>\n", key);
 915 }
 916
 917
 918
 919 /* Return nonzero if the supplied address is in a domain we keep in
 920  * the directory
 921  */
 922 int IsDirectory(char *addr, int allow_masq_domains) {
 923         char domain[256];
 924         int h;
 925
 926         extract_token(domain, addr, 1, '@', sizeof domain);
 927         striplt(domain);
 928
 929         h = CtdlHostAlias(domain);
 930
 931         if ( (h == hostalias_masq) && allow_masq_domains)
 932                 return(1);
 933
 934         if ( (h == hostalias_localhost) || (h == hostalias_directory) ) {
 935                 return(1);
 936         }
 937         else {
 938                 return(0);
 939         }
 940 }
 941
 942
 943 /*
 944  * Initialize the directory database (erasing anything already there)
 945  */
 946 void CtdlDirectoryInit(void) {
 947         cdb_trunc(CDB_DIRECTORY);
 948 }
 949
 950
 951 /*
 952  * Add an Internet e-mail address to the directory for a user
 953  */
 954 void CtdlDirectoryAddUser(char *internet_addr, char *citadel_addr) {
 955         char key[SIZ];
 956
 957         if (IsDirectory(internet_addr, 0) == 0) return;
 958         syslog(LOG_DEBUG, "Create directory entry: %s --> %s\n", internet_addr, citadel_addr);
 959         directory_key(key, internet_addr);
 960         cdb_store(CDB_DIRECTORY, key, strlen(key), citadel_addr, strlen(citadel_addr)+1 );
 961 }
 962
 963
 964 /*
 965  * Delete an Internet e-mail address from the directory.
 966  *
 967  * (NOTE: we don't actually use or need the citadel_addr variable; it's merely
 968  * here because the callback API expects to be able to send it.)
 969  */
 970 void CtdlDirectoryDelUser(char *internet_addr, char *citadel_addr) {
 971         char key[SIZ];
 972
 973         syslog(LOG_DEBUG, "Delete directory entry: %s --> %s\n", internet_addr, citadel_addr);
 974         directory_key(key, internet_addr);
 975         cdb_delete(CDB_DIRECTORY, key, strlen(key) );
 976 }
 977
 978
 979 /*
 980  * Look up an Internet e-mail address in the directory.
 981  * On success: returns 0, and Citadel address stored in 'target'
 982  * On failure: returns nonzero
 983  */
 984 int CtdlDirectoryLookup(char *target, char *internet_addr, size_t targbuflen) {
 985         struct cdbdata *cdbrec;
 986         char key[SIZ];
 987
 988         /* Dump it in there unchanged, just for kicks */
 989         safestrncpy(target, internet_addr, targbuflen);
 990
 991         /* Only do lookups for addresses with hostnames in them */
 992         if (num_tokens(internet_addr, '@') != 2) return(-1);
 993
 994         /* Only do lookups for domains in the directory */
 995         if (IsDirectory(internet_addr, 0) == 0) return(-1);
 996
 997         directory_key(key, internet_addr);
 998         cdbrec = cdb_fetch(CDB_DIRECTORY, key, strlen(key) );
 999         if (cdbrec != NULL) {
1000                 safestrncpy(target, cdbrec->ptr, targbuflen);
1001                 cdb_free(cdbrec);
1002                 return(0);
1003         }
1004
1005         return(-1);
1006 }
1007
1008
1009 /*
1010  * Harvest any email addresses that someone might want to have in their
1011  * "collected addresses" book.
1012  */
1013 char *harvest_collected_addresses(struct CtdlMessage *msg) {
1014         char *coll = NULL;
1015         char addr[256];
1016         char user[256], node[256], name[256];
1017         int is_harvestable;
1018         int i, j, h;
1019         int field = 0;
1020
1021         if (msg == NULL) return(NULL);
1022
1023         is_harvestable = 1;
1024         strcpy(addr, "");
1025         if (msg->cm_fields['A'] != NULL) {
1026                 strcat(addr, msg->cm_fields['A']);
1027         }
1028         if (msg->cm_fields['F'] != NULL) {
1029                 strcat(addr, " <");
1030                 strcat(addr, msg->cm_fields['F']);
1031                 strcat(addr, ">");
1032                 if (IsDirectory(msg->cm_fields['F'], 0)) {
1033                         is_harvestable = 0;
1034                 }
1035         }
1036
1037         if (is_harvestable) {
1038                 coll = strdup(addr);
1039         }
1040         else {
1041                 coll = strdup("");
1042         }
1043
1044         if (coll == NULL) return(NULL);
1045
1046         /* Scan both the R (To) and Y (CC) fields */
1047         for (i = 0; i < 2; ++i) {
1048                 if (i == 0) field = 'R' ;
1049                 if (i == 1) field = 'Y' ;
1050
1051                 if (msg->cm_fields[field] != NULL) {
1052                         for (j=0; j<num_tokens(msg->cm_fields[field], ','); ++j) {
1053                                 extract_token(addr, msg->cm_fields[field], j, ',', sizeof addr);
1054                                 if (strstr(addr, "=?") != NULL)
1055                                         utf8ify_rfc822_string(addr);
1056                                 process_rfc822_addr(addr, user, node, name);
1057                                 h = CtdlHostAlias(node);
1058                                 if ( (h != hostalias_localhost) && (h != hostalias_directory) ) {
1059                                         coll = realloc(coll, strlen(coll) + strlen(addr) + 4);
1060                                         if (coll == NULL) return(NULL);
1061                                         if (!IsEmptyStr(coll)) {
1062                                                 strcat(coll, ",");
1063                                         }
1064                                         striplt(addr);
1065                                         strcat(coll, addr);
1066                                 }
1067                         }
1068                 }
1069         }
1070
1071         if (IsEmptyStr(coll)) {
1072                 free(coll);
1073                 return(NULL);
1074         }
1075         return(coll);
1076 }