citadel/internet_addressing.c

   1 /*
   2  * This file contains functions which handle the mapping of Internet addresses
   3  * to users on the Citadel system.
   4  *
   5  * Copyright (c) 1987-2021 by the citadel.org team
   6  *
   7  * This program is open source software; you can redistribute it and/or modify
   8  * it under the terms of the GNU General Public License version 3.
   9  *
  10  * This program is distributed in the hope that it will be useful,
  11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13  * GNU General Public License for more details.
  14  */
  15
  16 #include "sysdep.h"
  17 #include <stdlib.h>
  18 #include <unistd.h>
  19 #include <stdio.h>
  20 #include <fcntl.h>
  21 #include <ctype.h>
  22 #include <signal.h>
  23 #include <pwd.h>
  24 #include <errno.h>
  25 #include <sys/types.h>
  26 #include <time.h>
  27 #include <sys/wait.h>
  28 #include <string.h>
  29 #include <limits.h>
  30 #include <libcitadel.h>
  31 #include "citadel.h"
  32 #include "server.h"
  33 #include "sysdep_decls.h"
  34 #include "citserver.h"
  35 #include "support.h"
  36 #include "config.h"
  37 #include "msgbase.h"
  38 #include "internet_addressing.h"
  39 #include "user_ops.h"
  40 #include "room_ops.h"
  41 #include "parsedate.h"
  42 #include "database.h"
  43 #include "ctdl_module.h"
  44 #ifdef HAVE_ICONV
  45 #include <iconv.h>
  46
  47 #if 0
  48 /* This is the non-define version in case it is needed for debugging */
  49 inline void FindNextEnd (char *bptr, char *end)
  50 {
  51         /* Find the next ?Q? */
  52         end = strchr(bptr + 2, '?');
  53         if (end == NULL) return NULL;
  54         if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) &&
  55             (*(end + 2) == '?')) {
  56                 /* skip on to the end of the cluster, the next ?= */
  57                 end = strstr(end + 3, "?=");
  58         }
  59         else
  60                 /* sort of half valid encoding, try to find an end. */
  61                 end = strstr(bptr, "?=");
  62 }
  63 #endif
  64
  65 #define FindNextEnd(bptr, end) { \
  66         end = strchr(bptr + 2, '?'); \
  67         if (end != NULL) { \
  68                 if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && (*(end + 2) == '?')) { \
  69                         end = strstr(end + 3, "?="); \
  70                 } else end = strstr(bptr, "?="); \
  71         } \
  72 }
  73
  74 /*
  75  * Handle subjects with RFC2047 encoding such as:
  76  * =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
  77  */
  78 void utf8ify_rfc822_string(char *buf) {
  79         char *start, *end, *next, *nextend, *ptr;
  80         char newbuf[1024];
  81         char charset[128];
  82         char encoding[16];
  83         char istr[1024];
  84         iconv_t ic = (iconv_t)(-1) ;
  85         char *ibuf;                     // Buffer of characters to be converted
  86         char *obuf;                     // Buffer for converted characters
  87         size_t ibuflen;                 // Length of input buffer
  88         size_t obuflen;                 // Length of output buffer
  89         char *isav;                     // Saved pointer to input buffer
  90         char *osav;                     // Saved pointer to output buffer
  91         int passes = 0;
  92         int i, len, delta;
  93         int illegal_non_rfc2047_encoding = 0;
  94
  95         /* Sometimes, badly formed messages contain strings which were simply
  96          * written out directly in some foreign character set instead of
  97          * using RFC2047 encoding.  This is illegal but we will attempt to
  98          * handle it anyway by converting from a user-specified default
  99          * charset to UTF-8 if we see any nonprintable characters.
 100          */
 101         len = strlen(buf);
 102         for (i=0; i<len; ++i) {
 103                 if ((buf[i] < 32) || (buf[i] > 126)) {
 104                         illegal_non_rfc2047_encoding = 1;
 105                         i = len;        // take a shortcut, it won't be more than one.
 106                 }
 107         }
 108         if (illegal_non_rfc2047_encoding) {
 109                 const char *default_header_charset = "iso-8859-1";
 110                 if ( (strcasecmp(default_header_charset, "UTF-8")) && (strcasecmp(default_header_charset, "us-ascii")) ) {
 111                         ctdl_iconv_open("UTF-8", default_header_charset, &ic);
 112                         if (ic != (iconv_t)(-1) ) {
 113                                 ibuf = malloc(1024);
 114                                 isav = ibuf;
 115                                 safestrncpy(ibuf, buf, 1024);
 116                                 ibuflen = strlen(ibuf);
 117                                 obuflen = 1024;
 118                                 obuf = (char *) malloc(obuflen);
 119                                 osav = obuf;
 120                                 iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 121                                 osav[1024-obuflen] = 0;
 122                                 strcpy(buf, osav);
 123                                 free(osav);
 124                                 iconv_close(ic);
 125                                 free(isav);
 126                         }
 127                 }
 128         }
 129
 130         /* pre evaluate the first pair */
 131         nextend = end = NULL;
 132         len = strlen(buf);
 133         start = strstr(buf, "=?");
 134         if (start != NULL)
 135                 FindNextEnd (start, end);
 136
 137         while ((start != NULL) && (end != NULL)) {
 138                 next = strstr(end, "=?");
 139                 if (next != NULL)
 140                         FindNextEnd(next, nextend);
 141                 if (nextend == NULL)
 142                         next = NULL;
 143
 144                 /* did we find two partitions */
 145                 if ((next != NULL) && ((next - end) > 2)) {
 146                         ptr = end + 2;
 147                         while ((ptr < next) &&
 148                                (isspace(*ptr) ||
 149                                 (*ptr == '\r') ||
 150                                 (*ptr == '\n') ||
 151                                 (*ptr == '\t')))
 152                                 ptr ++;
 153                         /* did we find a gab just filled with blanks? */
 154                         if (ptr == next)
 155                         {
 156                                 memmove (end + 2,
 157                                          next,
 158                                          len - (next - start));
 159
 160                                 /* now terminate the gab at the end */
 161                                 delta = (next - end) - 2;
 162                                 len -= delta;
 163                                 buf[len] = '\0';
 164
 165                                 /* move next to its new location. */
 166                                 next -= delta;
 167                                 nextend -= delta;
 168                         }
 169                 }
 170                 /* our next-pair is our new first pair now. */
 171                 start = next;
 172                 end = nextend;
 173         }
 174
 175         // Now we handle foreign character sets properly encoded in RFC2047 format.
 176         start = strstr(buf, "=?");
 177         FindNextEnd((start != NULL)? start : buf, end);
 178         while (start != NULL && end != NULL && end > start) {
 179                 extract_token(charset, start, 1, '?', sizeof charset);
 180                 extract_token(encoding, start, 2, '?', sizeof encoding);
 181                 extract_token(istr, start, 3, '?', sizeof istr);
 182
 183                 ibuf = malloc(1024);
 184                 isav = ibuf;
 185                 if (!strcasecmp(encoding, "B")) {       // base64
 186                         ibuflen = CtdlDecodeBase64(ibuf, istr, strlen(istr));
 187                 }
 188                 else if (!strcasecmp(encoding, "Q")) {  // quoted-printable
 189                         size_t len;
 190                         unsigned long pos;
 191
 192                         len = strlen(istr);
 193                         pos = 0;
 194                         while (pos < len) {
 195                                 if (istr[pos] == '_') istr[pos] = ' ';
 196                                 pos++;
 197                         }
 198                         ibuflen = CtdlDecodeQuotedPrintable(ibuf, istr, len);
 199                 }
 200                 else {
 201                         strcpy(ibuf, istr);             // unknown encoding
 202                         ibuflen = strlen(istr);
 203                 }
 204
 205                 ctdl_iconv_open("UTF-8", charset, &ic);
 206                 if (ic != (iconv_t)(-1) ) {
 207                         obuflen = 1024;
 208                         obuf = (char *) malloc(obuflen);
 209                         osav = obuf;
 210                         iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 211                         osav[1024-obuflen] = 0;
 212
 213                         end = start;
 214                         end++;
 215                         strcpy(start, "");
 216                         remove_token(end, 0, '?');
 217                         remove_token(end, 0, '?');
 218                         remove_token(end, 0, '?');
 219                         remove_token(end, 0, '?');
 220                         strcpy(end, &end[1]);
 221
 222                         snprintf(newbuf, sizeof newbuf, "%s%s%s", buf, osav, end);
 223                         strcpy(buf, newbuf);
 224                         free(osav);
 225                         iconv_close(ic);
 226                 }
 227                 else {
 228                         end = start;
 229                         end++;
 230                         strcpy(start, "");
 231                         remove_token(end, 0, '?');
 232                         remove_token(end, 0, '?');
 233                         remove_token(end, 0, '?');
 234                         remove_token(end, 0, '?');
 235                         strcpy(end, &end[1]);
 236
 237                         snprintf(newbuf, sizeof newbuf, "%s(unreadable)%s", buf, end);
 238                         strcpy(buf, newbuf);
 239                 }
 240
 241                 free(isav);
 242
 243                 /*
 244                  * Since spammers will go to all sorts of absurd lengths to get their
 245                  * messages through, there are LOTS of corrupt headers out there.
 246                  * So, prevent a really badly formed RFC2047 header from throwing
 247                  * this function into an infinite loop.
 248                  */
 249                 ++passes;
 250                 if (passes > 20) return;
 251
 252                 start = strstr(buf, "=?");
 253                 FindNextEnd((start != NULL)? start : buf, end);
 254         }
 255
 256 }
 257 #else
 258 inline void utf8ify_rfc822_string(char *a){};
 259
 260 #endif
 261
 262
 263 char *inetcfg = NULL;
 264
 265 /*
 266  * Return nonzero if the supplied name is an alias for this host.
 267  */
 268 int CtdlHostAlias(char *fqdn) {
 269         int config_lines;
 270         int i;
 271         char buf[256];
 272         char host[256], type[256];
 273         int found = 0;
 274
 275         if (fqdn == NULL)                                       return(hostalias_nomatch);
 276         if (IsEmptyStr(fqdn))                                   return(hostalias_nomatch);
 277         if (!strcasecmp(fqdn, "localhost"))                     return(hostalias_localhost);
 278         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_fqdn")))      return(hostalias_localhost);
 279         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_nodename")))  return(hostalias_localhost);
 280         if (inetcfg == NULL)                                    return(hostalias_nomatch);
 281
 282         config_lines = num_tokens(inetcfg, '\n');
 283         for (i=0; i<config_lines; ++i) {
 284                 extract_token(buf, inetcfg, i, '\n', sizeof buf);
 285                 extract_token(host, buf, 0, '|', sizeof host);
 286                 extract_token(type, buf, 1, '|', sizeof type);
 287
 288                 found = 0;
 289
 290                 /* Process these in a specific order, in case there are multiple matches.
 291                  * We want localhost to override masq, for example.
 292                  */
 293
 294                 if ( (!strcasecmp(type, "masqdomain")) && (!strcasecmp(fqdn, host))) {
 295                         found = hostalias_masq;
 296                 }
 297
 298                 if ( (!strcasecmp(type, "localhost")) && (!strcasecmp(fqdn, host))) {
 299                         found = hostalias_localhost;
 300                 }
 301
 302                 // "directory" used to be a distributed version of "localhost" but they're both the same now
 303                 if ( (!strcasecmp(type, "directory")) && (!strcasecmp(fqdn, host))) {
 304                         found = hostalias_localhost;
 305                 }
 306
 307                 if (found) return(found);
 308         }
 309         return(hostalias_nomatch);
 310 }
 311
 312
 313 /*
 314  * Determine whether a given Internet address belongs to the current user
 315  */
 316 int CtdlIsMe(char *addr, int addr_buf_len)
 317 {
 318         struct recptypes *recp;
 319         int i;
 320
 321         recp = validate_recipients(addr, NULL, 0);
 322         if (recp == NULL) return(0);
 323
 324         if (recp->num_local == 0) {
 325                 free_recipients(recp);
 326                 return(0);
 327         }
 328
 329         for (i=0; i<recp->num_local; ++i) {
 330                 extract_token(addr, recp->recp_local, i, '|', addr_buf_len);
 331                 if (!strcasecmp(addr, CC->user.fullname)) {
 332                         free_recipients(recp);
 333                         return(1);
 334                 }
 335         }
 336
 337         free_recipients(recp);
 338         return(0);
 339 }
 340
 341
 342 /* If the last item in a list of recipients was truncated to a partial address,
 343  * remove it completely in order to avoid choking library functions.
 344  */
 345 void sanitize_truncated_recipient(char *str)
 346 {
 347         if (!str) return;
 348         if (num_tokens(str, ',') < 2) return;
 349
 350         int len = strlen(str);
 351         if (len < 900) return;
 352         if (len > 998) str[998] = 0;
 353
 354         char *cptr = strrchr(str, ',');
 355         if (!cptr) return;
 356
 357         char *lptr = strchr(cptr, '<');
 358         char *rptr = strchr(cptr, '>');
 359
 360         if ( (lptr) && (rptr) && (rptr > lptr) ) return;
 361
 362         *cptr = 0;
 363 }
 364
 365
 366 /*
 367  * This function is self explanatory.
 368  * (What can I say, I'm in a weird mood today...)
 369  */
 370 void remove_any_whitespace_to_the_left_or_right_of_at_symbol(char *name) {
 371         char *ptr;
 372         if (!name) return;
 373
 374         for (ptr=name; *ptr; ++ptr) {
 375                 while ( (isspace(*ptr)) && (*(ptr+1)=='@') ) {
 376                         strcpy(ptr, ptr+1);
 377                         if (ptr > name) --ptr;
 378                 }
 379                 while ( (*ptr=='@') && (*(ptr+1)!=0) && (isspace(*(ptr+1))) ) {
 380                         strcpy(ptr+1, ptr+2);
 381                 }
 382         }
 383 }
 384
 385
 386 // values that can be returned by expand_aliases()
 387 enum {
 388         EA_ERROR,               // Can't send message due to bad address
 389         EA_MULTIPLE,            // Alias expanded into multiple recipients -- run me again!
 390         EA_LOCAL,               // Local message, do no network processing
 391         EA_INTERNET             // Convert msg and send as Internet mail
 392 };
 393 char *killo[] = {               // FIXME remove this when diags are complete
 394         "error",
 395         "multiple",
 396         "local",
 397         "internet"
 398 };
 399
 400
 401 // Process alias and routing info for email addresses
 402 int expand_aliases(char *name) {
 403         int a;
 404         char aaa[SIZ];
 405         int at = 0;
 406         char node[64];
 407         char *t;
 408
 409         char *aliases = CtdlGetSysConfig(GLOBAL_ALIASES);       // First hit the Global Alias Table
 410         if (aliases) {
 411                 char *aptr = aliases;
 412                 while ((t = strtok_r(aptr, "\n", &aptr))) {
 413                         char *bar = strchr(t, '|');
 414                         if (bar) {
 415                                 bar[0] = 0;
 416                                 ++bar;
 417                                 if (!strcasecmp(name, t)) {
 418                                         syslog(LOG_DEBUG, "internet_addressing: global alias <%s> to <%s>", name, bar);
 419                                         strcpy(name, bar);
 420                                 }
 421                         }
 422                 }
 423
 424                 free(aliases);
 425                 if (strchr(name, ',')) {
 426                         return(EA_MULTIPLE);
 427                 }
 428         }
 429
 430         char original_name[256];                                // Now go for the regular aliases
 431         safestrncpy(original_name, name, sizeof original_name);
 432
 433         // should these checks still be here, or maybe move them to split_recps() ?
 434         striplt(name);
 435         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
 436         stripallbut(name, '<', '>');
 437
 438         /* Hit the email address directory */
 439         if (CtdlDirectoryLookup(aaa, name, sizeof aaa) == 0) {
 440                 strcpy(name, aaa);
 441         }
 442
 443         if (strcasecmp(original_name, name)) {
 444                 syslog(LOG_INFO, "internet_addressing: directory alias <%s> to <%s>", original_name, name);
 445         }
 446
 447         /* Change "user @ xxx" to "user" if xxx is an alias for this host */
 448         for (a=0; name[a] != '\0'; ++a) {
 449                 if (name[a] == '@') {
 450                         if (CtdlHostAlias(&name[a+1]) == hostalias_localhost) {
 451                                 name[a] = 0;
 452                                 syslog(LOG_DEBUG, "internet_addressing: host is local, recipient is <%s>", name);
 453                                 break;
 454                         }
 455                 }
 456         }
 457
 458         /* determine local or remote type, see citadel.h */
 459         at = haschar(name, '@');
 460         if (at == 0) return(EA_LOCAL);          /* no @'s - local address */
 461         if (at > 1) return(EA_ERROR);           /* >1 @'s - invalid address */
 462         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
 463
 464         /* figure out the delivery mode */
 465         extract_token(node, name, 1, '@', sizeof node);
 466
 467         /* If there are one or more dots in the nodename, we assume that it
 468          * is an FQDN and will attempt SMTP delivery to the Internet.
 469          */
 470         if (haschar(node, '.') > 0) {
 471                 return(EA_INTERNET);
 472         }
 473
 474         /* If we get to this point it's an invalid node name */
 475         return (EA_ERROR);
 476 }
 477
 478
 479 // Return a supplied list of email addresses as an array, removing superfluous information and syntax.
 480 Array *split_recps(char *addresses) {
 481
 482         // Copy the supplied address list into our own memory space, because we are going to mangle it.
 483         char *a = malloc(strlen(addresses));
 484         a[0] = 0;
 485
 486         // Strip out anything in double quotes
 487         int toggle = 0;
 488         int pos = 0;
 489         char *t;
 490         for (t=addresses; t[0]; ++t) {
 491                 if (t[0] == '\"') {
 492                         toggle = 1 - toggle;
 493                 }
 494                 else if (!toggle) {
 495                         a[pos++] = t[0];
 496                         a[pos] = 0;
 497                 }
 498         }
 499
 500         // Transform all qualifying delimiters to commas
 501         for (t=a; t[0]; ++t) {
 502                 if ((t[0]==';') || (t[0]=='|')) {
 503                         t[0]=',';
 504                 }
 505         }
 506
 507         // Tokenize the recipients into an array
 508         Array *recipients_array = array_new(256);               // no single recipient should be bigger than 256 bytes
 509         char *r = a;
 510         while ((t = strtok_r(r, ",", &r))) {
 511                 striplt(t);                                     // strip leading and trailing whitespace
 512                 stripout(t, '(', ')');                          // remove any portion in parentheses
 513                 stripallbut(t, '<', '>');                       // if angle brackets are present, keep only what is inside them
 514                 array_append(recipients_array, t);
 515         }
 516
 517         free(a);                                                // We don't need this buffer anymore.
 518         return(recipients_array);                               // Return the completed array to the caller.
 519 }
 520
 521
 522 // Validate recipients, count delivery types and errors, and handle aliasing
 523 // FIXME check for dupes!!!!!
 524 //
 525 // Returns 0 if all addresses are ok, ret->num_error = -1 if no addresses
 526 // were specified, or the number of addresses found invalid.
 527 //
 528 // Caller needs to free the result using free_recipients()
 529 //
 530 struct recptypes *validate_recipients(char *supplied_recipients, const char *RemoteIdentifier, int Flags) {
 531         struct recptypes *ret;
 532         char *recipients = NULL;
 533         char append[SIZ];
 534         long len;
 535         int mailtype;
 536         int invalid;
 537         struct ctdluser tempUS;
 538         struct ctdlroom original_room;
 539         int err = 0;
 540         char errmsg[SIZ];
 541         char *org_recp;
 542         char this_recp[256];
 543
 544         ret = (struct recptypes *) malloc(sizeof(struct recptypes));                    // Initialize
 545         if (ret == NULL) return(NULL);
 546         memset(ret, 0, sizeof(struct recptypes));                                       // set all values to null/zero
 547
 548         if (supplied_recipients == NULL) {
 549                 recipients = strdup("");
 550         }
 551         else {
 552                 recipients = strdup(supplied_recipients);
 553         }
 554
 555         len = strlen(recipients) + 1024;                                                // allocate memory
 556         ret->errormsg = malloc(len);
 557         ret->recp_local = malloc(len);
 558         ret->recp_internet = malloc(len);
 559         ret->recp_room = malloc(len);
 560         ret->display_recp = malloc(len);
 561         ret->recp_orgroom = malloc(len);
 562
 563         ret->errormsg[0] = 0;
 564         ret->recp_local[0] = 0;
 565         ret->recp_internet[0] = 0;
 566         ret->recp_room[0] = 0;
 567         ret->recp_orgroom[0] = 0;
 568         ret->display_recp[0] = 0;
 569         ret->recptypes_magic = RECPTYPES_MAGIC;
 570
 571         Array *recp_array = split_recps(supplied_recipients);
 572         int original_array_len = array_len(recp_array);
 573         for (int r=0; r<array_len(recp_array); ++r) {
 574                 org_recp = (char *)array_get_element_at(recp_array, r);
 575                 strncpy(this_recp, org_recp, sizeof this_recp);
 576
 577                 mailtype = expand_aliases(this_recp);
 578
 579                 // If an alias expanded to multiple recipients, strip off those recipients and append them
 580                 // to the end of the array.  This loop will hit those again when it gets there.
 581                 // Note that we don't do this after we get past the *original* array length, to avoid aliasing loops.
 582                 if (mailtype == EA_MULTIPLE) {
 583                         if (r < original_array_len) {
 584                                 char *comma;
 585                                 while ((comma = strrchr(this_recp, ','))) {
 586                                         comma[0] = 0;
 587                                         array_append(recp_array, &comma[1]);
 588                                         strcpy(org_recp, this_recp);
 589                                 }
 590                         }
 591                         else {
 592                                 mailtype = EA_ERROR;
 593                         }
 594                 }
 595
 596                 mailtype = expand_aliases(this_recp);           // do it ONCE again to handle alias expansions
 597                 if (mailtype == EA_MULTIPLE) {
 598                         mailtype = EA_ERROR;                    // and fail if it wants to expand a second time
 599                 }
 600
 601                 invalid = 0;
 602                 errmsg[0] = 0;
 603                 switch(mailtype) {
 604                 case EA_LOCAL:                                  // There are several types of "local" recipients.
 605
 606                         // Old BBS conventions require mail to "sysop" to go somewhere.  Send it to the admin room.
 607                         if (!strcasecmp(this_recp, "sysop")) {
 608                                 ++ret->num_room;
 609                                 strcpy(this_recp, CtdlGetConfigStr("c_aideroom"));
 610                                 if (!IsEmptyStr(ret->recp_room)) {
 611                                         strcat(ret->recp_room, "|");
 612                                 }
 613                                 strcat(ret->recp_room, this_recp);
 614                         }
 615
 616                         // This handles rooms which can receive posts via email.
 617                         else if (!strncasecmp(this_recp, "room_", 5)) {
 618                                 original_room = CC->room;                               // Remember where we parked
 619
 620                                 char mail_to_room[ROOMNAMELEN];
 621                                 char *m;
 622                                 strncpy(mail_to_room, &this_recp[5], sizeof mail_to_room);
 623                                 for (m = mail_to_room; *m; ++m) {
 624                                         if (m[0] == '_') m[0]=' ';
 625                                 }
 626                                 if (!CtdlGetRoom(&CC->room, mail_to_room)) {            // Find the room they asked for
 627
 628                                         err = CtdlDoIHavePermissionToPostInThisRoom(    // check for write permissions to room
 629                                                 errmsg,
 630                                                 sizeof errmsg,
 631                                                 RemoteIdentifier,
 632                                                 Flags,
 633                                                 0                                       // 0 means "this is not a reply"
 634                                         );
 635                                         if (err) {
 636                                                 ++ret->num_error;
 637                                                 invalid = 1;
 638                                         }
 639                                         else {
 640                                                 ++ret->num_room;
 641                                                 if (!IsEmptyStr(ret->recp_room)) {
 642                                                         strcat(ret->recp_room, "|");
 643                                                 }
 644                                                 strcat(ret->recp_room, &this_recp[5]);
 645
 646                                                 if (!IsEmptyStr(ret->recp_orgroom)) {
 647                                                         strcat(ret->recp_orgroom, "|");
 648                                                 }
 649                                                 strcat(ret->recp_orgroom, org_recp);
 650
 651                                         }
 652                                 }
 653                                 else {                                                  // no such room exists
 654                                         ++ret->num_error;
 655                                         invalid = 1;
 656                                 }
 657
 658                                 // Restore this session's original room location.
 659                                 CC->room = original_room;
 660
 661                         }
 662
 663                         // This handles the most common case, which is mail to a user's inbox.
 664                         else if (CtdlGetUser(&tempUS, this_recp) == 0) {
 665                                 ++ret->num_local;
 666                                 strcpy(this_recp, tempUS.fullname);
 667                                 if (!IsEmptyStr(ret->recp_local)) {
 668                                         strcat(ret->recp_local, "|");
 669                                 }
 670                                 strcat(ret->recp_local, this_recp);
 671                         }
 672
 673                         // No match for this recipient
 674                         else {
 675                                 ++ret->num_error;
 676                                 invalid = 1;
 677                         }
 678                         break;
 679                 case EA_INTERNET:
 680                         // Yes, you're reading this correctly: if the target domain points back to the local system,
 681                         // the address is invalid.  That's because if the address were valid, we would have
 682                         // already translated it to a local address by now.
 683                         if (IsDirectory(this_recp, 0)) {
 684                                 ++ret->num_error;
 685                                 invalid = 1;
 686                         }
 687                         else {
 688                                 ++ret->num_internet;
 689                                 if (!IsEmptyStr(ret->recp_internet)) {
 690                                         strcat(ret->recp_internet, "|");
 691                                 }
 692                                 strcat(ret->recp_internet, this_recp);
 693                         }
 694                         break;
 695                 case EA_ERROR:
 696                         ++ret->num_error;
 697                         invalid = 1;
 698                         break;
 699                 }
 700                 if (invalid) {
 701                         if (IsEmptyStr(errmsg)) {
 702                                 snprintf(append, sizeof append, "Invalid recipient: %s", this_recp);
 703                         }
 704                         else {
 705                                 snprintf(append, sizeof append, "%s", errmsg);
 706                         }
 707                         if ( (strlen(ret->errormsg) + strlen(append) + 3) < SIZ) {
 708                                 if (!IsEmptyStr(ret->errormsg)) {
 709                                         strcat(ret->errormsg, "; ");
 710                                 }
 711                                 strcat(ret->errormsg, append);
 712                         }
 713                 }
 714                 else {
 715                         if (IsEmptyStr(ret->display_recp)) {
 716                                 strcpy(append, this_recp);
 717                         }
 718                         else {
 719                                 snprintf(append, sizeof append, ", %s", this_recp);
 720                         }
 721                         if ( (strlen(ret->display_recp)+strlen(append)) < SIZ) {
 722                                 strcat(ret->display_recp, append);
 723                         }
 724                 }
 725         }
 726
 727         if ( (ret->num_local + ret->num_internet + ret->num_room + ret->num_error) == 0) {
 728                 ret->num_error = (-1);
 729                 strcpy(ret->errormsg, "No recipients specified.");
 730         }
 731
 732         syslog(LOG_DEBUG, "internet_addressing: validate_recipients() = %d local, %d room, %d SMTP, %d error",
 733                 ret->num_local, ret->num_room, ret->num_internet, ret->num_error
 734         );
 735
 736         free(recipients);
 737         array_free(recp_array);
 738
 739         return(ret);
 740 }
 741
 742
 743 /*
 744  * Destructor for recptypes
 745  */
 746 void free_recipients(struct recptypes *valid) {
 747
 748         if (valid == NULL) {
 749                 return;
 750         }
 751
 752         if (valid->recptypes_magic != RECPTYPES_MAGIC) {
 753                 syslog(LOG_ERR, "internet_addressing: attempt to call free_recipients() on some other data type!");
 754                 abort();
 755         }
 756
 757         if (valid->errormsg != NULL)            free(valid->errormsg);
 758         if (valid->recp_local != NULL)          free(valid->recp_local);
 759         if (valid->recp_internet != NULL)       free(valid->recp_internet);
 760         if (valid->recp_room != NULL)           free(valid->recp_room);
 761         if (valid->recp_orgroom != NULL)        free(valid->recp_orgroom);
 762         if (valid->display_recp != NULL)        free(valid->display_recp);
 763         if (valid->bounce_to != NULL)           free(valid->bounce_to);
 764         if (valid->envelope_from != NULL)       free(valid->envelope_from);
 765         if (valid->sending_room != NULL)        free(valid->sending_room);
 766         free(valid);
 767 }
 768
 769
 770 char *qp_encode_email_addrs(char *source) {
 771         char *user, *node, *name;
 772         const char headerStr[] = "=?UTF-8?Q?";
 773         char *Encoded;
 774         char *EncodedName;
 775         char *nPtr;
 776         int need_to_encode = 0;
 777         long SourceLen;
 778         long EncodedMaxLen;
 779         long nColons = 0;
 780         long *AddrPtr;
 781         long *AddrUtf8;
 782         long nAddrPtrMax = 50;
 783         long nmax;
 784         int InQuotes = 0;
 785         int i, n;
 786
 787         if (source == NULL) return source;
 788         if (IsEmptyStr(source)) return source;
 789         syslog(LOG_DEBUG, "internet_addressing: qp_encode_email_addrs <%s>", source);
 790
 791         AddrPtr = malloc (sizeof (long) * nAddrPtrMax);
 792         AddrUtf8 = malloc (sizeof (long) * nAddrPtrMax);
 793         memset(AddrUtf8, 0, sizeof (long) * nAddrPtrMax);
 794         *AddrPtr = 0;
 795         i = 0;
 796         while (!IsEmptyStr (&source[i])) {
 797                 if (nColons >= nAddrPtrMax){
 798                         long *ptr;
 799
 800                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
 801                         memcpy (ptr, AddrPtr, sizeof (long) * nAddrPtrMax);
 802                         free (AddrPtr), AddrPtr = ptr;
 803
 804                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
 805                         memset(&ptr[nAddrPtrMax], 0, sizeof (long) * nAddrPtrMax);
 806
 807                         memcpy (ptr, AddrUtf8, sizeof (long) * nAddrPtrMax);
 808                         free (AddrUtf8), AddrUtf8 = ptr;
 809                         nAddrPtrMax *= 2;
 810                 }
 811                 if (((unsigned char) source[i] < 32) || ((unsigned char) source[i] > 126)) {
 812                         need_to_encode = 1;
 813                         AddrUtf8[nColons] = 1;
 814                 }
 815                 if (source[i] == '"') {
 816                         InQuotes = !InQuotes;
 817                 }
 818                 if (!InQuotes && source[i] == ',') {
 819                         AddrPtr[nColons] = i;
 820                         nColons++;
 821                 }
 822                 i++;
 823         }
 824         if (need_to_encode == 0) {
 825                 free(AddrPtr);
 826                 free(AddrUtf8);
 827                 return source;
 828         }
 829
 830         SourceLen = i;
 831         EncodedMaxLen = nColons * (sizeof(headerStr) + 3) + SourceLen * 3;
 832         Encoded = (char*) malloc (EncodedMaxLen);
 833
 834         for (i = 0; i < nColons; i++) {
 835                 source[AddrPtr[i]++] = '\0';
 836         }
 837         /* TODO: if libidn, this might get larger*/
 838         user = malloc(SourceLen + 1);
 839         node = malloc(SourceLen + 1);
 840         name = malloc(SourceLen + 1);
 841
 842         nPtr = Encoded;
 843         *nPtr = '\0';
 844         for (i = 0; i < nColons && nPtr != NULL; i++) {
 845                 nmax = EncodedMaxLen - (nPtr - Encoded);
 846                 if (AddrUtf8[i]) {
 847                         process_rfc822_addr(&source[AddrPtr[i]], user, node, name);
 848                         /* TODO: libIDN here ! */
 849                         if (IsEmptyStr(name)) {
 850                                 n = snprintf(nPtr, nmax, (i==0)?"%s@%s" : ",%s@%s", user, node);
 851                         }
 852                         else {
 853                                 EncodedName = rfc2047encode(name, strlen(name));
 854                                 n = snprintf(nPtr, nmax, (i==0)?"%s <%s@%s>" : ",%s <%s@%s>", EncodedName, user, node);
 855                                 free(EncodedName);
 856                         }
 857                 }
 858                 else {
 859                         n = snprintf(nPtr, nmax, (i==0)?"%s" : ",%s", &source[AddrPtr[i]]);
 860                 }
 861                 if (n > 0 )
 862                         nPtr += n;
 863                 else {
 864                         char *ptr, *nnPtr;
 865                         ptr = (char*) malloc(EncodedMaxLen * 2);
 866                         memcpy(ptr, Encoded, EncodedMaxLen);
 867                         nnPtr = ptr + (nPtr - Encoded), nPtr = nnPtr;
 868                         free(Encoded), Encoded = ptr;
 869                         EncodedMaxLen *= 2;
 870                         i--; /* do it once more with properly lengthened buffer */
 871                 }
 872         }
 873         for (i = 0; i < nColons; i++)
 874                 source[--AddrPtr[i]] = ',';
 875
 876         free(user);
 877         free(node);
 878         free(name);
 879         free(AddrUtf8);
 880         free(AddrPtr);
 881         return Encoded;
 882 }
 883
 884
 885 /*
 886  * Unfold a multi-line field into a single line, removing multi-whitespaces
 887  */
 888 void unfold_rfc822_field(char **field, char **FieldEnd)
 889 {
 890         int quote = 0;
 891         char *pField = *field;
 892         char *sField;
 893         char *pFieldEnd = *FieldEnd;
 894
 895         while (isspace(*pField))
 896                 pField++;
 897         /* remove leading/trailing whitespace */
 898         ;
 899
 900         while (isspace(*pFieldEnd))
 901                 pFieldEnd --;
 902
 903         *FieldEnd = pFieldEnd;
 904         /* convert non-space whitespace to spaces, and remove double blanks */
 905         for (sField = *field = pField;
 906              sField < pFieldEnd;
 907              pField++, sField++)
 908         {
 909                 if ((*sField=='\r') || (*sField=='\n'))
 910                 {
 911                         int offset = 1;
 912                         while ( ( (*(sField + offset) == '\r') || (*(sField + offset) == '\n' )) && (sField + offset < pFieldEnd) ) {
 913                                 offset ++;
 914                         }
 915                         sField += offset;
 916                         *pField = *sField;
 917                 }
 918                 else {
 919                         if (*sField=='\"') quote = 1 - quote;
 920                         if (!quote) {
 921                                 if (isspace(*sField)) {
 922                                         *pField = ' ';
 923                                         pField++;
 924                                         sField++;
 925
 926                                         while ((sField < pFieldEnd) &&
 927                                                isspace(*sField))
 928                                                 sField++;
 929                                         *pField = *sField;
 930                                 }
 931                                 else *pField = *sField;
 932                         }
 933                         else *pField = *sField;
 934                 }
 935         }
 936         *pField = '\0';
 937         *FieldEnd = pField - 1;
 938 }
 939
 940
 941 /*
 942  * Split an RFC822-style address into userid, host, and full name
 943  *
 944  */
 945 void process_rfc822_addr(const char *rfc822, char *user, char *node, char *name) {
 946         int a;
 947
 948         strcpy(user, "");
 949         strcpy(node, CtdlGetConfigStr("c_fqdn"));
 950         strcpy(name, "");
 951
 952         if (rfc822 == NULL) return;
 953
 954         /* extract full name - first, it's From minus <userid> */
 955         strcpy(name, rfc822);
 956         stripout(name, '<', '>');
 957
 958         /* strip anything to the left of a bang */
 959         while ((!IsEmptyStr(name)) && (haschar(name, '!') > 0))
 960                 strcpy(name, &name[1]);
 961
 962         /* and anything to the right of a @ or % */
 963         for (a = 0; name[a] != '\0'; ++a) {
 964                 if (name[a] == '@') {
 965                         name[a] = 0;
 966                         break;
 967                 }
 968                 if (name[a] == '%') {
 969                         name[a] = 0;
 970                         break;
 971                 }
 972         }
 973
 974         /* but if there are parentheses, that changes the rules... */
 975         if ((haschar(rfc822, '(') == 1) && (haschar(rfc822, ')') == 1)) {
 976                 strcpy(name, rfc822);
 977                 stripallbut(name, '(', ')');
 978         }
 979
 980         /* but if there are a set of quotes, that supersedes everything */
 981         if (haschar(rfc822, 34) == 2) {
 982                 strcpy(name, rfc822);
 983                 while ((!IsEmptyStr(name)) && (name[0] != 34)) {
 984                         strcpy(&name[0], &name[1]);
 985                 }
 986                 strcpy(&name[0], &name[1]);
 987                 for (a = 0; name[a] != '\0'; ++a)
 988                         if (name[a] == 34) {
 989                                 name[a] = 0;
 990                                 break;
 991                         }
 992         }
 993         /* extract user id */
 994         strcpy(user, rfc822);
 995
 996         /* first get rid of anything in parens */
 997         stripout(user, '(', ')');
 998
 999         /* if there's a set of angle brackets, strip it down to that */
1000         if ((haschar(user, '<') == 1) && (haschar(user, '>') == 1)) {
1001                 stripallbut(user, '<', '>');
1002         }
1003
1004         /* strip anything to the left of a bang */
1005         while ((!IsEmptyStr(user)) && (haschar(user, '!') > 0))
1006                 strcpy(user, &user[1]);
1007
1008         /* and anything to the right of a @ or % */
1009         for (a = 0; user[a] != '\0'; ++a) {
1010                 if (user[a] == '@') {
1011                         user[a] = 0;
1012                         break;
1013                 }
1014                 if (user[a] == '%') {
1015                         user[a] = 0;
1016                         break;
1017                 }
1018         }
1019
1020
1021         /* extract node name */
1022         strcpy(node, rfc822);
1023
1024         /* first get rid of anything in parens */
1025         stripout(node, '(', ')');
1026
1027         /* if there's a set of angle brackets, strip it down to that */
1028         if ((haschar(node, '<') == 1) && (haschar(node, '>') == 1)) {
1029                 stripallbut(node, '<', '>');
1030         }
1031
1032         /* If no node specified, tack ours on instead */
1033         if (
1034                 (haschar(node, '@')==0)
1035                 && (haschar(node, '%')==0)
1036                 && (haschar(node, '!')==0)
1037         ) {
1038                 strcpy(node, CtdlGetConfigStr("c_nodename"));
1039         }
1040         else {
1041
1042                 /* strip anything to the left of a @ */
1043                 while ((!IsEmptyStr(node)) && (haschar(node, '@') > 0))
1044                         strcpy(node, &node[1]);
1045
1046                 /* strip anything to the left of a % */
1047                 while ((!IsEmptyStr(node)) && (haschar(node, '%') > 0))
1048                         strcpy(node, &node[1]);
1049
1050                 /* reduce multiple system bang paths to node!user */
1051                 while ((!IsEmptyStr(node)) && (haschar(node, '!') > 1))
1052                         strcpy(node, &node[1]);
1053
1054                 /* now get rid of the user portion of a node!user string */
1055                 for (a = 0; node[a] != '\0'; ++a)
1056                         if (node[a] == '!') {
1057                                 node[a] = 0;
1058                                 break;
1059                         }
1060         }
1061
1062         /* strip leading and trailing spaces in all strings */
1063         striplt(user);
1064         striplt(node);
1065         striplt(name);
1066
1067         /* If we processed a string that had the address in angle brackets
1068          * but no name outside the brackets, we now have an empty name.  In
1069          * this case, use the user portion of the address as the name.
1070          */
1071         if ((IsEmptyStr(name)) && (!IsEmptyStr(user))) {
1072                 strcpy(name, user);
1073         }
1074 }
1075
1076
1077 /*
1078  * convert_field() is a helper function for convert_internet_message().
1079  * Given start/end positions for an rfc822 field, it converts it to a Citadel
1080  * field if it wants to, and unfolds it if necessary.
1081  *
1082  * Returns 1 if the field was converted and inserted into the Citadel message
1083  * structure, implying that the source field should be removed from the
1084  * message text.
1085  */
1086 int convert_field(struct CtdlMessage *msg, const char *beg, const char *end) {
1087         char *key, *value, *valueend;
1088         long len;
1089         const char *pos;
1090         int i;
1091         const char *colonpos = NULL;
1092         int processed = 0;
1093         char user[1024];
1094         char node[1024];
1095         char name[1024];
1096         char addr[1024];
1097         time_t parsed_date;
1098         long valuelen;
1099
1100         for (pos = end; pos >= beg; pos--) {
1101                 if (*pos == ':') colonpos = pos;
1102         }
1103
1104         if (colonpos == NULL) return(0);        /* no colon? not a valid header line */
1105
1106         len = end - beg;
1107         key = malloc(len + 2);
1108         memcpy(key, beg, len + 1);
1109         key[len] = '\0';
1110         valueend = key + len;
1111         * ( key + (colonpos - beg) ) = '\0';
1112         value = &key[(colonpos - beg) + 1];
1113 /*      printf("Header: [%s]\nValue: [%s]\n", key, value); */
1114         unfold_rfc822_field(&value, &valueend);
1115         valuelen = valueend - value + 1;
1116 /*      printf("UnfoldedValue: [%s]\n", value); */
1117
1118         /*
1119          * Here's the big rfc822-to-citadel loop.
1120          */
1121
1122         /* Date/time is converted into a unix timestamp.  If the conversion
1123          * fails, we replace it with the time the message arrived locally.
1124          */
1125         if (!strcasecmp(key, "Date")) {
1126                 parsed_date = parsedate(value);
1127                 if (parsed_date < 0L) parsed_date = time(NULL);
1128
1129                 if (CM_IsEmpty(msg, eTimestamp))
1130                         CM_SetFieldLONG(msg, eTimestamp, parsed_date);
1131                 processed = 1;
1132         }
1133
1134         else if (!strcasecmp(key, "From")) {
1135                 process_rfc822_addr(value, user, node, name);
1136                 syslog(LOG_DEBUG, "internet_addressing: converted to <%s@%s> (%s)", user, node, name);
1137                 snprintf(addr, sizeof(addr), "%s@%s", user, node);
1138                 if (CM_IsEmpty(msg, eAuthor) && !IsEmptyStr(name)) {
1139                         CM_SetField(msg, eAuthor, name, -1);
1140                 }
1141                 if (CM_IsEmpty(msg, erFc822Addr) && !IsEmptyStr(addr)) {
1142                         CM_SetField(msg, erFc822Addr, addr, -1);
1143                 }
1144                 processed = 1;
1145         }
1146
1147         else if (!strcasecmp(key, "Subject")) {
1148                 if (CM_IsEmpty(msg, eMsgSubject))
1149                         CM_SetField(msg, eMsgSubject, value, valuelen);
1150                 processed = 1;
1151         }
1152
1153         else if (!strcasecmp(key, "List-ID")) {
1154                 if (CM_IsEmpty(msg, eListID))
1155                         CM_SetField(msg, eListID, value, valuelen);
1156                 processed = 1;
1157         }
1158
1159         else if (!strcasecmp(key, "To")) {
1160                 if (CM_IsEmpty(msg, eRecipient))
1161                         CM_SetField(msg, eRecipient, value, valuelen);
1162                 processed = 1;
1163         }
1164
1165         else if (!strcasecmp(key, "CC")) {
1166                 if (CM_IsEmpty(msg, eCarbonCopY))
1167                         CM_SetField(msg, eCarbonCopY, value, valuelen);
1168                 processed = 1;
1169         }
1170
1171         else if (!strcasecmp(key, "Message-ID")) {
1172                 if (!CM_IsEmpty(msg, emessageId)) {
1173                         syslog(LOG_WARNING, "internet_addressing: duplicate message id");
1174                 }
1175                 else {
1176                         char *pValue;
1177                         long pValueLen;
1178
1179                         pValue = value;
1180                         pValueLen = valuelen;
1181                         /* Strip angle brackets */
1182                         while (haschar(pValue, '<') > 0) {
1183                                 pValue ++;
1184                                 pValueLen --;
1185                         }
1186
1187                         for (i = 0; i <= pValueLen; ++i)
1188                                 if (pValue[i] == '>') {
1189                                         pValueLen = i;
1190                                         break;
1191                                 }
1192
1193                         CM_SetField(msg, emessageId, pValue, pValueLen);
1194                 }
1195
1196                 processed = 1;
1197         }
1198
1199         else if (!strcasecmp(key, "Return-Path")) {
1200                 if (CM_IsEmpty(msg, eMessagePath))
1201                         CM_SetField(msg, eMessagePath, value, valuelen);
1202                 processed = 1;
1203         }
1204
1205         else if (!strcasecmp(key, "Envelope-To")) {
1206                 if (CM_IsEmpty(msg, eenVelopeTo))
1207                         CM_SetField(msg, eenVelopeTo, value, valuelen);
1208                 processed = 1;
1209         }
1210
1211         else if (!strcasecmp(key, "References")) {
1212                 CM_SetField(msg, eWeferences, value, valuelen);
1213                 processed = 1;
1214         }
1215
1216         else if (!strcasecmp(key, "Reply-To")) {
1217                 CM_SetField(msg, eReplyTo, value, valuelen);
1218                 processed = 1;
1219         }
1220
1221         else if (!strcasecmp(key, "In-reply-to")) {
1222                 if (CM_IsEmpty(msg, eWeferences)) /* References: supersedes In-reply-to: */
1223                         CM_SetField(msg, eWeferences, value, valuelen);
1224                 processed = 1;
1225         }
1226
1227
1228
1229         /* Clean up and move on. */
1230         free(key);      /* Don't free 'value', it's actually the same buffer */
1231         return processed;
1232 }
1233
1234
1235 /*
1236  * Convert RFC822 references format (References) to Citadel references format (Weferences)
1237  */
1238 void convert_references_to_wefewences(char *str) {
1239         int bracket_nesting = 0;
1240         char *ptr = str;
1241         char *moveptr = NULL;
1242         char ch;
1243
1244         while(*ptr) {
1245                 ch = *ptr;
1246                 if (ch == '>') {
1247                         --bracket_nesting;
1248                         if (bracket_nesting < 0) bracket_nesting = 0;
1249                 }
1250                 if ((ch == '>') && (bracket_nesting == 0) && (*(ptr+1)) && (ptr>str) ) {
1251                         *ptr = '|';
1252                         ++ptr;
1253                 }
1254                 else if (bracket_nesting > 0) {
1255                         ++ptr;
1256                 }
1257                 else {
1258                         moveptr = ptr;
1259                         while (*moveptr) {
1260                                 *moveptr = *(moveptr+1);
1261                                 ++moveptr;
1262                         }
1263                 }
1264                 if (ch == '<') ++bracket_nesting;
1265         }
1266
1267 }
1268
1269
1270 /*
1271  * Convert an RFC822 message (headers + body) to a CtdlMessage structure.
1272  * NOTE: the supplied buffer becomes part of the CtdlMessage structure, and
1273  * will be deallocated when CM_Free() is called.  Therefore, the
1274  * supplied buffer should be DEREFERENCED.  It should not be freed or used
1275  * again.
1276  */
1277 struct CtdlMessage *convert_internet_message(char *rfc822) {
1278         StrBuf *RFCBuf = NewStrBufPlain(rfc822, -1);
1279         free (rfc822);
1280         return convert_internet_message_buf(&RFCBuf);
1281 }
1282
1283
1284 struct CtdlMessage *convert_internet_message_buf(StrBuf **rfc822)
1285 {
1286         struct CtdlMessage *msg;
1287         const char *pos, *beg, *end, *totalend;
1288         int done, alldone = 0;
1289         int converted;
1290         StrBuf *OtherHeaders;
1291
1292         msg = malloc(sizeof(struct CtdlMessage));
1293         if (msg == NULL) return msg;
1294
1295         memset(msg, 0, sizeof(struct CtdlMessage));
1296         msg->cm_magic = CTDLMESSAGE_MAGIC;      /* self check */
1297         msg->cm_anon_type = 0;                  /* never anonymous */
1298         msg->cm_format_type = FMT_RFC822;       /* internet message */
1299
1300         pos = ChrPtr(*rfc822);
1301         totalend = pos + StrLength(*rfc822);
1302         done = 0;
1303         OtherHeaders = NewStrBufPlain(NULL, StrLength(*rfc822));
1304
1305         while (!alldone) {
1306
1307                 /* Locate beginning and end of field, keeping in mind that
1308                  * some fields might be multiline
1309                  */
1310                 end = beg = pos;
1311
1312                 while ((end < totalend) &&
1313                        (end == beg) &&
1314                        (done == 0) )
1315                 {
1316
1317                         if ( (*pos=='\n') && ((*(pos+1))!=0x20) && ((*(pos+1))!=0x09) )
1318                         {
1319                                 end = pos;
1320                         }
1321
1322                         /* done with headers? */
1323                         if ((*pos=='\n') &&
1324                             ( (*(pos+1)=='\n') ||
1325                               (*(pos+1)=='\r')) )
1326                         {
1327                                 alldone = 1;
1328                         }
1329
1330                         if (pos >= (totalend - 1) )
1331                         {
1332                                 end = pos;
1333                                 done = 1;
1334                         }
1335
1336                         ++pos;
1337
1338                 }
1339
1340                 /* At this point we have a field.  Are we interested in it? */
1341                 converted = convert_field(msg, beg, end);
1342
1343                 /* Strip the field out of the RFC822 header if we used it */
1344                 if (!converted) {
1345                         StrBufAppendBufPlain(OtherHeaders, beg, end - beg, 0);
1346                         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1347                 }
1348
1349                 /* If we've hit the end of the message, bail out */
1350                 if (pos >= totalend)
1351                         alldone = 1;
1352         }
1353         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1354         if (pos < totalend)
1355                 StrBufAppendBufPlain(OtherHeaders, pos, totalend - pos, 0);
1356         FreeStrBuf(rfc822);
1357         CM_SetAsFieldSB(msg, eMesageText, &OtherHeaders);
1358
1359         /* Follow-up sanity checks... */
1360
1361         /* If there's no timestamp on this message, set it to now. */
1362         if (CM_IsEmpty(msg, eTimestamp)) {
1363                 CM_SetFieldLONG(msg, eTimestamp, time(NULL));
1364         }
1365
1366         /* If a W (references, or rather, Wefewences) field is present, we
1367          * have to convert it from RFC822 format to Citadel format.
1368          */
1369         if (!CM_IsEmpty(msg, eWeferences)) {
1370                 /// todo: API!
1371                 convert_references_to_wefewences(msg->cm_fields[eWeferences]);
1372         }
1373
1374         return msg;
1375 }
1376
1377
1378 /*
1379  * Look for a particular header field in an RFC822 message text.  If the
1380  * requested field is found, it is unfolded (if necessary) and returned to
1381  * the caller.  The field name is stripped out, leaving only its contents.
1382  * The caller is responsible for freeing the returned buffer.  If the requested
1383  * field is not present, or anything else goes wrong, it returns NULL.
1384  */
1385 char *rfc822_fetch_field(const char *rfc822, const char *fieldname) {
1386         char *fieldbuf = NULL;
1387         const char *end_of_headers;
1388         const char *field_start;
1389         const char *ptr;
1390         char *cont;
1391         char fieldhdr[SIZ];
1392
1393         /* Should never happen, but sometimes we get stupid */
1394         if (rfc822 == NULL) return(NULL);
1395         if (fieldname == NULL) return(NULL);
1396
1397         snprintf(fieldhdr, sizeof fieldhdr, "%s:", fieldname);
1398
1399         /* Locate the end of the headers, so we don't run past that point */
1400         end_of_headers = cbmstrcasestr(rfc822, "\n\r\n");
1401         if (end_of_headers == NULL) {
1402                 end_of_headers = cbmstrcasestr(rfc822, "\n\n");
1403         }
1404         if (end_of_headers == NULL) return (NULL);
1405
1406         field_start = cbmstrcasestr(rfc822, fieldhdr);
1407         if (field_start == NULL) return(NULL);
1408         if (field_start > end_of_headers) return(NULL);
1409
1410         fieldbuf = malloc(SIZ);
1411         strcpy(fieldbuf, "");
1412
1413         ptr = field_start;
1414         ptr = cmemreadline(ptr, fieldbuf, SIZ-strlen(fieldbuf) );
1415         while ( (isspace(ptr[0])) && (ptr < end_of_headers) ) {
1416                 strcat(fieldbuf, " ");
1417                 cont = &fieldbuf[strlen(fieldbuf)];
1418                 ptr = cmemreadline(ptr, cont, SIZ-strlen(fieldbuf) );
1419                 striplt(cont);
1420         }
1421
1422         strcpy(fieldbuf, &fieldbuf[strlen(fieldhdr)]);
1423         striplt(fieldbuf);
1424
1425         return(fieldbuf);
1426 }
1427
1428
1429 /*****************************************************************************
1430  *                      DIRECTORY MANAGEMENT FUNCTIONS                       *
1431  *****************************************************************************/
1432
1433 /*
1434  * Generate the index key for an Internet e-mail address to be looked up
1435  * in the database.
1436  */
1437 void directory_key(char *key, char *addr) {
1438         int i;
1439         int keylen = 0;
1440
1441         for (i=0; !IsEmptyStr(&addr[i]); ++i) {
1442                 if (!isspace(addr[i])) {
1443                         key[keylen++] = tolower(addr[i]);
1444                 }
1445         }
1446         key[keylen++] = 0;
1447
1448         syslog(LOG_DEBUG, "internet_addressing: directory key is <%s>", key);
1449 }
1450
1451
1452 /*
1453  * Return nonzero if the supplied address is in one of "our" domains
1454  */
1455 int IsDirectory(char *addr, int allow_masq_domains) {
1456         char domain[256];
1457         int h;
1458
1459         extract_token(domain, addr, 1, '@', sizeof domain);
1460         striplt(domain);
1461
1462         h = CtdlHostAlias(domain);
1463
1464         if ( (h == hostalias_masq) && allow_masq_domains)
1465                 return(1);
1466
1467         if (h == hostalias_localhost) {
1468                 return(1);
1469         }
1470         else {
1471                 return(0);
1472         }
1473 }
1474
1475
1476 /*
1477  * Add an Internet e-mail address to the directory for a user
1478  */
1479 int CtdlDirectoryAddUser(char *internet_addr, char *citadel_addr) {
1480         char key[SIZ];
1481
1482         if (IsDirectory(internet_addr, 0) == 0) {
1483                 return 0;
1484         }
1485         syslog(LOG_DEBUG, "internet_addressing: create directory entry: %s --> %s", internet_addr, citadel_addr);
1486         directory_key(key, internet_addr);
1487         cdb_store(CDB_DIRECTORY, key, strlen(key), citadel_addr, strlen(citadel_addr)+1 );
1488         return 1;
1489 }
1490
1491
1492 /*
1493  * Delete an Internet e-mail address from the directory.
1494  *
1495  * (NOTE: we don't actually use or need the citadel_addr variable; it's merely
1496  * here because the callback API expects to be able to send it.)
1497  */
1498 int CtdlDirectoryDelUser(char *internet_addr, char *citadel_addr) {
1499         char key[SIZ];
1500
1501         syslog(LOG_DEBUG, "internet_addressing: delete directory entry: %s --> %s", internet_addr, citadel_addr);
1502         directory_key(key, internet_addr);
1503         return cdb_delete(CDB_DIRECTORY, key, strlen(key) ) == 0;
1504 }
1505
1506
1507 /*
1508  * Look up an Internet e-mail address in the directory.
1509  * On success: returns 0, and Citadel address stored in 'target'
1510  * On failure: returns nonzero
1511  */
1512 int CtdlDirectoryLookup(char *target, char *internet_addr, size_t targbuflen) {
1513         struct cdbdata *cdbrec;
1514         char key[SIZ];
1515
1516         /* Dump it in there unchanged, just for kicks */
1517         if (target != NULL) {
1518                 safestrncpy(target, internet_addr, targbuflen);
1519         }
1520
1521         /* Only do lookups for addresses with hostnames in them */
1522         if (num_tokens(internet_addr, '@') != 2) return(-1);
1523
1524         /* Only do lookups for domains in the directory */
1525         if (IsDirectory(internet_addr, 0) == 0) return(-1);
1526
1527         directory_key(key, internet_addr);
1528         cdbrec = cdb_fetch(CDB_DIRECTORY, key, strlen(key) );
1529         if (cdbrec != NULL) {
1530                 if (target != NULL) {
1531                         safestrncpy(target, cdbrec->ptr, targbuflen);
1532                 }
1533                 cdb_free(cdbrec);
1534                 return(0);
1535         }
1536
1537         return(-1);
1538 }
1539
1540
1541 /*
1542  * Harvest any email addresses that someone might want to have in their
1543  * "collected addresses" book.
1544  */
1545 char *harvest_collected_addresses(struct CtdlMessage *msg) {
1546         char *coll = NULL;
1547         char addr[256];
1548         char user[256], node[256], name[256];
1549         int is_harvestable;
1550         int i, j, h;
1551         eMsgField field = 0;
1552
1553         if (msg == NULL) return(NULL);
1554
1555         is_harvestable = 1;
1556         strcpy(addr, "");
1557         if (!CM_IsEmpty(msg, eAuthor)) {
1558                 strcat(addr, msg->cm_fields[eAuthor]);
1559         }
1560         if (!CM_IsEmpty(msg, erFc822Addr)) {
1561                 strcat(addr, " <");
1562                 strcat(addr, msg->cm_fields[erFc822Addr]);
1563                 strcat(addr, ">");
1564                 if (IsDirectory(msg->cm_fields[erFc822Addr], 0)) {
1565                         is_harvestable = 0;
1566                 }
1567         }
1568
1569         if (is_harvestable) {
1570                 coll = strdup(addr);
1571         }
1572         else {
1573                 coll = strdup("");
1574         }
1575
1576         if (coll == NULL) return(NULL);
1577
1578         /* Scan both the R (To) and Y (CC) fields */
1579         for (i = 0; i < 2; ++i) {
1580                 if (i == 0) field = eRecipient;
1581                 if (i == 1) field = eCarbonCopY;
1582
1583                 if (!CM_IsEmpty(msg, field)) {
1584                         for (j=0; j<num_tokens(msg->cm_fields[field], ','); ++j) {
1585                                 extract_token(addr, msg->cm_fields[field], j, ',', sizeof addr);
1586                                 if (strstr(addr, "=?") != NULL)
1587                                         utf8ify_rfc822_string(addr);
1588                                 process_rfc822_addr(addr, user, node, name);
1589                                 h = CtdlHostAlias(node);
1590                                 if (h != hostalias_localhost) {
1591                                         coll = realloc(coll, strlen(coll) + strlen(addr) + 4);
1592                                         if (coll == NULL) return(NULL);
1593                                         if (!IsEmptyStr(coll)) {
1594                                                 strcat(coll, ",");
1595                                         }
1596                                         striplt(addr);
1597                                         strcat(coll, addr);
1598                                 }
1599                         }
1600                 }
1601         }
1602
1603         if (IsEmptyStr(coll)) {
1604                 free(coll);
1605                 return(NULL);
1606         }
1607         return(coll);
1608 }
1609
1610
1611 /*
1612  * Helper function for CtdlRebuildDirectoryIndex()
1613  */
1614 void CtdlRebuildDirectoryIndex_backend(char *username, void *data) {
1615
1616         int j = 0;
1617         struct ctdluser usbuf;
1618
1619         if (CtdlGetUser(&usbuf, username) != 0) {
1620                 return;
1621         }
1622
1623         if ( (!IsEmptyStr(usbuf.fullname)) && (!IsEmptyStr(usbuf.emailaddrs)) ) {
1624                 for (j=0; j<num_tokens(usbuf.emailaddrs, '|'); ++j) {
1625                         char one_email[512];
1626                         extract_token(one_email, usbuf.emailaddrs, j, '|', sizeof one_email);
1627                         CtdlDirectoryAddUser(one_email, usbuf.fullname);
1628                 }
1629         }
1630 }
1631
1632
1633 /*
1634  * Initialize the directory database (erasing anything already there)
1635  */
1636 void CtdlRebuildDirectoryIndex(void) {
1637         syslog(LOG_INFO, "internet_addressing: rebuilding email address directory index");
1638         cdb_trunc(CDB_DIRECTORY);
1639         ForEachUser(CtdlRebuildDirectoryIndex_backend, NULL);
1640 }
1641
1642
1643 /*
1644  * Configure Internet email addresses for a user account, updating the Directory Index in the process
1645  */
1646 void CtdlSetEmailAddressesForUser(char *requested_user, char *new_emailaddrs)
1647 {
1648         struct ctdluser usbuf;
1649         int i;
1650         char buf[SIZ];
1651
1652         if (CtdlGetUserLock(&usbuf, requested_user) != 0) {     // We are relying on the fact that the DirectoryIndex functions don't lock.
1653                 return;                                         // Silently fail here if we can't acquire a lock on the user record.
1654         }
1655
1656         syslog(LOG_DEBUG, "internet_addressing: setting email addresses for <%s> to <%s>", usbuf.fullname, new_emailaddrs);
1657
1658         /* Delete all of the existing directory index records for the user (easier this way) */
1659         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1660                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1661                 CtdlDirectoryDelUser(buf, requested_user);
1662         }
1663
1664         strcpy(usbuf.emailaddrs, new_emailaddrs);               // make it official.
1665
1666         /* Index all of the new email addresses (they've already been sanitized) */
1667         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1668                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1669                 CtdlDirectoryAddUser(buf, requested_user);
1670         }
1671
1672         CtdlPutUserLock(&usbuf);
1673 }
1674
1675
1676 /*
1677  * Auto-generate an Internet email address for a user account
1678  */
1679 void AutoGenerateEmailAddressForUser(struct ctdluser *user)
1680 {
1681         char synthetic_email_addr[1024];
1682         int i, j;
1683         int u = 0;
1684
1685         for (i=0; u==0; ++i) {
1686                 if (i == 0) {
1687                         // first try just converting the user name to lowercase and replacing spaces with underscores
1688                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "%s@%s", user->fullname, CtdlGetConfigStr("c_fqdn"));
1689                         for (j=0; ((synthetic_email_addr[j] != '\0')&&(synthetic_email_addr[j] != '@')); j++) {
1690                                 synthetic_email_addr[j] = tolower(synthetic_email_addr[j]);
1691                                 if (!isalnum(synthetic_email_addr[j])) {
1692                                         synthetic_email_addr[j] = '_';
1693                                 }
1694                         }
1695                 }
1696                 else if (i == 1) {
1697                         // then try 'ctdl' followed by the user number
1698                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08lx@%s", user->usernum, CtdlGetConfigStr("c_fqdn"));
1699                 }
1700                 else if (i > 1) {
1701                         // oof.  just keep trying other numbers until we find one
1702                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08x@%s", i, CtdlGetConfigStr("c_fqdn"));
1703                 }
1704                 u = CtdlDirectoryLookup(NULL, synthetic_email_addr, 0);
1705                 syslog(LOG_DEBUG, "user_ops: address <%s> lookup returned <%d>", synthetic_email_addr, u);
1706         }
1707
1708         CtdlSetEmailAddressesForUser(user->fullname, synthetic_email_addr);
1709         strncpy(CC->user.emailaddrs, synthetic_email_addr, sizeof(user->emailaddrs));
1710         syslog(LOG_DEBUG, "user_ops: auto-generated email address <%s> for <%s>", synthetic_email_addr, user->fullname);
1711 }