citadel/internet_addressing.c

   1 // This file contains functions which handle the mapping of Internet addresses
   2 // to users on the Citadel system.
   3 //
   4 // Copyright (c) 1987-2021 by the citadel.org team
   5 //
   6 // This program is open source software; you can redistribute it and/or modify
   7 // it under the terms of the GNU General Public License version 3.
   8 //
   9 // This program is distributed in the hope that it will be useful,
  10 // but WITHOUT ANY WARRANTY; without even the implied warranty of
  11 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12 // GNU General Public License for more details.
  13
  14 #include "sysdep.h"
  15 #include <stdlib.h>
  16 #include <unistd.h>
  17 #include <stdio.h>
  18 #include <fcntl.h>
  19 #include <ctype.h>
  20 #include <signal.h>
  21 #include <pwd.h>
  22 #include <errno.h>
  23 #include <sys/types.h>
  24 #include <time.h>
  25 #include <sys/wait.h>
  26 #include <string.h>
  27 #include <limits.h>
  28 #include <libcitadel.h>
  29 #include "citadel.h"
  30 #include "server.h"
  31 #include "sysdep_decls.h"
  32 #include "citserver.h"
  33 #include "support.h"
  34 #include "config.h"
  35 #include "msgbase.h"
  36 #include "internet_addressing.h"
  37 #include "user_ops.h"
  38 #include "room_ops.h"
  39 #include "parsedate.h"
  40 #include "database.h"
  41 #include "ctdl_module.h"
  42 #ifdef HAVE_ICONV
  43 #include <iconv.h>
  44
  45 // This is the non-define version in case it is needed for debugging
  46 #if 0
  47 inline void FindNextEnd (char *bptr, char *end)
  48 {
  49         /* Find the next ?Q? */
  50         end = strchr(bptr + 2, '?');
  51         if (end == NULL) return NULL;
  52         if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) &&
  53             (*(end + 2) == '?')) {
  54                 /* skip on to the end of the cluster, the next ?= */
  55                 end = strstr(end + 3, "?=");
  56         }
  57         else
  58                 /* sort of half valid encoding, try to find an end. */
  59                 end = strstr(bptr, "?=");
  60 }
  61 #endif
  62
  63 #define FindNextEnd(bptr, end) { \
  64         end = strchr(bptr + 2, '?'); \
  65         if (end != NULL) { \
  66                 if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && (*(end + 2) == '?')) { \
  67                         end = strstr(end + 3, "?="); \
  68                 } else end = strstr(bptr, "?="); \
  69         } \
  70 }
  71
  72 // Handle subjects with RFC2047 encoding such as:
  73 // =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
  74 void utf8ify_rfc822_string(char *buf) {
  75         char *start, *end, *next, *nextend, *ptr;
  76         char newbuf[1024];
  77         char charset[128];
  78         char encoding[16];
  79         char istr[1024];
  80         iconv_t ic = (iconv_t)(-1) ;
  81         char *ibuf;                     // Buffer of characters to be converted
  82         char *obuf;                     // Buffer for converted characters
  83         size_t ibuflen;                 // Length of input buffer
  84         size_t obuflen;                 // Length of output buffer
  85         char *isav;                     // Saved pointer to input buffer
  86         char *osav;                     // Saved pointer to output buffer
  87         int passes = 0;
  88         int i, len, delta;
  89         int illegal_non_rfc2047_encoding = 0;
  90
  91         // Sometimes, badly formed messages contain strings which were simply
  92         // written out directly in some foreign character set instead of
  93         // using RFC2047 encoding.  This is illegal but we will attempt to
  94         // handle it anyway by converting from a user-specified default
  95         // charset to UTF-8 if we see any nonprintable characters.
  96         len = strlen(buf);
  97         for (i=0; i<len; ++i) {
  98                 if ((buf[i] < 32) || (buf[i] > 126)) {
  99                         illegal_non_rfc2047_encoding = 1;
 100                         i = len;        // take a shortcut, it won't be more than one.
 101                 }
 102         }
 103         if (illegal_non_rfc2047_encoding) {
 104                 const char *default_header_charset = "iso-8859-1";
 105                 if ( (strcasecmp(default_header_charset, "UTF-8")) && (strcasecmp(default_header_charset, "us-ascii")) ) {
 106                         ctdl_iconv_open("UTF-8", default_header_charset, &ic);
 107                         if (ic != (iconv_t)(-1) ) {
 108                                 ibuf = malloc(1024);
 109                                 isav = ibuf;
 110                                 safestrncpy(ibuf, buf, 1024);
 111                                 ibuflen = strlen(ibuf);
 112                                 obuflen = 1024;
 113                                 obuf = (char *) malloc(obuflen);
 114                                 osav = obuf;
 115                                 iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 116                                 osav[1024-obuflen] = 0;
 117                                 strcpy(buf, osav);
 118                                 free(osav);
 119                                 iconv_close(ic);
 120                                 free(isav);
 121                         }
 122                 }
 123         }
 124
 125         // pre evaluate the first pair
 126         nextend = end = NULL;
 127         len = strlen(buf);
 128         start = strstr(buf, "=?");
 129         if (start != NULL)
 130                 FindNextEnd (start, end);
 131
 132         while ((start != NULL) && (end != NULL)) {
 133                 next = strstr(end, "=?");
 134                 if (next != NULL)
 135                         FindNextEnd(next, nextend);
 136                 if (nextend == NULL)
 137                         next = NULL;
 138
 139                 // did we find two partitions
 140                 if ((next != NULL) && ((next - end) > 2)) {
 141                         ptr = end + 2;
 142                         while ((ptr < next) &&
 143                                (isspace(*ptr) ||
 144                                 (*ptr == '\r') ||
 145                                 (*ptr == '\n') ||
 146                                 (*ptr == '\t')))
 147                                 ptr ++;
 148                         // did we find a gab just filled with blanks?
 149                         if (ptr == next) {
 150                                 memmove(end + 2, next, len - (next - start));
 151
 152                                 // now terminate the gab at the end
 153                                 delta = (next - end) - 2;
 154                                 len -= delta;
 155                                 buf[len] = '\0';
 156
 157                                 // move next to its new location.
 158                                 next -= delta;
 159                                 nextend -= delta;
 160                         }
 161                 }
 162                 // our next-pair is our new first pair now.
 163                 start = next;
 164                 end = nextend;
 165         }
 166
 167         // Now we handle foreign character sets properly encoded in RFC2047 format.
 168         start = strstr(buf, "=?");
 169         FindNextEnd((start != NULL)? start : buf, end);
 170         while (start != NULL && end != NULL && end > start) {
 171                 extract_token(charset, start, 1, '?', sizeof charset);
 172                 extract_token(encoding, start, 2, '?', sizeof encoding);
 173                 extract_token(istr, start, 3, '?', sizeof istr);
 174
 175                 ibuf = malloc(1024);
 176                 isav = ibuf;
 177                 if (!strcasecmp(encoding, "B")) {       // base64
 178                         ibuflen = CtdlDecodeBase64(ibuf, istr, strlen(istr));
 179                 }
 180                 else if (!strcasecmp(encoding, "Q")) {  // quoted-printable
 181                         size_t len;
 182                         unsigned long pos;
 183
 184                         len = strlen(istr);
 185                         pos = 0;
 186                         while (pos < len) {
 187                                 if (istr[pos] == '_') istr[pos] = ' ';
 188                                 pos++;
 189                         }
 190                         ibuflen = CtdlDecodeQuotedPrintable(ibuf, istr, len);
 191                 }
 192                 else {
 193                         strcpy(ibuf, istr);             // unknown encoding
 194                         ibuflen = strlen(istr);
 195                 }
 196
 197                 ctdl_iconv_open("UTF-8", charset, &ic);
 198                 if (ic != (iconv_t)(-1) ) {
 199                         obuflen = 1024;
 200                         obuf = (char *) malloc(obuflen);
 201                         osav = obuf;
 202                         iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 203                         osav[1024-obuflen] = 0;
 204
 205                         end = start;
 206                         end++;
 207                         strcpy(start, "");
 208                         remove_token(end, 0, '?');
 209                         remove_token(end, 0, '?');
 210                         remove_token(end, 0, '?');
 211                         remove_token(end, 0, '?');
 212                         strcpy(end, &end[1]);
 213
 214                         snprintf(newbuf, sizeof newbuf, "%s%s%s", buf, osav, end);
 215                         strcpy(buf, newbuf);
 216                         free(osav);
 217                         iconv_close(ic);
 218                 }
 219                 else {
 220                         end = start;
 221                         end++;
 222                         strcpy(start, "");
 223                         remove_token(end, 0, '?');
 224                         remove_token(end, 0, '?');
 225                         remove_token(end, 0, '?');
 226                         remove_token(end, 0, '?');
 227                         strcpy(end, &end[1]);
 228
 229                         snprintf(newbuf, sizeof newbuf, "%s(unreadable)%s", buf, end);
 230                         strcpy(buf, newbuf);
 231                 }
 232
 233                 free(isav);
 234
 235                 // Since spammers will go to all sorts of absurd lengths to get their
 236                 // messages through, there are LOTS of corrupt headers out there.
 237                 // So, prevent a really badly formed RFC2047 header from throwing
 238                 // this function into an infinite loop.
 239                 ++passes;
 240                 if (passes > 20) return;
 241
 242                 start = strstr(buf, "=?");
 243                 FindNextEnd((start != NULL)? start : buf, end);
 244         }
 245
 246 }
 247 #else
 248 inline void utf8ify_rfc822_string(char *a){};
 249
 250 #endif
 251
 252
 253 char *inetcfg = NULL;
 254
 255 // Return nonzero if the supplied name is an alias for this host.
 256 int CtdlHostAlias(char *fqdn) {
 257         int config_lines;
 258         int i;
 259         char buf[256];
 260         char host[256], type[256];
 261         int found = 0;
 262
 263         if (fqdn == NULL)                                       return(hostalias_nomatch);
 264         if (IsEmptyStr(fqdn))                                   return(hostalias_nomatch);
 265         if (!strcasecmp(fqdn, "localhost"))                     return(hostalias_localhost);
 266         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_fqdn")))      return(hostalias_localhost);
 267         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_nodename")))  return(hostalias_localhost);
 268         if (inetcfg == NULL)                                    return(hostalias_nomatch);
 269
 270         config_lines = num_tokens(inetcfg, '\n');
 271         for (i=0; i<config_lines; ++i) {
 272                 extract_token(buf, inetcfg, i, '\n', sizeof buf);
 273                 extract_token(host, buf, 0, '|', sizeof host);
 274                 extract_token(type, buf, 1, '|', sizeof type);
 275
 276                 found = 0;
 277
 278                 // Process these in a specific order, in case there are multiple matches.
 279                 // We want localhost to override masq, for example.
 280
 281                 if ( (!strcasecmp(type, "masqdomain")) && (!strcasecmp(fqdn, host))) {
 282                         found = hostalias_masq;
 283                 }
 284
 285                 if ( (!strcasecmp(type, "localhost")) && (!strcasecmp(fqdn, host))) {
 286                         found = hostalias_localhost;
 287                 }
 288
 289                 // "directory" used to be a distributed version of "localhost" but they're both the same now
 290                 if ( (!strcasecmp(type, "directory")) && (!strcasecmp(fqdn, host))) {
 291                         found = hostalias_localhost;
 292                 }
 293
 294                 if (found) return(found);
 295         }
 296         return(hostalias_nomatch);
 297 }
 298
 299
 300 // Determine whether a given Internet address belongs to the current user
 301 int CtdlIsMe(char *addr, int addr_buf_len) {
 302         struct recptypes *recp;
 303         int i;
 304
 305         recp = validate_recipients(addr, NULL, 0);
 306         if (recp == NULL) return(0);
 307
 308         if (recp->num_local == 0) {
 309                 free_recipients(recp);
 310                 return(0);
 311         }
 312
 313         for (i=0; i<recp->num_local; ++i) {
 314                 extract_token(addr, recp->recp_local, i, '|', addr_buf_len);
 315                 if (!strcasecmp(addr, CC->user.fullname)) {
 316                         free_recipients(recp);
 317                         return(1);
 318                 }
 319         }
 320
 321         free_recipients(recp);
 322         return(0);
 323 }
 324
 325
 326 // If the last item in a list of recipients was truncated to a partial address,
 327 // remove it completely in order to avoid choking library functions.
 328 void sanitize_truncated_recipient(char *str)
 329 {
 330         if (!str) return;
 331         if (num_tokens(str, ',') < 2) return;
 332
 333         int len = strlen(str);
 334         if (len < 900) return;
 335         if (len > 998) str[998] = 0;
 336
 337         char *cptr = strrchr(str, ',');
 338         if (!cptr) return;
 339
 340         char *lptr = strchr(cptr, '<');
 341         char *rptr = strchr(cptr, '>');
 342
 343         if ( (lptr) && (rptr) && (rptr > lptr) ) return;
 344
 345         *cptr = 0;
 346 }
 347
 348
 349 // This function is self explanatory.
 350 // (What can I say, I'm in a weird mood today...)
 351 void remove_any_whitespace_to_the_left_or_right_of_at_symbol(char *name) {
 352         char *ptr;
 353         if (!name) return;
 354
 355         for (ptr=name; *ptr; ++ptr) {
 356                 while ( (isspace(*ptr)) && (*(ptr+1)=='@') ) {
 357                         strcpy(ptr, ptr+1);
 358                         if (ptr > name) --ptr;
 359                 }
 360                 while ( (*ptr=='@') && (*(ptr+1)!=0) && (isspace(*(ptr+1))) ) {
 361                         strcpy(ptr+1, ptr+2);
 362                 }
 363         }
 364 }
 365
 366
 367 // values that can be returned by expand_aliases()
 368 enum {
 369         EA_ERROR,               // Can't send message due to bad address
 370         EA_MULTIPLE,            // Alias expanded into multiple recipients -- run me again!
 371         EA_LOCAL,               // Local message, do no network processing
 372         EA_INTERNET,            // Convert msg and send as Internet mail
 373         EA_SKIP                 // This recipient has been invalidated -- skip it!
 374 };
 375
 376
 377 // Process alias and routing info for email addresses
 378 int expand_aliases(char *name, char *aliases) {
 379         int a;
 380         char aaa[SIZ];
 381         int at = 0;
 382
 383         if (aliases) {
 384                 int num_aliases = num_tokens(aliases, '\n');
 385                 for (a=0; a<num_aliases; ++a) {
 386                         extract_token(aaa, aliases, a, '\n', sizeof aaa);
 387                         char *bar = strchr(aaa, '|');
 388                         if (bar) {
 389                                 bar[0] = 0;
 390                                 ++bar;
 391                                 striplt(aaa);
 392                                 striplt(bar);
 393                                 if ( (!IsEmptyStr(aaa)) && (!strcasecmp(name, aaa)) ) {
 394                                         syslog(LOG_DEBUG, "internet_addressing: global alias <%s> to <%s>", name, bar);
 395                                         strcpy(name, bar);
 396                                 }
 397                         }
 398                 }
 399                 if (strchr(name, ',')) {
 400                         return(EA_MULTIPLE);
 401                 }
 402         }
 403
 404         char original_name[256];                                // Now go for the regular aliases
 405         safestrncpy(original_name, name, sizeof original_name);
 406
 407         // should these checks still be here, or maybe move them to split_recps() ?
 408         striplt(name);
 409         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
 410         stripallbut(name, '<', '>');
 411
 412         // Hit the email address directory
 413         if (CtdlDirectoryLookup(aaa, name, sizeof aaa) == 0) {
 414                 strcpy(name, aaa);
 415         }
 416
 417         if (strcasecmp(original_name, name)) {
 418                 syslog(LOG_INFO, "internet_addressing: directory alias <%s> to <%s>", original_name, name);
 419         }
 420
 421         // Change "user @ xxx" to "user" if xxx is an alias for this host
 422         for (a=0; name[a] != '\0'; ++a) {
 423                 if (name[a] == '@') {
 424                         if (CtdlHostAlias(&name[a+1]) == hostalias_localhost) {
 425                                 name[a] = 0;
 426                                 syslog(LOG_DEBUG, "internet_addressing: host is local, recipient is <%s>", name);
 427                                 break;
 428                         }
 429                 }
 430         }
 431
 432         // Is this a local or remote recipient?
 433         at = haschar(name, '@');
 434         if (at == 0) {
 435                 return(EA_LOCAL);                       // no @'s = local address
 436         }
 437         else if (at == 1) {
 438                 return(EA_INTERNET);                    // one @ = internet address
 439         }
 440         else {
 441                 return(EA_ERROR);                       // more than one @ = badly formed address
 442         }
 443 }
 444
 445
 446 // Return a supplied list of email addresses as an array, removing superfluous information and syntax.
 447 // If an existing Array is supplied as "append_to" it will do so; otherwise a new Array is allocated.
 448 Array *split_recps(char *addresses, Array *append_to) {
 449
 450         if (IsEmptyStr(addresses)) {            // nothing supplied, nothing returned
 451                 return(NULL);
 452         }
 453
 454         // Copy the supplied address list into our own memory space, because we are going to modify it.
 455         char *a = strdup(addresses);
 456         if (a == NULL) {
 457                 syslog(LOG_ERR, "internet_addressing: malloc() failed: %m");
 458                 return(NULL);
 459         }
 460
 461         // Strip out anything in double quotes
 462         char *l = NULL;
 463         char *r = NULL;
 464         do {
 465                 l = strchr(a, '\"');
 466                 r = strrchr(a, '\"');
 467                 if (r > l) {
 468                         strcpy(l, r+1);
 469                 }
 470         } while (r > l);
 471
 472         // Transform all qualifying delimiters to commas
 473         for (char *t=a; t[0]; ++t) {
 474                 if ((t[0]==';') || (t[0]=='|')) {
 475                         t[0]=',';
 476                 }
 477         }
 478
 479         // Tokenize the recipients into an array.  No single recipient should be larger than 256 bytes.
 480         Array *recipients_array = NULL;
 481         if (append_to) {
 482                 recipients_array = append_to;                   // Append to an existing array of recipients
 483         }
 484         else {
 485                 recipients_array = array_new(256);              // This is a new array of recipients
 486         }
 487
 488         int num_addresses = num_tokens(a, ',');
 489         for (int i=0; i<num_addresses; ++i) {
 490                 char this_address[256];
 491                 extract_token(this_address, a, i, ',', sizeof this_address);
 492                 striplt(this_address);                          // strip leading and trailing whitespace
 493                 stripout(this_address, '(', ')');               // remove any portion in parentheses
 494                 stripallbut(this_address, '<', '>');            // if angle brackets are present, keep only what is inside them
 495                 if (!IsEmptyStr(this_address)) {
 496                         array_append(recipients_array, this_address);
 497                 }
 498         }
 499
 500         free(a);                                                // We don't need this buffer anymore.
 501         return(recipients_array);                               // Return the completed array to the caller.
 502 }
 503
 504
 505 // Validate recipients, count delivery types and errors, and handle aliasing
 506 //
 507 // Returns 0 if all addresses are ok, ret->num_error = -1 if no addresses
 508 // were specified, or the number of addresses found invalid.
 509 //
 510 // Caller needs to free the result using free_recipients()
 511 //
 512 struct recptypes *validate_recipients(char *supplied_recipients, const char *RemoteIdentifier, int Flags) {
 513         struct recptypes *ret;
 514         char *recipients = NULL;
 515         char append[SIZ];
 516         long len;
 517         int mailtype;
 518         int invalid;
 519         struct ctdluser tempUS;
 520         struct ctdlroom original_room;
 521         int err = 0;
 522         char errmsg[SIZ];
 523         char *org_recp;
 524         char this_recp[256];
 525
 526         ret = (struct recptypes *) malloc(sizeof(struct recptypes));                    // Initialize
 527         if (ret == NULL) return(NULL);
 528         memset(ret, 0, sizeof(struct recptypes));                                       // set all values to null/zero
 529
 530         if (supplied_recipients == NULL) {
 531                 recipients = strdup("");
 532         }
 533         else {
 534                 recipients = strdup(supplied_recipients);
 535         }
 536
 537         len = strlen(recipients) + 1024;                                                // allocate memory
 538         ret->errormsg = malloc(len);
 539         ret->recp_local = malloc(len);
 540         ret->recp_internet = malloc(len);
 541         ret->recp_room = malloc(len);
 542         ret->display_recp = malloc(len);
 543         ret->recp_orgroom = malloc(len);
 544
 545         ret->errormsg[0] = 0;
 546         ret->recp_local[0] = 0;
 547         ret->recp_internet[0] = 0;
 548         ret->recp_room[0] = 0;
 549         ret->recp_orgroom[0] = 0;
 550         ret->display_recp[0] = 0;
 551         ret->recptypes_magic = RECPTYPES_MAGIC;
 552
 553         Array *recp_array = split_recps(supplied_recipients, NULL);
 554
 555         char *aliases = CtdlGetSysConfig(GLOBAL_ALIASES);                               // First hit the Global Alias Table
 556
 557         for (int r=0; (recp_array && r<array_len(recp_array)); ++r) {
 558                 org_recp = (char *)array_get_element_at(recp_array, r);
 559                 strncpy(this_recp, org_recp, sizeof this_recp);
 560
 561                 for (int i=0; i<3; ++i) {                                               // pass three times through the aliaser
 562                         mailtype = expand_aliases(this_recp, aliases);
 563
 564                         // If an alias expanded to multiple recipients, strip off those recipients and append them
 565                         // to the end of the array.  This loop will hit those again when it gets there.
 566                         if (mailtype == EA_MULTIPLE) {
 567                                 recp_array = split_recps(this_recp, recp_array);
 568                         }
 569                 }
 570
 571                 // This loop searches for duplicate recipients in the final list and marks them to be skipped.
 572                 for (int j=0; j<r; ++j) {
 573                         if (!strcasecmp(this_recp, (char *)array_get_element_at(recp_array, j) )) {
 574                                 mailtype = EA_SKIP;
 575                         }
 576                 }
 577
 578                 syslog(LOG_DEBUG, "Recipient #%d of type %d is <%s>", r, mailtype, this_recp);
 579                 invalid = 0;
 580                 errmsg[0] = 0;
 581                 switch(mailtype) {
 582                 case EA_LOCAL:                                  // There are several types of "local" recipients.
 583
 584                         // Old BBS conventions require mail to "sysop" to go somewhere.  Send it to the admin room.
 585                         if (!strcasecmp(this_recp, "sysop")) {
 586                                 ++ret->num_room;
 587                                 strcpy(this_recp, CtdlGetConfigStr("c_aideroom"));
 588                                 if (!IsEmptyStr(ret->recp_room)) {
 589                                         strcat(ret->recp_room, "|");
 590                                 }
 591                                 strcat(ret->recp_room, this_recp);
 592                         }
 593
 594                         // This handles rooms which can receive posts via email.
 595                         else if (!strncasecmp(this_recp, "room_", 5)) {
 596                                 original_room = CC->room;                               // Remember where we parked
 597
 598                                 char mail_to_room[ROOMNAMELEN];
 599                                 char *m;
 600                                 strncpy(mail_to_room, &this_recp[5], sizeof mail_to_room);
 601                                 for (m = mail_to_room; *m; ++m) {
 602                                         if (m[0] == '_') m[0]=' ';
 603                                 }
 604                                 if (!CtdlGetRoom(&CC->room, mail_to_room)) {            // Find the room they asked for
 605
 606                                         err = CtdlDoIHavePermissionToPostInThisRoom(    // check for write permissions to room
 607                                                 errmsg,
 608                                                 sizeof errmsg,
 609                                                 RemoteIdentifier,
 610                                                 Flags,
 611                                                 0                                       // 0 means "this is not a reply"
 612                                         );
 613                                         if (err) {
 614                                                 ++ret->num_error;
 615                                                 invalid = 1;
 616                                         }
 617                                         else {
 618                                                 ++ret->num_room;
 619                                                 if (!IsEmptyStr(ret->recp_room)) {
 620                                                         strcat(ret->recp_room, "|");
 621                                                 }
 622                                                 strcat(ret->recp_room, &this_recp[5]);
 623
 624                                                 if (!IsEmptyStr(ret->recp_orgroom)) {
 625                                                         strcat(ret->recp_orgroom, "|");
 626                                                 }
 627                                                 strcat(ret->recp_orgroom, org_recp);
 628
 629                                         }
 630                                 }
 631                                 else {                                                  // no such room exists
 632                                         ++ret->num_error;
 633                                         invalid = 1;
 634                                 }
 635
 636                                 // Restore this session's original room location.
 637                                 CC->room = original_room;
 638
 639                         }
 640
 641                         // This handles the most common case, which is mail to a user's inbox.
 642                         else if (CtdlGetUser(&tempUS, this_recp) == 0) {
 643                                 ++ret->num_local;
 644                                 strcpy(this_recp, tempUS.fullname);
 645                                 if (!IsEmptyStr(ret->recp_local)) {
 646                                         strcat(ret->recp_local, "|");
 647                                 }
 648                                 strcat(ret->recp_local, this_recp);
 649                         }
 650
 651                         // No match for this recipient
 652                         else {
 653                                 ++ret->num_error;
 654                                 invalid = 1;
 655                         }
 656                         break;
 657                 case EA_INTERNET:
 658                         // Yes, you're reading this correctly: if the target domain points back to the local system,
 659                         // the address is invalid.  That's because if the address were valid, we would have
 660                         // already translated it to a local address by now.
 661                         if (IsDirectory(this_recp, 0)) {
 662                                 ++ret->num_error;
 663                                 invalid = 1;
 664                         }
 665                         else {
 666                                 ++ret->num_internet;
 667                                 if (!IsEmptyStr(ret->recp_internet)) {
 668                                         strcat(ret->recp_internet, "|");
 669                                 }
 670                                 strcat(ret->recp_internet, this_recp);
 671                         }
 672                         break;
 673                 case EA_MULTIPLE:
 674                 case EA_SKIP:
 675                         // no action required, anything in this slot has already been processed elsewhere
 676                         break;
 677                 case EA_ERROR:
 678                         ++ret->num_error;
 679                         invalid = 1;
 680                         break;
 681                 }
 682                 if (invalid) {
 683                         if (IsEmptyStr(errmsg)) {
 684                                 snprintf(append, sizeof append, "Invalid recipient: %s", this_recp);
 685                         }
 686                         else {
 687                                 snprintf(append, sizeof append, "%s", errmsg);
 688                         }
 689                         if ( (strlen(ret->errormsg) + strlen(append) + 3) < SIZ) {
 690                                 if (!IsEmptyStr(ret->errormsg)) {
 691                                         strcat(ret->errormsg, "; ");
 692                                 }
 693                                 strcat(ret->errormsg, append);
 694                         }
 695                 }
 696                 else {
 697                         if (IsEmptyStr(ret->display_recp)) {
 698                                 strcpy(append, this_recp);
 699                         }
 700                         else {
 701                                 snprintf(append, sizeof append, ", %s", this_recp);
 702                         }
 703                         if ( (strlen(ret->display_recp)+strlen(append)) < SIZ) {
 704                                 strcat(ret->display_recp, append);
 705                         }
 706                 }
 707         }
 708
 709         if (aliases != NULL) {          // ok, we're done with the global alias list now
 710                 free(aliases);
 711         }
 712
 713         if ( (ret->num_local + ret->num_internet + ret->num_room + ret->num_error) == 0) {
 714                 ret->num_error = (-1);
 715                 strcpy(ret->errormsg, "No recipients specified.");
 716         }
 717
 718         syslog(LOG_DEBUG, "internet_addressing: validate_recipients() = %d local, %d room, %d SMTP, %d error",
 719                 ret->num_local, ret->num_room, ret->num_internet, ret->num_error
 720         );
 721
 722         free(recipients);
 723         if (recp_array) {
 724                 array_free(recp_array);
 725         }
 726
 727         return(ret);
 728 }
 729
 730
 731 // Destructor for recptypes
 732 void free_recipients(struct recptypes *valid) {
 733
 734         if (valid == NULL) {
 735                 return;
 736         }
 737
 738         if (valid->recptypes_magic != RECPTYPES_MAGIC) {
 739                 syslog(LOG_ERR, "internet_addressing: attempt to call free_recipients() on some other data type!");
 740                 abort();
 741         }
 742
 743         if (valid->errormsg != NULL)            free(valid->errormsg);
 744         if (valid->recp_local != NULL)          free(valid->recp_local);
 745         if (valid->recp_internet != NULL)       free(valid->recp_internet);
 746         if (valid->recp_room != NULL)           free(valid->recp_room);
 747         if (valid->recp_orgroom != NULL)        free(valid->recp_orgroom);
 748         if (valid->display_recp != NULL)        free(valid->display_recp);
 749         if (valid->bounce_to != NULL)           free(valid->bounce_to);
 750         if (valid->envelope_from != NULL)       free(valid->envelope_from);
 751         if (valid->sending_room != NULL)        free(valid->sending_room);
 752         free(valid);
 753 }
 754
 755
 756 char *qp_encode_email_addrs(char *source) {
 757         char *user, *node, *name;
 758         const char headerStr[] = "=?UTF-8?Q?";
 759         char *Encoded;
 760         char *EncodedName;
 761         char *nPtr;
 762         int need_to_encode = 0;
 763         long SourceLen;
 764         long EncodedMaxLen;
 765         long nColons = 0;
 766         long *AddrPtr;
 767         long *AddrUtf8;
 768         long nAddrPtrMax = 50;
 769         long nmax;
 770         int InQuotes = 0;
 771         int i, n;
 772
 773         if (source == NULL) return source;
 774         if (IsEmptyStr(source)) return source;
 775         syslog(LOG_DEBUG, "internet_addressing: qp_encode_email_addrs <%s>", source);
 776
 777         AddrPtr = malloc (sizeof (long) * nAddrPtrMax);
 778         AddrUtf8 = malloc (sizeof (long) * nAddrPtrMax);
 779         memset(AddrUtf8, 0, sizeof (long) * nAddrPtrMax);
 780         *AddrPtr = 0;
 781         i = 0;
 782         while (!IsEmptyStr (&source[i])) {
 783                 if (nColons >= nAddrPtrMax){
 784                         long *ptr;
 785
 786                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
 787                         memcpy (ptr, AddrPtr, sizeof (long) * nAddrPtrMax);
 788                         free (AddrPtr), AddrPtr = ptr;
 789
 790                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
 791                         memset(&ptr[nAddrPtrMax], 0, sizeof (long) * nAddrPtrMax);
 792
 793                         memcpy (ptr, AddrUtf8, sizeof (long) * nAddrPtrMax);
 794                         free (AddrUtf8), AddrUtf8 = ptr;
 795                         nAddrPtrMax *= 2;
 796                 }
 797                 if (((unsigned char) source[i] < 32) || ((unsigned char) source[i] > 126)) {
 798                         need_to_encode = 1;
 799                         AddrUtf8[nColons] = 1;
 800                 }
 801                 if (source[i] == '"') {
 802                         InQuotes = !InQuotes;
 803                 }
 804                 if (!InQuotes && source[i] == ',') {
 805                         AddrPtr[nColons] = i;
 806                         nColons++;
 807                 }
 808                 i++;
 809         }
 810         if (need_to_encode == 0) {
 811                 free(AddrPtr);
 812                 free(AddrUtf8);
 813                 return source;
 814         }
 815
 816         SourceLen = i;
 817         EncodedMaxLen = nColons * (sizeof(headerStr) + 3) + SourceLen * 3;
 818         Encoded = (char*) malloc (EncodedMaxLen);
 819
 820         for (i = 0; i < nColons; i++) {
 821                 source[AddrPtr[i]++] = '\0';
 822         }
 823         // TODO: if libidn, this might get larger
 824         user = malloc(SourceLen + 1);
 825         node = malloc(SourceLen + 1);
 826         name = malloc(SourceLen + 1);
 827
 828         nPtr = Encoded;
 829         *nPtr = '\0';
 830         for (i = 0; i < nColons && nPtr != NULL; i++) {
 831                 nmax = EncodedMaxLen - (nPtr - Encoded);
 832                 if (AddrUtf8[i]) {
 833                         process_rfc822_addr(&source[AddrPtr[i]], user, node, name);
 834                         // TODO: libIDN here !
 835                         if (IsEmptyStr(name)) {
 836                                 n = snprintf(nPtr, nmax, (i==0)?"%s@%s" : ",%s@%s", user, node);
 837                         }
 838                         else {
 839                                 EncodedName = rfc2047encode(name, strlen(name));
 840                                 n = snprintf(nPtr, nmax, (i==0)?"%s <%s@%s>" : ",%s <%s@%s>", EncodedName, user, node);
 841                                 free(EncodedName);
 842                         }
 843                 }
 844                 else {
 845                         n = snprintf(nPtr, nmax, (i==0)?"%s" : ",%s", &source[AddrPtr[i]]);
 846                 }
 847                 if (n > 0 )
 848                         nPtr += n;
 849                 else {
 850                         char *ptr, *nnPtr;
 851                         ptr = (char*) malloc(EncodedMaxLen * 2);
 852                         memcpy(ptr, Encoded, EncodedMaxLen);
 853                         nnPtr = ptr + (nPtr - Encoded), nPtr = nnPtr;
 854                         free(Encoded), Encoded = ptr;
 855                         EncodedMaxLen *= 2;
 856                         i--; // do it once more with properly lengthened buffer
 857                 }
 858         }
 859         for (i = 0; i < nColons; i++)
 860                 source[--AddrPtr[i]] = ',';
 861
 862         free(user);
 863         free(node);
 864         free(name);
 865         free(AddrUtf8);
 866         free(AddrPtr);
 867         return Encoded;
 868 }
 869
 870
 871 // Unfold a multi-line field into a single line, removing multi-whitespaces
 872 void unfold_rfc822_field(char **field, char **FieldEnd)
 873 {
 874         int quote = 0;
 875         char *pField = *field;
 876         char *sField;
 877         char *pFieldEnd = *FieldEnd;
 878
 879         while (isspace(*pField))
 880                 pField++;
 881         // remove leading/trailing whitespace
 882         ;
 883
 884         while (isspace(*pFieldEnd))
 885                 pFieldEnd --;
 886
 887         *FieldEnd = pFieldEnd;
 888         // convert non-space whitespace to spaces, and remove double blanks
 889         for (sField = *field = pField;
 890              sField < pFieldEnd;
 891              pField++, sField++)
 892         {
 893                 if ((*sField=='\r') || (*sField=='\n'))
 894                 {
 895                         int offset = 1;
 896                         while ( ( (*(sField + offset) == '\r') || (*(sField + offset) == '\n' )) && (sField + offset < pFieldEnd) ) {
 897                                 offset ++;
 898                         }
 899                         sField += offset;
 900                         *pField = *sField;
 901                 }
 902                 else {
 903                         if (*sField=='\"') quote = 1 - quote;
 904                         if (!quote) {
 905                                 if (isspace(*sField)) {
 906                                         *pField = ' ';
 907                                         pField++;
 908                                         sField++;
 909
 910                                         while ((sField < pFieldEnd) &&
 911                                                isspace(*sField))
 912                                                 sField++;
 913                                         *pField = *sField;
 914                                 }
 915                                 else *pField = *sField;
 916                         }
 917                         else *pField = *sField;
 918                 }
 919         }
 920         *pField = '\0';
 921         *FieldEnd = pField - 1;
 922 }
 923
 924
 925 // Split an RFC822-style address into userid, host, and full name
 926 //
 927 // Note: This still handles obsolete address syntaxes such as user%node@node and ...node!user
 928 //       We should probably remove that.
 929 void process_rfc822_addr(const char *rfc822, char *user, char *node, char *name) {
 930         int a;
 931
 932         strcpy(user, "");
 933         strcpy(node, CtdlGetConfigStr("c_fqdn"));
 934         strcpy(name, "");
 935
 936         if (rfc822 == NULL) return;
 937
 938         // extract full name - first, it's From minus <userid>
 939         strcpy(name, rfc822);
 940         stripout(name, '<', '>');
 941
 942         // strip anything to the left of a bang
 943         while ((!IsEmptyStr(name)) && (haschar(name, '!') > 0))
 944                 strcpy(name, &name[1]);
 945
 946         // and anything to the right of a @ or %
 947         for (a = 0; name[a] != '\0'; ++a) {
 948                 if (name[a] == '@') {
 949                         name[a] = 0;
 950                         break;
 951                 }
 952                 if (name[a] == '%') {
 953                         name[a] = 0;
 954                         break;
 955                 }
 956         }
 957
 958         // but if there are parentheses, that changes the rules...
 959         if ((haschar(rfc822, '(') == 1) && (haschar(rfc822, ')') == 1)) {
 960                 strcpy(name, rfc822);
 961                 stripallbut(name, '(', ')');
 962         }
 963
 964         // but if there are a set of quotes, that supersedes everything
 965         if (haschar(rfc822, 34) == 2) {
 966                 strcpy(name, rfc822);
 967                 while ((!IsEmptyStr(name)) && (name[0] != 34)) {
 968                         strcpy(&name[0], &name[1]);
 969                 }
 970                 strcpy(&name[0], &name[1]);
 971                 for (a = 0; name[a] != '\0'; ++a)
 972                         if (name[a] == 34) {
 973                                 name[a] = 0;
 974                                 break;
 975                         }
 976         }
 977         // extract user id
 978         strcpy(user, rfc822);
 979
 980         // first get rid of anything in parens
 981         stripout(user, '(', ')');
 982
 983         // if there's a set of angle brackets, strip it down to that
 984         if ((haschar(user, '<') == 1) && (haschar(user, '>') == 1)) {
 985                 stripallbut(user, '<', '>');
 986         }
 987
 988         // strip anything to the left of a bang
 989         while ((!IsEmptyStr(user)) && (haschar(user, '!') > 0))
 990                 strcpy(user, &user[1]);
 991
 992         // and anything to the right of a @ or %
 993         for (a = 0; user[a] != '\0'; ++a) {
 994                 if (user[a] == '@') {
 995                         user[a] = 0;
 996                         break;
 997                 }
 998                 if (user[a] == '%') {
 999                         user[a] = 0;
1000                         break;
1001                 }
1002         }
1003
1004
1005         // extract node name
1006         strcpy(node, rfc822);
1007
1008         // first get rid of anything in parens
1009         stripout(node, '(', ')');
1010
1011         // if there's a set of angle brackets, strip it down to that
1012         if ((haschar(node, '<') == 1) && (haschar(node, '>') == 1)) {
1013                 stripallbut(node, '<', '>');
1014         }
1015
1016         // If no node specified, tack ours on instead
1017         if (
1018                 (haschar(node, '@')==0)
1019                 && (haschar(node, '%')==0)
1020                 && (haschar(node, '!')==0)
1021         ) {
1022                 strcpy(node, CtdlGetConfigStr("c_nodename"));
1023         }
1024         else {
1025
1026                 // strip anything to the left of a @
1027                 while ((!IsEmptyStr(node)) && (haschar(node, '@') > 0))
1028                         strcpy(node, &node[1]);
1029
1030                 // strip anything to the left of a %
1031                 while ((!IsEmptyStr(node)) && (haschar(node, '%') > 0))
1032                         strcpy(node, &node[1]);
1033
1034                 // reduce multiple system bang paths to node!user
1035                 while ((!IsEmptyStr(node)) && (haschar(node, '!') > 1))
1036                         strcpy(node, &node[1]);
1037
1038                 // now get rid of the user portion of a node!user string
1039                 for (a = 0; node[a] != '\0'; ++a)
1040                         if (node[a] == '!') {
1041                                 node[a] = 0;
1042                                 break;
1043                         }
1044         }
1045
1046         // strip leading and trailing spaces in all strings
1047         striplt(user);
1048         striplt(node);
1049         striplt(name);
1050
1051         // If we processed a string that had the address in angle brackets
1052         // but no name outside the brackets, we now have an empty name.  In
1053         // this case, use the user portion of the address as the name.
1054         if ((IsEmptyStr(name)) && (!IsEmptyStr(user))) {
1055                 strcpy(name, user);
1056         }
1057 }
1058
1059
1060 // convert_field() is a helper function for convert_internet_message().
1061 // Given start/end positions for an rfc822 field, it converts it to a Citadel
1062 // field if it wants to, and unfolds it if necessary.
1063 //
1064 // Returns 1 if the field was converted and inserted into the Citadel message
1065 // structure, implying that the source field should be removed from the
1066 // message text.
1067 int convert_field(struct CtdlMessage *msg, const char *beg, const char *end) {
1068         char *key, *value, *valueend;
1069         long len;
1070         const char *pos;
1071         int i;
1072         const char *colonpos = NULL;
1073         int processed = 0;
1074         char user[1024];
1075         char node[1024];
1076         char name[1024];
1077         char addr[1024];
1078         time_t parsed_date;
1079         long valuelen;
1080
1081         for (pos = end; pos >= beg; pos--) {
1082                 if (*pos == ':') colonpos = pos;
1083         }
1084
1085         if (colonpos == NULL) return(0);        /* no colon? not a valid header line */
1086
1087         len = end - beg;
1088         key = malloc(len + 2);
1089         memcpy(key, beg, len + 1);
1090         key[len] = '\0';
1091         valueend = key + len;
1092         * ( key + (colonpos - beg) ) = '\0';
1093         value = &key[(colonpos - beg) + 1];
1094         // printf("Header: [%s]\nValue: [%s]\n", key, value);
1095         unfold_rfc822_field(&value, &valueend);
1096         valuelen = valueend - value + 1;
1097         // printf("UnfoldedValue: [%s]\n", value);
1098
1099         // Here's the big rfc822-to-citadel loop.
1100
1101         // Date/time is converted into a unix timestamp.  If the conversion
1102         // fails, we replace it with the time the message arrived locally.
1103         if (!strcasecmp(key, "Date")) {
1104                 parsed_date = parsedate(value);
1105                 if (parsed_date < 0L) parsed_date = time(NULL);
1106
1107                 if (CM_IsEmpty(msg, eTimestamp))
1108                         CM_SetFieldLONG(msg, eTimestamp, parsed_date);
1109                 processed = 1;
1110         }
1111
1112         else if (!strcasecmp(key, "From")) {
1113                 process_rfc822_addr(value, user, node, name);
1114                 syslog(LOG_DEBUG, "internet_addressing: converted to <%s@%s> (%s)", user, node, name);
1115                 snprintf(addr, sizeof(addr), "%s@%s", user, node);
1116                 if (CM_IsEmpty(msg, eAuthor) && !IsEmptyStr(name)) {
1117                         CM_SetField(msg, eAuthor, name, -1);
1118                 }
1119                 if (CM_IsEmpty(msg, erFc822Addr) && !IsEmptyStr(addr)) {
1120                         CM_SetField(msg, erFc822Addr, addr, -1);
1121                 }
1122                 processed = 1;
1123         }
1124
1125         else if (!strcasecmp(key, "Subject")) {
1126                 if (CM_IsEmpty(msg, eMsgSubject))
1127                         CM_SetField(msg, eMsgSubject, value, valuelen);
1128                 processed = 1;
1129         }
1130
1131         else if (!strcasecmp(key, "List-ID")) {
1132                 if (CM_IsEmpty(msg, eListID))
1133                         CM_SetField(msg, eListID, value, valuelen);
1134                 processed = 1;
1135         }
1136
1137         else if (!strcasecmp(key, "To")) {
1138                 if (CM_IsEmpty(msg, eRecipient))
1139                         CM_SetField(msg, eRecipient, value, valuelen);
1140                 processed = 1;
1141         }
1142
1143         else if (!strcasecmp(key, "CC")) {
1144                 if (CM_IsEmpty(msg, eCarbonCopY))
1145                         CM_SetField(msg, eCarbonCopY, value, valuelen);
1146                 processed = 1;
1147         }
1148
1149         else if (!strcasecmp(key, "Message-ID")) {
1150                 if (!CM_IsEmpty(msg, emessageId)) {
1151                         syslog(LOG_WARNING, "internet_addressing: duplicate message id");
1152                 }
1153                 else {
1154                         char *pValue;
1155                         long pValueLen;
1156
1157                         pValue = value;
1158                         pValueLen = valuelen;
1159                         // Strip angle brackets
1160                         while (haschar(pValue, '<') > 0) {
1161                                 pValue ++;
1162                                 pValueLen --;
1163                         }
1164
1165                         for (i = 0; i <= pValueLen; ++i)
1166                                 if (pValue[i] == '>') {
1167                                         pValueLen = i;
1168                                         break;
1169                                 }
1170
1171                         CM_SetField(msg, emessageId, pValue, pValueLen);
1172                 }
1173
1174                 processed = 1;
1175         }
1176
1177         else if (!strcasecmp(key, "Return-Path")) {
1178                 if (CM_IsEmpty(msg, eMessagePath))
1179                         CM_SetField(msg, eMessagePath, value, valuelen);
1180                 processed = 1;
1181         }
1182
1183         else if (!strcasecmp(key, "Envelope-To")) {
1184                 if (CM_IsEmpty(msg, eenVelopeTo))
1185                         CM_SetField(msg, eenVelopeTo, value, valuelen);
1186                 processed = 1;
1187         }
1188
1189         else if (!strcasecmp(key, "References")) {
1190                 CM_SetField(msg, eWeferences, value, valuelen);
1191                 processed = 1;
1192         }
1193
1194         else if (!strcasecmp(key, "Reply-To")) {
1195                 CM_SetField(msg, eReplyTo, value, valuelen);
1196                 processed = 1;
1197         }
1198
1199         else if (!strcasecmp(key, "In-reply-to")) {
1200                 if (CM_IsEmpty(msg, eWeferences)) // References: supersedes In-reply-to:
1201                         CM_SetField(msg, eWeferences, value, valuelen);
1202                 processed = 1;
1203         }
1204
1205
1206
1207         // Clean up and move on.
1208         free(key);      // Don't free 'value', it's actually the same buffer
1209         return processed;
1210 }
1211
1212
1213 // Convert RFC822 references format (References) to Citadel references format (Weferences)
1214 void convert_references_to_wefewences(char *str) {
1215         int bracket_nesting = 0;
1216         char *ptr = str;
1217         char *moveptr = NULL;
1218         char ch;
1219
1220         while(*ptr) {
1221                 ch = *ptr;
1222                 if (ch == '>') {
1223                         --bracket_nesting;
1224                         if (bracket_nesting < 0) bracket_nesting = 0;
1225                 }
1226                 if ((ch == '>') && (bracket_nesting == 0) && (*(ptr+1)) && (ptr>str) ) {
1227                         *ptr = '|';
1228                         ++ptr;
1229                 }
1230                 else if (bracket_nesting > 0) {
1231                         ++ptr;
1232                 }
1233                 else {
1234                         moveptr = ptr;
1235                         while (*moveptr) {
1236                                 *moveptr = *(moveptr+1);
1237                                 ++moveptr;
1238                         }
1239                 }
1240                 if (ch == '<') ++bracket_nesting;
1241         }
1242
1243 }
1244
1245
1246 // Convert an RFC822 message (headers + body) to a CtdlMessage structure.
1247 // NOTE: the supplied buffer becomes part of the CtdlMessage structure, and
1248 // will be deallocated when CM_Free() is called.  Therefore, the
1249 // supplied buffer should be DEREFERENCED.  It should not be freed or used
1250 // again.
1251 struct CtdlMessage *convert_internet_message(char *rfc822) {
1252         StrBuf *RFCBuf = NewStrBufPlain(rfc822, -1);
1253         free (rfc822);
1254         return convert_internet_message_buf(&RFCBuf);
1255 }
1256
1257
1258 struct CtdlMessage *convert_internet_message_buf(StrBuf **rfc822)
1259 {
1260         struct CtdlMessage *msg;
1261         const char *pos, *beg, *end, *totalend;
1262         int done, alldone = 0;
1263         int converted;
1264         StrBuf *OtherHeaders;
1265
1266         msg = malloc(sizeof(struct CtdlMessage));
1267         if (msg == NULL) return msg;
1268
1269         memset(msg, 0, sizeof(struct CtdlMessage));
1270         msg->cm_magic = CTDLMESSAGE_MAGIC;      // self check
1271         msg->cm_anon_type = 0;                  // never anonymous
1272         msg->cm_format_type = FMT_RFC822;       // internet message
1273
1274         pos = ChrPtr(*rfc822);
1275         totalend = pos + StrLength(*rfc822);
1276         done = 0;
1277         OtherHeaders = NewStrBufPlain(NULL, StrLength(*rfc822));
1278
1279         while (!alldone) {
1280
1281                 /* Locate beginning and end of field, keeping in mind that
1282                  * some fields might be multiline
1283                  */
1284                 end = beg = pos;
1285
1286                 while ((end < totalend) &&
1287                        (end == beg) &&
1288                        (done == 0) )
1289                 {
1290
1291                         if ( (*pos=='\n') && ((*(pos+1))!=0x20) && ((*(pos+1))!=0x09) )
1292                         {
1293                                 end = pos;
1294                         }
1295
1296                         /* done with headers? */
1297                         if ((*pos=='\n') &&
1298                             ( (*(pos+1)=='\n') ||
1299                               (*(pos+1)=='\r')) )
1300                         {
1301                                 alldone = 1;
1302                         }
1303
1304                         if (pos >= (totalend - 1) )
1305                         {
1306                                 end = pos;
1307                                 done = 1;
1308                         }
1309
1310                         ++pos;
1311
1312                 }
1313
1314                 /* At this point we have a field.  Are we interested in it? */
1315                 converted = convert_field(msg, beg, end);
1316
1317                 /* Strip the field out of the RFC822 header if we used it */
1318                 if (!converted) {
1319                         StrBufAppendBufPlain(OtherHeaders, beg, end - beg, 0);
1320                         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1321                 }
1322
1323                 /* If we've hit the end of the message, bail out */
1324                 if (pos >= totalend)
1325                         alldone = 1;
1326         }
1327         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1328         if (pos < totalend)
1329                 StrBufAppendBufPlain(OtherHeaders, pos, totalend - pos, 0);
1330         FreeStrBuf(rfc822);
1331         CM_SetAsFieldSB(msg, eMesageText, &OtherHeaders);
1332
1333         /* Follow-up sanity checks... */
1334
1335         /* If there's no timestamp on this message, set it to now. */
1336         if (CM_IsEmpty(msg, eTimestamp)) {
1337                 CM_SetFieldLONG(msg, eTimestamp, time(NULL));
1338         }
1339
1340         /* If a W (references, or rather, Wefewences) field is present, we
1341          * have to convert it from RFC822 format to Citadel format.
1342          */
1343         if (!CM_IsEmpty(msg, eWeferences)) {
1344                 /// todo: API!
1345                 convert_references_to_wefewences(msg->cm_fields[eWeferences]);
1346         }
1347
1348         return msg;
1349 }
1350
1351
1352 /*
1353  * Look for a particular header field in an RFC822 message text.  If the
1354  * requested field is found, it is unfolded (if necessary) and returned to
1355  * the caller.  The field name is stripped out, leaving only its contents.
1356  * The caller is responsible for freeing the returned buffer.  If the requested
1357  * field is not present, or anything else goes wrong, it returns NULL.
1358  */
1359 char *rfc822_fetch_field(const char *rfc822, const char *fieldname) {
1360         char *fieldbuf = NULL;
1361         const char *end_of_headers;
1362         const char *field_start;
1363         const char *ptr;
1364         char *cont;
1365         char fieldhdr[SIZ];
1366
1367         /* Should never happen, but sometimes we get stupid */
1368         if (rfc822 == NULL) return(NULL);
1369         if (fieldname == NULL) return(NULL);
1370
1371         snprintf(fieldhdr, sizeof fieldhdr, "%s:", fieldname);
1372
1373         /* Locate the end of the headers, so we don't run past that point */
1374         end_of_headers = cbmstrcasestr(rfc822, "\n\r\n");
1375         if (end_of_headers == NULL) {
1376                 end_of_headers = cbmstrcasestr(rfc822, "\n\n");
1377         }
1378         if (end_of_headers == NULL) return (NULL);
1379
1380         field_start = cbmstrcasestr(rfc822, fieldhdr);
1381         if (field_start == NULL) return(NULL);
1382         if (field_start > end_of_headers) return(NULL);
1383
1384         fieldbuf = malloc(SIZ);
1385         strcpy(fieldbuf, "");
1386
1387         ptr = field_start;
1388         ptr = cmemreadline(ptr, fieldbuf, SIZ-strlen(fieldbuf) );
1389         while ( (isspace(ptr[0])) && (ptr < end_of_headers) ) {
1390                 strcat(fieldbuf, " ");
1391                 cont = &fieldbuf[strlen(fieldbuf)];
1392                 ptr = cmemreadline(ptr, cont, SIZ-strlen(fieldbuf) );
1393                 striplt(cont);
1394         }
1395
1396         strcpy(fieldbuf, &fieldbuf[strlen(fieldhdr)]);
1397         striplt(fieldbuf);
1398
1399         return(fieldbuf);
1400 }
1401
1402
1403 /*****************************************************************************
1404  *                      DIRECTORY MANAGEMENT FUNCTIONS                       *
1405  *****************************************************************************/
1406
1407 /*
1408  * Generate the index key for an Internet e-mail address to be looked up
1409  * in the database.
1410  */
1411 void directory_key(char *key, char *addr) {
1412         int i;
1413         int keylen = 0;
1414
1415         for (i=0; !IsEmptyStr(&addr[i]); ++i) {
1416                 if (!isspace(addr[i])) {
1417                         key[keylen++] = tolower(addr[i]);
1418                 }
1419         }
1420         key[keylen++] = 0;
1421
1422         syslog(LOG_DEBUG, "internet_addressing: directory key is <%s>", key);
1423 }
1424
1425
1426 /*
1427  * Return nonzero if the supplied address is in one of "our" domains
1428  */
1429 int IsDirectory(char *addr, int allow_masq_domains) {
1430         char domain[256];
1431         int h;
1432
1433         extract_token(domain, addr, 1, '@', sizeof domain);
1434         striplt(domain);
1435
1436         h = CtdlHostAlias(domain);
1437
1438         if ( (h == hostalias_masq) && allow_masq_domains)
1439                 return(1);
1440
1441         if (h == hostalias_localhost) {
1442                 return(1);
1443         }
1444         else {
1445                 return(0);
1446         }
1447 }
1448
1449
1450 /*
1451  * Add an Internet e-mail address to the directory for a user
1452  */
1453 int CtdlDirectoryAddUser(char *internet_addr, char *citadel_addr) {
1454         char key[SIZ];
1455
1456         if (IsDirectory(internet_addr, 0) == 0) {
1457                 return 0;
1458         }
1459         syslog(LOG_DEBUG, "internet_addressing: create directory entry: %s --> %s", internet_addr, citadel_addr);
1460         directory_key(key, internet_addr);
1461         cdb_store(CDB_DIRECTORY, key, strlen(key), citadel_addr, strlen(citadel_addr)+1 );
1462         return 1;
1463 }
1464
1465
1466 /*
1467  * Delete an Internet e-mail address from the directory.
1468  *
1469  * (NOTE: we don't actually use or need the citadel_addr variable; it's merely
1470  * here because the callback API expects to be able to send it.)
1471  */
1472 int CtdlDirectoryDelUser(char *internet_addr, char *citadel_addr) {
1473         char key[SIZ];
1474
1475         syslog(LOG_DEBUG, "internet_addressing: delete directory entry: %s --> %s", internet_addr, citadel_addr);
1476         directory_key(key, internet_addr);
1477         return cdb_delete(CDB_DIRECTORY, key, strlen(key) ) == 0;
1478 }
1479
1480
1481 /*
1482  * Look up an Internet e-mail address in the directory.
1483  * On success: returns 0, and Citadel address stored in 'target'
1484  * On failure: returns nonzero
1485  */
1486 int CtdlDirectoryLookup(char *target, char *internet_addr, size_t targbuflen) {
1487         struct cdbdata *cdbrec;
1488         char key[SIZ];
1489
1490         /* Dump it in there unchanged, just for kicks */
1491         if (target != NULL) {
1492                 safestrncpy(target, internet_addr, targbuflen);
1493         }
1494
1495         /* Only do lookups for addresses with hostnames in them */
1496         if (num_tokens(internet_addr, '@') != 2) return(-1);
1497
1498         /* Only do lookups for domains in the directory */
1499         if (IsDirectory(internet_addr, 0) == 0) return(-1);
1500
1501         directory_key(key, internet_addr);
1502         cdbrec = cdb_fetch(CDB_DIRECTORY, key, strlen(key) );
1503         if (cdbrec != NULL) {
1504                 if (target != NULL) {
1505                         safestrncpy(target, cdbrec->ptr, targbuflen);
1506                 }
1507                 cdb_free(cdbrec);
1508                 return(0);
1509         }
1510
1511         return(-1);
1512 }
1513
1514
1515 /*
1516  * Harvest any email addresses that someone might want to have in their
1517  * "collected addresses" book.
1518  */
1519 char *harvest_collected_addresses(struct CtdlMessage *msg) {
1520         char *coll = NULL;
1521         char addr[256];
1522         char user[256], node[256], name[256];
1523         int is_harvestable;
1524         int i, j, h;
1525         eMsgField field = 0;
1526
1527         if (msg == NULL) return(NULL);
1528
1529         is_harvestable = 1;
1530         strcpy(addr, "");
1531         if (!CM_IsEmpty(msg, eAuthor)) {
1532                 strcat(addr, msg->cm_fields[eAuthor]);
1533         }
1534         if (!CM_IsEmpty(msg, erFc822Addr)) {
1535                 strcat(addr, " <");
1536                 strcat(addr, msg->cm_fields[erFc822Addr]);
1537                 strcat(addr, ">");
1538                 if (IsDirectory(msg->cm_fields[erFc822Addr], 0)) {
1539                         is_harvestable = 0;
1540                 }
1541         }
1542
1543         if (is_harvestable) {
1544                 coll = strdup(addr);
1545         }
1546         else {
1547                 coll = strdup("");
1548         }
1549
1550         if (coll == NULL) return(NULL);
1551
1552         /* Scan both the R (To) and Y (CC) fields */
1553         for (i = 0; i < 2; ++i) {
1554                 if (i == 0) field = eRecipient;
1555                 if (i == 1) field = eCarbonCopY;
1556
1557                 if (!CM_IsEmpty(msg, field)) {
1558                         for (j=0; j<num_tokens(msg->cm_fields[field], ','); ++j) {
1559                                 extract_token(addr, msg->cm_fields[field], j, ',', sizeof addr);
1560                                 if (strstr(addr, "=?") != NULL)
1561                                         utf8ify_rfc822_string(addr);
1562                                 process_rfc822_addr(addr, user, node, name);
1563                                 h = CtdlHostAlias(node);
1564                                 if (h != hostalias_localhost) {
1565                                         coll = realloc(coll, strlen(coll) + strlen(addr) + 4);
1566                                         if (coll == NULL) return(NULL);
1567                                         if (!IsEmptyStr(coll)) {
1568                                                 strcat(coll, ",");
1569                                         }
1570                                         striplt(addr);
1571                                         strcat(coll, addr);
1572                                 }
1573                         }
1574                 }
1575         }
1576
1577         if (IsEmptyStr(coll)) {
1578                 free(coll);
1579                 return(NULL);
1580         }
1581         return(coll);
1582 }
1583
1584
1585 /*
1586  * Helper function for CtdlRebuildDirectoryIndex()
1587  */
1588 void CtdlRebuildDirectoryIndex_backend(char *username, void *data) {
1589
1590         int j = 0;
1591         struct ctdluser usbuf;
1592
1593         if (CtdlGetUser(&usbuf, username) != 0) {
1594                 return;
1595         }
1596
1597         if ( (!IsEmptyStr(usbuf.fullname)) && (!IsEmptyStr(usbuf.emailaddrs)) ) {
1598                 for (j=0; j<num_tokens(usbuf.emailaddrs, '|'); ++j) {
1599                         char one_email[512];
1600                         extract_token(one_email, usbuf.emailaddrs, j, '|', sizeof one_email);
1601                         CtdlDirectoryAddUser(one_email, usbuf.fullname);
1602                 }
1603         }
1604 }
1605
1606
1607 /*
1608  * Initialize the directory database (erasing anything already there)
1609  */
1610 void CtdlRebuildDirectoryIndex(void) {
1611         syslog(LOG_INFO, "internet_addressing: rebuilding email address directory index");
1612         cdb_trunc(CDB_DIRECTORY);
1613         ForEachUser(CtdlRebuildDirectoryIndex_backend, NULL);
1614 }
1615
1616
1617 /*
1618  * Configure Internet email addresses for a user account, updating the Directory Index in the process
1619  */
1620 void CtdlSetEmailAddressesForUser(char *requested_user, char *new_emailaddrs)
1621 {
1622         struct ctdluser usbuf;
1623         int i;
1624         char buf[SIZ];
1625
1626         if (CtdlGetUserLock(&usbuf, requested_user) != 0) {     // We are relying on the fact that the DirectoryIndex functions don't lock.
1627                 return;                                         // Silently fail here if we can't acquire a lock on the user record.
1628         }
1629
1630         syslog(LOG_DEBUG, "internet_addressing: setting email addresses for <%s> to <%s>", usbuf.fullname, new_emailaddrs);
1631
1632         /* Delete all of the existing directory index records for the user (easier this way) */
1633         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1634                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1635                 CtdlDirectoryDelUser(buf, requested_user);
1636         }
1637
1638         strcpy(usbuf.emailaddrs, new_emailaddrs);               // make it official.
1639
1640         /* Index all of the new email addresses (they've already been sanitized) */
1641         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1642                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1643                 CtdlDirectoryAddUser(buf, requested_user);
1644         }
1645
1646         CtdlPutUserLock(&usbuf);
1647 }
1648
1649
1650 /*
1651  * Auto-generate an Internet email address for a user account
1652  */
1653 void AutoGenerateEmailAddressForUser(struct ctdluser *user)
1654 {
1655         char synthetic_email_addr[1024];
1656         int i, j;
1657         int u = 0;
1658
1659         for (i=0; u==0; ++i) {
1660                 if (i == 0) {
1661                         // first try just converting the user name to lowercase and replacing spaces with underscores
1662                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "%s@%s", user->fullname, CtdlGetConfigStr("c_fqdn"));
1663                         for (j=0; ((synthetic_email_addr[j] != '\0')&&(synthetic_email_addr[j] != '@')); j++) {
1664                                 synthetic_email_addr[j] = tolower(synthetic_email_addr[j]);
1665                                 if (!isalnum(synthetic_email_addr[j])) {
1666                                         synthetic_email_addr[j] = '_';
1667                                 }
1668                         }
1669                 }
1670                 else if (i == 1) {
1671                         // then try 'ctdl' followed by the user number
1672                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08lx@%s", user->usernum, CtdlGetConfigStr("c_fqdn"));
1673                 }
1674                 else if (i > 1) {
1675                         // oof.  just keep trying other numbers until we find one
1676                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08x@%s", i, CtdlGetConfigStr("c_fqdn"));
1677                 }
1678                 u = CtdlDirectoryLookup(NULL, synthetic_email_addr, 0);
1679                 syslog(LOG_DEBUG, "user_ops: address <%s> lookup returned <%d>", synthetic_email_addr, u);
1680         }
1681
1682         CtdlSetEmailAddressesForUser(user->fullname, synthetic_email_addr);
1683         strncpy(CC->user.emailaddrs, synthetic_email_addr, sizeof(user->emailaddrs));
1684         syslog(LOG_DEBUG, "user_ops: auto-generated email address <%s> for <%s>", synthetic_email_addr, user->fullname);
1685 }