citadel/internet_addressing.c

   1 /*
   2  * This file contains functions which handle the mapping of Internet addresses
   3  * to users on the Citadel system.
   4  *
   5  * Copyright (c) 1987-2018 by the citadel.org team
   6  *
   7  * This program is open source software; you can redistribute it and/or modify
   8  * it under the terms of the GNU General Public License version 3.
   9  *
  10  * This program is distributed in the hope that it will be useful,
  11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13  * GNU General Public License for more details.
  14  */
  15
  16 #include "sysdep.h"
  17 #include <stdlib.h>
  18 #include <unistd.h>
  19 #include <stdio.h>
  20 #include <fcntl.h>
  21 #include <ctype.h>
  22 #include <signal.h>
  23 #include <pwd.h>
  24 #include <errno.h>
  25 #include <sys/types.h>
  26 #include <time.h>
  27 #include <sys/wait.h>
  28 #include <string.h>
  29 #include <limits.h>
  30 #include <libcitadel.h>
  31 #include "citadel.h"
  32 #include "server.h"
  33 #include "sysdep_decls.h"
  34 #include "citserver.h"
  35 #include "support.h"
  36 #include "config.h"
  37 #include "msgbase.h"
  38 #include "internet_addressing.h"
  39 #include "user_ops.h"
  40 #include "room_ops.h"
  41 #include "parsedate.h"
  42 #include "database.h"
  43 #include "ctdl_module.h"
  44 #ifdef HAVE_ICONV
  45 #include <iconv.h>
  46
  47 #if 0
  48 /* This is the non-define version in case it is needed for debugging */
  49 inline void FindNextEnd (char *bptr, char *end)
  50 {
  51         /* Find the next ?Q? */
  52         end = strchr(bptr + 2, '?');
  53         if (end == NULL) return NULL;
  54         if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) &&
  55             (*(end + 2) == '?')) {
  56                 /* skip on to the end of the cluster, the next ?= */
  57                 end = strstr(end + 3, "?=");
  58         }
  59         else
  60                 /* sort of half valid encoding, try to find an end. */
  61                 end = strstr(bptr, "?=");
  62 }
  63 #endif
  64
  65 #define FindNextEnd(bptr, end) { \
  66         end = strchr(bptr + 2, '?'); \
  67         if (end != NULL) { \
  68                 if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && (*(end + 2) == '?')) { \
  69                         end = strstr(end + 3, "?="); \
  70                 } else end = strstr(bptr, "?="); \
  71         } \
  72 }
  73
  74 /*
  75  * Handle subjects with RFC2047 encoding such as:
  76  * =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
  77  */
  78 void utf8ify_rfc822_string(char *buf) {
  79         char *start, *end, *next, *nextend, *ptr;
  80         char newbuf[1024];
  81         char charset[128];
  82         char encoding[16];
  83         char istr[1024];
  84         iconv_t ic = (iconv_t)(-1) ;
  85         char *ibuf;                     // Buffer of characters to be converted
  86         char *obuf;                     // Buffer for converted characters
  87         size_t ibuflen;                 // Length of input buffer
  88         size_t obuflen;                 // Length of output buffer
  89         char *isav;                     // Saved pointer to input buffer
  90         char *osav;                     // Saved pointer to output buffer
  91         int passes = 0;
  92         int i, len, delta;
  93         int illegal_non_rfc2047_encoding = 0;
  94
  95         /* Sometimes, badly formed messages contain strings which were simply
  96          * written out directly in some foreign character set instead of
  97          * using RFC2047 encoding.  This is illegal but we will attempt to
  98          * handle it anyway by converting from a user-specified default
  99          * charset to UTF-8 if we see any nonprintable characters.
 100          */
 101         len = strlen(buf);
 102         for (i=0; i<len; ++i) {
 103                 if ((buf[i] < 32) || (buf[i] > 126)) {
 104                         illegal_non_rfc2047_encoding = 1;
 105                         i = len;        // take a shortcut, it won't be more than one.
 106                 }
 107         }
 108         if (illegal_non_rfc2047_encoding) {
 109                 const char *default_header_charset = "iso-8859-1";
 110                 if ( (strcasecmp(default_header_charset, "UTF-8")) && (strcasecmp(default_header_charset, "us-ascii")) ) {
 111                         ctdl_iconv_open("UTF-8", default_header_charset, &ic);
 112                         if (ic != (iconv_t)(-1) ) {
 113                                 ibuf = malloc(1024);
 114                                 isav = ibuf;
 115                                 safestrncpy(ibuf, buf, 1024);
 116                                 ibuflen = strlen(ibuf);
 117                                 obuflen = 1024;
 118                                 obuf = (char *) malloc(obuflen);
 119                                 osav = obuf;
 120                                 iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 121                                 osav[1024-obuflen] = 0;
 122                                 strcpy(buf, osav);
 123                                 free(osav);
 124                                 iconv_close(ic);
 125                                 free(isav);
 126                         }
 127                 }
 128         }
 129
 130         /* pre evaluate the first pair */
 131         nextend = end = NULL;
 132         len = strlen(buf);
 133         start = strstr(buf, "=?");
 134         if (start != NULL)
 135                 FindNextEnd (start, end);
 136
 137         while ((start != NULL) && (end != NULL))
 138         {
 139                 next = strstr(end, "=?");
 140                 if (next != NULL)
 141                         FindNextEnd(next, nextend);
 142                 if (nextend == NULL)
 143                         next = NULL;
 144
 145                 /* did we find two partitions */
 146                 if ((next != NULL) &&
 147                     ((next - end) > 2))
 148                 {
 149                         ptr = end + 2;
 150                         while ((ptr < next) &&
 151                                (isspace(*ptr) ||
 152                                 (*ptr == '\r') ||
 153                                 (*ptr == '\n') ||
 154                                 (*ptr == '\t')))
 155                                 ptr ++;
 156                         /* did we find a gab just filled with blanks? */
 157                         if (ptr == next)
 158                         {
 159                                 memmove (end + 2,
 160                                          next,
 161                                          len - (next - start));
 162
 163                                 /* now terminate the gab at the end */
 164                                 delta = (next - end) - 2;
 165                                 len -= delta;
 166                                 buf[len] = '\0';
 167
 168                                 /* move next to its new location. */
 169                                 next -= delta;
 170                                 nextend -= delta;
 171                         }
 172                 }
 173                 /* our next-pair is our new first pair now. */
 174                 start = next;
 175                 end = nextend;
 176         }
 177
 178         /* Now we handle foreign character sets properly encoded
 179          * in RFC2047 format.
 180          */
 181         start = strstr(buf, "=?");
 182         FindNextEnd((start != NULL)? start : buf, end);
 183         while (start != NULL && end != NULL && end > start)
 184         {
 185                 extract_token(charset, start, 1, '?', sizeof charset);
 186                 extract_token(encoding, start, 2, '?', sizeof encoding);
 187                 extract_token(istr, start, 3, '?', sizeof istr);
 188
 189                 ibuf = malloc(1024);
 190                 isav = ibuf;
 191                 if (!strcasecmp(encoding, "B")) {       // base64
 192                         ibuflen = CtdlDecodeBase64(ibuf, istr, strlen(istr));
 193                 }
 194                 else if (!strcasecmp(encoding, "Q")) {  // quoted-printable
 195                         size_t len;
 196                         unsigned long pos;
 197
 198                         len = strlen(istr);
 199                         pos = 0;
 200                         while (pos < len)
 201                         {
 202                                 if (istr[pos] == '_') istr[pos] = ' ';
 203                                 pos++;
 204                         }
 205
 206                         ibuflen = CtdlDecodeQuotedPrintable(ibuf, istr, len);
 207                 }
 208                 else {
 209                         strcpy(ibuf, istr);             // unknown encoding
 210                         ibuflen = strlen(istr);
 211                 }
 212
 213                 ctdl_iconv_open("UTF-8", charset, &ic);
 214                 if (ic != (iconv_t)(-1) ) {
 215                         obuflen = 1024;
 216                         obuf = (char *) malloc(obuflen);
 217                         osav = obuf;
 218                         iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
 219                         osav[1024-obuflen] = 0;
 220
 221                         end = start;
 222                         end++;
 223                         strcpy(start, "");
 224                         remove_token(end, 0, '?');
 225                         remove_token(end, 0, '?');
 226                         remove_token(end, 0, '?');
 227                         remove_token(end, 0, '?');
 228                         strcpy(end, &end[1]);
 229
 230                         snprintf(newbuf, sizeof newbuf, "%s%s%s", buf, osav, end);
 231                         strcpy(buf, newbuf);
 232                         free(osav);
 233                         iconv_close(ic);
 234                 }
 235                 else {
 236                         end = start;
 237                         end++;
 238                         strcpy(start, "");
 239                         remove_token(end, 0, '?');
 240                         remove_token(end, 0, '?');
 241                         remove_token(end, 0, '?');
 242                         remove_token(end, 0, '?');
 243                         strcpy(end, &end[1]);
 244
 245                         snprintf(newbuf, sizeof newbuf, "%s(unreadable)%s", buf, end);
 246                         strcpy(buf, newbuf);
 247                 }
 248
 249                 free(isav);
 250
 251                 /*
 252                  * Since spammers will go to all sorts of absurd lengths to get their
 253                  * messages through, there are LOTS of corrupt headers out there.
 254                  * So, prevent a really badly formed RFC2047 header from throwing
 255                  * this function into an infinite loop.
 256                  */
 257                 ++passes;
 258                 if (passes > 20) return;
 259
 260                 start = strstr(buf, "=?");
 261                 FindNextEnd((start != NULL)? start : buf, end);
 262         }
 263
 264 }
 265 #else
 266 inline void utf8ify_rfc822_string(char *a){};
 267
 268 #endif
 269
 270
 271 struct trynamebuf {
 272         char buffer1[SIZ];
 273         char buffer2[SIZ];
 274 };
 275
 276 char *inetcfg = NULL;
 277
 278 /*
 279  * Return nonzero if the supplied name is an alias for this host.
 280  */
 281 int CtdlHostAlias(char *fqdn) {
 282         int config_lines;
 283         int i;
 284         char buf[256];
 285         char host[256], type[256];
 286         int found = 0;
 287
 288         if (fqdn == NULL)                                       return(hostalias_nomatch);
 289         if (IsEmptyStr(fqdn))                                   return(hostalias_nomatch);
 290         if (!strcasecmp(fqdn, "localhost"))                     return(hostalias_localhost);
 291         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_fqdn")))      return(hostalias_localhost);
 292         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_nodename")))  return(hostalias_localhost);
 293         if (inetcfg == NULL)                                    return(hostalias_nomatch);
 294
 295         config_lines = num_tokens(inetcfg, '\n');
 296         for (i=0; i<config_lines; ++i) {
 297                 extract_token(buf, inetcfg, i, '\n', sizeof buf);
 298                 extract_token(host, buf, 0, '|', sizeof host);
 299                 extract_token(type, buf, 1, '|', sizeof type);
 300
 301                 found = 0;
 302
 303                 /* Process these in a specific order, in case there are multiple matches.
 304                  * We want localhost to override masq, for example.
 305                  */
 306
 307                 if ( (!strcasecmp(type, "masqdomain")) && (!strcasecmp(fqdn, host))) {
 308                         found = hostalias_masq;
 309                 }
 310
 311                 if ( (!strcasecmp(type, "localhost")) && (!strcasecmp(fqdn, host))) {
 312                         found = hostalias_localhost;
 313                 }
 314
 315                 // "directory" used to be a distributed version of "localhost" but they're both the same now
 316                 if ( (!strcasecmp(type, "directory")) && (!strcasecmp(fqdn, host))) {
 317                         found = hostalias_localhost;
 318                 }
 319
 320                 if (found) return(found);
 321         }
 322         return(hostalias_nomatch);
 323 }
 324
 325
 326 /*
 327  * Determine whether a given Internet address belongs to the current user
 328  */
 329 int CtdlIsMe(char *addr, int addr_buf_len)
 330 {
 331         recptypes *recp;
 332         int i;
 333
 334         recp = validate_recipients(addr, NULL, 0);
 335         if (recp == NULL) return(0);
 336
 337         if (recp->num_local == 0) {
 338                 free_recipients(recp);
 339                 return(0);
 340         }
 341
 342         for (i=0; i<recp->num_local; ++i) {
 343                 extract_token(addr, recp->recp_local, i, '|', addr_buf_len);
 344                 if (!strcasecmp(addr, CC->user.fullname)) {
 345                         free_recipients(recp);
 346                         return(1);
 347                 }
 348         }
 349
 350         free_recipients(recp);
 351         return(0);
 352 }
 353
 354
 355 /* If the last item in a list of recipients was truncated to a partial address,
 356  * remove it completely in order to avoid choking libSieve
 357  */
 358 void sanitize_truncated_recipient(char *str)
 359 {
 360         if (!str) return;
 361         if (num_tokens(str, ',') < 2) return;
 362
 363         int len = strlen(str);
 364         if (len < 900) return;
 365         if (len > 998) str[998] = 0;
 366
 367         char *cptr = strrchr(str, ',');
 368         if (!cptr) return;
 369
 370         char *lptr = strchr(cptr, '<');
 371         char *rptr = strchr(cptr, '>');
 372
 373         if ( (lptr) && (rptr) && (rptr > lptr) ) return;
 374
 375         *cptr = 0;
 376 }
 377
 378
 379 /*
 380  * This function is self explanatory.
 381  * (What can I say, I'm in a weird mood today...)
 382  */
 383 void remove_any_whitespace_to_the_left_or_right_of_at_symbol(char *name)
 384 {
 385         unsigned int i;
 386
 387         for (i = 0; i < strlen(name); ++i) {
 388                 if (name[i] == '@') {
 389                         while (isspace(name[i - 1]) && i > 0) {
 390                                 strcpy(&name[i - 1], &name[i]);
 391                                 --i;
 392                         }
 393                         while (isspace(name[i + 1])) {
 394                                 strcpy(&name[i + 1], &name[i + 2]);
 395                         }
 396                 }
 397         }
 398 }
 399
 400
 401 /*
 402  * Aliasing for network mail.
 403  */
 404 int alias(char *name)
 405 {                               /* process alias and routing info for mail */
 406         FILE *fp;
 407         int a;
 408         char aaa[SIZ], bbb[SIZ];
 409         int at = 0;
 410         char node[64];
 411
 412         char original_name[256];
 413         safestrncpy(original_name, name, sizeof original_name);
 414
 415         striplt(name);
 416         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
 417         stripallbut(name, '<', '>');
 418
 419         fp = fopen(file_mail_aliases, "r");             // when are we going to get rid of this?
 420         if (fp == NULL) {
 421                 fp = fopen("/dev/null", "r");
 422         }
 423         if (fp == NULL) {
 424                 return (MES_ERROR);
 425         }
 426         strcpy(aaa, "");
 427         strcpy(bbb, "");
 428         while (fgets(aaa, sizeof aaa, fp) != NULL) {
 429                 while (isspace(name[0]))
 430                         strcpy(name, &name[1]);
 431                 aaa[strlen(aaa) - 1] = 0;
 432                 strcpy(bbb, "");
 433                 for (a = 0; aaa[a] != '\0'; ++a) {
 434                         if (aaa[a] == ',') {
 435                                 strcpy(bbb, &aaa[a + 1]);
 436                                 aaa[a] = 0;
 437                                 break;
 438                         }
 439                 }
 440                 if (!strcasecmp(name, aaa))
 441                         strcpy(name, bbb);
 442         }
 443         fclose(fp);
 444
 445         /* Hit the email address directory */
 446         if (CtdlDirectoryLookup(aaa, name, sizeof aaa) == 0) {
 447                 strcpy(name, aaa);
 448         }
 449
 450         if (strcasecmp(original_name, name)) {
 451                 syslog(LOG_INFO, "internet_addressing: %s is being forwarded to %s", original_name, name);
 452         }
 453
 454         /* Change "user @ xxx" to "user" if xxx is an alias for this host */
 455         for (a=0; name[a] != '\0'; ++a) {
 456                 if (name[a] == '@') {
 457                         if (CtdlHostAlias(&name[a+1]) == hostalias_localhost) {
 458                                 name[a] = 0;
 459                                 syslog(LOG_DEBUG, "internet_addressing: changed to <%s>", name);
 460                                 break;
 461                         }
 462                 }
 463         }
 464
 465         /* determine local or remote type, see citadel.h */
 466         at = haschar(name, '@');
 467         if (at == 0) return(MES_LOCAL);         /* no @'s - local address */
 468         if (at > 1) return(MES_ERROR);          /* >1 @'s - invalid address */
 469         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
 470
 471         /* figure out the delivery mode */
 472         extract_token(node, name, 1, '@', sizeof node);
 473
 474         /* If there are one or more dots in the nodename, we assume that it
 475          * is an FQDN and will attempt SMTP delivery to the Internet.
 476          */
 477         if (haschar(node, '.') > 0) {
 478                 return(MES_INTERNET);
 479         }
 480
 481         /* If we get to this point it's an invalid node name */
 482         return (MES_ERROR);
 483 }
 484
 485
 486 /*
 487  * Validate recipients, count delivery types and errors, and handle aliasing
 488  * FIXME check for dupes!!!!!
 489  *
 490  * Returns 0 if all addresses are ok, ret->num_error = -1 if no addresses
 491  * were specified, or the number of addresses found invalid.
 492  *
 493  * Caller needs to free the result using free_recipients()
 494  */
 495 recptypes *validate_recipients(const char *supplied_recipients, const char *RemoteIdentifier, int Flags)
 496 {
 497         struct CitContext *CCC = CC;
 498         recptypes *ret;
 499         char *recipients = NULL;
 500         char *org_recp;
 501         char this_recp[256];
 502         char this_recp_cooked[256];
 503         char append[SIZ];
 504         long len;
 505         int num_recps = 0;
 506         int i, j;
 507         int mailtype;
 508         int invalid;
 509         struct ctdluser tempUS;
 510         struct ctdlroom tempQR;
 511         struct ctdlroom tempQR2;
 512         int err = 0;
 513         char errmsg[SIZ];
 514         int in_quotes = 0;
 515
 516         /* Initialize */
 517         ret = (recptypes *) malloc(sizeof(recptypes));
 518         if (ret == NULL) return(NULL);
 519
 520         /* Set all strings to null and numeric values to zero */
 521         memset(ret, 0, sizeof(recptypes));
 522
 523         if (supplied_recipients == NULL) {
 524                 recipients = strdup("");
 525         }
 526         else {
 527                 recipients = strdup(supplied_recipients);
 528         }
 529
 530         /* Allocate some memory.  Yes, this allocates 500% more memory than we will
 531          * actually need, but it's healthier for the heap than doing lots of tiny
 532          * realloc() calls instead.
 533          */
 534         len = strlen(recipients) + 1024;
 535         ret->errormsg = malloc(len);
 536         ret->recp_local = malloc(len);
 537         ret->recp_internet = malloc(len);
 538         ret->recp_room = malloc(len);
 539         ret->display_recp = malloc(len);
 540         ret->recp_orgroom = malloc(len);
 541         org_recp = malloc(len);
 542
 543         ret->errormsg[0] = 0;
 544         ret->recp_local[0] = 0;
 545         ret->recp_internet[0] = 0;
 546         ret->recp_room[0] = 0;
 547         ret->recp_orgroom[0] = 0;
 548         ret->display_recp[0] = 0;
 549
 550         ret->recptypes_magic = RECPTYPES_MAGIC;
 551
 552         /* Change all valid separator characters to commas */
 553         for (i=0; !IsEmptyStr(&recipients[i]); ++i) {
 554                 if ((recipients[i] == ';') || (recipients[i] == '|')) {
 555                         recipients[i] = ',';
 556                 }
 557         }
 558
 559         /* Now start extracting recipients... */
 560
 561         while (!IsEmptyStr(recipients)) {
 562                 for (i=0; i<=strlen(recipients); ++i) {
 563                         if (recipients[i] == '\"') in_quotes = 1 - in_quotes;
 564                         if ( ( (recipients[i] == ',') && (!in_quotes) ) || (recipients[i] == 0) ) {
 565                                 safestrncpy(this_recp, recipients, i+1);
 566                                 this_recp[i] = 0;
 567                                 if (recipients[i] == ',') {
 568                                         strcpy(recipients, &recipients[i+1]);
 569                                 }
 570                                 else {
 571                                         strcpy(recipients, "");
 572                                 }
 573                                 break;
 574                         }
 575                 }
 576
 577                 striplt(this_recp);
 578                 if (IsEmptyStr(this_recp))
 579                         break;
 580                 syslog(LOG_DEBUG, "internet_addressing: evaluating recipient #%d: %s", num_recps, this_recp);
 581                 ++num_recps;
 582
 583                 strcpy(org_recp, this_recp);
 584                 alias(this_recp);
 585                 alias(this_recp);
 586                 mailtype = alias(this_recp);
 587
 588                 for (j = 0; !IsEmptyStr(&this_recp[j]); ++j) {
 589                         if (this_recp[j]=='_') {
 590                                 this_recp_cooked[j] = ' ';
 591                         }
 592                         else {
 593                                 this_recp_cooked[j] = this_recp[j];
 594                         }
 595                 }
 596                 this_recp_cooked[j] = '\0';
 597                 invalid = 0;
 598                 errmsg[0] = 0;
 599                 switch(mailtype) {
 600                 case MES_LOCAL:
 601                         if (!strcasecmp(this_recp, "sysop")) {
 602                                 ++ret->num_room;
 603                                 strcpy(this_recp, CtdlGetConfigStr("c_aideroom"));
 604                                 if (!IsEmptyStr(ret->recp_room)) {
 605                                         strcat(ret->recp_room, "|");
 606                                 }
 607                                 strcat(ret->recp_room, this_recp);
 608                         }
 609                         else if ( (!strncasecmp(this_recp, "room_", 5))
 610                                   && (!CtdlGetRoom(&tempQR, &this_recp_cooked[5])) ) {
 611
 612                                 /* Save room so we can restore it later */
 613                                 tempQR2 = CCC->room;
 614                                 CCC->room = tempQR;
 615
 616                                 /* Check permissions to send mail to this room */
 617                                 err = CtdlDoIHavePermissionToPostInThisRoom(
 618                                         errmsg,
 619                                         sizeof errmsg,
 620                                         RemoteIdentifier,
 621                                         Flags,
 622                                         0                       /* 0 = not a reply */
 623                                         );
 624                                 if (err)
 625                                 {
 626                                         ++ret->num_error;
 627                                         invalid = 1;
 628                                 }
 629                                 else {
 630                                         ++ret->num_room;
 631                                         if (!IsEmptyStr(ret->recp_room)) {
 632                                                 strcat(ret->recp_room, "|");
 633                                         }
 634                                         strcat(ret->recp_room, &this_recp_cooked[5]);
 635
 636                                         if (!IsEmptyStr(ret->recp_orgroom)) {
 637                                                 strcat(ret->recp_orgroom, "|");
 638                                         }
 639                                         strcat(ret->recp_orgroom, org_recp);
 640
 641                                 }
 642
 643                                 /* Restore room in case something needs it */
 644                                 CCC->room = tempQR2;
 645
 646                         }
 647                         else if (CtdlGetUser(&tempUS, this_recp) == 0) {
 648                                 ++ret->num_local;
 649                                 strcpy(this_recp, tempUS.fullname);
 650                                 if (!IsEmptyStr(ret->recp_local)) {
 651                                         strcat(ret->recp_local, "|");
 652                                 }
 653                                 strcat(ret->recp_local, this_recp);
 654                         }
 655                         else if (CtdlGetUser(&tempUS, this_recp_cooked) == 0) {
 656                                 ++ret->num_local;
 657                                 strcpy(this_recp, tempUS.fullname);
 658                                 if (!IsEmptyStr(ret->recp_local)) {
 659                                         strcat(ret->recp_local, "|");
 660                                 }
 661                                 strcat(ret->recp_local, this_recp);
 662                         }
 663                         else {
 664                                 ++ret->num_error;
 665                                 invalid = 1;
 666                         }
 667                         break;
 668                 case MES_INTERNET:
 669                         /* Yes, you're reading this correctly: if the target
 670                          * domain points back to the local system,
 671                          * the address is invalid.  That's
 672                          * because if the address were valid, we would have
 673                          * already translated it to a local address by now.
 674                          */
 675                         if (IsDirectory(this_recp, 0)) {
 676                                 ++ret->num_error;
 677                                 invalid = 1;
 678                         }
 679                         else {
 680                                 ++ret->num_internet;
 681                                 if (!IsEmptyStr(ret->recp_internet)) {
 682                                         strcat(ret->recp_internet, "|");
 683                                 }
 684                                 strcat(ret->recp_internet, this_recp);
 685                         }
 686                         break;
 687                 case MES_ERROR:
 688                         ++ret->num_error;
 689                         invalid = 1;
 690                         break;
 691                 }
 692                 if (invalid) {
 693                         if (IsEmptyStr(errmsg)) {
 694                                 snprintf(append, sizeof append, "Invalid recipient: %s", this_recp);
 695                         }
 696                         else {
 697                                 snprintf(append, sizeof append, "%s", errmsg);
 698                         }
 699                         if ( (strlen(ret->errormsg) + strlen(append) + 3) < SIZ) {
 700                                 if (!IsEmptyStr(ret->errormsg)) {
 701                                         strcat(ret->errormsg, "; ");
 702                                 }
 703                                 strcat(ret->errormsg, append);
 704                         }
 705                 }
 706                 else {
 707                         if (IsEmptyStr(ret->display_recp)) {
 708                                 strcpy(append, this_recp);
 709                         }
 710                         else {
 711                                 snprintf(append, sizeof append, ", %s", this_recp);
 712                         }
 713                         if ( (strlen(ret->display_recp)+strlen(append)) < SIZ) {
 714                                 strcat(ret->display_recp, append);
 715                         }
 716                 }
 717         }
 718         free(org_recp);
 719
 720         if ( (ret->num_local + ret->num_internet + ret->num_room + ret->num_error) == 0)
 721         {
 722                 ret->num_error = (-1);
 723                 strcpy(ret->errormsg, "No recipients specified.");
 724         }
 725
 726         syslog(LOG_DEBUG, "internet_addressing: validate_recipients() = %d local, %d room, %d SMTP, %d error",
 727                 ret->num_local, ret->num_room, ret->num_internet, ret->num_error
 728         );
 729
 730         free(recipients);
 731         return(ret);
 732 }
 733
 734
 735 /*
 736  * Destructor for recptypes
 737  */
 738 void free_recipients(recptypes *valid) {
 739
 740         if (valid == NULL) {
 741                 return;
 742         }
 743
 744         if (valid->recptypes_magic != RECPTYPES_MAGIC) {
 745                 syslog(LOG_ERR, "internet_addressing: attempt to call free_recipients() on some other data type!");
 746                 abort();
 747         }
 748
 749         if (valid->errormsg != NULL)            free(valid->errormsg);
 750         if (valid->recp_local != NULL)          free(valid->recp_local);
 751         if (valid->recp_internet != NULL)       free(valid->recp_internet);
 752         if (valid->recp_room != NULL)           free(valid->recp_room);
 753         if (valid->recp_orgroom != NULL)        free(valid->recp_orgroom);
 754         if (valid->display_recp != NULL)        free(valid->display_recp);
 755         if (valid->bounce_to != NULL)           free(valid->bounce_to);
 756         if (valid->envelope_from != NULL)       free(valid->envelope_from);
 757         if (valid->sending_room != NULL)        free(valid->sending_room);
 758         free(valid);
 759 }
 760
 761
 762 char *qp_encode_email_addrs(char *source)
 763 {
 764         char *user, *node, *name;
 765         const char headerStr[] = "=?UTF-8?Q?";
 766         char *Encoded;
 767         char *EncodedName;
 768         char *nPtr;
 769         int need_to_encode = 0;
 770         long SourceLen;
 771         long EncodedMaxLen;
 772         long nColons = 0;
 773         long *AddrPtr;
 774         long *AddrUtf8;
 775         long nAddrPtrMax = 50;
 776         long nmax;
 777         int InQuotes = 0;
 778         int i, n;
 779
 780         if (source == NULL) return source;
 781         if (IsEmptyStr(source)) return source;
 782         syslog(LOG_DEBUG, "internet_addressing: qp_encode_email_addrs <%s>", source);
 783
 784         AddrPtr = malloc (sizeof (long) * nAddrPtrMax);
 785         AddrUtf8 = malloc (sizeof (long) * nAddrPtrMax);
 786         memset(AddrUtf8, 0, sizeof (long) * nAddrPtrMax);
 787         *AddrPtr = 0;
 788         i = 0;
 789         while (!IsEmptyStr (&source[i])) {
 790                 if (nColons >= nAddrPtrMax){
 791                         long *ptr;
 792
 793                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
 794                         memcpy (ptr, AddrPtr, sizeof (long) * nAddrPtrMax);
 795                         free (AddrPtr), AddrPtr = ptr;
 796
 797                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
 798                         memset(&ptr[nAddrPtrMax], 0,
 799                                sizeof (long) * nAddrPtrMax);
 800
 801                         memcpy (ptr, AddrUtf8, sizeof (long) * nAddrPtrMax);
 802                         free (AddrUtf8), AddrUtf8 = ptr;
 803                         nAddrPtrMax *= 2;
 804                 }
 805                 if (((unsigned char) source[i] < 32) ||
 806                     ((unsigned char) source[i] > 126)) {
 807                         need_to_encode = 1;
 808                         AddrUtf8[nColons] = 1;
 809                 }
 810                 if (source[i] == '"')
 811                         InQuotes = !InQuotes;
 812                 if (!InQuotes && source[i] == ',') {
 813                         AddrPtr[nColons] = i;
 814                         nColons++;
 815                 }
 816                 i++;
 817         }
 818         if (need_to_encode == 0) {
 819                 free(AddrPtr);
 820                 free(AddrUtf8);
 821                 return source;
 822         }
 823
 824         SourceLen = i;
 825         EncodedMaxLen = nColons * (sizeof(headerStr) + 3) + SourceLen * 3;
 826         Encoded = (char*) malloc (EncodedMaxLen);
 827
 828         for (i = 0; i < nColons; i++) {
 829                 source[AddrPtr[i]++] = '\0';
 830         }
 831         /* TODO: if libidn, this might get larger*/
 832         user = malloc(SourceLen + 1);
 833         node = malloc(SourceLen + 1);
 834         name = malloc(SourceLen + 1);
 835
 836         nPtr = Encoded;
 837         *nPtr = '\0';
 838         for (i = 0; i < nColons && nPtr != NULL; i++) {
 839                 nmax = EncodedMaxLen - (nPtr - Encoded);
 840                 if (AddrUtf8[i]) {
 841                         process_rfc822_addr(&source[AddrPtr[i]],
 842                                             user,
 843                                             node,
 844                                             name);
 845                         /* TODO: libIDN here ! */
 846                         if (IsEmptyStr(name)) {
 847                                 n = snprintf(nPtr, nmax,
 848                                              (i==0)?"%s@%s" : ",%s@%s",
 849                                              user, node);
 850                         }
 851                         else {
 852                                 EncodedName = rfc2047encode(name, strlen(name));
 853                                 n = snprintf(nPtr, nmax,
 854                                              (i==0)?"%s <%s@%s>" : ",%s <%s@%s>",
 855                                              EncodedName, user, node);
 856                                 free(EncodedName);
 857                         }
 858                 }
 859                 else {
 860                         n = snprintf(nPtr, nmax,
 861                                      (i==0)?"%s" : ",%s",
 862                                      &source[AddrPtr[i]]);
 863                 }
 864                 if (n > 0 )
 865                         nPtr += n;
 866                 else {
 867                         char *ptr, *nnPtr;
 868                         ptr = (char*) malloc(EncodedMaxLen * 2);
 869                         memcpy(ptr, Encoded, EncodedMaxLen);
 870                         nnPtr = ptr + (nPtr - Encoded), nPtr = nnPtr;
 871                         free(Encoded), Encoded = ptr;
 872                         EncodedMaxLen *= 2;
 873                         i--; /* do it once more with properly lengthened buffer */
 874                 }
 875         }
 876         for (i = 0; i < nColons; i++)
 877                 source[--AddrPtr[i]] = ',';
 878
 879         free(user);
 880         free(node);
 881         free(name);
 882         free(AddrUtf8);
 883         free(AddrPtr);
 884         return Encoded;
 885 }
 886
 887
 888 /*
 889  * Unfold a multi-line field into a single line, removing multi-whitespaces
 890  */
 891 void unfold_rfc822_field(char **field, char **FieldEnd)
 892 {
 893         int quote = 0;
 894         char *pField = *field;
 895         char *sField;
 896         char *pFieldEnd = *FieldEnd;
 897
 898         while (isspace(*pField))
 899                 pField++;
 900         /* remove leading/trailing whitespace */
 901         ;
 902
 903         while (isspace(*pFieldEnd))
 904                 pFieldEnd --;
 905
 906         *FieldEnd = pFieldEnd;
 907         /* convert non-space whitespace to spaces, and remove double blanks */
 908         for (sField = *field = pField;
 909              sField < pFieldEnd;
 910              pField++, sField++)
 911         {
 912                 if ((*sField=='\r') || (*sField=='\n'))
 913                 {
 914                         int Offset = 1;
 915                         while (((*(sField + Offset) == '\r') ||
 916                                 (*(sField + Offset) == '\n') ||
 917                                 (isspace(*(sField + Offset)))) &&
 918                                (sField + Offset < pFieldEnd))
 919                                 Offset ++;
 920                         sField += Offset;
 921                         *pField = *sField;
 922                 }
 923                 else {
 924                         if (*sField=='\"') quote = 1 - quote;
 925                         if (!quote) {
 926                                 if (isspace(*sField))
 927                                 {
 928                                         *pField = ' ';
 929                                         pField++;
 930                                         sField++;
 931
 932                                         while ((sField < pFieldEnd) &&
 933                                                isspace(*sField))
 934                                                 sField++;
 935                                         *pField = *sField;
 936                                 }
 937                                 else *pField = *sField;
 938                         }
 939                         else *pField = *sField;
 940                 }
 941         }
 942         *pField = '\0';
 943         *FieldEnd = pField - 1;
 944 }
 945
 946
 947 /*
 948  * Split an RFC822-style address into userid, host, and full name
 949  *
 950  */
 951 void process_rfc822_addr(const char *rfc822, char *user, char *node, char *name)
 952 {
 953         int a;
 954
 955         strcpy(user, "");
 956         strcpy(node, CtdlGetConfigStr("c_fqdn"));
 957         strcpy(name, "");
 958
 959         if (rfc822 == NULL) return;
 960
 961         /* extract full name - first, it's From minus <userid> */
 962         strcpy(name, rfc822);
 963         stripout(name, '<', '>');
 964
 965         /* strip anything to the left of a bang */
 966         while ((!IsEmptyStr(name)) && (haschar(name, '!') > 0))
 967                 strcpy(name, &name[1]);
 968
 969         /* and anything to the right of a @ or % */
 970         for (a = 0; name[a] != '\0'; ++a) {
 971                 if (name[a] == '@') {
 972                         name[a] = 0;
 973                         break;
 974                 }
 975                 if (name[a] == '%') {
 976                         name[a] = 0;
 977                         break;
 978                 }
 979         }
 980
 981         /* but if there are parentheses, that changes the rules... */
 982         if ((haschar(rfc822, '(') == 1) && (haschar(rfc822, ')') == 1)) {
 983                 strcpy(name, rfc822);
 984                 stripallbut(name, '(', ')');
 985         }
 986
 987         /* but if there are a set of quotes, that supersedes everything */
 988         if (haschar(rfc822, 34) == 2) {
 989                 strcpy(name, rfc822);
 990                 while ((!IsEmptyStr(name)) && (name[0] != 34)) {
 991                         strcpy(&name[0], &name[1]);
 992                 }
 993                 strcpy(&name[0], &name[1]);
 994                 for (a = 0; name[a] != '\0'; ++a)
 995                         if (name[a] == 34) {
 996                                 name[a] = 0;
 997                                 break;
 998                         }
 999         }
1000         /* extract user id */
1001         strcpy(user, rfc822);
1002
1003         /* first get rid of anything in parens */
1004         stripout(user, '(', ')');
1005
1006         /* if there's a set of angle brackets, strip it down to that */
1007         if ((haschar(user, '<') == 1) && (haschar(user, '>') == 1)) {
1008                 stripallbut(user, '<', '>');
1009         }
1010
1011         /* strip anything to the left of a bang */
1012         while ((!IsEmptyStr(user)) && (haschar(user, '!') > 0))
1013                 strcpy(user, &user[1]);
1014
1015         /* and anything to the right of a @ or % */
1016         for (a = 0; user[a] != '\0'; ++a) {
1017                 if (user[a] == '@') {
1018                         user[a] = 0;
1019                         break;
1020                 }
1021                 if (user[a] == '%') {
1022                         user[a] = 0;
1023                         break;
1024                 }
1025         }
1026
1027
1028         /* extract node name */
1029         strcpy(node, rfc822);
1030
1031         /* first get rid of anything in parens */
1032         stripout(node, '(', ')');
1033
1034         /* if there's a set of angle brackets, strip it down to that */
1035         if ((haschar(node, '<') == 1) && (haschar(node, '>') == 1)) {
1036                 stripallbut(node, '<', '>');
1037         }
1038
1039         /* If no node specified, tack ours on instead */
1040         if (
1041                 (haschar(node, '@')==0)
1042                 && (haschar(node, '%')==0)
1043                 && (haschar(node, '!')==0)
1044         ) {
1045                 strcpy(node, CtdlGetConfigStr("c_nodename"));
1046         }
1047
1048         else {
1049
1050                 /* strip anything to the left of a @ */
1051                 while ((!IsEmptyStr(node)) && (haschar(node, '@') > 0))
1052                         strcpy(node, &node[1]);
1053
1054                 /* strip anything to the left of a % */
1055                 while ((!IsEmptyStr(node)) && (haschar(node, '%') > 0))
1056                         strcpy(node, &node[1]);
1057
1058                 /* reduce multiple system bang paths to node!user */
1059                 while ((!IsEmptyStr(node)) && (haschar(node, '!') > 1))
1060                         strcpy(node, &node[1]);
1061
1062                 /* now get rid of the user portion of a node!user string */
1063                 for (a = 0; node[a] != '\0'; ++a)
1064                         if (node[a] == '!') {
1065                                 node[a] = 0;
1066                                 break;
1067                         }
1068         }
1069
1070         /* strip leading and trailing spaces in all strings */
1071         striplt(user);
1072         striplt(node);
1073         striplt(name);
1074
1075         /* If we processed a string that had the address in angle brackets
1076          * but no name outside the brackets, we now have an empty name.  In
1077          * this case, use the user portion of the address as the name.
1078          */
1079         if ((IsEmptyStr(name)) && (!IsEmptyStr(user))) {
1080                 strcpy(name, user);
1081         }
1082 }
1083
1084
1085 /*
1086  * convert_field() is a helper function for convert_internet_message().
1087  * Given start/end positions for an rfc822 field, it converts it to a Citadel
1088  * field if it wants to, and unfolds it if necessary.
1089  *
1090  * Returns 1 if the field was converted and inserted into the Citadel message
1091  * structure, implying that the source field should be removed from the
1092  * message text.
1093  */
1094 int convert_field(struct CtdlMessage *msg, const char *beg, const char *end) {
1095         char *key, *value, *valueend;
1096         long len;
1097         const char *pos;
1098         int i;
1099         const char *colonpos = NULL;
1100         int processed = 0;
1101         char user[1024];
1102         char node[1024];
1103         char name[1024];
1104         char addr[1024];
1105         time_t parsed_date;
1106         long valuelen;
1107
1108         for (pos = end; pos >= beg; pos--) {
1109                 if (*pos == ':') colonpos = pos;
1110         }
1111
1112         if (colonpos == NULL) return(0);        /* no colon? not a valid header line */
1113
1114         len = end - beg;
1115         key = malloc(len + 2);
1116         memcpy(key, beg, len + 1);
1117         key[len] = '\0';
1118         valueend = key + len;
1119         * ( key + (colonpos - beg) ) = '\0';
1120         value = &key[(colonpos - beg) + 1];
1121 /*      printf("Header: [%s]\nValue: [%s]\n", key, value); */
1122         unfold_rfc822_field(&value, &valueend);
1123         valuelen = valueend - value + 1;
1124 /*      printf("UnfoldedValue: [%s]\n", value); */
1125
1126         /*
1127          * Here's the big rfc822-to-citadel loop.
1128          */
1129
1130         /* Date/time is converted into a unix timestamp.  If the conversion
1131          * fails, we replace it with the time the message arrived locally.
1132          */
1133         if (!strcasecmp(key, "Date")) {
1134                 parsed_date = parsedate(value);
1135                 if (parsed_date < 0L) parsed_date = time(NULL);
1136
1137                 if (CM_IsEmpty(msg, eTimestamp))
1138                         CM_SetFieldLONG(msg, eTimestamp, parsed_date);
1139                 processed = 1;
1140         }
1141
1142         else if (!strcasecmp(key, "From")) {
1143                 process_rfc822_addr(value, user, node, name);
1144                 syslog(LOG_DEBUG, "internet_addressing: converted to <%s@%s> (%s)", user, node, name);
1145                 snprintf(addr, sizeof(addr), "%s@%s", user, node);
1146                 if (CM_IsEmpty(msg, eAuthor) && !IsEmptyStr(name))
1147                         CM_SetField(msg, eAuthor, name, strlen(name));
1148                 if (CM_IsEmpty(msg, erFc822Addr) && !IsEmptyStr(addr))
1149                         CM_SetField(msg, erFc822Addr, addr, strlen(addr));
1150                 processed = 1;
1151         }
1152
1153         else if (!strcasecmp(key, "Subject")) {
1154                 if (CM_IsEmpty(msg, eMsgSubject))
1155                         CM_SetField(msg, eMsgSubject, value, valuelen);
1156                 processed = 1;
1157         }
1158
1159         else if (!strcasecmp(key, "List-ID")) {
1160                 if (CM_IsEmpty(msg, eListID))
1161                         CM_SetField(msg, eListID, value, valuelen);
1162                 processed = 1;
1163         }
1164
1165         else if (!strcasecmp(key, "To")) {
1166                 if (CM_IsEmpty(msg, eRecipient))
1167                         CM_SetField(msg, eRecipient, value, valuelen);
1168                 processed = 1;
1169         }
1170
1171         else if (!strcasecmp(key, "CC")) {
1172                 if (CM_IsEmpty(msg, eCarbonCopY))
1173                         CM_SetField(msg, eCarbonCopY, value, valuelen);
1174                 processed = 1;
1175         }
1176
1177         else if (!strcasecmp(key, "Message-ID")) {
1178                 if (!CM_IsEmpty(msg, emessageId)) {
1179                         syslog(LOG_WARNING, "internet_addressing: duplicate message id");
1180                 }
1181                 else {
1182                         char *pValue;
1183                         long pValueLen;
1184
1185                         pValue = value;
1186                         pValueLen = valuelen;
1187                         /* Strip angle brackets */
1188                         while (haschar(pValue, '<') > 0) {
1189                                 pValue ++;
1190                                 pValueLen --;
1191                         }
1192
1193                         for (i = 0; i <= pValueLen; ++i)
1194                                 if (pValue[i] == '>') {
1195                                         pValueLen = i;
1196                                         break;
1197                                 }
1198
1199                         CM_SetField(msg, emessageId, pValue, pValueLen);
1200                 }
1201
1202                 processed = 1;
1203         }
1204
1205         else if (!strcasecmp(key, "Return-Path")) {
1206                 if (CM_IsEmpty(msg, eMessagePath))
1207                         CM_SetField(msg, eMessagePath, value, valuelen);
1208                 processed = 1;
1209         }
1210
1211         else if (!strcasecmp(key, "Envelope-To")) {
1212                 if (CM_IsEmpty(msg, eenVelopeTo))
1213                         CM_SetField(msg, eenVelopeTo, value, valuelen);
1214                 processed = 1;
1215         }
1216
1217         else if (!strcasecmp(key, "References")) {
1218                 CM_SetField(msg, eWeferences, value, valuelen);
1219                 processed = 1;
1220         }
1221
1222         else if (!strcasecmp(key, "Reply-To")) {
1223                 CM_SetField(msg, eReplyTo, value, valuelen);
1224                 processed = 1;
1225         }
1226
1227         else if (!strcasecmp(key, "In-reply-to")) {
1228                 if (CM_IsEmpty(msg, eWeferences)) /* References: supersedes In-reply-to: */
1229                         CM_SetField(msg, eWeferences, value, valuelen);
1230                 processed = 1;
1231         }
1232
1233
1234
1235         /* Clean up and move on. */
1236         free(key);      /* Don't free 'value', it's actually the same buffer */
1237         return processed;
1238 }
1239
1240
1241 /*
1242  * Convert RFC822 references format (References) to Citadel references format (Weferences)
1243  */
1244 void convert_references_to_wefewences(char *str) {
1245         int bracket_nesting = 0;
1246         char *ptr = str;
1247         char *moveptr = NULL;
1248         char ch;
1249
1250         while(*ptr) {
1251                 ch = *ptr;
1252                 if (ch == '>') {
1253                         --bracket_nesting;
1254                         if (bracket_nesting < 0) bracket_nesting = 0;
1255                 }
1256                 if ((ch == '>') && (bracket_nesting == 0) && (*(ptr+1)) && (ptr>str) ) {
1257                         *ptr = '|';
1258                         ++ptr;
1259                 }
1260                 else if (bracket_nesting > 0) {
1261                         ++ptr;
1262                 }
1263                 else {
1264                         moveptr = ptr;
1265                         while (*moveptr) {
1266                                 *moveptr = *(moveptr+1);
1267                                 ++moveptr;
1268                         }
1269                 }
1270                 if (ch == '<') ++bracket_nesting;
1271         }
1272
1273 }
1274
1275
1276 /*
1277  * Convert an RFC822 message (headers + body) to a CtdlMessage structure.
1278  * NOTE: the supplied buffer becomes part of the CtdlMessage structure, and
1279  * will be deallocated when CM_Free() is called.  Therefore, the
1280  * supplied buffer should be DEREFERENCED.  It should not be freed or used
1281  * again.
1282  */
1283 struct CtdlMessage *convert_internet_message(char *rfc822) {
1284         StrBuf *RFCBuf = NewStrBufPlain(rfc822, -1);
1285         free (rfc822);
1286         return convert_internet_message_buf(&RFCBuf);
1287 }
1288
1289
1290 struct CtdlMessage *convert_internet_message_buf(StrBuf **rfc822)
1291 {
1292         struct CtdlMessage *msg;
1293         const char *pos, *beg, *end, *totalend;
1294         int done, alldone = 0;
1295         int converted;
1296         StrBuf *OtherHeaders;
1297
1298         msg = malloc(sizeof(struct CtdlMessage));
1299         if (msg == NULL) return msg;
1300
1301         memset(msg, 0, sizeof(struct CtdlMessage));
1302         msg->cm_magic = CTDLMESSAGE_MAGIC;      /* self check */
1303         msg->cm_anon_type = 0;                  /* never anonymous */
1304         msg->cm_format_type = FMT_RFC822;       /* internet message */
1305
1306         pos = ChrPtr(*rfc822);
1307         totalend = pos + StrLength(*rfc822);
1308         done = 0;
1309         OtherHeaders = NewStrBufPlain(NULL, StrLength(*rfc822));
1310
1311         while (!alldone) {
1312
1313                 /* Locate beginning and end of field, keeping in mind that
1314                  * some fields might be multiline
1315                  */
1316                 end = beg = pos;
1317
1318                 while ((end < totalend) &&
1319                        (end == beg) &&
1320                        (done == 0) )
1321                 {
1322
1323                         if ( (*pos=='\n') && ((*(pos+1))!=0x20) && ((*(pos+1))!=0x09) )
1324                         {
1325                                 end = pos;
1326                         }
1327
1328                         /* done with headers? */
1329                         if ((*pos=='\n') &&
1330                             ( (*(pos+1)=='\n') ||
1331                               (*(pos+1)=='\r')) )
1332                         {
1333                                 alldone = 1;
1334                         }
1335
1336                         if (pos >= (totalend - 1) )
1337                         {
1338                                 end = pos;
1339                                 done = 1;
1340                         }
1341
1342                         ++pos;
1343
1344                 }
1345
1346                 /* At this point we have a field.  Are we interested in it? */
1347                 converted = convert_field(msg, beg, end);
1348
1349                 /* Strip the field out of the RFC822 header if we used it */
1350                 if (!converted) {
1351                         StrBufAppendBufPlain(OtherHeaders, beg, end - beg, 0);
1352                         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1353                 }
1354
1355                 /* If we've hit the end of the message, bail out */
1356                 if (pos >= totalend)
1357                         alldone = 1;
1358         }
1359         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1360         if (pos < totalend)
1361                 StrBufAppendBufPlain(OtherHeaders, pos, totalend - pos, 0);
1362         FreeStrBuf(rfc822);
1363         CM_SetAsFieldSB(msg, eMesageText, &OtherHeaders);
1364
1365         /* Follow-up sanity checks... */
1366
1367         /* If there's no timestamp on this message, set it to now. */
1368         if (CM_IsEmpty(msg, eTimestamp)) {
1369                 CM_SetFieldLONG(msg, eTimestamp, time(NULL));
1370         }
1371
1372         /* If a W (references, or rather, Wefewences) field is present, we
1373          * have to convert it from RFC822 format to Citadel format.
1374          */
1375         if (!CM_IsEmpty(msg, eWeferences)) {
1376                 /// todo: API!
1377                 convert_references_to_wefewences(msg->cm_fields[eWeferences]);
1378         }
1379
1380         return msg;
1381 }
1382
1383
1384 /*
1385  * Look for a particular header field in an RFC822 message text.  If the
1386  * requested field is found, it is unfolded (if necessary) and returned to
1387  * the caller.  The field name is stripped out, leaving only its contents.
1388  * The caller is responsible for freeing the returned buffer.  If the requested
1389  * field is not present, or anything else goes wrong, it returns NULL.
1390  */
1391 char *rfc822_fetch_field(const char *rfc822, const char *fieldname) {
1392         char *fieldbuf = NULL;
1393         const char *end_of_headers;
1394         const char *field_start;
1395         const char *ptr;
1396         char *cont;
1397         char fieldhdr[SIZ];
1398
1399         /* Should never happen, but sometimes we get stupid */
1400         if (rfc822 == NULL) return(NULL);
1401         if (fieldname == NULL) return(NULL);
1402
1403         snprintf(fieldhdr, sizeof fieldhdr, "%s:", fieldname);
1404
1405         /* Locate the end of the headers, so we don't run past that point */
1406         end_of_headers = cbmstrcasestr(rfc822, "\n\r\n");
1407         if (end_of_headers == NULL) {
1408                 end_of_headers = cbmstrcasestr(rfc822, "\n\n");
1409         }
1410         if (end_of_headers == NULL) return (NULL);
1411
1412         field_start = cbmstrcasestr(rfc822, fieldhdr);
1413         if (field_start == NULL) return(NULL);
1414         if (field_start > end_of_headers) return(NULL);
1415
1416         fieldbuf = malloc(SIZ);
1417         strcpy(fieldbuf, "");
1418
1419         ptr = field_start;
1420         ptr = cmemreadline(ptr, fieldbuf, SIZ-strlen(fieldbuf) );
1421         while ( (isspace(ptr[0])) && (ptr < end_of_headers) ) {
1422                 strcat(fieldbuf, " ");
1423                 cont = &fieldbuf[strlen(fieldbuf)];
1424                 ptr = cmemreadline(ptr, cont, SIZ-strlen(fieldbuf) );
1425                 striplt(cont);
1426         }
1427
1428         strcpy(fieldbuf, &fieldbuf[strlen(fieldhdr)]);
1429         striplt(fieldbuf);
1430
1431         return(fieldbuf);
1432 }
1433
1434
1435 /*****************************************************************************
1436  *                      DIRECTORY MANAGEMENT FUNCTIONS                       *
1437  *****************************************************************************/
1438
1439 /*
1440  * Generate the index key for an Internet e-mail address to be looked up
1441  * in the database.
1442  */
1443 void directory_key(char *key, char *addr) {
1444         int i;
1445         int keylen = 0;
1446
1447         for (i=0; !IsEmptyStr(&addr[i]); ++i) {
1448                 if (!isspace(addr[i])) {
1449                         key[keylen++] = tolower(addr[i]);
1450                 }
1451         }
1452         key[keylen++] = 0;
1453
1454         syslog(LOG_DEBUG, "internet_addressing: directory key is <%s>", key);
1455 }
1456
1457
1458 /* Return nonzero if the supplied address is in one of "our" domains
1459  */
1460 int IsDirectory(char *addr, int allow_masq_domains) {
1461         char domain[256];
1462         int h;
1463
1464         extract_token(domain, addr, 1, '@', sizeof domain);
1465         striplt(domain);
1466
1467         h = CtdlHostAlias(domain);
1468
1469         if ( (h == hostalias_masq) && allow_masq_domains)
1470                 return(1);
1471
1472         if (h == hostalias_localhost) {
1473                 return(1);
1474         }
1475         else {
1476                 return(0);
1477         }
1478 }
1479
1480
1481 /*
1482  * Add an Internet e-mail address to the directory for a user
1483  */
1484 int CtdlDirectoryAddUser(char *internet_addr, char *citadel_addr) {
1485         char key[SIZ];
1486
1487         if (IsDirectory(internet_addr, 0) == 0) {
1488                 return 0;
1489         }
1490         syslog(LOG_DEBUG, "internet_addressing: create directory entry: %s --> %s", internet_addr, citadel_addr);
1491         directory_key(key, internet_addr);
1492         cdb_store(CDB_DIRECTORY, key, strlen(key), citadel_addr, strlen(citadel_addr)+1 );
1493         return 1;
1494 }
1495
1496
1497 /*
1498  * Delete an Internet e-mail address from the directory.
1499  *
1500  * (NOTE: we don't actually use or need the citadel_addr variable; it's merely
1501  * here because the callback API expects to be able to send it.)
1502  */
1503 int CtdlDirectoryDelUser(char *internet_addr, char *citadel_addr) {
1504         char key[SIZ];
1505
1506         syslog(LOG_DEBUG, "internet_addressing: delete directory entry: %s --> %s", internet_addr, citadel_addr);
1507         directory_key(key, internet_addr);
1508         return cdb_delete(CDB_DIRECTORY, key, strlen(key) ) == 0;
1509 }
1510
1511
1512 /*
1513  * Look up an Internet e-mail address in the directory.
1514  * On success: returns 0, and Citadel address stored in 'target'
1515  * On failure: returns nonzero
1516  */
1517 int CtdlDirectoryLookup(char *target, char *internet_addr, size_t targbuflen) {
1518         struct cdbdata *cdbrec;
1519         char key[SIZ];
1520
1521         /* Dump it in there unchanged, just for kicks */
1522         safestrncpy(target, internet_addr, targbuflen);
1523
1524         /* Only do lookups for addresses with hostnames in them */
1525         if (num_tokens(internet_addr, '@') != 2) return(-1);
1526
1527         /* Only do lookups for domains in the directory */
1528         if (IsDirectory(internet_addr, 0) == 0) return(-1);
1529
1530         directory_key(key, internet_addr);
1531         cdbrec = cdb_fetch(CDB_DIRECTORY, key, strlen(key) );
1532         if (cdbrec != NULL) {
1533                 safestrncpy(target, cdbrec->ptr, targbuflen);
1534                 cdb_free(cdbrec);
1535                 return(0);
1536         }
1537
1538         return(-1);
1539 }
1540
1541
1542 /*
1543  * Harvest any email addresses that someone might want to have in their
1544  * "collected addresses" book.
1545  */
1546 char *harvest_collected_addresses(struct CtdlMessage *msg) {
1547         char *coll = NULL;
1548         char addr[256];
1549         char user[256], node[256], name[256];
1550         int is_harvestable;
1551         int i, j, h;
1552         eMsgField field = 0;
1553
1554         if (msg == NULL) return(NULL);
1555
1556         is_harvestable = 1;
1557         strcpy(addr, "");
1558         if (!CM_IsEmpty(msg, eAuthor)) {
1559                 strcat(addr, msg->cm_fields[eAuthor]);
1560         }
1561         if (!CM_IsEmpty(msg, erFc822Addr)) {
1562                 strcat(addr, " <");
1563                 strcat(addr, msg->cm_fields[erFc822Addr]);
1564                 strcat(addr, ">");
1565                 if (IsDirectory(msg->cm_fields[erFc822Addr], 0)) {
1566                         is_harvestable = 0;
1567                 }
1568         }
1569
1570         if (is_harvestable) {
1571                 coll = strdup(addr);
1572         }
1573         else {
1574                 coll = strdup("");
1575         }
1576
1577         if (coll == NULL) return(NULL);
1578
1579         /* Scan both the R (To) and Y (CC) fields */
1580         for (i = 0; i < 2; ++i) {
1581                 if (i == 0) field = eRecipient;
1582                 if (i == 1) field = eCarbonCopY;
1583
1584                 if (!CM_IsEmpty(msg, field)) {
1585                         for (j=0; j<num_tokens(msg->cm_fields[field], ','); ++j) {
1586                                 extract_token(addr, msg->cm_fields[field], j, ',', sizeof addr);
1587                                 if (strstr(addr, "=?") != NULL)
1588                                         utf8ify_rfc822_string(addr);
1589                                 process_rfc822_addr(addr, user, node, name);
1590                                 h = CtdlHostAlias(node);
1591                                 if (h != hostalias_localhost) {
1592                                         coll = realloc(coll, strlen(coll) + strlen(addr) + 4);
1593                                         if (coll == NULL) return(NULL);
1594                                         if (!IsEmptyStr(coll)) {
1595                                                 strcat(coll, ",");
1596                                         }
1597                                         striplt(addr);
1598                                         strcat(coll, addr);
1599                                 }
1600                         }
1601                 }
1602         }
1603
1604         if (IsEmptyStr(coll)) {
1605                 free(coll);
1606                 return(NULL);
1607         }
1608         return(coll);
1609 }
1610
1611
1612 /*
1613  * Helper function for CtdlRebuildDirectoryIndex()
1614  *
1615  * Call this function as a ForEachUser backend in order to queue up
1616  * user names, or call it with a null user to make it do the processing.
1617  * This allows us to maintain the list as a static instead of passing
1618  * pointers around.
1619  */
1620 void CtdlRebuildDirectoryIndex_backend(struct ctdluser *usbuf, void *data) {
1621
1622         struct crdib {
1623                 char name[64];
1624                 char emails[512];
1625         };
1626
1627         static struct crdib *e = NULL;
1628         static int num_e = 0;
1629         static int alloc_e = 0;
1630
1631         /* this is the calling mode where we add a user */
1632
1633         if (usbuf != NULL) {
1634                 if (num_e >= alloc_e) {
1635                         if (alloc_e == 0) {
1636                                 alloc_e = 100;
1637                                 e = malloc(sizeof(struct crdib) * alloc_e);
1638                         }
1639                         else {
1640                                 alloc_e *= 2;
1641                                 e = realloc(e, (sizeof(struct crdib) * alloc_e));
1642                         }
1643                 }
1644                 strcpy(e[num_e].name, usbuf->fullname);
1645                 strcpy(e[num_e].emails, usbuf->emailaddrs);
1646                 ++num_e;
1647                 return;
1648         }
1649
1650         /* this is the calling mode where we do the processing */
1651
1652         int i, j;
1653         for (i=0; i<num_e; ++i) {
1654                 if ( (!IsEmptyStr(e[i].name)) && (!IsEmptyStr(e[i].emails)) ) {
1655                         for (j=0; j<num_tokens(e[i].emails, '|'); ++j) {
1656                                 char one_email[512];
1657                                 extract_token(one_email, e[i].emails, j, '|', sizeof one_email);
1658                                 CtdlDirectoryAddUser(one_email, e[i].name);
1659                         }
1660                 }
1661         }
1662         free(e);
1663         num_e = 0;
1664         alloc_e = 0;
1665         return;
1666 }
1667
1668
1669 /*
1670  * Initialize the directory database (erasing anything already there)
1671  */
1672 void CtdlRebuildDirectoryIndex(void) {
1673         syslog(LOG_INFO, "internet_addressing: rebuilding email address directory index");
1674         cdb_trunc(CDB_DIRECTORY);
1675         ForEachUser(CtdlRebuildDirectoryIndex_backend, NULL);
1676         CtdlRebuildDirectoryIndex_backend(NULL, NULL);
1677 }
1678
1679
1680 /*
1681  * Configure Internet email addresses for a user account, updating the Directory Index in the process
1682  */
1683 void CtdlSetEmailAddressesForUser(char *requested_user, char *new_emailaddrs)
1684 {
1685         struct ctdluser usbuf;
1686         int i;
1687         char buf[SIZ];
1688
1689         if (CtdlGetUserLock(&usbuf, requested_user) != 0) {     // We are relying on the fact that the DirectoryIndex functions don't lock.
1690                 return;                                         // Silently fail here if we can't acquire a lock on the user record.
1691         }
1692
1693         syslog(LOG_DEBUG, "internet_addressing: setting email addresses for <%s> to <%s>", usbuf.fullname, new_emailaddrs);
1694
1695         /* Delete all of the existing directory index records for the user (easier this way) */
1696         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1697                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1698                 CtdlDirectoryDelUser(buf, requested_user);
1699         }
1700
1701         strcpy(usbuf.emailaddrs, new_emailaddrs);               // make it official.
1702
1703         /* Index all of the new email addresses (they've already been sanitized) */
1704         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1705                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1706                 CtdlDirectoryAddUser(buf, requested_user);
1707         }
1708
1709         CtdlPutUserLock(&usbuf);
1710 }
1711
1712
1713 /*
1714  * Auto-generate an Internet email address for a user account
1715  */
1716 void AutoGenerateEmailAddressForUser(struct ctdluser *user)
1717 {
1718         char synthetic_email_addr[1024];
1719         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08lx@%s", user->usernum, CtdlGetConfigStr("c_fqdn"));
1720         CtdlSetEmailAddressesForUser(user->fullname, synthetic_email_addr);
1721         strncpy(CC->user.emailaddrs, synthetic_email_addr, sizeof(user->emailaddrs));
1722         syslog(LOG_DEBUG, "user_ops: auto-generated email address <%s> for <%s>", synthetic_email_addr, user->fullname);
1723 }