validate_recipients() now strips out duplicate recipients ... probably some 15 years...
[citadel.git] / citadel / internet_addressing.c
1 // This file contains functions which handle the mapping of Internet addresses
2 // to users on the Citadel system.
3 //
4 // Copyright (c) 1987-2021 by the citadel.org team
5 //
6 // This program is open source software; you can redistribute it and/or modify
7 // it under the terms of the GNU General Public License version 3.
8 //
9 // This program is distributed in the hope that it will be useful,
10 // but WITHOUT ANY WARRANTY; without even the implied warranty of
11 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12 // GNU General Public License for more details.
13
14 #include "sysdep.h"
15 #include <stdlib.h>
16 #include <unistd.h>
17 #include <stdio.h>
18 #include <fcntl.h>
19 #include <ctype.h>
20 #include <signal.h>
21 #include <pwd.h>
22 #include <errno.h>
23 #include <sys/types.h>
24 #include <time.h>
25 #include <sys/wait.h>
26 #include <string.h>
27 #include <limits.h>
28 #include <libcitadel.h>
29 #include "citadel.h"
30 #include "server.h"
31 #include "sysdep_decls.h"
32 #include "citserver.h"
33 #include "support.h"
34 #include "config.h"
35 #include "msgbase.h"
36 #include "internet_addressing.h"
37 #include "user_ops.h"
38 #include "room_ops.h"
39 #include "parsedate.h"
40 #include "database.h"
41 #include "ctdl_module.h"
42 #ifdef HAVE_ICONV
43 #include <iconv.h>
44
45 // This is the non-define version in case it is needed for debugging
46 #if 0
47 inline void FindNextEnd (char *bptr, char *end)
48 {
49         /* Find the next ?Q? */
50         end = strchr(bptr + 2, '?');
51         if (end == NULL) return NULL;
52         if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && 
53             (*(end + 2) == '?')) {
54                 /* skip on to the end of the cluster, the next ?= */
55                 end = strstr(end + 3, "?=");
56         }
57         else
58                 /* sort of half valid encoding, try to find an end. */
59                 end = strstr(bptr, "?=");
60 }
61 #endif
62
63 #define FindNextEnd(bptr, end) { \
64         end = strchr(bptr + 2, '?'); \
65         if (end != NULL) { \
66                 if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && (*(end + 2) == '?')) { \
67                         end = strstr(end + 3, "?="); \
68                 } else end = strstr(bptr, "?="); \
69         } \
70 }
71
72 // Handle subjects with RFC2047 encoding such as:
73 // =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
74 void utf8ify_rfc822_string(char *buf) {
75         char *start, *end, *next, *nextend, *ptr;
76         char newbuf[1024];
77         char charset[128];
78         char encoding[16];
79         char istr[1024];
80         iconv_t ic = (iconv_t)(-1) ;
81         char *ibuf;                     // Buffer of characters to be converted
82         char *obuf;                     // Buffer for converted characters
83         size_t ibuflen;                 // Length of input buffer
84         size_t obuflen;                 // Length of output buffer
85         char *isav;                     // Saved pointer to input buffer
86         char *osav;                     // Saved pointer to output buffer
87         int passes = 0;
88         int i, len, delta;
89         int illegal_non_rfc2047_encoding = 0;
90
91         // Sometimes, badly formed messages contain strings which were simply
92         // written out directly in some foreign character set instead of
93         // using RFC2047 encoding.  This is illegal but we will attempt to
94         // handle it anyway by converting from a user-specified default
95         // charset to UTF-8 if we see any nonprintable characters.
96         len = strlen(buf);
97         for (i=0; i<len; ++i) {
98                 if ((buf[i] < 32) || (buf[i] > 126)) {
99                         illegal_non_rfc2047_encoding = 1;
100                         i = len;        // take a shortcut, it won't be more than one.
101                 }
102         }
103         if (illegal_non_rfc2047_encoding) {
104                 const char *default_header_charset = "iso-8859-1";
105                 if ( (strcasecmp(default_header_charset, "UTF-8")) && (strcasecmp(default_header_charset, "us-ascii")) ) {
106                         ctdl_iconv_open("UTF-8", default_header_charset, &ic);
107                         if (ic != (iconv_t)(-1) ) {
108                                 ibuf = malloc(1024);
109                                 isav = ibuf;
110                                 safestrncpy(ibuf, buf, 1024);
111                                 ibuflen = strlen(ibuf);
112                                 obuflen = 1024;
113                                 obuf = (char *) malloc(obuflen);
114                                 osav = obuf;
115                                 iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
116                                 osav[1024-obuflen] = 0;
117                                 strcpy(buf, osav);
118                                 free(osav);
119                                 iconv_close(ic);
120                                 free(isav);
121                         }
122                 }
123         }
124
125         // pre evaluate the first pair
126         nextend = end = NULL;
127         len = strlen(buf);
128         start = strstr(buf, "=?");
129         if (start != NULL) 
130                 FindNextEnd (start, end);
131
132         while ((start != NULL) && (end != NULL)) {
133                 next = strstr(end, "=?");
134                 if (next != NULL)
135                         FindNextEnd(next, nextend);
136                 if (nextend == NULL)
137                         next = NULL;
138
139                 // did we find two partitions
140                 if ((next != NULL) && ((next - end) > 2)) {
141                         ptr = end + 2;
142                         while ((ptr < next) && 
143                                (isspace(*ptr) ||
144                                 (*ptr == '\r') ||
145                                 (*ptr == '\n') || 
146                                 (*ptr == '\t')))
147                                 ptr ++;
148                         // did we find a gab just filled with blanks?
149                         if (ptr == next) {
150                                 memmove(end + 2, next, len - (next - start));
151
152                                 // now terminate the gab at the end
153                                 delta = (next - end) - 2;
154                                 len -= delta;
155                                 buf[len] = '\0';
156
157                                 // move next to its new location.
158                                 next -= delta;
159                                 nextend -= delta;
160                         }
161                 }
162                 // our next-pair is our new first pair now.
163                 start = next;
164                 end = nextend;
165         }
166
167         // Now we handle foreign character sets properly encoded in RFC2047 format.
168         start = strstr(buf, "=?");
169         FindNextEnd((start != NULL)? start : buf, end);
170         while (start != NULL && end != NULL && end > start) {
171                 extract_token(charset, start, 1, '?', sizeof charset);
172                 extract_token(encoding, start, 2, '?', sizeof encoding);
173                 extract_token(istr, start, 3, '?', sizeof istr);
174
175                 ibuf = malloc(1024);
176                 isav = ibuf;
177                 if (!strcasecmp(encoding, "B")) {       // base64
178                         ibuflen = CtdlDecodeBase64(ibuf, istr, strlen(istr));
179                 }
180                 else if (!strcasecmp(encoding, "Q")) {  // quoted-printable
181                         size_t len;
182                         unsigned long pos;
183                         
184                         len = strlen(istr);
185                         pos = 0;
186                         while (pos < len) {
187                                 if (istr[pos] == '_') istr[pos] = ' ';
188                                 pos++;
189                         }
190                         ibuflen = CtdlDecodeQuotedPrintable(ibuf, istr, len);
191                 }
192                 else {
193                         strcpy(ibuf, istr);             // unknown encoding
194                         ibuflen = strlen(istr);
195                 }
196
197                 ctdl_iconv_open("UTF-8", charset, &ic);
198                 if (ic != (iconv_t)(-1) ) {
199                         obuflen = 1024;
200                         obuf = (char *) malloc(obuflen);
201                         osav = obuf;
202                         iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
203                         osav[1024-obuflen] = 0;
204
205                         end = start;
206                         end++;
207                         strcpy(start, "");
208                         remove_token(end, 0, '?');
209                         remove_token(end, 0, '?');
210                         remove_token(end, 0, '?');
211                         remove_token(end, 0, '?');
212                         strcpy(end, &end[1]);
213
214                         snprintf(newbuf, sizeof newbuf, "%s%s%s", buf, osav, end);
215                         strcpy(buf, newbuf);
216                         free(osav);
217                         iconv_close(ic);
218                 }
219                 else {
220                         end = start;
221                         end++;
222                         strcpy(start, "");
223                         remove_token(end, 0, '?');
224                         remove_token(end, 0, '?');
225                         remove_token(end, 0, '?');
226                         remove_token(end, 0, '?');
227                         strcpy(end, &end[1]);
228
229                         snprintf(newbuf, sizeof newbuf, "%s(unreadable)%s", buf, end);
230                         strcpy(buf, newbuf);
231                 }
232
233                 free(isav);
234
235                 // Since spammers will go to all sorts of absurd lengths to get their
236                 // messages through, there are LOTS of corrupt headers out there.
237                 // So, prevent a really badly formed RFC2047 header from throwing
238                 // this function into an infinite loop.
239                 ++passes;
240                 if (passes > 20) return;
241
242                 start = strstr(buf, "=?");
243                 FindNextEnd((start != NULL)? start : buf, end);
244         }
245
246 }
247 #else
248 inline void utf8ify_rfc822_string(char *a){};
249
250 #endif
251
252
253 char *inetcfg = NULL;
254
255 // Return nonzero if the supplied name is an alias for this host.
256 int CtdlHostAlias(char *fqdn) {
257         int config_lines;
258         int i;
259         char buf[256];
260         char host[256], type[256];
261         int found = 0;
262
263         if (fqdn == NULL)                                       return(hostalias_nomatch);
264         if (IsEmptyStr(fqdn))                                   return(hostalias_nomatch);
265         if (!strcasecmp(fqdn, "localhost"))                     return(hostalias_localhost);
266         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_fqdn")))      return(hostalias_localhost);
267         if (!strcasecmp(fqdn, CtdlGetConfigStr("c_nodename")))  return(hostalias_localhost);
268         if (inetcfg == NULL)                                    return(hostalias_nomatch);
269
270         config_lines = num_tokens(inetcfg, '\n');
271         for (i=0; i<config_lines; ++i) {
272                 extract_token(buf, inetcfg, i, '\n', sizeof buf);
273                 extract_token(host, buf, 0, '|', sizeof host);
274                 extract_token(type, buf, 1, '|', sizeof type);
275
276                 found = 0;
277
278                 // Process these in a specific order, in case there are multiple matches.
279                 // We want localhost to override masq, for example.
280
281                 if ( (!strcasecmp(type, "masqdomain")) && (!strcasecmp(fqdn, host))) {
282                         found = hostalias_masq;
283                 }
284
285                 if ( (!strcasecmp(type, "localhost")) && (!strcasecmp(fqdn, host))) {
286                         found = hostalias_localhost;
287                 }
288
289                 // "directory" used to be a distributed version of "localhost" but they're both the same now
290                 if ( (!strcasecmp(type, "directory")) && (!strcasecmp(fqdn, host))) {
291                         found = hostalias_localhost;
292                 }
293
294                 if (found) return(found);
295         }
296         return(hostalias_nomatch);
297 }
298
299
300 // Determine whether a given Internet address belongs to the current user
301 int CtdlIsMe(char *addr, int addr_buf_len) {
302         struct recptypes *recp;
303         int i;
304
305         recp = validate_recipients(addr, NULL, 0);
306         if (recp == NULL) return(0);
307
308         if (recp->num_local == 0) {
309                 free_recipients(recp);
310                 return(0);
311         }
312
313         for (i=0; i<recp->num_local; ++i) {
314                 extract_token(addr, recp->recp_local, i, '|', addr_buf_len);
315                 if (!strcasecmp(addr, CC->user.fullname)) {
316                         free_recipients(recp);
317                         return(1);
318                 }
319         }
320
321         free_recipients(recp);
322         return(0);
323 }
324
325
326 // If the last item in a list of recipients was truncated to a partial address,
327 // remove it completely in order to avoid choking library functions.
328 void sanitize_truncated_recipient(char *str)
329 {
330         if (!str) return;
331         if (num_tokens(str, ',') < 2) return;
332
333         int len = strlen(str);
334         if (len < 900) return;
335         if (len > 998) str[998] = 0;
336
337         char *cptr = strrchr(str, ',');
338         if (!cptr) return;
339
340         char *lptr = strchr(cptr, '<');
341         char *rptr = strchr(cptr, '>');
342
343         if ( (lptr) && (rptr) && (rptr > lptr) ) return;
344
345         *cptr = 0;
346 }
347
348
349 // This function is self explanatory.
350 // (What can I say, I'm in a weird mood today...)
351 void remove_any_whitespace_to_the_left_or_right_of_at_symbol(char *name) {
352         char *ptr;
353         if (!name) return;
354
355         for (ptr=name; *ptr; ++ptr) {
356                 while ( (isspace(*ptr)) && (*(ptr+1)=='@') ) {
357                         strcpy(ptr, ptr+1);
358                         if (ptr > name) --ptr;
359                 }
360                 while ( (*ptr=='@') && (*(ptr+1)!=0) && (isspace(*(ptr+1))) ) {
361                         strcpy(ptr+1, ptr+2);
362                 }
363         }
364 }
365
366
367 // values that can be returned by expand_aliases()
368 enum {
369         EA_ERROR,               // Can't send message due to bad address
370         EA_MULTIPLE,            // Alias expanded into multiple recipients -- run me again!
371         EA_LOCAL,               // Local message, do no network processing
372         EA_INTERNET,            // Convert msg and send as Internet mail
373         EA_SKIP                 // This recipient has been invalidated -- skip it!
374 };
375
376
377 // Process alias and routing info for email addresses
378 int expand_aliases(char *name, char *aliases) {
379         int a;
380         char aaa[SIZ];
381         int at = 0;
382
383         if (aliases) {
384                 int num_aliases = num_tokens(aliases, '\n');
385                 for (a=0; a<num_aliases; ++a) {
386                         extract_token(aaa, aliases, a, '\n', sizeof aaa);
387                         char *bar = strchr(aaa, '|');
388                         if (bar) {
389                                 bar[0] = 0;
390                                 ++bar;
391                                 striplt(aaa);
392                                 striplt(bar);
393                                 if ( (!IsEmptyStr(aaa)) && (!strcasecmp(name, aaa)) ) {
394                                         syslog(LOG_DEBUG, "internet_addressing: global alias <%s> to <%s>", name, bar);
395                                         strcpy(name, bar);
396                                 }
397                         }
398                 }
399                 if (strchr(name, ',')) {
400                         return(EA_MULTIPLE);
401                 }
402         }
403
404         char original_name[256];                                // Now go for the regular aliases
405         safestrncpy(original_name, name, sizeof original_name);
406
407         // should these checks still be here, or maybe move them to split_recps() ?
408         striplt(name);
409         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
410         stripallbut(name, '<', '>');
411
412         // Hit the email address directory
413         if (CtdlDirectoryLookup(aaa, name, sizeof aaa) == 0) {
414                 strcpy(name, aaa);
415         }
416
417         if (strcasecmp(original_name, name)) {
418                 syslog(LOG_INFO, "internet_addressing: directory alias <%s> to <%s>", original_name, name);
419         }
420
421         // Change "user @ xxx" to "user" if xxx is an alias for this host
422         for (a=0; name[a] != '\0'; ++a) {
423                 if (name[a] == '@') {
424                         if (CtdlHostAlias(&name[a+1]) == hostalias_localhost) {
425                                 name[a] = 0;
426                                 syslog(LOG_DEBUG, "internet_addressing: host is local, recipient is <%s>", name);
427                                 break;
428                         }
429                 }
430         }
431
432         // Is this a local or remote recipient?
433         at = haschar(name, '@');
434         if (at == 0) {
435                 return(EA_LOCAL);                       // no @'s = local address
436         }
437         else if (at == 1) {
438                 return(EA_INTERNET);                    // one @ = internet address
439         }
440         else {
441                 return(EA_ERROR);                       // more than one @ = badly formed address
442         }
443 }
444
445
446 // Return a supplied list of email addresses as an array, removing superfluous information and syntax.
447 // If an existing Array is supplied as "append_to" it will do so; otherwise a new Array is allocated.
448 Array *split_recps(char *addresses, Array *append_to) {
449
450         if (IsEmptyStr(addresses)) {            // nothing supplied, nothing returned
451                 return(NULL);
452         }
453
454         // Copy the supplied address list into our own memory space, because we are going to modify it.
455         char *a = strdup(addresses);
456         if (a == NULL) {
457                 syslog(LOG_ERR, "internet_addressing: malloc() failed: %m");
458                 return(NULL);
459         }
460
461         // Strip out anything in double quotes
462         char *l = NULL;
463         char *r = NULL;
464         do {
465                 l = strchr(a, '\"');
466                 r = strrchr(a, '\"');
467                 if (r > l) {
468                         strcpy(l, r+1);
469                 }
470         } while (r > l);
471
472         // Transform all qualifying delimiters to commas
473         for (char *t=a; t[0]; ++t) {
474                 if ((t[0]==';') || (t[0]=='|')) {
475                         t[0]=',';
476                 }
477         }
478
479         // Tokenize the recipients into an array.  No single recipient should be larger than 256 bytes.
480         Array *recipients_array = NULL;
481         if (append_to) {
482                 recipients_array = append_to;                   // Append to an existing array of recipients
483         }
484         else {
485                 recipients_array = array_new(256);              // This is a new array of recipients
486         }
487
488         int num_addresses = num_tokens(a, ',');
489         for (int i=0; i<num_addresses; ++i) {
490                 char this_address[256];
491                 extract_token(this_address, a, i, ',', sizeof this_address);
492                 striplt(this_address);                          // strip leading and trailing whitespace
493                 stripout(this_address, '(', ')');               // remove any portion in parentheses
494                 stripallbut(this_address, '<', '>');            // if angle brackets are present, keep only what is inside them
495                 if (!IsEmptyStr(this_address)) {
496                         array_append(recipients_array, this_address);
497                 }
498         }
499
500         free(a);                                                // We don't need this buffer anymore.
501         return(recipients_array);                               // Return the completed array to the caller.
502 }
503
504
505 // Validate recipients, count delivery types and errors, and handle aliasing
506 //
507 // Returns 0 if all addresses are ok, ret->num_error = -1 if no addresses 
508 // were specified, or the number of addresses found invalid.
509 //
510 // Caller needs to free the result using free_recipients()
511 //
512 struct recptypes *validate_recipients(char *supplied_recipients, const char *RemoteIdentifier, int Flags) {
513         struct recptypes *ret;
514         char *recipients = NULL;
515         char append[SIZ];
516         long len;
517         int mailtype;
518         int invalid;
519         struct ctdluser tempUS;
520         struct ctdlroom original_room;
521         int err = 0;
522         char errmsg[SIZ];
523         char *org_recp;
524         char this_recp[256];
525
526         ret = (struct recptypes *) malloc(sizeof(struct recptypes));                    // Initialize
527         if (ret == NULL) return(NULL);
528         memset(ret, 0, sizeof(struct recptypes));                                       // set all values to null/zero
529
530         if (supplied_recipients == NULL) {
531                 recipients = strdup("");
532         }
533         else {
534                 recipients = strdup(supplied_recipients);
535         }
536
537         len = strlen(recipients) + 1024;                                                // allocate memory
538         ret->errormsg = malloc(len);
539         ret->recp_local = malloc(len);
540         ret->recp_internet = malloc(len);
541         ret->recp_room = malloc(len);
542         ret->display_recp = malloc(len);
543         ret->recp_orgroom = malloc(len);
544
545         ret->errormsg[0] = 0;
546         ret->recp_local[0] = 0;
547         ret->recp_internet[0] = 0;
548         ret->recp_room[0] = 0;
549         ret->recp_orgroom[0] = 0;
550         ret->display_recp[0] = 0;
551         ret->recptypes_magic = RECPTYPES_MAGIC;
552
553         Array *recp_array = split_recps(supplied_recipients, NULL);
554
555         char *aliases = CtdlGetSysConfig(GLOBAL_ALIASES);                               // First hit the Global Alias Table
556
557         for (int r=0; (recp_array && r<array_len(recp_array)); ++r) {
558                 org_recp = (char *)array_get_element_at(recp_array, r);
559                 strncpy(this_recp, org_recp, sizeof this_recp);
560
561                 for (int i=0; i<3; ++i) {                                               // pass three times through the aliaser
562                         mailtype = expand_aliases(this_recp, aliases);
563         
564                         // If an alias expanded to multiple recipients, strip off those recipients and append them
565                         // to the end of the array.  This loop will hit those again when it gets there.
566                         if (mailtype == EA_MULTIPLE) {
567                                 recp_array = split_recps(this_recp, recp_array);
568                         }
569                 }
570
571                 for (int j=0; j<r; ++j) {
572                         if (!strcasecmp(this_recp , (char *)array_get_element_at(recp_array, j) )) {
573                                 mailtype = EA_SKIP;
574                         }
575                 }
576                 syslog(LOG_DEBUG, "Recipient #%d of type %d is <%s>", r, mailtype, this_recp);
577
578                 invalid = 0;
579                 errmsg[0] = 0;
580                 switch(mailtype) {
581                 case EA_LOCAL:                                  // There are several types of "local" recipients.
582
583                         // Old BBS conventions require mail to "sysop" to go somewhere.  Send it to the admin room.
584                         if (!strcasecmp(this_recp, "sysop")) {
585                                 ++ret->num_room;
586                                 strcpy(this_recp, CtdlGetConfigStr("c_aideroom"));
587                                 if (!IsEmptyStr(ret->recp_room)) {
588                                         strcat(ret->recp_room, "|");
589                                 }
590                                 strcat(ret->recp_room, this_recp);
591                         }
592
593                         // This handles rooms which can receive posts via email.
594                         else if (!strncasecmp(this_recp, "room_", 5)) {
595                                 original_room = CC->room;                               // Remember where we parked
596
597                                 char mail_to_room[ROOMNAMELEN];
598                                 char *m;
599                                 strncpy(mail_to_room, &this_recp[5], sizeof mail_to_room);
600                                 for (m = mail_to_room; *m; ++m) {
601                                         if (m[0] == '_') m[0]=' ';
602                                 }
603                                 if (!CtdlGetRoom(&CC->room, mail_to_room)) {            // Find the room they asked for
604
605                                         err = CtdlDoIHavePermissionToPostInThisRoom(    // check for write permissions to room
606                                                 errmsg, 
607                                                 sizeof errmsg, 
608                                                 RemoteIdentifier,
609                                                 Flags,
610                                                 0                                       // 0 means "this is not a reply"
611                                         );
612                                         if (err) {
613                                                 ++ret->num_error;
614                                                 invalid = 1;
615                                         } 
616                                         else {
617                                                 ++ret->num_room;
618                                                 if (!IsEmptyStr(ret->recp_room)) {
619                                                         strcat(ret->recp_room, "|");
620                                                 }
621                                                 strcat(ret->recp_room, &this_recp[5]);
622         
623                                                 if (!IsEmptyStr(ret->recp_orgroom)) {
624                                                         strcat(ret->recp_orgroom, "|");
625                                                 }
626                                                 strcat(ret->recp_orgroom, org_recp);
627         
628                                         }
629                                 }
630                                 else {                                                  // no such room exists
631                                         ++ret->num_error;
632                                         invalid = 1;
633                                 }
634                                                 
635                                 // Restore this session's original room location.
636                                 CC->room = original_room;
637
638                         }
639
640                         // This handles the most common case, which is mail to a user's inbox.
641                         else if (CtdlGetUser(&tempUS, this_recp) == 0) {
642                                 ++ret->num_local;
643                                 strcpy(this_recp, tempUS.fullname);
644                                 if (!IsEmptyStr(ret->recp_local)) {
645                                         strcat(ret->recp_local, "|");
646                                 }
647                                 strcat(ret->recp_local, this_recp);
648                         }
649
650                         // No match for this recipient
651                         else {
652                                 ++ret->num_error;
653                                 invalid = 1;
654                         }
655                         break;
656                 case EA_INTERNET:
657                         // Yes, you're reading this correctly: if the target domain points back to the local system,
658                         // the address is invalid.  That's because if the address were valid, we would have
659                         // already translated it to a local address by now.
660                         if (IsDirectory(this_recp, 0)) {
661                                 ++ret->num_error;
662                                 invalid = 1;
663                         }
664                         else {
665                                 ++ret->num_internet;
666                                 if (!IsEmptyStr(ret->recp_internet)) {
667                                         strcat(ret->recp_internet, "|");
668                                 }
669                                 strcat(ret->recp_internet, this_recp);
670                         }
671                         break;
672                 case EA_MULTIPLE:
673                 case EA_SKIP:
674                         // no action required, anything in this slot has already been processed elsewhere
675                         break;
676                 case EA_ERROR:
677                         ++ret->num_error;
678                         invalid = 1;
679                         break;
680                 }
681                 if (invalid) {
682                         if (IsEmptyStr(errmsg)) {
683                                 snprintf(append, sizeof append, "Invalid recipient: %s", this_recp);
684                         }
685                         else {
686                                 snprintf(append, sizeof append, "%s", errmsg);
687                         }
688                         if ( (strlen(ret->errormsg) + strlen(append) + 3) < SIZ) {
689                                 if (!IsEmptyStr(ret->errormsg)) {
690                                         strcat(ret->errormsg, "; ");
691                                 }
692                                 strcat(ret->errormsg, append);
693                         }
694                 }
695                 else {
696                         if (IsEmptyStr(ret->display_recp)) {
697                                 strcpy(append, this_recp);
698                         }
699                         else {
700                                 snprintf(append, sizeof append, ", %s", this_recp);
701                         }
702                         if ( (strlen(ret->display_recp)+strlen(append)) < SIZ) {
703                                 strcat(ret->display_recp, append);
704                         }
705                 }
706         }
707
708         if (aliases != NULL) {          // ok, we're done with the global alias list now
709                 free(aliases);
710         }
711
712         if ( (ret->num_local + ret->num_internet + ret->num_room + ret->num_error) == 0) {
713                 ret->num_error = (-1);
714                 strcpy(ret->errormsg, "No recipients specified.");
715         }
716
717         syslog(LOG_DEBUG, "internet_addressing: validate_recipients() = %d local, %d room, %d SMTP, %d error",
718                 ret->num_local, ret->num_room, ret->num_internet, ret->num_error
719         );
720
721         free(recipients);
722         if (recp_array) {
723                 array_free(recp_array);
724         }
725
726         return(ret);
727 }
728
729
730 // Destructor for recptypes
731 void free_recipients(struct recptypes *valid) {
732
733         if (valid == NULL) {
734                 return;
735         }
736
737         if (valid->recptypes_magic != RECPTYPES_MAGIC) {
738                 syslog(LOG_ERR, "internet_addressing: attempt to call free_recipients() on some other data type!");
739                 abort();
740         }
741
742         if (valid->errormsg != NULL)            free(valid->errormsg);
743         if (valid->recp_local != NULL)          free(valid->recp_local);
744         if (valid->recp_internet != NULL)       free(valid->recp_internet);
745         if (valid->recp_room != NULL)           free(valid->recp_room);
746         if (valid->recp_orgroom != NULL)        free(valid->recp_orgroom);
747         if (valid->display_recp != NULL)        free(valid->display_recp);
748         if (valid->bounce_to != NULL)           free(valid->bounce_to);
749         if (valid->envelope_from != NULL)       free(valid->envelope_from);
750         if (valid->sending_room != NULL)        free(valid->sending_room);
751         free(valid);
752 }
753
754
755 char *qp_encode_email_addrs(char *source) {
756         char *user, *node, *name;
757         const char headerStr[] = "=?UTF-8?Q?";
758         char *Encoded;
759         char *EncodedName;
760         char *nPtr;
761         int need_to_encode = 0;
762         long SourceLen;
763         long EncodedMaxLen;
764         long nColons = 0;
765         long *AddrPtr;
766         long *AddrUtf8;
767         long nAddrPtrMax = 50;
768         long nmax;
769         int InQuotes = 0;
770         int i, n;
771
772         if (source == NULL) return source;
773         if (IsEmptyStr(source)) return source;
774         syslog(LOG_DEBUG, "internet_addressing: qp_encode_email_addrs <%s>", source);
775
776         AddrPtr = malloc (sizeof (long) * nAddrPtrMax);
777         AddrUtf8 = malloc (sizeof (long) * nAddrPtrMax);
778         memset(AddrUtf8, 0, sizeof (long) * nAddrPtrMax);
779         *AddrPtr = 0;
780         i = 0;
781         while (!IsEmptyStr (&source[i])) {
782                 if (nColons >= nAddrPtrMax){
783                         long *ptr;
784
785                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
786                         memcpy (ptr, AddrPtr, sizeof (long) * nAddrPtrMax);
787                         free (AddrPtr), AddrPtr = ptr;
788
789                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
790                         memset(&ptr[nAddrPtrMax], 0, sizeof (long) * nAddrPtrMax);
791
792                         memcpy (ptr, AddrUtf8, sizeof (long) * nAddrPtrMax);
793                         free (AddrUtf8), AddrUtf8 = ptr;
794                         nAddrPtrMax *= 2;                               
795                 }
796                 if (((unsigned char) source[i] < 32) || ((unsigned char) source[i] > 126)) {
797                         need_to_encode = 1;
798                         AddrUtf8[nColons] = 1;
799                 }
800                 if (source[i] == '"') {
801                         InQuotes = !InQuotes;
802                 }
803                 if (!InQuotes && source[i] == ',') {
804                         AddrPtr[nColons] = i;
805                         nColons++;
806                 }
807                 i++;
808         }
809         if (need_to_encode == 0) {
810                 free(AddrPtr);
811                 free(AddrUtf8);
812                 return source;
813         }
814
815         SourceLen = i;
816         EncodedMaxLen = nColons * (sizeof(headerStr) + 3) + SourceLen * 3;
817         Encoded = (char*) malloc (EncodedMaxLen);
818
819         for (i = 0; i < nColons; i++) {
820                 source[AddrPtr[i]++] = '\0';
821         }
822         // TODO: if libidn, this might get larger
823         user = malloc(SourceLen + 1);
824         node = malloc(SourceLen + 1);
825         name = malloc(SourceLen + 1);
826
827         nPtr = Encoded;
828         *nPtr = '\0';
829         for (i = 0; i < nColons && nPtr != NULL; i++) {
830                 nmax = EncodedMaxLen - (nPtr - Encoded);
831                 if (AddrUtf8[i]) {
832                         process_rfc822_addr(&source[AddrPtr[i]], user, node, name);
833                         // TODO: libIDN here !
834                         if (IsEmptyStr(name)) {
835                                 n = snprintf(nPtr, nmax, (i==0)?"%s@%s" : ",%s@%s", user, node);
836                         }
837                         else {
838                                 EncodedName = rfc2047encode(name, strlen(name));                        
839                                 n = snprintf(nPtr, nmax, (i==0)?"%s <%s@%s>" : ",%s <%s@%s>", EncodedName, user, node);
840                                 free(EncodedName);
841                         }
842                 }
843                 else { 
844                         n = snprintf(nPtr, nmax, (i==0)?"%s" : ",%s", &source[AddrPtr[i]]);
845                 }
846                 if (n > 0 )
847                         nPtr += n;
848                 else { 
849                         char *ptr, *nnPtr;
850                         ptr = (char*) malloc(EncodedMaxLen * 2);
851                         memcpy(ptr, Encoded, EncodedMaxLen);
852                         nnPtr = ptr + (nPtr - Encoded), nPtr = nnPtr;
853                         free(Encoded), Encoded = ptr;
854                         EncodedMaxLen *= 2;
855                         i--; // do it once more with properly lengthened buffer
856                 }
857         }
858         for (i = 0; i < nColons; i++)
859                 source[--AddrPtr[i]] = ',';
860
861         free(user);
862         free(node);
863         free(name);
864         free(AddrUtf8);
865         free(AddrPtr);
866         return Encoded;
867 }
868
869
870 // Unfold a multi-line field into a single line, removing multi-whitespaces
871 void unfold_rfc822_field(char **field, char **FieldEnd) 
872 {
873         int quote = 0;
874         char *pField = *field;
875         char *sField;
876         char *pFieldEnd = *FieldEnd;
877
878         while (isspace(*pField))
879                 pField++;
880         // remove leading/trailing whitespace
881         ;
882
883         while (isspace(*pFieldEnd))
884                 pFieldEnd --;
885
886         *FieldEnd = pFieldEnd;
887         // convert non-space whitespace to spaces, and remove double blanks
888         for (sField = *field = pField; 
889              sField < pFieldEnd; 
890              pField++, sField++)
891         {
892                 if ((*sField=='\r') || (*sField=='\n'))
893                 {
894                         int offset = 1;
895                         while ( ( (*(sField + offset) == '\r') || (*(sField + offset) == '\n' )) && (sField + offset < pFieldEnd) ) {
896                                 offset ++;
897                         }
898                         sField += offset;
899                         *pField = *sField;
900                 }
901                 else {
902                         if (*sField=='\"') quote = 1 - quote;
903                         if (!quote) {
904                                 if (isspace(*sField)) {
905                                         *pField = ' ';
906                                         pField++;
907                                         sField++;
908                                         
909                                         while ((sField < pFieldEnd) && 
910                                                isspace(*sField))
911                                                 sField++;
912                                         *pField = *sField;
913                                 }
914                                 else *pField = *sField;
915                         }
916                         else *pField = *sField;
917                 }
918         }
919         *pField = '\0';
920         *FieldEnd = pField - 1;
921 }
922
923
924 // Split an RFC822-style address into userid, host, and full name
925 //
926 // Note: This still handles obsolete address syntaxes such as user%node@node and ...node!user
927 //       We should probably remove that.
928 void process_rfc822_addr(const char *rfc822, char *user, char *node, char *name) {
929         int a;
930
931         strcpy(user, "");
932         strcpy(node, CtdlGetConfigStr("c_fqdn"));
933         strcpy(name, "");
934
935         if (rfc822 == NULL) return;
936
937         // extract full name - first, it's From minus <userid>
938         strcpy(name, rfc822);
939         stripout(name, '<', '>');
940
941         // strip anything to the left of a bang
942         while ((!IsEmptyStr(name)) && (haschar(name, '!') > 0))
943                 strcpy(name, &name[1]);
944
945         // and anything to the right of a @ or %
946         for (a = 0; name[a] != '\0'; ++a) {
947                 if (name[a] == '@') {
948                         name[a] = 0;
949                         break;
950                 }
951                 if (name[a] == '%') {
952                         name[a] = 0;
953                         break;
954                 }
955         }
956
957         // but if there are parentheses, that changes the rules...
958         if ((haschar(rfc822, '(') == 1) && (haschar(rfc822, ')') == 1)) {
959                 strcpy(name, rfc822);
960                 stripallbut(name, '(', ')');
961         }
962
963         // but if there are a set of quotes, that supersedes everything
964         if (haschar(rfc822, 34) == 2) {
965                 strcpy(name, rfc822);
966                 while ((!IsEmptyStr(name)) && (name[0] != 34)) {
967                         strcpy(&name[0], &name[1]);
968                 }
969                 strcpy(&name[0], &name[1]);
970                 for (a = 0; name[a] != '\0'; ++a)
971                         if (name[a] == 34) {
972                                 name[a] = 0;
973                                 break;
974                         }
975         }
976         // extract user id
977         strcpy(user, rfc822);
978
979         // first get rid of anything in parens
980         stripout(user, '(', ')');
981
982         // if there's a set of angle brackets, strip it down to that
983         if ((haschar(user, '<') == 1) && (haschar(user, '>') == 1)) {
984                 stripallbut(user, '<', '>');
985         }
986
987         // strip anything to the left of a bang
988         while ((!IsEmptyStr(user)) && (haschar(user, '!') > 0))
989                 strcpy(user, &user[1]);
990
991         // and anything to the right of a @ or %
992         for (a = 0; user[a] != '\0'; ++a) {
993                 if (user[a] == '@') {
994                         user[a] = 0;
995                         break;
996                 }
997                 if (user[a] == '%') {
998                         user[a] = 0;
999                         break;
1000                 }
1001         }
1002
1003
1004         // extract node name
1005         strcpy(node, rfc822);
1006
1007         // first get rid of anything in parens
1008         stripout(node, '(', ')');
1009
1010         // if there's a set of angle brackets, strip it down to that
1011         if ((haschar(node, '<') == 1) && (haschar(node, '>') == 1)) {
1012                 stripallbut(node, '<', '>');
1013         }
1014
1015         // If no node specified, tack ours on instead
1016         if (
1017                 (haschar(node, '@')==0)
1018                 && (haschar(node, '%')==0)
1019                 && (haschar(node, '!')==0)
1020         ) {
1021                 strcpy(node, CtdlGetConfigStr("c_nodename"));
1022         }
1023         else {
1024
1025                 // strip anything to the left of a @
1026                 while ((!IsEmptyStr(node)) && (haschar(node, '@') > 0))
1027                         strcpy(node, &node[1]);
1028         
1029                 // strip anything to the left of a %
1030                 while ((!IsEmptyStr(node)) && (haschar(node, '%') > 0))
1031                         strcpy(node, &node[1]);
1032         
1033                 // reduce multiple system bang paths to node!user
1034                 while ((!IsEmptyStr(node)) && (haschar(node, '!') > 1))
1035                         strcpy(node, &node[1]);
1036         
1037                 // now get rid of the user portion of a node!user string
1038                 for (a = 0; node[a] != '\0'; ++a)
1039                         if (node[a] == '!') {
1040                                 node[a] = 0;
1041                                 break;
1042                         }
1043         }
1044
1045         // strip leading and trailing spaces in all strings
1046         striplt(user);
1047         striplt(node);
1048         striplt(name);
1049
1050         // If we processed a string that had the address in angle brackets
1051         // but no name outside the brackets, we now have an empty name.  In
1052         // this case, use the user portion of the address as the name.
1053         if ((IsEmptyStr(name)) && (!IsEmptyStr(user))) {
1054                 strcpy(name, user);
1055         }
1056 }
1057
1058
1059 // convert_field() is a helper function for convert_internet_message().
1060 // Given start/end positions for an rfc822 field, it converts it to a Citadel
1061 // field if it wants to, and unfolds it if necessary.
1062 //
1063 // Returns 1 if the field was converted and inserted into the Citadel message
1064 // structure, implying that the source field should be removed from the
1065 // message text.
1066 int convert_field(struct CtdlMessage *msg, const char *beg, const char *end) {
1067         char *key, *value, *valueend;
1068         long len;
1069         const char *pos;
1070         int i;
1071         const char *colonpos = NULL;
1072         int processed = 0;
1073         char user[1024];
1074         char node[1024];
1075         char name[1024];
1076         char addr[1024];
1077         time_t parsed_date;
1078         long valuelen;
1079
1080         for (pos = end; pos >= beg; pos--) {
1081                 if (*pos == ':') colonpos = pos;
1082         }
1083
1084         if (colonpos == NULL) return(0);        /* no colon? not a valid header line */
1085
1086         len = end - beg;
1087         key = malloc(len + 2);
1088         memcpy(key, beg, len + 1);
1089         key[len] = '\0';
1090         valueend = key + len;
1091         * ( key + (colonpos - beg) ) = '\0';
1092         value = &key[(colonpos - beg) + 1];
1093         // printf("Header: [%s]\nValue: [%s]\n", key, value);
1094         unfold_rfc822_field(&value, &valueend);
1095         valuelen = valueend - value + 1;
1096         // printf("UnfoldedValue: [%s]\n", value);
1097
1098         // Here's the big rfc822-to-citadel loop.
1099
1100         // Date/time is converted into a unix timestamp.  If the conversion
1101         // fails, we replace it with the time the message arrived locally.
1102         if (!strcasecmp(key, "Date")) {
1103                 parsed_date = parsedate(value);
1104                 if (parsed_date < 0L) parsed_date = time(NULL);
1105
1106                 if (CM_IsEmpty(msg, eTimestamp))
1107                         CM_SetFieldLONG(msg, eTimestamp, parsed_date);
1108                 processed = 1;
1109         }
1110
1111         else if (!strcasecmp(key, "From")) {
1112                 process_rfc822_addr(value, user, node, name);
1113                 syslog(LOG_DEBUG, "internet_addressing: converted to <%s@%s> (%s)", user, node, name);
1114                 snprintf(addr, sizeof(addr), "%s@%s", user, node);
1115                 if (CM_IsEmpty(msg, eAuthor) && !IsEmptyStr(name)) {
1116                         CM_SetField(msg, eAuthor, name, -1);
1117                 }
1118                 if (CM_IsEmpty(msg, erFc822Addr) && !IsEmptyStr(addr)) {
1119                         CM_SetField(msg, erFc822Addr, addr, -1);
1120                 }
1121                 processed = 1;
1122         }
1123
1124         else if (!strcasecmp(key, "Subject")) {
1125                 if (CM_IsEmpty(msg, eMsgSubject))
1126                         CM_SetField(msg, eMsgSubject, value, valuelen);
1127                 processed = 1;
1128         }
1129
1130         else if (!strcasecmp(key, "List-ID")) {
1131                 if (CM_IsEmpty(msg, eListID))
1132                         CM_SetField(msg, eListID, value, valuelen);
1133                 processed = 1;
1134         }
1135
1136         else if (!strcasecmp(key, "To")) {
1137                 if (CM_IsEmpty(msg, eRecipient))
1138                         CM_SetField(msg, eRecipient, value, valuelen);
1139                 processed = 1;
1140         }
1141
1142         else if (!strcasecmp(key, "CC")) {
1143                 if (CM_IsEmpty(msg, eCarbonCopY))
1144                         CM_SetField(msg, eCarbonCopY, value, valuelen);
1145                 processed = 1;
1146         }
1147
1148         else if (!strcasecmp(key, "Message-ID")) {
1149                 if (!CM_IsEmpty(msg, emessageId)) {
1150                         syslog(LOG_WARNING, "internet_addressing: duplicate message id");
1151                 }
1152                 else {
1153                         char *pValue;
1154                         long pValueLen;
1155
1156                         pValue = value;
1157                         pValueLen = valuelen;
1158                         // Strip angle brackets
1159                         while (haschar(pValue, '<') > 0) {
1160                                 pValue ++;
1161                                 pValueLen --;
1162                         }
1163
1164                         for (i = 0; i <= pValueLen; ++i)
1165                                 if (pValue[i] == '>') {
1166                                         pValueLen = i;
1167                                         break;
1168                                 }
1169
1170                         CM_SetField(msg, emessageId, pValue, pValueLen);
1171                 }
1172
1173                 processed = 1;
1174         }
1175
1176         else if (!strcasecmp(key, "Return-Path")) {
1177                 if (CM_IsEmpty(msg, eMessagePath))
1178                         CM_SetField(msg, eMessagePath, value, valuelen);
1179                 processed = 1;
1180         }
1181
1182         else if (!strcasecmp(key, "Envelope-To")) {
1183                 if (CM_IsEmpty(msg, eenVelopeTo))
1184                         CM_SetField(msg, eenVelopeTo, value, valuelen);
1185                 processed = 1;
1186         }
1187
1188         else if (!strcasecmp(key, "References")) {
1189                 CM_SetField(msg, eWeferences, value, valuelen);
1190                 processed = 1;
1191         }
1192
1193         else if (!strcasecmp(key, "Reply-To")) {
1194                 CM_SetField(msg, eReplyTo, value, valuelen);
1195                 processed = 1;
1196         }
1197
1198         else if (!strcasecmp(key, "In-reply-to")) {
1199                 if (CM_IsEmpty(msg, eWeferences)) // References: supersedes In-reply-to:
1200                         CM_SetField(msg, eWeferences, value, valuelen);
1201                 processed = 1;
1202         }
1203
1204
1205
1206         // Clean up and move on.
1207         free(key);      // Don't free 'value', it's actually the same buffer
1208         return processed;
1209 }
1210
1211
1212 // Convert RFC822 references format (References) to Citadel references format (Weferences)
1213 void convert_references_to_wefewences(char *str) {
1214         int bracket_nesting = 0;
1215         char *ptr = str;
1216         char *moveptr = NULL;
1217         char ch;
1218
1219         while(*ptr) {
1220                 ch = *ptr;
1221                 if (ch == '>') {
1222                         --bracket_nesting;
1223                         if (bracket_nesting < 0) bracket_nesting = 0;
1224                 }
1225                 if ((ch == '>') && (bracket_nesting == 0) && (*(ptr+1)) && (ptr>str) ) {
1226                         *ptr = '|';
1227                         ++ptr;
1228                 }
1229                 else if (bracket_nesting > 0) {
1230                         ++ptr;
1231                 }
1232                 else {
1233                         moveptr = ptr;
1234                         while (*moveptr) {
1235                                 *moveptr = *(moveptr+1);
1236                                 ++moveptr;
1237                         }
1238                 }
1239                 if (ch == '<') ++bracket_nesting;
1240         }
1241
1242 }
1243
1244
1245 // Convert an RFC822 message (headers + body) to a CtdlMessage structure.
1246 // NOTE: the supplied buffer becomes part of the CtdlMessage structure, and
1247 // will be deallocated when CM_Free() is called.  Therefore, the
1248 // supplied buffer should be DEREFERENCED.  It should not be freed or used
1249 // again.
1250 struct CtdlMessage *convert_internet_message(char *rfc822) {
1251         StrBuf *RFCBuf = NewStrBufPlain(rfc822, -1);
1252         free (rfc822);
1253         return convert_internet_message_buf(&RFCBuf);
1254 }
1255
1256
1257 struct CtdlMessage *convert_internet_message_buf(StrBuf **rfc822)
1258 {
1259         struct CtdlMessage *msg;
1260         const char *pos, *beg, *end, *totalend;
1261         int done, alldone = 0;
1262         int converted;
1263         StrBuf *OtherHeaders;
1264
1265         msg = malloc(sizeof(struct CtdlMessage));
1266         if (msg == NULL) return msg;
1267
1268         memset(msg, 0, sizeof(struct CtdlMessage));
1269         msg->cm_magic = CTDLMESSAGE_MAGIC;      // self check
1270         msg->cm_anon_type = 0;                  // never anonymous
1271         msg->cm_format_type = FMT_RFC822;       // internet message
1272
1273         pos = ChrPtr(*rfc822);
1274         totalend = pos + StrLength(*rfc822);
1275         done = 0;
1276         OtherHeaders = NewStrBufPlain(NULL, StrLength(*rfc822));
1277
1278         while (!alldone) {
1279
1280                 /* Locate beginning and end of field, keeping in mind that
1281                  * some fields might be multiline
1282                  */
1283                 end = beg = pos;
1284
1285                 while ((end < totalend) && 
1286                        (end == beg) && 
1287                        (done == 0) ) 
1288                 {
1289
1290                         if ( (*pos=='\n') && ((*(pos+1))!=0x20) && ((*(pos+1))!=0x09) )
1291                         {
1292                                 end = pos;
1293                         }
1294
1295                         /* done with headers? */
1296                         if ((*pos=='\n') &&
1297                             ( (*(pos+1)=='\n') ||
1298                               (*(pos+1)=='\r')) ) 
1299                         {
1300                                 alldone = 1;
1301                         }
1302
1303                         if (pos >= (totalend - 1) )
1304                         {
1305                                 end = pos;
1306                                 done = 1;
1307                         }
1308
1309                         ++pos;
1310
1311                 }
1312
1313                 /* At this point we have a field.  Are we interested in it? */
1314                 converted = convert_field(msg, beg, end);
1315
1316                 /* Strip the field out of the RFC822 header if we used it */
1317                 if (!converted) {
1318                         StrBufAppendBufPlain(OtherHeaders, beg, end - beg, 0);
1319                         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1320                 }
1321
1322                 /* If we've hit the end of the message, bail out */
1323                 if (pos >= totalend)
1324                         alldone = 1;
1325         }
1326         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
1327         if (pos < totalend)
1328                 StrBufAppendBufPlain(OtherHeaders, pos, totalend - pos, 0);
1329         FreeStrBuf(rfc822);
1330         CM_SetAsFieldSB(msg, eMesageText, &OtherHeaders);
1331
1332         /* Follow-up sanity checks... */
1333
1334         /* If there's no timestamp on this message, set it to now. */
1335         if (CM_IsEmpty(msg, eTimestamp)) {
1336                 CM_SetFieldLONG(msg, eTimestamp, time(NULL));
1337         }
1338
1339         /* If a W (references, or rather, Wefewences) field is present, we
1340          * have to convert it from RFC822 format to Citadel format.
1341          */
1342         if (!CM_IsEmpty(msg, eWeferences)) {
1343                 /// todo: API!
1344                 convert_references_to_wefewences(msg->cm_fields[eWeferences]);
1345         }
1346
1347         return msg;
1348 }
1349
1350
1351 /*
1352  * Look for a particular header field in an RFC822 message text.  If the
1353  * requested field is found, it is unfolded (if necessary) and returned to
1354  * the caller.  The field name is stripped out, leaving only its contents.
1355  * The caller is responsible for freeing the returned buffer.  If the requested
1356  * field is not present, or anything else goes wrong, it returns NULL.
1357  */
1358 char *rfc822_fetch_field(const char *rfc822, const char *fieldname) {
1359         char *fieldbuf = NULL;
1360         const char *end_of_headers;
1361         const char *field_start;
1362         const char *ptr;
1363         char *cont;
1364         char fieldhdr[SIZ];
1365
1366         /* Should never happen, but sometimes we get stupid */
1367         if (rfc822 == NULL) return(NULL);
1368         if (fieldname == NULL) return(NULL);
1369
1370         snprintf(fieldhdr, sizeof fieldhdr, "%s:", fieldname);
1371
1372         /* Locate the end of the headers, so we don't run past that point */
1373         end_of_headers = cbmstrcasestr(rfc822, "\n\r\n");
1374         if (end_of_headers == NULL) {
1375                 end_of_headers = cbmstrcasestr(rfc822, "\n\n");
1376         }
1377         if (end_of_headers == NULL) return (NULL);
1378
1379         field_start = cbmstrcasestr(rfc822, fieldhdr);
1380         if (field_start == NULL) return(NULL);
1381         if (field_start > end_of_headers) return(NULL);
1382
1383         fieldbuf = malloc(SIZ);
1384         strcpy(fieldbuf, "");
1385
1386         ptr = field_start;
1387         ptr = cmemreadline(ptr, fieldbuf, SIZ-strlen(fieldbuf) );
1388         while ( (isspace(ptr[0])) && (ptr < end_of_headers) ) {
1389                 strcat(fieldbuf, " ");
1390                 cont = &fieldbuf[strlen(fieldbuf)];
1391                 ptr = cmemreadline(ptr, cont, SIZ-strlen(fieldbuf) );
1392                 striplt(cont);
1393         }
1394
1395         strcpy(fieldbuf, &fieldbuf[strlen(fieldhdr)]);
1396         striplt(fieldbuf);
1397
1398         return(fieldbuf);
1399 }
1400
1401
1402 /*****************************************************************************
1403  *                      DIRECTORY MANAGEMENT FUNCTIONS                       *
1404  *****************************************************************************/
1405
1406 /*
1407  * Generate the index key for an Internet e-mail address to be looked up
1408  * in the database.
1409  */
1410 void directory_key(char *key, char *addr) {
1411         int i;
1412         int keylen = 0;
1413
1414         for (i=0; !IsEmptyStr(&addr[i]); ++i) {
1415                 if (!isspace(addr[i])) {
1416                         key[keylen++] = tolower(addr[i]);
1417                 }
1418         }
1419         key[keylen++] = 0;
1420
1421         syslog(LOG_DEBUG, "internet_addressing: directory key is <%s>", key);
1422 }
1423
1424
1425 /*
1426  * Return nonzero if the supplied address is in one of "our" domains
1427  */
1428 int IsDirectory(char *addr, int allow_masq_domains) {
1429         char domain[256];
1430         int h;
1431
1432         extract_token(domain, addr, 1, '@', sizeof domain);
1433         striplt(domain);
1434
1435         h = CtdlHostAlias(domain);
1436
1437         if ( (h == hostalias_masq) && allow_masq_domains)
1438                 return(1);
1439         
1440         if (h == hostalias_localhost) {
1441                 return(1);
1442         }
1443         else {
1444                 return(0);
1445         }
1446 }
1447
1448
1449 /*
1450  * Add an Internet e-mail address to the directory for a user
1451  */
1452 int CtdlDirectoryAddUser(char *internet_addr, char *citadel_addr) {
1453         char key[SIZ];
1454
1455         if (IsDirectory(internet_addr, 0) == 0) {
1456                 return 0;
1457         }
1458         syslog(LOG_DEBUG, "internet_addressing: create directory entry: %s --> %s", internet_addr, citadel_addr);
1459         directory_key(key, internet_addr);
1460         cdb_store(CDB_DIRECTORY, key, strlen(key), citadel_addr, strlen(citadel_addr)+1 );
1461         return 1;
1462 }
1463
1464
1465 /*
1466  * Delete an Internet e-mail address from the directory.
1467  *
1468  * (NOTE: we don't actually use or need the citadel_addr variable; it's merely
1469  * here because the callback API expects to be able to send it.)
1470  */
1471 int CtdlDirectoryDelUser(char *internet_addr, char *citadel_addr) {
1472         char key[SIZ];
1473         
1474         syslog(LOG_DEBUG, "internet_addressing: delete directory entry: %s --> %s", internet_addr, citadel_addr);
1475         directory_key(key, internet_addr);
1476         return cdb_delete(CDB_DIRECTORY, key, strlen(key) ) == 0;
1477 }
1478
1479
1480 /*
1481  * Look up an Internet e-mail address in the directory.
1482  * On success: returns 0, and Citadel address stored in 'target'
1483  * On failure: returns nonzero
1484  */
1485 int CtdlDirectoryLookup(char *target, char *internet_addr, size_t targbuflen) {
1486         struct cdbdata *cdbrec;
1487         char key[SIZ];
1488
1489         /* Dump it in there unchanged, just for kicks */
1490         if (target != NULL) {
1491                 safestrncpy(target, internet_addr, targbuflen);
1492         }
1493
1494         /* Only do lookups for addresses with hostnames in them */
1495         if (num_tokens(internet_addr, '@') != 2) return(-1);
1496
1497         /* Only do lookups for domains in the directory */
1498         if (IsDirectory(internet_addr, 0) == 0) return(-1);
1499
1500         directory_key(key, internet_addr);
1501         cdbrec = cdb_fetch(CDB_DIRECTORY, key, strlen(key) );
1502         if (cdbrec != NULL) {
1503                 if (target != NULL) {
1504                         safestrncpy(target, cdbrec->ptr, targbuflen);
1505                 }
1506                 cdb_free(cdbrec);
1507                 return(0);
1508         }
1509
1510         return(-1);
1511 }
1512
1513
1514 /*
1515  * Harvest any email addresses that someone might want to have in their
1516  * "collected addresses" book.
1517  */
1518 char *harvest_collected_addresses(struct CtdlMessage *msg) {
1519         char *coll = NULL;
1520         char addr[256];
1521         char user[256], node[256], name[256];
1522         int is_harvestable;
1523         int i, j, h;
1524         eMsgField field = 0;
1525
1526         if (msg == NULL) return(NULL);
1527
1528         is_harvestable = 1;
1529         strcpy(addr, "");       
1530         if (!CM_IsEmpty(msg, eAuthor)) {
1531                 strcat(addr, msg->cm_fields[eAuthor]);
1532         }
1533         if (!CM_IsEmpty(msg, erFc822Addr)) {
1534                 strcat(addr, " <");
1535                 strcat(addr, msg->cm_fields[erFc822Addr]);
1536                 strcat(addr, ">");
1537                 if (IsDirectory(msg->cm_fields[erFc822Addr], 0)) {
1538                         is_harvestable = 0;
1539                 }
1540         }
1541
1542         if (is_harvestable) {
1543                 coll = strdup(addr);
1544         }
1545         else {
1546                 coll = strdup("");
1547         }
1548
1549         if (coll == NULL) return(NULL);
1550
1551         /* Scan both the R (To) and Y (CC) fields */
1552         for (i = 0; i < 2; ++i) {
1553                 if (i == 0) field = eRecipient;
1554                 if (i == 1) field = eCarbonCopY;
1555
1556                 if (!CM_IsEmpty(msg, field)) {
1557                         for (j=0; j<num_tokens(msg->cm_fields[field], ','); ++j) {
1558                                 extract_token(addr, msg->cm_fields[field], j, ',', sizeof addr);
1559                                 if (strstr(addr, "=?") != NULL)
1560                                         utf8ify_rfc822_string(addr);
1561                                 process_rfc822_addr(addr, user, node, name);
1562                                 h = CtdlHostAlias(node);
1563                                 if (h != hostalias_localhost) {
1564                                         coll = realloc(coll, strlen(coll) + strlen(addr) + 4);
1565                                         if (coll == NULL) return(NULL);
1566                                         if (!IsEmptyStr(coll)) {
1567                                                 strcat(coll, ",");
1568                                         }
1569                                         striplt(addr);
1570                                         strcat(coll, addr);
1571                                 }
1572                         }
1573                 }
1574         }
1575
1576         if (IsEmptyStr(coll)) {
1577                 free(coll);
1578                 return(NULL);
1579         }
1580         return(coll);
1581 }
1582
1583
1584 /*
1585  * Helper function for CtdlRebuildDirectoryIndex()
1586  */
1587 void CtdlRebuildDirectoryIndex_backend(char *username, void *data) {
1588
1589         int j = 0;
1590         struct ctdluser usbuf;
1591
1592         if (CtdlGetUser(&usbuf, username) != 0) {
1593                 return;
1594         }
1595
1596         if ( (!IsEmptyStr(usbuf.fullname)) && (!IsEmptyStr(usbuf.emailaddrs)) ) {
1597                 for (j=0; j<num_tokens(usbuf.emailaddrs, '|'); ++j) {
1598                         char one_email[512];
1599                         extract_token(one_email, usbuf.emailaddrs, j, '|', sizeof one_email);
1600                         CtdlDirectoryAddUser(one_email, usbuf.fullname);
1601                 }
1602         }
1603 }
1604
1605
1606 /*
1607  * Initialize the directory database (erasing anything already there)
1608  */
1609 void CtdlRebuildDirectoryIndex(void) {
1610         syslog(LOG_INFO, "internet_addressing: rebuilding email address directory index");
1611         cdb_trunc(CDB_DIRECTORY);
1612         ForEachUser(CtdlRebuildDirectoryIndex_backend, NULL);
1613 }
1614
1615
1616 /*
1617  * Configure Internet email addresses for a user account, updating the Directory Index in the process
1618  */
1619 void CtdlSetEmailAddressesForUser(char *requested_user, char *new_emailaddrs)
1620 {
1621         struct ctdluser usbuf;
1622         int i;
1623         char buf[SIZ];
1624
1625         if (CtdlGetUserLock(&usbuf, requested_user) != 0) {     // We are relying on the fact that the DirectoryIndex functions don't lock.
1626                 return;                                         // Silently fail here if we can't acquire a lock on the user record.
1627         }
1628
1629         syslog(LOG_DEBUG, "internet_addressing: setting email addresses for <%s> to <%s>", usbuf.fullname, new_emailaddrs);
1630
1631         /* Delete all of the existing directory index records for the user (easier this way) */
1632         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1633                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1634                 CtdlDirectoryDelUser(buf, requested_user);
1635         }
1636
1637         strcpy(usbuf.emailaddrs, new_emailaddrs);               // make it official.
1638
1639         /* Index all of the new email addresses (they've already been sanitized) */
1640         for (i=0; i<num_tokens(usbuf.emailaddrs, '|'); ++i) {
1641                 extract_token(buf, usbuf.emailaddrs, i, '|', sizeof buf);
1642                 CtdlDirectoryAddUser(buf, requested_user);
1643         }
1644
1645         CtdlPutUserLock(&usbuf);
1646 }
1647
1648
1649 /*
1650  * Auto-generate an Internet email address for a user account
1651  */
1652 void AutoGenerateEmailAddressForUser(struct ctdluser *user)
1653 {
1654         char synthetic_email_addr[1024];
1655         int i, j;
1656         int u = 0;
1657
1658         for (i=0; u==0; ++i) {
1659                 if (i == 0) {
1660                         // first try just converting the user name to lowercase and replacing spaces with underscores
1661                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "%s@%s", user->fullname, CtdlGetConfigStr("c_fqdn"));
1662                         for (j=0; ((synthetic_email_addr[j] != '\0')&&(synthetic_email_addr[j] != '@')); j++) {
1663                                 synthetic_email_addr[j] = tolower(synthetic_email_addr[j]);
1664                                 if (!isalnum(synthetic_email_addr[j])) {
1665                                         synthetic_email_addr[j] = '_';
1666                                 }
1667                         }
1668                 }
1669                 else if (i == 1) {
1670                         // then try 'ctdl' followed by the user number
1671                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08lx@%s", user->usernum, CtdlGetConfigStr("c_fqdn"));
1672                 }
1673                 else if (i > 1) {
1674                         // oof.  just keep trying other numbers until we find one
1675                         snprintf(synthetic_email_addr, sizeof synthetic_email_addr, "ctdl%08x@%s", i, CtdlGetConfigStr("c_fqdn"));
1676                 }
1677                 u = CtdlDirectoryLookup(NULL, synthetic_email_addr, 0);
1678                 syslog(LOG_DEBUG, "user_ops: address <%s> lookup returned <%d>", synthetic_email_addr, u);
1679         }
1680
1681         CtdlSetEmailAddressesForUser(user->fullname, synthetic_email_addr);
1682         strncpy(CC->user.emailaddrs, synthetic_email_addr, sizeof(user->emailaddrs));
1683         syslog(LOG_DEBUG, "user_ops: auto-generated email address <%s> for <%s>", synthetic_email_addr, user->fullname);
1684 }